Анализ линейных дифференциальных операторов с частными производными. Том 3. Псевдодифференциальные операторы - Хермандер Л.

Автор: Хермандер Л.
Теги: дифференциальные, интегральные и другие функциональные уравнения конечные разности вариационное исчисление функциональный анализ математический анализ математика
Год: 1987
Похожие
Анализ линейных дифференциальных операторов с частными производными. Том 2. Дифференциальные операторы с постоянными коэффициентами
Анализ линейных дифференциальных операторов с частными производными. Том 4. Интегральные операторы Фурье
Анализ линейных дифференциальных операторов с частными производными. Том 1. Теория распределений и анализ Фурье
Дифференциальные уравнения в частных производных.
Текст
                    Grundlehren der mathematischen Wissenschaften 274
Lars Hormander
The Analysis of Linear Partial
Differential Operators III
Pseudo-Differential Operators
Springer-Verlag
Berlin Heidelberg New York Tokyo 1985

Л.Хёрмандер
Анализ линейных
дифференциальных
операторов
с частными
производными
В четырех томах
Том 3
Псевдодкфференциальные
операторы
Перевод с английского под редакцией
М. А. Шубина
Москва «Мир» 1987

ББК 22.162
Х39
УДК 517.9
Хёрмандер Л.
Х39 Анализ линейных дифференциальных операторов с
частными производными: В 4-х т. Т. 3. Псевдодифферен-
Псевдодифференциальные операторы. Пер. с англ. —М.: Мир, 1987.— 696 с,
ил.
Третий том фундаментальной монографии крупного шведского математика,
знакомого советским читателям по переводам его книг а статей, посвящен теории
псевдодифференцнальных операторов в отражает современное состояние иссле-
исследований в данной области. Первые два тома в русском переводе еышлв в 1986 г,
Том 4 планируется к выпуску в 1988 г.
Для математиков разных специальностей, аспирантов в студентов униаерснте-
тов.
1702050000—435
041@1)—87
Редакция литературы по математическим наукам
ft В 1 2 1 5
© Springer-Verlag Berlin Heidelberg 1985
All rights reserved. Authorized trans-
translation from English language edition
published by Springer- Verlag Berlin
Heidelberg New York
© перевод на русский язык, «Мир», 1987

Предисловие редактора перевода
к томам 3 и 4
Завершающие два тома фундаментальной монографии Хёрман-
дера') содержат изложение той части теории линейных диф-
дифференциальных уравнений с частными производными, которая
была создана и бурно развивалась в последние два десятиле-
десятилетия и называется микролокальным анализом, хотя автор не пре-
пренебрегает и параллельным изложением классических вопросов.
В этих томах нашли достаточно полное отражение наиболее су-
существенные приложения микролокального анализа во всех раз-
разделах теории уравнений с частными производными, в том числе
в теории краевых задач и в спектральной теории.
Подзаголовки томов 3 и 4 «Псевдодифференциальные опе-
операторы» и «Интегральные операторы Фурье» отражают не
столько основное содержание томов, сколько отношение автора
к роли объектов, указанных в этих подзаголовках (непосред-
(непосредственно этим объектам посвящено лишь по одной главе в ка-
каждом томе). Современная теория уравнений с частными произ-
производными немыслима без псевдодифференцйальных операторов и
интегральных операторов Фурье, эффективно заменивших и
многократно усиливших аппарат функций Грина, а также дав-
давших возможность геометризовать и глобализовать коротковол-
коротковолновые асимптотики содержательными и в то же время изящ-
изящными идеями симплектической геометрии.
Эффективность развитого аппарата микролокального анали-
анализа автор демонстрирует огромным количеством приложений к
задачам, формулируемым на абсолютно классическом языке и
в то же время неприступным при их- изучении классическими
средствами. Таковы, например, изложенные в книге результаты
о субэллиптических операторах, о единственности решения за-
задачи Коши, о спектральных асимптотиках. Однако и ряд клас-
классических сюжетов с помощью этого аппарата удается изложить
') Перевод на русский язык первых двух томов опубликован издатель-
издательством «Мир> в 1986 г.

в Предисловие редактора перевода к томам 3 и 4
намного проще и более законченно. Это продемонстрировано
в книге, в частности, на примерах теории эллиптических крае-
краевых задач и теории рассеяния.
В последнее время появилось несколько книг по микроло-
микролокальному анализу1). Однако книга Хёрмандера с ними удиви-
удивительным образом почти не пересекается. Это связано прежде
всего с тем, что Хёрмандер выбирает свои пути изложения
почти всех вопросов и, даже следуя каким-то образцам, вносит
существенные усовершенствования, ведущие, как правило, к
прояснению и максимально возможной содержательности.
Нет сомнений, что долго ожидавшаяся специалистами мо-
монография Хёрмандера будет служить настольной книгой для
специалистов по уравнениям с частными производными, а так-
также учебником повышенного типа для всех, кто собирается
серьезно изучить этот предмет, занимающий одно из централь-
центральных мест в современной математике.
Перевод тома 3 осуществлен В. И. Авербухом (предисловие,
введение, главы 17—21 и добавления) и П. Е. Берхиным (гла-
(главы 22-24).
6 декабря 1986 г.
М. А. Шубин
') Например, Трев Ф. Введение в теорию псевдодяфференциальных опе-
операторов и интегральных операторов Фурье. Пер. с аигл. Т. 1, 2. — М/. Мир,
1984; Тейлор М. Псевдоднфференциальиые операторы. Пер. с англ.—М.:
Мир, 1985; Егоров Ю. В. Линейные дифференциальные уравнения главного
типа.—М.: Наука, 1984.

Предисловие
к томам 3 и 4
Первые два тома этой монографии можно рассматривать как
расширенный и модернизированный вариант моей книги «Ли-
«Линейные дифференциальные операторы с частными производные
ми», вышедшей в серии Grundlehren der mathematischen Wissen-
schaften в 1963 г.1). Тома же 3 и 4 — почти совершенно новые.
Они посвящены в основном тем разделам теории линейных диф-
дифференциальных операторов, которые сложились после 1963 г.
Главные темы здесь — псевдодифференциальные операторы и ин-
интегральные операторы Фурье и необходимая для их понимания
симплектическая геометрия. Содержание томов будет подробнее
обсуждено во введении.
Я хочу выразить здесь свою признательность многим друзьям
и коллегам, различными способами внесшим свой вклад в эту
книгу. Прежде всего я хотел бы назвать Ричарда Мелроуза.
Одно время мы планировали написать эти тома совместно и
в декабре 1980 г. в течение недели обсуждали, что должно
было бы в них войти. Хотя от идеи совместного написания мы
потом отказались и содержание этих томов несколько видоиз-
видоизменилось и сократилось по сравнению с задуманным тогда,
многое от тех наших обсуждений осталось. С. Агмон во время
своего пребывания в Лунде (осенний семестр 1981 г.) не по-
пожалел времени и объяснил мне во всех подробностях свои ре-
результаты по дальнодействующему рассеянию, изложенные в об-
общих чертах в трудах семинара Гулауика — Шварца за
1978/79 гг. Его идеи играют решающую роль в гл. 30. Когда
объем работы, необходимой для завершения книги, начал ка«
заться мне непосильным, мой упавший дух поддержал Ан-
дере Мелин, предложив прочитать всю рукопись. Его конкрет»
ная и конструктивная критика была неоценимой; я и читатели
') Русский перевод опубликован издательством сМир> в 1965 г. — Прим.
ред.

8 Предисловие к томам 3 и 4
этой книги очень многим ему обязаны. Богдан Земян тщательно
прочитал все корректуры и выловил большое число опечаток.
Помогали мне в работе и многие другие, я благодарен им всем.
Часть материала, который должен был войти в эти тома,
уже публиковалась ранее в различных моих статьях. Обычно
все приходилось заново переписывать, но некоторые куски ста-
статей я включил в книгу в неизменном виде. Мне хочется побла-
поблагодарить следующие издательства, любезно разрешившие это
сделать:
Marcel Dekker, Inc. (куски из статьи [41], включенные в
§ 17.2);
Princeton University Press (куски из статьи [38], включен-
включенные в гл. 27);
D. Reidel Publishing Company (куски из статьи [40], вклю-
включенные в § 26.4);
John Wiley & Sons Inc. (куски из статьи [39], включенные
в гл. 18).
(Здесь [п] отсылает к работе Hormander [n] из помещен-
помещенного в конце тома списка литературы.)
Наконец, хочу поблагодарить издательство «Шпрингер» за
всю ту поддержку, которую оно оказывало мне во время ра-
работы над монографией.
Юрсхольм, ноябрь 1984 г. Ларе Хёрмандер

Введение
к томам 3 и 4
За долгую историю теории линейных дифференциальных урав-
уравнений с переменными коэффициентами в ней было развито
большое количество различных методов. В этой книге мы со-
сосредоточим внимание на тех из них, которые играли главен-
главенствующую роль на позднейшей фазе развития теории. Однако
и другие, более ранние методы бывают иногда применимы, а
порой оказываются и более предпочтительными; поэтому мы по-
посвятили вводную главу 17 описанию таких методов для случая
дифференциальных уравнений второго порядка. За исключением
этой главы, тома 3 и 4 посвящены систематическому изложению
трех основных средств, используемых в современной теории, с
указанием типичных приложений. Это псевдодифференциальные
операторы (гл. 18), интегральные операторы Фурье и лагранже-
вы распределения (гл. 25) и, наконец, лежащая в основе анали-
аналитических рассмотрений симплектическая геометрия (гл. 21). При
выборе приложений мы руководствовались главным образом со-
соображениями исторического плана. Кроме того, много места и
внимания уделено вопросам, в которых эти средства в полной
мере продемонстрировали свою мощь, поскольку с их помощью
удалось получить достаточно полные ответы.
Теория псевдодиффереициальных операторов развилась из
теории сингулярных интегральных операторов. Последние, не-
несмотря на свою давнюю традицию, играли весьма скромную
роль в теории дифференциальных уравнений, до тех пор пока
не появились теорема Кальдерона о единственности (в конце
50-х годов) и теоремы Атьи — Зингера — Ботта об индексе
(в начале 60-х). Соответственно мы посвящаем этим темам гл. 28
и 19—20. Предвестником теории псевдодифференциальных опе-
операторов можно считать ранние результаты И. Г. Петровского
по гиперболическим операторам. В гл. 23 мы рассматриваем
задачу Коши, используя усовершенствованный вариант даже

10 Введение к томам 3 и 4
еще более старого метода интеграла энергии, доставляемый ио
числением псевдодифференциальных операторов.
Использование связей между геометрической и волновой
оптикой, классической и квантовой механикой, иногда в виде
различных эвристических соображений, — давняя традиция.
В 60-х и начале 70-х годов эти идеи более систематически были
развиты рядом авторов. Родившейся из этих исследований тео-
теории интегральных операторов Фурье посвящена гл. 25. Одним
из ее первых приложений было изучение асимптотических
свойств собственных значений (и собственных функций) эллип-
эллиптических операторов высших порядков. Соответственно мы об-
обсуждаем этот вопрос в гл. 29 вместе с рядом более поздних
результатов, ярко демонстрирующих мощь теории. Одним из ее
предшественников было проведенное Лаксом исследование рас-
распространения особенностей решений задачи Коши. В гл. 23 мы
доказываем такого рода результаты, используя лишь псевдо-
псевдодифференциальные операторы. В гл. 26 весьма обстоятельно
обсуждается задача о распространении особенностей для опера-
операторов главного типа. Для таких операторов подход с привлече-
привлечением интегральных операторов Фурье — это единственный из-
известный подход, позволяющий устанавливать общие теоремы
существования. Одной из причин для включения в книгу этой
главы, а также следующей главы о субэллиптических операто-
операторах послужила полнота полученных здесь результатов. Помимо
теории интегральных операторов Фурье тут требуется еще до-
довольно много симплектической геометрии. Этот предмет, обсу*
ждаемый в гл. 21, имеет глубокие корни в классической меха-
механике, но теперь он в равной мере необходим и в теории линей-
линейных дифференциальных операторов. Дополнительные сведения
из симплектической геометрии сообщаются и используются при
обсуждении смешанной задачи в гл. 24, которое в остальном
основано лишь на теории псевдодифференциальных операторов.
То же верно и в отношении гл. 30, посвященной дальнодей-
ствующей теории рассеяния. И здесь геометрия оказывается
превосходным советчиком при выборе аналитических кон-
конструкций.
Что касается материала, не вошедшего в эти тома, то, пожа-
пожалуй, больше всего бросается в глаза отсутствие теории аналити-
аналитических особенностей и теории существования решений-гипер-
решений-гиперфункций. Заполнение этого пробела потребовало бы еще одного
тома — и другого автора. Если не считать обсуждения свойства
гипоэллиптичности, проведенного в гл. 22, мало сказано об опе-
операторах с двойными характеристиками. Причина — отчасти
нехватка места, отчасти то обстоятельство, что на некото-
некоторые вопросы, касающиеся таких операторов, до сих пор не
получено окончательных ответов, хотя суммарный объем ре-

Введение к томам 3 и 4 It
зультатов в этой области весьма велик. Наконец, мы рассмат-
рассматривали в основном скалярные операторы, действующие на ска-
скалярные функции, и лишь иногда определенные системы опера-
операторов. Обширные результаты, полученные, например, для си-
систем векторных полей первого порядка, не отражены здесь со-
совсем ').
') По этому поводу см., например, Treves [9], т, 2. — Прим. ред.

17
Эллиптические операторы
второго порядка
Краткое содержание главы
Изучение дифференциальных операторов с переменными коэф-
коэффициентами привело к разработке весьма сложных методов,
которые будут изложены в последующих главах. Однако в слу-
случае операторов второго порядка эффективными часто оказы-
оказываются и намного более простые классические методы, а неко-
некоторые результаты только для этого случая и справедливы.
К тому же операторы второго порядка (или, точнее, связанные
с ними системы первого порядка) играют важную роль во мно-
многих геометричетких вопросах, поэтому вполне естественно вос-
воспользоваться той возможностью упрощений, которую предостав-
предоставляет их рассмотрение. Однако не нуждающийся в дополнитель-
дополнительных мотивировках читатель, нацеленный на скорейшее освое-
освоение самого мощного аппарата, спокойно может пропустить эту
главу.
Эллиптические операторы являются операторами постоянной
силы, поэтому к ним применимы результаты гл. 13. Использо-
Использованные в указанной главе методы теории возмущений напоми-
напоминаются в § 17.1 для случая эллиптических операторов со сла-
слабыми условиями регулярности, налагаемыми на коэффициенты,
и с условием ^-интегрируемости или гёльдеровости, налагав*
мым на решения. Правда, в дальнейшем мы не будем стре-
стремиться к таким тонким результатам, поскольку они представ-
представляют интерес в основном для теории нелинейных дифферен-
дифференциальных уравнений, а она выходит за рамки этой книги.
Параграф 17.2 посвящен в основном теореме Ароншайна —
Кордеса о единственности, утверждающей, в частности, что у
эллиптического уравнения
? aa(x)lfu = 0
|а|<2
с вещественнозначными коэффициентами аа (липшицевыми при
|а| = 2 и ограниченными при |а|<2) решение и тождественно
равно нулю, если оно имеет нуль бесконечного порядка в не-

I7.I. Регулярность внутри области 13
которой точке. Для операторов более чем второго порядка ни-
никакой такой результат не верен, хотя для них и есть более
слабые теоремы единственности, в которых речь идет о реше-
решениях, обращающихся в нуль на некотором открытом множестве
(см. также гл. 28). Кроме того, в § 17.2 мы возвращаемся к
теоремам единственности § 14.7, допуская теперь возмущения
первого порядка.
В § 17.3 изучается простейшая классическая краевая за-
задача— задача Дирихле, состоящая в нахождении решения
уравнения Аи = f с заданными граничными значениями. В слу-
случае когда коэффициенты постоянные, а граница плоская, про-
простые рассуждения с применением отражений сводят дело к ре-
результатам § 17.1. Как и там, используя затем методы теории
возмущений, мы можем рассмотреть случай переменных коэф-
коэффициентов и искривленной границы. А именно, в каждой фик-
фиксированной граничной точке мы «распрямляем» границу и «за-
«замораживаем» коэффициенты, потом оцениваем норму привноси-
привносимой тем самым ошибки и применяем ряд Неймана. Очевидно,
что никакой нетривиальной информации об особенностях реше-
решений на таком пути получить нельзя. Поэтому в § 17.4 мы из-
излагаем метод параметрикса Адамара, с помощью которого,
используя простой вид оператора второго порядка в геодезиче-
геодезических координатах, удается описать особенности фундаменталь-
фундаментального решения со сколь угодно высокой точностью. В действи-
действительности этот метод применим ко всем операторам второго
порядка с невырожденным главным символом. Его можно при-
применить и к задаче Дирихле, хотя здесь возникают существенные
ограничения, связанные с возможным появлением касающихся
границы или многократно отраженных от границы геодезиче-
геодезических.
В § 17.5, комбинируя результаты § 17.3 и 17.4, мы исследуем
асимптотические свойства собственных функций и собственных
значений задачи Дирихле. Прежде всего мы выводим принад-
принадлежащую Авакумовичу точную оценку ошибки вдали от гра-
границы. Затем дается точный аналог этой оценки на границе, но
один шаг доказательства мы сможем выполнить лишь в гл. 24.
Дальнейшие уточнения этих результатов будут даны в гл. 29.
17.1. Регулярность внутри области
и локальные теоремы существования
В отступление от названия главы мы рассмотрим здесь диф-
дифференциальный оператор
aa{x)Da

14 17. Эллиптические операторы второго порядка
произвольного порядка т на открытом множестве XczRa.
Предположим, что для некоторого реA,оо) выполнены
условия:
(i) функции аа с \а\ = т непрерывны;
(И) оператор Pm(Q, D)= ? aa@)Da эллиптичен;
|o|=m
(Hi) aa принадлежит классу
при т — \а\<п/р,
??осЕ для некоторого е>0 при т — \а\ = п/р,
Lfoc при m — | а | > п/р.
Тогда теорему 13.2.1 можно дополнить следующим образом:
Теорема 17.1.1. Если выполнены условия (i) — (Hi) и X — доста-
достаточно малая окрестность нуля, то существует линейный опера-
оператор Е в LP{X), такой что
A7.1.1) отображение Vs' (X) =э f i-э- D"'Ef s L9' (X) непрерывно
при p^q ^ oo и l/q^l/p — (m — |a|)/n, причем
в случае q = oo последнее неравенство должно
быть строгим,
A7.1.2) P{x,D)Ef^f, f^Lp{X),
A7.1.3) ЕР(х, D)u = u, u<=C?(X).
Доказательство. Положим p(D)— Pm@, D) и выберем Fu^.9"'
в соответствии с теоремой 7.1.22, так что Ро(\)= 1/р(|) при
| ? | ^ 1 и Ро е С°°, Из теорем 7.9.5 и 4.5.9 следует, что
A7.1.4) lDaF0*glL9<C\\g\\LP
при ?eLpf}?", l/q=l/p-(m-\a\yn, q<oo.
Кроме того, D^o е Lioc при т — | а | > п{\ — 1/г), поскольку DaF0
в существенном однородно степени т —\а\— п> —п/г.
Пусть Ео — фундаментальное решение для p{D). Тогда
Fq — Е0^С°°. Для всякой функции gGL"(X) определим функ-
функцию go равенствами go=g на X, go = O на СХ и положим
Eog = E0*go\x. Из A7.1.4) и последующих наблюдений выте-
вытекает, что если X содержится в единичном шаре, то
A7.1.5) l
Здесь q выбирается так: \/q = l/p — (т—|о|)/п при т — |а|
<С п/р; q = p(p + s)/s с б из условия (Ш) при т— \а\= п/р;

17.1. Регулярность внутри области 15
q = оо при т — |а|>п/р (возьмем 1/г + 1/р= 1). Далее,
Р(х, D)Eog = p(D)Eog + (P(x, D)-p(D))Eog =
где
Z ? aa (x) D
g Z (a()a())og ?
|o|=m |a|<m
В силу неравенства Гёльдера, оценки A7.1.5) и условий (i)
если X — достаточно малая окрестность нуля. В таком случае
оператор / + R обратим и оператор Е = E0(I + R)'1 обладает
свойствами A7.1.1) и A7.1.2) ввиду A7.1.5) и того факта, что
Р (х, D) Ef = (I + R) (l + R)~1f = f.
Наконец, если f = P(x, D)u, иеСо°(А), то единственным реше-
решением уравнения g + Rg = f будет функция g = p(D)u, ибо для
нее Eog = и, а значит,
Rp(D)u =
I (aa(x)-aa@))Dau+ ? aa(x)Dau
\а\=т |a|<m
равно P(x,D)u в X, чем доказательство теоремы и завершено.
Заменяя ^-условия условиями Гёльдера, получаем следую-
следующий вариант теоремы 17.1.1:
Теорема 17.1.1'. Предположим, что для некоторого ys@, 1)
коэффициенты оператора P(x,D) принадлежат классу С? вбли-
вблизи нуля и оператор Рт (О, D) эллиптичен. Если X — достаточно
малый шар с центром в нуле, то существует линейный опера-
оператор Е в Cv(X), такой что
A7.1.1)' отображение CY (X) э f i-» DaEf e CY (X) непрерывно
при | а | ^ m,
A7.1.2)' P(x,D)Ef = f, feCY(J),
A7.1.3)' EP(x,D)u = u, u<=C?(X).
Здесь (У(Х) обозначает множество всех непрерывных функ«
ций g на X, для которых конечна норма
g(x)|+ sup \g{x)-g{y)\I\x — y?.
x, у е X

при
при
при
* = л,
г<|дс|<2г.
\х | > 2л
16 17. Эллиптические операторы второго порядка
Если радиус шара X равен г, то такие функции допускают
Cv-продолжение на всё пространство по формуле
!g(x)
g(rx/\x\)B — [
О
Доказательство теоремы 17.1.1' идентично доказательству тео-
теоремы 17.1.1, за тем лишь исключением, что g0 определяется те-
теперь по приведенной выше формуле, а оценка A7.1.4) заме-
заменяется оценкой, выражающей непрерывность соответствующего
отображения в пространстве О при |а| = т, которая вытекает
из теоремы 7.9.6. Поскольку нигде далее этот результат ис-
использоваться не будет, подробности предоставим читателю.
Чуть видоизменив доказательство теоремы 17.1.1, можно по-
получить теорему о логарифмической выпуклости для />-норм
производных, которая понадобится нам позднее. Чтобы сокра-
сократить доказательство, исключим из дифференциального опера-
оператора все младшие члены. Сперва установим одну лемму.
Лемма 17.1.2. Пусть P(D) —однородный эллиптический диффе-
дифференциальный оператор порядка т. Тогда для любого числа
А >0
A7.1.6)
если Dav eLp, |а| ^ т.
Доказательство. Если принять Ах в качестве новой переменной
(вместо х), то А исчезнет из A7.1.6), поэтому при доказатель-
доказательстве можно считать, что А = 1. Определим Fq, как в доказа-
доказательстве теоремы 17.1.1. Таким образом, Р (D) Fo = 8-\-<о, где
со е 9". Тогда
Dav = DaFQ *P(D)v- (Daco) * о,
откуда и следует A7.1.6), ибо Daa e L1, а DaFo удовлетворяет
условиям теоремы 7.9.5.
Замечание. Из доказательства видно, что С можно выбрать об-
общим для всех Р, принадлежащих заданному компактному мно-
множеству эллиптических многочленов степени пг.
Теорема 17.1.3. Предположим, что Pm(x,D) удовлетворяет при-
приведенным выше условиям (i) и (И) в некоторой компактной
окрестности нуля К, и пусть X — открытое множество, содер-
содержащееся в К. Обозначим через d(x) расстояние от точки х^Х

17.1. Регулярность внутри области 17
до СХ. Если Dau (=Lp(X), |a| s? т, го
A7.1.7) \<Hx)^DauyiX)KC(\d(x)mPm(x, D)u\lp{X)
+ H«lli"«))|al/'n|l«l№1/m.
где С не зависит от X.
Доказательство. Пусть В = B(y,R) — шар радиуса R с центром
в точке |/еХ, причем d(y)^z2R. Положим %в(х)=%{(х—y)/R),
где х — некоторая фиксированная функция из С" (В @, 1)).
равная 1 в В@, 1/2). Применяя A7.1.6) к P(D) = Pm(y,D) и
v = %ви, приходим к оценке
ЛРО"-|а,) J \D°u\Pdx
ВЦ/, Л/2)
\Pm(x,D)u\"dx + e(R) ?
|a|=m
B(y,R) B(y.R)
(с другой постоянной С). Мы разложили здесь Р{Щ(%ви) по
формуле Лейбница и оценили %в(Рт(у, D)— Pm(x, D))u(x) че-
через модуль непрерывности е коэффициентов дифференциаль-
дифференциального оператора. Таким образом, е (#)->-0 при #-»-0. Теперь
возьмем A—M/R, где М — некоторая большая постоянная, и
умножим обе части неравенства на Rpm. Это даст
J \Dau\"dx
|a|<m B(y. «/2)
5 J
\B(jr, «) la|-m В (у. «)
+ Y, R"iai ] \Dau\"dx + Mpm J
|al<m В {у, R) B(,y,R)
Положим
= min(R0, d(y)/2)
(где Ro — малое число, которое будет выбрано позднее), умно-
умножим последнее неравенство на R(y)~n и проинтегрируем по
i/el Поскольку \R(x) — R(y)\*^\x — у\/2, то при \х — у[
< R (у) мы имеем | R (у) — R (х) \ < R (у) /2, а значит,
R(y)/2<R{x)<3R(y)/2.

18 17. Эллиптические операторы второго порядка
Если же |дс-у|<2Я(дг)/5, то \R(y)-R(x)\< R(x)/5, а по-
потому
4R(x)/5<R(y)<GR(x)/5.
Следовательно,
J \ dy,
\х-у\<2Щх) \У\<1
J n = 3-n \ dy.
\х-у\<2Щх)/5 \У\<1
Отсюда вытекает, что
|a Km
\" dx + e (Ro) ^ \ | R (x)m Dau \" dx
lo|=m
\\R(x)ialDau\" dx +
)a\<m
где С — некоторая новая постоянная, не зависящая от Ro. Вы-
Выберем Ro столь малым, чтобы СеG?о)< 1/2. Тогда при доста-
достаточно большом М, скажем М Г> Мо, мы не нарушим неравен-
неравенства, выбросив из правой части обе суммы, а левую уменьшив
наполовину. Итак,
m Pm(x, D)u\\LP + Mm\\u\\LP).
Полагая теперь М = М0, в случае если ||R(x)mPm(x, D)u\\Lp
< AfoMl и Hjp, а в противном случае выбирая М так, чтобы вы-
выполнялось равенство
Мт || и \\lp = || R (х)т Рт (х, D) и \\Lp,
приходим к A7.1.7).
Следствие 17.1.4. Пусть Рт удовлетворяет условиям (i), (H)
в некоторой окрестности нуля К- Если Dau e LP в К. \ {0} при
\а\^ m и
A7.1.8) J
ROx\<2R
A7.1.9) \Pm(x,D)u\^C Z |?>a«||jc||a|-m в K\{0},
\a\<m
\a\<m

17.1. Регулярность внутри области 19
то при | а | sg: m
A7.1.10)
R<\X\<2R
Доказательство. При достаточно малом R можно применить
теорему 17.1.3 с X = 5@, 2R)\B@, R). На этом множестве
d(x)m\Pm(x,D)u\^C Z d(*)|a||/>a«|.
|aRm
поскольку d(x) < # ss:|a;|. Поэтому из A7.1.7) вытекает, что
^— L, II" и u\\lP<Х)^ЬЬ \\иЧр
Следовательно,
\(R/3)^Dau\P dx
| a Km 4«<3|л:|<5«
|0|<m
Это доказывает оценку A7.1.10) при |a|<m. Еще одно при-
применение неравенства A7.1.7) дает оценку A7.1.10) и при
| ее | = т.
Имея в виду приложения к доказательству глобальных тео-
теорем существования, мы рассмотрим в § 17.2 вопрос, обязано
ли быть нулевым решение и дифференциального уравнения с
главным символом Рт, удовлетворяющее условию A7.1.8) при
всех N (или, что равносильно, условию A7.1.10) при всех a
с \а\< т и всех iV). Нам придется при этом предположить,
что коэффициенты Рт липшицевы, т. е. \аа{х)— аа(у) |
г?:С|л: — у\, \а\= т. В таком случае Pm(x,D)u определено
(как распределение), если выполнены лишь условия Dau e LP,
|а|< т, и теорему 17.1.3, равно как и следствие 17.1.4, можно
усилить, используя следующую лемму Фридрихса:
Лемма 17.1.5. Пусть ogL^R") и \а{х) — а{у)\^М\х — у\ при
х, у <= R". Тогда для всех q> e Со"
A7.1.11)
где фе (д:) = ф (х/е) е~п. Для фиксированной функции v левая
часть стремится к нулю при е -*¦ 0.

20 17. Эллиптические операторы второго порядка
Доказательство. Поскольку С™ плотно в V, можно считать,
что v e С™. При этом условии достаточно установить справед-
справедливость неравенства A7.1.11), ибо утверждение о пределе то-
тогда очевидно. Функция, норму которой надо оценить, равна
(а (х-у)-а (х)) (D,v) (х - у) <ре (у) dy
(а(х — у)—а (х)) v(x — y) ?уфе (у) dy
— \{D,a)(x-y)v(x-y)(pe(y)dy
Оценка A7.1.11) следует поэтому из неравенства Минковского,
так как
не зависит от е.
Итак, возвратимся к теореме 17.1.3 и предположим лишь,
что Dau^Lp{X), \a\<m, но зато коэффициенты аа липшицевы
и Pm(x, D)u<=Lp(X). Пусть Хо> Xi<^C™(X), Xi = 1 в некоторой
окрестности носителя Хо- Положим 9 = Хо«- Ясно, что ле^'(^)
и D "о ge L", | а | < т, Рт (х, D)os If- Выберем функцию ф s= Co*
с \ <fdx= 1 и рассмотрим свертку ое=о *фе, где фе(*)=ф(*/е)/в".
Тогда obgC™ и, полагая &a —Xiaa> мы имеем при малых в
Рт(х, D)oe= E baD\-»Pm(x,D)v в V
\а[=т
в силу леммы 17.1.5, ибо Рт(х, D)v=Y, baDav. Следовательно,
можно применить A7.1.7) к ое — v6 и заключить, что Dave схо-
сходится при е-»-0 к некоторому пределу в LP для \а\ = т. Зна-
Значит, Dau e Lfoc(X) при |a|^/n. Таким образом, верна оценка
A7.1.7) с X, замененным на {* е= X; d(x)> p}. Устремляя р
к нулю, получаем оценку A7.1.7) как она есть. Итак, теоре-
теорема 17.1.3 и следствие 17.1.4 справедливы и в случае, когда
коэффициенты аа липшицевы, а Dau gL", |a|< m.
17,2. Теоремы об однозначном продолжении
Мы начнем с теоремы об однозначном продолжении, в которой
допускаются операторы высших порядков и которая представ»
ляет собой аналог теоремы 8.6.5. Пусть
Рт(х, D)= ? aa(x)Da
|a \—m

17.2. Теоремы об однозначном продолжения 21
— дифференциальный оператор на некотором открытом множе-
множестве X с: R". Предположим, что
(i) функции Со липшицевы в X;
(и) оператор Рт эллиптичен в X.
Обозначим через 2 замкнутое коническое множество
A7.2.1) 2 = {(л:, N)t=T'(X)\Q; при некотором 1 е= R"
многочлен Рт (х, I + тЛО имеет нуль т
кратности >> 2, для которого I + xN ф 0}.
Разумеется, такой нуль т не может быть вещественным.
Теорема 17.2.1. Если Dau<=L2ioc(X) при |a|<m, Pm(x, D)u
L
A7.2.2) \Рт(х, D)«|<C Ц |D°«| в X,
|o|<m
го #(supp«)cr2, где S — множество, определенное формулой
A7.2.1).
По поводу обозначения N и глобальных результатов о един-
единственности, вытекающих из теоремы 17.2.1, отсылаем читателя
к § 8.5 и 8.6. Определения обоих множеств 2 и # локальны и
инвариантны относительно локальных диффеоморфизмов, по-
поэтому достаточно установить, что если ОеХ и @,Ы)ф.Ъ,.
N =@, .... 0, 1), то suppuf|{*; xn 5= 0}cz{0} влечет ы=0 в
некоторой окрестности нуля. Мы установим это, оценив и через
высокие степени некоторой весовой функции, имеющей на мно-
множестве supp и единственный максимум в точке 0.
Положим р{1) = Pm@,l). Условие @, Л0^?2 означает, что
ixN) и
ixN) = др& + ixN)ldln
не имеют общих нулей A, т) е R"+l \ {0}. Следовательно,
A7.2.3)
la|<m
поскольку обе части этого неравенства однородны степени 1т
и могут обращаться в нуль, лишь когда т = 0 и р(|) = 0, т. е.
5 = 0. Теперь нам понадобится одно тождество Трева, тесно
связанное с коммутационными соотношениями.
Лемма 17.2.2. Пусть Q(x)= ? а/х/+ S */*//2 ~ вещественный
квадратичный многочлен на R" и P(D) —дифференциальный

¦22 17. Эллиптические операторы второго порядка
оператор с постоянными коэффициентами. Если «sCo°(Rn) a
v = ueQI2, то
<17.2.4) J | Р (D) и ? еЯ dx = $ IР Ф + iQ'/2) vfdx
<О) Ф ~ 'Q'/2) v |2
Доказательство. Первое равенство очевидно, так как
DjU = e~Q/2{Dj + idjQ/2)v. Сопряженным к оператору
Dj + idiQ/2 является оператор Dj — idjQ/2, поэтому нам доста-
достаточно показать, что
A7.2.5) P(D-iQ'/2)P(D + i
= Z PW Ф 4- iQ'/2) Pia) ф - iCtl2) bala\.
Далее, коммутаторы операторов ?>/ — idjQ/2 и D* + idkQ/2
ф, - tdfi/2, Dk + idkQ/2] = dfaQ = bfiik
совпадают с коммутаторами операторов д/ и 6*дг*. В силу пра*
вила Лейбница справедливо равенство (в котором обе части
рассматриваются как операторы)
Р (д) Р (Ьх) = Z &аР (Ьх)) Ра) (д)/а\,
а поскольку это — чисто алгебраическое следствие указанных
коммутационных соотношений, то справедливо и равенство
A7.2.5).
Ключевую роль в доказательстве теоремы 17.2.1 играет еле*
дующая оценка:
Предложение 17.2.3. Пусть Pm(x,D) удовлетворяет приведен-
приведенным выше условиям (i) и (и) в некоторой окрестности нуля,
и пусть @, Af) ф Е. Найдется такая окрестность нуля Хо сг X,
что при достаточно малых е > 0 и достаточно больших т > О
<17.2.6)
lal<m
< С \ | Pm (ex, D)uf е™ dx, и е Со°° (Ха),
где ф(х) =
Доказательство. Положим v (х) = и (х) ex<f<x\ Тогда
Du = е-*<р (D + 1тф') v, Dv = е™ ф — fry') и.

17.2. Теоремы об однозначном продолжении 23
Поэтому с точностью до значения постоянной оценка A7.2.6)
равносильна оценке
A7.2.6)'
|al<m
< С J | Pm (ex, D + 1Тф') v |2 dx, и €= Co°° (ДГ0).
Допустим сначала, что коэффициенты оператора Рт постоянны,
так что Рт=р. Из A7.2.4) с Р=р и ф = 2тф вытекает, что
A7.2.7) [ | р (D - /тф') о р dx + 2т f | p"» (Z) - /тФ') и |2 dx
В силу A7.2.3) и формулы Парсеваля, для всех t>eCo°(Rre)
A7.2.3)'
laKm
+ т2 \|p(n)(?>— ixN)v
Из A7.2.3)' следует, что если оеСоЧ-Уо) и Хо содержится
в шаре | х | < б, то
A7.2.8)
|o|<m
2С ( J | р (D - /тФ') и |2 dx + х2 J | jS<»> (Д - /тФ') и |2
+ С'A+б2т2)
В случае когда б достаточно мало, а т достаточно велико,
С'A + б2т2)< т2/2, так что в неравенстве A7.2.8) можно сокра-
сократить сумму в правой части с половиной левой части. Искомая
оценка A7.2.6)' вытекает из получающегося при этом неравен-
неравенства и неравенства A7.2.7).
Для завершения доказательства нам нужна одна элементар-
элементарная лемма, позволяющая управляться с переменными коэффи-
коэффициентами. Будем обозначать /Анорму просто через || [|.
Лемма 17.2.4. Пусть X — открытое множество в R" и А—лип-
шицева функция на X с постоянной Липшица L:
\А(х)-А(у)\^Цх-у\ для х,у<=Х.

24 17. Эллиптические операторы второго порядка
Тогда
| J A(x)(Dau(x)W^(x) - D*u(x)Dav(x)) dx\ <| a+ р |LAf,
если и, и е Со" (X) и
|Da'«llDe'ol<Al для всех а', р\ гаки* что
(в случае |а|=7^|Р| последний знак «^» можно заменить на
«О).
Доказательство. При а + р = 0 утверждение очевидно. При
|а + Р|= 1 надо просто заметить, что
^А(х) (DjU (x) V(x)-u (x) ТЩх)) dx = -^D}A{x)u (x) V(x) dx.
Интегрирование по частям решает дело и при |а| = |р|=1:
А{х)(Dp(х)D&(x) - Dku(x)D^T(x)) dx
= -$«(*) {D,A (x) DM$ - DkA (x) D^W) dx.
Эти и аналогичные равенства позволяют последовательно
«сбрасывать» индексы с мультииндексов аир, «затрачивая»
по LM на каждое сбрасывание.
Завершение доказательства предложения 17.2.3. Положим
r(x,D)=Pm(x, D)- p(D), где p(D) = Pm@,D). В силу сделан-
сделанных предположений коэффициенты оператора r(ex, D) и их по-
постоянные Липшица суть О(е) в X. Используя обозначения из
первой части доказательства, образуем разность
| Pm (ex, D + ixtf)v |2 dx - J | Рт (гх, D - *т<р') v f dx.
Подставим сюда Рт = р + г и оценим различные получающиеся
члены. Прежде всего,
| р {D + гтф') v |2 dx - J | р {D - /тФ') v p dx
Далее, члены, в которых ни одна производная не падает на ф',
имеют вид
J A (x) (Dav (x) D*v (x) - D*v [x) Dav (x)) dx,

17.2. Теоремы об однозначном продолжении 25
где А —липшицева функция с постоянной О(е). Эти члены оце-
оцениваются с помощью леммы 17.2.4. Кроме того, есть еще члены
вида
A(x)Dav(x)Dfiv(x)dx,
v + |a| + |p|<2m, |a|<m
где sup | Л | = О (в). Таким образом,
|| Pm (гх, D - mp') v f + x || pW (D - шр') V |
(, + p>lP + ? if
|aj<m
Замечая теперь, что оценка A7.2.8) сохраняет силу, если в ней
заменить p(D — шр') на Рт(ъх, D — тр') с е<6, завершаем
доказательство оценки A7.2.6)' точно так же, как и в случае
постоянных коэффициентов.
Доказательство теоремы 17.2.1. Напомним, нам достаточно
установить, что если OgI и (О,N)<^ 2, N = @, .... О, 1), то
supp«fl{*; Хп5=0}с{0} влечет и = 0 в некоторой окрестности
нуля. С этой целью положим ие(х)= и(ех), где е выбрано
столь малым, чтобы в некоторой окрестности нуля Хо cz X/e вы-
выполнялась оценка A7.2.6). Возьмем какую-нибудь функцию
X е Со" (Хо), равную 1 в некоторой окрестности нуля V, и поло-
положим U = х«е- Если Pm(x, D)u = f, то
Рт (ex, D) U = етХ (х) f (гх) + ? flVS? (ex, D) ujal,
0<|a|<m
откуда следует, что Pm(ex,D)Us Z.2 и (в силу A7.2.2))
|Pm(e*. Z))f/|<C ? em-|a||Z)af/| в У.
|о|<от
Согласно замечаниям, сделанным в конце § 17.1, DaU e L2 при
|а|^т, поэтому ясно, что оценка A7.2.6) применима к U.
Если носитель % достаточно мал, то ф ^ —с на supp U\V для
некоторого с > 0, и, используя A7.2.6), мы получаем
|a«m
<С ? ||
|o|<m
Отсюда вытекает, что при достаточно больших т
т1/2 ?
|ol<m

26 17. Эллиптические операторы второго порядка
Следовательно, U = О там, где ф > —с, чем теорема и дока«
зана.
В случае операторов второго порядка, как показывает
следующая лемма, множество 2 допускает очень простое опи-
описание.
Лемма 17.2.5. Пусть р— квадратичная форма на R" с комплекс-
комплексными коэффициентами. Предположим, что эта форма эллиптич-
эллиптична, т. е. рA)?=0 при 0=^=|e=Rn. Если JVgR"\0 « geR»
\RW, то в случае пф2 один из корней квадратного уравнения
p(l-\-xN)==0 имеет строго положительную, а другой — строго
отрицательную мнимую часть. В случае п = 2 корни этого
уравнения различны, если только р не является квадратом ли-
линейной формы.
Доказательство. В случае п > 2 множество Rn\RN связно
Поскольку p(l-\-xN) не имеет вещественных нулей при
| <= Rn\RN, число нулей с Im т > 0 не зависит от |. Замена' |
на —% меняет и знак корня т, поэтому должно быть по одному
корню в каждой полуплоскости. В случае п = 2 форма р до-
допускает разложение р(?) = Li(g)Z.2(?) в произведение двух ли-
линейных сомножителей. Если у них есть общий нуль, то они
должны быть пропорциональны, а тогда их можно выбрать
равными.
Из этой леммы вытекает, что в случае m = 2 множество S
при п > 2 пусто, а при п = 2 равно U (П \ 0), где объединение
берется по всем х ^ X, для которых Рт {х, |) представляет со-
собой квадрат линейной формы. При этом, если X связно и при
некотором х форма Рт{х, |) вещественная (т. е. имеет ве-
вещественные коэффициенты), то S пусто, поскольку два нуля
квадратного трехчлена Рт(х, l + xN) должны всё время оста-
оставаться в различных полуплоскостях по соображениям непре-
непрерывности.
Далее мы будем рассматривать лишь случай операторов
второго порядка и будем писать p{x,D) вместо Рт{х, D). До-
Докажем, что если и удовлетворяет некоторому ослабленному ва-
варианту условия A7.2.2) и имеет нуль бесконечного порядка
в какой-либо точке, где коэффициенты дифференциального опе-
оператора р вещественны, то и тождественно равняется нулю.
Теорема 17.2.6. Пусть р(х, D)—Y,aik(x)DlDk — эллиптический
оператор в некоторой связной окрестности нуля X, коэффи-
коэффициенты которого удовлетворяют следующим условиям: числа
a/k@) вещественны, функции a/k непрерывны в X и липшицевы
в iT\{0}, причем \a'ik\<1C\x |e"' для некоторого 6 > 0. Если

17.2. Теоремы об однозначном продолжения 2?
Dau <= Lioc при | а |< 1 и
A7.2.2)' \p(x,D)u\^C Z |*|в+|о|-2|Д
!а|<1
A7.2.9) J \ufdx = O{zN) (е-*0)
любого N, то и = 0 в X.
Доказательство. Поскольку A7.2.2)' влечет A7.1.9), из усилен-
усиленного варианта следствия 17.1.4, отмеченного в конце § 17.1, вы-
вытекает, что при |а| ^ 2 и при всех N
A7.2.9)' J
е<|*|<2е
Следовательно, и представляет собой сумму функции из ^{
и распределения с носителем в нуле. Но никакое распределение
с носителем в нуле не принадлежит Lfoc', значит, и е Hi™ (X).
В силу теоремы 17.2.1 достаточно доказать, что и = 0 в неко-
некоторой окрестности нуля. Без ограничения общности можно счи-
считать, что р@, ?>)= Y.D).
Как и в доказательстве предложения 14.7.1, введем в Rn\{0}
полярные координаты, записав х в виде х = е'а>, где /eR,
со е 5"-1. Тогда
где Q/ — некоторое векторное поле на S"-\ и поэтому наш опе-
оператор р(х, D)= Yjaik(x)DjDk выглядит в новых координатах
так:
р (х, D) = - e~2t ? ajk (e*a>) (a, (d/di - 1) + Q,) (utf/dt + Qk).
Положим U(t,o))^ u(e'o). Тогда неравенство A7.2.2)' перепи-
перепишется в виде
A7.2.2)" | ? ajk (е<а>) (а, (<3/<3/ - 1) + Q7) (%<3/<3/ + Qft) t/1
? е«|?/а|.
где иЛ == ((од/dt + Q)at/. По предположению, а;* (е'ш) = б/*
+ О(ев') при f-»-—оо, производные первого порядка от а/*
суть О(еб<) и
? (m/ (a/a/ -1) + q;) (^a/a/ + о7) == <W + (« - 2) a/a/ + ? о*.
так как ? °>/й/ = 0 и
= « — 1. Оператор ? Q/ — это оператор Лапласа — Бельтрами

28 17. Эллиптические операторы второго порядка
Дш на единичной сфере. Сопряженным к Q, как оператору в
/^(S1) служит оператор (п — 1)о>/ — Q/. В самом деле,
v dx + ^ uQjV dx = \ Qy (uv) dx
= J | x | д {uv)/dx, dx — J J np (uv)/dr rn d® dr
= — \ o>/"O dx-\- n\ oijUvr'1'1 da dr
= (n— 1) \ tojuv dx.
Но оператор Ащ, конечно, самосопряжен; действительно,
Z ((я - 1)ю/ - Q/J = (« - D2 - (п - 1) Z И/% + ? О? =
В доказательстве теоремы 17.2.1 при выводе важной оценки
A7.2.7) из равенства A7.2.4) использовалась положительность
коэффициентов Ь{ в соответствующем многочлене Q, т. е. вы-
выпуклость экспоненты от ф. С аналогичной целью введем вместо /
новую переменную Т:
t = T + ееГ, dt/dT = 1 + еееТ > 0;
здесь е — какое-либо число, удовлетворяющее условию 0 < е
< б. Заметим, что Г < t < Г + 1 < Г/2 при Г < —2. После
умножения на (l + ee"J оператор в левой части неравенства
A7.2.2)" принимает вид
Q = д2/дТ2 + с (Т) д/дТ + A + еееТJ ? Q2
+ ? са,,(т,<п)(д/дт)'йа.
|о|+/<2
Здесь с(Т) = {п — 2) A + e^1") — е2е»г /A + ее«г) близко к п — 2
при больших отрицательных Т и
A7.2.10) cOi/ = O(e60, dca,, = O(e6t) при Г-*-оо.
(Отметим, что в исходных координатах эта замена переменных
не является гладкой.) Докажем, что для некоторого Го
A7.2.П)
< С 5 J | QU fe-*T dco dr, t/eC0" ((- oo, To) X 5я"')-
(При |<х | = 2 мы определяем па как, скажем, произведение
QjQk с j^k.) Это оценка сослужит нам ту же службу, что и
оценка A7.2.6) в доказательстве теоремы 17.2.1,

17.2. Теоремы об однозначном продолжении 29
Доказательство оценки A7.2.11). Положим U = exTV и
Таким образом, QT получается из Q заменой д/дТ на д/дТ + т.
Ясно, что оценка A7.2.11) равносильна оценке
A7.2.11)' ? T3-2U+|e|)$$|(d/d7?QeH2eerda»dr
/+ll<2
Пусть Q7 — оператор, получающийся из QT, если д/дТ и Q/
заменить на —д/дТ и — Q/, а са> /— на catj. (В сущности, это
то же самое, что и переход к комплексно сопряженному опера-
оператору, использованный в доказательстве предложения 17.2.3,
только записанный в наших новых обозначениях.) Рассмотрим
разность
A7.2.12) \^\QxVfd<i>dT- jj J \Q^V fdadT.
По сравнению с доказательством предложения 17.2.3 нам надо
теперь помимо степеней т и порядков дифференцирования при-
принимать в расчет еще и экспоненциальное у0ывание на — оо.
Как будет показано чуть ниже, ввиду A7.2.10) члены, содержа-
содержащие са,!, не играют существенной роли, поэтому рассмотрим
сперва другие члены в QT и Q7:
(± д/дТ + xf + с (Г) (± д/дТ + х) + A + uPf Z Щ-
Отвечающий им вклад в A7.2.12) равен
4 Re {(д'/дТ2 + т2 + с (Т) х + A + teeTf ? Q2) V, Bт + с) dV/dT) =
= - 2 Re (cr (T) dV/dT, dV/dT)
- 2 ((Зт2 + 2ст) eV, К) -f 2 ?
Мы учли здесь, что ? <s>jQt = O в
= (Bт + с) 2e2e«r + A+ ее) с') A + ы?т) > ЧъЧеР
для достаточно больших т. Все прочие члены в A7.2,12) имеют
вид
вид
х1 J J a (Г, (о
(d/dTf°Q*V
и (- Qf V (—d/dT)*°(—Q)aV) flfco dT,

30 17. Эллиптические операторы второго порядка
где Л-во + |о| + р0 + 1РК4, Оо + |а|<2, ро + |р|<2 и
а = О(е6Т), а' = О(ейт). Их можно оценить, используя очевид-
очевидную модификацию рассуждений, примененных в доказательстве
леммы 17.2.4, а можно и прямо воспользоваться теми же са-
самыми рассуждениями, разложив предварительно рассматривае-
рассматриваемые операторы при помощи подходящего разбиения единицы.
(Напомним, что сопряженный к Q/ отличается от —Q; на one-
ратор порядка 0.) Таким образом, справедлива оценка
A7.2.13) flQ
Это — надлежащая замена оценки A7.2.7). Получим теперь
надлежащую замену оценки A7.2.8), а именно докажем, что
при некотором То
A7.2.14) ? x*-2U+la»\\\(d/dT)'Qav\2eeTda>dT
xV f +\Q7V\2 + ^^1^^ \2)ееГ
для достаточно больших т. Вводя VeeT/2 в качестве новой пере-
переменной, замораживая коэффициенты на —оо и опуская члены
низших порядков, видим, что достаточно установить оценку
A7.2.15)
< С J J (| ((д/дТ + xY + AJ V |2 +1 ((д/дТ - xf + Д.) V |2
Интеграл в правой части равен
J J B |(дУдГ + т2 + Д.) V Р + 8т21 dV/dT \2 + х2?\ QtV I2) de>dT.
Далее,
II (д2]дт2 + х2 + д j у и2=|1 а2к/<эг2 и2 + т4 и v II2 4- и KV IP
+ 2 211 <3/<3rQ7 v ip - 2т2 (Z11 ®jV IP+и ак/аг ip)
В силу эллиптичности Ащ
—2 Ч 1а|<1

17.2. Теоремы об однозначном продолжении 31
Сопоставляя эти оценки, получаем A7.2.15), а тем самым и
A7.2.14). Оценивая правую часть A7.2.14) с помощью A7.2.13),
заключаем, что для достаточно больших т
V „4-2(/+| а|) I
) J J |
<CT/2e2||QtF||2.
В случае если т достаточно велико, а е ' достаточно мало, это
дает оценку A7.2.11)'.
Завершение доказательства теоремы 17.2.6. Прежде всего на-
напомним, что функция и из формулировки теоремы, рассматри-
рассматриваемая как функция U от со и t, удовлетворяет дифференциаль-
дифференциальному неравенству A7.2.2)". После замены переменной
t = T -f егТ это неравенство принимает вид
/17 0 9/" \ПП\<1С V f>6TFI
где U0 = \U\ и Ua = \dU/dT\ + \uaU\ при |о|=1. Выберем
функцию it> eC°°(R), равную 1 на (— оо, Го— 1) и 0 на (То, °°),
и положим
Из A7.2.9)' вытекает, что производные от ?/* порядка
помноженные на e~Ht, принадлежат L2 при любом iV. Гладко
обрезая и при больших отрицательных Т, заключаем, что для
?7* выполняется оценка A7.2.11). Правая ее часть оценивается
величиной
где U$ = \U*\ и U%=\dU*/dT\ + \QaU*\ цри |о|=1. Поэтому
оценка A7.2.11) дает (ибо е<2б)
при больших т. Полагая т-»-оо, получаем, что U = 0 при
Т < Го — 1. Итак, функция и, о которой идет речь в теореме,
равна 0 в некоторой окрестности нуля, чем теорема и доказана.
Как мы видели в гл. 10 и 13, основная сфера приложения
теорем об однозначном продолжении — доказательство глобаль-
глобальных теорем существования. Приведем еще один пример на эту
тему, в котором используется теорема 17.2.1.
Теорема 17.2.7. Пусть a/ft(jt)—липшицевы функции на откры-
открытом множестве XcR" {или на многообразии класса С2). Пред-

32 17. Эллиптические операторы второго порядка
положим, что матрица (Re а,-* (х)) является положительно опре-
определенной. Тогда из равенства
A7.2.16) ZD,l
вытекает, что и <= Я,1^ (X), если и <= Цос (X) {для таких и левая
часть определена) и }&Цж{Х). Более того, уравнение A7.2.16)
имеет решение и е Я^с для всякой функции f e L?loc (X).
Доказательство. 1) Докажем утверждение о регулярности.
С этой целью покажем сначала, что
и е Z.L (X), ? D, (afkDku) s Я,1*,, (J[)*bs Hft (X).
Это утверждение удобнее в том отношении, что левая часть
импликации остается верной, если заменить и на %и, где
%еСо°(.Х). Поэтому при его доказательстве можно считать, что
и^&'(X). Пусть КсХ — какая-нибудь компактная окрест-
окрестность носителя и. Для v e Со° (К)
A7.2.17) 2S
= С Re
Как и в конце § 17.1, возьмем v = иг — ичрг, где<реСо\
\<pdx = lH ((>г(х)= ф(л;/е)е-". Из леммы 17.1.5 мы знаем, что
разность
a}kDkue — {a,kDku) * qpe
ограничена в L2 при е->0. Следовательно, семейство распре-
распределений
U = Z D, (a,kDkuR) = Z {D]a,kDku) * фе
+ Z D, ( ? a/ftDftuE - ( 2 О/Л") * f e)
ограничено в Я(_]) при в->0. В силу A7.2.17)
1| /е \\^\\ Ue Ц,,,
откуда следует, что норма ||ие||A) ^ C2||fe||(-i) ограничена при
е->0. Значит, и^Нщ. Отсюда, как и в конце § 17.1, выво-
выводится, что если / е L2, то u e Hm.
2) Докажем теперь утверждение о существовании. Доста*
точно показать, что
A7.2.18) |(/, tiKlM

17.2. Теоремы об однозначном продолжении 33
где М — некоторая положительная непрерывная функция. Дей-
Действительно, тогда по теореме Хана — Банаха существует такой
элемент g e L2, что
(/, Ф) = («Г, М Z Я/ЗДф), Ф s Со~ (X),
а это означает, что u = Mg удовлетворяет уравнению A7.2.16);
в силу первой части доказательства и принадлежит #('g\ Из
первой части доказательства мы также знаем, что для всякого
компактного подмножества К в X
откуда, конечно, следует A7.2.18), при условии что
М > C\\f\\L1(K) и эиррфс/С Как и в доказательстве теоре-
теоремы 10.7.8, единственная проблема состоит в том, чтобы расши-
расширить компактное множество К, не увеличивая заметно функ-
функции М на чуть более узком множестве. Пусть К\, /Сг, •.. —
последовательность компактных множеств, дающая в объеди-
объединении всё X, причем каждое из этих множеств содержится во
внутренности последующего, а дополнения Х\К/ этих множеств
не содержат связных компонент, предкомпактных в X. Пусть
М — функция, такая что A7.2 18) выполнено для ipe C™(K[)
при некотором / > 2, и пусть е > 0. Мы утверждаем, что нера-
неравенство A7.2.18) сохраняет силу для ф еС™(/С/+1) при некото-
некоторой функции М, удовлетворяющей условию М =A + е)М на
К/-2- Выбрав какую-нибудь последовательность е/, для которой
ПA + е/)<оо, мы очевидным образом получим функцию М,
для которой выполнено A7.2.18).
Если бы сделанное утверждение было неверно, то A7.2.18)
не выполнялось бы при функциях М, всюду мажорирующих
(l-(-e)Af и сколь угодно больших на С/С/_]. Поэтому можно
было бы выбрать последовательность функций q>N eCj°(i(/+1),
удовлетворяющих условиям
(f. Флг) = 1. A+ е) 1М ? ОмьОьЩ |у < 1,
, < 1/ЛГ.
Из первой части доказательства следует, что последователь-
последовательность щ была бы ограничена в ЯB) при N-*-oo и, значит, у нее
нашлась бы подпоследовательность, сходящаяся в tf(i> к не-
некоторому пределу Ф, удовлетворяющему условиям
f, Ф)=1, (l+,[
рФс/С/+1, ZDiaikDkO = 0 в
2 Зак. 443

34 17. Эллиптические операторы второго порядка
Но по предположению всякая связная компонента множества
X\K/-i содержит точки, лежащие вне компактного множества
Kj+i. Поэтому из теоремы 17.2.1 вытекает, что ф = 0 на Х\К/~и
т. е. supp Ф с= К/-1. В силу первого утверждения теоремы,
Ф е ЯB). Регуляризуя Ф, мы получили бы функцию из С™ (Kj),
для которой, вопреки условию, нарушается A7.2.18). Тем са-
самым теорема доказана.
Получим теперь одно обобщение теоремы 14.7.2, представ-
представляющее собой теорему об однозначном продолжении для опе-
оператора Лапласа, возмущенного на бесконечности, а не в нуле.
Как мы увидим, после перехода к полярным координатам си-
ситуация оказывается весьма близкой к ситуации, рассмотренной
в теореме 17.2.6. Итак, предположим, что а,к липшицевы и
A7.2.19) |art(x)-e/ik|<C/|jc|1+e, |a;ft(*)|<C/|*|2+e
в некоторой окрестности бесконечности. Таким образом, опера-
оператор р(х, D)= ^a/fcOO DjDk стремится при л;->-оо к оператору
Лапласа, взятому с обратным знаком; разумеется, вместо опе-
оператора Лапласа можно было бы с тем же успехом взять любой
однородный эллиптический оператор второго порядка с веще-
вещественными коэффициентами.
Теорема 17.2.8. Пусть X — связная окрестность бесконечности
в R", в которой выполнено условие A7.2.19), и пусть A -f |л:|)т
Dau <= L2(X) для всех т при \а\ ^ 1. Если для некоторого i > О
A7.2.20) |р(ж, D)b —Яя|<С|хГ' ? |?>аы|, х<=Х,
|О1<1
то и = 0.
Доказательство. Как и в доказательстве теоремы 17.2.6, вве-
введем полярные координаты: х = е'со, где feR, loeS"-'. Тогда
условие A7.2.20) перепишется в виде
A7.2.20)' \Zatk(e'<i>)(<
где U (t, а) = и (е'а), Ua = (ад/д( -f й)а U. По предположению,
а,к{е*а) = Ь!к-\-О{е-*-ы) при /-> + °°. первые производные
от ajk также суть O(e~f~6t), и при /->+ оо сумма в левой
части A7.2.20)' стремится, как и прежде, к
(d2/dt2 + (п - 2) д/dt + AJ U.

17.2. Теоремы об однозначном продолжении 35
Поскольку теперь мы работаем с большими положительными /,
положим t = T — е~еТ для некоторого фиксированного ее@, б);
это законно, так как dt/dT = 1 + ее~еТ > 0. При t > 0 имеем
Т > 0, а значит, \t — T\< 1. После умножения на (dtjdTf опе-
оператор в левой части A7.2.20)' примет вид
Q = д2/дТ2 + с (Т) д/дТ + A + ее-еГ>J Дв
+ |в Е<2 с«. /(Г, со) (д/дТI па + сх (Т)у
где
са,{ = О(е-т-6т), dca,,^O(e-T-^),
с (Г) = (л - 2) A + ее~вТ) + е2е-ЕГ/A + ее"*7"),
ся (Г) = Ле**-*11 A + ее-еГJ.
Заметим, что с^(Г)^Яе2Г при больших Г. Докажем, что при
больших То и т
A7.2.21) ? |/(T+I-|a|)Daf/F<C(e-rt/2 + T-I)|eTrQt/f,
la|<l
{/€=С((Г0, oo)XS""').
Здесь D° обозначает произвольное произведение сомножителей
Q/ и д/дТ общим числом |<х|. Применяя лемму Фридрихса, как
и в доказательстве теоремы 14.7.2, мы заключим, что оценка
A7.2.21) применима к функции U из A7.2.20)', помноженной
на некоторую срезающую функцию от Т, равную 0 при
Т < То + 1 и 1 при Т > То + 2. Выбирая То достаточно боль-
большим и устремляя т к бесконечности, получим, как и прежде,
что U = 0 при Т > То + 2, а следовательно, и = 0 в X по тео-
теореме 17.2.1. Итак, остается только доказать оценку A7.2.21),
Пусть V = UexT и
Это оператор, получающийся из Q заменой д/дТ на 5/(97" — т.
Ясно, что с точностью до значения постоянной оценка A7.2.21)
вытекает из оценки
A7.2.21)' 2,
Уе=С"((Го, oo)XS"-').
Обозначив через Q7 оператор, полученный из QT заменой
и Q/ на —д/дТ и — Qf, а са, 7 —на са,7, рассмотрим снова раз-
разность [| Q-cV |p — j| Q^TV If, с тем чтобы установить следующий

36 17. Эллиптические операторы второго порядка
аналог оценки A7.2.13): при достаточно больших То
A7.2.22) [Q
для всех Ve=C~({T0, oo)XS""'); здесь
A7.2.23) Д(Ю=
Сначала разберем случай, когда все са,{ равны нулю. В этом
случае QT = L\ + L2, Q7 = U — L2, где
Lt = д2/дТ2 + х2 - с (Т) х + A + *e~*Tf Дш + ся (Г),
L2 = - Bт - с
Оператор L] симметричен, а сопряженным к L2 служит опе-
оператор — L2 — с'(Г). Следовательно,
= 2(LtV, L2V) + 2(L2V,
= 2([LUL2]V, V)-2{c'L{V, V).
Вычисляя коммутатор [L\, L2] и используя определение опера-
оператора L\, находим, что правая часть последней цепочки равенств
оценивается через CR(V) с точностью до членов
(_ 4те2е-еГ ( -f ее~ЕГ) AaV, V) + ((Bт—с (Т)) с'% (Г) —2с'сх (Т)) V, V).
Поскольку c'%{J)~^Xe2T при больших Т, мы заключаем, что не-
неравенство A7.2.22) справедливо в разбираемом случае, даже
если в последнем слагаемом его левой части заменить К на,
скажем, ЗЯ./2. В случае когда коэффициенты са, / не все равны
нулю, нам нужно дополнительно рассмотреть еще три типа
членов.
а) Члены, содержащие перекрестные произведения са, / и
с*(Г), дают
2 Re Z ((с„., (д/дТ - хI QaV, с, (Г) V)
- (с* (Т) У,ьГ,(- д/дТ - х)' (- Q)a V)).
Интегрируя по частям, как в доказательстве леммы 17.2.4, най-
найдем, что эту сумму можно оценить величиной
\oy\\v\\i

17.2. Теоремы об однозначном продолжении 37
Последняя сумма оценивается через R, а первый член в правой
части гасится тем «избыточным» членом xK\\eTV\\2/2, который
мы имели в левой части A7.2.22) в «невозмущенном» случае.
Ь) Аналогичным интегрированием по частям убеждаемся,
что вклад от перекрестных произведений са, / с членами в не-
невозмущенном операторе, отличными от су(Т), оценивается ве-
величиной
где сумма берется по / + |а| + | р |<3, | а|<2, | р |<2. При
|а| = 2 подынтегральное выражение можно записать как
%-^\e-TDav\xt+m\e-6TD*v\, где / + |р|<1, и, значит, ин-
интеграл оценивается через CR(V). To же, очевидно, верно и при
| Р | = 2. В случае когда |а|<11 и| р |<Г 1, подынтегральное выра-
выражение оценивается величиной xxl~]a]e~6T\DaV |т'~'Р|0~вг|деу |
(б можно считать меньшим 1), и, значит, интеграл снова оце-
оценивается через CR(V).
с) Члены, в которые входят два коэффициента са, t, прн
больших Т меньше членов, рассмотренных в пункте Ь), поэтому
для них верны те же оценки. Тем самым неравенство A7.,2.22)
доказано.
Теперь оценим производные от V по Т, отсутствующие в ле-
левой части A7.2.22). С этой целью заметим, что в случае, когда
все са, i равны нулю,
(Qx - Q7) V/2 = L2V = - Bт - с (Г)) dV/dT;
в общем же случае могут появиться еще члены, которые оце*
ниваются величиной ?е~г<1+в)т2~ |1)аУ|. Следовательно,
Деля на т и складывая полученную оценку с A7.2.22), прихо-i
дим к следующей оценке (разумеется, с новой постоянной С):
A7.2.24). г2х ZWe-^KifVf + x\\dV/dT\f + bx\\eTV\\2
Наконец, докажем аналог оценки A7.2.3)'. Дело усложняет-
усложняется тем обстоятельством, что Qt содержит экспоненциально ра-
растущий член Сх(Г), который надо срезать до таких размеров,
чтобы с ним можно было управиться с помощью члена
Я,т||егУ||2 в A7.2.24). В правую часть доказываемой в следую-
следующей лемме оценки входят также и другие члены нз (левой
части) оценки A7.2.24), причем А играет роль ет\ в левую же
часть входят члены, позволяющие учесть переменность коэффи-

38 17. Эллиптические операторы второго порядка
циентов, оценить основной вклад в поправочный член R, фигу-
фигурирующий в A7.2.24), и завершить доказательство оценки
A7.2.21)'. Обозначим через Д' оператор Лапласа по переменной
у' (у, у Лс= РЛ-1
л — \Х\, . . . , Лп—1) t= In
Лемма 17.2.9. Для и е Со°° (R") и достаточно больших положи-
положительных А их
A7.2.25) 1С ? T4-2la|||Da«f + ^-V||«||2
1«Т<2
+ М V \Daufx2-2^
<с(кГ1 II (А' + (д/дхп - xf)и|р + тЛ~е I ||Dp IP + тЛ21|и |р),
при условии что
А~\2 < т3//С + Л2, Х3/К < Л"ет2 + Л2,
Доказательство. Ввиду формулы Парсеваля доказываемая
оценка равносильна оценке
A7.2.25)' A1|2 + xJlK + А-\3 + М A112 + т2)
Рассмотрим отдельно два случая:
a) 11 Vfc P — 1 \> 1/2 или | IJx |> 1/2. В этом случае вели-
величина
(IIР + т2)/| 11Р - т2 + 2ixln| = (ll/т Р + 1)/|||/тр - 1 + 20jx |
ограничена и оценка первого слагаемого в левой части
A7.2.25)' очевидна. Для второго слагаемого нужная оценка
следует из того, что А~ех3 ^ хА/К + тЛ2, а для третьего — из
неравенства между средним геометрическим и средним арифме-
арифметическим (ибо М2 sg: xA2/K).
b) 1167*1' —Ч< V2 и |^Д|<1/2- В этом случае
|?'|2 ^ ^2/2 и оценка A7.2.25)' равносильна оценке
х*/к + Л-V + Aft2 < С" (т3Л"е + тЛ2).
Для первого слагаемого в левой части эта оценка вытекает из
второго неравенства A7.2.26), для второго очевидна, для
третьего следует из последнего неравенства A7.2.26). Лемма
доказана.
Продолжение доказательства теоремы 17.2.8. Пусть ©i, ...
..,, (O/i—i — координаты на единичной сфере в окрестности точки

17.2. Теоремы об однозначном продолжении 39
(О О, 1). Тогда оператор QT отличается от оператора
А'а, + (д/дТ — тJ, во-первых, на С\(Т), во-вторых, на некоторый
оператор с коэффициентами O(|o'|-f e~eT) и, в-третьих, на не-
некоторый оператор первого порядка по т и D. Из A7.2.25) сле-
следует, что если 1/е < \ет/А\ < е, Т^Т0, и на множестве
supp V норма |ш'| достаточно мала, то
A7.2.27) ^\K-l'2DaV\f + T3le-*T'2vf + M J^ \ DaV
<С (|K~il2QxV f + т Z Ie-*TI%V f+4eTV f),
при условии что выполнены неравенства A7.2.26), а, кроме
того, еще и неравенство
A7.2.28) А2/К<х,
гарантирующее, что член c\(T)V в QXV поглощается последним
членом в правой части A7.2.27). Чтобы в этом убедиться, до-
достаточно заметить, что другие два «возмущающих» члена в Qt
можно сократить с половиной первой суммы в левой части
A7.2.25). Преследуя цель добиться выполнения неравенства
A7.2.28), а также неравенств A7.2.26) при минимальном воз-
возможном К, положим
A7.2.29) К =
А\ при Л2+в<т»,
т3/Л2 при Л2<т2<Л2+е,
А2/х при т2 < А2.
Тогда выполнены первые два неравенства A7.2.26), а вели-
величина хА2/К равна А2~е в первом случае, Л4/т2 ^ А2~е — во вто-
втором и т2 — в третьем. Поэтому остальные два неравенства в
A7.2.26) также будут удовлетворены, если М ^ min^1-6/2,т).
Выберем М = (e~T«l2 -f- 1/т). Так как во всех трех случаях
К ^ А, можно в правой части A7.2.27) заменить К~{12 на е~т1г,
в левой же части, поскольку K~U2 ^ МЛ-'т-1/2 в силу A7.2.26),
мы заменим К~1/2 на Ме~ттг1/2. Это дает оценку (с новой по-
постоянной С)
A7.2.27)' М( Z \e-TDavflx+ У,
Via |-2 |«Т<
Точка @, ..., О, 1) на единичной сфере ничем из других
точек не выделяется. Поэтому можно выбрать такое разбиение
единицы 1 = S ф/ на единичной сфере и такое разбиение еди-
единицы 1=Z^(?' —k) на R с suppi|>ci(— I, 1), что оценка
A7.2.27)' применима к Vik =* ф/(©)*(?' — Ь) V(T,<a) для всех /

40 17. Эллиптические операторы второго порядка
и k, при условии что VeCjJ°((r0> °o)XSn~')- Суммируя эти
оценки по / и k, заключаем, что A7.2.27)' выполняется с не-
некоторой большей постоянной С и для самой функции V. При
суммировании левых частей мы просто пользуемся тем фак-
фактом, что у функций Vjk перекрываться может не больше неко-
некоторого фиксированного числа носителей, а при суммировании
правых частей используем их последние члены, чтобы компен-
компенсировать те члены, в которых производные падают на q>/ или
на <ф.
Напомним, что фиксированное нами в начале доказатель-
доказательства е удовлетворяет условию 0 < е < б. Поскольку
R(V)< Z le~TDavfh+ Z iD
I a |-2 |a|<l
из A7.2.27)' вытекает, что если То и т достаточно велики, то
член CR(V) в правой части A7.2.24) не превосходит величины
HQtW2! сложенной с половиной левой части. Таким образом,
IP + Кх|| eTV f < 2 (С + 1)|| Q,V \f.
Оценивая с помощью этого неравенства правую часть A7.2.27)',
получаем A7.2.21)', чем и завершается доказательство.
17.3. Задача Дирихле
При изучении субгармонических функций в § 16.1 мы рассмот-
рассмотрели задачу Дирихле для оператора Лапласа в полупростран-
полупространстве. Продолжая эти рассмотрения, мы приведем здесь неко-
некоторые ?2-оценки и некоторые результаты для случая перемен-
переменных коэффициентов. Это позволит нам обрисозать с минимумом
технических деталей различные методы, которые использова-
использовались при исследовании общих краевых задач для эллиптических
дифференциальных уравнений, ио в этой книге не получат пол-
полного освещения.
Прежде всего рассмотрим саму задачу Дирихле для опера-
оператора Лапласа в
{ }
Она состоит в нахождении для заданных f и ф решения и сле-
следующей краевой задачи:
A7.3.1) Su = f в R+, и = ф на dR%.
Если функция ф задана в R" и достаточно гладка, то, заменяя
и — ф на и и f — Дф на f, можно с~вёсти задачу A7.3.1) к задаче

17.3. Задача Дирихле 41
Дирихле с однородными граничными условиями
A7.3.1)' Au = f в R", « = 0 на dR^.
В этой форме мы и будем ее изучать.
Напомним, что #(o(R+) обозначает множество ограничений
на R+ функций из #<i)(R") (см. добавление В). Согласно след-
следствию В.2.5,
A7.3.2) ЯA)^) = {ие=/,2(КЛ+); Dau<=L2(Rn+), |a|=l}.
В силу теоремы В.2.7, каждую функцию аеЯA)(К°) можно
рассматривать как ограниченную непрерывную функцию от
jcnsR+ со значениями в tfd^R"). Если ио = и при хп^0
и и0==0 при хп<0, то u0gL2(R") и
дщ/дхп = и (•, 0) ® б (х„) + (ди/дхпH,
dujdxj — (du/dXjH при \ф п.
Поэтому M0^^A)(Rn) тогда и только тогда, когда ы(-,0) = 0.
Следующая теорема аналогична теореме 13.2.1 и доказы-
доказывается сходным образом.
Теорема 17.3.1.Пусть у оператора Р(х, D)= X aa(x)Da коэф-
|a|<2
фициенты непрерывны в некоторой окрестности нуля, и пусть
многочлен р(?)= ^ aa@)^a эллиптичен и имеет веществен-
I a 1=2
ные коэффициенты. Если X — достаточно малая окрестность нуля
в R" и Z+ = ZflR+. X0 = Xf\dR%,TO существует линейный опе-
оператор Е в L2(X+), такой что
A7.3.3) если /sL2(I+), то Р(х, D)Ef = f и Ef = O
на Хо;
A7.3.4) ЕР(х, D)u+=u+ для всех функций и+,
представляющих собой ограничение на Х+
некоторой функции usCo° (X), равной 0 на Хо;
A7.3.5) DaE есть ограниченный линейный оператор
в L2(X+) при |а|<2.
Ввиду A7.3.5) для !*=Ь2{Х+)мы имеем DaEf(=L2(X+) при
]а|^2. Таким образом, %Ef s Я(о (R+) для каждой функции
XsC"(X), и потому для функции Ef определены граничные
значения на Хо.
Доказательство. Мы вправе считать, что р(|)=г|5|2. поскольку
этого всегда можно добиться линейной заменой переменных, со-

42 17. Эллиптические операторы второго порядка
храняющей граничную плоскость. Пусть е — фундаментальное
решение для оператора p(D), четное по х„, например ньютоново
ядро (см. теорему 3.3.2). Для f^L2(X+) положим: Tf = f в Х+;
Tflx",—*„)==—f(x',xn), если (х',хп)^ Х+; Г/ = 0 в остальных
точках. Ясно, что1) Tf e ?,сОШр (R"). если наша окрестность нуля
X ограничена, как мы и будем считать, и что функция Tf не-
нечетна по хп. Поэтому свертка e*Tf <= Hl°^(Rn) также нечетна
по хп, а значит, ее ограничение на плоскость хп — 0 должно быть
нулевым. Обозначим через Eof ограничение этой свертки на Х+.
Тогда
A7.3.3)' если f<=L2(X+), то p(D)Eof = f в Х+ и
Eof = О на Хо;
A7.3.4)' Eop(D)u+=ti+ для всех функций и+, пред-
представляющих собой ограничение на Х+ не-
некоторой функции и е Со° (X), равной 0 на Хо;
A7.3.5)' DaE0 есть ограниченный линейный оператор
в L2(X+) при |а|<2.
Утверждение A7.3.3)' мы уже доказали. Что касается A7.3.4)',
то прежде всего заметим, что функция Ти+ непрерывна. Сле-
Следовательно, DnTu+ представляет собой четное продолжение
функции Dnu+, которое непрерывно, a D2nTu+ есть нечетное
продолжение TD2nu функции D2nu+. Это означает, что Tp(D)u+
= p{D)Tu+, а потому e*Tp(D)u+=e* p{D)Tu+=Tu+, чем
A7.3.4)' и доказано. (Здесь важно, что в p{D) не входят члены,
нечетные по Dn.) Утверждение A7.3.5)' следует, например, из
теоремы 10.3.1.
Дальше мы просто копируем доказательство теоремы 13.2.1.
Запишем
Р(х, D) = p(D)+ ? ba(x)Da,
|o|<2
где fto@) = 0 при ]а] = 2, и будем искать решение уравнения
Р(х, D)u = p{D)u+ ?&„(*)D°« = /sL2(X+),
имеющее вид u=EQg, g^L?(X+). Тем самым ввиду A7.3.3)'
гарантировано, что и удовлетворяет однородному граничному
условию Дирихле, так что нам надо только решить уравнение
g + Ag = f, где Ag = ? baDaEog.
') Ниже 4,тр = 12Л S'.-Прим. nepee.

17.3. Задача Дирихле 43
Норма оператора А в L2(X+) меньше 1/2, если сумма ? supl ba\
достаточно мала. Поэтому мы можем положить
? = ?„(/ + AT1.
Свойства A7.3.3) —A7.3.5) выводятся из свойств A7.3.3)'—
A7.3.5)' точно так же, как в доказательстве теоремы 13.2.1.
В случае если коэффициенты Ьа недостаточно малы, можно при-
применить полученный результат к оператору с Ьа, замененными на
Ьа(ел:)е2~|а|, при условии что е достаточно мало. Выбирая ех
в качестве новой переменной, получим утверждение теоремы
с X, замененным на гХ. Доказательство завершено.
Замечания. 1. Применяя рассуждения из доказательства тео-
теоремы 13.3.3, можно показать, что в случае аа е С°° существует
линейное отображение Е: L2(R+)-»-#<2)(R+)> такое что
, D)Ef = f в Х+ и Ef = O на Хо;
ЕР(х, D)u+ — u+ в Х+ для всех функций ы+, представ-
представляющих собой ограничение на Х+ некоторой функции
), равной 0 на Хо;
DaEf<=L2(Rn+) при |a
Здесь s — любое неотрицательное целое число.
2. Вещественность коэффициентов оператора p{D) мы пред-
предположили исключительно для того, чтобы иметь простое явное
решение задачи Дирихле с постоянными коэффициентами
A7.3.3)', получаемое с использованием отражения. На самом
деле это предположение совершенно не существенно. В случае
п > 2, а также в случае, когда и = 2 и нули многочлена рA,х)
лежат один в полуплоскости Im т > 0, другой — в полуплоскости
Im х < 0, легко построить Ео, выполняя преобразование Фурье
по х' и решая соответствующее обыкновенное дифференциаль-
дифференциальное уравнение. Фактически тот же самый подход пригоден и для
эллиптических операторов или систем произвольного порядка
с весьма общими краевыми условиями. При этом, чтобы обес-
обеспечить достаточный простор для применения метода возмуще-
возмущений, нужно предварительно решить краевую задачу с постоян-
постоянными коэффициентами и для неоднородных краевых условий.
Этот подход систематически использовался в гл. X моей книги
«Линейные дифференциальные операторы с частными производ-
производными». При изучении краевых задач в гл. 20 данной книги мы
применим другой, более конструктивный метод.
Утверждения A7.3.3) и A7.3.5) дают нам локальную тео-
теорему существования для решений задачи Дирихле A7.3.1)', удов-
удовлетворяющих условию D°i;gL2, |a[^2, для случая /sZA

44 17. Эллиптические операторы второго порядка
К глобальной теореме существования можно прийти, привлекая,
скажем, те же методы, что и в доказательстве теоремы 17.2.7.
Мы не будем здесь этим заниматься, а покажем вместо этого,
как, используя A7.3.4)' и A7.3.5)', получить теорему о регуляр-
регулярности, аналогичную варианту теоремы о внутренней регуляр-
регулярности, отмеченному в конце § 17.1.
Теорема 17.3.2. В дополнение к условиям теоремы 17.3.1 предпо-
предположим, что коэффициенты аа липшицевы при |сс| = 2. Если
Dau<=L2(X+) при |а|<1 и
Р(х, D)u = fs=L2(X+), ц = 0 на Хо,
то Dau^L2(Y+) при |а|^2 для всякого Y Ш X и
A7.3.6) EJk
E
Доказательство. Выберем функцию %^С™(Х), равную 1 на Y,
и положим v = %u. Тогда Р(х, D) v = g ^ L2(X+), DaoeI2(I+)
при | а |^1, о = 0 на Хо и о = 0 вне некоторого компактного
подмножества в X. Выберем, далее, функцию <p^C™(Rn~l),
удовлетворяющую условиям ф^О, V ф (*') dx' = 1, и положим
. ve(x)=\jv (х' — еу', хп) ф (у') dy'.
В силу неравенства Минковского,
\Davt\K\D*v\ при |а|<1
(здесь и ниже ||-|| обозначает норму в L2(X+)), и Dave eL2(X+),
если в Da входит не более чем один множитель Dn, поскольку
остальные множители можно «перебросить» на ф. Поделив, если
надо, P(x,D) на коэффициент при D2n, мы вправе считать, что
этот коэффициент равен 1. Тогда
Р(х, D)ve-ge= ? (aaDav&-(aaDav\).
ап<2
При |сс| = 2 операторы Da, фигурирующие в правой части,
имеют вид Da = D,Dk с / Ф п, и можно применить лемму Фрид-
рихса (лемму 17.1.5) для каждого фиксированного х„. Это дает
\\Р(х, D)ve-ge\\-+0 при е^О.
Отсюда, в частности, следует, что Щрг s L?(X+y

17.3. Задача Дирихле 4В
В силу A7.3.4) и A7.3.5)
A7.3.7) И \\Daw+\\^C)\P(x, D)w+\\
|d|<2
для всякой функции w+, представляющей собой ограничение
на Х+ некоторой функции w^Cq'(X), равной 0 на Хо. Пусть
Tve — нечетное продолжение функции ve с R+ на всё R". Тогда
DaTveeL2 при а„ ^ 2 (см. доказательство теоремы 17.3.1).
Применяя оценку A7.3.7) к регуляризациям w функции Tve, по-
полученным посредством сверток с четными функциями, получаем,
что эта оценка верна для w+ = ve. Устремляя е к 0, заключаем,
что Dav e L2 при |а|^2 и справедливо A7.3.6). Теорема до-
доказана.
Задача Дирихле с большой легкостью и в большой общности
решается при помощи принципа Дирихле. Рассмотрим диффе-
дифференциальный оператор в дивергентной форме
Р(х, D)u= Y,D,{alkDku),
где (a,k(x)) — вещественная положительно определенная сим-
симметричная матрица, непрерывно зависящая от точки х, пробе-
пробегающей замыкание некоторого открытого ограниченного подмно-
подмножества X в R". Уравнение P(x,D)u = f эквивалентно уравне-
уравнению в «слабой» форме
A7.3.8) (f, v) = \fd dx = \ J] aikDkuD^v dx, v e Co°° (X).
Это условие имеет смысл, если Dau^L2(X) при |а|^1, и
остается в таком случае справедливым для всех а из замы-
замыкания Н множества С™(X) в Нп)(Я")- Ясно, что, какова бы
ни была функция %е СГ(Rn), %u^ H для всех aeff. Если дХ
принадлежит классу С1 в точке хо^дХ, то можно выбрать
С'-отображение ф некоторой окрестности нуля в R" на некото-
некоторую окрестность Хо точки х0, переводящее R+ в X, и заклю-
о
чить, что если uefl, то, какова бы ни была функция % е СГ (Хо),
ф* (%и) е ЯA, (R+) и 1|з* (хи) = 0 на <3R+. Обратно, если дХе=С1
и указанное выше условие выполнено во всякой граничной точке
о о
множества X, то и е Н. (Заметим, что Н можно отождествить
с пространством Нц){Х) всех распределений из //(^(R") с носи-
носителем в X, поскольку у таких функций носитель не может ле-
О
жать на дХ.) Следовательно, условие не// представляет со-
собой обобщение однородного граничного условия Дирихле, как
око было сформулировано выше, на случай произвольной обла-

46 17. Эллиптические операторы второго порядка
сти. Поэтому задачу Дирихле можно переформулировать еле-
О
дующим образом: найти элемент us Я, удовлетворяющий уело-
о
вию A7.3.8) для всех ое#. В этом и состоит принцип Дирихле.
Решение так сформулированной задачи чрезвычайно просто.
Запишем
Q (и, о) — ? ajkDjUlhv dx, u,v e= C~ {X);
это невырожденная эрмитова симметричная форма. Обозначая
/Лнорму через || ||, имеем
2 IID,u|р^CQ(и, и), asCTW-
Норма, квадрат которой задается левой частью последнего не-
неравенства, эквивалентна норме ||и||(и, поскольку, например,
J | a I2 dx = - 2 Re \ х,а -|?- dx < i- J | a |2 dx + 2
откуда вытекает, что
Следовательно, (Q(u, u))l/2 есть норма, эквивалентная норме
О
il«||(i) на Со°(ЛГ), а значит, и на Н. Для всякой фиксированной
функции f<=L2(X)
о
Отсюда следует, что существует единственный элемент и^ Н,
о ^^
удовлетворяющий условию A7.3.8) для всех о е Я. Беря о еСо ,
о
получаем Р(х, D)u = f, а включение ае// означает, что выпол-
выполнено однородное граничное условие Дирихле. В случае когда
дХ е С2, а коэффициенты a!k липшицевы, утверждение можно
усилить. Действительно, тогда во всякой граничной точке в ка-
качестве указанного выше отображения, выпрямляющего границу
в окрестности этой точки, можно выбрать диффеоморфизм клас-
класса С2. Применяя теорему 17.3.2, заключаем, что Dau& L2(X)
при |ос|^ 2 и
Е1Ч
Нетрудно показать, что если aik, f и дХ гладки, то и и гладко.
В заключение изложим в общих чертах еще один классиче-
классический метод решения задачи Дирихле и укажем, как он будет
модифицирован в гл. 20. Для разнообразия сделаем теперь упор
на граничных данных. Итак, предположим, что Xcz'R"— огра-

17.3. Задача Дирихле 47
ничейное множество с границей дХ е С°°, и рассмотрим задачу
Дирихле для однородного уравнения Лапласа
A7.3.9) Ди = 0 в X, ы = ф на дХ.
Если бы X было полупространством, то решением служило бы
(см. §16.1)
и(х) = 2 \у{у)дЕ{* У) dS(y),
дХ
где Е — фундаментальное решение для оператора Лапласа, т.е.
ньютоново ядро (теорема 3.3.2), п — внешняя единичная нор-
нормаль и dS — элемент «площади» на дХ. Это просто другой спо-
способ описания метода отражения, использованного при доказа-
доказательстве теоремы 17.3.1. Поэтому в общем случае попытаемся
найти функцию ф, для которой потенциал двойного слоя
удовлетворяет граничному условию задачи A7.3.9); и автома-
автоматически будет гармонической функцией в I В результате мы
приходим к уравнению вида
где К — компактный (фредгольмов) интегральный оператор.
Дело в том, что в случае плоской границы К был бы равен О,
поэтому К просто выражает меру отклонения от этого случая.
Как раз для того, чтобы решать предыдущее уравнение, и была
развита теория Фредгольма.
Если вместо задачи Дирихле рассмотреть задачу Неймана,
т. е. задачу с граничным условием ди/дп — ф, то в случае полу-
полупространства мы получим решение
и(х) = -2^q>(y) E(x ~ y)dS(y).
В соответствии с этим в общем случае ищут решение в виде по-
потенциала простого слоя
и (х) = - 2 J «(у) Е{х ~ у) dS {у),
и дело снова сводится к решению уравнения Фредгольма
\|> + #ф = ф-
Перенести эти рассмотрения на случай общих операторов и
граничных условий довольно затруднительно. Сначала нужно ре-
решить задачи с постоянными коэффициентами во всех касатель-
касательных полупространствах, с тем чтобы найти подходящие ядра
для разбираемой задачи. Затем надо сделать такой же «анзац»,

48 17. Эллиптические операторы второго порядка
как выше, выбрав предполагаемый вид решения, и показать,
что сделанный выбор приводит к уравнению Фредгольма. Есть,
правда, полезная модификация этого подхода. Согласно фор-
формуле Грина,
A7.3.10) и(х)= J щ{у)дЕ(*-у) dS- \ Ul(y)E(x~y)dS,
дХ " дХ
где «о и ui — соответственно граничные значения функции и и ее
нормальная производная на границе. Таким образом, мы знаем
и, если нам известны ц0 и и\. Формула A7.3.10) определяет не-
некоторую гармоническую функцию для произвольных «о и щ,
но эта функция не обязательно будет иметь граничные значе-
значения «о и нормальную производную и\. В самом деле, гармони-
гармонические функции, как известно, однозначно определяются своими
граничными значениями, так что для гармонических функций
граничные значения и0 и нормальная производная и\ связаны
между собой соотношением щ = Аио, где А— некоторый опера-
оператор. Операторное исчисление, которое мы разовьем в гл. 18, по-
позволяет дать вполне явное представление для операторов такого
рода. Используя дифференциальное уравнение Дц = 0, можно
записать любое дифференциальное граничное условие в виде
Воио + B\U\ = ф, где So и Si — дифференциальные операторы
на дХ. Тем самым решение исходной краевой задачи сводится
к решению уравнения (So + BiA)uo = q> на многообразии без
края дХ. Оператор В0-{-В\А не является дифференциальным
оператором, но он принадлежит к некоему классу операторов,
который тесно связан с классом дифференциальных операторов
и на который легко распространяется, скажем, теория эллипти-
эллиптических дифференциальных операторов.
Эти замечания, надо признать, туманны, и намеренно. Мы
просто хотели убедить спектически настроенного читателя, что
имеются веские основания для введения описываемого в гл. 18
весьма общего аппарата и что усилия, которых это потребует,
окупятся, когда мы вернемся к рассмотрению краевых задач
в гл. 20.
17.4. Конструкция параметрикса по Адамару
Мы видели в гл. 13 и еще раз в § 17.1 и 17.3, как распространять
результаты об операторах с постоянными коэффициентами на
операторы с переменными коэффициентами. Однако это дает
лишь существование фундаментальных решений и некоторую
информацию о непрерывности их как операторов. Часто бывает
интересно знать точный вид их особенностей. В связи с этим мы
опишем здесь одну замечательно простую и точную конструк-

17.4. Конструкция параметрикса по Адамару 49
цию, принадлежащую Ж. Адамару. Она позволяет определять
особенности фундаментального решения с любой степенью точ-
точности. Эта конструкция применима также в неэллиптическом
случае (где методы гл. 13 и § 17.1 и 17.3 совершенно бессильны).
Во второй части параграфа мы продемонстрируем это на при-
примере одного гиперболического уравнения, которое понадобится
нам в § 17.5. Обобщение на случай общих гиперболических урав-
уравнений второго порядка не должно вызвать у читателя никаких
затруднений. (См. также примечания к гл. 23.)
Пусть Р — дифференциальный оператор второго порядка
вида
Р = - Е (д/дх,) (g'kd/dxk) + ? Ь'д/дх, + с,
где g'*, b1, с — функции класса С"° на открытом множестве
Хек" и (gik)— вещественная положительно определенная мат-
матрица. Мы хотим построить правый параметрикс для Р, а точнее
для Р— z, где 2eC\R+, поскольку это позволит избежать
некоторых не относящихся к делу трудностей в случае постоян-
постоянных коэффициентов. Сначала предположим, что Р есть взятый
с обратным знаком оператор Лапласа Д,
Обратное преобразование Фурье от функции (|?|2 — z)~l являет-
является фундаментальным решением для оператора —Д — г. Мы рас-
рассмотрим также степени этой функции, поскольку они неизбежно
всплывают, когда мы производим возмущение (см. § 12.5). Итак,
положим для v = 0, 1, ...
A7.4.1) /\, (*) = v! Bя)-п \ е1* &> (|| |2 - гр <Ц
(в смысле теории распределений). Из теоремы 7.1.22 следует,
что /че C°°(R"X0) и что DaFv при |а|^2 локально интегри-
интегрируемы и в 0, за исключением случая, когда v = 0, а |а| = 2;
в этом случае возникает еще член, однородный степени —п. Оче-
Очевидно, что Fv есть функция от| х | = (д^ + • • • + xl)m- Было бы
нетрудно выразить Fv через бесселевы функции, но это лишь
удлинило бы вывод основных свойств функций Fv, которые сразу
видны из A7.4.1). К ним относятся в первую очередь следующие
два:
A7.4.2) (-Д-2)/ч = у/ч_„ v>0; (-A-z)F0 = 60;
A7.4.3) —2dFJdx = xFy_u v > 0.
Свойство A7.4.2) очевидно, а A7.4.3) следует из того факта,
что преобразованием Фурье от —2dFx/dxk служит
- 2v!/Ы IS Р ~ zP"'= (v - 1)! (-?>*)( Ш2 - 2)~v.

50 17. Эллиптические операторы второго порядка
В последующих рассмотрениях z остается фиксированным, и по-
поэтому мы не будем указывать в записи, что Fv зависит также
и от z.
В качестве первого шага на пути к обобщению тождеств
A7.4.2) и A7.4.3) возьмем их обратный образ при линейной
биекции Т пространства R". Если у = Тх, то 'Тд/ду = д/дх, а по-
потому
A^ZWle'W где {g!k) = T-uT-\
Поскольку функции Fv инвариантны относительно вращений, мы
будем, допуская некоторую вольность обозначений, писать /\(х)
= Fv{\x\). Тогда F»@) =/4A*1*), где
как обычно, (gjk) обозначает матрицу, обратную к (g'k). Вспо-
Вспоминая пример 6.1.3 и учитывая равенство (det T)~2 = det (#'*),
получаем
A7.4.2)'
I V^ 1кя ь„ ,ч Г v/?v-i(l*|») при v>0,
(- L д^hdk-z)Fv(\x\g) = \ tkl/2
К (det g'R)' 60 при v = 0,
A7.4.3)' -2ZAfv(UI«) = ^v-i(l^y при v>0.
Эти формулы верны при любой симметричной положительно
определенной матрице (g'k), но, что самое главное, они приме-
применимы и в случае оператора Р с переменными коэффициентами,
если хорошо выбрать координаты. Напомним, что главный сим-
символ 2 g'*M 5/5fc оператора Р инвариантно определен в кока-
сательном расслоении. Двойственная квадратичная форма
X gjk{x)d.Xjdxk в касательном расслоении задает некоторую
риманову метрику. Как показано, например, в § С. 5, для всякой
точки из К можно ввести геодезические нормальные координаты,
которые равны нулю в этой точке и удовлетворяют условиям
A7.4.4) 2 gik (x) xk='Z ilk @)xk, j = 1, ..., п.
Это означает, что выходящие из 0 лучи являются геодезиче-
геодезическими с длиной дуги, равной расстоянию от 0 в евклидовой
метрике
I * It = I * I* о = ( Z g,k @) х,хьУ<2.
При этом gik(x) — gik{0) = O(\x\2), и аналогичное соотношение
справедливо для g'k. Обычно требуют, чтобы gfll@) = 6jk, чего,

17.4. Конструкция параметрикса по Адамару 51
конечно, можно добиться дополнительной линейной заменой ко-
координат. Однако в дальнейшем окажется, что удобнее потребо-
потребовать лишь выполнений условия A7.4.4).
Из A7.4.4) следует, что для f e С
(\x\l), /=1 п.
Это показывает, что соотношение A7.4.2)' сохраняет силу при
л^Ос g'k@), замененным на g'k(x). To же верно в обобщен
ном смысле и в 0, поскольку в результате замены glk@) /на
g'k(x) могут дополнительно появиться лишь локально инте/ри-
руемые члены: разность между значениями glk в 0 и в х/есть
О(|х|2). Используя правило дифференцирования произведения
и соотношения A7.4.2)', A7.4.3)', заключаем, что для и/еС™
и v>0 /'|
(Р-z)(uvFv) = v«vFv_, + (Puv)Fv -(huv-2(x, dujfx))?v_,/2,
A7.4.5) V
h (x) = Z glk @) b> (x) xk = ? glk (x) b' (x) xk.
Аналогично получаем, записывая Fo в виде Fo(x)= f(\x\2),
(P-z) (u0F0) = «0 @) (det gikf2 60 + (Pu0) Fo
-2(huo-2(x,duo/dx))f'.
Суммируя по v = 0, ..., N, приходим к равенству
A7.4.6) (P - г) Z uvFv = «0 @) (det g>kf2 60 + (PuN) FN,
о
при условии что «v выбраны так, что
A7.4.7) 2v«v — A«v -f 2 (х, a«v/aje> -f 2Ры„_, =0, v = 0 iV,
ибо тогда коэффициенты при /' и при /0, • • •. ^jv-i в правых
частях равенств A7.4.5) будут равны 0. (При v=0 функция
Uv-i в A7.4.7) считается нулевой.)
Теперь докажем, что уравнения A7.4.7) имеют единствен-
единственное гладкое решение, удовлетворяющее условию «0@)=1; на
uv с Vt^O никаких граничных условий не налагается.
Лемма 17.4.1. Пусть X — открытое подмножество в R", звезд-
звездное относительно точки 0 (г. е. д;еХ=*-/дсеХ при 0 ^ / ^ 1).
Если h е С°°(Х) и h@)= 0, то уравнение
A7.4.8) Нио = 2(х,дио/дх)
имеет единственное решение ио^С°°(Х) с ыо(О)=1. Если
} е С°° (X) и v > 0, то уравнение

52 17. Эллиптические операторы второго порядка
A7.4.9) B\-h)Uv + 2(x,duJdx) = f
имеет единственное решение «vSC°°(X) для каждой функции
Доказательство. Введем полярные координаты: х==г<а, где
(oeS"-', г > 0. Равенство A7.4,8) означает при хфО, что
дпа/дг = huo/2r. Если ио(О) = 1, то мы получаем
«о (х) = ехр П Л (sco) ds/2s J = ехр П Л (/*) Л/2/ J.
Поскольку Л@) = 0, частное h(tx)/t есть С°°-функция от (x,t)
е XX[0,1]; поэтому иоеС°°(.К) и иоФО в X. Чтобы решить
уравнение A7.4.9), положим «v = «of. Получится уравнение
w + r dv/dr = g, где ^ = f/2u0.
Таким образом, d(r*v)Jdr = r^~xg, откуда
г 1
Следовательно,
— единственное решение уравнения A7.4.9). То что uveC
очевидно.
Замечание. Описанная конструкция работает без существенных
изменений и в случае, когда Ь1, с, а значит, и h — квадратные
матрицы. Только формула для и0 становится не столь явной.
Поэтому конструкция Адамара применима к системам с глав-
главным символом 7?, glk(x)%j%k[, где / — единичная матрица. Это
наблюдение весьма полезно, поскольку оператор Лапласа на
формах, определенных на римановом многообразии, относится
как раз к такому типу.
А теперь предположим просто, что нам задан оператор Р
второго порядка на открытом множестве IcR" с С°°-коэфф'и>
циентами и положительно определенным главным символом
р(х, %)= Y, glk{x)ljlk- В силу следствия С.5.2 существуют ок-
окрестность V множества {0}Х-^ в R"X^, окрестность W диаго-
диагонали в ХУ.Х и однозначно определенный диффеоморфизм
V э (х, у) ь-*. (у (х, у), у) е= W,

17.4. Конструкция параметрикса по Адамару S3
такие что \@, у) = у, Y*@» г/) = id и главный символ нашего
оператора, записанный в х-координатах:
(, у), %(х, у)-{1)
удовлетворяет условию A7.4.4). Выберем V так, чтобы множе-
множество {х; (х, у)е У} было выпуклым для каждого уе! Для
(х,y)^W корректно определено риманово расстояние s(x,у):
s(\(x, у), if) = (Z#/*(O, У)*,**I12-
Его квадрат принадлежит классу C°°(W). «Перенося» функции
Uv(x,y), определяемые уравнениями A7.4.7), с V на W, получим
однозначно определенные функции ?/ve C°°(W), такие что
A7.4.6/ (Р(х, D)-z)ZUi(x, y)FAs(x. у))
о
= (detg'k(y))w6y(x) + (P(x, D)UN(x, y))FN(s(x, у)).
Это построение проходит, конечно, с равным успехом и/на мно-
многообразиях. Заметим, что 8у(х) — обобщенная плотность-на X,
превращающаяся в распределение, если поделить ее на есте-
естественную риманову плотность (det gfk)~l/2dx.
Так как FN(s(x, t/))e C2Ar+l~", поправочный член в правой
части A7.4.6)' можно сделать сколь угодно гладким, выбирая
достаточно большое JV. Все члены соотношения A7.4.6)' при-
принадлежат классу С°° вне диагонали. Если выбрать функцию
%^ С°°(ХХ.Х) с носителем в W, равную 1 в некоторой окрестно-
окрестности диагонали, и положить
N
F(x, y) = %(x, y)'Zuv(x, y)Fv(s(x, у)),
о
то мы получим
(PU, D)-z)F(x, y) = (detgik(y))l/26y(x) + R(x, у),
где R е С2Ы+1~п. Оператор
=\F(x, y)f(y)(detgik(y))-l/2dy
отображает &'{Х) в S)'(X) и сохраняет волновые фронты. Если
аналогичным образом определить оператор 52 (F заменяется на
R), то справедливо равенство
так что &" является правым параметриксом для Р — z в том
смысле, что Ж можно сделать сколь угодно сглаживающим, вы-
выбрав достаточно большое N. Взяв сопряженный к правому па-
раметриксу для оператора, сопряженного к Р — z, мы получим

54 17. Эллиптические операторы второго порядка
и левый параметрикс для Р — г. (Простое рассуждение, кото-
которое мы отложим до § 18.1, показывает, что правый и левый па-
раметриксы имеют в сущности одинаковые особенности.) Из
этих фактов легко вывести для оператора Р результаты о суще-
существовании и регулярности решений, доказанные в гл. 13 для об-
общих эллиптических уравнений. (В том же § 18.1 мы изложим
простой общий метод построения параметрикса для произволь-
произвольного эллиптического оператора.)
Описанная выше конструкция применима и к волновому опе-
оператору
д*/дР + Р
в Rn+\ отвечающему оператору Р, и это обстоятельство будет
существенно использовано в § 17.5. Если в A7.4.1) заменить г
на т2 и взять не обратное преобразование Фурье, как там, а
обратное преобразование Фурье — Лапласа, т. е. если опреде-
определить Ev формулой
A7.4.1)' ?„(/, x) = v!Brtp J
Im т=с<0
понимаемой в смысле теории распределений, то мы получим
распределение с носителем в переднем световом конусе {(/, х);
t^\x\) (см. G.4.7)). Имеем
A7.4.2)" (<32/^2-A)fv = v?v_,, v>0; (d2/dt2 - А)Ео = 60,0;
A7.4.3)" -2dEJdx = x?v_,, v > 0.
В приводимой ниже лемме собраны некоторые другие свойства
распределений Ev, которые понадобятся нам в этом и следую-
следующем параграфах.
Лемма 17.4.2. Распределение Ev однородно степени 2v+l—п,
сосредоточено в переднем световом конусе и задается формулой
A7.4.10) Ev = 2-2*-lrtl-nV2%l+n-n)'4t2-\x\2), t>0;
Ev является функцией класса С°° от t со значениями в ЗУ (R")
при / ^ 0, и
diEv(+0, .)=»0 для fc<2v, 5?v+1?v(+0, •) = v!do.
Далее,
A7.4.11) IFF(?„-?„) = {(/, х;т, I); fi = \xf,
и ?v — ?v, dt (?v — ?v) суть непрерывные функции от х со зна-
значениями в 2)'2k(R) для любого целого k^(n— l)/2 —v. Если п

17.4. Конструкция параметрикса по Адамару 55
нечетно и k = (n — 1)/2 — v, то
dt(E, - Ev) = 22й-«+1яA-п)/2(-1)* kl 6{2k)/Bk)\;
dt (Eo — Ёо) есть преобразование Фррье от 2 (sgni)deQ{x, т2I)„
еде
A7.4.12) eo(x, т2) = BяГ" \ e'<4& d\.
Доказательство. Для v = 0 формула (^7.4.10) была доказана
в § 6.2. Поскольку, согласно вычислениям, проведенным перед
теоремой 6.2.1,
(d2/dt2 - Д) Ха+ «2-\х |2) = Dа + in - 2) *Г«(^2 -1 х \\
рекуррентная формула A7.4.2)" следует из A7.4.10). По теореме
6.2.3 уравнение A7.4.2)" (с уже известным ?v-i) имеет един-
единственное решение Еч с носителем в переднем световом конусе.
Поэтому справедливость формулы A7.4.10) для произвольного-
v устанавливается по индукции. Утверждение о волновом фронте
при *=5*=0 сразу вытекает из теоремы 8.2.4. В случае х = / = 0
надо просто заметить, что волновойчфронт замкнут и что
@2/0,2 _ A)v+1 (?v _ ?v) = v, (бо о _ бо> о) = 0;
отсюда по теореме 8.3.1 следует, что в точках волнового фронта
выполнено равенство т2 = |||2.
Из A7.4.11), в частности, следует, что Ev — fiv есть С°°-функ-
ция от х со значениями в 3)'. Положим a = v + (l—«)/2, и
пусть б = |*|2>0. Тогда df(?v — Bv) кратно распределению
Если ф — нечетная пробная функция, то <ев, а, ф> = 0, а если
четная, то
<ев. а, Ф> = - (ев, а+1. Ъ). где * @ = ф'
Функция tf тоже является четной пробной функцией, и по фор-
формуле Тейлора
Поскольку ев, о и е6,1/2, — очевидно, непрерывные функции от t
со значениями в &)**, то е6<а представляет собой непрерывную
функцию от t со значениями в 3>'2k, если k и 1а — целые числа,
удовлетворяющие условию а + k^O. Далее, ео,-* = 2(—\)kk\
X6Bfe)/Bfc)!
') Здесь производная d берется по т. — Прим. перев.

56 |7. Эллиптические операторы второго порядка
Распределение Ео есть предел при е-*-0 распределений Ео, 8,
задаваемых формулой
lmt — 1
Так как
е«Чт(| S |2 - т2) dt = 2ш2(-2Г1 (e"l i" + е-" «И),
где интеграл в левой части берется от —i—оо до —1 + оо и от
i 4-оо до i — оо, мы видим, что д(Е0, е — E0,e)/dt представляет
собой преобразование Фурье от 2~l(sgnx)e~e'l! deQ(x, т2). Устрем-
Устремляя е к 0, получаем последнее утверждение леммы. Доказатель-
Доказательство завершено.
Допуская некоторую вольность обозначений, будем в даль-
дальнейшем писать Ev(t, ]х\) вместо Ev(t,x). При / = 0 это выра-
выражение понимается как соответствующий предел при /-»-+0. Из
A7.4.6) с uo(O)=l следует, что если наши координаты являют-
являются геодезическими координатами в выпуклой окрестности нуля
Хо, то в этой окрестности
A7.4.6)" (d2/dt2 + Р (х, D)) t «v (х) Ev (t, ! х |g)
t
= (detgik)m60,о + (Р(х, D)uN(x))EN(t,\x\g).
Поправочный член принадлежит классу С* для k <C N
— (п— 1)/2. Если |*|g<c влечет х^Х0, то Ey,(t,x)==0 при
Ксв некоторой окрестности множества {х; \x\g^sc}; поэтому
A7.4.6)" остается верным в (—оо, с)У.Х для любого Х^эХ0,
если произвольным образом продолжить uv на X.
Как и в эллиптическом случае, описанную конструкцию
можно распространить на координаты общего вида, «перенося»
ее с геодезических координат при помощи отображения (t,x,y)
(t, у (х, у), у) ¦ В результате мы получаем следующее
Предложение 17.4.3. Для любого открытого множества Y^X
cR" найдутся такие О 0 и Ui&C°°(XX.Y), что в
)ХХХУ
A7.4.6)'" (<Э2/<Э/2 + Р (х, D)) Е С/у (х, у) Е, (t, s (x, у))
о
= (detglk)m80,y + (P(x, D)UN(x, y))EN{t, s(x, у)),
где s(x,y) обозначает геодезическое расстояние между точками
х и у. При s(x,y)^c коэффициенты U/ определяются интегри-

17.4. Конструкция параметрикса по Адамару 57
рованием уравнений A7.4.7) в геодезических координатах, а при
s(x, y)> с их можно определить как угодно.
Если коэффициенты оператора Р принадлежат С°°{Х) и Р
эллиптичен не только в X, но и в X, то можно продолжать его
коэффициенты на некоторую окрестность К и затем принять
У = X. Всё становится, однако, гораздо сложнее, если мы/ хотим
построить параметрикс смешанной задачи для волновой/ опера-
оператора d2/dt2jt-P в RX^ с заданными граничными условиями
Дирихле на дХ. Здесь предложение 17.4.3 можно использовать
лишь при t<Cd(y), где d(y)— геодезическое расстояние от- у до
дХ. В случае когда Р = —A, a X — полупространство, «функция
Грина» с полюсом в @,у), введенная в теореме/ 12.9.12, есть
просто E0{t, х — у) — E0(t, х — у*), где у*— точка, в которую
переходит точка у в результате отражения относительно дХ. Мы
покажем сейчас, что эта конструкция допускает модификацию,
совершенно аналогичную A7.4.6)'", при условии/что t не пре-
превосходит некоторого фиксированного кратного расстояния d(y)
от точки у до границы. В действительности эту конструкцию
можно обобщить на все ty малые по сравнению с dl/2; это усло-
условие приходится наложить, чтобы гарантировать, что световые
лучи, выходящие из точки у, не подойдут к границе по касатель-
касательной. Однако такое обобщение требует существенно больших
усилий, а для приложений в § 17.5 оно нам не понадобится.
Прежде чем приступить к изучению смешанной задачи, по-
полезно перефразировать утверждение о существовании геодези-
геодезических нормальных координат как утверждение о существовании
экспоненциального отображения. Для заданного оператора
Р = - I (д/дх,) (g'kd/dxk) + ? Ь'д/дх, + с
в X cr R" рассмотрим опять риманову метрику ? Sik(x)dXjdxk,
где (g/k)—матрица, обратная к (g'fc). Если у^Х к s — каса-
касательный вектор в у малой нормы
то expj,s определяется как точка на геодезической, выходящей
из у в направлении вектора s, удаленная от у на расстояние
\s\y. При введении геодезических нормальных координат в точке
у экспоненциальное отображение сводится к тождественному.
Поэтому
(У, s) у-*- (у, ехри s)
есть диффеоморфизм некоторой окрестности нулевого сечения
касательного расслоения для X на некоторую окрестность диаго-

S8 17. Эллиптические операторы второго порядка
«али в ^Х^- («По-настоящему» это всё надо, конечно, опреде-
определять для римановых многообразий.)
Рассмотрим теперь риманово многообразие с краем или, для
простоты, открытое ограниченное подмножество X в R" с С°°-гра-
яицей дХ. Предположим, что g'k ^ С°°(Х), и выберем какое-ни-
какое-нибудь продолжение функций gfk на некоторую окрестность мно-
множества К. При условии что геодезическое расстояние d(y) от у
до дХ достаточно мало и |s|j, не превосходит, скажем, 4d(y),
•определим экспоненциальное отображение с отражением ехрг
¦следующим образом. Выпустим из у геодезическую в направле-
направлении s. Если она встречается с границей дХ на расстоянии <|s|v,
то, как мы покажем, их пересечение трансверсально, и дальше
мы будем двигаться по геодезической, выходящей из точки пе-
пересечения в направлении, получаемом по обычному закону от-
отражения. Продвинувшись по ней настолько, чтобы полное прой-
пройденное расстояние было равно \s\y, мы и получим точку
¦exp^s. Отображение {у, s)i—»exp^s обладает стандартными свой-
свойствами экспоненциального отображения. (В обсуждавшемся
в гл. 12 плоском случае экспоненциальное отображение с от-
отражением дает точку (y + s)*.) В частности, при использовании
геодезических нормальных координат метрика в X удовлетво-
удовлетворяет соотношению A7.4.4). В случае когда \s\y = 2d(y) и s —
направление геодезической, минимизирующей расстояние до гра»
яицы, мы имеем expTys = y.
Чтобы упростить обсуждение экспоненциального отображе-
отображения с отражением, предположим, что X задается в некоторой
•окрестности точки Oe'R" условием *„>0 н что координаты
в R" являются геодезическими нормальными по отношению к
граничной плоскости дХ, определяемой уравнением дс„ = 0 (см.
следствие С.5.3). Таким образом,
gfn = 0 при \фп, gnn = l.
Пусть Ко — компактное подмножество в дХ. Рассмотрим мет-
метрику Gv, задаваемую формулой
(\s\vxJ=Z §lk((y', o) + yn*)S,sk.
Она получается из метрики g растяжением и сдвигом. Если
(у', O)s/Co, то эта метрика определена на любом желаемом
¦ограниченном подмножестве в 'R", при условии что уп доста*
точно мало, а при уп = 0 мы получаем плоскую метрику с нуле-
нулевыми компонентами g;n при ]Фп. Прообразом точки у при
отображении, индуцирующем метрику Gv, служит фиксирован-
фиксированная точка П=@, .... О, 1). Экспоненциальное отображение
В" = {SeR"; 15 |Ь < 4} =эS

17.4. Конструкция параметрикса по Адамару 59
отвечающее метрике G", определяет С'-функцию от E, у). При
t/n = 0 оно сводится к отображению S>-*S + П, поэтому при
фиксированном малом уп оно_является диффеоморфизмом
в некоторой окрестности шара В{у'°\ Обозначим n-ю коорди-
координату точки exp^S через F(S, у). При уп = 0 она равна 1 +Sn.
Следовательно, ее множество нулей есть близкая к плоскости
Sn = — 1 гиперповерхность класса С°°, делящая Ву на звездо-
звездообразный прообраз В+ области X и его дополнение Bi. = Ву\В+,
отображаемое в СХ. Для S e Bt уравнение F(XS, у) = 0 имеет
единственное решение K(S, t/)e[0, 1]; это С°°-функция, равная
— l/Sa при уп = 0. Значит, точка отражения
x(S, y) = expyn(k(S, y)S)
также является С°°-функцией от S и у, как и касательный век-
вектор T(S,y) к нашей геодезической в этой точке. При уп==0 она
Уп
У
Рис. 1.
совпадает с S. Пусть T(S,y) обозначает отражен'не^вектора
T(S, у) относительно касательной плоскости к дХ в точке x(S, у);
такое отражение получается просто заменой знака у п-я коорди-
координаты. Тогда наше экспоненциальное отображение с отражением
задается формулой
ехрц = ехр"E у)(A—A,(S, y))T(S, у)), SeB*.
При малых Уп это отображение определяет С°°-функцию or
E, у); при уп = 0 оно сводится к отображению

60 17. Эллиптические операторы второго порядка
Заметим, что экспоненциальное отображение с отражением за-
задает еще одну систему координат в окрестности точки П
(см. рис. 1).
Производная по 5 от полной длины |S|n геодезической
ломаной, идущей из П в x(S, у), а оттуда в точку Y{S, у)
= ехр^5, равна производной от длины геодезической, идущей
из x{S, у) в Y(S, у), при фиксированной точке x(S, у), ибо
закон отражения выражает тот факт, что эта полная длина
стационарна относительно вариаций точки x(S, у). Таким обра-
образом, поверхность {ехрп; |5|ц = /?} ортогональна к геодези-
геодезическим, идущим из x(S, у) bY(S, у). Поэтому для метрики Guy
в В-, индуцированной метрикой Gy в X при помощи экспонен-
экспоненциального отображения с отражением ехр^, прямолинейные
лучи, выходящие из 0, будут геодезическими с длиной дуги 15 |п,
и эти лучи ортогональны к сферам |S|n = const. Но это озна-
означает не что иное, как то, что Gr' " удовлетворяет условию A7.4.4).
Мы можем, следовательно, применить конструкцию Адамара
с этими координатами в Q" = ехр^" В-, с тем чтобы построить
«отражение» параметрикса оператора Р в точке у.
Для этого прежде всего перепишем A7.4.6)'" в «растяну-
«растянутых» координатах. Положим
Ptt(x, D)=-Z(d/dXl)(g'k((yf, 0) + ynx)d/dxk)
+ </„ 5> {{у', 0) + упх) dldx, + у\с ((у', 0) + упх).
Равенство A7.4.6)'" означает, что
(d*/dt2 + Ру (х, D)) Z Uv {{у', 0) + упх, у) Ev (/, s» (х, П)) у%>
«=(det g* (у))тЬ0П+Ру(х, D)UN ((/, 0)+Упх, у) EN(t, *у(х, Щ)у?,
где sy{x, П) есть б^-расстояние от П до х. Мы использовали
тот факт, что мера Дирака в Rn+1 однородна степени —п—I,
a Ev однородно степени 2v+ 1 —п. Пусть Qv — оператор, инду-
индуцированный на В- оператором Ру при помощи экспоненциаль-
экспоненциального отображения с отражением. Коэффициенты оператора Qa
суть С°°-функции от (х, у), и при уп = 0
Определим теперь функции vv e С°° {ВЧ) так, чтобы
A7.4.7)' 2vuv - Hyvv + 2 E, dvJdS) + 2Qvvv_i = 0,

17.4. Конструкция параметрикса по Адамару 61
где Ну задается формулой A7.4.5), отнесенной, разумеется, к
оператору Qy. Чтобы выполнялись наши граничные условия Ди-
Дирихле, надо наложить на vv граничные условия
{17.4.13) o,(S) = ^{/,((/, 0) + ynexpynS, у), S е= В»,
где Во=Ву(]dBt. Ясно, что все определенные так vv будут
С°°-функциями от (S, у). При уп = 0 получаем vo = 1 и vv — 0
для v ф 0. Определим функции Vv(-,y) на йу так, чтобы их об-
обратными образами относительно отображения ехр^у служили »v,
и положим
<17.4.14) #*(/, х, у)= ? (М</. °) + Уп*. У)УпЕЛ *'(*, П»
- Vv (х, у) ?v (t, sr-»(х, П))), х е Q»,
где sr'B(A:, П) обозначает С^-расстояние с отражением от П дох
Пусть Q — множество всех пар (х. у) с х s Q» и у, лежащим
в некоторой малой окрестности и множества К cz дХ. Тогда
&"(t,x,y) = 0 (в смысле теории распределений) при х„ = 0 и
A7.4.15) (<Э2ДЭ/2 + Ру (х, D)) $N (t, x, у)
=(detg'* (у))т б0> у+(Рй (х, D)UN {{у', 0)+упх, у)) y*nNEN (t, s'(x, П))
- (Р, (х, D) VN (х, у)) EN (t, sr- у (х, П)), (х, у) s Q.
Отметим, что поправочный член делается сколь угодно гладким
при больших N. Итак, нами доказано
Предложение 17.4.4. У всякого компактного подмножества Ко
границы дХ существует такая окрестность и в X, что для каж-
каждого N формула A7.4.14) задает параметрикс Жы смешанной
задачи Дирихле — Коши в Q = {(х, у); у е и, sr-»(х, П) < 4} при
t < 4; это означает, что SH(t, x,y) = 0 (в смысле теории распре-
распределений) при хп = 0 и
A7.4.15)' (д*/д<* + Ру (х, D)) $N (/, х, у)
= (detgik(y))Wbo,n + RAt, х, у),
где RN^C? для ц < N — (п — 1)/2. Коэффициенты Vv(x, у)
суть С°°-функции от (х, у) е Q, причем Vo(x, y)=\, Kv (x, у) = 0
для v Ф 0 при уп = 0.
Поскольку коэффициенты падающей волны в A7.4.14) обра-
обращаются в нуль при уп = 0 и ведут себя вблизи уп = 0 как t/^v,
а дифференцирование по л; увеличивает порядок этого нуля,
естественно возникает мысль, нельзя ли усилить последнее
утверждение. Этого, однако, сделать нельзя. Чтобы убедиться

62 17. Эллиптические операторы второго порядка
в этом, проведем доказательство предложения 17.4.4 с точностью
до первого порядка по уп = 8 для случая у' = 0. Можно считать,
что метрика g евклидова в 0 и геодезическая внутри границы,
а значит,
G" = Z dx) — 2ЬхпН (dxr)
(=з означает равенство по модулю О (б2)), где квадратичная
форма Н — это вторая квадратичная форма поверхности дХ в
0 (предполагается, что нормаль к этой поверхности направлена
в сторону X). Поскольку только эта квадратичная форма и
важна здесь, можно с тем же успехом выполнить все вычисле-
вычисления в R" с метрикой ? dx) и множеством X, задаваемым нера-
неравенством хп > 8Н(х')/2, ибо это приводит к метрике G* указан-
указанного выше вида, если взять геодезические нормальные коорди-
координаты относительно дХ. Можно считать, что Н {х') = V H/xf, где
Н\ — главные кривизны, и мы будем писать Н(х') — (х', Нх'У, где
Н — диагональная матрица.
Первый шаг состоит в нахождении X, такого что (XS', 1 +KSn)
<= дХ, т. е.
1 + KSn = 6
Таким образом, XSn = — 1 + 0F) и Х5„ = —1 + 8H(S'/Sn)/2.
Отражение происходит в точке x = (kS',8H(kS')/2). Нормаль
к границе в этой точке имеет вид (—ЬНх', \)s&(8HSf/Sn, 1); ее
длина яв1. При отражении относительно касательной плоскости
в точке х вектор S переходит в вектор
шш(&-26HS1, -Sn-26H(S')/Sn).
Значит,
^(S' - 2A + l/SaNHS', -I - Sn - 6tf(S')(l/S2n + 2/Sn)).
Обратный образ Q оператора Д относительно этого отображения
равен обратному образу оператора Д относительно отображения
Sf-^S + 6i|)(S), где
ip (S) - (-2 A + 1/Sn) HS', (l/Sl + 2/Sn) H (S')).
Следовательно,
Ед д утл d'i)! д
¦Щ^к-З^ + Ь
где ifik(.S) = di(k/dS, -\- d^j/dSk- Функция А, задаваемая форму-
формулой A7.4.5), принимает вид
6 I Skd^i/dStdSk = 26 (Тг Я + Н (S'/Sn))/Sn.

17.5. Асимптотические свойства собственных значений 63
Первое из уравнений переноса A7.4.7)' в полярных координатах
запишется так:
2л dvjdr = hv0;
граничное условие для него имеет вид o0(XS)=l. Таким обра-
образом, vo зз 1 + бшо, где 2rdwo/dr = 2(Тг Н + H(S'/Sn))/Sn, шо=О
при Sn = —1. Это дает
w0 = - (Тг Н + Н (S'/Sn)) A + 1/SJ,
Qv0 ^ 6 До>0 = 6 (-2 Тг H (Sn + 2)/S3n - 6H (Sf) (Sn + 2)/S5n).
Следующее уравнение переноса Bгд/дг + 2)v\ — hv\ = — 2Qt>o
с граничным условием v\ = 0 при Sn =—1 имеет решение 0F),
поэтому можно опустить член hv\ и, выполнив явно интегрирова-
интегрирование, получить
о, тш -26 (Тг Н + 3H(S'/Sn))(l + Sn)/Sl
По индукции заключаем, что для v > О
A7.4.16) pv==-62vBv-l)!!(Trtf
+ Bv + 1) Н (S'/Sn)) (I + Sn)/S^+1.
Полагая, в частности, S' = 0, 5„ = —2, получаем
Предложение 17.4.5. Для коэффициентов отражения Vv, фигу-
фигурирующих в A7.4.14), при уп = 0 справедливо равенство
dVv (П, у)/дуп = -2-"-1 Bv - 1I! f (yf),
где F(y') — средняя кривизна поверхности дХ в точке (у',0).
(Здесь (—1)!! понимается как 1.)
17.5. Асимптотические свойства собственных значений
и собственных функций
Как и в § 17.4, мы обозначаем через Р(х, D) дифференциальный
оператор второго порядка вида
Р (х, D) = - S (д/дх,) (g'kd/dxk) + S Ь'д/dxj + с
с коэффициентами из €°°(Х), где X — ограниченное открытое
подмножество в R" с С°°-границей, Предположим, что матрица
(gik) является вещественной и положительно определенной в X
и оператор Р симметричен относительно некоторой плотности
Ydx, 0<Г<=С°°(Х):
A7.5.1) (Р (*, D) и, v)r = (и, Р (х, D) v)r, и, v <= Со°° (X),

64 17. Эллиптические операторы второго порядка
где
(и, v)r = \ uvT dx.
(Использование плотности принципиального значения не
имеет — оно освобождает от лишних замен координат, и толь-
только.) Пусть 9* — определяемый дифференциальным оператором
P(x,D) оператор в Lr{X) с граничными условиями Дирихле.
Как объяснялось в § 17.3, и^.2Ь& тогда и только тогда, когда
о
Р(х, D)u=f e L2 и и принадлежит замыканию Н множества
С"(X) в На)(Х). Для таких и
Z (gikDku, D,v) + ? (У д,и, v) + (си, v) = (/, v), v e Я.
Используя A7.5.1), мы заключаем, что если ве^, то
(&U, о)г = (н, !Pv)r. Выбирая о==Ты, получаем
Z II Dju IP +1| и ||2 < С, (Л», и)т + С21| и |р, и е 3>,,
где || || обозначает ^2-норму в X. Следовательно, оператор 9*
замкнут. Отсюда, как и в § 17.3, следует, что оператор Р -f- C<i\C\
биективно отображает Ф& на L2; этим доказано, что 3* само-
самосопряжен. Заменив P(x,D) на Р(х, D)-\- С2/С\, мы не нарушим
справедливости ни одного из устанавливаемых ниже утвержде-
утверждений о собственных функциях и при этом будем иметь
A7.5.2) ИвМ^С^Л!, в), ие?>,;
здесь использовано обозначение
Начиная с этого места будем считать условие A7.5.2) выпол-
выполненным. Далее, обозначим через R(k)(X) множество всех и, для
которых Dau^L2(X) при |ос|^&, наделенное определенной
выше нормой. В силу неравенства Коши — Шварца и неравен-
неравенства A7.5.2)
A7.5.2)' Ци|кп<С,||Л|||, и
В § 17.3 была получена более сильная оценка A7.3.6), которую
мы разовьем следующим образом:
Лемма 17.5.1. Если «g^ и ^и е ЯD,(Х), где k — неотрица-
неотрицательное целое число, то й(^
A7.5.3) \\и\\к
Доказательство. Для k — Q это следует из теоремы 17.3.2. Пусть
k > 0. Предположим, что утверждение леммы уже доказано при

17.5. Асимптотические свойства собственных значений 65
k, замененном на k— 1. Тогда для <р eCo°(R")
II9 (Ф«) ll(ft) < sup | Ф11| Ри \к) + С || и \k+u < С || 9>и \к).
Следовательно, достаточно доказать A7.5.3) для случая, когда
носитель и лежит в какой-либо координатной окрестности. Мож-
Можно считать, что координаты в этой окрестности выбраны так, что
X совпадает с полупространством хп > 0. Для / < п имеем
DjU e H и PDjU = DjPu + iP(j)U, где Р^ — снова некоторый опе-
оператор второго порядка. Поэтому оценка A7.5.3) с k, заменен-
замененным на k— 1, дает
II Д/« IU> < Cft_, (|| Dfu \k_n +1| и ||(А+1)) < С || &и \\k).
Отсюда следует желаемая оценка для всех Dau с |а| = k + 2, за
исключением D*+2u. Но из вида нашего дифференциального опе-
оператора вытекает, что
Dlu = (gnTl f- Z О;(g'kDku) + ... + <Pu),
где многоточие обозначает члены низшего порядка. Отсюда
сразу получается желаемая оценка для Л*+2ы, чем доказатель-
доказательство и завершено.
Одним из полезных следствий оценки A7.5.3) служит оценка
A7.5.4) \\u\\2k)<Ck\\3>kul и<=Ф„к
(с некоторой новой постоянной). Для k=l она очевидна. Если
ft> 1 и оценка A7.5.4) уже доказана для всех меньших зна-
значений k, то
так что A7.5.4) вытекает из A7.5.3).
Уже оценка A7.5.2)' показывает, что оператор & имеет ди-
дискретный спектр, а из A7.5.2) видно, что & положителен. Фак-
Фактически, если Е\ — спектральное семейство оператора 9* и
и — Ещ, то H^ulK^IMI, а значит, ||и||(п< CiX||«||, в силу
A7.5.2)'. Множество всех таких и с 1!«||^ 1 компактно в L2 по
теореме 10.1.10. Поэтому E^L2(X)—конечномерное пространство
(см., например, лемму 19.1.4). Пусть фЬ ф2, ... —ортонормиро-
ванный базис в Lr, состоящий из собственных функций, отве-
отвечающих собственным значениям 0 < К\ ^ Х2 =?^ • • ¦ • Тогда
Ф/ е С°°(Х), поскольку ф,-еЛщ(Х) для любого k, и оператор Ех
задается ядром, равным произведению функции Т(у) на функ-
функцию
A7.5.5) е(х,у, Х)= ^
Я Зяк 443

66 17. Эллиптические операторы второго порядка
называемую спектральной функцией оператора 3*. Мы восполь-
воспользовались здесь следующим дополнением к лемме Соболева
(лемме 7.6.3), позволяющим также получить оценку спектраль-
спектральной функции е:
Лемма 17.5.2. Пусть v + п/2 < k. Тогда если и е Нш (X), то
и<=С{Х) и
A7.5.6) ^^-^^S
Доказательство. Разлагая и с помощью разбиения единицы, убе-
убеждаемся, что достаточно доказать утверждение леммы для слу-
случая, когда и имеет носитель в какой-либо координатной окре-
окрестности; поэтому можно считать, что X — R+ и и имеет компакт-
компактный носитель. В силу теоремы В.2.1 достаточно установить
A7.5.6) для ueCo°(R+)- Для таких и мы получим даже оценку
A7.5.6)' 5i*-|a|-n/2sup|DaU|2<C( ? || D4f +** || Uf
vj э j—ft
Беря Х1/2х в качестве новой переменной, видим, что достаточно
доказать последнюю оценку для X = 1. С этой целью покажем
сначала, что
A7.5.7) hD'nuf<CqDknuf+\\uf).
При k = 1 эта оценка очевидна. Переходя к случаю k = 2, заме-
заметим, что справедливо тождество
\v''f-\v'f + \v ?)dt=
оо
Действительно, достаточно проверить это для вещественнознач-
ных и, а для таких v
О _ v'i + 02 _ @" + о' + оJ = (v" + о')(о" — о' — v" — v' — 2о)
= _2 (у" + v') (v + v').
(Более глубокое обоснование указанного тождества состоит в
том, что ?4 —12+ 1 =|?2 —1?— 1|2, ?e R, а у квадратного
трехчлена |2—i|— 1 нули лежат в верхней полуплоскости.) От-
Отсюда следует, что A7.5.7) выполняется для k = 2 с С = 2. Из-
Изменяя масштаб, получаем для L2-HopM на @, оо)
-4MI2, e>0,

17.5. Асимптотические свойства собственных значений 67
откуда следует, что ||t/||2^ 2||d"||||d||. Если теперь A7.5.7) дока-
доказано для некоторого значения k, то, применяя последнюю оценку
к Dnu, заключаем, что
Так как 2C||b|||dS«|<|D^bP/2 + 2С2||ы||2, то после сокраще-
сокращения члена jD^uf/2 мы приходим к оценке A7.5.7) с k, заме-
замененным на &+1, и некоторой новой постоянной С.
Далее, используя формулу Парсеваля при фиксированном хп,
можно усилить A7.5.7) до оценки
A7.5.7)'
Очевидно, эта оценка верна, если в обеих суммах оставить лишь
члены с есп = 0, а чтобы получить ее в полном виде, надо затем
воспользоваться A7.5.7). Доказательство оценки A7.5.6)' сво-
сводится теперь к проверке оценки
sup|u|2<C||u||2 us%(R"+),
*„>о w
для k > п/2. Ввиду следствия В.2.6 достаточно проверить эту
оценку для ue#(fc)(R"), так что остается просто сослаться на
лемму 7.6.3. Доказательство завершено.
Теперь можно получить грубую, но полезную оценку спек-
спектральной функции.
Теорема 17.5.3. Существуют постоянные Са, такие что
A7.5.8) | DI. уе (х, у, X) | < СД(л+| a m, х,у&Х.
Доказательство. Возьмем f e L2 и применим к и = E%f оценку
A7.5.6) с 2&>|a| + n/2. Поскольку в силу A7.5.4)
мы получим, что
\DaEj(x)\2<Ca*}ai+n/2\]f\f.
Здесь
DaEj (х) = (f, g)r = (EJ, g)r, g (у) = Die (x, у, К).
Следовательно, E,? = g и ||g||2 ^ Ca№+n'2. Но
поэтому A7.5.6) дает
чем и завершается доказательство.
3*

48 17. Эллиптические операторы второго порядка
Из A7.5.8) немедленно следует, что для числа N(k) соб-
собственных значений, не превосходящих X, считаемых с учетом
кратности, справедливо равенство
N (Я) = tr Ек = \ е (х, х, \) Г (х) dxt
где tr обозначает след. (Надо просто проинтегрировать опреде-
определяющее равенство A7.5.5).) Цель этого параграфа — получить
весьма точное описание асимптотических свойств функции N(X),
оценивая е(х, х, X) сначала на компактных подмножествах в X,
а затем на границе.
Замечание. Как показывает небольшая модификация доказа-
доказательства теоремы 17.5.3, если предполагается лишь, что коэф-
коэффициенты оператора P(x,D) принадлежат С°°(Х), и & — какое-
либо самосопряженное расширение оператора Р(х, D) с областью
определения Со", ограниченное снизу, то ?*, задается О-ядром,
которое удовлетворяет оценке A7.5.8) на компактных подмно-
подмножествах в ХХ^ В случае когда у границы дХ имеется гладкая
часть и, причем коэффициенты оператора P(x,D) остаются
гладкими в Х[]а, и область определения оператора 9* содержит
все гладкие функции с носителем в Х[|й, равные нулю на ю,
оценка A7.5.8) сохраняет силу на компактных подмножествах
в (.YUoi)X(^Uoi)- В этой ситуации оператор может и не иметь
дискретного спектра, так что формула A7.5.5) теряет смысл.
Однако доказываемые ниже результаты о спектральной функции
остаются верными.
Хотя наша цель — изучить ядро оператора Е\, сначала мы ис-
исследуем ядро другой функции от оператора &>, к которой легче
подступиться. В этом отношении одним из особенно удобных
является косинус-преобразование спектральной меры
cos (/ -\/W) = \ cos
оо
Чтобы найти ядро этого оператора, возьмем tJj
/еС"(Д Имеем
\ (cos (t л[?) f, f)r $(t)dt= 5 ф (t) dt \ cos (t VT) de (f, f, X),
где
e(f, f, Я.)-(EJ, f)T=\\e(x, у, Л) Щf (y)T(x)T(y)dxdy

17.5. Асимптотические свойства собственных значений 69
— неубывающая ограниченная (не превосходящая ||/||2) функция
от X. Меняя порядок интегрирования, получаем
de (f, f, X)
oo
= J 5 FW f (?) Г (*) Г (*,) rf* rfy J (tj> (т) + ф (- t)) dte (jc, y, x*)/2.
о
Последняя перемена порядка интегрирования, очевидно, закон-
законна, если ф е С". Следовательно, обобщенное ядро K(t, x, у)
^ 3>'(R'Х X'Х X) оператора / н-* cos (/ V^1) / представляет со-
собой преобразование Фурье по т умеренной меры dm(x,у,х), где
A7.5.9) т (х, у,х) = Г (у) (sgn т) е (х, у, т2)/2.
То, что это умеренная мера, выводится при помощи стандарт-
стандартного рассуждения, основанного на использовании поляризацион-
поляризационного тождества, из того факта, что для произвольных комплекс-
комплексных чисел а и Ь
\а\2е(х, х, Х) + аЬе(х, у, l) + abe(y, х, Х) + \Ь\2е(у, у, I)
есть О ("к2) (в силу леммы 17.5.3) и неубывающая функция от
X. Если нам удастся получить достаточную информацию относи-
относительно соз(/д/^)' т0 обращение этого преобразования Фурье
позволит нам установить желаемые результаты относительно
е(х,у,\). _
Если feC~, то функция u(t, х) = cos{tл/&>)f (x) равна /
при / = 0; далее, du/dt = 0 при / = 0 и
\\(d/dt)f<?ku\\^\\<?+kf\\
для любых положительных целых J и k. Следовательно, ввиду
A7.5.4) и леммы 17.5.2, ue=C°°(RX*) и и = 0 на RXdX.
Кроме того,
(Р + д2/дР) и = 0.
Поэтому, используя параметриксы, построенные в § 17.4, и на-
начальные условия а = / и du/dt = 0 при t = 0, можно прибли-
приближенно восстановить и. Прежде чем записать это приближенное
решение, докажем одну лемму, которая позволит нам оценить
погрешность приближения.

70 17. Эллиптические операторы второго порядка
Лемма 17.5.4. Пусть оеСю([0,?')Х^) — решение смешанной
задачи _
(P + d2/dt2)v = h в[0,Т\ХХ,
A7.5.10) о = 0 на [0, Т]ХдХ,
v=dv/dt = O при t = 0.
Предположим, что d'h/dt1 = 0 при t — 0 для j < k. Тогда
A7.5.11)
о
Доказательство. При А == 0 это неравенство представляет собой
стандартную энергетическую оценку, доказываемую следующим
образом. Поскольку (Pdv/dt, v)T — (dv/dt, Pv)T, то
2 Re (A, dv/dt)T = (d/dt)()\dv/dt\%. + (Pv, v)T).
Интегрирование от 0 до / дает, в силу A7.5.2),
|| до/dt fr +1| v If,/?, < 2М J || h (s, •) ||r ds.
0
M2 = o sup ^ || 5o (s, • yds |fr +1| v (s, ¦) If, yc,.
Та же оценка справедлива и при меньших значениях /; следо-
следовательно,
что и доказывает оценку A7.5.11) для k = 0. Пусть k > 0. Тогда
^/дР = п — Pv = 0 при ^^0. Поэтому, если оценка A7.5.11)
уже доказана для меньших значений k, можно применить ее к
dv/dt и получить неравенство A7.5.11), только без члена, от-
отвечающего ] — k-\-\, в левой части. Но ввиду A7.5.3)
||о(/, •I1(*+1)<сцр0(/, • )!!,*_„
чем и завершается доказательство.
Выберем с > 0 так, чтобы A7.4.6)'" выполнялось для всех
{х, ;/)еХХ^| для которых геодезическое расстояние s(x,у)< с.

17.5. Асимптотические свойства собственных значений 71
Пусть d{y) обозначает геодезическое расстояние от у до дХ. По-
Положим Хр ={у е X; d(y) > р} при некотором р < с. Если уеХр
и t < р, то фигурирующий в A7.4.6)'" параметрикс
N
&V, х, у)= ? Uy(x, y)E4{t, s(x, у))
о
определен при хеХи равен нулю вблизи дХ. Для f e С
функция
принадлежит С00([0, р]XX), причем и —0 на [0,р]У.дХ и
и — 0, du/d/ = / при / = 0. Далее, и непрерывно зависит от f
в С°°-топологии. Это сразу следует из леммы 17.4.2, если ввести
вместо у новую переменную г, определяемую соотношением
expj,2 = x, ибо мы получим тогда сумму членов, в которых
Ev{t, г) действует иа С°°-фуикции от г и х как на функции от г.
Таким образом, функция
v = cos (/ л[?) f — du/dt
имеет нулевые начальные и граничные значения, и в силу
A7.4.6)'"
= - J dRN (/, х, y)ldt (det glk (у)Г112 f (у) dy,
RnV, x, y) = (P(x, D)UN(x, y))EN{t, s(x, y)).
В силу леммы 17.4.2, RN^Ck+1, если k удовлетворяет условию
tf > k + (n + 1) /2, и при | а К Л мы имеем
I Dl х. у dRN (t, х, у)/д( | < с/2""""'.
Поскольку s(x, y)^t на носителе функции RN, то
о о
Поэтому лемма 17.5.4 дает
\\v(t, .)ll(ft+1) +II?*»(>. •)ll(ft)<c/2JV+1-n/2-ft||/||i.1, t>o.
Здесь k может принимать и значение 0. Используя лемму 17.5.2
с % = t~2, получаем, что если | а | + «/2 < k + 1 и, в частности,
если | а | + п ¦+¦ 1 <С N, то производная Dx,tv непрерывна и
A7.5.12) |Д^

72 17. Эллиптические операторы второго порядка
при условии что дифференцирование по t выполняется макси-
максимум один раз. Это ограничение сразу снимается с помощыо
уравнения d2v/dt2 — h — Pv.
Положим
KN (t, x, y)=*dm~(x,y,t)- ё\ (t, x, у) (det g'k (у)Гm, t > 0;
это непрерывная функция от t со значениями в 3)'(Х~ХХ0). Если
в доказательстве оценки A7.5.12) заменить / на D$f, то мы при-
придем к неравенству
\Dax.t(KAt, х, у),
при |а+р| + л+ KN. Выберем функцию х<^С™ (R")
с ^xdx=l и положим %г{х) = %{х1ъIъп. Взяв f(y
получим
\Dax.z.t(KN(t,x, -), хЛ*- •))|<С/2ЛГ-'а|-п, \a\
Устремляя е к 0, заключаем, что KN^(f~n~3 и
\Dly.tKAU х,
Поскольку dm — четная функция от t, та же оценка справед-
справедлива и для определенной при всех IgR функции
d^(x, у, t)-dt(ff(t, х, y)-g{-t, x, у)) (det S1k(y)Tm.
Здесь все члены — непрерывные функции от (х, у) со значениями
в 3)'(R), поэтому можно положить х = у и получить следую-
следующий результат:
Теорема 17.5.5. Пусть Q={(t,x)^RXX; \t\ < mm(d(x), с)}.
Тогда функция
d^l(x, x,t)- Z dt(Ev{t, 0)-?vtf, 0))?/v(*> x)(detgfk(x)rV2
2v<n
принадлежит C°°(Q) при четном п — как она есть, а при нечет-
нечетном— после деления на \t\; все производные этой принадлежа-
принадлежащей C°°(Q) функции ограничены в Q. При t^O разложение
в ряд Тейлора по t в обоих случаях имеет вид
dt(E4(t, 0)-?v('. 0))?/v(*, *)(det?/ft(*)r1/2-
Здесь коэффициенты Uv (x, x) представляют собой ограничения
на диагональ коэффициентов из предложения 17.4.3 и, значит,
являются многочленами от коэффициентов оператора Р, их про-
производных и (detg{i(x))-1.

17.5. Асимптотические свойства собственных значений 73
Из леммы 17.4.2 следует, что для четных п
dt (?v (/, 0) - ?v (/, 0)) = 2-»п11-ауя?-я/Г (v + A - л)/2)
(мы используем обозначение C.2.10)'); для нечетных п надо
просто заменить /на \t\, за исключением случая, когда 2v = n
— 1 — 2k, где k — целое ^0, ав этом случае
dt(Ev(t, 0)-?v(/, 0))-2-V-")/2(-l)^!6(
При t ф 0 это очевидно, а при t = 0 верно, поскольку левая часть
однородна степени 2v — пи четиа по t, так что распределение
с носителем в 0 может появиться лишь в последнем случае, а ои
явно описан в лемме 17.4.2.
Если преобразование Фурье данной меры d\k известно на ка-
каком-либо интервале /, то можно вычислить свертку меры dp
с любой функцией ф, для которой suppfcz/. Приводимая ниже
лемма дает оценки для этой меры, которые можно получить
6 таком случае. Пусть tp обозначает какую-нибудь положитель-
положительную функцию из 9?(R) с \ф(т)йт=1 и supp9<=(—1, 1); на-
например, годится ф= l^l2*!^!2, где -ф — функция с /Лнормой 1
и с $ «= СГ ((—1/2, 1/2)). Положим фа (т) = ф (т/а)/а, а > 0, так
что фа(/) = Ф(и/) имеет носитель в интервале (— 1/а, 1/а).
Лемма 17.5.6. Пусть ц — неубывающая функция умеренного
роста с ц@) = 0, a v — функция локально ограниченной вариа-
вариации с v@) = 0. Если
| (d — dv) * Фа (т) К М, (| т
при некотором «е[0, п—1] и некоторых ао^а, ах~^а, то
A7.5.14) ln^-v
где С зависит лишь от к и п.
Доказательство. Выберем с0 > 0, такое что ф > с0 в интервале
(—1/2, 1/2). Справедлива оценка
т
т-а/2

74 17. Эллиптические операторы второго порядка
поскольку
S Фа (s) (I т - s I + ао)" ds = \ ф (s) (| т - as | + ао)" ds
(в)A + |5|Г' ds.
Разделив интервал @, s) на интервалы длины ^1 общим числом
^|s|+l и используя на каждом из них эту оценку, заклю-
заключаем, что
+ М,(I т 1 +a, + a|s|)K).
Умножая на ф(«) и интегрируя, получаем оценку
| ц (т) - |i * Фа (т) | < С& (Мо(| т | + а,/-1 + Mi (| т | + а,)м).
Первое из неравенств A7.5.13) дает такую же оценку с ц, заме»
ненным на v, и Mi, замененным на 0, а интегрирование второго
от 0 до т дает
1 (ц — v)* Фа(т) — (ц — v)*Фа@)|<ЛГ,| т|(| т|Ч-«jf.
откуда и следует A7.5.14).
Фигурирующее в следующей теореме ео{О,Х) определяется
по формуле A7.4.12) и, значит, равно объему единичного шара,
помноженному на Bп)-пХп/3.
Теорема 17.5.7. Для спектральной функции е(х,у,Х) рассмотри'
ваемой задачи Дирихле в X справедлива оценка
A7.5.15) \е(х, х,
где d(x)— расстояние от х до дХ.
Доказательство. Применим лемму 17.5.6 с a= l/min(d(jc), с) и
ц(х) = т(х, х, ¦x)=Y(x)(sgnx)e(x, x, т2)/2,
v (т) = (sgn т) е0 @, т2) (det g'k (дс))~ w/2.
В силу леммы 17.4.2, главный член в разложении преобразовав
ния Фурье dn меры dp, даваемом теоремой 17.5.5, равен преоб-
преобразованию Фурье меры dv; прочие сингулярные члены суть пре-
преобразования Фурье произведений гладких функций от х на
I*!"-1-21, 0<i^(n— 1)/2. Следовательно, (dn — dv)*fa есть
сумма регуляризации этих произведений и некоторой ограни*
ченной функции, так что выполняются неравенства A7.5.13)^
с x = max(n — 3,0). Значит, справедливо A7.5.14), что доказы*

17.5. Асимптотические свойства собственных значений 75
вает оценку A7.5.15) для d{x)V/2> 1, а для d{x)W2 < 1 эта
оценка следует из A7.5.8). Теорема доказана.
Следствие 17.5.8. Пусть N(X)—число не превосходящих К соб-
собственных значений рассматриваемой задачи Дирихле в X. Тогда
A7.5.16) | ЛЛ (Я.) — Bя)~пСп vol {X) Хп'2 | < Ctin~mlog К
где \о\(Х) — риманов объем области X, а С„— евклидов объем
единичного шара.
Доказательство. Поскольку
= \e(x, x,X)T(x)dx,
х
{17.5.16) получается интегрированием A7.5.15).
Оценка A7.5.16) — громадный шаг вперед по сравнению с на-
нашей прежней оценкой N (X) — О (ХП/2). Однако мы сейчас пойдем
еще дальше и покажем, что множитель log Я в правой части
можно опустить. Важность этого уточнения объясняется тем, что,
как показывает один из приводимых ниже примеров, оценка
О (Х,("-1)/2) для погрешности иногда неулучшаема. Мы покажем
также, что граница дХ оказывает на N(k) влияние, пропорцио-
пропорциональное д,("-1)/2 и своему риманову объему.
Ключевой момент — обобщение теоремы 17.5.5, дающее
¦больше информации на дХ. Чтобы его сформулировать, введем
отображение
дХ X [0, с] =э {х', 6) н-> х (х/, 6) е= X,
такое что 8ь-*х(х', б) есть геодезическая с длиной дуги б, нор-
нормальная к дХ в точке х' при 6 = 0. Для малых с это отобра-
отображение является диффеоморфизмом в некоторой окрестности Хе
границы дХ в X. Обозначим обратное к нему через х*—>(у(х),
d{x)). Таким образом, d{x) — это, как и прежде, геодезическое
расстояние от х до дХ, а у(х) — точка на дХ, находящаяся от х
на геодезическом расстоянии d(x).
Теорема 17.5.9. Если с достаточно мало и *е Хс, 0 < t < с, то
A7.5.17) tnd2(x, х, /) = /,(*, t)-I2(y(x), d(x)/t, t),
где /i и 12 обладают следующими свойствами:
(i) функция /i принадлежит С°°{ХХ[0,с)), и ее разложение
s ряд Тейлора по t в точке t = 0 имеет вид
Z 2-V1- п)'Ч^ (Г (v + A - л)/2))-' U4 (х, х) (det g>k (я))'2
{Uv — функции из предложения 17.4.3);

76 17. Эллиптические операторы второго порядка
(и) на носителе функции l2(x',Q,t) выполняется условие
20 ^ 1, а на ее носителе сингулярности 20 — 1; далее,
12(х', е, /)-zVv(n, x(x', Qt))(detgIk(x(x', e/))rlpe-*^(i, 2е>
е С* (<ЭХ X [1/3, 1] X [0, с)), k<tx-(n- 1)/2,
где Vv такие же, как в предложении 17.4.4, a E'v{t, x}
= dEv(t, x)/dt; наконец,
Прежде чем приступить к доказательству этой теоремы, за-
завершить которое мы сможем лишь в гл. 24, извлечем из нее
с помощью леммы 17.5.6 некоторые следствия, касающиеся спек-
спектральной функции задачи Дирихле.
Теорема 17.5.10. Спектральная функция е(х,у,Х) рассматривае-
рассматриваемой задачи Дирихле в X удовлетворяет оценке')
A7.5.18) \е(х, х, К)Г(х)-(ео(О, к)-eoBd(x),
Доказательство. При d(x)>c>0 это следует из теоремы
17.5.7, так как в силу следствия 7.7.15
A7.5.19) |eoBd(x), X)\^Ckn'2(l+d{x)bm)-{n+l)'2,
а правая часть последнего неравенства есть О (A,("~I)/2/d (я)).
При d(x)*s^c применим лемму 17.5.6 с фиксированным а—1/с и
ц(т) = m{х, л,т) = уГ(х)(sgnт)е(х, х, т2),
)(eo(O, x2)-e0Bd(x),
Из A7.4.12) вытекает, что
где dS — евклидова поверхностная мера. Следовательно,
где Bп)"С — площадь единичной сферы. Таким образом, вы-
выполнено первое из неравенств A7.5.13). Поэтому теорема будет
') Здесь и ниже еоF, X) означает ео(бх, X), где * — любой вектор дли-
длины 1. — Прим. ред.

17.5. Асимптотические свойства собственных значение 77
доказана, если мы установим, что
A7.5.20)
Действительно, У0(П, х)— 1 = 0{d(x)) и d{x)eQ{2d(x),-xi)
= О(тп-1) в силу A7.5.19).
Из доказательства теоремы 17.5.7 вытекает, что обратное
преобразование Фурье от
Лп(х, х, ()-Гп12(у(х), d(x)/t, t)
- (?J (/, 0) + % (- /, 0)) (det g<ky1'2)
оценивается величиной СA+|т|)"~2. Остается оценить обрат*
ное преобразование Фурье от
ф(//с)Г"(/2(у(дс), d{x)lt, t)-V0(U, x)Eo(l,
Если 0 <Г8 < 1/3 и xn = d(x), то разность
fdtH{x, х, /)-
имеет равномерно ограниченные производные по (х/, 0, t) при
малых i и обращается в нуль, когда 0 = 0 или /=0; значит,
эта разность есть 0@*)= O(d(x)). Поэтому
|/2(х', 0, /)-70(П, |
0<9<1/3,
где d = d(x). Если 1/3 < 0 < 1, то в силу утверждения (и^
теоремы 17.5.9 такая же оценка справедлива после вычитания
достаточного числа сингулярных членов. Для функции, не пре-
превосходящей С|ф(//с) |((/2 + d)/(t + d)n + 1), обратное преобразо-
преобразование Фурье по t оценивается величиной
Выберем четную функцию -ф s С™ ((—4, 4)), равную 1 на интер-
интервале A,3) и 0 на интервале @,1/2). Достаточно оценить об-
обратное преобразование Фурье от сингулярных членов в разло-
разложении функции h с v ф 0, обрезанных с помощью множителя
). Покажем сначала, что обратное преобразование Фурье
{/d) & (/ 2)/rf й
j(/) обр рр ур
по t от ty{t/d) & (t/d> 2)/rf оценивается величиной

78 17. Эллиптические операторы второго порядка
A +|T|d)<"-1)/2-v. Вводя t/d в качестве новой переменной,
сводим дело к случаю d = 1. Имеем
v , 2) = Cvap @ / (/ + 2)^^'\^п+т V ~ 2).
Обратное преобразование Фурье от последнего сомножителя с
точностью до числового коэффициента равно е2н(х + iO)("~l)/2~v
(пример 7.1.17), откуда и следует утверждаемая оценка, по-
поскольку обратное преобразование Фурье от произведения всех
остальных сомножителей принадлежит 9". Напомним, что
Vv = O{d). Далее,
1 т
Г2),
так как (я — 1)/2 — v^n — 2 при v =ф= 0. Это доказывает оцен-
оценку A7.5.20), а с ней и теорему.
Теперь покажем, что логарифм в A7.5.16) можно опустить.
Подготавливая загодя одно уточнение этого результата, кото-
которое будет дано в гл. 29, мы на самом деле докажем несколько
больше:
Следствие 17.5.11. Для tp <= С1 {К)
limttl-nV2\[q{x)e{x
-Г/2 Bя)"п С„ \ (det g<k (у)Г1/2 ф (у) dy
A7.5.21) limttl-nV2\[q{x)e{x, x,
еде dS — элемент риманова объема на дХ, a Cv — объем еди-
единичного шара в Rv; постоянная С не зависит от if.
Доказательство. Пусть с выбрано столь малым, что отображе-
отображение дХХ[0, с] э(дг', б)>—»х(а:', б) —диффеоморфизм. Если
d(x)> с/2 на supp ф, то A7.5.21) следует из теоремы 17.5.7;
поэтому можно считать, что d{x)<Cc на supprf. В силу A7.5.8)
и A7.5.19) правую часть оценки A7.5.18) можно заменить на
СА,"/2, и в случае, если d(xJ-n> А/"-1^2, это дает более точную
оценку. Умножим видоизмененную таким образом оценку
A7.5.18) на Wl-nv2\$(x) | и проинтегрируем по X. При п=2
интеграл от правой части, очевидно, ограничен /Лнормой
функции if. При п > 2 то же верно для интеграла, взятого по
множеству, на котором d{x)W/2 > 1. Мера множества, на ко-
котором d(xJ-n > A,("-i>/2 есть О(А,<"-1>''2<2-'1>), и, следовательно,
интеграл от Л.1'2 по этому множеству есть О(Х1^*-2"'>). Интеграл
от U2-n)/2d(xJ-n по множеству, на котором ^(д:J-" < Я,'"-1»/2,

17.5. Асимптотические свойства собственных значений 79
но d(x)k1/2 < 1, оценивается величиной того же вида, помно-
помноженной в случае ft = 3 на log к. Значит, интеграл по множе-
множеству, на котором d(x)ki/2 < 1, есть О (A,1''4-2"' logX,)-»-0 при
к —»- со.
Остается показать, что
A7.5.22) Xil-n)l2(^(x)e0Bd(x), ki)(detg'k{x))~l"dx
*0 при Л-*оо.
Для этого воспользуемся координатами (х7, б). В этих коорди-
координатах элемент риманова объема (detglk(x))~1/2dx принимает
вид а (л/. 6)dS d8, где a(xf, 0)= 1. Таким образом,
|ф(х(х', 6))а{х1, 6) - ф(д/, 0) |<Си,
и в силу A7.5.19)
коB6, к) \^Скт A + 6кт
Имеем
5 J
о о
поскольку последний интеграл есть O(V'*) (ибо п^2). Далее,
Поэтому первый интеграл в A7.5.22) можно заменить на
к', 0)<?оB6, k)dd.
дХ О
Но
ОО 00
еоB6, k)d6 = ^ \ eoF, k)d6.
о -<»
Так как
где |' = (|2» •••. 5п). формула обращения Фурье дает
еоF, k)d6 = {2n)[-n

80 17. Эллиптические операторы второго порядка
Это завершает доказательство соотношения A7.5.22), а с ним
и всего следствия.
В частном случае ф = 1 оценка A7.5.21) дает
A7.5.16)' | # (Л) — Bя)"я Сп vol (X) кт | < СК{п~т.
Можно также взять функцию ф, равную 1 в некоторой окрест-
окрестности границы дХ и такую, что правая часть A7.5.21) сколь
угодно мала. Следовательно, если возможно определить
е(х, х,к) на компактных подмножествах в X с погрешностью
o(W-!)/2), то мы в состоянии определить и Л/A) с той же по-
погрешностью; при этом вклад границы в общее число собствен-
собственных значений г^ГХ, равен
_ 4-1Л(п-1>/2BпI-"Сп_1уо1 (дХ).
Мы обсудим этот вопрос в § 29.3, после того как будет развит
необходимый технический аппарат. Однако уже сейчас разбе-
разберем некоторые примеры, показывающие, что какие-то дополни-
дополнительные предположения нам придется сделать.
Наш первый пример — оператор Лапласа — Бельтрами на
сфере S"czR"+1. До сих пор мы ограничивались рассмотре-
рассмотрением открытых множеств XcrR". Но делалось это исключи-
исключительно ради читателей, не слишком близко знакомых с рима-
новой геометрией. Все наши рассуждения были локальными, и
потому их можно перенести на случай произвольного компакт-
компактного риманова многообразия с краем.
Рассмотрим единичную феру 5" и введем в R"+' полярные
координаты: х = гсо, где г > 0, со е 5". В этих координатах
оператор Лапласа принимает вид
А = г-2Дш + д2/дг2 + (л/г) д/дг
[(вне начала координат). Здесь Аш — оператор Лапласа — Бель-
Бельтрами на 5". Если и{х)= г^и(со)—однородная функция степе-
степени \л, то вне начала координат
Да = г»1-2 (Дш?> + И (Ц + п - 1) v).
Следовательно, Аы = 0 при х ф 0 тогда и только тогда, когда
v является собственной функцией оператора —Aq>, отвечающей
собственному значению Я, = ц,(ц + ^—1)- Поскольку X пробе-
пробегает все неотрицательные значения, когда ц пробегает все зна-
значения ^1 — п, мы получим все собственные функции оператора
—Аш, ограничив на 5" все распределения и в Rn+', гармони*
ческие и однородные степени ц^1 — п вне нуля (см. § 3.2),
Для таких и распределение Аы должно быть линейной комби-
комбинацией производных от меры Дирака, сосредоточенной в 0, и

17.5. Асимптотические свойства собственных значений 81
мы заключаем, что ц = 1 — п — k, где k — неотрицательное це-
целое число, и
«(*)= ? aaDaE,
где Е — фундаментальное решение для оператора Д, а аа — не-
некоторые постоянные. (В случае k = 0, п = 1 вместо логарифми-
логарифмического потенциала Е надо взять константу. При других зна-
значениях [I на Rn+1 не существует гармонической функции, одно-
однородной степени ц.) Преобразованием Фурье от и служит
2 аЛа 11 Г2; отсюда следует, что и сосредоточено в начале ко-
координат тогда и только тогда, когда |?|2 делит многочлен
^ аа|". Пусть Nk — размерность пространства всех однородных
многочленов степени k от п + 1 переменных, так что
Для k < 0 положим Nk = 0. Из сказанного выше следует, что
кратность собственного значения %k = k(k + n — 1) оператора
—Дш равна Nk — Nk-2, k — 0, I, ... . Поэтому для числа N(K)
собственных значений оператора —Am, не превосходящих X,
справедливо соотношение
-0) = Nk-Nk_2 = 2/fe"-1 A + 0 (l/k))/(n- 1)!.
Таким образом,
%(tnm (N (Л* + 0) - N {lk - 0)) -> 2/(n - 1)!, ?->«>.
Это показывает, что для N(X) не существует асимптотической
формулы с непрерывным главным членом и оценкой остатка
(ei>/2)
)
В случае когда X — полусфера в S", на которой xn+i > 0,
собственными функциями задачи Дирихле в X служат собствен-
собственные функции оператора Лапласа — Бельтрами на S", нечетные
по Хп+и Пусть NT4 (соотв. NTT) — размерность пространства
всех однородных многочленов степени k от п + 1 переменных,
нечетных (соотв. четных) по х„+\. Очевидно, что
ибо нечетные по хп+\ многочлены представляют собой произвел
дення четных на х„+1. Следовательно,
ir агнеч «гнеч , 1Гчет л г чет
— /V*_2 = Nk — Nk-2 + Nk — Nk-2
l жгнеч >гнеч \ ¦ /жгнеч >гнеч\

82 17. Эллиптические операторы второго порядка
Но NT4 — Nfei42 есть размерность собственного подпростран-
подпространства задачи Дирихле в X, отвечающего собственному значению
%k> так что мы вновь получаем скачки, имеющие величину по-
порядка A,'"-1)/2. Вывод отсюда такой же, как и в случае S", но
теперь, очевидно, мы можем с помощью стереографической
проекции реализовать X как шар в R" с римановой метрикой,
которая является конформно-евклидовой.
Для доказательства теоремы 17.5.9 нам понадобятся два до-
добавления к лемме 17.5.4. Первое из них — утверждение о ко-
конечной скорости распространения волн для смешанной задачи
Дирихле — Коши:
Лемма 17.5.12. Пусть v e С°°([О, о°)Х Х)~ решение смешан-
ной задачи
+ P)v = h в [0, о
v = О на [О, оо) X дХ, v = v0 и dv/dt = »t при I = 0.
Положим
4>(x) = min(min# + s(x, у); (t, г/) е= supp Л},
min{s(x, у); #<=supp o0L)suppt>,}),
где s(x, у) — геодезическое расстояние между точками х и у.
Тогда v (t, х) = 0 при t < $ (х).
Доказательство. В силу неравенства треугольника для метри-
метрики s, _
y), x,ye=X.
Для 0 < е < 1 мы можем выбрать такие функции tfe e С°°(Х),
приближающие A — е) -ф, что -фе —»- -ф равномерно в X при е-*-0,
фе^ф и |4>t(*)—1>i@)|<(l —e/2)s(x,0),T. e.
g'k (x) -ц gi— < l ~ ъ<2-
Таким образом, поверхности Sa={(t,x); t = г|)„(х) + a, jte^}
являются нехарактернстическими и h, v0 и Vi равны нулю ниже
So. Пусть А — точная верхняя грань всех а^О, для которых
о = 0 ниже Sa. Если А < 0, то в силу теоремы единственности
для задачи Коши (теорема 23.2.7) или для смешанной задачи
Дирихле — Коши (теорема 24.1.4) о = 0 в некоторой окрестно-
окрестности поверхности Sa. (Доказательства этих теорем единственно-
единственности— просто модификация рассуждений с энергетическим то-
тождеством, использованных при доказательстве леммы 17.5.4, но
нам удобнее привести их попозже.) Значит, А должно равнять-

17.5. Асимптотические свойства собственных значений 83
ся 0, и потому 0 = 0 при t < $е(х). Устремляя е к 0, получаем
утверждение леммы.
Заметим, в частности, что если /еСо°(Л) и s (z, y)<d{y)
для zesupp/, то s(x, у) < d(y)-\-1 на носителе функции
cos (t л/W) f, поскольку, в силу неравенства треугольника,
функция г|) из леммы 17.5.12 удовлетворяет неравенству
s(x, t/)< ilp(x)+d(y). При t<.3d(y) мы получаем s(x,у)
< 4d(y) на указанном носителе. Таким образом, функцию
cos(f л/lF) f можно изучать, «раздувая» окрестность точки у,
имеющую диаметр, пропорциональный d(y), до некоторого фик-
фиксированного размера, как мы это делали в доказательстве
предложения 17.4.4. Прежде чем приступить к этому, нам надо
доказать второе дополнение к лемме 17.5.4, в котором допу-
допускается зависимость от параметра.
Будем обозначать через Pz(x,D) эллиптический оператор
того же вида, что и выше, только еще зависящий от параметра
г е Z, где Z — компактное выпуклое множество в R*' для не-
некоторого N. Предположим, что коэффициенты оператора Рг
принадлежат C°°(XXZ) н оценка A7.5.2) выполняется равно-
равномерно для всех Рг-
Лемма 17.5.13. Пусть vz е С°° ([0, Т] X X X Z) — решение сме-
смешанной задачи
(Р. + d*/dt*) oz = h2 в [0, Т] X X X Z,
A7.5.10)' ог = 0 в [0,T]XdXXZ,
ог = dvjdt == 0 при t = 0.
Предположим, что d'hjdt1 = 0 при t — 0 для j < k. Тогда
<17.5.11)' Z «upID?ж.«»,(/, х)|<С Z sup\D?.x,zhz(t,x)\,
||+/2<* |a|<fe
где верхняя грань берется по [0, Т] X X X Z.
Доказательство. Пусть сумма в правой части доказываемой
оценки равна 1. Тогда в силу A7.5.11) нормы \^+1~'ог^, •)!/)»
/ ^ k + 1> ограничены равномерно по г. Дифференцируя по z,
дифференциальное уравнение (d2/dt2 + Ря) vz = hz, получим
(d2/dt2 + Рг) dv/dzv = dhjdzv - (dPJdzv)vz = Я.
Нормы \О*~1~'H\d, j^.k— 1, ограничены равномерно по г, и,
снова используя A7.5.11), мы заключаем, что и нормы
\Dt~!do/dzv|(/), j^k, ограничены равномерно по г. Продолжая
таким же образом, найдем, что нормы
1 _ | а |t |

84 17. Эллиптические операторы второго порядка
ограничены равномерно по г. Поэтому утверждаемая оценка
вытекает из леммы 17.5.2. Доказательство завершено.
Замечание. В этой лемме не обязательно предполагать, что Я
ограничено; достаточно предположить, что все ог равны нулю
вне [О, Г]Х А" для некоторого фиксированного компактного мно-
множества KczX.
Доказательство теоремы 17.5.9. Пусть, как и в предложе-
предложении 17.4.4, Д"о — некоторое компактное подмножество границы
дХ, задаваемой в локальных координатах уравнением х„ = О,
ч пусть 2gJ[ — близкая к Ко точка. Из параметрикса <?Ny
удовлетворяющего A7.4.15)', при у, близких к П = @, ..., О, 1),
можно получить параметрикс для оператора Рг. Действительно,
«поднимая» уравнение A7.4.15)' при помощи отображения, об-
обратного к
(/, х, y)^(ynt, (у', 0) + упх, у),
т. е. при помощи отображения
{t. х, y)t-*(t/yn, (x-(t/, 0))/уп, у),
мы можем сначала построить параметрикс для д*/дР -f P с по-
полюсом в @,у), а последующее поднятие при помощи отобра-
отображения
nt, (*'. 0) + znx, B', O) + zny)
даст параметрикс для d2/dt2 + Pz с полюсом @, у). Компози-
Композицией указанных отображений служит отображение
(t, х, у) н-* (t/yn, (х - (у', 0))/уп, (г', 0) + гпу\
Вводя обозначение уг = (z', 0) + гпу, приходим к выводу, что
У\ (д2№* + Ря(х, D)) 8" (Цуп, (х - (у', 0))/уп, уг)
(x-{t/, 0))/уп. уг)
для у, близких к П, |f|<4 н sT>г(х, у) < 4. Теперь можно рас-
рассуждать, как при доказательстве теоремы 17.5.5, только с
Кы (U х, у, z) = Zndm(xz, уг, znt)
Для функций f e Co° (R") с носителем, лежащим в достаточ-
достаточно малой окрестности точки П,
= J KN (t. х, у, z) DP/ {у) dy e C°°,

17.5. Асимптотические свойства собственных значений 85
функции vz имеют нулевые начальные и граничные значения,
и у функции
производные по х, t, г до порядка N — п — 2 —]Р| включитель-
включительно равномерно ограничены, при условии что ||f ll^i^ 1 и |^|< 3.
В силу леммы 17.5.12, на носителе каждой из функций vz вы-
выполняется неравенство sz(x, П) < 7/2. Поэтому применима лем-
лемма 17.5.13 (см. замечание после ее доказательства), и мы за-
заключаем, как и при доказательстве теоремы 17.5.5, что для г
из некоторой окрестности множества Ко
Кц (t, х, у, z) e cN~n~* при х и у, близких к П.
В частности, при х = у =П мы получаем функцию класса
*, а значит, разность
I (г, z, znt) - ? (f/v (z) г»?; (t, 0)
о
принадлежит CN-n-* при 0<^<3 и z из некоторой окрестно-
окрестности множества К в X, и все ее производные (до порядка
N — п — 4 включительно) равномерно ограничены.
Пусть М — функция, определенная аналогично т для случая,
когда X заменено на некоторую окрестность Y множества X, а
коэффициенты оператора Р гладко продолжены на Y. Тогда па
теореме 17.5.5 при малых t
N
Ш (г, z, t) - ? Uv (z) E*v (t, 0) (det в>» (z)Tm e= C^"
о
и, следовательно,
^^ N
zndM(z, z, z-t) — Y.U (z)z^v?"v(/, O)(detg/ft(z))~1/2
n v n / 0 v v
принадлежит С"-"-*. Функция Л, определяемая равенством
/, (z, t) = (ndM (z, z, t),
удовлетворяет условию (i) доказываемой теоремы, и для функ*
ции /2, определяемой равенством A7.5.17), разность
N
Г% (z', I//, tzn) - ? Vv (П, г) % (/, 2) (det gik (z))

86 17. Эллиптические операторы второго порядка
имеет при t ^ 3 ограниченные производные до порядка
N — п — 4 включительно. Из леммы 17.5.12 следует, что на но-
носителе этой разности t ^ 2. Введем теперь новые переменные
0 = l/t еA/3, 1) и s = tzn. Тогда t = 1/8 и zn = s8, откуда
видно, что разность
/,(*', в, s)- ? У„(П, (г', ^в-2»^ A, 20)(det^B', sQ))~l/2
о
имеет ограниченные производные по г', 8, s до порядка
N — п — 4 включительно. Это показывает, что условие (и) до-
доказываемой теоремы выполнено при 8 ^ 1/3. То же самое рас-
рассуждение применимо и в случае, когда 6^6 для некоторого
фиксированного б > 0, но, чтобы охватить сколь угодно ма-
малые 8, требуется дополнительное рассуждение.
Функция /,(*', /0, 0 есть С°°-функция, равная ??A, 0)>
(detglk(x', 0))~1/2 при f = 0. Таким образом, для завершения
доказательства достаточно установить, что t"dm(x, x, t) для
xn = iQ и 0<9<2/5 есть С°°-функция от {xf, 0, /) при малых /,
равная
(E'0(l, OJ-FOA, 26))(detff'*(x'. О))"
при t = 0. С этой целью рассмотрим само ядро
K(t, х, у, z) = znndm{xz, уг, znt),
а не его аппроксимации, как мы делали раньше. Если функция
/eCo°(R") имеет носитель, на котором s?(x, П) меньше, ска-
скажем, 2, и L'-норму, не превосходящую 1, то
<17.5.23) v.(t, *)= J K{t, x, у, z)D*f(y)dy
есть О-функция, удовлетворяющая уравнению (d2/dt2
+ Pz)vz{t, x) — 0, нулевым граничным условиям и начальным
условиям vz = D&f, dvz/dt =0 при ^ = 0. В силу леммы 17.5.12,
при t < 2 на носителе функции vz выполняется неравенство
sz(x, П)<4. Мы хотим доказать, что у vz(t, х) все производ-
производные по t, x7 z равномерно ограничены при t == 1 и х, г, удовле-
удовлетворяющих условию sr'z(x, у) < 4/5 для j/esuppf. Предполо-
Предположив на минуту, что это уже сделано, мы заключаем, как при
доказательстве теоремы 17.5.5, что /СеС°°, и, взяв t = l,
к' — y'^z', Хп = уп — в < 2/5, — что функция
г» dm (х, х, zn), где x = (z', dzn),

17.5. Асимптотические свойства собственных значений 87
имеет равномерно ограниченные производные по г1, 8, гп пра
О =?^ 0 < 2/5 и малых zn. При zn = 0 получим
КU, х, у, z) = (%({, s*(x, y))-eu(U sr-z(x, y))(Aetg'k(z)r1/2,
а при указанном выборе t, х, у первое выражение в скобках
в правой части сводится к ?^A, 0) —??A, 28). Остается изме-
изменить обозначения — заменить гп на t—и теорема доказана.
Нетрудно показать, что для любого k отображение
(t, z)*—> vz(t, •). где vz — функция, определенная формулой
A7.5.23), к раз дифференцируемо при < <: 2 как отображение
со значениями в ?>'*, причем все его частные производные по-
порядка =О равномерно ограничены в &>'*, если ц> | р |-ffe+ra/2.
Действительно, поскольку оператор Рг самосопряжен по отно-
отношению к соответствующей плотности Тг, то
(о,(/, 0, Ч>)Тг + т, дФЛи 0. -
где Ф2(^, s, х) — решение смешанной задачи
= 0,
, S, -)/(Э« = ф При
Фг(/, s, х) = 0 при х^дХ.
Таким образом,
Фг (t, s, x) = ((sin (s - t) V^)/V^) Ф (
Из спектральной теоремы, оценки A7.5.4) и леммы 17.5.2 сразу
следует, что производные по (х, t) от Ф2 порядка <ц+ 1 — п/2
равномерно ограничены, когда <р пробегает произвольное фик-
фиксированное ограниченное множество в Cg. Как и в доказатель-
доказательстве леммы 17.5.13, выполняя последовательные дифференциро*
вания по z, мы заключаем, что то же верно и для всех про-
производных по (х, t, г) порядка <ц — п/2. Следовательно, если
(г >|Р|+ ft + п/2, то vz обладает указанными выше дифферен-
дифференциальными свойствами. Поэтому для завершения доказатель*
ства остается только применить следующую лемму:
Лемма 17.5.14. Пусть vz(t,x) —решение уравнения
при |<|<3, являющееся С°°-фунацией от (z,t,x) при г, близ-
близких к некоторому компактному множеству Kqcz{z eR";
zn = 0} и удовлетворяющих условию гп> 0. Предположим, что>
(i) vz(t, х) = 0 при хп=0 (граничное условие Дирихле);
(и) sz(y, (z', 0))<2/5, если @, у) s supp vz (условие на на-
начальные данные);

88 17. Эллиптические операторы второго порядка
(ш) для всякого а найдется ц, такое что DzVz(t, •) принад-
принадлежит некоторому фиксированному ограниченному подмноже-
подмножеству в W» (Rn+).
Тогда производные от vz(t,x) no z, t, х оцениваются фикси-
фиксированными константами, при условии что z принадлежит неко-
некоторой окрестности К' множества Ко, 1 ^ < <[ 2 и sz(x(z', 0))'
< 2/5.
Заметим, что при zn = 0. это утверждение совершенно оче-
очевидно, поскольку тогда vz представляет собой решение задачи
Коши с постоянными коэффициентами, у которой начальные
данные удовлетворяют условию (и) и продолжают удовлетво-
удовлетворять ему после отражения относительно граничной плоскости
хп = 0. В этом случае на рассматриваемом множестве не может
быть никаких особенностей, так как световые лучи, выходящие
из носителя начальных данных, не могут в него попасть. До-
Доказательство леммы будет дано в § 24.7 после того, как мы
проведем систематическое изучение вопроса о распространении
особенностей решений смешанной задачи. Это доказательство
покажет, что положение дел, которое мы имеем в случае по-
постоянных коэффициентов, сохраняется при малых возмущениях,
Примечания
Как уже отмечалось в примечаниях к гл. 13, методы, использо-
использованные в § 17.1 и 17.3, имеют долгую историю. Что касается
эллиптического случая, то к указанным в гл. 13 можно доба-
добавить еще работы: Agmon, Douglis, Nirenberg [1], Agmon [1, 5Г,
Browder [1], Garding [2], Lions, Magenes [1], Schechter [1],
хотя список этот далеко не полон. Лемма 17.1.5 восходит к
Фридрихсу (Friedrichs [2]). Теоремы единственности типа тео-
теоремы 17.2.1 впервые были доказаны Карлеманом (Carleman
[1]) в двумерном случае. Именно ему принадлежит идея ис-
использовать нормы, в определении которых фигурируют степени
некоторой весовой функции. Эта идея играла ключевую роль
во всех последующих исследованиях в данной области. Для
операторов второго порядка в случае нескольких переменных
теорему 17.2.6 для вещественных a/k доказывали во всё возра-
возрастающей общности: Мюллер (Muller [1]), Хайнц (Heinz [1]),
Ароншайн (Aronszajn [2]), Кордес (Cordes [1]), Ароншайн,
Кшивицкий и Шарский (Aronszajn, Krzywicki, Szarski [1]),
Агмон (Agmon [4]). Затем Алинак и Бауэнди (Alinhac,
Baouendi [1]) выяснили, что достаточно предположить, что ко-
коэффициенты вещественны в одной выделенной точке. Контр-
Контрпримеры, принадлежащие Алинаку (Alinhac [2]), показывают,
что это условие по существу и необходимо; из них видно также,

Примечали» 89
что для операторов более высокого порядка столь сильные тео-
теоремы единственности уже не имеют места. Мы следовали здесь
изложению, данному в работе Hormander [41], где рассмотрены
также и более слабые условия на младшие члены (как пока-
показали Джерисон и Кениг (Jerison, Kenig [1]), и эти условия
могут быть ослаблены). Первым, кто получил общие теоремы
единственности типа теоремы 17.2.1 для операторов высших по-
порядков в случае числа измерений, большего двух, был Кальде-
рон (Calderon [1]). Как раз его результат для эллиптического
случая мы и включили в главу; в этом результате предпола-
предполагается лишь, что коэффициенты липшицевы. Как показал Плись
(Plis [3]), это условие нельзя заменить никаким более слабым
условием гёльдеровости. По поводу «происхождения» теоре-
теоремы 17.2.8 отсылаем читателя к примечаниям к гл. 14.
Конструкция параметрикса по Адамару, описанная в § 17.4,
в сущности взята из книги Hadamard [1], хотя использованные
здесь рассуждения в некоторых отношениях ближе к рассужде-
рассуждениям М. Рисса (М. Riesz [1]). Сили (Seeley [3]) изучал пара-
метрике E(t,x,y) с тремя членами для смешанной задачи Ди-
Дирихле для волнового уравнения в R4, определенный при усло-
условии, что квадрат расстояния между х и у мал по сравнению
с расстоянием от у до границы. Применяя этот параметрикс, он
доказал следствие 17.5.1 для оператора Лапласа в Xc=Ra.
В статье Seeley [4] эти результаты распространены на случай
более высоких размерностей, и примерно в то же время то же
самое было сделано Фам Тхе Лаем (Pham The Lai [1]). В по-
последней работе очевидно, что используется именно конструкция
Адамара, и ясно, что то обстоятельство, что мы начинаем с
оператора Лапласа с постоянными коэффициентами, несуще-
несущественно. (Некоторые оценки в этой работе, по-видимому, некор-
некорректны, но конечные результаты верны.)
Карлеман (Carleman [3]) нашел способ определять асимп-
асимптотическое поведение спектральной функции эллиптического
дифференциального оператора второго порядка с граничными
условиями Дирихле. (Соответствующие результаты о собствен-
собственных значениях восходят к Г. Вейлю (Weyl [4]).) Его идея со-
состояла в том, чтобы исследовать ядро, фигурирующее в инте-
интегральном представлении резольвенты рассматриваемого опера-
оператора, а затем применить одну из тауберовых теорем; этот под-
подход был распространен на случай общих эллиптических опера-
операторов Гордингом (Garding [7]). Как показали Минакшисунда-
рам и Плейель (Minakshisundaram, Pleijel [1]), таким же об-
образом можно изучать преобразование Лапласа спектральной
функции, поскольку оно связано с функцией Грина для опера-
оператора теплопроводности. Эти методы не дают точных оценок по-
погрешности, но Левитан [1, 2] и Авакумович (AvakumoviC [1])

DO 17. Эллиптические операторы второго порядка
обнаружили, что, применив косинус-преобразование, можно по-
получить неулучшаемые результаты, используя свойства соответ-
соответствующего волнового уравнения. В частности, теорема 17.5.7
принадлежит Авакумовичу, но приведенное ее доказательство
¦следует более или менее изложению, данному в работе Нбг-
mander [22], где эти результаты были распространены на слу-
случай операторов высших порядков (см. гл. 29). Как уже упоми-
упоминалось выше, точные результаты о поведении спектральной
функции вблизи границы были впервые получены Сили (Seeley
[3, 4]) и Фам Тхе Лаем (Pham The Lai [1]). Они рассматри-
рассматривали лишь оператор Лапласа. Как показал совсем другим ме-
методом Иврий [3], асимптотическая формула для числа соб-
собственных значений справедлива и без этого ограничения, причем
с той же оценкой остаточного члена, что у Сили и Фам Тхе Лая.
Иврий показал также, что есть более точная асимптотическая
формула со вторым членом, при условии что имеется не слиш-
слишком много замкнутых геодезических с многократными отраже-
отражениями. Его доказательство было существенно упрощено Мел-
роузом (Melrose [7]), который вывел результат Иврия из основ-
основных фактов о распространении особенностей. Комбинируя этн
идеи, мы получили в § 17.5 уточненные оценки для спектраль-
спектральной функции вблизи границы. Фигурирующая у Сили и
•Фам Тхе Лая конструкция адамаровского типа используется
лишь в простейшей ситуации для аппроксимации E(t, x, у) при
t меньших, чем некоторое постоянное кратное расстояния от
точки у до границы. Рассуждения в § 17.5 представлены так,
чтобы подготовить полное доказательство результатов Иврия
в § 29.3.

18
Псевдодифференциальные
операторы
Краткое содержание главы
Проведенное в § 17.1 и 17.3 рассмотрение эллиптических опе-
операторов второго порядка без особых затруднений распростра-
распространяется на операторы высших порядков. Из теоремы 7.1.22 мы
знаем, что эллиптический оператор P(D) с постоянными коэф-
коэффициентами обладает параметриксом Е, задаваемым формулой
Ef (х) = Bя)-" \ ei «• Е>а(|)/A)d|, / e 9>,
где a(l)=l/P(l) при больших |g|. Поэтому, как и в гл. 13,
эллиптический оператор P(x,D) с переменными коэффициен-
коэффициентами (см. § 8.3) можно рассматривать вблизи каждой данной
точки лсо как возмущение оператора с постоянными коэффи-
коэффициентами P(xo,D), полученного замораживанием коэффициен-
коэффициентов в х0. Доказательство теоремы 13.3.3 дает локальное фунда-
фундаментальное решение Е оператора Р (х, D) в виде сходящегося
по норме ряда. Однако гладкость членов этого ряда, вообще
говоря, не возрастает, и поэтому он не пригоден для точного
описания особенностей Е. Дело можно поправить, взяв в каче-
качестве первого приближения к Е оператор А, заданный формулой
A8.1) Af (х) = BяГ" J в* <*- *>а (х, 6) / (g) d\, f s 9>,
где а(х, I) = \/Р(х, I) при больших |||. Это значит, что мы
полагаем Af(x)= Exf(x), где Ех — параметрикс для оператора
Р с коэффициентами, замороженными в точке х. Дифференци-
руя под знаком интеграла в A8.1), получим
Р (х, D) Af (х) = Bя)-п J «' «• ЬР (х, l + Dx)a (x, I) f (I) d|, / s 9>.
Здесь
Р(х, l + Dg)a{x, 6) = P(x, l)a(x, I) + ?p(a)(*, l)Daxa{x,

92 18. Псевдодифференциальные операторы
Это приводит к догадке, что P(x,D)E = I-\-R, где / — тожде-
тождественный оператор, a R— оператор, улучшающий свойства глад-
гладкости, а именно повышающий порядок дифференцируемости на
«диницу. Правый параметрикс можно тогда построить по фор-
формуле ЕA + /?)-' = ?' — ER + ER2 — ... , и это уже ряд, глад-
гладкость членов которого неограниченно возрастает.
Изложенные выше весьма формальные соображения можно
в действительности обосновать, но удобнее переместить про-
процедуру последовательных приближений в конструкцию функ-
функции а, такой что
A8.2)
где Ь быстро убывает при ?-*-<». Если
Р (х, I) = Рт (х, I) + Рт_х (х, I) + ...
— разложение Р(х, %) в сумму членов, однородных по ?, то
естественно ожидать, что а имеет асимптотическое разложение
<18.3) а(х, I) ~ а_т(х, I) + а_т_, (х, I) + ..., I — °°,
где аи однородно по ? степени k. Условие A8.2) дает тогда
после приравнивания членов одинаковой однородности
A8.4) Рт (х, I) a_m_, (х, I) + Pm_t (*, I) а_т (х, I)
и дальнейшую последовательность уравнений, выражающих
Рт(х, ?)a_m-ft(x, I) для любого &>0 через члены a_m, ...
..., a-m-k+i- Поскольку Рт{х, Е)ф0 при ?т^0, если оператор Р
эллиптичен, последовательность a_m, a_m_b ... определяется
однозначно и позволяет получить решение уравнения A8.2) с Ь,
убывающим сколь угодно быстро (ср. с доказательством теоре-
теоремы 8.3.1, основанным на том же принципе).
Проведенное выше рассуждение показывает, что всякий эл-
эллиптический оператор обладает параметриксом, задаваемым
формулой A8.1) с функцией а, допускающей асимптотическое
разложение вида A8.3). Такие операторы А называются псев-
псевдодифференциальными. Важная роль, которую играют эти опе-
операторы, объясняется тем, что они образуют алгебру, инва-
инвариантную относительно операций перехода к сопряженному опе-
оператору и замены переменных, а значит, эти операторы можно
определить на С°°-многообразиях. Соответствие между опера-

Краткое содержание главы 93
тором А и функцией а в A8.1), называемой символом опера-
оператора А, позволяет дать формулы, выражающие указанные опе-
операции в терминах символов, столь же простые, как и в случае
дифференциальных операторов. Мы разовьем эту тему в § 18.1.
Ядро (в смысле Л. Шварца) К(х,у) псевдодифференциаль-
псевдодифференциального оператора сингулярно лишь на диагонали. Там оно син-
сингулярно в существенном как однородная функция от х — у;
поэтому применение дифференциального оператора первого по-
порядка, касательного к диагонали, не делает К более сингуляр-
сингулярным. В § 18.2 мы изучим пространство распределений I(X,Y)
сЗ)'(Х), ведущих себя аналогичным образом по отношению
к некоторому С°°-подмногообразию У заданного С°°-многообра-
зия X. Для этих распределений волновой фронт содержится в
конормальном расслоении N(Y) подмногообразия У; по этой
причине мы называем их конормальными распределениями
для Y. Они оказываются также весьма полезными при построе-
построении исчисления тотально характеристических псевдодифферен-
псевдодифференциальных операторов на многообразии с краем, которым мы
занимаемся в § 18.3. В частности, инвариантность таких опет
раторов относительно замен координат вытекает из характе-
ризации их ядер как конормальных распределений на некото-
некоторой модификации XXX. Цель § 18.3 — дать прочную основу
для изучения краевых задач, в частности для рассмотрения
пространств распределений на многообразии с краем и их вол-
волновых фронтов. Однако в последующих главах мы редко будем
привлекать эти результаты, в основном же будем использовать
более традиционную, хотя и неинвариантную технику. Всё же
понятия, вводимые в § 18.3, настолько естественны, что им, на
наш взгляд, суждено играть всё более важную роль.
Исчисление, которое строится в § 18.1—18.3, опирается на
результаты § 7.6 о гауссовых свертках. В § 18.4 мы возобнов-
возобновляем изучение таких сверток в плане подготовки к построению
в § 18.5 и 18.6 исчисления операторов с произвольными сим-
символами. Помимо исчисления операторов вида A8.1) с произ-
произвольными символами мы обсуждаем также исчисление Вейля,
обладающее рядом существенных преимуществ, связанных с
различными свойствами симметрии. Например, в исчислении
Вейля вещественнозначные символы всегда порождают самосо-
самосопряженные операторы; именно по этой причине оно первона-
первоначально и возникло в квантовой механике. Основные теоремы
исчисления операторов с произвольными символами доказы-
доказываются в § 18.5, а § 18.6 посвящен оценкам для таких опера-
операторов. Эти результаты понадобятся нам в некоторых местах
гл. 26 и 28, но в остальном для чтения последующих глав до-
достаточно усвоить материал, изложенный в § 18.1.

94 18. Псевдодифференциальные операторы
18.1. Основы исчисления
При изучении операторов вида A8.1) надо прежде всего уточ-
уточнить условия, которым должны удовлетворять функции а. Мы за-
заведомо хотим, чтобы допускались все гладкие функции a(x,Q,
однородные по | при больших |?|, а также их линейные ком-
комбинации. По техническим причинам удобнее следующий не-
несколько более широкий класс:
Определение 18.1.1. Для каждого вещественного числа т обо-
обозначим через Sm = 5m(R"X R") множество всех функций
а е C°°(Rn X R"). таких что при любых а, E производная
я<э!(х> 1) — д$д%а(х, |) удовлетворяет оценке
A8.1.1) Ш(х,БI<С«.рA+|||)и-|в>, *,6e=R\
Оно называется пространством символов порядка т. Далее, мы
полагаем
m S°°=[)Sm.
Это определение — глобальный вариант частного случая опре-
определения 7.8.1, отвечающего 6=0 и р = 1. Позже мы локали-
локализуем Sm и тоже рассмотрим произвольные р и б.
Ясно, что при наделении полунормами, определяемыми как
наименьшие возможные значения постоянных в A8.1.1), Sm ста-
становится пространством Фреше. Одно из преимуществ нашего
отказа от однородности состоит в том, что функции вида
а(х,1)=%A), где %е9", попадают в 5°. Следующее предло-
предложение используется главным образом для таких функций, и в
этом случае оно тесно связано с регуляризацией, уже обсуждав-
обсуждавшейся в § 1.3.
Предложение 18.1.2. Пусть ae=S°(RnXRn) и ае(х,%)=а(х,гЪ).
Тогда множество функций ае, O^es^l, ограничено в S0 и
ае-*~а0 в Sm для любого m > 0 при е -*• 0,
Доказательство. Так как a0 e S0, достаточно показать, что для
(jc, E) —а(*. 0))|<Capem.
При a = 0 это так, поскольку, в силу формулы Тейлора,
|а,Р){х, el)-am(х, 0)|<Сэ|eg|m.
При а Ф 0 надо просто воспользоваться тем фактом, что

18.1. Основы исчисления 9S
Работая с пространствами Sm, полезно иметь в виду, что
<18.1.2) asS^aif'GS™'1; asSm и Ъ е= Sm' =*> ab <== Sm+m\
Доказательства очевидны. Из них следует, например, непрерыв-
непрерывность билинейного отображения {a,b)*—^ab.
Теперь установим один простой результат, позволяющий
придать точный смысл асимптотическим разложениям типа
A8.3).
Предложение 18.1.3. Пусть a^Sml, / = 0, 1 причем mf
-> — с» при /-> оо. Положим m'k = max mr Существует функция
а еSm°, обладающая следующими свойствами: suppoc[J supp a/
и для каждого k
A8.1.3) а— Т. af*=Smk;
в таком случае мы пишем
Функция а определена однозначно по модулю S~°° и обладает
теми же свойствами по отношению к любой перестановке ряда
Доказательство. Утверждение о единственности сразу сле-
следует из A8.1.3), равно как и утверждение об инвариантности ука-
указанных свойств относительно перестановок ряда. Докажем
утверждение о существовании. Выберем функцию % е С™, рав-
равную 1 в некоторой окрестности нуля. Найдется последователь-
последовательность положительных чисел е/, сходящаяся к нулю столь быст-
быстро, что
Действительно, согласно предложению 18.1.2, 1 —#(е-)-»-0 в S1
при е->0. Положим А/(х, g) = (l — %{&;%))aj{x, \). Сумма
a=YjAj локально конечна, так что а^С°°. Для любых за-
заданных а, Р, k можно подобрать N настолько большое, что
N >|а| + |р| и пг'„+ 1</п^. Тогда
аъд* (а (х, I) - ? А, (х, I)) I < A +111 )<~] а'.
V KN ' ) I
Поскольку fit/ — AjeS °° и ^eS k при j^k, то
A8.1.3)'

96 IS. Псевдодиффереициальиые операторы
Но это как раз и означает, что выполнено A8.1.3). Предложе-
Предложение доказано.
В случае когда имеется хороший кандидат на роль а, про-
проверку условия A8.1.3)' часто упрощает следующее наблюдение,
которое показывает, что производным можно ие уделять осо-
особого внимания.
Предложение 18.1.4. Пусть a^^S', /=0, 1, ..., причем
trij-*-—оо при ;-»-оо, и а е С°°(РЛ X R"). Предположим, что,
каковы бы ни были а и р, при некоторых С и \i, зависящих от а
и р, справедлива оценка
A8.1.4) |а{8(*. &)|<СA+ШД х, ?e=Rn.
Если существует последовательность ц*-*—°о, такая что
A8.1.3)" а(х, ?)- Е а,(х, l)\ <Ck A+111L
то а е Sm, где m = sup nij, и а ~ ? а}.
Доказательство. Вычитая из а какую-нибудь функцию А е Sm,
удовлетворяющую условию А ~ 2а/> сводим дело к случаю,
когда все с/ равны 0. Наши предположения означают в этом
случае, что а быстро убывает при |->оо и удовлетворяет усло-
условию A8.1.4). Надо показать, что и все производные от а быстро
убывают при ?->оо. Достаточно установить это для производ-
производных первого порядка — затем можно рассуждать по индукции.
Используя формулу Тейлора и оценку A8.1.4), заключаем, что
для произвольного единичного вектора ц
\а(х, 1 + ец)-а(х, 1)-(Щх, I), еЛ)|<Се2A +\t\f,
х <=/<:, 0<е<1,
при некоторых С и ц. Следовательно,
\{а'ъ(х, Б), Л)|<СеA+ШIХ + |а(Л;, 1)-а(х, 1 + гц)Уе,
что даег | а[(х, I) | < СA +11 \ f~N, если взять е = A +111Г*•
Таким же образом можно рассмотреть и производные по х, чем
и завершается доказательство.
Определение 18.1.5. Пусть те С; и п — число, обратное к неко-
некоторому целому положительному числу. Всякую функцию
а s 5Re m, такую что
оо
а(х, 1)~ ?ау(х, |),

18.1. Основы исчисления 97
где функция п) однородна степени m — jh no | при \\\> 1, бу-
будем называть полиоднородной') степени т с шагом А и будем
в таком случае писать
При h = 1 индекс, указывающий размер шага, будем опускать.
Фигурирующая в определении однородность означает, что
а, (х, т = tm4h af(x,l), 111 > 1, / > 1.
Отсюда следует однородность степени т — jh — |а| производ-
производных а\%)> так что функция а/ автоматически принадлежит
SRem-/\ если она принадлежит С°° и равна нулю при боль-
больших х. Вообще говоря, то что а/ е С°°, исключает, конечно, что
aj однородна при всех \ ф 0, но, поскольку соотношение
а ~ 2 Яу есть условие, в котором речь идет о поведении рас-
рассматриваемых функций при больших |?|, а доказательство
предложения 18.1.3 проходит и при наличии у функций а/ осо-
особенностей при малых |||, мы будем использовать запись
а ~ 2 ai и в случае, когда а{ принадлежат С°° лишь при
I Ф 0 и однородны при всех \ Ф 0.
Символы из Sphe — эт0 как Раз те символы, к которым нас
привели рассмотрения, проведенные в «Кратком содержании
главы», — если отвлечься от того факта, что эти рассмотрения
были локальны по переменным х. Позднее мы локализуем Sm
по переменным х, а при некоторых условиях и по перемен-
переменным ?. Однако прежде чем делать это, обсудим псевдодиффе-
псевдодифференциальные операторы в R" с символами из Sm, поскольку
результаты здесь сильнее, чем для локального случая, а дока-
доказательства яснее.
Теорема 18.1.6. Если а е Sm и не 9", то формула
A8.1.5) а (х, D) и (х) = Bп)~п $ е1 «• *> а (х, 1) й (|) dl
определяет функцию а(х, D)u ^.9*, и билинейное отображение
{a,u)*-*-a(x,D)u непрерывно. Коммутаторы оператора a(x,D)
с операторами D/ и операторами умножения на х/ задаются
формулами
[а(х, D), D,\^Uk*{x, D),
A8ЛЛ; [а(х, D), х,] - - ЬРЦх, D).
') В оригинале polyhomogeneous. Отсюда индекс phg ниже. Полкодно-
родные функции с h = 1 часто называются в литературе классическими сим-
символами. — Прим. перге.
4 Зак. 443

08 18. Псевдодифференциальные операторы
Оператор а (х, D) называется псевдодифференциаль-
псевдодифференциальным оператором порядка т.
Обозначение а (х, D) оправдывается тем обстоятельством,
что в случае, когда а — многочлен по |, а (х, D) получается из
а (х, I) заменой g на D = —id/dx, при условии что коэффи-
коэффициенты многочлена пишутся слева. Это следует из формулы об-
обращения Фурье. Иногда вместо а(х,D) мы будем писать
Ора.
Доказательство. Так как й^9", ясно, что формула A8.1.5)
определяет непрерывную функцию, причем
\а(х, 0)м|<BяГп$A+Ш)т|й(Шс?5ир|а(*, ©К»
Первое из равенств A8.1.6) означает в развернутом виде, что
(х, D) и(х) = а (х, D) D,u (x) - iam (x, D) и (*),
а это равенство получается из A8.1.5), если выполнить диффе-
дифференцирование под знаком интеграла, ибо ?/#(?) есть преобразо-
преобразование Фурье от DfU. Далее, преобразованием Фурье от Xfii(x)
служит —?)/й(?), поэтому интегрирование по частям дает вто-
второе из равенств A8.1.6):
а(х, D){x,u) = xfl{x, D)u — idb{x, D)u.
Повторное использование A8.1.6) показывает, что x^D^aix, D)u
представляет собой линейную комбинацию функций
<$}(*, D)x«"D*"u, <z' + a" = a, р'+р" = Р-
Следовательно, xaD$a(x,D)u оценивается произведением неко-
некоторой полунормы и в SP на некоторую полунорму а в Sm. До-
Доказательство завершено.
Замечание. Если подставить в A8.1.5) явное выражение для
преобразования Фурье й, то мы получим, что ядро К оператора
а (х, D) задается равенством
A8.1.7) К{х, у) =
где правая часть определена как осцилляторный интеграл
(см. § 7.8). Правую часть A8.1.7) можно также понимать как
й(х. у — х)/Bп)п, где й — преобразование Фурье от а(х,I) по
переменной ?, определенное с помощью очевидной модификации
определения 7.1.9. Тогда формула обращения Фурье дает
A8.1.8) а{х,®=

18.1. Основы исчисления 99
где правую часть снова следует понимать как преобразование
Фурье по у от К(х,х — у). Формулы A8.1.7) и A8.1.8) уста-
устанавливают взаимно однозначное соответствие между распреде-
распределениями из P"(R2"). Далее, один из вариантов теоремы Швар-
Шварца о ядре (теоремы 5.2.1), убедиться в справедливости которого
мы предоставляем читателю, утверждает, что отображения с яд-
ядрами из 9"' (Rn'+n!)— это в точности непрерывные линейные ото-
отображения из ^(R) в 9^(Rn>). Для произвольного oe/fR2")
можно поэтому интерпретировать оператор A8.1.5) как непре-
непрерывное линейное отображение а(х,D): ^(R")->-^"(Rn). Суть
теоремы 18.1.6 в том, что для deS это отображение перево-
переводит ^(Rn) в себя. Позднее мы докажем это при гораздо более
слабых предположениях относительно а.
Определим теперь оператор, сопряженный к а (х, D) отно-
относительно полуторалинейного скалярного произведения
(и, v)=\ uvdx, и,
Предположим сначала, что аеУ, Тогда ядро К оператора
a(x,D), задаваемое формулой A8.1.7), принадлежит 9", а по-
потому принадлежит SP и ядро К* его сопряженного, задаваемое
формулой
К'{х, y) =
Поскольку К' (х, х — у) = Bя)~в J е1 «• п> а (х - у, r\) dr\, из A8.1.8)
следует, что К.* есть ядро оператора b (x, D), где функция Ь
принадлежит 9" и определяется формулой
Ь(х, |) = BяГп J е1 *• 4~s>a{x-y, r\)dy dn
= BяГ" J е~1 «¦ * а (х - у, I - л) dy rfrj.
Так как квадратичная форма (у, ц)>—>2(у, г\) на R2" имеет
сигнатуру 0, задается матрицей с определителем 1 и сопряже-
сопряжена самой себе, то по теореме 7.6.1 преобразование Фурье от
Bn)~ne~iw'v> равно е1<6Л\ гце у, ц — переменные, двойствен-
двойственные к у, tj. Таким образом,
A8.1.9) Ь{х, 1) = е'<°*-йЪ>а(х, I)
в том смысле, что преобразование Фурье от b равно преобра-
преобразованию Фурье от а, умноженному на eia-& (см. §7.6). Отоб-
Отображение а*—*Ь, задаваемое формулой A8.1.9), непрерывно в У,
4*

100 18. Псевдодиффереициальные операторы
поэтому для всех а е 9",
A8.1.10) (a{x,D)u,v) = (u,b(x,D)v), и, х><=9>,
где 6s/ определяется формулой A8.1.9).
Теорема 18.1.7. Если а е Sm, то Ь (х, |) = el <D*- °i> a (х, t)e=Sm и
A8.1.11) Ь{х, I) ~ ? (*(ОЖ, ?>Е»*а(*, S)/fe! = ? dtDaxa(x,
0
Далее, справедливо равенство A8.1.10), которое показывает, что
оператор а(х, D) можно продолжить до непрерывного отобра-
отображения из 9*' в 9*' — как оператор, сопряженный к b (x, D).
Доказательство. Выберем функцию xeCo°(Rn), такую что
(Ю=1 при |1|< 1/2, %(|) = 0 при |1|> 1, и положим для целых
0
а, (х,1) = % (№*) а (х, I), К (х, I) = el <D*' D?> av \x, I).
Ввиду предложения 18.1.2, для всех v
при (х, E)ssuppav. Поэтому теорема 7.6.5 дает
A8.1.12) |М*> D- Z (HPx, Dt))'av(x, 1)Ц\ <Cft
Если |1|>2V+1, то расстояние от точки (х, |) до suppav со-
составляет самое меньшее П | —2v>|g|/2>(l-fji|)/4, так что
сумма в левой части выпадает, а в правой части можно 1)
ввести множитель A+!?!)"*• Для заданного 1 обозначим че-
через ц наименьшее целое ^0, для которого |E|^2'i+2. Если
ц = 0, то ISK4, а если ц > 0, то 2^+'<|g|<2^+2. В обоих
случаях оценка A8.1.12) вместе с отмеченным ее уточнением
дают
A8.1.12)' |^(хД)-
Чтобы оценить
оо
Ъ (х, I) - Ь„, (х, I) = ? FV+1 (х, I) - 6V (x, I)),
и
положим
/lv (х, I) = av+! (x;, I) — av (*, ?), Bv (x, I) = bv+1 {x, Q — 6V (x,
') В силу заключительного утверждения теоремы 73ХЪ, — Прим. перев.

18.1. Основы исчисления 101
и заметим, что
поскольку 2V~' ^|g|^2v+1 на supp^4v. Следовательно,
\didUAx, 2
Так как
v
мы заключаем на основании теоремы 7.6.5 (где множитель ||Л||
теперь существен), что
\ П [ -у Ov? 1 > Г//Г) Г) \/Ом' А
?> v \Х, * ь) _Zj. V* \их > *'|//'" ) "¦
т. е.
|fiv(^, Б)-
Пусть k ^ m + 1. Просуммируем последнюю оценку по v от \х
до оо. Сумма правых частей не превосходит удвоенной правой
части первой из складываемых оценок, и отношение
0+|Е|)/2й всё время лежит между фиксированными грани-
границами. Поэтому мы приходим к оценке
\
/1 I 1 t 1 \Я1 —ft
" '"*
„ (х, I) — Z (' (#*> Dt))' Av (*>
которая в сочетании с оценкой A8.1.12)' дает оценку
A8.1.11)' \Ь(х, |) - Z Aфх, Оъ))'а(х, l)/jl\<Ck(l+\l\)
(с некоторой новой постоянной С*). Так как
аналогичные оценки справедливы и для производных от Ь, чем
и завершается доказательство соотношения A8.1.11), а с ним
и теоремы.
Замечание. Из доказательства видно, что постоянная Ск в
A8.1.11)' зависит лишь от некоторого конечного числа полу-
полунорм функции а в Sm. (Поскольку такого рода «количествен-
«количественные» утверждения могут быть выведены из «качественного»
утверждения теоремы 18.1.7 при помощи теоремы о замкнутом
графике, в дальнейшем мы обычно будем опускать их.) От-
Отсюда следует, что если последовательность av ограничена в Sm
и стремится к 0 в С°°, то и последовательность eKDx- °ъ> av (х, |)
ограничена в Sm и стремится к 0 в &'', а значит, и в С°°,

102 18. Псевдодифференциальные операторы
Теперь рассмотрим композиции псевдодифференциальных
операторов.
Теорема 18.1.8. Если at<=Sm>', j= I, 2, то
A8.1.13) al(x,D)a2(x,D) = b(x,D)
(обе части равенства рассматриваются как операторы в & или
в 9"), где функция b e Smi+m* задается формулой
A8.1.14) Ь (х, Б) = е{ <°у °ч> с, (х, ч) а, (у, Б) |ч.ь у.х
и допускает асимптотическое разложение
A8.1.15) Ь(х, t)~Z (i(D f 1/
Доказательство. Предположим сначала, что а/ е ^. Если
иеУ, той функция п2(х, D)u принадлежит 9*, и ее преобразо-
преобразованием Фурье служит функция
t, н-* Bя)-л \ е1 «• «-^с (у, Б) й (Б) dg dy.
Следовательно,
al(x,D)a2(x,D)u(x)
J J S-n> о, (*, Ч) о, (у, I) U (I) dldydr\,
так что справедливо A8.1.13) с
Ь (х, I) = BпГп J J е-' «-"• *-ч> с, (х,
а последнее равенство, как было показано перед формулировкой
теоремы 18.1.7, равносильно A8.1.14).
Для произвольных с/ е Smi рассмотрим
В (X, |, у, Ч) = в* <D»' Dt1> О! (X, П) 02 (У, 1).
Поскольку
С, (X, Л) С2 (у, Б) | < Cap A + | Ч I)"'"' ° ' A + II Г2'
из теоремы 18.1.7 и замечания после ее доказательства следует,
что
\В(х, Б, У, T\)-Zk(i(Dy, D^'a^x, r\)a2(y, |)//!
Здесь Сь оценивается некоторой конечной суммой произведе-
произведений полунорм функции ак в Sm' на лолунормы функции а% в

18.1. Основы исчисления 103
Sm'. Более общим образом, так как дифференцирования пере-
перестановочны с е'(°и °Ч то справедливо неравенство
|%д^у (В (х, I, у, л) - _I (i (Dy, Dv)I а, (х, л) с2 (у, l)/j\) |
с аналогично оцениваемой постоянной С*. а, а', р, р-. Следователь-
Следовательно, Ь (х, ?) = Б (л, Е, *, ?) е S'-1-», и билинейное отображение
(а,, а2)>—*¦& непрерывно как отображение из 5Ш| Х5т в Smi+mi.
Остается проверить, что выполнено A8.1.13).
Выберем функцию % е С", равную 1 в некоторой окрест-
окрестности нуля, и положим
Поскольку х AМ а/ (х> ^) "*¦ ai (*> 5) в 5т/ + | при v->oo (предло-
(предложение 18.1,2), то сС2 (х, D) и -*¦ а2 (х, D) и в & при v->oo для
и е 91. Поэтому
. D) и-><*,(*, D)a2(x, D)u ъ 9>.
Пусть функции b*{x,Q определены формулой A8.1.14) с ajt
замененным на aj. Последовательность 6V ограничена в Sm'+mi
и сходится к Ь поточечно, а значит, и в У\ следовательно,
bv(x, D)u-*b(x, О)«в^"при v-*oo. Так как b"(x, D)u=a][x. D
a"l(x, D)u, отсюда вытекает A8.1.13). Доказательство завершено.
Теорема 18.1.8 позволяет придать строгость рассуждениям
об обращении эллиптических операторов, проведенным в «Крит-
ком содержании главы».
Теорема 18.1.9. Пусть а е Sm и b e S~m. Тогда условия
(i) a(*,DN(*. D)-/e=OpS—,
(ii) b (x, D) a(x, D) — I(= Op S0
равносильны (I — это тождественный оператор, Op 1). При за-
заданной функции а функция Ь определяется этими условиями
однозначно по модулю S~°°, Из условий (i), (ii) вытекает
условие
(Hi) a(>
а из него в свою очередь следует, что для некоторых положи-
положительных постоянных с и С
(iv) \а(хЛ)\>с\ЪГ при\Ъ\>С.

104 IS. Псевдодифференциальные операторы
Обратно, если выполнено (iv), то существует функция Ь е S~m,
удовлетворяющая условиям (i) — (Hi).
Доказательство. Условие (ш) вытекает как из (i), так и из (и)
по теореме 18.1.8. Из (ш) следует, что \а(х, %)Ь(х, ?)— 1|< 1/2
при |?| > С, а значит,
1< \а(хЛ)Ь(хЛ)\<С'\а(хЛ)\\1Гт при |§|>С,
т. е. выполнено (iv). Из (ш) следует также, что
а (х, D)b(x, D) = I — r (*, D), где г е= S~x.
Имея в виду обращение оператора I — r(x,D) с помощью ряда
Неймана, положим
Ь (х, D) г (х, D)k = bk (х, D), bk €= S-—*.
оо
Взяв ft' ~ X */> получим
а (л, D)b'(x,D)-I
= а (*, Д)(У (х, D) - Zk b, (x, D)) - r (x, D)k s Op S~*
для каждого А;. Этим доказано, что выполняется (i) с b, заме-
замененным на Ь'. Тем же путем можно найти b" e S~m, такое что
выполняется (ii) с Ь, замененным на Ь"'. Раз
а(х, D)b'(x, D) — Is OpS"" и b" (ж, D) а (дг, D) -1 e Op S"",
то и
У (х, D) - Ь' (х, D) = Ь" (х, /))(/- а (jc, D) Ь' (х, D))
+ (b"(x,D)a(x,D)-I)b'(x,D)
принадлежит OpS~°°, и, следовательно, каждый из символов Ь',
Ь" удовлетворяет обоим условиям (i) и (ii). Этим доказана
равносильность условий (i) и (ii), а также тот факт, что а
определяет b однозначно по модулю S-°°. Остается проверить,
что (iv)=^-(iii). Если ввести вместо а и Ь функции
a(x,l)(l+\t\2)-m/2 и 6(x,5)(l+|t|2)m/2, то дело сведется к
случаю т = 0. Для рассмотрения этого случая нам понадобится
Лемма 18.1.10. Если аи ..., ofteS° и FeC°°(C*), to
F{ax afe)e=S°.
Доказательство. Поскольку Re av, Im av s S°, можно считать,
что a/ вещественнозначны, afe C°°(R*). Имеем
dF (а)/дх, = E (dF/dcv) cv,/), dF (a)/dl, =

18.1. Основы исчисления 105
причем aV(/)eS°, a[f)^S~l- Поэтому индукцией по |a| + |pl
получаем, что производные от F(a) удовлетворяют оценке
A8.1.1).
Завершение доказательства теоремы 18.1.9. Предположим, что
т = 0 и выполнено (iv). Выберем функцию f еС°°(С), рав-
равную 1/2 при |г|>с. Тогда b = F(a)<=S° и а (х, |)Ь(х, |) = 1
при |||>С, так что выполняется даже более сильное, чем
(ш), условие
(ш)' a(x,l)b(x,t)=l при (||>С.
Теорема доказана.
Теоремы 18.1.7—18.1.9 составляют основу исчисления псев-
псевдодифференциальных операторов. С их помощью устанавли-
устанавливаются более тонкие свойства непрерывности.
Теорема 18.1.11. Если a^S°, то оператор a(x,D) ограничен
eI2(R«).
Для доказательства этой теоремы нам понадобится класси-
классическая лемма Шура:
Лемма I8.I.12. Если К —непрерывная функция на R"XR" «
sup \\K(x,y)\dx<?C, sup \\K(x.y)\dyКС.
то интегральный оператор с ядром К имеет в L2(R") норму
С
Доказательство. В силу неравенства Коши — Шварца,
| Ки (х) f < J | К (х, у) || и (у) |2 dy \ | К (х, у) |dy.
Поскольку последний интеграл не превосходит С, интегриро*
вание по х дает
| Ки(х) \2dx <C ^ | К(х, у) || и (у) fdxdy^C2 J | и(у) fdy.
Доказательство теоремы 18.1.11. Предположим сперва, что
S. Тогда ядро К оператора a(x,D) непрерывно и
Далее, ввиду A8.1.6) функция {х — у)аК(х, у) представляет
собой ядро коммутатора')
[*„ [хх [хп, а (х, D)] ...]] = /Ia law (x, D),
В левой части xi повторяется ai раз и т. д. — Прим. ред.

106 18. Псевдодифференциальные операторы
а потому также ограничена. Следовательно,
A+\х-у\)п+х\К(х,у)\^С,
и ^-непрерывность оператора а (х, D) вытекает из лем-
леммы 18.1.12.
Далее, докажем по индукции, что оператор а (х, D) будет
^-непрерывным при a^Sk, k^L—l. С этой целью рассмот-
рассмотрим для и ^.9*
II а (х, D) и ||2 = (а (х, D) и, а (х, D) и) = (b (x, D) и, и),
где Ь (х, D) — a (x, D)' a (x, D) (= Op S2k. Поскольку
\\а(х, О)и\Ы\\Ь(х, D)«||||a||<||&(*, D)\\\\u\f,
для установления непрерывности оператора а (х, D) достаточно
установить непрерывность оператора b(x,D). Поэтому с учетом
первой части доказательства мы получаем непрерывность
а(х, D) при всех а е S* последовательно для k ^ —(n -f- l)/2,
fe^^—(п -\- 1)/4, ,.., а значит, после конечного числа шагов,
й для k ^ —1.
Предположим теперь, что а е S°, и возьмем
М > 2 sup | а (*, |) |2. Тогда
по лемме 18.1.10, ибо Af/2 ^ М — \а(х, I) |2, а мы можем вы-
выбрать функцию FgCm(R), такую что F(t)= t1/2 при t^M/2.
Из теорем 18.1.7 и 18.1.8 вытекает, что
с(х, D)'c{x,D) = M-a(x, D)'a(x, D) + r(x, D),
где г е S-1. Следовательно,
|| с (х, D) и ||2 < М || и ||2 + (г (х, D) и, и),
чем и завершается доказательство, ибо оператор r(x,D) в силу
уже доказанного ^-непрерывен.
Из проведенного доказательства видно, что /Лнорма опе-
оператора a(x,D) оценивается некоторой полунормой функции а
в S0. Имеется очень простое доказательство /^-непрерывности
a(x,D), в котором не требуется никаких предположений о глад-
гладкости символа по |, зато вводятся некоторые предположения об
убывании по х (при х->-оо).
Теорема 18.1.11'. Пусть а (х,^)— измеримая функция, п-\-\
раз непрерывно дифференцируемая по х при фиксированном |.
Если для некоторого М < оо
|a|<ft+l

18.1. Основы исчисления 107
то а(х, D)— ограниченный оператор в L2(Rn) с нормой
Доказательство. Если й е Со"> то преобразованием Фуэье от
а (х, D) и будет
где
А (ть I) = Bя)-" J а (х, I) е~1 «• *> dx.
По предположению,
A+\ц\)п+[\А(цЛ)\<С1М,
а следовательно,
В силу леммы 18.1.12 отсюда следует, что 1Лнорма преобра-
преобразования Фурье от a(x,D)u не превосходит СМ||й||, чем и за-
завершается доказательство.
Теперь вспомним о пространствах H(S), введенных в опреде-
определении 7.9.1: «еЯE), если «е/, ugL]0C и
II и |Ы = (Bяр J | й (I) |2 A +1Е |2)s а%)Щ < оо.
Если положить ES(Q = {1 -h\?,\2)s/2, то ^sS' и преобразова-
преобразованием Фурье от Es(D)u будет ?s(i)u(S), так что включение
u e #(s) означает в точности, что Es(D)u e L2. Это придает
точный смысл утверждению, что Я(П) состоит из распределений,
у которых производные порядка s принадлежат L2, и справед-
справедлива
Теорема 18.1.13. Если a eSm, то a(x,D) —непрерывный опера-
оператор из H(s) в H(s-m) для каждого s.
Доказательство. Пусть u^His). Тогда v—Es(D)u<=L2 и
Es-m (D) а (х, D) и = Es-m (D) a (x, D) E-s (D) v e= L2,
в силу теоремы 18.1.11, поскольку Es-m(D)a(x, D)E-s(D)^OpS°.
Замечание. Согласно следствию В.1.6, оператор а{х, D) осу-
осуществляет также непрерывное отображение ptf(S) ->- pH^-m).
Доказательство непрерывности оператора а(х,D), утвер-
утверждаемой в теореме 18.1.11, было основано на соответствующей
оценке для а(х, D)*a(x, D). Сейчас мы получим одну более
сильную одностороннюю оценку, которая часто бывает полезна.
Обычно ее называют точным неравенством Гординга. Позже

108 18. Псевдодифференциальные операторы
мы рассмотрим различные усиленные варианты этого неравен-
неравенства и сможем дать более короткое его доказательство, после
того как разовьем более мощный аппарат. Однако ради чита-
читателя, который не захочет пробиваться через § 18.4—18.6, дадим
уже здесь прямое и в принципе элементарное доказательство.
Теорема 18.1.14. Если а е= S2m+I и Re a ^ 0, то
A8.1.16) Re(a(*,D)u,u)>-C||u|$n), «sJ».
Доказательство. Для а е S2m оценка A8.1.16) следует из гео-
георемы 18.1.13. Поскольку
(а (*; D) + а (х, D)')/2 - (Re с) (х, D) <= Op S*-»,
достаточно доказать A8.1.16) с а, замененным на Re а. По-
Поэтому будем далее считать, что а ^ 0. При этом предположе-
предположении мы получим A8.1.16), представив a(x,D) в виде некоторой
суперпозиции положительных операторов с погрешностью по-
порядка 2/п. Начнем с того, что выберем какую-нибудь четную
функцию ф е С~ (R2") единичной 1.2-нормы и определим т|> е 9*
равенством Ир(х, D)= y(x, D)*q>(x, D). Функция г|> четна в силу
A8.1.14) и A8.1.9), и мы утверждаем, что
A8.1.17)
Действительно, если Kv и К* — ядра операторов у(х, D) и
$(x,D), то
BлГЛ \\ *(jc, l)dxa%= \ K*(x, x)dx= \ J \K9{x. y)fdxdy
(последнее равенство следует из A8.1.7) и равенства Парсе-
валя).
Убедившись в справедливости равенства A8.1.17), положим
теперь а = ао+ аи где
Oi (х, I) = \\ ф ((х -у)д (Ч), (| -
A8.1.18) JJ
Поскольку (ф (*, D) и, и) = ||ф (х, D)u\\2 ^ 0, то и (ф(^, D/f)«, и)
&*0 (заменяем и иа u(x/t)). Следовательно,
(¦ V(х- у), (D- r\)/i)и, и)>0, не ^, (у, л) е R2"
(заменяем ина«(л+ t/)e~'Uitl)). Отсюда ясно, что

18.1. Основы исчисления 109
Поэтому оценка A8.1.16) будет доказана, если мы установим,
что do e S2m.
Продифференцируем at no Xj. Производную по х/ от первого
сомножителя под знаком интеграла можно заменить на его
производную по tfj, взятую с обратным знаком. После интегри-
интегрирования по частям конечный результат будет такой, как если
бы мы продифференцировали по у/ второй сомножитель, а.
Продифференцировать а\ по ?/ сложнее, поскольку
(д/dt, + д/дц,) ф ((х -y)q (n), (I - т])/<7 (л))
= Ч>' ((х -y)q (r\), (I - r])/q (л)) F, (ч),
где f/(Ti) = 9(ri)~1^(Tj)/dti/sS~1, а функция т|/, задаваемая
формулой
есть снова четная функция из 9*. Заметим, что \\^'(jc, Qdxdl
= 0. Следовательно, дифференцирование а\ по |/ дает член
вида A8.1.18) с а, замененным на а^\ и еще один член, полу-
получающийся заменой ф на ф' и введением некоторого дополни-
дополнительного сомножителя F/ e S. По индукции заключаем, что
j^ <j \а^ есть конечная сумма членов вида
A8.1.20) Ьо {х, I) = J J ф, ((х - у) q (ч), (| - т])/<7 (л)) Ь {у, ч) dt/ dt|
где функция ifie^ четна, а J e S!m+4«i. Теорема будет до-
доказана, если мы проверим импликацию Ъ е S» =$-\bo(x, I) \ ^
СA||)^
а) При |i-t||>(l+|gD/2 имеем 1+1ч1<3|6-4 I и
Множитель \j>i в первом интеграле в правой части A8.1.20) оце-
оценивается величиной
CN A + I х - у | q (ч) +11 - ч |/<7 (л))""' A + U -
для любого JV. Ввиду того что <7(tjJ^ I +hl^ 3|| — tj|, по-
последний сомножитель в этом выражении можно заменить на
A+|| — ч|/3)~*. Таким образом, подынтегральное выражение
в упомянутом интеграле оценивается величиной

ПО 18. Псевдодифференциальные операторы
при Ц — ii|^(l + UD/2 и N >\[i\+ п+ \. Интеграл от пер-
первого сомножителя по у, ц, взятый по всему R2", конечен и не
зависит от х, ?, так что мы получим искомую оценку для
Ь0(х, |), взяв достаточно большое N.
Ъ) При ||-т,КA+Ш)/2
для любой точки 6 прямолинейного отрезка, соединяющего ?
и г\. Поэтому формула Тейлора дает
(Заметим, что, выбирая растяжения аргументов функции т|>,
мы имели в виду эту оценку.) Таким образом,
l-ni<
В(х,у, I, Ч) | ¦, ((х -y)q (л), (Б - r\)/q (л)) I dy ёц
Остается оценить интегралы
¦! (Их -y)q Ы), (I - ч)/? (л)) (У - xf (n - Е)а dy dn.
При выполнении Этой оценки хотелось бы заменить q(r\) на
<7(|). Используя обозначение i|v аналогичное обозначению
A8.1.19), имеем для любого W
I ¦! (/г, 0/0—4>i (z, в)-(/ - 1) ¦! (г, О)I < Cw A +1 г | +1 в D-JV «-1J,
при условии что значения t и 1/? ограничены некоторой фи-
фиксированной постоянной. Предполагая еще, что \\ — ц\<.
< A +1Б |) /2, возьмем * = ^ (ч) /<7 (I). Тогда
и, заменяя (г, 0) на ((х — у) q (Ъ), (& — x\)/q (Q), мы заключаем,
что
| Ъ ((х ~y)q Ы, (I - n)/q (ч)) - +i ((* - у) <7 (Б), (Б -
- <?' (Б). (Ч - 1I q (Б)> +^ ((* - У) <7 (I). E -

18.1. Основы исчисления 111
Поскольку 2|&-ч|>1+|Ц влечет| 1 - i) \lq (g) >A +1g \)/2q (|),
получаем
- *)Э (Л -
1 <
+ J J *i (г/, л) /л°<л. ^ (Б)> rfy rfti + о (a +111))] •
Первый интеграл в правой части равен нулю при |а+р|=1,
а второй — при a + Р = 0. При | a -f- p | = 2 правая часть оце-
оценивается величиной Cq (II °'"'м = Cq (IJ'" '~2, при | a +р | = 1
-величиной C^(g)|aHPbI = C^(iJ1a|-2, а при а + р = 0 пра-
правая часть равна \ \ ^{{у, r\)dydr\ + О (A +111)~0- Умножая на
b^\(x, l)/a!p! и суммируя, приходим после вычитания второго
интеграла в A8.1.20) к оценке
)l< E |8(,
|O+Tl<2
Доказательство завершено.
Замечание 1. В § 22.3 мы получим некоторые уточнения тео-
теоремы 18.1.14. При этом будет существенно использован следую-
следующий факт, вытекающий из проведенного выше доказательства:
если O^eeS5, то существует функция по е S1, такая что
оператор a(x,D)~ ao(x,DJ неотрицателен и
A8.1.21) |ao(*.5)l<C( Е A+16DleM |<${(*. 1)!
Ч| о+р|<2
Это частный случай оценки для bo, которой завершается дока-
доказательство.
Замечание 2. Исчисление псевдодифференциальных операторов
работает и в случае, когда допускаются символы seS" со
значениями в 9?(В\,Въ), где В\ и В2 — рефлексивные банаховы
пространства. В этом случае а(х,D) отображает 9"(Rn,Bi) в
?P(Rn,B2), а 9"(Rn, fii) в 9"(Rn, B2). Надо только в проведен-
проведенных выше рассуждениях заменить абсолютные значения нор-
нормами. Если В\ и Вг — гильбертовы пространства, то остаются
в силе результаты об ^-непрерывности, причем доказательства
нуждаются лишь в незначительных видоизменениях. Также и
точное неравенство Гординга (теорема 18.1.14) справедливо для
случая, когда а е S2m+1 принимает значения в 3?(Н,Н), где
Н — гильбертово пространство, а функция и, фигурирующая в

112 18. Псевдодифференциальные операторы
A8.1.16), принимает значения в Н. Действительно, для любого
положительного ограниченного оператора А в Н
(¦ <(*- У)П, (D- ц)/0 Аи, и)>0, ff.tieRn, /> О,
если функция ф определена, как в доказательстве теоремы
18.1.14, ибо спектральная теорема сводит дело к скалярному
случаю. Таким образом, первая часть доказательства сохраняет
силу, а вторая вообще не претерпевает заметных изменений.
Приводимое ниже простое следствие теоремы 18.1.14 пред-
представляет собой уточнение теоремы 18.1.11, которое часто ока-
оказывается полезным.
Теорема 18.1.15. Для всякого ограниченного подмножества А в
S0 существует постоянная С, такая что
A8.1.22) Re(a(x, D)u, «) > - Сб || и |f, кеУ,
если а<=А, а > 0, 0 < б < 1 и а (х, I) = 0 при | б| |< 1. Кроме
того,
A8.1.23) \\а{х, D)\\<sup|a \ + (C6)m, ие=9>,
если а<=А, 0 < б < 1 и а(х, I) == 0 при \6? |< 1.
Доказательство. Положим Ах — {а/б; а е А, 0 < б < 1 и а (х, |)= О
при |б||<1}. Поскольку 6~'<;i+|i|Ha suppa, то Л, — огра-
ограниченное подмножество в S1. Следовательно, оценка A8.1.16)
с т = 0 выполняется равномерно для всех ae^j, чем и до-
доказано A8.1.22). Выберем функцию хеГ(П| удовлетворяю-
удовлетворяющую условиям 0<х<1, Х(?)=1 при |1|>1 и %(|) = 0 при
|||< 1/2. Тогда оценка A8.1.22) применима к
если as Л, Af = sup|a| и а(х, |)==0 при |6?|<1 для некото-
некоторого б е @, 1). Это дает
M2||«|f- Re(| a f{x, D)u,u)>- Cb\\u\f, u^9>
(с другим С). Далее, a(x, D)*a(x, D)= \a\2(x,D) +b(x, D), где
b (a, l) принадлежит некоторому ограниченному множеству в
S-1 и равняется 0 при |6?|< 1. Значит, Ь(х, %)/8 принадлежит
некоторому ограниченному множеству в 5°. Поэтому
||?)/|| С в силу теоремы 18.1.11, и
и f -1| a (x, D) uf>-(C + С) б || и
чем доказана и оценка A8.1.23).

18.1. Основы исчисления 113
В следующей теореме собраны вместе некоторые свойства
гладкости ядер псевдодифференциальных операторов, частично
уже встречавшиеся нам выше.
Теорема 18.1.16. Пусть а <= Sm и Ke=9"(RnX R") — ядро опе-
оператора a{x,D), определяемое формулой A8.1.7). Тогда
ЯеС/^ХК"), если тп + / + п < О, и /Се= C-(R"X R"\A),
каково бы ни было пг; здесь А обозначает диагональ {(х, х);
j;sR"}. Более точно,
A8.1.24) WF(K)cz{(x,x,Q, -в); *, 6eRB},
г. е. волновой фронт распределения К содержится в конормаль-
ном расслоении для Д. Далее,
A8.1.25) W F {a (x, D) и) <=. W F {и), kg/,
A8.1.26) sing supp a (x, D) и cr sing supp и, и<=9".
Если а е= S-°°, то а (х, D)9" cr C°°.
Доказательство. Интеграл A8.1.7) является абсолютно сходя-
сходящимся и остается таковым и после / дифференцирований под
знаком интеграла, если пг -+• / -+• п < 0. Этим доказано первое
утверждение. Чтобы доказать второе, заметим, что если
X, феСГ, то %(x)K(x,y)ty(y) есть ядро оператора
и \—> %а (х, D) -фы, и ^9",
принадлежащего OpS-°° по теореме 18.1.8, при условии что
supp % Л supp *ф = 0. Следовательно, это ядро при указанном
условии принадлежит С°°. Более точный результат A8.1.24)
сразу следует из теоремы 8.1.9 с ф (х, у, Э) =<я — у, Э>. Если
uel', то теорема 8.2.13 дает включение A8.1.25), из которого
вытекает включение A8.1.26). (Для ве^' нетрудно доказать
A8.1.26) и непосредственно, поскольку sing supp a (x, D) и
a supp и, раз К е C°°(RnX К"\Д), и можно записать и в
виде и = «1 + иг, где и2еСо° и, значит, а(х, ?>)ы2е С°°, a «i
имеет носитель, близкий к sing supp и.) Если а е S-00 и
ы s 5", то
Dh (x, D) и (х) == Bя)-п <й, ?>? (в1 tt> 5>a (jc, |))>,
так как это верно для аеУ, а правая часть задает непрерыв-
непрерывное отображение из 9" в С0. Следовательно, а(*, D)9" cz C°°.
Если х» ^ s С" и х= 1 в некоторой окрестности носителя г|>,
то
?>) и - i|w (*, />) (х«) = 4>а (*, D) A - %) и е С00,

114 18. Псевдодифференциальные операторы
Поэтому WF(ipa(x,D)u)c: WF{%u), чем A8.1.25) доказано для
любого и е 9".
Замечание. Соотношение A8.1.26) часто называют свойством
псевдолокальности, а соотношение A8.1.25)—свойством мик-
микролокальности оператора а(х, D).
Прежде чем обсуждать, как ведет себя класс OpSm при за-
заменах переменных, заметим, что если а е Sm, то, как показы-
показывает прямое вычисление,
а(х, D){el«•«>«) = е''«• &>а(*, D + l)u, и<=9', | е= R*.
Беря и (х) = v (ех), где v — функция, для которой реС" и
и@) = 1, и устремляя е к 0, получаем
A8.1.27) а (х, D) е' <*•» = а (х, |) е1 <*¦ «>.
Это дает удобный способ восстановления символа по оператору.
Теорема 18.1.17. Пусть X и X*—-открытые подмножества в R"
и и: Х-*~Ху, — диффеоморфизм. Если seS1" и ядро оператора
а (х, D) имеет компактный носитель в ХУ.Х, то формула
A8.1.28) a)((xW,ii) = riM''>ofeD)eI«»1»
(при уфХу. полагаем ам(у, 1) = 0) задает функцию a^^S,
такую что ядро оператора aK(x,D) имеет компактный носитель
в X* X ^к и
A8.1.29) (ак (*, D) и) о и = а (х, D) (и о и), иг 9".
Функция а„ допускает асимптотическое разложение
A8.1.30) Mx(*), г,)~ I а{а)(х, V(х
p*(f/)= >с(г/)—х(л;)—х'(д;) (г/— л:) ылеет в гочке х
второго порядка. Член ряда, отвечающий мультииндексу а,
принадлежит Sm~W/2.
Доказательство. Если считать уже доказанным, что ск ^ Sm, то
A8.1.28) означает в точности то, что равенство A8.1.29) верно
для u(x)=eli*'ty. Но тогда это равенство верно для всех
и е 9", поскольку обе его части задают непрерывные отобра-
отображения из 9" в &'{Х), а линейные комбинации экспоненциаль-
экспоненциальных функций плотны в 9'. Прежде чем доказывать включение
aK^Sm и справедливость асимптотического разложения
A8.1.30), заметим, что функция
A8,1.31) fa(x,r])^Davei^{y)^)\v.,

18.1. Основы исчисления 115
есть многочлен от х\ степени ^|а|/2 с (^-коэффициентами.
Действительно, всякое дифференцирование, приводящее к по-
появлению множителя г|/, дает еще и производную от рх{у), об-
обращающуюся в нуль в точке х, и если при образовании дан-
данного члена участвовали k дифференцирований, давших каждое
по одной какой-то координате вектора г\, то этот член может
быть ненулевым, только когда \a\—k^k, т. е. 2А;^|а|,—
только тогда останется достаточно много производных, чтобы
«убить» эти нули. Это показывает, что члены ряда A8.1.30)
в самом деле принадлежат 5тНа|/2, и, значит, этот асимпто-
асимптотический ряд является корректно определенным. Выпишем зна-
значения нескольких первых многочленов <ра:
/iftmiv Фо=1;<Ра = О при [а|=1;
q>a(x, i\) = Dxi(x(x), r\) при |а| = 2 или 3.
Ввиду предложения 18.1.4 мы сможем заключить, что
ак(х(х), t))e Sm, а значит, ск е Sm и что справедливо
A8.1.30), если получим оценки вида A8.1.3)". Действительно,
дифференцирование выражения A8.1.28) дает конечную сумму
одночленов по г\, помноженных на аналогичное выражение с
другим а, откуда следует A8.1.4).
Выберем функцию феС (X), такую что <р (я) = <р (у) = 1 для
всех точек (х, у) из некоторой окрестности носителя ядра опе-
оператора а(х, D). Тогда
A8.1.28/
откуда сразу видно, что ак е С°°. Чтобы изучить поведение ах
при больших t), введем преобразование Фурье
Ф (I. Л) = J 9 (У) е*<к{у)'tI>-'iv'5> dy.
Производная по у от «фазы» <x(t/), r\) — (у, 1) равна *х?(у)г\ — %.
Если |х'(#)|<С и |х'(j)"'|<C для г/esuppcp, то
\к[У)П 6l-tc-»|n-
|n-V(yr!E|>|fil/2C при CHKInl/2.
Переписав фазу в нормализованном виде
и воспользовавшись теоремой 7.7.1, заключаем, что для лю-
любого #

11в 18. Псевдодифференциальные операторы
если |, л не удовлетворяют условию 1л |/2С <||| < 2С| г\\. Те-
Теперь выберем функцию % е С" (R"), равную 1 при 1/2С < 111
< 2С и 0 при || |< 1/4С. Тогда
а (х, D) (Ф (х) е1«<*>¦ ч>) = /, (х, л) + /, (х, л),
где
/, {х, ц) = Bя)~п J в* «• *> а (х, 1) Ф A, л) A - X A/1 Л 0) «*6
убывает быстрее любой степени 1/A +1 л I) при л~>о°. а
h (х, Л) = (<о/2я)" \ е'ш «*-»• 5>+<и <»)• 1А»> а (х. со|) х (I) Ф (у) rfy d|.
Здесь u>=|i)|. Интеграл /2 приводится к виду, рассмотренному
в теореме 7.7.7, если принять у — х в качестве новой перемен-
переменной (вместо у); при этом еще х и у меняются ролями, а роль
параметра играет г\/(й. Заметим, что хA)=1 вблизи критиче-
критической точки % = *к'(х)х\/(й. Поэтому мы получим для интеграла
h асимптотическое разложение
ei <к (х), т» V ^?) ^ DJef/e1 С
если учтем, что все производные от а (х, а>?) на носителе
подынтегрального выражения оцениваются через а>"\ a q>(x)=l
в некоторой окрестности носителя функции ак(х(х),т)). Дока-
Доказательство завершено.
Простейшее следствие из A8.1.30) состоит ввиду A8.1.31)'
в том, что
(х (х), л) - а (х, V (х) л) е= Sm-K
В частности, если а — полиоднородный символ с главным сим-
символом (т. е. однородным членом старшей степени) а0, то а*
будет полиоднородным символом, главный символ а° которого
удовлетворяет соотношению
а&(х(х), л) = а° (*
Следовательно, главный символ преобразуется как функция,
инвариантно определенная на кокасательном расслоении, точно
так же как и в случае дифференциальных операторов, рассмот-
рассмотренном в § 6.4. Для следующего члена а1 (соотв. aJJ получаем
(в предположении, что шаг, фигурирующий в определении по-
лиоднородности, равен 1)
ale(х(*), л) = а1 (х, V (х)ч) + У, а0(о)(х, V(х) ц) Д?(йс(х), ц)/а\.
|аТ-2

18.1. Основы исчисления 117
По более простому закону преобразуется субглавный символ,
определяемый формулой
A8.1.32) а'Ч*Д) = аЧ*,1) + у
Чтобы вычислить субглавный символ для ах, воспользуемся
тем, что
< (У, Л) = а° (х, У (х) -л) при у = х (х),
где (*к'(х)г\I = d(y,i))/dxi. Это дает
Пусть J = det(dyf/dxk). Тогда HdXkldyj) есть матрица алгеб-
алгебраических дополнений элементов матрицы (dyt/dxk); поэтому
J~ldJ/dxi = X ((^У^дхьдх^дхь/ду!. Следовательно,
A8.1.33)
<# (х W, Ч) = au («, V (х) Ч) - A/2) Z a°<Z) U V
Выглядит это ненамного проще, но во всяком случае символ als
инвариантно определен в тех точках кокасательного расслое-
расслоения, где а0 имеет нуль второго порядка. Кроме того, он ин-
инвариантен относительно замен координат, сохраняющих меру,
и, как мы увидим ниже, если слегка изменить точку зрения,
мы получим полный инвариант. Более глубокая мотивировка
понятия субглавного символа будет дана в § 18.5.
Наша очередная цель — определить псевдодифференциаль-
псевдодифференциальные операторы на многообразии. Прежде всего надо рассмот-
рассмотреть символы. Для произвольного открытого множества X в R"
мы определяем Su,c{XXRn) как множество всех a eC^XXR"),
таких что q>(x)a(x, ?)e Sm(R"X R") Для любой функции
феСо°(Х). Это означает, что для всякого компактного множе-
множества КаХ найдутся такие постоянные Сарк, что
A8.1.1/ |a$(*,!|l
С помощью разбиения единицы предложение 18.1.3 немедленно
распространяется на этот локальный случай.

118 18. Псевдодифференциальные операторы
Более общим образом, пусть Г cr R"X Rrt — открытое мно-
множество, коническое по второй переменной, т. е (х, ^)еГ
=*-(jc, /|)еГ ПРИ всех ' > 0- Определим Si^c (Г) как множество
всех а е С00(Г), таких что для каждого компакта К'czT оцен-
оценка A8.1.1)' выполняется на множестве {{х, /|); (х, |)е/Г,
t^l}. Выбирая К' = КХ{1\ |1|^ 1}, видим, что в случае, ко-
когда Г = X X R". это определение согласуется с предыдущим.
Обычно мы будем, упрощая обозначения, писать Sm{T) вместо
5|2с(Г), поскольку при Г =5^= R"X R" никаких недоразумений
возникнуть не может. Символы из введенного класса хорошо
ведут себя при заменах переменных:
Лемма 18.1.18. Пусть Xi и Х2 — открытые множества в R" и
ф: X, -> Х2, Ф: X, -> GL (л, R) (группа обратимых пХп-матриц) —
отображения класса С°°. Если r,c=J1XR" и Т2аХ2Х&" — от-
открытые конические множества и (ф (х), Ф (х) I) e Г2 при (х, |)
е=Г„ то
принадлежит 5т(Г,) для всякого a2^Sm(T2).
Доказательство. Если К\ —компакт в Г,, то К2 = {{<${х),
(х, 1) е Ki) — компакт в Г2. Поскольку отношение 1Ф
ограничено сверху и снизу положительными константами при
(х, I) е= /С, и
а(,Л = Е $]Фк1, а, (/) = 2 а2 (^дф^/дх, + Е «4*'
требуемые оценки A8.1.1)' устанавливаются по индукции.
Если X — открытое множество в R" и aeSm(XXR"), то
формула A8.1.5) все еще определяет некоторый оператор
а(х, D): 2"№п)-
ограничение которого дает операторы &" (X)-*¦ &'(X) и С™(Х)-*
-> С°° (X). Действительно, если <р е СГ (X), то ф (х) а (л;, |) <= Sm,
а такие операторы мы уже обсуждали. Отсюда следует
также, что а (х, D) осуществляет непрерывное отображение
Hys)-*H\°tm)(X). Однако пока нашим построениям недостает
симметрии между умножениями справа и слева, и этот изъян
надо устранить, чтобы можно было брать сопряженные. Ситуа-
Ситуацию проясняет следующее
Предложение 18.1.19. Если А: С™ (Х)-*-С°° (X)— непрерывное
линейное отображение и для всех ф, -ф е Со° (X) оператор

18.1. Основы исчисления 119
принадлежит Op Sm, то существует символ а е Sm(Xy- Rn), та-
такой что
А = а(х, D) + Ao,
где Аа —оператор, ядро которого принадлежит С°°(ХХ-^)- При
этом а определяется однозначно по модулю S~°° (Xy^R").
Доказательство. Пусть 1 = ? fy (г/) — локально конечное раз-
разбиение единицы на X. Тогда ip/Aipku = а^{х, D)u, ue^, где
a,k^Sm и а,к{х, 1)==0 при Jt^suppfy. Положим
а{х, l)=J?alk(x, I),
где штрих означает, что сумма берется по таким / и k, для
которых supp -ф / U supp ifft ф 0. Число слагаемых в этой сумме
локально конечно, поскольку любой компакт в X пересекается
лишь с конечным числом множеств suppty/, а каждое из этих
последних пересекается лишь с конечным числом supp гр*. Сле-
Следовательно, aeSffl(XXRe). Пусть К — ядро оператора А. То-
Тогда ядром оператора А — а (х, D) будет сумма
Эта сумма принадлежит С°°(ХХХ), так как число слагаемых
в ней локально конечно, а сами слагаемые принадлежат С°° по
теореме 18.1.16. Далее, если ieSm и ядро оператора Opb
принадлежит С?° (R"XR"), то
быстро убывает при I -»- оо, а потому Ь е S~°°. В случае А = О
мы можем применить это утверждение к символу Ь, задавае-
задаваемому равенством b(x,D)u = <ра(х,/))фы, где <р = $ = 1 вблизи
произвольно заданной точки в X. Это показывает, что
а е S~°°{Xy. Rn), чем и завершается доказательство.
Теперь мы готовы к тому, чтобы определить псевдодиффе-
псевдодифференциальные операторы на многообразиях:
Определение 18.1.20. Псевдодифференциальный оператор поряд-
порядка m на С°°-многообразии X — это непрерывное линейное ото-
отображение А: СТ (Х)-*С'Х'(Х), такое что для всякой локальной
координатной окрестности ХК а X с координатами ХК э х
>->х(х) = (х\, ..., хп) е К у, a R" и для всех ф, -ф е С~ {XJ ото-
отображение
9>' (R") э и и-»- Ф (х)' Ах

120 18. Псевдоднффереициальиые операторы
принадлежит OpSm. Мы пишем в таком случае Де?т(Х) и
продолжаем А до отображения &'(Х)-*-3)'(Х).
Из предложения 18.1.19 следует, что в случае, когда Хс R",
псевдодифференциальный оператор А порядка т на X должен
быть представим в виде суммы оператора а (х, D) с
aeSm(^XRn) и оператора с ядром из C^iX'X.X). Теорема
18.1.17 показывает, что, обратно, всякий оператор такого вида
принадлежит Wm(X). Определение 18.1.20 означает просто, что
ограничение оператора А на каждую координатную окрестность
имеет в локальных координатах такой вид. Разумеется, доста-
достаточно знать, что это верно для множества координатных окрест-
окрестностей Хн, обладающего тем свойством, что произведения
Ху. X Хк образуют атлас для X X X. Годится любой атлас на Х%
если дополнительно потребовать, чтобы ядро оператора А было
гладким вне диагонали. В частности, если a* e Sm и ядро опе-
оператора ак(х,D) имеет компактный носитель в ^хХ^х, то мож-
можно определить А е ф" (X), положив
Из теоремы 18.1.17 следует, что если оператор А полиодно-
полиоднороден, то на Т*(Х)\0 (где 0 обозначает нулевое сечение) ин-
инвариантно определен его главный символ а0. Он получается
просто поднятием главного символа с Т*(Хх)\0 на Т*(Хх)\0.
Чтобы определить главный символ для произвольного операто-
оператора i4eli"", мы сперва определим Sm(T*(X)) как множество
всех aeCfrm), поднятие которых на Т*{Х„) = ?KXR"
принадлежит Sffl(AxXR") Для всякой координатной окрестно-
окрестности Ху,. Ввиду леммы 18.1.18 достаточно потребовать, чтобы это
условие выполнялось для всех координатных окрестностей из
какого-нибудь атласа, и ясно, что в случае, когда ^<= R", это
определение согласуется с нашим прежним определением. Для
любого оператора А е V" его ограничение на координатную
окрестность Хк, отождествляемую с Хк, определяет в силу пред-
предложения 18.1.19 некоторый «символ» — класс, принадлежащий
SfflftXR")/S^(^XR"). Если а* е= Sm(Г*(Хк)) — обратный
образ какого-либо представителя этого класса, то, в силу тео-
теоремы 18.1.17, aK — aw^Sm~l{T*{XK(\Xw)) для любой пары
координатных окрестностей. Выбрав разбиение единицы {%},
подчиненное некоторому покрытию нашего многообразия коор-
координатными окрестностями Ху., положим
Тогда a — aK eSn-'(?(^))' для всякого %. Это показывает,
чтр символ а определен однозначно по модулю Sm-\ н мы по»

18.1. Основы исчисления 121
лучаем изоморфизм главного символа
Чтобы убедиться в сюръективности отображения из левой ча-
части в правую, выберем функции ф/, удовлетворяющие на этот
раз условию 2] 'Ф/— U и положим для заданного a^Sm(T*(X))
где fl/ — поднятие а на Г* (ХЧ/). Тогда A —J^Aj будет опера-
оператором с главным символом а. Имеет место также изоморфизм
между \Р-°°(Х) и пространством операторов с С°°-ядрами, т. е.
операторов, отображающих &'(Х) в C^iX).
Для того чтобы иметь возможность свободно брать компо-
композиции операторов, надо располагать некоторой информацией
о носителях их обобщенных ядер, представляющих собой рас-
распределения в XX X со значениями в l^S, т. е. обобщенные
плотности по второй переменной.
Определение 18.1.21. Говорят, что псевдодифференциальный
оператор А в X является собственным, если обе проекции но-
носителя его ядра — подмножества произведения ХУ,Х— на со-
сомножители этого произведения являются собственными отобра-
отображениями, т. е. если для всякого компакта КаХ существует
такой компакт К' с X, что
supp и с: /<¦=>» supp Лис К!', и = 0 на К'=>Ли = О на К.
Заметим, что А можно продолжить до отображения
&>'(Х)-*-3)'(Х) с сохранением последнего свойства.
Предложение 18.1.22. Каждый оператор А е У" представим в
виде А==А\+А0, где оператор <4ie4"" собственный, а у Ао
ядро принадлежит классу С00.
Доказательство. Как и в доказательстве предложения 18.1.19,
возьмем разбиение единицы 1 = ? -фу на X и положим
«),
где штрих означает, что сумма берется по таким / и k, для
которых supp \|)/ Л supp \|)й ф 0. То же самое доказательство по-
показывает, что оператор А\ является собственным, а оператор
Ао = А — /4i имеет С°°-ядро.
Используя разложение, даваемое предложением 18.1.22, и
предложение 18.1.3, легко проверить, что если At e \Pm' (X),

122 18. Псевдодиффереициальные операторы
m/\ — оо, то существует оператор A s Ч*"*0, такой что
А—У, А.^ Ч?т* для всякого к.
/<*
Детали этой проверки предоставим читателю.
Поскольку асимптотические формулы исчисления псевдодиф-
псевдодифференциальных операторов позволяют определять их лишь по
модулю Ч*1-00, мы будем обычно работать с vp^/ip-00, а не с Ч"".
При этом в силу предложения 18.1.22 всегда возможно выбрать
для рассматриваемого класса собственный представитель. По-
Поэтому то обстоятельство, что в приводимом ниже непосредствен-
непосредственном следствии теоремы 18.1.8 речь идет о собственных опера-
операторах, не является существенным ограничением.
Теорема 18.1.23. Если операторы ^efm'(I) собственные,
/ = 1, 2, то и оператор Л = Л,Л2еЧг""+и'(^) является соб-
собственным и его главный символ равен произведению главных
символов операторов А\ и А2.
Доказательство. Пусть ф, ф <= Со" (Y), где У — произвольная
координатная окрестность. Выберем функцию % е Со" (Y), рав-
равную 1 в некоторой окрестности носителя \f. Тогда
фЛ, А2$ = (фЛ,х) (хЛ21|з) + фЛ, A — х2) А2$.
Первое слагаемое в правой части принадлежит Wm по тео-
теореме 18.1.8, а второе имеет С°°-ядро.
Доказательство импликаций (iii)=*-(i), (ii) в теореме 18.1.9
без всяких изменений дает следующее обобщение теоремы
7.1.22:
Теорема 18.1.24. Если оператор ЛеЧ"" — собственный и эл-
эллиптический в том смысле, что его главный символ
ae=Sm(T*(X))/Sni-1(T*(X)) имеет обратный в S~m(T*(X))
/S-m-1(T*{X)), то существует собственный оператор Ssf-»1,
удовлетворяющий условиям
В А - I 6= ?""", АВ - Г е= TF"".
Такой оператор В называется параметриксом для А.
В гл. 19 мы изложим теорию существования решений для
эллиптических уравнений, основанную на существовании пара-
метрикса для эллиптических операторов. А сейчас рассмотрим
локальные варианты теоремы 18.1.24.
Определение 18.1.25. Пусть а е Sm(T*{X)) — главный символ
оператора Л е Ч?т. Будем говорить, что Л является нехарак-

18.1. Основы исчисления 123
теристическим в точке (хо, Ы е Г* (X) \0, если найдется такой
символ b e S~m, что аЬ — 1 s S-1 в некоторой конической
окрестности точки (х0, |о). Множество всех характеристических
точек оператора А обозначается через Char Л.
Это определение, очевидно, не зависит от выбора а. Дока-
Доказательство эквивалентности условий (ш) и (iv) теоремы 18.1.9
показывает, что в терминах локальных координат условие не-
нехарактеристичности оператора А в точке (*о, ?о) эквивалентно
условию, что \а(х, |) |^ c|g|m при больших ||| в некоторой
конической окрестности этой точки. В случае когда А имеет
однородный главный символ а, последнее условие равносильно
тому, что a (xq, lo) Ф О, так что данное только что определение
множества Char Л согласуется с (8.3.4) для дифференциальных
операторов.
Пусть A s Ч"" и k < m. Будем говорить, что А принадлежит
классу Ч'* (или имеет порядок k) в точке (х0, |0) е Т* (Х)\0,
если для ограничения полного символа а{х,\) оператора А на
некоторую координатную окрестность точки хо выполнено вклю-
включение oeS'b некоторой конической окрестности точки (х0, |о).
Ввиду предложения 18.1.19 и теоремы 18.1.17 это условие не
зависит от выбора а и локальных координат. Особенно важен
случай k = —с»:
Предложение 18.1.26. Пусть Ле?т(^) и Г — некоторое зам-
замкнутое коническое подмножество в Т* (X) \0. Следующие усло-
условия равносильны (ниже $&¦ обозначает ядро оператора А):
(i) А имеет порядок —с» на (Г*(А)\0)\Г;
(И) wrxst)<={(y, y); v^r};
(Hi) WF {Au)cT[\WF(u), us=&'{X).
Доказательство. Рассматриваемые условия локальны, поэтому
можно считать, что Xс:R" и А = а(х, D), где ае5т и
а(х, !) = 0 при |||<1. Если а быстро убывает в некоторой
конической окрестности V точки (х0, |0), то можно выбрать
функцию ^sCco(R"X(R" \0)) с носителем в V, однородную
степени 0 по второй переменной и равную 1 в некоторой ок-
окрестности точки (х0, 1о)- Тогда оператор (aq)(x, D) имеет ядро
класса С°°, и по теореме 8.1.9 точка (х0, iQ, xQ, —10) не при-
принадлежит волновому фронту ядра оператора (а(\ —q))(x, D).
Таким образом, в силу A8.1.24), (i)=*-(ii). То что (И) => (iii), вы-
вытекает из теоремы 8.2.13. Наконец, предположим, что выпол-
выполнено (iii), и пусть (х0, ?о) ^ Г- Выберем функцию ?sS°, у ко-
которой носитель лежит в замкнутом конусе Г,, не пересека-
пересекающемся с Г, и которая равна 1 на с» в некоторой конической

124 18. Псевдодифференциальные операторы
окрестности точки (х0, ?о). Тогда WF(q(x, /))м)сгГ, для всяко-
всякого uel', ибо (i)=>(iii). Следовательно, WF(a(x, D)q(x, D)u)
с=ГПГ1 = 0. Значит, а(х, D)q(x, D) имеет СГ-ядро К. Выбе.
рем функцию tpeCo", равную 1 в некоторой окрестности точки
х0, и положим а(х, D)q(x, D)w = b{x, D)u. В силу A8.1.27)
справедливо равенство
Ь(х. 1) = е-'«-
правая часть которого быстро убывает при ?->оо. То же вер-
верно и для производных от Ь, так что Ь s 5"°° вблизи точки х0.
Но Ь — а е 5"°° в некоторой конической окрестности точки
(*о> %*>)• Отсюда вытекает, что aeS"*00 в конической окрестнос-
окрестности точки (х0, io). Таким образом, установлена импликация
(ш)=>@, чем доказательство и завершено.
Поскольку множество WF'(st) содержится в диагонали про-
произведения (Г* (X) \0)ХG"№ \0), естественно отождествить его
с соответствующим коническим подмножеством в Т'(Х)\0.
А именно, положим
A8.1.34) WF(A) = {ye=r(X)\0, (у,
В силу предложения 18.1.26, WF(A)—наименьшее коническое
множество, на дополнении к которому оператор А имеет поря-
порядок —оо. Далее,
A8.1.35) WF{Au)czWF(A)l\WF(u), ue=$'(X)t
и никакое меньшее множество не может заменить WF(A) в пра-
правой части. Ясно, что WF(AB)cz WF(A)f[ WF(B) для любых
Теперь мы в состоянии сформулировать микролокальный ва-
вариант теоремы 18.1.24:
Теорема 18.1.24'. Если оператор А е Wm является собственным
и (х0,1о) ф Char А, то существует собственный оператор В е W~m,
такой что (хо, lo)<?WF(BA-I) и (х0, ?0) ф WF (АВ -1); эти
условия равносильны.
Доказательство. В силу определения 18.1.25 найдется оператор
Bj e Г", являющийся собственным (равно как и все другие
появляющиеся ниже операторы) и такой, что оператор АВх — 1
имеет порядок —1 в точке {х0, 10). Это означает, что
АВ{ = / + R\ + #2. где Ri^W1, a R2 таков, что (х0, У
ф. WF(R2). Согласно теореме 18.1.24, найдется оператор В2 eW°,

18.1. Основы исчисления 125
для которого (/+ R\)B2 — /<= W~°°. Поскольку (х0, Ц0)ф
WF(R2B2), то {х0, io)<?WF(AB-I), где В = 5,В2. Аналогич-
Аналогично, существует оператор В', такой чтр (х0, go) Ф WF (В'А — I).
Так как
В/ — В = {В'A — l)B-B' (AB - /),
мы заключаем, что (х0, |„) ф WF (В' — В). Значит, (х0, ?#) ф.
WF(BA — I), чем и завершается доказательство.
Теорема 18.1.24' позволяет дать новое описание волнового
фронта распределения:
Теорема 18.1.27. Для всякого и^З)'(Х) и всякого msR
A8.1.36) WF(u)= П Char Л,
где пересечение берется по всем собственным операторам
4бГ(Д для которых Аи<=(Г(Х).
Доказательство. Предположим, что (х0, ?0) Ф- WF (и). Тогда
можно подобрать оператор /Isf", удовлетворяющий усло-
условиям Аие=С°°, WF(A)[)WF(u)=0 и (х0, У Ф Char А, просто
действуя в какой-нибудь координатной окрестности, содержа-
содержащей х0. Этим доказано, что HChar А с WF(u). Обратно, пусть
Ле?™, ЛиеС°° и (xQ, |0)^Char/l. Нам надо показать, что
(х0, |0) ф. WF(и). Опираясь на теорему 18.1.24', выберем опе-
оператор fief", для которого (х0, Ео) Ф WF (В А — 1). Тогда
и = ВАи + A-ВА)и,
где ВЛмеС°°, а {х0, %о)Ф WF((I — В А) и) в силу предложе-
предложения 18.1.26. Теорема доказана.
С этого момента будем считать A8.1.36) нашим определе-
определением WF(u). При таком определении очевиден аналог теоре-
теоремы 8.3.1:
Теорема 18.1.28. Для любого собственного оператора ЛеЧГт(Х)
и любого не 2>'(Х)
A8.1.37) WF(и) <=WF(Au)[) Char A.
Доказательство. Если (х, I) ф. WF {Аи), то найдется В е 4го,
для которого ВАи^С°° и (х, 1)ф Char В. Если к тому же
{х, 1)ф Char А, то (х, ?)фСЪагВА, а значит, (х, %)<?WF(u).
Замечание. В § 8.2 мы ввели для всякого замкнутого конуса
Г сг Г*(X) \ 0 пространство
2>г {X) = {и<=?> (X), WF (и) сг Г}.

126 18. Псевдодифференциальные операторы
Там же мы определили сходимость для последовательностей в
3?г(Х) (определение 8.2.2). Чуть видоизменив проведенные вы-
выше рассуждения, можно показать, что ut-*u в ®т{Х) тогда
и только тогда, когда uf-»-u в ЗУ (X) и Aut-*-Au в С(Х) для
каждого собственного оператора А, удовлетворяющего условию
Г [)WF(A) = 0. Подробности предоставим читателю.
В добавлении В определено пространство Н\°)(Х) распре-
распределений и на X, таких что (х) (фи)еЯ(8) (R") для всякой
локальной системы координат х: Хм -> Хм cz R" и всякой функ-
функции феС2°Щ. Ключевой момент определения — инвариант-
инвариантность Н™™?(Х^) относительно замен переменных, доказываемая
в теореме В. 1.8. Эта инвариантность непосредственно следует
из теорем 18.1.13 и 18.1.17. Если Ле?"\ то
\
C°°(X\supp<p) и (по теореме 18.1.13) Ащ <= H\°lm){XJ для
и^Н\°)(Х); поэтому, используя теорему 18.1.24 для доказа-
доказательства обратного утверждения, мы получаем следующий ре-
результат:
Теорема 18.1.29. Если и е= Н$(Х) (соотв. Я$шр (X)) и Л е= Чт-
собственный оператор, то Аи е Я('?1т) (X) {соотв. Н(°-т) (X)).
Если оператор А эллиптичен, то верно и обратное.
Таким образом, Н\™(Х) можно определить как множество
всех и^2)'(Х), отображаемых в Lfoc(X) каждым (некоторым
эллиптическим) собственным оператором из ^(Х). Проведен-
Проведенные выше рассмотрения допускают локализацию. Введем такую
терминологию:
Определение 18.1.30. Пусть и^2У(Х). Будем говорить, что и
принадлежит Я}^ в точке хо^Х, если м = ы, + Uq, где
щ е= Я1,?,0(X), а«оеСм вблизи х0. Далее, для (х0, У ^ Т* (Х)\0
будем говорить, что и принадлежит Я|^ в точке (д:0, |о), если
и = щ + «о, где и, «= Н\°) (X), а и„ таково, что {х0, У Ф WF (Hq).
Очевидно, что и е ЯB>с в х0 тогда и только тогда, когда
Ф«еЯи(Х) для некоторой функции феС*A) с y(xQ)^*Q.
Условие и е Н{% в (xQ, |q) можно выразить сходным образом,
используя вместо срезающих функций псевдодифференциаль-
псевдодифференциальные операторы:
Теорема 18.1.31. Пусть и^ЗУ{Х), Тогда для всякого собствен-

18.1. Основы исчисления 127
«ого оператора А е Ч™ (X)
A8.1.38) «€=#,'? в (х0, 1о)=^Л«еЯ;?1т) в (х0, у.
Оператор А можно выбрать так, чтобы Аи е H\°tm) (X) и
(*0, У Ф Char Л. Обратно,
A8.1.39) Л« е= Я('°1т) в (*0, go) и (*0, У & Char Л
=*-«еЯ{" s (x0, tQ).
Если и е Я'°)С в (*0, lo) для всех 1о е 7^, \ О, го «<= Я{~ в х0.
Доказательство. Если м = «j + "о, «|S #j^f (-Ю. (*о. У Ф WF (и0),
то Лм,еЯ}°1т)(Л'), (по теореме 18.1.29) и (л;0> У ^ WF (Лы0).
Э A8138)
,})(), ( р @ У (
Этим доказана импликация A8.1.38), а также то, что
Аи<=Н\?.т)(Х), если WF(u0) П ГР(Л)=0. Далее, пусть
(х0, У ^ Char Л. Выбрав В^Чг~т(Х) в соответствии с теоре-
теоремой 18.1.24', видим, что если Л«еЯ!"т1 в Uo, У, то
ВАи<=Н\°) в (х0, у и WF(u-BAu)czWF(I — BA), последний
же волновой фронт не содержит (х0, |0). Тем самым установ-
установлена импликация A8.1.39). Предположим теперь, что u^H\s)
в (х0, |) для всех | s Г», \ 0. Поскольку единичная сфера в
ТХа компактна, а множество Char Л замкнуто, можно выбрать
конечное множество операторов Л/е4го(Х), таких что
Л/меЯ^да и 7ln_Char Л, f| ... ПСЬагЛ, = 0.
Пусть оператор At s 4го имеет главный символ, комплексно
сопряженный с главным символом оператора Af. Положим
Л = X <4И/. Ясно, что оператор Л принадлежит 4го и эллип-
эллиптичен в некоторой окрестности точки jc0. В силу теоремы
18.1.24 найдется оператор SsV, такой что BA — I имеет по-
порядок —оо вблизи х0. Следовательно, В Аи — иеС" вблизи х0,
и поскольку В Аи е Н1$ (X), то ие я'З в лт„.
Замечание. Проведенные выше рассмотрения справедливы и
для РЯE) при любом р.
Иногда оказываются полезными следующие функции иа X
и на Т*(Х)\0, измеряющие гладкость распределения и в смыс-
смысле их принадлежности пространствам Я(»>:
A8.1.40) su(*) = sup {s; ues Hi™ в х},
A8.1.41) s'u(x, |) = sup{s; «sC в (х, g)}.
Очевидно, что эти функции полунепрерывны снизу, причем
S(*)^S(*> !)• Если s<s'u(x, I) для всякого ?g7^\0, to

128 18. Псевдодифференциальные операторы
и е Я(°)С в точке (х, |) для всякого |, а значит, и е ЛГ*°)С в точке
х. Следовательно,
A8.1.42) su(x) = inis'u(x, I).
В силу теоремы 18.1.31, s'au (х, l)^su(x, |) — m для ЛеЧ*",
причем при (х, Ъ)ф Char А имеет место равенство.
До сих пор мы откладывали обсуждение вопроса о сопря-
сопряженных к псевдодифференциальным операторам. Дело в том,
что объектами, двойственными к функциям на многообразии,
являются, как мы видели в § 6.3, плотности. Поэтому сопря-
сопряженный к псевдодифференциальному оператору на функциях —
это псевдодифференциальный оператор на плотностях, если
только не выбрана какая-либо фиксированная положительная
плотность, позволяющая отождествить плотности с функциями.
В связи с этим нам нужно сделать ряд замечаний о псевдодиф-
псевдодифференциальных операторах, действующих между сечениями век-
векторных расслоений Е и F над X. Эти замечания будут играть
важную роль также в гл. 19 и 20.
Определение 18.1.32. Пусть Е и F — комплексные векторные рас-
расслоения класса С00 над С°°-многообразием X. Псевдодифферен-
Псевдодифференциальный оператор порядка т из сечений расслоения Е в се-
сечения расслоения F — это непрерывное линейное отображение
А: С?(Х, Е)-+С°°(Х, F),
удовлетворяющее следующему условию: для всякого открытого
множества Y czX, над которым расслоения Е и F тривиали-
зуются с помощью отображений
<fF: F\y
существует fX^-матрица псевдодифференциальных операторов
A,]€=4m(Y), такая что
(cpF (Аи) \у){ = ? Alf (<рЕи)„ us=C?(Y, E).
В этом случае мы пишем А е х?т(Х; Е, F).
Естественно, достаточно предполагать, что существует по-
покрытие многообразия XXX координатными окрестностями
УХУ. такими что в локальных координатах операторы Ац
представляются по модулю операторов с С°°-ядрами как опера-
операторы из Op 5m. Предоставляем читателю проверить в качестве
упражнения, что у А корректно определен главный символ как
элемент из
Sm(f(X)i Hom(E, /4)/Sm-'(r*tf); Hom{E, F)),

, 18.1. Основы исчисления 129
где Hom(E,F) обозначает векторное расслоение над Т*(Х),
слой которого в точке (х, |) состоит из всех линейных отобра-
отображений из Ех в Fx. (По поводу случая дифференциальных опе-
операторов см. также § 6.4.) Снова предоставим читателю само-
самостоятельно убедиться, что пространства Н\^(Х, Е) сечений рас-
расслоения Е можно определить, как и в скалярном случае, и что
если А е xVm (X; Е, F), то А осуществляет непрерывное отобра-
отображение н\™(Х, ?)->Н\Т-т)(Х, F), при условии что оператор А
собственный. Очевидное обобщение теоремы 18.1.23 на случай
операторов между сечениями расслоений тоже предоставим чи-
читателю.
В § 6.4 мы определили расслоение плотностей Q на X: се-
сечение расслоения Q, выраженное в локальных координатах
Х\, ..., хп, — это функция и, такая что мера u\dx\ не зависит
от выбора локальных координат (\dx\ обозначает меру Лебега
в локальных координатах). Таким образом, для функции и',
представляющей рассматриваемое сечение в локальных коор-
координатах х', мы имеем
u'\dx/\ = u\dx\.
Для любого веС можно определить степень Q" расслоения Q,
просто заменив записанный выше закон преобразования на сле-
следующий:
более формально, расслоение Q" строится по функциям пере-
перехода
idt(ox'"l)/|a°^' в ХК[)Х*,
где и и у! — произвольные локальные координаты в координат-
координатных окрестностях Хк и X*. Сейчас мы вычислим закон пре-
преобразования для второго члена в символе полиоднородного опе-
оператора, действующего на полуплотностях, т. е. на сечениях
расслоения Q1/2; таким образом, равенство A8.1.29) надо за-
заменить равенством
A8.1.29)'
где / = detx/(x). Далее,
\J\~ma{x, D)(v\J?l2) = b(x, D)v,
где
b(x, Z)~Z\JrU2aia)(x,i)Da\J\ll2/a\
= a (x,1) + ~- ? a(k) (x, 1) (DkJ)/j mod Sm~\
5 Зак. 443

130 18. Псевдодиффереициальиые операторы
Последняя сумма сокращается с суммой в A8.1.33). Поэтому
для субглавного символа мы получаем простой закон преобра-
преобразования
A8.1.33)' alt (х (*), г,) = а18 (*, V (х) т,).
Следовательно, субглавный символ есть функция, инвариантно
определенная на Т*(Х)\0. Аналогичное вычисление можно про-
провести для любого символа из Sm. Повторяя рассуждения, про-
проведенные при определении понятия главного символа, получим
следующий результат:
Теорема 18.1.33. Всякий оператор А е= Vm (X; Q1/2, Q1'2) облада-
обладает уточненным главным символом o(A)<=Sm (T'(X))/Sm~2(T'(X)),
таким что если А задается в локальной системе координат как
а(х, D), то
В случае когда А полиоднороден, это означает, что субглавный
символ A8.1.32) инвариантно определен на Т*(Х)\0.
Произведение двух полуплотностей есть плотность, поэтому
пространством, (анти) дуальным к Co°(Z, Qu2), будет 2t) (X, G1/2).
Следовательно, оператор, сопряженный к непрерывному линей-
линейному оператору Со" {X, Q1/2)-+C°°(X, Qm), представляет собой
отображение &'(X, Qm) -+2>'(X, Q1/2). Из теоремы 18.1.7 вы-
вытекает теперь
Теорема 18.1.34. Всякий оператор Asf°U; Qm, Q1/2) обла-
обладает сопряженным А' <= Wm (X; Q1/2, Qm):
(Аи, v) = (и, A'v), и, v s С~ {X, Qm).
Если а— (уточненный) главный символ оператора А, то а будет
(уточненным) главным символом для А*.
Расслоение, (анти) дуальное к комплексному векторному рас-
расслоению Е над X, определяется условием, что его слои пред-
представляют собой пространства, (анти)дуальные к слоям расслое-
расслоения Е. Таким образом, матрицы перехода gij, отвечающие рас-
расслоению Е, заменяются в случае дуального расслоения на 'gT/K
а в случае антидуального — на gj". Определим еще ?<8>Q1/2
как векторное расслоение с матрицами перехода, полученными
перемножением матриц перехода для Е и для Q1/2 (последние
суть скаляры). Если и(=С°°(Х, ?®й!/2) и уеС°°(Х, E*<S>Q1'2),
то функция (и (х), v (х)) принадлежит (^(X.Q) и ее можно
проинтегрировать по X, при условии что она обладает компакт-

18.1. Основы исчисления 13t
ным носителем. Следующая теорема — очевидное обобщение
теоремы 18.1.34:
Теорема 18.1.34'. Пусть Е и F — комплексные векторные рас-
расслоения. Всякий оператор ДеЧ""A; E0Q1/2, F <8> Q1'2) обла-
обладает сопряженным А* е= Wm(X; F* <8> Q1'2, E* <8> Q1/2):
(Аи, v) = (и, A'v); и еСо°°(X, Е®Ql/2), сеС (J, F*®Q1'2)..
а — главный символ для А, то а* будет главным символом
для А*.
То что всегда имеет смысл выделять расслоение полуплот-
полуплотностей в виде отдельного сомножителя, видно еще и из той
формы, какую принимает для многообразий теорема Шварца
о ядре (теорема 5.2.1): всякое непрерывное линейное отображе-
отображение С™(Х, Е&&Т) -+2>'(У, F<8>qV2) обладает ядром, принад-
принадлежащим 3>'{YXX, Hom(?, F)<S>Q^XX), где {Hom{E,F))y,x —
пространство всех линейных отображений из Ех в Fy. Это
утверждение легко проверить, убедившись сначала, что верно
и обратное. Лишь для того, чтобы не вдаваться в подробные
рассмотрения, мы сформулировали теорему 8.2.12 и дальнейшие
результаты § 8.2 только для открытых подмножеств в R".
Установленные в этом параграфе результаты справедливы
и для более общих пространств символов. В частности, полезны
пространства S^e. получаемые, когда условие A8.1.1) заме-
заменяется условием
(lo.i.i; | а(р)(х, t,) \ ^.са>рA -М s |; , х, s ^ к •
Здесь 0 < p^l, a 0^б<1. Эти пространства уже рассмат-
рассматривались в § 7.8. Главная причина, по которой они бывают
полезны, состоит в том, что в силу теоремы 11.1.3 в случае ги-
поэллиптических операторов Р мы как раз имеем оценки вида
A8.1.1)" для \/P(Q при больших I. ПосколькуS™ e =>S™о = 5ст,
предложения 18.1.3 и 18.1.4 остаются верными без всяких из-
изменений, а значит, то же можно сказать и о теореме 18.1.6.
Асимптотический ряд в A8.1.11) определен только при б <Г ру
но сама теорема 18.1.7 верна при б ^ р, с той лишь оговоркой,
что асимптотическое разложение A8.1.11) не имеет места при.
6 = р. То же верно и в отношении теоремы 18.1.8, в теореме
же 18.1.9 надо предполагать, что б < р. Теоремы 18.1.11 и
18.1.13 справедливы при б ^ р, но приведенные их доказатель-
доказательства годятся лишь при б <; р. В теореме 18.1.14 условие
а е S2m+[ надо заменить условием а е Slm&p~6. Утверждение
о замене переменных требует дополнительных предположений,.
ибо лемма 18.1.18 справедлива только при 1-^ р ^ б, т. е. при.

132 18. Псевдоднфференцнальные операторы
р ^ 1 — б. В случае б ^ р отсюда следует, что р ^ 1/2, при-
причем р— 1/2, лишь когда и 6=1/2. Теорема 18.1.17 остается
верной при 1 — р^б^р, с той оговоркой, что асимптотическое
разложение A8.1.30) имеет место лишь при б < р. Остальные
результаты этого параграфа в действительности являются чи-
чисто формальными и не нуждаются ни в каких изменениях. Для
пространства псевдодифференциальных операторов, построенно-
построенного на основе S? &, используется обозначение х?™ 6 (X; Е, F).
Мы не будем давать доказательства сделанных выше утвер-
утверждений. Читателю, желающему прочно усвоить изложенный в
этом параграфе материал, стоит доказать их самому. Классы
5™в можно также рассматривать как весьма частный случай
общих классов псевдодифференциальных операторов, обсуждае-
обсуждаемых далее в этой главе (см. конец § 18.4). Однако мы докажем
один полезный результат технического характера, касающийся
произведений псевдодифференциальных операторов в R" и псев-
псевдодифференциальных операторов по х'=(xi, ..., 4-i)eRM,
зависящих от параметра хп:
Теорема 18.1.35. Пусть а е= Sm(R"X R"), Ь e=Sm'(R"X R"),
и пусть для некоторого е > 0 выполнено условие
A8.1.43) а(х, ?) = 0, если е||„|>1 и |П<е||„|.
Тогда операторы а (х, D) Ь {х, D') и Ь (х, D') a (x, D) принадлежат
Op(Sm+m/) и асимптотические разложения символов этих опе-
операторов можно получить по формуле A8.1.15).
Заметим, что в оценке
можно заменить |?'| на |?| на множестве, где е| ?„|«^| ?'|, ибо
1 + I Г К 1 +11 К A +11' I) A + 1/е).
Таким образом, асимптотические ряды A8.1.15) для фигури-
фигурирующих в теореме композиций корректно определены.
Доказательство. Выберем функцию /sO^R"), однородную
степени 0 вне некоторого компакта и такую, что для ?е suppx
выполняются неравенства |е|„|>1 и ||'|<|е&„|, причем
Х(Б)=1. если |е|„|>2 и 2|6'K|egJ. Тогда
и bl = b в некоторой окрестности носителя а. Следовательно,
bx(x, D)a(x, D) e OpSm+m' и асимптотическое разложение
этого символа совпадает с задаваемым обычной формулой

18.1. Основц исчисления 133
асимптотическим разложением для b{x, D)a{x, D). В силу
A8.1.43), %(D)a(x, D) = c(x, D), где ceS"M. Далее,
b(x, D')c(x, D)eUx'l) = b(x, D')ei{x'bc{x, \)
= elx*l*b(x, 1У)с{х, D',ln)eUx'-*>
W *»/¦(*,».
гдег(х, D', ln)=b(x, D')c(x, D', %n) — композиция псевдодиф-
псевдодифференциальных операторов по п — 1 переменным, зависящих
от хп и ?п как от параметров. Поскольку для любого / семей-
семейство производных Dx b(xr, xn, |'), xneR, равномерно ограни-
ограничено в Sm (R^'XR""'). а Для любых /, k и N семейство функ-
функций (\+\ln\f D'XnDlc(x', xn, V, U, {ха, WsR2, равномерно
ограничено в S^^'XR"), то г s S~"(R"XR"). Далее,
Ь(х, D')c{x, D)u = r(x, D)u, us=9",
так как это равенство верно для экспонент, а обе его части
непрерывно зависят отие 9". Следовательно,
Ь(х, D')a(x, D) = bl(x, D)a(x, D) + r(x, Z)) e= Op Sm+m'
и символ этого оператора имеет обычное асимптотическое раз-
разложение. Поэтому b(x,D')*a(x,D)* принадлежит Op sm+m\
откуда следует, что а (х, D) b (x, D') e Op Sm+m'; символ по-
последнего оператора допускает обычное асимптотическое разло-
разложение.
Ядро оператора b(x,D') равно б(хп — уп)К(х,у'), где К за-
задается осцилляторным интегралом
К(х, У) = BпI-
Даже если Ъ имеет порядок —оо, так что /Се С°°, мы можем
быть уверены лишь в том, что волновой фронт ядра оператора
Ь(х, ?>') не выходит за пределы конормального расслоения мно-
многообразия {(х,у); Хп = уп} (теорема 8.1.5). Однако это и все
особенности, которые могут встретиться в дополнение к осо-
особенностям рассматриваемых псевдодифференциальных опера-
операторов:
Теорема 18.1.36. Если символ b e Sm(R"X'Rrt~I) имеет порядок
—оо вне замкнутого конуса Гс R"X(R"~l\0). T<> волновой
фронт ядра оператора b {x, D') содержится в объединении мно->

134 18. Псевдодифференцнальные операторы
жесте {(х, х, I, -I); (х, %') еГ}и{ (х, у, |, -%); ха = уп, Г = 0}.
Таким, образом, для и^.Ж'
A8.1.44) WF(b(x, 1У)и)с{(х, l)^WF(u); (х, Г) е Г}
U {(л:, 0, U; (у', хп, 0, |n)e=W74«) для некоторого у'}.
С другой стороны,
A8.1.45) WF(u)czWF(b(x, D')u)U{(x, |); Г = 0
или (х, |') <= Char &}.
Доказательство. В силу теорем 8.1.9 и 8.1.5
WF(K)c:{(x, у, I, -I); х' = у', 1п = 0, (х, Г)еГ},'
n-yn)) = {(x, у, I, -I); хп = уп, Г = 0}.
Поэтому утверждение о волновом фронте ядра оператора
b(x,D') следует из теоремы 8.2.10, а включение A8.1.44)—из
теоремы 8.2.13. Чтобы доказать A8.1.45), выберем символ
а е S°(R"X R") с носителем в некотором компактно порожден-
порожденном конусе, не пересекающемся с правой частью A8.1.45). То-
Тогда а(х, D)b(x, D')u e C°° по предложению 18.1.26, и
а(х, D)b(x, Dr) есть псевдодифференциальный оператор, неха-
нехарактеристический в тех точках, где оператор а нехарактеристи-
нехарактеристичен. Следовательно, WF{u)a Char а, чем A8.1.45) и доказано.
18.2. Конормальные распределения
Согласно A8.1.7), ядро оператора из OpSm задается осцилля-
торным интегралом вида
A8.2.1) К(х, y)^Bnrn\et<x-y'l)a(x,l)dl x,y<=Rn,
где а е Sm(Rn X R")- Оно сингулярно лишь на диагонали
в R"X R". а в точках диагонали его волновой фронт содержится
в конормальном расслоении диагонали (теорема 18.1.16).
В этом параграфе мы обсудим соответствующий класс распре-
распределений, отвечающий произвольному С°°-подмногообразию У
многообразия X, отправляясь от случая векторного простран-
пространства и его линейного подпространства. Чтобы понять, что де-
делать, введем в A8.2.1) новые переменные х' = х — у, х" = х.
Тогда диагональ будет задаваться уравнением х' — О, а наше
распределение примет вид
A8.2.2) Bя)-п J е1 *• l)a(x",

18.2. Конормальные распределения ' 135
Правда, при другом выборе переменной х", скажем, х" — у,
функция а зависела бы от обеих переменных х' и х". Изменим
теперь обозначения и будем вместо R2" рассматривать R" с пе-
переменными *=(*!, ..., хп), разбитыми на две группы
jr =(хх хк) и х" =(**+!, ..., хп). Прежде всего покажем,
что в действительности не имеет значения, зависит а в A8.2.2)
от х' или нет. В связи с этим заметим, что в определении 18.1.1
и последующих утверждениях о свойствах символов то обстоя-
обстоятельство, что переменных х ровно столько же, сколько перемен-
переменных |, было совершенно несущественным.
Лемма 18.2.1. Пусть а е Sm(R" X R*)- Вели распределение и
задается осцилляторным интегралом
A8.2.3) u{x)=\ellx''l'ya(x, l')dl',
то оно представимо также в виде
A8.2.3)' и (х) = J е**' *й (х\ |')d|\
где символ as Sm(R"-*X R*) определяется равенством
A8.2.4) а(х", l/) = e-l<Dx"D^a(x, SOt-o
и допускает асимптотическое разложение
A8.2.5) а {х\ Г) ~ Z (-Юг, А'/ а {х, %')Ц\ U-o.
Доказательство. Предположим сперва, что а е 9". Тогда и е &
и A8.2.3)' просто означает, что Bя)*5 есть преобразование
Фурье от и по xf:
а{х", l') = {2n)-
Последнее равенство следует из сказанного перед теоремой
18.1.7. Но отображение
непрерывно в 9" и переводит ограниченные подмножества про-
пространства Sm в такие же подмножества; это вытекает из тео-
теоремы 18.1.7, ибо наличие параметров х" здесь, очевидно, не
играет роли. Для произвольного а е Sm можно выбрать после-
последовательность av e 91, ограниченную в Sm и сходящуюся к а
в 9", а значит, равномерно на каждом компакте, и заключить,
что A8.2.3)' верно с а, определенным формулой A8.2.4). Спра-
Справедливость асимптотического разложения A8.2.5) также еле*
дует из теоремы 18.1.7.

136 18. Псевдодифференциальные операторы
Теперь займемся точным описанием свойств регулярности
распределений вида A8.2.3)' с a^Sm. Прежде всего, замечая,
что всякую плотность на подпространстве, задаваемом условием
х? = 0, можно записать в виде A8.2.3)' с а, не зависящим от %',
докажем следующее обобщение теоремы 7.1.28:
Предложение 18.2.2. Пусть функция феСс(К") равна О в не-
некоторой окрестности нуля, символ а(х", |')е Sm(R"-* X R*)
равен О для х", лежащих вне некоторого компакта, и распреде-
распределение и определено как осцилляторный интеграл
A8.2.6) «(*)=$ е"*-&а(хГ, l')ft*.
Тогда й е L2loc и
A8.2.7) j | й (I) |21 фA/R) | <% < CRM", R>\.
Если а е 5™hg (R"~* X Rfe) и по — главный символ соответствую-
соответствующего оператора, то
A8.2.8) lim R-k-2m'Bn)-n-k\\u(t)fce(yR)dl
где m' ¦= Re m.
Доказательство. Пусть й — преобразование Фурье от а по х".
Тогда u(?) = Bjt)fed(|", V), а потому
d (Г, ЯГ) 12ф (Г, 17Л) ft.
Поскольку значения 1^"! ограничены на носителе а, мы имеем
для любого N
\d(i", t)\<cN(i + \$"\rN(\ + \V\)m.
Функцию ф можно записать в виде ф = Ф1 + ф2, где ф, е CQ(Rn)
и \%'\^ с на supp<Рь \%"\^с на эиррфг для некоторого с > 0.
Если в последнем интеграле заменить ф на |ф2|, то на носителе
подынтегрального выражения мы будем иметь ||"|> cR и инте-
интеграл будет быстро убывать при )?->-оо; если же заменить ф
на |ф11, то на носителе подынтегрального выражения \%'\^ с.
Отсюдг следует A8.2.7). В случае когда символ а полиодно-

18.2. Конормальные распределения 137
роден,
Щ (Г, «ГI2Ф1(Г. 1Ю<%
(Г. Е7
= {2nf-k \\\a0 (*", Г) р ф (Г, 0) dx" dV
J J
в силу теоремы о мажорированной сходимости и формулы Пар-
севаля. Этим доказано A8.2.8).
Особенности распределений н интересующего нас типа ле-
лежат в плоскости хг = 0:
Предложение 18.2.3. Пусть выполнены предположения предло-
предложения 18.2.2. Если функция kgC"(R*) равна 1 в некоторой
окрестности нуля, то A — %(х'))и е= ^(R").
Доказательство. Если а=(аь ..., aft, 0 0), то при
m — |a|< — k
€Сть ограниченная непрерывная функция (интеграл абсолютно
сходится). Если m — |a|-<—k — v, то производные порядка
^v от этой функции также ограничены и непрерывны. Это до-
доказывает наше утверждение, поскольку A — %(х')) \х'\-2ы
имеет ограниченные производные всех порядков при любом N.
Из предложения 18.2.3 видно, что поведение й на бесконеч-
бесконечности, которое мы исследовали в предложении 18.2.2, зависит
лишь от свойства регулярности и при х' =0. Используя опи-
описанные в добавлении В пространства Бесова °°H(S) (определе-
(определение В.1.1), можно переписать A8.2.7) в виде
A8.2.7)' ые°°Я(-т-ад(К"), если ae=Sm.
(Отметим, в частности, что если и есть ядро оператора из
OpSm от л/2 переменных, то и е °°Я(_т_„/4).) Свойство регу-
регулярности A8.2.7)' сохраняется при некоторых дифференцирова-
дифференцированиях распределения и. А именно, если и определено формулой
A8.2.3), то
DjU (х) - $ в*«- VDxp (х, 60 dl' при / > k,
XiDiU (x) = J el «'• *'> (xtDX/ - йф) a (x, 60 d\' при /, / < k,

138 18. Псевдодифференциальные операторы
так что эти операции сохраняют вид осцилляторного интеграла
A8.2.3) и порядок символа а. (В каком порядке берутся со-
сомножители х и D, неважно, ибо xiD/ — D/Xi = i6,i.) Докажем
теперь обратное утверждение:
Лемма 18.2.4. Пусть и е e"(Rn), и пусть
X LT U fc Г1(_т_?/2)
для всех аир, удовлетворяющих условию \ а' \ ^> | р' |. Тогда
и представило в виде A8.2.3)' с амплитудой аг Sm(R"-*XR*).
Доказательство. В силу предположений леммы преобразование
Фурье й нашего распределения принадлежит классу С00 и вы-
выполняются оценки
\ 3 R>U |a'|>l§4
№<\1\<2R
ибо, как мы только что указывали, порядок, в котором дей-
действуют ха и D&, не играет роли. Беря |р'| = 0, а | р" | > N + "*
-j- k/2, заключаем, что для любого Af
2", если \?\>\V\.
Ввиду, скажем, леммы 7.6.3, |Оай(|)|<^С'а,n\l\ N, в случае
когда 11" | > 11' |. Чтобы рассмотреть противоположный случай,
введем
и заметим, что
\ U^t/^^PdKCap, если |а'| = 1Р'|,
где ER — эллипсоидальный слой, определяемый неравенствами
1/4 < 11' f +1 l"IR f < 4. Поскольку для каждого р' с | р' | = | а' \
максимум нормы |l/P | на некоторой окрестности единичной
сферы в Rk отграничен от нуля, то, используя лемму 7.6.3, мы
приходим при любых а и N к оценке
|Оа?МЫ<С;.*A-Н1"[Г" при |П=1, \1"\<R.
Возвращаясь к первоначальным масштабам, получаем оценку
для всех |. Следовательно,
а {х", Г) = Bя)-я J й (I) е' <*• ^ d\"
принадлежит Sm(R"~*X R*), как и утверждалось.

18.2. Конормальные распределения 139
Векторные поля, рассмотренные в лемме 18.2.4, касательны
к плоскости х' = 0, и они порождают все такие векторные поля:
Лемма 18.2.5. Всякое векторное поле в R" класса С°°, касатель-
касательное к подпространству, задаваемому условием х' = 0, предста-
вимо в виде
п
2 а{1(х)х1д/дх,+ 2 af(x)d/dxf,
i.Kk k + \
где ац и а/ — функции класса С°°.
Доказательство. Пусть Ха/ООд/дх/—векторное поле класса
С°°, касательное к подпространству / = 0. Это означает, что
О/@, лс") = О при j^k. Поэтому из теоремы 1.1.9 (с парамет-
параметрами) следует, что для некоторых ац е С°°
af(x)= Ц ац(х)х{ при /<*,
t ^ к
чем лемма и доказана.
Пусть X— открытое множество в R" и ие2)'(Х) опреде-
определено формулой A8.2.3) с aeSm(IXR*). Тогда в силу лем-
леммы 18.2.5 и замечаний, предшествовавших лемме 18.2.4,
L, ... LNu s °°Я('^_6,2) {X) для любого конечного набора L\, ...
..., LN дифференциальных операторов первого порядка, каса-
касательных к плоскости х1 = 0. Из леммы 18.2.4 вытекает, что
верно и обратное. Действительно, если функции ¦ф/еСо°(^)
таковы, что их носители образуют локально конечное семейство
и X 1Ф/= 1» то лемма 18.2.4 дает
где й/ е Sm(R"-* X R*)» откуда и следует A8.2.3) с а= X ^>/й/.
Это подводит к следующему определению:
Определение 18.2.6. Пусть X — многообразие класса С°°, Е —
(комплексное) векторное расслоение класса С°° над X и У —
замкнутое подмногообразие класса С°° в X. Пространство
lm(X,Y;E) обобщенных сечений степени m расслоения Е, ко-
нормальных к Y, определяется как множество всех
и е 3)' (X, Е), таких что
A8.2.9) L, ... LNu e xH^m_m) (X, Е), где я = dim X,
для всех N и всех дифференциальных операторов первого по-
порядка Lj с О-коэффициентами, действующих в пространстве
обобщенных сечений расслоения Е и касательных к Y. Про-

140 18. Псевдоднфференцнальные операторы
странство lm{X,Y\ E) наделяется слабейшей топологией, в ко-
которой непрерывны отображения и \—ч-L \ ... LNu e ооЯ('°ст_п,4).
Напомним, что главный символ оператора L/ — это линейная
функция на слоях ТХ(Х) со значениями в линейных преобра-
преобразованиях слоя Ех. Условие касания с У, фигурирующее в опре-
определении 18.2.6, означает, что эта функция обращается в нуль
н-а конормалях к подмногообразию У. Нормировка нижнего ин-
индекса в A8.2.9) выбрана так, чтобы ядро псевдодифференциаль-
псевдодифференциального оператора, принадлежащего Wn(X; Q1'2®/:, Q1'2 (g> /¦"), при-
принадлежало Г(ХХ^, A; Ql/2<8> Hom(?, F)), где А —диагональ
в XXX.
Достаточно, чтобы соотношение A8.2.9) выполнялось для
операторов Lt из какой-либо системы образующих, т. е. из на-
набора М\, ..., Mv дифференциальных операторов первого поряд-
порядка, касательных к У, такого что всякий касательный к У диф-
дифференциальный оператор первого порядка представим в виде
A8.2.10) L=?la,Ml + a0,
где uj^C°°{X, Hom(?, E)). Действительно, подставив в
A8.2.9) вместо Ln такую сумму и заменив Ln-\ на Ln-iuj, мы
получим сумму членов, в каждом из которых на один сомно-
сомножитель Li меньше. Продолжая таким же образом, в конце кон-
концов придем к сумме членов вида аМ{] ... M,N,u с ае=С°°(Х,
Hom^, F)). Заметим, что в качестве М, всегда можно взять
операторы с главными символами, пропорциональными тожде-
тождественному преобразованию.
Теорема 18.2.7. Если u<=Im(X, У; Е) и Де?""№ Е, F) —соб-
—собственный оператор, гоЛ«е/+т (X, У; F).
Доказательство. Пусть Ц — дифференциальные операторы пер-
первого порядка, действующие на сечениях расслоения F, касатель-
касательные к У и имеющие главные символы, пропорциональные то-
тождественному преобразованию. Нам надо показать, что
Для N = 0 это следует из того факта, что А непрерывно ото-
отображает "Я^.^, в °°H^m_m,_m. Пусть N>0. Выберем
дифференциальный оператор первого порядка L'N на сечениях
расслоения Е, главный символ которого является точно таким
же кратным тождественного преобразования, что и главный
символ оператора Ln. Тогда
LNA = ALN + Ло,

18.2. Конормальные распределения 141
где /40e4rm'(Z; E, F). Поскольку Ь'ци^Г{Х, У; ?), дело све-
свелось к на единицу меньшему значению N, и доказательство за-
завершается применением индукции.
Мы можем теперь показать, что 1т {X, Y; Е) в действитель-
действительности состоит из распределений, локально устроенных так же,
как те распределения, которые мы рассмотрели в начале па-
параграфа.
Теорема 18.2.8. Для справедливости включения ue Im(X,Y; E)
необходимо и достаточно, чтобы tyjU e lm(X,Y; E) для любого
¦ф/ из произвольного разбиения единицы на X. Если X — откры-
открытое множество в R" и Y задано условием х' = (х\ х*) = 0,
a E = XX,C.N, то любое и е lm(X,Y; E) с компактным носи-
носителем представимо в виде
A8.2.11) «(*)
где о е= Sm+<"-2*)/4(Rn~*X R*; С"). Обратно, всякое и такого
вида принадлежит I (X, Y; Е).
Доказательство. Первое утверждение — немедленное следствие
теоремы 18.2.7, второе вытекает из леммы 18.2.4, а последнее
следует из предложения 18.2.2 и леммы 18.2.5. Теорема до-
доказана.
Теперь введем понятие главного символа для элементов из
Im(X, Y; Е). Для разгона начнем с простейшего случая ? = й1/2
(расслоение полуплотностей на X) и возьмем XczR". Если и
имеет компактный носитель и представимо в виде A8.2.11) с
символом а е 5рЙ(я~2*>/4(Рл~* XR*) и соответствующий глав-
главный символ равен а0, то, согласно A8.2.8),
A8.2.8)' lim /Г2т'-Л
=- Bn)k J ( а0 (*", Г) Р Ф (Г, 0) dx" dl',
где m' = Rem. Поскольку и — полуплотность на R", из фор-
формулы Парсеваля следует, что й преобразуется при линейных
заменах переменных как полуплотность. Следовательно, левая
часть A8.2.8)' инвариантна относительно линейных замен пе-
переменных. Далее, нормальное расслоение к плоскости х' = 0
параметризуется следующим образом:
A8.2.12) (^,^^@, Х',1', 0);
поэтому естественно ожидать, что ао(х", %') инвариантно опре-
определяет там полуплотность, так что и правая часть A8.2.8)' ин-

142 18. Псевдодиффереициальные операторы
вариантна. Так как коразмерность к не появляется в левой ча-
части, хочется изгнать ее и из правой, включив в главный символ
множитель Bя)*/2, а точнее, введя в A8.2.11) множитель
Bя)-*/2. В случае когда и — ядро псевдодифференциального
оператора порядка т от п/2 переменных, это дает в A8.1.7)
коэффициент, отличный от общепринятого Bя)-", поэтому, что-
t)bi все согласовать, введем еще дополнительный множитель
Bя)-п/4. Таким образом, мы заменяем A8.2.11) на
A8.2.11)' и(х) = Bя)-(п+2*)/4 J г*"' v'a {x", |') а%', a e sm+i"-2m.
Наша цель — показать, что полуплотность
а{х", l')\dx"\{l2\dl'\{l\
¦определенная на нормальном расслоении к плоскости х' = О,
параметризованном, как указано в A8.2.12), определена инва-
инвариантно по модулю символов на единицу меньшей степени.
Теорема 18.2.9. Пусть X и Хх — открытые множества в R" и
¦у.: X —> Хх—диффеоморфизм, сохраняющий плоскость Y={x; x'=0}.
Пусть, далее, их <= В" (Хх) и и = | det х' |1/2 x*ux e В" (X) — подня-
поднятие ык на X как полуплотности. Если ин принадлежит Im(XK, Y)
и имеет вид
го и принадлежит lm(X, Y) и имеет вид A8.2.11)' с
<18.2.13) а (х", Г) - а„ (х2 @, х"), % @, л:") Г)
X | det х'п @, х") fI/21 det >4 @, х") |I/2 e Sm+ln-m*-1.
Здесь
(*Л1 Хи\
U Х' = 1 , , I
ЧХ21 Х22/
— «расщепления» диффеоморфизма х и его производной х', от-
отвечающие нашему расщеплению множества переменных на две
части; при этом х[2 @, х") = 0, ибо х, @, х") = 0.
Доказательство. Поскольку xi@, х") = 0, то в силу теоремы 1.1.9
можно выбрать такую С°°-функцию ф со значениями в k X k-
матрицах, что
' ) (\ х2(;е)).
Матрица \f@, х") — к'и@, х") невырожденна. Так как ыч и и
принадлежат классу С°° при х'фО, мы вправе сузить X так,

18.2. Ненормальные распределения 143
чтобы невырожденность матрицы ij>(x) имела место во всем X.
Тогда
и (х) = | det х' (х) | Bя)-(л+2*)/4 J e'*w * ^ак (и, (*), л'
). Ч (*)-' Г) | det х' (х)
(мы произвели в осцилляторном интеграле замену
л' = Ч (*)"'?»')• Из лемм 18.2.1 и 18.1.18 следует, что и пред-
ставимо в виде A8.2.11)' с
A8.2.14) а (х", Г) = е~1 <°^ %>ач (щ (х), Ч (х) ?) | det x'
По модулю Sm+(n-2fc)/'l~'1 это выражение задается первым чле-
членом асимптотического разложения A8.2.5), т. е. равно
, 4@, x'T'S')ldetK'@. Jt") |I/2( det-ф@, х")\
"\ I
Поскольку | det к' @, *")l = l det*(O, x")\\ detK^(O, x")\ (ибо
матрица к'@, х") треугольна), получаем A8.2.13).
Полуплотность а(х", ^')| dx" |l/21 d|' |1/2 на конормальном рас-
расслоении /V (К) к У следует рассматривать как имеющую порядок
т+ «/4, когда а ^ Sm+n/i~kl2. Действительно, функция f на N (Y)
однородна степени ]х, если Mtf = Z*1/, / > 0, где М< обозначает
операцию умножения на / в слое, т. е. Mt(x", \') = {x", t\')..
Если определить однородность полуплотности f тем же усло-
условием, то полуплотность ( dx" A/21 d|' (|/2, отвечающая а= 1, будет
однородна степени k/2, где Л — число переменных \'.
Определение 18.2.10. Пусть V — вещественное векторное рас-
расслоение класса С°° со слоем размерности k над С°°-много-
образием Y. Пространство Sli(F, Ql/2) символов-полуплотностей
порядка |i на F — это пространство всех полуплотностей, кото-
которые в каждой координатной окрестности Ух, х: Уч -> Ун с: Rdr
с локальными координатами y^Rd имеют вид а (у, r\)\ dy |1/2| dr\ |1/2
сае 5*1"*'2 (Ун X R*) (над рассматриваемой окрестностью про-
пространство V отождествляется с У„ X Rft)-
В этой терминологии теорема 18.2.9 означает, что соответ-
соответствие ак>и, задаваемое формулой A8.2.11)', порождает изо-*

144 18. Псевдодифференциальные операторы
морфизм
Sm+al*(N(Y); Qtfm)/Sm+nli-l(N(Yy, Q$y))
->Im(X,Y;Qf)/lm-l(X,Y;uf).
Этот результат без каких бы то ни было затруднений распро-
распространяется на распределения со значениями в векторных рас-
расслоениях, отличных от их2, поскольку умножение и на мат-
матрицу перехода приводит просто к тому, что и с соответствую-
соответствующим символом происходит то же самое. Таким образом, верна
Теорема 18.2.11. Пусть X — многообразие класса С°°, Y — его
замкнутое подмногообразие класса С°° и Е — комплексное век-
горное расслоение класса С°° над X. Тогда имеет место изо-
изоморфизм
-x (N (Y), Qf(Y)® E)
, Y; Q?®E)/lm-l(X, Y; uf®E),
локально определяемый формулой A8.2.11)'; здесь ё— подня-
поднятие расслоения Е на N(Y) (слоем расслоения Ё в точке (у,ц)
служит Еу). Для всякого элемента и из класса эквивалентно-
эквивалентности, принадлежащего последнему факторпространству, образ
этого класса при обратном изоморфизме называется главным
символом, отвечающим и.
Заметим, что мы имеем здесь расслоения полуплотностей
на разных пространствах. Вот почему удобно с самого начала
выделить расслоение полуплотностей в качестве отдельного со-
сомножителя. Заметим, далее, что коразмерность подмногообра-
подмногообразия Y теперь исчезла. Наличие слагаемого л/4 в степени сим-
символа объясняется нашим стремлением к согласованности со
случаем псевдодифференциальных операторов. В этом случае
символы не были у нас полуплотностями. Однако нормальное
расслоение к диагонали в Х)>^Х изоморфно кокасательному
расслоению к X, поэтому на нем существует естественная плот-
плотность, инвариантно определяемая симплектической формой и
в локальных координатах имеющая вид |djt||dg|. Следователь-
Следовательно, на нем существует естественная полуплотность | dx \1/21 dg |1/2
порядка (dim X)/2 = dim(^X X)/4. Когда функция, являющая-
являющаяся главным символом в смысле определения § 18.1, умножается
на эту полуплотность, порядок увеличивается точно так, как
в теореме 18.2.11. В общем случае на N(Y) нет естественной
плотности, которая позволила бы нам отождествить полуплоТ'
ности с функциями.

18.2. Конормальные распределения 145
Из теоремы 18.2.7 мы знаем, как псевдодифференциальные
операторы действуют на Im(X,Y;E). Сейчас мы более явно
выразим это действие на языке символов. При этом, разу-
разумеется, можно рассуждать локально, т. е. считать, что мы имеем
дело с тривиальным расслоением.
Итак, предположим, что ueJT'(Rn)—распределение вида
A8.2.11)', и пусть р е= Sm' (R" X R"). Чтобы вычислить p(x,D)u,
заметим прежде всего, что, согласно формуле обращения
Фурье,
й (&) = Bя)*-(л+2*)/4 J а {у", Г) в"' <•"•Г> dy».
Поэтому мы получаем, беря сперва р и а, принадлежащие 9",
р (х, D) и (х) = Bя)*-п-(л+2*)/4 J J «'«¦ Ьр (х, I) а (у", Г)
X е~<«•• *"> d\ dy" = Bя)-(л+2А)/4 \ е» <*'• Пщ (х, %') dl',
где
а, (х, V) = Bя)*-" J J е' «*-»*. ^> (х, |) а (/', |') dl" dy"
= e'<Dy"-D&p(x, I) а (у", Г)|»-^,^о,
в силу вычислений, проведенных перед теоремой 18.1.7. Дока-
Доказательство этой теоремы (с несущественными модификациями)
показывает, что а, <= sm+m'+nli~m и что
М*. S')~ X<"V. %Ур(*. 6)а(^*. Г)//! 1у'-х». по-
последовательно, ввиду леммы 18.2.1,
A8.2.15) р(х, D)u{
A8.2.16) Ь (х", I') =
Тем самым нами доказана
Теорема 18.2.12. ?сли « е /m (Z, Г; ?)«Ре ?""(*; ?, F) -
собственный оператор, то Ри е /т+т (х, Y; F) и главный сим-
символ обобщенного сечения Ри равен главному символу обобщен-
обобщенного сечения и, умноженному на ограничение на N(Y) главного
символа оператора Р. В случае когда и имеет компактный но-
носитель, лежащий в координатной окрестности, в которой Y за-
задается условием х' = 0, а и — формулой A8.2.11)', полный сим-
символ обобщенного сечения Ри задается формулами A8.2,15),
A8.2.16), где р — полный символ оператора Р.

146 18. Псевдодифференциальиые операторы
До сих пор мы не делали никаких замечаний по поводу
полиоднородного случая. Однако из формул A8.2.14) и A8.2.16)
совершенно ясно, что все сказанное выше применимо и к этому
случаю, поскольку шаг, фигурирующий в определении полиод-
полиоднородности, есть число, обратное к целому. Это замечание по-
понадобится нам в дальнейшем.
В теории краевых задач мы встречаемся со следующей си-
ситуацией: X — многообразие класса С°°, Y — замыкание некото-
некоторого открытого подмножества в X с С°°-границей Y. Пусть Пг
F — векторные расслоения на ^ и Р — собственный оператор,
принадлежащий W%g (X; Е, F). Хотелось бы, чтобы Р порождал
отображение C°°(Y, E)-+C°°(Y, F), что далеко не всегда так.
Определение 18.2.13. Будем говорить, что Р обладает свойством
трансмиссии относительно Y, если для всякого иеС°°(У, Е)
ограничение на внутренность К0 множества Y результата Рио
применения оператора Р к
(и на Y,
"о=\0 на X\Y
принадлежит C°°(Y°, E), т. е. допускает С°°-лродолжение на X.
Мы хотим найти условия на символ оператора Р, гаранти-
гарантирующие, что Р обладает, свойством трансмиссии. Вопрос этот,
очевидно, локальный, поэтому рассмотрим случай, когда X cr R",
У определено условием Х\^0, а Е, F — тривиальные расслое-
расслоения. Предположим также, что носитель и компактен в Y. Тогда
A8.2.17)
где х" = (х2 хп) и символ
ОО ОО
A8.2.18) а {Xй, 6,)-J u(x)e-ix'hdxi~-iY,Kl-kDkiu(O, x")
принадлежит S^hgCR""'XR1)- Написанное асимптотическое
разложение получается, конечно, последовательным интегри-
интегрированием по частям. Таким образом, и0 е /Jjj}g+2)'4 {X, dY).
В символе а члены нечетного (соотв. четного) порядка нечетны
(соотв. четны), и, подбирая подходящее и, молено получить по
модулю S~°° любой символ а е S^hg (К""'X R1) с таким свой-
свойством и с компактным по х" носителем. Предположим теперь,
что Р е Ч'Цд, где т — целое. Тогда Ри будет вида A8.2.17)
с некоторой новой амплитудой 6eS"hV> задаваемой формулой
A8.2.16). Не изменяя асимптотического разложения символа,

18.2. Конормальиые распределения 147
можно умножить его на функцию из С™(Х), равную 1 в неко-
некоторой окрестности носителя и, с тем чтобы получить символ
с компактным носителем. Докажем одну лемму, тесно связан-
связанную с теоремой Пэли — Винера — Шварца (теоремой 7.4.3).
Лемма 18.2.14. Пусть v e В' (X), X<=Rn, и
с 6eSphg(R" :XR') при некотором цеС, т. е.
оо
о
где символ Ь/ однороден степени ]х — /. Для того чтобы v \x>0
допускало С°°-продолжение на замкнутую полуплоскость х^О,
необходимо и достаточно, чтобы для каждого /
A8.2.19) Ь,{х", — 1) = &,(*", 1)е"^-/).
Это условие означает, что bi есть ограничение на R \ 0 функции
bj(x", 1)?| , причем степень Z^~' считается равной 1 в точке 1
и аналитической в верхней полуплоскости.
Доказательство, а) Достаточность. Пусть Г — кривая в С, по-
получающаяся из вещественной оси заменой интервала (—1, 1)
на часть единичной окружности, лежащую в верхней полупло-
полуплоскости. Тогда
/<ЛГ Г
при N > Ren + v+1. Записывая члены этой суммы в виде
D\
с Rep, — j — k < — 1 и применяя интегральную формулу Коши,
находим, что они равны нулю при Х\ > 0. Следовательно, все
производные от v ограничены при х\ > 0.
Ь) Необходимость. По теореме Бореля (теорема 1.2.6) най-
найдется Функция доеСо°(Х), равная о при jeI>0. Тогда для
-IS
ЬФ (Q = Bn)-' (v - w,
есть целая функция, и по теореме Пэли — Винера—Шварца
(теорема 7.3.1)
1С1)Л1 при Im?,>0.

148 18. Псевдоднфференциальные операторы
На вещественной оси ^(^i)'*-*^ E,) при /-> +оо, где
Поэтому функция
стремится к 0 при ?з -*¦ оо в верхней полуплоскости и ограни-
ограничена по модулю на Г величиной, не зависящей от е. Значит,
по принципу максимума модуля, она ограничена величиной не
зависящей от е, и в области, лежащей над кривой Г. Таким
образом,
M|Re|1 при |?,|>1, Im?,X).
Далее, можно выбрать последовательность <v->- +00, такую что
предел
существует и аналитичен в верхней полуплоскости. Граничные
значения функции В на вещественной оси равны й°(|,) ввиду,
скажем, C.1.13) с N = 0. Следовательно, В(?,) = &?A)^ при
0 ^ arg ?] =sC л. Этим доказано, что bo удовлетворяет условию
A8.2.19). Используя часть а) доказательства, мы можем вы-
вычесть из Ь распределение, отвечающее Ьо и равное нулю при
Х\ > 0, а затем проверить, что Ь\ удовлетворяет условию
A8.2.19), и т. д. Лемма доказана.
Предположим теперь, что Р е W^g (X) и символ этого опе-
оператора имеет асимптотическое разложение
где символ pi однороден степени т — /. Тогда Рщ будет иметь
вид A8.2.15) с Ь, задаваемым формулой A8.2.16), и а, опреде-
определяемым формулой A8.2.18). Если Р удовлетворяет условию
трансмиссии относительно полупространства Х\ > 0, то в силу
леммы 18.2.14 главная часть ро(Ь, х",\\, 0)н@, x")fi\i асимпто-
асимптотического разложения для Ь должна удовлетворять условию
A8.2.19), т. е.
Ро(О, х\ -1, О) = *»*»Ро(О, х", 1, 0).
Заметим, что это условие по-прежнему выполнялось бы, даже
если бы мы ослабили условие трансмиссии, потребовав в опре-
определении 18.2.13, чтобы и имело на дУ нуль некоторого фикси-
фиксированного порядка. Такое ослабленное условие трансмиссии со-

18.2. Конормальные распределения 14$
храняется при умножении Р справа или слева на любой диф-
дифференциальный оператор, поскольку D\ uQ не будет содержать
членов, сосредоточенных на плоскости Х\ = 0, если и имеет на
ней нуль порядка по меньшей мере к. В частности, коммутаторы
Р с Dj и X/, взятые любое число раз, удовлетворяют указанному
ослабленному условию трансмиссии, поэтому, ввиду A8.1.6),
для произвольных аир
A8.2.20) р№,@, х", -1, 0) = ел'<т-|а|)/О№)@> ^ 1? 0)
Обратно, A8.2.20) гарантирует ввиду A8.2.16) и леммы 18.2.14,.
что оператор с символом ро удовлетворяет условию трансмис-
трансмиссии. Вычитая этот оператор из Р, заключаем, что р\ обладает
тем же свойством, и т. д. Следовательно, условие
A8.2.20)' pf^{0, х", -1, 0) = e"'<"-i<"-»pta{l)@, x", 1, 0)
является необходимым и достаточным для того, чтобы опера-
оператор Р удовлетворял условию трансмиссии.
Чтобы представить A8.2.20)' в инвариантном виде, введем
для каждого символа р е S^s (X X R")»
где символ Pj однороден степени т — /, новый символ р, такой1
что
A8.2.21) р(х, |)~ ?е-я/0»-"р/(х, -I).
о
Ясно, что р — е~2яШр е S~°°, поэтому соответствие p*-^-enimp
задает инволюцию в S?hg(^ X.Rn)/S~°°(x X R"). Эта инволюция
порождает инволюцию в W%e (X)/W~°° (X) для любого С°°-мно-
гообразия X. В самом деле, поскольку q = q, если q — много-
член, то в обозначениях теоремы 18.1.17
а это разложение совпадает с разложением символа
(р)к(х(д:), ц). Аналогичное вычисление, использующее A8.1.15),
показывает, что мы получаем инволюцию в алгебре
y?lbg(X)fV°o(X), перестановочную со взятием сопряженных. Рас-
Рассмотрение более общей ситуации с расслоениями не требует
никаких новых соображений. Тем самым нами доказана
Теорема 18.2.15. Собственный псевдодифференциальный опера-
оператор Р е ^F^hg (X; Е, F) удовлетворяет условию трансмиссии

150 18. Псевдодифференциальные операторы
относительно замыкания У открытого подмножества в X с
С^-границей тогда и только тогда, когда
A8.2.22) символ оператора Р — Р имеет нуль бесконечного
порядка на внутреннем конормальном расслоении
к границе дУ.
Проверять выполнение условия A8.2.22) надо, конечно, в
локальных координатах, но какие брать координаты, совер-
совершенно все равно. Поскольку р = е~2штР, условие A8.2.22)
равносильно условию
A8.2.22)' символ оператора Р — e'mimP имеет нуль бесконеч-
бесконечного порядка на внешнем конормальном расслоении
к границе дУ.
Следовательно, в случае, когда m — целое, ориентация дУ как
границы не играет роли.
Из доказательства достаточности условия A8.2.20)' видно,
что Ри допускает С°°-продолжение с К0 на У и тогда, когда и
есть гладкий простой или кратный слой на дУ. Сейчас мы изу-
изучим граничные значения Ри в этом случае. Снова можно рас-
рассуждать локально, поэтому предположим, что X = Rn, У за-
задается условием *i ^ 0, Р = р(х, D) ир~ ? pjt где символ р/
для каждого / однороден степени m — /и удовлетворяет усло-
условию A8.2.20)'. Пусть и = 6(х,)®о(х"), где v (=C?{Rn~l). Что-
Чтобы вычислить Ри, возьмем функцию ф<=Со°((— 1, 1)) с
\ ф(/)d/ = 1 и заметим, что P« = limPu8 при е-»-0, где ut(x)—
<p(xj&) v(x")je. Очевидно, что
Pus (x) = Bя)"п J е' <*• Ьр (х,1)<? (el,) t (!") d\.
и мы покажем сейчас, что интеграл по \\ от подынтегрального
выражения имеет предел при е—»¦ 0.
Лемма 18.2.16. Пусть q(t), /sR, — непрерывная функция.
Предположим, что существует функция Q(t), аналитическая в
fi/!={/eC; imf^sO, \t\^ R) для некоторого R и такая, что
Q(t)=z O(tN) для некоторого N при t-+oo в QR и q(t)—Q(t)
= O(t~2) при /->-оо на R. Тогда величина
я
A8.2.23) \ + q(t)dt= \ (q(t)~Q(t))dt+ \q{l)dl
\t\>R -R

18.2. Конормальные распределения 151
не зависит от выбора Q. Если функция F{t,s) аналитична по t
при Im t ^ 0 для 0 ^ s ^ 1 и ограничена и непрерывна по со-
совокупности переменных t, s, то\ q (() F (t, s) dt является непре-
непрерывной функцией от s.
Доказательство. Если q = 0, то в силу принципа максимума
модуля
sup
ибо |1 — Ш\^ 1 + е Im t ^s 1 на c?Qr. Устремляя е к 0, заклю-
заключаем, что функция t2Q(t) ограничена на Qr. Поэтому в силу
интегральной формулы Коши
Этим доказана однозначность определения величины \ q(t)dt~
Последнее утверждение леммы получается применением теоре-
теоремы о мажорированной сходимости после вычитания Q(t)F(t,s)
из q\t)F(t,s).
Замечание. В случае когда q — рациональная функция без ве-
вещественных полюсов, условие леммы выполняется для функ-
функции Q, равной сумме членов степени ^—1 в лорановском раз-
разложении функции q в точке оо. Поскольку q(t)— Q(t)~O(t~2)
на оо в О, из интегральной формулы Коши следует, что
\ q(t)di равняется умноженной на 2ш' сумме вычетов функ-
функции q в верхней полуплоскости.
Вернемся к вопросу о граничных значениях Ри. Для фикси-
фиксированного |" имеем при |i -*¦ оо
Р(х. t)-ZlT~i4u]Pr(x, 1, 0)?а! = ОA
где сумма берется по всем / и а, таким что ai = 0 и
/-Ha|<2-fRem. Это получается, если записать Pj(x, |)
= llil'"~/P/(Jf» ^i/ISi l> l"/llil)t разложить правую часть послед-
последнего равенства по формуле Тейлора и применить A8.2.20)'.
Далее,
ф (eg,) К J | Ф (/) | Л при Im

152 18. Псевдодифференциальные операторы
¦если 8 ^ х\. Следовательно,
**Ьр (х, |) ф (е|,) d|, -> J + в'**р (х,
при е -> О, так что интеграл слева оценивается некоторой сте-
степенью 1+||"|, не зависящей от выбора е и х\. Устремляя те-
лерь и х\ к 0, заключаем, что Pu(x)-*-q(x",D")o(x") при
jci -> 0, где
q{x", Г)-Bя)-
Мы утверждаем, что q ~ ? <7/. где символ
A8.2.24) <7У (^', I") = Bл)-' J+ Р/ @, *", |„ I")
¦однороден степени т + 1 — /. Действительно, выберем N, боль-
большее чем Re m + 2, и положим
Тогда ^gS""""" при, скажем, ||"|> Ь откуда следует, что
j ?w (о, **, б„ го rfg | < с 5 (i+11 i+11" i )Re m-/v-1 e •
Следовательно, q ~jL,qi- Подытожим доказанное:
Теорема 18.2.17. Пусть р~ Z P/G-S"hg (R" X R"). « я^сгб вы-
полнены условия трансмиссии A8.2.20)'. Если u = 6(x1)®v(x"),
где v eCo° (R"), то р(х, D)u допускает С°°-продолжение с по-
полупространства {х е R"; Хх > 0} на его замыкание и
lim p(x, D)u = q(x", D")v(x"),
+ Q
где <7- Е ^^-S^VCR" XR""'). a q, задаются форму-
формулой A8.2.24).
Граничные значения распределений D^p(x, D)(D\u) также,
конечно, даются соответствующими псевдодифференциальными
операторами, действующими на у; надо просто применить тео-
теорему 18.2.17 к псевдодифференциальному оператору
D^(, D) D[, символ которого легко вычислить.
Ключевым моментом доказательства теоремы 18.2.15 было
установление того факта, что функции на X с носителями в У и

18.2. Конормальные распределения 15$
с С°°-ограничением на У допускают отождествление с элемен-
элементами пространства /^+2)/4(-^, дУ\ Е), имеющими носитель в У.
Вообще, для любого комплексного числа ц можно рассмотреть
пространство
A8.2.25) С?(У, Е) = {ие 1^л~т(Х, дУ; E), suppuaY}
(мы не указываем явно X в обозначении этого пространства,
поскольку неважно, как именно многообразие с краем У рас-
расширяется до открытого многообразия X). Если и имеет носитель
в координатной окрестности, в которой У задается условием
Х\ ^ 0 и над которой расслоение Е тривиально, то мы можем
записать и в виде
A8.2.26) и(*)=$*'**а (*",?,) dg|t
где
A8.2.27) a~ EM*", I,),
а символ а/ однороден степени ц — /. Изменяя знаки у х\ и ?ir
заключаем на основании леммы 18.2.14, что uj{x", |i) можно
продолжить в полуплоскость Im|i<;0 как однородную ана-
аналитическую функцию от |i. Ввиду примера 7.1.17 отсюда сле-
следует, что в случае, когда ц не является целым числом, и допу*
екает асимптотическое разложение
/'. где ul^C°°{Rn-1).
о
Здесь использовано обозначение, введенное в § 3.2, и асимпто-
асимптотическое разложение понимается в том смысле, что разность
между и и частичными суммами достаточно высокого порядка
является сколь угодно гладкой. В случае когда \i есть целое
sg: —1, мы получаем функции, при х\ < 0 равные нулю, а при
X] ^ 0 равные О (х^~1) и принадлежащие классу С°°. Нако-
Наконец, в случае когда ц есть целое ^0, и представляет собой сум-
му функции U, С°°-гладкой при х\ ^ 0 и равной нулю пра
Xi < 0, и кратного слоя
где щ е C°°(Rn-1). Имеются краевые задачи, для которых есте-
естественно ожидать, что их решения ведут себя, как в одном из
этих случаев.
По-прежнему считая У замыканием некоторого открытого'
подмножества С°°-многообразия X с <ЭУе С°°, мы можем теперь

154 18. Псевдодиффереициальные операторы
обобщить теорему 18.2.15 следующим образом:
Теорема 18.2.18. Пусть Pefjgft Е, F) — собственный опера-
гор. Если для всякого и е С?° (У, Е) ограничение Ри на внут-
внутренность У° множества У принадлежит €°°(Y°, F), то
A8.2.28) символ оператора р — е**1*Р имеет на внутреннем
нормальном расслоении к границе дУ нуль беско-
бесконечного порядка,
и верно обратное утверждение.
Доказательство. Мы можем близко следовать доказательству
теоремы 18.2.15, снова работая в локальных координатах. Если
и имеет вид A8.2.26), A8.2.27) (с а/, однородными степени
41 — /), то
а,[х". !) = <?*<'"-"а,(*", -1),
в силу леммы 18.2.14 с измененным знаком xi (ибо и равно
нулю при х\ <0). Далее, Ри имеет вид A8.2.26) с а, заменен-
замененным некоторым полиоднородным символом со старшим членом
Ро(О, х", |ь 6)ао(х", li). Поэтому из той же леммы вытекает,
что если Ри е С°° (Y°), то
Ро(О, х", -1, О)ао(х", -1) = е*«'»+>Ч?0@, х", 1, О)ао(х", 1)
= ert'<'"+2W/?o(O, х", 1, 0)ао(*", -1).
Поскольку а0 можно выбрать так, чтобы ао(х", —1) нигде в нуль
не обращалось, заключаем, что
роф, х", -1, 0) = ^c«+^0@, x", I, 0).
Следуя доказательству теоремы 18.2.15, мы можем теперь по-
получить соответствующее условие для произвольных производ-
производных от ро, а также для членов младших порядков. Повторение
деталей рассуждения предоставим читателю.
Замечание. Из теоремы 18.2.18 вытекает, что фигурирующее в
ней модифицированное условие трансмиссии, отвечающее дан-
данному цеС, зависит от класса вычетов числа ц в C/Z. Если
верно A8.2.28), то символ оператора
р
имеет нуль бесконечного порядка на внешнем нормальном рас-
расслоении к дУ. Поэтому для
A8.2.29) /n + |i + )j'eZ
символ оператора
р —

18.3. Тотально характеристические операторы 155
имеет нуль бесконечного порядка на указанном внешнем нор-
нормальном расслоении. Следовательно, можно заменить У на
У' = СК> заменив одновременно ц на какое-либо ц", удовлетво-
удовлетворяющее условию A8.2.29).
18.3. Тотально характеристические операторы
Этот параграф посвящен изучению одного класса псевдодиффе-
псевдодифференциальных операторов на С°°-многообразии X с краем дХ.
(Понятие многообразия с краем определено в § В.2 добавле-
добавления В.) В § 18.2 мы ввели условие трансмиссии относительно X
для псевдодифференциального оператора Р на открытом мно-
многообразии той же размерности, содержащем X. Это условие га-
гарантирует, что Р задает отображение из С™ (X) в С°° (X), но Р
может не задавать оператор из С™(дХ) в С°°{дХ), а это иногда
желательно при рассмотрении краевых задач. Дифференциаль-
Дифференциальный оператор первого порядка L обладает этим свойством то-
тогда и только тогда, когда он касателен к дХ (см. определе-
определение 18.2.6). Алгебра операторов, которую мы определим ниже,
строится из таких дифференциальных операторов первого по-
порядка точно тем же способом, каким стандартные псевдодиф-
псевдодифференциальные операторы строятся из произвольных дифферен-
дифференциальных операторов первого порядка.
В качестве модели многообразия с краем мы будем исполь-
использовать замыкание R+ полупространства R+ = {х е R"; хп > 0}.
Для всякого пространства F распределений в R" будем обоз-
обозначать через F(R+) пространство ограничений на R+ элементов
из F, а через F (R+) — пространство распределений из F
с носителем в R+ (подробнее об этих пространствах го-
говорится в § В.2). Пространство^00 (R+) в силу теоремы 1.2.6
совпадает с пространством C°°(R+) функций класса С°° на R",
и мы будем использовать оба эти обозначения.
Согласно лемме 18.2.5, дифференциальные операторы пер-
первого порядка в R", касательные к 6R+, порождаются операто*
рами d/dxj, } < п, и хпд/дхп. Эта лемма обобщается следующим
образом:
Лемма 18.3.1. Алгебра Diff6(R"), порожденная касательными
к dR" дифференциальными операторами первого порядка с ко-
коэффициентами из С°° (R+), состоит из всех операторов вида
P=Zaa(x)xaanDa,
где aaeC°°(R+).

156 18. Псевдодифференциальные операторы
Доказательство. Поскольку xnDn — Dnxn + i, операторы {xnDni,
j^k, представимы в виде линейных комбинаций операторов
х'пРп* j^k, и наоборот. Поэтому доказываемое утверждение
•следует из леммы 18.2.5.
Операторы из Diff4(R+) будем называть тотально характе-
характеристическими. Лемма 18.3.1 наводит на мысль расширить под-
подпространство Diff6l(R") пространства Diff6(R+), состоящее из
¦операторов порядка ^гп, до класса операторов, задаваемых
формулой
где
X>%', Хп%„) При *„>0,
7ЮООЧ -/ *Ч
{18.3.2) а(х, |) = < . . _
' t 0 при хп < О
<|' = (li, ..., In-i))- Поскольку нас интересует в первую оче-
очередь, что происходит при хп—*-0, будем выбирать а из сле-
следующего класса символов, определенного так, чтобы функ-
функция а удовлетворяла условию A8.1.1) при х„ > 1:
Определение 18.3.2. Через S+ обозначается множество всех
функций а е С°° (R+ X R")> таких что для всех мультиин-
дексов а, р и всех целых чисел v^O
<18.3.3) |а§}(х,|)|<С«>е,»A+|||Г-|в|A+**)"*•
X €= Ri, | S R\
Ядром оператора A8.3.1) служит распределение
<18.3.4) /С(^, у) = Bя)- J et<x-**u(x, 1)сЦ, (х, у) е R2",
понимаемое как обратное преобразование Фурье в смысле
теории распределений. При *„^*0 оно представляет собой не-
непрерывную функцию от х со значениями в 9*' {R1), а при хп < О
равно нулю. Мы хотим, чтобы значение оператора A8.3.1) на
функции и зависело лишь от ее ограничения на R+; поэтому
надо потребовать, чтобы г/„^0 на supp/C. Это означает, что
осцилляторный интеграл
V, xnln) dtn,
корректно определенный при хп!>0, уп < 0, должен равняться
.нулю при таких хп, уп. Выбирая хп1п в качестве новой пере-

18.3. Тотально характеристические операторы 157
менной интегрирования для хп > О, мы можем записать это
условие в виде
A8.3.5) \e-itl-a(x, Г, gB)dgB = O при /<-1, *„>(),
т. е. преобразование Фурье от а(х, ?) по |„ должно равняться
нулю при / < — 1.
Определение 18.3.3. Будем говорить, что символ аб5+ лаку-
нарен (или удовлетворяет условию лакунарности), если вы-
выполнено A8.3.5). Множество 5" всех лакунарных символов
из 5+ представляет собой замкнутое подпространство в 5+ и,
следовательно, является пространством Фреше.
Условие лакунарности не слишком ограничительно, по-
поскольку точно так же, как и условие собственности, касается
лишь «остаточной» части символа:
Лемма 18.3.4. Пусть pe^fR), р=1 е некоторой окрестности
нуля и suppp cz{—1/2, 1). Если ае5+, то функция
оо
ар(х, ?) = J a(x,l',la-t)p(t)dt
принадлежит SJS, а — flpeS+°°, отображение 5+ э ан->а — apES+*
непрерывно и на носителе ядра оператора ар(х, D) выполняются
неравенства xJ2
Доказательство. Преобразованием Фурье по |„ от функции а0
служит произведение р на преобразование Фурье от а, поэ-
поэтому справедливо не только A8.3.5), но даже более сильное
условие
A8.3.5)' Je-'^flpOr, Г, Ш1п = 0 при /^(-1/2,1).
Отсюда следует, что xJ2t?^ynt?^2xn на носителе ядра опера-
оператора а0(х, D). Далее, из условий, наложенных на р, вытекает,
что \pd/=l и \t'pdt = O при ; > 0. Следовательно,'
ар(х, Ъ) — а(х, |)
оо
/<ЛГ

158 18. Псевдодифференциальные операторы
для любого N. В силу формулы Тейлора подынтегральное вы-
выражение оценивается при |/]<Ц1/2 величиной
При \t\>\t\/2, оценивая каждый член подынтегрального вы-
выражения отдельно, находим, что все оно оценивается величиной
Поскольку рЕ?, а N произвольно, это показывает, что
\ар(х, |)—а(х, |) | мажорируется любой степенью функции
A +|^|)—1A + >:„)—|, умноженной на соответствующую постоян-
постоянную. Эти постоянные представляют собой полунормы разности
ар — а в S+. То же верно и для всех производных от ар— а,
поскольку взятие свертки с р перестановочно со взятием про-
производных. Лемма доказана.
Из леммы 18.3.4 следует, что
lali>la =O+/i+ .
Поэтому ограничение лакунарными символами не препятствует
построению исчисления символов, которое мы сейчас и разо-
разовьем параллельно § 18.1. Прежде всего приведем аналог тео-
теоремы 18.1.6:
Теорема 18.3.5. Если a<=S?a и «e?(R"), то оператор A8.3.1),
примененный к любому продолжению и до функции из ^(R"),
дает функцию а{х, D)«g??'(R+), и возникающее билинейное
отображение (а, «)•—*• a (jc, D)u непрерывно как отображение
указанных пространств. Далее,
[а(х, D), D,] = ш(/) (х, D) + й/яй<»> (х, D) Dn,
A8.3.b)
[а(х, D), x,] = -iaW{x, D)-ibin
Для любого целого k^O
A8.3.7) Dka{x, D)u\, =) I. a. Ax', D')(D{u L X
Доказательство. Условие лакунарности гарантирует, что уп ^ О
на носителе ядра К оператора A8.3.1). Поэтому результат его

18.3. Тотально характеристические операторы 159
применения к продолжению функции и не зависит от выбора
продолжения. Поскольку йе^, то очевидно, что а(х,D)u есть
С^-функция, все производные которой ограничены. Дифферен-
Дифференцирование под знаком интеграла или интегрирование по частям
дает A8.3.6). Как_и в доказательстве теоремы 18.1.6, отсюда
следует, что Sfa X & (R+) э (а, и) •—*• 5 (х, D) и есть непрерывное
отображение со значениями в ^(R+). При дифференцировании
по х„ под знаком интеграла в A8.3.1) множитель |„ появляется,
когда производная падает на экспоненту или на последний ар-
аргумент функции а(х, §', Xnln). Если таких производных имеется
в общей сложности /, мы как раз получаем /-Й член в правой
части A8.3.7), поскольку
есть преобразование Фурье по х? от D^uix1, 0).
Равенство A8.3.7) показывает, что цель, которую пресле-
преследовало определение операторов а(х, D), достигнута: все нор-
нормальные производные от а(х, D)u на границе можно вычислить,
зная, как соответствующие псевдодифференциальные операторы
на границе действуют на нормальные производные от и того же
и меньшего порядка. Покажем теперь, что исчисление опера-
операторов а(х, D) строится в основном так же, как и исчисление
стандартных псевдодифференциальных операторов, несмотря на
тот факт, что функция а(х, I), определенная формулой A8.3.2),
имеет довольно плохие по сравнению с «настоящими» симво-
символами свойства по Хп- Одно из главных отличий от случая на-
настоящих символов состоит в том, что ядро К оператора а(х, D)
может иметь особенности, даже когда а е S-°°. Итак, присту-
приступим к изучению таких операторов. При этом будем использо-
использовать обозначения
Q = {(х, у) е R2"; хп>0,уп>0), d.2Q = {(х, у) s R2"; хп = уп=Щ
для «четверти», содержащей носитель ядра К, и особой части
ее границы. Удобно ввести в Q вместо хп, уп симметричные син-
сингулярные («полярные») координаты г, t (см. рис. 2), задавае-
задаваемые формулами
<18.3.8) i = (xn + yn)/2, r = (xn-yn)/t = 2(xn-yn)/(xn + yn),
т. е. Jtre = Д1-f-г/2), yn — t{\—г/2). Заметим, что точкам
(х, y)^Q отвечают t^O и |гК2

160 18. Псевдодифференциальные операторы
(-2,0)
t
Л
B,0)
Рис. 2.
Теорема 18.3.6. Если a^STa°°, то ядро К оператора а(х, D)
принадлежит одновременно L\oc (R2ra) и С°° (R2n\d2Q), supp KczQ
и функция
F (х/, у', t, г) = tK{x', t(\+ г/2), /, / A - г/2))
. Для всех a, {J, т,
С*-гладка при /;>0 и равна 0 при
р, v справедлива оценка
A8.3.9) \DaMDlD?F(x, у, t, г)\ <С„ртр,A +\х-у'\ + ()~v-
Обратно, если К е Lioc(R2"), supp/(c:Q u 'Z7 обладает указан-
указанными выше свойствами, то К является ядром оператора а (х, D),
отвечающего некоторому а е S^°°-
Доказательство. Обратное преобразование Фурье по % от а(х, 1)
A8.3.10)
С°°-гладко при
что для всех а,
A8.3.11)
А(х, 0) = BяГ<1$в"»-е>a{x,l)dl
. Из доказательства леммы 7.1.3 следует,
|«/ir^(l+A:n)~y при *„><),
и обратно, что всякая функция А (х, у), удовлетворяющая
оценкам A8.3.11) и равная 0 при уп > 1, представима в виде
A8.3.10) с a^STa°°. При *„>() ядро /С есть непрерывная
функция от х со значениями в 91', и A8.3.4) дает
A8.3.12) К(х,у) = А(х,х'-у',(хп-уп)/хп)/хп при *„ > 0.
Следовательно, К е L}oc (R2n), supp /С с: Q и /С е С00 при ^л > 0.
Если /!>0 и г> — 2, то
A8.3.13)
F{х', у', t, г) = 2А (*', t(l + г/2), \*' - /, 2г/B + г))/B + г).

18.3. Тотально характеристические операторы 161
Это С°°-функция. Для *„ = *A + г/2) и уп = 2г/B + г) выпол-
выполняются неравенства
1+!*/„!> 2/B +г), 1+|уя| + жя>2/'Д
Поэтому F оценивается любой степенью величины A -f- г/2)
ХA+1-*' — y'\-\-t)~l- To же верно и для всех производных
от F, поскольку они представляют собой суммы членов того
же вида, что и F, только функция А заменяется на некото-
некоторую свою производную и появляются дополнительные множи-
множители — степени / и 1/B -f- г). Если положить F (х', у', t, г) = О
при г< —2, то F^C°° при 1>0 и справедливо A8.3.9).
Обратно, пусть К е /.{«,<. (R2n), supp/CcrQ, F (= С°° при * > О
и выполнено A8.3.9). Так как из равенств / A + г/2) = хп,
2г/B + г) = уп следует, что r = 2yjB-yn), t = xnB-yn)/2
при хп > 0 и уп < 2, положим
A8.3.13)'
Л(Х'У) = 10 при,„>1.
Эти два определения согласованы друг с другом на общей об-
области определения, ибо 2у„/B — у„) > 2 для 1 < г/„ < 2. При
1
г/„) + 2 = 4/B - уя) < 8/( 1 + | уп ]),
1 + хпB-уп)/2>1+хп/2.
Заметим, что поскольку F = 0 при г < —2, то, используя фор-
формулу Тейлора, можно усилить оценку A8.3.9) следующим об-
образом:
A8.3.9)'
| DlDl'DltfrF (х, у, t, г) | < CaPTpv (l + \x-yf\ + t)-v(r + 2)v-
Поэтому из A8.3.9) вытекает A8.3.11), чем и завершается до-
доказательство.
Замечания. 1. В терминах, введенных в § 18.2, условие F е С°°
означает в точности то, что К ^ /phg2(R2", <?2Q). Несложную про-
проверку этого утверждения предоставим читателю.
2. Из проведенного доказательства следует, что если а е
5;а , ТО
A8.3.14)
I К (х, у) |< С A + \х' - у' D-") *„?,, 1/A *» I +1 г/JK-
6 Зак. 443

162 18. Псевдодифференциальные операторы
Действительно, так как A +1 у' I)" A +1 Уп \f M (*> У) К С, то
(I +\x' - i/\)n\K(x, у)\^СA +\хп- уп\/хп)-2/хп
= CxJ(xn + yn- xnf < 8СхпУп/(хп + #„K при 0 < хп < г/я
Далее, A +1 <ЛЛ Л(*, #) |<С| 1-*Д ибо Л(х,г/) = О при
уп > 1 и A +1 #' |)" | ЗА {х, у)/ду„ | < С. Следовательно,
A + I *' - */' D"IК(х, у) |<О/„/^<8СхпУп/(хп + упK
при 0 < уп < дс„.
Отсюда и следует оценка A8.3.14), которая послужит нам
ниже удобным отправным пунктом при выводе ?2-оценок для
тотально характеристических операторов.
Из теоремы 18.3.6 вытекает, что если а е 5^°°, то а(х, D)* =
$ {х, D), где Ь е 51^°°. Подготавливаясь к доказательству
аналогичного результата для STa, Дадим аналитическое выра-
выражение для Ь в случае, когда а е SZT и выполнено сильное
условие лакунарности
"^(лМ'.и^я^О при *? (-1,1/2).
Это означает, что (мы используем обозначение A8.3.10))
А(х, у) = 0 при уп ф.{— 1, 1/2), а следовательно, 1/2^
11<2 при (х, у) е= supp К. В силу A8.1.9) и A8.1.10),
A8.3.15) (a(x,D)u,v) = (u,b(x,D)v), и, o
где Ь = el^°*'D^a(д:, 1)е^'; ясно, что хп^0 на supp6. Если
функция fsC"(R) равна 0 на (— оо, 1) и 1 на B, оо), то
<р (xJb) а (х, |) = ф (xje) а (х, %', хп1п) принадлежит S~°° и сходится
к а в 9" при е-+0. Значит, В есть ^"-предел при е-+0 функ-
функций
(х, I)
определенных согласно теореме 7.6.5; правую часть последней
формулы можно также понимать как интеграл, взятый сначала
по т|, а затем по у. В силу A8.3.5)" интеграл по г\„ может
быть отличен от нуля, лишь когда (уп — хп)/уп е (— 1, 1/2), т. е.
когда 1/2 < Уп/х„ < 2. Выберем функцию % s Co" A/3, 3), равную
1 на A/2, 2). Не изменяя интеграла, можно ввести в подын-
подынтегральное выражение множитель %(yjxn). Устремляя е к 0,

18.3. Тотально характеристические операторы 163.
получим при хп> О
— y,V- П', (хя - Уп)(%п - Л„))X((хп - уп)/хп)dy dr\.
Последний интеграл понимается как повторный. Заменяя ул
иа хпуп, а т|я на t\Jxn, заключаем, что
A8.3.16)
X а (*' - /, *„ A - уп), Г - г,', A - Уп) (|„ - т,„)) х A - уп) dy 4ц
= е1 <Р* D^> (а (у', хпУп, Ч', г/^J х (*,„)) \у={х,, I}, 4-.s.
Посмотрим теперь, что дает эта формула в случае, когда
osS+ при некотором конечном т.
Лемма 18.3.7. Если oeS+и функция %еС~@, оо) равна 1 а
некоторой окрестности точки 1, го формула A8.3.16) определяет
символ Ъ е 5й» такой что
A8.3.17)
= Z IT
Отображение S+з а *-*¦ b<^S?a непрерывно.
Записанный выше асимптотический ряд корректно опреде-
определен в смысле предложения 18.1.3, поскольку при каждом диф-
дифференцировании по г/, падающем иа аргумент ynf\n, степень сим-
символа понижается на единицу, что компенсирует появление мно-
множителя Tin-
Доказательство. Существует постоянная М, такая что suppx
d {М~1, М). Введем функцию
Схп{у, г\) = а(у', хпуп, т|', упг\п)х(уп).
На ее носителе 1/М^.уп^М, поэтому функции A +хп)чсХп
принадлежат некоторому ограниченному множеству в Sm пра
всех v и всех хп^0. В силу теоремы 18.1.7
есть С°°-функция от (у, г\) и для любых а, Р, v
-v
6*

164 18. Псевдодифференциальиые операторы
Поскольку производные от с%п по хп-—того же вида, С является
С°°-функцией от всей совокупности переменных и
| D^DlDlC {у, т), хп) | < Caw A + I Ч Г ° ' A+ *п)~ч-
Следовательно, функция Ь(х, |)= С(хг, 1, ?, х„) принадлежит
5+- Утверждаемое асимптотическое разложение сразу следует
из той же теоремы 18.1.7, ибо % = 1 в некоторой окрестности
точки 1. В случае а е 5+°°. используя первый вариант формулы
A8.3.16) и принимая |„ — т|„ в качестве новой переменной ин-
интегрирования, получаем
Ха(х'- у', хп{\ - t), V - V, A - t)nn)X(l - t)dy'dn.
Правая часть может быть отлична от нуля, только если
AP's^l — *</И, т. е. — 1 — М<*< 1 —М~К В случае про-
произвольного а е 5+ приходим к тому же заключению, выбирая
последовательность a/s5+°°, сходящуюся к а в 5++1. Таким
образом, Ь е Sfa, чем доказательство и завершено.
Замечание. В том что для Ь выполнено условие лакунарности,
нет ничего удивительного, ведь действие % сводится к «среза-
«срезанию» ядра оператора а(х, D) посредством множителя %{xjyn).
Теорема 18.3.8. Для всякого a^STa оператор, сопряженный к
а (х, D), равен Ь {х, D) для некоторого b^STa (сопряженность
а(х, D) и b(x,D) понимается в том смысле, что выполнено
A8.3.15)). Если а удовлетворяет сильному условию лакунарности
A8.3.5)" и функция хе=СГ@, °о) равна 1 на A/2, 2), то Ъ за-
задается формулой A8.3.16) и допускает асимптотическое разло-
разложение A8.3.17).
Доказательство. В частном случае а е STiT первое утвержде-
ние следует из теоремы 18.3.6, поскольку функция (х, «/)¦—*¦
К [у, х) обладает теми же свойствами, что и К- Поэтому в
общем случае первое утверждение следует из второго и леммы
18.3.4. Пусть a^STa и выполнено A8.3.5)". Выберем последо-
последовательность a/<= S+°°, сходящуюся к а в 5++I, и определим
а,р, как в лемме 18.3.4. Функции а/р принадлежат 5^°° и удо-
влетворяютусловиюA8.3.5)",иа/р->ар в 5++1 при /—>-оо. Пусть
bj^STa и 60 е STa определены формулой A8.3.16) с а, заме-

18.3. Тотально характеристические операторы 165
ненным на а!р и ар соответственно. Тогда
(aip(x, D)u,v) = (u,bl(x,D)v), и, xi<=9>,
и 6/->6о в Sm+1 при /->оо. Поэтому, в силу теоремы 18-3.5,
(йр (х, D)u,v) = (и, Ьо (х, D) v), и, v(=9>.
Поскольку разность а — ар е SZT удовлетворяет условию
A8.3.5)", то мы имеем также
((а (х, D) - ар (х, ?>)) и, v) = (и, (В (х, D) - b0(x, D)) о), и, v<=9>,
причем Ъ — bo^STa°°. Отсюда следует A8.3.15), чем и завер-
завершается доказательство.
Ввиду теор_емы 18.3J5, а(х, D) осуществляет непрерывное
отображение ^(R+)—>-^(R"). и то же верно в отношении его
сопряженного b(x, D). Поэтому формула A8.3.15) с ие?1 (R+)
и v e 9" (R+) определяет непрерывное отображение
Если продолжить и е 9" (R+) до и0 е 9"' (R+), положив ий рав-
равным и иа множестве R+ и нулю вне этого множества, то
а(х, D)uQ будет совпадать с функцией а(х, D)u, заданной
формулой A8.3.1). В силу теоремы Хана—Банаха отображение
ограничения^ (R+)—>9> (R+) сюръективно. Его ядром служит
A8.3.18) 9>' (Rn+, dR+) = {и s 9>r (Rn); suppucz^R"}
где
A8.3.18/ ^(R;,aR^) =
Мы воспользовались здесь теоремой 2.3.5 и тем фактом, что все
умеренные распределения — конечного порядка. Далее,
(хк„а (х, D) и, v) = (и, Ь (х, D) xknv) = О,
действительно, в силу A8.3.7) функция b(x, D)XnV при xn = G
имеет нуль порядка к, поэтому можно выделить из нее множи-
множитель Хп> который, будучи переброшен налево, аннулирует и.
Следовательно,
A8.3.19) а(х, D)$"fc(R+, dR+) <=0»i(R+, dRn+) для любого к.

166 18. Псевдодиффереициальные операторы
Т_аким образом, а (х, D) индуцирует отображение 9>' (R+)-»-
S?'(R+)» по-прежнему задаваемое формулой A8.3.15), только
теперь с ие/(R+) и tie^(R"), Ограничение этого отобра-
отображения на Co°(R+) определяет оператор а(х, ?>) на ^"(R+), ибо
Co°(R") плотно там.
В исчислении стандартных псевдодифференциальных опе-
операторов пренебрегают С°°-функциями, поскольку именно из
таких функций состоят образы операторов порядка —со. В
исчислении тотально характеристических операторов приходится
пренебрегать несколько более широким классом распределений.
Теорема_18.3.9. Если а <=STa°° uue/(R"+), то a(x,D)uf=
/*(R\ dR+) для некоторого k и suppa(;c, ?>)«crR+-
Доказательство. Согласно определению 18.2.6, доказываемое
утверждение означает, что порядок распределений Da'(xnDn)an
• а (х, D) и ограничен числом, не зависящим от а. Но для
t>e^(R+) справедливо равенство
(Da'(xnDnf»a(x, D)u, v) = (u, b(x, D)Da'{Dnxn)a*v)
= (u,ha(x,D)v),
где
ba {x, I) = la' (ln — i — fend/din)"" b (x, I) e STa°°-
Это равенство достаточно проверить для случая оператора
В(х, D)Dnxn — b(x, D)xnDn — ib(x, D), в каковом оно следует
из A8.3.1), поскольку преобразованием Фурье от xnDnv служит
-Dn\J и
\nDln (е* <*• ^> Ь (х, I)) = е1 «• *>хя\я (Ь (х, I) - ф*) (х, I)).
Поэтому из теоремы 18.3.5 вытекает, что для подходящих ц, ц',
не зависящих от а,
| (?>"' (xnDn)an а (х, D) и, v) \ < С sup ? | x*D%* (x, D) v \
<Casup
Мы использовали здесь следующую лемму:

18.3. Тотально характеристические операторы 167
Лемма 18.3.10. Фактортопология пространства 9>(R+) задается
полунормами
~g> {Rn+) =э v ь-^ sup | xaD*v \.
Доказательство. То что эти функции суть непрерывные полу-
полунормы в ^(R+)i очевидно, ибо они непрерывны в ^(R") и по-
постоянны на каждом классе эквивалентности. Обратно, пусть
q— непрерывная полунорма в ^(Rt). Тогда q будет и непре-
непрерывной полунормой в 9"(Rn), так что
причем q(v)=0, если v = Q в R+. Положим теперь для
v(x) при *„>0,
при хп < 0,
еС™и х=1 иа (—1,1)- Выберем, далее, функцию
Ф s С" (R-) с [ ф dx = 1, и пусть фе (х) = ф (х/е) в~п. Тогда
v*(pe^9", а*фе = 5*ф8 в R+ и о*фЕ-»-1> в ^ при е-»-0. Сле-
Следовательно,
7(фе) 7(ФеХ Е
е->0 е->0 |a+f}|<2* R
чем доказательство и закончено. (Используя метод доказатель-
доказательства теоремы 2.3.5, можно было бы, конечно, заменить здесь 2k
на k.)
Напомним, что для фигурирующих в теореме 18.3.9 распре-
распределений а{х,Ь)и волновой фронт содержится в конормальнбм
расслоении к границе. Во многих ситуациях такие особенности
можно по разным причинам исключить. Однако мы подождем
с обсуждением этого и других относящихся сюда, вопросов, пока
не завершим построение оставшихся разделов исчисления то-
тотально характеристических операторов (формула произведения,
инвариантность относительно замен переменных).

168 18. Псевдодифференциальные операторы
Теорема 18.3.11. Если ajsS^J, /=1, 2, то а, (х, D)a,(x, D)
b (х, D), где Ь <= S?a+m* задается формулой
A8.3.20)
Ь (х, I) = е* <°у Лп>а, (х, ц) а, (/, *„«,„, Г, 1пуп) |у_(х, ,, „_s
Доказательство. Предположим сперва, что а\ s 5^°° и а2(лг, |) = 0
при больших \х\. Тогда для иe?P(R") преобразованием Фурье
распределения а2(х, D)u^Sf будет
*-ч> й2 (у, S) й (|) dy d\.
В случае символов а порядка —со формула A8.3.1) остается
по соображениям непрерывности справедливой при хп > 0 и
для uei''(Ri.), ибо функция % •—> е'<х s>a (x, g) принадлежит
тогда ^ при фиксированном л: и является С°°-фуикцией от х
со значениями в 9>. Поэтому имеем, как и в доказательстве
теоремы 18.1.8, что ах(х, D)a2(x, D)u = b(x, D)u при хп > 0, где
Ь (х, |) = BяГ
т. е. (заменяем 1п на |„/х„, цп на п«/-«п. «/п на хпуп)
A8.3.20)' 6(ж,|)-B
Хщ(х, г\)а2(у', хпуп, I', lnyn)dydt].
Покажем теперь, что для произвольных mi, mi формула
A8.3.20)' определяет непрерывное билинейное отображение S?i
X S?J нэ (a,, sj^iie S?J+m\ Тогда уже нетрудно будет убе-
убедиться, что В (х, D) == й{ {х, D) 5,2 (х> D) и в общем случае, без
сделанных выше упрощающих предаоложений.
Выберем х^ Со" (R+), как в лемме 18.3.7. Чтобы получить
A8.3.20)' со срезающей функцией %(уп), включенной в подын-
подынтегральное выражение, положим
fx,%(y, Ti) = a,(jc, Л)а2(г/', хпуп, %', %пуп)х(уп).
При любом v функции (у, т|)н-*-A +\l])~n'(l +xnffx.i(y, П)
имеют равномерно ограниченные полунормы в Sm. Действи-
Действительно, на носителе любой из этих функций значения у„ за-
заключены между фиксированными положительными числами,
всякое дифференцирование по уп, приводящее к появлению мно-

18.3. Тотально характеристические операторы 169
жителя |л, сопровождается уменьшением порядка символа а2,
и |in|/(l+Ц'| + |?п«/л|Х 1/|#я|- Поэтому на основании тео-
теоремы 18.1.7 мы заключаем, что определена функция
и что
, 6} - Е^ (Юу, ?>„/ а, (х, ц) а2 (/, уяхп, \', %пуп) \y={x.t
Отсюда вытекает, ввиду предложения 18.1.4, что Ь\ принадле-
принадлежит 5+1+п" н имеет указанное в формулировке теоремы асим-
асимптотическое разложение.
Положим теперь
Д (х, у) = BяГл A - % A -</„)) J в' * 5> а, (х, |) dg.
Поскольку %A — «/„)= 1 вблизи нуля, рассуждение, использо-
использованное при выводе оценки A8.3.11), дает
A8.3.11)' \
для любого N; постоянные Сарлг суть полунормы символа а,
в Smi. Так как Л, (д:, у) = 0 при #„ > 1 в силу условия лаку-
лакунарности, то, используя формулу Тейлора, мы убеждаемся,
что справедлива также оценка
A8.3.11)"
| DlDUi (х, У) 11 Уп - 1 \~N < С'ъы A +1 У Г2Ы A + хп)-ы.
Далее, b = b{ + b2, где
h {x, I) - 5 в"' «-«'• l'>-1 <1-^s» я (*. У, i) rfjf.
g (x, y, i) ==. Л, (*, xf — y',\— yn) a2 (y', xnyn, V, %nyn).
Замечая вновь, что дифференцирования по уп, дающие множи-
множитель In, сопровождаются понижением порядка а2, получаем
ввиду A8.3.11)" и того факта, что 1 +|Г \ + \1пУп \>\ Уп 1A
1Уп1)- Поскольку для всякого (J
W, (х, |)
отсюда сразу следует, что Ьг е S+°

170 18. Псевдодифференциальные операторы
Итак, мы доказали, что в случае, когда а\ е 5^°°, а2 е S™a
и п2(х, |) = 0 при больших |*|, справедливо равенство
ai(x, D)a2{x, D)u = b(x, D)u в R+ для и^9", где 6eS+™
задается формулой A8.3.20). Поскольку левая часть этого ра-
равенства равна нулю, если « = 0 в R", то b^STcT- В случае
когда а2 не равно нулю при больших | х |, положим a2v (л:, |) =
"г % (xh) a2 (¦*» %), где функция %еСо° равна 1 вблизи нуля.
Тогда ах {х, D) а^ (х, D) = Ьч (х, D), где 6V e 5^,°° и 6v->6b S~^°°
при v—>¦ оо в силу доказанного выше, причем все bv, а зна^
чит, и Ъ задаются формулой A8.3.20)'. Следовательно, b e STcT
и Й! (х, D) а2 (х, D) = b {x, D). Наконец, ограничение т, = — оо
снимается точно так же, как в доказательстве теоремы 18.3.8.
Модифицируя доказательство теоремы 18.1.11, нетрудно по-
получить //-оценки для тотально характеристических операторов.
Теорема 18.3.12. Если а е 5(й, то a(x,D) — непрерывный опе-
оператор в Z,2(R+>
-л-2
Доказательство. В случае а е 5/а ядро К оператора a (x,D)
удовлетворяет оценке A8.3.14) и утверждаемая непрерывность
следует из леммы 18.1.12. Для йе5Г«* имеем
|f й (х, D) и f = (S (х, D) a (x, D) и, и) = (с (х, D) и, и), и<=9>,
где В (х, D) — сопряженный к а (х, D) и с е S^,2*- Значит, если
уже известно, что оператор c(x,D) непрерывен, то же верно
и для оператора а {х, D), поэтому утверждение теоремы вы-
выполняется для всех а е 5^,* при k ^ — (п + 2)/2, а следова-
следовательно, при k <[ — (п + 2)/4 и т. д. Доказательство завершает-
завершается теперь взятием приближенного квадратного корня, удовле-
удовлетворяющего условию лакунарности, точно так же, как в дока-
доказательстве теоремы 18.1.11. (Заметим, что (М2 — |а|2I/2 — М е
S+, если flES+ и sup|a|<MeR.) Повторить это рассужде-
рассуждение предоставляется читателю в качестве упражнения.
Поскольку а (х, D) приближенно коммутирует с дифферен-
дифференциальными операторами, теорему 18.3.12 можно распространить
на пространства H(sy.
Теорема 18.3.13. Если аеS?o, то для любого seR оператор
а{х, D) непрерывен в #<S)(R+) и в #(S)(|R+)-
Доказательство. В случае s = 0 это просто теорема 18.3.12.
Для ug?(R") имеем по теореме 18.3.5
Dta{х, D)u=a {x, D)Dtu - id/na<n>(x, D) Dnu - iain{x, D)u.

18.3. Тотально характеристические операторы 171
Если s — неотрицательное целое число, для которого теорема
уже доказана, то для и е 9" (R+)
||а (х, D)иЦ*+1) = I!a(х, D)и fs) + ? fD,a(x, D)и fc,
<c(\\u$s)-f t \D,uIf,,) = C||и[|Bs+ir
Ho ^(R+) плотно в /f(s+i)(R") по теореме В.2.1. Тем_ самым
доказана непрерывность нашего оператора в H(S+d (R+). Ис-
Используя (В.2.2), _точно таким же способом убеждаемся в его
непрерывности в tf(S+i)(R+). В силу теоремы 18.3.8, для каж-
каждого s сопряженным к сшератору а(х, D) в #<S)(R+) будет опе-
оператор b{x, D) в H(s)(R+), отвечающий некоторому &eS?a-
Поэтому по двойственности мы получаем непрерывность и при
отрицательных s. Доказательство завершается следующим ин-
интерполяционным рассуждением (близким к доказательству след-
следствия В. 1.6), которое устанавливает непрерывность нашего
оператора вЯ(!+л (R+) Для |s|^l/2 и целых k.
Выберем функцию ¦§ е Со° (R+), для которой ф (%) — 1 +
О (| I р) при I -> 0. Это можно сделать, взяв какую-либо
функцию qpeCo°(R+), для которой ф@)=1, и положив i|) =
2ф — ф * ф, ибо тогда -ф = 1 — A — ФJ. Вводя фе (*) = е""^ (*/е),
амеем при |s|^ 1/2
е * и Н^+ое1-2* de -f J || и - ^e * и IhVi
о
для «е/ Действительно, эта оценка равносильна двум эле-
элементарным неравенствам
о
о
При | g | < 1 оба они очевидны, поскольку величина | 1 —
^Н6!)!2^"* тогда ограничена, а при|?|>1 они получаются,
если заменить е на е/| ? | и сделать верхний предел интегриро-
интегрирования равным -f- оо. Положим

172 18. Псевдодифференциальные операторы
Тогда ввиду непрерывности нашего оператора в
т. е.
Bл)-" \\ (| vt (I) ? (е2 + | г1 |2)ft+' + | we (I) |2 (е2 + I eg |T"')
о
Xp-I-2(s+ft) И% Ир «с'Л Нц
о ^*э (*с ~-^^ ^1 (I
Полагая U = a(x, D)u, имеем f/ = t)e-f- ш„, а значит,
I О (I) f < С2 (| fle (g) |2 (е2 + | eg |2)ft+1 -f | we (I) f (e2 + | е| |2)*-')>
если 1 <2e(l+|g|)<2. Так как
получаем требуемую оценку ||C/||2s+ft)<C4||«||Bs+fe). Доказатель-
Доказательство завершено.
Аналогичное интерполяционное рассуждение применимо и
к пространствам Бесова; ограничимся случаем, представляю-
представляющим для нас интерес:
Теорема 18.3.14. Если ae=S°ia, то для всякого s оператор
а (х, D) непрерывен в °°ЯE) (R+)*
Доказательство. Покажем сначала, что для и е °°//(S+fe)(R+) в
|s К 1/2, 0<е<1
IU>e * и Ife+i) e2-2s + II и — "Фе * «II?*-.) e~2"?s < С1 и ||ffe+s).
Чтобы убедиться в этом, достаточно проверить, что
Z sup (| ф (е|) I2 (в^/J-21 -Ы 1 — -ф (•*) I2 W~2~2S) < «о;
здесь использовано обозначение (В.1.2). Все члены, для кото-
которых выполнено условие zR/ <Г 1, оцениваются величиной
(eRjJ~2s, поскольку при этом условии 11 —tj)(e|) |2 ^ С|е||4,
а члены с eRj > 1 оцениваются величиной (e^/)-2-2s, так как
в этом случае | ф(е|) | ^ С/|е||2. Но сумма членов геометри-
геометрической прогрессии со знаменателем ^1/2 не превосходит
удвоенного наибольшего ее члена, чем и доказано сделанное

18.3. Тотально характеристические операторы 173
выше утверждение. Далее, используя обозначения из доказа-
доказательства теоремы 18.3.13, получаем
л л. || ц2 | —2—2s м |i2 /-»оо к ц2
6 II ve\U+l)-r e H^elKft-l) ^Ь ||M||(ft+s)f
Т. е. .
<С1и||,2*+„.
Сузив область интегрирования до Xj и взяв е = 1//?/, приходим
к оценке
Доказательство завершено.
Теорему 18.3.14 можно применить к пространствам /* из
определения 18.2.6:
Следствие 18.3.15. Если bgSEm «e/*(R", dE+)fl#'(R+), то
a(x,D)us=lk(Rn,dRn+)n&(Rn+).
Доказательство. Нам надо показать, что Р(х, D)a(x, D)u e
в//|°Д-»я, если Р е Diffj1'(R+). Выберем четное целое М >
m-\-m' и положим Q(t) = \t\M. Используя теорему 18.3.11
и рассуждения из доказательства теоремы 18.1.9, можно убе-
убедиться, что
Р (х, D) а (х, D) = F {х, D) Q (x, D) + G (x, D)
для некоторых F, Gg S?a, при условии что коэффициенты
оператора Р имеют компактные носители. Поскольку Q(x,D)u
и и по предположению принадлежат °°Н{-к-пЦ), наше утвержде-
утверждение следует теперь из теоремы 18.3.14.
Позже мы воспользуемся дуальной версией следствия 18.3.15,
чтобы установить непрерывность оператора а(х, D) в другом
пространстве, появляющемся при изучении граничных задач
(см. предложение 18.3.23).
Все операторы порядка —оо не могут отображать Я<5) в #<S'>
ни при каком s' > s. В самом деле, рассмотрим
(а(х, D)«е, о.) = <j|j К(х, у)«8(у) ve(x)dxdy
с ие (у) = е-'% {у', yje), ve (x) = e~lt2v (x', xje) и подходящими
и, v е Со°. Полагая е-»-0, легко убеждаемся, что если а(х, D)

174 18. Псевдодифференциальные операторы
непрерывно отображает Я<?) в Й&) и s' > s, то функция F из
теоремы 18.3.6 должна обращаться в нуль при t = 0. Однако
операторы положительного порядка «съедают» не больше про-
производных, чем в случае стандартных псевдодифференциальных
операторов:
Теорема 18.3.16. Если a^S?a и т^О, то оператор а(х, D)
непрерывно отображает #(s) (R+) в H(S-m) (R+), а #<s> (R+) — в
H(s-m)(R+) при любом seR.
Доказательство. Второе утверждение вытекает из первого по
двойственности. При доказательстве первого предположим спер-
сперва, что m — положительное целое и что утверждение уже уста-
установлено для меньших значений т. Символ а можно записать
в виде
а (х, I) = ? Ifl, (хЛ) + а0 (х, I)
с a/eSj?~'. Действительно, полагая
имеем а (х, |) = 2 Ifi/ (х> D + &о (х> I). и можно взять
(в обозначениях леммы 18.3.4). Поскольку
а (х, D) и = 2 а, (х, D) D,u + хпап (х, D) Dnu + а0 (х, D) и,
из предположения индукции следует, что а обладает утверждае-
утверждаемым свойством непрерывности. Кроме того, (а, «)•—>5(jc, D)u
есть непрерывное отображение из SSX^(s)(R+) в ЯD_т) (R+)-
В общем случае воспользуемся интерполяционным рассу-
рассуждением, сходным с примененным при доказательстве теоре-
теоремы 7.1.12. Положим
Ясно, что Аг аналитично по г, Ат = а и Аг е SfS"; полунормы
функций Аг оцениваются некоторой степенью величины 1+|г|,
при условии что вещественная часть г ограничена. Из первой
части доказательства следует, что если М — целое число >т,
то при Re г =0 или М мы имеем для некоторых Cs и ц
\{А2{х, D)u, A + |0р)-*/2оI<С,A +|2|f \\u\\s)\\v\k-sv

18.3. Тотально харахтернстические операторы 175
При O^Rez^M Справедлива более слабая оценка с ||и|1и>,
замененным на ||и||($+ло, поскольку функции Аг принадлежат sTa
и их полунормы оцениваются некоторой степенью величины
1 +1 г |. Так как 1 +1 г | ^ 12г + 21 при Re г ^ 0, то в силу тео-
теоремы Фрагмена — Линделёфа при 0<TRe2<M мы имеем для
тех же и и v
Это означает, что
| Az (X, D) U |!,,-Re 2) < Cs | 22 + 2 ГII « l\(s), « 6= 9> Ш)-
Беря г = т, получаем первое утверждение теоремы для т > О,
а значит, и второе для т <С 0. Доказательство завершается при-
применением рассуждения, использованного в его начале.
Чтобы рассмотреть вопрос об инвариантности относительно
замен переменных, продолжим изучение ядра К оператора
й{х, D), начатое теоремой 18.3.6, предполагая теперь лишь, что
а е SZ' Обратное преобразование Фурье
будет тогда конормальным распределением из /m(R2", {// = 0})
с главным символом а(х, т)) |rf*|1/21rfri|1/2 на нормальном рас-
расслоении {(jc, 0, 0, т))} к плоскости у = 0. [Если уж быть совер-
совершенно точными, то следует заметить, что а, а следовательно,
н А определены только при хп ^ 0. Но это, очевидно, неважно,
поскольку хп есть просто параметр, от которого А зависит
С°°-гладким образом. Вообще, данное в § 18.2 определение про-
пространства lm(X, Y) можно распространить на случай, когда X —
многообразие с краем и Y — его подмногообразие, трансверсаль-
но пересекающее дХ; надо просто использовать вблизи границы
локальные системы координат, в которых X задается, скажем,
условием хп ^ 0, a Y — условием jcj = ... = л:&=0. Провести
это несложное обобщение предоставим читателю.]' Ядро К опе-
оператора а(х, D) дается формулой A8.3.12):
К (х, у) = А (х, х' - у', (хп — уп)/ха)/хп при хп > 0.
В силу A8.3.1), это ядро К при хп^0 является непрерывной
функцией от х со значениями в 9", а при хп < 0 равно 0. Для
того чтобы истолковать это, введем снова симметричные сингу-
сингулярные координаты A8.3.8). Поскольку D(t, r)/D(xn,yn)
= —l/t, то, преобразуя К как полуплотность, получаем
K)tw k(''
A8.3.21) k{x',y',t,r)
= А (*', t (I + г 12), х' - /, 2г/B + г)) A + ФГ'Г ¦

176 18. Псевдодифференциальные операторы
Таким образом, tl/2k(x/, у', t,r) есть С^-фуикция при 0 < \г\ < 2,
t^O. Все ее производные стремятся к 0 при |г|-»-2. Действи-
Действительно, при г-»—2 это следует из того, что для \у„\, отграни-
отграниченных от 0, справедлива оценка A8.3.11), а при г -*-2— из той
же оценки A8.3.11) и того, что А(х, у)~0 при у„ > 1 в силу
условия лакунарности. Полагая А = 0 при |г|^2, получаем
tmk <= Im (R2+, X), где R+" определено условием /1> 0, а
Л = {(*', I/', /, г); *' = /, г = 0, />0};
в исходных координатах множеству А отвечает диагональ. При
соответствующей параметризации {(jc', jc', /, 0, ?', — ?', 0, р)}
конормального расслоения к Д главным символом респределе-
ния tli2k будет
A8.3.22) а(х\ и V, p)\dx'\ш\dt |1/2|d\' \m\d9\m.
В самом деле, tl/2(l + r/2)l/2k есть прообраз А как полуплот-
полуплотности при диффеоморфизме
(*'. У', U r) ~- (x't t(l + r/2), jc' - у', 2г/B + г)).
При г = 0 дифференциал этого диффеоморфизма равен
(dx't dy', dt, dr)^(dx', dt + tdr/2, dx' — dy', dr).
Сопряженное к нему отображение переводит элемент (jc, О, О, I)
нормального расслоения к R"X{0} в элемент (jc', jc', jcn, 0;
V, — V, 0, 1„). Для и^С™ подстановка уп = sjcrt дает (ниже
все интегралы представляют действие соответствующего распре-
распределения)
J К (х, y)u{y)dy=\\k (*', у', хп A + s)/2, 2 A - s)/(s + 1))
X (A + s)/2)/2«(y't sxn) x? dy' ds.
Если обозначить через k0 предел ti/2k при t-*-0, то при Jcn->-0
последнее выражение стремится к
ko(x', t/, 2A -s)/(s+ l))B/(l+s))u(yf, 0)dy'ds.
Обратно, если нам дано распределение ЛеГ^, д) с
компактным носителем, равное нулю при |г|>2, то можно,
обращая проведенное выше рассуждение, положить при jcn ^ 0
A8.3.21)' А {х, y) = k (jc'( jc' - у', хп B - уп)/2, 2уп/B - уп))

18.3. Тотально характеристические операторы 177
Это распределение равно нулю при у„ > 1, быстро убывает при
ji^-oo и конормально к плоскости у = 0. От А мы возвращаем-
возвращаемся к а е S?a по формуле
Таким образом, можно отождествить операторы a{x,D), отве-
отвечающие символам а е Sfa, с конормальными распределениями
из /m(R+, A), по крайней мере в случае, когда ядра этих опе-
операторов имеют компактные носители. Тем самым мы еще раз
установили (локально) инвариантность класса таких операто-
операторов относительно перехода к сопряженным (теорема 18.3.8).
Инвариантность относительно преобразований координат будет
установлена, когда мы выясним инвариантный смысл новых ко-
координат A8.3.8).
По любым заданным С°°-многообразию X и его С^-подмно-
гообразию У можно построить новое многообразие X—раздутие
X вдоль У. Оно определяется как объединение разности X\Y
и проективного нормального расслоения к У, т. е. нормального
расслоения {T(X)\Y\T(Y))/T(Y), профакторизованного по
умножению на ненулевые вещественные числа. Если / и g —
функции класса С°° на X, равные нулю на У, то частное f/g
корректно определено на множестве
{х<=Х, ё(х)Ф0}[]{1*=Х \Х, <?
(на втором из объединяемых множеств — как соответствующий
предел). Объявим такие множества открытыми, а частные f/g —
функциями класса С00 на них. Вместе с С^-функциями на X,
поднятыми на X, эти частные определяют С°°-структуру на X.
Чтобы убедиться в этом, выберем в X локальные координаты
x = (xi xn), в которых У задается условием х'={х\, ...
..., Xk) = 0. Тогда X можно отождествить с произведением
R X Sk~l X Rn~ft> профакторизованным по отношению эквива-
эквивалентности, при котором точка (t, ш, х") отождествляется с точ-
точкой
/(/,©,*") = (-/, -*,х").
Заметим, что на X определена проекция я: (/, со, х")*—*-{Ш, х")
eJ[, поскольку ni = я. Если функции /, g принадлежат С°°(Х)
и обе равны нулю на У, то
(//*) @, «», *") = </;, @, х"), «>)/(?, @, х"), а),
когда знаменатель отличен от нуля, и в этом случае g(t<a, x")
Ф0 при малых ненулевых |/|. Следовательно, частное f/g опре-

178 18. Псевдодифференциальные операторы
делено и принадлежит классу С°° на некотором открытом под-
подмножестве произведения R X 5ft~! X R'*~* и четно относительно
инволюции L Там, где, скажем, со* ф О, все такие функции суть
О-функции от (O//(ok (/</>), xk = t(ok и дс*+1, ..., хп, так что
мы в самом деле получаем С°°-структуру. Конечно, понятие раз-
раздутия можно было бы определить и с помощью этих полярных
координат, но тогда пришлось бы доказывать независимость
определения от выбора координат.
Если X и У— два многообразия с краем, то многообразие
с углом XX У можно раздуть вдоль углового многообразия
дХУ^дУ, имеющего коразмерность два. Без всякого вкладыва-
вкладывания X и У в открытые многообразия мы получим тогда растя-
растянутое произведение XX У, представляющее собой объединение
разности ХУ,У\(дХУ.дУ) и проективного внутреннего нор-
нормального расслоения к дХХдУ в XX. У, определяемого как
(Gtat (X) \gx + Тол (У) !„,) \Т(дХХ дУ))/Т (дХ X дУ)
по модулю умножения на положительные вещественные числа.
Выберем локальные координаты на многообразиях X и У, в ко-
которых эти многообразия задаются соответственно условиями
хп ^ О и г/m ^ 0. Тогда X X У наделяется локальными коорди-
координатами (хг, у', t, r), t^;0, —2 ^ г г^ 2, причем проекция на
X X У задается правилом
(*', у', t, r)v-*{x\ /(I + г/2), у', t(l -г/2)).
Таким образом, С°°-структура на XX У, определяемая этими
координатами, не зависит от выбора координат, и эта конструк-
конструкция согласована с использовавшимися нами ранее сингуляр-
сингулярными координатами (см. рис. 2).
В частном случае Х=У замыкание в XXX диагонали в
(Х\дХ)~Х(Х\дХ) представляет собой С^-многообразие
Дс^Х^. не имеющее общих точек с углами растянутого про-
произведения ХХ.Х1) и трансверсально пересекающееся с его гра-
границей. Действительно, в наших локальных координатах А за-
задается условиями х! = у' и г = 0. Ограничение на Д есте-
естественного О-отображения Х~ХХ^>- Ху<Х является диффеомор-
диффеоморфизмом на диагональ А в ХУ(.Х. Напомним теперь, что нор-
нормальное и конормальное расслоения к А в XX. X естественно
изоморфны расслоениям Т(Х) и Т*(Х), поднятым на А при
помощи проекции на один из сомножителей. Более точно, кока-
сательный вектор уеТ'м(Х) отвечает вектору п]у — n*v e
') То есть точками, отвечающими в локальных координатах И =2,—
Прим. перев.

18.3. Тотально характеристические операторы 179
NXa Хо(А), где я, и я2 — проекции на сомножители, и если v —
касательный вектор к ХУ.Х в точке (х0, x0),Tonltv — я2,оесть
касательный вектор из ТХАХ)> зависящий лишь от класса вы-
вычетов вектора v по модулю Тх„. *<,(Л). Далее, естественное
С°°-отображение ХУ.Х^>- Ху. X определяет отображения
<18.3.23) Т(ХХХ)-+Т(ХХХ), Г(*Х*)|д->Г(ХХХ)|?.
Пусть Т(Х) и Т*{Х) —двойственные друг другу векторные рас-
расслоения, получающиеся поднятием на X нормального и конор-
мального расслоений к А в X X X при помощи отображения,
обратного к проекции А-*ДГ, которое является диффеоморфиз-
диффеоморфизмом как композиция двух диффеоморфизмов А->Д-^>х„
Имеются естественные отображения
<18.3.24) Т(Х)-+Т(Х), Г(Х)-+Т'(Х).
Первое из них — это композиция
f (X) — Т (X X X) \S/T (А) -> Т (X X Х)/Т (А) — Т (X)
трех отображений, при построении которых в свою очередь ис-
используются определение расслоения Т, первое из отображений
A8.3.23) и проведенное выше рассмотрение нормального рас-
расслоения к А. Аналогично, второе — это композиция
Г (X) -> N (А) -* N (А) -* f (X),
где среднее отображение порождается вторым из отображений
A8.3.23). В наших локальных координатах кокасательный век-
вектор <|, кхУ в точке х е X отвечает вектору <|, dx —¦ dy) в точке
(jc, х) е X X X и переходит в вектор <i', dxf — dy'y-\- t\ndr. Та-
Таким образом, мы имеем в локальных координатах отображение
Г (X) э (х, I) н^ (*', х', хп, О, Г, - V, 0, *„!„) s AT (A) a f (X).
Каждый элемент из нормального расслоения к А в точке
{*', д^, jcn, 0) единственным образом представим в виде
п-1
По соображениям двойственности первое из отображений
A8.3.24) переводит его в вектор

180 18. Псевдодифференциальные операторы
На основании леммы 18.2.5 мы заключаем, что это отображе-
отображение Т(Х)-*-Т(Х) переводит сечения расслоения Т(Х) в вектор-
векторные поля, касательные к дХ. Круг замкнулся. Именно от таких
векторных полей мы отправлялись в начале параграфа, строя
интересующую нас алгебру псевдодифференциальных опера-
операторов.
Подытожим проведенное выше обсуждение следующим
определением:
Определение 18.3.17. Пусть X — произвольное С°°-многообразие
с краем.
a) Растянутое произведение Х\Х — это С°°-многообразие
с углом, получаемое из Х^Х заменой углового многообразия
дХ^дХ на проективное внутреннее нормальное расслоение к
нему. Имеется естественное С°°-отображение Х$(Х —>Х Х.Х.
b) Диагональ Д в ZX^ является диффеоморфным образом
некоторого подмногообразия А в Х$(Х, пересекающего лишь
новую часть границы растянутого произведения, и притом транс-
версально.
c) Сжатое кокасательное расслоение Т*(Х)—это прообраз
конормального расслоения к Л в ХУ,Х при отображении, об-
обратном к (являющейся диффеоморфизмом) проекции множе-
множества Л на X. Имеется естественное отображение Г*(Х)->- Т*(Х),
линейно отображающее Т'Х(Х) в ТХ(,Х), причем для х ^ Х\дХ
это отображение слоев биективно, а для х е дХ его ядром слу-
служит Nx(dX), а образом — некоторая гиперплоскость. Поэтому
этот образ можно отождествить с Г* (X)/Nx (дХ) ^ Г* (дХ), так
что Т*(дХ) становится подрасслоением в Т*(Х)\эх. Сечения
двойственного расслоения Т(Х) переходят при сопряженном
отображении Т(Х)^>-Т(Х) в векторные поля, касательные к дХ.
Поднятие симплектической формы в Т*(Х) (см. F.4.8)) на
Т*(Х), а тем самым на конормальное расслоение к Д в X X X
будет симплектической формой с особенностью на дХ. Во вве-
введенных выше локальных координатах она запишется как
A8.3.25) ? dl, л dXj + Г1 dp л dt.
Таким образом, полуплотность \df || dx' |Г1/2|йр|1/2| dt |1/2
является инвариантно определенной. Главный символ распре-
распределения k, равный произведению A8.3.22) на t~l/2, можно по-
поэтому инвариантным образом отождествить с функцией а на
N(A)\0, т. е. на сжатом кокасательном расслоении Т*(Х) с
выброшенным нулевым сечением.

18.3. Тотально характеристические операторы 181
Теперь мы располагаем всем, что необходимо для построе-
построения глобального исчисления:
Определение 18.3.18. Пусть X — произвольное С°°-многообразие
с краем. Пространство ^^(Х; Q1/2, Q1/2) тотально характеристи-
характеристических псевдодифференциальных операторов А порядка т на
полуплотностях в X — это множество всех непрерывных линей-
линейных отображений Cq{X, Q1/2)-»C°° (X, Q1/2), у которых ядро
Шварца К получается как прямой образ некоторой обобщенной
полуплотности k на растянутом произведении XXX, удовлетво-
удовлетворяющей условию ktm е 1т (X X X, Л) и имеющей на д(ХХХ)
\(дХХдХ) нуль бесконечного порядка. Здесь t — некоторая
С°°-функция н&Х$(Х, положительная на X "X Х\ (дХ X. дХ), а
на дХ X дХ имеющая простой нуль.
Указанный выше прямой образ полуплотности k определя-
определяется так: если f: X XX->X X X — естественное С°°-отображение
и ф — полуплотность с компактным носителем в XXX, то /*<р
будет полуплотностью с компактным носителем в XX X, и по-
потому уравнение
(J 8.3.26) /С(Ф) = *(Г«Р)
задает обобщенную полуплотность К в X X X.
Локально оператор А можно определить формулой A8.3.1),
Как мы только что видели, это приводит к изоморфизму глав-
главного символа
A8.3.27) T?U; Q1/2, О^/чТ1 (X; Q1/2, Q1/2)
е* Sm (Г (Х))/8т~[ (Г (X)),
где Т* (X) — сжатое кокасательное расслоение на X Сопряжен-
Сопряженный к оператору из W™ снова принадлежит W™, и его главный
символ получается из главного символа исходного оператора
комплексным сопряжением. Если операторы А е Ч^и В ^WT —
собственные, то и оператор АВ е Ч;Г+т является собственным
и его главный символ равен произведению главных символов
операторов А и В; изоморфизм A8.3.27) сохраняет силу и в
случае, когда в левой части берутся лишь собственные опера-
операторы. Все эти основные факты исчисления тотально характери-
характеристических операторов, равно как и их обобщения на случай век-
векторных расслоений, выводятся точно так же, как и в § 18.1.
Надо просто заменить, например, теоремы 18.1.6—18.1.8 и
18.1.17 теоремами 18.3.5, 18.3.8, 18.3.11 и установленным выше
утверждением о связи с ненормальными распределениями на

182 18. Псевдодифференциальные операторы
X X X. Мы доказали также, что все операторы из ^Г непрерывно
отображают HfiF*(X) в Н}™т)(Х) при /
Все пространстваН%тр(X), ЗУ(X), 8'(X), С~(Х), ... опреде-
определяются без привлечения какого-либо расширения многообразия
с краем X до открытого многообразия. То же относится и к
подпространству в Ф' (X)
<18.3.28) dm){X) = Im(X, дХ)<=.2У(Х)
всех распределений, попадающих в °°Н1™т-пц), п — &\тХ, под
действием любого тотально характеристического дифферен-
дифференциального оператора. (Мы молчаливо допускаем и распределе-
распределения со значениями в векторных расслоениях, но, чтобы не утя-
утяжелять обозначения, не отражаем этого в записи в тех случаях,
когда это ие так существенно.) По теореме 18.3.9 всякий опе-
оператор из Ч^"" отображает &'(X) в
а согласно следствию 18.3.15, любой оператор из у?'ь = (J ^*»
отображает .s^.^ (X) в d[m) (X). В этом смысле d (X) ведет себя
по отношению к тотально характеристическим операторам ана-
аналогично тому, как ведет себя С°°(Х) по отношению к стандарт-
стандартным псевдодифференциальным операторам в случае открытого
многообразия X. Поэтому естественно ожидать, что простран-
пространство, двойственное к $$-, окажется полезным пространством рас-
распределений. Мы введем его после следующей подготовительной
леммы:
¦Лемма 18.3.19. Существуют линейные сглаживающие операторы
Qe: 2У(Х)-уСоа(Х), такие что Qeu->u в dm при е-»0 для
любого и е dim>) с т' < т. Для всякого компакта К^-Х су-
существует другой компакт K.'czX, такой что suppQsucz К,',
если supp и с К. и 0<е< 1.
Доказательство. С помощью разбиения единицы дело сводится
к случаю X = R+. Выберем функцию x^C<T(R+) c x(°)=1 и
положим Qeu = %e*u, Xe(?) = х(е?). Для так определенных опе-
операторов QE утверждение о носителях очевидно. Беря
2С(*) = ф(*'Ж*л), где *' = (*„ .... *„_,), находим, что если
и=\а(х',1п)ехпAЪя,

18.3. Тотально характеристические операторы 18*
ТО
^аг(х'Лп)е nindln,
где
ае (х*, In) = 4> (е|„) \ а (*' — ъу1, Е„) ф (/) dy*.
Если oeS' и A > ц', то, ввиду предложения 18.1.2, ая-+а
в S1* при е->0.
Определение 18.3.20. Через st'{X) обозначается множество
всех и е ЗУ (X), таких что для каждого компакта KczX и
каждого т~?& — (л + 2)/4 форма С"(/С)эфi-*и(ф) непрерывна
в топологии пространства sflm\ определенного формулой A8.3.28).
Напомним (см. сказанное после определения 18.2.13), что
Со° (X) cz slm при т ^ — (п + 2)/4, чем и объясняется появле-
появление этого условия в определении. Поскольку вложение sfcm'>
-*-sl(m) непрерывно при tri < т, фигурирующее в определении
условие непрерывности становится с ростом т все сильнее и
отображение ф1—>ы(ф) непрерывно в топологии простран-
пространства зФ(т) для каждого т, если ограничиться функциями
Ф е С™ (КП ^°). где Х°=Х \ дХ— внутренность многообразия X.
В силу леммы 18.3.19, по ограничению распределения и на
CTiX) однозначно определяется его продолжение на sflm)f\i?'.
В частности, отображение ограничения
инъективно. Образ этого отображения и будет двойственным
к $? пространством, о чем стоит помнить в дальнейшем при
проведении рассуждений по двойственности.
В качестве топологии в Ж' мы будем использовать слабую
топологию, задаваемую полунормами и t—*\ и (ц>) \, qie^fl^"-
Пространство sir содержит С°°(Х), так как топология в st(my
сильнее топологии в °°Н1™т-пцъ viCq(X) слабо плотно в ^', ибо
если фе^П^"> то u(qp) = O для всех иеСо'(Х) влечет ф = 0.
Предложение 18.3.21. Существует единственное непрерывное
отображение ограничения s& (X) -»• 2Е? (дХ), совпадающее на С°° (X}
с обычным отображением ограничения.
Доказательство. Чтобы подчеркнуть инвариантный характер
результата, рассмотрим распределения со значениями в век-

184 18. Псевдодифференциальиые операторы
торном расслоении Е. Если ыеСо°(Х, Е), то
A8.3.29) (и\ах, Ф) = (ы, Ту), <fe=C?(dX,E'
где Q — расслоение плотностей и Ту = q><8> Ь(хп); как обычно,
хп — это локальная координата, обращающаяся в нуль на дХ.
От выбора локальных, координат здесь ничего не зависит, так
как 6(хп)—обобщенная плотность на R. Далее, отображение
Со™ (дХ, ?" ® Q (дХ)) э ф *-^ Гф е &-*** (X, & ® Q (X))
непрерывно, поэтому A8.3.29) задает слабо непрерывное ото-
отображение и*—>и\дх. Поскольку единственность очевидна, дока-
доказательство этим и завершено.
Операция дифференцирования непрерывно отображает s4-{m)
в sftm+l\ Отсюда следует, что пространство ограничений на
Х° элементов из si-' инвариантно относительно дифференциро-
дифференцирований, н, таким образом, с помощью предложения 18.3.21 можно
определить граничные значения произвольной производной от и.
(Ввиду следствия 8.2.7 это означает, что, хотя пространство
бФ'(X) и содержит ё"(Х°), его элементы обладают определен-
определенными свойствами регулярности на N(dX).) Однако самого про-
пространства s4-' операция дифференцирования не сохраняет, если
только не вводить соответствующие граничные поправки, как
мы это уже делали в теореме 3.1.9. Чтобы упростить формули-
формулировку приводимого ниже предложения, возьмем X = R+.
Предложение 18.3.22. Если не/(К"), то DjU-\- ib/nu\x _0
<g>b(xn) e ^'(R+); ограничение последнего распределения на
R+ совпадает с результатом применения оператора D/ к ограни-
ограничению распределения и.
Доказательство. При определении DjU распределение и рассмат-
рассматривается как элемент из ^5'(R+):
(D,u, Ф> = - (и, ?>,ф>, Ф s С (Rn+).
Если ф0 — отвечающий ф элемент из si, т. е. ф0 равняется ф
при *„^0 и 0 при хп < 0, то
= (Dflh - Й/Я«р (•, 0) ® в (хп).
ф,и, ф)=-(и,
Включение Со° (R+) с sd-im) позволяет отождествить ?>/ф с
Таким образом,

18.3. Тотально характеристические операторы 185
Поскольку
(и, Ф(.
и отображение
непрерывно для всякого т и всякого компакта К, предложение
доказано.
Предложение 18.3.23. Если В е Ч™ (X) — собственный оператор
иие=&'(Х),то и Bu<=st'(X).
Доказательство. Прежде всего, Ви е &' (X). Если ipeC (К),
КшХ, то
(Ви, ф) = (ы, В».
Здесь BVpeCo'CX') имеет носитель в некотором фиксированном
компакте, и нужная непрерывность в .s?'""-топологии вытекает
нъ того факта, что отображение
Ш'(К)Г)-s^(mi Эф1-»В'фе d<m>
непрерывно ввиду следствия 18.3.15.
Заметим, что формула A8.3.7) обобщается теперь по непре»
рывности на «е d'.
Элементы из d(X) гладки во внутренности многообразия
X, а на его границе являются «касательно гладкими», элементы
же из s4-'{X) обладают на дХ нормальными производными всех
порядков. Это позволяет предположить справедливость следую-
следующего утверждения:
Предложение 18.3.24. Для любого С™-многообразия X с краем
Доказательство. Очевидно, что С°° (X) с: s&' (X) Г) d (X). Чтобы
установить обратное включение, достаточно показать, что если
и s 9[ {R+) П si! (R+) П d (Rn+), то и г С (R+)- Поскольку
u^d, то u€C°°(R"). Из предложения 18.3.22следует, что для
всякого а найдется элемент иа е d', такой что Dau — иа имеет
носитель в dR".
Выберем m так, чтобы и е dim\ Тогда v=Xn
т. е.
/# (XnDnf" v г °°H{%-an-m-nii)^ L* для всех

186 18. Псевдодифференциальные операторы
причем последнее включение выполняется, если ЛГ>а„+/я+п/4.
Пусть хеСо"(R), 0<х^1 и х=1 в некоторой окрестности
нуля. Положим Xе (х) = х(х „/«¦). Тогда
Dx'(xnDn) n%ev принадлежит некоторому ограниченному
подмножеству в L2c°°Hq) при 0<е^1 и всех C.
Действительно, [xnDn, Xе] = х?, где %x(f)=tDt%A), поэтому можно
«протащить» хе влево, получив в результате сумму аналогич-
аналогичных членов с множителем %j слева, где Х/@ — (tDty%(i), а для
яих требуемая /Лоценка очевидна. Таким образом, семейство
{\ — xe)t), 0<е^1, ограничено в sl(~nlti. Поскольку иа <= si? и
Dau = ua при хп > 0, мы заключаем, что величина
(Dau, (I -X»= J \Dau\2xZ(l -%\xn))dx
ограничена при е ->• 0, и, следовательно,
J \Dau\2x%dx<<x> при
Напомним теперь неравенство Харди для функций
»sC°°(R+), равных нулю на достаточном удалении от 0:
При его доказательстве можно предположить, что функция о
гладка в 0, и проинтегрировать по частям. Это дает
оо
||о/112=-2Bц + 1)-1$ Re vv'l2»*1 dt
о
После сокращения приходим к неравенству Харди. Применяя
это неравенство, получаем
\ \Dau\
<oo
для положительных целых v, таких что 2v > <%„ + v + tn -J- я/4,
т. е. v > а„ + т + п/4. Ввиду теоремы В.2.8 отсюда следует,
что и = Ui -f- U2, где Ui — функция из Со° (R+), рассматривае-
рассматриваемая как элемент пространства Ж', а U2 — распределение, на но-
носителе которого хп = 0. Таким образом, I/2 s s4-', а значит,

18.3. Тотально характеристические операторы 187
[/2=0 в силу леммы 18.3.19, чем и завершается доказатель-
доказательство.
Для волнового фронта распределения на многообразии с
краем мы можем теперь дать определение, параллельное харак-
теризации волнового фронта для распределений на открытом
многообразии, данной в теореме 18.1.27:
Определение 18.3.25. Для и<=2У(Х) определим WFb(u)
с Т* (X) равенством
A8.3.30) WFb(u) = f) Char В,
где пересечение берется по всем собственным операторам
?е= W°b(X), таким что Bu<=d(X).
Здесь Char В с Т*(Х)\0 — это множество всех точек
(x,Q^T*(X)\0, в которых необратим главный символ Ъ опе-
оператора В (ср. с определением 18.1.25). Мы использовали про-
пространство si- (X), а не С°°(Х), поскольку именно оно ввиду тео-
теоремы 18.3.9 содержит те «остаточные» члены, которыми мы пре-
пренебрегаем в исчислении тотально характеристических псевдо-
псевдодифференциальных операторов. Так, из данного определения и
теоремы 18.3.9 сразу следует, что WFb(Au)c Г, если символ
оператора А имеет порядок —оо вне замкнутого конического
множества ГсР(^)\0. Однако, предположив больше отно-
относительно и, можно использовать и С°°(Х):
Предложение 18.3.26. Для ие^'(Х) равенство A8.3.30)
остается справедливым, если брать пересечение лишь по всем
собственным операторам Bs?l(X), таким что Ви е С°°(X).
Доказательство. Если ие/A) и В«е^(Д как в опреде-
определении 18.3.25, то Ви^Ссо{Х) в силу предложения 18.3.24, ибо
Bu^sf-'(X) по предложению 18.3.23.
Теорема 18.3.27. Пусть X — многообразие класса С°° с краем.
дХ и внутренностью Х°, и пусть и е Ф'(X). Тогда
(i) WFb(u)\x.= WF(u\x.);
(ii) WF b(Bu)cz WFb(u), если В является собственным опера-
оператором из WTiX) или дифференциальным оператором с С-коэф-
С-коэффициентами;
(Ш) если WFb(u) = &, то ti(=d(X), а значит, uz=C°°(X),
в случае когда и е s&' (X);
(iv) WF (и \дх) cWFb (и) П 7" (дХ), ве/ (X).

188 18. Псевдодифференциальные операторы
Отметим, что Т*{Х)\Х'О отождествляется с Т'(Х°) и что отоб-
отображение Г (X) \ах -* Г (X) \дх дает вложение Г (дХ) -+ Г (X) \ах
Доказательство. Утверждение (i) следует из того факта, что
каждый оператор Bef(r), ядро которого имеет компактный
носитель в Х°УС,Х°, принадлежит также Чйь(Х), и наоборот.
Чтобы доказать (п), предположим, что у е (Т*(Х)\ 0) \ WFb(u),
и выберем собственный оператор В, еЧ^(.ЛГ), нехарактеристи-
нехарактеристический в у. для которого Вхи е бФ. Найдется собственный опе-
оператор С, <= Ч™, такой что С1В, = / + ^1, где /?, — оператор,
символ которого (в локальных координатах) имеет порядок —оо
в некоторой конической окрестности точки у. Таким образом,
СВи = СВСхВхи — CBRtu €= d
в силу следствия 18.3.15 и теоремы 18.3.9, если символ опера-
оператора С имеет порядок — оо вне некоторой достаточно малой ко-
конической окрестности точки у. Следовательно, у &WFb(Bu).
Остается установить (И) для случая, когда X = R%, ue^)'(R+),
a B — Dj. Если а(х, D)u^s4- и символ а нехарактеристичен
в точке @, 1о), то можно выбрать такой символ Ь(х, I), нехарак-
нехарактеристический в той же точке, что Ь(х, |) == 6 @, I) для всех х
из некоторой окрестности U точки 0, a supp Ъ лежит в конусе,
где символ а нехарактеристичен. Тогда b(x, D) = c(x, D)a(x,D\
+ r(x, D), где c^S°ia и reS^, поэтому b(x, D)u^sl, ввиду
следствия 18.3.15 и теоремы 18.3.9. Возьмем функцию % е С" (U)
с х@)=^0. В силу A8.3.6)
гЬ (х. D) D,u = xD,b (x, D)u + %Ldjnbin) (x, D) Dnu.
Поскольку %b и %(b — ib{n)) нехарактеристичны в точке @, |0),
получаем утверждение (ii). Чтобы доказать (iii), выберем для
заданной функции ф ^Со'(Х) собственные операторы В/еУ>(Я')>
}=\ N, такие что Bjti^st и DCharB/ пусто над supp qp.
Найдутся такие собственные операторы С,, ..., CNe ^(Х), что
где R e Wb°°, a qp обозначает оператор умножения на qp. Так
как CjBjU^sl и Ru^s?, ввиду следствия 18.3.15 и теоремы
18.3.9, то фие^. Вторая часть утверждения (iii) вытекает из
предложения 18.3.24. Наконец, чтобы доказать (iv), предполо-
предположим, что точка у^Т*(дХ)\0 не лежит в WFb(u). Тогда най-
найдется собственный оператор Вб^Щ удовлетворяющий

18.3. Тотально характеристические операторы 189
условиям v^CharS и Ви^С°°(Х). Имеем
Ви\дХ = Вй(и\дХ),
где BoexF°(CX); главный символ оператора Во равен в силу
A8.3.7) ограничению на Т*(дХ) главного символа оператора В.
Таким образом, оператор Во нехарактеристичен в точке у, а
потому у<? WF(u\ax). Доказательство завершено.
Из A8.3.30) сразу следует, что
A8.3.31) WFb (и) cz WFb(Bu)[) Char В, u&&i,X),
если оператор Ве?™(^) собственный. Предположим вместо
этого, что Р — произвольный дифференциальный оператор по-
порядка m с коэффициентами из С°°(Х), и пусть ие2/(Д Pu — f.
Если ф — функция класса С°°, имеющая на дХ простой нуль,
то фРе Diff^n фтРы= фт/. Используя обычные локальные ко-
координаты вблизи границы, можно взять <р = хп и получить
х%Р (jc, D) = Z Л (x) Dau = Z хТппаа (х) x>Dau,
\a\<m
откуда видно, что главный символ этого оператора при хп = 0
равен аа(хI™, где а = @, ..., 0, пг). Таким образом, он тожде-
тождественно равен 0 в некоторых слоях, за исключением случая,
когда граница дХ является нехарактеристической для Р, а в
этом случае он обращается в нуль в точности при ?„=0, т. е,
на Т*(дХ). Тем самым доказано следующее
Предложение 18.3.28. Пусть Р — дифференциальный оператор
порядка m с коэффициентами из С°° (X) и функция феС°° (X)
имеет простой нуль на дХ. Если граница дХ является нехарак-
нехарактеристической для Р, то
A8.3.32)
Докажем теперь результат, тесно примыкающий к теоре-
теореме 4.4.8'. Как и там, вместо нехарактеристичности границы бу-
будем предполагать лишь частичную гипоэллиптичность на гра-
границе. Пусть Хо — открытое множество в R"-1. Рассмотрим мно-
множество Х== ХоХ [0, с) с R", представляющее собой многообра-
многообразие с краем дХ = Х0У.{0} и внутренностью Х° = Х0Х@, с).
Предложение 18.3.29. Пусть ией/(Г) удовлетворяет диффе-
дифференциальному уравнению вида
Pu = D^u + an-XDTxu+ ... +aou = f в Х°,
где а/ — дифференциальные операторы по х'={хи ..., хп-\) с
коэффициентами из ^(Х), а / е s4-' (X). Тогда существует един-

190 18. Псевдодифференциальные операторы
ственное U е зФ' (X), ограничение которого на Х° совпадает с и.
Это U удовлетворяет уравнению x™(PU — f) = 0 (равенство по-
понимается как равенство в 2)'' (X)), и не существует никакого
другого U е ЗУ (X) с таким свойством. Здесь можно считать,
что и принимает значения в Сы {коэффициентами операторов
at будут в этом случае N X N-матрицы).
Доказательство. Достаточно доказать предложение для m = 1»
Действительно, если Uj — Dlu, 0^/</п, то
Dnum-i+ S <*/«/ = /, Dnu} = uj+U j<m-\.
/<m—1
Утверждение для m = 1 дает тогда продолжения Uj е зф' рас-
распределений и,, удовлетворяющие тем же уравнениям, помножен-
помноженным на хп. В частности, xn(DnUj—U,-+i) = 0 для j <L m — 1,.
а значит,
поскольку при k < j можно переписать xnD\ в виде суммы
членов с множителем хп справа. Таким образом, x%(PU0 — f)
= 0. Если У^ЗУ(Х), suppKcd* и x%PV=*0, то V = 0. В са-
самом деле, на каждом компакте YmX мы имеем по теоре-
теореме 2.3.5
Но
причем cmml ф 0 (при m>k + j правую часть следует пони-
понимать как 0). Поэтому уравнение x%PV = Q дает Оц = 0, а сле-
следовательно, t>n_i = O, и т. д.
Итак, начиная с этого места будем считать от=1. Пусть
К0<^Х0 и К = КоХ[О, с/2]. Ввиду леммы 18.3.19 достаточна
доказать, что отображение Со"(/С)Эф|—»-(и( ф) непрерывно в то-
топологии пространства s?{k) для каждого k. Напомним, что эта
топология задается полунормами
A8.3.33) Ф«—"|*^
По предположению, |и(ф)|<С||ф||(я) для некоторого s, поэтому
доказываемая непрерывность очевидна при k < — s — я/4. Надо
показать, что непрерывность в ^(ft) следует из непрерывности

18.3. Тотально характеристические операторы 191
в ^(*~". С этой целью положим гр = «р • (б ® Я (*„)), т. в.
:', t)dt.
Ясно, что ?>„'ф = ф. Пусть % — функция из Со°(— с, с), равнад
1, на (—с/2, с/2). Полагая xn(*) = X(*n). имеем для феСо°(Ю
Записав Н (хп) в виде Н (хп) = Ло(х„) + 1ц(*„), где f^ezC",
а у Ло носитель близэк к 0, можно оценить полунормы функ-
функции г|> в С00^0) через полунормы A8.3.33) функции ф. Анало-
Аналогичным образом можно оценить н
-k-nti)
для произвольных / и а. Достаточно сделать это для / = «,
ибо отсюда получится оценка для °°|| ^""¦Da(Xn1f)|-A-n/4)-'^aK как
Хп =1 вблизи 0, достаточно оценить
Но
<при а„ = 0 последний член надо опустить), так что эта
оценка проводится очевидным образом. Итак, полунормы
чж>|х"п?а(зс,*р)|A_*_в/4) Функции хпгр в s4-{k~X) оцениваются через
полунормы A8.3.33) функции ф, чем и завершается доказа-
доказательство.
Из A8.3.32) следует, что в случае нехарактеристической гра-
границы мы имеем WFb(u) \дх сг Т*(дХ) для иеС)!). Введем
специальное обозначение для множества таких распределений:
Определение 18.3.30. Пусть X — многообразие класса С°° с краем
дХ. Через JC(X) обозначается множество всех «ei'(X), для
которых WFb(u) \ax <= Т*(дХ).
Из предложений 18.3.28 и 18.3.29 вытекает
Следствие 18.3.31. Пусть Р — дифференциальный оператор с
С°°-коэффициентами на многообразии X, край дХ которого не-
нехарактеристичен для Р. Если f^Jf(X) и распределение
лей' (Х°) удовлетворяет уравнению Ри = f во внутренности Х°

192 18. Псевдодифференциальные операторы
многообразия X, то оно единственным образом продолжается
до распределения «о е Jf (X).
В гл. 20 и 24 мы будем изучать волновые фронты в случае,
когда распределение и удовлетворяет также определенным гра-
граничным условиям. В этом случае будет технически проще — по
крайней мере при" тех средствах, которыми мы располагаем на
данный момент, — не пускать в ход красивые инвариантные
определения настоящего параграфа, а работать с псевдодиффе-
псевдодифференциальными операторами вдоль границы. Мы видели в тео-
теореме 18.1.36, как действуют псевдодифференциальные операто-
операторы на волновые фронты распределений во внутренности много-
многообразия, а теперь посмотрим, что происходит на границе.
Теорема 18.3.32. Пусть X — открытое подмножество в R+.
Положим dX = Xf]dRn+. ЕслиueJf(X)и символЪ e=SmUXR"-')
задает собственный оператор b(x, D') в X, то b(x, D')u^Jf (X) и
A8.3.34) WFb(b(x, D')u)\dxc=WFb(u)\dxftr,
где Г — замкнутый конус сдХ X.Rn~l, такой что Ь имеет по-
порядок — оо в некоторой конической окрестности множества
{дХ X R") \Гв!Х R". Обратно,
A8.3.35) WFb(и) \дх czWFb(b(х, 1У)и) \дХ [} Char b0,
еде bo(x',l') = b(x', 0, Г).
Доказательство. Поскольку множество WFb(u) замкнуто
вТ*(Х)\0 и его ограничение на дХ есть подмножество
в Т"(дХ), множество
K = {jtel; хл = 0 или ЗхпЦп |< |?'| при (х, I) e WF(u)}
представляет собой открытую окрестность границы дХ в X.
Если $e=CT(Y), то ио = фи е= Jf{X){\8' (X) и на X \дХ волно-
волновой фронт распределения фи не содержит элементов (х, ?)
с ?' = 0, вызывавших затруднения в теореме 18.1.36. Возьмем
символ /eS°+, такой что
-1й,ад, „ « J1 ПРИ ^п\<\1'\, 1П>1, Хп<1,
A8.3.36) t(xt) {
при этом t(x, |) можно выбрать не зависящим от переменных
х'. Для v = ?р (х, D) и0 имеем
WFb («о - v) = WFb (A - ip (x, D)) tt0) = 0,
ввиду утверждения (ii) теоремы 18.3.27 и первого из равенств
A8.3.36), Следовательно, uQ — v е зФ' П si'¦ = С°° (R+); из теоре-

18.3. Тотально характеристические операторы 193
мы 18.3.5 вытекает, что эта разность принадлежит y(R+).
Если b<=Sm(RnXRn-l)> то
A8.3.37) Ъ (х, D') ?р (jc, D) и0 = а (х, D) щ,
где а(х, l) = b(x, l')tp(x, I) е Sj? ввиду второго из равенств
A8.3.36). Действительно, для шеУ преобразованием Фурье
по х' от tp(x, D)w будет
поэтому A8.3.37) верно при щ, замененном на w. Полагая
w-+u0 в 9"', получаем A8.3.37) в общем случае. Поскольку
ip(x, D)uo — uo<^9>(R'+), заключаем, что b(x, D')u0 — a(x, D)u0
s^(R^.), а значит, b(x, D')uoe=JP(X) и
WFb (b (x, D') во) \дх с WFb (и0) П Г,
ибо а имеет порядок —оо в некоторой конической окрестности
множества {(х, I); хп = |„ = 0, (х',1')^Г}. Этим доказано
A8.3.34).
Пусть теперь (у', г\')^Т* (дХ)\0 — точка, не принадлежа-
принадлежащая правой части A8.3.35). Тогда можно подобрать функцию
ij) e С<Г (У), равную 1 на столь большом множестве, что
b (x, D'){щ — и) равняется 0 в некоторой окрестности точки
(г/', 0) (как и выше, «0 = if«). Поэтому {yr, T\')&WFb(b(x, D')u0)
— WFb(a(x,D)uo), и символ а нехарактеристичен в точке
(у', 0, т)', 0), поскольку символ Ьо нехарактеристичен в (у'', ц').
Следовательно, (у', т\) ф WFb (и0), как и утверждалось.
Замечание. Из теоремы 18.1.36 вытекает, что на том открытом
подмножестве в X, где b(x, D')u определяется ограничением
распределения и на {х ^ Х°; (х, %)&WF(u) при |' = 0}, спра-
справедливо включение WFb(b(x, Q')u)czWFb(u). Однако подмно-
подмножество это зависит от и.
Следствие 18.3.33. Если u<=JT(X), то (y',it\')<?WFb(u) тогда
и только тогда, когда b{x,D')u^Cco(X) для некоторого соб-
собственного касательного к дХ псевдодифференциального опера-
оператора b (x, D'), не являющегося характеристическим в точке
ОЛО.т,').
Доказательство. Это сразу следует из теоремы 18.3.32 ввиду
предложения 18.3.24.
Наше определение волнового фронта WFb(u), очевидно, яв-
является инвариантным. Поэтому то же верно и в отношении дру-
7 Зак. 443

194 18. Псевдодифференциальные операторы
гого возможного определения, даваемого следствием 18.3.33, ко-
которое, согласно следствию 18.3.31, применимо к решениям диф-
дифференциальных уравнений с правыми частями, удовлетворяю-
удовлетворяющими некоторым естественным требованиям регулярности. Эта
инвариантность — фактически все, что нам понадобится ниже,
однако стоящая за результатами данного параграфа общая
идеология также будет полезна при обсуждении вопросов ре-
регулярности на границе.
18.4. Еще раз о преобразованиях Гаусса
Читатель, должно быть, заметил, что развитое в § 18.1 и 18.3
исчисление существенно опиралось на результаты § 7.6 о пре-
преобразовании Гаусса exp (KDX, ?>?>) в R2". Действительно, дока-
доказательство теоремы 18.1.7 было основано на теореме 7.6.5 и со-
соображениях локализации, а утверждения о мультипликативных
свойствах сводились затем к теореме 18.1.7. В данном парагра-
параграфе мы проведем систематическое изучение локализационных
свойств преобразования ехр(ь4(?))) для случая, когда А—ве-
А—вещественная квадратичная форма. Полученные результаты будут
использованы в § 18.5 для того, чтобы распространить исчис-
исчисление § 18.1 на случай более общих символов и построить дру-
другой вариант исчисления — так называемое исчисление Вейля, во
многих отношениях обладающее рядом преимуществ.
Чтобы мотивировать приводимые ниже определения, напо-
напомним сперва, что в соответствии с определением 18.1.1 класс Sm
символов порядка т — это множество всех С°°-функций а на
Ron
, таких что
14!(*. 6)|<СоэA+161)ж~1в1 при *, gsR».
Дадим другое толкование этому условию. А именно, рассмот-
рассмотрим в каждой точке (х, |) новый ортонормированный базис, от-
отвечающий метрике
A8.4.1) W + ldSF/O+ISI8).
Тогда производные порядка k от а по новым переменным оце-
оцениваются величинами С*A+|||)т с постоянными Ck, не зави-
зависящими от |. Наше обобщение состоит в том, чтобы рассмот-
рассмотреть на конечномерном векторном пространстве V произволь-
произвольную медленно меняющуюся метрику в смысле § 1.4. Ввиду
леммы 1.4.3 без ограничения общности можно считать, что эта
метрика риманова, т. е. для всякого х е V задана положитель-
положительно определенная квадратичная форма gx{y) от у <= V.
Определение 18.4.1. Будем говорить, что g — медленно меняю-
меняющаяся метрика, если существуют положительные постоянные с

18.4. Еще раз о преобразованиях Гаусса 195
и С, такие что
A8.4.2) eAy)<c=>gx+y(t)^Cgx(t).
Это в точности условие из определения 1.4.7 для метрики
\У\* — (g*(y)/c)]/2- Поэтому, как было отмечено в § 1.4, умень-
уменьшая, если надо, с, можно придать условию A8.4.2) симметрич-
симметричный вид:
A8.4.2)' gx(у)^c=>gx@/C<gx+y @ <Cgt (t).
Примером медленно меняющейся метрики служит метрика
A8.4.1) или, более общим образом, метрика
A8.4.1)' \dx\2(l+\t?N + \dt?(l+\1-?rp
при р< 1. В самом деле, если gXll(y, ц)^с, то \r\f^c(l+\lf),
а значит,
при условии что с < 1/4, откуда сразу видно, что g — медленно
меняющаяся метрика.
Пусть G — фиксированная квадратичная форма и и — функ-
функция класса С* в некоторой окрестности точки х ^ V. Введем
следующую норму, отвечающую нормировке й-го дифференциа-
дифференциала в точке х при помощи G:
| и \°к (х) = sup | u(k) (x; *„..., tk) | /П G (t,)m.
При фиксированном k эквивалентной нормой будет, конечно,
максимум частных производных порядка k, вычисленных по от-
отношению к б-ортонормированной системе координат. Правило
Лейбница дает
A8.4.3) |uv \ak (х)<S ( . )| и \f (x)\ v \t,(x).
Пусть для данной точки х мы имеем и(х)=1. Если положить
и=1 — v, то k-я производная от 1/и в точке х равна тогда
fe-й производной в этой точке от суммы Yj v>> и ее можно
оценить суммой произведений | v \fi ... | v |/v с /v ^ 1 и S /v = ft.
Таким образом,
A8.4.4) \l/u\Ux)<Ck(\u\?(x)+ ... +\u\Ux)m)k,
если и(х)= 1. Записав эту оценку в однородном виде, получим,
оценку для произвольных и,

196 18. Псевдодифференциальные операторы
В случае римановой метрики g будем через |иЦ(х) обозна-
обозначать | и \% (х) для G = gx. Интересующий нас класс символов
определяется следующим образом:
Определение 18.4.2. Пусть g — медленно меняющаяся метрика.
Положительная вещественнозначная функция т на V назы-
называется ^-непрерывной, если существуют такие положительные
постоянные с и С, что
A8.4.5) gx(y)<c->m (х)/С < т (х + #)< Cm (x).
Обозначим через S{m,g) множество всех иеС°°(У), для ко-
которых при каждом целом k ^ О
A8.4.6) sup | и |f(x)/m (*)<«>.
Очевидно, что S(m,g) с топологией, задаваемой полунормами
в левых частях A8.4.6), является пространством Фреше. Стоит
подчеркнуть, что эти полунормы нумеруются неотрицательными
целыми числами k, и потому имеет смысл говорить о «тех же
самых» полунормах в пространстве S(m,g) с другими mug.
В случае когда g есть метрика A8.4.1)', можно взять
т = A+|?РГ'2 с любым вещественным ц. Тогда S(m, g) пре-
превращается в пространство Sp1, а> введенное в§ 7.8.
Из оценок A8.4.3) и A8.4.4) немедленно вытекает
Лемма 18.4.3. Если u^S(m,g) и v<=S(m',g), to
uv ^S(mm',g). Если 1/|и|< С/т при некотором С, то
\/u<=S(\/m,g).
Ясно, что С" (V) cz S (m, g), ибо gx и пг(х) ограничены
сверху и отграничены от нуля, когда х принадлежит заданному
компакту. Считая всегда, что, выполнено A8.4.2)', можно при-
применить к \y\x = {gx{y)/c)x/2 лемму 1.4.9 и теорему 1.4.10 и
получить следующий результат:
Лемма 18.4.4. Для всякого 0 < г < 1 существует последова-
последовательность хи Х2, ... eV, такая что шары
покрывают V, если гс < R2, и пересечение любого числа шаров
Bv, большего, чем некоторое число Ne, пусто, если R2 < с.
В случае когда 2ес •< R2 < с, найдутся неотрицательные функ-
функции cpv е С" (Ву), удовлетворяющие условию }? qpv == 1 и такие,
что для всех v и k
A8.4.7) l<Pv

18.4. Еще раз о преобразованиях Гаусса 197
С помощью этого разбиения единицы можно регуляризовать
метрику g и весовую функцию т. Действительно, полагая
и замечая, что gXv(x — хч) < с там, где ц>^(х)Ф0, получаем
в силу A8.4.5)
т (xv)/C ^ т (х) ^ Cm (xv) на suppqpv,
откуда
т (х)/С < mi (х) < Cm (x).
Далее,
Это означает, что mi e S(m, g) = S(mit g). В частности, мы ви-
видим, что S (m, g) cz S (tn', g) тогда и только тогда, когда частное
т/т' ограничено. Тем же способом можно, конечно, регуляри-
регуляризовать и метрику g.
Из A8.4.7), A8.4.3) и A8.4.5) следует, что если ue=S(m,g),
то функции «v = <pvu удовлетворяют оценкам
A8.4.7)' |uvjf(jc)<C'km(xv) для jc<=V и всех v, k.
Здесь g можно заменить на gXy. Обратно, если задана после-
последовательность функций Uv, у которых носители лежат в шарах
Bv с квадратом радиуса R2 < с и которые удовлетворяют усло-
условию A8.4.7)', то и= ^ uv e S(m, ^). Поэтому ясно, что при по-
получении оптимальных оценок для линейных функционалов на
наших классах символов достаточно рассматривать функции,
обладающие указанными свойствами функций и*. Так мы и по-
поступим при последующем изучении преобразований Гаусса.
Пусть А — вещественнозначная квадратичная форма на про-
пространстве V, двойственном к V. Тогда A(D) представляет со-
собой дифференциальный оператор в V, характеризуемый равен-
равенством
A(D)exp(ix, l)=A(I)exp(ix, ?), xe=V,
для каждого фиксированного 1 е V. Следовательно, в случае
когда и принадлежит 9> или 5", можно определить exp(iA(D))u
как обратное преобразование Фурье от exp (iА (|)) й (|), где ы —
преобразование Фурье от и. Пусть g — положительно опреде-
определенная квадратичная форма на У и
K = {x;g(x)<\)
— соответствующий единичный шар. В силу оценки G.6.7), при-
примененной к некоторой ^-ортогональной системе координат,

198 18. Псевдодифференциальные операторы
имеем для и^С™ (К)
A8.4.8) |ехр(М(О))и— ? (iA (D)I и/
<Csup snp\A(D)ku\f{y)/kL
Здесь s — любое целое число >dim V/2. Вне К сумма в левой
части равна нулю, и мы улучшим оценку A8.4.8) с помощью
рассуждения, по существу совпадающего с рассуждением, ис-
использованным при доказательстве леммы 7.6.4. Однако офор-
оформим его иначе, с тем чтобы подготовиться к аналогичному до-
доказательству в § 18.6.
Пусть L — вещественная линейная (не обязательно однород-
однородная) функция иа V. Тогда
[exp (IA (D)), L] = exp AА (D)) (A' (D), L')
(L в левой части обозначает оператор умножения на L), где
L'er — это (постоянная) производная от L. Это тождество
представляет собой частный случай второго из тождеств
A8.1.6), но, разумеется, совершенно элементарный: после пре-
преобразования Фурье оно принимает вид
[ехр(М(?)), L(-D)] = exp(iA(Q)(A'(t), U).
Пусть L(y)=(y — х, т)>. Предположим, что L ФО (нигде) на К.
Тогда <.A'(D), ti>— 2Л {D, ti) = 2{Аг\, ?>>, где А ( , ) — отвечаю-
отвечающая квадратичной форме А симметричная билинейная форма на
У, а Л в правой части обозначает соответствующее линейное
преобразование V'-*- V. Поэтому указанное выше тождество
даёт
A8.4.9) exp(iA(D))u(x)
= 2 exp (IA (D)) (<Лть D) 1Гхи) (х), и е Со°° (К),
и этот результат можно повторно применить любое число раз.
Лемма 18.4.5. Если функция L линейна и не обращается в 0 ни
в одной точке шара {у; g(y) < R2} с R > 1, то
A8.4.10) |L(O)/L|fG/)< k\ *+I
Доказательство. Без ограничения общности можно считать, что
g(y)= S У) и L{y)= 1 —ауь где 0<а/?< 1. Поэтому A8.4.10)
вытекает из того факта, что ак A —ау^~к~1 ^ R/(R— 1)*+I при
111

18.4. Еще раз о преобразованиях Гаусса 199
Повторно применяя A8.4.9) н используя A8.4.10), A8.4.3) и
A8.4.8) с k = Q, получаем после k шагов
| exp (iA (D)) и (х) | < Ck. R (g (АцУ'Ц L @ | )* sup sup | и \f,
Чтобы выяснить, насколько малым может быть сделан новый
множитель g(A4)ll2/\L@)\ = g(Ai\y'2/\ (х, т)>|, введем формуй,
двойственную к форме !¦—(Ai)
A8.4.11) gA(x)= sup (x, If.
в D6X1
Разумеется, она равна + оо всюду вне подпространства, ор-
ортогонального к радикалу (нуль-пространству) {?; А1 = 0} =
{!М(?) = 0}, т.е. всюду вне образа оператора А. Взяв х = Аг\
и заметив, что (Ац, 1) = (А1, ц), получаем
gA(Ar\)= sup | (у, r\)f/g(y),
ye imA
т. е. g есть композиция оператора Л и формы, двойствен-
двойственной к ограничению формы g на образ оператора А. Отметим,
(iy2/A() (Al)
px(yg() g(l)
Предположим теперь, что ^-расстояние от х до R% не меньше
а > 0. Тогда по теореме Хана — Банаха можно найти tj, такое
что >
{У, Л> < <* + г, л), если g (у) < R2 и gA {г) < а2.
Это означает, что
(У, ц)<(х, r\) — ag(Ar\Y'2 при y
Отсюда следует, что для L {у) = {у — х, г\)
Тем самым мы доказали, что при k = 0, 1, ...
A8.4.12) | exp (iA (D))u (x) |
<C*,*A+ inf g\x-y)Tm sup sup | и |f
y&RK l<s+k
для и^С™ (К). Подытожим полученные к данному моменту
результаты:
Предложение 18.4.6. Пусть g — положительно определенная
квадратичная форма на V и А — вещественная квадратичная
форма на V. Обозначим через К единичный шар относитель-
относительно g и определим gA формулой A8.4.11). Тогда для всех
иеСо°(Ю " всех k^O и R > 1 справедливы оценки A8.4.8)
и A8.4.12), при условии что 2s > dim V.

200 18. Псевдодифференциальные операторы
Поскольку оператор exp(iA(D)) перестановочен с дифферен-
дифференцированиями, нетрудно было бы дать соответствующую оценку
для производных от и. Важный момент, связанный с оценкой
A8.4.12), состоит в том, что ее правая часть становится очень
малой на больших ^-расстояниях от некоторой окрестности
множества К- Это свойство локализации позволяет получить
оценки для оператора elA(D),действующего на подходящих клас-
классах символов; в частном случае это свойство уже использова-
использовалось при доказательстве теоремы 18.1.7. Требуемое условие на
классы символов формулируется следующим образом:
Определение 18.4.7- Риманова метрика g (соотв. положительная
функция т) на V называется Л-умеренной (соотв. (А,^-уме-
(А,^-умеренной) относительно точки х е V, если она является медленно
меняющейся (соотв. ^-непрерывной) и существуют постоянные
С и N, такие что для всех у, t e V
A8.4.13) gy(t)<Cgx(t)(l+g?(x-y))N,
A8.4.14) m(y)^Cm(x)(l+g*(x-y)f.
Заметим, что из A8.4.13) вытекает оценка
A8.4.13)' g* (t) < Cg* (t)(l+ g* (x -у))».
Обратно, A8.4.13) вытекает из A8.4.13)', если форма А невы«
рожденна. При t = х — у получаем, в частности,
A8.4.13)" l+g*(x-y)^C(l+g*(x-y))»+K
Чтобы снять условие supp ucz К, фигурирующее в предло-
предложении 18.4.6, воспользуемся разбиением единицы из леммы
18.4.4. Выберем /?о, такое что R < Ro < cI/2, и введем помимо
шаров Bv, содержащих носители функций q>v, шары
V4 = {*: Sxv (х - *v) < Rl), U'v = {д;; gXv (x - *v) < c}.
В случае произвольной функции ueCo° мы применим оценку
A8.4.12) к функциям «v = qpvu, заменив всюду R и g на RJR
и gxv/R2- Для того чтобы просуммировать получающиеся оценки
для exp(iA(D))uv, нам понадобится следующая лемма:
Лемма 18.4.8. Предположим, что gx^gA и метрика g является
А-умеренной относительно точки х. Тогда существуют такие по-
постоянные С и N, зависящие лишь от постоянных С и N из оцен-
оценки A8.4.13), что
A8.4.15) ?A+<М*)Г*<С, где dv(х) = inf gf (x - у).
v «el/.
V

18.4. Еще раз о преобразованиях Гаусса 201
Доказательство. Можно считать, что gx есть квадрат евклидо-
евклидовой нормы | |, так что этот квадрат ограничивает снизу форму
g*. Положим для k ISs I
Пусть v e Mk. Выберем точку yv e Ux, такую что g* (x— yv)< k.
В силу A8.4.13),
Далее, yv + zf=U'v, если gXv (г) < (с1'2 — Rof, и, поскольку
^ — медленно меняющаяся метрика, мы имеем фиксированные
положительные верхнюю и нижнюю границы для gxjgys.
Отсюда следует, что евклидов шар Vv радиуса Cxk~NI2 с цент-
центром в уч содержится в U'v. Ввиду A8.4.13)",
следовательно, шары Kv содержатся в некотором евклидовом
шаре радиуса C'k{N+l)l2 с центром в х. Так как есть граница
сверху для числа шаров U'v, которые могут иметь непустое пе-
пересечение, а значит, и для числа шаров Vv, которые могут
иметь непустое пересечение, мы заключаем, что
с'\ Mk | kLnm <Jm (Vv) < Cmm уЛ < C'k
m уЛ
где \Mk\ обозначает число элементов множества Mk. Поэтому
справедливо неравенство |М* | <; CkN~x с некоторыми новыми
постоянными С и N. Складывая последовательно члены ряда
в A8.4.15) cveAfj, M2\Mh .... M2k \ M2k-\,. получаем дока-
доказываемую оценку.
Применение оценки A8.4.12) к «v = <pv« дает
A8.4.16) | exp (M (D)) «v (*) К С* A + ^ (х))~т
X sup sup|uv|/v.
Поскольку g меняется медленно, мы можем заменить здесь gXv
на g. Для yv, определенных, как выше, имеем
m {у) < Cm (yv) < Cm (x) A + dv (x)f, у <= ?/v,
при условии что m удовлетворяет A8.4.14). Если, кроме того,
выполнены предположения леммы 18.4.8, то, в силу A8.4.16),

202 18. Псевдодиффереициальиые операторы
A8.4.15) и A8.4.7),
A8.4.17) ?|exp(M(Z)))uv(jc)|<C/n(*) sup sup|u|f/m,
V /<S+k
при условии что k достаточно велико.
Используя оценку A8.4.17), мы расширим область определе-
определения оператора ехр(гЛф)) с С" до S(m,g). Однако произволь-
произвольная непрерывная линейная форма на S(m,g) не определяется
своим ограничением на множество С?, ибо последнее не плотно
в S(m,g). Поэтому нам нужно более сильное понятие непре-
непрерывности:
Определение 18.4.9. Будем называть непрерывную линейную
форму на S(m,g) слабо непрерывной, если ее ограничение на
каждое ограниченное подмножество непрерывно в С°°-топо-
логии.
Слабо непрерывные формы уже определяются своими огра-
ограничениями на С", поскольку для всякой функции ueS(ffl,g)
частичные суммы разбиения и—?и* ограничены в S(m,g);
эти суммы сходятся к и в С00-топологии, ибо начиная с неко-
некоторого номера становятся равными и на каждом компакте.
Доказательство оценки A8.4.17) фактически дает сходящий-
сходящийся мажорирующий ряд для ряда в левой части A8.4.17), при-
пригодный для всех и из произвольного ограниченного подмноже»
ства в S(m, g). Отсюда следует, что формула
ехр (iA (D)) и (х) = 2 exp (iA (D)) uv (х)
V
определяет слабо непрерывную линейную форму на S(m,g),
Тем самым доказана
Теорема 18.4.10. Отображение СГ э и ¦—э- ехр (iA (D)) и (х) е С
единственным образом продолжается до слабо непрерывной ли-
линейной формы на S (m, g) для каждого х, такого что метрика g
является А-умеренной относительно х, gx^g* и функция пг
является (A, g)-умеренной относительно х. Справедливо нера-
неравенство
A8.4.18) | ехр (iA (D)) u(x)\^m (x) || и ||,
где 11-11 — полунорма в S (m, g), зависящая лишь от постоян-
постоянных, фигурирующих в A8.4.2)', A8.4.5), A8.4.13) и A8.4.14).
В условиях теоремы 18.4.10 можно оценить также производ-
производные от exp(iA(D))u(x), Рассмотрим сперва случай «е С", ко»

18.4. Еще раз о преобразованиях Гаусса 203
гда, как мы знаем, эти производные существуют. В этом случае
мы имеем
()
где ||-|1 — полунорма в S(m,g), зависящая помимо постоянных
из A8.4.2)', A8.4.5), A8.4.13) и A8.4.14) лишь от k. Чтобы
доказать это, положим
v = (D, tt)... (D, tk) и, т! {у) = т(у) П gy (/,I/2.
Функция т' тоже (A, g) -умеренна относительно х, причем со-
соответствующие постоянные зависят помимо k лишь от постоян-
постоянных для gam. Любая полунорма функции о в S(tn',g) огра-
ограничена некоторой фиксированной полунормой функции и в
S(m,g). Поэтому применение неравенства A8.4.18) к v дает
A8.4.18)'. (Иногда бывает полезным то наблюдение, что здесь
достаточно, чтобы условие A8.4.6) выполнялось лишь для про-
производных порядка ^k.) Из A8.4.18)' немедленно вытекает сле-
следующая
Теорема 18.4.10'. Предположим, что условия теоремы 18.4.10
выполняются равномерно для всех х из некоторого линейного
подпространства Vo в V. Тогда отображение
. exp (I A (/))) и \v.
слабо непрерывно как отображение со значениями в простран-
пространстве S(m, g)\va символов на Vo, отвечающем ограничениям на
Vo функции m и метрики g.
Для доказательства достаточно взять в A8.4.18)' векторы
t\ ^eVj и заметить, что пространство S(m,g) обладает
тем свойством, что на его ограниченных подмножествах С°°-то-
пология совпадает с топологией поточечной сходимости.
Все предыдущие результаты допускают усиление в случае,
когда величина
< 18.4.19) h(xf = suT>gx(t)/g?(t)
не просто не превосходит единицы, а мала. (Если координаты
выбраны так, что gx есть евклидова метрика и /4(!)=?&/§/»
то h(x) = sup\ b, |.) Прежде всего заметим, что функция h
является (А, ?)-умеренной с теми же постоянными, что и
в A8.4.13). Действительно, очевидно, что она ^-непрерывна.
Далее, A8.4.13) можно записать в виде gu^Mgx, откуда еле-

204 18. Псевдодифференциальные операторы
дует, что g*>g*/M и gy/gy<M*gx/gx, а значит, h(y)^Mh(x)r
Теперь обратимся к оценке A8.4.16). Напомним, что имеется
верхняя граница для числа шаров 0^ с непустым пересечением
и что
g*v (*-</)> (с1/2 -/?0J = с, >0 при *<??/;, ye=U4.
Отсюда вытекает, что
с2<gy (х - у)<h(у?g*(*-</)<Ch(х?(\+g$(x- у))"',
а следовательно,
CMJ(l+dv(*)r при x&U'4.
Это означает, что можно усилить оценку A8.4.17), добавив в
правой части в качестве множителя произвольную степень функ-
функции h(x), если в левой части вести суммирование лишь по
тем v, для которых х ф. U'v. Оставшееся ограниченное число чле-
членов можно, как и выше, оценить при помощи A8.4.8) с опера-
операторами A(D). Это показывает, что остаточный член
A8.4.20) RN = exp (iA (D)) и - ? (iA (D)I иЦ\
допускает оценку
A8.4.21) |/#>(*; tt tk)\<h(xf m(x)Rgx(tt)U4ul
где 11-11 — некоторая фиксированная полунорма в S(m, g). (Слу-
(Случай 1гФ0 сводится к случаю &=0, как в доказательстве тео-
теоремы 18.4.10'.) Итак, доказана
Теорема 18.4.11. Предположим, что условия теоремы 18.4.10 вы-
выполняются равномерно для всех х из некоторого линейного под-
подпространства Vo пространства V. Тогда отображение
S(m, g)=>u^RNe=S (mhN, g) |„„,
где функция h определена формулой A8.4.19), a RN —форму-
—формулой A8.4.20), слабо непрерывно. Фигурирующая в A8.4.21) по-
полунорма ||-|| зависит лишь от N, k и постоянных из A8.4.2)',
A8.4.5), A8.4.13) и A8.4.14).
Тем самым обоснована возможность вычислять
exp (iA (D)) и (х) с помощью формального разложения в ряд
там, где функция h(x) мала. Примером может служить тео-
теорема 18.1.7. В этой теореме метрика g задается формулой
A8.4.1), а А есть квадратичная форма (х, |)>—-Цх, ?> на R"©Rn,
так что соответствующий оператор А имеет вид (х, |)ь-»(|, к)
и gA =(l+|g|2)|rf*|2 + |dg|2. Таким образом, h2 =A +Ш2)-1,

18.5. Исчисление Веиля 205
и A8.1.11) следует из теоремы 18.4.11 с весовой функцией
m(i) = (l -j-lil2)^2 (если в теореме 18.1.7 заменить т на ц).
Действительно, A8.4.13) и A8.4.14) выполняются с JV = 1 и
N = ц/2 соответственно, поскольку
Более обшо, метрика g, заданная формулой A8.4.1)', является
медленно меняющейся при р ^ 1, и
g4 = 0 + Ш2Л d* !2 + A +! 112)"8! d! I2,
так что Л2 = A 4-Щ2)в~р^ 1 тогда и только тогда, когда
Условие Л-умеренности g выглядит так:
<СA+11-л Pd+I л Р)~Т-
При |?|<!тI/2 оно справедливо тогда и только тогда, когда
6<ЛГA -б), т. е. когда 6<tf/(iV + l). При I л 1/2 <16|<2 | л I
оно верно для достаточно больших С, а при |?|>2|т|| — для
N^Ssp. Когда оно выполнено, функция (l+liP)^2 является
(А, ^-умеренной. Следовательно, как отмечалось перед теоре-
теоремой 18.1.35, теорема 18.1.7 сохраняет силу при 0^б^р^1
и б< 1.
18.5. Исчисление Вейля
Пусть V — векторное пространство над R размерности п и V —
двойственное пространство. В § 18.1 мы сопоставили каждой
функции а е 9>{W), W = V®V, оператор
A8.5.1) а(х, О)и(х)
(Здесь dy — какая-либо мера Лебега (—Хаара) в V, a d% —
двойственная мера в V, для которой формула обращения Фурье
справедлива с обычной постоянной. При замене dy на с dy надо
будет заменить d\ на c~xd\, так что мера dy d\ определена ин-
инвариантно.) Слабый вариант определения A8.5.1)
(а (х, D) u, v) = Bя)-" J J J а (х, I) е1«-»- * и (у) v (x) dy dx d\
= Bп)~п \\\a(x,l) el (<- *>u(x — t)v (x) dx dt rf|

206 (8. Псевдодифференциальиые операторы
имеет смысл для любого ае^'(Н?) и задает непрерывный
оператор из ^(V) в 9"(V). Сопряженным к а(х,D) служит
оператор
A8.5.2) a(x,D)u (х) -= Bп)~я \ \ а (у, I) е' «-* 1>и (у) dy rfg,
также понимаемый в слабом смысле. В случае когда а — мно-
многочлен по |, оператор a(x,D) получается, если в а(х, |) заме-
заменить | на оператор D = —id/dx, записанный справа от коэф-
коэффициентов. Записав же коэффициенты справа, получим опера-
оператор а(х, D).
Согласно теореме 18 1.6, если а е Sm, то a(x,D) отобра-
отображает 9" в 91. В силу теоремы 18.1.7, класс операторов A8.5 1)
с a^S" совпадает с классом операторов A8.5.2) с aeS,
так что их можно продолжить до непрерывных операторов из
9" в 9".
В исчислении Вейля принимают симметричное компромисс-
компромиссное определение
A8.5.3) а"(*. О) = Bя)-"\\а((х + у)/2, l)el<*-v-bu{y)dydg,
вновь понимаемое в слабом смысле. Ядро Шварца К так опре-
определенного оператора задается формулой
A8.5.4)
т. е.
A8.5.4)'
есть обратное преобразование Фурье по | от а, а потому
A8.5.4)" а{х, 1)=^К(х + (/2, х-//2) «-'«•«> Л.
(Эти формулы аналогичны формулам A8.1.7) и A8.1.8).) Если
L — линейная функция, то L(x, D)= C(x, D)= Lw(x, D). Чтобы
пояснить определение A8.5.3), вычислим Lv(x, D)av(x, D) для
а е 91 и линейной функции L. Поскольку
(L(x, йх)-
= (/.@, Dx)a((x + y)/2, l) + a((x + y)/2, |)L(D5/2, 0))е'«-»
после интегрирования по частям по | получаем
A8.5.5) Z," (х, D) aw (л:, D) = 6* (х, D), где 6 = La + {L, a)/2i.
Здесь
{L, а) = <dZ./dgf Ai/dx) — (dL/дх, да/dl)

IS.5. Исчисление Вейля 207
— скобка Пуассона, введенная в § 6.4. Напомним, что это би-
билинейная форма на W @ W, двойственная к симплектической
форме
о (х, I; у, п) = <?, У) - (х, п>, (х, I) е= W, (у, ц) е W.
Отсюда уже ясна симплектическая инвариантность исчисления
Вейля — весьма важное свойство, к которому мы еще вернемся
позже. Пока же просто заметим, что, хотя формула A8.5.5)
выведена выше в предположении, что а е 9", она справедлива
по непрерывности для всех а ^9". Пусть L — вещественная ли-
линейная форма и at = exp(itL). Тогда из A8.5.5) следует, что
iL (x, D) а? {х, D) = да? (х, D)/dt,
ибо {L, at} — 0. Далее, простое явное вычисление показывает,
что aj (х, D) и е 91, если ие^, Замыкание в L2 оператора
L(x, D) с областью определения & является самосопряженным
оператором. Действительно, пусть и е I? и L(x, D)u = f e L2
в смысле теории распределений. Выберем функцию %^9"{W)
с х@)=1. Тогда Psxzix, D)u-+u и хг{х, D)f-*f в L2 при
е-*0, где Хе(*, 1) = %(гх, el), и
L(x, О)Хе(дс, D)u-yu(x, D)f = -ei{L, x} (ex, eD)u-+Q
при е -*• 0. Тем самым сделанное утверждение доказано. Из него
вытекает, что ,
а«(х, D) = exp(itL(x, D))
в смысле теории операторов. Определение оператора а* для
общего случая получается из рассмотренного частного с по-
помощью разложения Фурье символа а, поэтому указанное выше
свойство является характеристическим для исчисления. Вейля.
Из A8.5.3) сразу следует, что сопряженный к оператору aw
равен aw. В частности, aw совпадает со своим сопряженным,
когда символ а вещественнозначен; в этом существенное пре-
преимущество исчисления Вейля и главная причина того, почему
именно его ввел Герман Вейль для применений в квантовой ме-
механике.
Чтобы мотивировать условия, которые будут наложены на
символ а, выведем формулу для композиции операторов а™(х, D)
и а*(дс, D) в случае, когда символы а, и а2 принадлежат
В силу A8.5.4) ядро оператора a*(*, D)a™(x, D) равно
а,((х + г)/2, ?)а2((г + у)/2, т)е'«-«. 0+'»-». «dzd?dx>

208 18. Псевдодифференциальные операторы
поэтому из A8.5.4)" следует, что ауа% = а", где
а (х, ?) = Bя)п J J \ \ а, ((* + г + 1/2I2, ?)
X а2 ((ж + 2 - */2)/2, т) elE dz dt, dt dx,
~x + l/2, t-I).
Возьмем ? — l, т — I, (z — x + //2) /2 и (z — x— t/2) /2 в каче-
качестве новых переменных вместо ?, т, z и Л Якобиан этой замены
равен 22". Следовательно,
Здесь мы рассматриваем симплектическую форму как квадра-
квадратичную форму на W Ф W.
В случае f{x,y) = g{x)h(y) это следует из формулы обращения
Фурье. Поэтому приведенную в конце предыдущего абзаца фор-
формулу можно переписать в виде
A8.5.6) а(х,1)
= exp(ta(Djr, D%; Dy, D^I2)a^(x, 1)<ц{у, ц)^ %)_(у>п).
Следовательно, для изучения символа а мы можем использо-
использовать результаты § 18.4, при условии что а\ и а2 принадлежат
подходящим классам символов. Поскольку в правой части
A8.5.6) стоит произведение ax(x, I)a2(y,г\), у нас появятся
квадратичные формы на W ф W вида
G(tlt /2) = *,(/i)
где gi и gz—квадратичные формы на W. Пусть (х, |, у, ч\)
е WQW и х, |, р, г\ — двойственные переменные. Линейное
отображение, ассоциированное с квадратичной формой
А = 2о(х, |, у, л) —2<g, y)-2{x, л),
переводит (х, |, у, х\) в (—л, у, |, — х). Поэтому (см. A8.4.11))
GA (х, |, ^, л) = sup | (х, х) + (|, |) + {у, у) + (л, f» p

18.5. Исчисление Вейля 209
Вводя обозначения {х, |) = до и (|, — x) = w'&W, имеем
(х. *> + (?, |> = а(ш, w'). Пусть
A8.5.7) g°(w) = sup\o(w, w')f/gt(w')
— квадратичная форма на W, двойственная к g/ относительно а
(пространство W отождествляется с двойственным к нему при
помощи симплектическои формы а). Тогда
A8.5.8)
A8.5.9) Gl
так как второе и третье условия в \ 18.5.9) оба равносильны
условию
A8.5.9)' |а(о>, w')?<H2g°(w)g°(w'),
а первое равносильно совокупности второго и третьего.
Очевидно, что если gi и g2 — медленно меняющиеся рима-
новы метрики в W, то G = g\ Ф g2 будет медленно меняющейся
метрикой в W Ф W. Чтобы исследовать символ A8.5.6), нам
надо знать, является ли метрика G равномерно Л-умеренной от-
относительно точек диагонали, т. е. верно ли, что для произволь-
произвольных ш, Шь w2, U, t2^ W
A8.5.10) fa (/,) + g°2w (t2)
где
М = 1 + g°Wi (w2 ~w) + g°2w% (a», - a»).
В частности, при g\ = g2 = g и w\ = w2 из этой оценки сле-
следует, что для всех t e W
A8.5.11) g
или, что то же самое,
A8.5.11)' g
Введем поэтому следующее определение, параллельное опреде-
определению 18.4.7:
Определение 18.5.1. Метрика g в W = V® V" называется а-уме-
ренной, если она является медленно меняющейся и выполнено
A8.5.11)'. Положительная функция т на W называется (o,g)-
умеренной, если она ^-непрерывна и
A8.5.12) fli(a»1)<C/n(a>)(l+g;i(a>-a>l))*\ w, a», e W.

210 18. Псевдодифференциальные операторы
Заметим, что в силу A8.5.11) функция \/т будет (o,g)-
умеренной вместе ст.
Предложение 18.5.2. Если метрика g в W = V ® V является
а-умеренной, а функции ni\, ш2 на W обе (а, ц)-умеренны, то
метрика G = gi Ф g2 в W Ф W, где g{ = g% = g, и весовая функ-
функция т — т\®т,2 будут соответственно А-умеренной и (A,g)-
умеренной равномерно относительно точек диагонали. Если
h(wf = supgjgaw, mo и supG^ JGAw w = h(wf.
Доказательство. Последнее утверждение следует из A8.5.9).
Чтобы установить первое, надо показать, что
8°т К - о») + 2%, («»2 - w) < СМ">
где
М = 1 + gaWl (»2 -w) + g°w. (a», - w).
Полагая wr = w\ -\- W2 — w, имеем w' — wi = w2 — w, w' — w^
= w\ — w. Следовательно,
g°w, (w2 - w) < Cg°Wi (w2 - w) A + ^ (Ш2 _ W)y ^ CAf.v+.f
- a») A + #, (ш2 - «,))* < CM*.
откуда и вытекает требуемая оценка с постоянными С и N',
Иногда бывает нужно рассматривать и общий случай, ко-
когда gi и g2 различны. Однако случается это редко, и при пер-
первом чтении следующий результат, пожалуй, лучше пропустить.
Предложение 18.5.3. Пусть gi и g2 — две а-умеренные метрики
в W. Метрика G= gi Ф g2 равномерно А-умеренна относительно
диагонали в W®W тогда и только тогда, когда
g°lw @ < Cg°m @A + g°2w (», - w))\ Л w, Wl e W,
A85ЛЗ) g°w(w2-w))», t,w,w2t=W.
В этом случае метрика g = (gi -f- ^2) /2 также будет а-умерен-
а-умеренной. Положим
ft, (wf = sup gjg<jw, H (wf = sup gjg°2w = sup gjg°w.
Справедливы неравенства
A8.5.14) max (ft, {wf, fh(wf, H (wf)
< 4 sup gjgl < ftt (шJ + ft2 (wf + Ш (wf.

18.5. Исчисление Вейля 211
Если для / = 1, 2 функция т\ является (a, gj)-умеренной, то
функция m = тп\ <2> т2 равномерно (A, G)-умеренна относитель-
относительно диагонали в W Ф W тогда и только тогда, когда
l(l)l,)(-g°2w(w — wl))f/, w, w^W,
08.5.15) т2(а,2)<Ст2(ш)A+в«ш(ш-а>2))* w, w2 e Г.
Згы условия равносильны тому, что функции гп/ обе (о, g)-уме-
g)-умеренны.
Доказательство. Если выполнено A8.5.10), то, взяв ti — t,
4 = 0, ш»2 = да или <1=0, t2 = t, wi = w, получим A8.5.13).
Обратно, пусть выполнены оценки A8.5.13). Покажем, что тогда
для всех t, ш, Ш| е If
A8.5.16) г,
Отсюда будет следовать, что метрика g является, о-умеренной,
а значит (см. доказательство предложения 18.5.2), для некото-
некоторых других С и N верна оценка
< с (*.. d) + г» ('2)) A + С К - ш) + ei, (ш, - »))".
даже более сильная, чем A8.5.10), ибо ga^2gaj. Таким обра-
образом, при выполнении оценок A8.5.13) метрика G равномерно
Л-умеренна относительно диагонали.
Чтобы доказать A8.5.16), заметим прежде всего, что если
F\ и Fz—положительно определенные квадратичные формы на
векторном пространстве V, то двойственной к F{ + F2 формой
на V будет inf (F\(- — O + F^it)), где F\— форма на V,
двойственная к F,. Одновременно диагонализуя F\ и F2, заклю-
заключаем, что достаточно установить это утверждение для случая
форм Fi(x) = jc2/o и F2{x)—ах2 на R, а в этом случае
F/l==F2, F'2 = FX, и все проверяется элементарно. Таким образом,
i (e@)
to
Следовательно, оценка A8.5.16) равносильна оценке
A8.5.16/ giWl(t)<Cgiw(t)MN для всех (, w, w0, !
где

212 18. Псевдодиффереициальные операторы
Поскольку g, являются а-умеренными и по предположению вы-
выполнены оценки A8.5.13), то для некоторых С и N
Снова используя A8.5.13) и а-умеренность метрики
??«,„(а> - ^о) < % (ai - ai0) A + g°2Wx (wQ - wx))N
получаем A8.5.16)'. Тем же рассуждением устанавливается
(о, g) -умеренность функций т/. Обратно, если эти функции
(a, g) -умеренны, то выполнены оценки A8.5.15), ибо ?^,/2<?"ш;
если при этом функция т.\ является ^-непрерывной, то она бу-
будет (a, gk) -умеренной.
Поскольку glw<!2gw, a значит, g°w<2gjw, имеем для
этим доказано левое неравенство A8.5.14). Чтобы доказать пра-
правое, заметим, что
откуда 2glw < (h) + Я2) g°w, /=1,2,
а следовательно, 4gw «^ (h\ + Л| + 2Я2) ^°,
что и требовалось проверить. Доказательство завершено.
Комбинируя теорему 18.4.11 и предложение 18.5.2, получаем
основную теорему исчисления Вейля:
Теорема 18.5.4. Пусть g — произвольная а-умеренная риманова
метрика в W = V Ф V, удовлетворяющая условию g ^ g°, и
mu m2 — две (a, g)-умеренные весовые функции на W. Тогда
отображение {а\, a2)t—>а = а\ ф а2, задаваемое формулой
композиции A8.5.6), можно продолжить до слабо непрерыв-
непрерывного билинейного отображения из S(m\, g)X S(rri2, g) в
S{mini2,g). Положим
A8.5.17) h (x Л? = sup gxb/glv
Отображение, переводящее пару (аиа2), a/S S(m/, g), в оста-
точный член
ai#<h(x, i)- Z {lo(Dx, Dt; Dy, Dn)/2))>a,(x, \)a2(y,

18.5. Исчисление Вейля 213
вычисленный при {х, %) = {у, т\), непрерывно как отображение
в пространство S{hNm\rri2,g) для любого целого N. Оно являет-
является нулевым, если а\ или а2— многочлен степени ниже N.
У записанного выше ряда члены с (не)четными индексами
(косо)симметричны по аи а*. Отсюда следует, что
а, # а2 — Ог # а, — {а1( a2}/i e= 5 (ft3m,m2, g),
п\ # а2 + а2 # а, — 2ala2 s S (ft2m,m2, g).
В обоих случаях в исчислении, развитом в § 18.1, мы имели бы
на один множитель h меньше.
Применяя вместо предложения 18.5.2 предложение 18.5.3,
получаем следующий более общий результат:
Теорема 18.5.5. Пусть g\, g2 — две а-умеренные метрики в
W = V Ф V, удовлетворяющие оценкам A8.5.13). Предполо-
Предположим, что функция
A8.5.17)' Н(х, tJ = sup glxl/g^ ^ snp g2x<l/g<;xl
не превосходит 1. Положим g =(gi-\-g2)/2> и пусть т.),
/ = 1, 2, суть gj-непрерывные (о, g) -умеренные весовые функ-
функции. Тогда отображение (а\, a2)t—*a = а\ Ф а2, задаваемое
формулой композиции A8.5.6), можно продолжить до слабо не-
непрерывного билинейного отображения из S(m\, gi)X 5(m2, g2)
в S(m\tn2, g)- Отображение, переводящее пару (а\, a2) в N-U
остаточный член, указанный в теореме 18.5.4, непрерывно нак
отображение в пространство S(HNm.\m2, g) для любого це-
целого N.
Отметим, что за счет степеней функции Н, которая может
быть много меньше, чем функция h, задаваемая формулой
A8 5.17), оценки поправочных членов в нашем исчислении су-
существенно улучшаются.
Дадим теперь некоторые примеры. Прежде всего заметим,
что если В(х, 1) = 2(х, 1), то qBXil{y, n) = gax,i(y, —Ч), ибо
(У, Б> + <*, П> = *((</, -Л), -(х, D).
Если V- и V-направления ^-ортогональны в каждой точке, то
gB __ ^в# Из рассуждений, проведенных в конце § 18.4, вытекает
поэтому, что метрика A8.4.1)' является о-умеренной при 0^6
^ р ^ 1 и 8 < 1. Более общие a-умеренные метрики строятся
стедующим образом:
Предложение 18.5.6. Пусть метрика g является о-умеренной, а
метрика G — tng, где m 2^ 1, — медленно меняющейся, причем
G ^ G0. Тогда G тоже а-умеренна.

214 18. Псевдодифференциальные операторы
Доказательство. Надо показать, что для некоторых С и N
A8.5.18) G,
Если величина Gw{w— w\) достаточно мала, это следует из
предположения, что G — медленно меняющаяся метрика, по-
поэтому можно считать, что Gm(w — w\)^C\. Допустим, далее,
что gw(w — w{) < с, где с столь мало, что при выполнении этого
неравенства
Тогда оценка A8.5.18) с N=\ будет доказана, если мы уста-
установим, что
m (о»,) < Cm (w) g°Wi (w — w^/tn (a;,).
Ho
c, < m (ay) gw (ay — w,) < Cm (w) gw, (w — ay,)
где h — функция, задаваемая формулой A8.5.17), а поскольку
G ^ G°, то h{w\Jm{w\J ^ 1. Отсюда следует требуемое утвер-
утверждение, и остается только рассмотреть случай, когда
gWl(®> — Wi)~^c2 для некоторого фиксированного с% > 0. В этом
случае
g°m (w — wx)/m (ay,) = G°m (w — a»,) > G^ (ш - a»,) > c2m (a»,),
откуда
c2m (ш,J < g%t (w — ш,), Cgg^ (ay — ay,) < G°Wi (w - ay,J.
Так как
и m > 1, иы получаем A8.5.18) с N = 2N' + 1- Доказательство
завершено.
Для конформных метрик g-] и g2 условие теоремы 18.5.5
упрощается:
Предложение 18.5.7. Пусть gi и g2 — конформные а-умеренные
метрики, для которых hf(wf = sup gjwlg°lw ^ 1. Тогда справедли~
вы оценки A8.5.13) и функция Н, задаваемая формулой
A8.5.17)', равна (ft,^I/2.
Доказательство. По предположению, g2 = mgi для некоторой
положительной функции пг. Следовательно, hl = m2h2[ и
Я (даJ = sup g2jg°lw = m(w) /г, (а;J = /г, (ш)/г2(да).

18.5. Исчисление Вейля 215
В случае giw(wi — w)^ с первая оценка A8.5.13) следует из
того факта, что g\— медленно меняющаяся метрика. Если же
glw{Wi — W)^C, ТО
в2. (» — Wlf — т И g°lw (W — W\f
> т (ш) h{ (w)~2 glm (w — да,) g°lw (w — w,)
>c8aiw(w — a»,),
поскольку m(w)h\(w)==h2(w)^ 1. Отсюда ввиду с-умеренности
метрики gi вытекает первая оценка A8.5.13). Вторая устанав-
устанавливается аналогично.
Теоремы 18.5.4 и 18.5.5 дадут далеко идущее обобщение тео-
теоремы 18.1.8, как только мы получим аналог теоремы 18.1.6,
позволяющий рассматривать а\ ф аг как символ композиции
соответствующих операторов в 9? или в 9". Однако получить
этот аналог не так просто, и мы отложим это до § 18.6. А сей-
сейчас обсудим вопрос об инвариантности исчисления Вейля отно-
относительно аффинных симплектических преобразований х> т- е-
аффинных отображений % пространства W в себя, удовлетво-
удовлетворяющих условию %*а = а. При установлении этой инвариантно-
инвариантности можно считать, что V=R". Примерами таких преобразо-
ваний служат:
a) сдвиги хI—» х -\- хо в V;
b) сдвиги |i—»I -f go в V'\
c) отображение %{х, |), при котором */, |; заменяются на |/,
—jc/, а остальные координаты остаются неизменными;
d) отображение х(х,1) — (Тх,*Т-1%), где Т — линейная биек-
ция пространства R";
e) отображение %{х, |) = (лг, | — Ах), где А — симметричная
матрица.
Лемма 18.5.8. Всякое аффинное симплектическое отображение
представимо в виде композиции отображений указанных выше
типов а)—е).
Доказательство. Поскольку а) и Ь) доставляют все сдвиги, до-
достаточно рассмотреть линейные отображения %. Группа G, по-
порожденная отображениями типов с)—е), транзитивна. Действи-
Действительно, базисный вектор е\ =A, 0 0) переводится в век-
вектор A, 0, ..., 0, |) с каким угодно | отображением типа е)
с подходящей матрицей А, а значит, переводится в любой век-
вектор (jc, |) с х ф 0 — надо просто применить затем соответствую-
соответствующее отображение типа d). Все элементы вида @, |), 1=й=0,
получаются, если использовать отображения типов d) и с). Сле-
Следовательно, всякое % есть композиция некоторого элемента из

216 18. Псевдодифференциальные операторы
G и некоторого симплектического линейного отображения %и
удовлетворяющего условию xi^i — #ь Таким образом,
o{Xi(x, I). e,)==ff((*, 1), е,) = |„
т. е. xi сохраняет координату |i. Отсюда следует, что если по-
положить х/=(х2, ..., х„) и !'=(|2, .... |п), то отображение
Хг(-*Л ?'). определенное как xi @. *'. 0, V) («удаляем» коорди-
координаты jci и |i), также будет симплектическим. Если л > 1 и наше
утверждение уже доказано для меньших значений п, то xi мож-
можно записать в виде xi = ХзХг, где %2 принадлежит группе G, от-
отвечающей переменным х!', ?', а хз — симплектическое отображе-
отображение вида
Симплектичность хз означает, что
?(<?, л а, <?, + *,<?, л <**,) = <),
2
поэтому 02= ... = an = b2= ... =й„ = 0. Таким образом,
2Сз есть отображение типа е) с Ах = {а\Х\, 0, ..., 0), взятое в
композиции с отображением типа с) для / = 1. Доказательство
завершено.
Теорема 18.5.9. Для каждого аффинного симплектического пре-
преобразования х пространства W = V Ф V существует унитарное
преобразование U пространства L2{V), определенное однознач-
однозначно с точностью до постоянного множителя, по модулю равного
1, такое что для всех линейных форм L на W
<18.5.19) U~xL{x, D)U = (LoX){x, D).
Это преобразование U является автоморфизмом пространств 9*
и 9", и
08.5.19)' U~lav{x, D)U==(a°x)v{x, D)
для всякого а е 9"(W).
Доказательство. Утверждение о единственности достаточно уста-
установить для случая, когда х — тождественное преобразование.
Итак, пусть U — унитарное преобразование, такое что
UL(x, D) = L(x, D)U
для каждой линейной формы L. Тогда U коммутирует с одно-
параметрической группой, порожденной оператором L. В част-
частности, U(fg)= f(Ug) для g^L2{V), если / — ограниченная
экспонента, а значит, и если / — любая функция из 9, ибо ее
можно разложить на экспоненты с помощью формулы обраще-

18.5. Исчисление Вейля 217
ния Фурье. Отсюда следует, что Ug = hg, где h — некоторая
функция, по модулю почти всюду равная 1. Поскольку U ком-
коммутирует и со сдвигами, ясно, что эта функция должна быть
постоянной. (Отметим, что этот результат очень близок к лем-
лемме 7.1.4.)
Для доказательства существования преобразования U, удов-
удовлетворяющего условию A8.5.19), достаточно рассмотреть ука-
указанные выше случаи а)—е). В этих случаях в качестве U можно
взять следующие операторы:
a)
b) p
c) оператор взятия преобразования Фурье по
d) C//(x) = /(r-'x)|det7T;
e) Uf(x) = exp(-i(Ax, x)/2)f(x).
Тем самым утверждение о существовании доказано. Если
а(х, |) = exp(/L(jc, 1)) для некоторой вещественной линейной
формы L, то aw(x, D) — exp(iL(x, ?>)) в смысле теории опера-
операторов и, следовательно, выполнено A8.5.19)'. Поскольку огра-
ограниченные экспоненты слабо плотны в <?", то A8.5.19)' верно и
в общем случае. Доказательство завершено.
Теперь обсудим связь между исчислением Вейля и исчисле-
исчислением, развитым в § 18.1. Сначала предположим, что a ^9*(W).
Тогда оператор а(х, D) имеет ядро К^.9>, задаваемое форму-
формулой A8.1.7), поэтому а {х, D) = bv (x, D), где ie^ задается
формулой A8.5.4)":
Ь(х, ?)=$*(*+ //2, x-
= Bп)~п \\а(х + t/2, r\)е'«- ч-!>dr\dt
Последнее равенство вытекает из рассуждений, использованных
при выводе формулы A8.5.6). Из A8.1.9) следует, что если
c(x,D) определено формулой A8.5.2), то с(х, D)— a{x, D), где
По соображениям непрерывности эти наблюдения сохраняют
силу и для а, Ь, с е 9". Далее, как было отмечено после тео-
теоремы 18.5.5, всякая о-умеренная метрика g, удовлетворяющая
условию gx, i(t,x) — gx, i{t, —т), будет и В-умеренной для
В (х, |) = 2<лг, |>, и для таких g функция m является (с, ^)

218 18. Псевдоднфференциальиые операторы
ренной тогда и только тогда, когда она (В, g) -умеренна. Мы
приходим к следующему результату:
Теорема 18.5.10. Пусть а-умеренная метрика g удовлетворяет
условию g ^ g°, а функция m является (a, g)-умеренной. Если
gx, х (t, x) ss gx, t (t, —т), то expiinDx, D{) — слабо непрерывный
изоморфизм пространства S (m, g) для всякого x e R и
e{*(D*-Dl>a(x, 1)- Z (lxDx, Dja(x, l)/j\ <=S(h»m, g)
для каждого целого N, где h — функция, определенная форму-
формулой A8.5.17). Если а, Ь, c<=S(m,g), то a(x,D) = bv(x,D)
= с(х, D) тогда и только тогда, когда
Ь(Х, 1) = е-1(°*-Щ2а(х, Э-е^ Wr(x, й.
<18.5.20) а{х, 1) = е*<Р*'Ы2Ь(х, 1) = е^°'- Dl>c(x, I),
с(х, 1)-е-*Р* Di)a(x, l) =
Если gx, s@, т)^|т|2, то билинейные отображения (а, и)
*—*а(лг,D)u, (b,u)y->b™{x,D)u и (c,u)^-*¦c{x,D)u непрерывны
как отображения из S(m, g)X & в 91, а также как отображения
из S(m,g)X9" в 9".
Доказательство. Достаточно показать, что отображение (а, и)
>->a{x,D)u непрерывно как отображение из S(m, g)X^ в 9>.
Поскольку
m(х, |) < Cm @, 0) A + fi& 0(*. Щ" < С AЧ- UI2 +11 ?)N
для некоторых С, С и /V, оно непрерывно как отображение в
пространство непрерывных функций / с sup 1/(лг) |/A +|*|2)"
<; с». Но, в силу A8.1.6), для некоторых постоянных сар
A +1 дс f)N а {х, D) = Е сайа^ (х, D) xfi,
и из наложенных на метрику условий вытекает, что а ^—> а(а)
при любом а есть непрерывное отображение пространства
S(m,g) в себя. Следовательно, наше отображение непрерывно
как отображение в пространство непрерывных ограниченных
функций на R". Его непрерывность как отображения в простран-
пространство 9* вытекает теперь из доказательства теоремы 18.1.6, по-
поскольку для любого t e W
(D, ()a<=S(mf, g),
где функция m'(x, |) = m(x, \)gx, s@1/2 тоже (о, g)-умеренна
(см. также доказательство теоремы 18.4.10'). Доказательство
завершено.

18.5. Исчисление Вейля 219
Замечание. Приводимая ниже теорема 18.6.2 показывает, что
ограничение на метрику, фигурирующее в утверждении о не-
непрерывности, излишне. Однако доказательство теоремы 18.6.2
уже далеко не так просто, а полученный выше легкий резуль-
результат позволяет охватить большинство метрик, встречающихся в
приложениях.
Из доказанной теоремы вытекает, что если, в ее предполо-
предположениях, а/ ^ S (т./, g) и м е У, то
aj (x, D) а* (х, D) и = (а, # а2)" (х, D) и.
Действительно, возьмем для / = 1, 2 последовательность
а/у е 91, ограниченную в S (т/, g), у которой все члены с до-
достаточно большими номерами v совпадают с aj на любом ком-
компакте. Тогда ajv(x, D)u-*aJ(x, D)u в 91 при v->- оо, а потому
(alv#a2v)w(*,?)« = au(x,D)a*(*. D)u^a? (x, D)aJ(x, D)u в 9>.
Но aiv#fl2v слабо сходится к а\ # а2, откуда и следует сде-
сделанное утверждение.
Далее, используя полученные выше результаты, легко заново
вывести, уже в предположениях теоремы 18.5.10, правила ком-
композиции для стандартных псевдодифференциальных операто
ров. Пусть, например, ai^S(mltg) и а\{х, D)a2(x, D)=a3{x, D)-.
Тогда af(x, D) = bf{x, D), где
и мы имеем
Ьз (х, i) - ,' «"t D*>-<^ \)V\ (x, I) b2 (y, r,) \x_ 8_f, „.
Поскольку
((Dx + Dy, Dt + DJ + (Dv Dy) - (Dx, D4)
- (Dx, Zty - (Du, D^/2 = (Dv Dy)^
заключаем, что
A8.5.21) a3(x, 1) = е<<°1- Du)ul (х, 1)а2(у, Ц) |л, 8.,, „.
Это в точности формула A8.1.14), которая тем самым доказана!
в гораздо большей общности, чем в § 18.1.
Если а (х, D) — псевдодифференциальный оператор с поли-
полиоднородным символом
а(х, \)~ат{х, i) + am_,(jc, Q+ ...
(символ а, однороден по | степени /), то, применяя теорему-
18.5.10, можно записать этот псевдодифференциальный опеоа-

220 18. Псевдодифференциальные операторы
тор в виде а (х, D) = bv {x, D), где Ь (х, |) ~ ? Ьт_, (х, I). При
этом
Ьт (х, I) = ат (х, I),
т. е. bm-i совпадает с субглавным символом оператора а(х, D)
(см. A8.1.32)). Таким образом, исчисление Вейля объясняет
роль субглавного символа, а формула композиции исчисления
Вейля немедленно дает правила для вычисления субглавного
символа.
18.6. Оценки для псевдодифференциальных операторов
В этом параграфе мы сначала доказываем, что оператор
aw(x,D), отвечающий символу a^S(tn,g), непрерывен в 9" и
в 9"', если метрика g и весовая функция т являются соответ-
соответственно а-умеренной и (о, g) -умеренной. В частном, но важном
случае это уже было установлено в теореме 18.5.10. Как и в
этом частном случае, из указанного результата вытекает, что,
когда выполнены предположения теоремы 18.5.4 или теоремы
18.5,5, оператор (а\ # a2)w(*, D) представляет собой компози-
композицию операторов а*(х, D) и а™(х, D) в 9>, а также и в 91'. За-
Затем мы доказываем, что если метрика g удовлетворяет условий
g ^ g°, а весовая функция т ограничена (соотв. стремится к 0
на оо), то оператор av(x, D) ограничен (соотв. компактен) в L2.
Этот результат в сочетании с развитым в § 18.5 исчислением
позволит нам получить эффективные оценки снизу для опера-
операторов с неотрицательным символом.
Как обычно, мы расщепляем символ на части с помощью
разбиения единицы из леммы 18.4.4. Для рассмотрения же та-
таких частей достаточно следующего простого результата:
Лемма 18.6.1. При любом, asP7(R2n) для Ь2-нормы оператора
aw (x, D) выполняется неравенство
|| а* (х, D) || < Bл)" || й \\Lt = || а Ц№.
Доказательство. Ядро Шварца К оператора av(x, D) равно
К (х, у) = Bя)-п J а ({х + у)/2, |) e<*-v- 5>dg
= Bя)п J й F, у - jc) el «+»•

18.6. Оценки для псевдодвфференциальных операторов 221
Следовательно,
J|/C(jc, y)\dx<\\a\\n,, \\K(x, y)\dy^\\a\\PLl,
и наше утверждение вытекает из леммы 18.1.12.
Замечание. При применении этой леммы нам понадобится тод
очевидный факт, что /-Х'-норма символа а оценивается через
конечное число его ^-полунорм. Важно также, что эта норма
инвариантна относительно взятия композиций с аффинными
преобразованиями, — факт тоже очевидный, ибо она представ-
представляет собой полную массу характеров, фигурирующих в разло-
разложении Фурье символа а.
Теорема 18.6.2. Если метрика g а-умеренна, а весовая функция
m является (о, g)-умеренной, то av(x,D) непрерывно отобра-
отображает 9 в 9, а 9" в 9" для каждого aeS(m, g) и слабо не-
непрерывно зависит от а.
Доказательство. Достаточно установить непрерывность в 9, по-
поскольку из непрерывности оператора aw в 9 следует непрерыв-
непрерывность оператора aw в 9'. Пусть {tpv} — разбиение единицы, вве-
введенное в лемме 18.4.4. Определим окрестности t/v носителей
функций tpv, как в лемме 18.4.8, и представим а в виде
a = ?av, av = cpva.
Если обозначить центр шара Uv через a>v, ToS(m (m>v), gw )-полу-
нормы символов av ограничены постоянными, не зависящими
от v. На основании леммы 18.6.1 и следующего за ней замеча-
замечания заключаем, что
ибо относительно произвольных линейных преобразований все
положительно определенные квадратичные формы эквивалент-
эквивалентны. Таким образом, мы имеем для /Лнорм
\а*(х, D) и || < Cm (шу) || «||.
Чтобы получить лучшую оценку, воспользуемся рассуждением,
аналогичным примененному в доказательстве предложения
18.4.6.
Пусть L — произвольная линейная форма на W, положитель-
положительная на Uv В силу леммы 18.4.5, функции L(wv)/L имеют рав-
равномерно (по v) ограниченные полунормы в 5A, gw^ над
suppqv Далее, теорема 18.5.4 (или просто A8.5.5)) дает
A8.6.1) а-{х, D)u = (aJL)"(x, D)L(x, D)u

222 18. Псевдодифференциальные операторы
Символы aJL имеют равномерно ограниченные полунормы
в S (m(w4)/L(wv), gwv)- Запишем L в виде L(w) — o{w, t),
/eR2*. Тогда
{aJL, Ц L-l(t,dav).
Таким образом, мы имеем равномерные границы для полунорм,
скобок {av/L,L) в
Функция L(x,D)u есть линейная комбинация функций х,и и
DjU с коэффициентами, ограниченными длиной вектора t в не-
некоторой фиксированной метрике, скажем g0. Повторно исполь-
используя A8.6.1), получаем
A8.6.2) |а?(х, D)|<() Z \
для всякого положительного целого N, при условии что-
/?<L() L0(/ @ + W<l L()( 0
v<(v) ft@ + ?vW<, ((, 0
В силу теоремы Хана — Банаха в качестве Rv можно взять
расстояние от 0 до Uy в норме, двойственной к (go-\-gw I1г<
относительно а. Эта норма задается равенством
(см. доказательство предложения 18.5.3). Таким образом, мож»
но взять
/?v— min || ш|^.
Чуть погодя мы докажем, что для некоторого N
A8.6.3) Z(l + /?v)"JV<0°. а значит, /?v->oo,
A8.6.4) ?о (o>v)< С A+ /?„)".
Считая это уже доказанным и используя оценку A8.6.2) для
больших v, заключаем, что норма \\av(x, D)u\\ оценивается не-
некоторой ^-полунормой функции и, при условии, что
для некоторого #; это условие заведомо выполнено, когда
функция т является (a, g) -умеренной. Пусть М(х, D) линейно
по (х, D). Тогда оператору М{х, D)a™(x, D) отвечает символ
Mav + {M, av}/2L
Эти символы имеют равномерно ограниченные полунормы &
пространствах Sfm'w, gw\ для соответствующих m'v, ограничен-

18.6. Оценки для псевдодифференциальных операторов 223
ных некоторой степенью величины l + go(^>v). Следовательно,
?2-норма функции М(х, D)a^(x, D)u оценивается некоторой по-
полунормой функции и в 9'. Повторяя это рассуждение, приходим
к выводу, что оператор aw(x, D) непрерывен в 9".
Итак, осталось только проверить выполнение оценок A8.6.3)
и A8.6.4). Эта проверка проводится аналогично доказательству
леммы 18.4.8. Пусть
Для v e Mk можно выбрать ш^еУч и w'^ так, чтобы выпол-
выполнялись неравенства
Переходя в первом из них к эквивалентной норме g°, и ис*
пользуя A8.5.11), заключаем, что
Следовательно,
g°
So (ю, -
Отсюда сразу следует A8.6.4), а оценка A8.6.3) получается по-
повторением рассуждения из доказательства леммы 18.4.8. Предо-
Предоставим это читателю.
Теперь обратимся к вопросу о непрерывности в L2.
Теорема 18.6.3. Пусть g <; ga, метрика g а-умеренна, а функ-
функция тп является (a, g-) -умеренной. Для того чтобы оператор
aw(x,D) был [^-непрерывным при любом a^S(m,g), необхо-
необходимо и достаточно, чтобы функция m была ограничена. В этом
случае Ь2-норма оператора aw (x, D) представляет собой непре-
непрерывную полунорму в S(m,g).
При доказательстве необходимости нам понадобится сле-
следующая лемма:
Лемма 18.6.4. Для всякой положительно определенной квадра-
квадратичной формы g на R2" существует линейное симплектическое

224 18. Псевдодифференциальные операторы
преобразование % пространства R2", такое что
Числа X,- однозначно определяются по g, и
sup g/ga = max Ц.
Доказательство. Поскольку sup g/g° — симплектический инва-
инвариант, последнее утверждение достаточно установить для
случая, когда g (х, ?) = Ц А/ (*/ +?/). Но тогда ga{x,l)
= И (*/ + ?/)А/> и все очевидно. Чтобы доказать первое
утверждение, рассмотрим собственные значения и собственные
векторы отображения
F: (х, |) н-» Яй (х, Е)/2 = (dg/di, - c>g/c>*)/2,
которое определено симплектически инвариантным образом.
Заметим, что в случае, когда g (х, I) == ? A,/ (*/ + ?/).
) = (a,,i1 л,„|„, — а,,*,, ..., — м»);
поэтому вектор, у которого лг/ ===== 1, |/ = ±i, а все прочие коор-
координаты равны 0, является собственным с собственным значением
±Л/. Следовательно, числа Хь ..., К определяются формой g-
однозначно с точностью до порядка. В общем случае, если г —
собственное значение с собственным вектором (у, т])е .С2я, то
dg/dy = — 2гц.
Полагая (9, w) = 2 B/Wj для 9, w e С", получаем
{dg/dy, у) + {dg/дц, r\) = 2z ((у, х\) - (л, у)).
В левой части мы имеем положительно определенную эрмитову
форму, и
{У, Ч) - (Л, У) — 2i (dm у, Re r\) - <Re i/, Im y\)) = - 2ia (e,, e,),
где ei и 8i — соответственно вещественная и мнимая части век-
вектора (у, т))е .С,2п. Таким образом, число % = z/i вещественно и
отлично от 0. Взяв, если надо, комплексно сопряженные к у, г\,
г, можем считать, что X > 0. Тогда a(ei, e{) > 0, или, если умно-
умножить наш собственный вектор на соответствующую постоянную,
a(ei,ei)=l. Используя симплектические отображения типов
с)— е) из леммы 18.5.8, легко построить линейное симплекти-
ческое отображение %, переводящее единичные векторы вдоль
осей х\ и gi в векторы е\ и ei соответственно (см. также пред-
предложение 21.1.3, где рассмотрена более общая ситуация). Заме-
Заменяя g на g°%, получаем

18.6. Оценки для псевдодиффереициальных операторов 225
где gi не зависит от х\ и |i, ибо dg/дх/ = dg/dlf = 0, / Ф 1, на
собственных векторах A, 0, ..., 0, ±i, 0, ..., 0) отображения
F. Доказательство леммы завершается теперь применением ин-
индукции по п.
Замечание. В гл. 21 мы проведем более подробное обсуждение
вопроса о симплектической эквивалентности квадратичных
форм (см. теорему 21.5.3), используя аппарат, развитый в § 21.1.
Отметим, что в лемме 18.6.4 мы могли бы равным образом при-
привести g к виду ? (*/ ~Ь h%*). Эта лемма хорошо известна в
классической механике, где X/ появляются как основные частоты
малых колебаний механической системы около положения рав-
равновесия.
При доказательстве утверждения о достаточности в теоре-
теореме 18.6.3 мы будем использовать то же разложение символа а,
что и в доказательстве теоремы 18.6.2. При рассмотрении воз-
возникающих сумм нам понадобится следующая лемма Котлара,
Кнаппа, Стейна, Кальдерона и Вайянкура о суммах почти ор-
ортогональных операторов, дополненная одним замечанием о ком-
компактности, подготавливающим теорему 18.6.6:
Лемма 18.6.5. Пусть Ни Н2— гильбертовы пространства и Ait
ie/, — счетное семейство ограниченных операторов из Я, в #2,
такое что
A8.6.5) ? 1 А]Ак I < М, ? | А,А\ Г < М.
ft k
Тогда ряд
Su= ? A/U, us H,,
i '
сходится в смысле сходимости по норме в Я2 и ||5||<! М. Если
сумма
st= ? а,
является компактным оператором для каждого J а I, то
II Л/И-*-0 при j-+oo el.
Доказательство. Допустим сперва, что число элементов множе-
множества / конечно; обозначим его через N. В силу спектральной
теоремы, ||5||2 =||S*5|| и, более общо, ||5||2т =||E*5)т||. Члены
разложения оператора (S*S)m в сумму произведений операто-
операторов А] и их сопряженных допускают оценку
IV/, • • • Af2m-AJ
8 Зак. 443

226 18. Псевдодифференциальные операторы
Взяв среднее геометрическое этих двух границ и заметив, что
ввиду наших предположений ||Л/||^ М, получаем
где сумма берется по /ь ..., ]2т- Если, используя A8.6.5), по-
последовательно оценить сумму по \гт, ..., ]%, то останется толь-
только сумма по /ь и мы видим, что
|| S ||2m < NM2m-
Извлекая корень степени 2т и устремляя т к оо, заключаем,
что HSIKAf.
Пусть теперь / бесконечно. Из второго неравенства A8.6.5)
следует, что ряд Su сходится, если u = A*{v для некоторого /.
(Заметим, что || ЛйЛ* || = (Л/Л* ||</М| Л, Л* |.) Поскольку
для любого конечного множества / с I, ряд Su сходится и для
всех и из замкнутой линейной оболочки (объединения) обра-
образов всех операторов А*. Если вектор w ортогонален к этому
подпространству, то Л/до = 0 для каждого /, т. е. все члены
ряда Sw равны тогда нулю. Таким образом, наш ряд сходится
всегда, и ||S||^M, так как это верно для конечных сумм.
Чтобы установить последнее утверждение леммы, достаточно
показать, что если ||Л/||^с>0, / е /, то оператор ? А, не
/е/
компактен для некоторого / с= /. С этой целью докажем, что
можно выбрать \\, /2, ... е / так, чтобы для' каждого ц
S \А,А]
Предположим, что /i, ..., }n-i уже выбраны так, что это нера-
неравенство выполняется как строгое для всех ц < N, при условии
что суммирование ведется лишь по v < N. Нам надо тогда
подобрать \N = j так, чтобы
S || л, а:\< i/n,
v<N« 'v ' I
Е .
II i\i f\, n ~j~ /ii/ij I ^^ *¦/№ ПрИ \X ^^ iV,
ЧФ\1\\ 'v 'цИ II ' 'ill!
Но в силу второй оценки A8.6.5) первое из этих неравенств
выполняется для всех /, за исключением конечного числа,
а поскольку \АЛ) 11= Л, Л*||, то же верно по предположению
II ' '\х II 'и ' \\
индукции и в отношении второго неравенства. Положим теперь

18.6. Оценки для псевдодифференциальиых операторов 22?
J — {!i> /2. •¦•}• Для каждого / выберем вектор Ыу <= #2, такой
что j«/J=l и |Л*и/|>|Л)|/2>с/2. Тогда v/ = A'juJ слабо схо.-
дится к 0 в Я]. Действительно,
(A]ur A-kv) = (AkA)uj,v)^0 при у->оо,
поэтому (^4)"/, ьу)^-»-0 для каждого а» лз замкнутой линейной
оболочки образов операторов A"k. Так как Лйш=0 для каждого &,
если w лежит в ортогональном дополнении к этому подпро-
подпространству, то (¦dj"/, в>) = 0 для всех./. Таким образом, v слабо
сходится к 0. Если бы оператор Sj был компактен, то мы
имели бы HS/0/Ц-^О при /->-оо. Но для /, fee/
Норма суммы ряда в правой части не превосходит Iff. Следо-
Следовательно, |Л;Лд. |->0, а потому
что невозможно. Доказательство завершено.
Доказательство теоремы 18.6.3. Необходимость. Пусть оператор
а*(х, D) является /.^непрерывным для всех а е S(m, g). По-
Поскольку функционал
/эан->(а*(х, D)и, v)
непрерывен для всех и, v e 91, отображение
S(m, g)=>ab-> a* (x, D)<=2? (L2, L2)
(по предположению являющееся отображением между указан-
указанными пространствами) замкнуто. Следовательно, по теореме о
замкнутом графике, оно непрерывно. Пусть wv — стремящаяся
к сю последовательность в W. Мы докажем, что у последова-
последовательности m(wv) есть ограниченная подпоследовательность.
В силу леммы 18.6.4 найдется такое линейное симплектическое
отображение %v из пространства R2", наделенного обычной сим-
плектической структурой, в W, что квадратичная форма
gwv(%v(y, Л)) имеет диагональный вид
Поскольку g <! ga, все A/v ограничены по модулю единицей. По-
Поэтому можно считать, что у них существуют пределы при
v ->¦ сю. Возьмем ф е Со° (R2") и положим
A8.6.6) ev (*, I) = ф (х, Х& = 6V (a»v + Xv I*, D),

228 18. Псевдоднфференцнальные операторы
где Avi = (A,lvi,, ..., Anv|n). Если носитель функции ср доста-
достаточно мал, то m(wv)bv будет ограниченной последовательностью
в S(m, g). Норма оператора 6™ (х, D) равна норме оператора
е™ (х, D), так как эти операторы по теореме 18.5.9 унитарно
эквивалентны. Но
е* (х, D)u = BпГп J J Ф ((х + у)/2, XJ,) е'-^-У- &и (у) dy d\
имеет при подходящем выборе и^С™ ненулевой предел при
v-*oo. Отсюда вытекает, "что нормы ||е"(*, D)u\ отграничены
от нуля при больших v. Следовательно,
1 т (a»v) 6v (x, D) | > cm {wv),
откуда видно, что последовательность m{wv) должна быть огра-
ограниченной. Этим завершено доказательство утверждения о не-
необходимости.
Достаточность. Не уменьшая общности, можно считать, что
т = 1. Записывая символ а в виде а= 2 av, как и в доказа-
доказательстве теоремы 18.6.2, имеем, вновь по лемме 18.6.1,
Покажем, что для операторов Ау = а*(х, D) выполнены оценки
A8.6.5). Для этого надо рассмотреть композиции
Разумеется, достаточно разобрать случай av(l. Ввиду A8.5.6),
V V Wfiv {Xt i) a^ {у,
Применим оценку A8.4.16) с <2V, замененными на d'v, получаю-
получающиеся подстановкой g* вместо g* в определение A8.4.15) функ-
функций <2V. Эта замена законна, поскольку 1 + <2^<ICA + dv)N>
в силу A8.4.13)". Таким образом, для любого положительного
целого к
где
М (w) = min g°w (w — да') + min g°w (w — w").
Ясно, что
g°w(w'-w")<2M(w),

18.6. Оценки для псевдодифференцнальных операторов 229
если точки w'^Uv и ш"е!/,, выбраны так, чтобы достигались
минимумы, фигурирующие в определении функции М. Далее,
A8.6.7) g°w (да' - да") < Cg°w, (да' - w")
A8.6.8) \+gWv(w-wv)<C(l+gw,(w-w'))
<C,A + g°w,{w - a»'))<C2(l + g°w(w-w'))N+l
Полагая
d = min g°w (о/-да"),
заключаем на основании A8.6.7), что для всех w справедлива
оценка
с некоторыми новыми постоянными С и N. Учитывая A8.6.8),
получаем, что для всякого k
A8.6.9) |а,ц(ш) |<С* A + dvv)-k A + gwJw - wy))~k.
Та же оценка выполняется для любой полунормы в S(\,gw).
Действительно, если gWv{t)^\, то, применив к aV(i дифферен-
дифференциальный оператор <D, t}, мы получим один член, где диффе-
дифференцирование падает на av, что никак не сказывается на оцен-
оценках, и другой, где оно падает на а^. Это может привести к по-
потере множителя (gw (t)/gwv(t)I12 в нашей оценке. Но этот мно-
множитель ограничен некоторой степенью величины 1 + d4ll, откуда
и следует высказанное утверждение. Поэтому лемма 18.6.1 в со-
сочетании со следующим за ней замечанием дает.
для любого ЛЛ Чуть позже мы докажем, что для некоторых С
и W
A8.6.10) EA+<V
v u
Используя эти оценки и лемму 18.6.5, заключаем, что
||I!С
(,)
Осталось доказать оценки A8.6.10), родственные оценке из
леммы 18.4.8. Поскольку для ю'е^и до" е ?/ц
g*,(w' - w"))
A + gj. (а»' - w")f < С" A + Щ (wr - anI*',

230 18. Псевдодифференциальиые операторы
ТО
Следовательно, достаточно установить вторую из оценок A8.6.10).
Выберем g-^-ортонормированные координаты с началом
в точке wy. Тогда метрика g° не меньше евклидовой ме.
V
трики ga,v. Если dvii^.k, то найдется точка m/'^.U^, евкли-
евклидово расстояние которой от 0 не превосходит Ckw. Метрика,
отвечающая этой точке w"', оценивается некоторой степенью
взятой с коэффициентом k евклидовой метрики, поэтому шар
радиуса k~N с центром в до" содержится в U^. Как и в дока-
доказательстве леммы 18.4.8, отсюда сразу следует, что число ин-
индексов ц, для которых dVil^k, ограничено некоторой степенью
числа k, чем оценки A8.6.10) и доказаны.
Теорема 18.6.6. Пусть метрика g а-умеренна и удовлетворяет
условию g <: ga, а функция m является {a,g)-yмеренной. Для
того чтобы все операторы av{x,D) с а е S(m, g) были ком-
компактными операторами в L2, необходимо и достаточно, чтобы
tn-+Q на сю.
Доказательство. Ясно, что (в обозначениях, использованных при
доказательстве теоремы 18.6.3) все операторы а™ компактны.
Если /л-»-0 на с», то для всякого s>0 найдется конечное
множество N(e), такое что функции
(а - Ц avVs
остаются ограниченными в 5A, g), когда s-»-0. Следовательно,
по теореме 18.6.3,
чем и доказана компактность оператора av(x,D). Обратно,
пусть все операторы aw(x, D) с aeS(m,g) компактны. Тогда,
в силу теоремы 18.6.3, функция m ограничена. Если 6V опреде-
определены, как при доказательстве утверждения о необходимости в
теореме 18.6.3, и пи, = m(wv), то
Y, mvb4 e 5 (пг, g)
не/
для всякого подмножества / множества индексов v. Следова-
Следовательно, оператор
2 тф%(х, D) .

18.6. Оценки для псевдодифференциальных операторов 231
компактен по предположению, и, как следует из доказательства
утверждения о достаточности в теореме 18.6.3, операторы 6"
удовлетворяют оценкам A8.6.5), а потому, ввиду леммы 18.6.5,
т„\Ьч (х, D)\—*-0. Поскольку нормы [&*(.*, D)\\ отграничены от
нуля, заключаем, что пц—*0 при v-юо, а значит, т(х, ?)-*•<)
при (л:, |)-*оо. Доказательство завершено.
До сих пор мы рассматривали лишь скалярные псевдодиф-
псевдодифференциальные операторы. Ясно, что в исчислении, развитом
в § 18.5, ничего не изменится, если допустить функции и со
значениями в банаховом пространстве В] и символы а со зна-
значениями в S?{В\, Вг). так что av(x,D)u будет функцией со
значениями в В2- Однако проведенный выше вывод /Лоценок
опирается на лемму 18.6.5, в которой существенно используется
структура гильбертова пространства. Поэтому теоремы 18.6.3 и
18.6.6 применимы только в случае, когда пространства Bi и В2
гильбертовы, причем в случае второй из этих теорем они вооб-
вообще должны быть конечномерными.
В качестве первого приложения изложенных выше ре-
результатов обобщим теорему 18.1.14. Заметим, что в обо-
обозначениях, которые в ней использовались, символ Вейля опера-
оператора (а (х, D)-\- a(x, D)*)/2 по модулю Sm~2 равен
Re (а -+- (//2) ? d2a/dxfdlj). Мы рассмотрим лишь случай /я = 0,
ибо аналоги пространств H(S) не были определены здесь в
общей ситуации.
Теорема 18.6.7. Пусть метрика g является а-умеренной,
{18.6.11) b(x,t? = svipgxjg°k^l
и 0<ae=S(l/A, g). Тогда
A8.6.12) (a'(*. D)u, u)>-C\\uf, ue=9>,
где скалярное произведение и норма берутся в L2(Rn).
Доказательство. Для метрики
имеем
sup QJG", = (a (w) + 1 Г2 h (w)~2 sup gjgaw - (a (w) + 1 ) < 1.
Если показать, что метрика G — медленно меняющаяся, то из
предложения 18.5.6 будет следовать, что она a-умеренна, по-
поскольку множитель h(a -f 1), которым различаются метрики G
и g, можно заменить на min(l,ft(a -f 1)), ибо функция h(a-\-l)

232 18. Псевдодифференциальные операторы
ограничена. Таким образом, функция а + 1 является (a, G)-
умеренной. Мы докажем также, что
A8.6.13) a+leS(fl+l,G),
т. е.
A8.6.13)' \aW{w,tu...,tk)\
При k^2 это вытекает из предположения aeS(l/A,g), по-
поэтому достаточно установить, что
A8.6.13)" | h (w) a' (w) t\ < С (h (w) a (w)f2 gw (tf2.
Введем ^-ортонормированные координаты zi, ..., г%п с нача-
началом в точке w и рассмотрим h(w)a как функцию F(z) от
этих координат. Тогда
\DzF(z)\^Ca, \z\<c,
для всех а, так как а е S(l/h, g), и f ^0. Следовательно, в
силу леммы 7.7.2,
\F'@)\<CF@)m,
чем и доказано A8.6.13)". Используя формулу Тейлора, полу-
получаем
F(z) + h{w)>(F{0)+h(w))/2 при | г? < с,(F@) + h(w)),
т. е.
2Л(а;)(а(а;,)+ 1)>А(а;)(а(а;)+ 1) при Gw{w~wx)<cl.
Таким образом, GW,^.CGW при Gw(w — w{) < С\, так что мет-
метрика G — медленно меняющаяся.
Если F — функция класса С°° на R, удовлетворяющая усло-
условию
|№')(/)|<С/@ при t>0,
и m^S(m, G), то, как немедленно проверяется, F(m)^ S(F(m),G)
(ср. с леммой 18.4.3). Беря F(t) = t1'2 и т — а-\-\, получаем
ft = (fl+l)eSF, G). Теорема 18.5.4 дает теперь
а"(х, D)+l=bv(х, Df + cv(x, D),
где CES((fl + l)"',C)c5(l,(f). Следовательно, оператор
cw(x, D) ограничен, чем теорема и доказана, ибо оператор
bw(x,DJ положителен,

18.6. Оценки для псевдодифференциальных операторов 233
В последней части доказательства имеющаяся информация
использовалась настолько расточительно, что можно предполо-
предположить, что справедлив и более сильный результат. И действи-
действительно, мы докажем сейчас более сильное неравенство Феффер-
мана — Фонга:
Теорема 18.6.8. Если метрика g является а-умеренной и выпол-
выполнено A8.6.11), то оценка A8.6.12) верна для всех неотрица-
неотрицательных а е S A/Л2, g).
Решающим моментом доказательства теоремы 18.6.7 было
применение леммы 7.7.2. Установим сходный результат, в кото-
котором принимаются в расчет производные порядка =s^4. Будем
обозначать через Вг шар {jsRv; |^|<^}. где \х\2 = е — ев-
евклидова метрическая форма.
Лемма 18.6.9. Пусть 0</eC°°(fi2), и пусть
A8.6.14) 1/С(*)<1 при х<=В2,
A8.6.15) max(/@), |/g@)) =1.
Тогда найдется такое г > 0, не зависящее от f, что
A8.6.16) 1/2 < max (/(*), \ff2(x))<2 при х<=Вг,
A8.6.17) \ff,(x)<8 при /<4, *е=?г,
A8.6.18) f(x) = f1(x) + g(xJ при х<=Вг,
где f{, g^C°°(Br), причем fi^O и (у, d)fl(x) = O при xsSr
для некоторого j/ е Rv \ 0. Точные верхние грани модулей | Dafi |
и \Dag\ в шаре ВГ оцениваются через точные верхние грани моду-
лей\й*1\ в Вг для |р |<2 + |а|.
Доказательство. Прежде всего оценим \f\1@) и If 1^@). Пусть
f/{x) — однородная часть степени / тейлорова разложения функ-
функции / в 0. Тогда в силу формулы Тейлора
0</(*)<l+U*) + U|2/2 + M*) + Ul724, \x\<2.
Следовательно,
Из этого неравенства и неравенства, получающегося заменой
х на 2х, вытекает, что при \х\= 1
I А (х) + h (х) I < 3/2 + 1/24, | 2/, (х) + 8/s Wl<3 + 2/3,
откуда
6|

234 18. Псевдодифференцнальные операторы
Таким образом, |/^@)<3 и 1Лз@)<7. Из формулы Тейло-
Тейлора следует теперь, что для достаточно малого г выполняются
оценки A8.6.16) и A8.6.17).
Переходя к доказательству справедливости представле-
представления A8.6.18), рассмотрим сперва случай, когда |/|^@)=1,
a f@) мало. Используя лемму 7.7.2, убеждаемся, что \rf'(Q)f
^2/@), если г < 1/2, поэтому производная f @) также мала.
Квадратичная форма /2(*) обладает собственным вектором у
с собственным значением ± 1/2. Выполнив, если надо, соот-
соответствующее ортогональное преобразование, можно считать,
что */ = е,=A,0 0). Таким образом, d2f@)/дх2 = ± 1 и
d2f@)/дххдх/ = 0 при \ф\. Поскольку
0< f (*„ 0 0) < f @) + х, df @)/<Э*, ± х2/2 + 7\х, |3/6 + xf/24,
заключаем, беря х, ^±1/3, что если f@)< 1/100, то
d2f(O)/dxl = +l, ибо 1/100-1/18+ 7/162+ 3~4/24<0. Если
|дг, \ = г и \х'\<г, х'=(х2, ..., хп), то, как следует из оценки
| df (х)/дХ] - df @)/d*, - xi К 4 \х Т + \х Р/6,
имеет тот же знак, что и хи при условии что
Выберем и зафиксируем г столь малое, что 4г + г2/6 < 1/2 и
1/2 < д2! (хIдх\ < 2 для х е= В2г'). Если / @) < г4/8, то /' @) < г/2,
так что уравнение
A8.6.19) dlf(xu *') = 0
имеет единственное решение хх—Х(х'), удовлетворяющее усло-
условию | хх | < т при | х' К г. Так как
мы последовательно получаем, что все производные порядка k
от X оцениваются через границы для производных порядка
fe+1 от f, ибо d2f(X, x')^sl/2. Используя формулу Тейлора
и A8.6.19), заключаем, что f = fi-\-g2 в Вг, где функция
не зависит от Хи а
g (xJ = f(x)-f(X (*'), ^') = (*i - X (л;')J Q (а:),
Q (*) = J а»/ ( х, + t (X (x') - Xl), х') i dt.
') Л также г4/8 < 1/100. — Прим. перев.

18.6. Оценки для псевдодифференциальных операторов 235
Ясно, что Q ^ 1/4 и производные порядка k от Q оцениваются
через производные порядка k -f- 2 от f, поэтому функция
g =(*! — X(x/))Q1/2 e C°°(fir) обладает требуемыми свой-
свойствами.
Осталось рассмотреть случай, когда f@)^ r4/8. В этом слу-
случае найдется /о < г, такое что
f(x)>r*/9 при |*|<го,
и если взять это г0 в качестве искомого г, то требуемыми свой-
свойствами обладает функция g(x) = f(x)l/2. Доказательство завер-
завершено.
Следующая лемма — частный случай теоремы 18.6.8, в кото-
котором метрика g постоянна; это важный шаг доказательства тео-
теоремы.
Лемма 18.6.10. Пусть g — положительно определенная квадра-
квадратичная форма на R2", удовлетворяющая условию g/ga ^ X2 <; 1.
Пусть, далее, 0<aG C°°(R2") и
A8.6.20) | a IJ; (ау)< AT2 при w <= R2",
Если N достаточно велико, то
A8.6.21) (а"(х, D)u, u)> — C\\u\f, us=9,
где С не зависит от g и от а.
Доказательство. Не уменьшая общности, можно считать, что
a s^(R2n). Далее, в силу леммы 18.6.4 и теоремы 18.5.9 мы
не ограничим общности, если предположим, что
?(*,&)= 2*7 (*? + */)•
Здесь Я,/ ^ Я. Поэтому условия леммы будут по-прежнему вы-
выполняться, если заменить X/ на X; условие A8.6.20) примет в
этом случае вид
A8.6.20)' |аГйИ<А^~4)/2 при k < N, idgR2".
Здесь е снова обозначает евклидову метрическую форму. Рас-
Рассуждая по индукции, предположим, что лемма уже доказана
для размерностей, меньших 2п. Это значит, что оценка A8.6.21)
справедлива в случае, когда, скажем, а не зависит от |i, ибо
тогда aw(x, D) можно рассматривать как оператор по перемен-
переменным х'=(х2, ..., хп), зависящий от х\ как от параметра, и
этот оператор имеет нижнюю границу —С для каждого х\. При-
Привлекая снова теорему 18.5.9, заключаем, что это верно и для
символов а, постоянных в любом другом направлении. Это
позволит нам оценить член f\ из леммы 18.6.9.

2 36 18. Псевдодифференциальные операторы
Как и при доказательстве теоремы 18.6.7, заменим метрику
ке на метрику G, задаваемую равенством Gx, % = Н(х, ?)е, где
функция //sg 1 такова, что а е S(l///2, G). Это требование
означает, в частности, что
Чтобы гарантировать выполнение этих условий, положим
A8.6.22) 1/#И = тахA, a(wf'\ \af2(w)).
Теперь применим лемму 18.6.9 к
В силу A8.6.20)', |/?<1. Далее,
и в силу A8.6.22) эти величины ^1. Поэтому лемма 18.6.9
заведомо применима если не к самой функции f, то к функции
f(z)-\- I — f@). Из A8.6.16) вытекает теперь, что
1/ЯИ<2/Я(да,) при | w - ш, |2 Н (w)< r2,
т. е.
0^,^200, при Gw(w — W\) < г2.
Таким образом, метрика G — медленно меняющаяся, и из пред-
предложения 18.5.6 следует, что она а-умеренна. Доказательство
этого факта в рассматриваемой ситуации столь просто, что мы
повторим его, с тем чтобы подчеркнуть равномерность получае-
получаемой оценки '). Мы хотим показать, что
о-< со. О+ <Ъ (»-».)).
или, эквивалентно, что
Н (а;,) < СН (w) A +1 w - w, flH (wi)).
Делая это, можно считать, что Gw(w — W\)^ с, т. е. что
H{w)\w — w\\2 ^ с, а тогда эта оценка выполняется очевид-
очевидным образом при С= 1/с.
Выберем вещественнозначную функцию x^CV{{z; |z|<r}),
равную 1 в шаре {z; |z|<r/2}. Функция %(z)f(z) и все ее про-
') То есть то, что в данном случае N — 1 (см. A8.5.11)'). — Прим.
перев.

18.6. Оценки для псевдодифференциальных операторов 2 37
изводные порядка ^Af ограничены. Это следует из леммы 18.6.9
и того, что A8.6.20)' дает оценки для производных порядка
^4 от f. В силу очевидной модификации леммы 18.4.4 су-
существует последовательность ад, е R2", такая что имеется
фиксированная граница для числа шаров Bv={mj; GWv (w—ie)v)<r2j
с непустым пересечением, и последовательность вещественно-
значных функций (pv е Со°° (B'v), B'v = {w; Gw (w-wv) <r2/4],
удовлетворяющая условиям |ф?(
Положим
av (») = X (Я (wv)V2 (w - wv)Ja (»).
Тогда
|av|f<C,tf~2 при k^N.
Чуть погодя мы докажем, что найдется постоянная С2, для ко-
которой
A8.8.23) (a»(x, D)u, и)>-С2(и, и), «s?.
В предположении что это уже установлено, заменимы на ф*(л:, D)u
и просуммируем полученные неравенства. Последовательность
{<Pv(*. E)} можно рассматривать как символ из 5A, С?) со зна-
значениями в /2^2'(С,/2), поскольку в каждой точке (х, ?) мы
имеем дело лишь с конечным числом членов этой последова-
последовательности. Поэтому из теоремы 18.6.3 вытекает, что оператор
Ф: м^{ф*(*. D)u}<=L2(Rn, P)
^-непрерывен, т. е.
A8.6.24) Е|ФЯ*> D)u
Сумму ?ф"(*> D)a*(x, D)q>%(x, D) можно рассматривать как
композицию оператора Ф, оператора А в L2(Rn, P), символом
которого служит диагональная матрица {uv(x, |Nv^}, и опера-
оператора, сопряженного к Ф. За счет выбора N мы можем обеспе-
обеспечить конечность сколь угодно большого числа S{H~2, GJ-полу-
норм символа А. Поскольку фу {av, cpv} + {cpv, av} cpv = 0, члены
первого порядка в формуле композиции из теоремы 18.5.4 вза-
взаимно уничтожаются. Следовательно,
S фГ (*, D) а" (х, D) Ф- (х, D) = aw (x, D) + Rw(x, D),

238 18. Псевдодифференциальные операторы
причем сколь угодно много S(l, G)-полунорм символа R конеч-
конечно. Из теоремы 18.6.3 и оценок A8.6.23), A8.6.24) вытекает
поэтому, что
(aw(x, D)u, «)=!«(*, DL%(x, D)u, <?(*, D)u)
- (tf w (x, D) u,u)>- CAII«IP - C4II и IF,
что и требовалось доказать.
Осталось убедиться в справедливости оценки A8.6.23). Вви-
Ввиду леммы 18.6.9,
% (zJ f(z) = % (zJ h (г) + (х (г) g (z)J,
где функция f2 15* 0 получается умножением функции fi на сре-
срезающую функцию, постоянную в направлении вектора у и рав-
равную 1 на suppx. Таким образом, у функции /2 все производные
порядка ^JV — 2 ограничены. Возвращаясь к исходным пере-
переменным, положим Hv = H(wv) и
-«О
где f2 и ? получаются применением леммы 18.6.9
к #2a(o;v+ -///у2). В силу A8.6.18)
причем за счет выбора N можно обеспечить, чтобы у функции
*v (соотв. 5Cv, cv) было сколь угодно много конечных
S{Hv2, Hve)-(соотв. S(l, H^e)-, S{H^\ H^e)-)полунорм. По пред-
предположению индукции
(#(*, D)a, и)>-С5||и|р.
Применяя теорему 18.5.4, заключаем, как и выше, что при до-
достаточно большом N у символа оператора
< (х, D) - -С, (х, D) Ь: (х, D) %: (х, D) - < (х, D) < (х, D)
имеется сколь угодно большое число конечных 5A, Hve)-полу-
Hve)-полунорм, поэтому теорема 18.6.3 дает границу для /Лнормы этого
оператора. Тем самым оценка A8.6.23), а с ней и лемма дока-
доказаны.
Доказательство теоремы 18.6.8. Надо просто повторить часть
доказательства леммы 18.6.10. Возьмем функции <pv, такие же,
как и в лемме 18.4.4, но только с Хф^=1- Выбрать их
можно так, чтобы 4Vl\, = <pv для некоторых неотрицательных

18.6. Оценки для псевдодифференциальных операторов 239
функций T|5vsC"(fiv), так же, как и qpv, образующих ограни-
ограниченную последовательность в S(l, g). Положим av = t|)va, так
что а = Y, flWPv Поэтому, как и прежде, мы заключаем, что
? (x, D)-a"(x, D)
— ограниченный оператор. В силу леммы 18.6.10
(ау(х, D)u, и) >-С || в IP,
где С не зависит от v. Следовательно,
? (а* (х, D) Ф- (л:, D) и, Ф- (х, D) и) > - С \\ и f,
ибо оценка A8.6.24) остается справедливой при нашем новом
выборе функций 9V. Доказательство завершено.
В частном случае метрики A8.4.1)' получаем
Следствие 18.6.11. Если 0<flG S\)%~Ь)(R" X R") и 0<б < р< К
то оператор а™(х, D) ограничен снизу и то же верно в отно-
отношении оператора а(х, D) + a(x, D)*.
Заменить Аг2 в лемме 18.6.10 более высокой степенью числа
1Д нельзя:
Пример 18.6.12. Пусть b(x, ?) = xg, (л:, |)eR2. Тогда
bv(x, DJ = av(x, Z)»+l/4,
где a=62, ибо — 8~1 (дъду — дхдцJх?,ут\= 1/4. Следовательно,
(aw (х, D) и, и) = |] bw (х, D) и f -1| и/2 |р, и^9>.
Уравнение bv (x, D)u = 0 можно записать в виде 2л:и' + м = 0;
оно удовлетворяется при и (х) = х~ '/2. Возьмем функцию х^Со°,
равную 1 в некоторой окрестности нуля, и положим для малых
е>0
Тогда
Ь™ (х, D) иг (х) = \х Г1/2 xD (% (гх) ~ х {х)),
а потому ||&w(*, D)ue(<С. В то же время \\ue\f/logе-*— 2
при е->0. Таким образом, (aw (x, D)ue, ие) < 0, если е доста-
достаточно мало. Выберем теперь неотрицательную функцию
a0eC~(R2), такую что ао(х, 1) = хЧ2 в некоторой окрестности
нуля. При А->0
)ие, ue)/X2-*(aw(x, D)us, uE),

240 18. Псевдодифференциальиые операторы
так как ао{-\/Хх, -\Д ?)М2 слабо сходится к а в S(A + jc2
+ ?2J. ?) при Х-*-0. Поскольку правая часть последнего соот-
соотношения может быть неотрицательна, мы видим, что показа-
показатель —2 в оценке A8.6.20) или в теореме 18.6.8 неулучшаем.
Условие же а > 0 в теореме 18.6.8 и лемме 18.6.10 излишне
сильное. Дело в том, что при доказательстве леммы 18.6.10 мы
не использовали возможность учесть квадратичные члены, ко-
которые могут дать существенный вклад в сочетании с другими
такими членами на последующих шагах индуктивного рассужде-
рассуждения. Мы вернемся к этому вопросу в § 22.3.
В векторнозначном случае теорема 18.6.7 остается верной,
но уже не может быть усилена. Ключом к доказательству по-
положительного результата служит следующий довольно слабый
аналог леммы 18.6.10:
Лемма 18.6.13. Пусть g — положительно определенная квадра-
квадратичная форма на R2", удовлетворяющая условию g/g° =S^ Я2 ^ 1.
Пусть, далее, 0 < а е= C°°{R2n, 2{Н, Я)), где Н — гильбертово
пространство, и
A8.6.25) lagfroXAT1 при w e= R2rt, k^N.
Если N достаточно велико, то
A8.6.26) (а* (х, D) и, и) > - С [| и ||2, и<=9> (R", Я).
Доказательство. Как и в доказательстве леммы 18.6.10, можно
считать, что g = "Ке, где е — евклидова метрическая форма.
В этом случае условие A8.6.25) принимает вид
< 18.6.25)' \afk(w)^X{k~m.
Пусть А0 + А\(х, I)—тейлорово разложение первого порядка
функции а в точке 0. В силу A8.6.25)', для всех cefl
(AQv, v) + (Al(x, 0)o, v) +1хР||t>IP/2>0,
(Aov, v) + (Л, @, l)v,v)+\l HI о IP/2 > 0.
Если ueS'fR", Я), то, применяя эти неравенства с х и |, за-
замененными на 2х я 21, к v = и(х) и v = й(& соответственно,
получаем
A8.6.27) (Лои, и) + (Л1(х, D)u, и)>- ? (\\х,и|р +1|D,u\f),
где скалярные произведения берутся теперь в L2(R", Я). (Эт
замена леммы 7.7.2.) Докажем теперь, что
A8.6.28) (aw(Xf D)u, и)> - С ? (||х,иIP +1|DtuII2).

18.6. Оценки для псевдодифференцнальных операторов 24]
С этой целью, используя формулу Тейлора, запишем символ а
в виде
а (х, I) = Д, + Л, (х, |) + Z x,xkRlk (х, ?)
+ Z lfhSfk (х, |) + 2 Z *,W/* (х, I),
где /?/* и S/S симметричны по / и k; за счет выбора # мы
можем обеспечить конечность сколь угодно большого числа
S(l,g)-полунорм функций Rjk, Sik и Tik. Тогда
av (x, D) = A0 + At (x, D) + Z x,Rjk (x, D)xk+Z DfSj, (x, D) Dk
+ Z x/TTk (x, D)Dk+Z DkTTk (x, D) x, - Rv (x. D),
где
4R == Z &R,№,dtk + Z &Slkfdx,dxk - 2
имеет сколь угодно много конечных S(X,, g) -полунорм. Это по-
получается несложной выкладкой, в которой используется тот
факт, что умножение оператора слева (справа) на х,- или D,-
соответствует умножению символа Вейля на X/ ± 2~Чд/д%1 или
lj:+:2~lid/dxj. Оценка A8.6.28) сразу следует отсюда, посколь-
поскольку Ы* ^\\х,и\\*+\\D,u\\*.
Из A8.6.28) вытекает, что, более общим образом,
A8.6.28)' (а* (х, D) и, и) > - С ? (|| (х, - yj) u\? + \\ (D, ~ т,,) и |р)
для всех (у, t])e R2". Чтобы убедиться в этом, надо просто
применить A8.6.28) к а(х + у, g + t]), преобразовав и в со-
соответствии с теоремой 18.5.9. Выберем теперь функцию
<р е СГ (R"), такую что
Zq>(*-vJ=i,
где v пробегает все точки некоторой решетки в R". Положим
q>v(x)~q>(x — v) и применим A8.6.28)' с у = v и и, заменен-
замененным на фу«. Получим
Используя исчисление, основанное на метрике \dx\2 4-
можно вычислить
Ztf(x, D)a"(x, D)<%{x, D).

242 18. Псевдодифференциальные операторы
Главный член этой суммы равен а, а члены первого порядка
взаимно уничтожаются, поэтому, как ив доказательстве лем-
леммы 18.6.10, мы заключаем, что этот символ равен а + Ь, при-
причем мы имеем границы для сколь угодно большого числа
5A, \dx\2 -f- Я|dgj2)-полунорм символа Ь, а значит, и границу
для нормы отвечающего ему оператора. Отсюда следует, что
A8.6.28)" (а* (*, D) и, и) > - С (|| u IP + Е II (D, - i\f) и IP).
Мы заменили здесь и на ф*(/))м и х\ на v. Повторение преды-
предыдущего рассуждения дает теперь оценку A8.6.26). Доказатель-
Доказательство завершено.
Используя эту лемму и соображения локализации из дока-
доказательства теоремы 18.6.8, немедленно получаем следующий
результат:
Теорема 18.6.14. Пусть метрика g является а-умеренной и вы-
выполнено A8.6.11). Если символ а со значениями в 2?{Н,Н),
где И — гильбертово пространство, принадлежит классу
S(i/h,g) и все его значения суть неотрицательные операторы,
то
(aw (х, D) и, и» - С\\ и ||2, ие7 (R", Н).
Примечания
Теория псевдодифференциальных операторов выросла из тео-
теории сингулярных интегральных операторов. Последние — это, в
сущности, псевдодифференциальные операторы с однородным
символом порядка 0. В теории сингулярных интегральных опе-
операторов рассматривается лишь главный символ. Его мульти-
мультипликативные свойства выглядят весьма таинственно, поскольку
преобразование Фурье не привлекается, и исторически именно
этим, по-видимому, и объясняется название таких операторов
(см. Seeley [5]). Сингулярные интегральные операторы были
введены для изучения эллиптических задач, но в 50-х годах
было осознано, что в действительности они не играют там важ-
важной роли. Работа Кальдерона (Calderon [1]) о единственности
решения задачи Коши стала другим подтверждением их важ-
важности, но в книге, которая была предшественницей этой, ре-
результаты Кальдерона доказаны и обобщены прямым методом,
основанным на интегрировании по частям, преобразовании
Фурье и технике локализации. Воскрешение теории сингуляр-
сингулярных интегральных операторов связано, пожалуй, с принадле-
принадлежащим Атье и Зингеру (Atiyah, Singer [1]) решением пробле-
проблемы индекса для эллиптических операторов. Во всяком случае,

Примечания 243
вскоре после этого Кон и Ниренберг (Kohn, Nirenberg [1])
ввели псевдодифференциальные операторы с общими полиодно-
полиоднородными символами. Они сняли искусственное ограничение —
порядок 0 — и дали правила вычисления членов младших по-
порядков, благодаря чему новый метод обрел высокую конкурен-
конкурентоспособность. Их доказательства и определения были основа-
основаны на использовании преобразования Фурье, за исключением
результатов о заменах переменных, которые Кон и Ниренберг
доказывали, возвращаясь к сингулярным интегральным опера-
операторам. Этот архаизм был через некоторое время устранен
Хёрмандером (Hormander [16]). Стремление включить в тео-
теорию фундаментальные решения гипоэллиптических операторов
постоянной силы привело к введению символов типа (р, б)
(Hormander [18]), которое многие рассматривали как широ-
широкое обобщение. В действительности, однако, обобщение оказа-
оказалось недостаточным для изучения дифференциальных операто-
операторов главного типа, что побудило Билза и Феффермана (Beals,
Fefferman [1], Beals [1]) еще больше расширить класс допу-
допустимых символов, с тем чтобы можно было приспособить класс
символов к изучаемому оператору. Распространение их метода
на исчисление Вейля, имеющее восходящую к Г. Вейлю тради-
традицию (Weyl [5]) в квантовой механике, представлено в § 18.4—
18.6. Здесь мы следуем в основном статье Hormander [39], но
некоторые обобщения заимствованы из работы Dencker [2].
Одним из приложений общего исчисления, развитого Билзом и
Фефферманом (Beals, Fefferman [1]), было «точное неравен-
неравенство Гординга», впервые доказанное в работе Hormander [17]
и распространенное затем на векторнозначный случай Лаксом и
Ниренбергом (Lax, Nirenberg [1]). В § 18.1 дано элементарное
доказательство исходного результата, часто используемого в
последующих главах, а в § 18.6 представлено обобщение ре-
результата Лакса — Ниренберга, а также гораздо более точное
утверждение для скалярного случая, принадлежащее Феффер-
ману и Фонгу (Fefferman, Phong [1]). По поводу усилений этих
результатов в других направлениях отсылаем к § 22.3 и приме-
примечаниям к гл. 22. Ключом к оценкам § 18.6 служит результат
о суммах почти ортогональных операторов, часто называемый
леммой Котлара и доказанный Котларом (Cotlar [1]) и Кнап-
пом и Стейном (Knapp, Stein [1]); более общий результат,
представленный здесь, принадлежит Кальдерону и Вайянкуру
(Calderon, Vaillancourt [1,2]).
Конормальные распределения, обсуждаемые в § 18.2, были
определены в работе Hormander [26]. Они представляют собой
простейший частный случай лагранжевых распределений (ин-
(интегральных распределений Фурье), которые будут подробно
изучаться в гл. 25. Результаты, касающиеся условия трансмис-

244 18. Псевдодифференциальные операторы
сии, принадлежат Буте де Монвелю (Boutet de Monvel [1]);
их обобщение, представленное в теореме 18.2.15, взято из ста-
старых записей лекций, вдохновленных исследованиями Вишика и
Эскина [1—5]. Результаты § 18.3 почти целиком принадлежат
Мелроузу (Melrose [1]). К этой статье мы отсылаем всех, кто
пожелает ознакомиться с дальнейшим развитием этой темы,
параллельным теории интегральных операторов Фурье, изла-
излагаемой в гл. 25.

'19
Эллиптические операторы
на компактных многообразиях
без края
Краткое содержание главы
Из исчисления псевдодифференциальных операторов непосред-
непосредственно следует, что у всякого эллиптического псевдодифферен-
псевдодифференциального оператора на компактном многообразии и ядро, и
коядро конечномерны. Таким образом, эллиптические операто-
операторы фредгольмовы. Главная тема этой главы — изучение индекса
оператора, т. е. разности между размерностями его ядра и ко-
коядра. Эта величина заслуживает изучения ввиду того, что она
весьма устойчива относительно возмущений оператора; для мно-
многих операторов, встречающихся в геометрии, индекс дает важ-
важную топологическую информацию. Так, классическая теорема
Римана — Роха, равно как и некоторые из ее современных ана-
аналогов для нескольких комплексных переменных, — частные слу-
случаи теоремы об индексе.
Мы начинаем с того, что даем в § 19.1 обзор абстрактной
теории Фредгольма. При этом в изложение включен и ряд не
совсем стандартных результатов. Это утверждения об устойчи-
устойчивости индекса сильно непрерывного семейства операторов, вы-
выражение индекса через следы для операторов в гильбертовом
пространстве и, наконец, связанные с этим результаты об ин-
инвариантности эйлеровой характеристики относительно перехода
к гомологиям. Затем в § 19.2 устанавливаются основные анали-
аналитические свойства индекса эллиптических псевдодифференциаль-
псевдодифференциальных операторов. В § 19.3 посредством вычисления некоторых
следов выводится явная формула индекса для псевдодифферен-
псевдодифференциальных операторов в R". Используя результаты § 19.2 и 19.3,
можно, как это отмечается в конце § 19.2, получить формулы
Атьи — Зингера для индекса. Однако проблема эта относится
главным образом к дифференциальной геометрии, а нам не хо-
хотелось бы отвлекаться на изложение необходимых для ее об-
обсуждения предварительных сведений о характеристических клас-
классах, поэтому мы ограничиваемся совсем краткими замечания-
замечаниями по поводу формул Атьи — Зингера. Вместо этого в § 19.4
рассматривается принадлежащая Атье и Ботту формула Леф-

246 19. Эллиптические операторы на компактных многообразиях
шеца, которую можно сформулировать и доказать без обшир-
обширного геометрического реквизита. В § 19.5 мы обсуждаем вопрос,
в какой степени условие эллиптичности необходимо для фред-
гольмовости; в связи с этим обсуждением вводится более общее
понятие эллиптичности.
19.1. Абстрактная теория Фредгольма
Если fii и В2— конечномерные векторные пространства (над С)
и Т — линейный оператор Si -*- В%, то ранг этого оператора ра-
равен, с одной стороны, коразмерности его ядра Кег Г, а с дру-
другой— размерности его образа, так что
dim В, — dim Кег Т = dim В2 — dim Coker T,
где Coker T = В%/ТВ\. Это означает, что разность
dim Кег Т — dim Coker Г = dim S, — dim B2
не зависит от Т. В этом конечномерном факте кроется основная
причина свойств устойчивости величины в левой части послед-
последнего равенства в бесконечномерном случае. Эта величина на-
называется индексом оператора Т.
Если Si и S2 — банаховы пространства и Ге S'ffli, 58), то
= {/еВ,; Г/= 0}
не обязано быть конечномерным, но заведомо является замкну»
тым подпространством в В\. Образ ТВ\ оператора Т может быть
и незамкнутым, однако справедлива
Лемма 19.1.1. Пусть Т^9?{ВХ, В2) и образ ТВ\ имеет конечную
коразмерность в 52. Тогда он замкнут.
Доказательство. Оператор Т можно считать инъективным, по-
потому что в противном случае можно вместо Т рассмотреть ин-
индуцированный им оператор из fii/Ker T в В2. Если коразмер-
коразмерность образа ТВХ равна п, то найдется линейный оператор
S: С —*• бг>
образ которого SC" будет подпространством, дополнительным
к TBi, так что отображение
Г,: Bl@Cn3(x,y)~>Tx + SyeB2
Судет биективно. По теореме Банаха оно является тогда гомео-
гомеоморфизмом, откуда и следует, что множество TBi==T\{B\
Ф{0}) замкнуто.
Определение 19.1.2. Оператор Т е S?{BU B2) называется фред-

19.1. Абстрактная теория Фредгольма 247
гольмовым, если его ядро Кег Т конечномерно, а образ ТВ{
(замкнут и) имеет конечную коразмерность. В этом случае по-
полагают
A9.1.1) ind T = dim Ker T ~ dim Coker T.
Иногда мы будем применять определение A9.1.1) и в слу-
случае, когда только размерность dim Кег Т конечна, а относитель-
относительно образа ТВХ известно лишь, что он замкнут. Эта ситуация
может быть охарактеризована следующим образом:
Предложение 19.1.3. Пусть Т е= 2?{В\,В2). Два приводимых
ниже условия равносильны:
(i) dim Кег Т < оо и образ ТВ\ замкнут;
(И) каждая ограниченная последовательность // в В\, для
которой последовательность Tf/ сходится, обладает сходящейся
подпоследовательностью.
Для доказательства этого предложения нам понадобится1
классическая лемма Ф. Рисса:
Лемма 19.1.4. Ни в каком бесконечномерном банаховом про-
пространстве В единичный шар не является компактным (в тополо-
топологии, задаваемой нормой).
Доказательство. Существует последовательность // е В, такая*
для всех ] и всех а4еС. Действительно, пусть элементы
fb •••. f/-i Уже найдены. Возьмем какую-нибудь точку g, ле-
лежащую вне линейного подпространства L, натянутого на эти
элементы. Найдется точка AgL, минимизирующая \\g — h\\,,
ибо L конечномерно, а указанная норма -*¦ со при А->-оо. Тогда
элемент /, ={g — h)/\\g — ft|| обладает требуемыми свойствами.
В частности, для последовательности f, имеем \\fj — fk\\ ^ 1 при
/ ф k, поэтому у нее нет сходящихся подпоследовательностей.
Доказательство предложения 19.1.3. Пусть выполнено условие
(И). Из него следует, в частности, что единичный шар в Кег Г
компактен, а значит, Кег Т конечномерно по лемме 19.1.4. В силу
теоремы Хана — Банаха, для конечномерного подпространства
Кег Г существует топологическое дополнение BoczBi. Из усло-
условия (И) следует, что
A9.1.2) llfl!,<C||rf||2) feB0.
В самом деле, в противном случае нашлась бы последователь-
последовательность f/ еВ0 с ||//lh = 1 и ||77/||г ^ 1//. Согласно условию (и),
у некоторой ее подпоследовательности существовал бы предел
f, для которого мы имели бы f еВ0, 11/11= 1, 77 = 0, что невоз-

248 19. Эллиптические операторы на компактных многообразиях
можно. Итак, (ii) влечет A9.1.2). Обратно, пусть выполнено
A9.1.2) и f/ — ограниченная последовательность в В\, такая что
последовательность Tf, сходится. Последовательность // можно
записать в виде // = g,- + Л/, где g, e Кег Т, а последователь-
последовательность hj е Во тоже ограничена. Поскольку Thj = Tfj, из A9.1.2)
вытекает, что последовательность hj сходится, а у ограниченной
последовательности g,- в конечномерном пространстве Кег Т
найдется сходящаяся подпоследовательность. Таким образом,
.выполнено (ii). Но из теоремы Хана — Банаха следует, что
A9.1.2) справедливо тогда и только тогда, когда ограничение
оператора Т на Во является инъективным оператором с замкну-
замкнутым образом. Тем самым равносильность условий (i) и (ii)
установлена.
Нашим первым результатом об устойчивости индекса будет
Теорема 19.1.5. Если Т удовлетворяет условиям предложения
19.1.3 и норма оператора SeS7(Bb В2) достаточно мала, то
dim Кег (Т -f S) <: dim Кег Т, оператор Т + 5 имеет замкнутый
¦образ и ind (T -f S) = ind T.
Доказательство. Рассмотрим сначала случай, когда оператор Т
биективен. Тогда оператор
тоже биективен, если lir-'IIIISI^ 1, поскольку оператор I-\-T~lS
можно тогда обратить с помощью ряда Неймана. Таким обра-
образом, в этом случае теорема справедлива. Теперь предположим,
что Т лишь инъективен. Тогда в силу A9.1.2)
Следовательно, |!/||, ^ 2С||(Г + S)f\\2 при C\\S\\< 1/2. Это зна-
значит,, что для таких S оператор Т + S является инъективным
оператором с замкнутым образом. Если dimCoker T < оо, то
существует конечномерное подпространство W в В2, дополни-
дополнительное к ТВХ. Пусть q — естественное отображение B2-+B2/W.
Тогда оператор qT биективен, а потому и оператор qT + qS би-
биективен для всех S достаточно малой нормы, и для таких S
ind (Т + S) = — dim W = ind T.
Если известно лишь, что dim Coker T > п, то можно выбрать
подпространство W размерности га + 1 с W f\TBi ={0} и за-
заключить, что indG1 + S)< —п для всех S с достаточно малой
нормой. Применяя этот результат с Т, замененным на Т + S,
видим, что множества
(S; C\\S\\<\/2, ind(r + S) = -ra},
1/2, ind(T + S)< -га}

19.1. Абстрактная теория Фревгольма 24»
открыты для любого п. Поскольку шар {5; C||S||< 1/2} связен,,
отсюда следует, что indG'+5) иа самом деле должен быть
постоянным для S из этого шара.
В общем случае, когда N = Кег Т Ф {0}, выберем какое-ни-
какое-нибудь топологическое дополнение йок JVb Ви так что Вх = Во
® N. Из уже доказанного следует, что для всех S с достаточно-
малой нормой ограничение на Во оператора Т + S является
инъективным оператором с замкнутым образом и
codim (Г + S) Во = codim ТВа = codim Щ.
Если Л/г/ = Кег(Г+5), то H'ftB0={0} и Bi = N'@ WФВ0 для
некоторого конечномерного W. Коразмерность образа (Т -}-S)Bt
= (T + S)W®(T + S)B0 равна codim TB{ — dim W, поэтому
ind (T -f 5) = dim N' + dim W — codim TBX
— dim N — dim Coker T = ind T,
чем и завершается доказательство.
Следствие 19.1.6. Множество всех фредгольмовых операторов в
2>(В1,В2) открыто, dim Кег 71 есть полунепрерывная сверху
функция от Т, и индекс ind T постоянен на каждой связной ком-
компоненте множества всех фредгольмовых операторов.
Следствие 19.1.7. Если Тх е 3? (Ви В2) и Т2<=а?{В2,Вг) —
фредгольмовы операторы, то и Т2Т\ е & (В\, В3) — фредгольмо»
оператор, и справедлив «.логарифмический закон»
ind GУ,) = ind Tx -f ind T2.
Доказательство. Поскольку Т\ отображает Кег Т2Т\ в Кег 71»
с ядром Кег Гь то dim Кег Trfi ^ dim Ker T\ -f dim Кег Т2. Ана-
Аналогично dim Coker T2T\ <; dim Coker Ti + dim Coker T2, откуда
видно, что оператор Т2Т\ фредгольмов. В блочно-матричной
записи оператор
П2 0 \( /2cos/ /2sin/Л/Г, 0
V0 r2/V-/2sin/ /2cos/Ao I
где I2 — тождественный оператор в В2, для всякого t является
фредгольмовым оператором из В\ Ф В2 в В2Ф В3- При t = 0 это
будет прямая сумма операторов 7*1 и Т2, а при t = —я/2 — опе-
оператор {fi,f2)l—^(—f2,T2Tifi). В первом из этих случаев индекс,
очевидно, равен ind 7"i + 'п^ ^2» а во втором равен indG'27'i)>
откуда и следует справедливость логарифмического закона.
Следствие 19.1.8. Если 71e27(fl|,S2)—фредгольмов оператор>
а К<^8?{ВЪВ2)—компактный, то оператор Т -f- К фредголь-
фредгольмов и ind (Т + К) = ind Т.

250 19. Эллиптические операторы на компактных многообразиях
Доказательство. Пусть // — ограниченная последовательность в
Ви такая что (Т + K)fi сходится. Компактность оператора К
позволяет выбрать из нее подпоследовательность f/ft, для кото-
которой Kfik сходится. Значит, Tf/k сходится, и из условия (ii)
предложения 19.1.3 вытекает, что последовательность fjk обла-
дает сходящейся подпоследовательностью. Вновь применяя
предложение 19.1.3, на этот раз к Т + К, заключаем, что Т -\- К
имеет конечномерное ядро и замкнутый образ. Поэтому, соглас-
согласно теореме 19.1.5, индекс оператора Т + гК является локально
постоянной функцией от г е .С, а следовательно, не зависит
от г. Таким образом, Т -{- гК при всех г будет фредгольмовым
оператором с индексом, равным ind Т.
Следствие 19.1.9. Если T^3?(Bi,B2) и для некоторых
S,- ^2>(В2, Bi), / = 1, 2, выполняются равенства TS2 = h + K2,
S\T = /1 -f- Ki, где операторы К/ компактны, то операторы Т,
Si и S2 фредгольмовы и ind Т = —ind S/, / = 1, 2.
Доказательство. Оператор Т фредгольмов, так как ,
dim Ker T < dim Ker (/, -f- /С,),
dim Coker T < dim Coker (/2 -f /f2).
Поскольку
О|/О2 = О] -f" S]Ko = S-2 -f- /C|S2,
оператор S2—Si компактен. Следовательно, и операторы S2T—/1
и TSi—12 компактны, а потому S\ и S2 фредгольмовы в силу
первой части доказательства, и ind Г + ind S/ = ind (// -f- /С/) = 0
в силу следствий 19.1.7 и 19.1.8. Доказательство завершено.
На самом деле индекс обладает гораздо более сильными
свойствами устойчивости, чем указано в следствии 19.1.6:
Теорема 19.1.10. Пусть Вх и В2 — два банаховых пространства
и I — некоторое компактное пространство. Если lt<^2{Bu B2)
и St^. 9?(В2, В\) являются сильно непрерывными функциями
от t<=I и операторы
Кц — StTf — /,, Kzt^^TfSf — /2
равномерно компактны в том смысле, что для / = 1, 2 множе-
множество
M, = {K,tf;t^l, I^B,, Ц/11/ <1}
предкомпактно в В/, то операторы Tt и St фредгольмовы,
dim Ker Tt и dimKerSf суть полунепрерывные сверху функции
от t, а индекс ind Tt = —ind St как функция от t локально по-
постоянен и, следовательно, постоянен в случае, когда I связно.

f
19.1. Абстрактная теория Фредгольма 251
Доказательство. Фредгольмовость операторов Tt и St вытекает
из следствия 19.1.9. Положим
Это — замкнутое подмножество в /X Mi, ибо 7\/ = 0 влечет
/ = —Ки} е Mi. Следовательно, N — компакт. Из доказатель-
доказательства леммы 19.1.4 следует, что
представляет собой множество всех /, для которых существуют
/i fk, такие что (t, fi)^N и
при 7 = 1, ..., k и любых а, е Q. Таким образом, множество
/* есть проекция на / некоторого компакта в Nk и, значит, ком-
компактно, откуда вытекает, что множество {t\ dim Ker Tt < k) от-
открыто. Следовательно, dim Ker Tt— полунепрерывная сверху
функция от /, и то же самое, разумеется, верно в отношении
dim Ker St.
Поскольку ind Tt -j- ind St = О, теорема будет доказана, если
мы покажем, что ind Tt (а значит, и indS/)—полунепрерывная
сверху функция от /. Пусть to^I. Выберем в 5! какое-нибудь
топологическое дополнение Во к Ker Tt0. Так как инъекция B0-*-Bi
имеет индекс — dim Ker Г<0, индекс ограничения оператора Ti на
Во равен ind Tt — dim Ker Tu. Поэтому нам надо показать,
что codim7'/Bo^codim7'@Si для всех t из некоторой окрест-
окрестности точки /о- Выберем в В2 конечномерное подпространство
W с dim № = dimСокег 7\0 и W i]TtaBi = {0}. Множество
Nw = {(/, /) s / X So; II/Hi = 1. Ttf e W)
компактно. Действительно, оно замкнуто. Для (t, f) e Nw мы
имеем f = StTtf — Kuf, где /CufeMj и
Ц7У1Ь<С||/||, = С,
ибо Tt сильно непрерывно по t. Поэтому компактность Nv выте-
вытекает из того, что множество
— компакт и отображение (t, g)>—^Stg непрерывно на нем. Мы
можем теперь заключить, что проекция
Iw = {/; (/, /) е Nw для некоторого /}
множества Nw на / — тоже компакт. Следовательно, ее допол-
дополнение открыто, и в силу выбора W оно содержит f0. Поэтому

252 19. Эллиптические операторы на компактных многообразиях
для всех t из некоторой Окрестности точки t0
codim TtB0 > dim W = codim TuBi,
чем доказательство и завершено.
Предположения теоремы 19.1.10 оказываются весьма есте-
естественными при изучении эллиптических псевдодифференциаль-
псевдодифференциальных операторов Tt\ роль операторов St играют их параметриксы.
Закончим на этом обсуждение свойств устойчивости индекса
и перейдем к выводу следовой формулы для индекса фредголь-
мовых операторов в гильбертовых пространствах. С ее помощью
мы получим в § 19.3 некоторые явные формулы для индекса.
Прежде всего напомним основные факты об операторах Гиль-
Гильберта — Шмидта и ядерных операторах.
Определение 19.1.11. Пусть Н\ и Н2— гильбертовы пространства.
Пространство 2?2(Ни Н2) операторов Гильберта — Шмидта из
#i в Н2 состоит из всех Т ^.3?(Н\, Н2), для которых конечна
величина
IIГ |g= ЕИГе, IP.
где {е,} — любая полная ортонормированная система в Н{.
Уже самим определением предполагается, что указанная
сумма не зависит от выбора ортонормированного базиса; это
действительно так, поскольку для всякой полной ортонормиро-
ванной системы {/,•} в Н2
Е II Те, |р— 22l (Tet, /,) I2 = Z I (е„ П/) p = ? ||П, IP.
Это показывает, что Т ei?2(#2> #i). причем Г* имеет ту же
самую норму Гильберта — Шмидта, что и Т. Если 5, е 3? (Н[, Я,)
и S2e^(Я2, //g), где Н\, Н'2 — некоторые другие гильбертовы
пространства, то S^TSt^2'2(Hrt, H'2) и
Ib < II521| || ТIUS, II
(здесь ||-|| обозначает обычную операторную норму). Действи-
Действительно,
Если Т^9?{Ни Н2) — оператор конечного ранга, т. е. его
ядро # имеет конечную коразмерность, то Г можно представить
ка]к композицию канонического оператора Hf+Hi/N и неко-
некоторого оператора Hi/N-+H2. Поскольку пространство Hi/N
конечномерно, второй оператор является оператором Гильбер-
Гильберта— Шмидта, и мы заключаем, что Т^2?2(Ни Я2). Операторы
конечного ранга образуют плотное подмножество в 3(Ни Н2),

19.1. Абстрактная теория Фредгольма 253
поскольку любой оператор Ге^^Я,, Н2) можно аппроксими-
аппроксимировать сколь угодно точно с помощью операторов, получаю-
получающихся из Т, если положить Tet равным 0 для всех индексов /,
за исключением некоторого большого, но конечного множества.
Отсюда, в частности, следует, что все операторы Гильберта —
Шмидта компактны.
Если Г, €=^2 (//,,#„), /=1,2, то T = T;Ti<=2?2(Hlt Н2),
но такое произведение обладает еще и некоторыми дополни-
дополнительными свойствами. А именно, если {в/} и {//}—ортонорми-
рованные системы в Н\ и Н2, занумерованные с помощью одного
я того же множества индексов, то
2 | (Tej, f,) | = ? | (Ttef, T2f{) | < О Г, |k || T21|2-
Обратно, пусть Т<=&(НХ, Яг), и пусть
09.1.3) Е I (Ге/, /,) |< °о
для любых ортонормированных систем {в/} и {М с одним и
тем же множеством индексов. Положим А =(Т*Ту/2. Это огра-
ограниченный самосопряженный оператор в Ни Если обозначить
его ядро через N, то его образ плотен в ортогональном допол-
дополнении W к #. Поскольку
II77 IP = (ГТ!,Г) = || Af |p,
отображение Af >—» Tf является изометрией, поэтому его замы-
замыкание представляет собой изометрический оператор U: N'-*-H2
в T=UA. Отсюда следует, что если {е/}—полная ортонорми-
рованная система в W, то элементы // = Ue/ образуют ортонор-
мированную систему в Я2, и мы имеем
Таким образом, оператор Б = Л1/2 является оператором Гиль-
Гильберта— Шмидта, и
\\Bf2=Z(Aet, в,),
поскольку на N оператор В равен 0. Полагая Г, = В, T'2 = UB,
получаем Г = 7^, и (поскольку || UB ||2 < || В ^)
IIГ,||2\\7-2!k<||B|!J=Z \(Te,,f,)l
Противоположное неравенство верно всегда, так что здесь
должно иметь место равенство. Подводя итог проведенному об-
обсуждению, введем следующее определение:
Определение 19.1.12. Пусть Hi и Н2 — гильбертовы пространства.
Пространство &\ (Я,, Н2) ядерных операторов из //, в Я2 — это

254 19. Эллиптические операторы на компактных многообразиях
множество всех Ге^^,, Я2), таких что для любых ортонор-
мированных систем {erf и {/;-} в Я, и Я2 соответственно выпол-
выполнено A9.1.3), или, эквивалентно, Г = 7*7,, где Tl^S'2(Hj, #о)
для некоторого другого гильбертова пространства Яо. Норма
в 9?\{Н\, Н2) задается формулой
A9.1.4) || Г ||, = sup ? I (Те,, f,) | = inf || Г, ||21| Г21|2,
где sup (соотв. inf) берется по всем таким {erf, {frf (соотв.
Тх, Т2).
Справедливость неравенства треугольника для так опреде-
определенной нормы и полнота в этой норме следуют из первого ра-
равенства A9.1.4). Из второго равенства A9.1.4) вытекает, что
если Ге2,(Яь Н2) и S^^(H\, Я,), S2^&(H2, Н'2), то
S2TS,<=3?x{H\,H'2)n
IIS^S, ||, <||S21|||ГЦ,||S, Ц.
Следовательно, все операторы конечного ранга ядерны, и они
образуют плотное подмножество пространства ядерных опера-
операторов, поскольку плотны в пространстве операторов Гильбер-
Гильберта — Шмидта.
Для всякого оператора Т е i?, (H, Н) определим его след
формулой
где {е/} — любая полная ортонормированная система в Н. Это
определение не зависит от выбора {erf. Действительно, если
записать Т в виде Т = Т'2Т1 с Т1^2'2(Н, Но), то
а коэффициент при t\l2 не зависит от выбора е-, и равен Тг(Г).
Таким образом, след определен однозначно и является линей-
линейным функционалом единичной нормы на 3?\{Н, Н).
Предложение 19.1.13. Если Т<^3?\(Н, Н) и И' — замкнутое под-
подпространство в Н, такое что ТН' с: Я', то ограничение Т опера-
оператора Т на Н' и оператор Т" в Н" = Н/Н', индуцированный опе-
оператором Т, оба ядерны и
A9.1.5) Тг (Т | Н) = Тг (Г | Я') + Тг {Т" | Н").
Если Г,е5'1(Я1, Я)) и S — непрерывная биекция Н1-*-Н2, то
A9.1.6) T2 = STxS-xs=2x{H2,H2) и Тг(Г,|Я,) = Тг(Г2|Я2).

19.1. Абстрактная теория Фредгольма 255
Доказательство. Ядерность оператора Т следует из определе-
определения ядерных операторов, использующего A9.1.13). Далее, Н"
можно отождествить с HQH'. Обозначим через Р ортогональ-
ортогональный проектор Н -v Н". Очевидно, что Т" совпадает с ограниче-
ограничением оператора РТ на Н", а следовательно, является ядерным.
Если взять какой-нибудь ортонормированный базис {e^J в Н'
и какой-нибудь ортонормированный базис {е'!\ в Н", то вместе
они дадут ортонормированный базис в Н, откуда сразу вытекает
A9.1.5). Из A9.1.5) следует, что если Т^9?\{Н, Н) — оператор
конечного ранга с ядром N, то ТгG) равен следу индуцирован-
индуцированного оператором Т оператора в конечномерном векторном про-
пространстве H/N. Следовательно, он не зависит от выбора нормы
в гильбертовом пространстве Н. Этим A9.1.6) доказано для
случая, когда Т\ — оператор конечного ранга. Поскольку опера-
операторы конечного ранга плотны в 2\{HU Hi), а отображение
<?\{HU HlKTli-*.STlS-1 <=2i{H2, Н2) непрерывно, заклю-
заключаем, что A9.1.6) верно и в общем случае.
Мы а состоянии теперь доказать широко известную следовую
формулу для индекса:
Предложение 19.1.14. Пусть Ге5'(Я1, Н2), Se=2'(H2, Я,). По-
Положим
/?,=/,- ST, R, = /2 - TS,
еде lj — тождественный оператор в Hj. Предположим, что для
некоторого /V > 0 степени R^ и R% являются ядерными опера-
операторами. Тогда оператор Т фредгольмов и
A9.1.7) ind Т = Тг (^) - Тг (Я?).
Доказательство. Рассмотрим сперва случай N= 1. В силу след-
следствия 19.1.9 фредгольмовость оператора Т вытекает из компакт-
компактности операторов Rt. Заметим, что
TRi = R2T,
и представим пространства Н/ в виде H1 = N/®H'j, где N\ —
ядро оператора Т, а Н'2 — образ оператора Т. Ясно, что Т инду-
индуцирует биекцию Н\—>Н'Г Если обозначить через Р\ ортогональ-
ортогональный проектор Н1-+Н\, то TPiR\ = TRl= R2T. Следовательно,
/?2 отображает Щ в себя, и из A9.1.6) следует, что
тг(^|я'2) = тг(р^|я;).
Поскольку У?! является на N\ тождественным оператором, то,
в силу A9.1.5),
Тг (Я,) = dim Л^ + Тг (Р,Я, | #;).

256 19. Эллиптические операторы на компактных многообразиях
Далее, I2 — R2 = TS отображает Н2 в Н'у так что R2 индуци-
индуцирует тождественный оператор на HJH^. Снова используя A9.1.5),
получаем
и, значит,
Тг (ЛО - Тг (R2) = dim Nx - dim N2 = ind Т.
Таким образом, для случая, когда N = 1, предложение дока-
доказано. Если W > 1, то рассмотрим вместо S оператор
Ясно, что TS' = I2 — R%. Далее,
S'T = S(I2 + (I2-TS)+ ... +(I2-TS)N-l)T.
Поскольку S(TS)kT = (ST)k+1 и
хA+A-х)+ ... +A-*)"-')= 1-A-*)",
мы заключаем, что
S'T = /, - (/, - ST)N = /, - R?.
Тем самым доказательство сведено к случаю N = 1 и потому
завершено.
Результат, установленный в первой части доказательства
предложения 19.1.14, есть частный случай следующего резуль-
результата об инвариантности эйлеровой характеристики, который бу-
будет основой всех наших рассмотрений в § 19.4:
Теорема 19.1.15. Пусть
A9.1.8) //_, = {0}^Я0-^ Я, -^ Я2-> ... Т-^Н„-+{0) = HN+l
— комплекс гильбертовых пространств, причем все Т/ — непре-
непрерывные отображения с замкнутым образом. Таким образом, мы
предполагаем, что T/Tj-i = 0, т. е.
Пусть, далее, операторы Rt^2?i(Hf, Ht) коммутируют с этим
комплексом, т. е.
A9.1.9) /?/,_, = 7-,-./?/-!, /=1, .... N.
Тогда RjiTj-^Hi-Cj^Tj-xHj^ и RjNj<=Ni, а потому Rs индуци-
индуцирует некоторый ядерный оператор Л/ в Н/ = Л^//7'/_1Я;_1. Спра-

19.1. Абстрактная теория Фредгольма 257
ведлива формула
A9.1.10)
Доказательство. В силу A9.1.9)
R, G-,-itf/-i) = Г,.,/?,.,
a R/NjCzN/, поскольку TjR,N,= Rl+1T/Ni= {0}. Из предложе-
предложения 19.1.13 следует, что оператор R/, а также индуцированный
оператором Rj оператор R't в Hj/Nj являются ядерными и
Tr (*/ I Ti-iH,-i) + Tr AI "/) + Tr
Далее, Г/ задает изоморфизм Hi/Nj-^T/Hj, и ввиду A9.1.9)
оператор /?^ преобразуется при этом изоморфизме в ограниче-
ограничение оператора Ri+l на Т/Н/. Таким образом,
Тг (Я, | Я,) = Tr (R, | ?,_,#,_,) + Тг (Я71Н,) + Тг (/?/+11 Т,Н,).
При образовании знакопеременной суммы левых частей все
крайние члены в правых частях взаимно уничтожатся и полу-
получится формула A9.1.10).
Комплекс A9.1.8) называется фредгольмовым, если все Tj
суть операторы с замкнутым образом и все пространства Ht
= Ker Ti/Ti-iHi-i конечномерны. Всякий фредгольмов оператор
задает фредгольмов комплекс с N = 1. Обратно, из всякого
фредгольмова комплекса можно, «расщепляя» его на две части,
получить фредгольмов оператор:
Предложение 19.1.16. Комплекс A9.1.8) фредгольмов тогда и
только тогда, когда фредгольмовым является оператор А, зада-
задаваемый правилом
ячет=ея2Уэ(/0, и, ...)•-*
(туо+7-;/2, T2f2 + r3f3, ...)®е
Индекс оператора А равен эйлеровой характеристике
комплекса A9.1.8).
Доказательство. Поскольку Tj-iHi-i cz Ker Tj, образ оператора
Г/_[ ортогонален к образу оператора T*f. Следовательно,

268 19. Эллиптические операторы на компактных многообразиях
Пусть наш комплекс фредгольмов. Тогда
для /г/, ортогональных к Ker T2h поскольку Т2! имеет замкнутый
образ. Далее, из того, что Ty-i — оператор с замкнутым обра-
образом, следует, что и Г*, 1 имеет замкнутый образ, а потому
для f2/, ортогональных к KerT^.j. Но Н2! есть ортогональная
сумма ортогонального дополнения к Кег Т2И ортогонального до-
дополнения к КегГ^, и подпространства H2j, которое мы отож-
отождествим с КегГ2/ПКег T*2I_V Следовательно,
если f2j ортогонально к #2/> поскольку f2! можно тогда предста-
представить в виде f2/ = g2i + h2f, где g2j ортогонально к Ker T2j и,
значит, лежит в КегГу_,, a h2i ортогонально к КегГ*,., и, зна-
значит, лежит в Ker T2j. Записанное выше неравенство сводится
поэтому к двум предыдущим, примененным к g2l и h2f. Исполь-
Используя A9.1.11), можно теперь заключить, что А имеет замкнутый
образ и ядро ®Я2!. Аналогичным образом устанавливается, что
ядром оператора А* служит фЯ2/+ь откуда следует, что А —
фредгольмов оператор с индексом, равным эйлеровой характе-
характеристике рассматриваемого комплекса.
Обратно, пусть А—фредгольмов оператор. Из A9.1.11) сле-
следует тогда, что W, — Кег Тг{ П Кег Г*/_, конечномерно и
для f2f, ортогональных к W/. В случае когда f2/ ортогонально
к Кег Г,,/, мы имеем 7^_,f2/=»0, а значит, ||/2/||2 ^ С||7-2//2/||2,
откуда следует, что Г2/ имеет замкнутый образ. Рассматривая
же случай, когда fa ортогонально к КегГ^,, приходим к за-
заключению, что Ту_1г а потому и T2i-\ имеют замкнутый образ.
Доказательство завершено.
Применим описанный выше метод к комплексу, определен-
определенному как тензорное произведение двух комплексов, ассоцииро-
ассоциированных с фредгольмовыми операторами А(. H!Q—*-H[, /=1, 2.
Прежде всего напомним, что тензорное произведение Н\ ® Н2
двух гильбертовых пространств Нх и Н2 определяется как мно-
множество всех непрерывных антилинейных форм на Н{ X Нь отве-
отвечающих антилинейным отображениям Н2^*-Н\, являющимся
{в очевидном смысле) операторами Гильберта — Шмидта. Та-
Таким образом, Hi <8>Н2 = 2?2(Я2, Hi), где Н2 — это Н2 с умноже-

19.1. Абстрактная теория Фредгольма 259
нием на скаляры, получающимся из исходного комплексным
сопряжением скаляров. (Эквивалентное определение: если реа-
реализовать Hj как L2(X/, щ), где (i/ — положительная мера в Л/,
то Hi ® #2 естественно изоморфно L2(X{y.X2).) Копируя опре-
определение комплекса де Рама дифференциальных форм на R2,
введем комплекс с пространствами
и отображениями
тх (П ® П, ft ® /?) = Aft ® П - f!
Здесь fjefff. Немедленно проверяется, что это действительно
комплекс. Расщепляя его, как в предложении 19.1.16, получим
оператор Л: Go® G2-*-Gi, задаваемый в блочно-матричной
записи формулой
Если F = (F0, Fl)<=Hl®Hl@H\®H2l, то
и, значит,
A9.1.13)
Отсюда сразу следует, что
A9.1.14) Кег А = Кег А{ ® Кег Л2 ф Ker A\ ® Кег Л2.
Для всех F, ортогональных к Кег А, выполняется оценка
если для / s Н'о, ортогональных к Кег А(,
II f IP < С|| Л,/|р,
а для geff{, ортогональных к КегЛ^,
\\gf<C\A)gf.
Эти оценки равносильны, и мы видим, что образ А замкнут, по-
поскольку А/ — операторы с замкнутым образом. Аналогично по-
получаем, что Л* имеет замкнутый образ и
A9.1.15) Кег Л* = Кег А] <8> Кег Аг ф Кег Л4 <8> Кег Л*.

260 19. Эллиптические операторы иа компактных многообразиях
Таким образом, А — фредгольмов оператор и
ind А = dim Кег Ах dim Кег Аг + dim Coker Л, dim Coker A2
— dim Coker Л, dim Кег Л2 — dim Кег Л, dim Coker A2.
Тем самым мы доказали следующую теорему:
Теорема 19.1Л7. Пусть А{: Н'0->Н{, /=1, 2, — фредгольмовы
операторы. Тогда оператор А из Я' ® Щ® //} ® Щ в Н\® Щ
ф Нх0<& Щ, заданный формулой A9.1.12), тоже фредгольмов и
A9.1.16) ind Л = ind Ax ind Л2.
В заключение параграфа докажем одно усиление теоремы
19.1.15, которое иногда оказывается полезным, хотя в этой
книге нигде не понадобится. Ключевой момент состоит в том,
чтобы обобщить последнее утверждение предложения 19.1.13.
Предложение 19.1.18. Пусть Hh / = 1, 2, — гильбертовы про-
пространства и Т; е &\ (Н/, Hj). Если существует замкнутый ли-
линейный оператор S с областью определения, плотной в Н\, и
образом, плотным в Н2, инъективный и удовлетворяющий усло-
условию T2S<=STU то ТгG'1)==ТгG'2).
Доказательство. Согласно классической теореме фон Неймана,
оператор A=S*S самосопряжен и S совпадает с замыканием
своего ограничения на область определения оператора А. Таким
образом, В = А1'2— самосопряженный оператор в Н\ с той же
областью определения, что и S, и на этой области ||B/||i = HS/||2.
Пусть Р* — спектральный проектор для В, отвечающий интервалу
(е, 1/е). Поскольку В[фО для / ф 0, то P\f-*f при е-*0 для
каждого /еЯр Положим P| = SP!S~' на множестве 5Я1( по
предположению плотном в Я2. Тогда для g = Sf
Таким образом, замыкание Q оператора Р2 определено в Н2 и
имеет норму ^ 1. Далее, Q2 = Q, т. е. Q — проектор, и притом
ортогональный, ибо ||й|| ^ \\g + h\\ для всех h и g, удовлетво-
удовлетворяющих соответственно условиям Qh = h и Qg = 0, так что под-
подпространства, определяемые этими условиями, взаимно ортого-
ортогональны. Будем обозначать это замыкание Q снова через Р2.
Если g = Sf, то Plg — SPe\f, а поскольку
BP\f = P\Bf'¦-* Bf при е-»-О,
SP\f также сходится, причем к Sf = g. Тем самым доказано,
что P\g-*g для каждого фиксированного ^еЯ?.

19.1. Абстрактная теория Фредгольма 261
Так как образ оператора Р\ содержится в области опреде-
определения оператора S, то в силу сделанных предположений
t2sp1 = st^pI
а значит, в области определения оператора S
T2Pe2S = STiPl
Умножая это равенство слева на Pi, получаем
P\TiP\S =
Поскольку S —непрерывная биекция Р\Н\ на Р\Н2 (ее норма
и норма ее обращения не превосходит б), мы заключаем на
основании предложения 19.1.13, что
Доказательство завершается теперь применением следующей
леммы:
Лемма 19.1.19. Пусть Т<=3?х(Н, Н) и S/, RjfEz&iH, Щ—две
последовательности операторов, сильно сходящиеся Л тождест-
тождественному оператору. Тогда Tr {SfTR'f) -* Тг (Т).
Доказательство. Поскольку
где С — верхняя граница для норм ||S/|| и ||Г/||, достаточно уста-
установить наше утверждение для случая, когда Т — оператор ко-
конечного ранга. В этом случае М = КегГ имеет конечную кораз-
коразмерность, и мы можем записать Т в виде произведения Т = Т'Р,
где Р: H-*~H/N и Tf: H/N-+H — ограниченные отображения.
Тогда SjT'-»-T' в 2'1(H/N, H), ибо H/N конечномерно, и по-
потому
\\sfT -t' '
Аналогично
откуда вытекает, что
Итак, Tr (SfTR*j) -* Тг (Т), что и требовалось доказать.
Теорему 19.1.15 можно теперь обобщить следующим образом:
Теорема 19.1.20. Пусть A9.1.8) — комплекс гильбертовых про-
пространств и плотно определенных замкнутых линейных опера-

262 19. Эллиптические операторы на компактных многообразиях
торов Т{. Тем самым мы предполагаем, что для каждого j образ
W, оператора 7/_i содержится в Кег Tj. {Мы считаем Wo= {0},
а Кег Г* = Ядг.) Пусть, далее, операторы Ri е^^Я/, Я,) ком-
коммутируют с этим комплексом в том смысле, что
Тогда R,Wf <= W/f R/ Ker T{ <= Кег Т, и оператор R, индуцирует
ядерный оператор Rf в гильбертовом пространстве Яу=Кег Tj/Wt.
С так понимаемыми обозначениями формула инвариант-
инвариантности A9.1.10) остается справедливой.
Доказательство этой теоремы идентично доказательству тео-
теоремы 19.1.15, только вместо предложения 19.1.13 надо восполь-
воспользоваться его усилением — предложением 19.1.18. Предоставляем
читателю самостоятельно убедиться в этом.
19.2. Индекс эллиптических операторов
Пусть X — компактиое С°°-многообразие без края и Е, F — два
комплексных векторных расслоения класса С°° над X с одина-
одинаковой размерностью слоя. Антидуальные к ним расслоения бу-
будем обозначать через Е* и F*. Напомним (см. § 18.1), что вся-
всякий псевдодифференциальный оператор P^Wm(X; ?<8>Й1/2,
f®Q1/2), где Q — линейное расслоение плотностей на X, имеет
главный символ
р е Sm (Г (X), Нот (п'Е, n'F)),
однозначно определенный по модулю Sm~\ Здесь я —проекция
Т'(Х)->Х, и слой расслоения Homfn'f, n'F) в точке у<=Т(Х)
состоит из всех линейных отображений Eny^-Fny. Напомним
также, что эллиптичность оператора Р означает, что сущест-
существует символ q e S~m (Г (X), Horn (n'F, п'Е)), такой что
A9 2 1) W-I(S S~'(Г <*>' Hom ("*?> *"*»'
pq — i e= S~' (Г (X), Нот (n'F, n'F));
в случае когда Е и F имеют одинаковую размерность слоя,
эти два условия равносильны. Через / будем обозначать то-
тождественные отображения в я*? и в n'F.
Теорема 19.2.1. Всякий эллиптический оператор Р е W (X;
Е ® Q1'2, F <g> Q1'2) задает фредгольмов оператор из Я№ (X; E<8>Qm)
в His-m) (X; F <g> Q1'2), ядро которого содержится в С°° (X; ?®Q1/2)
и, значит, не зависит от s, а образ совпадает с ортогональным
дополнением к содержащемуся в С°°(Х; /="®Q1/2) ядру сопря-

19.2. Индекс эллиптических операторов 263
женного оператора Р* е W (X; F' <8> Q1/2, Е* <8> Й1/2). Таким обра-
образом, индекс этого фредгольмова оператора не зависит от s и
равен индексу Р как оператора C°°U; E ® Q1/2) -+ С°° (X; F ® Q1'2)
или ?>'(Х; E®Qm)^»?)f(X; F®Qm); он зависит лишь от
класса вычетов оператора Р по модулю ^m~l. Если E = F' и
P-P'<=Wm~l, то indP = 0.
Доказательство. Выберем Q e W~m {Х\ F ® Q1/2, E ® й) так,
чтобы A9.2.1) выполнялось для главных символов операторов Р
и Q. Тогда операторы
Р: Ны(Х; Е ® Q1/2) ->H(s-m)(X; F <g> Q1/2),
Q: H(s.m) (X; F <g> Q!/2) -* H(a) (X; E ® Q1/2),
Ki = QP-1: H(s) (X; E <g> Q1/2) -* H{s+1) {X; E <g> Q1/2),
= PQ- /: His-m) (X; F ® Q1/2) -* Я(8_т+1) (X; F ® Q1/2)
непрерывны для каждого s. Тождественное отображение
->ЯE) компактно для всякого s (это следует из теоремы 10.1.10
или из характеризации пространств #(S), данной в теореме
18.1.29, и того наблюдения, что символы порядка —1 могут быть
аппроксимированы в S0 символами порядка —еж; см. также
теорему 18.6.6, представляющую собой обобщение этого утверж-
утверждения). Поэтому из следствия 19.1.9 вытекает, что операторы
Р: ЯE) -»• Н^-m) и Q: H(s~m) -*¦ H{s) фредгольмовы и ind P + ind Q
=s0. Поскольку A9.2.1) есть условие лишь на главный символ
оператора Р, выбор оператора Q зависит только от класса экви-
эквивалентности оператора Р по модулю Wm-\ так что ind P один
и тот же для всех Р из такого класса. Далее, если и е Ker P, то
« = — /Cj«= ... =(—K1)N U<=H(s+N)
для любого целого положительного N, так что и е С°°. Сопря-
Сопряженный Р* к оператору Р представляет собой эллиптический
псевдодифференциальный оператор, отображающий H^m~s)(X, F*
®Q'/2) в H{-S)(X, E*<8Q1'2). Если v принадлежит его ядру, то
для всякого N, а значит, v е С°°. Поскольку образ Р как опе-
оператора из H(S) в Н($-т) замкнут, он совпадает с ортогональным
дополнением к этому содержащемуся в С°° ядру оператора Р*,
чем доказательство и завершено, ибо последнее утверждение
теоремы очевидным образом следует из того факта, что ind P
~ —ind P\

264 19. Эллиптические операторы на компактных многообразияж
Из следствия 19.1.7 вытекает, что для произведения Р\Ра
двух эллиптических операторов мы имеем
A9.2.2) ind (PiPa) — ind Р, + ind P2.
В силу следствия 19,1.6, ind Px •= ind Р2, если операторы Р/
еГ(Х; ?<8>Q'/2, F®Q1/2),/ = l, 2, эллиптичны и главный сим-
символ их разности Pi — Р2 достаточно мал в Sm. С помощью тео-
теоремы 19.1.10 можно получить более сильное свойство устойчи-
устойчивости индекса:
Теорема 19.2.2. Пусть I — интервал [0, 1] вещественной прямой
R и
)f=iC°°(Tt(Xy, Нот(л*?, n"F)),
I=3tv->b(t)&C°° (Г (Х)\ Нот (n'F, я'Е))
— непрерывные отображения, такие что a (t), * е /, образуют
ограниченное (по каждой полунорме) множество в Sm, b(t) обра-
образуют ограниченное множество в S~m, a(t)b(t) — / — ограниченное
множество в S~X(T(X); Hom(n*F, nF)) и b (t)a(t) — I — ограни-
ограниченное множество в 'S~1G*(A'); HomCn'f, «*?)). Если операторы
Ao, Л, €= Wm (X; E ® Q1/2, F ® Q1/2) имеют главные символы а @)
и a(l) соответственно, то indAo = indAt.
Доказательство. Сначала напомним, как получить опера-
оператор A(t) с главным символом a(t) (см. обсуждение после опре-
определения 18.1.20). Выберем покрытие многообразия X коорди-
координатными окрестностями Xt с локальными координатами
v.f. X/^-XfCZ R", для которых существуют локальные тривиа-
лизации
Ф/: Bhc^XjXC, *,: F\X/-*X,XCN.
Его можно выбрать столь мелким, чтобы для любой пары X/, Хк
с непустым пересечением множество X/\JXk тоже содержалось
в некоторой такой координатной окрестности. Положим
а, (/, х, (*), I) = Ч>, (х) a (t, х, Ц (х) I) ф; (х)~\ x<=X,,lm R";
это Л^Х ^-матрица с элементами из Sm(Z/XR"), где « — раз-
размерность многообразия X, а N — размерность слоя расслое-
расслоений Е и F. Выберем теперь разбиение единицы 1 = 2 X2 на X
с X/SC™^,), Тогда значение оператора A(t) на элементе
, Е) можно определить формулой
x^Hfrit, x,

19.2. Индекс «ллнптичееких операторов 265
Аналогично определяется оператор B(t) с главным символом
b(t). Чтобы применить теорему 19.1.10, надо вычислить A (t)B(t)
и В(t)A(t). Это вычисление можно провести в локальных коор-
координатах, используя теоремы 18.1.8 и 18.1.17. Мы получим, что
суть операторы порядка —1, равномерно ограниченные как опе-
операторы H(S)->H(s+\) для любого s. Поэтому теорема 19.1.10 сразу
дает
что и требовалось доказать.
Чтобы определить индекс произвольного эллиптического опе-
оператора, достаточно изучить операторы с полиоднородными сим-
символами порядка 0:
Теорема 19.2.3. Пусть Pe=Wm(X; E&W2, F®Q1'2)—эллипти-
F®Q1'2)—эллиптический оператор с главным символом р, и пусть h — однородная
функция степени 1 на Т*(Х), положительная и принадлежащая
классу С60 вне нулевого сечения. Тогда для всех достаточно
больших R операторы с главным символом р(х, Rl/h) эллип-
эллиптичны it имеют тот же индекс, что и Р.
Доказательство. Рассмотрим сперва случай т = 0. Выберем
<7 е S0 так, чтобы qp — / и pq — / имели компактные носители,
и положим для 0 ^ е ^ 1
Рг (*, I) = Р (х, 1% (е/г)), qb{х, Q = q (x, |Х (е/г)),
где %—невозрастающая С°°-функция на R, удовлетворяющая
условиям х@= 1 ПРИ <<1 и %(t)— l/t при t> 2. В силу пред-
предположения относительно h найдется постоянная С, такая что
pq = l и qp = I там, где h > С. Отсюда следует, что
при условии что h%(eh)^ С там, где гп ^ 1, т. е. при условии
что еС^ min t%(t). Поскольку ро = Р, наше утверждение
t>\
будет следовать из теоремы 19.2.2, если мы докажем, что рг и qe,
O^e^Tl, образуют ограниченные множества в S0. При уста-
установлении этого факта достаточно рассмотреть множество, на
котором 1 ^ е/г ^ 2, поскольку там,, где eh ^ 1, мы имеем р
= р и qt = q, а там, где eft ^ 2, символы ре и qK однородны
степени 0. Если положить еЕ = ть то утверждение относительно
р, состоит в том, что функции
8
Р{х, 4%{h{x,

266 19. Эллиптические операторы на компактных многообразиях
Osgesgl, образуют ограниченное множество в пространстве
С°" на том компактном подмножестве в Т*(Х)\0, где 1 ^h(x,i\)
sg: 2. Но это сразу следует из того, что, поскольку р— символ
порядка 0, функции р(х, 0/е), 0 ^ е sg: 1, образуют ограничен-
ограниченное множество в С°° на том множестве, где 1/2 ^ h {x, 9)^2.
Тем самым для случая m = 0 все доказано.
Переходя к общему случаю, возьмем какую-нибудь положи-
положительную эрмитову метрику класса С°° в Я* и запишем ее в виде
(а (х) v, v), v<=ETx.
Таким образом, для каждого к отображение а(х): ?*-»• Ех биек-
биективно и совпадает со своим сопряженным. Выберем теперь
псевдодифференциальный оператор Asf-^; ?*<8>Q1/2, E
<8> Q1/2) с главным символом ahrm. В силу теоремы 19.2.1 индекс
эллиптического оператора А равен 0, следовательно, оператор
PA<=W°(X; ?*®Q'/2, F&Q1'2) имеет тот же индекс, что и Р,
и главный символ pahrm. Поэтому из первой части доказатель-
доказательства вытекает, что для достаточно больших R оператор Р имеет
тот же индекс, что и PRa, где а обозначает оператор умножения
на a, a Pr — оператор с главным символом
р(х, RHh)h{x,
Тем самым доказательство завершено, ибо оператор а обратим.
Если символ р<=ОG"*(Х)\0, Нот(л*?, n*F)) однороден
степени 0 и эллиптичен, т. е. р(х, I) для каждой точки (х, ?).
е r(Jf)\0 является обратимым отображением, то мы опреде-
определим его индекс s-ind p') как индекс эллиптических псевдодиф-
псевдодифференциальных операторов с главным символом р. Из теоремы
19.2.2 или просто из следствия 19.1.6 вытекает, что s-ind pi =
= s-ind p, если
A9.2.3)
где норма берется по отношению к некоторой эрмитовой метри-
метрике в Е. Действительно, /pi+(l—t)p будет тогда для каждого
О ^ t <; 1 главным символом некоторого эллиптического опера-
оператора с не зависящим от t индексом. Это наблюдение позво-
позволяет определить s-ind p даже в случае, когда символ р всего
лишь непрерывен; мы полагаем s-ind p = s-'md pi, где р\ —
любой однородный эллиптический С^-символ порядка 0, удов-
') s — от symbol (символ). — Прим. перев.

19.2. Индекс эллиптических операторов 267
летворяющий условию A9.2.3). Это определение не зависит от
выбора р\, поскольку из A9.2.3) вытекает, что
sup|p2(x, irlPi(x, I)-/|<1
для некоторого рг ^ С°°, сколь угодно близкого к р, а значит,
s-ind pi — s-ind р2. Для такого расширенного определения мы
по-прежнему имеем s-ind p = s-ind px для любых (уже просто)
непрерывных эллиптических однородных символов степени О,
удовлетворяющих условию A9.2.3).
Теорема 19.2.3 подсказывает дальнейшее расширение опре-
определения. Пусть символ psC(T*(Z), Нот(л*?, n*F)) обладает
тем свойством, что множество точек (х, g), для которых отобра-
отображение р(х, |) является необратимым, компактно. Если выбрать
А, как в теореме 19.2.3, то при достаточно больших R
будет однородным эллиптическим символом, и мы положим
s-ind p = s-ind pR;
это определение не зависит от выбора R. Не зависит оно и от
выбора h. Действительно, если А: — другая положительная не-
непрерывная функция, однородная степени 1, то при достаточно
больших R
Обратимо для всех Ъ?=0 и Os^f^l. Поэтому s-indp не изме-
изменится, если заменить h на h\.
Теорема 19.2.4. Существует единственная функция s-ind, опре-
определенная на множестве всех символов р^С(Т*(Х), Нот(л*?,
n*F)) с обратимыми значениями вне некоторого компакта, та-
кая что
(i) если Р — эллиптический псевдодифференциальный опера-
оператор порядка 0 с однородным главным символом р порядка 0, го
s-ind р = ind P;
(и) если pt, 0 ^ t ^ 1, — непрерывная функция от t со зна-
значениями в С(Т*(Х), Нот(л*?, n*F)) и отображение pt(x, I)
обратимо для всех указанных t и всех точек (х, I), лежащих вне
некоторого компакта, то s-ind pt не зависит от t.
Доказательство. Существование такой функции мы уже дока-
доказали, а ее единственность устанавливается с помощью гомото-
пии, использованной при доказательстве теоремы 19.2.3. Заме-
Заметим, что теорема 19.2.3 утверждает, что ind P = s-ind p для
любого оператора РеЧ""^; Е®?11'2, F0Q1/2) с главным сим-
символом р.

268 19. Эллиптические операторы на компактных многообразиях
Прежде чем развивать дальше общую теорию, рассмотрим
один элементарный пример, где X = R/2nZ —единичная окруж-
окружность и все наши расслоения представляют собой просто XX, Q.
В этом случае достаточно изучить оператор с главным символом
+(х) при Е>0,
_(х) при Е<0,
где а+ и а_—функции со значениями в С\{0}. Мы можем, не
изменяя индекса, умножить наш оператор на оператор (умно-
(умножения на) а;1, имеющий индекс 0, в результате чего получим
символ, равный а+(х)/а-(х) при ? >0 и 1 при ? < 0. Если
т — вращение векторного поля а+(х)/а-(х) на единичной
окружности, то
где ф — периодическая функция с периодом 2л. Замена ф на
ftp, OsST^sSrl, дает гомотопию, показывающую, что достаточно
разобрать случай ф = 0.
Оператор Р, задаваемый формулой
т. е. выделяющий аналитическую часть разложения функции и
в ряд Фурье, представляет собой псевдодифференциальный опе-
оператор с символом, равным 1 при | > 0 и 0 при | < 0. В самом
деле, если и — тригонометрический многочлен, то
Ри{х)= lim Bni)
r-n-o
— lim [ и Ш1 - re' <*-»>) dy/2n.
r-n-o J
r-n-o
Предел функций 1/A—e~*eu) при е ->-}-0 равен /( + У
плюс некоторый член класса С°° на (—я, л). Поскольку
i/Bn(x + /0)) есть обратное преобразование Фурье от функции
Хевисайда, утверждение о символе оператора Р доказано. Те-
Теперь все, что осталось сделать, — это вычислить индекс опера-
оператора
и н-> ет*Ри + и — Ри.
Пусть «+ — аналитическая функция в единичном круге с гра-
граничными значениями Ри, а «_ — аналитическая функция во
внешности единичного круга с граничными значениями и — Ри;
на бесконечности функция «_ обращается в 0. Если иеСмA)
лежит в ядре рассматриваемого оператора, то zmu+ (г) + «_ (г)
= 0 при |г|=1, поэтому функция, равная zmu+(z\ при |К 1

19.2. Индекс эллиптических операторов 269
и —u~(z) при |г|^ 1, представляет собой аналитическую функ-
функцию, обращающуюся в 0 на бесконечности и, значит, равную О,
если т ^ 0. Если же т < 0, то, полагая q(z) — и+ (z) при \г\
я^ 1 и q(z) = —zrmu-{z) при |z|^l, мы получим аналитиче-
аналитическую функцию, ведущую себя на бесконечности как O(|z|imH).
Следовательно, q есть многочлен степени \т\—1, и обратно,
всякий такой многочлен определяет элемент из ядра нашего
оператора. Таким образом, размерность этого ядра равна 0 при
т^Ои — т при т < 0.
Далее, пусть /еС°°(Х). Если записать f, как и и, в виде
f = f++ /-, то в случае т ^ 0 уравнение
удовлетворяется при «_ = f_ и u+ = z-mf+(z). В случае т > 0
оно равносильно паре уравнений «_ = /_ и zmu+(z) = f+(z), a
значит, ему можно удовлетворить, лишь когда f+(z)= O(\z\m).
Таким образом, размерность коядра нашего оператора равна в
указанных двух случаях соответственно 0 и т. В обоих случаях
мы получаем, что индекс оператора равен —т. Итак, мы дока-
доказали, что если а(х, I)—непрерывная функция на XX R со зна-
значениями в С, не обращающаяся в 0 при достаточно больших
|?|, то s-ind а равен степени отображения, определенного на гра-
границе цилиндра {(jc, I); *<=*, |?|</?} как а(х, l)/\a(x, Q\
eS1, при условии что R достаточно велико. Здесь мы ориенти-
ориентировали кокасательное расслоение к X условием dx Л ig > 0.
Распространение определения s-индекса на непрерывные сим-
символы было проведено по двум причинам. Во-первых, это под-
подчеркивает топологический характер конструкции (который был
также ясно виден в только что разобранном примере). Во-вто-
Во-вторых, обсуждаемая ниже операция произведения приводит к опе-
операторам, которые, хотя и не являются в полном смысле слова
псевдодифференциальными, включаются в теорию таких опера-
операторов с помощью следующей теоремы:
Теорема 19.2.5. Пусть Р, <= Ч^ (*; Е®п11г, F ® Q1/2), и пусть
Pj^P в 2{H(S){X; ?®Q1/2), H{s-m)(F<8)Qm)) для некоторого
seR, Тогда однородные главные символы р1 операторов Pt
сходятся к некоторому р е С (Т* (X) \ 0; Нот (я*/:, n*F)) равно-
равномерно на компактах в Т (X) \ 0. Если р в каждой точке
является изоморфизмом, то Р — фредгольмов оператор из
HiS)(X; E®Qm) в H{s-m)(F®Qy2) с индексом, равным s-indp
(здесь предполагается, что заменой значений на некотором ком-
компакте функция р сделана непрерывной всюду). Если указанное
в начале формулировки теоремы условие выполнено для всех

270 19. Эллиптические операторы на компактных многообразиях
ssR, то КегР является подпространством в С°°(X; Е <8> Q1/2)>
а образом оператора Р служит ортогональное дополнение
в H(S~m) {X; F <g> Q1'2) к некоторому подпространству простран-
пространства С°° (X; Г <8> Q1/2).
Доказательство. Если а е S™hg (R" X R") имеет главный символ Oq
и и, v с= CS° (R"), то
= (rma(x,D + ®u, v)~>(ao(-, I)u, v).
Ho
где || • || обозначает /Лиорму, и аналогичная оценка справедлива
для v, поэтому
|(оо(.,Б)и. о)|<М||н||||о|| при |Е|= 1,
где М — норма а(х, D) как оператора из #<«> в H{s-m). Таким
образом, sup | а0 К М. Применяя этот результат к оператору
1511
Ф(Р/— Pft)^, где ф, фе С" (X)— функции, носители которых
лежат в некоторой координатной окрестности, получаем, что
Pi — Р/*-*-0 равномерно на компактных подмножествах в Т*(Х)
\0 при /, ?->«>; поэтому p = limp/ существует и является не-
непрерывной функцией, однородной степени ш.
Предположим теперь, что р всюду обратимо. На время
предположим также, что s = m = 0. Тогда при больших / функ-
функция pjl ограничена на Т*(Х)\0. Из второго утверждения тео-
теоремы 18.1.15 следует, что можно выбрать псевдодифференци-
псевдодифференциальный оператор Q/ с главным символом ру1, имеющий конеч-
конечную норму в 3?{Н2, Я,), где Hi = L2(X; В®Q), Н2 =
L2(X; F®Q1/2). Далее
Q/P = / + Q,(P - Р,) + (Q,P, -1),
оператор I-\-Qj(P — Pt) обратим в 2?{Н\, Hz) для больших /,
а оператор Q/P/ — / компактен; поэтому Q,P — фредгольмов
оператор. Следовательно, Кег Р конечномерно. По аналогичным
причинам и PQj — фредгольмов оператор; значит, Р имеет замк-
замкнутый образ конечной коразмерности. Таким образом, оператор
Р фредгольмов, и для больших /
ind Р — ind Р, = s-ind pt = s-ind p.

19.2. Индекс эллиптических операторов 271
В случае произвольных sum выберем эллиптические псев-
псевдодифференциальные операторы
2, ?®Q1/2)
в
В е Ws"m {Х; F ® Q1/2, F' ® Q1/2)
с индексом 0, как в доказательстве теоремы 19.2.3. Тогда
В{Р, — Р)Л->0 в 2?{L2(X; ?*®Qi/2), L2(X; F*®QW)), и из
уже доказанного случая теоремы следует, что оператор ВРА
фредгольмов. Пусть А' и В' — параметриксы операторов А и В.
Тогда
Р — В' (ВРА) А' + (/ - В'В) РАА' + РA- А А'),
так что оператор Р представляет собой возмущение фредголь-
мова оператора В/(ВРА)А' компактным оператором, а значит,
сам фредгольмов. Его индекс равен индексу оператора Р/ с до-
достаточно большим / и, следовательно, равен s-ind pt = s-ind p.
В случае когда предположение о сходимости выполняется
для всех s, ядро Ker P с #<«> (X; E®Qi/2) не возрастает с ро-
ростом s. Если
Р''. H(m.s) (X; F' ® Q1/2) -> #(_s) (X; Е* ® Q1/2)
— сопряженный к Р оператор, то dimCokerP равняется размер-
размерности ядра Кег Р* с: H^m-S) (X; F*®Ql/2), которая не убывает
с ростом s. Так как индекс оператора Р не зависит от s, мы
заключаем, что Кег Р и Ker P* не зависят от s, чем доказатель-
доказательство и завершено.
В излагаемом ниже приложении аппроксимирующая после-
последовательность псевдодиффернциальных операторов строится при
помощи следующей леммы:
Лемма 19.2.6. Пусть а(х, у, I)€= S&g(Rn+B'XR"), где m>0, и
а0 — соответствующий главный символ. Выберем функцию
xeC0O(Rn+B), равную единице в точках (?, г\) с | Til^max(l, |||)(
нулю при |t]|^maxB, 2|||) и однородную степени 0 при
|т)|>2. Тогда
а.(х, у, I, г\) = а(х, у, 1Ы1, ет)) е S?hs (Rn+n' X Rn+"'),
соответствующий главный символ при е-*-0 равномерно схо-
сходится к ад на множестве, где |Ц24-|т]|2=1> « норма разности
ае(х, у, Dx, Dy) — a(x, у, Dx) как оператора из Н{!)в H(s-m) стре-
стремится к 0 при е->-0 для каждого seR.
Доказательство. Главный символ для символа ае равен
Qo{x, У, l)Xo(i, ет]), где хо —главный символ для %. При i=7rQ

272 19. Эллиптические операторы на компактных многообразиях
имеем xo(i, Щ)->~Хо(Ъ, 0)<=1 при е->-0; поскольку ао(х, у, 0)
= 0, этим доказано утверждение о сходимости главных симво-
символов. Далее,
{ае(х, у, Dx, Dy) — a(x, у, Dx))u = a(x, у, Dx)ve,
где
При фиксированном у можно оценить ?2-норму по х функции
а(х, у, Dx)v через //(т)-норму по х функции о. Поэтому
Цаё(х, у, Dx> Dy) — a(x, у, Д«))«4
<Km)supC'(l+lllTlX(l, s4)-
Там, где хA, щ) Ф 1» мы имеем l+IIP^2|eiiP, а следова-
следовательно,
Тем самым доказано, что
A9.2.4) \\(aAx,y,Dx,Dy)-a(x,y,Dx))u\\^C'em\\u\\imy
Покажем теперь, что
A9.2.4)' || (о, (х, у, Dxt Du) - а (х, у, Dx)) и \\s) < Csem || и \\m+s)
для любого целого положительного s. С этой целью заметим,
что оператор %(DX, tDy) коммутирует с дифференцированиями,
а коммутаторы операторов вида а {х, у, Dx) и дифференцирова-
дифференцирований снова имеют тот же вид. Таким образом, Da(ae(x, у, Dx, Dy)
— а(х, у, Dx))u есть сумма членов вида
(Ь,(х, у, Dx, Dg)-b(x, у, Dx))D*u,
где |р|<;|а| и b — символ того же вида, что и а. Это сразу
дает оценку A9.2.4)' для целых положительных s. Если s —
отрицательное целое число иае Him+S), то мы можем записать
«= g Daua, где g ll«allBm)<C||«||Bm+s).
«Протащив», как и выше, дифференцирования Da через
а(х, у, Dx) и применив A9.2.4), получим A9.2.4)' также и для
отрицательных целых s. Поэтому, согласно следствию В. 1.6, эта
оценка справедлива для любых вещественных s. Доказательство
завершено.
В следующей теореме через Vt ЕЗ F2, где Vt и Vt — векторные
расслоения на различных пространствах Хх и Х2, обозначается

19.2. Индекс эллиптических операторов 273
векторное расслоение на Xi X ^2 со слоем VUl ф Угх, в точке
(*ь х2).
Теорема 19.2.7. Пусть X и У— компактные С™-многообразия,
Ек и Fx — эрмитовы векторные расслоения на X, EY и Fy — эр-
эрмитовы векторные расслоения на У. Предположим, что значе-
значения функций
рс=С(Г(Х), Нот(пхЕх, п\Рх))
и
q е С (Г (У), Нот (я* EY, л'уРу))
являются изоморфизмами всюду вне некоторых компактов Кх
и Ку соответственно. Тогда функция d, определенная равенством
принадлежит
С (Г (X X Y), Нот {п\Ех И n*YEY ф n'xFx Ш n'YFY,
a\Fx И n'YEY ф пхЕх Ш nYFY)).
Ее значения вне Кх X Ку суть изоморфизмы, и
A9.2.5) s-ind d = (s-ind p) (s-ind q).
Доказательство. В обозначениях теоремы 19.1.17, из A9.1.14) и
A9.1.15) следует, что А является изоморфизмом, если Л, или
Лг — изоморфизм. Применительно к нашему конечномерному
случаю этот результат показывает, что d(x, \, у, г\) есть изо-
изоморфизм, если (д:, 1)фКх илн (у, г\)фКг. Таким образом, зна-
значения символа d вне Кх X Ку суть изоморфизмы, и потому
s-ind d определен.
При доказательстве равенства A9.2.5) можно считать р и q
однородными степени 1 и С°°-гладкими вне нулевого сечения,
поскольку р и q гомотопны таким функциям. Тогда символ d
тоже будет однородным степени 1, но его С°°-гладкость гаран-
гарантирована только в тех точках (х, I, у, г\), для которых и I, и ц
отличны от 0. Аналитически это отвечает тому факту, что если
выбрать псевдодифференциальные операторы с главными сим-
символами р и q, то оператор
—/®Q*\
)
уже не будет псевдодифференциальным оператором. [Здесь Р* и
Q* — это, конечно, псевдодифференциальные операторы, сопря-

274 19. Эллиптические операторы на компактных многообразиях
женные к Р и Q относительно скалярных произведений \ (ц, о)
Л
н \ (и, v) для сечений и, v расслоений Е ® Q1'2 и F ® Q1/2. Та-
ким образом, они не совпадают с гильбертовыми сопряженны-
сопряженными, если рассматривать Р и Q как операторы в пространствах
Пусть 1 = 2 Ф/ и 1 = 2 Ф* ~ разбиения единицы на много-
многообразиях Z и Y, подчиненные покрытиям этих многообразий ко-
координатными окрестностями, над которыми расслоения Е и F
тривиальны. Определим оператор Do как D с Р и Q, заменен-
замененными на операторы
ямеющие те же главные символы. В силу леммы 19.2.6, для лю-
любых / и k найдутся псевдодифференциальные операторы, аппрок-
аппроксимирующие оператор фуфйДф/ф*. Умножая их слева и справа
на ф/ и i!pk и суммируя, получим псевдодифференциальные опе-
операторы De порядка 1, сходящиеся к Л, в S{H^S), #(s_,)) для
всякого s, главные символы которых сходятся к d. Следова-
Следовательно, по теореме 19.2.5, ind Do = s-ind d. Чтобы вычислить
ind Do, достаточно найти С°°-гладкие элементы ядра и коядра
оператора Do. Но из вычисления, проведенного при выводе ра-
равенства A9.1.13), следует, что
/Po>
= 1
V
0
Аналогичная формула справедлива для D0Dl (все звездочки
переносятся на другой сомножитель). Поэтому равенства
A9.1.14) и A9.1.15) сохраняют силу, а значит, indD0
= ind Poind Qo = (s-ind p) (s-ind 9), чем доказательство и за-
завершено.
Изложим теперь метод, который в принципе позволяет вы-
вычислить s-ind p за два шага:
(i)" упрощение рассматриваемого пространства — замена
многообразия X евклидовым пространством;
(И) явное вычисление индекса для эллиптических операто-
операторов в евклидовом пространстве.
При применении этого метода мы будем иметь дело лишь с
эллиптическими операторами, тривиальными на бесконечности,
Т. е. вне некоторого компактного множества определяемыми с

f 19.2. Индекс эллиптических операторов 275
помощью умножения на обратимую матричную функцию. Шаг
(п) — тема § 19.3. Шаг (i) начинается с вложения многообразия
X в евклидово пространство:
Лемма 19.2.8. Для всякого компактного С°°-многообразия X су-
существует С°°-вложение Ф: X-*-Rv, при условии что v достаточно
велико.
Доказательство. Мы можем покрыть X компактными множе-
множествами /С/, /= 1, • • ¦, /, содержащимися в координатных окрест-
окрестностях Xj с локальными координатами щ\ Xj-*-Rn, где п — раз-
размерность многообразия X. Выберем функции <р7 е С" {Xj), рав-
равные 1 в некоторой окрестности множества /С/. Тогда
Ф: ^эх^(ф1(х), <?Лх)*Лх), ...
будет С'-отображеннем с инъективной производной. Если
x<=Kt и Ф(х) = Ф(у), то yl(y) = q>/(x)=l, так что уе^,, и
Hj (х) = X/ (у). Таким образом, Ф инъективно, чем лемма и до-
доказана.
Беря композицию отображения Ф с некоторой проекцией
общего положения на Bл + 1)-мерное подпространство, не-
нетрудно понизить значение v до 2n + U но нам здесь это не-
неважно.
Пусть N(X) — нормальное расслоение, отвечающее вложению
многообразия X в Rv:
Его слои наследуют от евклидовой метрики в Rv евклидову
структуру, и теорема о неявной функции показывает, что при
достаточно малых р отображение
есть диффеоморфизм на некоторую трубчатую окрестность С/р
образа Ф(Х). Чтобы осуществить шаг (i) намеченной выше
программы, мы обобщим конструкцию произведения из теоремы
19.2.7 так, чтобы при применении к эллиптическому псевдоднф-
ференциальному оператору в X она давала псевдодифферен-
псевдодифференциальный оператор в С/р> который можно рассматривать как
оператор в Rv, тривиальный вне Up. Для этого нам прежде всего
надо иметь оператор индекса 1, который в слоях расслоения
N(X) (компактифнкацией на бесконечности превращенных в
сферы) можно определить в терминах одной лишь евклидовой
структуры, независимо от выбора базиса. Таким образом, нам
надо определить в R* псевдодифференциальный оператор, инва-

276 19. Эллиптические операторы на компактных многообразиях
риантный относительно ортогональной группы, имеющий индекс
1 и, желательно, самые простые ядро и коядро.
Чтобы построить такой оператор, рассмотрим сперва для
случая ц = 1 операторы
P = x + iD: Я,-*//о,
где HQ = L2(R), а Ну состоит из всех ы е #0, для которых хи
еЯ0 и ОиеЯ0, и наделено нормой
где ||-|| обозначает ?2-норму. Если Ри = 0, т. е. (х + д)и = О,
то и(х) = Се~х'12; эта функция принадлежит Н{. Образ опера-
оператора Р плотен в Яо. Действительно, если вектор иеЯ0 орто-
ортогонален к этому образу, то (х — д)о = 0, а значит, v = C'ex'l2;
эта функция может принадлежать Но только при С' = 0. По-
Поскольку
|| Ри |р = || хи f +1| Du f + (xu, ди) + (ди, хи)
из предложения 19.1.3 следует, что образ оператора Р замкнут
и, следовательно, совпадает со всем Яо. Действительно, если
щ — ограниченная последовательность в Н\, такая что Ри, схо-
сходится, то \\xuj\\ и \\Duj\\ ограничены, а потому у последователь-
последовательности щ найдется подпоследовательность Ujk, которая сходится
в L2. Применяя запиеанное выше тождество кн/. —ы/ заклю-
заключаем, что последовательности хи,к и Du/k также сходятся в L2.
Таким образом, Р — фредгольмов оператор с индексом 1.
Аналог этого примера для случая R" получается, если рас-
рассмотреть внешнюю алгебру над С," как комплекс с отображе-
отображениями A(w) внешнего умножения на вектор w=x-\-i\:
При лофО этот комплекс точен, т. е. образ каждого отображе-
отображения совпадает с ядром следующего. Действительно, это доста-
достаточно проверить для случая, когда w — какой-нибудь базисный
вектор, а в этом случае очевидно, что внешнее умножение на w
аннулирует лишь те формы, из которых w можно выделить в
качестве внешнего сомножителя. Расщепим указанный комплекс
по образцу предложения 19.1.16, введя предварительно в Л/jCi*
обычную эрмитову структуру. Таким образом, мы пишем
Лчет = ф Л2/ (С"), Лнеч = ф Л2/+1 (С"),
и для и = (Ыо, ы2, ...) е Лчет полагаем
(wTu2, ...)еЛни;

* 19.2. Индекс эллиптических операторов 277
тогда p\w)*\ Лнеч-»-Лчет имеет аналогичный вид. Из конечно-
конечномерного случая предложения 19.1.16 мы знаем, что отображение
p(w) биективно для всех ненулевых aie.C". (В частности,
Лчет и Лнеч имеют одинаковую размерность, что, впрочем, сле-
следует уже из того факта, что A — 1)п = 0.) Пусть теперь #i —
пространство всех форм четной степени
у которых каждый коэффициент / удовлетворяет условиям f,
D/f, Xjf^ L2, j = 1, ..., n, и пусть Но — пространство всех форм
нечетной степени с коэффициентами из 1г.
Предложение 19.2.9. Дифференциальный оператор первого по-
порядка р(х-\- Ю) отображает Hi на Но и имеет одномерное ядро,
порожденное скалярной функцией е~ ' *|1/2.
Доказательство. Пусть <7e=C°°(R2n, ^(Л4, Лчет)) равняется
р(х + i?,)~l вне некоторого компакта. Тогда <7 е S (R~\ g), где
R(x, |) = A+1*Р + 1Ш1/2, g = {\d
Это следует из соображений однородности. Значит, q(x, D) не-
непрерывно отображает Но в Яь ибо q(x, D), Xjq(x, D) и
D/q(x, D) принадлежат OpS(l, g) и, следовательно, L2-Henpe-
рывны по теореме 18.6.3 или просто по теореме 18.1.11. Из об-
общего исчисления псевдодифференциальных операторов, разви-
развитого в § 18.5, вытекает, что для символа р(х, |) = р(•* + /!)
q Ос, D)p(x, D) = I + KAx, D),
где Ki^S(\/R, g). Отсюда следует, что если иеР" и
р(х, D)u = 0, то ы=(—Ki(x, D))Nu для любого N, а значит,
и ^9", Аналогично
р(х, D)q(x, D) = I + K2(x, D),
где /C2^SA//?, g). Таким образом, Кл(х, D), XjKzix, D) и
DjKzix, D) непрерывно отображают Яо в Но, а следовательно,
К2(х, D)—компактный оператор из Но в Но. Поэтому образ опе-
оператора р(х, D): Нх-*-Н0 замкнут и имеет конечную коразмер-
коразмерность. Если вектор v ортогонален к этому образу, то
о = — К2{х, D)*u=(—K2(x, D)*)Nv для любого W, а значит,
»б^, Таким образом, осталось только доказать, что кратные
функции ё~ 'х |2/2 — это единственные формы с коэффициента-
коэффициентами из 9", аннулируемые оператором р(х, D), и что оператор
р(х, D)* инъективен на 9>. Здесь уже требуются некоторые
выкладки.

278 (9. Эллиптические операторы па компактных многообразиях
Для всякой «/-формы f на R" с коэффициентами из 9"
Л (х + ID) f = (х, dx) л f + df = e~ ' * md (в' * |!/2f)
Форму / можно записать в виде
где / = (/i, ..., /<?)—набор из <? индексов, заключенных между
1 и п, функция fj антисимметрична по этим индексам, а штрих
при знаке суммы означает, что суммирование ведется только по
возрастающим наборам индексов. Тогда
А (х + ID) f = Z E' C/ + */) // dx, Л АсЛ
II л (х + ш) f н2 = 2^ Г аа, + х,) fj, (д, + х,) fL) ей,
где числа e/i. отличны от нуля лишь в случае, когда ]ф1,
1фЬ и {]} [} J = {1} {) L, а в этом случае равны знаку переста-
новки I . . I. Сгруппируем члены последней суммы по-друго-
по-другому. Сперва рассмотрим те из них, для которых / = /. Тогда,
чтобы в'1фО, мы должны иметь J = L и /§?/, так что эти чле-
члены дают
SEи (/ */)//и2-
Теперь рассмотрим члены с \Ф1. Для того чтобы еЦфО, здесь
надо, чтобы /е/, /si и после исключения / из / и / из L
получался один и тот же мультииндекс К- Поскольку
сумма этих членов равна
-S Е'
Несложное вычисление, провести которое предоставим чита-
читателю, показывает, что
И л (ж+шг / |р = S Z' «*i - а*) //к. (*/ - 0/) f/И
Так как
после интегрирования по частям получаем

19.2. Индекс эллиптических операторов 279
Используя A9.1.11), заключаем, что если «=?9. где щд
суть 2<7-формы с коэффициентами из 91, то
+/D) и |р = ? 4? || «2 JP + ? II (*/+ д/)«I!2.
i
Отсюда видно, что равенство р(х-\-Ш)и = 0 возможно лишь
тогда, когда и есть кратное функции е~ 'х |S/2. Аналогично по-
получаем, что если o=S»2,+i. где i^+i суть Bq -f 1)-формы
с коэффициентами из 9", то
|| р (х + ID)' v f = Z D9 + 2) П v2<!+l |Р + ^ II {х, + д,) v |р.
Отсюда вытекает, что оператор p(x+iD)* инъективен, чем и
завершается доказательство.
Замечание. Доказательство теоремы 15.1.1—это, по существу,
частный случай q = 1 проведенного выше вычисления.
Продолжим реализацию нашей программы. Теперь нам надо
преобразовать оператор р(х + Ш) в псевдодифференциальный
оператор порядка 0.
Лемма 19.2.10. Если Те (х, I) = A +1 ех Р +1 е| р)~w, T0 для
всех достаточно малых е > 0 оператор Тв (х, D) осуществляет
изоморфизм пространства L2 на гильбертово пространство В
всех u^L2, таких что DfU^L2 и XjU^L2 при /==1, .... п, и
Те (х, D)~l f ->¦ / в L2 при е -> 0 для любого feB.
Доказательство. Положим Re—l/Te и введем метрики
ge = e2(|d*p + irf!p)/ffe(*, If,
которые равномерно сг-умеренны для 0<е^1. Очевидно, что
функции RE и Тг равномерно ограничены (т. е. имеют равно-
равномерно ограниченные полунормы) в S{RB, ge) и S(Tt, g^ соот-
соответственно, поскольку это верно при е=1. Следовательно,
Re(x, D)Te(x, D) = / + ^Ie(a:, D),
где символы Кц равномерно ограничены в S(b2/rI, ge). Поэто-
Поэтому /Анорма оператора Ки(х> D) есть О(е2), так что оператор
I + Kie(x, D) обратим в L2 при достаточно малых е. Анало-
Аналогично
Г,(дс, D)Re{x, D)
где символы К& равномерно ограничены в S(b2/RJ, ge). Сле-
Следовательно, ?2-нормы операторов /С2е. [*/. К**] и [^/. ^2е] суть
О(е2), а потому норма К2е как оператора в В есть О (в2). Таким

280 19. Эллиптические операторы на компактных многообразиях
образом, оператор / + К2е обратим в В при достаточно малых
е, так что Те(х, D) осуществляет изоморфнзм L2-*-B, a Re(x, D) —
изоморфизм B->ZA Для feB
и {I + K2e(x, D))~' f-*f в В при 6->0, Далее, для gsS*
= (RR(x, D)'Rt(x, D)g, g)
= II g IP + e2 (? II x,g |p -f || D,g |p) + (/Сзе (*, D) g, g),
где символы КЯе равномерно ограничены в S(e2, ge), а значит,
L2-HOpMa оператора Кзе(х, D) есть О(е2). Следовательно, опе-
операторы Re(x> D) как операторы из В в L? имеют равномерно
ограниченные нормы. Если g^.9", то Re(x> D)g^*-g в 9" при
е-*0, так как Re-*-\ в С°° в Re равномерно ограничены в
S(RU gt). Таким образом,
в L? при е-*0, чем доказательство и завершено.
Зафиксируем теперь е столь малое, что Тв(х, D) — изомор-
изоморфизм и
Тогда ре(х, D) = p(x, D)Te(x, D) есть сюръективный фредголь-
мов оператор из ^(L2(Rn, Л'"), L2 (R", Лве')) с индексом 1,
инъективный на гиперплоскости, ортогональной к ?~'*|1/2. Яс-
Ясно, что
Чтобы продеформировать ре в псевдодифференциальный опе-
оператор, тривиальный на бесконечности, выберем функции
феС"(R") и феС"(R") так, чтобы они были неубывающими
функциями от радиуса и чтобы
q>(x) = it>(x)=l при |*|< 1,
1/U| при|л:|>2.
Лемма 19.2.11. Яслы aeS(l, g), го 5ля 0<б<1 символы
A9.2.6) «,(*, |) = а(д:, Ф(бд:)ф(б|)|)
равномерно ограничены, в S(l, Q), где
G = |dx

19.2. Индекс эллиптических операторов 281
Отметим, что
а(х, 0) при |6*|>2,
а (х, Ф (блг) ?/) б? |) «/?« 16| | > 2.
Доказательство. Утверждение леммы означает, что
Ввиду однородности символа а6 по g при |6g|j>2, можно счи-
считать, что |6||^2. Предположим сначала, что |бх|^1. Тогда
а6{х, 1) = а{х, ф(вБ)Б) и при
достаточно установить первую из этих оценок для случая 6 = 1,
а в этом случае она следует из того, что функция i$> F) 6 глад-
гладка и однородна степени 0 при больших 1?1. Поскольку
1 +|*1 + 1Кв?I?1> 1 +UI + c|i|, те члены выражения
DlD^a6(x, |), где а дифференцируется / + IPI раз, оцениваются
помноженной на некоторую не зависящую от 6 постоянную
величиной
как и требуется. Далее, при | Ьх | > 2 мы имеем а6 {х, Ъ) = а (х, 0),
и доказываемое утверждение очевидно. Наконец, пусть
ls^l6х|^2. Тогда производные порядка / от а оцениваются
через С6/, а
ибо это верно при 6=1 и справедливо неравенство
6/A +1 Ьх |) ^ 1/A -f-1 х |). Отсюда непосредственно вытекает тре-
требуемая оценка.
Теперь мы подготовили все необходимое для построения
оператора, который можно использовать в обобщенной форму-
формуле произведения:
Теорема 19.2.12. Существует символ В е= Sphg (R"XR") со значе-
значениями в &(A4eT(Rn)> Лнеч(К")), такой что
(i) В {х, |) = Л (х/\ х |) -f- Л (х/\ х |)* при всех достаточно боль-
больших |*|;
(п) разность между ядром Шварца оператора В(х, D) и
распределением В(х, 0N(х — у) имеет компактный носитель;
(in) оператор В{х, D) отображает L2 (R", Лчет (R")) на
L2{Rn, AHe4(R")) и имеет одномерное ядро, состоящее из сфе-
сферически симметричных скалярных функций класса ^о°;

282 19. Эллиптические операторы на компактных многообразиях
(iv) для любого ортогонального преобразования О в R" и
любого tteL!(Rn, Лчет(R")) справедливо равенство О'В(х, D)и
= В{х, D)O'u.
Доказательство. Выбрав е столь малое, что выполнены заклю-
заключения леммы 19.2.10 и ядро оператора рг(х, D) не ортогональ-
ортогонально к е~'*|г/2, применим лемму 19.2.11 к а = ре и к Ъ, равному
р1х вне некоторого компактного подмножества М = {(х, |);
|дс|^С, |?|^С} в R ". Символ аъ(х, 1)Ь6(х, ?) равен тождест-
тождественному преобразованию при (х, |) ф М и 2бС^1. Действи-
Действительно, если (х, ф(бх)-ф(б?)|) е М, то |6*|<6С<1, следова-
следовательно, ф(Ы)| Ы |<ЬС< 1/2, а значит, | Ы |< 1 и 111 <С. Далее,
Ьй(х, D)a6(x, D) = I + Ki6(x, D),
as(x, D)b&(x, D) = I + K26(x, D),
где при достаточно малых б символы /С/в ограничены в
S((l +|x\)~l (I +l?l)~\ G) для метрики G, определенной, как
в лемме 19.2.11. Из теоремы 19.1.10 следует поэтому, что
in6au(x, D)=l и dimKerae(jc, D)=l, при условии что б до-
достаточно мало. Если ий е Кегав(л;, D) и ||ue||= 1, то «в = — К^Щ
принадлежит некоторому фиксированному компактному под-
подмножеству в L2. Всякая предельная точка и0 таких ий при
б-*0 лежит в ядре оператора ps{x, D) и имеет норму 1, а
следовательно, не ортогональна к e~|x|V2. Пусть dO обознача-
обозначает меру Хаара на ортогональной группе. Положим
Тогда U6 тоже лежит в ядре оператора а6(х, D) и имеет та-
такое же скалярное произведение с е~'*|г/2, что и и6, поэтому
и6ф0 при малых б. Итак, мы получили для указанного ядра
образующую, которая инвариантна относительно ортогональ-
ортогональной группы, т. е. является сферически симметричной функцией.
Ядро К оператора а6(х, D) равно ай(х, 0)б(х — у) при
|д*|>2. Далее,
К (х, у) = BпГ" J е' «-* Ч (х, I) d|
быстро убывает при у-+°о и |6jc|^2 (cm. доказательство тео-
теоремы 7.1.22). Отсюда вытекает, что
(К(х, у)-ай(х, 0)б(*-г/))A-Ф(уг/))-»0
в 9> при у->0 (здесь ф — та же функция, что и в лемм
19.2.11). Следовательно, оператор
Во (х, D) = ай (х, D) - (а6 (х, D) - а6 (х, 0)) A -

19.2. Индекс эллиптических операторов 283
очевидно, удовлетворяющий условию (ii), при достаточно ма-
малых у удовлетворяет также условию (iii). Для | дх | > 2
Во(*. 6)-Р(х, 0)Те(х, 0) - / ? (dp(х, 0)/д%{)(дТг(х, 0)/дх,)
= р(х, О)/|едс | + O(l/|x|) при х-юо.
Если положительное число 8 достаточно мало, то
В(х, 6) = Ф(е*)A + е2(| х f + Ф(Ьх№)У<*(| х I2 + <v(bxf)-4*Вй{х, |)
+ A-<рфх))р(х, 0)/\х\
по-прежнему будет функцией с обратимыми при |6*|>2 зна-
значениями, так что символ В обладает свойством (i); кроме того,
В наследует от Во свойства (ii) и (iii). Сферическая симметрия
соблюдалась в ходе всего нашего построения, поэтому для В
выполнено и (iv). Доказательство завершено.
Заметим, что множитель при Во в приведенной выше фор-
формуле для символа В был выбран так, чтобы главный символ
был равен
0)' Р (х + /Ф F*) U Ы D (| х р + Ф (б*J)-'*
Оператор В(х, D) удобен для аналитических применений, и
его символ гомотопен символу p(x-\-i%) вне некоторого ком-
компакта. Будем называть этот оператор оператором Ботта, по-
поскольку его символ выступает как некоторая образующая в тео-
теореме периодичности Ботта; саму эту теорему мы, впрочем, нигде
использовать не будем. По техническим причинам предпочитают
рассматривать В как оператор в S" = R"U{°°} с локальными
координатами Xj/\x\2 на бесконечности. Он переводит сечения
тривиального расслоения Ев = S" X Лчет (С") в сечения рас-
расслоения FB, равного R"XAHM(.C,") над R" и E"\{0})
ХЛчет(Сл) над S"X{0}, причем для xe= R"\{0} и шеЛчи(С,п)
точки (jc, p(x/\x\)w) и (х, w) отождествляются между собой.
В первом варианте представления оператора Ботта определение
Ви сохраняет силу для «e«?"(R"), а во втором оператор В
действует как тождественный оператор, если supp и достаточно
близок к оо. Согласованность этих двух вариантов определения
вытекает из условия (ii) теоремы 19.2.12.
Теперь мы готовы к тому, чтобы доказать формулу индекса
для расслоенных произведений, возникающих при рассмотрении
вложений. Формулировка результата длинна, но аналогия с тео-
теоремой 19.2.7 очевидна.
Теорема 19.2.13. Пусть У — компактное С*"-многообразие, EY и
ру — два комплексных эрмитовых векторных расслоения класса

284 19. Эллиптические операторы на компактных многообразиях
Сж над Y и
q(=C(f(Y), Нот(я*у?у,
— функция, значения которой всюду вне некоторого компакта
являются изоморфизмами. Пусть V — вещественное векторное
расслоение с п-мерным слоем над Y, наделенное евклидовой
структурой. Пусть Vg — сфера, получаемая добавлением к Vg
бесконечно удаленной точки, и V — соответствующее расслоение
сфер над У. Таким образом, 1/ = V О (У X {°°})» причем С°°-струк-
тура расслоения V на бесконечности определена так, чтобы ин-
инверсия Vy \ {0} э v |—> у/| v |2 продолжалась до диффеоморфизма
V \ V0 -*¦ V, где V0 = Y X {0} ~ нулевое сечение расслоения V.
Обозначим через Vc комплексификацию расслоения V, и пусть
Ев — поднятие с Y на V векторного расслоения Лчет(Кс). Пусть
FB — векторное расслоение на V, получаемое из поднятия рас-
расслоения Лнеч(Кс) на V и поднятия расслоения Лчет(Ус) «а
V W0 при помощи отождествления точек (v, p (v/\ v\)w) и
(у, ш) для v^Vg\{0) и шеЛ4"^). Здесь, как и выше,
р(о) = А (о) -f- Л (о)*. Пусть Яу, FY — расслоения EY, FY, подня-
тые на V. Выберем
qe=C(f(V), Hom(n~Ev, nvFY))
так, чтобы
A9.2.7) q(t, я*т1) = q(nt, Ч) при t<=V и ц<=Т'м (Y),
где я обозначает проекцию V-*-Y. Положим теперь для
(t, т)еГ(К)
(
(> Х) У l®q{t, t)
где 6 обозначает ограничение формы х на слой, х есть t, рассма-
рассматриваемое как элемент из Vnt, а ${х), ц>(х) —не возрастающие
непрерывные функции от \х\, которые в 0 равны 1, а в некото-
некоторой окрестности бесконечности равны соответственно 1/\х\ «0.
Тогда
de=C(T'(V), Hom(n~EB®?y©FB®Fy, n?FB ® EY © Ев ® FY)),
значения этой функции всюду вне некоторого компакта явля-
являются изоморфизмами и
A9.2.8) s-ind d = s-ind q.
Доказательство. Прежде всего напомним, что A9.1.12) есть изо-
изоморфизм, если Л| или Л?—изоморфизм. Далее, ty)l

19.2. Индекс эллиптических операторов 285
является изоморфизмом всегда, за исключением случая, когда
х = I = О, т. е. когда / е V0, а г ортогонально к слою Vnt. Но
это последнее означает, что г — п*ц для некоторого t) e T& (Y);
ввиду A9.2.7) отсюда следует, что вне некоторого компакта d—
изоморфизм. Таким образом, индекс s-ind d определен и не зави-
зависит от выбора символа q, удовлетворяющего A9.2.7), равно как
и от выбора функций ф и if. При доказательстве равенства
A9.2.8) можно принять, что символ q однороден степени 1 и
С°°-гладок вне нулевого сечения расслоения Г*(У). Выберем
Q е= Ч'рье (У; ?y®Q1/2, FY®Qm) с главным символом q. Чтобы
преобразовать оператор Ботта В в оператор первого порядка,
выберем псевдодифференциальный оператор Т на 5" так, чтобы
значение его главного символа на кокасательном векторе (х, |)
было равно длине этого вектора, вычисленной по отношению к
стандартной длине дуги в S". (При отождествлении 5"\{оо}
с R" элемент стандартной длины дуги в 5" равен \dx\2/(l
+ |х|2J, поэтому ограничение главного символа оператора Т на
7*(R") равно ||| A + |х|2).) Добавляя к оператору Т большую
положительную константу, можно сделать его обратимым, а
значит, имеющим индекс 0. Оператор Т действует также на се-
сечениях тривиального расслоения Ев над Sn, и В\ = ВТ будет
эллиптическим псевдодифференциальным оператором первого
порядка, ядро которого порождается некоторой сферически сим-
симметричной скалярной функцией, если выбрать Т инвариантным
относительно ортогональной группы. Ясно, что оператор В\ дей-
действует и на сечениях расслоения Ев ® EY ® Qy2, поскольку по-
последние можно рассматривать как формы на R", зависящие от
параметра у и принимающие значения в Ёд фй]/2, и что он инва-
инвариантен относительно ортогональной группы. (На слоях-сферах
мы отождествляем функции с плотностями.)
Как и в доказательстве теоремы 19.2.7, возьмем разбиение
единицы 1 = X 'Фь подчиненное покрытию многообразия У ко-
координатными окрестностями У*, над которыми расслоения Еу
и FY тривиальны, а расслоение V со своей евклидовой структу-
структурой эквивалентно УаХ^"- В терминах этих тривиализаций опе-
операторы r|)ftQr|)ft определяют некоторый оператор из сечений рас-
расслоения Ев ® Ёу ® Qy2 в сечения расслоения ?в ® Fy ® Qj/2, ко-
который может быть аппроксимирован с помощью леммы 19.2.6.
После умножения слева и справа на \|)а этот оператор можно
поднять обратно на многообразие. Суммирование по k дает опе-
оператор Q=YiQk из сечений расслоения Ёв®Ёу®пу2 в сечения
расслоения ?s ® Fr ® Qi^2, такой что
A9.2.9)

286 19. Эллиптические операторы иа компактных многообразиях
для всех сечений и расслоения Еу^пЦ2 на Y. Здесь
Qo = 2j 'ФаС1!'* — другой псевдодифференциальный оператор на
Y с главным символом q. Применяя лемму 19.2.6 к 1р*СЭД>*, по-
получим сходящуюся к Qk последовательность псевдодифферен-
псевдодифференциальных операторов с главными символами, сходящимися к
символу, равному $iq(nt, r|) в точках вида (/, я*г|). (Послед-
(Последний символ продолжается с множества точек указанного вида
так, что он постоянен в направлениях, конормальных к пло-
плоскости х = const, определенной в терминах локальных коорди-
координат, но когда мы образуем Q, эта информация не сохраняется.)
Таким образом, главные символы операторов, аппроксимирую-
аппроксимирующих Q, сходятся к некоторому символу q, удовлетворяющему
условию A9.2.7). Точно таким же способом можно поднять Q и
до оператора <3i из сечений расслоения FB ® EY ® Q,]/2 в сечения
расслоения FB®fy®Qp, и имеют место свойства сплетения
A9.2.10) Q1B, = B1Q, B'&^QB],
поскольку эти равенства выполняются для наших локальных
конструкций.
Рассмотрнм теперь оператор
из сечений расслоения ?гв®?у(ЭрУ2ф^в®Л'®й}'2 в сечения
расслоения Fb®^®^'2®^®^®^'2. Точно так же как и
при доказательстве теоремы 19.2.7, можно применить теорему
19.2.5 и заключить, что D — фредгольмов оператор, индекс ко-
которого можно вычислять на гладких сечениях, поскольку пре-
предельный главный символ
A9.2.11) (*• ~f)
является изоморфизмом вне нулевого сечения расслоения T*(V).
В самом деле, значение главного символа Ь\ оператора Вх в точ-
точке (t, x) является изоморфизмом всегда, за исключением слу-
случая, когда форма % конормальна к 9nt, а в этом случае, в силу
A9.2.7), q{t, т) будет изоморфизмом при хфЪ. Из свойств
сплетения A9.2.10) вытекает, что
о \

19.2. Индекс эллиптических операторов 287
Здесь оператор Вхв\ инъективен, а элементы ядра оператора
B\Bi могут быть записаны в виде uo(\x\)®v(ny), где |-| обо-
обозначает евклидову метрику, и0 — некоторая скалярная функция
и о — некоторое сечение расслоения EY ® Qy2. Но, как следует
из доказательства равенства A9.2.9),
Q («о ® n'v) = ц0 ® n*Qot;,
поэтому ядро оператора D изоморфно ядру оператора Qo. Ана-
Аналогично
dd._/b,b;+q;q, о ч
\ 0 BiB, + QQ/
Ввиду инъективности оператора B^i заключаем, как и выше,
что ядро оператора D* состоит из всех элементов вида ц0®я*о,
где v — сечение класса С°° расслоения FY ® Qy2, аннулируемое
оператором Q*. Поскольку Q сохраняет степень форм на слоях
расслоения V, это означает, что элемент Ио®я*о должен быть
ортогонален к Qw для каждого сечения w расслоения /7y®Qj/2,
рассматриваемого как подрасслоение в Eb®Fy®Qy2. Если \
обозначает интегрирование по слою, то
= Qo
в силу определения Q (см. A9.2.9)). Следовательно, указанное
условие на v равносильно тому, что v ортогонально к образу
оператора Qo, т. е. тому, что Q0o = 0. Поэтому
ind D = dim Ker Qo — dim Coker Qo == ind Qo = s-ind q.
Остается построить гомотопию между символом A9.2.11)
оператора D и символом d{t, x). Из конструкции оператора В\
следует, что
Ь, = 11 \х р (х + «р (Ьх) Ц
здесь б —из леммы 19.2.П, а |?|* = A +|jc|2) ||| — длина век-
вектора % относительно указанной выше римановой метрики на
сфере. Ввиду однородности символа р последнее выражение
равно
Р (х 11U
В символе d на соответствующем месте стоит if(jc)p(jc + /ф (бл:) 1)
Связывающая эти выражения гомотопия, значения которой при

288 19. Эллиптические операторы на компактных многообразиях
суть изоморфизмы, записывается как
X (А.* (х) + A - Л)/0 * Р + Ф (б*J)),
0 ^ Я ^ 1. Доказательство завершено.
Можно сделать d уже совсем тривиальным в окрестности
бесконечности, рассмотрев гомотопию
(Ф(*)Р(* + /&Р(*))®/ ф(*)/®?(/, т)' \
*-в ( ' Т) ~ V Ф (Ьх) / ® $ (*, т) * (х) р (х + ЙФ (*))' ® /Г
1. Это по-прежнему изоморфизм, когда хфО или
а при х = 0 ничего не изменяется. Таким образом,
s-ind d = s-ind d\ = s-ind d0. Заметим, что в окрестности точки
оо в F, где ф(*) = 0, мы имеем
Р(х/\х\)<8>1 0
/\ЦГ
Как и в теореме 19.2.3, можно выбрать псевдодифференцналь-
ный оператор порядка 0 с гомотопным главным символом, у ко-
которого ядро отличается от ядра некоторого оператора умноже-
умножения лишь на распределение с компактным носителем в V XV.
Отсюда следует, что ядро и коядро этого оператора можно вы-
вычислять на сечениях с компактным носителем в V, и больше не
нужно продолжать их до сечений, определенных и на бесконеч-
бесконечности. Чтобы упростить наш оператор далее, тривиализуем рас-
рассматриваемые расслоения:
Лемма 19.2.14. Для всякого комплексного векторного расслое-
расслоения Е класса С°° над компактным С*»-многообразием X можно
подобрать другое комплексное векторное расслоение G класса
С00 над X так, чтобы расслоение Е ф G было изоморфно X X С,"
при некотором N.
Доказательство очень близко к доказательству леммы 19.2.8.
Выберем покрытие многообразия X координатными окрестно-
окрестностями X/, / = 1, ..., /, такими что для всякого / существует
тривиализация rf/: E\xj-*¦ X/X C,v. Если q>, еСсГО^ 2
то отображение
s X X Cv/,
где я — проекция Е-*-Х, вкладывает Е как подрасслоение в
X X C,N, N = /v. Остается просто взять в качестве G расслоение,
слоями Gx которого служат ортогональные дополнения к обра-
образам слоев Ех в .С,". Лемма доказана.

f 19.2. Индекс эллиптических операторов 289
Применяя эту лемму к ситуации, в которой роль X и Е иг-
играют V и Ев ® Ег Ф Fb ® Ру соответственно, заключаем, что пря-
прямая сумма Da тождественного оператора в С°°(9, G) и опера-
оператора, построенного непосредственно перед леммой 19.2.14, пред-
представляет собой эллиптический оператор на сечениях тривиаль-
тривиального расслоения Р'Х'С/', в окрестности бесконечности являю-
являющийся просто умножением на некоторый изоморфизм векторных
расслоений.
Предположим теперь, что V — нормальное расслоение, отве-
отвечающее вложению многообразия У в Rv для некоторого v. Как
было отмечено после леммы 19.2.8, V можно тогда отождествить
с некоторой трубчатой окрестностью Up многообразия У, и опе-
оператор Da определяет на Up эллиптический псевдодифферен-
псевдодифференциальный оператор с символом da, который для некоторого
г<р является на Up\Ur просто изоморфизмом расслоений.
Этот символ da{X, В) при фиксированном ненулевом SeRv
дает изоморфизм пространства C.v и слоя образа нашего три-
тривиального расслоения при указанном отождествлении, поэтому
этот образ также будет тривиальным расслоением. Итак, опера-
оператор Da представляется некоторой N X Л^-матрицей псевдодиффе-
псевдодифференциальных операторов, причем на U9\Dr при некотором г < р
он сводится к оператору умножения на обратимую матричную
функцию. Чтобы продолжить его на всё Rv, нам понадобится
следующая лемма:
Лемма 19.2.15. Пусть U с: Rv открыто и ограничено, KczU ком-
пактно и аеС°°({У\/С, GL(N, С)). Тогда найдутся такие
Ао е= С°° (U, GL (N, С)), Ах s C°° (Rv \ К, GL (N, С)),
что функция А«> равна аА0 в U\K и однородна степени О в не-
некоторой окрестности бесконечности.
Доказательство. Выберем функцию <р е Со° (U), удовлетворяю-
удовлетворяющую условию 0 ^ ф ^ 1 и равную 1 в некоторой окрестности
компакта К. Тогда
при х е U, zx = 0 при х ф if}
будет векторным расслоением над Rv, а значит, тривиальным
расслоением. Далее рассуждаем так. Если 1/2 < / < 1, то орто-
ортогональная проекция слоя Ех cr C2N на слой Etx является тож-
тождественным отображением при больших х, а также при t = 1
и, следовательно, является изоморфизмом при всех х, если
1—t достаточно мало. Итак, мы имеем изоморфизм P(x)l

290 19. Эллиптические операторы иа компактных многообразиях
Ex~*-Etx, непрерывно зависящий от х. Зафиксируем какой-ни-
какой-нибудь большой шар В, содержащий supp ф. Тогда отображение
Р(**"'*) ... Р(х): Ex^Etkx
тривиализует Е над В, если k столь велико, что Е тривиально
над tkB. Поэтому найдутся С°°-отображения F и G шара В в
множество N X N-матриц, такие что ограничение расслоения Е
на шар В имеет вид {(*, F(x)w, G(x)w); x e В, шее1*}.
Таким образом, а(х) A — q>(x))F(x) = <p(x)G{x) там, где 0 <
ф(х)< 1. Положим
при <р(дс)>0,
q>(*)) при
Тогда а{х)А0(х) — Аао{х) при 0<ф(*)< 1, так что можно про-
продолжить Ао на всё U, положив А0(х) = а(х)-1Ааа(х) там, где
ф(лг) = О, а А*, — на всё С/С, положив Аао(х) = а(х)А0{х) там,
где ф(х) = 1. Ясно, что аА0 = Ааа в ?/\/(. Поскольку ?/ ограни-
ограничено, можно взять В = {к е Rv; j jcj < 2/?} со столь большим R,
чтобы в U выполнялось неравенство |х\< R/2. Наконец, видо-
видоизменяя Аоо, а именно переходя от Лоо(дс) к Aaa(iip(x/R)x), где
функция $ такая же, как в лемме 19.2.11, достигаем требуемой
однородности, чем и завершается доказательство.
Теперь мы просто заменяем наш оператор Da на DoA0 н по-
получаем оператор, действующий на функции со значениями в 'С*,
который вне некоторого компактного подмножества в Up являет-
является оператором умножения на Аоо. Следовательно, его можно
продолжить на всё Rv. Итак, отправляясь от эллиптического
символа q на У, мы определили эллиптическую W X W-систему
псевдодифференциальных операторов в Rv, которая вне некото-
некоторого компакта в Rv действует просто как умножение на обрати-
обратимую матричную функцию D(x), однородную степени 0. Для
этого оператора, действующего на функции с компактным носи-
носителем, индекс равен s-indg- В § 19.3 мы явно вычислим индекс
таких операторов. В принципе это дает метод для вычисления
s-ind q. Некоторые указания насчет совсем явных формул для
s-ind q можно найти в примечаниях в конце главы; полное раз-
развитие этой темы увело бы нас слишком далеко в сторону от
главной линии изложения.
19.3. Теорема об индексе в {Rn
Как и в § 19.2, g будет обозначать а-умеренную метрику в R2n
задаваемую формулами
g*.l = h(x, t)(\dx? + \dt\2), h(x, ^) = (l+

19.3. Теорема об индексе в R" 291
Симметричность метрики g по переменным х и % и использова-
использование исчисления Вейля упрощают доказательство следующей
теоремы:
Теорема 19.3.1. Если символ as5A, g) со значениями в
2"(СУ, СУ) таков, что функция or1 определена и ограничена вне
некоторого открытого шара Be R2", то aw(x, D) есть фредголь-
мое оператор в L2(Rn, Cv) с индексом
A9.3.1)
предполагается, что R2" ориентировано условием dxx л d\x л ...
... л dxn л а%п > 0 ')¦
Здесь a~lda—один-форма с коэффициентами, значения ко-
которых являются v X v-матрицами и, следовательно, при v > 1
не коммутируют. В случае п = v = 1 символ а — это просто ска-
скалярная функция и правая часть формулы A9.3.1) равна
BшГ \ da/a,
дВ
т. е. вращению определяемого функцией а векторного поля на
дВ — отображения окружности дВ в С\{0} (см. пример после
теоремы 19.2.4). Для доказательства теоремы 19.3.1 мы восполь-
воспользуемся следовой формулой из предложения 19.1.14. Прежде
всего напомним, что оператор А в L2(R") является оператором
Гильберта — Шмидта тогда и только тогда, когда его ядро st
квадратично-интегрируемо, и в этом случае
st{x, y)fdxdy.
Для A =aw(x, D) это означает в силу равенства Парсеваля и
A8.5.4), что aeL2 и
(это верно и для a (a:, D)), Если st-\, ^2ei2(R2*), то ядро
композиции соответствующих операторов задается формулой
зФ (х, у) = J ?ФХ (х, г) а2 (г, у) dz
1) Степень (a-'daJ" в A9.3.1) понимается как степень матрицы a-lda;
при вычислении этой степени элементы матриц надо умножать с помощью
операции внешнего умножения дифференциальных форм. — Прим. ред

292 19. Эллиптические операторы на компактных многообразиях
и след оператора А равен \\&\ (¦*, z)$t2{z, x)dxdz. Далее,
x + у) =. jj ?Ф1 (х, z)st2(z, x + y)dz
как функция от х принадлежит L1 (по теореме Фубини)' и яв-
является непрерывной функцией от у со значениями в L1, по-
поскольку
$ y')?dxdz
стремится к 0 при у — #'-»-0. Таким образом, след оператора
А равен \$t(x, x)dx, если его ядро зФ непрерывно. Это имеет
место в случае, когда A = сС"(х, D) — ядерный оператор и сим-
символ а интегрируем; итак, в этом случае
(*, Qdxd\.
Если значения символа а суть vXv-матрицы, то А есть опера-
оператор в L2(R", Gv) и приведенная выше формула остается спра-
справедливой, при условии что а в правой части заменено на след а
как матрицы. Предоставим проверить это утверждение чита-
читателю в качестве упражнения и перейдем к доказательству одного
совсем простого достаточного условия ядерности оператора:
Лемма 19.3.2. Оператор aw(x, D) является ядерным оператором
в L2(Rn) и удовлетворяет оценке
A9.3.2) | а" (х, D)I <С Z | xtEtfa У,
|а| + + |Р'1<+1
если сумма в правой части конечна.
Доказательство. Из операторного исчисления следует, что
/Г(*. D)(l+\xf+\Df) + cv(x, D)=l,
где e = Aft/4eS(A2, g) — тоже функция от |хр + ||р. Значит,
1 +1 х f + | D f коммутирует с ti" и с", поскольку скобка Пуас-
Пуассона функций от | х f +1 \ ? равна 0. Возводя записанное выше
тождество в степень k, такую что 2&^sn-f- 1, получим
tbj{x,
где bj {x, D) есть сумма произведений взятых в некотором по-
порядке / сомножителей hv(x, D) и ft — / сомножителей cw(x, D),
так что bj^S(h2k~i, g). Умножая последнее тождество справа
на aw(x, D) и подключая максимально возможное, но не пре*

19.3. Теорема об индексе в R" 293
восходящее п-\-\ число множителей х и D к av(x, D), а ос-
оставшиеся множители х и D — к bj (x, D), получим
а" (х, D) = ? б"', а-. Р-. в- (х, D) а%, а». р'р *• (*, D),
где суммирование ведется по |а'Ц- ... +|Р"|^я+1,
а«, a-, v, y(x, %) = xa't'Dl"Dt"a{x, %),
а Ьа\ а", е', в» не зависят от а и принадлежат 5(A(n+l)/2, g), по-
поскольку в качестве правых множителей для Ь/ останется самое
большее 2k — (n + 1) множителей х и D, a bj^S(hk, g). Таким
образом, 6а', а*. р', р» являются операторами Гильберта — Шмид-
Шмидта, откуда и следует утверждение леммы.
Доказательство теоремы 19.3.1. Выберем функцию ipe C°°(R2n)',
такую что 1 —у имеет компактный носитель и символ а обра-
обратим на носителе ij>. Положим b = ipa-1, считая это произведение
равным 0 вне suppt|>. Тогда JeS(l,g) и 6а — ab = t|>/, где / —
единичная матрица. Следовательно,
6W(*. D)av(x, D) = I-R7(x, D),
av(x, D)b"(x, D) = I-R?(x, D),
где теперь / — тождественное отображение в H = L2(Rn, 'С>У и
/?/е5(А, g). Таким образом, символ оператора Rf {x, D)N при-
принадлежит S{hN, g), и из леммы 19.3.2 вытекает, что этот опера-
оператор является ядерным, если W^sn-f-1. На основании предло-
предложения 19.1.Нзаключаем, что aw(x, D) — фредгольмов оператор
в Я и
A9.3.3) ind aw (x, D) = Тг (RT (x, D)" - Rj (x, D)N).
Чтобы вывести из A9.3.3) явную формулу типа A9.3.1), нам
надо создать ситуацию, в которой асимптотические разложения
исчисления псевдодифференциальных операторов дают точный
результат во всем пространстве. Это можно сделать, рассмотрев
для 0 < е ^ 1 символы
аг(х, %) = а(ех, el), be(x, Q = b{ex, e?),
равномерно ограниченные (по каждой полунорме)' в S(l, gej,
где
gt = К (х, I) (I dx t + \dt ?), К (x, |) =

294 19. Эллиитияеские операторы на компактных многообразиях
Заметим, что ge ^ g, так как Ае ^ h. Если, как и выше, по-
положить
Rl(x, D) = I-bf(x, D)af(x, D),
B& (x, D) = / - aew (x, D) Ь7 (x, D),
то символы /?в/ — A —^e)/, где rfe(*, |) = i|>(e*, el), будут рав-
равномерно ограничены в S(h, g) для 0 < е sg: 1. Если е отграни-
отграничено от 0, то функции 1 — t|>e тоже равномерно ограничены в
S(h, g). Отсюда следует, что символы операторов R%t(x, D)N
равномерно ограничены в S{hN, g) и определяют непрерывную
функцию от е со значениями в С00^2"). Поскольку
A9.3.3/ ind aew (х, D) = Тг (*?, (х, D)N - R72 (x, D)N)
и правая часть этого равенства в силу леммы 19.3.2 непрерывно
зависит от е, а левая есть целое число, операторы а% (х, D) и
av{x, D) имеют один и тот же индекс для всех ее@, 1) (это
легко следует также из теоремы 19.1.10).
Положим теперь для 0 ¦< е ^ 1
СГ(х, ?>) = /&(*, Df-R%(x, Df.
Если вычислить правую часть с помощью асимптотической фор-
формулы из теоремы 18.5.4, обрывая асимптотическое разложение,
когда поправочный член становится ограниченным в S(hg, ge),
то след поправочного члена будет ограничен величиной
0 при е- 0
(напомним, что N>n). Обозначим конечную сумму удержан-
удержанных членов асимптотического разложения для Сг через Se.
Тогда
A9.3.4) ind av (x, D) = lim Bп)~" [ [ Тг Eе (*, |)) dx d\,
где Тг — это уже обычный след матрицы. Каждый член в Se
есть произведение, в котором чередуются сомножители, пред-
представляющие собой производные (возможно, порядка 0) от аг или
от Ье- Если ввести в A9.3.4) в качестве новых переменных вх и
е%, то каждый член, содержащий в общей сложности ц диффе-
дифференцирований, превратится в некоторую константу, помножен-
помноженную на е^-2п. Поэтому вклады в интеграл от членов с ц.<2я
должны в сумме дать 0, и
A9,3.4)' ind aw {x, D) = BяГ" \ Тг (S°8 (*, ?)) dx dg,

19.3. Теорема об индексе в R" 295
где 5е состоит из тех членов суммы Se, в которых встречается
ровно 2л дифференцирований. Правая часть этой формулы фак-
фактически не зависит от е, поэтому можно взять е = 1 и в даль-
дальнейшем писать 5° вместо s?.
Если TeGLBn, R) (группа обратимых линейных преобра-
преобразований пространства R2n) и Ат = сюТ, то Ат s S(l, g) и пре-
предыдущие рассмотрения применимы и к Ат. Отсюда вытекает,
что индекс ind Ат (х, D) непрерывно зависит от Т, а значит,
постоянен на каждой связной компоненте группы GLBn, R).
Таким образом,
ind AY (x, D) = ind aw (x, D), если det T > 0.
В частности, это верно для диагональных матриц Т с положи-
положительными диагональными элементами ej, ..., еп, бь ..., бл:
Т(х, Е)
Заменив а и Ь их композициями с Т и взяв затем е/Я/ и б/i/ в
качестве новых переменных интегрирования, найдем, что вклад
в indaw(jc, D) of члена в 5°, содержащего дифференцирования
порядков ai, ..., а„, рь ..., р„ по переменным jci,..., xn,
Ъи ••••» In, умножится на ei1 ... б„" . Следовательно,
A9.3.5) ind aw (*, D) = Bя)~л J J Tr (S1 (*
где S1 обозначает сумму тех членов в 5°, которые содержат
ровно одну производную по каждой из переменных *i, .... хп,
&1> • • ¦ > 5л-
Из A9.3.5) немедленно следует, что для любой матрицы
Т s GL{2n, R) индекс рассмотренного выше оператора
AJ (х, D) равен индексу оператора av{x, D), помноженному
на знак определителя det7. Действительно, формула A9.3.5)
доказывает это утверждение для произвольных диагональ-
диагональных матриц, и оно уже было установлено для случая det Г
> 0. В частности, мы можем применить этот результат к слу-
случаю, когда Т есть матрица, отвечающая произвольной переста:
новке переменных х, I. *
Переходя к переменным интегрирования Т(х, %), заключаем,
что если Sl(t, х, I) получается из Sl(x, Ъ) с помощью выполне-
выполнения над дифференцированиями д/дх, и д/д\к перестановки /, то
(sgnnindaw(jc, D) = BяГ" [\ Тг(S1 (Л х, Vi)dxdt
Отсюда следует, что
A9.3.6) ind aw (*, D) = Bяр J ^ Tr (S2 (x, l))dx йЦ{2п)\,

296 19. Эллиптические операторы на компактных многообразиях
где
&(х, l)=S(sgnOS1(<, *, I).
При образовании этой знакопеременной суммы взаимно уничто-
уничтожатся все члены, содержащие множитель, дифференцируемый
более одного раза, поскольку при перестановке соответствую-
соответствующих дифференцирований изменяется только sgn t. Таким об-
образом, S2 есть сумма произведений производных от а и Ь по-
порядка не выше 1, причем производная по каждой переменной
встречается ровно один раз. Чтобы вычислить S2, можно теперь
воспользоваться формулами нашего исчисления, отбрасывая все
члены, содержащие производные порядка выше 1. Итак, в раз-
разложении символа bw(x, D)av(x, D) достаточно'удержать члены
ba — i{b, о}/2 = ф/-/{&, а}/2,
а в разложении символа aw{x, D)bv(x, D) — члены
ab-i{a, b}/2 = W-i{a, b}/2.
Заметим, что, поскольку матрицы не коммутируют, скобка Пуас-
Пуассона
A9.3.7) {Ь, а} = ^ (щ^ -Щ
отличается от скобки {а, Ъ) не просто знаком. В асимптотиче-
асимптотическом ряде для Ci мы можем не удерживать члены, где диффе-
дифференцируется {Ь, а} или {а, Ь). Следовательно, члены, которые
надо удержать, это произведения множителей {Ь, а) или {о, Ь}
на члены из разложения символа некоторой степени оператора
i|)w(je, D), так как все множители, содержащие i|j, можно свести
вместе, ибо if — скалярный символ. Но поскольку {if, i|i}=0,
таких членов, где i|) дифференцировалось бы только один раз,
нет. Отсюда следует, что в Сх достаточно рассмотреть члены
(A - ф) / + i{b, a}J2)" — (A — -Ф) / — / {a, b}J2)».
Члены, в которых фигурирует 2п производных, дают
Используя явное определение A9.3.7) скобки Пуассона, нахо-
находим, что {Ь, а}" содержит 2"п! членов, в которых встречается
ровно одна производная по каждой переменной. Они появля-
появляются — и притом с теми же самыми знаками — как коэффициен-
коэффициенты при rf§i Л dxi Л ... Л d\n A dxn в (db л da)n. Если мы выпол-
выполним перестановки /,' умножим на sgn t и просуммируем по /, то

19.3. Теорема об индексе в R" 297
все указанные члены получатся по одному разу. Этим доказано,
что
= n\in ( л ) A - $f~n ((db Л da)n - (da Л dbf).
Таким образом, мы получаем
A9.3.8) Ша^^й^-^^У \2(l-$f-n(")Tr(db Ada)",
где интегрирование ведется по R2", ориентированному усло-
условием
A9.3.9) dtiAdXiA ... AdlaAdxa>0.
Мы воспользовались здесь тем, что
Тг {da Л dbf = — Tr {db л da)n,
поскольку след произведения матриц инвариантен относительно
круговых перестановок сомножителей, а протаскивание внеш-
внешней один-формы справа налево через 2п — 1 форм приводит к
изменению знака.
Теперь вспомним, что b = -фа—1. Имеем
db = (dtya-1 - фйГ1 (da)a~l,
dbt\da = (d$) Л а da — ф (а daJ.
При образовании n-й степени от последнего выражения можно
рассматривать лишь члены с одним сомножителем dip, так как
d^p (анти) коммутирует с другими сомножителями, a d ГО
Далее,
A9.3.10) Тг(а-Ча)*» —0,
поскольку перемещение одного сомножителя a~lda из крайнего
правого положения в крайнее левое приводит к появлению мно-
множителя —1 и в то же время не должно никак изменить рас-
рассматриваемую величину. Ввиду инвариантности следа четной
внешней степени относительно круговых перестановок ее сомно-
сомножителей мы заключаем, что
Tr(db л <fo)" = пф"-1 <И>(—I)" Л Тг (о
В силу A9.3.10) форма Тг (cr1 daJ"-' замкнута. Полагая

298 19. Эллиптические оператору иа компактных маогообразиях
получаем F A) = I \ пВ (N — я + 1, я) = 1 (см. C.4.9)), следо-
следовательно, по формуле Стокса,
A9.3.1/ ind а" (х, D) = - BшГп /""^i [ Тг (а"> «faf-1,
as
где В — достаточно большой шар, вне которого символ а(х, |)"
обратим. Напомним, что R2n было ориентировано условием
A9.3.9). Переход к стандартной ориентации, использованной в
A9.3.1), приводит к появлению множителя (—1)", так что фор-
формулы A9.3.1) и A9.3.1)' равносильны. Теорема доказана.
Из доказательства равенства A9.3.10) видно, что дифферен-
дифференциальная форма Тг (A~ldAJn на GL(v, С) равна 0, а значит,
форма 'Tr(A-ldAJn-] замкнута. Отсюда вытекает, что интеграл
в A9.3.1) зависит лишь от гомотопического класса отображеиия
dB-»-GL(v, С), определяемого символом а. Используя эту го-
гомотопическую инвариантность в сочетании со свойствами устой-
устойчивости индекса, мы распространим теорему 19.3.1 на символы
из S(l, G), где
Лемма 19.3.3. Пусть ф е С" (R2") — невозрастающая функция
от г = (|*|2-|-|1| I/2. равная 1 при г < 1 и \/г при г ^ 2, и
пусть фв(х, %) = ур(гх, eg). Если aeS(l, G), то символы
ае(хЛ) = а&е(хЛ)х, %(хЛП)
равномерно ограничены в S(l, G) для 0 < е ^ 1 « принадлежат
g) для 0<е < 1.
Доказательство. При г< 1/е мы имеем аг(х, %)=а(х, |), по-
поэтому можно считать, что г > 1/е. Тогда справедливы оценка
A9.3.12) A +1 х 1/ег)1 D\D% (x, I) x, |
и аналогичная оценка с заменой в левой части |д;| на |?| и */
на g/. Чтобы доказать эти оценки, заметим, что функции t|>t
равномерно ограничены в 5A/A + er), g). Отсюда следует, что
левая часть A9.3.12) оценивается величиной
причем при Р = 0 второй член можно опустить. Это дает оценку
лA9.3.12). Утверждение леммы сразу следует из оценки A9.3.12)

r 19.4. Формула Лефшеца 299
и ее 1-аналога, поскольку tfe ^ 1/2ег при er^s 1 и символ ае
однороден степени 0 при гг ^ 1.
Теорема 19.3.Г. Заключение теоремы 19.3.1 остается справедли-
справедливым для всякого символа ogSA, О) со значениями в
2?(СУ, Су), для которого функция or1 определена и ограничена
вне некоторого компакта.
Доказательство, Определим at, как в лемме 19.3.3, и положим
bB = tya~\ где функция tf выбрана так же, как и при доказа-
доказательстве теоремы 19.3.1. Тогда символы операторов а"(х, D)b7(x,
D)-I и Ы(х, D)a7{x, D)-I ограничены в 5(A + |*|)-'A +
|?|)-'. G), и из теоремы 19.1.10 следует с учетом теоремы
18.6.6, что а™(х, D) есть фредгольмов оператор с индексом, не
зависящим от е. Поскольку формула A9.3.1) верна для at при
е > 0 и обе ее части не зависят от е при е ^ 0, мы заключаем,
что она верна и при е = 0. Доказательство завершено.
Теорема 19.3.1' применима, в частности, к псевдодифферен-
псевдодифференциальным операторам в R", с которыми мы имели дело в § 19.2.
Именно по этой причине мы и ограничились в этой теореме
метрикой такого специального вида. Короткое размышление по-
показывает, что доказательство теоремы 19.3.1 непосредственно
применимо и в случае значительно более общих метрик. Пред-
Представляется правдоподобным, что теорема 19.3.1 верна для каж-
каждой ст-умеренной метрики g, такой что sup gx Jg% г -*¦ 0 при
(х, !)->оо, но, кажется, нет ни одного доказательства, пригод-
пригодного в столь общей ситуации.
В теоремах 19.3.1 и 19.3.1' можно заменить aw(x, D) на
а(х, D). Действительно, а(х, D) = a*(je, D), где
Поэтому если шар В достаточно велик, то a< = /a1-f(l—t)a,
0^/^ 1, будет гомотопией связывающей отображения дВ -*¦
->GL(v, С), определяемые символами а и а\. Таким образом,
правая часть формулы A9.3.1) не изменится от замены а на аи
что и доказывает сделанное утверждение. Тем самым задача
вычисления индекса эллиптических операторов в принципе ре-
решена.
19.4. Формула Лефшеца
В геометрии естественным образом возникают не эллиптические
операторы, а эллиптические комплексы. Определим это поня-
понятие. Пусть нам даиы компактное С°°-многообразие X, комп-
комплексные векторные расслоения Ео, Е\ EN класса С°°

800 19. Эллиптические операторы на компактных многообразиях
на X и полиоднородные псевдодифференциальные операторы-
Do, ..., Dn-i одного и того же порядка т:
A9.4.1) 0-
образующие комплекс, т. е. удовлетворяющие условию /j
= 0 для / = 1, ..., N — 1. Такой комплекс называется эллип-
эллиптическим, если для всех (х, |)еРA)\0 последовательность
главных символов
A9.4.2) 0->?0х >Е1х-+ ... >ENx-+0
точна, т. е. образ каждого из отображений этой последователь-
последовательности совпадает с ядром следующего. Основной пример — это
комплекс де Рама дифференциальных форм на X, в котором
операторы D/ —это операторы внешнего дифференцирования,
переводящие /-формы в (/+ 1)-формы.
Вводя в каждом из расслоений Et какую-либо эрмитову
структуру, получаем сопряженные операторы
Точность комплекса A9.4.2) означает ровно то, что для вся-
всякого /
есть эллиптический оператор на сечениях расслоения ?,- ® Q1/2.
Следовательно, его ядро
A9.4.3) К, = {!^ЗУ{Х, ?/®Q1/2); D,f = 0, Dj_,f= 0}
является конечномерным подпространством в С°°(Х, Ej®Qi/2),
и для каждого [еЯ(,), ортогонального к К/, найдется #
такое что
Если D/f = O, то f и Df-iD'j-ig будут ортогональны к
и из написанного выше равенства следует, что D)Djg = 0, a
значит, f = Z?/-i«, где и = D)-\g e Я(s+m). Таким образом, D/_i
отображает Я(«+т) на множество таких / е Я(Я), что D,/ = 0 и /
ортогонально к К,. Следовательно, К,- можно отождествить с
факторпространством ядра оператора D, по образу оператора
Z)/-i, если D/ и D/-i действуют на С°°-сечениях, а также если
они действуют на обобщенных сечениях. Эйлерова характери-
характеристика
A9.4.4) . E(-l/ dim К,

19.4. Формула Лефшеца 301
комплекса A9.4.1) равна индексу эллиптического оператора
сг{х, ®?2/®а1/2)=э(«0, щ,...)
(D\u2, ...)erU)
полученного расщеплением этого комплекса, поэтому ее можно
вычислять с помощью методов, развитых в § 19.2 и 19.3.
Покажем теперь, что теорема 19.1.15 справедлива не только
для ядерных операторов Rs, но и для любых операторов Rj, для
которых исчисление волновых фронтов позволяет определить
след посредством ограничения ядра Шварца на диагональ.
Теорема 19.4.1. Пусть A9.4.1) — эллиптический комплекс и /С/ —
конечномерные пространства когомологий KerD;/ImD/-i, изо-
изоморфные пространствам A9.4.3). Пусть, далее, заданы опера-
операторы
Rf. <Г(Х, №)'( Т)
коммутирующие с комплексом A9.4.1), т. е. такие, что
A9.4.5) R,DHlf = D,_lRt_lf, /=1 N,
для всех f е С" {Х, ?/_!
Тогда эти операторы Ri индуцируют линейные отображения
?/: К/->Kj. Предположим, что ядро &/ е^)'(ХХX, (Е,К!Ё~,)
®Qj/2xx) оператора Rf имеет волновой фронт, не пересекаю-
пересекающийся с конормальным расслоением к диагонали в ХХ.Х, и
обозначим через Тг(#/) интеграл по X от следа принадлежа-
принадлежащего 3>'(Х, Нот(?/, Е/)<8>пх) обратного образа распределения
9lf относительно диагонального отображения Х-*-ХУ(,Х. Тогда
справедливо равенство
A9.4.6) Z (—1У Tr (/?7) = Z (—1У Тг (Й, | /С/).
Доказательство. Пусть У7/—параметрикс «оператора Лапласа»
Z)/_iZ)/_i + D'Dt. Ясно, что операторы
A9.4.7) (D,-iirt-i + Dr,D,)F,-Ih F,(D,.lD',-l + D}D,) - I,,
где // обозначает тождественный оператор на сечениях расслое-
расслоения Е/ ® й1/2, имеют С°°-ядра. Определим параметрикс комплек-
комплекса A9.4.1) как набор операторов G/, задаваемых формулой
G, = D)Fl+l, j = 0 N-l.
Этот параметрикс обладает тем важным свойством, что опера-
операторы
A9.4.8) A/ = //-D/_,G/_I-G/D/

302 19. Эллиптические операторы на компактных многообразиях
имеют С°°-ядра. Чтобы доказать это, заметим прежде всего, что
Далее,
Умножая это равенство слева на F,-+1, а справа на F,- и исполь-
используя тот факт, что операторы A9.4.7) имеют С°°-ядра, заклю-
заключаем, что Fj+iD/ — D/Ft имеет С°°-ядро. Поскольку
*,=/, - (/),_,/>;_, + d;Di) f, + d) (difi - fmd,),
то и hj имеет С°°-ядро, как и утверждалось.
Операторы Л, также коммутируют с комплексом, т. е. ty/
= hj+iDj\ действительно, обе части этого соотношения равны
Df — DjGjD,. Если jFe=KerD/, то h,f = f — D,-iD)-xFh так что
оператор h, индуцирует тождественное отображение в фактор-
пространстве Ki. Следовательно, оператор hiRjhj индуцирует там
отображение Ut. Этот оператор hjRjhj является непрерывным
отображением из 2D' в С°°, а значит, ядерным оператором. Тем
самым мы доказали, в силу теоремы 19.1.15, что
Далее, А,7?,А/ — Rt есть сумма членов, в каждый из которых
входит по крайней мере один множитель Fj или Fi+i. Мы изба-
избавимся от всех этих членов, выбрав последовательность параме-
триксов, сходящуюся к 0 в надлежащем смысле. В связи с этим
нам придется кратко напомнить свойства волнового фронта,
установленные в § 8.2, и конструкцию параметрикса, данную в
§ 18.1.
Прежде всего напомним (см. теорему 8.1.9, а также теорему
18.1.16), что если ае Sm(R"X R") и $1 — ядро оператора
a{x,D), то
WF Ш) с N (Д) = {(*, х, I, -1); х ез R4, I s R" \ 0}.
Если av — ограниченная последовательность в Sm, сходящаяся
к 0 в С°°-топологии, то последовательность ядер операторов
av(x, D) сходится к 0 в 2D', и из теоремы 8.1.9 и рассуждений,
следующих за определением 8.2.2, вытекает, что она сходится
к 0 в 0w<A)(R"XR"). Например,, если xeC"(R') и х=1 в
единичном шаре, то сказанное выше относится к последователь-
последовательности av(x, |) = A—хAЛ))а(*. I), причем разности сР(х, D)
— а(х, D)eOpS~°° будут иметь С°°-ядра. Записав произвольный
параметрикс Т в виде суммы ]? ф*УЛ, где ф*, rf* — функции
с носителями, лежащими в некоторой координатной окрестно-

19.4. Формула Лефшеца 303
сти, a Tk — псевдодифференциальный оператор в локальных
координатах, можно применить это наблюдение к каждому чле-
члену суммы. Таким образом, возвращаясь к доказательству тео-
теоремы, мы можем выбрать последовательность У7/ параметриксов
F) с ядрами, сходящимися к 0 в ®'N(hy Тогда последователь-
последовательность ядер операторов R/ — hHjRjh] будет сходиться к 0 в
ЗУи{Ху^Х), где M = WF{Rj); мы воспользовались здесь теоре-
теоремой 8.2.14. Но в таком случае, как следует из теоремы 8.2.4,
прообразы этих ядер при диагональном отображении будут
сходиться к 0 в 2)'(Х), чем доказательство и завершено,
В качестве примера применения теоремы 19.4.1 выведем
классическую формулу Лефшеца для числа неподвижных то-
точек. Рассмотрим комплекс де Рама
0 -> С~ {X, Л°) -Л С~ (X, Л1) -Л С°° (X, Л2) -Л ...
где Л' — внешние степени комплексификации расслоения Т*(Х),
a d— оператор внешнего дифференцирования. В этом случае
пространства К/ суть группы когомологий де Рама, т. е. группы
когомологий над G компактного многообразия X. Если
ф: Х-+Х— заданное О-отображение, то поднятие форм при
помощи этого отображения определяет отображения
Ф,: С°°(Х, А')->С°°(Х, Л'),
коммутирующие с комплексом де Рама, поскольку dq>*f = (p*df
для всякой дифференциальной формы f. Числом Лефшеца L(<p)
отображения <р называется знакопеременная сумма следов ото-
отображений, индуцированных отображением <р* в пространствах
когомологий де Рама.
Далее, ядро оператора Ф/ представляет еобой простой слой
на графике {(х, <р(х))еXXЯ} отображения <р (см. пример
5.2.5). Согласно примеру 8.2.5, волновой фронт этого ядра есть
конормальное расслоение
{{х, ф (х), - V (х) л, л); х е х, л s т;{х))
к графику отображения ф, пересекающееся с конормальным
расслоением к диагонали, лишь когда х = у(х) и 'ф'(*)Л = Л-
Таким образом, указанный волновой фронт и конормальное рас-
расслоение к диагонали не пересекаются тогда и только тогда,
когда
A9.4.9) q>(x) = x=>det(I-(p'(x))^O;
неподвижная точка х называется в таком случае невырожден-
невырожденной, (Здесь ф'(дс).: Тх{Х\-*-Тх{Х\, а / — тождественный опера-

804 19. Эллиптические операторы иа компактных многообразиях
тор в ТХ(Х), так что условие в правой части импликации
A9.4.9) имеет смысл.) В силу теоремы о неявной функции не-
невырожденные неподвижные точки изолированны, поэтому если
у отображения ср все неподвижные точки невырожденны, то их
имеется лишь конечное число. Выберем локальные координаты
хи ..., хп, обращающиеся в нуль в какой-либо невырожденной
неподвижной точке. Тогда в некоторой ее окрестности ядро опе-
оператора Фо равно б (г/ — ф (х)), а ядра остальных операторов Ф/
равны А,(х)8(у— ф(*)), ГДе А/(х) = Л''<р'(л:) — линейное преоб-
преобразование пространства Л'С", переводящее /-форму в ее ком-
композицию с производной ф'(дс). Знакопеременная сумма следов
обратных образов этих ядер при отображении х>—*-(х, х) равна
Мы использовали здесь пример 6.1.3 и стандартное разложение
определителя в знакопеременную сумму. Утверждение теоремы
19.4.1 сводится теперь к формуле Лефшеца для числа неподвиж-
неподвижных точек: если все неподвижные точки отображения <р невы-
невырожденны, то для его числа Лефшеца справедливо равенство
A9.4.10) L(<p)=t= ? sgndet(/-<p'(A:)),
()
т. е. число Лефшеца отображения <р равно числу его неподвиж-
неподвижных точек, считаемых с соответствующими знаками.
19.5. Различные замечания об эллиптичности
Чтобы не усложнять изложения, мы не стали обсуждать в § .19.2
вопрос, необходима ли эллиптичность для фредгольмовости. Сей-
Сейчас будет показано, что это в известном смысле так. Ниже X —
компактное С°°-многообразие, а Е, F — два комплексных вектор-
векторных расслоения класса С°° на X, не обязательно с одинаковой
размерностью слоя.
Теорема 19.5.1. Пусть P<=E4m(X; E0Q1/2, F®Q>/*). Следующие
условия равносильны:
(i) оператор Р: His)(X; E®Ql<2)^~H{s-.m)(X; F®Q'/2) имеет
замкнутый образ и конечномерное ядро для всех s;
(И) условие (i) выполнено для некоторого s;
..(Ш) главный символ р оператора Р имеет левый обратный,
т е. существует символ q^S-m(X; Horn(л*р, п*Е)), такой что
qp — id e= 5-1 (X; Нот (п*Е, п*Е));
(iv) оператор Р имеет левый параметрикс, т. е. существует опе-
оператор Q<=W-m(X; F®Q42, E®Q1'2), такой что QP = / + /?, где
R — оператор с ядром, принадлежащим С°° (Нот (Я, Е) ® Q][2x х) .

19.5. Различные замечания об эллиптичности 305
Доказательство. Импликация (i)=*-(ii) очевидна. Если выпол-
выполнено (И), то найдется постоянная С, такая что
A9.5.1) Ии||„<С(||Л|||и_|1|) + ||иЦ._1))
для u<=H(s)(X;E®Qm).
Действительно, в противном случае нашлась бы последователь-
последовательность щ с ||«/||(S) = 1, для которой
В силу предложения 19.1.3 из этой последовательности можно
было бы выбрать подпоследовательность, сходящуюся в
H(S)(X; ?®Q1/2)> qT0 невозможно, поскольку предельный эле-
элемент должен был бы иметь норму 1 и в то же время равняться
0. Без ограничения общности можно считать, что s = m, — иначе
мы просто умножим Р слева на какой-нибудь эллиптический
оператор порядка s — m. Пусть У— координатная окрестность
с локальными координатами х\, ¦ • ¦ > хп, над которой расслоения
Е и F можно отождествить с У X CN' и У X С^° соответствен-
соответственно. Выберем функцию ^еС^°(У), равную 1 на некотором боль-
большом открытом подмножестве Z в У, и положим для ipeC"(Z),
jeR" и иеС"' с |да|=1
Тогда A-^г|))Р«5 быстро убывает при ?-»-оо, так как ядро
оператора A —ф)Рф принадлежит классу С00. В локальных ко-
координатах имеем фР<ри = а(х, D)u, причем а(х, |) — р(х, |)ф
е S-1. Применяя A9.5.1) к щ, получаем. (поскольку Р
= а(х, )'б)
(см. доказательство теоремы 19.2.5); здесь ||-|| обозначает
?2-норму. Отсюда следует, что
lim lnf inf \p{x,l)w\/{l+\l\r>l/C
f^i, I ro |-1 ieZ
Действительно, предположим, что существуют последователь-
последовательности wv с |k>v|=1, *veZ и |v-^-<», такие что \p(Xv, lv)wv\
/A +|?v|)m < Co< l/С'. Переходя, если надо, к подпоследо-
подпоследовательностям, можно считать, что wv-*~w, xv^*-x0. Тогда
для всех х из некоторой не зависящей от v окрестности U точки
jcq. В случае y&C™(Z(]U) приходим к противоречию, ибо

306 19. Эллиптические операторы на компактных многообразиях
s=m. Таким образом, для достаточно больших |?|
(P*{x.l)p(x,l)w, w)>(l+\t\Jm.\w?/2C'2 при *e=Z.
Следовательно, принадлежащий S2mN' как функция от х, | опре-
определитель матрицы р*(х, %)р(х, |) ограничен снизу величиной
A + \l\fmN'l{2C'2)N', а значит, по теореме 18.1.9, для него суще-
существует обратный символ, принадлежащий S~tmN>. Произведение
q этого обратного на матрицу алгебраических дополнений к эле-
элементам матрицы р*р и еще на матрицу р* будет левым обрат-
обратным к р, принадлежащим S~m над Z. Собирая вместе эти ло-
локальные конструкции символа q при помощи разбиения единицы
на X, получаем (Hi). Если выполнено (Hi) и Qi — оператор
с главным символом q, то Q\P = 1 -\- Ri, где fii e Т. Значит,
оператор / + /?i имеет параметрикс, и (iv) выполняется для
произведения такого параметрикса на Q^. Из предложения
19.1.3 сразу следует, что (iv)=*-(i), чем доказательство и за-
завершено.
Справедлив также следующий, по существу, двойственный
результат:
Теорема 19.5.2. Пусть РеЧ"»(Х; ?®Q'/2, F®Q1'2), Приводи-
Приводимые ниже условия равносильны:
(i) образ оператора Р: H{S){X; Е® &'2)->Н(8-т)(Х; F® Q)
имеет конечную коразмерность для всех s;
(ii) условие (i) выполнено для некоторого s;
(iii) главный символ р оператора Р имеет правый обратный,
т. е. существует символ q^S~m{X; Нот (л*/7, л*?)), такой что
pq — id e= S-1 (X; Нот (n*'F, n*F));
(iv) оператор Р имеет правый параметрикс, т. е. существует
оператор Q е ?-" (X; F ® Q1'2, E ® QV*), такой что PQ = I + R,
где R — оператор с ядром из С°° (Нот (F, F) ® Qx/2X x).
Доказательство. То что (i)=*-(ii), очевидно. В силу леммы
19.1.1, из (ii) вытекает, что образ оператора Р замкнут; следо-
следовательно, оператор
Р': H(m-s)(X;
~m
имеет замкнутый образ и конечномерное ядро. Поэтому, со-
согласно теореме 19.5.1, символ р* имеет левый обратный q* e S~
и qsS~m будет тогда правым обратным к р. То что (iii)(i
устанавливается точно так же, как и при доказательстве тео-
теоремы 19.5.1 (см. еще доказательство теоремы 18.1.9), а импли-
импликация (iv)=>(i) очевидна, поскольку оператор I-\-R фредголь-
мов. Доказательство завершено.

19.5. Различные замечания об эллиптичности 307
Замечание. В случае полиоднородного оператора Р условия тео-
теорем 19.5.1 и 19.5.2 равносильны, конечно, инъективности и сюръ-
ективности его главного символа.
Теоремы 19.5.1 и 19.5.2 в совокупности показывают, что опе-
оператор Р определяет фредгольмов оператор #(S)-»- H(S-m) тогда
и только тогда, когда он эллиптичен. Этим оправданы предпо-
предположения, принятые нами в § 19.2. Однако следует сознавать,
что класс фредгольмовых операторов изменится, если изменить
нормы. Весьма простой пример такой ситуации, играющий важ-
важную роль в гл. 20, возникает, когда мы имеем дело с разло-
разложениями
к 1
E = xjs Еь, F = Kjj FI.
1 1
Сечение и расслоения Е ® Й1'2 записывается тогда в виде
(щ, ..., «к), где uk — сечение расслоения En®Q1/2, а сечения
расслоения F0Q'/2 аналогичным образом записываются в виде
(fu ..., fj). Если РеЧ^Х; ?®Q'/2, F®Q'/2), то уравнение
Pu=^f можно записать так:
где P,k е= 4го0 {X; Ek ® Q»/*, F, ® Q«/«). Пусть s, sj и
t\, ..... гк — вещественные числа. Тогда Р задает непрерывный
оператор
A9.5.2) Р: ф H(h) (X; Ek ® Ql/2) -» ф ЯA/) (X; F, ® Q1/2),
если P/tGf('-!/U; ?fc®Q1/2, F,®Qm).
Теорема lft.5.3. Пусть P,k e W^'8' (X; Ek ® Q1/2, F, ® Q1/2). Тогда Р
= (Pik) определяет непрерывный оператор A9.5.2) и следующие
условия равносильны:
(i) оператор A9.5.2) фредгольмов;
(и) существуют qkl^Ssf~tk(X; Horn (n'F,, n'Ek)), такие что
{Р)(Ч)~id « {Ч)(Р)~ id (где блоки />/* матрицы (р)—это
главные символы операторов Р/*) принадлежат S~u,
{in) существуют Qk, e= »FS'"'*U; Л® °'/2- ?*®Й1/2). такие
что для соответствующего оператора Q ядра операторов QP — id
и PQ — id принадлежат С°°.
Доказательство. Возьмем какие-нибудь эллиптические опера-
операторы Д> «=?''*(*; ?4® О, 1уя) 'U1*

308 19. Эллиптические операторы на компактных многообразиях
¦F/®Q1/2).Тогда (блочно)диагональные операторы A=(Ak6kt)w
B=(Bfitl):
А: Я@) {X; Е ® Q1/2) -¦ © H{t/t) (X; Ek ® Q1'2),
В: ф Н{$1) (X; F, ® Q1/2) - Я@) (X; F ® Q1/2)
фредгольмовы. Поэтому если выполнено (i), то оператор ВРА
фредгольмов в L2, а значит, эллиптичен, в силу теорем 19.5.1 и
19.5.2. Если bj и ak — главные символы операторов В/ и А*, то
символ (b/Pikuk) имеет обратный (rkj)eS° и условие (И) удов-
удовлетворяется при qkj = пкГкф/. Доказательство импликации
(ii).=*-(iii) совершенно аналогично доказательству импликации
(iii)=*-(iv) в теореме 19.5.1, а то, что (iii)=>(i), вытекает из
следствия 19.1.9. Теорема доказана.
Операторы, удовлетворяющие условиям теоремы 19.5.3, на-
называются эллиптическими в смысле Дуглиса — Ниренберга;
матрицу (pi*) называют главным символом такого оператора.
Очевидно, что все результаты, полученные нами для стандарт-
стандартных эллиптических операторов, можно распространить на опе-
операторы, эллиптические в смысле Дуглиса — Ниренберга, с по-
помощью простого приема умножения слева и справа на соответ-
соответствующие диагональные матрицы, использованного при дока-
доказательстве теоремы 19.5.3. Это верно и в отношении результатов
об иидекее; здесь в качестве Ak и Bs надо взять операторы, глав-
главные символы которых представляют собой положительные крат-
кратные единичной матрицы. Ясно, что эти операторы имеют индекс
0, и мы по-прежнему получаем ind P = s-ind p. Поэтому мы,
как правило, будем ограничиваться обсуждением стандарт-
стандартного эллиптического случая, а обобщения на случай систем
Дуглиса — Ниренберга предоставлять читателю. Так, читателю
предлагается сейчас сформулировать и доказать аналоги тео-
теорем 19.5.1 и 19.5.2 для таких систем.
Даже в скалярном случае существуют фредгольмовы опера-
операторы, задаваемые неэллиптическими псевдодифференциальными
операторами (при условии что пространства ЯE) надлежащим
образом модифицированы). Примером служат гнпоэллиптиче-
ские операторы постоянной силы (см. теорему 13.4.1) или, более
общо, операторы, изучаемые в § 22.1.
Примечания
Первый результат об индексе псевдодифференциальных (а точ-
точнее, сингулярных интегральных) операторов был, по-видимому,
доказан Ф. Нётером (Noether [1]), которому и принадлежит
пример, рассмотренный вслед за теоремой 19.2.4. После дан-

r Примечания 309
ного Аткинсоном \\\ обобщения теории Фредгольма со слу-
случая компактных возмущений тождественного оператора на слу-
случай компактных возмущений произвольных «фредгольмовых
операторов> стало ясно, что индекс представляет собой интерес-
интересный гомотопический инвариант эллиптических операторов.
В конце 50-х годов он был вычислен рядом авторов для раз-
различных специальных классов эллиптических операторов. Однако
наиболее естественные и важные примеры вычисления индекса
возникают в комплексном анализе и алгебраической геометрии,
в теореме Римана — Роха (в высших размерностях) и теореме
Хирцебруха об индексе (см. Hirzebruch [1]). Эти результаты
наводили иа мысль, что индекс может быть выражен в терми-
терминах характеристических классов, и такая формула действитель-
действительно была найдена Атьей и Зингером (Atiyah, Singer [1]). Мы
не стали приводить их явную формулу, а только описали ха-
характеристические свойства индекса, установленные в части I
работы Atiyah, Singer [2] (содержащееся в этой работе обсуж-
обсуждение ситуации, инвариантной относительно действия заданной
группы, здесь опущено). По поводу чисто геометрического вы-
вывода формулы индекса из этих результатов см. часть III ука-
указанной выше работы. Формула индекса состоит в следующем.
Если X— компактное С°°-многообразие, то главный символ эл-
эллиптического оператора Р определяет характер Чжэня, являю-
являющийся классом когомологий с компактным носителем в Т*(Х).
Далее, на многообразии X имеется некий не зависящий от Р
класс когомологий 9~{ХI), определенный в терминах классов
Понтрягина. Формула гласит: ind P равен интегралу по Т*(Х)
от произведения указанного характера Чжэня и поднятого на
Т*(Х) класса &~(Х). Чтобы вывести эту формулу из результа-
результатов, доказанных здесь, надо прежде всего показать, что она
совпадает с A9.3.1) для случая операторов в R", тривиальных
на бесконечности. Это нетрудно, поскольку в таком случае
9~(Х)=\. Затем надо показать, что конструкция произведения,
описанная в теореме 19.2.13, согласована с формулой индекса,
по крайней мере для случая, когда V есть нормальное расслое-
расслоение, отвечающее вложению некоторого многообразия в евкли-
евклидово пространство. Именно здесь и появляется класс 9~{Х) как
интеграл от множителя при характере Чжэня, порожденного
оператором Ботта.
Намеченный путь получения формулы индекса отличается от
того, которым шли Атья и Зингер в работе Atiyah, Singer [2],
лишь тем, что мы используем теорему 19.3.1 и конструкцию
оператора Ботта из § 19.2 вместо теоремы периодичности Ботта
и некоторых более простых условий нормализации. Приведен-
') Класс Тодда. — Прим. ред.

310 19. Эллиптические операторы на компактных многообразиях
ное доказательство теоремы 19.3.1 принадлежит Федосову [1].-
Впоследствии Федосов рассмотрел тем же способом и случай
более общих многообразий. Ричард Мелроуз сообщил автору,
что в неопубликованной работе он дал доказательство полной
формулы индекса для операторов, действующих между триви-
тривиальными расслоениями, с помощью рассуждений того же типа,
что у Федосова, основанных на тщательном установлении соот-
соответствия между символами и операторами на римановом много-
многообразии. Рассуждения Мелроуза приводят к довольно слож-
сложному индексному классу &~{Х). По поводу другого вывода
формулы индекса отсылаем к работе Atiyah, Bott, Patodi [1].
Формула Лефшеца из § 19.4, по существу, принадлежит
Атье и Ботту (Atiyah, Bott [2]). Правда, они рассматривали
только операторы /?/, порождаемые оператором взятия компо-
композиции с некоторым диффеоморфизмом многообразия X с невы-
невырожденными неподвижными точками, но теперь, когда в нашем
распоряжении имеется понятие волнового фронта, теорема 19.4.1
представляется более естественной оправой для их рассужде-
рассуждений. С менее классическими приложениями теоремы 19.4.1, чем
данное нами, можно познакомиться по работе Atiyah, Bott [2].
В § 19.1 в основном представлен набор классических резуль-
результатов теории Фредгольма. Мы добавили ряд более сильных ре-
результатов об устойчивости индекса, взятых из статьи Ногтап-
der [42]. (Читателя, который будет смотреть эту статью, преду-
предупреждаем, . что она изобилует опечатками, поскольку прошла
без корректур.) В этой статье обсуждался также оператор
Ботта. Более простое изложение теории этого оператора, дан-
данное в § 19.2 и следующее в большой мере работе Hormander
[39], основано на позднейшем прогрессе теории псевдодиффе-
псевдодифференциальных операторов. Укажем также, что в Hormander [42]
дано доказательство того факта, что формула индекса сохра-
сохраняет силу для весьма широкого класса гипоэллиптических опе-
операторов, которые с локальной точки зрения будут изучаться
в § 22.1. Этот класс включает в себя эллиптические операторы
в смысле Дуглиса — Ниренберга (Douglis, Nirenberg [1]), вве-
введенные в § 19.5. Недостаток места не позволил нам охватить
тесно примыкающие сюда результаты о теплицевых операто-
операторах. Изложение этих результатов, в том числе и соответствую-
соответствующей теоремы об индексе, можно найти в статье Boutet de Monvel
'И

20
Краевые задачи для эллиптических
дифференциальных операторов
Краткое содержание главы
В гл. 17 мы обсудили некоторые из классических методов ре-
решения задачи Дирихле для эллиптических дифференциальных
операторов второго порядка. Цель этой главы — используя тео-
теорию псевдодифференциальных операторов, изучить общие крае-
краевые задачи для эллиптических систем дифференциальных опе-
операторов (см. также конец § 17.3).
Чтобы проиллюстрировать основную идею на простом при-
примере, предположим, что нам надо решить краевую задачу
Ди = 0 в X, b(fiQ + biui = f на дХ,
где X — открытое множество в R" с гладкой границей дХ, Л —
оператор Лапласа, а Ьо и Ьх — дифференциальные операторы на
дХ, действующие соответственно на граничные значения ц0 и
нормальную производную и\ = du/dn функции и. Если Е — фун-
фундаментальное решение для оператора Лапласа (см. теорему
3.3.2) и функция и гладкая, то, применяя формулу Грина, мы
получаем
B0.1) и (х)- \ dE^~y)u0(y)dS(y)~ \ Е(х - у)щ (y)dS(y)
для лсеХ Таким образом, достаточно найти и0 и щ. Однако,
хотя формула B0.1) всегда определяет гармоническую функцию
и, может оказаться, что ее граничные значения и нормальная
производная не совпадают с «о, «ь Чтобы выяснить, когда это
все-таки имеет место, устремим в формуле B0.1) точку х к дХ,
Мы получим
B0.2) ы0 =
где ко и ki в силу теоремы 18.2.17 являются псевдодифферен-
псевдодифференциальными операторами, поскольку свертка с Е есть псевдо-
псевдодифференциальный оператор, удовлетворяющий условию транс-
трансмиссии. Обратно, из B0.2) вытекает при п > 2, что существует

312 20. Краевые задачи для эллиптических дифференциальных операторов
гармоническая функция и с граничными значениями и нормаль-
нормальной производной и0 и и\ соответственно. Действительно, если
определить и формулой B0.1), то, ввиду B0.2), и = и0 на дХ.
Вычитая из B0.1) формулу Грина для и, получим
- */)(«, (у) - du/dn)dS(y) = 0, х<=Х.
Этот интеграл есть непрерывная функция от х, гармоническая
вне К и обращающаяся в нуль на дХ и на бесконечности. Такая
функция тождественно равна нулю, откуда следует, что
u\ = du/dn. Итак, решить нашу краевую задачу — это то же
самое, что решить систему псевдодифференциальных уравнений
A—йо)ио —*,и,«=0, 6^0 +&,«, = /.
Здесь k\ — инъективный эллиптический псевдодифференциаль-
псевдодифференциальный оператор, и, как нетрудно проверить, его индекс равен 0,
а значит, оператор kx обладает псевдодифференциальным обрат-
обратным &Г1. Таким образом, задача Дирихле решается сразу —
берем «! = &Г1A — k0) и0, для общей же смешанной задачи мы
получаем псевдодифференциальное уравнение
В случае когда оператор в левой части эллиптичен, краевая за-
задача называется эллиптической, и в этом случае можно просто
применить результаты гл. 19.
Чтобы развить намеченные выше идеи, надо исследовать
аналоги операторов &0 и k\ для общих эллиптических систем
дифференциальных уравнений в X. Это потребует лишь.незначи-
лишь.незначительных дополнений к результатам, полученным в § 18.2. Они
даются в § 20.1, где мы устанавливаем свойства фредгольмо-
вости общих эллиптических краевых задач.
Затем мы переходим к вопросу об индексе эллиптических
краевых задач. В порядке подготовки в § 20.2 обсуждаются
некоторые элементарные, но важные факты, относящиеся к си-
системам обыкновенных дифференциальных операторов с постоян-
постоянными коэффициентами. С их использованием данная краевая
задача деформируется в § 20.3 в другую с тем же индексом,
равным половине индекса некоторого естественного расшире-
расширения нашего оператора на удвоение рассматриваемого многооб-
многообразия, уже не имеющее края. Как и в гл. 19, мы не даем явных
формул, а только описываем некую процедуру для их полу-
получения.
Наконец, в § 20.4 приводятся некоторые замечания по по-
поводу неэллиптических краевых задач, Их цель — объяснить, по-

20.1. Эллиптические краевые задачи 313
чему мы уделяем в последующих главах столь много внимания
теории существования для неэллиптических псевдодифферен-
псевдодифференциальных операторов.
20.1. Эллиптические краевые задачи
Пусть X— компактное С°°-многообразие с краем дХ. Предпо-
Предположим, что задан эллиптический дифференциальный оператор
Р порядка т из С°°(Х, Е) в С°°(Х, F), где Е и F — комплексные
векторные расслоения класса С°° на X с одинаковой размер-
размерностью слоя N. (Мы не упоминаем здесь о расслоениях полу-
полуплотностей, потому что это лишь усложнило бы запись.) Таким
образом, главный символ р(х, |) представляет собой биекцию
Ex-*-Fx для всех ?еП\{0}. Чтобы поставить краевую за-
задачу, нам нужны еще граничные дифференциальные операторы
В,: С°°(Х, Е)-+С°°(дХ, G,), /=1, ...,/, где G/ —векторные
расслоения класса С°° на дХ. (Для скалярного случая это поня-
понятие обсуждается в § Б. 2. Наличие расслоений локально ничего
не меняет, и читатель, не привыкший к расслоениям, может не
обращать на них внимания.) Краевая задача, которую мы бу-
будем изучать, состоит в нахождении и е С°°(Х, Е), удовлетворяю-
удовлетворяющего условиям
B0.1.1) Ри = / в X, B,u = g, на дХ, / = 1, /,
где f e C°°(X, F) Hg/e С°°(дХ, Gj) заданы. Позже мы поставим
краевую задачу и при более слабых предположениях о глад-
гладкости.
В координатной окрестности Хк, которая задается в локаль-
локальных координатах условием х„ ^ 0 и над которой расслоения Е
и F можно отождествить с ХХХС\ уравнение Pu = f записы-
записывается в виде
Y,Pa(x)Dau = f,
где коэффициенты Ра суть С°°-функции от х со значениями в
Л^Х ЛЛматрицах, причем коэффициент при D™ обратим, по-
поскольку оператор Р эллиптичен. Таким образом, мы можем
переписать это уравнение так:
Если трансверсальный порядок оператора Bj выше т—1, т. е.
В/ содержит члены B/a(x)Dau сол>т, то его можно понизить,
заменив во всех таких членах D™ и указанным выше выраже-
выражением. Повторно применяя это соображение и собирая локаль-

314 20. Краевые задачи для эллиптических дифференциальных операторов
ные конструкции воедино при помощи разбиения единицы, за-
заключаем, что
где В/') имеет трансверсальный порядок ¦< т, а С/ — гранич-
граничный дифференциальный оператор из C°°(F) в Cx(Gi). Поэтому
задача B0.1.1) равносильна задаче
Pu = f в X, Br,u = g, — Cif на дХ, }=1, ...,/.
Следовательно, не будет ограничением общности считать, что
трансверсальиый порядок операторов В/ ниже т, и мы впредь
так и будем считать. Однако на полный порядок т/ операторов
Bj не налагается никаких ограничений.
Для любого s ^ т можно продолжить Р с С°° до непрерыв-
непрерывного отображения
Р:
здесь Х° обозначает внутренность многообразия X, а Я^{)
пространства, определенные в § В. 2. В силу теоремы В. 2.10
имеются также непрерывные продолжения
В,: Н{3)(Г, E)^H(s-mrm)(dX, G,),
поскольку трансверсальный порядок операторов В/ не превос-
превосходит т — 1. Мы хотим выяснить, когда оператор
B0.1.2) H(s)(X°, ?)э«^(Ри, В{и, .... Вки)
e=#<s-m)(X°, E)®H(s.m-m)(dX, GO© ...®H(s-m,-m)(dX, G,)
является фредгольмовым. (
Определение 20.1.1. Краевая задача B0.1.1) называется эллип-
эллиптической, если
(i) оператор Р{х, D) эллиптичен;
(и) граничные условия эллиптичны в том смысле, что для
всякого хеЗХ и всякого 1 е П(X), не пропорционального внут-
внутренней конормали пх к X, биективно отображение
Mt, i э и -> F, {х, 1 + Dtnx) ы @) Ъ, (х, t + D,nx) и @))
где Mi, % — множество всех ограниченных на R+ решений
С(, Ех) уравнения р(х, t + Dtnx)u(t) — 0.
Здесь bj — это, конечно, главные символы операторов В/, а
р — главный символ оператора Р. В приведенном определении
') Индекс г — от reduced (приведенный). — Прим. перев.

20.1. Эллиптические краевые задачи 315
достаточно брать по одному | из каждого класса эквивалент-
эквивалентности по модулю Rnx, поскольку сдвиг на snx эквивалентен со-
сопряжению при помощи еш. Из условия (i) мы знаем, что для |,
не пропорциональных пх, матрица р(х, | + хпх) невырожденна
при вещественных т, ибо тогда | + т/г* ф- 0; поэтому все эле-
элементы из М? i в действительности экспоненциально убывают на
R+ (см. также обсуждение систем обыкновенных дифференци-
дифференциальных операторов в § 20.2). Мы выбрали термин «эллиптиче-
«эллиптический», поскольку, как будет показано ниже, эллиптичность крае-
краевой задачи в смысле данного определения равносильна эллип-
эллиптичности некоторой ассоциированной с этой задачей системы
псевдодифференциальных операторов. В литературе встречается,
однако, много других названий, например «условие Шапиро —
Лопатинского», «условие коэрцитивности», «условия накрыва-
ния». Главный результат настоящего параграфа — следующее
обобщение результатов, полученных для задачи Дирихле в
§ 17.3:
Теорема 20.1.2. Если краевая задача B0.1.1) эллиптична и
s~^m, то B0.1.2) — фредгольмов оператор.
Доказательство этой теоремы будет дано после некоторых
приготовлений, которые позволят нам, следуя намеченным в
«Кратком содержании главы» идеям, свести изучение рассматри-
рассматриваемой краевой задачи к изучению определенной системы псев-
псевдодифференциальных уравнений на дХ. Удобно отождествить
некоторую окрестность Хх границы дХ в X с &YX[0, 1), напри-
например введя в X риманову метрику и взяв геодезические нормаль-
нормальные координаты относительно дХ (см. § С. 5). Далее, ограни-
ограничения расслоений Е и F на Х{ можно отождествить с поднятиями
на Х\ их ограничений на дХ при помощи проекции щ: Xi-^-dX,
ибо, например, любой морфизм расслоений1) Е-*п'Е, являю-
являющийся изоморфизмом на дХ, должен быть изоморфизмом и на
дХУ.[0, е) при достаточно малом е. Изменив масштаб, можно
заменить Xi на <?ХХ[0, е). Ниже мы обозначаем точки х из Х\
через (я7, х„), где х1 <= дХ, ал;ле[0, 1). Поскольку Ех = Е{х>, О),
корректно определены нормальные производные Dnu от сечений
и расслоения Е. Далее, мы можем продолжить X до открытого
многообразия X = Х[}(дХУ,(—1, 0)) с очевидным образом опре-
определенной С°°-структурой, а расслоения Е и F можно продол-
продолжить на X так, чтобы их слои не зависели от хп в дХ~Х(—1,1).
Можно продолжить на X и дифференциальный оператор Р. Еще
') Напомним, что морфнзм расслоений E-+F с данной базой X — это
С"-отображение /: E-+F, линейно отображающее слой Е, в слой Fx для лю-
Оого х S К. — Прим. ред,

316 20. Краевые задачи для эллиптических дифференциальных операторов
более сузив, если надо, Хи мы можем считать, что Р эллипти-
эллиптичен на X. Обозначим через Т собственный параметрикс опера-
оператора Р на X. Таким образом, T^W-m(X; F, Е) и
B0.1.3) ТР = 1Б + RE, PT = IP + RP,
где 1е, 1р обозначают тождественные операторы на сеченнях
расслоений Е и F, a Re, Rf — некоторые операторы с ,С°°-ядрами
на этих сечениях.
' Для всякого сечения u e CM(JT, E) пусть
, Ет)
обозначает его начальные данные. На множестве дХУ([О, 1)
мы имеем
где Р/ — дифференциальный оператор порядка т — / на дХ, за-
зависящий от параметра хп; обозначим его главный символ через
Pi. Полагая ц° равным и в X и 0 в Х\Х, получаем в X
B0.1.4)
где для U={U0 Um-i)e=C~(dX, Em)
B0.1.5)
Km к</
(б обозндчает меру Дирака по хп). Действительно, индукция
по / дает
Применяя к B0.1.4) оператор Т, получаем, ввиду B0.1.3J, сфор-
мулу Грина»
B0.1.6) «° + RBuP = T (Puf + ТР'уи.
Отсюда, в частности, следует, что если Ри = 0 в X и Re = 0, то
уи = уТРсуи (граничные значения в правой части существуют
в силу теоремы 18.2.17, поскольку каждый член в символе пара-
метрикса Т является рациональной функцией). Введем поэтому
оператор Q, положив для U &С°°(дХ, Ет)
B0.1.7)

20.1. Эллиптические краевые задачи 317
таким образом, QU — это начальные данные потенциала Грина
TPCU. В явном виде
(Qtfk-'X QkiUt, k = 0 m-l,
о
где
сужение на границу производится, конечно, со стороны X. Сле-
Следовательно, Qki — это псевдодифференциальный оператор на дХ
порядка k — /с главным символом
B0.1.8) qkl(x\t)
+
1-0
(правая часть есть сумма вычетов подынтегрального выражения
в полуплоскости Im|n>0). Это означает, что (Qw) принадле-
принадлежит к классу систем Дуглиса — Ннренберга, обсуждавшихся
в § 19.5.
Теорема 20.1.3. Система Q псевдодифференциальных операторов,
определенная формулой B0.1.7), является приближенным проек-
проектором на пространство начальных данных в том смысле, что
Q2 — Q имеет С°°-ядро. Если отождествить решения обыкновен-
обыкновенного дифференциального уравнения р (х1, 0, |', Dn) v = 0 с их
начальными данными (w@) D^'t^O)), то значение q(x/, ?')
главного символа q системы Q в точке (х\ |') с |' ф 0 отожде-
отождествляется с проектором на подпространство М* решений, экспо-
экспоненциально убывающих на R + , вдоль подпространства М~ реше-
решений, экспоненциально убывающих на R_. Систему Q, а иногда
и ее главный символ q, называют проектором Кальде-
р она.
Доказательство. Если u = TPcU, то ограничение сечения и на
X принадлежит классу С°° и, в силу B0.1.3),
где Rf имеет С°°-ядро. По определению, уи = QU, поэтому, при-
применяя B0.1.6) кии беря начальные данные со стороны л, при-
приходим к равенству
QU + vRb (TPcUf — Yr (RFP°
Но отображение Uy->RpPcU непрерывно как отображение из
SO'{dXt Em\ в C°°{X, F\, а поскольку Т удовлетворяет условию

318 20. Краевые задачи для эллиптических дифференциальных операторов
трансмиссии, то и Uy->yT(RFPcU)Q непрерывно отображает ?)'
в С°° и, значит, имеет С°°-ядро. Если среС°°(Я, ?*®QX) и
U е С00, то, приближая ср функциями, равными нулю вблизи
дХ, получаем
((TPcU)°,<p) = (PcU, TV).
(Заметим, что ГуеС"^, Е).) Так как Т* тоже удовлетво-
удовлетворяет условию трансмиссии, заключаем, что Г*ф°е С°°(Х); этим
доказано, что отображение U>—>(TPCUH можно продолжить до
непрерывного отображения из 2)'{дХ, Ет) в 3)'(Х, Е). Следо-
Следовательно, Ui—>yRe(TPcUH также непрерывно отображает 3)'
в С°°, и тем самым доказано, что Q2 — Q имеет С°°-ядро.
Чтобы получить указанную интерпретацию главного симво-
символа q, заметим, что если U = (Uo, ..., ?/m-i) ^ Е$, о), то обратное
преобразование Фурье
f, 0, 1Г'
f+Km
принадлежит 9" и удовлетворяет уравнению
р (Х\ о, v, Dn)V=/-' I Pl+W (Х\ о, г
Таким образом, и совпадает при хл>0с некоторым элементом
о+еМ+, а при дсп < 0 — с некоторым элементом v~^M". При
лся = О мы имеем условия скачка
Dkn(v+-v-) = Uk, ft = 0, .... «-I.
Из B0.1.8) вытекает, что
Следовательно, равенство qU = {У означает, что v~ ^ 0, т. е.
что U— начальные данные некоторого решения из М+, a qU = 0
означает, что U — начальные данные решения из М~. Таким
образом, q есть проектор на подпространство М+ вдоль допол-
дополнительного к нему подпространства М~; то что q — проектор,
разумеется, следует из того факта, что символ оператора Q2 — Q
имеет порядок —оо. Доказательство завершено.
Следствие 20.1.4. Отображение
С°° (X, F) =э / ^ QyTf0 е С" (дХ, ЕГ)
можно продолжить до непрерывного отображения из /7@)(Х°, F)
в С°°(дХ, Ет).
Доказательство. Если /еС°°(Х, F), то u = Tf°\x(=Ceo(X, E),
так как Т удовлетворяет условию трансмиссии. Из B0.1.3) еле-

20.1. Эллиптические краевые задачи 310
дует, что Pu = f ¦+¦ #f/° в X. Таким образом, мы получаем с уче-
учетом B0.1.6)
Y« + Y/??«° = \Tf° + уТ (RFf*f + QY«.
Отображение fy-*Rpf° непрерывно отображает Я@> в С°°, по-
поэтому f*—>yT(RFf)° непрерывно отображает Я@> в С°°, снова в
силу условия трансмиссии. Далее, отображение f^-^Tfo\x не-
непрерывно действует из Я@) в П^){Х°), а потому \\—>yREti° не-
непрерывно как отображение из Я<0> в С00. По теореме В. 2.10
отображение fi-*-yu непрерывно отображает Я@)(Х°, F) в
ф Н(т-1-ХJ)(дХ, Е), и, поскольку оператор Q — Q2 непрерывен
как отображение из ® H{m-i-l/2)(dX, Е) в ®С°°(дХ, Е), наше
утверждение доказано.
Согласно принятому нами предположению, операторы В,
в B0.1.1) имеют трансверсальный порядок < т, поэтому их
можно записать в виде В/^В/у, где В)— некоторый дифферен-
дифференциальный оператор из сечений расслоения Ет над дХ в сечения
расслоения G/ над дХ. Если U = yu, то, как следует из B0.1.6),
разность U—QU в существенном определяется значением
f = Pu. Это наводит на мысль заменить B0.1.1) уравнениями
вида
Bc,U = gh /=1, ...,/.
На первый взгляд может показаться, что уравнений здесь слиш-
слишком много. Например, уравнение Лапласа с граничными усло-
условиями Дирихле приводит к трем уравнениям с двумя неизвест-
неизвестными. Однако i|> не является произвольным, поскольку Qif в су-
существенном равняется 0 согласно следствию 20.1.4. Так как
Q — проектор, это эффективно понижает число уравнений, кото-
которые надо решать, как видно из следующего предложения, ради
простоты сформулированного для случая стандартных эллипти-
эллиптических операторов, а не операторов типа Дуглиса — Нирен-
берга.
Предложение 20.1.5. Пусть Н и G — комплексные векторные рас-
расслоения класса С°° на компактном многообразии Y без края,
Q e W°phg (Y; Н, Я), В е= 4%г (Y; H, G) и (p-Q — 0, г. е. Q2- Q
е хР-°°. Обозначим главные символы операторов В и Q через Ъ и
q. Тогда
(i) если сужение отображения Ъ(у, г\) на q(y, r\)Hy сюръек-
тивно для всех (y,x\)^T*(Y)\Q, то существует оператор
S е= Ур^ (Y; G, Н), такой что
B0.1.9) BS=sIa, QS^S;

320 20. Краевые задачи для эллиптических дифференциальных операторов
(ii) если сужение отображения Ь(у, ц) на q(y, ц)Ну инъек-
тивно для всех (у, x\)^T*(Y)\0, то существуют операторы
^еЧ^У; О, Н) и S" e Wphg (Y; Н, Н), такие что
B0.1.10) S'B + S"s&IH, S"QsO;
(Hi) если сужение отображения Ь(у, г\) на q(y, r\)Hy биек-
биективно, то фигурирующие в (i) и (ii) операторы S, S', S" опре-
определены однозначно по модулю Ч?~°° и S' ^ S.
Доказательство. В случае (i) можно применить к BQ по-
полиоднородный вариант теоремы 19.5.2') и найти оператор
Т (= S/g (У; G, Н), такой что BQT == 1а. Тогда оператор S = QT
удовлетворяет условиям B0.1.9):
В случае (ii), применяя полиоднородный вариант теоремы
19.5.1 к системе Дуглиса — Ниренберга ВФAн — Q), найдем
операторы Г е= ?"? (Г; G, Н) и Г' е <hg (У; Н, Н), такие Что
Тогда операторы 5'= Т' и S"=*T"(IH — Q) удовлетворяют
условиям B0.1.10), поскольку S"Q = T"(Q — Q2)= 0. В случае
(ш) выберем S, S' и S" так, чтобы выполнялись B0.1.9) и
B0.1.10). Тогда
S' = S'BS = 5'В5 + 5" E - QS) га S'BS + 5 = S.
Следовательно, 5 = S', так что эти операторы, а значит, и опе-
оператор S" определены однозначно по модулю V-00. Доказатель-
Доказательство завершено:
В рассматриваемой нами ситуации Q = (Qkt), где
iT (^; ^> ^). a В заменяется матрицей {Щк), определяе-
определяеp
мой соотношением
С помощью рассуждений, использованных при доказательстве
теоремы 19.5.3, из предложения 20.1.5 выводится, что если крае-
краевая задача эллиптична, то существуют операторы
Ski e ^ph-gm/ (дХ; О,,Е), й = 0, "..., m - 1, /= 1 /,
Ski s ^(ЗХ; Е, ?), *, / = 0 m - 1,
') См. замечание после доказательства этой теоремы, -»Прим. перев,

20.1. Эллиптические краевые задачи 321
такие что B0.1.9) и B0.1.10) выполнены для S'~S=(Ski) и
S" —(За/). Используя эти операторы, можно построить пара-
метрике нашей краевой" задачи.
Сначала предположим, что и^С°°(Х, Е) и выполнено
B0.1.1). Из B0.1.6) следует, что для U — yu
а граничные условия B0.1.1) дают B'U = gj. В силу B0.1.10),
мы имеем в очевидной блочно-матричной записи
где R еу?~оо(дХ; Ет, Ет). Следовательно,
U = Sg + S" (yTf° - yREu°) + RU.
Воспользовавшись снова B0.1.6), получаем
B0.1.11) и = (/ + TP°S"y) Tf° + TP°Sg + Ки,
где
Ки = ТРС (Ryu - S"yREtfi) — REu°
— непрерывное отображение из R(m)(X°, Е) в С°°(Х, Е). Итак,
отображение
B0.1.12) (U)h>(/ + TPeS"y) Tf° + TP°Sg
является приближенным левым обратным к B0.1.2). Оно слу-
служит и приближенным правым обратным. Действительно, обозна-
обозначая правую часть B0.1.12) через и, имеем в силу B0.1.3)
Ри = (/, + Rf) ((/ + PcS"yT) Г + P°Sg)
= f° + RFf° + RPPcS"yTf° + RFPcSg;
второе равенство справедливо в Х°. Поэтому
B0.1.13) Р((/ + TPcS"y)Tf° + TPcSg) = f + KJ + K2g,
где Ki — непрерывное отображение из Я<0> (^°, F) в С00 (X, F),
а Кг — непрерывное отображение из 2)'(дХ, ФО/) в С°°(Х, F).
Далее,
Всуи — Вс (/ + QS") yTf° + B°QSg.
Оператор Kt = BcQS — / имеет ввиду B0.1.9) порядок —оо, и
B0.1.9), B0.1.10) дают
Вс (I + QS") =* В° (I + Q - QSBC) ^BC + B°Q- B°QSBC шл B°Q.
На основании следствия 20.1.4 заключаем, что
B0.1.14) В ((/ + TPeS"y) Tf° + TP°Sg) =

322 20. Краевые задачи для эллиптических дифференциальных операторов
где Кз — непрерывное отображение из Н^)(Х°, F) в С°°(Х, ©<?/)/
a Ki есть отображение пространства С°°(Х, ©G/) в себя с С°°-яд-
ром. Утверждение теоремы 20.1.2 будет следовать из равенств
B0.1.11), B0.1.13), B0.1.14) и следствия 19.1.9, если мы уста-
установим некоторые свойства непрерывности отображения B0.1.12).
В приводимом ниже предложении ||м||($) обозначает норму
в R(S)(X°) для иеС°°(Х, Е), и аналогичное обозначение исполь-
используется для сечений расслоения F над Х°. Для ясности будем
записывать ограничение сечения Tv на Х° как Tv.
Предложение 20.1.6. Если s~^m и f e C°°(X, F), то
B0.1.15) Ц77°1Ы <СШ(,-т>.
Если U — (UQ Um-i)eC°°(dX, Em), то для любого s
B0.1.16) || TPCUIU < с? II U, Ьч-112).
Доказательство. Оценку B0.1.15) достаточно установить для
случая, когда f имеет носитель в некотором компактном под-
подмножестве К координатной приграничной окрестности УХ[0,1),
Ycz Rn~l. Выберем функцию <р <= С"(У Х[0, 1)), равную 1 в не-
некоторой окрестности компакта К, и пусть k — целое число
^s — m. Прежде всего оценим ||<pf/°||(s-ft, a> (мы используем
обозначения из § В. 2). С этой целью заметим, что
|| /° k-m+s-k, k) <|| f° Ik s-m) = || f 11@. .-») < II f Ib-m,.
Здесь f° рассматривается как распределение в R". Можно запи-
записать
где Гр — псевдодифференциальный оператор порядка —m и
Р„ = 0, если ап = 0. Поскольку ||DPf°||(S-m_ft) < 11/°||^-т-А, *>, если
| р К k и рл = 0, то
если ал = 0 и |a|^fe. Это дает соответствующую оценку для
||q>77°ll(S-*.*). поэтому
Далее, PTfo=*f + RFf> в Х°, ввиду B0.1.3). Выберем функцию
¦феСо°(УХ[О. О), равную 1 в некоторой окрестности компакта
К и такую, что ф =1 в некоторой окрестности ее носителя. Из
теоремы В. 2.9 (а точнее, из ее доказательства) следует, что
(._*. ft,).

20.1. Эллиптические краевые задачи 323
Так как A—"фO"/° — непрерывная функция от fe//@) со зна-
значениями в С°°(Х), при условии что suppfcK, то оценка
B0.1.15) установлена.
При доказательстве оценки B0.1.16) также можно считать,
что suppf/cr/C. В силу B0.1.5)
т-\
Х/, где »,= ?
0 t+Km
Поскольку Pj+i+i имеет порядок т — / — /—1, то
? || V, ||<,_m+/+l/2) < С ? || U, 1Ь-/-1/2).
Преобразование Фурье от vf^D]n6 равно 0,(?')??> и
\ 1? A +1П2+l2nym d\n < с A+1Г
при / <. т. Таким образом,
Г p)'
если j ¦<. т и k — целое число ^ max E, 0). Следовательно,
Z
ибо, как легко убедиться, переставляя оператор Т с дифферен-
дифференцированиями по х', он непрерывно отображает //<<_т, *> в //(*. *>
для любого целого k^0 (см. также лемму 21.1.9 ниже). Так
как отображение Ui—>PTPcU = RfPcU непрерывно действует из
2)'(дХ) в С00, мы можем усилить последнюю оценку до оценки
B0.1.16) тем же способом, что и при выводе оценки B0.1.15).
Доказательство завершено.
Замечание. Оценки B0.1.15) и B0.1.16), доказанные здесь с
помощью теоремы В. 2.9, фактически справедливы для всякого
параметрикса 7", удовлетворяющего условию трансмиссии. Про-
Проверить это предоставим читателю.
Теорема 20.1.7. Отображение B0.1.12) непрерывно отображает
Hls-m)(X°, F)®H(s-m-l/2)(dX, G,)® ... фЯ(!.ЯгШ)Р, Gj)
в #(s> (^°, Е) для всех s 5s m. Оно является приближенным ле-
левым обратным к отображению B0.1.2) в том смысле, что спра-
справедливо B0.1.11) с К, непрерывным как отображение из
П(т)(Х°, Е) в С°°(Х, Е), а также и приближенным правым об-
обратным в том смысле, что справедливы B0.1.13) и B0.1.14) с
оператором
(Кх
(

324 20. Краевые задачи для эллиптических дифференциальных операторов
непрерывно отображающим Hi0){X,F)® 3>'(дХ, ©G/) в C°°{X,F)
@C°°(dX,@Gi).
Доказательство. В силу B0.1.15)
?flY/rf%-/-i/2)<C||/lk.-«,.
поэтому из B0.1.16) и того факта, что Ski e *?k~l> вытекает, что
Непрерывность остальных членов в B0.1.12) очевидным обра-
образом следует из предложения 20.1.6, чем доказательство и за-
завершено.
Как уже было отмечено выше, теорема 20.1.2 вытекает непо-
непосредственно из теоремы 20.1.7 и следствия 19.1.9. Используя
теоремы 19.5.1 и 19.5.2, нетрудно было бы также показать, что
эллиптичность краевой задачи B0.1.1) необходима для спра-
справедливости теоремы 20.1.2.
Теорема 20.1.8. Если краевая задача B0.1.1) эллиптична, то
ядро фредгольмова оператора B0.1.2) содержится в С°°(Х, Е),
а образ является ортогональным дополнением к некоторому ко-
конечномерному подпространству пространства
С°°(Х, F* ® Qx)®C°°(dX, о; ® Ом)ф ... ©С- {дХ, G) ® О„).
Таким образом, индекс оператора B0.1.2) не зависит от s.
Кроме того, он не зависит от членов младших порядков в опе-
операторах Р и Bt и устойчив относительно произвольных малых
возмущений коэффициентов этих операторов.
Доказательство. Из свойств указанного в теореме 20.1.7 прибли-
приближенного левого обратного к оператору B0.1.2) следует, что если
и е Н(т) {Х°, Е) и для некоторого s ^ m выполнены условия
B0.1.1) с /еЯ(_т)(Х°, F), gteH{.-mrii»)(dX,Gt), to и
еЯ(8)(Г, Е). В частности, ядро оператора B0.1.2) содержится
в С°° (X, Е), и достаточно доказать, что его образ задается
С°°-соотношениями ортогональности в случае s = m. Итак, пред-
предположим, что
v s Hm(X, F* ® пх), h{ s //(m/+1/2_m) (дХ, G)® Qdx),
н
(Ри, v) + ? (В/Ы, Л,) = 0 для и<=С°° (X, Е).
В частности, в качестве и можно взять правую часть B0.1.12),
отвечающую / = 0:
и = TP'Sg, где gt e С00 {дХ, Gt).

20.1. Эллиптические краевые задачи 325
Тогда Ри = K2g, Bu = g-\- Kig, где К2 и Ка — непрерывные ото-
отображения из ЗЬ' в С°°. Таким образом,
есть непрерывная линейная форма от g, в топологии простран-
пространства распределений, а значит, Л, е С°°. Поскольку
(Ри, v) = - ? (В,«, Л;), и €= С~ (X, ?),
то, беря сечение и равным 0 вблизи границы, мы заключаем,
что P*v = 0 в Х°. Следовательно, у сечения v определены на-
начальные данные (теоремы В. 2.9 и В. 2.8), и эти начальные дан-
данные принадлежат классу С°°, поскольку их можно выразить
через h. В силу теоремы 1.2.6 (теоремы Бореля) можно опре-
определить v в Х\Х° так, чтобы оно принадлежало С™(Х\Х°) и
обладало на дХ теми же начальными данными и производными
по хп более высоких порядков, подобранными так, что P*v
имеет на дХ нуль бесконечного порядка. После такого продол-
продолжения v <= //<соГР (Я) и P*v*=C°°(X). Значит, оеС°°(Х), чем и
доказано, что образ оператора B0.1.2) определяется гладкими
соотношениями, не зависящими от s. Устойчивость индекса этого
оператора относительно возмущений младшего порядка выте^
кает из следствия 19.1.8, а устойчивость относительно произ-
произвольных малых возмущений коэффициентов — из следствия
19.1.6. Доказательство завершено.
Теорема 20.1.8 показывает, что индекс эллиптической крае-
краевой задачи определяется топологическими данными, связан-
связанными с фигурирующими в этой задаче операторами. В § 20.3
мы покажем, что проблему вычисления индекса краевой за-
задачи можно свести к той же проблеме для многообразия без
края. Доказательство этого результата потребует привлечения
ряда элементарных фактов, касающихся обыкновенных диффе-
дифференциальных операторов с постоянными коэффициентами; мы
изложим их в § 20.2. Кроме того, понадобятся обобщения ре-
результатов, полученных к этому моменту в данном параграфе.
Прежде всего заметим, что вовсе не обязательно предполагать,
что В/ — дифференциальные операторы. Приведенные выше до-
доказательства не изменятся, если В/ = В^у, где В° — псевдодиф-
псевдодифференциальные операторы из сечений расслоения Ет в сечения
расслоений G, над дХ, удовлетворяющие условию эллиптич-
эллиптичности. Однако нам нужно будет допустить и более общие опе-
операторы Р, и здесь уже придется затратить больше усилий. Наи-
Наиболее естественным было бы допустить в качестве Р любые
псевдодифференциальные операторы, удовлетворяющие условию
трансмиссии. Но тогда поставить граничные условия было бы

326 20. Краевые задачи для эллиптических дифференциальных операторов
гораздо труднее (см. работы, указанные в примечаниях в конце
главы), поэтому мы используем другой, не совсем инвариант-
инвариантный класс операторов, обладающий тем достоинством, что его
элементы почти являются дифференциальными операторами на
границе.
Будем, как и выше, считать, что некоторая окрестность гра-
границы дХ в X отождествлена с дХХ[0, 1), а расслоения Е и F
на этом «воротнике» отождествлены с поднятиями на него их
ограничений на дХ. Положим Хй = дХ X10, 6) и определим про-
продолжение X многообразия X так же, как и раньше. Предполо-
Предположим, что Р = РЬ -f Р1, где оператор Р1 принадлежит ^JThg {Х°)
и имеет ядро с носителем, скажем, в {X\Xi/t)X{?CsXi/2h а
Здесь т — положительное целое число, а Р/ — функция класса
С00 от хп^(—1, 1) со значениями в Ч^'(дХ), равная нулю,
скажем, при хп > 2/3. Далее, предполагается, что Рьт есть мор-
физм векторных расслоений Е-*-Р. По определению главный
символ оператора Р равен сумме главных символов операторов
Рь и Р1. Как было сказано выше, мы допускаем операторы Bt
вида
m-l
? BikDkn,
о
где B/k e ^",4" (дХ; Е, G{). Определяемый очевидным образом
главный символ оператора В/ однороден степени т/ и является
многочленом по %„ степени < т. Ясно, что определение 20.1.1
сохраняет смысл и в этой более общей ситуации и что мы
по-прежнему имеем непрерывное отображение B0.1.2). Чтобы
распространить теорему 20.1.2 на нашу новую ситуацию, нам
надо заново рассмотреть определение и свойства параметрикса
Т, поскольку теперь нельзя больше брать в качестве Т стан-
стандартный псевдодифференциальный оператор. Так как наша но-
новая постановка задачи неинвариантна, воспользуемся локаль-
локальным вариантом рассуждений, примененных при доказательстве
теоремы 20.1.2.
В локальной системе координат иа дХ символ оператора Р
в соответствующей части воротника записывается в виде суммы
некоторого стандартного символа порядка m и некоторого мно-.
гочлена степени m от ?„, у которого коэффициент при Уп пред-
представляет собой символ степени m — /от остальных переменных.
Таким образом, символ оператора Р локально удовлетворяет

20.1. Эллиптические краевые задачи 327
оценкам вида
B0.1.17) \DlDla(x,l)\<Ca?(l+\l\)m-an(l+\r\)^a'\
где |' = (Si, ..., ?n-i). В первый же раз, как мы продифферен-
продифференцируем символ оператора Рь по ?', член с %™ выпадет, поскольку
Р,п — это просто оператор умножения. Поэтому da/dli удовле-
удовлетворяет B0.1.17) с т, замененным на т—1, при всех /, а не
только при / = п.
Прежде чем продолжать обсуждение краевой задачи, нам
надо сделать ряд замечаний, касающихся исчисления псевдо-
псевдодифференциальных операторов. Обозначим через S"m' множе-
множество всех а е C°°(RnX R"), таких что
B0.1.17)' | DtD& (х, |) | < С„р A+1g1 )т-а" A +1ГI Г'"'а' '•
Лемма 20.1.9. Если a<^Sm'm', to оператор а(х, D) непрерывно
отображает #(S+m, t+mf)(Rn) в H(S,/>(Rn) для всех s, /eR. Если
JeS"', то a(x, D)b{x, D) = c(x, D), где cc=Sm+* m'+»'\ более
точно, c-abe=Sm+*m'+ix'-[. Если') aU) e S1"'m', то c-ab
Доказательство. Пространство S" m есть не что иное, как про-
пространство символов веса A +|Е|)тA + 1?'1)т' по отношению
к а-умеренной метрике
Поэтому из теорем 18.5.10 и 18.5.4 вытекает, что с еSm+ti'
и с — abesm+v"m+|i~l. Следовательно, оператор
as.,(х, />)=-A+1^>I2)A +1 & \2)Ша(х, D)
X A +1D p)-«'+"W(i +1 Dr |2
принадлежит OpS°-°, а значит, ^-непрерывен по теореме 18.6.3.
Этим доказано утверждение о непрерывности.
Чтобы доказать последнее утверждение леммы, запишем
Ь (х, I) - Ь (у, |) = ? {х, - у,) bj (х, у, |),
где
Ясно, что если рассматривать i/eR" как параметр, то символы
bj, равно как и их производные по у, равномерно ограничены
') Ниже (/) в верхнем индексе обозначает дифференцирование по 5/,
а в иижием — по X/. — Прим. перев.

828 20. Краевые задачи для эллиптических дифференциальных операторов
в SPW. Далее,
a(x,D)b(x,D) = a(x, D)b(y, D)
+ Z(Xi-y,)a(x, D)b,{x, у, D) + C(x, у, D),
где
С(х, у, D) =-/!>>(*, D)b,(x, y, D).
Очевидно, что символ С(х, у, ?) и его производные по у равно-
равномерно ограничены в sm+li~l" т +]Х. Взяв у = х, получаем
с(х, t) = a(x, %)Ь{х, 1) + С(х, х, I),
откуда и следует, что с — a& e sm+]i~1' m'+>1'. Доказательство за-
завершено.
Следующая лемма, в сущности, — частный случай леммы
18.4.3:
Лемма 20.1.10. Пусть xsC~(R"), aeSffl|° и
\a{x,l)\>c{\+\l\)m при Issupp(l-x).
Тогда символ Ь(х, |) = A — %(Ъ))/а(х, |) принадлежит S-m-°.
Если a</> e Sm-'. °, то fttf) e S~mJi- ¦
Доказательство. Предположим, что оценки вида B0.1.17)' уже
доказаны для производных порядка <|о + Р| от Ь. Тогда, диф-
дифференцируя равенство ab = \—х. получим
\а(х,
откуда вытекает, что
Поскольку
вне suppx, второе утверждение леммы следует из первого.
Замечание. Формулировка и доказательство леммы сохраняют
силу в случае, когда символ а принимает значения в NX.iV-ма-
трицах и а(х, 1)-' оценивается величиной (l+|i|)~m-
Предполагая, как мы вправе делать, что оператор Р опре-
определен и эллиптичен на Л, мы можем теперь доказать нужный
нам результат о внутренней регулярности:
Предложение 20.1.11. Если и <= #<?+?-пШ и Ри е Нс^тр (X),
то us Н(°+„)(X). Для всякого компакта К в X существует по-
постоянная С, такая что если supp ы с К, то
II«!!<*+,»> < С (|| PU j|(s, + I U J

20.1. Эллиптические краевые задачи 329
Доказательство. Поскольку для любой функции <р
I,,) < || фРМ ||(s) + C\\U Ib+m-l),
достаточно установить наше утвержденуе для случая, когда и
имеет компактный носитель в некоторой координатной окрест-
окрестности. Можно считать, что эта координатная окрестность отве-
отвечает шару {jceR"; |л:|<2} и supp и cr {х e к"; |*|< 1/2}.
Положим а(х, l) = p{ty(x)x, |), где р — матричный символ опе-
оператора Р в локальных координатах, для некоторых тривиализа-
ций расслоений Е и F, а функция \!р выбрана, как в лемме
19.2.11. Тогда ae=Sm-°, a<» eS-'.» для всех/, а(х, |) = р(х, I)
в некоторой окрестности носителя и и функция |E|ma(jt, I)-1
ограничена при больших |?|. В силу леммы 20.1.10 найдется
матричный символ beS--0, такой что Ь{1Цх, DeS-™-1-0 Для
всех / и Ь(х, %)а(х, I) есть единичная матрица при больших
|||. На основании леммы 20.1.9 заключаем, что b(x, D)a(x, D)
= I~\-R(x, D), где ^eS-1'0, а значит, R(x, D) непрерывно
отображает H{s+m-i) в Я(Ж+т). Таким образом,
О) а (х, D) и \{s+m) + II /? (х, D) и |
jc, D)u\U+
чем предложение и доказано.
Теперь обсудим вопрос о регулярности на границе. Будем
вести рассмотрения в координатной окрестности, где Р = Рь;
тривиализуем там расслоение Е, а затем тривиализуем F, ис-
используя отождествление Е и F, определяемое умножением на
Рьт. Продолжив символы операторов Р и Bj на все простран-
пространство, как в доказательстве предложения 20.1.11, получаем сле-
следующую ситуацию. Символ оператора Р имеет вид
где pi eSm-'(R" X R"). Рт есть единичная NХ#-матрица
и величина Ц|тр(*, |)-1 ограничена при больших |||. Анало-
Аналогично символ оператора Bj записывается в виде
где 6/ftsSm-*(Rn-1XR't-1)- Как и в лемме 20.1.10, положим
%{х, ?) = A— хA))РС*. I)» гДе Функция хеС0°° равна 1
на столь большом множестве, что т е S~m- ° и ¦&) е 5~m-1' ° для
всех /. В соответствии с B0.1.3) имеем
Т(*, D)p{x, D)=*I + rE(x, D),p(x, D)x{x, D)~=I + rP{x, D),

330 20. Краевые задачи для эллиптических диффереициальных операторов
где те, rF^S-l<°. Таким образом, операторы ге{х, D) и г^(*, D)
непрерывно отображают #(s, o(R") в H(s+i, n(R") Для всех s, t,
а т(х, D) непрерывно отображает H{s,t)(&n) в H<,s+m, t)(Rn). Нам
надо еще установить оценки, аналогичные оценкам из предло-
предложения 20.1.6. Как обычно, будем для fe^(Rn) обозначать че-
через f° функцию, равную / в R+ и 0 в остальных точках. Пусть,
далее, х(х, D)f° обозначает ограничение i(x, D)f° на R+ и опе-
операторы гв(х, ?>), rF(x, D) определены аналогичным образом.
Лемма 20.1.12. Если /е^7, то
B0.1.18) || т (х, D) /° ||(s+m, о +1| гЕ (х, D) f° Ц.+,. /(
+ ||rF(х, D) f°||(s+i, t)<Cs,,||f ft,.t), s>0,
где || • Ц., .) обозначает норму пространства #(., .> (R+). Для лю-
любых f e H{-m, о (R"), на носителе которых х„ = 0,
B0.1.19) ||т(*, D)/IU t-v) + \\rE(x, D)f IU+i-m. <-v)
нормы в левой части — это нормы в //(., .> (R+), а норма в
правой — это норма в Я(_т, <)(Rn).
Доказательство. Решающий момент состоит в том, что р(х, |)'
обладает хорошим асимптотическим разложением при gn-»-°°
(так что в действительности мы используем не что иное, как
условие трансмиссии). Вводя обозначение
представим символ р в виде
где Pm = I и P,eSm-'(R"X R"-1). Тогда можно последова-
последовательно подобрать T/eS/,(R"X R") так, чтобы для # = 1, 2,...
TV—I m-1
s"p(*. I) Z т/(^. g/)B-"-/ = aff/ + Z Pjv>/(*, t)E-',
где рлг, / принадлежит Sl+N. Действительно, для Л^= 1 это озна-
означает, что то = / и pi, / = Pm-i-i. Если утверждаемое равенство
уже установлено для некоторого значения Af, то
Z

20.1. Эллиптические краевые задачи 331
Это равенство будет иметь нужный вид, если взять хы(х, |')
= —Pn,o(x, ?') и
= РлГ./+! + Лл-1-/%(*' 10
для / = 0, ..., т — 1. Умножив доказанное тем самым равен-
равенство на х(х, ?) = A —%{%))р(х, %)~1 и еще на S-*, получим
х{х, |) = Т!т,(х. ГK-т-' + РИ*. 6),
где
PN(x,l)=~X(l) t */(*, 1')ВГт->
о
-О -%())р( ric,
Поскольку ||f||(o,s+t) ^ ll/ll(s,о при 00 и норма функции /° в
#(o,s-H)(Rn) равна норме функции f в Я<о, S+<)(R+), тот факт,
что рлг s S-m-N*N, дает при N ^ s
, D) /° ||(S+m, о < || PiV (х, D) f
Далее, из того что оператор ры{х, D) непрерывно отображает
Н(-т, t) в Я(у, М) при v ^ Л^, следует нужная оценка для члена
\\pM(x,D)f\\iv,t-v) в B0.1.19).
Оператор S(D)-* действует по формуле
xp{-t(\D'\2+\)ll2)tk-lu(x', xn + t)dt/(k-l)\;
ограничение левой части этой формулы на полупространство
хп > 0 определяется ограничением функции и на это полупро-
полупространство. Поскольку оператор Ор^/Е--') непрерывно отобра-
отображает H(S, o(Rn) в H(S+m, o(Rn). имеет место также непрерыв-
непрерывность в соответствующих пространствах — сужениях на R+. От-
Отсюда вытекают нужные оценки для х(х, D)u в B0.1.18) и
B0.1.19), ибо рассмотренные только что члены вообще не дают
никакого вклада в B0.1.19).
Чтобы получить искомые оценки для членов rE(x, D) и
rF(x,D), рассмотрим р(х, D)x(x, D) — (px) (x, D) и х(х, D)p(x, D)
— (хр) (х, D), используя то же самое разложение символа т.
Прежде всего заметим, что символы операторов р(х, D)pf/(x, D)
— {PPn)(x, D) и pN(x, D)p(x, D) — (pNp)(x, D) принадлежат
S~N> "-1 для каждого N, поэтому для достаточно больших N мы

332 20. Краевые задачи для эллиптических дифференциальных операторов
можем рассуждать точно, так же, как при проведении оценки
члена i(x, D) и. Для всех / символы операторов
х,{х, D')S(D)-m-! р(х, D)-(xlPE-m-')(x, D)
и операторов, получающихся при обратном порядке сомножи-
сомножителей, принадлежат S~l< °. Следовательно, эти операторы непре-
непрерывно отображают #<«,<) (R") в H(S+ht)(Rn) для всех s, /, от-
откуда снова следует непрерывность в соответствующих простран-
пространствах— сужениях на R+. Доказательство завершено.
Повторим теперь, заменив Р на р(х, D) и Т на х(х, D), шаги,
которые мы выполнили при доказательстве теоремы 20.1.2.
Прежде всего, определим матрицу Q псевдодифференциальных
операторов формулой B0.1.7). Теперь, однако, лишь главный
символ оператора Q2 — Q равен 0; это означает, что оператор
Q2 — Q повышает гладкость на единицу. Поэтому из доказатель-
доказательства следствия 20.1.4 вытекает, что отображение
H(s, t) (R%) э / н-» QYt (x, D) f° e= © Hla+t+m-f+m
непрерывно при s ^ 0. В случае когда условие, наложенное на
Q в предложении 20.1.5, выполняется лишь на уровне главных
символов, т. е. в случае, когда Q2 — QgW'1, заключения этого
следствия сохраняют силу, если интерпретировать знак s как
равенство главных символов. Мы можем также обеспечить вы-
выполнение условия BQS — /це Ч?-°°, взяв S = QT, где BQPT
— /ое?Л Для наших систем Дуглиса — Ниренберга мы по-
получаем поэтому Sj/ = Sj/e4rb' и Sli^4k~l- Поправочный
член К в B0.1.11) является теперь оператором, непрерывно ото-
отображающим #(S, o(R+) в H(s+\, <)(R+) при s^-m. Для попра-
поправочных членов Ки ..., Ка в B0.1.13) и B0.1.14) имеем:
К\ непрерывно отображает H(s, <>(R+) в #(S+i, <>(^+) ПРИ s^0;
К2 непрерывно отображает H(t+m-mri/2) (R") в H(s+l, <_s) (R+)
при любых s и /; _
/Сз непрерывно отображает #(s, () (R+) в ф H^+t+m-m^xm (R")
при s>0;
К* обладает С°°-ядром.
При проверке этих утверждений, провести которую мы пре-
предоставим читателю, полезно вспомнить (см. доказательство
предложения 20.1.6), что

' 20.1. Эллиптические краевые задачи 333
Допустим, что и е Н(т) (R+) н что н равняется 0 вне неко-
некоторого большого шара. Мы утверждаем, что и е #(s) (R+), если
р(х, D) и е /7(s_m)(R5-), 6,(*, В)ие H{s-mr 1/2) (R")-
Действительно, при установлении этого факта можно считать
уже доказанным, что и е Я(«о (R+) для некоторого s' ^ m, та-
такого что s ^ s'+ 1. Поскольку
и = (/ + т (х, D) PCS"Y) т (*, D) f> + т (х, D) PCS^ + /Си,
сделанное утверждение следует из указанных выше свойств не-
непрерывности операторов К и из свойств непрерывности других
операторов, вытекающих из оценок леммы 20.1.12.
Предположим теперь, как и при доказательстве теоремы
20.1.8, что выполнено соотношение
0= J {Pu)vdx + YJ\B!u{x')h,(x')dx' при
где v e H(o?t) (R+) и ht e Я(?+ту+1/2-т) (R* )•
Докажем, что тогда последние два включения должны оста-
оставаться верными при замене t на t-\-\, а значит, верны для всех
t. С этой целью возьмем f e C~ (R") и положим
B0.1.20) а = ф ((/ + т (х, 0) P°Sffy) x(x,D)f° + x (x, D) P'Sg),
где феС(R") — фиксированная функция. Тогда
(| РИ - ф/ ||@, -<) + Z II В/И - <pg/ \l(-t-mrW+m)
< С (|| f 11@, _f_i, + SII ?/ lk-<-mr3/2+m)) ,
в силу приведенных выше оценок для операторов К/ и непре-
непрерывности операторов в правой части B0.1.20), вытекающей из
леммы 20.1.12. Отсюда следует, что
0. -#-!
Тем самым доказано, что ф» s Я<о. <+n (R+) и фА/ е Я(<+т/+з/2-т)>
как и утверждалось. Таким образом, Л/ е С00. Поскольку Фу
еС* в начальные данные функции v принадлежат классу С°°,
то, как и в доказательстве теоремы 20.1.8, мы заключаем, что
()

S34 20. Краевые задачи для эллиптических дифференциальных операторов
Теорема 20.1.8'. Пусть Р.= Рь + Р\ еде Р' — псевдодифферен-
псевдодифференциальный оператор порядка m с ядром, имеющим компактный
носитель в Х°Х.Х°, а Рь — дифференциальный оператор по хп,
являющийся на воротнике псевдодифференциальным операто-
оператором, вдоль дХ, как это описано выше. Предположим, что опера-
оператор Р эллиптичен и граничные операторы Bs эллиптичны отно-
относительно Р. Тогда заключения теоремы 20.1.8 сохраняют силу.
Доказательство. Сначала докажем, что оператор
B0.1.21) Him)(X°, Е) эик>(Р«, В,и, ..., Bju)
является фредгольмовым и его образ совпадает с аннулятором
некоторого конечномерного подпространства в С°°(Х, F*®QX)
©фС°°(д.У, G/ ® Qdx)" Пусть «v—слабо сходящаяся последова-
последовательность в R(m)(X°, Е), такая что последовательность P«v схо-
сходится по норме в Я(о)(А"°, F) и для каждого / последователь-
последовательность B,uv сходится по норме в #(m-m.-щ{дХ, G;). Тогда «v
сходится по норме в #(т_о(Х°, E), поэтому для феС"(Х) тем
же свойством будет обладать последовательность qpMv. Из пред-
предложения 20.1.11 следует, что для феС0°°(Л последователь-
последовательность qj«v будет сходиться по норме и в R(m)(X°, E), и, выбирая
Ф с носителем, достаточно близким к точке границы, и исполь-
используя тот факт, что определенный выше Оператор К является ком-
компактным оператором из Н(Ш) в H(m), заключаем, что и сама по-
последовательность Ну сходится по норме в Я(т)(Х°, Е). В силу
предложения 19.1.3 этим доказано, что оператор B0.1.21) имеет
конечномерное ядро и замкнутый образ. Далее, выше уже было
доказано, что ортогональное дополнение к образу оператора
B0.1.21) содержится в С°°(Х, F* ® Qx)ф ©С°° (дХ, G) ® Qox)
(регулярность элементов этого ортогонального дополнения во
внутренности многообразия А" вытекает из предложения 20.1.11,
примененного к оператору, сопряженному к Р). Ввиду леммы
19.1.4 и теоремы о замкнутом графике отсюда следует конечно-
конечномерность указанного ортогонального дополнения. Мы знаем, что
если s>0 и элемент
(f, ft, .... gj)^H[s)(X°, Р)®($НA+т-Ягщ(дХ, Gf)
ортогонален к этому конечномерному дополнению, то краевая
задача B0.1.1) имеет решение ае Я(т){Х°, Е). Мы также до-
доказали, что это решение в действительности принадлежит
H(S+m) {Х°, Е) в некоторой окрестности границы; в силу предло-

20.1. Эллиптические краевые задачи 333
жения 20.1.11 то же верно во всей внутренности многообразия
X. Доказательство завершено.
В теореме 20.1.8' содержится глобальное утверждение о регу-
регулярности, которое полезно микролокализовать по аналогии с
теоремой 8.3.1. На проводимом ниже подготовительном шаге
к получению такого аналога мы сохраняем наши предположения
относительно Р и В,-.
Лемма 20.1.13. Пусть операторы Р и В/ обладают свойствами,
указанными в теореме 20.1.8', и и f принадлежат Jf(X) и
Ри = / в X, B/a = g/ на дХ, /= 1 /.
Тогда
B0.1.22) WFb (и) \дХ = WFb (f) \дх U Д WF (*,).
Доказательство. Из теорем 18.3.32 и 18.3.27 следует, что левая
часть B0.1.22) содержит правую. Докажем противоположное
включение. Выберем б>0 так, чтобы в WF{u) не входил ни
один элемент (я, |) с ?' = 0 и 0 < хп ^ б; это возможно, по-
поскольку u^Jf(X) (см. доказательство теоремы 18.3.32). Пусть
W — объединение правой части B0.1.22) и множества
{(*, ?'); 0 < хп < б, (х, I) e= WF (f) для некоторого !„}.
Это объединение замкнуто, так как WFb{f) замкнуто. Назовем
символ х^S°°(R+XT*{dX)) допустимым, если %{х, |') = 0 для
Хп~^ б и х имеет порядок —оо в некоторой конической окрест-
окрестности множества W. Таким образом, в силу теоремы 18.1.36,
если символ х допустим, то %(х, D')/s C°°. __
Далее, можно выбрать s и t так, чтобы »е Я('?,°<){X°i), а зна-
значит,
B0.1.23) % (х, D') и е Я«,, <> для всякого допустимого x^S°.
В случае % е S^ справедлив тот же результат с t, замененным
на t — ц. Из B0.1.23) вытекает, что для допустимых %&S°
B0.1.24) Р% (х, D')« = X (х, D') f + [P,% (x, D')] и s H(s-m+i, t),
поскольку [Р, %{х, Г/)] = 2 D'nXj {x, D'), где символы %, е Sm~l~f
Km
допустимы. Следовательно,
B0.1.25) D>nx(x, D')u s H(s-i+u t-»
при / = m. По индукции тот же результат верен и для / <С т.
Действительно, если включение B0.1.25) уже доказано для j,

336 20. Краевые задачи для эллиптических дифференциальиых операторов
замененного на /+ 1, то
D'n+l%(x, D')ие His-i, t-i), D!n%(x, D')и e= H{s-i. t)
в силу предположения индукции и B0.1.23). На основании тео-
теоремы В. 2.3 заключаем, что выполнено B0.1.25). При / = 0 по-
получаем B0.1.23) с парой (s, t), замененной на (s+1, t—1).
После конечного числа шагов придем к B0.1.23) с некоторой
новой парой (s, t), в которой s ^ т. Тогда
В,х{х, D')u = x(x', 0, D')g, + [Bf, %(х, В')]иеЯE+(-П/+ч,
поэтому, учитывая B0.1.24) и используя теорему 20.1.8', заклю-
заключаем, что х(х, О')ибЯ(,+|,(). Таким образом, B0.1.23) оста-
останется верным, если заменить s на s+1, оставив t неизменным,
откуда следует, что х{х, D')u^C°°(X). Этим показано, что ле-
левая часть B0.1.22) содержится в правой. Доказательство за-
завершено.
Лемме 20.1.13 можно придать более общий вид;
Теорема 20.1.14. Пусть X — многообразие класса С°° с краем дХ
и Р — дифференциальный оператор из С°°(Х, Е) в С°°(Х, F),
где Е и F — комплексные векторные расслоения класса С°° с
одинаковой размерностью слоя. Предположим, что край дХ не-
нехарактеристичен для Р. Пусть, далее, Bit ..., Bj — граничные
дифференциальные операторы. Определим характеристи-
характеристическое множество Char(P; Вь ..., Bj)cz Т*(дХ)\0 крае-
краевой задачи (Р; В\, ..., Bj) как множество всех (хг, |')
е Т*(дХ)\0, таких что для некоторой точки (х, |)е Т*(Х),при-
Т*(Х),принадлежащей прообразу точки (х', |') при естественном отобра-
отображении Т*(Х)-=>-Т*{дХ), либо оператор Р характеристичен в
(х, |), либо отображение, фигурирующее в условии (И) опре-
определения 20.1.1, оказывается неинъективным. Если и, fJP(X)
и Pu = f в Х°, B,u = g, на дХ, /= 1, ..., /, то
B0.1.26) WFb(u)\dXczChar(P; В„ ..., Bj)
U WFb (f) |„ U \\
Доказательство. Можно считать, что X = R+. Нам надо пока-
показать, что @, JQ ф WFb (и), если точка @, JQ не принадлежит
множеству в правой части B0.1.26). Опустив некоторые лишние
Bh можно считать, что отображение, фигурирующее в условии
(п) определения 20.1.1, биективно в точке @, |?). Запишем

20.2. Некоторые подготовительные результаты 337
И положим
Р (*, I) = Рт (х) % + "ft (Я, (х, Г) * (Г))
где функция ^eCoo(Rn-1) однородна степени 0 по ?' при
Ц'1^1 и равна 1 в некоторой конической окрестности точки
%'о. Если носитель этой функции достаточно мал, то оператор Р
эллиптичен в окрестности нуля, и краевая задача (Р; 5, 5/),
где операторы В/ определены аналогичным образом, тоже бу-
будет эллиптична. Далее, Р« = / в Х° и Bju = gj на дХ, где f и g/
таковы, что
@, |'о) ? WFb (f - f) U U W7^ (g, ~ §,).
поэтому, в силу леммы 20.1.13, @, %)Ф WFb (и). Доказательство
завершено.
20.2. Некоторые подготовительные результаты
об обыкновенных дифференциальных
операторах
Пусть Е — конечномерное векторное пространство над С и
Лей'(Е, Е). Тогда дифференциальное уравнение
B0.2.1) Du — Au = 0,
где aeCM(R, E) и D = — id/dt, имеет dim? линейно незави-
независимых решений. Решение с и@)=«0 дается формулой
и(t) = BдаГ' § («/ - А)-1 и^еш dz = YsRes(z/ ~ Л>~' "&"''•
где интеграл берется по границе какой-нибудь области, содер-
содержащей все собственные значения оператора А. Если А не имеет
вещественных собственных значений, то u(t) = u+{t)-\- U-[t),
где и+ — сумма вычетов в верхней полуплоскости, а и- — сумма
вычетов в нижней; функция и+ ограничена на R+, а «_—на R_.
Таким образом, если отождествлять решения уравнения B0.2.1)
с их значениями в 0, то оператор
B0.2.2) <?= ? Res(zl-A)~{
Imz>0
есть проектор на пространство М+ решений, ограниченных на
R+, аннулирующий пространство М- решений, ограниченных
на R_.
Не нарушая «условия эллиптичности», т. е. условия отсут-
отсутствия у оператора А вещественных собственных значений, мож-
можно продеформировать его к весьма специальному виду;

338 20. Краевые задачи для эллиптических дифференциальных операторов
Предложение 20.2.1. Если оператор А не имеет вещественных
собственных значений и оператор q определен формулой
B0.2.2), то при X > 0 операторы
B0.2.3) Ах = A - т) А + т (iXq - iX (I - q))
не имеют вещественных собственных значений для 0 <[ т ^ 1 и
B0.2.2)' ?= Z Res (г/-А,), 0<т<1.
1тг>0
Доказательство. Пусть qz — вычет функции (zl — Л)-1 в точке
z. Тогда qz = 0, если только z не является собственным значе-
значением оператора Л, а в этом случае qz есть проектор на простран-
пространство корневых векторов, соответствующих собственному значе-
значению z, вдоль пространства, натянутого на остальные корневые
векторы. Таким образом, проекторы qz коммутируют и
Я== 2j <7z-
Imz>0
Ограничение оператора А — zl на qzE есть нильпотентный опе-
оператор, а ограничение оператора q на qzE есть тождественный
(соотв. нулевой) оператор, если 1тг>0 (соотв. 1тг<0). По-
Поэтому ограничение оператора Лт на qzE представляет собой
сумму некоторого нильпотентного оператора и тождественного
оператора, взятого с коэффициентом
A — т) z + xiX sgn Im z,
имеющим мнимую часть того же знака, что и \mz. Таким обра-
образом, Лт не может иметь вещественных собственных значений при
0^т^1. Пространства корневых векторов оператора Лт не
зависят от т, хотя собственные значения зависят. Доказатель-
Доказательство завершено.
Ценность этого утверждения в том, что Ло — совершенно
произвольный оператор без вещественных собственных значе-
значений, гомотопный же ему оператор А\ есть оператор весьма спе-
специальный. Решения уравнения Du — Л1и = 0 можно записать
в явном виде:
и (t) = ехр (— Xf) qtio -f exp {Xt) (I — q) Щ.
Деформировать операторы высших порядков уже не так
легко, как операторы первого порядка. Поэтому обсудим вопрос
о сведении таких операторов к системам операторов первого
порядка. Положим для данного m > 1
B0.2.4)

* 20.2. Некоторые подготовительные результаты 339
где р!^2'{Е, Е), причем рт = /. Каждое решение уравнения
p(D)u = 0 можно представить в виде
ы@ = Bт)-1 § р (z)-1 U(z)eitzdz = ? Res{p{z)~x U {z)eiU),
где U(z)—некоторый однозначно определенный многочлен сте-
степени <С т со значениями в Е. Он выражается через начальные
данные решения по формуле
Z Pt+iD'-ku @)z*
k<1<m
(ср. с B0.1.5)).
При стандартном сведении операторов высших порядков к
системам первого порядка просто вводят D>u(t), 0^/<m
в качестве новых переменных. Однако нам надо избегать появ-
появления вещественных собственных значений, и поэтому прихо-
приходится, как в предложении 20.2.1, использовать вместо D опера-
операторы D-\-iX и D — iX для некоторого А, > 0. Заметим прежде
всего, что р можно записать в виде
B0.2.4)' р{г)=Ъ a, (z - Щ1 (г + U)m~f.
о
Если положить (г — Ы)/(z-j- Ы) = w, т. е. z = 'Ki(w+\)/(\—w),
то B0.2.4)/ перепишется так:
J a,w' = (A - w)/2U)m р (Ы A-f w)l A - w)).
Отсюда видно, что
B0.2.5) «/ = Z
где с/к — некоторые постоянные. Таким образом, из уравнения
р (?>)« = 0, полагая
ut = (D- M)'(D + A0m~w и, 0 < / < т,
мы получаем систему уравнений первого порядка
ат (D - А/) ит_х + t a, (D + А/) и, = 0,
(D + ki)u, — (D — М)и,_х = 0, 0 < / < т.
В сущности, это обычная процедура, модифицированная при
помощи использованного выше преобразования Мёбиуса.
Чтобы обеспечить гладкий переход от полученной системы
первого порядка к исходному уравнению, определим для 0^1

340 20. Краевые задачи для эллиптических дифференциальных операторов
многочлен P-t(z) со значениями в 2?(Ет, Ет) как блочную'
матрицу
Р{г) 0
, 0 М0(г) 0
B0.2.6) ' °W
I
0 ... М0(г)
Ro(v>z) Ri(x, z) Rm-i(t, г)-
0 - тМ, (z) 0
О О
Здесь
M0{z) = (z + Щт, М,B) = (г - М)(z + А,/),
Я0(т, z) = - т>B) + тта0М0 (г),
Лт-1 (т. г) = Tam_,M0(z) + татМ, (г).
Матричный коэффициент при zm в ЯтB) имеет определитель 1
и, как показывает несложное вычисление, опирающееся на тот
факт, что а0 + ... + ат = /, разлагается в произведение
- ... +ат) ...
/ 0
/ 0 ...
-т/ / О
-т/ /
Поэтому элементы матрицы, обратной к этому коэффициенту,
будут просто линейными функциями от по, ..., ат, и это остается
верным, если заменить а0, ..., ат более общими операторами.
Заметим, что второе слагаемое в B0.2.6) обращается в 0 при
т = 0 и что в P\(z) имеется множитель {г + Ы)т~1, после вы-
выделения которого остается многочлен первого порядка по z.
Определим теперь решения U = (U0, ..., Um-i) уравнения

20.2. Некоторые подготовительные результаты 341
= O. В явном виде это уравнение расписывается так:
A - тт) р D)U0 + (D + Л/Г(аотт?/О + ... + ^m-i^V-i)
+ х(?> + Я/Г (D - Ы)ат С/т_, = 0,
(D + М)т ?/, = т (D + «Г (D - Яг) ?/,_„ 0 < / < т.
Если решение U этой системы ограничено на R+, то его произ-
производные тоже будут ограничены на R+, поэтому все уравнения
системы, кроме первого, можно сократить на множитель
(D + Ы) т~1, ибо у уравнения (D-{-Xi)f = O нет ненулевых ре-
решений, ограниченных на R+. Следовательно,
а значит,
Первое уравнение можно теперь переписать в виде p(D)Uo = 0.
Таким образом, если detpB)=#=0 при zgR, to мы получим
пространство AfJ решений уравнения PX(D)U = 0, ограничен-
ограниченных на R+, выбрав Uo из множества М+ решений уравнения
p(D)u = 0, ограниченных на R+, а в качестве U/, }=\,...,т—1,
взяв экспоненциально убывающие решения уравнения
(D + ЛгУ U, = xl(D- Ui Uo.
Отсюда, в частности, следует, что det PT(z)"^0 при zeR.
Пусть теперь задан набор граничных операторов
B0.2.7) B,(D)= Z b,kDk, /=1, ...,/,
где bfk^ S'iE, Gj) (G/ — некоторые другие конечномерные век-
векторные пространства). Предположим, что отображение
B0.2.8) М+ s и >-*• (в! (D) и @), ..., B}'D)u @)) s ® G;
биективно. Тогда и отображение
B0.2.9) Мt э ?/ н* E, (D)t/0@) В,(D) t/0@))
тоже биективно.
Считая, что nif <. т для каждого /, мы можем записать опе-
операторы В/ в виде
B0.2.7)' fly(z)= S Р/*(г-Ы)* (z + W)"*.
ft<m
Коэффициенты Р/й можно вычислить из равенства
= (A - ^/гЛгГ 5, (W A + »)/(! ~ а»)).

B0.2.II) В,(D)Uo = Z *"%* (D + hi)m-1 Uk.
342 20. Краевые задачи для эллиптических дифференциальных операторов
которое показывает, что
B0.2.10) P/ft= Y. С*АЛ1+1-'
Km,
где с'и — некоторые постоянные. Для U ^ Ait
т* (D — Xif (D + U)m~l~k U0 = (D + U)m~l Uk.
Отсюда следует, что при
m-l
С
о
Подытожим полученные результаты для последующих ссылок
в § 20.3:
Предложение 20.2.2. Пусть многочлен p(z) определен формулой
B0.2.4), где р,- е & (Е, Е), причем рт = /. Предположим, что
оператор p(z) обратим для всех вещественных г. Определим
операторы ai^2'(E, E) формулой B0.2.4)' (или, что равно-
равносильно, формулой B0.2.5)) и многочлен Px(z) с коэффициен-
коэффициентами в S(Em, Em) формулой B0.2.6). Тогда матричный коэф-
коэффициент при zm в многочлене Px(z) имеет определитель 1 и
блочные элементы обратной матрицы линейны по а0, ..., ат;
матрица Px(z) обратима при вещественных z, и проекция ре-
решений U — (Uo, .... Um-i) уравнения PX(D)U = 0 на первую
компоненту является биекцией множества М\~ решений этого
уравнения, ограниченных на R+, на множество М+ решений
уравнения р(р)и = 0, ограниченных на R+. Если B/(D) — опе-
операторы порядка mi < пг с коэффициентами в &(Е, G,), то ото-
отображение B0.2.8) биективно тогда и только тогда, когда биек-
биективно отображение B0.2.9). При %ф0 для UеМх справед-
справедливо равенство B0.2.11), где В/* определены формулой B0.2.7)/
(или, что равносильно, формулой B0.2.10)).
Замечание. Если обозначить коэффициент при zm в Рт через
Р%т, то перечисленные выше заключения справедливы также
и для оператора Р7тРх. Для этого оператора коэффициент при
Dm будет единичной матрицей. При т = 0 описанное видоизме-
видоизменение никак не отражается на операторе Рх.
20.3. Индекс эллиптических краевых задач
В этом параграфе, как и в § 20.1, X обозначает компактное
С°°-многообразие с краем дХ, а Е и F — два комплексных век-
векторных расслоения класса С°° на X с одинаковой размерностью
слоя. Мы предполагаем, что некоторая окрестность края дХ в

20.3. Индекс эллиптических краевых задач 343
X отождествлена с дХу.[0, 1), и записываем точки этого ворот-
воротника в виде (*', хп), где х'<=дХ, 0<*п<1. Кроме того, на
воротнике выбирается некоторое отождествление слоев Е^х>, хп),
^(хг'хп) со слоями Е(Х\ о). F(x'.o). Мы будем изучать индекс эллип-
эллиптических краевых задач для операторов Р вида Р = Р* + Р', где
оператор Р1 е Ч^в (Х°; Е, F) имеет ядро с компактным носите-
носителем в Г X Х°, а
Здесь т — положительное целое число, а Р/ — функции класса
С°° от хп^(—1, 1) со значениями в WJJhg' (дХ), равные 0, ска-
скажем, при хп > 2/3, причем Рьт есть морфизм расслоений. Поня-
Понятия главного символа и эллиптичности определяются для крае-
краевых задач, как объяснено в § 20.1. Вычислим теперь индекс эл-
эллиптических краевых задач для одного весьма специального
случая:
Предложение 20.3.1. Пусть E = F и задано некоторое разложе-
разложение Е\дх = Е + ®Е~. Выберем функцию q><= С~((—1, 1)), удов-
удовлетворяющую условию 0 ^ ф <: 1 и равную 1 в некоторой
окрестности нуля, и рассмотрим <f(xn) как функцию на X с но-
носителем на указанном выше воротнике. Далее, выберем опе-
операторы
, Е±, ?*), Л е 4^hg (Х°; Е, Е)
с главными символами, равными тождественному отображению,
умноженному соответственно на ^ " на %, где Х± > 0 в
Т*(дХ)\0, а %>0 в Т*(Х°)\0. Ограничение на воротник вся-
всякого сечения иеС°°(Х, Е) представимо в виде и — (и+, и~), где
и~ — сечение расслоения ?*, и мы положим
B0.3.1) Pbu = <p(xn)((Dn + iA+)u+, {~Dn + iA-)u~).
Далее, положим
/ A - ф (*п)) Л A-ф (*„))",
\дХ)
Тогда краевая задача (Р, В) эллиптична и индекс соответствую-
соответствующего оператора П^){Х°, Е)-+Ни-и(Х°, ?)Ф His-i/2)(dX, E) ра-
равен 0 при s~^\.
Доказательство. Если (у, ti)<= Т*(дХ)\0, то решения уравнений
(Dn + /Я+ (у, л)) и+ = 0, (- ?>„ + Л" (у, ij)) и~ = 0, '

344 20. Краевые задачи для эллиптических дифференциальных операторов
ограниченные на R+, суть ы+ = 0, и~ = ы^ехр(— хпХ~ (у, и\)),
поэтому утверждаемая эллиптичность очевидна. Чтобы опреде-
определить ядро указанного оператора, которое, как мы знаем, содер-
содержится в С°°, выберем в Е какую-нибудь эрмитову структуру, от-
относительно которой Е + и Е~ ортогональны на воротнике. Кроме
того, выберем положительную плотность на X, которая на во-
воротнике равна произведению некоторой положительной плот-
плотности на дХ и лебеговой плотности dxn- Тогда для иеС°° (X, Е)
2 Im (Pbu, и) = ((Р»и, и) - (и, Pbu))/i
= 2Re((<pA+«+, «+) + (ФЛ-Ы-, в"))
- (ы+, ФО„ы+) - (q>DBu~, и") + (и~
Перекидывая операторы Dn на другую сторону с помощью ин-
интегрирования по частям, получим ввиду положительности опе-
операторов Л+ и Л~
2 Im {Р»и, и)>\\и+ \Р9Х -1!и- %х - С||и fx.
Поскольку для Re Pl тоже имеется оценка снизу, мы заклю-
заключаем, что
2 Im(Pu, и)^? — С(и, и),
если иеС<х>(Х, Е) и Ви = 0. Таким образом, ядро оператора
(P + UI, В) равно {0}, если It > С". Заменив Р на Р + Ш,
можно в дальнейшем считать, что ядро оператора (Р, В) рав-
равно {0}.
Введенные выше эрмитова структура и плотности позволяют
рассматривать сопряженные к Л и Л* как операторы в тех же
расслоениях. Предположим теперь, что цеС°° (X, Е) и
h^C°°(dX, Е~) ортогональны к образу оператора (Р, В), т. е.
(«, Ри)х + (h, «~W = 0 для и е С°° (X, Е).
Тогда P*v = 0 и о+ = 0 на дХ, поскольку на и+ никаких гранич-
граничных условий не налагается. Но —Р* — оператор того же вида,
что и Р, только Е- и Е+ меняются здесь ролями. Отсюда сле-
следует (если выше при замене Р на Р-\-Щ выбрать число t до-
достаточно большим), что v = 0, а тогда и h = 0. Значит, индекс
оператора (Я, В) равен 0, чем доказательство и завершено.
Заметим, что положительность мнимой части символа гаран-
гарантирует, что все операторы (Р, В), охватываемые предложением
20.3.1 при фиксированных Е, Е+ и Е~, гомотопны между собой.
Покажем теперь, что теорема об индексе для многообразий без
края позволяет рассмотреть символы общего вида во внутрен-
внутренности многообразия X. Предположение о наличии заданного

* 20.3. Индекс эллиптических краевых задач 345
разложения Е\дх = Е+@Е~ на границе мы сохраним. Далее,
мы по-прежнему считаем, что Е отождествлено с F на воротнике
<?ХХ[0, 1), но уже не требуем этого на всем X. Как и прежде,
оператор Рь определяется формулой B0.3.1), но Р' теперь —
любой оператор из ^^(Х0; Е, F), имеющий ядро с компактным
носителем в Лг X Х°, такой что оператор Р = Pb -f P' эллипти-
эллиптичен. Чтобы определить индекс нашей краевой задачи, образуем
удвоение X многообразия X, состоящее из двух его копий Х\ и
Х2, отождествленных на дХ\ С°°-структуру на X зададим, отож-
отождествив воротник в Xi с дХУ,[0, 1), а воротник в Х2 — с дХ
Х(—1» 0] при помощи замены знака у координаты хп. На X мы
имеем расслоение Е, получающееся склеиванием расслоения Е
на Xi и того же расслоения на Х2, и расслоение F, получаю-
получающееся склеиванием расслоения F на X, с расслоением Е на Х2.
Это возможно (и структура векторного расслоения определяется
при этом очевидным образом), поскольку на воротниках оба
склеиваемых расслоения получаются поднятием одного и того
же расслоения с дХ. Определим Рь на удвоенном воротнике
дХХ{—1. 1)с? той же формулой B0.3.1) и выберем
Pi e Wphg (Х°2; Е, Е), как в предложении 20.3.1. Если рассматри-
рассматривать Рг как оператор иа X, то оператор Р = Рь -f- Pl + Ръ ото-
отображает сечения расслоения Ё на X в сечения расслоения F и
имеет эллиптический главный символ р в том смысле, как мы
это здесь понимаем, хотя и не является псевдодифференциаль-
псевдодифференциальным оператором в собственном смысле слова.
Предложение 20.3.2. В указанных выше предположениях Р есть
фредгольмов оператор H(S){X, E)-*-His-i){X, F) для всякого
s ^ I. Его индекс совпадает с индексом краевой задачи (Р, В)
и равен s-ind p.
Доказательство. Запишем уравнение
B0.3.2) Рй = f.
где йеЯE)(Л', ?)' и JeH(s-X)(X, F). Рассматривая ограничения
сечений й и J на Хх и Х2 как сечения и\, u2^H(S)(X, E) и
/iefl(S.i)(X, F), f2eff(H)(^, E), уравнение можно переписать
в виде
B0.3.2)' Pul=fv P2u2 = f2 в X; и+ — и+, и~ = и~ на дХ.
Здесь оператор Р2 имеет тот же вид, что и в предложении 20.3.1,
только Е+ и Е~ меняются ролями, поскольку Dn заменяется на
—Dn при перемене знака координаты х„. Образуем граничный

346 20. Краевые задачи Для эллиптических дифференциальных операторов
оператор
Вх (в,, и2) = (в+ - ти+, и- - хи-).
Граничные условия из B0.3.2)' получаются при т=1. При
любом т этот граничный оператор эллиптичен по отношению к
системе уравнений из B0.3.2)'. Действительно, для ограничен-
ограниченных решений системы обыкновенных дифференциальных урав-
уравнений, фигурирующей в определении 20.1.1, мы, как и в начале
доказательства предложения 20.3.1, получаем и+ = и~ = 0, а
тогда граничные условия дают и,~ = и+ = 0. Таким образом,
индекс краевой задачи ((Р, Р2), В%) не зависит от т. В силу
предложения 20.3.1, при т = 0 он равен ind(P, В), потому что
в этом случае никакого «сцепления» между и( и щ нет. Следо-
Следовательно, индекс эллиптической краевой задачи ((Р, Р2), В\\
равен индексу краевой задачи (Р, В).
Далее, индекс оператора B0.1.2) равен индексу оператора
{и е= tfw (Х°, Е); Ви = 0} э и ^ Ри е //„_*> (Х°, F),
при условии что отдельно взятое уравнение Ви = g разрешимо
при любом geC", поскольку наложение ограничения Ви = 0
на область определения оператора не изменяет его ядра и дает
при указанном условии изоморфное коядро. В нашей ситуации
отображение (щ, U2)>—»Bi(u1( «г) очевидным образом сюръек-
тивно, поэтому это наблюдение применимо, и мы заключаем,
что Р — фредгольмов оператор; его индекс равен индексу за-
задачи (Р, В), так как мы можем вернуться от B0.3.2)' к B0.3.2).
В силу леммы 19.2.6 найдется последовательность операто-
операторов Л* е Wphg (X; Е, F) с главными символами, сходящимися
к главному символу оператора Л*, такая что Л* —Л*->0 в
&(H(s)(X, Ё), H(S-i)(X, F)). При s>l мы заключаем, что для
достаточно больших / псевдодифференциальный оператор Р/,
получающийся из Р заменой Л* на Л*, будет фредгольмовым
оператором с тем же индексом, что и Р. Ввиду теоремы 19.2.4
отсюда следует, что ind P = s-ind p, чем доказательство и за-
завершено.
Может показаться, что краевые задачи, охватываемые пред-
предложением 20.3.2, имеют чересчур специальный вид, но гомотопи-
гомотопическая инвариантность индекса позволяет поразительным об-
образом расширить сферу действия этого предложения:
Предложение 20.3.3. Пусть (Р, В)—произвольная эллиптиче-
эллиптическая краевая задача первого порядка с граничным оператором
В порядка 0. Тогда прямая сумма оператора (Р, В) с некоторым
подходящим оператором вида, рассмотренного в предложении

20.3. Индекс эллиптических краевых задач 347
20.3.1, с Е = Е+ гомотопна оператору, отвечающему краевой за-
задаче, для которой индекс дается предложением 20.3.2.
Доказательство. Как обычно, можно считать, что на воротнике
Ех = Е(Х' о). Коэффициент Р? при Dn в операторе Рь есть изо-
изоморфизм Е на F над дХХ[0, с) при некотором се@, I). Отож-
Отождествим Е и F с его помощью. Таким образом, для 0 ^ хп ^ с
Pb = Dn-A(xn),
где А (хп) е ^Fphg (дХ; Е, Е). Заменяя А (хп) на
A - тЧ> (*„)) А (хп) + тч]? (*„) А @), 0 < т < 1,
получим гомотопию эллиптических краевых задач, при условии
что функция ф заключена между 0 и 1 и равна 1 в некоторой
малой окрестности нуля и 0 вне некоторой другой малой окрест-
окрестности нуля. Поэтому, уменьшив с, можно считать, что А не
зависит от х„ при 0 ^ хп ^ с. Можно также считать, что носи-
носитель ядра оператора Р1 не пересекается ни с X X {дХ X [0, с]),
ни с (дХХЮ,с])ХХ.
Шаг 1. Пусть а — главный символ оператора А и
q (у, Ti) = Bm)-1 $+ (г/ - а (у, г,» йг
есть соответствующий проектор Кальдерона. Он представляет
собой С°°-проектор в Е, поднятый на Т*(дХ)\0, и является
однородным степени 0. Выберем оператор Q e Tphg (дХ; Е, Е)
с главным символом q и оператор Л е Wphg (дХ; Е, Е), главный
символ которого пропорционален с положительным коэффициен-
коэффициентом пропорциональности тождественному отображению. Взяв
функцию ф е С" ((— с, с)), равную 1 в некоторой окрестности
нуля и всюду заключенную между 0 и 1, положим
* при х„>с,
•„ — A — тф) А — тф (iAQ — гЛ (/ — Q)) при хп < с.
В силу предложения 20.2.1 оператор Р% = Рх-^-Р1 эллиптичен,
и отвечающий ему проектор Кальдерона равен q при всех
те[0, 1]. Отсюда следует, что если краевая задача (Р, В) эл-
эллиптическая, то и краевая задача (Р1г В) эллиптическая с тем
же индексом. Заметим, что
Р? = рь + A - ф) р\ где Ръ = ф (А, - iAQ + iA (I - Q))-
Ядро оператора A—<p)Pb имеет компактный носитель в
Л0Х-К°. поэтому, используя лемму 19.2.6, можно найти настоя-

348 20. Краевые задачи для эллиптических дифференциальных операторов
щий псевдодифференциальный оператор Р1, имеющий ядро с
компактным носителем в Х° X Х° и символ, столь близкий к
символу оператора A—ф)Р* -f- Р', что оператор
где Р = Рь + Р1, эллиптичен при O^t^I. На границе эти
операторы не зависят от т, следовательно, краевая задача
{Р, В) эллиптична и имеет тот же индекс, что и (Р, В).
Шаг 2. Мы можем теперь начать с оператора с граничной частью
B0.3.3) Р6 = Ф (Dn - iAQ + /Л (/ - Q)) = <р (Dn + iA (/ - 2Q)).
Различие между данной ситуацией и ситуацией предложения
20.3.2 заключается в том, что «проектор» Q в B0.3.3) является
псевдодифференциальным оператором на дХ, а не просто мор-
физмом расслоений, как в предложении 20.3.2. Пусть
В е ^Fphg (дХ; Е, G)—наш граничный оператор (поскольку Р —
первого порядка, этот граничный оператор действует лишь на
граничные значения, т. е. не содержит Dn). To что краевая за-
задача (Р, В) эллиптична, означает, что главный символ Ь(у, г\)
оператора В для всех (у, ri)e Т*(дХ)\0 есть биективное ото-
отображение образа проектора q(y, r\) на слой Gy. Напомним (см.
доказательство предложения 20.1.5), что это равносильно су-
существованию (единственного) отображения s(y, r\): Gy-^-E{y,0),
такого что
y
B0.3.4)
s (У, л) Ь {у, tj) q {у, ц) = я {у, л)-
Последнее равенство следует из того, что в силу первого sbs = s,
а в силу второго об-раз отображения s содержится в образе
проектора q и, значит, эти образы совпадают, ибо имеют оди-
одинаковую размерность. Положим теперь для 0 ^ 0 ^ я/2
h{y, tj) = (cos 0 6 (г/, Ti), sin6/Gy): Е(„, 0) ф Gy -> Gy,
( cos Э s (у, л)
( )^
/ (cos 0J q (у, л) sin 9 cos 9 s (г/, л) Ч
qeiy'Ti)~{smQcosQb(y,r])q(y, л) (sin6J/Oy У
Прямое вычисление показывает, что <7е(#» л) есть проектор в
Еу, о ® Gy и
B0.3.4)'

20.3. Индекс эллиптических краевых задач 349
последнее равенство устанавливается точно так же, как послед-
последнее равенство в B0.3.4), поскольку образ проектора qe имеет
размерность dim Gy, а следовательно, у sq и qe образы совпа-
совпадают. Когда 0 меняется от 0 до я/2, мы получаем гомотопию,
связывающую проектор q(y, ц)Ф0 с проектором на второе сла-
слагаемое в прямой сумме Еу, 0 Ф Gy.
Чтобы воспользоваться этой гомотопией, надо сперва вы-
выбрать на X векторное расслоение Н, такое что H\ex — G(BG'
для некоторого векторного расслоения G' на дХ. Это возможно
в силу леммы 19.2.14, которая показывает, что можно взять
Н = X X С* с достаточно большим N. То же самое разложение
Н в прямую сумму будет тогда иметь место и на воротнике.
Далее, определим Рн, как в предложении 20.3.1, для случая,
когда Е, F, Е+ совпадают с Н, а Е~ отсутствует. Тогда оператор
Рн (граничных условий нет!) имеет индекс 0. Определим опера-
оператор Ро из сечений расслоения Е© Н в сечения расслоения
F&H формулой
B0.3.5) P0(u,v) = (Pu,PHv),
где и — сечение расслоения Е, а о — сечение расслоения Н, и
положим
B0.3.6) B0(utv) = Bu.
Ясно, что краевая задача (Ро, Во) эллиптична и имеет тот же
индекс, что и (Р, В). Докажем, что она гомотопна краевой
задаче вида, рассмотренного в предложении 20.3.2.
Пусть qa — проектор H-+-G, корректно определенный на во-
воротнике. Выберем невозрастающую функцию 0(*„), такую что
ф(х„)= 1 на suppG и Q(xn)= 1 в некоторой окрестности нуля, и
положим дляО<т^я/2иие С°°(Х, Е), v е= С«>(Х, Н)
р\ (ы, v) = ф ((Dnu, Dnv) + i (Л (u — 2 (cos твJ Qu — (sin 2т0) Sqav),
Ля (t> — (sin 2x8) BQu — 2 (sin тЭJ qGv)))-
Здесь S e Wphg (dX; G, E) — оператор с главным символом s и
Ан^ЧрЬхфХ; Н, #)-^оператор, главный символ которого равен
взятому с коэффициентом X тождественному отображению, а
именно оператор, который появляется в определении B0.3.1),
записанном для оператора Рн- Наконец, положим Ро равным
прямой сумме внутренних псевдодифференциальных операторов,
входящих в Р и в Рн, Р% = Р% + Ро и
Вх (u, v) = (cos т) Ви -f (sin т) qev.
При т = 0 эти определения совпадают с B0.3.5) и B0.3.6)', и
краевая задача (Рт, Вх) эллиптична для каждого т ввиду

350 20. Краевые задачи для эллиптических дифференциальных операторов
B0.3.4)'. Поэтому индекс этой задачи не зависит от т. Далее,
Р*12 (и, о) = (О„ы + /Ли, Dnv + /Ля (v - 2<?ev))
в некоторой окрестности края дХ, и
бя/2 (и, v) = qGv.
Таким образом, при х = я/2 мы получаем краевую задачу типа,
рассмотренного в предложении 20.3.2. (Когда, как это имеет
место здесь, отождествление Е с F производится с помощью
коэффициента при Dn в операторе Рь, во второй компоненте
правой части B0.3.1) меняется знак и для разложения Е®Н
= (?© G')® G на дХ мы как раз получаем Ря/гО Дальше рас-
рассуждаем, как и в конце шага 1, обрезая оператор Ря/2 и добав-
добавляя соответствующую аппроксимацию отрезанной части к внут-
внутреннему оператору. Доказательство завершено.
Замечание. Следует заметить, что на шаге 2 при построении го-
мотопии оператора Р* с оператором более простого вида исполь-
использовалось то обстоятельство, что оператор Рь возникает из неко-
некоторой эллиптической краевой задачи. Вообще говоря, для
построения такой гомотопии имеется некоторое топологическое
препятствие, поэтому эллиптические краевые задачи существуют
не для всякого эллиптического оператора Р. Предложение
20.3.3 можно, конечно, применять и в случае операторов В по-
порядка [I ф 0, умножая В слева иа какой-нибудь эллиптический
оператор на дХ порядка —ц.
Теперь рассмотрим некоторые операторы Р порядка т > 1,
весьма близкие к операторам первого порядка. Как обычно, мы
отождествляем Ех с ?<^, о> на воротнике и при помощи коэффи-
коэффициента при D" в операторе Р* отождествляем F с Е в некото-
некоторой окрестности края дХ. Пусть Л+ и Л — операторы из предло-
предложения 20.3.1, отвечающие случаю Е+ = Е, и пусть при доста-
достаточно малых хп
B0.3.7) Рьи = (Dn - A) (Dn + 1
для некоторого А е ^phg (дХ; Е, Е). Далее, предположим, что
оператор Р эллиптичен и что каждый граничный оператор 5/
допускает аналогичное разложение
B0.3.8) B,u = B,{Dn + ml
где
Предложение 20.3.4. Пусть Pb = q>(Dn — A), где функция
Ф е Со° (R) удовлетворяет условию 0 ^ ф ^ 1, равна 1 в неко-

f 20.3. Индекс эллиптических краевых задач 351
торой окрестности нуля и такова, что на ее носителе выполнено
B0.3.7). Выберем функцию феСои(- 1, 1), заключенную между
0 и I и равную 1 на supp ф. Пусть Р = Pb -f- Pl, где оператор
Р1 принадлежит W^g (Х°; Е, Е) и имеет ядро с компактным но-
носителем в Х° X Х°. Если главный символ оператора Р, помножен-
помноженный на (^A„-\- ik+)-\- i(l —$Jk)m~l, достаточно близок к глав-
главному символу оператора Р, то краевая задача (Р, В) эллипти-
эллиптическая с тем же индексом, что и (Р, В).
Доказательство. Эллиптичность оператора Р очевидна. Чтобы
доказать эллиптичность граничных условий, заметим, что если
а и 5j — главные символы операторов А и В/, то решения обык-
обыкновенного дифференциального уравнения
(Dn - а (у, ч)) (Dn + i%+ {у, r\))m~! и = 0, (у, л) е Г (дХ) \ 0,
являющиеся ограниченными на R+, по предположению биек-
биективно отображаются на ФО/ по формуле
и у-* (б, (У, п) о @) Ь, {у, л) v @)),
где v = (Dn + &+ (у, т}))т~'и удовлетворяет уравнению (Dn
— a(t/, т]))и = 0. Обратно, если v — решение последнего урав-
уравнения, ограниченное на R+, то v = (Dn + &+(у, r\))m~lu для не-
некоторого единственного и, ограниченного на R+. Таким обра-
образом, оператор (Р, В) эллиптичен. В силу предложения 20.3.1
оператор Q, задаваемый формулой
имеет индекс 0 .как оператор из #(s) в #<s-i) при s ^ 1. Поэтому
на основании следствия 19.1.7 мы заключаем, что для s^m
оператор
His)(X°, Е)
е= H(s-m)(X°, F) 8 H(s-mi-m)(дХ, О,)ф ... 8 НC-*ц-щ (дХ, О,)
имеет тот же индекс, что и (Р, 5). Отвечающие этому оператору
граничные операторы эквивалентны граничным операторам В,-.
В силу леммы 20.1.9 оператор PQm~l есть сумма компактного
оператора и оператора из нашего стандартного класса с симво-
символом, близким к символу оператора Р. Следовательно, из свойств
устойчивости индекса вытекает, что указанный выше индекс ра-
равен индексу краевой задачи (Р, В). Доказательство завершено.
Используя предложение 20.2.2, сведем, наконец, произволь-
произвольную эллиптическую краевую задачу к задаче типа, рассмотрен-
рассмотренного в предложении 20.3.4. При этом заключительном сведении
мы по-прежнему предполагаем, что Ех = Е(Х\ <» на воротнике, и

352 20. Краевые задачи для эллиптических дифференциальных операторов
отождествляем Е с F в некоторой окрестности края дХ, так что'
где Рьт является тождественным отображением, скажем, при
0 ^ хп ^ с. Определим Q, как в доказательстве предложения
20.3.4, и положим для сеченийU=(U0, ..., Um-\)расслоения Ет
W = (PUo, QmUx Qmt/m-i), ф = B,U0-
Эти формулы определяют фредгольмов оператор в наших обыч-
обычных пространствах с тем же индексом, что у (Р, В). Правда,
оператор Qm не совсем из нашего стандартного класса. Однако
его можно заменить оператором Qm, который вблизи края со-
сохраняет вид (Dn-\- iA+)m и столь мало отличается от Qm глав-
главным символом и нормой, что на индексе это никак не скажется.
Продеформируем видоизмененный таким образом оператор &о,
а также и граничные операторы так, чтобы получилась краевая
задача, удовлетворяющая предположениям предложения 20.3.4.
Для 0 ^ хп г^ с положим
Л/ = ? clkPbkFm-k s W° (дХ; Е, Е),
о
где С/а — те же постоянные, что и в B0.2.5)', a F — некоторый
параметрикс оператора Л+. Поскольку соотношения B0.2.4)',
B0.2.4)/ равносильны соотношению B0.2.5), имеем
2 }к = 6т*.
так что Ао-Ь ••• +Ат = 1. Для 0 ^ хп < с
Ръ - t A, (Dn - /Л+/ (Д, + /Л+)т"/.
о
если отвлечься от членов порядка —оо на дХ и порядка < т
по хп. Не изменяя индекса краевой задачи (Р, В), можно из-
изменить определение оператора Р так, чтобы это равенство стало
точным. Пусть функция х ^ С* (— с, с) равна 1 в некоторой
окрестности нуля и всюду заключена между 0 и 1. Определим
0*\ как блочную матрицу B0.2.6), в которой т заменено на %%,
р(г) — на Рь, С/ — на А/, Мо — на (Dn + iA+)m и М] —на
(Dn — iA+)(Dn + iA+)m-1. Как указывалось в § 20.2, коэффи-
коэффициент &\т при Dj? есть обратимая матрица и блочные элемен-
элементы обратной матрнцы представляют собой просто линейные ком-

20.3. Индекс эллиптических краевых задач 353
бинации операторов Л/. Таким образом, можно, ничего не изме-
изменяя вне supp х. положить
<?? = (^т)~'^ при 0 <*„<<?•
Поскольку там, где %(хп) = 0, этот оператор равен &>о> мы мо-
можем продолжить данное определение, положив ir^ — Pc при
хп > с. Наконец, определим i?T как сумму оператора &х и пря-
прямой суммы внутреннего псевдодифференциального члена в Р
и повторенного т— 1 раз такого же члена в Qm.
В силу предложения 20.2.2 краевая задача (^т. Я°) эллип-
эллиптична при 0 г^ 1 г^ 1. При 1 = 1 мы можем, используя B0.2.10),
выбрать операторы р; <= Wm'+l~m (дХ; Ет, Gj), такие что опера-
оператор 3§ можно для любого 0 ^ х s^ 1 заменить оператором
A - х) в,и0 + хр; (Dn + iA+)m-1 и,
так как у всех этих операторов главные части действуют на
функции, фигурирующие в определении 20.1.1, одним и тем же
образом. Следовательно, индекс краевой задачи (Р, В) равен
индексу задачи (#",, &1), а это задача типа, рассмотренного в
предложении 20.3.4, поскольку множитель (Ья + /Л+)т-1 выде-
выделяется справа как в операторе &х, так и в граничном опера-
операторе 3S1.
В заключение этого параграфа соберем вместе все шаги, тре-
требуемые для вычисления индекса эллиптической краевой задачи:
(i) Если т > 1, берем прямую сумму исходного оператора
с повторенной т — 1 раз m-й степенью оператора из предложе-
предложения 20.3.1 с Е+ = Е, а затем деформируем эту прямую сумму
к оператору и граничному условию, из которых выделяется пра-
правым множителем (т—1)-я степень такого оператора. Этот
множитель можно отбросить (предложение 20.3.4), и в резуль-
результате остается оператор первого порядка; порядок оператора В
при этом понижается до 0.
(и) При т=\, используя предложение 20.2.1, находим го-
мотопию, приводящую к системе вида B0.3.3), где Q — некото-
некоторый псевдодифференциальный проектор (проектор Кальдерона).
(Это шаг 1 доказательства предложения 20.3.3.)
(ш) Взяв прямую сумму с некоторым оператором, достав-
доставляемым предложением 20.3.1 в ситуации, когда граничные усло-
условия отсутствуют и используются те расслоения, в которых при-
принимают свои значения граничные операторы, с помощью под-
подходящей гомотопии преобразуем проектор Кальдерона в мор-
физм расслоений и аналогичным образом преобразуем гранич-
граничное условие. (Шаг 2 доказательства предложения 20.3.3.)
12 Зак. 443

954 20. Краевые задачи для эллиптических дифференциальных операторов
(iv) Теперь удваиваем многообразие (предложение 20.3.2)'
и находим индекс.
Мы избрали обратный порядок изложения, потому что при
этом каждый шаг представляется более мотивированным.
20.4. Неэллиптические краевые задачи
В «Кратком содержании главы» было указано, как, используя
решение задачи Дирихле для уравнения Лапласа, можно свести
изучение общих краевых задач для этого уравнения к изучению
псевдодифференциальных операторов на границе. Здесь мы крат-
кратко опишем соответствующую процедуру для общего случая.
Пусть X— многообразие класса С°° с краем, Е и F — два
комплексных векторных расслоения класса С°° на X и
Р: С°°(Х, ?)-+¦ С°°(Х, F)—эллиптический дифференциальный опе-
оператор порядка т. Предположим, что операторы
В,: С°°(Х, Е)-+С~(дХ, О,), j=l /,
вместе с оператором Р задают эллиптическую краевую задачу
в смысле определения 20.1.1, и пусть
Ск: C°°(X,E)^C°°(dX,Hk), ft = l К,
— некоторый другой набор граничных дифференциальных опе-
операторов, разумеется, трансверсального порядка < т. Мы хо-
хотим решить краевую задачу
B0.4.1) Pu = f в X, Cku = hk на дХ, k = l,...,K,
где f — заданное сечение расслоения F на X, a hk — заданные
сечения расслоений Hk на дХ. Допустим, что и — искомое ре-
решение, и положим
Тогда, в силу B0.1.11),
Ски = С* (/ + TPcS"y) Tf° + CkTPcSg + CkKu.
Запишем каждый оператор Ck в видеСй = С?у, где С*—диффе-
С*—дифференциальный оператор из С°°(дХ, Ет) в С°°(дХ, Нк). Тогда пре-
предыдущее равенство примет вид
<20.4.2) ClQSg = hk-Ck(l + TPcS"y) T? - CkKu,
где CkKu e С™, а все прочие члены в правой части известны.
Добавив еще один член в правую часть, можно заменить в левой
QS на S.

20.4. Неэллиптические краевые задачи 355
С другой стороны, мы можем попробовать искать решение
задачи B0.4.1) в виде B0.1.12):
и = (/ + TPcS"y) Tf° + TPcSg.
Тогда выполнено равенство B0.1.13) и
Ски = Ck (/ + TPcS''y) Tf + ClQSg.
Следовательно, решить краевую задачу B0.4.1)—это то же са-
самое, что решить задачу
B0.4.3)
f + Kit + Kig = f, ClQSg = hk-Ck(l + TPcs"y) T~f°.
Первое уравнение дает f — f^C°°(X, F), поэтому правая часть
второго уравнения по модулю С°° равна hk — Ck (I + TPcS"y) Tf.
Таким образом, изучение нашей краевой задачи по существу
сводится к изучению псевдодифференциального оператора
(CfiQS, ..., C°kQS) из сечений расслоения ©G,- в сечения рас-
расслоения ®Нк на дХ. Приведем две реализации этой идеи; через
rtij и [ik обозначаются порядки операторов В; и С*.
Теорема 20.4.1. Пусть m<. s0 ^ su Следующие свойства регу-
регулярности равносильны:
(i) если и <= НШ (Х\ Е), Ри <= Я(л_т) (Ха, F) и
CkU e Н(!ц-»к-щ{дХ, Hk), k = \, ..., К,
то и<=Нш(Х°,Е);
(И) если gt<E=H(m-.mrM2){dX, Gi) и
ClQSg e H^-^-m) (дХ, Hk), k = 1 К,
то gi e tf(so-m/-i/2) (дХ, Gj).
Доказательство. (i)=>-(ii). Пусть gj таковы, как предполагается
в (ii). Положим u*=TPcSg. Тогда и<=Я(т)(Х°, Е), Ри
еС°°(^, F) н
Cku = ClQSg e ЯE!_^-1/2) (дХ, Hk).
В силу (i) отсюда следует, что аеЯ(а)(Г, Е), а значит,
В,и е= Я(8о_т/-1/2) {дХ, Gj).
Но В/и —g, e С°° ввиду B0.1.14), поэтому gt e H^u-mt-\i2y чем
(ii) и доказано.

356 20. Краевые задачи для эллиптических дифференциальных операторов
(ii)=*-(i). Пусть и таково, как предполагается в (i). Поло-
Положим gi = BjU, / = 1 /. Тогда в силу B0.4.2)
ClQSg е= //(.,-^-i/s) (дХ, ЯД k =-= 1, ..., К,
поэтому, ввиду (ii), gi s Н^0-тгщ{дХ, G,). Из B0.1.11) выте-
вытекает теперь, что а е H{Sa)(X°, F), чем доказательство и завер-
завершено.
Тем же путем доказывается
Теорема 20.4.2. Пусть m^s0^ s\. Следующие утверждения о
существовании равносильны:
(i) для любых f <= H^-m) (X°, F) и ftfe <= Н^у-^к-щ (дХ, Нк),
k—l, ..., К, существует и е Я(8о) (Х°, Е), такое что Pu — f
eC{X,F) и Chu-hk€=C~(dX,Hh), ft=l, .... К\
(ii) 5ля любых hk^H(sx-wk-i/2){dX, Hk) существуют
gi s НC0-тпщ(дХ, Gf),
такие что C%QSg — hk(==C°°, k — l, .... /С.
Доказательство предоставим читателю. По поводу связи
между разрешимостью по модулю С°° и разрешимостью с ко-
конечномерным коядром см. теорему 26.4.2.
Примечания
Определение эллиптической краевой задачи впервые было сфор-
сформулировано, по-видимому, Лопатинским [1], но широкий класс
таких краевых задач для уравнений второго порядка изучал
еще ранее Вишик [1]. Эллиптические краевые задачи весьма
подробно исследовались в пятидесятых годах целым рядом авто-
авторов, в частности Агмоном, Дуглисом и Ниренбергом (Agmon,
DougHs, Nirenberg [1]), Агмоном (Agmon [1]), Браудером
(Browder [1]), Петре (Peetre [1, 3]), Шехтером (Schechter [1]).
Обстоятельное изложение теории было дано в книге, предше-
предшествовавшей этой. Оно было основано на методах,, примененных
нами здесь в § 17.1 и 17.3; то же относится и к изложению, дан-
данному Лионсом и Мадженесом (Lions, Magenes [1]).
Кальдерон (Calderon [3]) предложил другой подход к крае-
краевым задачам, основанный на использовании теории сингуляр-
сингулярных интегральных операторов. Этот подход был развит далее
Сили (Seeley [1]). Сходные идеи, касающиеся применения
псевдодифференциальных операторов также и к изучению неэл-

Примечания 357
липтических краевых задач для переопределенных эллиптиче-
эллиптических систем, развивались в статье Hormander [17]. В § 20.1 мы
в большой мере следуем этой статье. Обсуждение параметрикса
для проектора Кальдерона и граничного оператора (предложе-
(предложение 20.1.5) ближе, правда, к изложению, данному в работе
Grubb [1]. Также и при доказательстве теоремы 20.1.8' исполь-
использованы в частном случае классы символов, изученные Грубб
(Grubb [2]).
Проблема индекса для эллиптических краевых задач была
решена Атьей и Bottom (Atiyah, Bott [1]). При помощи после-
последовательности гомотопий главного символа, использующих за-
заданные эллиптические граничные операторы, они определили
некоторое виртуальное векторное расслоение на границе рас-
расслоения единичных шаров в Т*(Х) и наметили доказательство
того факта, что индекс исходной эллиптической краевой задачи
равен топологическому индексу для указанного виртуального
расслоения. Тем самым они свели дело к проблеме индекса на
многообразии без края, которая уже была решена. В § 20.3 мы
в принципе близко следуем рассуждениям из работы Atiyah,
Bott [1] (см. также Luke [1]). Однако эти рассуждения моди-
модифицированы так, чтобы каждый шаг допускал естественное ана-
аналитическое истолкование. Представляет интерес сравнить наше
изложение с основанным на топологической мотивации изложе-
изложением Атьи и Ботта, поэтому укажем примерное соответствие
между их пятью гомотопиями и нашими действиями:
Первая гомотопия: изменение степени в предложении 20.3.4,
использующее предложение 20.3.1 (последнее, впрочем, идет по
существу от Буте де Монвеля (Boutet de Monvel [2])).
Вторая гомотопия: предложение 20.2.2 и его применение в
конце § 20.3.
Третья и четвертая гомотопий: предложение 20.2.1 и его
применение на шаге 1 доказательства предложения 20.3.3.
Пятая гомотопия: шаг 2 доказательства предложения 20.3.3.
Еще Вишик и Эскин [1—5] установили свойства фредголь-
мовости краевых задач для эллиптических сингулярных инте-
интегральных операторов1) (см. также Eskin [1]). Буте де Мон-
вель (Boutet de Monvel [1]) ввел условие трансмиссии2) и
(Boutet de Monvel [2]) развил теорию эллиптических краевых
задач для псевдодифференциальных операторов, удовлетворяю-
удовлетворяющих этому условию, которая включала в себя и вычисление ин-
') И более общих псевдодифференциальных операторов, в том числе не
обладающих свойством трансмиссии. — Прим. ред.
2) Это свойство под другим названием было впервые введено уже в ци*
тированных работах Вишнка и Эскина. — Прим. ред.

358 20. Краевые задачи для эллиптических дифференциальных операторов
декса. Более точно, он рассматривал операторы вида
^ ^ ): С~ (X, Е) © С°° (OX, G) -* С~ (X, F) © С" @Я, Я),
где Q — псевдодифференциальный оператор на дХ, Т — «следо-
вый» оператор, К — оператор Пуассона, т. е. сопряженный к
следовому, и А, в существенном, — сумма псевдодифференци*
ального оператора вГ и произведения оператора Пуассона и
следового оператора. (Здесь мы рассматривали лишь пару
/А\
I T ).) Преимущества такой более общей постановки пробле-
проблемы — в лучшей мультипликативной структуре и лучших свойст-
свойствах симметрии относительно перехода к сопряженным. Однако
полное развитие этого подхода увело бы нас слишком далеко
в сторону. Очень подробное его изложение дано недавно Ремпе-
лем и Шульце (Rempel, Schulze [1]).
Изучение неэллиптических краевых задач было в значитель-
значительной степени мотивировано тем, что они возникают в теории
функций многих комплексных переменных (см. Kohn, Nirenberg
[1]). Относящиеся сюда результаты о граничной регулярности
для <Э-задачи Неймана доведены до высокой степени совершен-
совершенства, но выходят за рамки данной книги.

'21
Симплектическая геометрия
Краткое содержание главы
Как мы видели в § 6.4 и 18.1, главный символ (псевдо) диффе-
дифференциального оператора на С°°-многообразии X инвариантно
определен на Т*(Х)\0—кокасательном расслоении к!с уда-
удаленным нулевым сечением. Далее, при обсуждении в § 6.4 тео-
теории интегрирования для дифференциальных уравнений первого
порядка вида р(х, dq>/dx) = Q — к такого вида уравнениям от-
относится, в частности, характеристическое уравнение для (псев-
до)дифференциального оператора — выяснилась важность опре-
определенных геометрических конструкций в Т*(Х), связанных с ка-
канонической один-формой ш, записываемой в локальных коорди-
координатах как X h ^Х/, и с симплектической формой а = da> =
YjdljhdXj. Теория интегрирования для указанных уравнений
была фактически сведена к изучению содержащихся в Т*(Х)
многообразий размерности dimZ, обладающих тем свойством, что
сужение на них формы а равно 0. Маслов [1] предложил на-
называть такие многообразия лагранжевыми. Конормальные рас-
расслоения к подмногообразиям в X всегда лагранжевы. Обобще-
Обобщение теории конормальных расслоений, которое мы дадим в
гл. 25, требует хорошего описания произвольных лагранжевых
многообразий. Нам понадобится также знать, как устроены под-
подмногообразия в Т*(Х), на которых ранг формы а постоянен или
изменяется некоторым простым образом. При изучении этих во-
вопросов удобно с самого начала принять инвариантную точку
зрения.
Под симплектическим многообразием S понимается много-
многообразие с заданной на нем невырожденной два-формой <х, удов-
удовлетворяющей условию da = 0. Классическая теорема Дарбу,
которую мы доказываем в § 21.1, утверждает, что всякое симп-
лектическое многообразие 5 локально изоморфно открытому
множеству в r*(R"). Если для элементов симплектического мно-
многообразия 5 определено умножение на положительные числа
(свободное действие) и форма а однородна степени 1 относи-

360 21. Снмплектическая геометрия
тельно него, то 5 локально изоморфно открытому коническому
подмножеству в 7*(Rn)\0, причем умножению на скаляры в S
отвечает умножение на скаляры в слоях. Один-форма о» инва-
инвариантно определена на 5 и задает на S/R+ контактную струк-
структуру. Мы не будем здесь пользоваться этим термином, а будем
говорить о «конических симплектических многообразиях», что
больше подходит для приложений, которые мы имеем в виду.
Всякий диффеоморфизм, сохраняющий симплектическую
форму, называется симплектическим или каноническим. В § 21.2
мы даем локальную симплектическую классификацию (одно-
(однородных) лагранжевых многообразий, а также еще двух клас-
классов подмногообразий симплектического многообразия — инво-
лютивных и изотропных многообразий, которые можно пред-
представлять себе как многообразия, соответственно большие и
меньшие, чем лагранжевы. Кроме того, дается классификация
пар лагранжевых многообразий.
В § 21.3 мы занимаемся классификацией некоторых функ-
функций с точки зрения их поведения по отношению к симплектиче-
симплектическим преобразованиям и умножению на не обращающиеся в 0
функции. Это важно, поскольку, как мы увидим в гл. 25, такие
преобразования главного символа псевдодифференциального
оператора можно осуществить при помощи подходящего сопря-
сопряжения и умножения оператора. Эти соображения будут играть
существенную роль в гл. 26 при изучении особенностей решений.
В § 21.4, продолжая симплектическую классификацию гео-
геометрических объектов, мы изучаем симплектические преобразо-
преобразования, или, точнее, отношения, имеющие особенности типа
складки и, значит, являющиеся, вообще говоря, двузначными
соответствиями. Затем мы переходим к изучению пересекаю-
пересекающихся трансверсальных гиперповерхностей в случае, когда огра-
ограничение симплектической формы на их пересечение имеет про-
простой нуль на некотором подмногообразии коразмерности 1. До-
Доказываемый здесь результат — теорема об эквивалентности всех
пар гиперповерхностей со скользящим пересечением — важен
для более глубокого понимания смешанных задач. Однако в
этой книге мы нигде не будем опираться ни на один из резуль-
результатов, устанавливаемых в § 21.4.
Уже в § 21.1 представлена в небольших количествах симп-
лектическая линейная алгебра. В § 21.6 в продолжение этой
темы мы рассматриваем лагранжев грассманиан—многообра-
грассманиан—многообразие всех лагранжевых плоскостей в симплектическом векторном
пространстве. Главная цель этого рассмотрения состоит в изуче-
изучении расслоения плотностей и расслоения Маслова, которые бу-
будут играть фундаментальную роль в глобальном аппарате, раз-
развиваемом в гл. 25. Другой аспект симплектической линейной
алгебры обсуждается в § 21.5, где дана симплектическая клас-

21.1. Основная структура 361
сификация квадратичных форм. Это в основном подготовка к
изучению гипоэллиптических операторов, которым мы займемся
в гл. 22.
21.1. Основная структура
Симплектическая форма а = ]? d.%/ л dxi на векторном про-
пространстве T*(Rn)= {(х, I); х, geR"}—это билинейная форма,
задаваемая равенством
(см. § 6.4). Если е/ и е/ — единичные векторы вдоль осей xt и |/
соответственно, то для /, k = 1, ..., п
B1.1.1)
о (*/, е*) = а (б/, Bft) = 0, сг (ел efe) = — a (ek, е,) = 6/fe,
где б/* — символ Кронекера, равный 1 при } = k и 0 при / Ф ft.
Представим эту ситуацию в абстрактном виде:
Определение 21.1.1. Векторное пространство S над R (соотв. С)
с заданной на нем невырожденной антисимметричной билиней-
билинейной формой сг называется вещественным (соотв. комплексным)
симплектическим векторным пространством. Пусть Si и S2—¦
симплектические векторные пространства с симплектическими
формами cFi и а2. Линейная биекция Т: S\-*-Sz, удовлетворяю-
удовлетворяющая условию Т*в2 = аи т. е. такая что
называется симплектическим изоморфизмом.
Невырожденность формы а означает, конечно, что
Покажем, что каждое симплектическое векторное пространство
иад R (соотв. над С) симплектически изоморфно r*(R")
(соотв. 7"*(СП); начиная с этого места мы будем рассматривать
лишь вещественный случай, но комплексный случай может быть
разобран точно так же).
Предложение 21.1.2. Всякое конечномерное симплектическое
векторное пространство S имеет четную размерность 2« и до-
допускает линейный симплектический изоморфизм Т: S-+T*(Rn).
Доказательство. Достаточно показать, что S обладает симплек-
симплектическим базисом, т. е. базисом, который удовлетворяет усло-
условиям B1.1.1). Выберем в S произвольный элемент et Ф0. По-
Поскольку форма а невырожденна, найдется е\ е S, для которого

862 21. Симплектическая геометрия
о(еь ei)=l. Пусть Si — подпространство, натянутое на е, и ei;
оно двумерно, так как а(еи ei) = 0. Поэтому подпространство
в S имеет коразмерность 2 и является дополнительным к Si.
Действительно, если y^-SoR-Si, то у — х\в\ + 1\е{ и
О —<t(y, ej) = —*i, 0 = a(y,el) = ll.
Далее, So тоже симплектическое векторное пространство, ибо
если y<= So и а (у, 50) = 0, то а (у, S) = 0, так как а (у, Si) = O
по определению So. Предполагая, что предложение уже дока-
доказано для симплектических векторных пространств размерности
<dimS, мы можем выбрать симплектический базис ег, е2) ...
. •., еп, еп для SQ и тем самым получить симплектический базис
еь ей • • •. ?п, е« Для 5. Доказательство завершено.
Неполный симплектический базис всегда можно расширить
до полного:
Предложение 21.1.3. Пусть S — симплектическое векторное про-
пространство размерности 2га и Л, В — два подмножества множе-
множества {1, ..., л}. Для любых наборов {е/}fsA, {ek}keB линейно
независимых векторов в S, удовлетворяющих B1.1.1), можно
подобрать {е/}/ ^ А, {e*}fe ^ в так, чтобы получился полный симп-
симплектический базис в S.
Доказательство. Пусть, например, J^B\A. Выберем ej = e
так, чтобы
a{e,ej) = 0 при /<=Л и а(е, вк) — — бу,k при АеВ;
это возможно, поскольку система векторов {e,}lmA, {e*}fteB ли-
линейно независима и форма а невырожденна. Если
хе+Т, xjel + ? lkek = 0,
то симплектическое скалярное произведение вектора в левой
части этого равенства на вектор е/ (т. е. значение формы а на
этой паре векторов) равно 0 и, следовательно, х = 0. Отсюда
вытекает, что дг;- = ?* = 0, так что для расширенной системы,
полученной добавлением вектора ej, сохраняется свойство ли-
линейной независимости. То же рассуждение применимо и в слу-
случае, когда разность А\В непуста. Наконец, если А = В
Ф{\,...,п} и S\ — подпространство, натянутое на {е;}/еД
и {е/}/ед, то, как и в доказательстве предложения 21.1.2, мы
находим, что подпространство

21.1. Основная структура 363
является дополнительным к Si и симплектическим, и, выбрав
какой-либо симплектический базис в So, мы завершаем доказа-
доказательство.
Система координат {х, Ъ) = (хи ..., х„, |i, .... 1„) в S на-
называется симплектической, если она задает симплектический
изоморфизм S-*-7"*(R"). Для симплектических координат спра-
справедлив результат о расширении, аналогичный предложению
21.1.3. Чтобы доказать это утверждение, заметим, что если L —
элемент из пространства S', двойственного к S, т. е. линейная
форма на S, то существует единственный вектор HL e S, такой
что
/65.
Он называется гамильтоновым вектором, отвечающим линейной
форме L. Отображение S' э Li—>> #l e S является изоморфиз-
изоморфизмом, и формула
определяет некоторую симплектическую форму на S'. Оиа на-
называется скобкой Пуассона. В случае S = 7"*(Rn), как показы-
показывает очевидное вычисление, уже проведенное в § 6.4,
tlL~L,d\idxi 2-,дх
L dV dL dL'
f dXj dx,
Координаты к, i в Г*(К") удовлетворяют так называемым ком-
коммутационным соотношениям
B1.1.1)'
\х,, хк} = О, {I,, U} = О, {I,, хк} = — {xk, I,} = 5/ft.
Применение предложения 21.1.3 к S' показывает теперь, что
всякую систему линейно независимых форм на S, удовлетво-
удовлетворяющих B1.1.1)', можно расширить до полной системы коорди-
координат в S, удовлетворяющей соотношениям B1.1.1)'. Но эти со-
соотношения означают в точности то, что координаты х, | опреде-
определяют симплектический изоморфизм S->-7'*(Rn).
Мы продолжим это краткое введение в симплектическую ли-
линейную алгебру в § 21.2, а сейчас перейдем к аналогам введен-
введенных выше определений и результатов для многообразий.
Определение 21.1.4. Всякое С°°-многообразие S с заданной иа
нем невырожденной замкнутой два-формой о класса С°° назы-
называется симплектическим многообразием. Если Si, S2 — симп-
лектические многообразия с симплектическими формами <гь <т2.

364 21. Симплектическая геометрия
то всякий диффеоморфизм %: Si-*-Si, такой что %*о2 = аи на-
называется симплектоморфизмом или каноническим преобразо-
преобразованием.
Примером симплектического многообразия служит Т*{Х) для
любого С°°-многообразия X. Если У —другое О-многообразие
и х: X-*-Y— диффеоморфизм, то
Г (X) э (х, I) -* (и (х), V (х)-11) е Г (Y)
— симплектоморфизм. Это просто другой способ выражения
того факта, что симплектическая структура на Т*(Х) определена
инвариантно.
Наша следующая цель — доказать, что каждое симплектиче-
ское многообразие локально симплектоморфно T*(Rn). Однако
прежде чем приступить к этому, необходимо сделать некоторые
важные предварительные замечания, касающиеся симплектиче-
ской структуры. Симплектическая форма превращает касатель-
касательное пространство Ty(S) к симплектическому многообразию S
в любой точке уе5в симплектическое векторное пространство,
поэтому, согласно предложению 21.1.2, S имеет четную размер-
размерность In. Если /еС*E), k~^s 1, то df(y) есть линейная форма
на Ty(S), которая определяет некоторый гамильтонов вектор
#f(y). Рассматривая ситуацию в локальных координатах, сразу
видим, что Hf — векторное поле класса С*-1 на S. Оно назы-
называется гамильтоновым векторным полем, отвечающим (или по-
порожденным) f. Скобка Пуассона функций f, g e С*, как и в ли-
линейном случае, определяется равенством
Чтобы выразить условие do = Q в терминах скобок Пуассона,.
нам понадобится следующая
Лемма 21.1.5. Для любой два-формы ш класса С1 на С3-много-
образии М и любых трех векторных полей X, Y, Z класса С1
на М
B1.1.2) (XaYaZ, d&)
- <IX, Y] л Z, со) - ([Y, Z) л X, со) - <[Z, X] л Y, со),
где использовано обозначение [X, Y] = XY—YX.
Доказательство. Обе части доказываемого равенства линейны
по X, Y, Z, со. Если заменить X на fX, f e С1, то обе они умно-

21.1. Основная структура 368
жатся на f, поскольку
Y} = f{X,Y]-(Yf)X,
Y,v>)
+ (Yf) (X л Z, со) - (Z/) (X л Y, ©) = 0.
Аналогичное замечание относится и к У и Z. Поэтому доста-
достаточно установить B1.1.2) для случая, когда М —некоторая
окрестность нуля в RN, X, Y, Z — постоянные векторные поля и
<u — fidf2Adf3, где fi е С1, а /2, /3 — координатные функции.
В этом случае левая часть B1.1.2) есть определитель матрицы
со строками (X(f/), Y(fi), Z(ft)), /=1, 2, 3, а правая — разло-
разложение этого определителя по первой строке.
Применим теперь B1.1.2) к симплектическому многообра-
многообразию S, взяв a> — e,X = Hf, Y = Hs, Z~ Hh, где /, g, A e C2{S).
Имеем
(HgAHh, o) = o(Hg, Hh) = {g,h} = Hgh,
([Hf, Hg]AHh, o) = (HfHg-HgHf)h = {f, {g, h}}~{g, {f, h}},
поэтому правая часть B1.1.2) принимает вид
A - 2)({f, {g, h}} + {g, {h, f}} + {A, {f, g}}).
Таким образом, фундаментальное тождество Якоби
B1.1.3) {f, {g, h}} + {g, {h, f}} + {h, {f, g}} = 0, Ug,h^<? (S),
следует из предположения da = 0 и в действительности равно-
равносильно ему. Заменяя в тождестве Якрби последний член на
— {{/, g}, h), мы можем переписать это тождество в виде
B1.1.3)' H{f,e) = [HhHe].
Это показывает, что левая часть B1.1.3) в любом случае опре-
определяет дифференциальный оператор первого порядка по А, и
аналогично по f и по g. Следовательно, для S — T*(Rn) мы
могли бы доказать тождество B1.1.3), заметив, что достаточно
проверить его для случая, когда f,g,h — координатные функ-
функции, а тогда оно верно очевидным образом, потому что скобка
Пуассона любых двух координатных функций есть константа,
так что взятие второй скобки Пуассона все три раза дает нуль.
Однако, как уже подчеркивалось, в нашей общей ситуации тож-
тождество Якоби выражает предположение, что do — 0.
Теперь мы готовы к тому, чтобы доказать, что всякое сим-
плектическое многообразие локально симплектоморфно T*(Rn).
Для начала заметим, что если ср: Si->52 — симплектомор-
физм, то
B1.1.4) <р*{/, g) = {q>7, Ф'?}, f.gsC2(S2).

366 21. Симплектнческая геометрия
Действительно, если с помощью ф отождествить Si и 5г, то эта
формула просто утверждает, что скобка Пуассона определяется
¦симплектической формой. Обратно, из B1.1.4) следует, что ф*а2
и oi определяют одну и ту же скобку Пуассона, а значит, ф*ст2
= <ть т. е. ф симплектично. Разумеется, достаточно, чтобы
B1.1.4) выполнялось для системы координатных функций. По-
Поэтому определить локальный симплектоморфизм из S в 74*(R") —
это значит выбрать локальные координаты, удовлетворяющие
условиям B1.1.1)'.
Теорема 21.1.6. Пусть S—симплектическое многообразие раз-
размерности 2га и А, В — два подмножества множества {1, ..., га}.
Если q,-, /sA, и р*, *еб, — функции класса С°° в некоторой
окрестности заданной точки у0^S с линейно независимыми
дифференциалами, удовлетворяющие коммутационным соотно-
соотношениям
{<//. <7/} = 0, 1,/еД {Pi, P*} = 0, i,ks=B,
* ' {р*. <//} = */», ks=B, /еЛ,
то вблизи точки Yo найдутся локальные координаты х, |, удов-
удовлетворяющие B1.1.1)', такие что Xj=^qt при )'еЛ и %k — Pk
при JgS.
В частности, если отправляться от пустых множеств Л и В,
теорема утверждает, что некоторая окрестность всякой точки
Yo из S симплектоморфна открытому множеству в T*(R"). Это
утверждение известно как теорема Дарбу.
Доказательство. Положим X) = q/ при / е А и |* = pk при
АеВ. Применение предложения 21.1.3 к касательному про-
пространству в точке yo показывает, что эти функции можно допол-
дополнить до локальной системы координат, удовлетворяющей соот-
соотношениям B1.1.1)' в точке Yo- Поэтому без ограничения общ-
общности можно считать, что S a R2n есть окрестность точки yo = О,
qj = Xj при /еЛ и pk = \k при SeB; кроме того, в нуле вы-
выполнены соотношения B1.1.1)', откуда следует, что в нуле
Hq. = — д/дЬ,/ и HPk = d/dxk. Пусть теперь, скажем, J фА. Тогда
найдется функция qi = q с dq = dxj в 0, удовлетворяющая диф-
дифференциальным уравнениям
HQlq={q,,q} = 0, Ie A,
В самом деле, в силу тождества Якоби B1.1.3)' и коммутацион-
коммутационных соотношений B1.1.1)" векторные поля Hq и НPk все ком-
коммутируют, ибо скобки Пуассона {^/, pt), ¦-. суть константы.

21.1. Основная структура 367
Поэтому из теоремы Фробениуса (см. добавление С, следствие
С. 1.2) вытекает, что система B1.1.5) имеет вблизи нуляС°°-ре-
шение q, удовлетворяющее условию
q(x,i) = x, при |/ = 0, /еЛ, xk = 0, ftefi;
действительно, мы знаем, что гамильтоновы векторы Hq , HPk
в точке 0 линейно независимы и порождают подпространство
касательного пространства к 5 в 0, дополнительное к плоскости,
касательной в 0 к подмногообразию, задаваемому равенствами
|,=0, /<=Л, Xk = 0, fteS. В точке 0 мы имеем dq = dxj, так
как соотношения B1.1.1)' там уже выполнены. Следовательно,
мы можем заменить А на A U {/} с qi = q. Продолжая подоб-
подобным образом, получим полный набор симплектических коор-
координат.
Замечание. То что тождество Якоби играет важную роль в до-
доказательстве, совершенно естественно, потому что при da Ф О
теорема неверна. Таким образом, тождество Якоби работает
8десь в полную силу.
В симплектических локальных координатах а = ? d\i л dxlt
а значит,
ап = га! d%x л dxx л ... л dln л dxn,
поскольку два-формы коммутируют. Следовательно, ап/п\ есть
форма объема, с помощью которой можно ориентировать 5, а
также отождествить расслоение а-плотностей Q" на S с три-
тривиальным расслоением. Действительно, если if: Si->-S2 — симп-
лектоморфизм, то ¦ф*ст?/и! = ст5>/и!, поэтому якобиан симплекти-
ческой замены переменных равен 1. Таким образом, при исполь-
использовании симплектических координат можно отождествлять се-
сечения расслоения Qa с определяющими их функциями.
Заметим, далее, что невырожденность формы а в точке
^eS равносильна тому, что а"Ф0 в у (если dimS = 2га). Дей-
Действительно, доказательство предложения 21.1.2 показывает, что
и без предположения о невырожденности а всегда можно найти
локальные координаты х, I, такие что
k
а = ? dlj л dx, в у;
просто построение само собой оборвется, когда будут получены
такие начальные векторы е\, г\, .... ек, е* симплектического
базиса, что форма а окажется равной 0 в плоскости, ортогональ-
ортогональной к этим векторам относительно а. Аналогичным образом это
верно и для пространств нечетной размерности. Значит, в точке

368 21. Симплектическая геометрия
у мы имеем а* = k\ dlt л dxx л ... л d%k л d*ft =/= 0, а ак+х = 0.
Итак, ранг формы а равен 2k, где k— наибольшее целое число,
для которого акФ0 в у.
В § 21.4 мы встретимся с вырожденными симплектическими
структурами, для которых справедлив некий аналог теоремы
Дарбу. Эти структуры будут иметь вид, рассматриваемый в сле-
следующей теореме, которая нам, правда, не понадобится, по-
поскольку в ситуации § 21.4 имеется дополнительная, упрощаю-
упрощающая дело структура. .
Теорема 21.1.7. Пусть S — многообразие класса С°° размерности
In и а — замкнутая два-форма на S. Предположим, что ап = та,
где со — нигде не равная нулю 2п-форма, am — функция, такая
что m — 0, dm ф 0 в некоторой точке у0 е S. Предположим, да-
далее, что ограничение формы а" на поверхность So = mrl @) не
равно 0 в ye. Тогда в окрестности точки у0 можно выбрать такие
локальные координаты х, ?, что
и
а — i, d\x л dxx + X d\, л dx,.
2
Таким образом, мы имели бы обычную симплектическую
форму, если бы могли взять %\J2 в качестве новой локальной
координаты вместо %\. Это, конечно, недопустимо, поскольку при
этом отождествлялись бы точки с противоположными знаками
координаты gi и изменилась бы дифференцируемая структура
в точках с gi = 0.
Доказательство. Произведем сначала предварительный выбор
локальных координат так, чтобы точка у0 имела нулевые коор-
координаты и m = li. Если обозначить через j отображение включе-
включения поверхности So, на которой gx = 0, в S, то форма в\ = i*a
имеет по предположению ранг 2« — 2, поэтому радикал
{/ е Ту (So); a, (t, f) = 0 Vf е Ту (So)}
представляет собой прямую в TySo для каждой точки у е So,
близкой к Yo- Следовательно, локально мы можем выбрать не-
ненулевое векторное поле класса С°°, состоящее из векторов, при-
принадлежащих этим радикалам. Выбирая новые координаты так,
чтобы интегральные кривые этого векторного поля стали парал-
параллельны оси хи имеем
с,= ? a,k dxt л dxk + ^ lL<kbikdl,Adlk+ X ^ c,kdx, л d%k.
Так как da{ — 0, ни один коэффициент здесь не может зависеть
от х\, ибо иначе при вычислении da\ появились бы члены, содер-
содержащие dx\, которым не с чем взаимно уничтожиться. Значит,

21.1. Основная структура 369
по теореме Дарбу, найдутся новые координаты х2, h> • • •. хп, |я,
такие что
п
°\= Ya d\i Л dx,.
2 ' '
Отсюда следует, что
п
о = dti л i|) + 2j ^6/ Л ^ДГ/ при li = О,
2
где
¦=•!*,(*, бо </*/+?*,(*, бо*6/.
2 2
Здесь мы положили i' = (i2, •••, ln)- Таким образом,
— ^/li) "f" ai d\\ Л cfjC] при I] = 0.
2
Заменим для /> 1 координаты g,- и xt на |/ + a/ii и */—&/?i и
заметим, что ai=0, ибо о" = 0 при gi = 0.
Форма а приведена теперь к виду
fiZt{ где 9 = 0О +rf|, лф +О (Ю,
2
причем форма 80 не содержит ни gi, ни d\\. Далее,
Ф = Z А, (х, Г) dx, + ?,В, (х, Ю
Следовательно,
Взяв ^ + А{Щ2 HXj — В/Щ/2 в качестве новых координат,
получаем
= |, (Л, d?, Л rfx, + 90) + О (|?) + t dl, л
a =
t
Поскольку da — 0, имеем при ?i = О
а значит, 0о = О, ибо в эту форму не входят ни |ь ни d%\. Таким
образом,
ап = /г!Л1|1 d?, л d*i л ... л d\n Adxn + O (??),

370 21. Симплектическая геометрия
поэтому, в силу нашего предположения, АхФО при gi = 0. Из-
Изменив, если надо, знак у координаты хи можно считать, что
Л1>0. Если теперь взять ^Л}'2 в качестве новой координаты
вместо gu то мы получим
п
а = аа + Що2, где aQ = |, <ЦХ Л dx, -f T, <%>i Л d*/,
a (i2 — некоторая гладкая два-форма. Повторив то же рассуж-
рассуждение еще раз (предоставим проделать это читателю), прихо-
приходим к координатам, в которых о = о0-{-Щв3, где стз снова —
гладкая два-форма.
Если /sC°°, то при \\ФО определено гамильтоново век-
векторное поле Н[ относительно формы а. Относительно формы а<>
мы получаем гамильтоново векторное поле
— %(Ё й t-Лл- YCJL-Ё.
—Sl \dh дх: ах, dtJ'rLl\d$i dxf
что очевидно, если использовать Щ/2 в качестве одной из новых
координат. Далее, можно записать
|,аз(Л Hf) = a0(t,THf),
где Т — некоторое линейное преобразование пространства R2"
с гладкими коэффициентами. Следовательно,
%(*> (' + ^)#f) = a(*, Я,) = </, df) = a'(t, Щ),
откуда вытекает, что Hf — A + ЦТ)~1 Щ. Таким образом,
Hf — H°t = tiRf, гДе Rf гладко.
Близко следуя доказательству теоремы 21.1.6, мы выберем
сейчас локальные координатные функции qu ..., qn, p\, ..., рп,
такие что
a = pldp1Adq1 + dp2Adq2+ ... +dpn/\dqn,
т. е. выберем их так, чтобы выполнялись коммутационные соот-
соотношения
PiHP,P/ = P\HpAi = 0, / > 1,
HptPk = Hqflk = 0, Hpflk = 5/ъ /, к > 1,
P\Hpfl\ — 1, Hp.qx = Hqflx = 0, / > 1.
Положим р\ — \\ и затем выберем в произвольном порядке
Р2, •••» Рп, qi, •••> Чп (отложив выбор q\ на самый конец). Мы
утверждаем, что этот выбор можно произвести единственным

' 21.1. Основная структура 371
образом при наложении точно таких же граничных условий, как
и в доказательстве теоремы 21.1.6, и что р/ = g/, qi = Xj при
gi = 0 для всех /. Предположим, что это уже доказано для не-
некоторого числа координат и предстоит выполнить очередной шаг
построения. Нам надо найти следующую координату, которая
прежде всего должна удовлетворять дифференциальному урав-
уравнению
Этому уравнению удовлетворяют и все другие уже выбранные
координатные функции f, так что d2f/dxxd\i = 0 при gi =0. Сле-
Следовательно,
где f0 и f\ не зависят от jci и |ь и
Hf = Hf. + Pl {Hu + PlHh) + (/, + 2pJ2) HPl.
Уравнение HfU = c можно теперь заменить уравнением
из которого следует, что Щи = с при ^ = 0. Это не сказывается
на выполнении условия Фробениуса при ii^O, а тогда оно
будет выполняться и при |i=0 по соображениям линейной не-
независимости. Следовательно, решение и строится как и прежде,
и, поскольку наши старые координаты удовлетворяют требуе-
требуемым уравнениям при ^=0, условия р,- = |;, qj = Xj при ?i=0
сохраняются при каждом очередном выборе новой координатной
функции. Таким образом, построение можно продолжать, пока
мы не получим нужную систему локальных координат.
Определение симплектического многообразия было мотиви-
мотивировано свойствами кокасательного расслоения Т*(Х), но значи-
значительная часть структуры Т*(Х) в этом определении опущена:
Т*(Х) является также векторным расслоением, и симплектиче-
ская форма равна 0 на его слоях. Для случая Т*(Х) мы имеем
даже o = dft>, где <о — некоторая один-форма, тоже равная 0 на
слоях. Форму © можно восстановить по о, замечая, что для про-
произвольного касательного векторного поля т
ст(р, т) = ш(т),
где р — радиальное векторное поле, задаваемое в локальных
координатах формулой р = 2 ?/<Э/<Э?/. Инвариантно оно опре-
определяется равенством

372 21. Симплектическая геометрия
где Mt — оператор умножения на вещественное число ( в слоях'
расслоения Т*(Х), т. е. Mt(x, ?) = (*, /|). Отметим, qTO M'ta
= to. Хотя мы будем продолжать игнорировать значительную
часть структуры векторного расслоения на Т* (X), это умноже-
умножение будет играть важную роль в наших приложениях, поэтому
введем соответствующую терминологию:
Определение 21.1.8. С°°-многообразие 5 размерности N назы-
называется коническим, если
(i) задано О-отображение М: R+X5->5; мы пишем Mt(y)
= MJ/,v),/eR+?eS;
(ii) для каждой точки у е 5 существуют открытая окрест-
окрестность V этой точки, удовлетворяющая условию M(R+X V)— V,
и диффеоморфизм ф: К->Г, где Г — открытый конус в R^XO
(с вершиной в 0), такие что
при />0.
Под коническим симплектическим многообразием мы будем по-
понимать коническое многообразие, которое одновременно явля-
является симплектическим и для которого Mto = te, где а — симп-
симплектическая форма.
Отметим, что из данного определения следует, что MtMf =
Mtt,, поскольку это верно в R*\0. Следовательно, наше
предположение состоит в том, что на S задано свободное дейст-
действие мультипликативной группы R+. Примером конического
симплектического многообразия служит Т*(Х)\0 — кокасатель-
ное расслоение к А" с удаленным нулевым сечением. Требуемые
определением отображения в R2n\0 задаются в локальных ко-
координатах формулой (jc, ?)t—*•(¦*!5|» ?)'• Докажем, что для вся-
всякого конического симплектического многообразия существует
однородный степени 1 локальный симплектоморфизм ф этого
многообразия на открытое коническое подмножество в
r*(R") \0; указанная однородность означает, конечно, что ф
коммутирует с умножением на положительные числа, как в
пункте (ii) определения 21.1.8. Однако сперва мы должны сде-
сделать несколько замечаний по поводу этого определения.
Прежде всего заметим, что на всяком коническом многооб-
многообразии можно определить радиальное векторное поле р равен-
равенством
В обозначениях определения 21.1.8 мы имеем <р,р=^, У/д/ду/,
действительно, для всех F е С1 (RN)

21.1. Основная структура 373
Из приведенного определения радиального векторного поля
сразу следует, что если функция / однородна степени \i, т. е.
M*tf = tflf, то р/= ц/ (тождество Эйлера для однородных функ-
функций). Обратно, всякое решение этого уравнения в подходящей
окрестности V данной точки многообразия 5 можно однозначно
продолжить до функции, однородной степени ц в конической
окрестности той же точки, порожденной V. Это совсем очевидно
в случае, когда 5 с: R", а окрестность V выпукла.
Пусть теперь S — коническое симплектическое многообра-
многообразие. Из условия Mto = to вытекает, что
B1.1.6) tM]{f, u} = {M]f, M\u) для f, usC'(S).
Чтобы доказать это, возьмем какую-нибудь функцию Т со зна-
значениями в R+, положительно-однородную степени 1, и положим
CTi = о/Т. Тогда M"to[ = (o/tT = <r,, поэтому для скобки Пуассо-
Пуассона, отвечающей форме сть мы имеем B1.1.4) с ф, замененным
на Mt. Это означает, что
M't(T{f,u}) = T{M]f, М]и),
откуда и следует B1.1.6). Дифференцируя B1.1.6) по / при
t = 1, получаем
B1.1.6)' {f, и} + р {/, и} = {р/, и) + {f, pu},
т. е.
B1.1.6)" Hf + [p,Hf] = HQf.
В частности, если функция f однородна степени ц, то
B1.1.6)'" [Hf, р] = A-ц)Я,.
Докажем теперь модификацию теоремы 21.1.6, в которой учи-
учитывается то обстоятельство, что локальные координаты х, \ в
кокасательном расслоении однородны степеней 0 и 1 соответ-
соответственно.
Теорема 21.1.9. Пусть S — коническое симплектическое много-
многообразие размерности In, А и В — два подмножества множества
A, .... л} и <7/, /еД, pk, fee В, — функции класса С°° в неко-
некоторой конической окрестности данной точки ysS, удовлетво-
удовлетворяющие следующим условиям:
(i) q/ и Pk однородны степеней 0 и 1 соответственно;
(ii) выполнены коммутационные соотношения B1.1.1)";
(iii) гамильтоновы векторные поля Hq, tfPfe, j^A, 4eB,
и радиальное векторное поле р линейно независимы в точке у.

374 21. Симплектическая геометрия
Пусть, далее, а.\ ап, Ьх Ьп — произвольные веществен.'
ные числа, такие что
(iv) qj(y) = al при je= A, pk(y) = bk при fee В,
и, кроме того, Ь;ФО для некоторого ]фА. Тогда в некоторой
конической окрестности точки у найдутся С°°-функции qh }фА,
и рк, кфВ, для которых условия (i), (ii) и (iv) остаются вер-
верными, когда индексы пробегают все значения от 1 до п, а усло-
условие (iii) остается верным, когда допускаются все значения ин-
индексов, кроме / = /. В частности, функции q, p задают однород-
однородный симплектоморфизм конической окрестности точки у в S на
коническую окрестность точки (a, b)^T*(Rn)\Q.
Заметим, q-ro, отправляясь, в частности, от пустых множеств
А к В, мы приходим к заключению, что всякое коническое
симплектическое многообразие локально изоморфно 7*(Rn)\0.
Задание значений <7/(?) на самом деле не очень существенно,
поскольку к функциям <7/ всегда можно добавить константы, не
нарушая условий (i) — (iii). Из (i) следует, что
<х(р, ЯG/) = 0, or(p, HPk) = pk.
Так как a(Hq., Hq) = 0 для с, j^A, симплектическая форма
равна 0 в плоскости, натянутой на Hq., /еДи р, так что эта
плоскость, в силу предложения 21.1.3, должна быть размер-
размерности ^ п. Поэтому из (iii) вытекает, что А может содержать
самое большее п — 1 элементов. Для расширенной системы q, p
мы должны иметь
где —с/ = <р, dpi) = р,-. Отсюда следует, что если выполнено
(iii), то заключение теоремы может быть справедливым лишь
при условии, что Ь/фО для некоторого \фА.
Доказательство теоремы 21.1.9. Достаточно построить в некото-
некоторой окрестности точки у функции q,-, pk, удовлетворяющие тре-
требуемым условиям с (i), замененным на
(i)' p<7, = 0,
поскольку тогда эти функции можно продолжить до однородных
функций, определенных в некоторой конической окрестности
точки у. По предположению гамильтоновы векторы el = — Hl>j (у),
ek=HPk(y) из симплектического векторного пространства
W = Ty(S) удовлетворяют условиям
0)', (iv) ог(р, е/) = 0 при /е=Д, ст(р, ek) = bk при JeB;

21.1. Основная структура 375
(ii) a'(et, е/) = 0 при i, ]<=A, a(et, ek) = 0 при i, ieB,
!t ек) = б!к при /еЛ, 4еВ;
(iii) e/, / e Л, e*, k e ?, и р линейно независимы.
В качестве первого шага покажем, что можно выбрать е,,
А\} {]}, и е*, кф.В, так, чтобы не нарушить этих условий.
Это задача из чистой линейной алгебры, и мы решим ее, рас-
рассмотрев по отдельности ряд случаев.
a) Если k е А\В, то выберем е = е*, удовлетворяющее ра-
равенствам
о(р, е) = Ьк; о(е{, е) = 0 при /ей; ст(еЛ е) = б/й при |еЛ.
Это возможно, так как форма о невырожденна и выполнено
(iii). Поскольку о(е&, е)фО, а вектор е* симплектически орто-
ортогонален к векторам р, е/, }^А, и ег, !еВ, от добавления век-
вектора 6^ к нашей системе ее линейная независимость не нару-
нарушится.
b) Если k e A f] В, то рассмотрим разложение в прямую сум-
сумму W = Wo © Wi, где Wj — подпространство, натянутое на е* и
Bk, а Й7О—подпространство, симплектически ортогональное к
ек и е*. Соответственно вектор р разложится в сумму р = ро + ри
и те же самые условия будут выполнены для р! и остальных
векторов е<, е,- (из Wo). Наше утверждение следует поэтому из
утверждения для случая меньшей размерности.
c) Если А пусто и k ф. В, то нам надо выбрать е = ek так,
чтобы
о(р, ё) — Ьк, а(е„е) = 0 при /еВ.
Решения этих уравнений образуют аффинное подпространство
размерности 2л — |В|—1, где |В| — число элементов множе-
множества В. Это аффинное подпространство должно содержать хотя
бы один элемент, лежащий вне плоскости, натянутой на р и
е<, isB, за исключением случая, когда \В\ = п—1 и все эле-
элементы этой плоскости удовлетворяют написанным выше урав-
уравнениям. Но этот случай невозможен, поскольку тогда
для всех i e В, вопреки предположению, что некоторое Ь, от-
отлично от 0, которое сохраняется при редукции, проведенной в
случае Ь).
d) Если В= {1, ..., п}, п> 1, и А пусто, то мы выберем
для какого-нибудь / ф J такое е = е/, что
а(р, е) = 0, о(еА, е) = —б/ft при k=l, ..., п.

376 21. Симплектнческая геометрия
Предположим, что выполняется соотношение линейной зави-
зависимости
п
Тогда
fyft = о (е, ек) = ест (р, ек) = cbk.
Взяв fe = /, находим, что сфО. Полагая затем k = J, приходим
к противоречию, поскольку bi ф 0. Итак, линейная независи-
независимость нашей системы автоматически сохраняется.
Комбинация описанных выше шагов позволяет построить все
е;- с ]Ф1 и все вк, а затем мы выбираем ej так, чтобы не нару-
нарушить условий (i)', (ii) и (iv). Остается модифицировать полу-
полученное инфинитезимальное решение, с тем чтобы построить на-
настоящие координатные функции. Сделаем это. Начнем с того,
что выберем локальные симплектические координаты в окрест-
окрестности точки у так, чтобы х-, = щ при /е/1, \к = pk при k e В и
Hxl(v) = — el, Hik(y) = ek при всех /, k. Тогда
Р = Z Ijd/dl, + р,, где Pi = ? fjd/dlf + 2 gkd/dxk,
причем коэффициенты поля pt не зависят от |/, /еЛ, и д:^,
JeB, поскольку, в силу B1.1.6)'", для указанных / и k
[д/dl,, Pl] = - [Я,., р] - djdl, = ~Hqj + Hqj = 0,
[д/дхк, Pl] = [ЯРА, р] = 0.
Выбрать новую координатную функцию, скажем и = рк, Кф.В,
значит найти решение уравнений
du/dli~6lK, je=A, du/dxk = 0, k<~B, pu = u.
Если положить и = |к + v, то из этих уравнений следует, что
v не зависит от g/ и хк для указанных /, k и
- p2i> -1> = lK —
где р2 получается из pj отбрасыванием членов с d/dt,s, /еЛ, и
д/dxk, 4еВ. Таким образом, для v мы имеем дифференциаль-
дифференциальное уравнение по остальным переменным, причем рг=й=О ввиду
(Ш). Следовательно, это уравнение можно решить при произ-
произвольно заданных начальных значениях на любой поверхности
в подпространстве переменных ?,-, ']ф-А, xk, кф.В, проходящей
через точку у и трансверсальной к полю р2. Поэтому мы можем
в точке 7 придать du любое значение, совместимое с нашими
уравнениями, в частности можем взять du = rf|K в у. Построение
координатной функции qit jф.А\) {J}, совершенно аналогично.

21.1. Основная структура 377
Наконец, когда все />* и все qt с ]Ф1 уже известны, мы полу-
получаем <7л решая соответствующее обыкновенное дифференциаль-
дифференциальное уравнение по \,. Доказательство завершено.
Координаты, построенные в теореме 21.1.9, задают однород-
однородный локальный симплектоморфизм многообразия S в кокаса-
тельное расслоение 7*(R"). На этом последнем радиальное
векторное поле р есть гамильтоново поле, отвечающее один-
форме ш= XS/d*/, которая тем самым инвариантно определена
на любом коническом симплектическом многообразии. Действи-
Действительно, для всякого касательного вектора t мы имеем &(t)
= а(р, t). Далее, dft> = cr, поскольку это верно для 7*(R")\0;
поэтому симплектическая форма на коническом симплектиче-
симплектическом многообразии всегда точна. Условие (iii) теоремы 21.1.9
часто формулируют в таком эквивалентном виде: формы dqlT
j e A, dpk, k e В, и <о линейно независимы в точке V-
У теоремы 21.1.7 также имеется однородный вариант, кото-
который мы для полноты и приведем; в этой книге он нигде исполь-
использоваться не будет.
Теорема 21.1.10. Пусть S — коническое многообразие размер-
размерности 2л с заданной на нем два-формой о, удовлетворяющей
предположениям теоремы 21.1.7, однородной степени 1 и такой,
что радиальный вектор р(у0) не принадлежит радикалу огра-
ограничения формы о на So. Тогда в некоторой конической окрест-
окрестности точки у0 можно так выбрать координаты li, ..., ?п, пер-
первая из которых однородна степени 1/2, а остальные однородны
степени 1, и хи ..., хп, однородные степени 0, что координатами
точки Yo будут х = 0, ? = е„, а симплектическая форма запи-
запишется в виде
п
а = |, dli л dxx -f X d\f Л dx,.
2
Доказательство. В доказательстве теоремы 21.1.7 совсем немно-
немногое нуждается в изменениях, поэтому мы ограничимся тем, что
кратко повторим его с соответствующими замечаниями. Поверх-
Поверхность So, определенная условием m = 0, очевидно, коническая.
По предположению радикал два-формы а\ в 5о отличен от пря-
прямой, порожденной радиальным векторным полем, значит, мож-
можно выбрать проходящую через yo коническую гиперповерхность
5i с: So, трансверсальную к указанному радикалу. Следова-
Следовательно, ограничение формы а\ на S\ невырожденно и задает на
S! структуру конического симплектического многообразия. По-
Поэтому, в силу теоремы 21.1.9, можно выбрать в Si однородные
симплектические координаты х2, ..., х„, %2, ..., In, такие что-
в точке yo координата |„ равна 1, а остальные равны 0. Продол-

378 21. Симилектнческая геометрия
жим эти координатные функции на некоторую коническую
окрестность гиперповерхности Si в SQ так, чтобы они были по-
постоянны вдоль интегральных кривых радикала формы о\, что
не нарушает указанных свойств однородности, и выберем функ-
функцию jci, однородную степени 0 и равную 0 в уо, ограничение
которой на So имеет простой нуль на Si. Наконец, выберем
функцию |i, однородную степени 1/2 и имеющую простой нуль
на So. Тогда ограничение формы о на So равно
Поскольку все последовательные редукции, фигурирующие в
доказательстве теоремы 21.1.7, осуществляются единственным
образом, совершенно очевидно, что они сохраняют свойства
однородности. Проверку этого утверждения предоставим чи-
читателю.
Пример 21.1.11. Описанная в теореме 21.1.10 ситуация возникает,
если в 7*(Rn+l) образовать пересечение поверхностей, задавае-
задаваемых соответственно уравнениями х\ = 0 и
Ц. ~Xfti +?n+&t-
Эти поверхности пересекаются при ?„ > 0 трансверсально, и
ограничение симплектической формы на их пересечение имеет
вид
а = d\2 A dx2 + ... + d\n л dxn + d (Щп) л dxn+v
Взяв хп+и х2, .... х„, giB/|лI/я, 1г. •••» In в качестве перемен-
переменных на указанном пересечении, мы и получаем ситуацию из
теоремы 21.1.10. Эквивалентная ее формулировка состоит, сле-
следовательно, в том, что всегда возможна редукция к этому при-
примеру. Мы еще вернемся к нему в § 21.4.
21.2. Подмногообразия симплектического многообразия
Как и в § 21.1, начнем с краткого изложения соответствующих
результатов линейной алгебры в симплектическом векторном
пространстве S с симплектической формой ст. Точно так же, как
и в евклидовом пространстве, всякое линейное подпространство
V в S обладает аннулятором VczS относительно симплекти-'
ческой формы:
и (у<т)<» = у Однако, вообще говоря, V не является дополни-
дополнительным к V. Поскольку dim V -f- dim Va = dim S, так будет

21.2. Подмногообразия симнлектического многообразия 379
тогда и только тогда, когда V П V = {0}, т. е. когда V симплек-
тично в том смысле, что ограничение на V симплектической
формы невырожденно. В этом случае V тоже, конечно, симп-
лектично, так что 5 представимо в виде прямой суммы симп-
лектических подпространств V и V0. Это наблюдение уже было
использовано при доказательстве предложения 21.1.2. В случае
произвольных V имеется некий заменитель этой конструкции:
Предложение 21.2.1. Для всякого линейного подпространства V
симплектического векторного пространства S факторпростран-
ство
B1.2.1) S' = (v + Va)/{V0V°)
является симплектическим векторным пространством, и
B1.2.2) dim S' = dim S - 2 dim (V П V°) = 2 dim {V + Va) - dimS.
Доказательство. Подпространством, ст-ортогональным к W — V
+ V, служит Wa=Vaf\(V°)a = Vf\V°ciW. Если w€=W, то
a(w, до') = 0 для всех w'^W тогда и только тогда, когда
до е W, поэтому о индуцирует на S' невырожденную антисим-
антисимметричную билинейную форму о'. Равенства B1.2.2) вытекают
из равенств
dim W + dim W = dim S, dim W — dim Wa = dim S'.
В частности, dim S' = dim S — 2dim V, если Vs => V, и dim S'
= 2 dim V—dimS, если Va cr V. Эти случаи встречаются столь
часто, что им присвоены специальные названия:
Определение 21.2.2. Линейное подпространство V симплектиче-
симплектического векторного пространства называется изотропным, лагран-
жевым или инволютивным, если соответственно V cz Va, V = Va,
V =э V. Инволютивные подпространства иногда называют также
коизотропными.
Таким образом, в этих трех случаях размерность под-
подпространства V соответственно sg:(dimS)/2, =(dimS)/2,
I3s (dim S) /2. Изотропное (или инволютивное) подпространство
является лаграижевым, если dim 5 = 2 dim V.
Предложение 21.2.3. Подпространство V изотропно (соотв. ин-
волютивно) тогда и только тогда, когда существует содержащее
его (соотв. содержащееся в нем) лагранжево подпространство.
Доказательство. Рассмотрим сначала случай, когда V изотроп-
изотропно. Выберем какой-нибудь базис еь ..., ек в V. Тогда о(е,-, е;)
= 0 для /, / = 1, . ..,.k, поэтому, всилу предложения 21.1.3,
можно расширить систему векторов е\, ..., ек до симплектиче-

380 21. Симплектическая геометрия
ского базиса еи ..., ел, ъ\, ..., ъп в S. Ясно, что векторы
е\, .... еп порождают лагранжево подпространство, содержащее
V. В случае когда V инволютивно, V" изотропно, а значит,
Va cz X для некоторой лагранжевой плоскости X, откуда следует,
что X с V.
Пространство S', определяемое формулой B1.2.1), естествен-
естественным образом расщепляется в прямую сумму двух ортогональ-
ортогональных симплектических подпространств V/(Vf\Va) и V°/(Vf\V°).
Симплектическая форма а обращается в 0 на V(]V°. Выберем
теперь, как в доказательстве предложения 21.2.3, какой-нибудь
базис в\, ..., ек для V'(] V° и добавим к нему элементы
ek+i, ..., ek+i, 8*+ь • • •, е*+г, классы вычетов которых образуют
симплектический базис для V/(Vf]Va). Затем присовокупим к
нему элементы ek+t+l, ..., еп, е*+ж> ..., е„, представляющие
симплектический базис в Va/(Vf]Va). Мы получим тогда базис
для V+Va, удовлетворяющий соотношениям B1.1.1). Посколь-
Поскольку dim5 = dim(V + V°) + dim(V^П V°) = 2n, теперь можно вос-
воспользоваться предложением 21.1.3 и, добавив элементы еь... ,&k,
получить симплектический базис для 5. Поэтому в соответ-
соответствующих симплектических координатах V задается условиями
... =?„ = 0.
?„
Его размерность равна k + 21, а размерность пространства S'
равна 2(п — k), так что в общем случае эта последняя не опре-
определяется размерностью подпространства V.
Проведенные выше рассмотрения распространяются на мно-
многообразия:
Теорема 21.2.4. Пусть S — коническое симплектическое многооб-
многообразие и V — его коническое подмногообразие, такое что ограни-
ограничение симплектической формы на V имеет постоянный ранг 21
в некоторой окрестности точки у, обладающей тем свойством,
что каноническая один-форма ю не равна тождественно 0 на
Ty(V). Тогда в некоторой конической окрестности точки у в S
существуют однородные симплектические координаты х, g, в ко-
которых V задается уравнениями
<21.2.3) Б,= ... —Б4 = 0, xk+l+1= ... =хп
где k + 2l = dim V.
Заметим, что 1Ф0, так как V не может быть изотропным,
ибо касательный радиальный вектор р(у) по условию не ортого-
ортогонален к Ty(V). Имеется очевидный неоднородный вариант тео-
теоремы 21.2.4, в котором ш не фигурирует и это условие опу-
опускается. Обычно такие варианты мы будем оставлять читателю.

21.2. Подмногообразия снмплектического многообразия 381
Доказательство. Можно так выбрать функции fu ..., fг е С°°,
однородные степени 1 и равные 0 на V, чтобы dfu .... dfr были
линейно независимы в точке у и порождали TV(V). Здесь
r = 2n — dim V, где 2п = dim S. Положим k = dim V — 21.
а) Если k +1 < л, то, как следует из рассмотрений, про-
проведенных для линейного случая, некоторая скобка Пуассона,
скажем {fu Ы. отлична от 0 в у- Таким образом, вектор Hf
не может быть пропорционален радиальному вектору р, ибо
pf2 = 0. Поэтому, согласно теореме 21.1.9, можно выбрать ло-
локальные однородные симплектические координаты, такие что
%n = fu а точке у отвечает, скажем, точка @, ei), где
ei =A, 0 0). Тогда уравнение /2 = 0 можно разрешить от-
относительно хп, поскольку
Следовательно, в достаточно малой конической окрестности
точки у уравнение f2 = 0 может быть записано в виде
где функция g однородна степени 0. Если положить Хп = хп
— g(xu h, .... In-i, In), то ln = 0, Хп = 0 на V и {?„, X} = 1
в некоторой окрестности точки у. Снова применяя теорему 21.1.9,
заключаем, что найдется новая система однородных симплекти-
ческих координат, в которой последними координатами будут
Хп и ?„. Изменяя обозначения, мы можем поэтому считать, что
хп = 1п = 0 на V. Это означает, что V можно рассматривать
как подмногообразие в r^R"-1), откуда и следует утверждение
теоремы, если считать ее уже доказанной для симплектических
многообразий S меньшей размерности.
Ь) Если k-)rl = n, но ?=5^0, т. е. УфБ, то, согласно обсуж-
обсуждению, проведенному для линейного случая, {fit /,} = 0 на V
для i, j = 1, ..., г и по предположению вектор р не является
линейной комбинацией векторов Hft, ..., Hf . Выберем однород-
однородные симплектические координаты, такие что /i = ?i и у получает,
скажем, координаты @, еп). Тогда ?, = 0 на V и dfj/dxi
= (?ь М = 0» / = 2, .... г, на V. Следовательно, V является
цилиндрическим в направлении х\ и определяется вблизи у
условиями ?, =0, f,@, х2 Хп, 0, Ь, ¦ ¦ ¦, Ъп) = 0, / = 2 г.
Дифференциалы функций, фигурирующих в этих условиях, и
форма ш линейно независимы. В предположении что теорема
уже установлена для многообразий 5 меньшей размерности,
можно выбрать новые координаты х2, ..., хп, ?г> • • •, %п так,
чтобы V П {*i = Si — 0} задавалось условиями |2 = . • • = !* = 0,
и это завершает доказательство.

382 21. Симплектнческаи геометрия
В части Ь) доказательства мы нашли, что V порождается
некоторым семейством кривых. Это — одно из проявлений суще-
существования важного слоения, к обсуждению которого мы сейчас
и перейдем (по поводу используемой терминологии см. § С. 1).
Определение 21.2.5. Подмногообразие V симплектического мно-
многообразия называется симплектическим, изотропным, лагранже-
вым или инволютивным, если в каждой его точке соответствую-
соответствующим свойством обладает касательное к нему пространство.
Замечание. Отметим, что условие постоянства ранга, фигури-
фигурирующее в теореме 21.2.4, автоматически выполнено во всех этих
случаях.
Теорема 21.2.6. Если V удовлетворяет условиям теоремы 21.2.4,
то задание в каждой точке у е V подпространства
Ty(V)f[1%(V) в Ty{V) определяет слоение многообразия V с
изотропными слоями размерности dim V — rank о | у, трансвер-
сальными к радиальному векторному полю.
Доказательство. В локальных координатах, существование ко-
которых утверждается в теореме 21.2.4, мы имеем слоение много-
многообразия V плоскостями, параллельными плоскости xi ... xk.
Советуем читателю не относиться к этому важному резуль-
результату с пренебрежением из-за краткости его доказательства;
в действительности он опирается на все, что мы до сих пор
сделали в этой главе, и указанное слоение очень часто будет
использоваться в дальнейшем.
В соответствии со сказанным после формулировки теоремы
21.2.4 справедлив и неоднородный вариант теоремы 21.2.6, так
что аналогичным слоением обладает любое подмногообразие V
симплектического многообразия S, такое что ограничение на V
симплектической формы имеет постоянный ранг. Если 5 и V
являются коническими и радиальное векторное поле р каса-
касательно к некоторому слою В этого слоения в какой-нибудь точке
Y, то слой В тоже будет коническим. Действительно, радиаль-
радиальный луч, проходящий через точку у, должен остаться в слое,
поскольку по соображениям однородности всюду вдоль этого
луча вектор р будет лежать в плоскости, задающей слоение.
По тем же соображениям MtB (где Mt обозначает умножение
на /) для любого t тоже будет слоем нашего слоения, а раз
этот слой имеет на радиальном луче, проходящем через у, об-
общие точки с В, он обязан совпадать с В. Тем самым доказано
следующее дополнение к теореме 21.1.6:
Теорема 21.2.7. Если S — коническое симплектическое многооб-
многообразие и V — его коническое подмногообразие, такое что ограни-

F 21.2. Подмногообразия симплектического многообразия 383
чение на V симплектической формы имеет постоянный ранг, то
Ty(V)(]Ty(V) задает слоение подмногообразия V с изотроп-
изотропными слоями, которые либо трансверсальны к радиальному век-
векторному полю, либо являются коническими.
В случае когда V инволютивно, условие постоянства ранга,
как уже отмечалось, выполняется автоматически, и слои ука-
указанного в теореме слоения порождаются в этом случае инте-
интегральными кривыми гамильтоновых полей Hf, отвечающих функ-
функциям, равным 0 на V. Действительно, тог&а Hf(y)^Ty(V)=Ty(V)
f\Ty(V) для уеК, По этой причине слоения, о которых идет
речь, обычно называют гамильтоновыми.
Если V — подмногообразие симплектического многообразия
S, такое что ограничение на V симплектической формы имеет
постоянный ранг, то на V можно рассмотреть естественное век-
векторное расслоение Sv со слоем
{Ту (V) + Г° (V))/{Ty {V)f]T°y (V))
в точке у ^ V, Эти слои являются симплектическими вектор-
векторными пространствами; в этом смысле Sv относится к классу
симплектических векторных расслоений. В локальных коорди-
координатах, существование которых утверждается в теореме 21.2.4,
Sv есть произведение V на симплектическое векторное простран-
пространство T*(Rn~k). Легко видеть, что с этими локальными тривиали-
зациями мы действительно получаем векторное расслоение. За-
Заметим, что ограничение расслоения Sv на слой В описанного
выше слоения подмногообразия V совпадает с расслоением Sb,
поэтому такая конструкция представляет интерес главным обра-
образом в изотропном случае, когда рассматриваемое слоение три-
тривиально (слой совпадает со всем V). Для подмногообразий V,
не являющихся ни изотропными, ни инволютивными, симплек-
симплектическое расслоение Sv устроено нетривиально и представляет
собой симплектически ортогональную прямую сумму двух симп-
симплектических векторных расслоений S'v и Sy со слоями
Ty(V)/{T4{V)ury{V)) и T°y(V)l(Ty(V)(]Tay(V)).
Имеется также аналог теоремы 21.2.4, в котором тождест-
тождественно равно 0 ограничение на V формы ш. В этом случае огра-
ограничение на V формы а = dm равно 0, так что V изотропно.
Обратно, если V является изотропным и коническим, то огра-
ограничение на V формы ю равно 0, поскольку для любого каса-
касательного вектора t к V мы имеем a(t) = o(p, t) = 0, ибо р тоже
будет касательным вектором к V.
Теорема 21.2.8. Пусть S — коническое симплектическое много-
многообразие и V — его коническое изотропное подмногообразие. Тог-

384 21. Симплектическая геометрия
да в некоторой конической окрестности любой точки у е V су-
существуют однородные симплектические координаты, в которых
V задается уравнениями
B1.2.4) *,= ... =хп = 0, lk+l= ... = |„ = 0,
где k — размерность подмногообразия V.
Доказательство. Сначала покажем, что можно выбрать такие
координаты, в которых V задается уравнениями
B1.2.5) х{=0, 12 = ., . = lk = 0, Xk+l=lk+l= ... =хп = 1п = 0.
Часть а) доказательства теоремы 21.2.4 применима к рассмат-
рассматриваемой ситуации без каких бы то ни было изменений и сводит
дело к случаю, когда dim V = п, т. е. когда подмногообразие
V лагранжево. Если п> 1, то мы можем к тому же выбрать
одну из функций fi равной 0 на V, так что на V поле Hff не
пропорционально р, а потому применима редукция из шага Ь)
доказательства теоремы 21.2.4. Наконец, если п= 1, то из того
факта, что форма \\dx\ равна 0 на V, вытекает, что функция xi
постоянна на V, и можно выбрать ее равной 0. Далее, суще-
существует локальный однородный симплектоморфизм, отображаю-
отображающий любое коническое изотропное подмногообразие V размер-
размерности k, и в частности подмногообразие, задаваемое уравне-
уравнениями B1.2.4), на такое же модельное подмногообразие, зада-
задаваемое уравнениями B1.2.5), так что можно взять в качестве
модельного и подмногообразие B1.2.4).
В частности, всякое коническое лагранжево подмногообра-
подмногообразие можно задать условием х = 0, т. е. представить в подходя-
подходящей системе однородных симплектических координат как слой
To(Rn)\0. Заметим, что если X — произвольное С°°-многообра-
зие и Y— его подмногообразие, то конормальаое расслоение
N(Y) к Y будет лагранжевым подмногообразием в Т*(Х), по-
поскольку (dx, |> = 0 на Tx(Y) для ?еЛ/«(К) Таким образом,
теорема 21.2.8 применима, в частности, ко всякому конормаль-
ному расслоению. Следующая теорема показывает, что любое
коническое лагранжево подмногообразие кокасательного рас-
расслоения содержит большие открытые подмножества такого типа.
Теорема 21.2.9. Пусть X — многообразие класса С1*, V — кони-
коническое лагранжево С00-подмногообразие в Т*(Х)\0 и (х0, Ы
ef. Если ограничение на V проекции п: Т*(Х)-*-Х имеет по-
постоянный ранг г вблизи тонки (xq, |о), го существует Ск-под-
многообразие Y с: X размерности г в некоторой окрестности
точки Xq, конормальное расслоение к которому совпадает с V
в некоторой окрестности точки (х0, Ь>\-

21.2. Подмногообразия симплектического многообразия 385
Отметим, что г < п, поскольку для радиального векторного
поля р, которое является касательным к V, мы имеем я*р = 0.
Доказательство. В силу предложения С. 3.3 некоторая окрест-
окрестность точки (х0, go) B V отображается проекцией я на некоторое
л-мерное С°°-многообразие YczX. Так как Jjl/dx^O на V и
я* отображает касательное пространство к V на касательное
пространство к У, вектор | должен быть нормальным к У, т. е.
VczN*(Y) в некоторой окрестности точки (д:0, ?0). Но у левой
и правой частей этого включения одна и та же размерность,
поэтому они должны совпадать друг с другом.
Условие теоремы 21.2.9 всегда выполняется на некотором
открытом плотном подмножестве в V, состоящем из точек, в
которых указанный в формулировке теоремы ранг равен своему
локальному максимуму на V. Однако проекция V на X в об-
общем случае может быть весьма сингулярной. Простой пример
доставляет лагранжево подмногообразие V в P(R2)\0, зада-
задаваемое условиями
B1.2.6) *,=3&Д2J, JC2 = — 2 (i./EaK, &#0.
Его проекцией служит кривая (xi/ЗK — (*г/2J =0, и V сов-
совпадает с замыканием конормального расслоения к регулярной
части этой кривой.
Теперь приведем к некоторому нормальному виду пару пе-
пересекающихся конических лагранжевых подмногообразий. Та-
Такие подмногообразия никогда не пересекаются трансверсально,
поскольку каноническая один-форма равна 0 на обоих каса-
касательных плоскостях в точках пересечения. Поэтому здесь при-
приходится привлечь понятие чистого пересечения, обсуждаемое
в § С.З.
Теорема 21.2.10. Пусть S — коническое симплектическое много-
многообразие размерности In и V\, V% — пара конических лагранже-
лагранжевых подмногообразий в S, чисто пересекающихся в точке yeS.
Тогда можно выбрать однородные симплектические координаты
х, \ в окрестности точки у, такие что эта точка получит коор-
координаты @,ei), где ei =A, 0, ..., 0), и вблизи @, ei)
B1.2.7) V, = {@, E)}, V2 = {@, x", Г, 0)},
где x' = (xi, ..., Xk), x" =(Xk+\, ..., хп), a k — размерность пе-
пересечения V\ П Vi (или, что то же самое, эксцесс рассматривае-
рассматриваемого пересечения).
Таким образом, локально V\ представляется как конормаль-
ное расслоение к некоторой точке, а Уг — как конормальное
14 Чяк 443

- 386 21. Симплектическая геометрия
расслоение к некоторому проходящему через эту точку много-
многообразию коразмерности k. Заметим, что ненормальные расслое-
расслоения к чисто пересекающимся многообразиям также должны пе-
пересекаться чисто, поскольку в координатах, в которых пересе-
пересекающиеся многообразия представляются линейными простран-
пространствами, они тоже представляются линейными пространствами.
Доказательство. В силу теоремы 21.2.8 можно считать, что S
есть коническая окрестность точки @, ei) в P(R")\0 и Vi опре-
определяется уравнением х = 0. Рассмотрим для Vu У 2 и V\ Г) Кг их
пересечения V\, Vt и К Г)'/г с расслоением сфер Si={(x, |);
|?|—1}. Они имеют на 1 меньшие размерности, и прямые
суммы их касательных пространств с одномерным простран-
пространством, порожденным радиальным вектором р, совпадают с ка-
касательными пространствами к V\, V2 и V\(] V2 ъ соответствую-
соответствующих точках из 5]. Следовательно, VI и VI пересекаются чисто,
причем их пересечение {k — 1)-мерно.
a) Предположим сначала, что k = 1. Тогда только что упо-
упомянутое пересечение нульмерно. Это означает, что касательные
пространства к V' и V\ имеют единственной общей точкой 0.
Поскольку V°\ есть единичная сфера, отвечающая х = 0, отсюда
следует, что дифференциал проекции я: V2->Rn инъективен, а
значит, имеет ранг п — 1. Следовательно, в силу теоремы 21.2.9,
У2 в некоторой окрестности точки @, ei) совпадает с конор-
мальным расслоением к некоторой гиперповерхности, и после
замены переменных в R" можно считать, что эта гиперповерх-
гиперповерхность задается уравнением х\ = 0.
b) Пусть теперь k>\. Тогда VI и Vl суть {п — 1)-мерные
подмногообразия Bп — 1)-мерного многообразия, имеющие
(k—1)-мерное чистое пересечение, поэтому эксцесс этого пе-
пересечения равен k (см. (С.3.3)). Следовательно, можно найти
?^2 функций fu ..., fk, однородных степени 1, которые рав-
равны 0 на Vi U Уг и имеют в точке у линейно независимые диф-
дифференциалы. Поэтому вектор Hf и вектор р должны быть ли-
линейно независимы при некотором /, скажем при / = 1. Как и
в части Ь) доказательства теоремы 21.2.4, можно выбрать но-
новые однородные симплектические координаты, такие что f\ = \п,
и заключить, что локально и V\, и Уг равны произведению оси
хп на соответствующее лагранжево подмногообразие многооб-
многообразия хп = |п = 0, причем эти лагранжевы подмногообразия
имеют чистое пересечение размерности k — 1. Если теорема уже
доказана для меньших значений k и п, то можно выбрать но-
новые координаты х\, ii Хп-и \п-\ так, чтобы Vi и У2 зада-

21.2. Подмногообразия симплектического многообразия 387
вались вблизи точки @, ei) уравнениями
Vi\ *]= ... = *„_! = О, ?„ = 0,
V2: xx = ... = xk_x = 0, lk = ... = |„ = 0.
Эти две плоскости пересекаются по плоскости, на которой все
координаты, кроме хп, ?ь .... \k-u равны 0. В частности, и пара
B1.2.7) может быть представлена в таком виде, и доказатель-
доказательство завершается точно так же, как в случае теоремы 21.2.8.
Справедлив, конечно, и неоднородный вариант теоремы
21.2.10. Очень прост, но поучителен линейный случай: каковы
бы ни были лагранжевы подпространства V\ и Уг симплекти-
симплектического векторного пространства 5, можно выбрать симплекти-
ческий базис еи ¦ ¦ ¦, е„, еь ..., еп, такой что V\ порождается
векторами еь .... ел, а Уг — векторами вк+\, ..., еп, в\, ..., е*.
Чтобы сделать это, мы прежде всего выберем базис ei, ..., е*
для Vi П V2 и расширим его до базиса еь ..., еп для Vi. Огра-
Ограничение симплектической формы на Vi X V2 задает двойствен-
двойственность между Ki/(Ki П Уг) и V2/{Vi(]V2)- Поэтому мы можем
выбрать векторы ен+\ еле Уг, образующие двойственный
базис к eft+i, ..., е„ в смысле этой двойственности, а затем про-
просто дополнить полученную систему векторов до полного сим-
симплектического базиса, опираясь на предложение 21.1.3. Ниже
нам будет полезно такое
Следствие 21.2.11. Пусть S — симплектическое векторное про-
пространство. Для любых двух его лагранжевых подпространств
V\, V2 найдется третье лагранжево подпространство V, транс-
версальное к ним обоим.
Доказательство. Если Vi и Vi представлены в виде B1.2.7), то
можно взять
Напомним, что если S\ и Si — симплектические многообра-
многообразия, то симплектоморфизм, или каноническое преобразование,
%: 52-*-Si — это диффеоморфизм, удовлетворяющий условию
X*Oi = 02, где <jj — симплектическая форма на Sj (см. определе-
определение 21.1.4). В частности, симплектоморфные многообразия St
и 5г имеют одинаковую размерность. График
симплектоморфизма % представляет собой лагранжево подмно-
подмногообразие произведения S\ X S2, снабженного симплектнческой
формой
= п\а1 —
13*

388 21. Симплектическая геометрия
где Л] и п2— проекции Si X S2 на сомножители. (В дальней-
дальнейшем, если не может возникнуть недоразумений, мы обычно пи-
пишем просто а/ вместо л^о/.) При этом ограничение проекции л/
на G является диффеоморфизмом G на 5/ для / = 1, 2. Отказ
от этого последнего условия приводит к более широкому поня-
понятию канонического преобразования, уже не связанному, в част-
частности, с требованием, чтобы Si и S2 имели одинаковую раз-
размерность.
Определение 21.2.12. Пусть Si, S2— симплектические многооб-
многообразия с симплектическими формами о\, а2. Всякое лагранжево
подмногообразие G произведения Si X S2, наделенного симплек-
тической формой d — а2, называется каноническим отношением
из S2 в S\. В случае когда Si, S2 и G являются коническими
многообразиями, мы говорим об однородных канонических от-
отношениях.
Как отмечалось в § 5.2, любое отношение отображает мно-
множества Е cz S2 в множества G(E)cz Si:
G (E) = {yi e S,; (Yi, Y2) s G для некоторого y2 e E)
Как и в случае функций, можно брать композиции отношений:
если G, <= Si X S2 и G2 <= S2 X S3, то
G, о G2 = {(Yi, Уз); (Уп Y2) e Gi и (у2, Ys) e G2
для некоторого уг}-
Можно также интерпретировать Gi о G2 как проекцию на S1XS3
пересечения G, X G2 с S,XA(S2)XS3, где A(S2) = {(Y( y);
Y s S2}—диагональ в S2 X S2. Заметим, что многообразие
ДEг) изотропно относительно симплектической формы —^lia2
+ Л22О2> гДе nv — проекция произведения S2XS2->S2 на /-й
сомножитель. Вообще говоря, нет, конечно, никаких оснований
ожидать, что G\°G2 — гладкое отношение, но, как сейчас будет
показано, для канонических отношений Gi и G2 мы всегда по-
получаем гладкое каноническое отношение, если указанное выше
пересечение является чистым и если наложить некоторые огра-
ограничения глобального характера. Сначала рассмотрим ситуацию
для линейного случая, в несколько более общем контексте:
Предложение 21.2.13. Пусть S — симплектическое векторное про-
пространство с симплектической формой а и Д — его изотропное
подпространство. Обозначим через S' симплектическое вектор-
векторное пространство Дст/Д- Если Я — произвольное лагранжево

21.2. Подмногообразия симплектического многообразия 389
подпространство в S, то Я/ = (X П Дст) / (X П А) — лагранжево
подпространство в S'.
Доказательство. Изотропность Я/ следует из изотропности Я и
определения симплектической формы на S'. Далее,
dim А, + dim Д° = dim (Я П Аа) + dim (Я + А0)
= dim (Я П А°) + dim S — dim (X f| А),
следовательно, в силу B1.2.2),
dim X' = dim X — dim Д = (dim S')/2.
Замечание. Хотя отображение X ь-»¦ Я' всегда определено, оно не
будет непрерывным, если X (] Дст меняет размерность. Рассмот-
Рассмотрим в качестве примера S = T*(R2),
А = {@, х2, 0, 0)}, Да = {(д:„ х2, 1и 0)}.
Тогда многообразие Л, ={(ах2, Хг. ii»—a|i)} для любого а яв-
является лагранжевым и непрерывно зависит от а; в то же время
Я/ равно {(*], 0)} при а^Ои {@, ?i)} при a =0.
Теперь мы готовы к тому, чтобы доказать результат о ком»
позиции общих канонических отношений:
Теорема 21.2.14. Пусть S/ — симплектическое многообразие
с симплектической формой О/, /=1, 2, 3. Если многообразия
G] с: Si X S2 и бг с: S2 X 53 лагранжевы относительно симплек-
тических форм о\ — а2 и о2 — о3 и G\ X G2 чисто пересекается
с Si X A (S2) X 5з по G, то проекция л этого пересечения G на
Si X S3 имеет ранг (dim 5i + dim S3)/2 и образ Gt ° G2 проек-
проекции п локально является лагранжевым многообразием относи-
относительно 01 — <Т3.
При выполнении указанных в формулировке теоремы усло-
условий композицию канонических отношений называют чистой.
Доказательство. Пусть (ух, у2, у2, уз)е G. В силу определения
чистого пересечения касательное пространство к G в этой точке
равно
Ш?Ч, (S,) X А (Ту, (S2)) X Ту, (S3)),
где
Я является лагранжевым подпространством симплектического
векторного пространства
уг (S2) ф rY3 (S3)

390 21. Симплектическая геометрия
с симплектической формой О\ — 021 + ^22 — <?з- Поэтому образ.
дифференциала проекции л получается с помощью конструкции
предложения 21.2.13, примененной к изотропному подпростран-
подпространству {0} X A (TyASi)) X {Щ'> этим доказано утверждение о ранге.
Из предложения С.3.3 следует теперь, что образ проекции п
локально является лагранжевым подмногообразием в Si X S3.
Замечание. Если Q — открытое множество в Si X S3 и отобра-
отображение я: n-'(Q)-*-Q — собственное, то л(л-'@)) есть погружен-
погруженное замкнутое лагранжево подмногообразие в Q и я~' (й) яв-
является расслоенным пространством над ним с компактными
слоями.
Описанная в теореме 21.2.14 конструкция применима, в част-
частности, в случае, когда многообразие S3 сводится к точке. В этом
случае она дает лагранжево подмногообразие в Si по заданным
лагранжевым подмногообразиям в Sj и в SiX 5г- Эта идея
приводит к важному методу параметризации лагранжевых
С°°-подмногообразий Л кокасательного расслоения Т*(Х) к дан-
данному многообразию. Напомним (см. § 6.4), что если Л является
сечением расслоения Т*(Х), то его можно локально представить
в виде {(х, ф'(л) )}, где ф принадлежит классу С°° на некото-
некотором открытом подмножестве в X. Если же Л сечением не яв-
является, то такое представление становится невозможным.
В частности, оно заведомо неприменимо в случае, когда Л —
коническое подмногообразие, поскольку радиальное векторное
поле р будет в этом случае касательным к Л. Пусть, однако,
ф(д:, 0)—функция класса С°° на произведении открытого под-
подмножества в X и некоторого другого С°°-многообразия в. Тогда
G = {(x,<p'x(x, в); в, -q?(x, в))}
будет лангранжевым подмногообразием в Г*(Х)Х 7"*F) (знак
минус связан с принятым выше определением симплектической
формы на произведении двух симплектических многообразий).
Нулевое сечение Go расслоения 7"* (в) тоже является лагранже-
вым многообразием. Если Г(Х)Х Д(^(8)) и OX Go пересе-
пересекаются чисто, т. е.
{(х, в); ф'е(х, в) = 0}
есть подмногообразие в XX®. касательное пространство к ко-
которому в каждой точке задается уравнениями d<p'ti(x, 9) = 0, то
B1.2.8) {(*, q>;(*, 0)); фЦ(х, 9) = 0}
локально будет лагранжевым подмногообразием в Т*(Х). На-
Напомним, что эта конструкция уже встречалась нам в теореме
8,1,9 в естественном аналитическом контексте, Ясно, что под-

21.2. Подмногообразия симплектического многообразия 391
многообразие B1.2.8) является коническим, если функция ср
однородна степени 1.
Определение 21.2.15. Пусть X— многообразие класса С°° и
ф(лг, в)—вещественнозначная С°°-функция на открытом кони-
коническом множестве Гсг X'X,(RN\0), однородная степени 1 по 0.
Будем называть ф чистой фазовой функцией, если dq> ф О и
С = {(*, 9)€еГ; у'в(х, 0) = О}
представляет собой С°°-многообразие, касательное пространство
к которому в каждой точке задается уравнениями йфд = 0.
Число линейно независимых дифференциалов d(dq>/dQj),
j = 1, ..., N, на С равно N — е, где е = dim С — dim X; эта
величина е называется эксцессом фазовой функции ф. Отобра-
Отображение С э (х, 0) V—»(х, ф^Л локально является расслоением со
слоями размерности е, базой которого служит некоторое кони-
коническое лагранжево многообразие А; будем говорить, что Л па-
параметризовано с помощью ф, а ф параметризует (определяет,
задает) Л. В случае е = 0 фазовую.функцию называют невыро-
невырожденной.
Теорема 21.2.16. Пусть X — произвольное С°°-многообразие раз-
размерности п. Всякое коническое лагранжево С°°-подмногообразие
Л в Т*(Х)\0 локально можно параметризовать с помощью не-
невырожденной фазовой функции ф, определенной на некотором
открытом конусе в XX(R"\0). Если у0 s Л и хо — проекция
точки yo на X, то можно так выбрать локальные координаты
х\, ..., хп вблизи х0, чтобы в соответствующих координатах
х\ хп, \\, ..., \п в Т*(Х) лагранжева плоскость \= const,
проходящая через vo, была транс ее реальна к Л. Тогда суще-
существует единственная фазовая функция вида
параметризующая Л; функция Н принадлежит классу С°° и од-
однородна степени 1, и вблизи у0
Доказательство. Выберем локальные координаты уь ..., у„
вблизи точки х0 так, чтобы все координаты этой точки равня-
равнялись 0, а уо = @, dyi @)). Используя эти координаты, будем
рассматривать Л как подмножество в r*(Rn)\0. Касательная
плоскость Хо к Л в точке @, г\), ei=(l, 0, ..., 0), является
лагранжевой. Она может быть не трансверсальна к плоскости
? = ei, служащей графиком дифференциала координаты у\. Од-

392 21. Симплектическая геометрия
нако из следствия 21.2.11 мы знаем, что существует проходящая
через точку @, ei) лагранжева плоскость, которая трансвер-
сальна и к ко, и к слою r*(R"). Следовательно, эта лагранжева
плоскость есть сечение расслоения T*(Rn) вида
где А (у) — некоторая квадратичная форма. Перейдем теперь
к новым локальным координатам xi = у\ + А (у), Хъ = Уг, • •¦. хп
= уп- Тогда касательная плоскость к Л в точке у0 будет транс-
версальна к проходящему через эту точку графику дифферен-
дифференциала dx\. Эта трансверсальность означает в стандартных ло-
локальных координатах, что отображение
Лэ(х,
имеет в точке у0 биективный дифференциал. Поэтому локально
можно взять | в качестве параметра на многообразии Л, кото-
которое будет, таким образом, задаваться уравнением x = i|>(g), где
гр — функция класса С00, определенная в некоторой окрестности
точки ei и принимающая значения в R". Так как эта функция
однородна степени 0, у нее существует однородное продолжение
на соответствующую коническую окрестность точки ei, по-преж-
по-прежнему задающее многообразие Л. Но это многообразие является
коническим лагранжевым, поэтому ш = ? lf dx, = 0 на Л, так
что
О = ? I, d% (I) = dH (I) - Z */ ® dlh где Н ® = ? %, fy (g).
Отсюда следует, что фу(|) = <5ЯF)/д|/, чем доказательство и
завершено.
Хоть и не всегда, но часто при параметризации лагранжева
многообразия можно обойтись меньшим числом переменных 6:
Теорема 21.2.17. Пусть выполнены те же предположения, что и
в теореме 21.2.16, и пусть k — размерность пересечения Т (Л)
П Т*х> {X). Тогда Л можно параметризовать вблизи у0 с помощью
невырожденной фазовой функции, определенной на XX,(R*\0),
но нельзя параметризовать с помощью невырожденной фазовой
функции, в которой фигурирует меньшее число параметров.
Доказательство. Сначала докажем последнее утверждение. Пусть
Л параметризовано с помощью невырожденной фазовой функции
Ф (х, 9), где 9 е= R*. Тогда множество ц = Туо (Л) П Г„ (X) является
образом подмножества в ТХа (X) X R*. задаваемого условиями
^Фе = 0, djc = O, и потому его размерность равна самое большее
х. Следовательно, х ^ k.

21.2. Подмногообразия симплектического многообразия 393
Чтобы доказать первое утверждение, выберем в X локальные
координаты вблизи х0, такие что Yo=@, ei) и Л задается усло-
условием х = Н'A). При помощи линейной замены, сохраняющей
координату Х\, а значит, и координаты точки у0, можно добиться,
чтобы ц задавалось условиями Лс=0, dg"=O, где g"=(|*+i Ы-
Положим |'=(|ь ..., ?*)• Лагранжева плоскость ТУо(А) содер-
содержит ц и потому содержится в ортогональной к ц плоскости ц°,
задаваемой условием dxf = 0. Следовательно, отображение
имеет в точке у0 биективный дифференциал. Действительно, на
ядре этого дифференциала dx' = dx" = 0, так что оно содер-
содержится в ц и удовлетворяет условию d%' = 0. Наше утверждение
вытекает поэтому из следующей теоремы:
Теорема 21.2.18. Пусть Ac 7*('R")\0 является коническим лаг-
ранжевым многообразием в некоторой окрестности точки у0, и
пусть для некоторого расщепления координат х, | на две части
х — (х', х"), g =(%', I") отображение
биективно в этой окрестности. Тогда найдется функция S(x", |'),
такая что вблизи yo
r, х"; Г, -
Множество Л задается там фазовой функцией ф(х, \') = (х1, |')
S{"'
Доказательство. На Л координаты х' и |" можно рассматривать
как функции от х", ?', и
Отсюда следует, что если положить S {х", |') = (хг, |'>, то
dS/dx" = —|" и dS/d\' = л/. Последнее утверждение теоремы
очевидно, поскольку из условия (9ф/(9|' = 0 вытекает, что
' as/dg' а дф/дж = (Г, —dS/dx").
Возможно, читатель уже задал себе вопрос, зачем нам пона-
понадобилось вводить понятие произвольной чистой фазовой функ-
функции, если всегда существует невырожденная такая функция, и
сам нашел ответ на него. Ответ состоит в том, что рассмотрен-
рассмотренная в теореме 21.2.14 операция взятия композиции естественно
приводит к чистой, но вырожденной фазовой функции, в случае
когда фигурирующее там пересечение является всего лишь чи-
чистым, но не трансверсальным. Однако прежде чем подробно об-
обсудить этот момент, нам надо сделать одно важное замечание,
касающееся определения канонического отношения G в произве-

394 21. Симплектическая геометрия
дении (T*(X)\0)X(T*(Y)\0) при помощи фазовой функции.
Напомним, что, согласно данному выше определению, G есть
лагранжево многообразие по отношению к разности ах—¦ oY
симплектических форм на Т*(Х) и T*(Y), поднятых на Т*(Х)
X T*(Y)= Г*(XX Y). Эта разность отличается знаком при aY
от стандартной симплектической формы ox-\-oY на Г*AХИ.
так что лагранжевым по отношению к стандартной симплекти-
симплектической структуре на Г(ХХП будет скрученное каноническое
отношение
G' = {(х, I, у, - ц); (х, I, у, Л) е= G).
(Напомним, что эта перемена знака уже встречалась нам в ис-
исчислении волновых фронтов в § 8.2, в частности в тео-
теореме 8.2.14.) Отсюда следует, что если взять чистую фазовую
функцию ф, задающую G', то она будет задавать G по формуле
B1.2.9) G = {(x, <р'х(х, у, 8), у, -q>'y(x, у, 9)); <&(х, у, 8) = 0}.
В дальнейшем, говоря о каноническом отношении, задаваемом
фазовой функцией, мы всегда имеем в виду эту формулу с из-
измененным знаком при второй переменной слоя.
Предложение 21.2.19. Пусть X, У, Z — многообразия класса С°°
и G\, Gi — однородные канонические отношения в (Т*(Х)\0)
X(T*(Y)\0) и (Т* (Y)\0)X(T* (Z)\0), локально задаваемые не-
невырожденными фазовыми функциями у(х, у, 8), 0eRv, и ^(у, г, т),
те R&,определенными внекоторых конических окрестностях точек
(Хо, г/о, во) и (г/о, г0, т0), в которых у'в = 0, ^ = 0, Ч>'у + %= 0.
Если композиция G\ ° G2 чиста в соответствующей точке, то
Ф (х, z, у, 9, т) = ф (х, у, в) + о}) (у, г, г),
где у, 8, т рассматриваются теперь как параметры^, будет
чистой фазовой функцией, задающей эту композицию. Эксцесс
фазовой функции Ф равен эксцессу чистого пересечения G\ X G%
и T*(X)XA(T*(Y))XT*(Z).
Заметим, что точка (г/, 8, г) пробегает некоторое коническое
многообразие, так что фигурирующее в определении фазовой
функции условие однородности истолковывается в данной ситуа-
ситуации очевидным образом. Можно также, чтобы достичь букваль-
буквальной согласованности с определением 21.2.15, взять в качестве
параметра
где пу = dim У.
') То есть в определении 21.2.15 роль х играют (х, г), а роль 6 играют
(у, 6, т), — Прим. ред.

21.2. Подмногообразия снмплектического многообразия 395
Доказательство. То что ф и if невырожденны, означает, что (ло-
(локально)
М = {(*, у, в); Ф; = 0} и N = {(у, г, т); % = 0}
являются многообразиями, касательные плоскости к которым
задаются соответственно условиями йфд = 0 и di|/=0, и что
отображения
М э (х, г/, 9).-»(ж, q?, г/, - q?) е= G,,
ЛГ э (у, г, т) w* (г/, i^, z, - ^) е G2
суть локальные диффеоморфизмы. То что композиция G\ ° G2
чиста, означает прежде всего, что
G = {(х, I, у', ц', у", л", г, I) e G, X G2; / = г/", л' = л"}
есть многообразие размерности я* + nY + П/+ лг—2пу + е =
п*+ «г + е. где е — эксцесс указанного в формулировке предло-
предложения пересечения. Если параметризовать Gi X G2 с помощью
(х, у', G, у", z, т) е М X W, то G будет задаваться уравнениями
I=<р; (х, /, е), /=у\ п"=- ф; (*. /> 6).
V = Л", Л" = Ф; {У", z, т), ? = - ф'г (г/", г, т),
а касательные плоскости к G—условием обращения в нуль всех
соответствующих дифференциалов, помимо дифференциалов от
Фа и ^т> условие обращения в нуль которых задает касательные
плоскости к М X ЛГ. Все это просто выражает чистоту упомяну-
упомянутого пересечения. Утверждение предложения состоит в том, что
множество
{(х, z, y,Q, т); <р?(х, у, 6) = 0, ^{у, г, т) = 0,
q>'u(x, у.В) + *'у(у, г,т) = 0}
представляет собой многообразие, касательные плоскости к ко-
которому задаются уравнениями
Но, полагая у' = у" = у и ц' = — у'у{х, у', Э), т\" = $'у{у", г, т),
мы отождествляем упомянутые выше множества и касательные
плоскости. Поскольку эксцесс фазовой функции Ф по определе-
определению равен dim G — dim(XXZ). предложение доказано.
В § 21.6 мы вернемся к рассмотрению композиции канониче-
канонических отношений и, в частности, обсудим некоторые операции над

396 21. Симилектическая геометрия
определенными на канонических отношениях полуплотностями.
Как и в § 18.2, эти последние выступают в качестве символов
распределений, ассоциированных с лагражевыми многообра-
многообразиями (см. гл. 25).
21.3. Нормальные формы функций
Теория псевдодифференциальных операторов, развитая в § 18.1,
позволяет в вопросах, касающихся регулярности и существова-
существования решений псевдодифференциального уравнения
заменять главный символ р оператора Р произведением этого
символа на любую не обращающуюся в нуль однородную функ-
функцию q. Действительно, всякую такую функцию q можно считать
символом некоторого эллиптического и, значит, по существу об-
обратимого оператора; уравнение Ри = f почти равносильно тогда
уравнению QPu = Qf. Микролокальный подход, при котором ин-
интересуются лишь равенствами, справедливыми по модулю функ-
функций, волновой фронт которых не содержит данной точки (х0, to)
кокасательного расслоения, дает возможность локализовать это
рассуждение, так что достаточно обратимости q в одной точке.
В частности, точки, нехарактеристические для р, не представ-
представляют интереса при микролокальном подходе.
В гл. 25 мы расширим теорию псевдодифференциальных опе-
операторов, развив аппарат, позволяющий также изменять главный
символ посредством его композиции с каким-либо локальным од-
однородным каноническим преобразованием. Чтобы извлекать
пользу из этого обстоятельства, нужно знать ряд простых нор-
нормальных форм, которые можно изучать в явном виде и к одной
из которых можно свести любой главный символ с помощью
двух основных операций:
(i) умножение на множитель, не обращающийся в нуль,
(И) взятие композиции с локальным однородным канониче-
каноническим преобразованием.
Настоящий параграф посвящен геометрическому исследованию
таких нормальных форм. Этот материал не понадобится нам
вплоть до глав 26, 27, так что читатель вполне может повреме-
повременить с его изучением, не потеряв нити изложения.
Пусть р — комплекснозначная С°°-функция, однородная сте-
степени т в некоторой окрестности точки @, |o)s r*(Rn)\0. Умно-
Умножением на не обращающуюся в нуль функцию | g f *—*** всегда
можно сделать степень однородности равной любому удобному
числу s; часто оказывается удобным выбор s = 1. Прежде всего

21.3. Нормальные формы функций 397
отметим одно немедленное следствие теоремы 21.1.9, где это
как раз так:
Теорема 21.3.1. Пусть р — вещественнозначная С^-функция, опре-
определенная в некоторой конической окрестности точки (О,?о)
er*(R")\0, удовлетворяющая условию р@,10) = 0, однород-
однородная степени 1 и такая, что направление отвечающего ей гамиль-
тонова поля Ир в точке (О, go) отлично от радиального. Тогда
найдется однородное каноническое преобразование %, перево-
переводящее некоторую коническую окрестность точки @, ел),
еп=@, ..., О, 1). в коническую окрестность точки (О, |о).и та-
такое, что %*р = |i.
Доказательство. В силу сделанных предположений условия тео-
теоремы 21.1.9 выполнены для р\ = р, а = О, Ъ = е„, поэтому можно
дополнить pi до системы однородных симплектических коорди-
координат qt, pk вблизи @, go), удовлетворяющей условиям <//= О,
р* = б»„ в точке @, to).
Для комплекснозначных р поставленная выше проблема эк-
эквивалентности гораздо сложнее, и мы ограничимся обсуждением
ряда важных частных случаев. Будем при этом писать р — р\
+ ip2, где р\ и рч вещественнозначны. Если dp\ и dpi линейно не-
независимы в данной точке, то уравнение р =0 определяет в неко-
некоторой ее окрестности многообразие коразмерности 2. Разберем
сперва случай, когда это многообразие инволютивно.
Теорема 21.3.2. Пусть р — однородная С°°-функция, определен-
определенная в некоторой конической окрестности точки @, lo)s ^(R^XO
и равная 0 в этой точке, и пусть
B1.3.1) поля Re Яр, Im#p и радиальное векторное поле ли-
линейно независимы в точке @, |0),
B1.3.2) {р,р} = —2i{Re;P, Imp} = 0 во всех достаточно близ-
близких к @, go) точках, в которых р = 0.
Тогда найдутся однородная не обращающаяся в нуль С°°-функция
а(х, 1) и однородное каноническое преобразование %, переводя-
переводящее коническую окрестность точки @, е„) в коническую окре-
окрестность точки @, ?о), такие что %* (ар) = Ь + ih-
Доказательство, Из условия B1.3.1) вытекает, что множество
V = p~l(O) является вблизи @, |0) коническим С°°-многообра-
зием коразмерности 2,-на касательной плоскости к которому в
точке @, |о) каноническая один-форма не равна тождественно
нулю. Условие B1.3.2) показывает, что на V мы имеем
a(Re//p, Im#p) = 0, т. е. V инволютивно. Поэтому, в силу тео-
теоремы 21.2.4, можно однородным каноническим преобразованием

398 21. Симплектическая геометрия
привести V и go в требуемое положение, так что мы будем с этого
момента считать, что go = en, a V задается условиями gi = g2
= 0. Можно также считать, что степень однородности функции р
равна 1. Далее, на V
Нр = <хх (х, I) д1дхх + а2(х, I) д/дх2,
где комплексные числа а\ = dp/<3gi и а2 =др/д^2 порождают
комплексную плоскость. Это эллиптический оператор по х\, x2
(по существу, оператор Коши — Римана), гладко зависящий от
параметров хз, ?з, •••. In, и функции аь а2 однородны сте-
степени 0. (Вне V выражение для Нр может быть очень сложным,
но мы обойдем это затруднение.) Следовательно, ввиду тео-
теоремы 13.3.3, у уравнения Hpu = f на V для f e С°° существуют
локальные С^-решения; если правая часть / однородна степени
ц, то и решение и мы можем выбрать однородным степени ц.
Покажем теперь, что можно сделать {р, р) тождественно равным
0, умножив р на некоторую не обращающуюся в нуль функцию.
Разобьем рассуждение на несколько шагов.
а) По предположению, {р,р} = 0 на V, поэтому в силу фор-
формулы Тейлора (а точнее, теоремы 1.1.9) имеем вблизи @, е„)
{р, р) = fop + fiP,
где fi е С00. Далее, положим q = ешр, где w — функция, одно-
однородная степени 0. Тогда скобка Пуассона
B1.3.3) {q, «7} = е2 *е *-({/?, р) + {р, w} р + {w, p}p+{w, w) pp)
будет О(р2) вблизи @, go), если на V
f0+{p,w}=0, h + {w, p} = 0.
Поскольку {р, р) = {р, р} = — {р, р), всегда можно заменить /0
на (f0 — fi)/2, a fi — на (f\ — Fo)/2 и тем самым добиться, чтобы
fo = —f\. Приведенные выше два уравнения будут тогда совпа-
совпадать между собой, поэтому, выбрав w, удовлетворяющее на V
уравнению Hpw = —f0, получаем {q, q} = 0 (p2).
b) Предположим, что {р, р}=О{рк) вблизи @, to) для неко-
некоторого k > 1. Как и на шаге а), имеем
к
{р, Р) =- Е f !р'рк-{, где fk_, = -},.
о
Положим теперь q = e®p, где
1
Тогда последний член в правой части B1.3.3) есть О(р2*-')
(а значит, О(рк+1)), поскольку, как только мы «высвобождаем»

21.3. Нормальные формы функций 399
любые два из наших 2k сомножителей р, р, так сразу появляется
скобка Пуассона {р, р}=О(рк). В двух средних членах вклады,
связанные с появлением скобки Пуассона от р и р, суть О(р2к~1),
а значит, О(р*+1). Таким образом, скобка Пуассона B1.3.3) бу-
будет O(pk+l), если
ff-\-HpWj — HpWb-j = 0 на V.
Так как ffe_;- = —/,-, то при замене / на k — / мы получим то же
самое уравнение; поэтому достаточно решить уравнения с / sgC k/2.
Следовательно, можно взять ш,- = 0 при / > k/2, и мы получаем
уравнения
при j<k/2,
при / = kj2,
ибо функция fj — чисто мнимая, когда / = k/2 является целым
числом. Далее, // можно выбрать однородными степени 1—k, и,
продолжая по однородности решения приведенных выше урав-
уравнений для случая |||= 1, мы получим функции W/, однородные
той же степени, а функция да будет тогда однородна степени 0.
с) Повторно выполняя шаг Ь), найдем функции да', имеющие
нуль порядка / на V и однородные степени 0, такие что для
каждого k скобка Пуассона {qk, qk), где
- • • • + w%
имеет нуль порядка k + 2 в некоторой фиксированной окрестно-
окрестности точки @, &п) на V. Взяв функцию w с тейлоровым разложе-
разложением даэ + wl + ... на V и однородную степени 0, решаем за-
задачу «с точностью до бесконечного порядка» — добиваемся, чтобы
интересующая нас скобка Пуассона имела на V нуль бесконеч-
бесконечного порядка.
d) Итак, дело свелось к случаю, когда
где функции С/ однородны степени 0 и имеют нуль бесконечного
порядка на V. Можно считать, что др2/д%2 ф 0. Выберем одно-
однородную степени 0 функцию /i так, чтобы
т.е.
н чтобы f 1 = 0 при х2 = 0. Решение этого уравнения первого по-
порядка единственно, а следовательно, однородно степени 0, и оно
имеет на V нуль бесконечного порядка, так как поле ЯР2 каса-
касательно к V; чтобы убедиться в этом, надо просто последова-
последовательно дифференцировать уравнение. Теперь заметим, что
ь ef'p2} = 0, если {е^рь /2} + е^с2 = 0;

400 21. Симплектическая геометрия
у последнего уравнения снова есть решение f2, имеющее на V
нуль бесконечного порядка. Таким образом, функция
а = (еЬрх + ief%)/(p, + ip2)
= 1 + ((ef- -l)Pl + l (eh - 1) P2)/(Pl + ip2)
бесконечно дифференцируема и отличается от 1 на функцию,
имеющую на V нуль бесконечного порядка. Наконец, функция
q = ар обладает требуемым свойством (Re<7, Im q) = §. Ввиду
теоремы 21.1.9 можно дополнить Re<7 = gi и Im<7 = |2 до неко-
некоторой новой однородной симплектической системы координат,
чем и завершается доказательство.
Замечание. Отметим, что после описанной выше редукции наше
гамильтоново поле превращается просто в оператор Коши—Ри-
мана по Х\ + ix2. Эта простота весьма важна для нас, поскольку
позволяет установить связи с классической теорией функций и,
кроме того, удобно иметь дело с оператором, с которым мы
умеем обращаться и вне V.
Теперь изучим противоположную ситуацию, когда {рр)
в некотором нуле у функции р. В этом случае поля Reffp, \mHp
и радиальное векторное поле р линейно независимы в точке у,
поскольку если выполнено линейное соотношение
то, применяя его к Im#p, мы заключаем, ввиду однородности р,
что a {Re Яр, Im Яр} = 0, а применяя его к ReHp, — что 6{1тЯр,
ReЯp} = 0. В частности, jtH(O) вблизи у представляет собой мно-
многообразие коразмерности 2. Заметим, что там, где р = 0,
{ар, ар) = | а ? {р, р),
поэтому знак скобки Пуассона {Rep, Imp} нельзя изменить с по-
помощью допускаемых нами операций. Следующая теорема пока-
показывает, что это и единственный инвариант:
Теорема 21.3.3. Пусть р — функция класса С°°, однородная в не-
некоторой конической окрестности точки @, |о), причем в этой
точке р = 0, a {Rep, Imp}> 0 (соотв. <0). Тогда существуют
однородное каноническое преобразование %, переводящее кониче-
коническую окрестность точки @, е„) (соотв. @,—е„)).в коническую
окрестность точки @, ?о), " С°°-функция а с а@,10)ф0, такие
что
Для доказательства этой теоремы нам понадобится одна лем-
лемма, которую мы сформулируем в достаточно большой общности,
рассчитанной на еще одно применение в дальнейшем.

21.3. Нормальные формы функций 401
Лемма 21.3.4. Пусть р и q — вещественнозначные функции клас-
класса С°° вблизи данной точки у симплектического многообразия S,
в которой р = q = 0, а {р, q) > О, и пусть а, Ь — положительные
числа, удовлетворяющие условию а + Ь = 1. Тогда существует
единственная положительная функция и класса С°° в некоторой
окрестности точки у, такая что
B1.3.4) {uap,ubq} = l.
В случае когда многообразие S — коническое, а р и q однородны
степеней mum' соответственно, функции иар и ubq однородны
степеней аA — т')-\-btn и am' -\-Ъ\\ — т) соответственно.
Доказательство. Равенство B1.3.4) можно записать в виде
B1.3.4)' u{p,q} + {bqHp-apHq)u=l.
На многообразии У коразмерности 2, задаваемом условиями
p = q — O, оно сводится к уравнению и{р, q}= 1. Поэтому, пола-
полагая uQ = \/{p, q), po = pu°, qo = qub, мы имеем {Po,qo}=\ на V.
Чтобы не усложнять запись, предположим, что р и q с самого
начала обладали этим свойством. По теореме Дарбу (теорема
21.1.6) можно выбрать симплектические координаты так, чтобы
gi = р, у=@, 0). Таким образом, dq/дххФЪ в точке @,0), и,
следовательно, уравнение <7 = 0 можно разрешить относительно
хх: х1 = Х(х',Ъ), где х'=(х2, ..... хп). Поскольку {\и х\
— Х(дс',?)}= 1, еще раз применяя теорему 21.1.6, заключаем, что
можно взять х\ — Х(х',\) в качестве новой симплектической ко-
координаты вместо х\. В этих координатах мы имеем р = \\, а
q = Qxu Qe С00. Уравнение B1.3.4)' принимает теперь вид
•?-+(»?-*.-&¦+*?¦¦&)•+••¦-'¦
где многоточие обозначает дифференциальный оператор, коэф-
коэффициенты которого имеют нуль второго порядка при х\ = 1\ = 0.
Деление на dq/dxi приводит это уравнение к виду, рассматри-
рассматриваемому в теореме С.2.1, ссылкой на которую и завершается
доказательство первого утверждения леммы.
Пусть теперь р и q однородны. Выберем и так, чтобы B1.3.4)
выполнялось в некоторой окрестности точки у, и положим
р = и"р, Q = u"q. Тогда {Р, Q}= 1. Положим, далее, М'Р = Ри
M'tQ = Qt и M\u — uv где Mt — оператор умножения на t в S.
Тогда
в силу B1.1.6), и, поскольку pt = uattmp, Qt = u,bttmq, мы полу-
получаем

402 21. Симплектическая геометрия
Ввиду единственности решения уравнения B1.3.4) отсюда сле-
следует, что
в некоторой фиксированной окрестности точки у, при условии
что t близко к 1. Значит, и можно продолжить до однородной
функции степени 1 — т — т', причем равенство B1.3.4) сохра-
сохраняет силу на некотором коническом множестве. Тем самым до-
доказано, что Р и Q обладают утверждаемыми свойствами одно-
однородности.
Доказательство теоремы 21.3.3. Предположим, что {Re р, Im p)
> 0. Применив к Rep, Imp лемму 21.3.4 с а = 6 = 1/2 и
у =@, |о), получим функцию и, такую что произведение и1/2р = р
однородно степени 1/2 и {Rep, Imp} = 1. Выберем теперь веще-
ственнозначную однородную функцию h степени 1, удовлетво-
удовлетворяющую уравнениям
{Rej5, Л} = {Imp, Л} = 0
и условию h{y)= 1. Чтобы сделать это, просто найдем решение
этих дифференциальных уравнений, ограничение которого на
V=p~'@) равно какой-нибудь заданной функции класса С00,
принимающей значение 1 в точке у. Это возможно, поскольку
[#Re?, #imp] = 0 в силу тождества Якоби, так что применима
теорема Фробениуса (см. следствие С. 1.2). Заметим, что пло-
плоскость, натянутая на векторы #Re p и Himp, трансверсальна к V.
Из единственности решения следует его однородность. Далее,
теорема 21.1.9 показывает, что вблизи (О, %0) можно найти одно-
однородные симплектические координаты, такие что
и у\ = ...== yn = r\i= ... = Tin—1 =0в точке у. Тогда
что и доказывает теорему для случая {Re p, Im p) > 0. В случае
противоположного знака применяем этот результат к р и заклю-
заключаем, что существуют симплектические координаты, такие что
точка @, |о) получает координаты @, еп), а произведение функ-
функции р на некоторую не обращающуюся в нуль функцию равно
Л1 — 1у\Цп- Теперь остается только заменить координаты уп, у\п
на —у„, —Цп- Предложение доказано.
Множество нулей функции р может быть симплектическим
многообразием коразмерности 2 даже в случае, когда скобка

21.3. Нормальные формы функции 403
Пуассона (Rep, Imp} тождественно равна 0 на нем. Примером
служит
Р~Р, + «РЯ = ?, + ***?„, k>\.
Здесь {р„ р2} = ***-'!„, Hpi = d/dxl, H^-kx\-\dldlx
-f- х^д/дхп, поэтому все составленные из р\, р2 скобки Пуассона,
содержащие не более k сомножителей, равны нулю при %i =xi
= 0, но
А = {/>.. {Рр •••' {Р,. Р2> ¦••}} = кЧпФ0 при 1„=*0.
Инвариантное описание этой ситуации.дает
Теорема 21.3.5. Пусть p = Pi + JP2— однородная С""-функция,
определенная в некоторой конической окрестности точки
у = @, |о), причем в этой точке р = 0, а Нр, Ф 0. Предположим,
что рг вблизи у имеет нуль фиксированного порядка k> 1 на
каждой интегральной кривой поля Н _ в р~1 @) (т. е. на каждом,
слое гамильтонова слоения инволютивной поверхности рр'(О)).
Тогда нули функции р, лежащие вблизи у, образуют некоторое
многообразие V. На V выполнены следующие соотношения:
Нрг— ЬНр„где b e С00, все скобки Пуассона от р\ и р2 с более
чем k сомножителями равны нулю и для любой функции а^С0*
B1.3.5) HkReaplmap = \af(Re(a + iba))k-lHkReplmp.
Существуют однородное каноническое преобразование у, перево-
переводящее коническую окрестность точки @, ея) в коническую окре-
окрестность точки @, ?о)> " С°°-функция а с а@,1о)Ф 0, такие что
за исключением случая, когда знак правой части B1.3.5) всегда
отрицателен, т. е. когда k нечетно, a HRe p Im p < 0; в этом слу-
случае Imp меняет знак с плюса на минус при движении вдоль ин-
интегральных кривых поля Яр, и высказанное утверждение спра-
справедливо при замене гп на —е„.
Прежде чем доказывать эту теорему, докажем один общий
результат о приведении к нормальному виду, вытекающий из
подготовительной теоремы Мальгранжа. Хотя он и не дает на-
настоящей нормальной формы, он будет играть важную роль
в гл. 26 и 27.
Теорема 21.3.6. Пусть p = pi + ip2 — однородная С°°-функция,
определенная в некоторой конической окрестности точки @, ?0),
и пусть в этой точке р = 0, а вектор Нр линейно независим с ра-
радиальным вектором. Тогда существуют однородное симплектиче-

404 21. Симплектнческая геометрия
ское преобразование %, переводящее коническую окрестность
точки @, е„) в коническую окрестность точки @, ?о), и одно-
однородная С™-функция а с а @, %о)фО, такие что
% {ар) = |, + *7(х, Г),
|' = (?2, .... in) • Таким образом, мнимая часть функции
X* (ар) не зависит от ?i.
Доказательство. Можно считать, что функция р однородна сте-
степени 1 и что направление поля #Rep не совпадает с радиальным.
По теореме 21.1.9 можно выбрать однородные симплектические
координаты так, чтобы pi = ii и ?0 = е«. Тогда, в частности,
др/д%1 ф О и, согласно подготовительной теореме Мальгранжа
(теорема 7.5.6), найдутся функции q, г класса С°° вблизи @, е„),
такие что
где г не зависит от %\. Сужая наши функции на гиперплоскость
|п = 1 и продолжая их с нее по однородности, можно сделать
q и т однородными степеней 0 и 1 соответственно. Таким обра-
образом, записывая т в виде г = г\ + Ьг, имеем
и новое применение теоремы 21.1.9 дает однородные симплекти-
симплектические координаты с yi = xi и rji = ?i — п. Тогда НУ1 = Нх, =
— д/д1,и а потому #у/2—0- Следовательно, в этих новых коорди-
координатах —тч = f(y,тH, а значит, <?Р = Л1 + *?(«/¦ л'). гДе / не за-
зависит от тц. Поэтому функция a =q и преобразование /: (г/, tj)
ь-*(х, i) обладают требуемыми свойствами.
Доказательство теоремы 21.3.5. На гиперповерхности Уь зада*
ваемойусловием р\ = 0, нули функции q = #*~ 'р2 образуют гипер-
гиперповерхность V2, на которой {рь^^О и Я^р2== 0при /< k. По-
Поэтому ограничение функции р% на V| делится на qk, а следова-
следовательно,
р2 = bp{ + cqk,
{Ри р2} = Pi {Pi. *} + {Pi. с} qk + ck {pu q) qk~\
где b, c^C°°. Таким образом, множество V нулей функции-р
локально совпадает с V2, и там, где это совпадение имеет место,
#Р! =?#р,. Все скобки Пуассона с более чем k сомножителями
Рь Рг равны нулю на V. Действительно, взятие скобки Пуассона
от {рьРг} и cqh дает нуль порядка k—1, который нельзя убить
последующими k — 2 скобками Пуассона, и скобка Пуассона от
функций, делящихся на ри снова делится на р\. Поэтому доста-

21.3. Нормальные формы функций 405
точно доказать B1.3.5) для случая, когда а — константа. Но
в этом случае
{Re ар, Im ар) = i {ар, ар}/2 = | a f {Re p, Im p),
а Н^\р можно заменить на (Re (a + iab)f~x #|7р-
Выберем теперь функцию а и новые симплектические коор-
координаты так, чтобы функция ар имела вид
д = 1 + //(*, Г)
и Y = @,е„) (теорема 21.3.6). Так как HRet, = d/dxi^0, из
уже доказанной части теоремы следует, что нули функции q, ле-
лежащие вблизи @, е„), образуют многообразие коразмерности 2,
на котором
?, = 0, d'f(x, l'ydx{ = 0 при \<k и д^{хЛ'Iдх\ФО.
Уравнение dk~l f(x, ?')/d**~' = 0 определяет Х\ как некоторую
С°°-функцию Х(х',1'), и производная d'f {x, l')jdx[ должна рав-
равняться нулю при xi == Х(х',%'), поскольку множество нулей
функции q есть многообразие коразмерности 2. Таким образом,
частное f(x,%')/(x\—X(x',\'))k гладко и положительно, в слу-
случае если dkf(x, Ц,')/дх* > 0 в точке @, еп), как мы сперва и пред-
предположим. Следовательно, из него можно извлечь положитель-
положительный корень А>-й степени, так что f(x,?,') — gix.l')*, где функция
g принадлежит классу С°°, однородна степени l/k и удовлетво-
удовлетворяет условию {lug{x, ?')}> 0 в точке @, е„). Теперь можно
применить лемму 21.3.4 с р, замененным на ?ь и q, замененным
на g, при а = k/(k + 1) и Ъ = l/{k + I). Это дает функцию и,
такую что
{ф, ф}=1, где ф = ы6/<*+1^1> i|> = uW*+»?.
Функция ф однородна степени k/(k+ I), a \|j однородна степени
\/(k-\- 1). Как и при доказательстве теоремы 21.3.3, мы можем
подобрать функцию h, однородную степени 1 и удовлетворяю-
удовлетворяющую условию ft@, е«)= 1, так, чтобы
По теореме 21.1.9 найдутся однородные симплектические коор-
координаты у, х\ в окрестности точки @, еп), такие что г/ = 0, г\ = еп
в этой точке и
Тогда

406 21. Симплектическая геометрия
и тем самым в случае dkf/dx* > 0 теорема доказана В случае
противоположного знака можно применить это заключение к
функции р и привести р к виду т),—Wi\ вблизи @, е„). Если
к четно, то, умножив на —1 и взяв —у\, —r\i в качестве новых
координат вместо уи г\\, приходим к нужной форме. Если ft не-
нечетно, то заменяем уп, т]п на —уп, —rin и получаем эквивалент-
эквивалентность с ц1 + ty*^ в некоторой окрестности точки @, —еп). Знак
выражения в правой части B1.3.5) в этом случае неизменяем, и
потому добиться эквивалентности с т], -J- iyfr\n вблизи точки
@, е„) нельзя.
21.4. Складки и гиперповерхности
со скользящим пересечением
В предыдущих параграфах мы изучили ряд проблем симплекти-
ческой классификации в невырожденных ситуациях. Теперь рас-
рассмотрим некоторые простейшие вырожденные случаи, отправ-
отправляясь от лагранжевых подмногообразий Л кокасательного рас-
расслоения Т* (X). Если Л является сечением, т. е. проекция л: Л -*¦ X
есть диффеоморфизм, то, как мы знаем, Л локально представ-
представляет собой график дифференциала некоторой функции на X;
в действительности это наблюдение, сделанное в § 6.4, было как
раз тем моментом, когда мы впервые соприкоснулись с теорией
лагранжевых многообразий. Исследуем, далее, случай, когда
я — складывающее отображение (по поводу определения исполь-
используемых в этом параграфе понятий и основных относящихся
к ним фактов см. § С.4).
Теорема 21.4.1. Пусть X — многообразие класса С°° и Л — лаг-
ранжево подмногообразие в Т*(Х), такое что проекция Л->-Я
имеет складку в точке (х0, |0)е Л. Тогда существуют локальные
координаты х в X, обращающиеся в нуль в точке х0, и функция
Ир (х) класса С°° вблизи 0, такие что вблизи точки (х0, Ъ) много-
многообразие Л допускает следующую параметризацию:
B1.4.1) Л = {(*. дОр/дх', дЪ/дхП±х]1*); хп>0).
Здесь х' =(хи ..., Xn-i).
То что B1.4.1) определяет многообразие со складывающей
проекцией, становится очевидным, если положить xn = fy рас-
рассматриваемое множество принимает тогда вид
{(?, tl, d^(t', tl), ..., dn*(t', ® + tn)}.

21.4. Складки и гиперповерхности со скользящим пересечением 407
При tn ф 0 мы имеем графики дифференциалов двух функций
ф (х) ± B/3) х^2, поэтому ясно, что Л — лагранжево многооб-
многообразие.
Доказательство. В силу теоремы С.4.2 можно выбрать локаль-
локальные координаты t\, ..., tn в Л и Х\, ..., хп в X так, чтобы про-
проекция точки из Л с координатами (f, tn) имела в X координаты
(/> Р\ Тогда Л представляется в виде
где \{t)—некоторая С°°-функция от t со значениями в К"; мы
используем стандартные координаты в кокасательном расслое-
расслоении. Из лагранжевости Л следует, что форма
Е &,*, + *.<*(/¦).
замкнута, а значит, является дифференциалом некоторой функ-
функции ф(/) С
d/d = I, при /<л,
Следовательно, Л есть график (точнее, объединение графиков)
дифференциалов двух функций qp (х\ ± хЦ2) при хп > 0. Чтобы
представить его в нужной форме, запишем ф в виде ф = фчет
+ Фнеч, где функция (p4iT(t) = ((p(t',tn)+(f{t',—tn))/2 четна от-
относительно определяемой складкой инволюции в Л, а фнеч не-
нечетна.Из теоремы С.4.4 мы знаем, чтофчет@ = 'Ф(//, РЛ для неко-
некоторой функции ip класса С°° вблизи 0. Поскольку U, ..., tn слу-
служат параметрами на Л, то д^/дгпф0 в 0 для некоторого /.
Но dlj/dtn = d2<f/dtjdtn = 0 в 0 при / < п, значит, мы должны
иметь dln/dtn Ф 0 в 0, т. е.
Изменив, если надо, знак у tn, можно считать, что эта произ-
производная положительна. Так как dl(fHe4/dtn = O при tn = 0 для
/ < 3, мы можем теперь записать фнеч в виде фнеч (t) = finF (t), где
F — функция класса С00, удовлетворяющая условию F@)>0 и
четным образом зависящая от tn. Поэтому теорема С.4.4 пока-
показывает, что существует функция G класса С°° вблизи 0, такая
что
(C/2Фнеч @J/3 = (W (OF31\ = G {ft fin).
При хп =0 мы имеем G = 0 и dG/dxn > 0, а при хп > 0 имеем
фнеч(х', ±JCn1/2) = ±2/з<?(хK/2. Взяв G(x) в качестве новой пере-
переменной вместо хп, получим утверждение теоремы.

408 21. Симплектическая геометрия
Замечание. Функция \р и координатная функция tn однозначно
определены в области, где tn > 0, а в остальном произвольны,
лишь бы они были гладкими. Прочие переменные — это любые
переменные, определяющие координатную систему. Поэтому дру-
другая формулировка теоремы состоит в том, что существуют две
функции ф и \J> класса С°° вблизи х0 с ф(хо) = О, <р'(хо)ф0, такие
что проекция многообразия Л на X локально задается условием
Ф>0 и Л представляет собой график дифференциалов функций
ф ±B/3)ф3/2. Лагражевы многообразия такого вида часто воз-
возникают в теории дифракции.
Теперь рассмотрим складки над симплектическими многооб-
многообразиями. Это приводит к вырожденным симплектическим струк-
структурам, которые мы уже обсуждали в § 21.1.
Теорема 21.4.2. Пусть S — симплектическое С°°-многообразие,
Т — произвольное С°°-многообразие той же размерности 2п, что
и S, и f: 7* ->- S — отображение класса С°°, имеющее складку в
точке t0- Тогда существуют локальные симплектические коорди-
координаты х, | «a S, обращающиеся в нуль в точке f(to), и локальные
координаты у, ц на Т, обращающиеся в нуль в t0, такие что
B1.4.2) f(y, т)) = (</,, ...,Уп, Ч?/2, л2. •••> %)¦
Поэтому поднятие с S на Т симплектической формы а задается
формулой
п
B1.4.3) f<x-=tii*liA<ty,
Обратно, пусть у, ц — локальные координаты на Т, обращаю-
обращающиеся в нуль в t0, причем все они четны относительно инволю-
инволюции, определяемой складкой, за исключением координаты у\и ко-
которая нечетна. Тогда если поднятие f*a задается формулой
B1.4.3), то существуют локальные симплектические координаты
х, I вблизи f(ta), такие что справедливо B1.4.2).
Доказательство. В силу теоремы С.4.2 можно выбрать локаль-
локальные координаты t\, ..., Un на Т, обращающиеся в нуль в точке
t0, и локальные координаты s\, ..., s2n на S, обращающиеся
в нуль в точке f(to), такие что
По теореме Дарбу 21.1.6 найдутся локальные симплектические
координаты х, | на S, обращающиеся в нуль в точке /(/0), такие
что || = Sin- Тогда

21.4. Складкн н гиперповерхности со скользящим пересечением 409
будут локальными координатами вблизи точки /0- Действительно,
если производные от у;, у\/ в этой точке по направлению у равны
нулю для всех /, то <y, dt2n) =0и
</' Со) Y, dX]) = </' (/„) Y, dlt) = 0, / = 1 п,
поскольку (/' (/0) y, dl^ = (у, е^„/2) = 0; следовательно, у = 0.
Так как i\y2 — f\, имеет место B1.4.2), чем и доказано первое
утверждение теоремы.
Чтобы доказать второе, выберем, опираясь на теорему С.4.4,
функции qlt рк класса С°° вблизи f(t0), такие что f*q,= yj и
f*pk=4k при кф\, а />,=г)у2. Из B1.4.3) следует, что
Ypji на образе отображения f; в частности, мы ви-
видим, что q, p служат локальными координатами вблизи точки
/(/о). Они являются симплектическими при р\ > 0, но при
р\ < 0 совершенно произвольны. Положим теперь |/ = р/, Xj = <7/
в той области вблизи нуля, где р\ > 0, и продолжим эти функ-
функции на некоторую полную окрестность нуля так, чтобы
Эти уравнения выполняются при р\ > 0, и, поскольку Я, ,= — \x
при pi = 0, они однозначно определяют х, % в некоторой окре-
окрестности нуля. Для этих новых координат коммутационные соот-
соотношения справедливы и при ^ < 0, так как, в силу тождества
Якоби,
#</¦ {*/, хк) — {qx> {xh xk}} == - {хк, {qu дс;}} + {xjt {qu xk}} — 0
и аналогично для других скобок Пуассона. Итак, эти коорди-
координаты симплектичны, и равенство B1.4.2) остается в них верным,
чем доказательство и завершено.
Поднятие aT = f*a формы а с S на Т является, конечно, зам-
замкнутой два-формой. Если обозначить через / инволюцию, опре-
определяемую складкой, то ifат = От, ибо f°i — f. Это очевидно
также из B1.4.3), поскольку i просто меняет знак у тц. Эту си-
ситуацию характеризует следующий вариант теоремы 21.1.7 для
многообразий с инволюцией:
Теорема 21.4.3. Пусть S и а удовлетворяют условиям теоремы
21.1.7. Предположим, что на S задана С™-инволюция i, для ко-
которой Ра —о, и пусть So — множество неподвижных относи-
относительно этой инволюции точек. Тогда на S существуют локаль-
локальные координаты у, г\, такие что а задается правой частью
B1.4.3) и инволюция i лишь меняет знак у координаты r\i.
Доказательство. Дадим доказательство, совсем не использующее
теорему 21.1.7, поскольку наличие инволюции в действительности

410 21. Симплектическая геометрия
сильно упрощает дело. Пусть si, ..., s2n — локальные коорди-
координаты вблизи некоторой точки so e So, такие что инволюция про-
просто меняет знак у «2п- Запишем
а = 2j a,, ds, л ds,.
KI
Так как г*ог = <г, то ?ац равно ац при }ф2п и —а,7 при j = 2n.
Отсюда следует ввиду теоремы С.4.4, что для подходящих
<*=Е tf4/)tfi Ad/,,
где /(s)=(s,, ..., s2re_,, s\J2), ибо это равенство означает
просто, что {*Аи=ац при / < 2п и S2nf*Ait=aii при / = 2я.
Форма
замкнута при ^n ^ 0, поскольку замкнут ее прообраз при отобра-
отображении /, и невырожденна в 0. Следовательно, по лемме Пуан-
Пуанкаре,
d=d(T,B1(t)dtl)
при tin ^ 0 и, скажем, |^|<б, где В/ — некоторые функции
класса С°° в указанной области. Продолжая их до С°°-функций
в шаре {/gR2"; |<|<6}, видим, что функции Ац можно вы-
выбрать так, чтобы форма а была невырожденной замкнутой два-
формой в некоторой полной окрестности нуля. Так как o = f'o,
доказываемое утверждение немедленно следует теперь из тео-
теоремы 21.4.2.
Теорема 21.4.4. Пусть S и а удовлетворяют условиям тео-
теоремы 21.1.7 и f, g — две инволюции, для которых f*a = a,
g*o = а. Предположим, что эти инволюции имеют общее множе-
множество неподвижных точек So и определяемые ими векторы отра-
отражения линейно независимы. Тогда существуют локальные коор-
координаты х, I, такие что
B1.4.4) o^ltdti/ulXi+'Zdt^dx,,
B1.4.5) /(*, !) = (*, -?„ Г), g(x, Б) = (*, + ?„ *', -Б„ Г).
Доказательство. Опираясь на теорему 21.4.3, выберем координа-
координаты х, \, в которых аи/ имеют требуемый вид. Далее, опираясь
на теорему С.4.6, построим другой набор локальных координат
у, т], которые обращаются в нуль в той же точке и в которых
требуемый вид имеют J и g. Нам надо увязать между собой эти
две системы координат. Заметим, что в системе х, | векторное

21.4. Складки и гиперповерхности со скользящим пересечением 411
поле д/дх\ при |] = О однозначно (с точностью до скалярного
множителя) определено как поле, принадлежащее радикалу
симплекгической формы о, а в системе у, т) векторное поле d/dyi
при т)] = 0 однозначно задается с помощью линейной оболочки
указанных в формулировке теоремы векторов отражения. По-
Поэтому первый шаг доказательства состоит в том, чтобы показать,
что эти векторные поля в действительности совпадают (с точ-
точностью до скалярного множителя). С этой целью докажем, что
B1.4.6) t|j {t)i, г//} = Л1(Л]> Л/} —0, / = 2, ..., п,
при t)i = 0, т. е. при ?i = 0
(отметим, что T],#ti, — гладкое векторное поле). Чтобы дока-
доказать это, положим и = у, или т|/ для некоторого /> 1 и заметим,
что f*u = и, g*u = и, a f*g*y\ — У] =—т)ь Отсюда вытекает, что
при t]i Ф О
— (Л1> «} = {Гв'Ун /V") — (#1. "} = /V {Уи "} — [У], «}•
Следовательно,
— Л] {Ль и) ^=/*5*(Л| {У}> и)) — Л]{У|. и}=0 при ^, = 0,
чем B1.4.6) и доказано. Далее,
т\, ( 3r|i д дт)! g ч
где многоточие обозначает гладкое векторное поле, обращаю-
обращающееся в нуль при |i = 0. Но Tji = 0 при |i = 0, поэтому
O и
при |, = 0,
и B1.4.6) дает
B1.4.7) д^/д*, = ^//«3*, = 0, / = 2 п, d^/dxi = 0
при |, = 0,
чем и доказано сделанное выше утверждение о совпадении по-
полей д/дхх и d/dyh
Координаты х, | можно выразить через координаты у, г\:
х, = <Р/(у, Л?» Л') Для всех /,
I, = Л^1 (f/» Л?, Ч'). ?/ = % (У, Л?. Л') Для / > 1.
Здесь мы учли, что все наши координаты, кроме gi и rji, четны от-
относительно инволюции /, а эти две нечетны. Дифференцирование
по х\ дает, с учетом соотношений B1.4.7) и того вытекающего
из них факта, что дух/дх\ Ф 0,
= 0 при }ф\, || = 0.

412 21. Симплектическая геометрия
Таким образом, функции
h = Ф/ (О, У', 0, лО и %, = % (О, г/', 0, л'), / Ф 1.
совпадают при gi = О соответственно с */ и ?/ и четны относи-
относительно / и g. Положим xi = Х\\ это четная относительно /
функция.
Если v е С00, f*v = v и dv/dxi = 0 при |i = 0, то Яо есть
гладкое векторное поле, равное при |] =0
B1.4.8) +f(
Действительно, при %\ ф 0
dv д dv д
Поскольку а и до/дх{ — четные функции от |р то ди/дх} = 0
и 30/^ = 0F,), а значит, dv/dl^l^v/дЩ + О (Ц).
Теперь можно завершить доказательство, весьма близко сле-
следуя доказательству теоремы Дарбу 21.1.6. Чтобы иметь возмож-
возможность использовать B1.4.8), выберем симплектические коорди-
координаты р, q с требуемыми свойствами в таком порядке: рг, <?2, • • •, рп,
qn, pu q}. Положим р2 = U- Тогда р2 = Ь при g, =0 и f*p2
= g*p2 = p2. Затем определим q2 как решение краевой задачи
{р2, Я2) = НрД2 = I, Ь = 0 при х2 = 0.
Это решение единственно вблизи нуля, ибо в нуле dx2 = dx2. Да-
Далее, и само дифференциальное уравнение (условие на скобку
Пуассона), и граничное условие инвариантны относительно fug,
поэтому f*q2 и g*q2 тоже будут решениями, а следовательно,
/*<?2 = g*Q2 = <?2- При |i = 0 указанным уравнению и гранич-
граничному условию удовлетворяет q% = x2, поскольку, как показывает
B1.4.8),
„ д , дгрг д »• г,
я"" + 4~^7 при ll=0;
значит, <72 = *2 при |i=0. Поэтому B1.4.8) применимо к q2, и
мы можем выбрать функцию р3, удовлетворяющую условиям
Нр2рз = Нд!р3 = 0, р3 = 1з при p2 = q2 = 0.
Продолжая таким же образом, получим функции р2, q-i, ..., рп,
qn, которые удовлетворяют коммутационным соотношениям и все
инвариантны относительно f и g; следовательно, эти функции

21.4. Складки и гиперповерхности со скользящим пересечением 413
равны |2, х2, ..., In, хп при gi = 0. Теперь определим р^ как ре-
решение задачи
НР/р} = Hqjp} = 0, />1, Р1 = Л1 при />2 = ... =<7„ = 0.
Так как ii, нечетно относительно / и g, то же верно и для рх. На-
Наконец, решение q\ задачи
Hpflx = Hqflx = 0, / > 1, pKHpflx=\,
<7i = 0 при р2= ... =qn=xl = 0
четио относительно инволюции f, ибо таково х.\, но по отноше-
отношению к инволюции g никакими простыми свойствами не обла-
обладает.
Введем теперь построенные функции q, p в качестве новых
координат г, ?. В этих координатах симплектическая форма о
задается формулой вида B1.4.4), / — формулой вида B1.4.5), а
*(*, 0 = (z,+ 0B, 0, г',~1ь С),
где G — некоторая пока неизвестная функция. Из симплектич-
ности g следует, что
_?,?/(-?,)Ad(z,+ G(z, О) = С,^,Л</г„
поэтому dlihdG^O, а значит, G есть функция от одного ?i. Из
того факта, что g — инволюция, вытекает, что функция G не-
нечетна; при этом C'@)=Ф0, поскольку векторы отражения у f и
g разные. Выполним теперь заключительную замену переменных
2i, ?], чтобы получить функцию G нужного вида. На этом шаге
прочие переменные уже больше не участвуют, так что мы опу-
опустим их в записи и, чтобы избавиться от индексов, введем обо-
обозначения t = г\, х = t,i-
Положим х(t, т) = (tA(т), В(т)). Тогда х»/ = /»х, если функ-
функция В нечетна, а А четна, и к сохраняет симплектическую форму
xdxhdi, если
B1.4.9) В(х)В'(х)А(х) = х.
Наконец, иг1»g °х == go, где go(t,x) — (t + x,—x), если
<, t)
Последнее условие означает, что
G (В (т)) = х А (х) = х2/В (т) В' (т).
Это уравнение легко интегрируется и дает
В(т)
!= [ sG{s)ds.

414 21. Симплектическая геометрия
Так как функция G нечетна и G'(O)=j^O, интеграл в правой части
можно записать в виде B3G\(B)/3, где G\— некоюрая четная
функция с G^OJ^O. Таким образом, мы приходим к уравнению
x = BGi(B)m,
которое однозначно разрешимо по теореме о неявной функции.
Теперь можно из B1.4.9) определить функцию А, которая будет
четной и гладкой в 0, ибо В имеет в 0 простой нуль. Взяв х~' (t, т)
в качестве новых переменных, завершаем доказательство тео-
теоремы.
В качестве первого приложения теоремы 21.4.4 получим нор-
нормальную форму канонических отношений со складками:
Теорема 21.4.5. Пусть S[, S2 — симплектические многообразия
одинаковой размерности с симплектическими формами о\, Ог и
множество G с: 5] X ^2 вблизи точки (s°it sf) e S( X S2 представ-
представляет собой каноническое отношение из Sz в S\, т. е. лагранжево
подмногообразие по отношению к <з\ — о2. Предположим, что обе
проекции щ: G-*¦ S; имеют складки в точке (s°, s°). Тогда можно
выбрать локальные симплектические координаты х, % на Su об-
обращающиеся в нуль в s°lt и у, г] на S2> обращающиеся в нуль в
s%, такие что
G = {(х, 6; у, Л); ?, = Л1 = 2 (*, - у,J, х' = /, Г = л'}-
Доказательство. Положим а = я'о, = л*а2. Согласно теореме
21.4.2, это вырожденная симплектическая форма на G вида
B1.4.3). У инволюций /i и /2 многообразия G, порождаемых ото-
отображениями Я1 и Я2, векторы отражения различны (линейно не-
независимы), поскольку они лежат в ядрах дифференциалов dn/,
а (Я], яг) — инъекция G в S\ X 5г. Поэтому из теоремы 21.4.4 сле-
следует, что можно выбрать локальные координаты t\, ..., tn,
ti Tn на G, обращающиеся в нуль в точке (s°, s°), такие что
п
о = т, dxx t\dtx-\r Y, dXj л dtj,
fi(t,x) = (tl + xl,t', —xux'), f2{t, t) = (/, — т,, t'),
где t' = (t2, ..., tn). Следовательно, tv .... tn, x\, x2, ..., тп
инвариантны относительно /г и, значит, по теореме 21.4.2, на 5г
вблизи si существуют локальные симплектические координаты
у, г], в которых
пгA, т) = G,т2/2, т').

21.4. Складки и гиперповерхности со скользящим пересечением 415
Аналогично /, + "^/2, tv ..., ln, х\, т2 хп инвариантны от-
относительно /(, поскольку /, -f %x -f (— т,)/2 = /, -f- Т[/2. Так как
п
a = xldxl/\d (/, + т,/2) + Z ^, Л Л,,
2
можно выбрать симплектические координаты х, | на Si, в ко-
которых
я, С т) = (/1 + т,/2, /', т*/2, т').
Таким образом,
0 = {(/, + т1/2, Л tf/2, т'; /,,/', т*/2, т')},
откуда очевидным образом следует доказываемое утверждение.
Отметим, что наше каноническое отношение воздействует лишь
на одну из п пар симплектических координат.
Чтобы мотивировать следующее приложение теоремы 21.4.4,
кратко обрисуем ситуацию, из которой оно возникло; это даст
ключ к пониманию используемых в доказательстве конструкций.
Рассмотрим гиперболическое уравнение (второго порядка) в X
с главным символом р. Его бихарактеристики, т. е. кривые га-
мильтонова слоения множества /г-'@), — это световые лучи в
геометрической оптике. Когда такой луч достигает некоторой
поверхности S, задаваемой уравнением s(x) = 0, применяется за-
закон отражения. Это означает, что точка (х, ?_)е Т*(Х), характе-
характеризующая положение падающего луча в момент встречи с S или,
точнее, с r*(X)|s, заменяется на начальную точку (х, |+) отра-
отраженного луча таким образом, чтобы вектор |+ —1_ был конор-
мален к S и, конечно, выполнялось условие р(х, |+) = 0. Другим
способом это можно выразить так: мы идем из |_ в ?+ вдоль га-
мильтонова слоения множества T*(X)\S, т. е. множества нулей
функции s. Затем мы следуем вдоль гамильтонова слоения, по-
порождаемого функцией р, до следующей встречи с P(X)|s и т.д.
При такой формулировке закона отражения обнаруживается
замечательная симметрия между ролями, которые играют функ-
функции р и s. Разумеется, для того чтобы эта процедура была вы-
выполнима для всех лучей, близких к некоторому данному лучу,
касательному к отражающей поверхности, а точнее к f*(J)|s
в точке, скажем, (х0, |0), — а это в действительности наиболее
интересный случай, — нужно наложить определенные ограниче-
ограничения. Во-первых, надо обеспечить, чтобы вблизи точки g_ в нор-
нормальном (к S) направлении от нее существовал ровно один дру-
другой нуль функции р{х,1) (возможно, совпадающий с |_). Это
гарантировано, если мы знаем, что вторая производная от р
в указанном нормальном направлении отлична от нуля, т. е.

416 21. Симплектическая геометрия
{s, {s, р)}Ф 0. Во-вторых* нужно установить контроль над тем,
как бихарактеристики функции р пересекаются с 5. Простей-
Простейший приемлемый случай — это случай простого касания, когда
порядок соприкосновения данного луча с 5 не выше первого,
т. е. H2ps = {p, {p, s}} Ф 0 в точке (хо, |о). В совокупности с оче-
очевидным требованием, чтобы dp и ds были линейно независимы,
это и будут те ограничения, которые мы наложим:
Определение 21.4.6. Пусть S — симплектнческое С°°-многообра-
зие и F, G— две С°°-гиперповерхности в S, трансверсально пере-
пересекающиеся в точке sogS. Будем говорить, что F и G имеют
в so скользящее1) пересечение, если гамильтоново слоение ги-
гиперповерхности F (соотв. G) просто касается гиперповерхности
G (соотв. F) в этой точке.
Если выбрать функции f и g так, чтобы f = 0 на F, g = 0 на
G и df ф 0, dg ф 0 в so, то условие трансверсальности пересече-
пересечения означает, что df и dg линейно независимы в s0, а остальные
условия можно записать так:
B1.4.10) {/,?} = 0, {/,{/, §}}ФО и {g, {§,П)Ф0в80.
Таким образом, мы в точности имеем ситуацию из проведенного
выше обсуждения. Положим J = F f\G. Это — многообразие ко-
коразмерности 2. Рассмотрим его подмножество
K = {s^J; {f, g} = 0},
состоящее из тех точек, в которых пересечение гиперповерхно-
гиперповерхностей F и G не является симплектическим. Оно представляет
собой многообразие коразмерности 3, поскольку df, dg и d{f, g}
линейно независимы в точке so, ибо #/{/, g}фQ, a Hfg = Hff = 0
и Hf, Hg линейно независимы. Чтобы сделать ясной геометри-
геометрическую картину, введем локальные координаты, в которых по-
поверхности F, J и К задаются удобным образом:
Лемма 21.4.7. Существуют окрестность И точки so в S и локаль-
локальные симплектические координаты у, г\ на S, обращающиеся в
нуль в so, такие что
/ПС/ = {@. Л) <??/;?, = 0, Т1Я = Ч?},
Kf\U={(y, л)еУ; г/, = tj, = г\п = 0}.
Доказательство. Выберем локальные симплектические коорди-
координаты х, |, обращающиеся в нуль в s0, в которых F задается
') В оригинале glancing.—Прим. перев.

21.4. Складки и гиперповерхности со скользящим пересечением 417
вблизи точки @,0) уравнением х\ = 0, a G — уравнением
ё(х,1) = 0. Из B1.4.10) вытекает, что
аг/^,-0, д^/дЦФО в @,0).
Так как g@, 0) = 0, мы видим, что g как функция от |] имеет
в 0 нуль второго порядка. Из подготовительной теоремы Маль-
гранжа (теорема 7.5.6) следует, что существуют С°°-функции
а, Ъ, обращающиеся в нуле в нуль и не зависящие от gi, и
С°°-функция р с р@, 0)=^ 0, такие что
g = Р (Ц + об, + Ь) = р ((|, + а/2J + Ь - аЩ).
Опираясь на теорему 21.1.6, мы можем теперь выбрать новые
симплектические координаты у, г\, обращающиеся в нуль в s0, с
т),==|,+а/2, ух = хх.
Поскольку д/дщ = — Ну, = —Нх = д/дЬ, то Ь(х, |'V
— а(х,|'J/4=—с(у,г\'), где с не зависит от tji. Очевидно, что
с@, 0) = 0. В новых координатах гиперповерхность G задается
уравнением gi (г/, ц) = rfi — с (у, ¦п/) = 0. Линейная независимость
dy} и dgi дает
Симплектической заменой координат у', т\' можно сделать
с @, у', ц') одной из них, поэтому мы можем считать, что
с@, у', 1\') = г[п. Тогда F, /, К принимают вид, указанный в фор-
формулировке леммы.
Приведем некоторые простые, но важные следствия из дока-
доказанной леммы. В обозначениях леммы выберем окрестность U
шаровой (в координатах у, г\) и положим
h (У, г)) = (у, — гц, л'), (У, ц) е / Л У.
Так как кривые гамильтонова слоения гиперповерхности F —
это просто прямые, параллельные оси ^, из леммы следует, что
(у, т|) и if (у, л) — единственные точки в /, лежащие на одной
и той же кривой этого слоения; эти точки различны между со-
собой, если (у, ц) ф К. Следовательно, С°°-инволюция iF многооб-
многообразия / определена инвариантно—^не зависит от произведенного
выбора локальных координат — и имеет множеством неподвиж-
неподвижных точек К. Эта инволюция и есть реализация конструкции,
обрисованной в данном выше вводном обсуждении с физиче-
физическими мотивировками. Векторы отражения, отвечающие инволю-
инволюции ip, порождаются полем Я/, поскольку в наших локальных
координатах это поле записывается как д/дг\\. Ограничение на /
14 Зак. 443

418 21. Симплектическая геометрия
заданной на S симплектической формы равно
л-1
X dr\/ л dyf + 2т), di\x л dyn
и, значит, удовлетворяет условиям теоремы 21.1.7 с п, заменен-
замененным на п— 1. Наконец, для ¦§ е С°°(?/) поле Н^ касательно к /
в s0 тогда и только тогда, когда форма dty равняется нулю на
векторах, идущих в направлении Hf или в направлении ра-
радикала симплектической формы, суженной на К- Действительно,
эти условия означают соответственно, что d^/dt]i = 0 или
дЦ/дуп = 0 в @,0), а касательная плоскость к J в s0 задается
условиями dy\ = dx)n = 0, так что поле Н^ касательно к S в s0
в том и только том случае, если chp/drii = д^/дуп =0.
Мы готовы теперь к тому, чтобы доказать, что все пары
гиперповерхностей со скользящим пересечением эквивалентны
между собой:
Теорема 21.4.8. Пусть S — симплектическое С00-многообразие и
F, G — две гиперповерхности в S с трансвереальным скользящим
пересечением в точке so ^ S. Тогда на S существуют локальные
симплектические координаты х, |, обращающиеся в нуль в s0,
в которых F задается уравнением *i=0, a G — уравнением
В частности, размерность In многообразия S, обладающего
парой гиперповерхностей со скользящим пересечением, не меньше
4. То что п должно быть больше 1, ясно и так, поскольку из
условия {/, g}= o(Hf, Hg) = 0 вытекает в случае я=1, что Hf
и Hg пропорциональны.
Доказательство. Многообразие / с формой а\/ (ограничением на
J симплектической формы на 5) и инволюциями i>, ia (послед-
(последняя определяется точно так же, как и tV) удовлетворяет в силу
предыдущих замечаний условиям теоремы 21.4.4. Следовательно,
можно выбрать на J вблизи so локальные координаты t\,..., tn-u
%и ..., Xn-i так, чтобы
л-1
0 1/== 2т, dxx л <#, + 2 dxj л dt,,
2
iP(t, т) = (/, — т„ т2, .... т„_,),
'о С iO = ('i + 2ti. к 'n-i, — Ti. Т2 Tn_t).
Множитель 2 мы включили сюда, чтобы упростить последующие
формулы. Это допустимо, поскольку из той же теоремы 21.4.4
вытекает эквивалентность этой модели со старой, что, впрочем,
немедленно проверяется непосредственной заменой переменных.

21.4. Складки и гиперповерхности со скользящим пересечением 419
Доказываемое утверждение состоит в том, что найдутся локаль-
локальные координаты х, % на S, такие что
¦'~{,(O| *2» •'*' Хп> »1» *••• »rt-l> »l)}>
л-1
a \j = 2|, rfg, Л dxn + 2 <*?/ Л dxf,
'/Ч • *2> •••' frt> »1» *••' »л-1> »l)
tQ (О, ДС2 Хя, I,, ..., 5„_|, I,)
Действительно, гамильтоново векторное поле, определяемое
функцией Х\, равно д/д%\, а поле, определяемое функцией
%\ — х{ — %п, равно 2|]й/(Эдс1 — д/дхп + д/д\и поэтому функции
хг *„_р 12, ..., !„_!, ?? — *, = ?„ и h + Xn постоянны на
кривых гамильтонова слоения гиперповерхности G.
Введем теперь локальные координаты у, т\ из леммы 21.4.7,
в результате чего F, J, ip и К примут требуемый вид. Таким об-
образом, / рассматривается как подмножество в T*(Rn):
/=={(о. yv ••-. уп> л, л„_,. л?)} Л«/.
параметризованное с помощью «/2, •••, «/n, t)i> •••> fln-i- Опреде-
Определим наши новые координаты х, | сначала на / формулами
где t, х рассматриваются как функции от у% ..., уп, ци ..., т]„.
Тогда
п
B1.4.12) 'Zdl]Adxl = a\j на /.
Нам надо теперь продолжить функции |/ и х, с / на некоторую-
окрестность точки @, 0) так, чтобы получить симплектическую*
систему координат с х\ — 0 на F и Щ — дг, — |п = 0 на G.
Отображение
/э@,г/2 у„, л,, .... ЛЯ_|. ЛО^-*^» ••••^«' ^2 Л„_1.Л?)
является складывающим отображением с инволюцией iF, и, по-
поскольку х2, • • •, хп, %2, .... |п четны относительно iF, найдутся.
функции Х2, ..., хп, |а, ..., 6п от у\ ц, определенные в некото-
некоторой окрестности нуля, ограничения которых на / совпадают

426 21. Снмплектическая геометрия
с х2, • • •, хп, |2, .... |п, если рассматривать их как функции на
Р — {(У>Ю; !/i=0}, не зависящие от тц. Из B1.4.12) вытекает,
что
п п
B1.4.12)' ?ldl,hdx!=?ldr]jhdyl на F
в тех точках, где г\п > 0; функции f/ и Xj определены там одно-
однозначно. Как и в доказательстве теоремы 21.4.2, можно изменить
определение функций х3, .... хп, |г, .... |л при г\п < 0 так,
чтобы они стали симплектическими координатами в Г*^"-1)
в некоторой полной окрестности нуля. Далее, положим хх = 0,
по-прежнему при у\ = 0.
Чтобы продолжить функции */, If на полную окрестность
нуля в T*(Rn), заметим, что х„ + |i есть функция на /, инва-
инвариантная относительно /о- Поэтому проведенное выше рассужде-
рассуждение, если поменять в нем ролями F и G, показывает, что у этой
функции существует С^-продолжение Q на некоторую окрест-
окрестность точки @,0), постоянное вдоль кривых гамильтонова слое-
слоения гиперповерхности G. Таким образом,
B1.4.13) <? = *„ + !, на /.
Производная от Q по радикальному направлению формы а\к
отлична от нуля ввиду наличия члена хп. Следовательно, поле
Hq касательно к G, но не касательно к /, и гиперповерхность G
вблизи точки @,0) получается «растеканием» поверхности /
вдоль направлений поля Hq. Отсюда следует также, что Hq
трансверсально к F, ибо J = F (]G. Поэтому можно однозначно
определить хи ..., х„, %г, •••> |« вблизи нуля как решения урав-
нений
^, , / п, HQtk = O, k = 2 я-
B1.4.14)
равные xt, |, на F. Мы утверждаем, что
,«, . е„ ft/. xk) = а/ь {I,, If} = 0, {xk, xk-} = 0,
B1.4.15) . ,_ , .,_.
], ] —/,...,«, к, к —I, .,., п.
Действительно, в силу тождества Якоби и уравнений B1.4.14)
скобки Пуассона функций х\, .... хп, |2, ••-. In с Q равны 0,
так что достаточно проверить выполнение соотношений B1.4.15)
на F. На этой гиперповерхности все производные по tji равны
нулю, и наши скобки Пуассона сводятся к скобкам Пуассона
по переменным уч, ..., уП, г\2, • ¦ •, Лл, которые удовлетворяют
соотношениям B1.4.15) ввиду B1.4.12)' и того факта, что
хх = 0 на F.

21.4. Складки и гиперповерхности со скользящим пересечением 421
Определим теперь, продолжение функции gi формулой
B1.4.13)' t^Q-x»,
что допустимо в силу B1.4.13). Тогда недостающие коммута-
коммутационные соотношения {ii,l/} = 0, {%и xk) = 61Ь /,?=1 п,
следуют из B1.4.14). Остается убедиться, что функция
Ц — х1 — 1п равна нулю на G; мы пока знаем лишь, что она
равна нулю на / в силу B1.4.11). Так как G получается расте-
растеканием поверхности / по полю HQ, достаточно проверить, что
"«(Я - *. - У = {Б. + *„. Б? - *. - У -о. .
а это следует из уже установленных коммутационных соотноше-
соотношений. Доказательство завершено.
При некоторых подходах к изучению дифрактивиых краевых
задач бывают полезны аналоги теорем 21.4.5 и 21.4.8 для одно-
однородного случая (по поводу других подходов см. § 24.4). Чтобы
получить эти аналоги, нужно пересмотреть приведенные выше
теоремы, начиная с теоремы 21.4.3:
Теорема 21.4.9. Пусть S и а удовлетворяют условиям теоремы
21.1.10 и i — однородная С00-инволюция с множеством неподвиж-
неподвижных точек So, такая что i*a = а. Тогда на S существуют локаль-
локальные координаты с указанными в теореме 21.1.10 свойствами,
в которых действие инволюции i сводится к перемене знака у
координаты ||.
Доказательство. Мы можем близко следовать доказательству
теоремы 21.4.3. Как показывает доказательство теоремы С.4.5,
для любой точки so s So в некоторой ее конической окрестности
существуют локальные координаты sb ..., s2n, такие что все S/,
кроме s2n, однородны степени 1 и четны относительно i, а коор-
координата s2n однородна степени 1/2 и нечетна. По теореме 21.4.3
гамильтоново поле для s|n/2 гладкое и его значение в sa яв-
является ненулевым вектором, принадлежащим радикалу формы о,
а значит, нерадиальным. Как и в доказательстве теоремы 21.4.3,
имеем a = f*5, где f = (^sl, .... s2n_u s^/2), a 5 — некоторая
замкнутая невырожденная однородная два-форма на 1)+ =
{/e(J; t2n^0}; здесь U — некоторая коническая окрестность
точки f(s0). Таким образом, 5 = d6b, где &(-) = a{d/dt, •) (ибо
d/dt—радиальное векторное поле). Однородное продолжение
один-формы © дает однородное невырожденное продолжение
формы а на некоторую полную коническую окрестность U' точки
f(s0). Поскольку функция f*{t2n, u}a = {s2n/2, /*ы}о отлична в s0
от нуля для всех однородных и, равных нулю в f(so), гамильто-
гамильтоново поле, отвечающее функции t2n, не является радиальным.

422 21. Симплектическая геометрия
Следовательно, в силу однородной теоремы Дарбу 21.1.9, можно
выбрать на V однородные симплектические координаты у, т>
с T]i = Ьп. Тогда xi = f*yf, %к = f*4k, k = 2, .... п, и |, = s2n бу-
будут обладать требуемыми свойствами, ибо /'т], = s^/2 = Щ2.
Доказательство завершено. Отметим, что теорема 21.1.10 в нем
не использовалась.
Аналог теоремы 21.4.4 для однородного случая труднее и
сформулировать, и доказать:
Теорема 21.4.10. Пусть S — коническое многообразие размер-
размерности In с два-формой а, которая однородна степени 1 и удов-
удовлетворяет условиям теоремы 21.1.7. Пусть, далее, f и g— две
однородные С°°-инволюции многообразия S с общим множеством
неподвижных точек So, такие что f*a = a, g*a — a. Предполо-
Предположим, что отвечающие этим инволюциям векторы отражения
в точке Yo " радиальный вектор p(Yo) линейно независимы.
Тогда п ^ 2 и в некоторой конической окрестности точки у<>
можно выбрать координаты х, ?, однородные степеней 0 и 1 со-
соответственно и равные @, е„) в уй, в которых
B1.4.16) а = d (Щп) AdXt+tdt,* dxn
fix, ?) = (*, — li, l2, •••» U»
Эта нормальная форма в действительности отвечает гиперпо-
гиперповерхностям со скользящим пересечением, рассмотренным в при-
примере 21.1.11; мы еще вернемся к этому в теореме 21.4.12.
Доказательство. В качестве первого шага проверим, что о, f и gt
заданные формулами B1.4.16), B1.4.17), удовлетворяют всем
наложенным на них условиям. С этой целью заметим, что век-
векторы отражения, отвечающие инволюциям fug, пропорцио-
пропорциональны соответственно векторам @, ei) и (—еь gnei),a значит, ли-
линейно независимы с вектором @, е„). То что f*a — a, очевидно,
и ясно также, что формулы B1.4.17) задают инволюци». Нако-
Наконец, g*a = о, поскольку

21.4. Складки и гиперповерхности со скользящим пересечением 423
Теорема С.4.8 утверждает, что иа самом деле все конические
многообразия с заданной на них парой однородных инволюций,
удовлетворяющих указанным выше условиям, эквивалентны
между собой. Ввиду теоремы 21.4.4 радикал сужения на SoCHMn-
лектической формы а лежит в линейной оболочке упомянутых
векторов отражения, поэтому выполнены условия теоремы
21.1.10. Следовательно, в силу теорем 21.4.9 и С.4.8, можно вы-
выбрать на 5 однородные координаты х, |, в которых о и / имеют
требуемый вид, а также однородные координаты у, г), в которых
нужный вид имеют / и g; в обоих случаях точка у0 получает
координаты @, е„). Принимая giB/?nI/a в качестве новой пе-
переменной вместо %и мы видим, что ситуация в сущности та же
самая, что и в доказательстве теоремы 21.4.4. Единственное
отличие состоит в том, что у„ не инвариантно относительно g,
но уп + Л^/Зт^ уже инвариантно. Поэтому положим
*/ = Ф/@, /. 0, Л'), I, = Ч>,@, У, 0, п'), 1Ф1
где у* = (у2 «/„_,. Уп + Л?уЗт?), a q>/f ^ — те же, что и
в доказательстве теоремы 21.4.4. Ясно, что Jc/ и %р инвариантны
относительно fug- Определим р2, q% • ¦ ¦, Рп как и прежде, а
с выбором qn пока повременим, потому что если определить qn
как в доказательстве теоремы 21.4.4, соответствующее гамильто-
ново поле получится радиальным (см. также доказательство тео-
теоремы 21.1.9). Вместо этого определим координату р\, используя
коммутационные соотношения между нею и р2, ..., р„ и гранич-
граничное условие р\ = t]i при р2 = • • ¦ = Qn-\ = хп = 0. Затем опре-
определим <7i так, чтобы выполнялось условие ^i = 0 при р% = ...
= <7„_1 = х„ — х\ = 0. Наконец, qn получается интегрированием
коммутационных соотношений с граничными условиями, задан-
заданными на множестве p\ — q\— ... =qn-i =хп = 0. Координаты
Pi, qj автоматически удовлетворяют требуемым условиям одно-
однородности ввиду однородности определяющих их уравнений и гра-
граничных условий. Однако при выборе последних двух координат
<7i и qn граничные условия не были инвариантны относительно g,
поэтому мы не знаем, как они себя ведут по отношению к g.
Если взять q и р в качестве новых локальных координат и,
изменяя обозначения, записывать их как х, %, то будет выпол-
выполнено B1.4.16) и / будет задаваться первой из формул B1.4.17),
a g — формулой
g{x, t) = (xi + v(x, I), х2, .... *„_,, xn + w(x, i), — g,,S2, ...,|n),
где v и w — некоторые функции, однородные степени 0. По-
Поскольку g сохраняет о, то
B1.4.18) d (Щ/1а) л dv + d\a л dw = 0,

424 21. Симплектическая геометрия
откуда следует, что v и w могут зависеть лишь от переменных gi
и |„. Прочие переменные больше уже не будут играть никакой
роли, поэтому для упрощения записи примем, что п = 2. Мы мо-
можем записать функции v и w в виде и(§)= V(t), w(Q= W(t),
где gi = /|2- Тогда уравнение B1.4.18) принимает более простой
вид t2d\2hdV + d%2A dW = 0, или
B1.4.18)' PV(t)+W'(t) = 0.
Из того факта, что g — инволюция, вытекает, что V и W — нечет-
нечетные функции от /. Заметим, что если V(t) — 2t, то уравнение
B1.4.18)' дает №(*) = — 2t*/3, ибо Ц7@) = 0. Это объясняет вид
второй из формул B1.4.17) и показывает, что достаточно до-
добиться, чтобы V(t) = 2t.
Как и в конпе доказательства теоремы 21.4.4, выполним про-
простую замену переменных, введя
к(х, E)=»(x,S@, x2 + XlT(t),t2R(t), У, ( = 1Л?-
Ясно, что х*а = о, если
d(l2R2) bd(XlS) + d%2h d{xxT) ^d&i?) Л dxx.
В явном виде это уравнение означает, что (полагаем U = R2)
B1.4.19) US + T = fi, US' + T' = 0, U'S = 2t.
Среднее уравнение следует из двух других. Ясно, что если вы-
выбрать в качестве R какую-нибудь нечетную функцию с простым
нулем в 0, то, полагая
мы получим четные функции с 5@)^0, удовлетворяющие урав-
уравнениям B1.4.19). В этом случае х будет диффеоморфизмом. Да-
Далее, при указанных условиях и коммутирует с f и
g°*(x, l)^(xlS+V(R)t x2 + xJ+W(R), -у?, У.
Если определить gi так же, как g, только с V и W, замененными
на Vt и Wu то
«<> gt (х, I) = ((*, + Vt) S, x2 + W, + (х, + V.) Т, - 12R, У.
Поэтому gox — Kogi, если
В частности, Vi @ = 2t, если
V (Д) = 2tS(t) = 2PIR (t)R'
т. е.

21.4. Складки и гиперповерхности со скользящим пересечением 425
Поскольку У@)Ф0 (ибо векторы отражения, отвечающие ин-
инволюциям f и g, различны), это определяет R как функцию от t
с простым нулем в 0 (см. доказательство теоремы 21.4.4), и тем
самым мы получили замену переменных, приводящую a, f и g
к нужному виду. Доказательство завершено.
Ниже при применениях теоремы 21.4.10 важна не сама явная
нормальная форма, указанная в теореме, а то, что все наборы
•S, о, f, g, удовлетворяющие условиям теоремы, эквивалентны
между собой. Мы можем поэтому в зависимости от ситуации
применять любую другую более удобную модель.
Перейдем теперь к однородному варианту теоремы 21.4.5.
Нормальную форму для однородного канонического отношения
из Г*(Р")\0 в 7"*(Rn)\0, которую мы будем" использовать,
лучше всего, пожалуй, описать при помощи фазовой функции
B1.4.20) <р(х, у, s, I) = (лг - у, |) + s?, -
х, у, I€ R", 6„ > 0, seR.
Условие q>| = q>s = 0 означает, что
Следовательно, отвечающее этой фазовой функции каноническое
отношение имеет вид
B1.4.21) <? = {(*, I, у, п); (*,-«/iJgn=i,,
30/„-*„) + (#,-я,K = 0, | = n, xt = ylt Kj<n, 6„>0}.
С помощью параметров х, s, i'==(|2, .... 1«) его можно запи-
записать так:
B1.4.21O
G = {(х, s%n, Г, х, + s, х2 х„_„ ;сЛ - e»/3, s2|n, Г); ?„ > О}-
Отсюда видно, что Q представляет собой 2п-мерное многообра-
многообразие. На основании симметрии между х и у мы заключаем, что
проекция канонического отношения G на каждый сомножитель
y*(Rn)\0 является отображением со складкой, причем образы
этих проекций задаются соответственно условиями |i ^ 0 и
Hi ^s 0. Ядра дифференциалов этих проекций при s = 0 пред-
представляют собой прямые, идущие соответственно в yi-направле-
нии и ^-направлении. Отвечающие указанным двум складкам
инволюции задаются в координатах, использованных в B1.4.21) \
формулами si—>—s и s>—*•—s, Xi*—э-jti + 2s, xn*—>xn — 2s3/3 со-
соответственно, и поднятие симплектической формы с любого из

426 21. Симплектическая геометрия
двух рассматриваемых экземпляров пространства 7*(РЛ) на G
равно
п
d (s%) Л dxx + ? dlt Л dXj.
Теорема 21.4.11. Пусть Si и S2— конические симплектические
2п-мерные многообразия с симплектическими формами а\, а2,
и пусть G с: 5i X 52 вблизи точки (s°, sP2)^SlX S2ecTb однород-
однородное каноническое отношение из S2 в Si. Предположим, что проек-
проекции л/: G-+Sj имеют складки в точке (s°, s°) и что хотя бы
одно из поднятий на G с Si или S2 канонических один-форм ац,
©2 не равно нулю на касательной плоскости к G в точке (s°, s°).
Тогда n>2u можно выбрать локальные однородные симплек-
симплектические координаты х, %на S\ и у, ц на S2, равные @, е„) соот-
соответственно в s° и s°, в которых Q локально задается формулой
B1.4.21).
Доказательство. Радиальный вектор р в точке (s°, s°) не предста-
представим в виде суммы рх + р2 касательных векторов к G с нулевыми
компонентами в S2 и в Si соответственно, поскольку по предпо-
предположению хотя бы одна из компонент вектора р в Ts" (S,) и Т/ (S2)
не лежит в лагранжевой касательной плоскости к G. Следова-
Следовательно, условия теоремы 21.4.10 выполнены для конического мно-
многообразия G, два-формы аа = п\а1 = л*а2 и инволюций fu f2,
определяемых проекциями Я|, n2. В частности, это верно для
модели, к которой мы стремимся, поэтому можно выбрать на G
такие локальные координаты ti, ..., /„, s, x2, .... хп, из кото-
которых U, ..., tn, s однородны степени 0, а тг, ..., тв однородны
степени 1, причем в точке (sj, s°) координата хп равна 1, а все
прочие равны 0, что
л
о0 = d (s2xn) л Л, + Z dx, л dt,,
fi(t,s, *') = «, -s,x'\
М, s, О = (/, + 2s, t2 tn_i, tn - 2^/3, - s, Xе).
Далее, найдутся С°°-функции x, g на S\ и у, ц на S2, однородные,
как обычно, степеней 0 и 1, такие что
n\xj = tjf n\lj = Jt'jTl/ = Xf, ]ф1, П]1{ = J^Tl, = S*Tn,
n> п\У\ = 'i + s> КУп =
К
Оии образуют локальные однородные симплектические коорди-
координаты в той части окрестности точки @, гп), где соответственно
?i ;> 0 и hi ^ 0. Как и в доказательстве теоремы 21.4.2, их можно

21.4. Складки и гиперповерхности со скользящим пересечением 427
единственым образом видоизменить при |, <; 0, t]i<;0 так,
чтобы получились симплектические координаты в некоторой пол-
полной окрестности точки @, гп), причем xt и ух при этом остаются
неизменными. В силу указанной единственности эти координаты
автоматически будут однородными. Доказательство завершено.
Наконец, докажем однородный вариант утверждения об экви-
эквивалентности пар гиперповерхностей со скользящим пересеченнем.
Здесь в качестве модели возьмем поверхности из примера 21.1.11:
(n > 2). Они пересекаются трансверсально, многообразие
параметризуется с помощью х2, ..., х„, ?ь ..., |n-i и ограни-
ограничение на / стандартной симплектической формы равно
Гамильтоново слоение гиперповерхности F состоит из прямых,
параллельных оси gi, поэтому отвечающая этому слоеиию ии-
волюция ir многообразия / просто меняет знак координаты \\.
Так как
&2» •'•> 5я» Х2< •••• *я-2» xl
х и x^
постоянны на кривых гамильтонова слоения гиперповерхности
G, мы находим, что отвечающая этому слоению инволюция ia
многообразия / переводит gi в —|,, хп-\ в хп-\ — 2(|i/|n_iK/3,
а хп в хп + 2|i/|n_i, прочие же координаты оставляет неизмен-
неизменными. Определяемые указанными инволюциями векторы отраже-
отражения пропорциональны векторам @, ei) и (—еп, %п-\Ъ\) соответ-
соответственно, и, поскольку 1п-\ Ф 0, они линейно независимы с ра-
радиальным вектором @, |).
Теорема 21.4.12. Пусть S — коническое симплектическое много-
многообразие размерности 2п ^ 6 с симплектической формой а и
F, G — две конические С°°-гиперповерхности в S с трансверсаль-
ным скользящим пересечением в точке s0 ^ 5. Предположим, что
в этой точке касательные векторы к кривым гамильтоновых слое-
слоений гиперповерхностей F и S и радиальный вектор линейно не-
независимы. Тогда существуют локальные однородные симплекти-
симплектические координаты х, %, равные @, sn_i) в s0, в которых F за-
задается уравнением Xi = 0, a G — уравнением Щ = *,?^_, + ?л?„_г

428 21. Симплектическая геометрия
Доказательство. Для многообразия J=*Ff)G с формой а\/ и
инволюциями ip, iG, определяемыми гамильтоиовыми слоениями
гиперповерхностей F и G, выполнены все условия теоремы 21.4.10.
Следовательно, п—I > 2 и на / можно выбрать локальные ко-
координаты t\, ..., tn-\, ть ..., Xn-i, однородные степеней 0 и 1
соответственно, так, чтобы в точке sq координата хп-\ равня-
равнялась 1, а все прочие — нулю и чтобы
Инволюция iF меняет знак координаты ti, a iG меняет знак у т>
и заменяет <, на U + 2i\/xn-\, a tn-\ — на tn-\ — 2 (Ti/xn-iK/3. До-
Доказательство леммы 21.4.7 показывает, что можно выбрать на S
однородные симплектические координаты у, ц, равные @, en-i)
в s0, в которых F задается уравнением г/i == 0 и
B1.4.22) / = {@, /, л, Ля_,. vZfra-i)}'
так что ip имеет нужный вид. Действительно, мы можем следо-
следовать этому доказательству без каких бы то ни было изменений,
пока не получим систему координат, в которой F задается урав-
уравнением г/i = 0, a G — уравнением ц\ — с (у, tj') = O, где функция
с однородна степени 2 и в точке @, en-i) дифференциал dyx(C
не пропорционален йу„-\. Положим с0(у', т)') = с@, у', т/).
Можно найти функцию ф(г/, т]'), однородную степени 1, такую
что {со, ф} = 0 и ф = 1 в точке @, en_i); действительно, направ-
направление поля ЯСо отлично от радиального, так что мы можем за-
задать однородные начальные данные на какой-нибудь кониче-
конической поверхности, трансверсальной к Нс,- Частное со/ф одно-
однородно степени 1, и выполняется соотношение {со/ц>, ср} = 0, по-
поэтому, в силу теоремы 21.1.9, на / существует система однород-
однородных симплектических координат г% ¦¦¦-, гп, ?г. • - -. ?л с Z,n-i = q>
и tn = со/ф. Изменяя обозначеиия (заменяя zf, t,' Ha у', vf), при-
приходим к B1.4.22).
Теперь можно определить наши новые координаты х, % на
J формулами B1.4.11) с одной лишь поправкой — последнюю
из этих формул надо заменить на Sn = Tf/frt_1- Тогда выполнено
B1.4.12), и мы можем построить продолжения х\, ..., х„,
|г, ..., |„ этих координат на F, как и раньше. Определение
B1.4.13) функции Q приходится изменить — складываемые там
члены имеют теперь разные степени однородности. Однако функ-
функция хп%п-\ + h инвариантна относительно io, однородна сте-
степени 1 и имеет в точке @, еп-\) тот же дифференциал, что в
х„ + |ь Следовательно, у нее существует С°°-продолжение Q:
B1.4.13)' <? = *„1„-1 + ?1 на /,

21.5. Симплектическаи эквивалентность квадратичных форм 429
однородное степени 1 и постоянное на кривых гамильтонова
слоения гиперповерхности G. Поле Hq по-прежнему трансвер-
сально к F, поэтому можно определить продолжения функций
*и • ¦ •, хп, 1г, • • •, 1л как решения дифференциальных уравнений
с начальными значениями х/, %i на F. Наконец, присоединяя к
ним функцию |i = Q — Xnln-u получаем, как и прежде, нужную
систему координат.
21.5. Симплектическая эквивалентность
квадратичных форм
Главная цель этого параграфа — изучить простейшие особен-
особенности гамильтоновых векторных полей. Напомним, что о вектор-
векторном поле v на многообразии X говорят, что точка х&Х является
особой точкой этого поля, если о = 0 в х; в этом случае правило
определяет линейное отображение Т*Х-*ТХ с сопряженным
V: Тх-*-Тх, задаваемым формулой
(Vt, d<p) = </, d(pq>)>, феС2(X), ts Tx.
В локальных координатах матрицей оператора V служит, ко-
конечно, (dvt/dxk)f kmml п. Воспользуемся этим инвариантным по-
понятием в случае гамильтоновых векторных полей:
Определение 21.5.1. Пусть S — симплектическое многообразие и
/ е С2E)—вешественнозначная функция с df = 0 в точке So s S.
Линейный оператор F в TS,(S), задаваемый полем Hf/2, будем
называть гамильтоновым отображением в точке s0, отвечающим
функции f.
Некоторые авторы употребляют термин «фундаментальная
матрица», что выглядит довольно неприятно, когда желательно
иметь инвариантный подход. Включение множителя 1/2 — это
просто традиционное соглашение, как мы увидим, весьма удоб-
удобное. Гамильтоново отображение, отвечающее функции f, опреде-
определяется, конечно, ее гессианом (второй производной) /" в точке
so, поэтому мы ничего не потеряем в общности, предположив, что
5 — вещественное симплектическое векторное пространство, а
f—вещественная квадратичная форма Q. Определение гамиль-
тонова отображения F (в точке 0) означает тогда, что для лю-

¦430 21. Симплектическая геометрия
¦бого вектора X & S и любой линейной функции ф
(FX, Ф) = а, Я<2ф/2>=-(Х, HvQ/2)
= -(X,Q(-, H9))=-Q(X, Яф),
где Q(X, Y) обозначает симметричную билинейную форму, полу-
полученную поляризацией квадратичной формы Q, т. е. Q(X, Y)
= Q(Y,X) и Q(X, X) = Q(X). Левая часть записанной выше це-
лочки равенств есть a(FX, Яф), поэтому определение гамильто-
гамильтонова отображения F для случая квадратичной формы Q равно-
равносильно определению при помощи равенства
<21.5.1) a(Y, FX) = Q{Y, X), X,Ye=S
(множителя 2 здесь нет из-за наличия множителя 1/2 в нашем
определении). В симплектических координатах х, | матрицей
¦оператора F служит «фундаментальная матрица»
Из симметричности билинейной формы Q вытекает, что
<21.5.2) a(FX,Y) = -a(X, FY),
т. е. оператор F кососимметричен по отношению к о. Заметим,
что последнее определение гамильтонова отображения приме-
применимо и в случае комплекснозначных Q, если заменить простран-
пространство S его комплексификацией
с очевидным образом определяемой комплексной снмплектиче-
ской структурой. При проведении симплектической классифи-
классификации квадратичных форм с помощью спектрального разложе-
разложения гамильтонова отображения F все равно приходится выпол-
выполнять такое расширение пространства, даже когда форма Q ве-
вещественна. Пусть V% обозначает пространство корневых векто-
векторов оператора F в Sc, отвечающих собственному значению
Я <= .С,
Лемма 21.5.2. a{Vi, V^) = 0 при % + ц=^=0.
Доказательство. При К + цфО оператор F + ц является биек-
цией на пространстве Vx, и для достаточно больших N
о ((F + ц)" Их, Уц) = a (Vx, (- F + fi)" К„) = 0,
чем лемма и доказана.
Из этой леммы следует, что Vx и V-x двойственны друг другу
относительно симплектнческой формы. Таким образом, Vo и

21.5. Снмплектнческая эквивалентность квадратичных форм 431
VjtФ V-x, ХфО, суть симплектические векторные пространства,
взаимно ортогональные относительно о и инвариантные относи-
относительно F, а значит, взаимно ортогональные и относительно Q.
Используя эти наблюдения, выясним строение оператора F и
формы Q в интересующих нас случаях, когда форма Q является
вещественной и положительно полуопределенной или же гипер-
гиперболической в том смысле, что ее отрицательный индекс инерции
равен 1. В обоих случаях Q^O в некоторой гиперплоскости,
так что Q не может быть sg;0 ни в какрй двумерной плоскости,
пересекающейся с
RadQ = {*; Q(X, Y) = 0 для всех Г} = Ker F c= Vo
лишь в 0. Из леммы 21.5.2 вытекает, что если ReX^=0, то Q
равняется нулю на пространстве Re Vx cz V^ + V^, поэтому раз-
размерность этого пространства самое большее 1. Значит, X должно
быть вещественным, и подпространство Vx одномерно, если оно
нетривиально. Выберем в этом случае какой-нибудь веществен-
вещественный базисный вектор ei в Va. и двойственный базисный вектор si
в V-k, удовлетворяющий условию o(ei, ei)=l. Тогда Fe\='ke\,
Fei = —Xei и Q(ei,ei)=Q(ei,ei) = O, Q(euei) = K TaK что
Пусть теперь к = щ, ц > 0 и FX = i\iX, X = Xi + iX2 ф 0. Тогда
Q (X, Х) = а (X, FX) = а (X, ЩХ),
а потому
и Х2) = Q(X,X) = Q (Х{) + Q (Х2),
J = a (/,*, + t2X2, F (/Д, + t2X2))
= о (tiXi + t2X2, — ^цХ2 +
Так как квадратичная форма Q не может быть sg;O ни на какой
двумерной плоскости, пересекающейся с ее радикалом лишь поО,
мы заключаем, что о(^ь^2)<0; таким образом, мы имеем ин-
инвариантную симплектическую двумерную плоскость. Нормиро-
Нормировав Хи Х2 так, чтобы a(Xi, Х2) = —1, можно считать их базис-
базисными векторами в этой плоскости в некоторой симплектической
системе координат, так что Q равняется отвечающей этому ба-
базису евклидовой форме, взятой с коэффициентом ц, и мы можем
перейти к рассмотрению ортогонального относительно о и Q до-
дополнения к указанной плоскости. Повторяя это рассуждение,
найдем, что S представляет собой прямую сумму о- и Q-ортого-
нальных подпространств, на которых Q задается выражением

432 21. Снмпльктнческая геометрия
ц (д^ + Щ), ц > 0, или 2Xxj\j, % > 0, и вещественной части V'o
пространства Vq. Итак, остается только изучить Vo» поэтому на-
начиная с этого места будем считать, что 5= V'o, т. е. что опера-
оператор F нильпотентен.
Если существует вектор X е S, такой что
то X и FX порождают инвариантное относительно F двумерное
симплектическое пространство, на котором
Q (/,* + t2FX) = а (/,* + t2FX, tfX) = /*Q (A),
и можно перейти к рассмотрению его а-ортогонального дополне-
дополнения. Такая редукция возможна и в случае, когда Кег F содер-
содержит два элемента X и Y с а(Х, Y)=?0- Дело тем самым сводится
к изучению ситуации, когда
(a) Кег F изотропно,
(b) F2X 0Q(X)
В силу прнятых нами предположений из (Ь) вытекает, что
Кег FVKer F имеет размерность самое большее 1. Запишем точ-
точную последовательность
0-*Kerf-*KerF2-^ Кег FQ lmF-+0.
Ввиду (а) справедливо равенство lm F =(Кег F)° гэ Кег F, по-
поэтому последовательность
О -* Кег F -* Кег F2 -^ Кег F — О
точна и, значит, Кег F имеет размерность 1. Из рассмотрения
жордановои нормальной формы оператора F следует теперь, что
существуют число Л' и элемент X, такие что X, FX, .... FN~XX
образуют базис в S, a F"X = 0. Размерность N пространства S
должна быть четной и большей двух. Далее,
Q(F>X, FkX) = (—l)'a(X, F'+^X)
равно нулю при j -\- k -\- \ ^ N, следовательно, если бы мы имели
2(N — 3)+ 1 ^ N, то форма Q равнялась бы нулю на двумер-
двумерном пространстве, порожденном векторами F"~^X, FN~2X, кото-
которое пересекается с Кег F лишь по 0. Значит, 2 (Л' — 2)^N, т. е.
# sg: 4. Таким образом, N = 4. Кроме того, мы должны иметь
а(Х, ЯХ) < 0, поскольку в противном случае Q sg: 0 на двумер-
двумерном пространстве, порожденном векторами FX и F*X. Норми-
Нормируем X так, чтобы а(Х, РХ) = —1, и положим У = X + tF*X.
Тогда a(Y,FY)=o(X, FX) — 2i = 0, если взять t = a{X,FX)/2.
Таким образом,векторы

21.5. Симплектическая эквивалентность квадратичных форм 433
образуют симплектический базис в S. В соответствующих коор-
координатах Q — x\ — 2\fe2. Подытожим полученные результаты:
Теорема 21.5.3. Пусть Q — квадратичная форма на симплекти-
ческом векторном пространстве S размерности 2п. Если она яв-
является положительно полуопределенной, то на S можно выбрать
симплектические координаты х, ?, в которых
Ь k+t
B1.5.3) Q(x, 6)=-En,(*J + 6J) + ? х),
где ix/ > 0. Если Q гиперболична, т. е. имеет отрицательный ин-
индекс инерции, равный 1, то симплектические координаты можно
выбрать так, чтобы
B1.5.3)' Q(x, I) = Zn/(^ + E?)+ Hx) + q(x, I),
1 ' " k+i '
где Ц/ > 0 и либо k + К п— I, a
B1.5.4) q(x, 1) = х2п-2?п_?п,
либо k + К п, а
B1.5.5) q(x,t) = -xl или q(x,l) = 2Kxnln, X > 0.
Все перечисленные случаи, конечно, попарно не эквивалентны;
числа i\4 суть собственные значения оператора F на положи-
положительной мнимой полуоси, считаемые с учетом кратности; случай
B1.5.4) имеет место, когда в жордановом разложении оператора
Р встречается клетка размера 4X4, а во втором из случаев
B1.5.5) число К является собственным значением оператора F.
Дадим теперь модифицированный вариант этого результата
для случая, когда Q — комплекснозначная форма с положи-
положительно определенной вещественной частью ReQ. Более общим
образом, результат для полуопределенного случая имеет аналог
для комплекснозначных форм Q, удовлетворяющих условию
B1.5.6) |ImQ(X)|<CReQ(A-), X&S,
которое мы и будем считать выполненным. Положим
B1.5.7) Г = (аие=С; | Imau |<CRea>};
это выпуклая угловая область, содержащая значения формы Q.
Можно было бы взять любую такую область, но выбранная
нами удобнее для доказательства следующей теоремы:
Теорема 21.5.4. Пусть выполнено B1.5.6). Тогда _
a) Q{X, X) = 0<&FX = 0^FReX = FlmX=0^FX=0,
так что Кег/7 порождается своими вещественными элементами;

434 21. Снмплектнческая геометрия
b) ЯУ0 = 0, т. е.
Y) = 0 при а (Кет F, Y) = 0;
с) если К — собственное значение оператора F, то k/i e Г
или —Г.
Доказательство. Пусть Q(X, Х) = 0. Запишем X в виде Х\ + iX2r
где X/ вещественны. Тогда
Q(X, X) =
Поэтому, в силу B1.5.6), ReQ(Xt) = 0, а значит, и ImQ(X;) = (>.
Отсюда следует, что если zejCj столь близко к 1, что форма
RezQ является положительно полуопределенной, то
RezQ (У, Х,) = 0, Y(=S,
а следовательно, Q(Y, X,) = а(Y, FX,) = 0 и потому FXj = 0. Про-
Прочие импликации в а) очевидны. Чтобы доказать Ь), предполо-
предположим, что X<=Sc и ЯЯ = 0. Тогда FF2X = 0 в силу а) и
Q (FX, FX) = a (FX, F2X) = -a(X, FF*X) = 0,
поэтому ЯА^О снова в силу а). Поскольку
ст(Кег/", Y) = 0<^Y = FZ для некоторого 2,
равенство Q(X, Y) = a(X, FY) = 0 тогда и только тогда выпол-
выполняется для всех Y, удовлетворяющих условию <r(Ker F, Y) = 0,
когда ЯХ — 0. Наконец, с) вытекает из следующей цепочки ра-
равенств, справедливой, если FX = XX, X = Xi + 1X2-
Q (Х2) = Q(x,X) = o (X, FX) = Ха (X, X) = 2iXa (Xu Х2)
(заметим что а(Х[,Х2) вещественно и нулю равно, только если
FX = 0). Доказательство завершено.
Положим W = S П Кег F и образуем новое симплектическое
пространство Sf = W/(W{\ W). Тогда
в силу утверждений а) и Ь) теоремы 21.5.4, и гамильтоново ото-
отображение, отвечающее квадратичной форме Q' на S', индуциро-
индуцированной формой Q, изоморфно ограничению оператора F на пря-
прямую сумму его корневых подпространств, принадлежащих нену-
ненулевым собственным значениям. Поэтому в дальнейшем можно
считать, что форма Re Q является положительно определенной.
Определение 21.5.5. Комплексная лагранжева плоскость XczSq
называется положительной, если
B1.5.8) ia(X, *)>0 для всех ХеА.

21.5. Снмплектическая эквивалентность квадратичных форм 435
Если для ненулевых X ^ X имеет место строгое неравенство, то
мы говорим, что \ строго положительна.
Отметим, что io(X, Y)—эрмитова форма:
ia(Y, X) = -ia(X, У).
Теорема 21.5.6. Если форма ReQ является положительно опре-
определенной, то
есть строго положительная лагранжева плоскость, инвариантная
относительно F.
Доказательство. Лагранжевость 5+ следует из леммы 21.5.2,
а инвариантность относительно F очевидна. Докажем строгую
положительность. Предположим сперва, что форма Q веще-
вещественна. Тогда можно выбрать симплектические координаты,
в которых
Q(x, l) = In,(*^По-
In,(*^Последовательно, F(x, |) = (fii|i, -.., —Ц|«ь •••). так 4TQ -S+ за-
задается уравнениями |;- = iXj\ но
о(х,\\ x,l) = -2iZ\Xi\\
чем строгая положительность S+ для случая вещественных Q
и доказана. Обращаясь к общему случаю, заметим прежде всего,
что если плоскость S+ положительна и ia(X, X) = 0 для неко-
некоторого XgS+, to ia(X, У) = 0 для всех Уе 5+ в силу неравен-
неравенства Шварца. Взяв Y — FX, получаем Q(X> X) = 0, а значит,
X = 0, так что S+ строго положительна. Доказательство прово-
проводится теперь следующим рассуждением по непрерывности. Поло-
Положим для X е S, 0 < / < 1
Лагранжева плоскость S?, определяемая формой Qt, непрерывно
f
f
зависит от t, поскольку проектор из 5с на Sf задается фор-
формулой
где Ft — гамильтоново отображение, отвечающее форме Qt, a
у — окружность в верхней полуплоскости, охватывающая все ле-
лежащие в этой полуплоскости собственные значения операторов

436 21. Симплектнческая геометрия
Ft. Пусть Т — точная верхняя грань всех /е[0, 1], для которых
плоскость St строго положительна. Тогда плоскость St поло-
положительна по соображениям непрерывности, а значит, как было
показано выше, строго положительна. Отсюда вытекает, что
Т= 1, и теорема доказана.
Замечание. Поскольку
ia(X, FX) = iQ(X, X)<=iT,
численный образ ограничения оператора F на плоскость S+ по
отношению к положительно определенной эрмитовой форме
ia{X, Y) на S+ содержится в Л\ Отсюда следует, что все соб-
собственные значения указанного ограничения лежат в iT, но
утверждение о численном образе значительно сильнее.
Выделение какой-либо строго положительной лагранжевой
плоскости снабжает 5 дополнительной структурой:
Предложение 21.5.7. Если S+ с Sc — строго положительная лаг-
ранжева плоскость, то отображение S+ 3Jfi->ReX^S есть
биекция, наделяющая S комплексной структурой. Существует
единственная положительно определенная эрмитова по отноше-
отношению к этой структуре форма Я на S, такая что
1тН(Х, У)= а(Х, Y) для всех X, Y(=S,
a Re Я задает на S естественную евклидову структуру.
Доказательство. Если О^ХеS+, то
О < ia (X, Х) = 2а (Im X, Re X),
откуда видно, что отображение S+3Xi-»ReXeS инъективно,
а значит, и биективно, ибо вещественные размерности у 5+ и S
одинаковые. Эрмитову форму Я, существование которой нам на-
надо доказать, можно рассматривать как форму на S+, так что
мы должны иметь для ^eS+
Я (X, IX) = Пm Я (X, IX) = - ia (Re X, Re iX) = ia (Re X, Ira X),
а следовательно,
H(X, X) = a (Im X, Re X) = ia (X, X)/2.
Поляризация дает
B1.5.9) H(X, Y) = io(Y, X)/2,
чем теорема и доказана, поскольку это рассуждение можно об-
обратить.

21.5. Симплектическая эквивалентность квадратичных форм 437
Используя предложение 21.5.7, можно доказать существова-
существование систем координат, «хорошо подогнанных» к данной строго
положительной лагранжевой плоскости:
Следствие 21.5.8. Пусть S+—строго положительная лагранжева
плоскость с: 5с, а А. — лагранжева плоскость c=S. Существуют
симплектические координаты х, | на S, в которых К задается
уравнением х = 0, a S+ представляется в виде S+ ={(х,ix);
хе.С"}.
Доказательство. Эрмитова форма Н из теоремы 21.5.7 веще-
вещественна на %. Поэтому можно выбрать вещественный ортонорми-
рованный относительно этой формы базис еь ..., е„ в %. Далее,
выберем X,eS так, чтобы е/ — rY/e S+. Тогда, в силу опреде-
определения B1.5.9) формы Н,
ia (е, + iX,, ek — iXk)/2 = б/ь
т. е. a(Xh Xk) = 0 и о(е,-, Xk) + <т(е*, Х;) = 2б/*. Поскольку пло-
плоскость S+ лагранжева, имеем также ст(е/ — iXh е* — iXk) = Q, a
следовательно, а(е/, Хк) = а(ък, Xj). Отсюда вытекает, что век-
векторы Хи ..., Х„, еь .. •, ел образуют симплектическнй базис для
S, чем следствие и доказано.
Применяя это следствие к плоскости S+ из теоремы 21.5.6, за-
заключаем, что в выбранных нами координатах Q(x,ix) = 0. Та-
Таким образом, квадратичная форма Q принадлежит идеалу, по-
порожденному функциями Xj -f- i\j, j = 1, ..., п.
Строго положительные лагранжевы плоскости очень просто
представляются и в произвольных симплектических координа-
координатах:
Предложение 21.5.9. Пусть XczT*(C") — строго положительная
лагранжева плоскость. Тогда существует такая симметричная
матрица A—Ai + iA?, где Ai — вещественная матрица, а мат-
матрица А2 является положительно определенной, что \={(z, Аг);
ге.С"}. Обратно, всякая плоскость, пред ставимая в таком виде,
строго положительна.
Доказательство. Из определения 21.5.5 сразу следует, что
Я П Го (С) = {0}. Таким образом, % является графиком дифферен-
дифференциала некоторой квадратичной формы, т.е. X, = {(z, Az);z& С."},
где А — симметричная матрица. Записывая ее в виде А—А\
+ iA2, где Ах и А2 вещественны, получаем
«у ((г, Tz\ B, Az)) = 2(A2z, г),
чем предложение и доказано.

-438 21. Симплектнческая геометрия
Строение произвольных положительных лагранжевых плоско-
плоскостей проясняет следующий результат:
Предложение 21.5.10. Пусть XczSc— положительная лагран-
жева плоскость. Если X е X и а(Х, X) = 0, то и X е X, а значит,
Доказательство. В силу неравенства Коши — Шварца, io(X,Y)'
= 0 для всех Y е X. Поскольку плоскость X лагранжева, отсюда
¦следует, что X ^Х.
Следствие 21.5.11. Пусть X с= 5с — положительная лагранжева
¦плоскость и A,r — изотропная плоскость X П 5. Положим S'
— Xl/Xg. Тогда образ X' плоскости X в Sc будет строго поло-
положительной лагранжевой плоскостью').
Доказательство. Лагранжевость X' следует из комплексного ана-
аналога предложения 21.2.13. Так как плоскость X' не содержит ве-
вещественных элементов, из предложения 21.5.10 вытекает, что она
строго положительна.
Другой способ доказательства состоит в том, чтобы записать
.5 в виде S = S\ Ф $2, где Si и 5г — симплектически ортогональ-
ортогональные друг другу симплектические подпространства, причем Я-r яв-
является лагранжевой плоскостью в Si. Тогда X представляет со-
собой прямую сумму комплексификации плоскости Х$ в Sic и не-
некоторой строго положительной лагранжевой плоскости в Szc-
1>1.6. Лагранжев грассманиан
Б порядке подготовки к изучению лагранжевых распределений,
которому будет посвящена гл. 25, мы довольно подробно изло-
изложили в § 21.2 теорию лагранжевых многообразий. Чтобы по-
¦строить глобальную теорию лагранжевых распределений, нам
понадобится провести тщательный инвариантный анализ инфи-
нитезимального случая, в котором важную роль играют лагран-
жевы плоскости в симплектических векторных пространствах.
Этим мы и займемся в данном параграфе.
Определение 21.6.1. Пусть S — конечномерное симплектическое
векторное пространство с симплектической формой ст. Лагран-
жевым грассманианом A(S) пространства S называется множе-
множество всех лагранжевых плоскостей в S.
Прежде всего покажем, что A(S) обладает естественной
«структурой вещественно аналитического многообразия размер-
') Здесь X''=X{\{Xl)cjX{\(X^)c.-npuM. ред.

21.6. Лагранжев грассманиан 439
ности п(п 4-1)/2, где In = dim S. Для этого рассмотрим сначала
его подмножество
состоящее из всех лагранжевых плоскостей, трансверсальных
к некоторой данной лагранжевой плоскости.
Лемма 21.6.2. Множество Л^E) имеет естественную структуру
аффинного пространства, для которого соответствующим вектор-
векторным пространством служит симметричное тензорное произведе-
произведение ц ® ц.
s
Доказательство. Билинейная форма а(Х, У) с Хец и TgS
равна нулю для всех Хёц в точности тогда, когда Уе|1, по-
поэтому она задает отождествление 5/ц->-ц', где \i' обозначает
пространство, двойственное к ц. Для всякого ЯеЛAE) состав-
составное отображение
X -> 5/ц -> ц'
есть изоморфизм, и, значит, для него существует обратное ото-
отображение, которое мы будем рассматривать как отображение
в S с образом К. Оно обладает свойствами
B1.6.1) <Х, q>> = a(*, 7\р), Хец, «рец',
21.6.2) a {Tip, Гф) = 0, ф, Ф<=ц'.
Обратно, всякое отображение Т: \i'-*-S с такими свойствами
определяет некоторый элемент из Л^E). Если Т — какое-нибудь
фиксированное решение уравнений B1.6.1), B1.6.2) и T-\-R —
любое другое решение, то в силу B1.6.1)
а(Х, /?ф) = 0, XG[i, ф<==ц',
т. е. R есть отображение ц' -*• ц, и B1.6.2) дает
ff (Гф, Л*) + о (/?ф, 7Ч|>) = 0, ф, * е= ц',
ибо о(/?ф, /?i|j) = 0. Таким образом, R отвечает билинейной форме
А (ф, ф) = о (Лф, 71*) = о (/г-ф, Гф), Ф, ¦ е ц',
которая симметрична. Обратно, всякая такая билинейная форма
А определяет решение уравнений B1.6.1), B1.6.2), откуда и еле-
дует наше утверждение.
Для дальнейшего полезно перевести это доказательство на
координатный язык. А именно, выберем симплектические коор-
координаты х, I, в которых ц задается уравнением х = 0. Тогда h.

440 21. Снмплектнческая геометрия
как лагранжево сечение расслоения 7"*(R") служит графиком
дифференциала некоторой квадратичной формы А/2 на R":
Я = {(*, Ах); х е= R"},
где А обозначает симметричную матрицу, отвечающую квадра-
квадратичной форме А. Тем самым мы снова получаем отождествление
A^(S) с R»('H-«)/2> поскольку в «Хл-матрице число элементов,
стоящих на диагонали и над ней, равно п(п + 1)/2.
Если y.i и Ц2 — две различные лагранжевы плоскости, то
можно выбрать симплектические координаты х, |, в которых \ц
задается уравнением х = 0, и симплектические координаты
y = L(x, |), t] = M(x, I), в которых ц2 задается уравнением
у = 0. Произвольная лагранжева плоскость А, е Лц, (S) П Лц, E)
задается в этих двух системах координат уравнениями х\=Ау
и \ = Вх соответственно. Таким образом, уравнение М(х, \)
= AL(x, |) может быть разрешено относительно ? и дает % = Вх,
поэтому коэффициенты матрицы В суть рациональные функции
с не обращающимися в нуль знаменателями от коэффициентов
матрицы А. Следовательно, введенные нами локальные карты
превращают A(S) в вещественно аналитическое многообразие
размерности л(я+1)/2. [Для сравнения напомним, что грас-
сманиан G(N,k), состоящий из всех А-мерных плоскостей в R",
представляет собой многообразие, размерность которого равна
k(N — k) — числу коэффициентов, требующихся, чтобы выразить
N — k координат через остальные k. В частности, G Bп, п) = п2,
что намного больше, чем dimA(S), за исключением случая,
когда п = 1.]
Каждая из наших координатных окрестностей оставляет не-
непокрытой довольно малую часть многообразия ЛE):
Лемма 21.6.3. Для всякой фиксированной плоскости |ieA(S)]
множество
B1.6.3) (^gA(S); dim Я. П |* = ik}
есть подмногообразие размерности п(п + 1)/2 — k(k+ l)/2.
Доказательство. Пересечение У = К(]ц есть элемент грассма-
ниана /г-мерных плоскостей в ц, имеющего размерность k(n — k).
Для каждого данного V существует взаимно однозначное соот-
соответствие между лагранжевыми плоскостями KczS с X{]\n = V
и трансверсальными к \i/V лагранжевыми плоскостями К' в
S' = Va/V, которые получаются при помощи конструкции из
предложения 21.2.13: Я/ = X/V. Легко видеть, что это дает рас-
расслоение пространства B1.6.3), поэтому его размерность равна
(п — k) (п — k + l)/2-{- k(n — k), как и утверждалось.

21.6. Лагранжев грассманиан 441
В частности, A(S)\An(S)— как объединение многообразий
коразмерности &(&-|-1)/2 для k = 1,2, ..., п — есть «тощее»
множество (множество первой категории Бэра). Следовательно,
любое счетное пересечение f) Ац (S) непусто — утверждение,
представляющее собой существенное усиление следствия 21.2.11.
В аналитическом контексте гл. 25 симплектическое векторное
пространство 5 появится как касательное пространство к кока-
сательному расслоению в некоторой точке. В этой ситуации
имеется выделенная лагранжева плоскость — касательное про-
пространство к слою. Будем поэтому далее считать, что задан не-
некий выделенный элемент Хо eA(S).
Простейшим прототипом конормальных распределений, изу-
изучавшихся в § 18.2, служит — для случая, когда рассматриваемое
подмногообразие есть линейное подпространство V в R",— про-
простой слой на V, инвариантный относительно сдвигов вдоль V. Та-
Такой слой можно определить как распределение (полуплотность),
удовлетворяющее уравнению
L(x, D)u = 0
для всех линейных функций L(x, ?), равных нулю на конормаль-
ном к V расслоении VX.V°, где V° — аннулятор подпростран-
подпространства V. Действительно, из того что L\(x)u = 0 для всех L\, рав-
равных нулю на V, следует, что и — простой слой на V, а из того
что L2(D)u = 0 для всех L2, равных нулю на V°, следует, что и
инвариантно относительно сдвигов вдоль V. Сейчас мы распро-
распространим эту конструкцию на произвольные лагранжевы пло-
плоскости.
С этой целью выберем какую-нибудь плоскость к\ eAi,(S),
т. е. лагранжеву плоскость, трансверсальную к выделенной
лагранжевой плоскости V Напомним, что для такой лагранже-
вой плоскости билинейное отображение
(X, Y)
является невырожденным и потому определяет изоморфизм
^i -*¦ ^о» с помощью которого можно отождествить полуплотности
на Я,1 с полуплотностями на X'G. Введя симплектические коорди-
координаты х, I, подогнанные к Ki в том смысле, что аг = О на Хо и
| = 0 на Я,ь положим для всякой плоскости ^A(S)
B1.6.4) I(X, ^^{ue^'Uo. Q); L(x,
для всех линейных функций L(x, l), равных нулю на А,}.
Здесь ?21/2 — расслоение полуплотностей. Отметим, что это опре-
определение не зависит от выбора базиса в Хо, а значит, и от вы-
выбора двойственного базиса в ki. Покажем, что и от самого вы»

442 21. Симплектическая геометрия
бора Х\ пространство l(X,Xi) зависит очень слабо и что, ис-
используя I(X,Xi), можно определить слой в точке X некоторого
линейного расслоения над ЛE). [Заметим, что если ОФи
е I(X, Xi) и L{x, D)u =0 для некоторой линейной функции L, то
{L, L'ju = i[L(x, D), L'(x,D)]u = 0 для всех линейных функ-
функций L', равных нулю на X. Поэтому L равняется нулю на X, так
что фигурирующая в B1.6.4) система уравнений максимальна и
X определяется по и.]
В симплектических координатах х, \, подогнанных к Х\, вся-
всякая другая плоскость Х2 е Л»,,, E) может быть записана в виде
где А—симметричная матрица. Следовательно, координаты
у = х и г|=| — Ахсимплектичны и подогнаны к Я,2. Если L(x, |),
= 0 на X, то в координатах у, ц мы имеем L {у, ц + Ау) = 0 на Я.
Далее,
L(x, D)Ul =
где u2(y) = ul(y)e-UAy-v>/2. Значит, отображение
B1.6.5) 1(Х, Хх)=эиХ)*-*иКе-1<А--^ = ик2<~1{Х, Х2)
является изоморфизмом, что позволяет нам отождествить
J(X,Xi) с 1(Х,Х2). Это отождествление не зависит от выбора
координат, поскольку его можно описать, как в доказательстве
леммы 21.6.2, и оно транзитивно. Получающееся множество 1(Х)
классов эквивалентности можно представлять себе как множе-
множество всех отображений
\(S)^\^uki^I(X, Я,),
удовлетворяющих равенству из B1.6.5). Для каждого
AieAa,0(S) мы имеем, конечно, изоморфизм 1(к, х\)-+1(Х).
Для всякой плоскости leA(S) существует некоторая транс-
версальная к ней плоскость Xi e Лд,0 E). При выполнении этого
последнего условия нетрудно явно описать I(X, Xi):
Лемма 21.6.4, Пусть плоскость Xi трансверсальна к плоскостям
X и Хо. Выберем симплектические координаты х, I, в которых Ха
и Х\ задаются соответственно равенствами х = 0 и | = 0. Тогда
всякое и^1(Х, Xi) представило в виде осцилляторного инте-
интеграла
<21.6.6) и (х) = с Bя)-3п/4 J е1 ««• 5>-<B
где В — симметричная матрица, определяющая X:
<21.6.7) Х
а с — некоторая постоянная.

' 21.6. Лагранжев грассманиан 44$
Доказательство. Так как плоскость X трансверсальна к Хи ее
можно задать уравнением х = В\, и матрица В симметрична
ввиду лагранжевости X. Уравнения, определяющие I(X, Xi), при-
принимают тогда вид
, у=1 п,
или, после преобразования Фурье,
Du + ВЫ = 0.
Решением последнего уравнения служит й(?) = сехр(—КВ%,
?>/2), где с — некоторая постоянная, что и дает B1.6.6) с неко-
некоторой другой постоянной. (Множитель Bп)~3п/* мы ввели в
B1.6.6), чтобы обеспечить согласованность с A8.2.11)' при
k = n. Вскоре будет дано более содержательное обоснование.).
Замечание. Используя теорему 7.6.1, нетрудно вычислить инте-
интеграл B1.6.6); если <б?, ?> = <В'?', ?'> есть невырожденная
квадратичная форма от ?' = (&i ?*), то
^ ' f1/2
B1.6.6)' и = сBлГ-2*)/4е'"<в'~'*'-*'>/2б(д:")е-ш^»в')/*| detB
Ввиду B1.6.5) отсюда следует, что для произвольного X и для
Я) е Лх„ E) множество I(X, Xi) состоит из произведений про-
простого слоя на некотором подпространстве, инвариантного отно-
относительно сдвигов вдоль этого подпространства, на гауссовы
экспоненты постоянной абсолютной величины. Мы, однако, бу-
будем избегать такого рода представлений, поскольку они скры-
скрывают, как замечательно зависит B1.6.6) от В, т. е. от X.
Для фиксированного Я1 е Лл, E) и произвольного X е Л»,, E)
можно отождествить 1(Х) с С, отождествив сперва 1(Х) с
I(X, Xi), а затем «e/(l, Xi) с се С, фигурирующим в B1.6.6).
Докажем, что это превращает
/ = {(и, X); и<~1(Х)}
в линейное расслоение над Л E). Для этого надо определить
функцию A X 1-матрицу) перехода, на которую умножается
коэффициент из B1.6.6), когда плоскость Xi заменяется другой
лагранжевой плоскостью Я2еЛл„E), такой что ЯеЛд,2E). За-
Заметим прежде всего, что из B1.6.6) следует, что определен
осцилляторный интеграл от и, а именно
B1.6.8)
Так как и — полуплотность, с преобразуется как (—1/2)-плот-
ность на Хи следовательно, c|d?|1/2 есть полуплотность на двой-
двойственном пространстве Хо, зависящая лишь от выбора Xi, но не

444 21. Симплектическая геометрия
от выбора координат х. Далее, проектор
л, : Я, —*¦ Яп
Л1 О
плоскости X на Хо вдоль Xi является биекцией, поскольку Xi f) 'К
= {0}, поэтому полуплотность c|d?|1/2 можно поднять до полу-
полуплотности
на X. Для A,2eA»,0(S) элемент ие/A, Х\),заданный формулой
B1.6.6), отождествляется в соответствии с B1.6.5) с элементом
ое/^, Х2), определяемым формулой
v (у) = с
В случае когда A,eA^(S), можно определить ы^так же, как
мы определили uf, замечая, что если записать v в виде B1.6.6),
то коэффициент с заменится на
-1/2
л /о \~п f f HU/i 1>—Ф\< S>/2—<АУ, S>/2) »«. j
= С 1^Я; \ \ "e"»
( — B I \
detl / -л)
( — A I \
где s — сигнатура матрицы I . _ R I. Эта матрица невы-
рожденна, поскольку X и Х2 трансверсальны и, значит, уравне-
уравнения х — 5? = 0 и ? — Ах = 0 имеют единственное решение
х = | = 0. В ней 2га строк и 2п столбцов, поэтому ее сигнатура
есть четное число, а следовательно, enis/4 представляет собой не-
некоторую степень мнимой единицы.
Сравним теперь плотности n'kJd%\ и nljdr\\ на X. В си-
системе координат х, | координаты | параметризуют точку
(В\, %)^Х. Координаты tj в системе у, т] параметризуют ту же
самую точку, если ц = | — А у = | — ЛВ|, поэтому я^я^1^ =
- AB)\nu\dl\.
Так как | det (/ - АВ) \ =
det
Г-в /ч
V / -л;
, получаем
. -А
B1.6.9) uf=enls'4uf, где s = !
Таким образом, если отвлечься от степеней мнимой единицы,
мы смогли отождествить 1{Х) с множеством Q (XI/2 полуплот-

21.6. Лагранжев грассманиая 445
ностей на плоскости Я, инвариантных относительно сдвигов
вдоль нее.
Итак, для любой четверки лагранжевых плоскостей (Яо, X,
Яг, A-i), в которой каждая из первых двух трансверсальна к
каждой из двух вторых, мы определили целое число
B1.6.10) сг(Я0, Я;Я2, *,) =
при помощи симплектической системы координат, в которой
эти плоскости задаются соответственно уравнениями
B1.6.11) Ао: х = 0, X: х = В%, X* 1 = Ах, А,: 1 = 0.
По соображениям непрерывности это число а остается по-
постоянным, когда (Яо, X, Яг, Xi) пробегает любое связное от-
открытое множество в ЛEL, на котором выполнены указан-
указанные условия трансверсальности. Для всякого не 1(Х) мы сопо^
ставили каждой лагранжевой плоскости Xi, трансверсальной к Хо
и к Я, полуплотность и? на X, инвариантную относительно сдви-
сдвигов вдоль X, так, что если Яг— другая такая лагранжева пло-
плоскость, то
B1.6.9)' u* = /oft°lV>**lXl)u*.
Таким образом, по модулю 4 справедливы равенства
B1.6.12) а (Ао, А; А2, А,) = - о (А„, А; А„ XJ,
B1.6.13) а(Хо, X; %*, Я^ = ст (Я,о, Я; Х3, Х2) + о(Х0, X; Хъ Х^
при условии что все входящие в них члены определены. На са-
самом деле эти равенства являются точными. Достаточно устано-
установить равенство B1.6.13), из которого при я,з = Xi получается
B1.6.12). Пусть Хо, X, Х2, Хх заданы уравнениями B1.6.11), а
Х3 — уравнением | = А'х. В координатах у=*х, г\ = 1 — Ах, по-
подогнанных к Яг, имеем для Хз уравнение v\=(A' — А)у, а для
Я —уравнение у = В% если В\ = В' (| — АВ\), т. е. В' = В
+ В'АВ (резольвентное уравнение!). Следовательно, нам нужно
доказать, что .„ ,
-А' l\ (A-A' i"\'""(-A I\
При этом можно считать, что В и В' обратимы, потому что до-
доказываемое равенство устойчиво относительно малых возмуще-
возмущений. Далее,
Vo / Л / -вАв-1 I) \ о ~вУ

446 21. Симплектическая геометрия
поэтому доказываемое равенство принимает вид
sgn (- А' + В) - sgn В = sgn (A-A' + В')
- sgn В' + sgn (— А + В) — sgn В
и, значит, верно, поскольку В~1 = В'-1 + А. Тем самым равен-
равенства B1.6.12), B1.6.13) установлены. Имеет место также свой-
свойство антисимметричности
B1.6.14) о(Х0, X; Х2, Я,,) = — а(Хи Х2; X, Хо).
Оно получается, если выполнить симплектическую замену пере-
переменных у = —?, i) = Jt, в результате чего плоскость Хо станет
задаваться уравнением т| == 0, плоскость X — уравнением
ц =—Вх, Хъ— уравнением г/ = —Ац и Xi — уравнением г/ = 0,
и воспользоваться тем фактом, что
~А I \ (В
Определение 21.6.5. Комплексное линейное расслоение М над
A(S), определяемое при помощи покрытия открытыми множе-
множествами Ль,(S), Xi<=A?,0(S) и функций перехода
B1.6.15) gMt = i°{K м К к'\ X е Л^ E) П АКг (S),
называется расслоением Маслова над Л E).
Таким образом, мы отождествили / с тензорным произведе-
произведением М <8> й1/2 расслоения Маслова и расслоения, слой которого
в точке X состоит из всех полуплотностей на плоскости X, инва-
инвариантных относительно сдвигов вдоль нее. Элементы из М <8>й'/2
нужно представлять себе как символы элементов из /.
Применяя B1.6.5) в случае, когда Яд — некоторая плоскость,
трансверсальная к X и Хо, и используя для представления ии
лемму 21.6.4, заключаем, что каждое ueI(X,Xi) можно запи-
записать в виде
где Q(x, ?) = <*. 1) + ((Лх, x)-(Bl, 1))I2, a А и В —некоторые
симметричные матрицы. Следовательно, мы имеем такое пред-
представление даже в случае, когда плоскость X не трансверсальна
к Х^ Изучим теперь еще более общие представления вида
B1.6.16) u(x) = aBn)-«+2N)l4\eiQix-e) dQ,
где Q—вещественная квадратичная форма на Xi X R*. а а пре-
преобразуется при заменах координат х как полуплотность. Сначала

21.8. Лаграижев грассмаииан 447
предположим, что Q невырожденна как фазовая функция, т. е.
что dQ/dBi, ..., dQ/dQN имеют линейно независимые диффе-
дифференциалы. Поскольку ^jtjdQIdQj тождественно равняется нулю
в точности тогда, когда (и, t) принадлежит радикалу квадратич-
квадратичной формы Q, эквивалентное условие состоит в том, что @, t)
е Rad Q влечет t = 0. Таким образом,
при С|дс|<|в|,
и, следовательно, интеграл в B1.6.16) определен как осцилля-
торный интеграл. (Предположения об однородности здесь от-
отличны от предположений § 7.8, но использованные там рассуж-
рассуждения применимы. Рассматриваемая как фазовая функция фор-
форма Q не удовлетворяет и предположениям однородности, кото-
которые были приняты в § 21.2.) Ясно, что
L (х, D) и(х) = а BлГ(п+2Л0/4 J L (х, dQ/дх) ет*' 9) dQ = 0,
если L (х, dQ/дх) = ? tt dQ/dQf для некоторых tj, т. е. если L рав-
равняется нулю на лагранжевои плоскости
параметризованной при помощи Q. Таким образом, «(^i)
В случае когда плоскость X принадлежит Ль, E), ее можно
задать, как в B1.6.7), и и должно иметь вид B1.6.6) с
с = Bя)-п/4 ( и (х) dx = а Bя)-(п+™ \ \ elQ <*•в) Ах dQ.
Здесь квадратичная форма Q невырожденна, поскольку dQ/dQ
= dQ/дх = 0 влечет (х,0)^Х, а значит, х = 0 в силу B1.6.7).
Поэтому последний интеграл можно вычислить с помощью тео-
теоремы 7.6.1, что дает
B1.6.17) c = ae"'''<s8"«| detQ"f1/2;
степень числа 2л в B1.6.16) была выбрана с тем расчетом, чтобы
здесь произошло полное взаимное сокращение. Равенство
B1.6.17) допускает важную геометрическую интерпретацию.
Отображение
Rn+N э (х, 6) н-*Q'e(x, 9) s R"
сюръективно, следовательно, поднятие 5 (Qg) при помощи этого
отображения б-функции Дирака на RN представляет собой не-
некоторую плотность dc на С = {(х, B)eR"+lv; Q'6{x, 8) = 0}. Ввиду
F.U),
Г11
dc = | D (/, dQ/dQ)/D (х, Э) Г11 Л|,

448 21. Симплектическая геометрия
где ti, ¦¦¦, tn — линейные функции на &."+", ограничение кото-
которых на плоскость С дает координаты на этой плоскости, a \dt\—•
лебегова плотность на С, отвечающая этим координатам. Так
как отображение
г, dQ/dx) &1
является биекцией для любой плоскости К, мы всегда можем
рассматривать dc как плотность на %. В случае когда К транс-
версальна к Хи можно взять t = dQ/dx, поскольку dQ/dx и |
совпадают на С. Таким образом,
где обе части рассматриваются как полуплотности на X. Вспо-
Вспоминая, что u^ = c\dt\112, выводим из B1.6.17), что
B1.6.17)' ' и* = ad>?epi*sgn<*.
Если мы имеем другое представление
B1.6.16)' й(х) = а {2л)-(п+Шщ J e'*lx- 6' dQ
того же самого элемента, что и в B1.6.16), то квадратичная фор-
форма Q должна параметризовать ту же лагранжеву плоскость, что
и Q, и из B1.6.17)' следует, что
B1.6.17)" adfenlisunQ-suaSi)IA = adf.
Зависимость от х никак не сказывается на стоящей в показа-
показателе разности сигнатур, так как
B1.6.18) sgnQ-sgnQ = sgnQ(O, -)-sgnQ@, .).
(При определении сигнатуры вырожденной квадратичной формы
в дополнение к соглашению sgnt=*t/\t\, определяющему знак
отличного от нуля вещественного числа, принимается соглаше-
соглашение sgnO = O.) Чтобы доказать B1-16.18), прежде всего произ-
произведем замену координат 8 так, чтобы Q@,8) записывалось
в виде невырожденной квадратичной формы Qo(8") для неко-
некоторого расщепления 8 = F', 9") координат 8 на две части. Тогда
B1.6.19) Q (х, 6) = Qo (9" + L (х, Ю) + Qi (х, П
где L — некоторое линейное отображение и Qi@, •)==0. так ЧТО
sgn Q.== sgn Qo + sgn Qi = sgn Q@, •) + sgnQi.
Поэтому достаточно доказать B1.6.18) для случая Q и Q, ли-
линейных по 9 и 8, в этом случае правая часть B1.6.18) равна 0.
Итак, предположим, что

21.6. Лаграижев грассманиаи 449
где отображение Т: R*-vR" инъективно, поскольку Q — невы-
невырожденная фазовая функция. Имеем
где q{x) = (q'(x),x)/2 = <\,x'>/2 при 'Тх = 0, (х,%)^Х. Следо-
Следовательно, ядро JC оператора 'Т и ограничение q \ж определяются
плоскостью А,. Обратно, JF и q \^ определяют X, так как образом
оператора Т служит ортогональное дополнение к /С. Выбирая
координаты х=(х',х") так, чтобы Jf задавалось уравнением
х' = 0, и выполняя соответствующую линейную замену перемен-
переменных 8, мы, не изменив интересующей нас сигнатуры, получим
(х, Тв) = <*', 9). Но сигнатура квадратичной формы q{xf, x")
+ <дг', 8) равна сигнатуре ограничения этой формы на плоскость,
на которой равны нулю все ее производные по переменным х', 9,
т. е. на плоскость, где х' = 0 и 8 + dq(O, х")/дх' = 0. Таким об-
образом, она равна сигнатуре ограничения q \^, которое зависит
лишь от X. Тем самым B1.6.18) доказано.
Из B1.6.17)" и B1.6.18) вытекает, что если выполнены
B1.6.16) и B1.6.16)', то
B1.6.17)"' аЗ]Р = ad}?enl{*en Q@- •)-вв *@> 0)/4.
Пока это доказано лишь для случая, когда плоскость X транс-
версальна к Х\. Но из B1.6.18) следует, что множитель Маслова
в правой части B1.6.17)'" не изменится, если немного возмутить
Q и Q так, чтобы они по-прежнему параметризовали одну и ту
же плоскость. Это заключение останется верным, даже если Я, не
будет трансверсальна к Я-i, а потому и B1.6.17)'" останется вер-
верным в этом случае. Действительно, всегда найдется плоскость
%ь трансверсальная к Хо и к X. Замена Х\ на %2 приводит к тому,
что к формам Q и Q добавляется —{Ах, *>/2, в результате чего
они становятся невырожденными. Это никак не влияет ни на
фигурирующую в B1.6.17)'" разность сигнатур, ни на опреде-
определение плотностей dc, d^ на X.
Мы можем теперь дать другое определение расслоения Мас-
Маслова. А именно, фиксируем Х\ и покроем A(S) открытыми мно-
множествами со, такими что X задается при помощи невырожденной
квадратичной формы Q*,, непрерывно зависящей от X при 1еш.
Рассматривая пары <о, й таких множеств с отвечающими им не-
непрерывными функциями Qx и Qx, мы получим локально постоян-
постоянные функции перехода
?Х (sgn Qk @, .)-«en Q\ @, .)V't x s ffl p 6>
которые и определяют расслоение Маслова. (Если всегда брать
одно и то же число переменных слоя N, скажем N = п, то эти
функции перехода будут равны степеням мнимой единицы.)
15 Зак. 443

460 21. Симплектическая геометрия
Каждая вещественная, квадратичная форма Q(x, 8) на
Xi X Rw определяет лагранжеву плоскость
Положим
R = {Q
Это — пересечение радикала формы Q с плоскостью дг = О. Вы-
Выберем расщепление 8 = (8', 8") переменных 8, такое что отобра-
отображение R э 8i—э>8" биективно. Это значит, что R задается урав-
уравнением вида 8' = ¦§(&"), а следовательно,
Q(x, 8', 8") = Q(*, tf-ЪОП, 0).
Квадратичная форма Q(x, 8', 0) есть невырожденная фазовая
функция, задающая Я, поэтому формулой
= a Bя)-(п+2А"/4 J е <*•9>
корректно определяется элемент из I(X,Xi), не зависящий от 8".
Мы можем теперь инвариантно интерпретировать B1.6.16) как
инвариантную относительно сдвигов плотность на R со значе-
значениями в /(ХД,). С этой целью возьмем какой-нибудь проектор
Т: RN-*-R и рассмотрим отображение
B1.6.16)" C0(R)
Поскольку Q(x, 8)= Q(x, В' — у (8"), 0), заменим 6'на е' + я|>(9")
и заметим, что
\, B")dQ"
ввиду линейности Т и равенства Т(¦$($"), в") = {$(&"), В"). Сле-
Следовательно, правая часть B1.6.16)" равна U \ x(^(8"), 8")rf8" и,
значит, представляет собой элемент из 1(Х, Х\), не зависящий от
выбора Т. Таким образом, B1.6.16)" позволяет интерпретиро-
интерпретировать B1.6.16) как элемент из I(X, X\)<8> Q(R).
Пусть теперь А — изотропное подпространство в S. Тогда
5д = А"/А есть симплектическое векторное пространство (пред-
(предложение 21.2.1). В силу предложения 21.2.13 каждая лагран-
жева плоскость ЛеАE) определяет лагранжеву плоскость
В частности, \0& определяет выделенную лагранжеву плоскость
в 5д. Покажем, что имеется естественное отображение слоя рас-
расслоения М <8> Q1/2 в точке X в слой в точке Я,д соответствующего
линейного расслоения Л4д<Е>Од2 над ЛEд), тензорно умножен-

21.6. Лагранжев грассманиан 451
ного на расслоение плотностей Q(A,f|A) и еще на один множи-
множитель, зависящий лишь от Д.
При доказательстве этого утверждения будем использовать
симплектические координаты, в которых Д задается особенно
удобным образом. Поскольку Д изотропно,
{0}сДПЯ0с:ДоПЯ0с:Я0.
Выберем какой-нибудь базис еь ..., е* в Д П ко и дополним его
сначала до базиса еь ..., е*+; в Д° П ко, а затем до базиса
еь .... гп в Ко- Симплектическая форма приводит в двойствен-
двойственность А/{А(]к0) и ko/(Aaf\ko), поэтому можно дополнить
еь .... е* векторами вц+i+u ..., е„ до базиса в Д с выполнением
коммутационных соотношений. Дополняя уже отобранные век-
векторы до полного симплектического базиса в S, получим симплек-
симплектические координаты х, ?, х = (х\ х", х'"), ? = (?', ?", l'"), в ко-
которых Д представляет собой плоскость \'х"', a А,0 = {@, ?)}. Вве-
Введем для соответствующих размерностей обозначения п' = k,
n" = l,n'" = n — k — l.
Определим плоскость к\ уравнением ? = 0 и вспомним, что
/(Я) изоморфно пространству 1(к, К\), каждый элемент которого
представим в виде B1.6.16), где квадратичная форма Q невы-
рожденна как фазовая функция, задающая Я. Далее, возьмем от
и интеграл по х'" и рассмотрим его ограничение на плоскость
0
B1.6.20) иА (х") = a Bn)-{n+2NV4 $ \ ет°- *"¦ *"'¦в) dx'" dB.
Опять важна «параметрическая часть»
/? = {(*'", 0); dQ/дх" = dQldx'" = dQ/d0 = O в @, 0, х'", в)}
радикала фигурирующей в показателе квадратичной формы.
Биекция
{{х, 6); dQ/dQ = 0} э (х, 0) i-* (х, dQ/дх) s к
переводит R в
{(х, 6)еА,; х' = х" = 1" = ?" = 0} = к()А.
Лагранжева плоскость, параметризованная с помощью
Q@, x", х"', 9), где параметром теперь служит (*'", 0), имеет вид
{(*", dQ@, х\ х"', в)/дх"); dQ/dx'"=dQ/dQ = O]
= {{х", ГУ, @, х", х"\ Г, I", 0)еЛ для некоторых х"', 6'}_
Поскольку Д° задается уравнениями х/ = \'" =0, а Д представ-
представляет собой плоскость Ъ'х'", координаты х", I" индуцируют симп-
симплектические координаты на 5д, и указанная выше лагранжева
плоскость есть в точности Яд. Таким образом, формула B1.6.20)

452 21. Симплектическая геометрия
задает элемент из /(Яд, Я]д)® Я(ЯЛ Д). а значит, и элемент из
/(Яд)® Я (ЯП А)- Переходя к «символам», получаем отображение
из слоя расслоения Л1 ® Я1/2 в точке Я в слой в точке Яд рас-
расслоения Мд®Яд2. тензорно умноженного на Я (Я ПА), но пока
это отображение зависит от ряда произведенных в ходе построе-
построения выборов.
Прежде всего убедимся, что оно не зависит от выбора Q. Если
записать Q в виде B1.6.19), то интегрирование по переменным
9" дает в B1.6.16) ив B1.6.20) один и тот же множитель. Сле-
Следовательно, Q и Q\ определяют одно и то же отображение. По-
Поэтому можно считать, что квадратичная форма Q линейна по 9:
Здесь Т — инъективный оператор и ядро Кег *Т определено одно-
однозначно, а потому однозначно определено и ограничение квадра-
квадратичной формы q на Кег {Т. Добавление к q многочлена, равного
нулю на Ker'f, не изменяет ни B1.6.16), ни B1.6.20), чем
утверждение о независимости от выбора Q и доказано.
Предположим теперь, что мы переменные х сохраняем, а |
заменяем на ? — Ах, где А — симметричная матрица. При этом
требуется, чтобы Д по-прежнему совпадало с плоскостью \'х"'.
Тогда вектор А @, 0, х"') должен иметь ^'-направление, так что
квадратичная форма <Л @, х", х'"), @, *",*"')> не зависит от
х"'. Переход к указанным новым координатам приводит в силу
B1.6.5) к тому, что и умножается на e~iiAx-x>12, а это вызывает
лишь то, что ыд умножается нае-/<А@-*"-0>-@'*"-0»'2, в полном со-
соответствии с заменой координат, индуцированной на 5д.
Наконец, если мы сохраняем плоскость Я1 фиксированной, то
возможны лишь такие замены переменных х и двойственных пе-
переменных ?, при которых остаются на месте плоскости х' = 0 и
х' = х" = 0, ибо эти плоскости служат ортогональными допол-
дополнениями к Д П Яо и Да П Яо. Поскольку и преобразуется при за-
заменах координат как | dx |1/2 = | dx' |1/2| dx" |''2| dx"' |1/2, мы заклю-
заключаем, что ыд преобразуется как
\dx'\m\dx"\m\dx"'\-m,
т. е. как
\dV\-m\dx'"\-m\dx"\u\
Так как ?', х"' являются координатами в Д, отсюда следует, что
мы действительно получили отображение
/ (Я) -+1 (Яд) ® Q (Я П А) ® Q (ДГ1/2.
Переходя к «символам», приходим к отображению
М (Я) ® Q (Я) -> Мд (Яд) ® Q (ЯдI/2 ® Q (Я П Д) ® Я (Д)~ш.

21.6. Лагранжев грассманиан 453
Ясно, что это морфизм расслоений, в предположении что Я изме-
изменяется лишь на подмногообразии, иа котором Я П Д имеет фик-
фиксированную размерность. Поскольку функции перехода для рас-
расслоений М и Мд по абсолютной величине равны 1, а функции
перехода для расслоений плотностей положительны, это отобра-
отображение является тензорным произведением двух однозначно опре-
определенных отображений .
М (Я) — М (Яд) и Q (Я) — Q (ЯдI/2 ® Q (Я П Д) 8 Q (Д)~ т,
второе из которых сохраняет свойство положительности. Это
второе отображение можно описать и намного более прямым и
геометричиым образом. Действительно, так как Яд — факторпро-
странство пространства Я П Д" по ЯП Д. то
B1.6.21) О(ЯдI/2^О(ЯПДаI/2®ЩЯПДГ1/2-
Симплектическая форма приводит Я/(ЯП Да) и Д/(ЯП Д) в двой-
двойственность, поэтому
B1.6.22) Q (ЯI/2 <S> Q (Я П Да)~'/2 ss Q (Я П ДI/2 <8> Q (Д)~1/2.
Комбинируя B1.6.21) и B1.6.22), получаем
Q (ЯI/2 ~ Q (Я П Д°I/2 ® Q (Я П ДI/2 ® Q (Д)~1/2
?* Q (ЯдI/2 ® Q (Я П Д) ® Q (Д)~'/2.
Докажем, что, если ие обращать внимания на степень числа 2я,
этот изоморфизм совпадает с изоморфизмом, определенным
выше при помощи формул B1.6.16), B1.6.20). Прежде всего за-
заметим, чго переход от S к 5д можно выполнить за два шага:
сначала перейти от 5 kSa', где Д' = Д ("I Я, а затем от 5д- к 5д;
во втором случае мы имеем Яд'ПДд' = {0}. Поэтому достаточно
рассмотреть по отдельности эти две ситуации.
(а) Предположим, что Д с Я, и выберем координаты так,
чтобы Д, как и выше, представляло собой плоскость %х'". Тогда
х? = ?'" = 0 на Я. Произведя, если надо, замену переменных ?",
можно считать, что Яд задается уравнением вида х" = В\". От-
Отсюда следует, что плоскость Яд параметризуется при помощи
<х", I") — <ЯГ', Г>/2, а Я —при помощи
Q(x. ?) = <*', Г) + (х", 1")-{В%", Г)/2.
Таким образом, формулы B1.6.16) и B1.6.20) принимают с точ-
точностью до множителя — элемента объема |dg'||dj/"| — следую-

454 21. Симплектическая геометрия
щий вид:
и(х) = а {2n)-{n+2n'+2n")li J eiQ{x'S) ft ft',
Цд {х") = a B«
в A = A.f|A используются координаты ?', *'". Поскольку
dQ/дЦ', I") = (х', х" - ВЪ"), множество С = {(х, Г, !")•
dQ/d(?', П = 0} параметризуется с помощью I', I", х"\ и
dc = I <% 11 ft' 11 dji:'" I- Ассоциированная с и положительная
полуплотность на К равна поэтому, в силу B1.6.17)',
la lldrTl drf'W Г-
Ассоциированная с ыд полуплотность на Яд равна
\a{Bnrl3n'+n'")li\dl"t12,
что отвечает в используемых координатах элементу
| a |BIt)-C"'+n'")/4| ft' Г| ft 11 dx'" 11 d?' f1/2| dx'" Г"8
W/2 ® Q(X П A)
От отождествления Q(kI'2 с О(ЯдI/2® Й(АI/2, задаваемого
формулами B1.6.21), B1.6.22), это отличается множителем
-(Зп'+в'")/4 /t>_.\(dim A-2dim AfHn-2dim Д|П)/4
—^ii; .
(b) Если ЯПД={0}. то можно выбрать координаты так,,
чтобы А совпадало с плоскостью \'х'", а плоскость Я была транс
версальна к плоскости g = 0. Чтобы убедиться в этом, восполь-
зуемся снова тем наблюдением, что
{0}с=ДПЯ0с:ДоПЯ0с:Я0.
Выберем какой-нибудь базис вь .... гк в А ПЯо и расширим его
до базиса вь ¦ • •» ел, ец+i+u • • •. еп в А, где 21 = dim 5д. В 5д
найдутся векторы е?+1, .... е%+1, порождающие плоскость, транс-
версальную и к Яод, и к Яд. Пусть в^+1 е?+, — базис в Яод,
образующий вместе с этим набором векторов биортогональную»
систему. Выберем ек+и ... > ek+i s А0 и е*+1, ..., е*+/ s Аа П Яо
из классов смежности е%+1, ..., е^+1.Тогда вь ..., вА+/,ек+и ...,еа
составляют неполный симплектический базис в 5, причем
еь .... е/г-н порождают А0 П ^о- Если обозначить через ц изо-
изотропную плоскость, порожденную векторами ек+и ..., еп, то
цПЯс:ДПЬ={0} и цП^о={О}, поскольку jifHoCiAfHo и
еь ..-, Bft, ek+i, ..., е„ линейно независимы. Чтобы выбрать
ей .... ек, заметим, что вь ..., ек лежат в ц° и линейно неза-

21.6. Лагранжев грассманиан 455
висимы по модулю ц. Поэтому найдутся^, . ... e^czS^, обра-
образующие биортогональную систему вместе с классами смежности,
отвечающими элементам еь •••. е*, и порождающие лагран-
жеву плоскость в 5ц, трансверсальную к Яц и к Яоц. Далее, вы-
выберем из классов е», .... е? векторы ей ¦ ¦ ¦, ek^ ц°, образую-
образующие биортогональную систему с в/г+ь ..., Bk+i, что возможно, так
как е*+\, ..., ek+ie ц. Эти векторы можно добавить к нашему
неполному симплектическому базису, и плоскость, порожденная
векторами еи ¦¦-, еп, будет трансверсальна к к и к Яо, по-
поскольку соответствующие пересечения содержатся в ц. Так как
лагранжева плоскость, порожденная векторами ей ..., е„, транс-
трансверсальна к ко, недостающие элементы е*+/+1, ..., е„ симплекти-
ческого базиса можно единственным образом выбрать в Ко.
В построенных координатах плоскость Я задается уравнением
вида х — В%, а формула B1.6.6) принимает вид
и(х) = сB*)-3 J е1 «*¦ S
Далее,
и& (*") = с BП)"'4 \ \ е1 '«•¦ ^+«'"- 5'">-<В6- ™ dx"' d%.
Фазовая функция
Q(x", х'", t) = (x", F) + (x'", Г")-Ж 1I2
невырожденна, ибо плоскость
C={U", *"', I); dQ/dx'" = 0, dQ/dl = O}
= №, I); %'" = 0, (BIY = 0} = К П Д°
имеет размерность п". На этой плоскости в качестве координат
можно взять |", поэтому
dc = \dt"\\D(dQ/dx", dQIdx'", dQ№ID{x", x'", Df1
Ассоциированная с ыд полуплотность на Яд по абсолютной вели-
величине равна
Bnf'"~n')li\ d%" |1/2| det(d2Q/dr2) Г.
ибо —Зп/4 + (п" + 2п + 2п'") /4 = (га'" — п')/4. Полуплотности
ы мы сопоставили полуплотность
c\dl\in = c\dl'\U2\d%"\m\d%"'\m
на плоскости \, записываемой в параметрическом виде как
{(ВЦ)}. Если мы, замечая, что |Dx'/Df \ = |det(&Q/dV2) \,

456 21. Симплектическая геометрия
в качестве параметров вместо § возьмем х', %", %'", то получим
с | dl | = с|det (d'Q/dl'2) \~ll2\dx' |1/2| d%" |1/21 dl'" I-
Эти переменные удобны, потому что Д° задается уравнениями
х' = %'" = 0; поэтому факторпространство Я,/(Я,ПД°) параметри-
параметризуется переменными х' и I'", которые в B1.6.22) спарены с пе-
переменными ?' и х"' при помощи симплектической формы, что
позволяет отождествить! dx' \т\ d\"' \т с | d%' \~щ\ dx'" f1/2. Та-
Таким образом, в соответствии с B1.6.21), B1.6.22) полуплотность
c\dl,\  отождествляется с полуплотностью
с | det Шд1'2) |~1/2| dl' Г1/2| dx'" Г1/2| dl" Г
где I" — параметр на %{\S° fa Хд. С точностью до множителя
А~2 dim
последняя совпадает с полуплотностью, полученной из ыд. Поды-
Подытожим доказанное:
Теорема 21.6.6. Пусть А — изотропное подпространство симплек-
тического векторного пространства Su 5д = Да/Д с индуцирован-
индуцированной симплектической структурой. Если XeA(S), то Хд = (>.
П Д0)/(ЯA Д) еЛE4). Существует естественное отображение
M(X)<S)Q (А,I/2 -> уИ (Я-д) ® Q (А,дI/2 ® Q (А, П Д) ® Q (Д)/2,
которое в симплектических координатах х', х", х'", I', I", %'",
таких что Д совпадает с плоскостью х'1'", переводит символ по-
полуплотности B1.6.16) в символ полуплотности B1.6.20), помно-
помноженный Ha\dl'\-l/i\dx"'\-l/2. Это отображение является морфиз-
мом расслоений там, где размерность пересечения X |"| Д по-
постоянна, и оно индуцирует отображения
Второе из них совпадает с изоморфизмом, определенным форму-
формулами B1.6.21), B1.6.22), помноженным на
B1 6 23) Bnfdim A~2dim дП^о-2 dim ДПМ/4
Наше главное приложение теоремы 21.6.6 касается компози-
композиции линейных канонических отношений (композиция произволь-
произвольных канонических отношений была определена втеореме21.2.14);
Теорема 21.6.7. Пусть 5/, /=1, 2, 3, — симплектические вектор-
векторные пространства с симплектическими формами а,- и выделен-
выделенными лагранжевыми плоскостями А,/о, и пусть G\ с: 5i X S2,
G2c=52X53 — линейные канонические отношения из 52 в Si и
из 5з в S2 соответственно, т. е. лагранжевы плоскости относи-

21.6. Лагранжев грассманиаи 457
тельно 0j — о2 и сг2 —о3. Положим G = О, 0G2CS1XS3 "
#={ve=S2; (O.y)sGi, (v,0)eG2}. Тогда формулы B1.6.16),
{21.6.20) порождают естественные билинейные, отображения
M(GX)XM{G2)-*M(G), Q(G,I/2XQ(G2I/2-Q(GI/2®Q(^).
Последнее отображение равно отображению, порождаемому фор-
формулами B1.6.21), B1.6.22), умноженному на Bя)~е/2, где
e = dimiV — эксцесс нашей (чистой) композиции, a Q(A(S2)I/2
тривиалиэовано с помощью симплектической формы на S2-
Доказательство. Это частный случай теоремы 21.6.6, в котором
в качестве А выступает произведение диагонали в S2 на нуль
в Si и на нуль в S3. Мы отождествили Q(A) с JQ' при помощи
естественной плотности, определяемой формой сгг'/яг' на S2 = h.
Отметим, что выражение B1.6.23) здесь сильно упростилось, по-
поскольку dim A = 2dim А Л ^о-
Отображение плотностей в теореме 21.6.7 существенно упро-
упрощается, если одно из канонических отношений, скажем G\, пред-
представляет собой график линейного канонического преобразова-
преобразования. В самом деле, для A, = GiXG2 и A = A(S2) мы имеем
А,ПД = {0}, так что изоморфизм B1.6.21)—это просто отожде-
отождествление А,д с Я,П А°= G2. Изоморфизм B1.6.22) выражает двой-
двойственность между А и Я/(Я, П А0), определяемую симплектической
формой. Но
ибо (уи Y2, Ч2, \з) е А, влечет (G^, Y2, Y2, Уз) s К П А0. Поэто-
Поэтому эта двойственность дает двойственность S2 с самим собой,
если и А, и Gi отождествить с S2. Таким образом, отождествле-
отождествление Q(AI/2 с .С! означает, что мы производим отождествление
Q(GiI/2^.C, используя поднятие на G\ естественной плотности,
определяемой формой сг2 на S2 (или формой ai на Si). Умноже-
Умножение d\ eQ(GiI/2 на йг s Q(G2I/2 состоит, следовательно, в том,
что мы отождествляем d\ с некоторой константой С\ и образуем
произведение cxd2 <= Q (G2I/2 эё Q (GI/2.
Как и в обсуждении, предшествовавшем определению 21.2.15,
общее представление B1.6.16) элементов из М(Я,)®Q(A,I/2
можно рассматривать как частный случай отображения из тео-
теоремы 21.6.6. Однако такое рассуждение привело бы теперь к по-
порочному кругу, потому что мы использовали B1.6.16), когда
определяли отображение из теоремы 21.6.6.
Мы так упорно следили на протяжении всего параграфа за
инвариантностью наших построений для того, чтобы иметь воз-
возможность немедленно распространить полученные результаты

458 21. Снмплектнческая геометрия
на симплектические векторные расслоения. Итак, пусть У—не-
У—некоторое многообразие и Е-*- У— симплектическое векторное рас-
расслоение над У со слоем размерности 2п. Это означает, что у каж-
каждой точки многообразия У должна найтись окрестность U, для
которой существует изоморфизм векторных расслоений
согласованный с симплектической структурой. Ясно, что множе-
множество А(Е) лагранжевых плоскостей в слоях расслоения Е обра-
образует другое расслоение над У со слоем Л(Г*(К")). Предположим
теперь, что имеется какое-то выделенное сечение Яо расслоения
Л(Е). Тогда линейные расслоения Маслова М, определенные на
слоях АУ(Е), дают линейное расслоение М(Е)-*~ А(Е). Действи-
Действительно, локально можно тривиализовать Е так, чтобы плоскость
Я,о отвечала слою расслоения Г*(Р") в 0, и это дает локальную
тривиализацию для М(Е). При этом различные тривиализации,
очевидно, согласованы друг с другом. Если теперь к — любое
другое сечение расслоения Л(?), то мы можем образовать из
М(Е) линейное расслоение Х*М(Е) над У; такие расслоения
также будем называть расслоениями Маслова.
Типичная ситуация, которую мы имеем в виду, это ситуация,
когда У — лагранжево подмногообразие в Т*(Х), где X — неко-
некоторое С°"-многообразие. Тогда касательные пространства к Т*(Х)
определяют симплектическое векторное расслоение Е над У и
касательные плоскости к слоям расслоения Т*(Х) дают выделен-
выделенное лагранжево сечение расслоения Е. Кроме того, имеется лаг-
лагранжево сечение этого расслоения, задаваемое касательными
плоскостями к У. Тем самым на У корректно определено линей-
линейное расслоение Маслова, разумеется, со структурной группой
Z4. Оно понадобится нам при изложении инвариантных (и гло-
глобальных) результатов в гл. 25.
До сих пор в данном параграфе делался упор на аналитиче-
аналитическое происхождение расслоения Маслова. Чтобы прояснить
смысл этого понятия, дополним наше аналитическое изложение
кратким чисто геометрическим обсуждением, хотя в дальнейшем
это нам нигде не понадобится. При этом снова ограничимся слу-
случаем симплектического векторного пространства 5. Можно взять
5 = T*(R") с обычными симплектическими координатами х, %.
(i) Пусть п = 1. Каждая прямая в T*(R) лагранжева, по-
поэтому ЛE) представляет собой проективную прямую P\(R).
Следовательно, ni(A(S)) есть группа с одной образующей, полу-
получающейся вращением оси х в положительном направлении на
угол п. Пусть А,1 — прямая, задаваемая уравнением ? = 0, а %2 —
прямая, задаваемая уравнением 1 = х, и Uj, /=1, 2,— множе-

21.6. Лагранжев грассманиан 459
ство всех прямых* трансверсальных к Я/. Ясно, что 11\ и 1J по-
покрывают A(S). Всякая прямая Яе U\ П Ui задается уравнением
х = В%, где В Ф1. Целое число
а(Я0, Я; Я2, Я1) = -5^8дп( , DJ
равно половине сигнатуры квадратичной формы —х2 -\- 1х\ — в?2,
а значит, равно —1 при В> 1 и 0 при В < 1. Таким образом,
1-коцикл Маслова определяется коциклом
— 1 при В>\,
О при В < 1.
Теперь можно вычислить, как изменяется элемент расслоения
Маслова, когда мы один раз обходим проективную прямую
P\(R), следуя по указанной выше образующей группы ni (Pi (R)).
Если в тривиализации, отвечающей U\, мы имеем значение с,
то для U2 значение на прямой Я, задаваемой уравнением х = В%,
равно c/i при больших положительных Вис при больших отри-
отрицательных В; следовательно, когда В изменяется от +°° до
—оо, элемент расслоения Маслова умножается на I. Можно
было бы проделать то же самое вычисление с когомологическим
классом из Hl(A(S)), определяемым коциклом а, и заключить,
что его значение на образующей группы Я](ЛE)) равно 1.
(ii) Пусть теперь п > 1. Докажем, что каждая замкнутая
С-кривая в ЛE) гомотопна сумме замкнутых кривых вида
Я1@Х^2, где Я1(/)сг A(r*(R))—путь, описанный в@, а Х2 —
некоторая-фиксированная лагранжева плоскость в ^(R"-1). Вы-
Выбор Яг с гомотопической точки зрения несуществен, поскольку,
как следует из леммы 21.6.2, AG>(R"-1)) связно. Пусть /(—>K(t),
X(t + 1)= Я(?), — данная С'-кривая в A(S). Покажем сначала,
что она гомотопна некоторой кривой, «точки» которой пересе-
пересекаются с Яо очень простым образом. Для любого /0 можно вы-
выбрать е > 0 и симплектические координаты так, чтобы плоскость
Яо по-прежнему задавалась уравнением х = 0и
где А — симметричная матрица, С'-гладко зависящая от t. Рас-
Рассмотрим пересечения плоскостей Я(/) с лагранжевой плоскостью
х = В%, где В — симметричная матрица. Эти пересечения за-
задаются уравнением (В — A(t))?, — 6, поэтому нас интересует,
представима ли матрица В в виде В =A(t)-\- Вц, где Вк — ма-
матрица ранга k < п. Размерность многообразия Мк всех симмет-
симметричных матриц В* ранга k по существу была определена в лем-
лемме 21.6.3. Выбрать такую матрицу — значит сперва выбрать ка-

460 21. Снмплектическая геометрия
кое-нибудь подпространство коразмерности к, а затем какую-
либо невырожденную квадратичную форму на ортогональном до-
дополнении к нему; следовательно, размерность многообразия М*
равна
k(n — k) + k(k+ l)/2 = n(n+ \)/2-(n — k)(n-k+ l)/2.
Из теоремы Морса — Сарда вытекает, что образ отображения
[to-&, to + 6]XMk=>(t, Bk)^A(t) + Bk
имеет меру 0 при k < п—1, а при k — n—1 нулевую меру
имеет множество всех критических точек этого отображения. От-
Отсюда следует, что если В не содержится в этих множествах и
det(B — A{t)) = Q для некоторого t с \t—to\ ^ б. то ранг мат-
матрицы В — A(t) равен п—1, а производная A'(t) не касательна
к Мп-\ в В — A(t), т. е. производная по t от det(fl— A{t)) от-
отлична от 0. Далее, отображения
симплектичны. Деформируя к{1) с их помощью, получаем же-
желаемый простой вид пересечений с ко при |/—/о|^б, а выби-
выбирая В достаточно малым, мы ничего не испортим на том замкну-
замкнутом множестве, где уже добились выполнения этого свойства.
После конечного числа таких деформаций получим, что каждый
гомотопический класс содержит кривую, удовлетворяющую сле-
следующим двум условиям:
а) Я,(/)П ^о =={0} для всех /mod 1, исключая некоторое конеч-
конечное число точек U, ..., tN, и в окрестности каждой из этих то*
чек Я@ можно записать в виде
b) Если матрица A (t) вырожденна, то она имеет ранг п— 1,
a det>4(f) имеет простой нуль.
Действительно, для того чтобы обеспечить выполнение вто-
второго из указанных в а) свойств, достаточно в качестве плоскости
| = 0 выбрать лагранжеву плоскость, трансверсальную к lD я
к некоторому конечному числу других лагранжевых плоскостей.
Всюду, за исключением некоторых окрестностей точек
U, ..., tNmoA\, плоскость K(t) представима в виде l = B(t)x.
Выберем функции х/^С°°, заключенные между 0 и 1, периоди-
периодические с периодом 1, имеющие попарно непересекающиеся носи-
носители и удовлетворяющие условию %i = 1 вблизи t/, и положим
Х= X %i- Тогда кривые Xе, 0 ^ е ^ 1, задаваемые формулой
е
Wl40 при

21.6. Лагранжев грассманиаи 461
дают гомотопию, связывающую кривую ft—»A,(f) с кривой, со-
состоящей из конечного числа петель, начинающихся и заканчи-
заканчивающихся в точке Яа ={(*, 0)}, причем на каждой из этих пе-
петель имеется лишь одна точка (лагранжева плоскость), не транс-
версальная к Ко. Тем самым дело свелось к рассмотрению кривой
с единственной такой точкой.
Пусть, как в b), detA(t) имеет простой нуль в точке t = to,
и пусть A(to)lo = 0. Можно выбрать координаты так, чтобы век-
вектор go был первым базисным вектором. Тогда
/0 0 4
det Д) =#=(),
где Ао — симметричная (п—1)Х(я—1)-матрица. Производная
от det.4@ при t = t0 равна A\\(QAziA0, поэтому Au(to)=^O.
Знак последней величины допускает симплектически инвариант-
инвариантную интерпретацию. Действительно, если ^(/)gC и |(/о)
= A,0, ..., 0), то выражение
а(@. Ш),
имеет в точке t0 производную An(t0). Следовательно,
B1.6.24) sgn An (t0) = sgn-~ а (у (to), у @) k-/.,
где t*—*-y(t) — любая кривая с y(t)e\(t), удовлетворяющая
условию 0 ф у (to) s Я,о.
Теперь можно произвести дальнейшую гомотопию матрицы А
вблизи точки t = t0 так, чтобы в некоторой окрестности этой
точки получить
M«,) o\
1 0 AJ
Тогда описанную выше деформацию можно выполнить по пере-
переменным |г, • •., In для всех / и получить гомотопию с кривой
X(t), заданной формулой
МО =•{(*. Бь О)? tl(t-to)Au(to) =
при \t — /о|< 1/2 и продолженной на всё R по периодичности.
Это случай, разобранный в пункте (i), быть может, с переме-
переменой знака. Тем самым нами доказана
Теорема 21.6.8. Фундаментальная группа л\ (Л (S)) изоморфна Z.
Каждый класс гомотопий замкнутых кривых на Л E) содержит
кривую ti—>%(t), такую что k(t) П^о={О} для всех t, кроме ко-
конечного числа; для этих исключительных значений t записанное
выше пересечение является простым, и каждому из них иожно

462 21. Симплектическая геометрия
приписать знак, корректно определенный формулой B1.6.24).
Сумма v этих знаков и задает изоморфизм с Z. Значение кого-
когомологического класса Маслова, определенного формулой
B1.6.10), на соответствующем гомологическом классе равно
этому целому числу v. Обход указанной кривой приводит к умно-
умножению элементов линейного расслоения Маслова на С.
Примечания
Большая часть результатов § 21.1 идет от классической меха-
механики и может быть найдена в другой форме, например, у Кара-
теодори (Caratheodory [1]). Новый интерес к этой тематике про-
пробудила теория интегральных операторов Фурье. Частный случай
теоремы 21.1.9 получен в статье Duistermaat, Hormander [1],
а более общий вариант дан Мелроузом (Melrose [2]). В лите-
литературе имеется очень много результатов о вырожденных симп-
лектических структурах, но мы включили в книгу лишь те из
них, которые непосредственно связаны с теоремой Мелроуза об
эквивалентности (Melrose [2]). Также и § 21.2 начинается
с классических результатов. Важность допущения чистых пере-
пересечений была подчеркнута Дёйстермаатом и Гийемином (Duister-
(Duistermaat, Guillemin [1]) и Вейнстейном (Weinstein [3]). Наше об-
обсуждение чистых фазовых функций заимствовано из их статей.
Невырожденный случай был рассмотрен в статье Hormander
[26]; соответствующие результаты восходят к классическим ре-
результатам о производящих функциях канонических преобразо-
преобразований.
Нормальная форма из теоремы 21.3.2 была найдена Дёйстер-
Дёйстермаатом и Хёрмандером (Duistermaat, Hormander [1]). Нормаль-
Нормальная форма из теоремы 21.3.3 получена Сато, Каваи и Касиварой
(Sato, Kawai, Kashiwara [1]) в аналитическом случае и Дёй-
Дёйстермаатом и Шёстрандом (Duistermaat, Sjostrand [1]) в
С°°-случае. По поводу обобщения, данного в теореме 21.3.5, см.
также Yamamoto [1]. Теорема 21.3.6 — ключевой результат
статьи Nirenberg, Treves [2].
Утверждение об эквивалентности пар гиперповерхностей со
скользящим пересечением было высказано в качестве гипотезы
Сато, причем Сато предполагал, что эта эквивалентность имеет
место в аналитическом случае, но Осима (Oshima [1]) построил
контрпример. Справедливость этой гипотезы для С°°-случая была
доказана Мелроузом (Melrose [2]), и в § 21.4 мы в основном
следуем его статье. Результаты о канонических отношениях со
складками принадлежат Мелроузу и Тейлору (см. Taylor [3]);
эти результаты играют важную роль также при рассмотрении
смешанных задач.

Примечания 463
Симплектическая редукция квадратичных форм — старая
тема в механике, поскольку эта проблема возникает при иссле-
исследовании гамильтоновых систем в положении равновесия. Наше
изложение опирается на работы: Melin [I], Boutet de Monvel [4],
Sjostrand [3], Иврий, Петков [1] и Hormander [36].
Индекс Маслова, изученный нами в § 21.6, был определен
Масловым [1] в связи с его каноническими операторами. В этом
понятии находит выражение классическое наблюдение геометри-
геометрической оптики, состоящее в том, что в каустике имеет место
сдвиг фазы на я/2 (см. § 12.2), что было явно сформулировано
- - [1]). -
Маслова дал Арнольд [1]; это изложение было представлено
уже Келлером (Keller [1]). Ясное изложение теории индекса
в несколько ином виде в работе Hormander [26]. Данное здесь
изложение модифицировано, с тем чтобы оио лучше отвечало
случаю лагранжевых многообразий с чистыми пересечениями.
Относительно случая комплексных лагранжевых многообразий
см. Melin, Sjostrand [1] и Wang, Tsui [1].

22
Некоторые классы
микрогипоэллиптических
операторов
Краткое содержание главы
В гл. 11 было доказано, что дифференциальный оператор P(D)
с постоянными коэффициентами гипоэллиптичен тогда и только
тогда, когда при некотором р > О
"
B2.1) Pw(t)/P(l) = O(\irP{a]) для каждого а при ?->оо в R
Напомним, что оператор P(D) называется гипоэллиптическим,
если
B2.2) sing suppM = sing suppP(D)u, и^2У.
Для операторов с постоянными коэффициентами равенство
B2.2) эквивалентно микрогипоэллиптичности:
B2.3) WF(u) = WF(P(D)u), ие=0'.
Из микрогипоэллиптичности следует гипоэллиптичность, но об-
обратное верно не всегда. Ниже в основном обсуждается микроги-
поэллиптичность.
В гл. 13 только что упомянутые результаты были обобщены
на операторы постоянной силы. Это дифференциальные опера-
операторы, для которых
B2.1)' \DlDlP(x, &)|<Cap|P(jc, ШШ~р|а| при большом |SI.
Однако методы теории возмущений, основанные на теории псев-
псевдодифференциальных операторов, намного сильнее методов
гл. 13. Это будет видно в § 22.1, где с помощью изучения псев-
додифференцнальных операторов (типа р, б), имеющих псевдо-
псевдодифференциальные параметриксы, улучшены результаты § 13.4.
Полученные результаты все еще имеют существенные недо-
недостатки. Один из них заключается в том, что классы псевдодиф-
псевдодифференциальных операторов типа р, б не всегда инвариантны при
заменах переменных, и поэтому классы получаемых гипоэллип-

Краткое содержание главы 465
тических операторов также не инвариантно определены. Приве-
Приведен удивительный пример того, что гипоэллиптичность уравне-
уравнения теплопроводности может быть некоторой заменой перемен-
переменных замаскирована с точки зрения критерия § 22.1. Другой не-
недостаток состоит в том, что результаты, доказанные в § 22.1, не
охватывают некоторых простых типов гипоэллиптических опера-
операторов, встречающихся в теории вероятностей, например опера-
оператор из уравнения Колмогорова G.6.13), элементарное доказа-
доказательство гипоэллиптичности которого было уже дано.
Поэтому § 22.2 посвящен изучению «обобщенных операторов
Колмогорова» вида
где X/ — вещественные векторные поля. Доказано, что такие
операторы гипоэллиптичны, если алгебра Ли, порожденная всеми
Xj, содержит базис пространства всех векторных полей в любой
точке. Использованные в доказательстве методы могут быть
также применены к псевдодифференциальным операторам с не-
неотрицательным главным символом рт при похожих симплекти-
чески инвариантных условиях на рт и на субглавный символ
рот-1- Показано, что если в некоторой точке Рие #(S), то там же
и е #(S+m-2+e) при некотором ее@, 1]. В этом случае принято
говорить, что оператор обладает свойством гипоэллиптичности
с потерей 2 — е производных, так как именно таков дефицит по
сравнению с эллиптическим случаем. В доказательстве использо-
использована принадлежащая Фефферману и Фонгу оценка снизу
псевдодифференциальных операторов, доказанная в § 18.6, но
в остальном мы будем основываться лишь на относящихся к
псевдодифференциальным операторам фактах, содержащихся в
§ 18.1, вплоть до § 22.4, где будет широко использована общая
теория, развитая в § 18.5 и 18.6.
Оценка снизу для псевдодифференциальных операторов, при-
принадлежащая Фефферману — Фонгу, в некоторых отношениях
очень точна, но в других очень слаба. Поэтому в § 22.3 доказана
другая оценка снизу, принадлежащая Мелину, дающая необхо-
необходимые и достаточные условия того, чтобы оператор первого по-
порядка мажорировал положительный скалярный оператор. Эта
оценка позволяет распространить теоремы о гипоэллиптичности
из § 22.2 на случай потери ровно одной производной. Полные
результаты о таких операторах с главным символом, принимаю-
принимающим значения из некоторого выпуклого угла в .С, доказаны в
§ 22.4. Как уже отмечалось, доказательства здесь менее элемен-
элементарны и в остальных главах на § 22.4 мы ссылаться не будем.
Однако использованные методы представляют интерес и вновь
появятся в главах 26 и 27 в сходных контекстах.

466 22. Некоторые классы микрогииоэллинтических операторов
22.1. Операторы с псевдодифференциальным
параметриксом
Пусть X — открытое множество в R" и Р = (Р/*)/. k-i n —
матрица собственных псевдоднфференциальных операторов
P;te4^j, где0г^6<р<1 (см. конец § 18.1). В предположе-
предположениях, аналогичных B2.1), мы хотим доказать гипоэллиптичность
оператора Р, т. е. гладкость решений и системы
Е PjkUk = ftt /=1. •••• N,
k
там, где гладкой является ее правая часть /.Чтобы сформули-
сформулировать условие на символ р(х, |) е S^ б оператора Р, введем по-
понятие умеренной нормы на СЛ параметризованной точками про-
пространства Т*(Х): норма ||-IU, t на „С, определенная для каждой
точки (х, |)е Т*(Х), будет называться умеренной, если для каж-
каждого компакта КаХ существуют такие постоянные С и М, что-
при (ZT
B2.1.1) С-1A+111ГЛ11|2||<[!г|ил<СA+|||)м||2||; xetf,
I e R", г е С*.
Определение 22.1.1. Символ р(х, |)е5^б(^Х^п) со значения-
значениями в L(C/',CN) называется гипоэллиптическим, если существуют
две такие умеренные нормы || • \\х, & и || ¦ \С, ь параметризованные
точками пространства Т*(Х), что для каждого компакта КаХ
существуют такие постоянные С, Cap, что
B2.1.2) \\гйъ^С\\р(х,$)г&г, х*=К, Ц |> С, геС";
B2.1.3) \\р$(х, 1)гЦ:.
На самом деле не было необходимости предполагать, что
р е S^ б, так как это является следствием неравенства B2.1.3).
Чтобы прояснить смысл этих условий, предположим сначала, что-
N=1. Тогда \]z\(x,t = M{x, 1)\\г\\х.\ и сформулированные усло-
условия принимают вид
M(x,l)<C\p(x,t)\, Ip\ll(x, I)I <CafiM(x, I)A +11 |)-pla| + 6|eL
Поэтому функция М(х,1) должна быть эквивалентна \p(x,Q\
при большом ||| и
, Did+|ll)-pIaI + 6|el, xt=K, \1\>C.

r 22.1. Операторы с псевдодифференцнальным параметриксом 467-
Эта ослабленная форма неравенства B2.1)' вместе с полино-
полиномиальными оценками на р и l/р при большом |?| эквивалентна
гипоэллиптичности в определении 22.1.1.
Если выбрать
то условие B2.1.3) принимает вид ps5p7e и B2.1.2) означает,
что 1/р е 5?~б при большом |||. Более общим образом, перемен-
переменные z можно было бы расщепить на несколько групп перемен-
переменных и для каждой из них использовать свои показатели s ir/.
Такое разделение приводит к системам, эллиптическим по Аг-
мону — Дуглису — Ниренбергу, для которых понятие главного
символа зависит от положения в матричном символе (см. § 19.5).
Здесь молчаливо предполагалась справедливость следующей
простой, но важной леммы:
Лемма 22.1.2. При выполнении условий определения 22.1.1
B2.1.4) \DtD*p(x, 1ГЧГ*.|<^зA+ШГР|а| + б1е11|2||*,|>
X €= К, | | | > С.
Доказательство. Неравенство B2.1.4) совпадает с B2.1.2) при
а = Р = 0, а в общем случае будет доказано индукцией по воз-
возрастанию |а + р|. Дифференцирование уравнения
Р(х,
приводит прн III > С к равенству
р{х. l)DlD*p(x, !)-' = - Z c«rti?D%p(x, l)DfD?p(x,
гдеа' + сс" = а, р' + р" = р и |а" + Р"| <|а + р| под знаком
суммы. Ввиду предположения индукции и неравенства B2.1.3)
получаем
Поэтому неравенство B2.1.4) вытекает из условия B2.1.2).
Теперь мы в состоянии доказать обобщение теоремы 18.1.9:
Теорема 22.1.3. Предположим, что Ps^sfe CN, CN) — соб-
собственный оператор с символом, удовлетворяющим условиям оп-
определения 22.1.1 при 0 ^ б < р ^ 1. Тогда найдется оператор Q,
для которого выполнены те же условия, если поменять местами
нормы в определении 22.1.1, и
где /?i и /?2 — операторы порядка —оо.

468 22. Некоторые классы иикрогипоэллкптических операторов
Доказательство. Как при доказательстве теоремы 18.1.9, доста«
точно построить операторы Q\ и Q2, для которых PQ\ = 1 + /?•„
Q2P = / + /?2 н операторы Ri и R2 имеют порядок —оо, так как
тогда оператор Q\ — Q2 автоматически имеет порядок —оо. По
лемме 22.1.2 можно выбрать собственный оператор Qo с симво-
символом, равным р(х, I) при большом |?|. Символ оператора
имеет асимптотическое разложение
М*. ?)~ Z(iDt)ap(x, l)Daxp(x,
откуда, используя B2.1.3), B2.1.4), получаем
Символ оператора /?* удовлетворяет тому же условию, но в по-
показателе число б — р заменяется на k(8 — р). Так как|| • ||? $ —
умеренная норма, то /?о е У^Лв* '*~Р при некотором фиксиро-
фиксированном М, по крайней мере на произвольном компакте. Поэтому
существует оператор Т, для которого
Т- Z (-*¦/ ечЯУ»-*
при каждом iV. Тогда PQ0T = I -\- Ri, где оператор /?i имеет по-
порядок —оо. Символ оператора Qi = QqT удовлетворяет оценкам
вида B2.1.4). Аналогично строим (&, замечая, что QqP = / + /?о.
где /?о обладает теми же свойствами, что и Ro, но с заменой
II • Их, | на || • |?, \. Это завершает доказательство теоремы.
Конструкция оператора (?2 может быть получена из конструк-
конструкции оператора Qi переходом к сопряженным операторам. Дей-
Действительно, если Р удовлетворяет условиям теоремы 22.1.3, то
Р* также удовлетворяет им относительно норм, двойственных
к нормам || • ||*. 4 и || • ||*, j. Соответствующую простую проверку
предоставляем читателю. Вместо этого мы приведем основное
приложение теоремы 22.1.3.
Теорема 22.1.4. Предположим, что Ре »?"«(*; CN, С*) — соб-
собственный оператор с символом, гипоэллиптическим в смысле
определения 22.1.1. Тогда оператор Р микрогипоэллиптичен, т.е.
B2.1.5) WF(u)=WF(Pu), и*=2У{х,СЫ).
Доказательство. Включение
WF{Pu)c=:WF{ju)

22.1. Операторы с псевдодифференцнальиым параиетриксом 469
является глобальным (р, 6)-вариантом включения A8.1.25), из
которого также следует, что
WF(QPu)^WF(Pu),
если Q — параметрикс из теоремы 22.1.3. Так как QPu — иеС",
то это доказывает равенство B2.1.5).
Конечно, утверждение теоремы 22.1.4 можно микролокализо-
вать и далее; если условия B2.1.2), B2.1.3) выполнены в от-
открытом конусе ГсГ*(Х)\0, то равенство B2.1.5) справедливо
в Г. С другой стороны, при 1 —р ^ б < р ^ 1 результатам дан-
данного параграфа можно придать глобальную форму, в которой
X — многообразие, Pe^j(A; Е, F) для двух векторных рас-
расслоений Е, F на X со слоями одинаковой размерности. При этом
нормы || • |?, | и || • \(х, i интерпретируются как эрмитовы нормы
в расслоениях Е и F, поднятых на Т*(Х). Нужно лишь доказать
инвариантность условий теоремы 22.1.1 при замене переменных.
Предоставляем читателю проверить, что это следует из (р, 5)-
варианта теоремы 18.1.17. Отметим, что такие инвариантные
классы гипоэллиптических операторов получаются только, если
р > 1/2. Оператор теплопроводности д9'/дх\ — д/дх2 удовлетво-
удовлетворяет условию B2.1) при р = 1/2. Если ввести
У\ = *i. Уа = Х2 + *?/2,
то
д2/дх] - д/дх2 = (д/дУ1 + ууд/ду,J - д/ду2
= д2/ду\ + у\с?1ду\ + 2У1д2/дУ1 ду2.
Символ этого оператора —(t)i + yii\2J не удовлетворяет усло-
условиям определения 22.1.1. Это показывает, что ограничение
р > 1/2 существенно и что простое сравнение символа оператора
и его производных не всегда является удовлетворительным ме-
методом для определения того, является ли оператор гипоэллип-
тическим.
С другой стороны, теорема 22.1.4 доказывает гипоэллиптич-
ность многих операторов, весьма далеких от операторов постоян-
постоянной силы, обсуждавшихся в гл. 13. Примером служит символ
р(х, l) = c + \xf"\lf>,
где О 0. Условия теоремы 22.1.4 выполнены при р=1 и
б = ц/v, если |л < v. Так как
то оператор 2n + |jc|2|D|2 не гипоэллиптичен, и поэтому условие
ц < v нельзя опустить.

470 22. Некоторые классы микрогипоэллиптических операторов
22.2. Обобщенные уравнения Колмогорова
В качестве примера преобразований Фурье гауссовых функций
в § 7.6 было построено фундаментальное решение уравнения
Колмогорова
д2и/дх2 + х ди/ду — ди/dt = f,
описывающего броуновское движение в R; х обозначает ско-
скорость, а у — положение частицы. Его фундаментальное решение
является гладким вне диагонали, и легко убедиться в гипоэл-
липтичности уравнения Колмогорова. Ясно, что условия опреде-
определения 22.1.1 для него не выполнены ни при каком выборе коор-
координат.
В настоящем параграфе будут изучаться более общие урав-
уравнения вида
<22.2.1)
где Lj — вещественные С°°-векторные поля на л-мерном многооб-
многообразии X и сеС°°(Х). Легко видеть, что уравнение B2.2.1) не
может быть гипоэллиптическим, если с = 0 и ранг алгебры Ли,
порожденной векторными полями Lo, ..., Lr, меньше п в откры-
открытом множестве У, т. е. если система векторных полей
<22.2.2) L,, [Ltl, L,,), [L,lt [L,,, Lh\), ...
имеет ранг <л в каждой точке множества Y. Действительно, в
окрестности точки, где этот ранг k максимален, по теореме Фро-
бениуса (теорема С. 1.1) можно так выбрать локальные коорди-
координаты, что
k
Ь,= ^а^д/дхч, /=1, .... г.
Тогда все функции переменной хп являются решениями однород-
однородного уравнения B2.2.1). С другой стороны, будет доказано, что
это уравнение микрогипоэллиптично, если ранг всюду совпадает
с п:
Теорема 22.2.1. Пусть L/, / = 0, ..., г, — вещественные вектор-
векторные поля на многообразии X, порождающие алгебру Ли ранга
<ПтХ в каждой точке. Тогда уравнение B2.2.1) микрогипоэл-
микрогипоэллиптично.
л
Пример. Оператор д2/дх2+ 2 хх 'д/дх/ микрогипоэллиптичен,
если 0 ^ тп% < тъ < — < тп — целые числа.

22.2. Обобщенные уравнения Колмогорова 471
Утверждение теоремы локально, и поэтому при его доказа-
доказательстве можно считать, что XcR". Положим
Если Lj{x,\) — символ оператора Lj/i, являющийся веществен-
вещественной линейной формой по ?, то главным символом оператора R
будет
2М
Можно представить оператор Р в виде
где Z-/ = —Lj — С/ — оператор, сопряженный к Ljt и Т = —Цу
+ ? с/^/- Тогда 7" и Z-i, ..., L, снова порождают алгебру Ли.
ранга /г. Обозначим ?2-норму через Ц-11-
Лемма 22.2.2. Если К — компакт в X, то
B2.2.3) tl|L,«||2<Re(/4 u) + CK\\u\\2, u<=C
B2.2.4) ?||p?V Z))«fo)+
i l
< C'K Re (Pu, u) + Ck\\u If, и s Co°° (Ю-
Доказательство. Оценка B2.2.3) следует из тождества
Re (Pu, и) = 11| M IP + (((Г + П/2 + с) и, и),
поскольку оператор Т+Т* представляет собой просто умноже»
ние на функцию. Далее,
> = 2 t (dL,№4) L,, p2 (v) = 2 t (aZ,y/dA:v) L/t
и поэтому оператор рГЧ*. D) является линейной комбинацией
операторов Lj(x,D) с С°°-коэффициентами, в то время как
^x, D)
есть оператор порядка 1. Это доказывает оценку B2.2.4).

472 22. Некоторые классы микрогипоэллиптнческих операторов
Теорема 22.2.1 будет Доказана лишь на основании оценок
леммы 22.2.2 и вещественности рг- Это позволит нам в конце
параграфа обобщить теорему, не повторяя ее доказательство.
Итак, обозначим через P — p(x,D) собственный псевдодиффе-
псевдодифференциальный оператор порядка 2 с вещественным главным сим-
символом pi, удовлетворяющим оценкам B2.2.4). Через Q\ обозна-
обозначим множество всех собственных операторов первого порядка
q(x,D) с вещественным главным символом, таких что для каж-
каждого компакта К
<22.2.3)' ||q(x, D)и f < С'к Re(Ри, и) + С* || и||2, и е С (К).
Ясно, что Qi содержит все операторы порядка 0, и, следова-
следовательно, данное условие является ограничением лишь на глав-
главный символ. Пусть Es — собственный самосопряженный псевдо-
псевдодифференциальный оператор с символом (l+|?|2)s/2. Тогда
предположение B2.2.4) означает, что операторы Pv = p^'ix, D)
и Pv = E-.ip2(V)(x, D) принадлежат множеству Qb Пусть Q2 —
множество, состоящее из оператора (Р—-P*)/i и всех коммута-
коммутаторов [q, q'] /i, где q, q' e Q\. При k > 2 последовательно опре-
определим Qk как множество всех [q, q']/i, где q^Qk-i н /eQi
или q e Qk-2 и q' e Q.%. В силу тождества Якоби
[<7, W, q"\) = [[q, q% q") + [[q", q), q']
КЗ множества Q2 достаточно использовать только элемент
(Р — P*)/i. Теперь основным шагом доказательства теоремы
22.2.1 является следующая
Лемма 22.2.3. Если qk^Qk и е^ 21-*, то для каждого компакта
B2.2.5) || ?Аи||,.-,)< С (||Ри || + || и И), и^Со(К).
Доказательство. Оценка B2.2.5) следует из B2.2.3)' при k = \.
Доказывая ее при k>\, удобно считать, что Re(Pu, u)^0.
Этого всегда можно добиться прибавлением к Р большой по-
постоянной, так как действие происходит на компакте. Обозначим
через
Р' = (Р + Р')/2, Р" = (Р~ P')/2i
вещественную и мнимую части оператора Р. Таким образом,
оператор Р' предполагается положительным. Чтобы доказать
B2.2.5) при k = 2 и qn = Р", нужно оценить
|| Е- 1/2Р"и |р = (Р"и, Аи) = ((Р - Р') и, Au)fi,
где A = eLi/2P —оператор порядка 0. Ясно, что
\(Ри, Ли)|<СЦРиИ||и||,

22.2. Обобщенные уравнения Колмогорова 47*
и ввиду положительности оператора Р' неравенство Коши —
Шварца дает
\{Р'и, Au)\^(P'u,uf2(P'Au, ^4«I/2<(Re(P«, u) + Re(PAu, Au))/2.
На основании правил исчисления
B2.2.6) [Р, А] = Е {А>, + А"р') + Ао,
где операторы А], А" и Ао имеют порядок 0. Следовательно,
Re(PAu, Au) = Re(APu, Au)+Re([P, А]и, Аи)
что доказывает оценку B2.2.5) для оператора Р".
Перед общим доказательством этой оценки по индукции за-
заметим, что она влечет неравенство
B2.2.5У ||В<7Ии|Ы<С'(||Ри|| + ||и|!), aeC(i(),
s ¦+• ord Л + ord В ^ е—1. Действительно, порядок оператора
&[Я*>А] не превосходит е—1—s^—5, а требуемая оценка
нормы \\BAqku\\is) справедлива благодаря B2.2.5). Полезно-
также заметить, что
B2.2.7) || ВРАи ft,, +1| В [Р, А] и 1Ы < С(|| Ри \\ + \\и ||), и s С (К),
при s + ord A + ord В ^ 0. Для коммутатора это очевидно, так
как верно тождество вида B2.2.6) с операторами А/, А/, А&
того же порядка, что и А. Поскольку для ||ВЛЯ«||(8) нужная
оценка справедлива, это доказывает B2.2.7). В слагаемом, со-
содержащем коммутатор, можно заменить Р на /", так как опера-
оператор В \Р", А] имеет порядок ^ —s.
Предположим теперь, что оценка B2.2.5) верна при неко-
некотором k. Для ее доказательства при больших значениях k нужно
показать, что если q e Q\, то
|| [д, qk) U Ike/2-1) < С (|| PU || + || И ||), U 6= С (К).
Это означает, что нужно оценить величину
([«7, <ik]u, Au) = (qku, qAu) — (qu, qkAu),
где А — ?i/2-i [q, ?*] — оператор порядка в—1 (операторы qT
qk можно считать самосопряженными, так как важен лишь их
главный символ). Но вследствие неравенства B2.2.5)'
|| qku ||(e_u || qAu H,,_e) + li qu ||@, II qkAu Щ < С (|| Ри || + || и \\f.
Поэтому для [q,qk\u верна требуемая оценка.
Докажем, наконец, что из B2.2.5) следует неравенство
II IP", Qk] U ||(е/4-1) < С (|| PU || + || И ||), U € СГ (К).

474 22. Некоторые классы микрогипоэллиптических операторов
Это означает, что нужно оценить
{[Р", qk)u, Au) = i((P'-P')qku, Аи) + i(qk(P - Р')и, Аи),
где А — оператор порядка е/2— 1. Слагаемое
\(qku, РЛ«) |
удовлетворяет требуемому неравенству ввиду предполагаемой
оценки B2.2.5) и неравенства B2.2.7), и то же верно для сла-
слагаемого (Ри, qkAu). Остается оценить выражения {qku, Р'Аи) и
(P'u,qkAu). В первом из ннх операторы Р' и А можно поме-
поменять местами, так как для
нужная оценка справедлива, поскольку 1 — e + ord/4<0. При-
Применение неравенства Коши — Шварца, как это делалось выше
при оценивании Р", показывает, что теперь осталось лишь оце-
оценить через (||Ри||+||и||J выражения
, qkAu),
, A'qku).
Эти оценки верны потому, что в силу индуктивного предположе-
предположения B2.2.5)'и оценки B2.2.7) имеем
И PqkAu ||,_е/2) +1| PA'qku ||,_8/2) + || qkAu ||(е/2) +1| A*qku Ц,г/2)
< С (|| Ри || + 11 и ||), иеСо°°(/С).
Доказательство леммы закончено.
Предположение о том, что система векторных полей B2.2.2)
имеет ранг п в каждой точке, означает, что у операторов L/,
(L/,, Z-/,], [L/,, [/-/„ L/,]], ... нет общих характеристических то-
точек. В следующей лемме используется обобщенный вариант та-
такого допущения.
Лемма 22.2.4. Предположим, что при некотором целом N опе-
операторы из Qi U ... U QN не имеют общих характеристических
точек. Если е ^ 2~N, то для каждого компакта К с= X и каж-
каждого seR
<22.2.8) || и ||(s+2e) + ? || Р,и ft,+e) + S || Р'и ||(,+„
< С.. к (|| Ри |Ь, +1| и 1Ы, аеСГ (К).
Доказательство. Выберем операторы q\, ..., qj^Qi\j ...[}Qn,
у которых нет общих характеристических точек над компактом

22.2. Обобщенные уравнения Колмогорова 475
К. По лемме 22.2.3
i\\q,(x, ?))и||Bе-.)<С(||Р«|| + ||«||), иб=С0°°(Ю,
откуда вытекает, что
B2.2.9) || и 1Ы< С (||Ри || + || и ||), и е С (Я).
По предположению множество Qj содержит операторы Pj и PL
Поэтому в силу B2.2.3)' при каждом В > О
B2.2.10)
Так как эти оценки верны для каждого компакта К, то можно-
заменить и на Esu в B2.2.9) и на Es+eu в B2.2.10). Поскольку
символ оператора Es modS-°° равен (l+|?|2)s/2, получаем
Ь+е, < II P,ES+,U |koi + С || И |
и то же самое верно для PL так как [Р>, Es+e] — оператор по-
порядка s -f- e. В соответствии с правилами исчисления
Е-гРЕ^г = ESP + i (s + в) ? Djrfi,.,/»/ + Я,
где /? — оператор порядка s. Поэтому
|| PEs+eu Ц,.., < || ри IU + С ? || Р;ы ft,, + С || и |Ь).
Комбинируя эти оценки, получаем, что при достаточно боль-
большом В
B2.2.11) || и ||(s+28) + Е IIР," lk.+.) + ? II ^" 1к«+*)
< С (|| Ри IU + ? II Р,и Ь) + ? || Р'и Ы +1| и ||(s+e)).
Из неравенства Гёльдера следует, что нормы в #(s) представ-
представляют собой логарифмически выпуклые функции переменной s.
Поэтому, например,
п/Ik.»<11/№в)||/ЮЕ)<бц/||,,+в) + б-"в||/||(,-1), б>о.
Если в B2.2.11) оценить СЦ/yib) через ||Р,и||<s+8)/2 + C||«||(i),
а С||ы|Ь+в) через ||иЦ,+эд/2 + С||и1Ь), то получим B2.2.8).
Лемма 22.2.5. Пусть выполнены условия леммы 22.2.4. Если
Яи = /еЯ|^ в точке {х0, &0) е Г (JT) \ 0, го
B2.2.12) ие < ; '%

476 22. Некоторые классы микрогнпоэллиптических операторов ' .
Доказательство. При доказательстве леммы можно считать, что
B2.2.13) и е Я{,%, Я/И е= Я,1",0, ^и е Я|°)С в точке <х0, у.
Действительно, такое предположение заведомо выполняется,
если заменить число s на s — Ns при достаточно большом N.
Если утверждение леммы при таком дополнительном предпо-
предположении доказано, то можно последовательно заключать, что
B2.2.13) справедливо с параметром s, замененным на s — fee,
k = N, N — 1, ..., 0. Кроме того, можно считать, что и е &' (X),
и тогда оператор Р можно так изменить вне окрестности /(мно-
/(множества suppu, для которой верно неравенство B2.2.8), что
P<=OpS2(RnX R"). Выберем такой символ ifeS0, что
1/фе5° в некоторой конической окрестности точки (хо. ?о),
а вне некоторой другой конической окрестности точки (хо, ?о)>
для которой выполняется B2.2.13), символ ty имеет порядок
—оо. Собственный оператор ф(х, D) можно в действительности
выбрать так, что supp ф (х, D) v c= К для всех функций v, сосре-
сосредоточенных вблизи supp и. Выберем xeCo°(Rn) с х@)=1 и
положим
?) = *(*, t)%№, ^ — ^(дс, D).
Тогда символ г|)в ограничен в 5° и Ч'йи^Со'(К) при малом б.
Ясно, что величина ИЧ^иН^) равномерно ограничена при 6->-0.
Так как
? (х, D) Р,и - R6 (x, D) и,
где символы R6, tyt6 и фв ограничены в 5° и имеют порядок
—оо вне конуса, в котором выполнено условие B2.2.13), то, при-
применяя B2.2.8) к функции W6u, заключаем, что величина
II Ч'ви Ме+м + ЕIIW" h+u>+ EII Р/хРв" L+.
ограничена при 6-+-0. Это доказывает B2.2.12).
Лемма 22.2.5 завершает доказательство теоремы 22.2.1.
Доказано даже, что из включения Ри е #(s) в точке (х, ?) сле-
следует, что и е ЯE+2е) в точке (х, |) при некотором е > 0. Теперь
рассмотрим более общие результаты, по существу содержащиеся
в приведенных выше леммах. Пусть X есть С°°-многообразие и
Р — собственный псевдодифференциальный оператор из Wm(X)
с уточненным главным символом а(Р) (ср. с теоремой 18.1.33),
удовлетворяющим условию
B2.2.14) 1то(Р)еГ', Reo(P)+r>0

22.2. Обобщенные уравнения Колмогорова 477
при некотором reS1"-*. Если XcR" и р(х, |) — полный символ
оператора Р, то это означает, что
B2.2.14/ ImpeS, Rep + r>0
при некотором г е Sm~2. Из соображений простоты будем в даль-
дальнейшем считать, что X a R", но, поскольку все результаты будут
локальными, они сохраняют силу для произвольного многооб-
многообразия. Как и выше, через Es обозначим собственный псевдоднф-
ференциальный оператор с символом A +1112)s/2. Тогда включения
и е Ны и Esu e H^-s) эквивалентны и оператор ESP удовлет-
удовлетворяет после замены т на m + s условию B2.2.14)', так как ве-
вещественная часть его символа есть A +\%\s)s/2Rep(x, |)
modSm+s~2. Выбирая s = 2 — т, сводим изучение к случаю опе-
операторов с т = 2, что и предполагается в дальнейшем. По не-
неравенству Феффермана — Фонга (следствие 18.6.11) для любого
компакта КсХ имеем
Re(P«, u)>-CK\\u\f, u^Co(K).
Более общим образом, пусть Qi — множество всех таких соб-
собственных операторов (/еЧ" (X) с вещественным главным сим-
символом, что на каждом компакте КшХ
B2.2.15) \q(x, g) |2 < С« Re р (х, E) + Cj, x 6= К.
Применяя неравенство Феффермана — Фонга к оператору
Р — 6q(x, D)*q(x, D) при бС^ < 1, убеждаемся, что неравенство
B2.2.3)' справедливо для каждого q e Qi, так как веществен-
вещественная часть символа оператора q(x, D) *q(x, D) равна \q(x, DI2
modS0, а мнимая часть принадлежит S1.
Неравенство B2.2.15) выполняется для операторов Р/ и Р>,
имеющих главные символы A +1i|2)~1/2р</)(*, |) и рИ>{х, |)
соответственно. Действительно, если R ^ 1, то производные по-
порядка г^2 функции
fR{x, t)
ограничены равномерно по R, когда 1/2<|||<2 и точка х
лежит в окрестности компакта К. Добавляя к р постоянную,
можем считать, что /« ^ 0. Тогда по лемме 7.7.2
IdfR(х, %Iд(х, I)?КCfR(x,l), 111=1.
Так }как ImpsS1, то отсюда вытекает неравенство B2.2.15)
для главных символов операторов Р/ и PL
С помощью лемм 22.2.3— 22.2.5 теперь получается
Теорема 22.2.6. Пусть Ре ЧГт(Х) — собственный оператор с уточ-
уточненным главным символом, удовлетворяющим в конической о/с-

478 22. Некоторые классы микрогипоэллиптических операторов
рестности точки (хо, 1о)& Т*(Х)\0 условию B2.2.14) при неко-
некотором т е S-2. Положим Q\ равным множеству всех операторов
Q е Ч*1-1 с вещественным главным символом q, для которого
в конической окрестности точки (хо, Ъо)
| q (х, I) |2 < С' Re р <х, S) (l + | \ |2)(п-2)/2 + С" (l + 1&12)".
Предположим, что (хо, |о) — нехарактеристическая точка неко-
некоторого коммутатора из Vj множителей, принадлежащих Qu и v2
множителей Р — Р*, причем v, + 2v2 ^ N. Тогда если е = 2~ы, та
B2.2.16) и<=®'(Х), РыеЯ('°)С в точке (х0, |q)
Отметим, что коммутатор \qi(x,D), [q2(x,D), [...,qk(xf
D) ... ]J] из k операторов порядка m—1 является оператором
порядка k(m — 1) — k-\- 1 с главным символом
Ы*. I), {Яг(х, %), {..., qk(x, I) .'*
Таким образом, предполагается, что какая-то из таких повтор-
повторных скобок Пуассона, включающих символы qi, удовлетворяю-
удовлетворяющие условию B2.2.15), или ^/ = Impm-i» обратима в кониче-
конической окрестности точки (х0, |0). Мы доказали искомый резуль-
результат при локальных условиях на символ оператора Р. Требуемое
усиление немедленно получается, если прибавить к Р оператор
с символом |?|та(д:, ?), где символ a^S° неотрицателен, ра-
равен 0 в конической окрестности точки (xq, ?о) и положителен вне
другой такой окрестности, в которой выполнены условия тео-
теоремы.
22.3. Неравенство Мелина
Неравенство Феффермана — Фонга играло важную роль в до-
доказательстве теоремы 22.2.6. Оно представляет собой результат
очень точный в том смысле, что возможен случай, когда самосо-
самосопряженный оператор p(x,D) порядка >2 не ограничен снизу
в L2, хотя функция Rep(x,l) ограничена снизу. Однако этот ре-
результат слаб в том отношении, что оператор р(х, D) порядка 2
может быть ограниченным снизу в L2, хотя его символ по не-
некоторым направлениям стремится к —оо так же быстро, как
|||. Причина этого состоит в том, что гармонический осциллятор-
О2 -(- х2 имеет на R нижнюю грань 1, так как
((ZJ + х2)и, и) = ||(D- 1х)и|р +1|и|р, «еС»(R).
С помощью аналогов данного тождества нами будут установ-
установлены некоторые оценки снизу для псевдодифференциальных

' 22.3. Неравенство Мел ни а 479
операторов с полиоднородными символами. В качестве прило-
приложения из них получится дополнение к теореме 22.2.6. Начнем
с алгебраической леммы.
Лемма 22.3.1. Пусть Q — положительно полуопределенная квад-
квадратичная форма в R2" и Vi — пространство корневых векторов
в С2я для гамильтонова отображения F формы Q, соответствую-
соответствующих собственному значению X. Выберем унитарный базис
Vu •¦•. vk в пространстве V+=®Viv, с эрмитовой формой
Q[v, v)/2 и ортогональный базис vk+u •••» Vk+i в вещественной
части пространства V0/Ker F с квадратичной формой, индуци-
индуцированной формой Q. Если L/(x, l) = Q(f/, (х, ?)), то
<22.3.1) (Q(x, D) + Q(x, ?>Г)/2= ? L,{x, D)'L,(x, D) + Tr+Q,
или, что эквивалентно,
I I).
B2 3 2) IlM*. i)l
Z{ lL} + Tr+Q = 0, (x,
k
Здесь Tr+Q=?(i/> где i\it— собственные значения ограниче-
ограничения отображения F на пространство V+.
Доказательство. Символом оператора Lj{x,D)* является функ-
функция L,(x, |), поэтому символом самосопряженного оператора
? L,(x, D)"L,{x, D) будет
ElM*. Ю12 + Г' T,(dL,(x, l)/dlv)(dL,(x, l)/dxv).
Оператор (Q(x, D)+ Q(x, D)*)/2 имеет символ
Взяв вещественную часть этих символов, мы видим, что из
B2.3.1) следует B2.3.2). Так как два самосопряженных опера-
оператора не могут отличаться на чисто мнимую постоянную ФО, то
обратное очевидно.
Ясно, что условие B2.3.2) симплектически инвариантно, а
условие B2.3.1) инвариантно при унитарных преобразованиях
векторов vi, ..., Vk и ортогональных преобразованиях векто-
векторов Vk+i, ..., vn- Следовательно, по теореме 21.5.3 достаточно
проверить одно из условий B2.3.1), B2.3.2) в случае, когда
vt = цГ (в, + is,), !</<*; v, = е„ k < j < k +1.

480 22. Некоторые классы микрогипоэллиптических операторов
Здесь е/ и е/ —единичные векторы вдоль осей х, и ?/. Тогда
B2.3.2) очевидно, так как
-Hi/), i<k,
Для операторов с полиоднородными символами мы теперь
в состоянии существенно улучшить точное неравенство Гординга
(теорема 18.1.14).
Теорема 22.3.2. Предположим, что Р е= Ч%ья(Х, О,1'2) — собствен-
собственный самосопряженный оператор с главным символом р2т и суб-
субглавным символом plm-i, удовлетворяющими условиям
B2.3.3) р2т(х, 6)>0 в Т'(Х)\0,
B2.3.4) pL-i (х, I) + Tr+Q*. i > 0, если (дс, I) е Г* (X) \ 0,
Здесь Q*, | — гессиан функции ргт/2 в точке (дс, |). Предполо-
Предположим, наконец, что характеристическое множество Ъ—{(х, |)
еГ(^)\0, Ргт(л, ?) = 0} является С"-многообразием, причем
Т(х,t)(S) совпадает с радикалом формы Q(X,\) tipu (x,J)e2 u
симплектическая форма имеет на Б постоянный ранг. Тогда для
любого компакта К<^Х существует такая постоянная Ск, что
B2.3.5) (Ри, и) > -Ск || и }\fm-l)t и е С~(Ю-
Перед доказательством сделаем некоторые замечания по по-
поводу сформулированного утверждения. Самосопряженность опе-
оператора Р влечет вещественность символов р2т и plm-\- Из усло-
условия B2.3.3) следует, что dp2m = 0 на Б, и потому гессиан инва-
инвариантно определен на Б. Он автоматически полуопределен и об-
обращается в 0 на TXit(Z). Условие, наложенное на радикал
формы Qx,i, означает, таким образом, что форма QXl 5 положи-
положительно определена в плоскости, трансверсальной к Тх, tB); это
условие часто называется трансверсальной эллиптичностью.
Доказательство теоремы 22.3.2. Пусть Es — собственный опера-
оператор с главным символом A +|||2)s/2 (определенным по некото-
некоторой римановой метрике). Тогда достаточно доказать, что
(Р?,_ты, Я,_т») > -Ск || и ||f0)f и г Со (К),
так как отсюда следует оценка B2.3.5), если заменить и на Аи,
где А — параметрикс оператора ?i_m. Главный символ оператора
E\-mPEx_m равен \l\2-3mP2m(x,l), а субглавный равен
I i f~implm-\ (x, I), поскольку он должен быть вещественным.

22.3. Неравенство Мелина 481
Поэтому условия теоремы выполнены для оператора Е\-тРЕ\_т.
Следовательно, доказывая ее, можно считать, что т=\.
К квадратичной форме Qx, t на ТХ^(Т*(Х)), (x,5)eS, при-
применима лемма 22.3.1. Ее радикал совпадает с пространством
Тх,iB), и ранг симплектической формы на нем постоянен.
В обозначениях леммы 22.3.1 это означает постоянство чисел
2п— 2k —l и 2{п — k — /), поэтому k и / постоянны. Следова-
Следовательно, пространства У+ и Vo гладко зависят от точки (х, |)е 2,
хотя, разумеется, для отдельных пространств Vtu это неверно.
Для всех (х, |)е2 из окрестности любой заданной точки
(хо, go) ^2 можно выбрать О-комплексные касательные век-
векторы vi(x, |), ..., vk(x, g), образующие унитарный базис в V+,
и вещественные векторы Vk+\(x, %), ..., Vk+t{x, g), образующие
ортогональный базис в вещественной части пространства
K0mod7x,6B). Тогда
есть (комплексный) кокасательный вектор к Т*(Х) в точке (х, |).
конормальный к S. Полагая Ах, i = (ReZ,b ImLi, ..., ReL*,
ImL*, L),+\ Lk+i), в силу B2.3.2) имеем
B2.3.6) Qx ъ(v) = 'I A,, h,{v)\ »еГм(Г(X)).
Как показывает лемма Морса (лемма С.6.1), вблизи точки
(хо, |о) справедливо представление
B2.3.7) р2(х, %)= Z b,(v, |J,
где ft/ e С00. Действительно, если координаты у, г выбраны так,
что 2 определяется уравнением 2 = 0, то матрица д2рг/дг2 по
условию невырожденна. Поэтому по лемме Морса р2 является
квадратичной формой от z в некоторых других локальных коор-
координатах. Если ограничить Ь/ на поверхность ||| = f|0| и затем
продолжить их как функции, однородные степени 1, то равен-
равенство B2.3.7) останется справедливым, J;eCx и функции' Ь/
будут однородными степени 1.
На 2 имеем Q^^Ttdb^, откуда
Л*, ь i = Т, ОЦ {х, I) dbt (х, I),
где О есть С°°-функция и матрица (Оц) ортогональна. Огра-
Ограничим О на 11| = |So| и продолжим ее до однородной степени 0
С°°-функции переменных (х, {¦) в некоторой полной конической

482 22. Некоторые классы микрогипоэллиптических операторов
окрестности точки (хо, go) ¦ Положим
с,(х, I) = ЦО„(х,1)Ь,(х, I).
Тогда
B2.3.7)' р2(х, 1) = 2>,(*, If
и dCi(x,lj=Ax,i,i в окрестности точки (х0, go) на S при
= |go|. Положим
2,_i{x, t) + ic2l(x, 1), j=\, .... k,
и пусть -Y/eWphgW— собственный оператор с таким главным
символом в конической окрестности точки (х0, Ы ¦ Тогда
есть самосопряженный оператор первого порядка в конической
окрестности точки (*о>!о)- Его главный символ qi там веще-
ствен. На Б имеем
Яг (х, I) = Рх (х, I) - Г1 ? {дТ&75/дЪ) (дХ, (х, t)/dxv)
и, взяв вещественную часть, ввиду вещественности q\ получаем
qx (х, |) = Re р, (х, I) + ? {Im Zy> Re X,} = pf (*, g) + Tr+ QxV
если точка (x, ?)e S близка к точке (x0, |0)- Равенство является
следствием второго из условий B2.3.2).
Предположение B2.3.4) состоит в том, что <7i 5s 0 на S. По-
Поэтому можно выбрать однородную степени 1 и всюду неотрица-
неотрицательную функцию Vi, совпадающую с q\ на S в окрестности
точки (лг0> |о). Тогда
в окрестности точки (*о»Ы» гДе rt — функции, однородные сте«
пени 0. Выберем операторы Q и R; с главными символами q\
и г/. Тогда символ оператора
имеет порядок 0 в конической окрестности точки (хо, !о)\ и, сле-
следовательно, то же справедливо для символа оператора
Р -?(*/ + */)*(*/ + *,)- Q-
Поэтому, если символ ifsS0 сосредоточен в достаточно малой
конической окрестности точки (х0, go), то верна микролокальная

22.3. Неравенство Мелива 483
форма неравенства B2.3.5)
B2.3.5/ (Рф (х, D)u, ф (х, D) в) > - С || и IP, ы е= С
так как оператор Q ограничен снизу по теореме 18.1.14. Тот же
результат совершенно очевиден, если символ г|> сосредоточен в
малой окрестности нехарактеристической точки (jco, io)¦ Дей-
Действительно, если символ оператора QeWphg равен <7i + <7o+ ..-,
то оператор Р — Q*Q имеет порядок 0 в конической окрестности
точки (хо, |о),если?г = р2 и 2qlq0 = p'1, т. е. если qx=pf, qo =
= Pfp2-1/2/2-
Для завершения доказательства оценки B2.3.5) выберем
такие вещественнозначные функции ф/(х, S)eS° с достаточно
малыми носителями, что для каждой из них верна оценка
B2.3.5)'и
j
2 Ф/ (*. SJ — 1 Для точек х, близких к К.
Тогда, предполагая операторы ^/ = i|»/(x, D) собственными,
имеем
+ [(A -%Ч,)Ри, U) + Z([wf, Р]„,
Здесь [W/.P]—оператор первого порядка с чисто мнимым глав-
главным символом, и поэтому самосопряженная часть оператора
Ч'^Ч'у, Р] имеет порядок 0. Кроме того, оператор Х^/Ч'/— 1
имеет порядок —1 в окрестности компакта К, самосопряжен и
его символ порядка —1 чисто мнимый. Следовательно, данная
разность является на самом деле оператором порядка —2, и
поэтому оценка B2.3.5) следует из оценки B2.3.5)'. Доказа-
Доказательство теоремы закончено.
Если предположить строгое неравенство B2.3.4), то другие
условия теоремы 22.3.2 можно ослабить, и мы получаем нера-
неравенство Мелина:
Теорема 22.3.3. Предположим, что Р е W^Sg (X) — собственный
самосопряженный оператор. Пусть его главный и субглавный
символы р2т и />2m-i удовлетворяют условию B2.3.3) и
B2.3.4/ р1т_, (х, I) + Tr+ QXi, > 0, если (х, g) е Г (X) \ 0,
16»

484 22. Некоторые классы мнкрогнпоэллинтнческнх операторов
Тогда для любого компакта К с X существуют такие постоянные
ск>0и СК, что
B2.3.8) (Ри, и) > с*0 и||?т-,/2) - Ск II и tfm_,>, и <= Со°°(Ю-
Доказательство. Точно так же, как в теореме 22.3.2, доказатель-
доказательство можно свести к случаю и = Ги показать, что оценка
B2.3.8) следует из аналогичных микролокальных оценок, по-
подобных B2.3.5)'. Пусть (хо, |о)—характеристическая точка.
Вблизи нее можно выбрать такие локальные координаты, что
форма Qx>i ^ равняется \z\2. Тогда лемма Морса (лемма С.6.2)
показывает, что в некоторой конической окрестности точки (х0, ?о)
,(x, If.
Здесь функции &, однородны степени 1 и 2^/==QXo t0 B точке
(*о> |о) • Кроме того, можно выбрать такие функции
М*. 6) = Z OiA (*.&
что матрица О ортогональна, da<(х, |) = Л*, i, i в точке (х0, |о).и
Здесь использованы обозначения из доказательства теоремы
22.3.2 и тот факт, что использованные в нем аргументы справед-
справедливы для фиксированной точки (*о. So)-
Теперь символ оператора Р можно расщепить следующим
образом:
ix, IJ-E
Z {2/ c2/-i} + P? (*, ?)•
Слагаемое qi неотрицательно в конической окрестности точки
(хо, |о) и имеет нуль третьего порядка в точке (jco, So)- Поэтому
из теоремы 18.1.14 и первого замечания, следующего за ее до-
доказательством, вытекает существование такого q4 e S1 с глав-
главным символом, обращающимся в 0 в точке (х0, |о), что для опе-
оператора W = ij> (x, D) с символом iJieS0, сосредоточенным в ма-

22.3. Неравенство Мелина 485
лой конической окрестности точки (*о, ?о). верно неравенство
Re(ql (x, D)ЧЧ ?ы) > Re{q\x, D) ЧЧ Vu) - CK \\u\f, и e C?(K).
(Неравенство Феффермана — Фонга позволяет выбрать q* e Sphg.
но такое уточнение здесь не требуется.) Если ^;e5Phg— соб-
собственный оператор с главным символом С2/-1 + icy при / ^ k
при j > k, то
Re (?2 (х, D) и, в) - ? (*)*,«, ") > ~ Ск И" И2-
Действительно, (<72(л:, D) + q2(x, D)*)/2 — J) Z/X/ — самосопря-
самосопряженный оператор порядка 0, так как его главный символ равен
О, а символ первого порядка чисто мнимый (эти вычисления
значительно более наглядны, если использовать исчисление
Вейля, однако нам не хотелось обращаться здесь к этому до-
дополнительному средству). Наконец, вещественная часть глав-
главного символа оператора q*-\-q3 положительна в точке (х0, |о).
Поэтому
Re((<74 + <73)(х, D)ЧЧ 4>и) >ек||Wu|ft,-Ск\\и\%), и е Со°°
если ек достаточно мало. Суммируя предыдущие оценки, полу-
получаем искомый локальный вариант неравенства B2.3.8).
Замечание. В § 22.4 будет доказано, что и обратно, из B2.3.8)
следует р2т>0и B2.3.4)'.
В качестве приложения ниже приведен более сильный ва-
вариант теоремы 22.2.6, справедливый в тех точках, где Тг+ Qx, 5 > О
(см. предложение 22.4.L).
Теорема 22.3.4. Предположим, что Р e^gU)- собственный
оператор с главным символом рт, неотрицательным в кониче-
конической окрестности точки (х0, So)^ T*(X)\0, но равным 0 в этой
точке. Пусть Q — гессиан функции рт/2 в точке (хо, ?о), и будем
считать, что для субглавного символа р|т_1 выполнено соотно-
соотношение
B2.3.9) р*т_х (*„, %) + Tr+ Q ^ R_ = {/ е R, t < 0}.
Тогда если иеЙ'(Х), Pu^HiS) в точке (х0, |0), то
кей(!+я-1) в точке (х0, go).
Доказательство. Как обычно, можно считать, что пг = 2. Ввиду
предположения B2.3.9) найдется комплексное число г, для ко-
которого
B2.3.10) Re2>0, Rez(pf (х0, |„) + Tr+ Q) > 0.

486 22. Некоторые классы инкрогипоэллиптическнх операторов
Тогда оператор Рг = (гР -\-гР*)/2 имеет главный символ
Rezpm^O и субглавный символ Rezpf. Если символ ifeS0
сосредоточен в малой конической окрестности точки (хо, ?0). то
для оператора *? = ij>(х,D) и компакта КшХ по теореме 22.3.3
имеем
II ^ы ll<i/2) < С Re {zPWu, Wu) + <fK II«II2, « e С (/С).
Поэтому
B2.3.11) fl V« |fv
Пусть Р1 и Pj — собственные операторы с символами <Эр2/д|/ и
\Ц\~1др2/дх/ соответственно. Тогда, как отмечалось в доказатель-
доказательстве теоремы 22.2.6, главный символ оператора
неотрицателен вблизи точки (х0) |о) при малом 6. Снова приме-
применяя теорему 22.3.3, при малом б получаем
B2.3.12) 2II №" f + ЕIIР/1?" IP < С Re (zPWu, Wu) -f С" || и f
Um\\ V« ||»/2) + C" || »||2, ы
Неравенства B2.3.11), B2.3.12) являются микролокальными ва-
вариантами оценок B2.2.9), B2.2.10) при е = 1/2, откуда, анали-
анализируя доказательства лемм 22.2.4 и 22.2.5, получаем окончание
доказательства теоремы.
Даже условие B2.3.9) не является вполне оптимальным.
В § 22.4 будет точно определено то множество, значения из ко-
которого не должен принимать символ psm^x (*0, ?<,), чтобы утверж-
утверждение теоремы сохраняло силу.
22.4. Гипоэллиптичность с потерей одной производной
В этом параграфе будут определены условия на оператор Р, не-
необходимые н достаточные для справедливости заключения тео-
теоремы 22.3.4 в случае, когда предположение Re pm ^ 0 ослаблено
до условия
B2.4.1) pm(x,?)er = {2€=C;
(Можно было бы использовать любой другой выпуклый угол
раствора <я, но наш выбор удобен.) Однако сначала приведем
доказательство обращения теоремы 22.3.3, которое было отло-
отложено из-за того, что технически оно ближе к рассуждениям на-
настоящего параграфа.

22.4. Гипоэллиптичность с потерей одной производной 487
Предложение 22.4.1. Предположим, что оператор Р s Ч^ (Jf)
самосопряжен и что для каждого компакта KczX
B2.4.2) (Ри, и) >-Ск || ыЦ^/2-d, и*=С?(К).
Тогда главный символ рт такого оператора неотрицателен и
B2.4.3) р*т_, (х, |) + Tr+ Qx г> 0, если (х, ?) е Г (*) \ О
и pm(x,t) = 0-
Здесь pm-i(x, S)— субглавный символ оператора и Qx, $—
гессиан функции рт/2 в точке (х, |).
Доказательство. Достаточно доказать B2.4.3), когда XcrR",
дг=О и 0 — внутренняя точка компакта К. Выберем функцию
%^С^(Х)г равную 1 в окрестности компакта К н на suppPu
для любой функции usC^(K). Тогда Pu = %Pwi = p(x, D)u,
«sC"(/C), где peSjThg и p~pm + Pm-i+ ... в Л. Применим
оценку B2.4.2) к функции
B2.4.4) u(y) = el<y-H(y\Ui*),
где i|»sC"(R"). Тогда ы<=С"(/С) при большом [||. Так как
2, то
B2.4.5) /22
при 1-*-оо. Простое вычисление показывает, что
B2.4.6)
B2.4.7)
По формуле Тейлора имеем
У) 11ГI «1-1РI )/2р««) @, t) f/Piia/a!p! + /?t (у, П).
II? Г»
В первом случае неравенство верно, так как |t + i|?|l
>|||/2 при |Т11 < 11| 1/2/2, во втором каждое слагаемое оце-

488 22. Некоторые классы микрогипоэллиптических операторов
нено по отдельности н использовано неравенство ||
<6hp. Итак,
B2.4.8) |Ф(у)- g Н|Р
откуда по теореме Лебега о мажорированной сходимости выте-
вытекает оценка
\tF2-n(Pu, Ы)=цгт(ф5, ч>)=Рт(о, t)\irn\\n2+o{\tr12).
Ввиду B2.4.5) из B2.4.2) получаем, что рт@, |)^0. Если
рт(О,1о) = О, то p?Jw(O, io) = O, |а + р|=1, и, полагая ? = /|0,
имеем
где Q = Qo.. Поэтому из оценки B2.4.2) следует, что
((Q (», 0) + />»_! (О, So)) Ф, Ф) > 0, ф б С.
Теперь удобно прибегнуть к исчислению Вейля, заметив, что
Qiv. D) + Pm_l(o, y-Q-Of, dj + p^^o, у,
так как Qw(y,D) получается из Q(y, D) в.результате замены
y,D, на (y,D, + Df» у) /2 = f//Z>, -1/2. Полагая с = pj,_, (О, I,,),
имеем
B2.4.9) (Qw(i/, /))ф, ф) + сA>, ¦)>0, фе?',
так как С™ плотно в Р. Воспользуемся теперь важным свой-
свойством исчисления Вейля, состоящим в том, что такие неравен-
неравенства инвариантны относительно композиции оператора Q с ли-
линейными симплектическими отображениями (теорема 18.5.9).
Следовательно, при анализе неравенства B2.4.9) можно счи-
считать, что Q имеет вид B1.5.3):
k k+i
Тогда неравенство B2.4.9) принимает вид
* k+i
к
как в лемме 22.3.1. Напомним, что Tr+Q = Z f1/- Взяв

22.4. Гипоэллиптичность с потерей одной производной 489
и перейдя к пределу при е ->-0, получим
Следовательно, как и утверждалось, с + Tr+Q 2^ 0.
Доказательство предложения 22.4.1 также приводит к необ-
необходимым условиям гипоэллиптичности с потерей одной произ-
производной, как в теореме 22.3.4. Сначало нужно доказать лемму.
Лемма 22.4.2. Пусть P^Wm(X) — собственный оператор, X cR".
Предположим, что из включений «el"(Jf), Pu е #(s) следует,
что и е H(S+m-n- Тогда для любого компакта KczX существует
такая постоянная Ск, что
B2.4.10) ||«|b+m-l><CHI|Al|U + H«lb+m-2)), И 6= С?
Доказательство. Множество всех и е His+m-2) Л В'{К) с Рие H(S)
является банаховым пространством, нормой которого служит
правая чаеть B2.4.10). Так как оно вложено в «!Г'(ЯС)Л#(s+/n-i>
и это вложение замкнуто, то утверждение вытекает из теоремы
о замкнутом графике.
Пусть Es — собственный псевдодифференциальный оператор
с символом A +|i|2)i/2- Заменяя в B2.4.10) функцию и на E-Su,
заключаем, что оценка B2.4.10) эквивалентна такой же оценке
с EsPEs вместо Р и 0 вместо s. Если символ оператора Р есть
Pm + Pm-i + •••» то символ оператора EgPE-s будет равен
Рт + Рт-1 — /«I 8 Г2 ? I, &pjdx, + . . .,
и, значит, первые два слагаемых асимптотической суммы не ме-
меняются там, гц,едрт/дх = 0. Имея это в виду, в следующем пред-
предложении будем считать s = 0.
Предложение 22.4.3. Предположим, что оператор
собственный и что для каждого компакта KX
B2.4.10)' || ы IU-D < Сх (|| Ри Iko) + II«lkm-2)), us С? (К).
Пусть Q (у, л) — какой-либо предел функций (у, i\) н-> рт (х
1> 1/")Г °
+ 0|ЕГ, + л1Б1)|бГ Р , Б 8/I6I?
Тогда р(^ф)(А 1°)= 0, | а + р | < 2, Q — многочлен второй сте-
степени с главной частью
и справедлива оценка
B2.4.11) J | * |2dy < С \ | Qw (у, D) ф + Psm_, (х°, 1°) * f

490 22. Некоторые классы микрогипоэллиптических операторов
Здесь постоянная С оценивается через С к из B2.4.10)', если
точка х° принадлежит внутренности компакта К. Можно заме-
заменить Q на однородный многочлен y\Q (ylya, Ц/Уо).
Доказательство. Пусть Q получается переходом к пределу по
последовательности xv~*-x°, ?v/||v |-»-1°, и предположим, что х°
принадлежит внутренности компакта К. Применим оценку
B2.4.10)' к функции
B2.4.4)'
где i|J e СГ (R")> являющейся просто сдвигом функции B2.4.4).
Тогда получим
B2.4.5)' livf^llKvlfet-HU'll2.
B2.4.6/ Ptiy (у + *v) - е*<"¦ 4v (У I Iv \Ш\
B2.4.7Г <Pv (У)
Мы утверждаем, что при любом N
B2.4.8)'
При Л^ = —3 это в точности оценка B2.4.8). Так как
то доказательство оценки B2.4.8) приводит также к неравенству
B2.4.8)' при N — —3 для любой степени уч в его левой части.
Последнее эквивалентно B2.4.8)'. По условию и по формуле
Тейлора
Поэтому из B2.4.10)' и B2.4.5)' следует, что
II * II < Ск || Q(у, D)$ + pm_, (лс°,
Как и при доказательстве предложения 22.4.1, имеем
m-»(*°. i°)=Qw(^ ^ + ^_J(*°, 1°),

22.4. Гипоэллиптичность с потерей одной производной 491
что доказывает B2.4.11). Если заменить gv на t%y при / > О, то
Q(y,т)) заменится на t2Q(y/t,r\/t). Подстановка г|>(—«/) вместо
tf(«/) меняет знак г, что доказывает последнее утверждение.
К сожалению, предложение не дает информации о младших
членах многочлена Q. Однако они легко определяются, если
символ рт имеет нуль в точности второго порядка на характе-
характеристическом множестве 2 символа рт, т. е. если для некоторых
положительных постоянных Ci и Сг
B2.4.12) C2d(jc,|J<|pm(jc16)t<C1dU>|J, x<=K, I6I-1,
где через d обозначено расстояние до 2. Действительно, пусть
16l'~m( \ЪГ112 6 + il6Г)Q( )
Тогда последовательность | ?v | '"""Pm (xv, gv) = | gv | рт (xv, |v/1 |v|)
ограничена, и поэтому B2.4.12) дает
Выберем такие «, Q s S с 16'v| = |6V|, что | jcv - <|=О (|1,Г1/2)
и |iv~^l = 0(|^v|1/2)- Переходя к подпоследовательности,
получаем
где Qo — однородный многочлен. Если {х^ —х^)\1^\1/2-*у{ и
Г/2-*'|1, то Q(y' ч)-
Рассматривая сдвиги функции г)> и ее преобразование Фурье
Ф, убеждаемся в том, что вещественный сдвиг многочлена Q не
влияет на справедливость B2.4.11). При выполнении B2.4.12)
условия предложения 22.4.3 не изменятся, если положить млад-
младшие члены многочлена Q равными нулю.
Нашей следующей задачей будет выяснение того, когда при
некоторой постоянной С верна оценка вида B2.4.11) и когда
одна и та же постоянная может быть использована для семей-
семейства пар (Q, к), x = psm-i(x°, 1°). При этом будем иметь в виду,
что Q получается из рт как описано в предложении 22.4.3, от-
откуда
B2.4.1)' Q{x, 6)€=Г, (х, 6)eR»,
если символ рт удовлетворяет условию B2.4.1). Но сначала
предположим даже, что Re Q имеет положительно определен-
определенную главную часть.

402 22. Некоторые классы микрогнпоэллнптических операторов
Лемма 22.4.4. Пусть Q — комплекснозначный многочлен второй
степени в R2n с главной частью Q2, причем форма Re Q2 положи-
положительно определена. Пусть щ, ..., jin— собственные значенияга-
мильтонова отображения формы Qz/i, лежащие в полуплоскости
Re А, > 0, и пусть с — значение многочлена Q в единственной
точке (г, %)е С2", где dQ(z, %) = 0. Тогда оценка
B2.4.13)
выполнена с некоторой постоянной С в том и только том слу-
случае, если
B2.4.14) с+ЕBа/+1)ц/=5&0, 0<ct,€=Z.
Кроме того, в этом случае с некоторой другой постоянной С
B2.4.13/
|
Доказательство. Пусть В — гильбертово пространство всех функ-
функций ф е L2 с ^?)аф е LV |сс + р| < 2, снабженное нормой
Г, 2
Оператор Qw из В в L2(R") является фредгольмовым. Действи-
Действительно, е(х, Q — Q{x, g)/(l -f |Q(jc, |)|2)— символ веса A +|*|
+ |||)~2 относительно метрики
Следовательно, отображение ev(x, D) непрерывно из L2 в В.
Справедливы равенства
где ^?i и R2 также имеют символы веса A +|*|-f|g|)-2, и по"
этому операторы RT и R™ вполне непрерывны в L2 и в В, что
доказывает фредгольмовость. Заметим еще, что Qwu = 0 влечет
и = — RTu == (— JRT)Nu при всех ЛГ, откуда и^9". Если »е?"
ортогонально Q*^, то v — — #*a, откуда »е^. Так как ото*
бражение
удовлетворяет условиям леммы при 0 ^ f ^ 1, то индекс опера-
оператора Q такой же, как у оператора |jc|2 + |?)|2-f 1, действующего
из В в L2, а его индекс равен 0 в силу его инъективности в 9* и
плотности его области значений в L2. Таким образом, индекс
всегда равен 0 и, значит, B2.4.13)' справедливо, если множество
Qw(*, D)9> плотно в ZA

22.4. Гипоэллиптичность с потерей одяой производной 493
Для изучения ядра и коядра оператора Qw используем тео-
теорему 21.5.6 и следствие 21.5.8, чтобы выбрать такие симплекти-
чёские координаты, что Q2 (x, ix) = 0. Пока не фиксируя <sC",
положим
?_?*<*, 0-1*17*
и заметим, что Е е & и
где функция
Q(x, |) = Q(jc, g + iJC + O
линейна по х. Если s — другой вектор из С", a v — целая функ-
функция, то
где v * 6S (х) = v (x — s) и
Так как радикал формы Q2 равен {0} (ср. с теоремой 21.5.4), то
уравнение dQ(z, ?) = 0 имеет единственное решение, характери-
характеризующееся соотношением
При s — z, t = t, — iz и c = Q(z,t) получаем
Rvv = Q* (jc, D + /jc) и + cv.
Тот факт, что Q2 (x, ix) — 0, означает, что Rv отображает в себя
пространство многочленов степени ^ц при каждом ц. Возможны
два случая:
(a) /?wy = 0 для некоторого многочлена уфО. Тогда
и, следовательно, оценка B2.4.13) неверна.
(b) Rvv Ф 0 для каждого многочлена v ф 0. Тогда R сюръек-
тивно на пространстве многочленов степени ^ц. Произведения
функции Es =E *6S на многочлены плотны в L2. Действительно,
если fsL2H для каждого многочлена v
то производные целой аналитической фуикции fEs в нуле равны
0, откуда fEs = 0, а значит, и / = 0. Следовательно, выполняется
оценка B2.4.13)'.
Осталось лишь доказать эквивалентность B2.4.14) инъек-
тивности оператора Rw на пространстве многочленов. Используя

494 22. Некоторые классы мнкрогипоэллиптических операторов
поляризованный вид Q2 и гамильтоново отображение F, опре-
определенное равенством B1.5.1), получаем
Q2 (х, l + ix;x,% + ix) = 2Q2 @, g; x, ix) -f Q2 @, |)
= 2<r(@, 1), f(jc, ir)) + Q2@, I).
Пространство {(jc, i*)} натянуто на корневые векторы отображе-
отображения F, соответствующие собственным значениям in/. Поэтому
F(x,ix) = (Mx,iMx), где М имеет те же собственные значения.
Следовательно,
tfw = 2 <Mjt, D) + Tr Af// + с + Q2 @, D).
Первые три слагаемых сохраняют степень однородного много-
многочлена, в то время как последнее понижает ее на две единицы.
Так как собственные значения треугольной матрицы определяют-
определяются ее диагональными элементами, то слагаемое Bг@, D) не
влияет на собственные значения оператора /?w, действующего
в пространстве многочленов. По лемме С.2.2 собственные зна-
значения оператора 2<Мх, D> + TrAf/i-fc иа пространстве одно-
однородных многочленов степени ц в точности равны суммам
Поэтому B2.4.14) в точности означает отсутствие нулевого соб-
собственного значения, что завершает доказательство леммы.
Предложение 22.4.5. Пусть Q — квадратичная форма в R2n, удов-
удовлетворяющая B2.4.1)'. Через щ обозначим собственные значе-
значения гамильтонова отображения формы Q/i, лежащие в Г\0.
Пусть еще Vo — пространство корневых векторов, соответствую-
соответствующих значению 0. Тогда оценка
B2.4.15) ||ip|t<Cl(Qw(jc, D) + x)*|,- i|>e<?(R"),
справедлива при некоторой постоянной С в том и только том
случае, если
B2.4.16) x + QF, о)+ 2! Bо/+1) ц, # 0 при ре=У0
и
Доказательство. Так как форма ReQ полуопределена, то с по-
помощью теоремы 21.5.3 можно выбрать такие симплектические
координаты,что
ft k+i
B2.4.17) Re Q = E Ц (xj + Ц) + ,? x), k, > 0.
Тогда по теореме 21.5.4 Q является квадратичной формой пере-
переменных х'={х1г ..., хк), i' — du .... Ik) и x"=(xfc+l, ...,

22.4. Гнпоэллнптнчность с потерей одной производной 495
. Поэтому оператор Qw(x, D) содержит лишь дифференци-
дифференцирования по х1 и его можно рассматривать как дифференциаль-
дифференциальный оператор по х', зависящий от параметров ^'.Следовательно,
оценка B2.4.15) справедлива тогда и только тогда, когда при
любом фиксированном х"
B2.4.15)' || ф |< С | (Qw («', х", D') + х) * |, * е P (R*).
Как отмечалось после теоремы 21.5.4,
Sc = Im F/(Ker F Л Im F) s ®
здесь F— гамильтоново отображение формы Q, ImF
= (Ker F) ° — комплексная (x't g', g") -плоскость, a Ker F f| Im F
есть |"-плоскость и, значит, {х',%') — симплектические коорди-
координаты в Sc> Отображение F', индуцированное отображением F
в Sci есть гамильтоново отображение квадратичной формы
Q(xf, 0, |'), являющейся, таким образом, невырожденной. В силу
теоремы 21.5.4 b), Vo есть Q-ортогональное пространство к про-
пространству Im/7, т. е. Уо определяется соотношением dX'i'Q(xr, x",
|') = 0. Поэтому из леммы 22.4.4 следует, что оценка
B2.4.15)"
имеет место тогда и только тогда, когда
, х", S0+ Е Bо, + l)ji, Ф 0, 0<a/S Z,
(),По
Любой вектор оеУо может быть представлен в виде
v = V\ + ii>2, где «ь f 2 e Vo и нх координаты х" вещественны,
так как (Xе, |') линейно зависит от х". Следовательно, дг"-коор-
динаты вектора v — V\ + tt»2 равны 0, откуда
QF, o) = Q(u1 - iv2, о, + io2) = Q(o1)-f Q(o2).
Поэтому значения формы Q(w, v) при »sVo принадлежат тому
же выпуклому углу, что и значения формы Q(v) на векторах
oei/jc вещественными координатами х". Тем самым доказаны
необходимость и достаточность условия B2.4.16) для выполне-
выполнения оценки B2.4.15)" с С(х")<. оо при каждом х". Однако тот
факт, что оценки B2.4.13) и B2.4.13)' эквивалентны, показы-
показывает локальную ограниченность наилучшей постоянной. Постоян-
Постоянную С{х") можно также выбрать ограниченной при больших
х". Действительно, имеем
Re(Q(*.8) + »0>l, если

496 22. Некоторые классы мйкрогипоэлляптических операторов
Отсюда в силу леммы 22.3.1 немедленно получаем
II¦ II2<Re((Q*(х, D) + х)ц>, +), «^(R*). \х"\>М,
если сдвигом функций фиф избавиться от членов первого по-
порядка по х', D'. Поэтому
IH>IKII(QW(*, Я) + хЖ, ^sS'tR'), \x"\>M,
что заканчивает доказательство предложения.
Легко видеть, что с точностью до малого изменения постоян-
постоянной С оценка B2.4.15) остается справедивой, если число и и
форму Q заменить на v!, Q', причем х — и', Q — Q' достаточно
малы, rank Q = rank Q' и размерность собственного подпростран-
подпространства с нулевым собственным значением фиксирована. Однако
малые возмущения формы Q могут увеличить ее ранг и умень-
уменьшить собственное подпространство с нулевым собственным зна-
значением. Поэтому, чтобы получить точные условия, при которых
верно неравенство B2.4.11), нужно изучить семейства оценок
B2.4.15).
Предложение 22.4.6. Пусть М — некоторое множество пар вида
(Q, и), гйеиеС a Q — квадратичная форма в R2", удовлетво-
удовлетворяющая B2.4.1)'. Предположим, что к и собственные значения
гамильтонова отображения формы ReQ равномерно ограничены
при (Q,x)^M. Тогда с некоторой постоянной С оценка B2.4.15)
справедлива для всех (Q, и) е М тогда и только тогда, когда су-
существуют такие постоянные е, б, что
B2.4.18)
если (Q,x)^M, 0<a/GZ, ц/ — собственные значения гамиль-
гамильтонова отображения формы. Q/i, лежащие в Г\0, и v — вектор
пространства, натянутого на корневые векторы гамильтонова
отображения формы Q, соответствующие собственным значе-
значениям, по модулю меньшим е.
Ввиду симплектической инвариантности и теоремы 21.5.3 в
доказательстве можно считать, что вещественная часть формы
Q каждой пары (Q, х)еЛ1 имеет вид B2.4.17). Разбивая М на
конечное число множеств, можно считать, что k и / фиксиро-
фиксированы и k -f- / = п. По предположению %/ равномерно ограни-
ограничены. Достаточно показать, что каждая последовательность
(Qv, х,)е М, удовлетворяющая одному из условий предложения,
содержит подпоследовательность, для которой выполняются оба
условия.
Запишем
B2.4.17/ Re Qv t

22.4. Гйпоэллиптичносгь с потерей одной производной 497
Так как X./v равномерно ограничены, то можно считать, что для
каждого / существует предел lim A/V = A/. Координаты можно
V-»°o
упорядочить так, чтобы К/ ф О при / ^ п' и К/ = О при / > п'.
Обозначим
Xf = (Xi, .... ХП'), х" = (Хп'+и .... Xk), x'"={Xk+h ..., Хп).
По условию |ImQv|^YReQv- Поэтому, если обозначить через
"/^ вектор с координатами X//X/v, «' < / ^ k, то
| ImQ?(jc', xf IK,, х'", V, Г IK) К Y ReQv(*', *"Av, *'", I', !"AV).
Выражение в правой части сходится к
поэтому после такой дилатации коэффициенты формы Im Qv ста-
становятся равномерно ограниченными. Переходя, если нужно,
к подпоследовательности, получаем
qv(*\ хК, х'", Г, r'Av)->Q(*'. *". *'", Г, Г),
где форма Q эллиптична по указанным переменным. Заметим,
что здесь произведено несимплектическое изменение масштаба.
Оправдание этому будет дано в следующих леммах, в которых
также фигурирует предел
отвечающий случаю неизмененного масштаба. Гамильтоново
отображение формы Q«> имеет п' ненулевых собственных значе-
значений в /Г, и его корневое подпространство, отвечающее собствен-
собственному значению 0, задается уравнением (х', g') = #«> (х"г), где
Я„ — линейное отображение. Для любой сходящейся последова-
последовательности линейных отображений в конечномерном пространстве
линейная оболочка корневых векторов, соответствующих схо-
сходящимся к 0 собственным значениям, сходится к корневому
подпространству предельного оператора, соответствующему соб-
собственному значению 0. Следовательно, пространство Nv, натя-
натянутое на обобщенные собственные векторы гамильтонова ото-
отображения формы Qv, соответствующие сходящимся к 0 собствен-
собственным значениям, при большом v может быть задано уравнением
(*', !') = tfv (*",*"', Г')-
Лемма 22.4.7. Отображения #v (*"Av. x"', |"Av) при v -*¦ <х>
предел Н (*", х'", %"), и равенство (*', %') = Н(х", х"\ %")

498 22. Некоторые классы микрогиаоэллиптических операторов
эквивалентно условию
Q(x,l; у, ц) = 0 при у" = у"' = ч\" = ц'" = О,
<22-4Л9> ,.**„. вес. п-а
(?слы F и Fx — гамильтоновы отображения форм Q и Qx, то это
означает, что Fa>F(x, |) = 0.)
Доказательство. Форма Qv(x',x"/kv,x"',l', %v%") отличается от
формы Qv симплектической дилатацией, и поэтому пространство,
натянутое на корневые векторы с малыми собственными значе-
значениями соответствующего гамильтонова отображения, задается
уравнением
Следовательно, в пределе из него должно получаться уравнение
отвечающего нулю корневого подпространства гамильтонова
отображения формы Q(x, %', 0). Здесь переменные х" и %" можно
поменять местами, что доказывает существование указанного
предела Н. Кроме того, из части Ь) теоремы 21.5.4 следует, что
условие B2.4.19) выполнено, если (лг', 1') = Н(х", х"\ %") и
либо %", либо х" равно нулю. Ввиду линейности последнее усло-
условие можно немедленно опустить. Так как из B2.4.19) перемен-
переменные (хг, ?') однозначно определяются через другие переменные,
то лемма доказана.
Лемма 22.4.8. Предел области значений формы Qv(t>, v) при
ceJlf, равен области значений формы Q(v,v) при v=(x, |) и
(х',Ъг) = Н(х",х"',Ъ"). То же верно, если потребовать веще-
вещественности х", |", х"'.
Доказательство. Область значений рассматриваемой формы Qv
совпадает с множеством значений
Qy(x\ х"/к, х'", %', |"ДУ; х', х"/ху, х1", Г, i"Av)
при (х7, %') = Ну(х"/К,х"', %"/К). Здесь квадратичная форма
имеет пределом форму Q, ограничение на (х, |) в пределе дает
уравнение (*', |') = Н(х", х"', |") и форма Q эллиптична по пе-
переменным (хг, х", х"', |М"). что доказывает первое утвержде-
утверждение леммы. Для доказательства оставшегося утверждения до-
достаточно повторить рассуждения из доказательства предложе-
предложения 22.4.5, используя на этот раз B2.4.19). Предоставляем это
читателю.
Доказательство предложения 22.4.6 в одну сторону получается
из леммы 22.4.8 и следующей леммы;

22.4. Гипоэллиптичность с потерей одной производной 499
Лемма 22.4.9. Предположим, что оценка B2.4.15) выполнена для
последовательности пар (Qv, Xv) и что ну-*-х. Тогда, пользуясь
введенными выше обозначениями, имеем
S
B2.4.16Г
если \1; — собственные значения гамильтонова отображения фор-
формы Q«>/i, лежащие в Г, 0<a/sZ u вектор v = (х, |) удовлет-
удовлетворяет условию (*', g') = Н{х", х"\ |").
Доказательство. Как показывает последнее утверждение леммы
22.4.8, переменные х", х"', g" можно считать вещественными.
Вращением в плоскости переменных X/, |/, п' < / ^ k, можно
добиться того, что I" = 0. Симплектическое изменение масштаба
показывает, что оценка B2.4.15) эквивалентна оценке
II¦ II<C|Q?(/, x"IU, х", D', UD")* + ку*|, ¦е9>(Re),
где постоянная С не зависит от v. Устремляя v к бесконечности,
заключаем, что
Отвечающее нулевому собственному значению собственное под-
подпространство соответствующего гамильтонова отображения оп-
определяется уравнением (л/, |') = Н(х", х"\ 0), и поэтому B2.4.16)'
следует из B2.4.16) при |" = 0.
Замечание. Все положительные кратные малых собственных зна-
значений, встречающиеся в B2.4.16), содержатся в множестве зна-
значений формы Q на соответствующем собственном подпростран-
подпространстве. Поэтому из B2.4.16)' следует, что B2.4.16) выполнено рав-
равномерно по v при x = Kv, Q==Qy при большом v. Вместе с тем
простые примеры показывают, что B2.4.16)' в значительной сте-
степени сильнее последнего утверждения.
Доказывая достаточность B2.4.16)', будем рассматривать Qw
как (псевдо)дифференциальный оператор по переменным х", х'"
со значениями в пространстве операторов, действующих на функ-
функциях от х1. Для сокращения обозначений положим t = (х", х"', %").
Из доказательства леммы 22.4.4 нам известно, что B2.4.16)' вле-
влечет существование при каждом вещественном t обратного к
Qw(jc', D', 0 + х оператора E(t), непрерывно действующего из
L? в гильбертово пространство В всех «gLs(R"), для которых
цвНв-f Е iix'aD'p«n2Y/2<oo.
Следовательно, оператор E(t) существует и является аналити-
аналитической функцией переменной t для t из некоторой малой комп-
комплексной окрестности пространства R""*"'. в частности, Е е С°°.

600 22. Некоторые классы микрогипоэллнптических операторов
Лемма 22.4.10. Для всех мультииндексов а, р, у, таких что
\а -f p|^ 2, имеем
B2.4.20)
A +1 /1I v 1+2"' ° Н МI Dh'aDf(iEu | < Су || и ||, «е Со°° (R*>
Доказательство. Достаточно доказать B2.4.20) при большом |/|.
Предположим сначала, что у = 0. Существует такая постоянная
с > 0, что при большом |/|
Поэтому, как показывает конец доказательства предложения
22.4.5,
х' ? + \t?)\vf + \D'vf)dx' ^ReaCTiS, D', t) + x)v, v)
Следовательно,
откуда получаем неравенство
B2.4.20)'
2 2-l «I-IP I j| jc'«Z)'Pw ||<С||(Qw(*', ?)', /) + y) v ||.
2 *2-l «I-IP I j| jc'«Z)'Pw ||<С||(Qw(*', ?)', /) + y) v ||.
|o+P|<2
В справедливости B2.4.20) при у = 0 убеждаемся, комбинируя
этот результат с оценкой
Z
II || < (|| Q (*', /У, 0) о
|-2
вытекающей из леммы 22.4.4. Так как DtE = —E(DtQ)E, то
B2.4.20) получается по индукции последовательными диффе-
дифференцированиями.
Ясно, что в B2.4.20)', а значит, и в B2.4.20) мы можем за-
заменить Q -f- у. на любое не зависящее от \'" достаточно малое
возмущение. В частности, при большом v можно заменить Q + х
на
и получить оператор Ev(x",x"r, |"),для которого оценка B2.4.20)
выполнена равномерно и
с', *7** *'", D', S"/Av) + xv) ?v (/', * ". I") - /•
Положим
—Г t II flf ~Г/\ _ /. ГГ III
v (* , JC , | ) = ?v \faX ,X ,

22.4. Гипоэллиптичность с потерей одной производной 501
Для функции кё С"(R") через й(х',1",х'") обозначим ее
преобразование Фурье по переменным х" и положим
g» (Х) = __L_ С е1 <*"'г
V ' Bя)"" J
"', I") й (*', I", х'")
Из B2.4.20) следует, что норма оператора Di"i"^ в простран-
пространстве L2(R"') ограничена величиной C'(l +|x"| + |i" l)~v» и по-
поэтому векторнозначный вариант теоремы 18.1.11 доказывает
равномерную ограниченность операторов gs в пространстве
L2(R"). Прямое вычисление дает
где 5Zv определяются так же, как gs, но вместо ?v надо взять
^ R (X х" х'" X i,")
Rv(x", х"\ П = (Q:(x\ 'x*/L l"f',Df, {X%D" + DAv)
Из B2.4.20) немедленно следует оценка
2; |/|(|r (>
n'+l
Поэтому заключаем, что норма 5Zv как оператора в L2(R") стре-
стремится к 0 при v->- оо. Поскольку известно, что оператор Q* -f xv
обратим, то обратным к нему является оператор &V(J + 52v)~l,
имеющий норму, равномерно ограниченную при v-»-oo. Ввиду
лемм 22.4.8, 22.4.9 и замечаний, следующих за формулировкой
предложения 22.4.6, его доказательство теперь закончено.
Предложение 22.4.6 значительно упрощается, если мы имеем
дело с компактным семейством, причем ранг формы Q постоя-
постоянен. Это единственный случай, встречающийся в наших прило-
приложениях, когда характеристическое множество является много-
многообразием и символ рт трансверсально эллиптичен.
Следствие 22.4.11. Пусть М — компактное множество пар (Q,и),
состоящих из комплексных чисел х и квадратичных форм Q в
iR2n, удовлетворяющих условию B2.4.1)' и имеющих одинако-
одинаковый ранг г. Тогда оценка B2.4.15) справедлива равномерно по
(Q,x)^M в том и только том случае, если условие B2.4.16)
выполнено для каждой пары (Q, к) е М.
Доказательство. Пусть Qv-*-Q и предположим, что все формы

602 22. Некоторые классы микрогипоэллиптических операторов
Qv имеют тот же ранг, что и форма Q. Обозначим через No про-
пространство отвечающих нулевому собственному значению корне-
корневых векторов гамильтонова отображения формы Q, а через Nv —
пространство, натянутое на корневые векторы гамильтонова
отображения формы Qv, отвечающие собственным значениям,
стремящимся к 0. По предложению 22.4.6 достаточно показать,
что область значений формы Q(v,v) при »е^0 является пре-
пределом области значений формы Qw(v, v) при v e Nv, v-»-oo. Оче-
Очевидно, что dim Nv = dim No при больших v и что пространства
Nv и No содержат ядра N'4 и No гамильтоновых отображений
форм Qv и Q. Так как по предположению пространства N'o и n'v
имеют одинаковую размерность, то Wv -у No- Можно выбрать та-
такую линейную биекцию Tv: Nq-*-Nv, сходящуюся при v-*-oo
к тождественному отображению, что TVNO — N4- Тогда форма
Qv ° Tv индуцирует на пространстве N0/No эрмитову форму Qv»
имеющую пределом эллиптическую форму Q', индуцированную
в нем формой Q. Отсюда следует сходимость области значений
формы Qv к области значений формы Q.
В предложении 22.4.6 даны необходимые и достаточные усло-
условия равномерной справедливости оценки B2.4.11). Нашей сле-
следующей целью будет доказательство утверждения, обратного
к предложению 22.4.3. При этом удобно считать т = 1, что не
является существенным ограничением.
Лемма 22.4.12. Пусть Р еЧ^СХ) — собственный оператор
с главным символом рь удовлетворяющим B2.4.1). Предполо-
Предположим, что для каждого компакта КаХ найдется такая постоян-
постоянная С, что оценка B2.4.11) верна для всех пределов, определен-
определенных в предложении 22.4.3 при х° е К. Тогда существует такая
функция е(|)-»-0, |-*-оо, что для каждой точки хеК
B2.4.21) \\$fdy
<2
io+екз
Доказательство. Достаточно доказать, что если заменить функ-
функцию е(|) на фиксированное число а, то оценка B2.4.21) выпол-
выполнена при большом |||. Предположим, что это не так. Тогда при

22.4. Гилоэллиптичность с потерев одной производной 503
некотором е > 0 найдутся последовательности х/ е К, ?/ -*• оо и
фу <= Со", для которых
B2.4.22) 1 =
+ Ро (*/. 1/) Ч>/ Г <fo + в J X I ytlW, f dy
I ю+ркз
Таким образом, последовательности #р?>аф/ при |а + Р|=^2
предкомпактны в L2, и поэтому можно считать, что они сходят-
сходятся в L2 к пределам y&Daty e L2 для некоторой функции ф е L2.
Так как по лемме 7.7.2 из B2.4.1) при |а + Р|= 1 следует, что
то последовательность pi(jc/, |,) должна быть равномерно огра-
ограниченной, поскольку в противном случае правая часть неравен-
неравенства B2.4.22) была бы асимптотически равна (С+ 1) \pi(xi, ?/) |2.
Следовательно, получаем предельную форму Q, как в предло-
предложении 22.4.3, и функцию ф с лЛОРфе/,2 при |а + Р|^3, для
которых оценка B2.4.11) нарушена. Аппроксимируя ф функ-
функциями из Со°, приходим к противоречию, доказывающему лемму.
Используя оценку B2.4.21), удобно изменить масштаб, под-
подставив #Ц|1/2 вместо у и затем у — х вместо у н D — | вместо
О (что равносильно сдвигу функций фиф). Это приводит к
эквивалентной оценке:
B2.4.21)'
о+ЭI< 2
¦©$ ? \1\{1'Ыа])\(у-х)ЧО-1)а*\2<1У,
|р |<з
Лемма 22.4.13. Будем считать выполненными предположения
леммы 22.4.12, и пусть Р1, Р/ — собственные операторы с глав-
главными символами dpi/dlj и \\\-1др\/дх\ соответственно. Тогда
Оля каждого компакта KczX существует такая постоянная С#,

604 22. Некоторые классы микрогипоэллиптических операторов
что для произвольных числа б > 0 и функции и е Со* (К)
B2.4.23) || и Цо, < Ск || Ри ||<0) + б (|| и |Ц
Доказательство. Если функция хеСо°(-^) равна 1 в окрестно-
окрестности /d компакта /С, то Ри = Рхы = /?(•*. D)u,u^ Со" (/С), где сим-
символ р е 5phg (Rn) имеет компактный носитель по х и равен в К\
символу оператора PmodS-°°. Выберем функцию XtsCo°» рав-
равную 1 в К и сосредоточенную во внутренности множества Ki-
При некоторой функции е(?)->¦ 0, ?->-оо оценка B2.4.21)' спра-
справедлива для всех х е К\.
Локализуем теперь рассмотрения относительно метрики
Отношение этой метрики к двойственной метрике равно б4. Так
как эта метрика при б = 1 медленно меняется и является а-уме-
ренной, то же самое имеет место равномерно при 0 < б < 1.
Выберем такие вещественнозначные функции % е Со (R2*) й
точки (xj, tj) e supp ф/, что
функции if/ равномерно ограничены в S(l,ge), и число их пе-
перекрывающихся носителей, как и расстояния в метрике g& от
(х/, I/) до любых точек множества supp %, ограничены. Тогда
{ypi}—символ из 5A, g6) со значениями в пространстве
I2 = i?(C, P) = 2?(l2, JC). Поэтому в соответствии с правилами
исчисления
? || ф/ (дг, D) и ||2 = (и, и) + (г (х, D) и, и),
где символ г равномерно ограничен в S(82,g6). Следовательно,
B2.4.24) || и f < ? | ф, (х, D) и f + Сб21| и f, и е= Со°°.
Доказательство оценки B2.4.23) будет закончено, если пока-
показать, что сумма в правой части полученного неравенства оцени-
оценивается через правую часть B2.4.23).
Если supp t|3/ и supp xi не пересекаются, то по теореме 18.5.4
ф/(х, ?>)и = ф/(дс, Я)х1И = ф/(х, D)u, иеС~(/С),
где символ {<р/} ограничен в SF2,g&). Следовательно,
B2.4.25) Z

22.4. Гипоэллиптичность с потерей одной производной 505
где через ?' обозначена сумма по таким индексам. Для лю«
бой конечной суммы имеем
B2.4.25Г Е'НФД*, D)«|f <С||иЦ?_,г
Поэтому далее можно считать, что je/e/Ci и что ||/| больше
некоторого подходящего числа, зависящего от б. Тогда в силу
B2.4.21)'
B2.4.26) №,(х, D)a|f <(С+ ЩТ,(х. D)*,(x, D)uf
где
Т,(х, D)= Е р!?т (х,, I,) (х - х,У (D - 6,)e/eipi + Ро (х,,
|р1<
I) = (| I/ Г (X - X,)f (| 1у Г12 (А + 6 - I/))" *, (X, |).
Теперь символ (|?/ Г1/2?>л)а'Ф/ при большом / ограничен в
5(б'а', g6) и компоненты векторов 11, |1/2(х — xj) и Ц/Г"8^—1У)
ограничены в SF~l,g6) на множестве supp ф^, значит, символы
¦фар/ принадлежат ограниченному множеству в SF~la+pl, g6).
Поэтому
B2.4.27) ^i:2 2
так как символ оператора /? ограничен в SF2, ge), если / до«
статочно велико.
Чтобы оценить первое слагаемое в правой части B2.4.26),
заметим сначала, что символ оператора Т/(х, D)ty/(x, D) равен
? ГГ (х, 1) Daxfy (х, |)/a! = R, (x, I) + S, (x, %),
|O|<2
Здесь символ Г, (л, I) — р(дг, |) ограничен в 5 (вA+б21 s D \~m, g6)
на множестве suppi|)/ в силу формулы Тейлора, так как &-й
дифференциал символа р ограничен относительно метрики g4
величиной A +1 ID (F2| 11 + 1)/б4A +11 \ff'2Ck. Поэтому_ семей-
семейство символов операторов /?; ограничено в SF~2 A +б2! 11)~1/2, g6),
откуда вытекает, что
B2.4.28)

506 22. Некоторые классы микрогипоэллиптических операторов
Наконец,
S, (х, D) = ф/ (х, D) р (х, 0) + i ? № (х, D) p(v) (дг, D)
- i ? */(,)(*, D)pW(x, D) + V,(x, D),
где семейство символов операторов V/ ограничено в SF2 + (l
+ б2Ш)~1>?в)- Действительно, символ, скажем, оператора
ф/(дс, D)p(x, D) имеет асимптотическое разложение, члены кото-
которого последовательно улучшаются по крайней мере на множи-
тель A+62|E|)I/SA+|||)-1, и A+62|||) A+|||)-'<62 +
+ 1/A +б2|||). Поэтому погрешность, получающаяся после от-
отбрасывания всех слагаемых, кроме двух, имеет нужный вес.
Для последнего слагаемого в Sj верна аналогичная оценка. Сле-
Следовательно,
? || V, (дг, D) и |f < Сб* || и |f + Ce || и Ik2-.)-
Замечая, что символы i|j/<v) и ф/(У> ограничены в SF2F2|||+ 1)~1/2,
g6) и в 5(F2|||+ 1)I/2, gt) соответственно, приходим к оценке
B2.4.29) 2 || Sfu f < С (|| р (дг, D) и f + б2 ? || p<v> (дг, D) и \fll2)
+ б2 ? ||P(v)(лг, D)u\tm + (>4u\f) + Св||м|-,).
Комбинируя ее с оценками B2.4.28), B2.4.27), B2.4.26), B2.4.25)
и B2.4.24), получаем B2.4.23).
Из условия B2.4.1) вытекает, что Repi^O и что
I ^ 0. Поэтому
B2.4.30) III ? | Mv) (x, I) I2 +11Г Z I P. w(*. I) I2
что, как уже отмечалось, следует из леммы 7.7.2. По теореме
18.1.14
дг, D) и IU + ? Ц Av) (*, D) и |к-
,й>)
Значит, с другими постоянными верна оценка
Z II PV«II A/2, + ? II Pv« lkl/2) < СХ d РИ || + || U |D,
которая в сочетании с B2.4.23) приводит при малом б к нера-
неравенству
И и Iko, < Ск (II Ри || +1| и lk-,/2,), иеС (К).
Как показывает логарифмическая выпуклость по s нормы ||u||(S),
величину Сх1|м||(-1/2) можно оценить через ll«ll«y/2 + Cxll«l!(-i)» и

22.4. Гипоэллиитичиость с потерей одной производной 507
поэтому ||и||(-1/2) в правой части можно заменить на ||и|!<-о.
В итоге получаем
B2.4.31) ||и|Ц+ U |,,д
< Ск (II Ри\\ (о + II и Ц.,,), иеСГ (К).
Эта оценка — точный аналог B2.2.9), B2.2.10) при е = 1/2,
хотя она и содержит небольшое отличие в индексах норм, свя-
связанное с тем, что теперь Р — оператор первого порядка. Однако
в доказательстве того, что из B2.4.31) следует микрогипоэллип-
тичность оператора Р с потерей одной производной, ничего ме-
менять не нужно. Подводя итог результатам данного параграфа,
мы видим, что доказана
Теорема 22.4.14. Пусть РеЧ^ьв— собственный оператор с
главным символом, удовлетворяющим условию B2.4.1). Если
при некотором seR верна импликация
иеГ(X), Рие= #w =>ие= #<,+»-«,
го для каждого компакта K<z.X существует такая постоянная
6 >_ 0, что
где х°е/С, |?0|=1, Q(y,yo,i\,i\o),— любой предел величины
при х-*-х9, |-»-оо, |/|||->|°. Здесь числа щ — собственные зна-
значения гамильтонова отображения формы Q/i, принадлежащие
Г, и v — элемент пространства, натянутого на корневые век-
векторы, соответствующие собственным значениям, по модулю мень-
меньшим 6. Обратно, если это условие выполнено, то
и<=2У(Х), Ри е= H(s) в точке (*°, |°) =*¦ и е= #<,+„_,) в точке (х?, |°)
при любых sgR и (х°, ?*)е Т*[Х)\0, т. е. оператор Р микро-
гипоэллиптичен.
Условие теоремы имеет, к сожалению, сложный вид, но его
можно упростить, сделав более сильные геометрические предпо
ложения:
Теорема 22.4.15. В дополнение к B2.4.1) будем считать, что
нули символа рт образуют С™-многообразие, на котором рт

608 22. Некоторые классы микрогипоэллиптическнх операторов
трансвереально эллиптичен. Тогда условия теоремы 22.4.14
эквивалентны соотношению
+l)|i/^0, 0<a,eZ, ||°|=l,
где pm(x°,l°) = 0, Q —гессиан функции рт/2 в точке (х°, |°),
ц; — собственные значения гамильтонова отображения формы
Q/i, лежащие в Г, и v — корневой вектор, отвечающий нуле-
нулевому собственному значению.
Доказательство. Из замечания после доказательства предложе-
предложения 22.4.3 вытекает, что достаточно рассмотреть фигурирующую
здесь предельную форму Q, и следствие 22.4.11 показывает, что
оценка B2.4.11) автоматически выполняется равномерно.
Примечания
В 50-е годы результаты о гипоэллиптических операторах по-
постоянной силы, доказанные в § 13.4, казались совершенно об-
общими, но Трев (Treves [4]) построил пример. гипоэллиптиче-
ского оператора, не удовлетворяющего соответствующим усло-
условиям ни при каком выборе координат. Такие примеры можно
теперь найти в классе гипоэллиптических операторов постоян-
постоянной силы, обсуждавшемся в § 22.1. Он был введен Хёрмандером
(Hormander [18]) и определен по-другому в работе Hormander
[42], которой мы здесь следуем. Для дифференциальных опера-
операторов второго порядка никакой такой класс операторов не ин-
инвариантен при замене координат. Это побудило Хёрмандера
(Hormander ?20]) изучить гипоэллиптическне операторы, свя-
связанные с уравнением Колмогорова [1] (первоначальное изложе-
изложение см. в § 7.6). Более простые доказательства несколько менее
точных, но более общих результатов были позднее даны Коном
(Kohn [2]), а также Олейник и Радкевичем [1], изложению ко-
которых мы следуем в § 22.2.
Точная оценка снизу, доказанная в теореме 22.3.3, принад-
принадлежит Мелину (Melin [1]). Хёрмандером (Hormander [36])
было замечено, что при дополнительных предположениях верна
более сильная теорема 22.3.2. Доказательство теоремы 22.3.3,
приведенное здесь, использует этот факт. См. также работы
Hormander [37, 39] и, в особенности, Fefferman — Phong [1,2]
по поводу более сильных вариантов без таких дополнительных
условий, что частично обсуждалось выше в § 18.6.
Мелин (Melin [1]) доказал, что из его неравенства вытекает
ряд случаев теоремы 22.4.14, принадлежащей Радкевичу [1].
Шёстранд (Sjostrand [3]) продвинулся значительно дальше, и

Примечания 509
основная часть методов § 22.4 восходит к его работе; до этого
некоторые специальные модельные случаи обсуждались Груши-
ным [2]. Общность еще более возросла в работе Буте де Мон-
веля (Boutet de Monvel [4]), и в полной общности теоре-
теорема 22.4.14 была доказана Хёрмандером (Hormander [35]). Не-
Независимое доказательство теоремы 22.4.15 было дано в работе
Boutet de Monvel — Grigis — Helffer [1].
Изучение гипоэллиптических операторов с двойными харак-
характеристиками повлекло интенсивное изучение гипоэллиптических
операторов на нильпотентных группах Ли. Мы не будем обсуж-
обсуждать здесь эти интересные результаты, а отошлем читателя
к работам: Helffer — Nourrigat [1], Melin [2], Rothschild [1J и
приведенной в этих работах библиографии.

23
Строго гиперболическая задача
Коши
Краткое содержание главы
Для дифференциального оператора Р, имеющего постоянные
коэффициенты, задача Коши с данными на нехарактеристиче-
нехарактеристической плоскости корректно поставлена при любых младших чле-
членах тогда и только тогда, когда оператор Р строго гиперболичен
(следствие 12.4.10 и определение 12.4.11). Если эта плоскость
задается уравнением хп = 0, то сказанное означает, что главный
символ Рт(%,%п) имеет т различных вещественных корней |„
прн каждом ?'=(|ь .... ?n_lN='Rn-|\0. В § 23.2 будет дока-
доказано, что для случая переменных коэффициентов это условие
также гарантирует корректность задачи Коши в очень сильном
смысле. Утверждения, обратные к этому, будут обсуждаться
в § 23.3 и в примечаниях.
Доказательства § 23.2 опираются на разложение оператора
P(x,D) в произведение множителей первого порядка вида
Da — a(x,Df), где главный символ оператора а равен одному
из корней многочлена Рт(х, ?',?»). Поэтому такие операторы
первого порядка будут изучаться в §23.1. Основным инструмен-
инструментом здесь является метод интеграла энергии. Его можно при-
применить непосредственно к оператору P(x,D), но он более нагля-
нагляден и прост в случае операторов первого порядка.
В § 23.3 показано, что для корректности задачи Кошн в
случае операторов главного типа требуется строгая гиперболич-
гиперболичность вне плоскости, несущей данные Коши. Однако определен-
определенные типы двойных корней на самой плоскости могут встречаться.
Такая ситуация довольно подробно изучается в § 23.4, так как
она имеет место для важного уравнения Трикоми. Мы также
встретимся с такими операторами в § 24.6.
23.1. Операторы первого порядка
В данном параграфе будет изучаться задача Кошн в R"+l:
B3.1.1) du/dt + a(t,x,D)u = f,O<t<T, и = <р прн /=»0.
Будем предполагать, что
(i) символ at(x, t) = a(t,x, g) принадлежит ограниченному
множеству в S1 [R" X R") при 0 < t < Т;

23.1. Операторы первого порядка 511
(И) отображение t>—>щ непрерывно как отображение [О, Г]
в 0'(R2") (или, что эквивалентно, в OfR2"));
(Hi) Re a (*,*,?)> — С, 0<^7\
Предположение (iii) естественно, поскольку если а постоянно
и / = 0, то решение задачи B3.1.1) имеет вид и = е~°'(р.
Из (i), (ii) следует, что отображение t>—>a(t,x,D)u со зна-
значениями в & непрерывно при ие?, так как ограниченность
a(t,x,D)u в 91 вытекает из теоремы 18.1.6, а непрерывность
со значениями в С°° очевидна. Ввиду теоремы 18.1.13 функция
щ(х,D) при каждом s сильно непрерывна по t со значениями
в множестве ограниченных операторов, действующих из #(S)(R")
в tf,_,,(R»).
Следующая основная оценка доказана с помощью встречав-
встречавшегося ранее в доказательстве леммы 17.5.4 метода интеграла
энергии.
Лемма 23.1.1. Если seR, a XeR больше некоторого числа,
зависящего от s, то для каждой функции цеС'([0, 7"]; H(S))
ПС°([0,Г];Я(,+1)) и ps[I, oo]
С г \Up
\\\e-uu(t, .
г \
-и\ж + а& х> D)uLdt
о
с очевидной интерпретацией левой части при р = оо.
Доказательство. Предположим сначала, что s == 0. По теореме
18.1.14 из условий (i) и (iii) следует, что с некоторой постоян-
постоянной с верно неравенство Re(at {x, D)v, v) ^ — с (о, о), о е На).
Положив f = du/dt + a(t,x,D)u и взяв скалярные произведения
при фиксированном t, получаем
2 Re (/ @, и @) е-а' == ¦$? (е-2М "" W ^ + 2Re ((a'(x' D)
+ %) и @, и (/)) е-2" > |- (в-»« || и @1|2),
если только Я, ^ с. Интегрируя от 0 до т ^ / ^ Т, получаем
t
M(tJ= sup e-^||«(TJ2
Следовательно,
t

512 23. Строго гиперболическая задача Коши
откуда при Л = с получаем
t
e~ct || и (/, •) II < || и @) || + 2 \ е~" || / (т) || dx.
о
умножая на е(с~ ]', находим, что
t
e~X'll и @II < е(с"Х)' || и @) || + 2 J e~KV || f (т) Я«(в"« ""т)</т.
о
Если Я > 2с, то (с — Я)< — Я/2, а норма функции е~кт
в Lp @, оо) не превосходит B/ЯI/р при Я > 0, откуда вытекает
оценка B3.1.2) приз = 0.
Чтобы доказать оценку B3.1.2) при произвольном s, поло-
положим ES(D) = A +1D1«)•/», ft(/, jc, ?>) = ?sф)а(/, х, D)E.s(D).
Так как символ b{t, •) — a(t, •) ограничен в S0, то для символа
Ь свойства (i) — (Hi) сохраняют силу. Оценка B3.1.2) следует
из аналогичной оценки, в которой символ а заменен на Ъ, s за-
заменено на 0 и функция и заменена на Es{D)u. Доказательство
леммы закончено.
Следующая теорема существования и единственности под-
подсказана оценкой B3.1.2) и расширяет область применимости
этой оценки.
Теорема 23.1.2. Предположим, что выполнены условия (i)—(Hi),
сформулированные выше, и ssR. Для каждых feL'^O, Г);
Н и ipE/fj,) существует единственное решение цеС([0, Г];
задачи Коши, и для него справедлива оценка B3.1.2).
Доказательство. Единственность. Предположим, что f = 0, ф = 0.
Так как функция a(t,x,D)u непрерывна по t со значениями
в //(*_,), то us С1 ([0, Т]; #„_„) П С0 ([0} Г]; Я.«). Поэтому при-
применима оценка B3.1.2) с j—1 вместо s и, значит, м=0.
Существование. Если решение и задачи Коши B3.1.1) суще-
существует и osC? ({(/, х); I < Т}), то
г т
(и, - dv/dt + a (t, х, D)' v) di = \ (f, v) dt + (ф, о @)).
о о
Если заменить t на Г — t и a(t, x, D) иа a(t, x, D)*, то из леммы
23.1.1 вытекает, что при некотором С
т
s>л> г " ~dv/dt+а {1> х> 0)* °-
Следовательно,
J (f, о) Л + (ф, о @)) < С J || g @ H_s, dt. Поль-

23.1. Операторы первого порядка 513
зуясь теоремой Хана —Банаха, чтобы продолжить антилиней-
антилинейную форму
г
У,о)Л + (ф,о@)),
заключаем, что существует некоторая функция ие1"(@,Г);
#(s>), для которой
г г
J («, - dv/dt + а (/, *, D)" v)dt = \ (f, v) dt + (Ф) v @)),
о о
если о е Со° и t < Т на supp у. Поэтому
(t, х, D)u = /
в смысле теории распределений при 0 < t < Г. Временно пред-
предполагая, что f^S', получаем du/dt е/.ю(@, Т); His-i)), и по-
поэтому »еС([0,Т]; Я(«-о). Снова используя уравнение, нахо-
находим, что иеС'([0, Т]; Я(,_2)) и и@) = <р. Если f eP7 и <р <= ^,
то, заменяя в наших рассуждениях s на s -f 2, получаем, что
существует решение задачи B3.1.1), к которому применима
оценка B3.1.2). Теперь для произвольных / и <р, удовлетворяю-
удовлетворяющих предположениям теоремы 23.1.2, выберем такие последова-
последовательности 9vS^(R") и /v«=5'(R'I+1), что
Найдем uv e С1 ([0, jT] ; #(i+n), для которых uv@) = 9v и
Тогда из B3.1.2) следует, что «v — последовательность Коши
в С([0, Г]; ЯE)). Ее предел при v->oo является искомым реше-
решением задачи B3.1.1). Это завершает доказательство теоремы.
Следствие 23.1.3. Пусть распределение и удовлетворяет B3.1.1),
где / = 0 и феЯ(!)(Кл) при каждом s; тогда ueC'([0, 71];
H(S)(Rn)) при каждом s, если это имеет место при каком-нибудь
s. В частности, u(t, •)eC00(R'1) при каждом фиксированном t.
Теперь займемся исследованием волнового фронта распре-
распределения u(t, •) в случае негладкого (psW(-») = Uff(s). При
этом предположение (ш) заменим на более сильное:
(iv) a s Sphg и главный символ чисто мнимый .
Тогда направление времени в теореме 23.1.2 можно обра-
обратить. Предположим, что (х0, |0)е T*{Rn)\0\WF(q>). Тогда

514 23. Строго гиперболическая задача Коши
оо
можно так выбрать q ~ 2<7/sSphg» что qo(хо. ЪоУФ 0, но q об*
о
ращается в 0 вне настолько малой конической окрестности точки
(*о> Ы. чт0 Я(х> ^)ф е '--о0' Мы получим информацию о решении
и задачи Коши
B3.1.3) du/dt + a(t,x,D)u = O, и (О, -) = Ф,
если нам удастся найти такой оператор Q(t,x,D), что Q@,x,D)
= q(x,D) и Q коммутирует с оператором iDt + a{t, x, D). Дей-
Действительно, имеем
(iDt-\-a(l, х, D))Qu==0, Qu<=C™ при / = 0
и ввиду следствия 23.1.3 получаем, что Qu(t, -)^СЖ. Поэтому
волновой фронт распределения u(t, •) содержится в характери-
характеристическом множестве оператора Q(t, x, D).
Имеет место асимптотическое разложение
в котором символы Ь] однородны степени 1 — / и Ьа веществен.
Символ Q будем искать в виде асимптотической суммы
, х, I), где символы Q/ однородны степени —/. Главным
символом коммутатора [iDt + a(t, x, D), Q(t,x,D)] является
выражение
{т + h (t, х, I), Qo (/, х, I)} = (d/dl + Я„а) Qo>
и слагаемое порядка —/ равно
где /?/ выражается через Qo, .... Qi-ъ Итак, иам нужно сна-
сначала решить задачу Коши
B3.1.4) (d/dt + Hh)Qo = 0, Qo = <7o при /-0,
а затем решить неоднородные задачи Коши для Q/ того же вида.
Уравнение B3.1.4) означает, что символ Qo постоянен на орби*
тах гамильтонова поля
B3.1.5)
dx/dt - дЬ0 (t, х, Ц/06, dlldt = - дЬ0 (U х, Ц/Эх.
Условие равномерной ограниченности (i) гарантирует существо-
существование решения с начальными значениями
B3.1.6) х = у, g = t) при /==0

23.1. Операторы первого порядка 515
на некотором фиксированном интервале 0 ^ t ^ t0, если |т)| — 1,
и при этом производные решения (х, ?) по (у, ц) ограничены.
Вследствие однородности символа Ьо это решение существует
при всех цфО и О^^^^о, причем функции х, ? однородны по
ri степени 0 и 1 соответственно. Из t = О до любого t < Т можно
дойти максимум за |Г/^о|+ 1 шагов, что доказывает существо-
существование решения при 0 ^ <^ Т. Обозначая (х, i) = 5C<(f/>Tl)> из
F.4.12) заключаем, что %t — однородное каноническое преобра-
преобразование. Интегрируя уравнения в сторону убывания t, находим,
что %t обратимо. Теперь решение уравнения B3.1.4) дается фор-
формулой
Qb(/, *, !) = <7о (хГ1 (*.?))•
Последующие уравнения
можно записать в виде
dQt V, %t, (у, Ч))/а/ -f R, (X, (у, г,)) = 0.
Поэтому решение, равное qt при t = 0, имеет вид
t
Q/ Ц, Xt (у, r\)) == q, (у, tj) — J R, (Xs (y, r\)) ds.
о
Все производные по х, | функций Q/, получаемых таким обра-
образом, равномерно ограничены. Если выбрать Q(t, x, I) ~ ]? Q, (t,
хЛ), то
Q@, х, l)-q(x, |)e=S-~, [iDt + a(t, x,D),Q(t,x,D)]=R(t, x, D),
где символ R(t, •) ограничен в S~°° и непрерывен как функция
от t со значениями в C°°{R2n). Если распределение и удовлетво-
удовлетворяет B3.1.3) при ф е H(^-co)(Rn), то заключаем, что
№ + a (t, х, D)) Q (t, x,D)u<==C ([0, Г]; Hw)
при любом s и что Q (t, х, D) и е His) при любом s, когда f = 0.
По теореме 23.1.2 последнее остается справедливым при любом
L Так как Q0(t,x, %)Ф0 при (х, |) — %t (х0, |0), то х<(*о, |о)
^ W/r(u(f, •)). Направление времени можно обратить, поэтому
нами доказана
Теорема 23.1.4. Если символ а удовлетворяет условиям (i) — (iv),
иеС([0,Г]; H(^x)(Rn)) есть решение задачи Коши B3.1.3)
и qp e #(_«,)(R"), то WF(u(t, ')) = %tWF(<p), где %t — канониче-
каноническое преобразование, получаемое интегрированием от 0 до t
уравнений Гамильтона B3.1.5) с функцией Ьо, равной главному
символу а/и

516 23. Строго гиперболическая задача Коши
До сих пор нами рассматривались особенности распределе-
распределения и лишь при фиксированном t. Если as S'(R"+1X R")i то
возможен анализ особенностей ы, рассматриваемого как распре-
распределение в R"+l. Действительно, хотя оператор Dt + a(t,x,D)/i
не является псевдодифференциальным, он становится таковым
после умножения на псевдодифференциальный оператор по (t, x)
с символом, равным 0 в конической окрестности множества, где
5 = 0 (теорема 18.1.35). Действуя таким оператором на уравне-
уравнение (Dt -f a(t, x, D)/i)u = 0, заключаем, что при 0 < / < Г
справедливо включение
WF («) с {(/, х; - Ьо (/, х, ?), 6)} U {(/, х, т, 0)}.
Из доказательства теоремы 23.1.4 получаем, что (t, x, т, ?)
ф. WF(u), если %ф0 и Qo(t, x, \)=? 0. Если почему-либо из-
известно, что 1Ф0 при {t, x,x, |)е WF(u), то, следовательно,
ввиду теоремы 8.2.4
WF (и (/, •)) = {(х, |); (/, х; - Ьо (/, х, I), I) e WF (и)}.
Поэтому теорема 23.1.4 означает, что WF(u) представляет со-
собой объединение бихарактеристик символа т + bo{t, x, |). Это ре-
результат того же вида, что и теорема 8.3.3'. Мы вернемся к нему
в гл. 26.
Решение задачи Коши B3.1.3) определяет отображение
Ft:
для которого по теореме 23.1.4
Аналитическая структура отображения Ft будет выяснена в
гл.25; оно является эллиптическим интегральным оператором
Фурье, ассоциированным с каноническим преобразованием %t.
Можно было бы и в данном параграфе использовать теорию
интегральных операторов Фурье. Однако это было бы менее
элементарно, и приведенное обсуждение дает конкретное осно-
основание для изучения интегральных операторов Фурье в гл. 25.
23.2. Операторы высшего порядка
Начнем с обобщения леммы 23.1.1 и теоремы 23.1.2 на опера-
операторы вида
Р= I Pi (i,x,Dx) D>t
и
в R"+l. Будем предполагать, что
(i) рт = 1 и Pi eSw-/(R'H-1 X R") при / < m;

23.2. Операторы высшего порядка 517
(и) оператор Р, имеет главный символ pj(t,x, I), однород-
однородный по I степени т — /"; следовательно, P/(t,x,l)—A—
— %(l))Pi{Ux,l)eSm-1-', если функция X<sC~(R") равна 1
в окрестности нуля;
(Hi) корни т главного символа
т
p(t, х, х, |)
оператора Р вещественны при \'ф О и являются равномерно
простыми в том смысле, что при некоторой положительной по-
постоянной с
B3.2.1) \dp(t, х,х,1Iдх\>с\%\щ-\ если р{(, х, т, |)«0.
Обозначим корни т многочлена p(t, x, т, |) через Я, (t, x, %) <
< ^2(^, х,1) <...<. %m{t, х, \). Они однородны по | степени 1,
и
так как при |Е|= 1 это верно ввиду теоремы о неявной функ-
функции и B3.2.1). Пусть Л/ = A— х(ШМ*>*. D- Переставляя
в операторе Р дифференцирования D[ так, чтобы они оказа-
оказались слева от других множителей, и пользуясь тождеством
Dt = (Dt — Л/(/,х,D)) + A/(t,х,D), можно найти такие опе-
операторы
Q/=? Qik{(, x, Dx)Dkt,
о
что Qfk e Sm~l-fc и
B3.2.2) Р-Ф,- Л; {U х, Dx)) Q, = R, (t, x, Dx).
Ясно, что Rj^Sm. Его главный символ р — (т — Л,/)<7/ не зави-
зависит от т, поэтому он равен 0. Это доказывает, что в действи-
действительности R/ e Sm-'. Ниже грубое разложение B3.2.2) будет
усовершенствовано, но для обобщения леммы 23.1.1 его до-
достаточно.
Лемма 23.2.1. Если se R и Т> 0, то для каждого распределе-
т-\
ния и из П С'([0, Т]', H(S+m-i-i))> для которого PueL'(@, T);
о
H(s)), верна оценка
B3.2.3) sup ? \Dlu{t, -I+т-1-п
0<<<Г/<
tDlu(O, •
<m

518 23. Строго гиперболическая задача Коши
Доказательство. По теореме 23.1.2 к распределению Qiu при-
применима оценка B3.1.2), в которой а = — t"A/. При большом Я
и ps[l, oo] это дает
\\e-ktQ(u(t, ')l)
о
Если щ — главный символ оператора Q/, то
q,(t, х, т, g)=II(T-*v),
и поэтому в силу интерполяционной формулы Лагранжа
*" — Z «7/ С *, т, I) Я?/ П (X, - A.v), k < m.
Положим
П (X/(/, дс, 6)-Я,(/, x, I)),
так что Mft/eSfe+I"m(R"+IXR"). Тогда
А*ы= ? Afw(<, ж, ?>)Q/«+ t Ru(t, x, D)Dftu,
0
где Rki e S*-/-1. Поэтому
В последней сумме можно опустить слагаемое с индексом
k = m — 1, поскольку норма |QjM — DT~lu\s-\) оценивается че-
через остальные слагаемые. Таким образом,
? ({\e-UDkMt,
*<я>^0
(

23.2. Операторы высшего порядка 519
Опять используя B3.1.2), можно оценить последнюю сумму через
г
+ 4 ? \\е-"оГи((,
1-1 О
так что
,Т \\1р
( J [
Г Г
0 ft<m 0
Если р=1 и Я велико, то последняя сумма меньше половины
левой части. Поэтому мы получаем, сначала для р = 1, а по-
потом и для произвольного р, с новой постоянной С, не завися-
зависящей от s, p и А, при большом X, что выполнена оценка
B3.2.4)' 2l )
намного более сильная, чем B3.2.3).
Теперь докажем аналог теоремы 23.1.2:
Теорема 23.2.2. Предположим, что выполнены условия (IT—
(iii), сформулированные выше. Для любых /е Ll{(Q, T)\ НC>)
и ф/ s His+m-1-n, j <m, существует единственное решение
m-l
us П С7([О, Г]; Hu+m-1-n) задачи Кощи
о
B3.2.5) Pu = f при 0<t<T; Dtu = yf при j <m, t<=0.
Доказательство. Единственность немедленно следует из леммы
23.2.1, показывающей, что и = 0, если / = 0 и q>o = ... = <pm-i
= 0. Для доказательства существования заметим, что если рас-
распределение и достаточно гладкое, oeCr(R"+1) и t <Т на
suppo, то
B3.2.6) j (u, P'v) dt — j (Pu, v) dt
о о
l+k<m

520 23. Строго гиперболическая мдача Коши
Если теперь применить оценку B3.2.3) к оператору Р*, заме-
заменив t на Т — t, то при g = P*v имеем
г
k<tn
Отсюда следует неравенство
К (/, v) dt -t Y, (ф/> rfPi+ш (t, x, D)" v @))
lo t+k<m
Пользуясь теоремой Хана — Банаха, чтобы продолжить анти-
антилинейную форму по g, стоящую в левой части неравенства, за-
заключаем, что найдется некоторая функция ие?°°(@, Г);
#(s+m_i)), такая что
B3.2.6)'
г г
J (f, v)dt-iYl (ф/. D*tPi+k+\ if, x, D)" v @)) = J (и, P'v) dt,
о о
если v s Co° и * < Г на supp v. Отсюда, взяв такие функции о,
что 0 < / < Т на supp v, получаем, что Ри = /; выполнение
начальных условий B3.2.5) явится следствием сравнения с
B3.2.6) после того, как будет установлена достаточная регу-
регулярность функции и.
Как и при доказательстве теоремы 23.1.2, ввиду оценки
B3.2.3) достаточно доказать существование в случае, когда f
и <р/ содержатся в 3". Из того факта, что и е L2( @, Т); Нц+т-х))
и Ри&9>, будет выведено, что Z)/usL2(@, t); #(,+m-i-/)} при
0^/^m (на самом деле это верно при каждом /). Доказа-
Доказательство является незначительной модификацией доказатель-
доказательства теоремы В.2.9. Сначала заметим, что теорема В.2.3 остает-
остается справедливой, если определить Я(т, s) как пространство су-
сужений элементов из Нш, s)(R"+1) на @, 7)XR". Действительно,
если функция 5С^С°°(К) равна 1 на (—оо, 1/3) и Она B/3, оо),
то теорема В.2.3 применима как к %и, так и к A—%)и, если
в последнем случае заменить t на Т — t. Относительно решения
уравнения Ри = f, построенного выше, известно, что
Dtu e #(*-/, s+m-i-k), } ^ tn,
при k •= 0. Считая это известным при некотором k < tn, полу*
чаем включение
D?u=-Pu— 2 PlV> x, Dx)D'tue=Hlk-m+ul+m-2-ki>
Km

23.2. Операторы высшего порвдт 891
С помощью только что обсуждавшейся модификации теоремы
В.2.3 индукцией по убывающему / получаем, что
DfU S H{k+1-I, s+m-k-2)-
Последнее означает, что в сделанном допущении k заменено на
k -j- 1. Поэтому оно верно при k = m, т. е.
откуда по теореме В.2.7 следует, что d|«gC([0, Г];
His+m-f-w). Этого достаточно, чтобы придать смысл равенству
B3.2.6). Сравнивая равенства B3.2.6) и B3.2.6)/ в случае,
когда D'tv = 0 при t = 0 и j < т — 1, получаем
откуда м@) = ф0. Взяв D<o = 0 лишь при / < т — 2, полу-
получим D(u@) = <pi и т. д., пока все условия Коши не будут про-
проверены. Из уже установленной единственности следует, что за-
задача Коши B3.2.5) для /s^ и ф/^^ имеет решение
иг П Ст~1 ([О, Т\; #(»>).Последовательно испольвуя уравнение
S
Ри = f, получаем, что и е f\C( [О, Т]\ Н{Я)) <=. С°". Это завер-
шает доказательство существования.
Основной задачей данного параграфа является изучение
строго гиперболических операторов.
Определение 23.2.3. Дифференциальный оператор порядка тп
на С°°-многообразии X с главным символом р называется строго
гиперболическим относительно поверхностей уровня функции
феС°°(Х, R), если р(х,(р'(х))Ф0 и характеристическое урав-
уравнение р (х, | + тф' (х)) = 0 имеет m различных вещественных
корней т при любых жеХи |еГ*\ |?ф' (х).
Задача Коши для строго гиперболического оператора всегда
имеет полуглобальные решения:
Теорема 23.2.4. Пусть Р — дифференциальный оператор поряд-
порядка m с С°°-коэффициентами на С°°-многообразии X, и пусть
Y &X — открытое подмножество. Предположим, что оператор Р
строго гиперболичен относительно поверхностей уровня функ-
функции 9sC"'(X,R), и положим
Х+ _ {х е= X; Ф(д) > 0}, Хо = {х еX; <р(х) = 0}.
Если носитель распределения f e Н(™(X) лежит в замыкании
множества Xf, то существует такое распределение и е 1?

. 522 23. Строго гиперболическая задача Коши
с носителем в замыкании множества Х+, что Pu = f в Y. Если
s^O. v —векторное поле, для которого «ф=1, uf^Ul™(X+),
ф/е_Я(?т_1_я(Хс), / <пг, то существует такое распределение
иеЯЙ«-»(*+), что Pu = f в X+[\Y и v'u = $, на X0[}Y при
/ <пг.
Чтобы доказать эту теорему, рассмотрим сначала случай,
когда XcR" и ф(*) = л:п. По условию коэффициент при D™
нигде не обращается в 0, поэтому, поделив иа него, можно
впредь считать, что он равен 1. Пусть Xi (х, ?')<¦••< im(x, ?'),
i' = (ii» •-., |n-i), суть корни уравнения р(х, ?'Д) = 0. Выбе-
Выберем такую функцию хеС (X), что O^x^l и %= 1 в У, и
положим
Р(х, &) =
. БО
Тогда можно так определить оператор Р с главным символом р,
что Р(лс, |)= Р(х, I) при д:еУ и Р/(ж, |') не зависит от ж вне
компактного подмножества множества X. В этом случае оче-
очевидно выполняются предположения теоремы 23.2.2, если роль
переменных t и х играют х„ и (х\, .... *n-i).
Предложение 23.2.5. Предположим, что оператор Р строго ги-
гиперболичен относительно плоскостей х„ = const в X с R", и
пусть YmX. Если s > 0, f <= Яи, „ (R+) н ф/ е H{s+t+m-i-n (R").
/ <С пг, то существует такое распределение «еЯ(,+т„1, o(R+)>
чго DnU — непрерывная функция от хп со значениями в
ЯE+<+т-1-/)(Кп~1) при х„>0 и \ <пг и что
B3.2.7) Pu = f в Y()R+, D'nu = $, в YП(R" X{0}) при j< пг.
Доказательство. Выберем такое Т>0, что Т>хп при xeF. Усло-
Условие на / показывает, что feL'(@, T); H{s+t)(Rn-1)), откуда по
теореме 23.2.2 следует существование такого распределения
П С1 ([О, Г]; Я„+«+т-1-л). что Pu = f при 0 < хп < Г и
J/p сп = О, }<пг. Так как « е Я(т_1, s+t), Pu^His,.t)
в слое {^; 0 < х„ < 7}, то точно так же, как в доказательстве
теоремы 23.2.2, отсюда следует, что иЕД(лНН(). Доказатель-
Доказательство предложения закончено.
Предложение 23.2.5 дает локальный вариант второй части
теоремы 23.2.4; теперь докажем локальный вариант первой
части,

23.2. Операторы высшего порядка 523
Предложение 23 2.6. Предположим, что оператор Р строго ги-
гиперболичен относительно плоскостей хп — const в X cz Rn, и
пусть YmX. Если I e His. o(R+). то существует такое распре-
распределение не //(s+m_i, t)(R+), что Pu = / в Y. Здесь число s (или
t) может равняться +оо.
Доказательство. При s^O из теоремы 23.2.2, в которой пере-
переменная х„ заменена, скажем, на хп—1, следует существование
такого и е /?(m_i, s+t), что Pu = f при хп < Т. Как и в доказа-
доказательстве теоремы 23.2.2, из аналога теоремы В.2.9 вытекает,
что и е /?(s+m_i, t). Теперь, доказывая теорему при s <. О, можно
считать, что она уже установлена при параметре s, замененном
на s + 1. В соответствии с замечанием после теоремы В 2.4
справедливо представление
где /i,eff|,+i, t-D и/„е H[s+u t). Выберем такие щ е His+m, <_,>
И Н„ е H(S+m, t), ЧТО
Тогда С/ = н0 + Д„ы„ е Я(,+1В_|,« и
так как оператор m-го порядка [Р, Dn] имеет по Dn лишь по-
порядок m—1. По индуктивному предположению найдется такое
распределение v e /?(s+m, t-u, что Pv = [P, Dn] un, и тогда рас-
распределение и = U — v является искомым решением.
Чтобы доказать теорему 23.2.4 с помощью склеивания ло-
локальных решений, нам понадобится теорема единственности:
Теорема 23.2.7. Если оператор Р строго гиперболичен в X от-
носительно поверхностей уровня функции ф, то у каждой точки
Хо е X существует фундаментальная система окрестностей V,
таких что из условий u^2)'(V), ф^ф(д:0) на supp« и Ри=0
в V следует равенство и = 0 в V.
Доказательство. Можно выбрать такую локальную систему ко-
координат в точке Хо, что х0 = 0 и ф(*)= ф@) + хп — |-^|г- По-
Положим
Ve = {х;\хп\< е2, \х/ \ < е}.
Так как степень многочлена р@, |',|я) по |„ равна m и при
S'gR'-'XO он имеет m различных вещественных корней, то

524 28. Строго гиперболическая задача Коти
же справедливо для многочлена р(х,\', |п)> если ^eft,
О <. е <; е0, поскольку многочлен р(х, |) по существу веще-
вещественный (ср. с леммой 8.7.3). Если geCo°(Ke), то из предло-
предложения 23.2.6, примененного к оператору Р*, следует существо-
существование такой функции we C°°(Ve), что P*v = g в Ve и и(*) = 0,
если ;en > е2 — б и число б настолько мало, что g(*)=0 при
хп > 82 — б. Но тогда
и, следовательно, и = Ов Ve. Итак, окрестности Ке обладают
нужным свойством.
Доказательство теоремы 23.2.4. Можно найти конечное число
таких координатных окрестностей Xva X и открытых множеств
YvmXv, что Г с: (J Fv. Чтобы доказать первое утверждение
теоремы 23.2.4, найдем с помощью предложения 23.2.6 при
каждом v некоторое распределение и,еД{,%-|)(Ц обра-
обращающееся в 0 при ф < 0 и такое, что Puv = / в Yv. Выберем
покрытие множества Хо{]? открытыми множествами VV, обла-
обладающими тем свойством, что из условий Pv = 0bVvliiv = 0
при <р <Z О следует, что v = 0 в Уц- Множества Уи выберем
столь малыми, чтобы для всех индексов ц, ц/, для которых
VnfllV^O, ПРИ некотором v имело место включение
FnUJVdlV Теперь определим « == uv в Кц, если У|хС=Уу- По
теореме 23.2.7 в Кц справедливо равенство щ-=Щ\ если VVc:
Yv{\Yy, поэтому выбор v не имеет значения. Распределения и,
построенные таким образом в открытых множествах Уц и Vp,
совпадают в их пересечении, так как если оно не пусто, то V^
и Vtf содержатся в Yv при некотором v. Ясно, что Ри = f в
V = U^.
Выберем функцию x^Co'iV), равную 1 в окрестности W
множества Хо(]У. Тогда f = P\%u) в W. Поэтому найдутся та-
такие g е Н\$(X) и е > 0, что g = 0 при q>(*) < 8 и f = Р(%и)
•fgB У. Следовательно, достаточно доказать утверждение тео-
теоремы в случае, когда распределение f заменено на g и функ-
функция ф заменена на ф — е. Геометрический характер доказатель-
доказательства теоремы 23.2.7 убеждает нас, что то же е может быть вы-
выбрано, если функция ф заменена на ф — t при t > 0. Утвержде-
Утверждение теоремы тривиально, если ф<0 в У, и получается конеч-
конечным числом итераций с помощью построенных выше локальных
решений. Для доказательства второго утверждения теоремы
23.2.4 достаточно воспользоваться предложением 23.2.5 вместо
предложения 23.2.6. Затем приведенное выше построение сохра-
сохраняется без изменения. Доказательство теоремы закончено.

23.2. Операторы высшего порядка 525
Ниже обсуждаются особенности решений задачи Коши
B3.2.5). В качестве подготовки к доказательствам усовершен-
усовершенствуем разложение B3.2.2).
Лемма 23.2.8. Если оператор Р удовлетворяет условиям (i)—
(Hi), сформулированным в начале параграфа, то операторы Л/
и Qjk можно так изменить на члены порядка 0 и пг — 2 — k, что}
правая часть /?/ тождества B3.2.2) станет элементом
5-00(Rn+lXRn).
Доказательство. Предположим, что тождество B3.2.2) уже
установлено, причем /?/ е 5т~^ при некотором ц > О, как это
было при A = 1. Можно выбрать такой символ ie S'-^fR^1
XR"), что
R,(t, x, l) + k(t, x, t)mZQikV, *, l)A,(t, x, й*еГн,
где по предположению Rj^Sm-v- и в соответствии с B3.2.1)
сумма является эллиптическим символом порядка m — 1, так
как ее главный символ равен р'х [t, x, %г ?). Теперь, как и выше
при выводе тождества B3.2.2), можно найти такие символы
qk e Sm-l-v-kt что в обозначениях Л/ = Л/ + % символ опера-
оператора
m-l
х, Dx) + X(t, x, Dx) Z Qlk(t, x, Dx)Di
о
-(Dt-h(t, x, Dx))Wt qk{t, x, Dx)Df
о
не зависит от т и принадлежит Sm~^-!. Если заменить Л/ на
Л/ и Qjk на Qjk + Як при k < m — 1, то получим новое тожде-
тождество вида B3.2.2), но теперь Rj&S-^-1. Повторяя эти рассуж-
рассуждения при (i=l, 2, ... и добавляя к Л/, Q/* асимптотические
суммы последовательных невязок Ад q^ (см. предложение
18.1.3), получим тождество B3.2.2), в котором /?/eS-°°.
Теперь обсудим особенности решений задачи Коши B3.2.5),
начав с результата о внутренней регулярности, подобного тео-
теореме 8.3.3'. Не ограничивая общности, главный символ гипер-
гиперболического оператора будем считать вещественным.
Теорема 23.2.9. Пусть Р — дифференциальный оператор по-
порядка m с С°°-коэффщиентами на С™-многообразии X. Пред-
Предположим, что оператор Р строго гиперболичен относительно
поверхностей уровня функции q>eC°°(.X, R). Если Pu = f, то
WF(u\S.WF(f) есть подмножество в p~'(OJ, инвариантное от-

526 23. Строго гиперболическая задача Коти
носительно потока гамильтонова векторного поля главного сим-
символа р.
Доказательство. Уже из теоремы 8.3.1 следует, что WF(u)
\WF(f)czp~l@). Так как множество WF(u) замкнуто, то до-
достаточно показать, что его пересечение с любой бихарактери-
бихарактеристикой y символа р открыто в дополнении множества WF(f).
Это чисто локальный результат, и поэтому можно считать, что
XczRn, у(х) = хп и vo = (O,b>)^WF(u)\WF(f). Нужно до-
доказать, что WF(u) содержит окрестность точки у0 на бихарак-
бихарактеристике у символа р, проходящей через точку vo- Так как
точка (x,N) при х^Х и N = @, ..., 1) нехарактеристична, то
1'0 Ф 0. Поэтому можно выбрать символ ae5"(KnXR"), рав-
равный 1 в конической окрестности точки у$ и равный 0 на беско-
бесконечности в конической окрестности множества X X R^» а также
во всех точках х вне некоторого компакта из X. Положим
v = a(x,D)u и g=P(x,D)v. Тогда »еГ(Х), уо& WF(v)
\WF(g) и
B3.2.8) (RnXRN)[}WF(v) = 0.
На основании этого нужно доказать, что множество WF(v) со-
содержит окрестность точки у0 на бихарактеристике у.
Заметим сначала, что если R «=S-°°(RnX R"), то R[x,D')v
е С°°. Действительно, имеет место разложение
R(x, D')v = R(x, D')q(D)v + R(x, D')(I- q(D)) v,
где символ <7(g)eS° равен 1 на бесконечности в конической
окрестности вектора N и сосредоточен в другой столь малой
конической окрестности этого вектора, что q(D)v^ C°°, н по-
поэтому R{x,D')q{D)vs=C°°.По теореме 18.1.35, R{x,D'){I—q(D))
<=OpS-°°, и поэтому R(x,D')(f— q(D))v^C°°. В частности,
R(x, D')v ^ С00, если R = 0 в окрестности множества suppw.
Выберем оператор Р так же, как в доказательстве предло-
предложения 23.2.5. Тогда Pv — Pv<= C°°. На основании леммы 23.2.8
оператор Р допускает разложение
Р(х, D) = (Da-A,(x, О')Щ(,х, D) + Rf{x, D'),
где оператор Dn — Л/ характеристичен в точке уо, а оператор
Qi нехарактеристичен в этой точке; Я/ е S-°°. Положим
w = Qi{x,D)v. Ввиду теоремы 18.1.35 имеем уое WF(w), и по-
поскольку, как доказано выше, KjV^C°°, то yo&WF((Dn
—Ai(x,D'))w). Из обсуждения, следовавшего за теоремой
23.1.4, вытекает, что WF(w) содержит окрестность vi точки vo
на бихарактеристике у. Снова с помощью теоремы 18.1.35 за-
заключаем, что vi s WF(v)cz WF(u). Это завершает доказатель-
доказательство теоремы.

23.2. Операторы высшего порядка 527
Замечание. Функция ф не играет никакой роли в заключении
теоремы 23.2.9. Это подсказывает, что гиперболичность не су-
существенна, и впоследствии будет доказано (теорема 26.1.1),
что достаточно предполагать вещественность рассматриваемого
главного символа.
Теперь обсудим регулярность решения задачи Коши, счи-
считая, что Р — дифференциальный оператор порядка т с С°°-ко-
эффициентами на С°°-многообразии X, строго гиперболический
относительно поверхностей уровня функции ф е С°°(Л, R). Пусть
множества Л+ и Хо определены так же, как в теореме 23.2.4,
и С°°-векторное поле v выбрано так, что иф=_1. Предположим,
что /е/(^+) (определение 18.3.30), ие=Ф'{Х+) и Ри == /
в Х+. Тогда на основании следствия 18.3.31 распределение и
является сужением на Х+ единственного элемента iieJ(^+J
и то же самое верно для v!u. Поэтому граничные значения ф/
распределений и'и корректно определены. Из теоремы 18.3.27
(и) и (iv) следует, что WFb(f)czWFb(u) и WF(<pi)<zWFb[u)
ПТ*(Хо).
Теорема 23.2.10. При сделанных предположениях
B3.2.9) WFb (и) \Хо = WFb (f) \Xt U ( Д WF (Ф/)
и, следовательно, WF(u) содержится в объединении направлен-
направленных вперед бихарактеристик, начинающихся в точках множе-
множества WF{f\x А или в точках прообраза правой части равенства
B3.2.9) при естественном отображении
Г(Х)\Ха->Г(х0).
Доказательство. Последнее утверждение вытекает из первого,
если заметить, что множество WFb замкнуто, и применить тео-
теорему 23.2.9. Итак, достаточно проверить, что левая часть ра-
равенства B3.2.9) содержится в правой. Это утверждение
локально. Следовательно, умножив й на подходящую срезаю-
срезающую функцию, можно считать, что X cz R", <р{х) = хп, v—d/dxn,
iiejf' {Х+) и что I' ф 0 для точек {х, ?)е WF(u), для которых
хп > 0 (см. доказательство теоремы 18.3.32).
Определим оператор P(x,D), как в доказательстве предло-
предложения 23.2.5, и рассмотрим разложение
(Da-Al(x, D'))Qj(x, D) = P(x,D) + R,(x, D'\
где Rj s 5~"ac(R"X R"). как в доказательстве теоремы 23.2,9.
Пусть у^Т*(Хо)\О, и предположим, что точка у не содер-

528 23. Строго гиперболическая задача Коши
жится в правой части равенства B3.2.9). Нужно показать, что
Y ф WFb (и) \х . Из доказательства теоремы 23.1.4 нам известно,
что можно выбрать такой символ Фу (х, |') е S0, нехарактери-
нехарактеристический в точке Y. что
[Dn-K,{x, D'), Ф,(х, 1У)] = Т,(х, D'),
где Т] — символ порядка —оо, и символ Ф, имеет порядок —оо
вне любой заданной окрестности бихарактеристики символа
|л — ?/(*>?')> проходящей через точку у. Теперь вне Хо имеем
(Dn-Af(x, 1У))Ф,(х, D')Q,{x, D)u
=*Т,(х, D')Q,{x, й)и + Ф,(х, DYf + Ф^х, D')R,(x, D')u,
где распределение f= P(x,D)u равно f в окрестности множе-
множества supp й вне Хо. Все слагаемые в правой части этого равен-
равенства принадлежат пространству /С по теореме 18.3.32. Так как
операторы ФД*, D')Uj(x, D') и Ts(x, D')Qj(x, D) имеют поря-
порядок —оо, то правая часть равенства принадлежит С°°, к при-
примеру при 0 sg: хп < е, если носитель символа Ф/(*', 0,1') со-
содержится в достаточно малой конической окрестности точки у-
Граничные значения распределения Qj(x, D)u задаются псев-
псевдодифференциальными операторами, примененными к элемен-
элементам ф0, ..., фт-i. Поэтому граничные значения распределения
Ф,(*,D')Qj(x,D)u принадлежат С°°, если носитель символа Ф/
сосредоточен в достаточно малой конической окрестности биха-
бихарактеристики, проходящей через точку у. Следовательно, в силу
теоремы 23.1.4 и замечаний после ее доказательства распреде-
распределение Ф/(я, D')Qj(x, D) принадлежит С00 при 0 ^ хп < е. Но
т—\
операторы Qi(x, D)= Л Qlk(x, D')Dn, /=1, ..., т, можно
о
рассматривать как композицию системы Дуглиса — Ниренберга
и оператора (l, Dn D") (см. § 19.5). Следовательно,
найдутся такие псевдодифференциальные операторы W/ и Vk,
что
т т—1
Z W,(x, &)Ф,(х, D')Qt(x, D)u=Z Vk(x, D')Dknu,
! О
где символ Vo(x', О, I') нехарактеристичен в точке у, но Vk(x,%')
е S~°° при k ф 0. Поэтому VQ(x, D')u е С°° при малом хп > 0,
и из теоремы 18.3.32 следует, что у ^WFb(u). Доказательство
теоремы закончено.

¦ 23.3. Необходимые условия корректности задачи Коши 529
23.3. Необходимые условия корректности
задачи Коши
Давая определение 23.2.3, мы руководствовались лишь теорией,
развитой в гл. 12 для случая постоянных коэффициентов. По-
Поэтому может возникнуть подозрение, что оно излишне ограни-
ограничительно. Однако теперь будет доказано, что некоторое более
слабое условие гиперболичности необходимо для справедливо-
справедливости теоремы существования, подобной теореме 23.2.4.
Теорема 23.3.1. Пусть Р— дифференциальный оператор поряд-
порядка m с С°°-коэффициентами на С™-многообразии X, и пусть
Y шХ — открытое подмножество. Пусть у ^ С°°(X, R), q/ ф О
в X и
Х+ = {хе X; ф(дс) > 0}, Хо = {хе= X; <р(*) = 0}.
Предположим, что для каждой функции /еСо" (X), для кото-
которой supp/rcX+, существует такое распределение и^&'(Х),
что supp«c?+ и Pu = f в У. Если y<=X0[)Yule=T'y(X), то
характеристическое уравнение р(у, | + тф'(у)) = 0 имеет по т
лишь вещественные корни, кроме случая, когда оно выполнено
при каждом т.
Доказательство. Условия сохраняют силу, если уменьшить X
и У. Поэтому без ограничения общности можно считать, что
Xc:Rn, ф (*)=*« и у = 0. Повторяя рассуждения доказатель-
доказательства теоремы 10.6.6, докажем, что если К ш Y — компактная
окрестность нуля, то найдется такое целое N, что с некоторой
постоянной С верна оценка
B3.3.1) |(/, г)|<С Z sup|Daf| У)
\a\<,N \&]<
Здесь {f, v)= [fvdx и Р* — оператор, сопряженный к Р относи-
относительно этого скалярного произведения. Для доказательства
оценки B3.3.1) рассмотрим (/, v) как полутора линейную форму
на всех функциях / е С°°, имеющих ограниченные производные,
для которых suppfcR+, в то время как оеСо°(^). Такие
функции f образуют пространство Фреше, топология которого
задается полунормами sup|Z)af|, а функции v образуют метри-
зуемое пространство с полунормами sup \D^P*v\. Если f = Puv
хп>0
У, то

530 23. Строго гиперболическая задача Коши
Если х„ ^ 0 на supp«, то ввиду теоремы 2.3.10 это доказывает
непрерывность по v при фиксированном /. Итак, форма (f, v)
раздельно непрерывна и, следовательно, непрерывна, что дока-
доказывает B3.3.1).
Предположим теперь, что для некоторого i' = (gi, ..., ?n-i|
е R"-1 уравнение
p@,V. т) = 0
не выполняется тождественно, но имеет корень, для которого
Imx =^=0. Тогда Ъ'фО и, заменяя (|',т) на — (?', т)/1тт,
можно считать, что 1тт — —1. Выбирая (х/, ?'> + хп Re т в ка-
качестве новой переменной хп-\, но оставляя переменную х„ без
изменения, можем считать, что т = —i и ?' = @ 0, 1).
Итак,
B3.3.2) р(о 0, U-u In) = (tn + %n-iYQ(S»-i, U,
где г — кратность корня —/, и, таким образом, Q(l,—1)ф0.
Чтобы показать невозможность оценки B3.3.1), выберем
функции / и v сосредоточенными вблизи 0. При целом v > г
и большом параметре р введем поэтому новые координаты
п — 2, yl = XjP^> / = я-1,я.
Это так раздувает любую окрестность нуля, что при большом р
она содержит любой заданный компакт. Оператор Р* перехо-
переходит в оператор
Из оценки B3.3.1) следует, что при и = v(m-{-2-{-4N)
B3.3.1)' |(Ло)|<Ср* Z sup | Oaf | 2 |p;|
laRV |
если f^C°°(R+) и weCo°(iVf), где iVf — фиксированный ком-
компакт. При p-><» имеем
Р-^РЦУ, Dy)-p@ 0, Dn_lt ?>n) = O(p-4,
где через O(p~v) обозначено выражение, являющееся после
умножения на pv дифференциальным оператором с коэффициен-
коэффициентами, ограниченными в С°° при р->оо. Множитель Dn — iDn-i
= —(д/дуп-i + id/dyn) в главном члене, задаваемом форму-
формулой B3.3.2), по существу является оператором Коши — Римана
по переменной уп-\ + iyn- Выберем аналитическую функцию
(\^rjyn\, обращающуюся в нуль в точке 0 и имеющую по,-

23.3. Необходимые условия корректности задачи Коши 531
ложительную мнимую часть при </я^0 и 0<|^]^1. Можно
взять
Ф = 2 ((/„_, + iyn) + / ((/„_, + iynf.
Если положить
()y 0 и ImY(r/)^|i/|2 при
Теперь построим формальный ряд
в котором Vj е Со°, о0 @) = 1 и для которого РрЫр = 0 в окрест-
окрестности точки 0. Так как v > г, то слагаемое наименьшей степени
в Р*рир имеет вид p2mv+m-ra (Z?n — iDn_^rvu. Поэтому потребуем,
чтобы
где a — Q(d4?/dyn_l, d^/dyj Ф 0 в окрестности Ко точки 0.
Выберем функцию х^С™ (Vo), равную 1 в другой окрестности
Ki точки 0, и положим vo — %. Последующие уравнения имеют
вид
B3.3.3) aiDn-iD^Yv^F,,
где функции Fj выражаются через предыдущие амплитуды
Vo, ..., Vj-\. Последовательно решая уравнения Кошн — Римана,
получаем решение уравнения B3.3.3), которое затем умножим
на срезающую функцию %. При этом уравнение останется вы-
выполненным в Vi и о/ е Co°(Vo)-
Если теперь выбрать в качестве функции и частичную сумму
Ыр ряда ир высокого порядка, то ясно, что вторая сумма в пра-
правой части оценки B3.3.1)' стремится к 0 при р-»-оо как любая
наперед заданная степень от 1/р. Выберем функцию FeC (R+)
и положим
Тогда правая часть оценки B3.3.1)' стремится к 0 при р->оо,
если ц достаточно велико, и
Ш К (У) dy ->\W)e2i t'—+*-> dy.
Если F выбрано так, что интеграл в правой части не равен 0,
то оценка B3.3.1)' не может выполняться. Это заканчивает до-
доказательство теоремы.

532 23. Строго гиперболическая задача Коши
Из случая постоянных коэффициентов (см. § 12.8) известно,
что в теореме 23.3.1 более сильное заключение относительно
главного символа оператора в точке множества Хо было бы не-
неверным. В частности, многообразие Хо может быть характери-
характеристическим. Однако в строго гиперболическом случае из теоремы
23.2.7 следует конечность скорости распространения для носи-
носителя решения задачи Коши, как в теореме 12.5.6. Докажем, что
это возможно лишь в нехарактеристическом случае. Для упро-
упрощения сразу ограничимся случаем R" и обозначим х' = (х\, ...
.... xn-i).
Теорема 23.3.2. Пусть Р — дифференциальный оператор по-
порядка m с С"'-коэффициентами в области X с= R", 0 < В ^ А
и Y а X — открытое подмножество, содержащее 0. Предполо-
Предположим, что для каждой функции f e С~ (X), для которой
х„^А\х'\ на suppf, существует такое распределение и^2)'(Х),
что хп^ В\х'\ на supp и и Ри = f e Y. Тогда плоскость х„ = 0
нехарактеристична в нуле, если только символ р@, |) не есть
тождественный 0.
Доказательство. Пусть Kt = {х; хп ^ t \ х! \}. Если К <Ш Y —
компактная окрестность нуля, то из условия теоремы вытекает
оценка
B3.3.4) |(f, о)|<С Z sup|Z)ef| Z sup|ZKP'W|
I a |< N | 3 |< N Кв
для ogCo°°(/() и /eCS°(Rn), supp f cz Ка- OHa получается оче-
очевидной модификацией доказательства оценки B3.3.1). Остав-
Оставляем это читателю в качестве упражнения. Если р@, ..., 0, 1)
= 0, то
р(о, S)=E<7,№~',
г
где многочлены qt однородны степени },дгщк0 и г > 0. Теперь
введем новые координаты у — x/pv, где v > г. Имеем
p-mVP (у, Dt) =tq, (Р) ОГ1 + О (P-V),
и оценка B3.3.4) заменяется на аналогичную оценку для опера-
оператора Р*, содержащую степень параметра р в правой части. Вы-
Выбирая теперь W(y)=iyn, определим формальное решение

23.3. Необходимые условия корректности задачи Коши 533
уравнения Р'рир = О в окрестности точки 0. Главный член урав-
ураврир
нения имеет вид
поэтому функцию о0еСо'(К0) можно положить равной 1 в ок-
окрестности V\ точки 0. Последующие уравнения имеют вид
где Fj выражается через предыдущие амплитуды. Эти уравнения
могут быть последовательно решены в Vi так, чтобы о;еСою(К0).
Далее доказательство заканчивается точно так же, как в тео-
теореме 23.3.1, но, конечно, с FeC"
Теперь мы в состоянии лучше обосновать определение 23.2.3
строгой гиперболичности. Напомним сначала, что, согласно тео-
теореме 10.4.10, сила дифференциального оператора с постоянными
коэффициентами не зависит от его младших членов тогда и
только тогда, когда он является оператором главного типа в том
смысле, что дифференциал его главного символа не обращается
в 0 вне начала координат. Главы 26 и 27 будут полностью по-
посвящены таким операторам. В следующем предложении изу-
изучается, к чему приводит комбинация этого условия главного
типа и необходимого условия из теоремы 23.3.1, наложенного
всюду в Х+. |
Предложение 23.3.3. Пусть X есть Сп-многообразие, q>eC°° (X)
и функция /;е С°°(Т*(Х)) полиномиальна вдоль слоев, причем:
@ йр(х,1)Ф0вТ*(Х)\0;
(и) при ф(д:)^0 уравнение р (х, | + тф'(х)) = 0 имеет по т
лишь вещественные корни, кроме случая, когда оно выполняется
при каждом т.
Тогда при у(х)^0 уравнение р (х, | + тф' (л:)) = 0 не может
иметь корня т конечной кратности k>\, за исключением слу-
случая, когда k = 2, ф (х) = 0 и
Доказательство. В случае ф'(х) = 0 доказывать нечего. По-
Поэтому можно так выбрать локальные координаты, что ф (х) = хп.
Если ф(я)>0, то, как показывает лемма 8.7.2 при
0 = (О, ..., 0,1), из наличия у функции р(х, | + тф'(х)) нуля
т порядка k следует, что все производные функции р порядка
<k равны 0 в точке (х, | + тф' (х)) (заметим, что для доказа-
доказательства леммы 8.7.2 требуется лишь аналитичность в 9-направ-
лении). Поэтому k = 1 вследствие условия (i). Если ф (х) = 0,
то можно лишь заключить, что производные функции р порядка
<.k по всем переменным, кроме хп, равны 0 в точке

534 23. Строго гиперболическая задача Коши
(х, | + тф'(х)). Если k=?\, то из (i) следует, что др/дхпф§.
При (s, *)->-0 имеем
р{х', s, V, |„ + т + t) = as + btk + О (s2 + \ s(\ + \ t |fc+l),
где а = p{n)(x, I + -op' (x)), b = (d"p (x, I + тФ' (x))/d&)/kl. По ус-
условию (ii) при всех малых s ^s 0 должны существовать k малых
вещественных корней t. Заменяя s на e*s и t на е/, как и в до-
доказательстве леммы 8.7.2, при е-»-0 заключаем, что уравнение
as + btk = 0 имеет k вещественных корней для каждого s ^0.
Итак, k = 2 и ab < 0. Теперь
Нрхп = др№„, Н\хп = - (др/дхп) d'p/dll
в точке (л:, \ + тф' (х)),
что заканчивает доказательство предложения.
В § 23.4 будет доказано, что результаты § 23.2 с незначи-
незначительными изменениями остаются справедливыми, если условие
строгой гиперболичности ослаблено, как в предложении 23.3.3,
на многообразии, на котором задаются условия Коши. Тем не
менее в случае настоящих двойных характеристик, когда
dPm=0, обычно можно получить необходимые условия на суб-
субглавный символ оператора, аналогичные следствию 12.4.9.
Имеется также обширная литература относительно их достаточ-
достаточности. Быть может, особенно интересно, что для некоторых ги-
гиперболических операторов с двойными характеристиками задача
Коши разрешима при произвольных младших членах. Однако
изложение здесь этих результатов увело бы нас слишком да-
далеко, и мы ограничимся ссылками в примечаниях.
23.4. Гиперболические операторы главного типа
В этом параграфе результаты § 23.2 будут обобщены на опера-
операторы Р, удовлетворяющие условиям теоремы 23.3.2 и предложе-
предложения 23.3.3. Если ф(д:) = д:я и X — окрестность нуля в R", то это
означает, что для главного символа оператора предполагаются
выполненными следующие условия:
@р(*. 6) =?р/(*.?')& Р«=1;
0
(ii) при xeZ, хя >0 и ^'eR'-'XO уравнение р(х, |) = 0
имеет лишь простые вещественные корни |„;
(iii) при х^Х, хп=0 и I'eR'-'XO уравнение р(х, |) = 0
имеет лишь вещественные корни и в двойных корнях d
d2p/dll < 0.

23.4. Гиперболические операторы главного типа 535
Предположим, что ?„ = т —двойной корень при х' = х'о>
хп = 0 и 1' = 1'й. Тогда из подготовительной теоремы Вейер-
штрасса и соображений однородности следует, что в конической
окрестности точки (х'о, 0, ?')
, I) = ((!„ - а (х, t)f - Ъ (х, Г)) q (х, |),
где функции а, Ъ е С°° однородны по \' степеней 1, 2, Ь(х, \') > О
при хл>0 и q — многочлен по |я степени т — 2. Кроме того,
6=0, а = т и db/дхп >0 в точке [х'о, 0, %'о) и, следовательно,
Ь{х, |')^ сдгя||'|2. Начнем с параллельного § 23.1 изучения опе-
операторов второго порядка, являющихся дифференциальными по
хп и псевдодифференциальными по х'. Затем, как в лемме 23.2.1,
мы вернемся к исходным операторам.
Прежде чем идти дальше, приведем важный пример диффе-
дифференциального оператора, удовлетворяющего предыдущим усло-
условиям, который полезно иметь в виду.
Пример 23.4.1. Оператор Трикоми
строго гиперболичен при хп > 0 и удовлетворяет вышеприведен-
вышеприведенным условиям (i) — (tit) при хп = 0. При хп < 0 он эллиптичен.
Лемма 23.4.2. Пусть а е 51 (R" XR"~')> Ь е= S2(R" XR"),
Ima«=S0(RnXR"'~1). Im6«=S' (Rn XR"), и предположим,, что
B3.4.1) xJI#P<C,Re6(x, Г) + С2A+||'|), 0<х,<1.
Положим P = (Dn — a (x, D')f — Ь (х, D'). Если 0 < / < Т < 1 й
ы s Co° (R"), ы = ?>„« = 0 при д:п = /, то при каждом seR
г г
B3.4.2) Я J (|| н Й+„ +1| /?„ы |fe)) e-*x» dxn< С J ^U« || Pu ||fs) d^n.
< t
Здесь ||-||(s) — норма пространства Hw в R"-1 лры фиксирован-
фиксированном хп и постоянная С не зависит от s, если X > As.
Доказательство. При изменении младших членов оператора пра-
правая часть оценки меняется на величину ОAД), умноженную на
ее левую часть. Поэтому утверждение леммы не зависит от
младших членов оператора. Их удобно выбрать так, чтобы опе-
операторы А — а (х, D') и В — b(x,D') были самосопряженными.
На основании строгого неравенства Гординга (теорема 18.1.14)
можно также считать, что Ъ (*', хп, D') > Опри каждом хп<={0,1J,

536 23. Строго гиперболическая задача Коши
и условие B3.4.1) можно усилить до условия
B3.4.1)' JcaS'P+lXC.Reftfo&O. 0<*в<1.
Как в доказательстве леммы 23.1.1, независимость утвержде-
утверждения от младших членов оператора показывает, что достаточно
доказать оценку B3.4.2) при s = 0.
Используя функцию ip = е~2>1Хп/хп, составим в L?(G), G ={х
е R"; t < х„ < 7"}, скалярное произведение
2 Im (ф (Dn - А) и, Ри) = 2 Im (Ч> (Dn - А) и, (Dn - АJ и)
n-A)u, Bu).
При v=(Dn — А)и первое слагаемое можно преобразовать
к виду
2 Im (фо, (Dn — A) v) — 2 Im (tyv, Dnv) = \ tydn | v f dx
о
Оба слагаемых неотрицательны, и второе из них будет опущено.
Далее заметим, что
- 2 Im (гр (Д, - А) и, Bu) = i( [Вф, (Dn - А)] и, и)
+ №и(-,Т), и(-,Т)).
В силу неотрицательности оператора В второе слагаемое неот-
неотрицательно. Символ оператора i[Bty, Dn — А] с точностью до
членов порядка 1, умноженных на функцию ф, равен
+ {а, Ь) ф = 2*Н + ф (Ь - хй (<Э6/а*й - {а,
Применяя формулу Тейлора к функции Re A — s#jn_Reo) 6(*, I')»
0^я^л:п, и вспоминая, что на основании B3.4.1)' Reb(x',
0, |') > 0, получаем
Re (Ь - хп (дЦдхп - {а, Ь})) > - С A +1 ?' ?)х\ - Схп A +11' |).
Поэтому условие B3.4.1)' приводит к оценке
ReЧ>BX6 + F - хп(дЬ/дхп - {а, Ь}))/х„)
Если Я, > CCi, то 2X/Ci — С ^ X/Ci. Из точного неравенства
Гординга, примененного при фиксированном .*„ к частному от

23.4. Гиперболические операторы главного типа 537
деления на \|/, следует, что
г
B3.4.3) Re / ([S4>, (Dn - А)] и, и) —?- J «Г2**" || и ?„ d*.
Оценим здесь правую часть с помощью неравенства между сред-
средним геометрическим и средним арифметическим. В итоге нами
доказано, что
B3.4.4) J «"**« (х? + 2 к/хщ) \{Dn-A)uf dx
.4) J
t
<2 \е~2ип\фп-A)u\\Pu\dxlxn
Оценим первый интеграл в правой части с помощью неравен-
неравенства между средним геометрическим и средним арифметическим,
так что половина первого слагаемого в левой части сократится.
Теперь интегрирование по частям, подобное имевшему место
выше, дает
/2 = \е-**«BкУхп + К2/х2п + 2К/х3п + 3/х*) \ufdx
о
< Im - [ e~2U» (x2/xn + 1/4) (Dn - А) ип dx
о
где использовано неравенство Коши — Шварца. Поэтому I2 оце-
оценивается через левую часть неравенства B3.4.4). Следовательно,
при s = 0 доказана более сильная, чем B3.4.2), оценка
г
B3.4.6) J еХх» ((А,3/*» + 1/4) II«11@) + Я. || и llfi,
г
+ (хп2 + Л/*„) II {Dn -А) и |f) dxa < С \ е-2*** || Ри ||20) dxa
t

638 23. Строго гиперболическая задача Кошй
(аналогичная оценка верна, конечно, и при s^O). Доказатель-
ство леммы закончено.
Нам также понадобится оценка решения задачи Кошй в слу-
случае, когда х„ убывает.
Лемма 23.4.3. Пусть Р, t и Т те же, что в лемме 23.4.2. Тогда
если аеСо" (R") и и = Dnu = 0 при х„ = Т, то
т
B3.4.6) J (А.2|| и ft) + Kxl (|| и ||fs+i) + II Dnu ||?s))) e^n dxn
при X > As.
Доказательство. По существу нужно повторить доказательство
леммы 23.4.2, взяв теперь ij> = — хпе2КХп. Независимость от млад-
младших членов снова очевидна, и поэтому можно взять s = 0 и опе-
операторы А, В самосопряженными, В ^ 0. Теперь
2Im(iK (Dn-A)v) = ~ \
a
где —if' = B\хпЦ-' Це*"** и второе слагаемое также положи-
положительно. Последующее интегрирование по частям выполняется,
как и выше, а символ оператора [iBty,Dn — А] с точностью до
членов порядка 1, умноженных на функцию ф, равен
- 2ЯН - Ц> (Ь + хп FЬ/дхп - {а, Ь}))/ха.
С помощью формулы Тейлора, как и выше, находим, что его
вещественная часть ограничена снизу выражением
е^п (BVC, - С) /„A +1Г ?) - Схп{\ +1 Г I))-
При \ > СС\ из неравенства Феффермана — Фонга (теорема
18.6.8) следует, что
B3.4.7)
J
J | (Dn - А) и
t
т
Pu | xne2Kx* dx + CK \ || и \f0) e*x" dxn.

23.4. Гиперболические операторы главного типа 539
Далее, имеем
г
/ = 2к J ё**п || „ ^ dx < 2 Im J е^'пп (Dn - A)udx
t a
m
- Л)« |V" dx)m,
и поэтому
Используя неравенство Коши — Шварца для оценки правой ча-
части неравенства B3.4.7) и оценивая его левую часть снизу по-
посредством оценки, установленной для /, получаем B3.4.6). До-
Доказательство леммы закончено.
Теперь вернемся к дифференциальному оператору Р порядка
т в открытом множестве X с: R" с главным символом р, удов-
удовлетворяющим условиям (i) — (iii), обсуждавшимся в начале па-
параграфа. Пусть УшХ.
Лемма 23.4.4. Пусть 0< *< Г< 1 и «еСГ(У). Для каждого
seR справедливы оценки:
Т m-\ T
B3.4.8) \ Y,\I%~l~huf»-*)dx
t о
если D!nu = 0 при xa — t и j <tn;
Т m~\
B3.4.9) \
t о
Г m-2 T
+ \ ? 1 #Г2~*«fc+»)dxn<CS\\\Pu\fsLdxn,
t 0 <
если Dili = 0 при хп = Т и j<tn.
Доказательство. Оценки доказываются совершенно одинаково,
исходя из лемм 23.4.2 и 23.4.3 соответственно в случае оценок
B3.4.8) и B3.4.9). Поэтому остановимся лишь на оценке B3.4.8).
В силу леммы 23.2.1 ее достаточно доказать при малых tut.
Поэтому можно считать, что X, Y являются декартовыми произ-
произведениями открытых множеств Хо, Уо в R"-1 и интервалов 1Х, /г
на оси хп- Можно выбрать такое конечное покрытие множества
FoX(R*~lN\O) открытыми конусами Г/, что
р {х, I) = П ^ (х, I), {х1, Ю <= Г,, хп s Гу,

540 23. Строго гиперболическая задача Коши
где каждый множитель qty есть либо %п — Л (х, ?'), либо (Ъп —
а(хЛ')J — Ь(х, ?')> функции а, Ь вещественнозначны, Ь(х, \')
^ сх„||'|2. Множители q!v не имеют общих нулей по \п. Функ-
Функции Л, а и Ь сначала определены локально, но затем их можно
доопределить на все пространство. Для соответствующих опера-
операторов получаем априорные оценки: в случае оператора первого
порядка из леммы 23.1.1, в случае оператора второго порядка
из леммы 23.4.2. Выберем такие функции х/ ^ С°°> сосредоточен-
сосредоточенные в Г/ и однородные степени 0 по %' при \Ъ'\> 1, что
Г)-1 при ||'|>1.
На множестве supp %/ многочлены
II П q[\x,l), «<deg^, ц=1 N,
образуют базис в пространстве многочленов степени т—1 по
|„. Воспользовавшись уравнением Рх; (*'. &')и = УН (*'> &') (Ри)
+ [Pt%i(x',D')]u и разложением оператора Р на уровне глав-
главного символа в конусе Г/, просуммировав оценки для функций
Xi(x',D')u, по существу так же, как в доказательстве леммы
23.2.1, получаем
Г т-\
t О
Т Т тп-1
если D^u = 0 при хп = t и / < т. Последняя сумма оценивается
через
Г m-l
В слагаемом с k — О напишем D%u = Pu-\-(Di? — Р)и и заме-
заметим, что
Если Я достаточно велико, то теперь получается оценка B3.4.6).
Прочие детали доказательства предоставляем читателю во из-
избежание излишнего повторения доказательства леммы 23.2.1
(см. также доказательство теоремы 28.1.8).

23.4. Гиперболические операторы глазного типа 541
Предыдущие леммы позволяют следующим образом обоб-
обобщить теоремы 23.2.4 и 23.2.7:
Теорема 23.4.5. Пусть Р — дифференциальный оператор порядка
m с Сх-коэффициентами на С°°-многообразии X, и пусть
Y Ш X — открытое подмножество. Предположим, что оператор
Р строго гиперболичен относительно поверхностей уровня функ-
функции cpeC°°(X,R) в
*+ = {*€=*; <p(*)>0},
что Р остается оператором главного типа на
и что многообразие Хо не характеристично относительно опера-
оператора Р. Если носитель распределения f e Н\°^ (X) содержится
в замыкании множества Х+, то существует распределение
и е H^m_l)(X), имеющее носитель в замыкании множества Х+,
для которого Pu — fe Y. Этим требованием распределение и
однозначно определяется в окрестности множества Хо П У-
Доказательство. Достаточно дополнить теоремы 23.2.4 и 23.2.7
локальными теоремами существования и единственности вблизи
Хо. Поэтому, как и выше, можно считать,чтоX с R" и <р(х) = хп.
Пусть Y (^ X и число М настолько велико, что
р(х,1)Ф0 при *е=У и \tn\>M\l'\, 1'ФО.
Если К — компактное подмножество в У(]Х0, то множество
/Сг = {х; 0<UJ<7\ U'-/|<M|*n| при некотором /е=/С}
содержится в У, когда Т достаточно мало. Пусть /еС и R+fl
suppfcr/Ст. Если 0 < t < Т, то из теоремы существования
23.2.4 и теоремы единственности 23.2.7 следует, что существует
решение щ е C~(Y) уравнения Рщ = f при t < хп < Т, для ко-
которого D!nut = 0 при xn = t, }<m (здесь использовано то об-
обстоятельство, что опорные плоскости конусов {х;М(хп — уп)
<\х' — у'\) нехарактеристичны в Y). Для решения ш равно-
равномерно при t~>-0 выполняется оценка B3.4.6). Следовательно,
при t-*-0 существует предельное распределение и, удовлетво-
удовлетворяющее уравнению Pu = f при 0 ^ хп ^ Т и имеющее нулевые
данные Коши при t = 0. Для него выполнена оценка B3.4.8) при
t = 0. Поэтому решение и е #(OT_i, s> существует для всех
/еД(о,5), имеющих носитель, содержащийся во внутренности
множества Кт- Доказательство локального существования те-
теперь завершается повторением доказательства предложения
23.2.6.

542 23. Строго гиперболическая задача Кошя
Аналогичными рассуждениями доказывается локальная един-
единственность. Положим
Мт={х; 0<*„<Г; \х'-у'\^М(Т - ха)
для некоторого у'е/С}.
При малом Т имеем Мт с Y. На основании теорем 23.2.4 и
23.2.7 для любых geCo°(Mr) и t<^{O,T) найдется решение v
уравнения P*v = g при t < хп ^ Т, имеющее нулевые данные
Коши при хп = Т и такое, что supp v с Мт. Применяя к реше-
решению v оценку B3.4.9), в которой оператор Р заменен на Р*, за-
ключаем, что все производные решения непрерывны вплоть до
граничной плоскости Хо, поскольку также P*v = g^C°°. Если
Ри = 0 в Y я supp «cZ+UХо, то
Поэтому и = 0 во внутренности множества Мт, что доказывает
единственность решения.
Замечание. Изучение задачи Коши с неоднородными данными
Коши вида B3.2.7) не представляет трудности. Однако для
того, чтобы свести доказательство к теореме 23.4.5, нужно потре-
потребовать от данных tyi лишней половины производной по сравне*
нию с предложением 23.2.5.
Докажем теперь обобщение теоремы 23.2.10. Основным эта*
пом доказательства является микролокальный вариант леммы
23.4.2.
Лемма 23.4.6. Пусть а, Ь, Р те же, что в лемме 23.4.2, и пусть
Q=zq(x,Dr), где символ q^S° вещественнозначный и q (*,?')
= 0 при хп > Т. Предположим, что
B3.4.10) \dq/dxf\ + \dq/dt |A + | Г |)< - 6да/дхп.
Если Тиб достаточно малы, то для каждого числа jgR а вся-
всякой функции и е ^(R"), удовлетворяющей условию и = Dnu = 0
при хп = 0, имеем при X > Л*
г
B3.4.11) Л J (\\Qu\$t+l)+
о
т
0

23.4. Гиперболические операторы главного типа 543
Доказательство. Из леммы 23.4.2 известно, что
г г
Л J (IIи\\1+и2) +1|Dnu\\l_ Je~2Xxn dxn^c\ ||Ры |?_1/2)e-*undXn,
о о
Поэтому при большом X младшие члены операторов Р и Q мо-
могут сказаться лишь на постоянной в B3.4.11). Если заменить
функцию и на A +|D'|2)-s/2u и заметить, что операторы
A +1Dr ?f2P(\ +1D' ffsli-p, A +1D' |2)s/2Qd +1 ?>' ITs/2-Q
имеют порядок 1 и —1 соответственно, то ясно, что B3.4.11) до-
достаточно доказать при s = 0. Также можно считать, что опера-
операторы А = а(х, D') и В — b(x, D') самосопряжены, выполнено
условие B3.4.1)' иВ>0. Пусть Q = (q(x, D') + q(x, D')*)/2. Ис-
Используя функцию ty(x) = e~ *n/xn, составим в пространстве
L2(R+) скалярное произведение
2lm№2(Dn-A)u, Pu) = 2lm(Wv, (Dn-A)v)
-2lm№2(Dn-A)u, Bu),
где v=(Dn — А)и. Интегрируя сначала по xn>t>0 и затем
переходя к пределу при t-*-0, получаем
B3.4.12) 2lm(^Q2v, (Dn- A)v)*=i((Dn- A)v, tyfv)
-i(№2v, (Dn-A)v) = (-VQv, Qv) + i(<b№ Dn-A]v, v).
Так как — ty'= e~2XxnBX/xn-\-x^2), то первое из полученных
слагаемых позволяет контролировать величину Qv. Далее заме-
заметим, что
B3.4.13) — 2 Im (ifQ2 (Dn — А) и, Ви)
n-A)u, Bu)-l{Bu, Ъ0?фп-А)и)
, Д,- А]$Ви, и)+ i(Q*№, Dn-A]u,u).
В B3.4.12) и B3.4.13) входят следующие члены, содержащие
коммутаторы с оператором Q2:
B3.4.14) »((* [Q2,. Dn - А] о, о) -f («[В, Q2] v, и)
+ №[Q2,Dn-A]Bu,u)).
При t/=s(o, (I +|Z)'|2)I/2u) это выражение принимает вид
(¦§W(x, D')U, U), где W — матричный оператор порядка 0 с глав*
ным символом
({qWn-a} [b, <72}/2U'l \
\{b,q*Wlr\ {q\ln-a}bl\l'f)'

S 44 23. Строго гиперболическая задача Кош и
Этот символ положительно полуопределен, если
т. е. если
\{b, q}\^2bu-(-dq/dxn-{q,a}).
Последнее неравенство следует из условия B3.4.10), если при-
применить к символу b лемму 7.7.2. Поэтому точное неравенство
Гординга для систем показывает, что
г
о
г
о
Вторая из этих оценок следует из B3.4.5) (где порядок норм
понижен на 1/2).
Последнее слагаемое в B3.4.13) представляется в виде
*@»[*Я. А,- А\а, а)-*(Н>Я, Dn-A]Qu, Qu)
+ i(Q[Q, №,Dn-A]]u,u),
где оператор iQ[Q, [tyB, Dn — А]] имеет чисто мнимый главный
символ порядка 1, и поэтому его самосопряженная часть имеет
порядок 0 и
B3.4.15) | Re / (Q, [Q, fofi, Da - А]] и, Qu) | < С J | tf \ || и ||f0) dxn.
Так как ||«||f0)<||«||(I/2)||«||(_I/2),TO ввиду оценки B3.4.5), в кото-
которой порядок норм понижен на 1/2, получаем
г
B3.4.16) кт J | ¦' 11|и ||B0)dxn <С \ ||Ри\\1Ш)е-2Хх"dxn.
о
Слагаемое Ret([iJ;B, Dn — A]Qu,Qu) оценивается снизу с по-
помощью оценки B3.4.3), в которой функция и заменена на Qu.
В результате получаем, что
т т
\ I ^ 1IIQ (Da - А) и \? dxn + 4- С, \ е-2Ххп || Q« |f„ dxn
о о
г
< 2 J в"**» || Q (Dn - Л) и || || QPu || ^п/*„
о
г г

23.4. Гиперболические операторы главного типа 54?
Первое слагаемое в правой части оценим посредством неравен-
неравенства Коши — Шварца таким образом, чтобы один из получаю-
получающихся членов не превосходил половины первого слагаемого в
левой части. В той половине, которая остается после сокраще-
сокращения, воспользуемся соотношениями Q(Dn — A) — QDn — AQ
+ [A,Q] = (Dn — A)Q-\-[Q,Dn — А], где коммутаторы имеютпо-
рядок 0, и поэтому функции [A,Q]u и [Dn — A,Q]u можно оце-
оценить с помощью B3.4.16). Теперь можно повторить последний
этап доказательства леммы 23.4.2, что завершает доказатель-
доказательство.
Лемма 23.4.7. Если a, b, P те же, что в лемме 23.4.2, и
f е #(о, *) (R+), то уравнение Pu — f имеет единственное решение
и е ЯB, «-и с ЯA, s) при хп < 1/2, для которого и = Dnu = 0 при
хп = 0. Если Q удовлетворяет условию леммы 23.4.6 при Т = 1/2
uQf^ /7@, s+l/2), TO Qu e Яи, s+i/2).
Доказательство, (а) Существование.Так как оценка B3.4.2) при
/ = 0 и Т — 1 продолжается по непрерывности на все
ыеЯB, s)(R+), то достаточно доказать существование для пра-
правых частей / из какого-нибудь плотного подмножества простран-
пространства Я(о, s), например для всех f е Я@, s+i>. Уравнение Ри = f
с однородными граничными условиями Коши означает, что
B3.4.17) (и, Pv) = {f, v), а
где скалярное произведение взято в L2(R+), H^! = {jeeRrt;
хп<\). Если [еЯ@,s+i), то из леммы 23.4.3 следует, что
I (/, v) | < II /1|@, ,+1) || v Ц,,, _s_u < II /1|@, ,+1) II P'v ||(Oi _s_1)t
где норма функции P*v взята относительно полупространства
R+. Поэтому, как показывает теорема Хана — Банаха, равенство
B3.4.17) выполняется при некотором и е Ню, s+i)(R+). По тео-
теореме В.2.9 распределение уи имеет требуемые свойства, если
хеС(-1, 1) нХ=1 на (-1/2,1/2).
(b) Оценка B3.4.2),_ в которой s заменено на s—1, спра-
справедлива для всех и е ЯB, s-u, что немедленно дает единствен-
единственность решения.
(c) Предположим, что Qf e Я(о, s+i/2>. Выберем функцию
xeCCR"). Для которой ^idx'= 1, и определим fe =^(eD/)f
как свертку с е{-п%(х'/е). Тогда fee Я@,0) при каждом о и, сле-
следовательно, задача Коши Р«е = /е с нулевыми данными Коши
на х„ = 0 имеет при х„ < 1/2 решение, удовлетворяющее оценке
B3.4.11) с s+l/2 вместо s. Так как
18 Зак. 443

646 23. Строго гиперболическая задача Коши
и коммутатор, действующий на f, ограничен в Op S при 0 < г
<. 1, то распределение Qfe ограничено в Я@, s+i/2> при 0 < е < 1.
Поэтому оценка B3.4.11) показывает, что Que ограничено в
#A, s+l/2)- ПОСКОЛЬКУ Ие-»-Ы В ЯA, S) При 8->-0, ТО Qu e ЯA, s+i/2),
что завершает доказательство леммы.
Теперь мы в состоянии доказать обобщение теоремы 23.2.10.
Теорема 23.4.8. Пусть оператор Р удовлетворяет условиям тео-
теоремы 23.4.5, и пусть f<=JP(X+), и^З>'(Х+), Pu — f в Х+ и
и'ы \Хо = ф/, j < m, где v есть С°°-векторное поле, трансверсаль-
ное многообразию Хо- Тогда расширение йеЛ°(Х+) распределе-
распределения и удовлетворяет соотношению
B3.4.18) ("U
Доказательство. Как в доказательстве теоремы 23.2.10, доста-
достаточно проверить, что левая часть формулы B3.4.18) содержится
в правой. Доказывая это локальное утверждение, можно счи-
считать, что XcR", ц,(х) = х„, v = d/dxn, йе!"A+)и что ?'=^0,
если (х, ?)е WF(u), xn > 0. Сначала предположим также, что
ш = 2 и что для оператора Р выполнены предположения леммы
23.4.2, так что он может быть псевдодифференциальным вдоль
границы.
Пусть точка (у',r\')^ T*{Rn~l)\0 принадлежит дополнению
к правой части формулы B3.4.18). Выберем такую коническую
окрестность W cz R"X(Rn-'\0) точки (у', 0, г\'), что множество
{(х',1'); (хг, 0,1')е Щ не пересекается с правой частью фор-
формулы B3.4.18) и из соотношений (х, ?')е W, хп > 0 следует, что
(х, I', %п)Ф WF(f), |яе1?. Незначительное изменение доказа-
доказательства теоремы В.2.9 (см. доказательство леммы 24.4.6) пока-
показывает, что из уравнения Pu = f вытекает существование такого
s, что _
%(х, D')ut=HiUs)
для всех хе S°< для которых conesuppxcW. Пусть
U = %(x,D')u. Тогда
F = PU = x{Xt D') f + [P,% (x, D')] и е Я(о. „
и %(х, Dr)<fj eC0°°. Если оператор Q удовлетворяет условиям
леммы_23.4.6 и %=1 в окрестности множества supp q, то
QF<^Hiii0) при всех а, так как оператор QP%{x, D') — Q%(x,D')P
имеет порядок —оо по касательным переменным. Поэтому на
основании леммы 23.4.7 QU е ЯA, s+i/2) и, следовательно,
Qu ЕЯц, s+l/2).

Примечания 547
Условие B3.4.10) выполнено для функции
Q(x, I') = * (е - xjs- \х' -/р + |ГA +1V?ГШ ~ Л71 V IГ),
если е достаточно мало и г|>еС~(— 1, 1). Прн большом
||'| ее носитель лежит в W. Если повторять проведенные рас-
рассуждения лишь для функций г (х, ?') такого вида, то по индук-
индукции найдем, что q(x, D')«e Нц,3) для всех таких q и всех s.
Снова пользуясь частичной гипоэллиптичностью (см. теорему
В.2.9 или лемму 24.4.6), заключаем, что q(x,D')u^C°°, и по-
поэтому (y',4')<?WFb(u).
В случае произвольного т можно, как в доказательстве тео-
теоремы 23.2.10, разложить оператор Р в произведение множителей
первого и второго порядка с точностью до погрешности порядка
—оо по касательным переменным. Строго говоря, такое разло-
разложение имеется у нас лишь в малой конической окрестности точ-
точки (у',О,г\г), но этого достаточно, чтобы применить предыду-
предыдущие рассуждения для последовательного отщепления множите-
множителей. Соответствующее доказательство не требует никаких новых
идей, и поэтому мы оставляем эти детали читателю.
Примечания
Задача Коши для строго гиперболических уравнений второго по-
порядка впервые была решена Адамаром (Hadamard [1]) с по-
помощью его метода параметрикса. (См. § 17.4 по поводу опера-
операторов вида D} — a(x, D), где оператор а эллиптичен.Общий слу«
чай аналогичен, поскольку, как объяснено в § С.6, геодезические
нормальные координаты можно ввести в общем случае.) Ва-
Вариант этого метода был развит М. Риссом (М. Riesz [1]). Дру-
Другой подход, связанный с ?2-оценками, был предложен Фридрих-
сом и Леви (Friedrichs, Lewy [1]), перенесшими идею энергети-
энергетических оценок из теории уравнений Максвелла. Таким образом»
эти оценки были доказаны интегрированием по частям. Однако
распространение этих оценок на гиперболические уравнения вы-
высокого порядка, найденное Петровским [1,5], основывалось на
довольно сложной технике, связанной с анализом Фурье. Более
простой метод энергетических оценок был распространен на опе-
операторы высшего порядка намного позднее Лере (Leray [1]) »
Гордингом (Garding [3]). Вскоре после этого подход Петров-
Петровского, связанный с анализом Фурье, появился вновь под видом
сингулярных интегральных операторов (см., например, работы
СаЫегбп [2], Mizohata [2, 3]). Мы здесь следовали промежуточ-
промежуточным курсом, пользуясь энергетическими оценками для операто-
операторов первого порядка в § 23.1 и затем разлагая операторы выс-
18*

648 23. Строго гиперболическая задача Коши
шего порядка на псевдодифференциальные множители первого
порядка в § 23.2.
Как в § 23.1, так и в § 23.2 подробно изучаются особен-
особенности решений задачи Коши. Подобные исследования впервые
были проделаны в работах: Courant, Lax [1], Lax [3] и Lud-
wig [1] до появления понятия волнового фронта; соответствую-
соответствующие результаты были менее точными и доказывались сложнее,
так как они имели нелокальный характер. В гл. 26 с помощью
более систематического метода будут доказаны более общие
результаты о внутренних особенностях.
Необходимость слабой гиперболичности, доказанная в тео-
теореме 23.3.0, была установлена в случае простых корней Лаксом
(Lax [3]) ив общем случае Мидзохатой (Mizohata [5]).Простое
доказательство, приведенное здесь, по существу принадлежит
Иврию и Петкову [1]; см. также Hormander [36]. Теорема 23.3.2
также взята из работы Иврия и Петкова [1]. В этих работах
речь идет в основном об условиях на субглавный символ в двой-
двойных характеристических точках, т. е. в тех точках, где Рт = dPm
= 0. На основании теоремы 23.3.1 и лемм 8.7.2, 8.7.3 гессиан
функции Рт/2 является в этих точках гиперболической квадра-
квадратичной формой Q. В теореме 21.5.3 приведена поэтому симплек-
тическая классификация. Если вещественные собственные зна-
значения отсутствуют, то для разрешимости задачи Коши для опе-
оператора Р требуется, чтобы его субглавный символ был заклю-
заключен между — X И/ и X ^/> гДе 'И/ — собственные значения ото-
отображения Гамильтона, лежащие на положительной мнимой по-
полуоси. Доказательство частично дано Иврием и Петковым [1] и
завершено Хёрмандером (Hormander [36]). С другой стороны,
если характеристики не более чем двойные и у гамильтонова
отображения в каждой двойной характеристической точке суще-
существуют вещественные собственные значения (эффективно гипер-
гиперболический случай), то задача Коши разрешима при любых
младших членах (см. Иврий [1], Melrose [6], Iwasaki [1], Nishi-
tani [1]). Большие усилия также были затрачены на изучение
двойных характеристик в случае неэффективной гиперболично-
гиперболичности (см. работу Lascar and Lascar [1] и приведенную в ней
библиографию). Однако полных результатов в случае двойных
характеристик пока нет.

24
Смешанная задача Дирихле—Коши
для операторов второго порядка
Краткое содержание главы
В § 23.1 энергетические интегральные, оценки введены нами
лишь для операторов первого порядка. Переход к операторам
высшего порядка был осуществлен в § 23.2 с помощью их раз-
разложения на множители Однако, как мы видели в § 23.4, метод
интегралов энергии также непосредственно применим в случае
операторов высшего порядка, и первоначально он был предло-
предложен для операторов второго порядка. Мы обсудим его в этом
случае в § 24.1 с целью вывода оценок решений смешанных за-
задач. Для простоты в этой главе будет обсуждаться лишь сме-
смешанная задача Дирихле — Коши. Ссылки на работы, посвящен-
посвященные более общим смешанным задачам, будут даны в примеча-
примечаниях. Вместе с тем распространение особенностей на границе
является сложным вопросом также и в этом специальном случае.
Он будет рассматриваться в § 24.2—24.5 с помощью микроло-
микролокального варианта энергетических оценок § 24.1. Параграф 24.3
посвящен геометрическим свойствам потока особенностей. Неко-
Некоторые вопросы, связанные с бихарактеристиками, имеющими бес-
бесконечный порядок касания с границей Дирихле, остаются от-
открытыми. Таким образом, в окончательных результатах о рас-
распространении особенностей в § 24.5 имеются пробелы. Два дру-
других случая, когда этими результатами нельзя воспользоваться,
обсуждаются в § 24.6. Оба они связаны с уравнениями Три-
коми. Наконец, в § 24.7 изучаются оценки для операторов, за-
зависящих от параметра, с тем чтобы завершить проведенное в
§ 17.5 исследование асимптотических свойств спектральной
функции задачи Дирихле.
24.1. Энергетические оценки и теоремы существования
в гиперболическом случае
Пусть Р — дифференциальный оператор второго порядка с С°°-
коэффициентами на С°°-многообразии X размерности п с вну-
внутренностью Х° и границей дХ. Предположим, что

550 24. Смешанная задача Дирихле — Коши
(i) P строго гиперболичен относительно поверхностей уровня
функции ф е С°°(Я, R).
(См. определение 23.2.3.) Пусть р— его главный символ. Так
как оператор Р можно умножить слева на р(х, q/(*))-', то, не
ограничивая общности, можно считать, что р (х, ф' (х)) ~> О при
каждом х^Х. Квадратичная форма р(х, \) при фиксированном
х допускает поляризацию до симметрической билинейной фор-
формы р(х, |, r\), I, r\ e 7Y Плоскость, ортогональная ковектору
q>'(x) относительно этой формы, является дополнительной к пря-
прямой Rq>r(x), и гиперболичность означает, что форма р(х, |) на
этой плоскости отрицательно определена. Поэтому форма р(х, |)
имеет сигнатуру Лоренца: ее индексы инерции суть 1, п— 1.
В терминах обычных локальных координат х\, ..., хп,
\\, ..., \п будем пользоваться записью
согласующейся с обычными обозначениями (псевдо) римановой
геометрии. Ковектор I е Т'х отождествим с вектором t e Тх, если
р(х, ?, r\) = (t, т]>, г\^Тх, т. е., в локальных координатах,
При этом форма р переходит в определенную на ТХ(Х) двой-
двойственную квадратичную форму
где (g,k)—матрица, обратная матрице (glk). Эта форма опре-
определяет в X псевдориманову геометрию. Касательный вектор в
точке х называется времениподобным, если *?tgjk(x)t}tb > 0. Так
как (t, ф' (х) > = р (х, I, ф' (х)), если | — кокасательный вектор,
соответствующий вектору t, то обязательно <*, <р'(х)> =^0. По-
Поэтому времениподобные векторы касательного пространства в
точке х образуют двойной конус. Те из них, для которых
</, ф'(*)> > 0. будут называться направленными вперед. Замы-
Замыкание множества всех таких векторов является выпуклым кону-
конусом, в котором псевдориманово скалярное произведение любых
двух ненулевых векторов положительно, за исключением случая
двух линейно зависимых векторов, принадлежащих границе. Эти
граничные векторы изотропны, т. е. 2 glk (x) t/tk = 0. Наконец,
векторы, для которых X gfk (x) tstk < 0, называются простран-
ственноподобными. Гиперповерхности классифицируются по
своим конормалям v: гиперповерхность пространственноподобна
(времениподобна), если р(у) > 0 (p(v) < 0).

24.1. Энергетические оценки и теоремы существования 551
Будем предполагать, что
(ii) Отображение Хэх>—>ф(х) собственное.
(Hi) Гиперповерхность дХ времениподобна.
Таким образом, множество J[o»={xeJf; а^ф(*)^Ь} ком-
компактно при произвольных вещественных а < Ь. Его граница со-
состоит из двух простраиствеииоподобных поверхностей qH(a) и
<р~'(&) и той части границы дХ, где а ^ ф ^ Ь. Последняя пере-
пересекает пространствеиноподобные куски границы трансверсально.
Условие (ш) означает, что ограничение псевдоримановой мет-
метрики иа дХ сохраняет лореицеву сигнатуру.
Одной из основных целей данного параграфа является дока-
доказательство следующей теоремы существования:
Теорема 24.1.1. Пусть f<=H\$(X°), иое= #<?,)(<«), где s>0,
и предположим, что f и ио обращаются в О при ф < с. Если вы-
выполнены сформулированные выше условия_ (i) — (Hi), то суще-
существует единственное распределение кей|Г+ц(^), обращаю-
обращающееся в О при ф <С а, для которого Ри = / в Х° и и = «о на дХ.
Замечание. Сделанное утверждение касается лишь случая нуле-
нулевых данных Коши. Это ограничение не является существенным,
поскольку нам уже известно, как решать задачу Коши. Однако
без него рассмотрение условий согласования между «0, f и дан-
данными Коши на их общей области определения является довольно
сложным.
Как и доказательство теоремы 23.2.4, доказательство тео-
теоремы 24.1.1 получится, как только будет доказана локальная
теорема существования, аналогичная предложению 23.2.6, и ло-
локальная теорема единственности, аналогичная теореме 23.2.7.
Поэтому доказательство теоремы 24.1.1 мы отложим до тех пор,
пока не будут установлены эти локальные результаты.
Итак, ниже мы будем предполагать, что
Р (дс, D) = Е *" (ж) D,Dk + S Ъ, {х) D, + с (х),
где коэффициенты являются функциями из C"°(Rn), постоян-
постоянными вне некоторого компакта, (glk)—вещественная матрица,
задающая форму с лоренцевой сигнатурой, и gnn > 0, gu =—1.
Тогда у нас имеется гиперболичность относительно плоскостей
t = const, если t(x) = xn, н плоскость Xi=0 времениподобна.
Для получения энергетической оценки в лемме 23.1.1 бралось
скалярное произведение функций Ри и п, умноженное на «-*¦'.
Здесь будем рассуждать аналогично, ио в качестве сомножи-
сомножителя выберем производную первого порядка функции п. Заме-

552 24. Смешанная задача Дирихле — Коши
тим вначале, что если glk и /' — вещественные постоянные, то
2 Re Z fdfi Z glkdtdku = Z д, B Re E Л" Z f%u)
- Z e, E f W <м = E a7 (r{ («) fl).
где для кокасательного вектора v и /m = Е gmff
B4.1.1) Е Г{ («) /Ч = 2 Re
В случае переменных f и g'* нужно лишь добавить к правой
части равенства полуторалинейную форму от производных функ-
функции и. Так как Y,g'kdjdku + Ри есть выражение первого по-
порядка, то получаем основное энергетическое тождество
B4.1.2)
'</, й*)Ри + e-XiR(u),
где R — полуторалинейная форма по (и, и'), не зависящая от X.
Напоминаем, что t = xn и, значит, /' = @ 0, 1). Проинтегри-
Проинтегрируем это тождество по четверти пространства х\ > 0, хп < 7\
Первое слагаемое можно проинтегрировать по формуле Грина,
что дает поверхностный интеграл по каждой из граничных пло-
плоскостей. Теперь важно установить, когда форма, включающая
Т{, положительно определена; нами сохранены обозначения не-
несколько более общие, чем это необходимо, чтобы сделать данные
рассуждения яснее.
Лемма 24.1.2. Пусть L — вещественная квадратичная форма с
лоренцевой сигнатурой на конечномерном векторном простран-
пространстве V и времениподобные векторы а, Ъ лежат в одной и той же
полости конуса, определяемого формой L. Таким образом, L(a),
L(b) и L(a,b) положительны, если /.(?,ц)—симметрическая
билинейная форма, для которой L(|, |)= L(|). Тогда квадра-
квадратичная форма
B4.1.3) Уэ6ь->2?F, a)L{l,b)~L{%, l)L(a, b)
положительно определена.
Доказательство. Правая часть формулы B4.1.3) представнма
в виде L(a, r\), где ц = 2|Z.(|, b)— bL{\, |) и, следовательно,
L{r\,r\) = L{b,b)L{l,\J^Q. Если g^O и % = tb + Q, L(b,Q)
= 0, то
= 2L(l,bf-L(b,b)L(l,l)
= (t2L(b, b) - L(8, Q))L(b, b) > 0.

24.1. Энергетические оценки и теоремы существоваиия 553
Поэтому вектор ц лежит в том же, что и Ь, замкнутом лоренце-
вом конусе; это доказывает неравенство L(r\, а)> 0.
Замечание. Обратно, если форма B4.1.3) положительно опре-
определена, то одна нз форм L илн —L имеет лоренцеву сигнатуру
и a, b — времениподобные векторы, лежащие в одном и том же
лоренцевом конусе. Действительно, взяв % = а или ? = ft, полу-
получаем L(a, a)L(a, b) > 0 и L(b, b)L(a, b)> 0. Поменяв, если это
необходимо, знак, получаем, что L(a), L(b), L(a,b) положи-
положительны и что ?(?, |) < 0, если /.(?, a) = 0 и %ф0. Тем самым
доказано, что индексы инерции рассматриваемой формы равны
1 и п — 1.
Если вектор f времениподобен и направлен вперед, то второе
слагаемое тождества B4.1.2) является положительно опреде-
определенной формой от (и, и'). Тогда подынтегральное выражение
в получающемся на плоскости х„ = Т поверхностном интеграле
также является положительно определенной формой от (и, и').
Члены первого порядка подынтегрального выражения поверх-
поверхностного интеграла по плоскости Х\ = 0 равны умноженной на
е~и величине
SH(«)f'v/ = 2Rep(«', v)'p(u\ /c)-p(u', «')p(v, fc),
где v = (—1,0 0) и fc — кокасательный вектор, соответ-
соответствующий вектору f. Если и равно 0 при х\ = 0, то и' = /v, и по-
потому эта величина равна величине |/|2p(v, v)p(v, fc) — \t\2fl, ко-
которая положительна, если вектор f направлен внутрь полупро-
полупространства Xi > 0. В этом случае если и' = tv + |, где функция
и^Сх произвольна, и р (v, |) = 0, то
i, v)p(Fv
- 21 p(I, fc) flfi + p (I, |)/¦.
С помощью разбиения единицы легко, конечно, выбрать такой
вектор f, что f1 > 0 на дХ и f всюду лежит в переднем конусе;
вектор f можно выбрать из Сх и постоянным вне некоторого
компакта. Интегрируя тождество B4.1.2) по QT={x; Xi> 0,
хп < Т}, оценивая интеграл от первого слагаемого в правой
части тождества по неравенству Коши — Шварца и сокращая
умноженный на постоянную объемный интеграл от функции

554 24. Смешанная задача Дирихле — Кошн
|«'|2 + |и|2, при достаточно большом Я получаем для «еСс!
оценку
B4.1.4) J x(\u'f + \uf)e-Xx»dx + \{\u'f+ \и()е~1х'Ч
Qt
IPufe'^ndx + C $
В качестве первого приложения докажем теорему единствен-
единственности.
Лемма 24.1.3. Пусть Dau^L2{QT) при |а|< 1, Ри = О в QT
и и = О на множестве {х; Xi = О, хп < Г}. Тогда если и = 0 вне
компактного подмножества в QT, то и = 0 в QT.
Доказательство. Выберем такое а, что а + 1 < лсппри Jtesuppa.
Из B4.1.4) следует, что
B1.1.4/ \ (\vf? + \v f)dx^Ca\ \Pvfdx,
если »sC2(Qr) н [i = 0 при х„ <. а, при Xi=0 и при большом
|*|. Пусть t|isC"(Rn~1). ^ ^^= 1- Положим
Так как плоскость х\ = 0 нехарактеристическая, то из теоремы
В.2.9 вытекает, что функция и при каждом m локально принад-
принадлежит R(m, \-m) относительно полупространства Х\ > 0. Если
хп > 0 на supptj) и е мало, то функция Уе = "*фе принадлежит
С°°{О.т) и равна 0 при х„ <; а. Ее носитель компактен, и поэтому
можно воспользоваться оценкой B4.1.4)'. Так как Ры = 0, то
PVe = Р(«* фе) - (РИ) * фе = Z (^ Ф А« * 4>е) - (^ AU) * ф
Здесь слагаемое первой суммы с индексами j = k = l равно 0,
поскольку gn = —1. К остальным ее слагаемым сначала при
фиксированном х\ применима лемма Фридрихса (лемма 17.1.5),
позволяющая заключить, что их ?2-норма по области QT стре-
стремится к 0 вместе с е. Для других слагаемых это очевидно, так
как Dau^L2 прн |а|^ 1. Следовательно, /Лнорма по области
QT функции Pvt стремится к 0 при е->-0, и так как ve-+u в
1Лнорме, то из B4.1.4)' следует, что и = 0 в QT. Доказатель-
Доказательство леммы закончено.

24.1. Энергетические оценки и теоремы существования 555
Из леммы 24.1.3 можно вывести локальную теорему един-
единственности, которая в сочетании с теоремой 23.2.7 влечет един-
единственность в теореме 24.1.1.
Теорема 24.1.4. Пусть в окрестности точки Хо^дХ выполнены
условия (i), (iii) теоремы 24.1.1. Тогда существует такая фун-
фундаментальная система окрестностей V точки х0 в X, что из со-
соотношений и<=Н1щ(УПХ°), и = 0 в V{\Ka при ф<ф(х0),
Ри = 0 в V(]X° и и = 0 на V(]dX следует, что и = 0 в V.
Доказательство. Можно так выбрать локальные координаты в
точке хо, что xo = O,a:i = O на дХ и ф(х) = ф@) + хп — \х'\*.
Определим окрестность Ve, как в доказательстве теоремы 23.2.7.
Если коэффициенты оператора Р гладко продолжены на полную
окрестность нуля, то ясно, что в ней оператор Р строго гипербо-
гиперболичен. Также очевидно, что если % ^ Со° (R")> О^зС5^! и X — I
в окрестности нуля, то оператор
%(х/у)Р{х, D) + (l-X(x/y))P@, D)
удовлетворяет условию леммы 24.1.3 при достаточно малом у.
Если е настолько мало, что %(х/у)= 1 в Ve, то из леммы 24.1.3
следует справедливость утверждения о единственности доказы-
доказываемой теоремы.
Наша следующая задача — вывести из оценки B4.1.4) тео-
теорему существования. Поэтому вернемся к предположениям от-
относительно Р, сделанным при доказательстве оценки B4.1.4).
Если Р* — оператор, формально сопряженный к Р, Pu = f в об-
области QT и и = «о при Xi = 0, то
B4.1.5) J (P'v) й dA: = J vfdx— J d^dS
QT x,-0.xn<T
для тех функций oeCj° (Rn), для которых хп <. T на supp v и
v = 0 при ;ti = 0 (напоминаем, что gu — —1). Обратно, если
равенство B4.1.5) справедливо при и, feL2 для всех таких
функций v, то сначала, взяв oeC(Qr), получаем, что Ри = f.
Таким образом, локально и е ЯB, -2) и, значит, граничные зна-
значения элемента и при Х\ =0 корректно определены. Из B4.1.5),
где функции v равны 0 при х\ = 0, но в остальном произвольны,
следует, что и = и0 при Х\ = 0.
Предполагая, например, что хп ^ 0 на supp / и на supp u0, мы
хотим найтн такое и, что х„ 35* 0 на supp и и выполняется равен-
равенство B4.1.5). Ввиду доказанной в теореме В.2.1 двойственности,
это можно сделать на основании теоремы Хана — Банаха, если
нам удастся оценить правую часть B4.1.5) через ограничение
функции P*v на полупространство R+.

556 24. Смешанная задача Дирихле — Кош и
Оператор Р* удовлетворяет тем же предположениям, что и Р.
Заменяя Р на Р* н меняя знак х„, из B4.1.4) при Г = 0 полу-
получаем, что
B4.1.4)" X J
Q
если v (= С™ (Rn) и v = 0 при *i = 0. Здесь Q = {x;Xi>0,
хп > 0} и Я,— большой параметр. Если хп < Т на suppy и поло-
положительное Г мало, то можно взять Я, = 1/7" и получить оценку
B4.1.6) ^ С(|у/|2 + |у|2)^л:+ ( |д!
Эта оценка уже имеет требуемый вид. Но чтобы установить
истинные свойства гладкости решения и, указанные в теореме
24.1.1, нужно сначала перейти в B4.1.6) к подходящим ЯE)-нор-
мам. Положим
Если w(x2, ..., ^)eC"(R""'), то /Лнорма [(• |(+ функции
Es(D')w в полупространстве R+" = {(х2, ..., хп), хп > 0} по
теореме В.2.4 равна норме в ЯE)(Р+~1) ограничения функции а/
на это полупространство.
Лемма 24.1.5. При каждом вещественном s для функции
v е С™ (R"), обращающейся в 0 при Xi = 0 и при х„ > Т, где
0 < Т ^ Ts, верна оценка
00
B4.1.7) ±5 || Es+1 (D') v (*„ •) IF+ dxx + II Es (&) d,v @, •) Ц*.
Доказательство. Функция w = Esv принадлежит пространству
9" (R+) и w = 0 при хп > Г. Поэтому очевидно, что к ней при-

24.1. Энергетические оценки и теоремы существования 557
менима оценка B4.1.6). Поскольку
№lW(xlt .I12+<2||A + ^+ ... +DU)ll2w(xu .)P+
+ 2\\Dnw(xu •)|р+ = 2 (tIID,w{xu -Щ + №{хи -I
то левая часть B4.1.7) не превосходит удвоенной левой части
оценки B4.1.6), в которой функция v заменена на w. Теперь
P'w = EsPmv-Es[P\ E_s]w.
Напомним, что коэффициент gu в главной части ? glkDtDk опе-
оператора Р* постоянен. Соответствующее слагаемое в коммутаторе
отсутствует, а в другие слагаемые входит не более одного мно-
множителя D\. Поэтому
Es IP', E_s] = ? Rk (x, D') Dk + Ro (x, D'),
где Ro, ..., Rn принадлежат 5°(R"XlRn~1)- Операторы Rk{x,D')
являются суммами произведений операторов Es, E-s и дифферен-
дифференциальных операторов. Следовательно, Rk (x, D') DkW=Rk (x, D') wk
при хп > 0, если wk = Dkw при хп > 0 и Wk = 0 в противном
случае. Поэтому из B4.1.6) при некоторой постоянной Cs сле-
следует, что
Yi\\D,w(xl, -IР+ + ||а»(ж„ •)IP+)rfJf,+||aIa;(O, .IР+
с»
\ \\EsP-v(xu -)\?+йхх.
о
Основываясь на сделанных в начале доказательства замечаниях,
при T2CS < 1/2 получаем оценку B4.1.7).
Теперь, используя двойственность, можно доказать локаль-
локальную теорему существования.
Лемма 24.1.6. Пусть s^O и распределения f e //(s)(iRn), «о
е ЯE+1)(КП-1) оба имеют носители в полупространстве хп^0.
Тогда существует такое распределение и е #<?+n(Qr ) (относи-
(относительно полупространства Н'={х; xt > 0}), что Pu = f в QT$I
хп ^ 0 на supp и и и = и0 на той части границы, где х\ = 0.
Доказательство. По теореме В.2.4

558 24. Сметанная задача Дирихле — Коши
где через ||-|| обозначена /Лнорма. Применяя оценку B4.1.7) с па-
параметром —s—1 вместо s ис Г = Г,, убеждаемся, что при не-
некотором С
l/2
vjdx-
\E.s_xP'v{xb
если оеС" и v = О при х\ = О и при х„ > Т. По теореме
Хана — Банаха найдется такая линейная форма L, заданная на
С ом, что
L(P'v)= jj vfdx —
QT xt-.0,'xn<T
если v e C^° и и = 0 при Xi = 0 и при хп > Г. Ее непрерыв-
непрерывность означает, что
где ы е L2(@, схэ); /?(s+i)(R"-1)). Следовательно, м определяет
такой элемент пространства #(о, s+n {Н'), что л:„ ^ 0 на supp и
и Ри = f в Qr, « = «о при Х\ = 0. Так как f e/7(S) (Я')'
с: ЯE_1)(Я'), то из теоремы В.2.9 следует, что и^Н{1°+1)(Bт) (от-
(относительно полупространства Я'). Это завершает доказатель-
доказательство леммы.
Доказательство теоремы 24.1.1. Можно повторить доказатель-
доказательство теоремы 23.2.4, заменив ссылку на теорему 23.2.7 (предло-
(предложение 23.2.6) ссылкой иа теорему 24.1.4 (лемму 24.1.5). Детали
мы предоставляем читателю.
Доказательство основной оценки B4.1.4) может быть также
приспособлено к граничным условиям примера 12.9.14b), когда
все требуемые в нем неравенства для Е и F выполнены в силь-
сильном смысле. Главное отличие заключается в том, что требуется
еще одно интегрирование по частям на граничной плоскости
ЛГ1 = 0, и в том, что выбор векторного поля f требует большого
внимания. По поводу деталей сошлемся на работу Гординга
(Garding [6]). Случай высшего порядка будет обсуждаться
лишь в примечаниях. Рассуждения, приведенные здесь в связи
с использованием энергетических оценок, очевидно, применимы
и в общем случае.

24.2. Особенности в эллиптической и гиперболической областях 559
24.2. Особенности в эллиптической
и гиперболической областях
Начиная с этого момента, будем рассматривать произвольный
дифференциальный оператор Р второго порядка с веществен-
вещественным символом рис С°°-коэффициентами, определенный на
С°°-многообразии X размерности п с границей дХ. Предполо-
Предположим, что граница дХ нехарактеристична относительно опера-
оператора Р, и введем обозначение Х°= Х\дХ. Наша цель —изучить
особенности решения и^Л'(Х) смешанной задачи
B4.2.1) Ри = / в Г, и = и0 на дХ,
где f^JF(X). В Х° нам известно, что множество WF(u)
\WF(f) содержится в характеристическом множестве р~'@)
и по теореме 23.2.9 инвариантно относительно потока, опреде-
определяемого гамильтоновым векторным полем Нр, связанным с глав-
главным символом р, если р строго гиперболичен. Поскольку суще-
существенны лишь мнкролокальные свойства символа р, то легко
видеть, что гиперболичность можно заменить на условие р\ Ф О
(ср. с доказательством теоремы 20.1.14). Мы предоставляем до-
доказательство читателю, так как даже такое условие будет устра-
устранено в § 26.1.
Целью этого и следующих параграфов является доказатель-
доказательство аналогичных результатов на границе. На основании след-
следствия С.5.3 можно ввести такие локальные координаты (х\, ¦ ¦ -
...,хп), что многообразие X определяется условием х\ ^ О
и что, возможно после смены знака,
B4.2.2) р (х, \) = ?-г (х, Г), Г = (Е2 |„).
Напомним, что ограничение кокасательных векторов многооб-
многообразия X на векторы, касательные к дХ, задает проекцию
Т*(Х)\дх на Т*(дХ), ядром которой является конормальное
расслоение к границе. Множество тех точек Е а Т* {дХ), для
которых р ф 0 на их прообразах, называется областью эллип-
эллиптичности смешанной задачи; в локальных координатах
B4.2.3) ? = {(*', Г); г @, х\ Г) < 0}.
По теореме 20.1.14 из B4.2.1) следует, что
B4.2.4) Е Л WFb (и) = Е (] (WFb (f) U WF («0)),
и, таким образом, мы имеем полную информацию об особенно-
особенностях в области эллиптичности. Областью гиперболичности Н
называется множество тех точек из Т*(дХ), для которых сим-

?60 24. Смешанная задача Дирихле — Коши
вол р имеет два различных корня на их прообразе, т. е. в ло-
локальных координатах
# = {(*', Г); г@, х', Г)>0}.
Соответствующие корни характеристического уравнения за-
задаются соотношениями Х\ = 0 и gi = ±г(х, |'I/2- Гамильтоново
векторное поле
Нр = 26, а/ах, - (dr/dl') д/дх' + (дг/дх) dldl
направлено внутрь X (вне X) для положительного (отрицатель-
(отрицательного) корня. Итак, положительный корень определяет бихарак-
бихарактеристику, трансверсальио выходящую из дХ в Х°, а отрица-
отрицательный корень является концом трансверсально приходящей
бихарактеристики.
Теорема 24.2.1. Если и — решение задачи B4.2.1) и
{х\ 60 е (Я Л WFb («)) \ (WFb (f) U WF (и0)),
то уходящая и приходящая бихарактеристики, соответствующие
этой точке, обе содержатся в WF(u) над окрестностью точки
(о,*о.
С другой стороны, если (х/, %')& WFb(u), то эти характери-
характеристики не имеют общих точек с WF(u) вблизи точек, проекции
которых лежат вблизи @,ж'), так как WFb(u) замкнут. Следо-
Следовательно, они не пересекаются с WF(u), пока не встретятся
с WF(f) (или не возвратятся на границу). Эта теорема яв-
является микролокальным вариантом закона отражения в оптике.
Доказательство теоремы 24.2.1. Нужно показать, что если точка
(О, |о)еЯ \(WFb(f){JWF(u0)) и, например, выходящая из нее
бихарактеристика не содержится в WF(u) вблизи нуля, то
(О, |о) Ф WFb (и). Умножая и иа подходящую срезающую функ-
функцию, можно считать, что и имеет компактный носитель и что
%' ф 0, если (ж, |)е WF(u), X\ > 0. Тогда применима теорема
18.1.36. Воспользуемся разложением из леммы 23.2.8
B4.2.5) Р(х, D) = (D1-A+(x, D')){DX- Л_(дг, /У)) + ю(х, DO,
где со е S~°° и главный символ оператора Л± совпадает с ±г1/2
в конической окрестности точки @, ?о)- Имеется и другое такое
же разложение:
<24.2.6) Р (х, D) = (D, - Л_ (х, D')) (D, - Л+ (х, D')) + 5> (х, D'),
где главный символ Л± равен ±г1/2 в конической окрестности
точки @, |о)- Теперь предположим, что открытый интервал у+
на рассматриваемой уходящей бихарактеристике, одним из кон-

24.2. Особенности в эллиптической и гиперболической областях 561
цов которого служит точка @, 0, г @, |о)'/2, ?о). содержится
в T*(X)\WF(u). Из доказательства теоремы 23.1.4 известно,
что можно найти оператор Q(x, D'), нехарактеристический в
точке @, to) и порядка —оо вне любой заданной окрестности
множества \(x,l'); (x, r{x,\')x/2, g')^Y+}> Для которого ком-
коммутатор [Q(x, D'), Di — А+(х, D')\ имеет порядок —оо. Так как
(Dl-A+(x, D'))Q(x, D')(D,-A_(*, D'))u
= Q(jc, D')f-Q(x, D')©(x. D')u
- [Q (x, D'), D, - A+ (x, D')] (Д - A_ (x, D')) u,
то по теореме 18.3.32 имеем (Di — A+(x, D'))v<= О при малом
jcj^O, если v=Q(x, D')(DX — Л_ (х, D'))u и носитель сим
вола Q достаточно мал. Поэтому gi = r(x, l')l/2 на WF(v) при
достаточно малом Х\ >• 0. Если выбрать Q подходящим образом,
то это доказывает, что множество WF(v) расположено сколь
угодно близко к Y+- Так как WF(v)cz WF(u), то оеС°° при
малом положительном х\. Поэтому из следствия 23.1.3 (см.
также обсуждение после теоремы 23.1.) вытекает, что оеС°°
при малом Xi ^г 0.
Оператор Q(x, D') выберем аналогичным образом коммути-
коммутирующим с оператором Dy — Л_(*, D') и таким, что <3@, х',1')
= Q{0,x',l'). Положим v = Q{x,D')(D1—A+(x,D'))u. При
jcj = O имеем v — v = Q(O,x/,D')(A-(O,x',Df)—A+(O,x/,D'))uo
е С°°, если носитель символа Q достаточно мал. Как и выше
при обсуждении и, заключаем, что (D\—А_(х, D')) v e С°° при
малом Х\ ^ 0. Поэтому, в силу следствия 23.1.3, оеС°° при
малом Xi ^ 0. Теперь уравнения
Q (х, D') (D, - Л_ (х, D')) u = v, Q(x, D') (D, - Л+ (х, D')) u = v
могут рассматриваться как эллиптическая система относитель-
относительно D\u и и. Точнее, если WF(a(x, D')) содержится в множестве,
где Q и Q нехарактеристичны, то снова по теореме 18.3.32 полу-
получаем, что a{x,D')(Dx— A-(x,D'))u и a(x,D')(D1—A+(x,D'))u
принадлежат С°° при малом х\ ^ 0. Следовательно,
а(х, D')(A+(x, D')~ A-\x, D'))«sC°° при малом jci ^ 0. Здесь
главный символ 2r(x, l')l/2 оператора Л+ — Л_ не равен 0
в точке (о, |о)- Выбирая оператор а(х,D') нехарактеристиче-
нехарактеристическим в этой точке, снова из теоремы 18.3.32 заключаем, что
(О, ?о) ф. WFb (к). Доказательство теоремы закончено.
Замечание. Для получения желаемого результата недостаточно
доказать, что (О, |о) ф WF{Dxu \ox) (см. замечание в конце § 9.6).
Теорема 24.2.1 подсказывает введение терминологии:

562 24. Смешанная задача Дирихле — Коши
Определение 24.2.2. Ломаной бихарактеристикой оператора Р
называется такое отображение
где / — интервал в R и В — дискретное подмножество, что
(i) Если / — интервал, содержащийся в 1\В, то кривая
Jзt^—>¦y(t) есть бихарактеристика оператора Р, лежащая
над Х°.
(И) Если i е В, то существуют пределы y{t— 0) и
принадлежащие Т'х (X) \ 0 при некотором х е дХ, и их проекции
на Тх (дХ) \ 0 являются одной и той же гиперболической точкой.
Таким образом, у нас имеется одна бихарактеристика, транс-
версально приходящая на границу дХ в точке y(t— 0), и дру-
другая, трансверсально уходящая из отраженной точки y{t + O),
имеющей ту же проекцию на Т*(дХ)\0. Поэтому кривая у
имеет корректно определенный образ у в f*(^)\0, который
является непрерывным также в точках множества В. Когда
нужно различить между собой у и у, будем называть у сжатой
ломаной бихарактеристикой.
Теорема 24.2.1 показывает, что сжатая ломаная бихаракте-
бихарактеристика, не пересекающаяся с WFb{f)[i WF(u0), либо содер-
содержится в множестве WFb{u), либо не имеет с ним общих точек.
Оставшуюся часть параграфа посвятим построению примера,
в котором реализуется первый случай и никаких других осо-
особенностей нет. Это построение связано с доказательством тео-
теоремы 8.3.8, но оно требует изменений из-за наличия границы
и переменных коэффициентов.
Сначала проделаем лишь локальное построение в точке гра-
границы. Выберем вблизи нее такие локальные координаты, что
главный символ оператора имеет вид B4.2.2). Через @, 1о) обо-
обозначим гиперболическую точку. Затем в окрестности нуля в X,
определяемой неравенством х\ ^ 0, построим такую функцию
и, что и = 0 на дХ, Pus C°°(X) и WFb(u) есть сжатая ломаная
бихарактеристика, проходящая через точку @, |о). Напомним,
что она определяется уходящей бихарактеристикой у+, начинаю-
начинающейся в точке (О, 0, г (О, ?оI/2, io), и бихарактеристикой у-,
приходящей в точку @, 0, —г (о, lo)VS io)- Сначала ищем осцил-
осциллирующее асимптотическое решение уравнения Ри = 0 в виде
формального ряда

" 24.2. Особенности в эллиптической и гиперболической областях 563
где d<p@, O)/dx' —|^. Главным членом ряда Рих будет
Х2р(х, <р'(х))иь и поэтому наше первое уравнение имеет вид
B4.2.7) р(х,
По теореме 6.4.5 оно разрешимо вблизи нуля при заданных на-
начальных условиях
B4.2.8) Ф@, лО = Фо(*')> фо(О) = ^, Фо@) = 0.
Уравнение р(о, 0, 1и |о) = О имеет два решения li = ±r@, 0,
?оI/2, которым отвечают два решения ф±(х). Для них имеем
Ф^(х) = |, если (х, |)еу±- Затем получаем уравнение переноса
для старшего члена а* в амплитуде, соответствующей реше-
решению ф+:
B4.2.9) ? p(k> (х, ф'± (х)) D«$ {х) + с (х)af (х) = О,
где коэффициент с зависит также от младших членов символа
р. Далее, (/ -J- 1) -е уравнение представляет собой аналогичное
уравнение, но с дополнительной правой частью, выражающейся
через а*, ..., af-t. Все эти уравнения разрешимы в фиксиро-
фиксированной окрестности нуля относительно af, значения которых
заданы при Х\ — 0. Разность между полученными рядами и*
можно затем использовать, как в доказательстве теоремы 8.3.8,
если выбрать амплитуды af сосредоточенными вблизи нуля
при х\ = 0 и взять большое число слагаемых.
Однако мы хотим доказать глобальный результат. Очевид-
Очевидная трудность состоит в том, что задолго до того, как бихарак-
бихарактеристики y± покинут координатную окрестность или вернутся
на границу, функции ф± могут перестать существовать. Гео-
Геометрические решения в виде лагранжевых многообразий, полу-
получаемые в теореме 6.4.3, все же существуют; проблема в том,
что у их проекции на X может не быть биективного дифферен-
дифференциала. Мы обойдем эту трудность, используя тот факт, что
строго положительная лагранжева плоскость в комплексифика-
ции симплектического векторного пространства S всегда имеет
биективную проекцию на комплексификацию некоторого ла-
лагранжева подпространства в S (ср. с предложением 21.5.7).
Сначала напомним детали, связанные с решением задачи
B4.2.7), B4.2.8), приведенным в § 6.4. Обозначим через
Х±(*ь#'> л') решение уравнений Гамильтона
dx'ldxx = =F дг (х, Ъ')т1д1', d\'ldxx = ± дг {х, 1')т/дх'
с гамильтонианом gi Ч^г{х, ?'I/2 и начальными значениями
(х*, |') = («/', г)') при лг1 = 0. Отображения х±(*ь ¦) корректно

564 24. Смешанная задача Дирихле — Коши
определены и являются симплектическими отображениями
окрестности точки (о, ?о) в окрестность точки х± (хи 0. lo) ^ Y±
при фиксированном Х\ (координата |[ опущена). Решение
задачи B4.2.7), B4.2.8) равно 0 на у±, и множество
GXl= {(x',dcp(xi,x')/dx')} является образом множества Go
= {(х', д<ро(х')/дх')} относительно отображения x±(*i, •)• Это
решение продолжает существовать вдоль у± до тех пор, пока
проекция GXl э (х', %')*—*¦ х' имеет биективный дифференциал.
До сих пор функция фо была вещественной, но теперь поз-
позволим фо принимать комплексные значения с положительно
определенным гессианом 1тф"@). Тогда из предложения 21.5.9
вытекает, что комплексифицированная касательная плоскость
к Go есть строго положительная лагранжева плоскость. Строго
говоря, отображение %±(xi, у',дц>о(у')/ду') не определено при
у' Ф 0. Но разложение Тейлора в точке у' = 0 имеет смысл
и определяет формальный лагранжиан в точке %± (хи 0, |^)-
Касательная плоскость в этой точке является образом комплек-
сифицированной касательной плоскости к Go в точке @, ?о) от-
относительно комплексификации вещественного линейного сим-
плектического отображения, и поэтому она строго положитель-
положительна. Пусть кривые у± определены при 0 ^ Х\ sg: с. Ввиду предло-
предложения 21.5.9 найдется такая функция ф± е С°°, что
гессиан Im д2ц>±/дх'2 положительно определен, если (х, ^)еу±.
О ^ Xi ^ с, и кроме того, dq>±/dx\ =F r(x, dq>±/dx')i/2 имеет нуль
бесконечного порядка на у+. Аналогично можно решить уравне-
уравнение переноса B4.2.9) и последующие уравнения, так что
а* ф 0 на у±, а
и\, ы (х) ==е ± х 2j ai (х) Я
о
при каждом N удовлетворяет соотношению
Если взять асимптотическую сумму а±(х, Я)е 5°(R"X R). то
Р {eihf± U)a± (х, Я)) s 5"°° (Rn X R).
Эти асимптотические суммы можно выбрать так, чтобы а+(х, X)
= а-(х,К) при Xi = 0 и носители амплитуд а± находились на-
настолько близко к проекциям лу± кривых у±, чтобы функции
Im ф± (х) в них были строго положительны всюду, за исклю-
исключением пу±.

г 24.2. Особенности в эллиптической и гиперболической областях 565
Теперь рассмотрим абсолютно сходящийся интеграл
B4.2.10) U± (*)=
По теореме 8.1.9, WF(U±)czR+y± при х„>0и PU±(==C°° при
*i ^ 0. Следовательно, V± S jf. Граничные значения этих
функций совпадают при х\ = 0, и поэтому V = U+—U~ обра-
обращается в 0 при лг1 = 0. Если b(x,D')— псевдодифференциаль-
псевдодифференциальный оператор с символом порядка —оо в канонической окрест-
окрестности точки (О, 0, go), то из теорем 8.1.9 и 18.1.36 вытекает, что
bix.D^^t^C00 при малом *, ^ 0. Поэтому WFb(U±)c=R+y±.
Теперь докажем, что (о, ?о) является точкой волно'вого фронта
функции
D0(U+ - ?/-)@, •)= \ eW^bixT, l)d%/{l2 + l);
b(x', Л) = 2г@, х', д<ро/дх')щ Ы* @, х', X)
+ D,(a+@( x\ Х)-а-@, х', %)).
Здесь fteS1 и старший член 2г@,х', дсро/дх'I/2Хао@,х') не
равен 0 в нуле.
При Imz>0
+ l) + log|z | = ОA) при
Действительно, этот интеграл равен
о
Разность между ним и интегралом
ограничена при z-»-0, поскольку \е1Хг' — 1 | <| Я | и соответ-
соответствующий интеграл от 1 до оо ограничен, что видно после ин-
интегрирования по частям. Поэтому величина
( , d<po(O)/dx')VQao(O, 0)log] Фо(л:')I
ограничена при х/-*-0, и, следовательно, функция D\{U+
— U~) @, •) не является даже непрерывной. В частности, @, 20

566 24. Смешанная задача Дирихле — Коши
есть точка ее волнового фронта, поскольку по теореме 8.1.9 по-
последний может содержать лишь точки вдоль этого луча. Этим
завершается доказательство того, что WFb(u) содержит точку
{о, |о) и поэтому также содержит приходящую в нее и уходя-
уходящую из нее бихарактеристики.
Теперь мы подготовлены к доказательству следующей тео-
теоремы:
Теорема 24.2.3. Пусть [а, Ь]з t*->y(t)— сжатая ломаная би-
бихарактеристика, инъективно проектирующаяся в сжатое ко-
сферическое расслоение T*(X)/R+ и имеющая концевые точки
у (а), у(Ь), лежащие над Х°. Предположим, что проекция век-
вектора Hp(y(t)) на Т(Х°) не обращается в О при y(t)<=T*(X°).
Тогда существует такое u^Jf(X), что WFb(u) есть конус, по-
оожденный кривой y([a,b]), WFb(Pu) порождается точками
Y ({а, Ь)) и и = 0 на дХ.
Доказательство. Предполагая, что кривая у содержит некото-
некоторую точку, лежащую над дХ, введем в ней локальные коорди-
координаты и начнем с построения, проделанного выше. (Только что
проведенные рассуждения могут быть также использованы для
непосредственного доказательства того, что y+aWFiU*) при
О <С xi <С с. Поэтому можно было бы также начать прямо с по-
построения 11+ или 11- вблизи какой-нибудь точки в Х°, где коор-
координата Х\ может служить локальным параметром на соответ-
соответствующей бихарактеристике.) Это построение можно продол-
продолжить из xi = с, выбрав другой набор локальных координат, в
котором х\ является хорошим параметром вдоль бихарактери-
стической полоски. Действительно, заменяя координаты в фа-
фазах ф и в амплитудах а/, мы получаем начальные данные для
использования их в новой координатной окрестности. Если би-
характеристическая полоска выходит на границу, то мы полу-
получаем начальные данные для построения отраженной волны.
Между различными участками построенного решения никогда не
будет интерференции, так как волновые фронты на них раз-
различны в силу предполагаемой инъективности проекции на сжа-
сжатое косферическое расслоение.
Осталось только показать, как данную конструкцию можно
срезать при х\ = с, если это значение соответствует концевой
точке кривой у- Для этого выберем функцию х е Со°(R), рав-
равную 1 иа (—оо,—2) и 0 на (—1,°о), и заменим а+(х,\) на
амплитуду a+(x,X)y.((xi —сKХ), принадлежащую S?, i/з (ср.
с примером 18.1.2). Это не сказывается на особенностях при
х\ < с, но приводит к равенству U+ = 0 при х\ > с. Теорема
8.1.9 применима всюду, и поэтому WF(U+) все еще порождается

24.3. Обобщенный бихарактеристический .поток 567
кривой v+ при Х\ > 0. Теперь WF(PU+) может содержать лишь-
луч, определяемый граничной точкой кривой у+, для которой
х\ = с, и эта точка не может быть опущена ввиду того, что
иначе по теореме о распространении внутренних особенностей
кривая v+ не пересекалась бы с WF(U+). Доказательство тео-
теоремы закончено.
Замечание. Меняя порядок амплитуды a±(xtЯ,) умножением,
ее на степень параметра Я+1, можно построить распределе-
распределение к, имеющее любую желаемую регулярность, как это будет
сделано в аналогичной теореме 26.1.5 ниже.
Функционально-аналитическими рассуждениями из доказа-
доказательства теоремы 8.3.8 можно воспользоваться для того, чтобы
показать, что также пределы кривых у из теоремы 24.2.3 могут
являться носителями особенностей. Это будет сделано ниже
в теореме 24.5.3. Однако сначала мы изучим в § 24.3 свойства
таких пределов, а в § 24.4, 24.5 докажем обратные результаты,,
аналогичные теореме 24.2.1.
В теореме 24.2.3 предполагалось, что векторное поле Нр не
касается слоя расслоения Т*(Х), но это несущественно. Чтобы
избавиться от этого условия, нужно воспользоваться теорией
интегральных операторов Фурье, как в доказательстве тео-
теоремы 26.1.5. Можно действовать и иначе, рассматривая U как.
лагранжево распределение, ассоциированное с положительным
лагранжевым многообразием. Для любого из этих подходов
требуются методы и понятия гл. 25.
24.3. Обобщенный бихарактеристический поток
В § 24.2 было показано, что особенности решений задачи Ди-
Дирихле, приходящие на границу области по трансверсальной би-
бихарактеристике, снова покидают ее по отраженной бихаракте-
бихарактеристике. С целью подготовки к изучению особенностей, прихо-
приходящих по касательным, ближе познакомимся теперь с геомет-
геометрическими свойствами ломаных бихарактеристик. При этом
естественно начать с общего симплектически инвариантного-
описания данной ситуации и затем ввести подходящие локаль-
локальные координаты.
Поэтому начнем с симплектического многообразия 5 размер-
размерности 2л с краем OS и выберем такую функцию феС°°E), что-
ф = 0 на 3S, ф > 0 в 5\<3S и <2ф ф 0 на dS. Пусть ре C°°(V),
Где V — открытая окрестность в 5 точки sq e dS, и предполо-
жим, что
(i) р — {ф, р} = 0, {ф, {ф, р}} Ф 0 в точке s0.
Обычно мы будем также требовать, чтобы

568 24. Смешанная задача Дирихле — Кошн
(ii) dp\ds Ф 0 в точке s0.
Условие (i) означает, что ограничение функции р на слой есте-
естественного слоения границы dS (интегральными кривыми век-
векторного поля Яф) имеет нуль второго порядка в точке s0. Дру-
Другая интерпретация условия {<р, р) = 0 состоит в том, что би-
бихарактеристика гамильтониана р, начинающаяся в точке so, ка-
сательна к dS в этой точке. Мы будем изучать бихарактеристи-
ческое слоение множества р~' @) с изломами при отражении
на границе dS, как в определении 24.2.2.
Уменьшая при необходимости окрестность V, можно считать,
что V с т" (R+), s0 = @, 0), ф = х\. Тогда в соответствии с под-
подготовительной теоремой Мальгранжа условие (i) означает, что
Р (х, l) = g{x,l)((I. + а(х, |')J - г{х, I')), Г = & 1„),
где g Ф0 и а = г ==¦ 0 в точке 0. Можно перейти к новым сим-
плектическим координатам, в которых у\ = х\, tji = |i
-\- а{х,%'). Так как 0 = #*/ = Hyj, то в новых координатах р
имеет тот же вид, но с а = 0, что и будет предполагаться
в дальнейшем. Множитель g не влияет ни на само множество
р-'@), ни на его слоение, а лишь на параметр вдоль бихарак-
бихарактеристик. Поэтому предположим, что g = 1, откуда
B4.3.1) p(x,l) = l*-r(x,l'), 1' = A2, ••-, U,
где dX', i'r@, 0) Ф 0,.если выполнено условие (ii). Функция р
имеет тот же вид, который был получен для главного символа
оператора второго порядка на многообразии X с нехарактери-
нехарактеристической границей дХ в § 24.2.
Определение 24.2.2 имеет симплектически инвариантный
смысл в окрестности точки so', кривая y(t) должна быть биха-
бихарактеристикой гамильтониана р, содержащейся в S\<3S при
\ф.В, а при t e В ее пределы y(t±O) должны существовать
и принадлежать одному и тому же слою естественного слоения
границы dS.
Введем обозначение 2 для характеристического множества
р-1 @) и обозначение 2 для его сжатия, получаемого отожде-
отождествлением точек одного и того же слоя слоения границы dS.
Итак, х, | — непрерывные функции на 2, определяющие его
топологию, в то время как топология множества 2 опреде-
определяется непрерывными на нем функциями х, Xi|i, ?'. Подмноже-
Подмножество в 2, где Х\ = 0, обозначим через 2о; оно является образом
всех точек (х, I) с xi = 0 и ii = r(*, l')^0. Множество
Gc2, на котором jci = E.i == 0, называется множеством каса-

24.3. Обобщенный бихарактеристнческий поток 569
ния1); это множество всех тех точек из ф-1 @)П Р @), в кото-
которых Нр касается границы OS. Оно отображается топологически
в So, и поэтому может быть отождествлено со своим образом
в этом множестве. Множество Н = 2o\G есть область гипер-
гиперболичности в терминах § 24.2. Множество Gk касания порядка,
не меньшего k, k = 2, 3, ..., также можно инвариантно опре-
определить уравнениями
B4.3.2) р = 0 и Я[ф = 0 при 0
Поэтому G=G2Z3G3zd ... zd G°° — замкнутые множества. Это
определение зависит только от р~1 @) и dS, поскольку функции
р и ф определяются множествами р~'@) и dS с точностью до
гладких множителей, не равных 0, влияющих лишь на парамет-
параметризацию бихарактеристик, а не на порядок нуля функции ф.
Если ф(х) = *1 и р имеет вид B4.3.1), то положим г,-(х\ |') =
д'г @, х', 1')/дх{, / = 0, 1, и докажем следующую лемму:
Лемма 24.3.1. Пусть k^ 0 — целое число. Тогда уо = @, х', 0,
I') s= Gk+2 в том и только том случае, если
B4.3.3) Го = о«Я^,=0, 0</ < k.
в точке Yo, « в этом случае в этой точке
B4.3.4) Я*+2ф = 2(-Яг/г,
Доказательство. Обозначая через Н°Г гамильтоново поле
{дг/д%)д/дхг — (дг/дх')д/д^', соответствующее г при фиксиро-
фиксированном х\, имеем
Нр = 2|, д/дХ1 + гA) а/5|, - Н°г, гA) - дфх,.
Следовательно, Нрх1 = 2^и Н\хх = 2г(\), что доказывает лемму
при k = 0. Ввиду очевидного индуктивного рассуждения,
остается лишь доказать справедливость B4.3.4), если k > 0,
yo^Gk+2 и выполнено B4.3.3). По предположению Я„ф = 0
в точке уо при /' < k + 1, если ф = 0 при х\ = 0. Тогда в точке
Yo имеем
*+2 *г, = 2 B|, d/dXl +
так как, двигаясь справа налево, можно последовательно пола-
полагать Jti = 0 в каждом из множителей г^ и Нр, поскольку не
более k множителей Нр действуют слева. Теперь можно опус-
опустить дифференцирования d/dxi и d/d|i, так как от х\ ничто не
зависит, а |, более в выражение не входит. Это заканчивает
доказательство равенства B4.3.4) и леммы в целом.
В оригинале «glancing set». — Прим. ред.

670 24. Смешанная задача Дирихле — Коши
Проколотая окрестность начальной точки уо на бихаракте-
бихарактеристике гамильтониана р с началом в точке 7о> в которой
<р = р = //рф = 0, но Ярф > 0, целиком будет лежать во внут-
внутренности области ф >• 0. С другой стороны, если продолжить р
на отрицательные значения х\, то бихарактеристика немедлеино
покинет полупространство ф ^ 0, если #р\р < 0. Такая выпук-
выпуклость (вогнутость) границы дХ относительно касательных би-
бихарактеристик приводит к большим различиям в поведении ло-
ломаного бихарактеристического потока. Начнем обсуждение
с подведения итогов и расширения нашей терминологии.
Определение 24.3.2. Множество Gk касания порядка, не мень-
меньшего k ^ 2, определяется условием B4.3.2); G — G2 назы-
называется просто множеством касания. Множество G2\G3 касания
в точности порядка 2 является объединением Go. U Gg множе-
множества дифракции1) Gd, где Ярф > 0, и множества скольжения2I
Gg, где Ярф < 0.
В обозначениях леммы 24.3.1 множество дифракции (соотв.
скольжения) определяется условиями х\ = gi = r0 = 0 и rt>0
(соотв. ri<0). Для исследования ломаных бихарактеристик
вблизи множеств да и Gg по теореме 21.4.8 достаточно изучить
следующий пример в случае, когда выполнены условия (i)
и (И).
Пример 24.3.3. Если р(х, I) = ?? ± *] + 1„, <р(х) = х1, то мно-
множество касания определяется условиями *i = gi = \„ = 0, при-
причем #рф=:р2. Поэтому для верхнего знака имеет место
скольжение, а для нижнего — дифракция. Инвариантами га-
мильтонова потока являются функции
Х2, ..., *п_1) Ь2> •••» Ъп> Sl i Хп И
Для случаев дифракции и скольжения ломаные бихаракте-
бихарактеристики изображены в плоскости переменных Jti, х„ на рис. 3
и 4. Если dxi/dt = 0, то |i = 0. В случае дифракции един-
единственными пределами ломаных бихарактеристик служат каса-
касательные параболы, задаваемые уравнениями if = Xi, |„ = 0,
gi — хп, х2, .... Хп-и Ь, ¦¦¦, Ъп-i все постоянны. В случае сколь-
скольжения величина |? + *i равна максимальному значению с2 ко-
координаты х\. Поэтому | |i | ^ с, 0 ^ х\ ^ с2, %п = —с2 и различ-
различные параболы на рис. 4 отличаются лишь сдвигом.
При с->0 ломаные бихарактеристики вырождаются в пря-
прямую dx/dt = @, ..., 0, 1), d\/dt = Q, лежащую в множестве
г) В оригинале «diff ractive set>. — Прим: ред.
*) В оригинале «gliding set>. — Прим ред.

24.3. Обобщенный бихарактеристический поток 571
скольжения и определяемую гамильтоновым потоком гамиль-
гамильтониана |„. Она называется скользящим лучом1).
Вместо использования весьма глубокого результата из тео-
теоремы 21.4.8 и с целью избежать обращения к условию (ii)
покажем непосредственно, что выводы данного примера спра-
справедливы в совершенно общей ситуации. Как обычно, V — такое
открытое множество в полупространстве х\ ^ 0, что V — ком-
компакт, и функция р определена в окрестности компакта V в этом,
полуп ростр а нстве.
Рнс. 3.
Рис. 4.
Лемма 24.3.4. Предположим, что дг/дхх > с> 0 в V и что кри-
кривая t^-^^y(t), 0<|/|<7", является ломаной бихарактеристи-
бихарактеристикой, отражающейся при t = 0. Тогда xt ^ ct2, и поэтому, будучи
максимально продолженной2), бихарактеристика у не может
вернуться на границу dS.
Доказательство. Так как dh/dt = дг/дгх^ с и ±Ы±0)>0,
то h (t) >ct при t > 0 и h (t) < ct при t < 0. Теперь ввиду
того, что dxi/dt = 2h и *i@) = 0, заключаем, что Xi(t)^ctK
Из леммы следует, что предел ломаных бихарактеристик
есть либо ломаная бихарактеристика, либо бихарактеристика»
') В оригинале «gliding ray». — Прим. ред.
2) В пределах V. — Прим. ред.

572 24. Смешанная задача Дирихле — Коши
выходящая из точки касания (являющейся поэтому точкой ди-
дифракции).
Лемма 24.3.5. Предположим, что дг/дх\ г?1 —с < 0 в V и что
y(t) — ломаная бихарактеристика. Тогда существуют такие по-
постоянные Со и С, что
B4.3.5) |, (О2 + xt (/) < Соес'•"'' (g, (sf + *, (*))
для любых двух точек на у.
Доказательство. Для функции g(x, ?) = if — х{ дг/дх{ имеем
если также dr/dxi ^ —С. В точках отражения функция g(x,
непрерывна, а вне этих точек имеем
dg (х (/), & (t))/dt = 26, ar/<3^, - 2Б, ar/<3x, - jc.d (dr/dxj/dt.
Поэтому
откуда следует, что
g(x(t), l(t))<eCls~t]g(x(s), Us)).
Если с < 1 < С, то при Со = С /с немедленно получается не-
неравенство B4.3.5).
Если 16,@) |< в, Xi@)<e2, то Ы0=О(е)> х,@=О(е2)
для значений параметра t, принадлежащих ограниченному ин-
интервалу. Поэтому
d (xr, V)ldt = -Я? = -Яг, +¦ О (е2),
откуда следует, что
Последовательность таких ломаных бихарактеристик yv(t),
определенных при |^|<7' н сходящихся при / = 0 к точке
(О, х'о, 0, ^), для которой г0(х'о, ^) = 0, будет, следовательно,
равномерно сходиться при |*|^ Т к скользящему лучу, являю-
являющемуся интегральной кривой гамильтонова поля —ЯГо (эти
кривые образуют слоение множества касания, задаваемого
уравнениями Х\ = Ъ,\ = г0 = 0 там, где ЯГо Ф 0; при ЯГо = 0
скользящий луч неподвижен). В силу дифференциального урав-
уравнения для (x'v(t), l\{t)) эти функции на самом деле схо-
сходятся в С1.
На множестве касания имеем
нр = г, a/ag, - я,., яф = -

24.3. Обобщенный бихарактеристический поток 573
Поэтому —ЯГо = Нр-\-кНу, где функция % такова, что это век-
векторное поле касается множества касания х{ = %t = г0 = 0. Ин-
Инвариантно данное множество задается уравнениями р = q>
= (Р. ф} = Oi и поэтому функция Я. должна удовлетворять ус-
условию Ярф + ЯЯфЯрф = 0, т. е. к = 1%
Определение 24.3.6. Векторное поле
касательное к G, называется скользящим векторным полем.
Альтернативная интерпретация состоит в том, что Нр есть
гамильтоново векторное поле ограничения функции р на сим-
плектическое пространство, в котором q> = {p, q>} = 0. Дей-
Действительно, в наших локальных координатах это пространство
определяется условиями х\ — Ъ = 0, и ограничением функции р
является —го. Заметим также, что Нр = Нр в G3, и поэтому
векторное поле, совпадающее с Яр в G\Gu и с Нр в Gu, не-
непрерывно. Векторное поле Яр, как подсказывает его обозначе-
обозначение, не зависит от выбора функции ф, и если заменить функ-
функцию р на gp, то Н% как и Нр, лишь умножится на g. Это при-
приводит к согласованному изменению параметризации в следую-
следующем определении, подсказанном леммами 24.3.4 и 24.3.5.
Определение 24.3.7. Обобщенной бихарактеристикой гамильто-
гамильтониана р называется такое отображение
где / — интервал в R и В — подмножество в /, что р^у = 0 и
(i) y(t) дифферен '() H()
e=S\dS или y(t)(=Gd;
/ р ру
(i) y(t) дифференцируемо и y'(t) = Hp(y(t)), если y(t)
\dS ()G
(ii) v@ Дифференцируемо и у' (t) = Нр (у (t)), если y(t)
GG
(iii) каждая точка /g8 изолирована, y(s)^ S\dS, если
s Ф t и \s — /| достаточно мало, и существуют пределы
y(t±O), являющиеся различными точками одного и того же
(гиперболического) слоя границы dS.
Непрерывная кривая у, получаемая при отображении у в 2,
называется сжатой обобщенной бихарактеристикой.
Это определение дано в инвариантной форме, но в условии
(iii) молчаливо предполагается, что функция р может быть
представлена в виде B4.3.1). Начиная с этого места, предпо-
предположим, что координаты именно такие, и положим y(t) = (x(t\,

574 24. Смешанная задача Дирихле — Коши
@) Тогда функции x'(t), ?'(/) непрерывно дифференци-
дифференцируемы в /,
dx'/dt = -drjdl', dl'ldt = дг/дх'.
Функция Х\ непрерывна и имеет левую и правую производные
2?i(/=F0) также при /ей. Даже в этом случае правая и левая
производные
lim(&,(/±e)-&,(/±0))/(±e)
е-ц-о
существуют и равны дг/dxi всюду, кроме множества Gg, где
эти производные равны 0. В частности, функции x(t), xi(t)%i(t\
и ?'(/) удовлетворяют равномерному условию Липшица, если
кривая у (t) остается в фиксированном компакте. Так как
ii = r(x, ?')» то функция I? также удовлетворяет равномерному
условию Липшица, а функция |gi| условию Гёльдера по-
порядка 1/2.
Если Y@)e(S\dS)U Ga, то бихарактеристика y(t) остается
в этом множестве при малом t. Действительно, если y{0)^Ga,
то вследствие леммы 24.3.4 при малом t не может быть отраже-
отражения и у(г)ф. G\Gd, поскольку данное множество замкнуто. По-
Поэтому из условия (i) следует, что кривая t>—>y(t) при малом t
является просто орбитой поля Нр, проходящей через точку
Т@).
Если y@)s бг> то кривая y{t) является при малом t сколь-
скользящим лучом, проходящим через точку у(Ъ). Действительна,
существует окрестность точки y(Q), в которой выполнено не-
неравенство B4.3.5). Если X\(t) и \\(t) не обращаются в 0 тож-
тождественно при малом t, то y(t) есть ломаная бихарактеристика
и при f->0 получается противоречие. Следовательно, y(t)^Ge
и утверждение вытекает из условия (ii) определения 24.3.7.
Теперь займемся изучением обобщенной бихарактеристики
в случае, когда точка y@) близка к множеству G3. Пусть
(^'(О.'П'СО)—решение задачи
d (у', n')/dt = -ЯГо (*/', л'); У? @) = х' @), л' @) = Г @);
т. е. орбита скользящего векторного поля с указанными началь-
начальными данными. Вычитая эти уравнения из уравнений Гамиль-
Гамильтона для компонент х1, |' бихарактеристики y{t), содержащейся
в фиксированном компакте, при 0 ^ t ^ T получаем
\d(x'-y', r-
При /@ = 1 *' @ -/@1 + 1 Г @ - Л' @ I имеем

24.3. Обобщенный бихарактеристический поток 575
Положим в@=г,(/@, i)'(t)) = rw(O, /(/), t|'@). где г0) =
d/di. Тогда
I г<„ (х (/), g' @) - е (/) | < CJ (/) + С3*, (О-
Это означает, что как для левой, так и для правой производ-
производных
d I Б, (/) |#/ < | е @ | + C2f (t) + С3*, (/).
Кроме того, имеем dx.\ (t) /dt ^ 21 \\ (/) |.
Теперь рассмотрим решение X, S, F дифференциальных урав-
уравнений
dX/dt = 23, dS/Л = | е (t) | + C2F + С3Х,
<24-3'6)
при -Y@)> *i@), S(O)>|Si(O)|, F@)> 0. Мы утверждаем, что
Х\ < X, \li\ < S и / < F на отрезке [0, Г]. Действительно, если
s — наибольшее число ^Г, для которого эти неравенства выпол-
выполнены на полуинтервале [0, sj,то функции X — Хи S—| ^ |, F — /
возрастают на @, s) и поэтому положительны в точке s. Итак,
s = Т и эти неравенства верны на отрезке [0, 7"]. Следовательно,
функции х\, \\\\, f также оцениваются через решение уравнений
B4.3.6) с начальными данными Л:@) = ^@), 3 @) = |?i(°) I.
F@) 0.
Пусть F, X, S —решение уравнений')
dX/dt = 23,
с начальными данными ^@) = F@) = 0 и 3@)= 1. Тогда X(t)
= 2t + O(t2), FU) = C,/« + O(<») при *->0 и (^@, 2@, F(t))
= О(е^) при /->схэ. Дифференцирование дает решение этой же
системы с начальными данными B, 0, 0). Эти два решения
позволяют нам решить уравнения B4.3.6) с начальными дан»
ными jci(O), ||i@) |, 0. Это доказывает, что при 0 ^ t ^ Т
B4.3.7) | Е, @1< Се* (^ | е (s) \ ds + te, @) +11, @) |J,
f (t) < Ce* [](t-sJ\e (s) \ds + tx, @) +121 % @) |J.
') Это однородная система линейных дифференциальных уравнений ф
постоянными коэффициентами. Решив ее, можно решить систему B4.3.6) С
помощью вариации постоянных. — Прим. ред.

576 24. Смешанная задача Дирихле — Коши
Теперь предположим, что y@)^G", k~>2. В силу леммы
24.3.1 это означает, что е(t) = О(Р~2) при /->-0. Из B4.3.7) по-
получаем тогда соотношения x\(t) = O(tk) и %i(t) = O(tlt-1), точно
такие же, как для орбиты поля Нр, начинающейся в точке y@)>
в случае, когда ей не препятствует никакая граница. Это значи-
значительно больше, чем дифференцируемость функций Х\ (t) и %i (t)
в нуле.
Предположим временно, что у@)^ Gk\Gfc+l при некотором
k > 2. Тогда из леммы 24.3.1 следует, что
где 2а = Я*ф (у @))/(& — 2)! Ф 0. Следовательно, функция е мо-
монотонна при достаточно малых / ф 0. Одной этой монотонности
достаточно для определения y(t):
Предложение 24.3.8. Если 7@)eG3 и функция e(t) возрастает
при малых t > 0, то для таких t кривая y(t) является траекто-
траекторией поля Нр, начинающейся в точке y@)- Если y@)eG3 и
функция e(t) убывает при 0 ^ t ^ Т, то кривая уA) есть сколь-
скользящий луч при 0 ^ t ^ Т.
Доказательство. Предположим, что функция e{t) возрастает при
0 ^ t ^ Т. Пользуясь введенными обозначениями, при 0 ^ t ^ Т
получаем
*,(*) = О (/*«(/)), i^t) = OUe(t)), f(() = O(t3e(l)),
Поэтому d\\/dt = r(i)(x(t), ?'(*))^0 (Для левой и правой про-
производных), если t достаточно мало. Поскольку скачки функции
?t при отражениях должны быть положительными, то она воз-
возрастает. Если функция е равна 0 при 0 ^ t ^ T, то никаких
скачков быть не может и х\ = \\ = 0. Следовательно, у нас
имеется скользящий луч в G3, являющийся также траекторией
поля Нр. С другой стороны, если функция е не равна 0 тожде-
тождественно при всех малых t > 0, то gi(/) > 0 при t > 0, и поэтому
функция Xi(t) строго возрастает. Итак, y(t)&S\dS и, следо-
следовательно, кривая y(t) должна быть траекторией поля Нр.
Теперь предположим, что функция e(t) убывает при 0 ^ /
^ Т. Ввиду рассуждений, проведенных выше, можно считать,
что e(t) не обращается в 0 тождественно при всех малых /, и,
следовательно, e(t) < 0 при 0 < t ^ Т. Тогда
г«) (х @, Г @) = е @ + О (t2e U)) < 0,
если t достаточно мало. Как в доказательстве леммы 24.3.5, вве-
введем функцию

24.3. Обобщенный бихарактеристический поток 877
и заметим, что
Так как ввиду уравнений Гамильтона
= O(t3e(t)), ^ (
d (x' (t) - y' ((), Г (/) - т,' (t))/dt = О (fie (/)),
то получаем, что
drm (x (t), Г (t))/di - e' (t) = О (te (/)).
В силу очевидной оценки g(t)^ — xi(t)ru)(x(t)',l'(t)) имеем
g' (t) < g (t) i-e' {t) + О {te (t)))/(-e (t) + О {fe (t)))
<g(t)Be'(t)/e(t) + Ct),
если / настолько мало, что \O(t2e(t))\<\e(t)\/2. Поэтому
d (g (t)/e (lf)/dt = (gf (/) - 2g (() e' (l)/e (/))/e (if < С tg\i)le (if.
Так как g{t)/e(iJ = O(<2)-»-0 при f->0, то, интегрируя это не-
неравенство, получаем, что g{t)/e(tJ = 0 тождественно. Доказа-
Доказательство предложения закончено.
Конечно, таким же образом можно действовать при t < 0.
Поэтому, в частности, доказана
Теорема 24.3.9. Пусть t>-*-y(t) — обобщенная бихарактеристика
и y(/o)s G\G°°. Обозначим через yg скользящий луч, для кото-
которого yg(to)= у (t0). Тогда в односторонней проколотой окрестно-
окрестности точки t0 либо yg(t)^Gg и y(t) = yg(t), либо yg(t)&Gd и
( = exp(tHp)y(t0).
Следствие 24.3.10. Обобщенная бихарактеристика, не пересекаю-
пересекающаяся с множеством G°°, однозначно определяется любой из
своих точек. Обобщенная бихарактеристика постоянна, если она
содержит точку множества G\ Ga, в которой Н% = 0.
Следующий пример показывает, что однозначность не всегда
имеет место, если монотонность в предложении 24.3.8 нарушена.
Пример 24.3.11. Ниже построен пример выпуклой С°°-кривой
y — f(x) В R2, для которой f(x) = O при х < 0, и вписанной
в нее ломаной с вершинами, сходящимися к нулю, удовлетво-
удовлетворяющей закону отражения. Это условие означает, что если
Х={(х, у, t)^ R3; y^sf(x)}, то наша ломаная с переменной t,
определяемой как длина дуги, и двойственными переменными
1Q Зяк. 443

678 24. Смешанная задача Дирихле — Коти
|, т), т, определяемыми равенствами т =—1 иA, r\)=(dxfdt, dy/dt),
есть ломаная бихарактеристика дифференциального оператора
?>? —1)| — D% приближающаяся к некоторой точке @,0, t,—1,
О,—1) и не являющаяся скользящим лучом. Чтобы построить
кривую и ломаную с такими свойствами, выберем сначала лома-
ломаную с вершинами
(**, Ук) = S Г2 (cos a,, sin a,),
где последовательность а/ убывает и tg((a/ — a/+i)/2) = 2~'.
Итак, тангенсы половин внешних углов равны 2~~'. Выберем та-
такую выпуклую С°°-функцию g{x), что g(x) ——х при х<.0 и
Рис. 5.
g(x) — 2(x—1) при х>\. Тогда график функции (
*~*%-kg(k2x)/ttl после поворота на угол ак и сдвига в точку
(Хк+иУк+i) определяет искомую кривую при k^ko. Справа от
первого из таких интервалов можно воспользоваться линейной
экстраполяцией. Тогда такая кривая принадлежит С°° при х> О
и все производные функции / стремятся к 0 при х->~0. Поэтому,
если определить /(х) = 0 при х^.0, то f e C°°(R).
Для мотивировки определения обобщенных бихарактеристик
мы изучали пределы ломаных бихарактеристик на множествах
Ga и Ge. Теперь будет доказано, что пределы ломаных бихарак-
бихарактеристик на самом деле являются обобщенными бихарактеристи-
бихарактеристиками. Более общим образом, предположим, что у нас имеется
последовательность обобщенных бихарактеристик [а, 6] э t
i->f@e^ где компакт Kc:S. Если yv(t) = (x*(t), f(t)), то
уже было замечено, что функции ^(t), x*(t)?i (t), ?J(tf и ?"'{t)
равномерно липшицевы. Поэтому некоторая подпоследователь*
ность этих функций равномерно сходится.
Предложение 24.3.12. Пусть [a,b]3ti-^'yv(t) = {xv(t), |v(/)) —
такие обобщенные бихарактеристики, что функции x?(t)\
*T@?i@> Ш02 « lv'{t) равномерно сходятся при v-^-oo. Тогда

24.3. Обобщенный бнхарактеристичеышй поток 679
существует и единственна такая обобщенная бихарактеристика
[а, 6]э t>—>y(t), что yv(t)-*-y(t) равномерно для значений t,
принадлежащих любому компакту в [а,Ь\, на котором нет то-
точек отражения бихарактеристики y(t).
Доказательство. Пусть ^о — такая точка, что предел последова-
последовательности xt(t0) не равен 0. Тогда y(t)=limyv(t)^S\dS суще-
существует равномерно в окрестности точки to- Из уравнений Га-
Гамильтона следует, что имеет место С'-сходимость и что кривая
y(t) также есть траектория поля Нр. Теперь пусть t0 — такая
точка, что Xi (/„) -»- 0, но предел последовательности ?i(t0J не ра-
равен 0. Так как dxi(t)/dt = 2?i(t), то в силу теоремы о неяв-
неявной функции существует такая последовательность tv-+t0, что
xi (Q = 0- Тогда в не зависящей от v окрестности точки *0 кри-
кривая yv(t) есть траектория поля Нр, приходящая в точку yv(U— 0)
при t < /v и уходящая из точки vv('v + 0) при t > /v. Это дока-
доказывает, что предел y(t0 + t) = HnTyv(^v + t) существует при ма-
малом фиксированном f =й=0, и поэтому при малых t> 0 или t < 0
сходимость имеет место в С. В пределе получается ломаная
бихарактеристика.
Пусть Т — замкнутое множество всех тех t^[a,b], для кото-
которых xt (/)-»• 0 и ??(<)-¦¦ 0. Тогда предел y{t) = \imyv(t) суще-
существует равномерно по t^T, причем y(t)^ G. Существование
предела уже доказано для всех точек множества [а, Ь\\Т,
кроме счетного числа точек отражения.Если y(i0)^ G# (или Ge)
при некотором ^о s T, то из лемм 24.3.4 и 24.3.5 вытекает, что
последовательность yv(t) равномерно сходится в окрестности
точки t0 к траектории поля Нр (соотв. к скользящему лучу^
проходящей через точку у (to). Если y(t0)^ G3, то, применяя
оценки B4.3.7) к функциям yv(t — /0) и устремляя v к беско-
бесконечности, получаем,что xl(t) = O((t — /oK),li@= O((t — toJ).
Поэтому функции Xi(t) и %i(t) дифференцируемы и их производ-
производные равны 0 в точке t0. Из уравнений Гамильтона для X", |v/
следует, что функции х'@. %'{t) всюду дифференцируемы и что
их производная равна — H°r{x(t), ?'(/))• Это доказывает, что кри-
кривая у является обобщенной бихарактеристикой.
При любом е >0 имеем lvv@ — т@1<е. 'е?1, если
v>v(e). В силу равномерной непрерывности функций х(, ||*|,
6V/ при v>v(e) получаем, что \yv(t) — y(t)\<.2e для всех
точек t из окрестности V множества Т, не зависящей от v. На
любом компакте, содержащемся в [а,6]\К и не содержащем
точек отражения кривой y(t), имеет место равномерная сходи-
сходимость, что завершает доказательство утверждения о равномер-
равномерной сходимости бихарактеристик yv.

580 24. Смешанная задача Дирихле — Коши
Наша следующая цель — показать, что через каждую точку
множества 2 проходит обобщенная бихарактеристика, являю-
являющаяся пределом ломаных бихарактеристик. Для этого нужно
сделать некоторые предварительные замечания, касающиеся би-
характеристического потока. Пусть peC°°(S), где S— симп-
лектическое многообразие, и пусть so, s\— точки из S, для ко-
которых p(so) = p(si) = 0 и exp(toHp)so = Si. Тогда существуют
такие окрестности So и Si точек s0 и s\, что множество
{(s't s'OeSoX^; р (S'J = р (s") = 0, s" = ехр (/Яр) s'
для некоторого /, близкого к Q
является каноническим отношением. Действительно, можно так
выбрать симплектические координаты у, т), обращающиеся в 0
в точке si, что р = т\\ в некоторой окрестности. Обратный образ
(х, ?) координат (у,т\) при отображении exp(toHp) задает симп-
симплектические координаты вблизи s0, равные 0 в этой точке, и
равенство р = 0 эквивалентно здесь условию ?t=0 (см. § 6.4).
Тогда рассмотренное отношение принимает вид
{(*, I; у, л); &1 = Л1 = о. */=#/ и ^ = л/ при
откуда очевидна его каноничность (см. также предложе-
предложение 26.1.3).
Теперь вернемся к рассмотрению гамильтониана B4.3.1) в
выпуклой окрестности точки ОеГ (R+)» где предположим, что
др/д?„ > 0. Из этого следует, что dxn/dt > 0 для его (обобщен-
(обобщенных) бихарактеристик, а также что отображение
{{х, ?); р (х, |) = 0} э (х, |)
-(*, *„_„ |„ .... ?„_,)<= f (R")
ннъективно н имеет биективный дифференциал при фиксирован-
фиксированном Хп. Обратный образ симплектической формы в T*(Rn) при
отображении, обратном к этому, есть симплектическая форма
в 3n*(R"-1). При фиксированных s,/sR рассмотрим отображе-
отображение х?. переводящее (хи ..., хп-и h, •-., tn-i) в (ух у^и
tii, ..., r\n-i), если существуют такие ?„ и Цп, что гамильтониан
р обращается в 0 в точке (х\, .... хп-и s, %i, ..., |n)e S и на-
начинающаяся в ней траектория гамильтонова поля Нр приходит
в точку (ух yn-\,t, Ль •••» Лл). не выходя по пути на гра-
границу многообразия S. Данное отображение является канониче-
каноническим преобразованием, так как оно получается ограничением ка-
канонического отношения, описанного выше, на фиксированные хп
и у п. По этой же причине отображение %s(x\, ..., хп-\,
\и ..., 1п-\) = (у',ц'), определяемое первой точкой @,/,
iOf У'г Л'I/2» Л'), трансверсального пересечения соответствую-

24.3. Обобщенный бихарактеристический поток 581
щей бихарактеристики и границы многообразия, также есть ка-
каноническое преобразование. Взяв композиции таких приходящих
и уходящих канонических преобразований, получаем:
Предложение 24.3.13. Пусть р имеет вид B4.3.1) в выпуклой
окрестности S точки OeJ1' (R+)> где др/д%п > 0. При s, t e !R
определим
Xs(*l> •¦•> хп-\, tit •••» 1п-\) = (У\ Уп-U ^lt» •••» fln-l).
если существуют такие |„ и цп, что точки (xi, ..., хп-и s,
gi In) и (уи ..., уп-и t,m, ¦¦¦, Цп) являются нулями функ-
функции р в S, связанными ломаной бихарактеристикой, лежащей в
S. Если s и t достаточно малы, то %s есть симплектическое пре-
преобразование, определенное в открытой окрестности точки 0
в t*(Rn-1) всюду, за исключением некоторого множества мерыО.
Доказательство. Если отображение x'(*i> • • •. хп_и %и ..., ?„_()
определено, то рассматриваемая бихарактеристика имеет конеч-
конечное число N точек (трансверсального) отражения. По теореме
о неявной функции такие же ломаные бихарактеристики най-
найдутся для всех точек (*i, ..., |n-i) из некоторой окрестности
точки (хи ..., gn-i); являясь композицией N + 1 симплектиче-
ских С°°-отображений в T*(R"~l), отображение х? определено,
симплектично и принадлежит С°°. В силу того что на обобщен-
обобщенных бихарактеристиках функции х, ||i|, |' равномерно непре-
непрерывны, найдется такое 6 > 0, что при |sf+|f| < б отображение
Xs определено и равномерно ограничено на множестве А всех
точек (хи .... |»-i), для которых |*i|+ ... +||n-i|<6, если
только начинающиеся в этой точке ломаные бихарактеристики
не подходят произвольно близко к точкам множества G до того,
как xn = t- Выберем в так, что (t — s)/e — большое положи-
положительное целое, и пусть Ае — множество тех точек из А, для ко-
которых Х\ <; е2 и |?i|<e в некоторой точке у(х). Тогда из оце-
оценок B4.3.7) следует, что х{ <; Се2, |Ei|^Ce в точке y(ve), где
v — наибольшее целое, для которого ve ^ т. Множество точек
(xi in-i), для которых 0 < х\ < Се2, | |i 1 < Се и х2,..., ln-i
ограничены фиксированными величинами, имеет меру О (в3), рав-
равную мере его обратного образа при симплектическом отображе-
отображении хГ- Суммируя по целым положительным v ^.(t — s)/e, за-
заключаем, что мера множества Ле есть О(е2). Поэтому множе-
множество П Ае имеет меру 0, что завершает доказательство пред-
е>0
ложения.
Следствие 24.3.14. При выполнении условий предложения 24.3.13
найдутся такие число б>0 и окрестность V точки 0 в T*(R+),

582 24. Смешанная задача Дирихле — Коши
что для каждой точки yoS Vf\p~x(Q) существует обобщенная
бихарактеристика (—6,6)зt^—>y(t)^:S, для которой у@) = уо
(если бихарактеристика y(t) имеет при / = 0 точку отражения,
то это означает, что у(~ЬО) = Yo UAU у(—0) = у0)-
Доказательство. На основании предложения 24.3.13 найдутся
окрестность V и число б, для которых такая ломаная бихаракте-
бихарактеристика существует для каждой точки у0 е V П Р~х @) вне мно-
множества нулевой меры на многообразии /г~'@) даже при фикси-
фиксированном хп. Поскольку эти ломаные бихарактеристики равно-
равномерно непрерывны, то из предложения 24.3.12 следует, что обоб-
обобщенная бихарактеристика существует для каждой точки уо-
Замечание. Это следствие и стандартная теорема существования
для векторного поля Нр во внутренности многообразия 5 позво-
позволяют доказать справедливость такой же глобальной теоремы су-
существования для обобщенных бихарактеристик, как для биха-
бихарактеристик на открытом многообразии. Данное доказательство
может быть также использовано для получения обобщенных би-
бихарактеристик, глобально являющихся пределами ломаных би-
бихарактеристик. Ввиду следствия 24.3.10 каждая обобщенная би-
бихарактеристика, не пересекающаяся с множеством G00, есть пре-
предел ломаных бихарактеристик. Но вопрос о том, может ли каж-
каждая обобщенная бихарактеристика быть получена как такой пре-
предел, является открытым.
Теперь докажем более сильную теорему существования для
обобщенных бихарактеристик, которая понадобится при доказа-
доказательстве обобщения теоремы 24.2.3.
Лемма 24.3.15. Пусть выполнены условия предложения 24.3.13,
и пусть F — такое замкнутое подмножество в S (] р~х @), что:
(i) Если y^F\(Gg[)Gs), то множество F содержит окре-
окрестность точки у на ломаной или имеющей точку дифракции би-
бихарактеристике, проходящей через у.
(а) Для каждого компакта /CcFflC^UG3) и любого в>0
существуют такие б >0 и \e(t, у0) si7, — б<t<б, Yo sК, что
B4.3.8) | (Ye(/, Yo) ~ Yo)/' - #° (Yo)Г < в, 0 <\t\<б.
Здесь Яр (y0) — касательный вектор скользящего луча, и для
вектора v e 7"*(Rn) = R2" через \v\' обозначена евклидова длина
вектора, получающегося, если опустить у v компоненту |j. Тогда
для каждой точки у0 е F существует обобщенная бихарактери-
бихарактеристика y(t), t- < t < t+, для которой t- < 0 < t+, y@) = Yo.
Y< (С *+))c; F, и кривая y(t) покидает каждый компакт в F при

24.3. Обобщенный бихарактеристический поток 583
Доказательство. Так как на обобщенной бихарактеристике
dxn/dt—dp/dtn>0, то достаточно показать, что для каждой
точки у0 компакта /(с= F существует содержащая ее обобщен-
обобщенная характеристика, концы которой принадлежат границе ком-
компакта К в F. Для этого сначала выберем б в соответствии с усло-
условием (ii) при некотором малом е > 0, а затем определим при-
приближенную обобщенную бихарактеристику следующим образом.
Если yo?= Gg\j Q3, то определим ye{t) как (ломаную) бихарак-
бихарактеристику для р с Ye(O) = Vo. продолженную на максимальный
интервал, где она существует и содержится в К. Тогда либо
этот интервал содержит все положительные t, либо полученная
бихарактеристика определена лишь при 0 ^ / <Г т. Предел кри-
кривой Ye (О ПРИ t-*-t должен тогда существовать и принадлежать
множеству Gg\JG3. Теперь определим Ye@ при т^^^т + б
по формуле
Ye Ю = Ye (Х) + (Ye (*. Y* W) - Ye W) (/ ~ х)/6,
где использована функция из условия (ii). Действуя аналогично
при отрицательных t, за конечное время t мы выйдем на гра-
границу компакта К в F, так как на полученной кривой [f_(e)\
t+(e)]3 t>—*ye(t) производная dxn/dt имеет положительную
нижнюю грань. Поэтому концевые точки построенной кривой
принадлежат границе компакта К в F. Поскольку координаты,
отличные от gi, равномерно липшицевы, найдется такая после-
последовательность е/->0, что для нее, как в предложении 24.3.12,
существует предел y(t)^ F. Так как множество Gg[)Ga зам-
замкнуто, то, как и там, кривая у является ломаной бихарактери-
бихарактеристикой всюду вне этого множества. Если у(/)еО8, то при ма-
малом \s —1\ кривая y(s) должна быть скользящим лучом, про-
проходящим через y(t). Действительно, если y{s)&Gg при некото-
некотором s в любой окрестности точки t, то из леммы 24.3.5 следует,
что здесь мы имеем дело с ломаной бихарактеристикой. Итак,
Y(s)eGe при малом \s —1\. Поэтому *i(s) = ?i (s) = 0 и
d (*' (s), Г (s))/ds = - Hrs (*' (s), Г (s)),
так как производная этих компонент на кривой уе равна
—Hnr(ye(s)) или — НгАУг{в) + О(8)) вне конечного числа точек.
Наконец, если y(t)&G3, то таким же образом получаем, что
компоненты (x(s), %'(s)) дифференцируемы в точке t и имеют
в ней производную @, —Hrjx'(t), l'(t))). Остается доказать, что
компонента |i (s) дифференцируема и имеет производную 0 в
точке t, т. е. что h(sJ = r{x{s),l'{s)) = O((s — t)*). Теперь
| г (х (s), Г (s)) I +1 гН) (х (s), Г {s)) \ = O(s-f),

584 24. Смешанная задача Дирихле — Коши
так как левая часть равенства липшицева и равна 0 в точке t.
Левая и правая производные функции r(x(s), ?'(s)) совпадают
с r(i)(x(s), l'(s))dx\/ds, так как в силу равенства d(^(s), l'(s))l
ds = — H°r(x (s), I' (s)) остальные слагаемые сокращаются.
Здесь левая и правая производные dxi/ds равны ±ii(s)
= ±r(x(s), %'(s)I/2, и поэтому производные функции r(x(s),
%'(s)) являются величинами O(|s — t\a/2). Итак,
r(x(s), t(s)) = O(\s-t\5'2),
что завершает доказательство леммы.
В § 24.4 и 24.5 будут соответственно проверены условия (i)'
и (и) леммы 24.3.15 для множества WFb(u) в случае, когда и
есть решение дифференциального уравнения второго порядка
с гладкой правой частью, имеющее гладкие граничные значе-
значения; условие (i) в этом случае уже частично доказано в тео-
теореме 24.2.1.
24.4. Случай дифракции
Как в § 24.2, предположим, что Р — дифференциальный опера-
оператор второго порядка с вещественным главным символом р и
С°°-коэффициентами, определенный на С°°-многообразии X раз-
размерности п с нехарактеристической границей дХ. Настоящий па-
параграф посвящен доказательству следующего аналога теоремы
24.2.1. Напомним, что множество дифракции G^cr Т*{дХ) можно
отождествить с подмножеством множества Т*(Х) \дх.
Теорема 24.4.1. Пусть и, f^Jf(X), ио&2>'(дХ), и предполо-
предположим, что
^24.4.1) Pu = f в Х\дХ, и = ионадХ.
Если y^(WFb(u)nOd)\(WFb(f)[}WF(u0)), то окрестность
точки у на траектории поля Нр, проходящей через точку у, со-
содержится в WFb(u).
В доказательстве можно снова считать, что XcR+e
и р{х, g) = 1? — г(jc, Г). Итак,
Если с есть С^-функция, то оператор uf-*-e-cP(ecu) имеет тот же
главный символ, а коэффициент Ri заменяется на R\ — 2D\C.
Поэтому от члена с D\ можно избавиться и в дальнейшем счи-
считать, что
B4.4.2) /> = ?>?-*(*, &),

24.4. Случай дифракции 585
где R — дифференциальный оператор по переменным
х'—(Х2, ..., хп) с главным символом г(х, ?')• Можно считать,
что его коэффициенты имеют компактный носитель.
Первый шаг доказательства состоит теперь в обобщении энер-
энергетического тождества B4.1.2) путем подстановки вместо опера-
оператора первого порядка ? /'^ оператора, являющегося псевдо-
псевдодифференциальным вдоль границы, но дифференциальным пер-
первого порядка по х\. В дальнейшем удобно, чтобы общий порядок
этого оператора равнялся 0. Поэтому положим
B4.4.3) Q (х, D) = Q, (х, ?>') />, + Qo (x, ?/),
где Q/ — псевдодифференциальный оператор по переменным х'
порядка —/ с главным символом ц\. Предположим, что Q само-
самосопряжен:
B4.4.4) Q' = Q, т. е. Q'^Qt и QQ = Q0-[Dlt Q,].
Из этого следует вещественность символов q0 и q\. Пусть
иеСо°(ЛГ), и положим uj = D{u. Обозначая через (•,•)* и
(•, -) ajt обычные полуторалинейные скалярные произведения в
X и дХ, докажем, что верна
Лемма 24.4.2. Пусть операторы Р, Q имеют вид B4.4.2J,
B4.4.3) и выполнено условие B4.4.4). Для и е С<? (R+) верно
тождество ¦
, и,)х.
B4.4.6) 2 Im (Ри, Qu)x - ^ (Bjk tf, V) ик, ut)ax
о
о
Здесь B,, = Qi. Bot == В10 = Qo, Вм = Q, {R + ^*)/2 при х, = 0,
главный символ с1к (порядка 1 — j~k) оператора Cik веществен,
B4.4.6) ? ^ (х, 601{+* = {р, q) + 29 Im р
еде
Р,(х, 80 4 ^ ?
4 ^ )( ) ?
* 2 2
— субглавный символ оператора Р.
'Доказательство, Сначала подсчитаем вклад, который вносит
слагаемое ?>f:
{{D\u, Qu)x-(Qu, D?u)x)// = (D,u, Qu)ax + (Qu, D{u)dx

586 24. Смешанная задача Дирихле — Коши
Ввиду условия B4.4.4) еще одно интегрирование по частям
приводит к равенству
((?>,ы, QDlU)x~{QD,u, DM/i^-iQ^u, Dxu)dx.
Сумма получившихся граничных членов равна граничным сла-
слагаемым в B4.4.5) с / -+- k ф 0. Оператор [DltQ)/i самосопря-
самосопряжен и имеет главный символ —dq/dxi, что дает вклад
2l1dq/dx1 = {$, q} в сумму B4.4.6) от слагаемых второй суммы
в тождестве B4.4.5).
Остается изучить выражение
((Qu, Ru)x - (Ru, Qu)x)/L
Для этого положим R = R' -{- iR", где операторы R' и R" само-
самосопряжены. Оба они действуют по переменным х', и оператор/?"
имеет порядок 1. Теперь
({Qu, R'u)x-(R'u, Qu)x)/l = (fl'u, Яфх + ([/?', Q]u, u)x/i,
- {R"u, Qu)x - (Qu, R"u)x = - {QxR"u, Dxu)x
- WQ^u, u)x - (Ш" + R"Q0) u, u)x,
что дает член Boo = Q\R' в тождестве B4.4.5) и вносит в сумму
B4.4.6) вклад—{г, q} — 2qr", где г" = —Im/?s — главный сим-
символ оператора R". Доказательство леммы закончено.
Теорема 24.4.1 будет доказана с помощью оценки, которая
выводится из тождества B4.4.5). Чтобы увидеть, какие условия
следует наложить на Q, заметим сначала, что если ы = 0 на
дХ, то (BnU\,ui)ax есть единственный граничный член тожде-
тождества B4.4.5). По строгому неравенству Гординга (теорема
18.1.14) его можно оценить сверху величиной CHu^O.Olf-i), если
<7,<0. Если ?c/ft(*. Wt!+k<0, то
Z clk (х, Г) zkzf < 0, Bь, г,) е С2,
так как матрица (с/*) вещественна и симметрична. Поэтому
строгое неравенство Гординга для систем (см. замечания после
теорем 18.1.14 или 18.6.14) показывает, что вещественную часть
второй суммы в B4.4.5) можно оценить сверху через
С ? II «/||(о. -/)» т. е. в силу теоремы В.2.3 через С \\ и |Й. _i(. (В до-
добавлении В полупространство R+ определяется неравенством
хп ^ 0, в то время как здесь оно определяется неравенством
jki ^ 0; это изменение обозначений не должно приводить к пу-
путанице.) Фактически мы используем несколько видоизмененный
вариант точного неравенства Гординга с разными степенями,
приписываемыми компонентам и\ и щ, точно как в теореме 19.5.3.

24.4. Случай дифракции 687
Он следует из обычного варианта как в доказательстве этой
теоремы.
Для вывода оценки из тождества B4.4.5) нам, конечно, по-
понадобится сделать сумму 2 с/*(*. i')ii+* строго отрицательной
в некоторой важной области. Это будет достигнуто таким выбо-
выбором символа q, что HPq <0 и что в некоторой важной области
неравенство строгое. Однако это удается сделать лишь на мно-
множестве, где р (х, t)*=%i—r (х, %') = 0, т. е. q будет убывать
вдоль (ломаного) бихарактеристического потока. Следующая
лемма позволит нам воспользоваться этим более слабым усло-
условием положительности.
Лемма 24.4.3. Пусть У — открытое подмножество в R+ = {у е Rv;
у\ ^ 0} и геС°°(К). Предположим, что функция г веществен-
позначна, dr ф 0 при г = 0 и что дг/ду\ > 0, если г = у\
= дг/ду/ = 0 при }Ф\. Пусть
— такой многочлен второй степени по t с коэффициентами из
С°°(У), что
B4.4.7) А (/, у) = -ф (/, у? приР = г (у),
где ф е= С°° (R X Y). Тогда найдутся функции ф0, ф„ g(=cr(Y),
для которых Фо(#) = Ф(О, У)> $1Ы = di|> @, (/)/(?/ при г(у) = 0 и
B4.4.8) Л (/, у) + (% {У) + Ь (У) tf < g (у) {? - г(у)),
t s R, у е= У.
Доказательство. Если г (t/) > 0, то положим г (г/) = s2 и заметим,
что
Фо(У) +1>1 (</)' = *С, «/) при /—±s
в том случае, если
= (Ф(«, У) + Ф(-*. У))/2, Ф, (у) = (Ф (s, у) - ф (-s, t/))/2s.
Ввиду теоремы С.4.4 можно выбрать такие функции
X У), что
. Поэтому 1|)/(у) = г1г,(г(г/Iу)еСов(У) и функция
= А (t, у) + (*о (г/) + -фх (у) if - fe (у) + Ф, (#) (/* - г №

588 24. Смешанная задача Дирихле — Коши
линейна по t и обращается в 0 при t2 = r'(y] (здесь также
можно было бы применить подготовительную теорему Маль-
гранжа). Представляя ее в виде
B(t, y) =
заключаем, что ЬЩу)= 0 при г {у) ^ 0. Далее,
B(t,y)<f(y)(fi-r(y)),
если f(y) = O при г'(у)>0 и /(«/) ^ F{y), где
Здесь F=O(\г\") при любом N на любом компакте КсгУ.
Действительно, по теореме о неявной функции для любой точки
у^К, в которой г(у) отрицательно и достаточно мало, можно
найти такую точку ^еУ, что г(у)=0 и \у — у\ ^ С\г(у) |.
Поэтому лемма 24.4.3 является следствием такого утверждения:
Лемма 24.4.4. Пусть Y и г удовлетворяют условиям леммы
24.4.3 ы F—такая неотрицательная функция, обращающаяся
в 0 при г > 0, чго F = О(|л|АГ) при любом N на любом ком-
компактном подмножестве множества Y. Тогда существует такая
функция f <= C°°(Y), что F^f uf = Q при r^zO.
Доказательство. Локальные решения этой задачи могут быть
склеены воедино с помощью разбиения единицы. Поэтому
можно вести рассмотрение на компакте К, в некоторой точке
которого г <; 0. Положим
t) при t > 0; f,(/) = 0 при
Тогда функция Л возрастает и имеет нуль бесконечного по-
порядка при t = 0. Пусть еще
U (t) - J F, (ts) % (s) ds/s = J Fx (s) % {s/t) ds/s,
где функция xsCo°((l,2)) неотрицательна и \ x(s)ds/s= 1.
Тогда fi^Fu так как функция /^ возрастает, fi = 0 при
где Хо = Х и xft+,@ = — k%k(t) — t%'k(t)(=C™. Правая часть по-
последнего равенства оценивается величиной
F, B0$
= О
и поэтому все производные функции /i стремятся к 0 при ?->-0.
Это доказывает, что /i e С°°, и, следовательно, функция

24.4. Случай дифракции 589
f = f\{—rj имеет требуемые свойства. Доказательство леммы
закончено.
Лемма 24.4.5. Пусть А,к е= S'-'-*(R»x R"-1), /, * = 0f 1, имеют
вещественные однородные главные символы а/* (*,?'), равные 0
при большом \х\, и ао\ = аю. Предположим, что
? aik {х, Г) Ц+к = - Ф (х, If при Ц = г (х, Г),
где функция ф s C°° (R" X (R" \ 0)) однородна степени 1/2. Далее
предположим, что дг/дхх > Оиличтодг/д(х/, %') Ф 0 на (J suppa/ft.
Тогда существуют такие ЧУ*, r)^S1/2(R"X R") " Т,(х, Е0
sS~(R"X R""') с главными символами, равными ф(х, ?) и
^Ф (*» EV^Ei ЛР" Ei = /¦ (Jf, E') = 0, что для любой функции
mgCo (.R+j w любого хек
B4.4.9) Re ? (Л/А (ж, ?>') Z)f и, ?>{«*), + || ^0 (х, D') и
+ 4l(x,D')Dlu\t
Доказательство. Выберем такие С°°-функции $а(х, %') и ^(я, %'),
однородные степени 1/2 и — 1/2 соответственно, что ф;(х, I)
= д'^(х, l)ldl{ при 1х = г{х, Е') = 0 и что
B4.4.10) Z а/4 (ж. Г) Е{+* + {% {х, Г) + ф, (х, Г) Е:J
<г(*. ЕО(Е?-г(х, Г)),
где ^ — некоторая С^-функция, однородная степени —1. Это
можно сделать на основании леммы 24.4.3, положив г/=(х, %')
и t = Еь Требуемая однородность получается взятием ограни-
ограничения на множество, где l^'l^ 1. и последующим продолжением
по однородности. Функции ф/ и g можно выбрать равными 0
при большом \х\. Для операторов Ч1/ и G с главными симво-
символами ф; и g рассмотрим выражение
B4.4.11) Ке'?,(А1к(х,1У)ик,и,)х
+ Z (ЧГ,{х, D'Lk(x, V)uk, uf)x-(G(x, D')ux, u{)x
+ (G(x,D')R(x,D')uo,uo)x.
Главный символ суммы всех входящих в него операторов отри-
отрицательно полуопределен в силу B4.4.10), и поэтому из строгого
неравенства Гординга, как отмечалось выше, следует, что оно
может быть оценено сверху величиной C(luot "H^f )•

500 24. Смешанная задача Дирихле — Коши
Положим uk = ?>*и и заметим, что сумма двух последних сла-
слагаемых в B4.4.11) отличается от (—G(x, Dr)Pu,u\x на
(<?(*, &)D\u, u)x — (G(x, ?/)Diu, Dxu)x
@, .). «@. •))„-( [A, G(x, DO] A", «)*•
Так как оператор [?>i, G(x,D')] имеет порядок —1, то послед-
последнее слагаемое оценивается через С||ы||(о, o)ll^i"ll(o, -if. гранич-
граничный член можно оценить через CJ|i>i«@, •)I!(_x_i)||m@, -)И(х)-
Ввиду теоремы В.2.3 доказательство леммы закончено.
Замечание. Иногда мы будем называть выражение ? ац^'\гк
главным символом формы ^{А1к{х, D')D^u, Щи)х-
Теперь мы подготовлены к тому, чтобы начать доказатель-
доказательство теоремы 24.4.1. Как и выше, предположим, что .YcR",
оператор Р имеет вид B4.4.2) с коэффициентами из
C~(R+) и что y = @> So). ?о = (О, id- Заменяя X на меньшую
окрестность Х = Хо~К[0, с) точки 0, можно считать, что WF(f),
а поэтому и WF{u), не содержат над ХоХ(О, с) элементов
(х, %) с |' = 0. Эти предположения не нарушатся, если умно-
умножить и на срезающую функцию, равную 1 вблизи точки 0. По-
Поэтому будем считать, что ие|"A), Отметим, что, в силу тео-
теорем 18.1.36 и 18.3.32, afx.D'JHeC^) (соотв. a(x,D')f
еС°°(Х)), если символ a sS00(R"X Rn~l) имеет порядок —оо
в проекции конической окрестности множества WFb(u) (соотв.
WFb(f)) на R^XtR^'NO).
Выберем теперь такую открытую коническую окрестность
точки @, %) в X X (R" \ 0), что
(х, Г) е W, ж, Ф 0 =* (х, I) ф WF (/);
B4.4.12) @, х', 60 s W => (х', %') ф WFb (f) U WF (ы0);
(ж, 60
Это возможно, так как множества WFb{f) и WF(u0) замкнуты
и условие у е Gd означает, что г = 0, дг/дх\ >0 в точке у.
Предполагая, что на бихарактеристике гамильтониана р, про-
проходящей через точку у, существует такая точка уо ?* у, что би-
характеристический интервал [у0,у] лежит над W и yo(?WF(u),
мы должны доказать, что @, !?) <? WFb {и). Пусть на этой
бихарактеристике точка у лежит после точки уо; когда точка уо
лежит после точки у, доказательство совершенно аналогично.
Выберем открытую коническую окрестность Го точки у0 в
Т*(Х°)\0, для которой ГоП WF{u) = 0. Пусть W0 — множе-
множество всех таких (*, %')^W, что если г(х, %')^0, то суще-

24.4. Случай дифракции 591
ствуют бихарактеристические интервалы, возможно, ломаные,
с одной точкой отражения или касания на дХ, лежащие над W
и имеющие начальную точку в Го и конечную точку
{х, ±г(х, |'I/2>?')- По соображениям непрерывности Wq — от-
открытое подмножество в W. Ясно, что множество Wo коническое
и содержит точку @, g^). Мы докажем, что % (х, Df) и е С°°,
если хе 5° и cone supp х с Wo. По теореме 18.3.32 из этого
следует, что @, ??) ф WFb (и) (под cone supp % понимается наи-
наименьшее замкнутое коническое множество, содержащее suppx)-
Из теоремы 24.2.1 и из B4.2.4) известно, что
B4.4.13) {(*', 60; @, х', 60 е Го, (*', Г) е WFb(u)} cr Gd,
если рассматриваться как подмножество в Т*(дХ0), и что мно-
множество
{(*, I) e WF (и); х, > 0, (х, 60 «5 ^о}
содержится в лежащей над И?о части образа множества Gd при
движении вперед под действием потока поля Нр. Поэтому на
нем Ь > 0 (напомним, что |i строго возрастает на (ломаных)
бихарактеристиках, так как dr/dxi > 0, и что на них dx\/dt
= 2|i). Действительно, если точка (х, |) не содержится в этом
образе, то определение Wo показывает, что при движении на-
назад из точки (х, %) бихарактеристика обязательно попадает в Го
не более чем после одного трансверсального отражения и при
этом ее проекция остается в W.
Более того, теорема 24.2.1 приводит к включению
B4.4.14) х(х, Df)(D, -Л+ (х, D'))иеС"(X),
если х е ^° и Л > 0 на сопе SUPP X с И^о. Здесь оператор
D\ — K+(x,D') в разложении B4.2.6) определен на уровне сим-
символов при г > 0, и поэтому его композиция с х(*>^0 опреде-
определена с точностью до оператора порядка —оо. Для доказатель-
доказательства достаточно заметить, что, двигаясь назад из точки
(х, —г (х, 601/2> 60 с (*> ?')е сопе SUPP X. бихарактеристика остает-
остается над W до тех пор, пока она не попадает в Го, и что на ней
г (х, 60 = 6| > 0, так как при движении по бихарактеристике
назад координата ?i убывает.
Нам также понадобится микролокальиая форма теоремы
В.2.9,
Лемма 24.4.6. Если при сделанных предположениях %(x,D')u
е H(m, s) для_ всех % е 5°, для которых cone supp % с: Wo, то
¦^(х, D')u<= /?(m+i, s-i) для всех таких символов %.

692 24. Смешанная задача Дирихле — Кошн
Доказательство, Поскольку
1У)и = %(х, D')f + R(x, Df)%{x, ?У)и + [Р, %(х, D')]u
и [Р, %(х, D')\ = Xi(x, /У)?>1 + Хо(*. Я'), где символы X/ по-
порядка 1 —у имеют порядок — оо вне conesuppx, то Dfy(x, Dr)u
еЯ(т_1, s-iy Теперь из теоремы В.2.3 получаем_сначала, что
Da(x, D')u<=H{m,s-\), и затем, что %(х, Г/) и е Hm+i, s-iy
Так как и е Я(т, s> при некоторых m, s, то, повторно поль-
пользуясь леммой 24.4.6, заключаем, что при некотором s
B4.4.16), %(х, ООвеЯ,,,^ %(х. D')fl1BL1_oetf(i_1)(Re-1)
для всех символов х е 5°, для которых cone supp % с: ft^0. До-
Доказательство теоремы 24.4.1 будет закончено, если доказать
импликацию B4.4.15) s =^B4.4.15)s + i/2, поскольку в силу лем-
леммы 24.4.6 тогда можно будет заключить, что %{x,D')u^Cco
для всех символов х е 5° с cone supp x с Wo. Решающим эта-
этапом этих индуктивных рассуждений является
Лемма 24.4.7. Предположим, что q (х, |) = qx (x, I') |, -f q0 (x, |'),
аде коэффициенты qj eC°°(RnX(Rn~1 \0)) сосредоточены в Wo
и однородны степени —/, и пусть q^O, х', !') = — t{xf, \ff для
некоторой функции t e С". Далее, предположим, что при неко-
некоторой постоянной М
B4.4.16) {р, q) + qM\ |' | = - ^ + р (|, - r^) uq = v2npup = 0,
где функции гр, v&C°°{RnX(R" \0)) имеют носители над
множеством Wo и однородны степеней 1/2 и 0, а функция
р <= С00 (R" X (R" \ О)) однородна степени 0 и г>0 на множе-
множестве suppp, содержащемся в Wo. Если и удовлетворяет усло-
условиям B4.4.1) и B4.4.15)s, M больиш некоторого числа, зависящего
от Р и s,aT — оператор с главным символом I, то Т (х', D') Dxu \х _0
w(""') и Ч0(х, D')u + 4x{x, D^DiUezH®,*) для некоторых
j Sw~f с cone supp WjCWq и с главными символами, рав-
равными д'${0, х', О, \'IЩ при х{==г(х, 10 = 0.
Доказательство. Заметим сначала, что по соображениям непре-
непрерывности энергетическое тождество B4.4.5) справедливо для
всех ие% Выберем такой однородный степени 0 при ||'|>1
символ %еС°°, что conesuppx с Wo и х равен 1 в окрестности
множества supp q/ при /" = 0, 1. Применим тождество B4.4.52 к

24.4. Случай дифракции 593
взяв Q = Q1(x, D')DX + Qo{x, Dr), где Q,(x, l') = qf{x,l') при
| %' |> 1. Вследствие B4.4.15)s и леммы 24.4.6 имеем «,еЯ(з, _1)СЯB)
при е >0 и элемент ые ограничен в Яц, _i> при е-*0. Лемма
получится предельным переходом при е->0 после того, как
будут даны подходящие оценки для членов, входящих в тож-
тождество B4.4.5).
Начнем с изучения Рие. Обозначая
Ae = (l+e2|D/pr1(l+l^/P)s/2,
имеем
Здесь слагаемое ft = At%{x, D')f ограничено в Яр,«), так как
%(х, Df) f e Я(о, оо), и второе слагаемое ограничено в Я^-!)
в силу B4.4.15)s. Для изучения 1т(Ри&, QuR) нужно проделать
более детальный анализ. Поэтому воспользуемся равенством
(IP, АЛ(х, D')]u, Qut) = (At[P, X(x, D')]u, Que)
V Q«e).
Первое слагаемое в нем ограничено при е->0, так как опера-
оператор Q'tAe[P, %(x, D')] имеет порядок —оо по D'. Чтобы спра-
справиться со вторым слагаемым, рассмотрим оператор
0е (х, D') = [Р, А.] Л = Ле [ЛГ1, Р]
= A+|ОТГ/2[A + 1^РГ/2, Р]
Символ Ge(x,%') ограничен в S1, так как символ (e~2-f-11'|2)~1
ограничен в S~2 при 0<е< 1. Его старшая часть чисто мни-
мнимая. Пусть
М + 2 Im (Ge(x, I') - р'(х, Г)) A +1Г РГ1/2> 1
при 0 < е < 1 для всех (х, %'), и положим
5е (х, |') = A +1 Г РI/4 (M+2lm (Ge (х, |')
Этот символ ограничен в S1/2 при 0<е<С 1. Так как символ
оператора
МA +1 D' \2)щ + 2Ge (х, D')/i - 2 Im ps (x, Dr) - Se (x, Dj Se (л:, D')

694 24. Смешанная задача Дирихле — Коши
ограничен в S0, то
2 lm (Ge (x, D') в., Que) > Re (B Im ps (x, D')
- M A + ID' \2)m ue( QuB) + Re (S8 (x, D') uz, QSe(x, D') ue) - C,
при некотором C\. Здесь также использовано то, что семейство
операторов [S*{x,D'),Q] ограничено в классе операторов по-
порядка — 1/2. Полагая vt = A +|D'|2)-1'4Se(*, D')uB, слагаемое,
содержащее оператор Se, можно представить в виде
ReZD/ft(*, D')D\v&, D[vt),
где
1/ lii
I2I/4Qi (x, D') A +1D' f)xli.
Главный символ этой формы равен ||'|о2 при р = 0, и поэтому
применима лемма 24.4.5. Как уже отмечалось, величина
II "е ll(i _i) + ll^uell(o,-1) ограничена при е->•(). Поэтому величина
II vell(i -i)+ \\Р*>Лц>.-1) ограничена, и то же верно в отношений
других слагаемых в правой части B4.4.9), если и заменено на
t'e, а х достаточно велико. Действительно, элемент аЕ@, ¦) огра-
ограничен в #(«>). В итоге нами доказано, что
B4.4.17) 2 Im (Pue, Qut) > Re (B Im ps (x, Dr)
-M{\+\D'?f2)ue,Qub)-C2.
Далее выведем оценку сверху для правой части тождества
B4.4.5), примененного к ыв, используя лемму 24.4.5, чтобы
оценить
B4.4.18) ReZ(CIk(x,D')DU, D[u)
+ Re ((Л* A + | О' P)I/2 - 2 Im ps (x, D')) «e, Que)
-A+(*, D'))ut, p°(*, D')u&).
Здесь операторы Cjk взяты из леммы 24.4.2, функция р°(д;, ?')'
е С°° равна р(х, %') при ||7|> 1, символ фе5° равен 1 в окре-
окрестности множества supp p°, cone supp ф с Wo и г ~> 0 на
conesuppqx При р(х, |) = 0 соответствующий главный символ,
определенный, как в лемме 24.4.5, равен
{р, q) + qM ||' | - р (I. - г'/*) = - Г-
Поэтому оценки для «8 и Рив, уже использованные в доказатель-
доказательстве неравенства B4.4.17), показывают, что B4.4.18) можно
оценить сверху через
, (д:, D') Dxue ||J,

24.4. Случай дифракции 595
где Ч*/ связаны с ф так же, как в лемме 24.4.5. Пользуясь
B4.4.14) и тем фактом, что символ оператора [<р(х, D')(D\
— Л+ (x,D')), At%(x, D')] ограничен в Ss, заключаем, что
B4.4.19) Re (<р (х, D') (Д - Л+ (х, D')) и„ р° (х, D') а,) < С,.
Следовательно, в итоге доказано, что
B4.4.20) И Чо (х, D') и, + Т, (х, Df) D,«efl*
Так как Ви + T(xr,D')*T(x',D/)—оператор порядка —2, то
(*', D')uel, a.i)ex+lir«.ilex<C||aei(O, -)llf_0
Прочие граничные члены в B4.4.5) ограничены при е->-0, по-
поскольку функция «в@, •) ограничена даже в С°° вследствие вто-
второго из свойств B4.4.12). Поэтому
II % (х, D') ие + % (х, D') DlUe fx +1| Тие1 ft, < Се,
и лемма получается переходом к пределу при е-»-0.
Из леммы 24.4.7 следует, что Dxu ]Xt_Q принадлежит про-
пространству #(S-i/2) в точке {х*, |'), если t(x', |') Ф 0. Если, по-
разному выбирая функцию q, мы получим W0(x, Г/)и
+ Ч;1 (х, D')DiU е Нф, s) для двух разных пар операторов WQ, Ч']
порядка 1/2, — 1/2, образующих эллиптическую систему на
множестве conesuppx, где Xе S0, то х(*> O')«e%i+№
%(х, Z/JDjU s Яда, s-1/2),что представляет собой локальную форму
соотношений B4.4.15) s+i/2- Поэтому основным, что нам осталось
сделать, является построение операторов, удовлетворяющих
условиям леммы 24.4.7. Это довольно просто, так как равенство
B4.4.16) является условием лишь на ограничение функции q
на поверхность р[х, |) = 0. Поэтому сначала условие линейности
функции q no gi можно отбросить. Прежде чем привести построе-
построение, докажем две технические леммы, которые позволят нам
извлечь квадратный корень /.
Лемма 24.4.8. Если функция xsC°°(R^) неотрицательна и
B4.4.21) 1Да
для всех мультииндексов а и всех k < 1, то у}12 е С00^*). Мно-
Множество всех х, удовлетворяющих условию B4.4.21) при фиксиро-
фиксированных постоянных С (а|, *, выпукло и содержит нулевой эле-
элемент. Произведение двух таких функций обладает этим же
Свойством С ПОСТОЯННЫМи 2|а|С,а|,* вМеСТО Cjal, *.

596 24. Смешанная задача Дирихле — Кошй
Доказательство. На множестве, где % ф 0, производная Da7x1/J)
представляется в виде линейной комбинации членов
что доказывается по индукции. Поэтому
I^X |^Ча|, feX = C-l a I, fcX .
где ?'=1—2Д1—А:)>0,если A > 1 — 1/B/). Ввиду следствия 1.1.2
это доказывает, что %х/2 е С°°; в действительности оценки вида
B4.4.21) с другими постоянными справедливы для функции
Х1/2. Если х = ^iXi + ^2X2, где функции х/ удовлетворяют B4.4.21)
и %i — вещественные неотрицательные числа, сумма которых
равна 1, то
вследствие неравенства Гёльдера. Это доказывает выпуклость
рассматриваемого множества функций. Последнее утверждение
леммы следует из формулы Лейбница.
Лемма 24.4.9. Если ^^CX{RN) и функция yrt = dl§ удовлетво-
удовлетворяет оценкам B4.4.21), то
(ф (/, + t0, /2, ..., tK) - ф (/, - /„, t2 tN))/2tQ
t tNf,
Доказательство. Указанное разностное отношение можно пред-
представить в виде
1
F{h h)= Jx(*i + s<o. k tH)dsl2.
Подынтегральное выражение, очевидно, удовлетворяет B4.4.21)
при фиксированном s с теми же самыми постоянными, так как
при дифференцировании выносятся лишь степени параметра s.
Вследствие выпуклости, доказанной в лемме 24.4.8, функция F
обладает теми же свойствами, и поэтому F1/2 e С°°. В силу след-
следствия С.4.4 эта четная по to функция представима в виде
<р(& U <лг)> где (f^C°°(RN+l). Доказательство леммы за-
закончено.
Примером функции, удовлетворяющей оценкам B4.4.21), яв-
является функция
при />0; Хо<0 = 0 при

44.4. Случай дифракции 597
Используемая ниже в качестве срезающей. Функция %о также
удовлетворяет оценкам B4.4.21).
Доказательство теоремы 24.4.1. Теперь построим функции q,
удовлетворяющие условиям леммы 24.4.7. Пусть @, у', r\') e Wo,
(yr,r\')&Gd, |ti'|—1- Положим
B4.4.22) Ф (х, ?) = ф1 (х, Г) |, + ф0 (х, Г),
B4.4.23) Ф, (х, Г) = 1/11' |, Фо (х, |') = х\ + | х' - / Р
Тогда функция ф возрастает по переменной \х и
ЯРФ - {I? ~ Л фД + Ф0} = 6, {2 aq^/to, - {г, Ф,})
+ Ни г} Ф; — {г, ф0}.
В конической окрестности W^ cz й^0 точки @, у', tj') благодаря
B4.4.12) при некоторых положительных постоянных с и С имеем
B4 4 24) Ъ.^
Поэтому Ярф>0 при |g, |<|g|
Выберем число 6 настолько малым, что {х, I') e Wu',^, если
Фо(*. 1')^3б, и в качестве предварительного выбора для q
рассмотрим функцию
где функция зсо определена выше и функция %2 s CJJ° ((—3, 3))
неотрицательна и равна 1 на интервале (—2, 2). Позже нам
также понадобится срезающая функция Xi e С™ ((—2, 2)), рав-
равная 1 на интервале (—1, 1). На множестве suppf имеем Ф<[б,
и поэтому ?i^6|g'|. На множестве supp f f)suppd%2(ф/6) имеем
Фо + Ф111^6| Фо^26, и поэтому li^ —б|1'|. Из этого следует,
что r^62\l'f, если, кроме того, р(х, Ъ) = 0. Поэтому
rW) при
где функции
B4.4.25) * =
B4.4.26) -2л'/2р = _A -р
вычислены при ?i = — г1/2, если г > 0, и р = 0, если г < 0. Здесь
B4.4.27) ЛГ = зс2(Фо/бJDA -ф/б)ЯрФ/б-х0A -

598 24. Смешанная задача Дирихле — Кошн
На носителе функции \|з имеем ^i|i|s^28 и фо<;38. Следова-
Следовательно, 1 — ф/б ^ 3. Ясно, что при t ^ 3 и 110а | ^ 1 выражение
является С°°-функцией С (a, t). Из формулы
N - %г (фо/б) (% A ~ Ф/б) #оФ/б)</2 G (М | Г 16/ЯрФ, 1 - ф/6)
заключаем, что \|з s С°° при малом 6. На носителе функции
A — tf)N имеем I, < — б||'|, и поэтому г>6| I' |2. Из этого
сразу следует, что функция р также принадлежит С°° и что
л>62| |' рна ее носителе. Полагая w=Xi (li/l I' 1)х2(Фо/б)Хо A—ф/бI/2,
имеем реС°° и и2 = / при р = 0, если б достаточно мало.
Теперь с помощью подготовительной теоремы Мальгранжа
определим q{x, \) как остаток от деления / на р:
f (х, 1) = р (х, I) g (х, I) + 4l (х, Г) |, + <70 (х, |').
Так как {р, f} = {p, q) при р(х, |) = 0, то условие B4.4.16) вы-
выполняется. При г(х, |') > 0 имеем
?,(*. П = (/(*. Б„ Г)-/(х, -I,. Г))/26Р если 1? = г(х, !')•
Так как — ^//5|1 = Х2(ф0/6Jх^A — ф/б)ф1/б, то из леммы 24.4.9
следует, что правая часть этого равенства равна — F(|2, x, g'J,
где F е= С00. Поэтому ^i (х, |') = —F(r, л:, |'J при г > 0. Не нару-
нарушая B4.4.16), можно заменить^ на—<2, где t=* F(r(x,g),x,l'),
и тогда нами проверены все предположения леммы 24.4.7. Если
^/ — главный символ оператора У/, то в точке {у', т\') (соотв.
((),#', т)')) имеем
Поэтому символ < нехарактеристичен в точке (г/', т]') и отноше-
отношение t|ji/tf>o близко к функции— Ф1Х^A)/2Х^AN в точке (°. У'' П')»
если б мало. При двух различных малых б эти отношения раз-
различны. Поэтому, как показывают рассуждения, предшествовав-
предшествовавшие лемме 24.4.8, нами доказаны включения B4.4.15) s+i/2. если
носитель символа % лежит достаточно близко к точке (y',r\f).
Для завершения доказательства нужно установить аналогич-
аналогичный результат для образа множества Ga П ^о в Wo при движе-
движении вперед под действием потока поля Нр. Это можно сделать
снова с помощью теоремы 24.2.1. Сначала для бихарактеристики
Г, выходящей из точки множества Gdfl^o, выберем такой опе-
оператор Q (x, D') порядка 0, что носитель его символа лежит вблизи

24.5. Распространение особенностей в общем случае 599
Г и что он почти коммутирует там с оператором D\ — Л+, кроме
множества, где Х\ настолько мало, что оно уже контролируется
нами. Затем на нем оператор Q срезается до нуля. Ввиду уже
доказанного результата, имеем
(А - Л+ (х, D')) (Q (х, D') (Д - Л_ (*, ГУ)) и s Я(о,.. 1/2).
Поэтому из теоремы 23.1.2 следует, что Q(x, D'){DX — Л_(*, 1У))и
s Я(о, s-i/2). Вместе с уже установленным фактом, что
Х(х, ^)(D, —Л+(х, Z/))«eC°° при xe=S° и л >0 на
conesuppxc: Wo, это в силу обычной эллиптической теории вле-
влечет справедливость B4.4.15)^+1/2, если suppx содержится в до-
достаточно малой конической окрестности некоторой точки на Г.
Доказательство теоремы теперь закончено.
Замечание. Ясно, что из доказательства теоремы можно извлечь
более точный результат о микролокальной Я^-регулярности.
Он опущен для краткости (ср. с теоремой 26.1.4 по поводу соот-
соответствующей ему теоремы о внутренней регулярности).
24.5. Распространение особенностей в общем случае
Мы начнем с доказательства свойства (И) леммы 24.3.15 для
множества WFb(u) в случае, когда и есть решение задачи Ди-
Дирихле. Заметим, что на множестве дифракции (И) следует из (i).
Поэтому можно действовать на всем множестве касания, опу-
опуская подмножество, на котором скользящий вектор равен 0, так
как обобщенная бихарактеристика, проходящая через такую
точку, не являющуюся точкой дифракции, тривиальна ввиду
следствия 24.3.10.
Как в § 24.4, будем считать, что оператор Р имеет вид
B4.4.2), причем носители коэффициентов оператора R ком-
пактны. Пусть u^Jf(X)— решение граничной задачи
B4.5.1) Р« = / в Х\дХ, и = щ на дХ,
где АГ— открытое подмножество в R+ и dX — Xf\dR+. Можно
предполагать, что и имеет компактный носитель в X и что
|'^0, если (x,QeWF(u), xx > 0. Пусть W. — такое открытое
коническое множество в XX(R"~IN40), что
B4.5.2) (х, l')&W, х{ф0=> (х, I) ф. WF (/).
@, х', Ю е W => (*', V) ф WFb {f) U WF (щ).
Обозначим через К компактное подмножество в {{х1, %')
<= G, @, х', lf) e F>, на котором
B4.5.3) поле Нг,{х', !') не радиально при (х', !')^#,

600 24. Смешанная задача Дирихле — Коши
Будет удобно считать, что |?'|= 1 на К. Для каждой точки ком-
компакта К найдется такая однородная степени 0 функция
JV<=C°o(Rn-IX(Rn-I\0)), что HnN=\l'\ в конической окре-
окрестности. Разбивая К на конечное число компактных множеств,
можем поэтому считать, что
B4.5.4) {г0, Af}=||'| в конической окрестности компакта К.
Из леммы 24.4.6 следует, что при подходящем s
B4.5.5)s x (*> D') и е Я@, S), если x^S0,
Наша Цель — улучшить это соотношение в точке, куда прихо-
приходит скользящий луч, вблизи которого имеется меньше особен-
особенностей, чем это утверждается условием (и) леммы 24.3.15. До-
Доказательство для уходящего скользящего луча аналогично и
предоставляется читателю в качестве упражнения. (Напоминаем,
что скользящий луч есть траектория поля —НГо, где го(х', !')==
''(О, х', |').) В следующем предложении используется обо-
обозначение
WF'(u) = {(x, Г); (я7, Г) е WFb(u), если х, = 0, и
(х, ?,, |')eff(«) при некотором ?„ если хх > 0}.
Предложение 24.5.1. Предположим, что выполнены условия
B4.5.1) —B4.5.4) и что \т\'\=\, если (»W)<=tf. Для е >0 су-
существует такое бв > 0, что если (у',г\')&К и при некотором
бе@,бе)
B4.5.6) *, < еб, | (*', Г) - (/, л') - ЬНГ> (/, л') I < еб
то tftvnb
Так как ехр (б#,0) (t/, л') = (/. л') + 6Я.О (у', л') + О (б2), то из
B4.5.6) следует, что при достаточно малом б
B4.5.6)' х, < еб, | (*', Г) - ехр F#„) (*/', л') I < еб/2
=>(х, '
Такая форма этого условия будет удобнее ниже.
Основным моментом в доказательстве предложения является
небольшая модификация леммы 24.4.7:
Лемма 24.5.2. Пусть q, v, b, ее C°°(R'»X(R"-1\0)) — однород-
однородные функции степеней 0, 0, 1/2, 1/2 соответственно, все с носи-
носителями в W, для которых
B4.5.7) [р, я) + яМ\1'\ = -Ъ2-Ь2 + е>, <7 = о2 при р = 0.
Здесь, функция \|з е С°°(РлХ(К"\0)) однородна степени 1/2, ее
носитель лежит над W_ и М — постоянная. Выберем функции

24.5. Распространение особенностей в общем случае 601
В, Е е С"", равные Ъ, е вне некоторого компакта. Если условия
B4.5.1) — B4.5.4), B4.5.5) s выполнены, М больше некоторой
постоянной, зависящей от Р и s,u E (х, D') и е Я@, S), то В (х, D') и
ДЬказательство. Мы близко следуем доказательству леммы
24.4.7, но функция q теперь не зависит от \\. Сначала, как и там,
определим ме. Доказательство неравенства B4.4.17) не требует
изменений. Вместо формы B4.4.18) рассмотрим форму
Re ? (С/4 (х, If) Я*и„ D[ua) + Re ((M A +1 D' f)m
-2lmps(x, D'))и„ Qu.) +1|В(x, Df)иг\f-\\E(x, D')иг f,
имеющую главный символ —^(x, |J при р(х,?) = 0. Так как
функция ые@, •) ограничена в HiK) при каждом к, то, как и
выше, заключаем, что данная форма ограничена при е->0 (мы
отбрасываем положительные вклады, которые можно получить
из ф, как в лемме 24.4.7, поскольку теперь существенным яв-
является член, содержащий оператор В). Все граничные члены
ограничены, так как Qi = 0. Новый момент заключается в том,
что выражение
Е(х, D')us = AeX(x, D')E(x, If)u + [E(x, D'), As%{x, If)]и
ограничено в L2 при е->-0, так как по предположению E(x,D')u
еЯ@(») и символ оператора [Е(х, D'), Ae%{x, D')] ограничен
в Ss~1/2 при е->0. Итак, нами доказано, что норма \\B(x,D')ue\\
ограничена, откуда на основании тех же соображений вытекает
ограниченность \\Ae%(x,D')B(x,D')u\\ при е->-0. Поэтому
х(х, D')B{x, D')u e Я(о, «>. что доказывает лемму, если взять
символ х равным 1 на множестве supp В.
Доказательство предложения 24.5.1. Для каждой точки {y',r\'f
еК выберем функцию а>(х', ?')= са(х', %', у', т|') в конической
окрестности этой точки, решая задачу Коши
B4.5.8) Нф = 0; сэ (•, \')««| *' - /12 +1 Г/] ГI - V р
при Ntf.l'
Ввиду B4.5.4) существует единственное решение этой задачи,
если |^ — у'\2 Hhll'/ll'l — л'!2 достаточно мало. Оно имеет
нуль второго порядка на бихарактеристике гамильтониана г0,
проходящей через точку (у',г\), и, следовательно, на порож-
порождаемом ею конусе, но его гессиан в трансверсальных этому ко-
конусу направлениях положителен, поскольку это справедливо в
точке (у', г/). Так как го на бихарактеристике обращается в 0,
то получаем, что
B4.5.9) |го|<С«'/»|6'Р.

602 24. Смешанная задача Дирихле — Коши
Аналогично имеем
B4.5.10) | дфхг р +1 дф1' f 11' р < С©,
что также является следствием леммы 7.7.2, так как <d ^ 0. При
B4.5.11) Ф (х, 60 = JV (*/', Ч0 - N (*', 60 + *i/e + ® (*'. Г)/бе2
получаем
ЯрФ = Яг# + 2^/е - #гю/бе2.
Вследствие B4.5.8) и B4.5.10)
Яга> = (Нг - Нп) ш = О (*,) О A6' I <»1/2),
и на характеристическом множестве имеем
Если ЛГ(*', Ю-Nit/, чО<26 и ф(л:, 60<26, то х,<4бе и
<о (•*', 60 < 46V. Следовательно, при малом б
B4.5.12) #рф - {г, Щ + О ((б/еI/2) | Г |, если р [х, I) = 0,
6 и N(x',t')-N(y',
Здесь первое слагаемое больше |6'|/2 в силу B4.5.4), если б
мало. Поэтому в этом случае оно является основным.
Как в доказательстве теоремы 24.4.1, положим
при t > U;
Пусть Xi @ = 0 при / < 0, Xi(fl=l при/> 1 иО<Х1^С~((О, 1)).
Выберем функцию Xi> удовлетворяющую условию B4.4.21).
Тогда оно верно и для функции х<- При (у',и\')& К, малых в,
6<СеиО^*^1 введем теперь функцию
B4.5.13)
qt (х, Г) = Хо A + / - ф/6) х, ((N (/, чО - N (xf, Г) + б)/еб + о.
Ясно, что функция qt однородна степени 0. Носитель функции qt
содержится во энутренности носителя функции qT при t <.Т, так
как хо и xi возрастают. На носителе первого множества имеем
: 6A+ 0^28, а на носителе второго N(y', чО— #(•*'. 60
^—^еб. Этот множитель равен 1 при N(yf, i\')— Ntf, 60
\& р р (y, \) tf 60
+ б ^A — Оеб. Поэтому ои постоянен вне узкой полосы. Опре-
Определим функцию
B4.5.14) ^(Хо A+* - Ф/б) х{ ((#(/, 40
- N(xf, 60 + 6)/вб + 0 {г, ЛО/еб).
Она является С°°-функцией, однородной степени 1/2, так как
Хо'2 и (Xl)l/2 суть С°°-функции и (г, Щ>0 благодаря B4.5.4).

24.5. Распространение особенностей в общем случае 603
Если (х, Ю ^ supp еи то | N (у', г\') — N (xf, I') -f б |< еб, и поэ-
поэтому N (х', %') — Л^ (/, тH < 26, а значит, дг, < 4еб и <»(*', Ю
<4е2б2. Если (/F),г1/(б)) = ехр(бЯл0)(г/', лО, то из условия
B4.5.4) следует, что
IN (у' (б), л' (б)) - N (*', ЮI < еб + О (б2).
При достаточно малом б получаем
B4.5.15) 1
так как величина \N(x',l')—N(yf(8), r\'(8)) |2 + ®(х\ Ю экви-
эквивалентна квадрату расстояния от точки (хг, |'/||'|) до луча,
проходящего через точку (у'(8),-х\'(8)). Предполагая справедли-
справедливость B4.5.6)' при е, замененном на 2Се, заключаем, что
supp et П WF'(u) = 0, и поэтому Et {x, D') и е С°°.
Чтобы применить лемму 24.5.2, нужно еще выбрать такие
функции bt и ф<, что
B4.5.16)
. ЗС, (Х$A + / - Ф/б)ЯрФ/б - М\ Г1ХоA + / ~ Ф/6)) =
Здесь аргумент функции Xi тот же, что в B4.5.13). Вспоминая
B4.5.12), положим
B4.5.17) bt {х, Ю = (x^J (I + / - Ф/б) 11' |/2бI/2,
B4.5.18) ^(дс, 1)==х}'2(х;A+^-ф/б)(Ярф-|Г|/2)/б
Ясно, что 6< s С°°. На носителе функции <7< имеем 1 + t — ф/S^ 4
и Ярф^2||'|/3 в его пересечении с характеристическим мно-
множеством благодаря B4.5.12). Так как X0(s)/y^{s) = s2, то при ма-
малом б получаем, что tf< e С°° в конической окрестности характе-
характеристического множества, поскольку можно сначала отщепить
гладкий множитель х^A +/ — ф/бI/2|^7б|1/2. Можно умножить
функцию ty на срезающую функцию с носителем в этой окре-
окрестности, равную 1 на характеристическом множестве.
Проверив все условия леммы 24.5.2, заключаем, что Bt(x,D')u
е ff(»+t/2). Рассмотрим множество
^* = {(*,Г); bt(x,t')>o},
являющееся конической окрестностью множества supp qr при
t'<t. Если cone supp % cr Wt, то выполнено B5.5.5) s+l/2. Для
любого t < 1 и любого целого k эти рассуждения можно приме-
применить k раз, заменяя t на t\, ..., h, где / < tk <L ... <. t\ < 1.
Тогда получаем B4.5.5) t+*/2, если cone supp % cr Wt, и поэтому

604 24. Смешанная задача Дирихле — Коши
Х(х, D')u^C°° ввиду леммы 24.4.6. Из теоремы 18.3.32 следует,
что (у', т)')^ WFb(u). Это заканчивает доказательство предло-
предложения.
С помощью леммы 24.3.15 равенство B4.2.4), теоремы 24.2.1
и 24.4.1 и предложение 24.5.1 можно теперь резюмировать так:
Теорема 24.5.3. Пусть Р — дифференциальный оператор второго
порядка с вещественным главным символом р и Сх'-коэффициен-
Сх'-коэффициентами, определенный на С°°-многообразии X с нехарактеристиче-
нехарактеристической границей дХ. Пусть u^.Jf{X) — решение граничной за-
задачи B4.5.1) с данными f<=Jf(X) и аое2)'(М). Тогда каж-
каждая точка YoS WFb(u)\(WFb(f)U WF(uo)) есть либо характери-
характеристическая точка оператора Р во внутренности множества X, либо
точка области гиперболичности или множества касания, содер-
содержащихся в Т*(дХ). Открытый интервал (—Т, Г)э t*->y(t),
y@) = yo, на сжатой обобщенной бихарактеристике содержится
в WFb(u).
Заметим, что последнее утверждение тривиально, если поле
Нр(у0) радиально или если поле Нр (/уо) радиально и yo не яв"
ляется точкой дифракции. Соответствующая обобщенная биха-
бихарактеристика является тогда просто лучом. В противном случае
особенности продолжают распространяться вдоль обобщенной
бихарактеристики до тех пор, пока последняя остается в ком-
компактном множестве, не достигает особенностей данных f, uo и не
стремится к особой точке только что описанного типа. Чтобы
показать неулучшаемость этого результата, нужно распростра-
распространить теорему 24.2.3 на обобщенные бихарактеристики. Однако
известен лишь более слабый результат:
Теорема 24.5.4. Пусть Р — дифференциальный оператор второго
порядка с вещественным главным символом р и Сж'-коэффициен-
Сж'-коэффициентами, определенный на С°°-многообразии X с нехарактеристиче-
нехарактеристической границей дХ. Пусть [а, 6]э tfi—»Yv@ — сжатые ломаные
бихарактеристики, нигде не касающиеся слоев кокасательного
расслоения Т*(Х), сходящиеся при v->oo к сжатой обобщенной
бихарактеристике [a, b]^ t*—>y(t), инъективно проектирующей-
проектирующейся на сжатое косферическое расслоение и имеющей концевые
точки у(а) и у(Ь), лежащие над Х°. Тогда существует такое не
^Jf(X), что WFb(u) есть конус, порожденный множеством
y([a,b]), WFb(Pu) порождено точками у{{а,Ь}) и ы = 0 на дХ.
Доказательство. Достаточно найти такую функцию иеф),
обращающуюся в 0 на дХ, что множество WFb(Pu) содержится
в конусе Г', порожденном точками у (а) и у(Ь), в то время как
множество Wft^u) содержится в конусе Г, порожденном точ-

24.5. Распространение особенностей в общей случае 60S
ками кривой у ([а, Ь\), но не содержится в конусе Г'. Действи-
Действительно, тогда u^Jf(X) благодаря следствию 18.3.31, и из тео-
теоремы 24.5.3 вытекает, что WFb(u) = r, WFb(Pu) = T'. Здесь по-
прежнему может быть использован функционально-аналитиче-
функционально-аналитический* подход из доказательства теоремы 8.3.8. Поэтому обозна-
обозначим через Э~ пространство Фреше всех функций и^Со(К),
обращающихся в 0 на дХ, для которых WFb(Pu)<z.V и WFb(u)
с Г, где Кс:Х— компактная окрестность проекции множества
Y ([a, 6J) в X. Его топологию можно определить полунормами
следующего вида:
B4.5.19) ut->sup\u\;
B4.5.20) ut—*sup| APu\, где оператор ile^lRj) собствен-
собственный и y({a,b})[\WF(A)=0;
B0.5.21) и»—* sup | Аи 1, где оператор А е Ч'"" (R+) собственный
и \(lb))(]WF(AH
B4.5.22) и t—э- sup | DaPu |, где а —любой мультииндекс и К'—
К'
компакт, содержащийся в множестве, получаемом
удалением из К проекций точек у (а) и \(Ь);
B4.5.23) wt-^sup|a(x, D')u\, где символ ае= S°°(R"XR")
равен 0 при большом | х \ и имеет порядок — оо в
конической окрестности проекции множества у ([а, Ь])
в R'XR".
Пусть Ко с: К — замкнутый шар, не пересекающийся с проек-
проекцией конуса Г', с центром в точке д:0, принадлежащей проекции
конуса Г. Теорема будет доказана, если мы покажем, что суще-
существует некоторая функция aef, не принадлежащая С1 (Ко)-
Если каждая функция usf принадлежит С1 (Ко), то из тео-
теоремы о замкнутом графике следует, что при |а|=1
5
B4.5.24) sup |Deu |<С ?#/(«), usf,
К» 1
где Nj — полунормы в пространстве ЗГ вида B4.5.18 + /). Мы
завершим доказательство теоремы, показав невозможность вы-
выполнения оценки B4.5.24).
Выберем целое v настолько большим, что условия, наложен-
наложенные иа полунормы вида B4.5.20) — B4.5.23), входящие в оценку
B4.5.24), остаются справедливыми, если заменить у на yv- При-
Применим оценку B4.5.24) к функциям Ue, построенным по кривой
Yv так же, как в доказательстве теоремы 24.2.3, но с множите-
множителем е~Е\ вставленным в B4.2.10). (Можно считать, что носи-
носитель функции а^хД) содержится в К при любом Я.) Этот но-

606 24. Смешанная задача Дирихле — Коши
вый множитель ограничен в S0 при е->0. Поэтому из доказа-
доказательства теоремы 24.2.3 следует равномерная ограниченность
полунорм Nj(Ue) при е->0 и 2 ^ / ^ 5. Также очевидна рав-
равномерная ограниченность величины sup|?/E|. Предполагая, что
точка Хо является проекцией единственной точки множества
Yv([a, b]), из рассуждений доказательства теоремы 24.2.3, ка-
касавшихся Di(U+—U~) и предшествовавших ее формулировке,
для некоторого а с |а|=1 получаем, что \DaUE(x0) |-> оо при
е->0. Поэтому оценка B4.5.24) не может выполняться, и тео-
теорема доказана.
Не каждая обобщенная бихарактеристика является пределом
ломаных бихарактеристик. Действительно, если го = О в окре-
окрестности точки (у',г\')<= Ga, то вблизи нее не может быть точек
отражения. Так как г(х, ?')> 0 при х\ > 0 в окрестности точки
@, у', ц'), то |i ф 0 на бихарактеристике, и поэтому координата
xi не может иметь на бихарактеристике минимума, отличнбго
от 0. В § 24.6 специальными рассуждениями будет доказано,
что тем не менее существует решение с особенностями на задан-
заданной бихарактеристике такого типа. Неизвестно, существуют ли
другие обобщенные бихарактеристики, не являющиеся преде-
пределами ломаных бихарактеристик. Это создает зазор между тео-
теоремами 24.5.3 и 24.5.4. Однако ясно, что в примере 24.3.11 как
ломаная, так и скользящая бихарактеристики, проходящие че-
через точку множества G°°, являются пределами ломаных биха-
бихарактеристик. Поэтому нет определенного способа предсказать
последующий путь особенности в общем случае.
24.6. Операторы микролокального типа Три ком и
В этом параграфе будут обсуждаться две ситуации, в которых
результаты § 24.5 неадекватны. Обе они связаны с оператором
Трикоми
в гиперболическом и эллиптическом полупространствах, соответ-
соответственно определяемых условиями х\ > 0 и Х\ ¦< 0. В первом
случае теорема 24.5.4 неприменима, так как все бихарактери-
бихарактеристики имеют при xi=0 точки возврата (см. рис. 6). Во вто-
втором— теорема 24.5.3 о распространении особенностей ничего не
дает, но мы увидим, что в этом случае имеет место гипоэллип-
тичиость. Рассмотрим сначала второй случай.
Определение 24.6.1. Множеством гипоэллиптичности НЕ с Т*(дХ)
t\0 называется пересечение множества скольжения и дополне-
дополнения к замыканию области гиперболичности.

24.6. Операторы микролокального типа Трикоми 607
Если X определяется, как обычно, условием х\ ^ 0 и глав-
главный символ р оператора Р имеет вид |^ — г(х, |'), то
B4.6.1) НЕ = {{х1, Г); дг @, х\ ?')/<?*, < 0, г @, у', ч') < 0
в окрестности точки (хг, %')}.
Введенная терминология оправдывается следующим аналогом
соотношения B4.2.4):
Рис. 6.
Теорема 24.6.2. Пусть и, f^Jf(X), Pu = f, u = и0 на дХ. Тогда
B4.6.2) НЕ П WFb (и) = НЕ (\ (WFb (/) U WF («о)).
Для доказательства оценок, приводящих к теореме 24.6.2,
потребуется следующая
Лемма 24.6.3. Если оеСГ (R+) и а > 0, то
B4.6.3) || v || < 9|| xav ||I/(a+1)|| v' ||0/(а+1).
где II-II — норма в пространстве L2.
Доказательство. Пусть %(х)=\ при х < 1, %(х)=2 — х при
1 ^ х ^ 2 и х(*) = 0 ПРИ * ^ 2. Положим t« = xf. Тогда
Ни — HI «S ll^wll и
II + II V>' II < II xav || +1| v' ||.

608 24. Смешанная задача Дирихле — Коши
Так как
00 ОО
|| w ||2 = \ I w |2 dt = - 2 Re J tww' dt < 41| w |||| w' \\,
с о
TO
|[ ш ||< 41| a/1|< 4 И Л ||+4|| a'II, ||o||<5||*eo||+ 4Ц v'\\.
Заменим теперь функцию" v на v(-/t), где f> 0. Тогда
Если < выбрано так, что ||^о||/а+1 = ||о'||, то получается оценка
B4.6.3).
Немедленным следствием B4.6.3J является оценка
B4.6.4) 1Мк
где S/ER и s = (so+'asi)/(a"+ 1). Действительно, если V —
частичное преобразование Фурье функции v по / = (х2, ...
..., Хп), ТО
благодаря B4.6.3). После возведения в квадрат, умножения на
A +1 if f)s = A +1Г |2)s°/(a+1) (l +1Г |2)s'a/(°+"
и интегрирования по %' оценка B4.6.4) следует из неравенства
Гёльдера.Неравенство
B4.6.5) || о (О,
получается аналогично, если начать с оценки
ОО
|o{0)|8--2Re$o6'd/<2||o||ll°/ll, v e Co (R+)-
о
Лемма 24.6.4. Пусть р(х, %) = Ц — г(х, I'), где r<=S2 и
B4.6.6) r(*,l')<-c*ill'f, 0<*,<l,
гри некотором с > 0. Если и s Co° (R+) ы xi < 1 на supp «, го
B4.6.7)
2
О

24.6. Операторы микролокального типа Трикоми 609
Доказательство. Интегрирование по частям приводит к равен-
равенству
(р (х, D) и, D\u) = I D]u f - (г (х, D') A", D,u)
+ ([г (х, D% D{) и, DlU) - (г @, х', D') и, д{и),
где последнее скалярное произведение взято в пространстве L2
на граничной плоскости, определяемой уравнением Х\ = 0. Так
как из B4.6.5) следует, что величину ||<?iw@, -)НA/з) можно
оценить в терминах левой части B4.6.7), то оценим это ска-
скалярное произведение через ||и@,-)||E/зI1^1"@,-)||A/з). Порядок
коммутатора [г(х, ?>'), A] = C(x, Dr) равен двум, а оператор
Re С имеет первый порядок: Поэтому
(С (х, D') и, DlU) + (D,u, С (х, D') и) = ([D,, С (х, &)} и, и)
+ ((С (х, D') + С (х, D7) DlU, и) -1 (С @, х\ Ef) и, и),
где последнее скалярное произведение взято по границе. Так
как оператор [Di, С] имеет второй порядок, а С + С* — опера-
оператор порядка 1, то, взяв вещественные части, получаем
B4.6.8) 1 D]u |2 - 2 Re (r (x, Dr) Dxu, D{u)
< || р (*, D) и |р + С ((|| и \0< l} +1| Ди ||@_ 0)) || и ||@ „
Теперь воспользуемся предположением B4.6.6). Применяя
строгое неравенство Гордиига (теорема 18.1.14) при фиксиро-
фиксированном xi, имеем
|ift „<-Re(rU, D')D{u, Dtu) + С|А«|^ my
Следовательно,
B4.6.9) iDfuf + clxrAufo.!)
, О)и||2+С(||и||Bо. „+|| A"II». i/2)+II«@, •)Iks/3)IIA"@,
||2
Теперь B4.6.4) показывает, что || D{u ||B0, щ можно оценить
с помощью левой части B4.6.9), и B4.6.5) позволяет нам оце-
оценить ||?>iu@, •)||(i/3) через |D2u|| + I/)|u|o,2/3)- Поэтому с новой
постоянной С получаем, что
B4.6.10) |/)?«Р + |Аи|о.зд)<С(||р(х, D)uf
Чтобы оценить слагаемое с /=2 в левой части B4.6.7), вос-
воспользуемся уравнением г (х, ?>') и = D"\u — р (х, D) и. Если те-
20 Зак. 443

610 24. Смешанная задача Дирихле — Коши
перь рассматривать х\ как параметр, то ввиду B4.6.6) точное
неравенство Гординга приводит к оценке
c|U!'2422,<Re(-rU, D')u, \D'\2u) + C\\u\f,l2Y
Если умножить ее на х\, а также проинтегрировать по х\ и вос-
воспользоваться неравенством ab ^ 7г(са2 + Ь2/с), то получаем
с\ххи&. 2)<41г(х, D') и|о.о, + 2СIЛ|20.т-
В силу неравенства Коши — Шварца
I *!Мо. 3/2) <|*l"|o,2) If «11@.1)'
и поэтому с другой постоянной С имеем
II х{и I&, 2) < С (|| г (х, D') и ||fo. о) +1| и Ife, ,,)•
Так как г (х, D') и = D2\u — р (х, D) и, то к левой части оценки
B4.6.10) можно добавить слагаемое || х{и ||?о. 2>> подходящим об-
образом изменив постоянную С. Поскольку вследствие B4.6.4)
II « Jlfo. 4/3) < С (|| D,U ПЙ>. 2/3) + II XXU Hfo. 2)).
то окончательно нами доказано, что
Z II D\4u |о. 2//з, < С (|| р (х, D) и ||2 +1| и ||Bо, „ +1|DlU f + и @, •) lkl/з)).
о
Но из доказательства леммы 17.5.2 вытекает, что 11«11@1)
<1|и||(о.4оI11Cа4/з) и lAuf^lDfrfllHll. Поэтому средние сла-
слагаемые в правой части можно заменить на сумму левой части,
умноженной на малую постоянную, и величины ||и||2, умножен-
умноженной на большую постоянную. Этим заканчивается доказатель-
доказательство леммы 24.6.4.
Более общим образом, для любого seR имеем
B4.6.7)' 11 Di~'u I (о. s+2//3) < С (|| p (x, D) и ||,с. „
о
Действительно, применяя к (I -\-\D'\2)s/2u оценку B4.6.7) и
пользуясь тем, что оператор

24.6. Операторы микролокального типа Трикомв 61 f
имеет порядок 5+ 1, получаем B4.6.7)' с дополнительным сла-
слагаемым |М|@, s+i) в правой части. Так как
то из такой оценки следует оценка B4.6.7)'.
Доказательство теоремы 24.6.2. Если (х'о, |о) е НЕ, то главны»
символ р (х, |) = I? — г (х, |') оператора Р удовлетворяет усло-
условию B4.6.6) в окрестности точки @, х'о, |о)- Временно предпо-
предположим, что условие B4.6.6) выполняется при 0 < Х\ < 1
creS2H что «о s С00,
Пусть ф е Со° (Rn~')> \ Фdx' = 1 и Ле = ф (eZ)') — оператор сверт-
свертки с функцией ф(дс'/е)е'~" по переменным х\ Тогда распреде-
распределение Ле« сосредоточено в фиксированном компакте при ма-
малом е и Ле« s ЯB°^?) (R+). Поэтому оценка B4.6.7)' применима
к и по соображениям непрерывности. Имеем р (х, D) и е H(Smsf
(R+) и
р (х, D) (А,и) = Аер (х, D)u-[r (х, D), Аг\ и,
где коммутатор равномерно ограничен B_OpS'. Значит, эле-
элемент р(х, D)(Atu) равномерно ограничен в Я<о,«)> и при е->0 иа
B4.6.7)' следует, что и е Н$2,™-2/з)- Это улучшает первоначаль-
первоначальное предположение относительно и.
Теперь для окончания доказательства теоремы можно без
изменения скопировать рассуждения, использованные при до-
доказательстве леммы 20.1.13 и теоремы 20.1.14. Эти повторения
мы предоставляем читателю в качестве упражнения.
Теорема 24.5.3 показывает, что из точек дифракции особен-
особенности всегда распространяются. Теорема 24.5.4 дает решение
с особенностями на бихарактеристике, проходящей через точку
@, х', |') е Gd, если точка (х", |') принадлежит замыканию об-
области гиперболичности или эллиптичности. Действительно, если
точка (у\ т]')е? близка к (х', |'), то найдется малое у\>'0ь
для которого г(у, т)')=0, так как дг@,х',%')/дх\">0 и
т@, у', ц') < 0. Бихарактеристика, проходящая через точку
(у, 0, г]'), лежит в полупространстве х\^у{ на протяжении
фиксированного отрезка времени и сходится к бихарактери-
бихарактеристике, проходящей через точку @, х/, 0, |'), при (у', г\'\
-+(х',1') (ср. с леммой 24.3.4).
Однако в случае, когда точка (х', |') не принадлежит за-
замыканию множества Н[}Е, т. е. когда г@,у',т\')=0 в окре-
окрестности точки (*',|'), все бихарактеристики, проходящие вбли-
20*

612 24. Смешанная задача Дирихле — Коши
зи @, х*, О, |'), имеют на плоскости х\ = О точку возврата, как
отмечалось в начале параграфа. Теперь покажем, что тем не
менее существует решение, имеющее особенности в точности на
заданной бихарактеристике.
Теорема 24.6.5. Если (у', х\') GGdnC?> то найдется такая
функция и^С(Х), что и == 0 на дХ, Ри^С°° в окрестности
точки @,у') и множество WFb(u) порождено в точности сжатой
бихарактеристикой, проходящей через точку («/', х\').
Доказательство. Можно считать, что XcR" и что оператор Р
имеет обычный вид B4.4.2). По условию для главного символа
г в окрестности точки («/', л') имеем г(О,д/, |')^0 и
дг@, х?, \'\1дх\ > 0. Следовательно,
в конической окрестности точки @,«/', т)'). Выберем символ
6eS2, равный R в конической окрестности точки @, у1, v[\
и удовлетворяющий B3.4.1). Положим В — b(x, D').
Тогда по лемме 23.4.7 найдется такое us Я», n-u(R+), что
Df — В (х, D')) и = 0 при xi < Чг и и = 0, Dnu = q> при ^„=0,
где ф е H(n-\/2)(R"~l) задано. Действительно, нужно лишь вы-
выбрать некоторое щ е ЯB, п-о, имеющее такие данные Коши
(теорема В. 1.9), и затем найти решение и — «оеЯц.л-цСС0
уравнения
(D? - В) (и - щ) = (В - Di) uq s Я(о. „-и
с нулевыми данными Коши. Если взять функцию q>, для которой
WF(q>) порождается точкой («/', т)'), то из (доказательства)
теоремы 23.4.8 и теоремы о распространении внутренних осо-
особенностей следует, что WF(u) при 0 < хп < '/г содержится в
конусе Г, порожденном бихарактеристикой, проходящей через
точку @, у', 0, т)'). Следовательно, Ри^ С°° в окрестности точки
@,у'). Волновой фронт распределения и должен совпадать
в ней с конусом Г, так как в противном случае («/', л')^ WFb(u)
по теореме 24.5.3 и, следовательно, {у', х\')ф WF(q>). Доказа-
Доказательство закончено.
Замечание. Для самого уравнения Трикоми с помощью функ-
функций Эйри легко получается явная конструкция.
24.7. Операторы, зависящие от параметров
В этом параграфе мы завершим рассмотрения § 17.5, доказав
лемму 17.5.14. Чтобы это сделать, нужно иначе взглянуть на
теорему 24.5.3 для операторов, зависящих от параметров. Сна-
Сначала переформулируем теорему 24.5.3 в виде оценки.

24.7. Операторы, зависящие от параметров 613
Предложение 24.7.1. Пусть Р и X — те же, что в теореме 24.5.3,
а Г, Ti, Гг — такие открытые конусы в f*(X)\0, что каждая
сжатая обобщенная бихарактеристика с Г, пересекающая
конус Гь будучи максимально продолженной в Г, обязательно
пересекает Гг. Пусть В — банахово пространство, содержащее
СТ (X) в качестве плотного подмножества и непрерывно вложенное
вЗ)'{Х), причем ограничение на дХ продолжается сСа'(Х)до
непрерывного отображения В-+3)'(дХ). Для каждого опера-
оператора Ai e Wf (X), имеющего ядро с компактным носителем и
порядок —оо вне порожденного компактом конуса, содержа-
содержащегося в Ti, найдутся такие операторы А, А2^х^7(X), имею-
имеющие ядра с компактными носителями и порядок —оо вне по-
порожденных компактами конусов, содержащихся в Г и Гг соот-
соответственно, что
B4.7.1) || Ауи || < || АРи || +1| А2и \\ + С\\и \\в,
если иеС™ (X) и и = 0 на дХ (через || • || обозначена Ь2-норма).
Доказательство. Пространство
У = {йе В; Г (]WFb(Pu)= 0, и = 0 на дХ, Г2П WFb(u) = 0}
является пространством Фреше, топология которого определяется
нормой H-llfl и полунормами ||ЛРи|| и ||Лгы||, где операторы Л
и Л2 — те же, что в предложении. Вследствие условия и тео-
теоремы 24.5.3 имеем rl(]WFb(u)= 0, если и^&~. Поэтому ото-
отображение
^энн^/I^gL2 (Х)
всюду определено и замкнуто, так как оно непрерывно в топо-
топологии пространства Ф' для А\и. Следовательно, по теореме
о замкнутом графике это отображение непрерывно, что дока-
доказывает предложение.
Теперь позволим оператору Р зависеть от параметра г, при-
принадлежащего окрестности Z нуля в R+- Предположим, что его
коэффициенты принадлежат C°°(XXZ) и что Ро удовлетворяет
условиям предложения 24.7.1. Сначала докажем устойчивость
этих условий.
Лемма 24.7.2. Предположим, что условия предложения 24.7.1
выполнены для оператора Р$. Тогда для каждого компакта
К\ сг Т\ существуют такие компакты /Сг с= Гг, К а Г и окрест-
окрестность ZqczZ точки 0, что если z e 2о, то на каждой макси-
максимально продолженной сжатой обобщенной бихарактеристике
оператора Рг, пересекающей К\, имеется интервал, содержа-
содержащийся в К, один из концов которого лежит в Ки а другой в К.2.

614 24. Смешанная задача Дирихле — Коши
Доказательство. Выберем, возрастающие последовательности
компактов Kl ci Г2 и К1 с Г, каждый из которых содержится
во внутренности следующего, и пусть их объединение совпадает
с Гг и Г соответственно. Если утверждение ложно, то найдется
последовательность точек zv ^ Z, сходящаяся к точке 0, и такие
сжатые обобщенные бихарактеристики Iy s / *—*¦ pv (/) операто-
операторов P2v, что
(i) /v —связная окрестность точки 0 в R и pv@)e/Ci;
(И) ^npv(/v) = 0;
(iii) pv(/v)c/cv;
(iv) если /«=/vn<3/v, то pv(/)e=dtfv;
(v) если / е C/v f) d/V7 то бихарактеристика pv не продол-
продолжается за точку t.
Изучая предельный случай при v-*-oo, мы придем к противо-
противоречию.
Исследуя Bv@ при t ^ О, мы различаем два случая:
a) pv (/v П К+) сг Я" при фиксированном ц для бесконечного
множества индексов v. Можно так перейти к подпоследователь-
подпоследовательности, что правый конец av интервала /v имеет предел а > О
при v-*-«>, и в силу равномерного условия Липшица, отмечав-
отмечавшегося после определения 24.3.7, существует В(/)= lim pv(/),
если 0 ^ t < а. Доказательство предложения 24.3.12 показы-
показывает, что кривая 8@ есть сжатая обобщенная бихарактери-
бихарактеристика оператора Ро. Имеем p@)e/Ci в силу (i), 6(/)^Гг при
O^t<.a в силу (И). Мы утверждаем, что р(/) нельзя про-
продолжить за точку а. В противном случае существует предел
Р(а — 0), поле Нр, не радиально в этой точке, и если р(а — 0)
есть точка касания, не являющаяся точкой дифракции, то
скользящий вектор в ней ие равен 0. Но тогда из следствия
24.3.14 вытекает, что pv(s) можно продолжить на s^a + e
при некотором е > 0 и всех достаточно больших v, что является
противоречием.
b) Предположим теперь, что при каждом \х для больших
v выполняется соотношение (ЭЛ> П Pv (А> П R+) Ф 0- При фикси-
фиксированном ц для ограничений бихарактеристик pv на связную
компоненту нуля в {/ е /v f) R+; Pv @ s КУ} выполняется рав-
равномерное условие Липшица. Поэтому, переходя к подпоследо-
подпоследовательности, получаем предельную кривую B(f), определенную
при 0< t< а, для которой Р@)еКь Р(О^Г2 при 0< t < a
и Р([О,й))П№#0 для всех ц. Поэтому р максимально про-
продолжена до а как сжатая обобщенная бихарактеристика в Г.
Действуя таким же образом при t < 0, получаем макси-
максимально продолженную в Г сжатую обобщенную бихарактери-

24.7. Операторы, зависящие от параметров 615
стику оператора Ро, пересекающую К\, но не пересекающую Гг.
Это противоречие и доказывает лемму.
Аналитическое утверждение предложения 24.7.1 также имеет
аналог для случая оператора с параметрами:
Предложение 24.7.1'. Пусть операторы Рг имеют С°°-коэффи-
циенты в X X Z. Предположим, что оператор Pq удовлетворяет
условиям предложения 24.7.1. Для каждого Т0Ш 1\ найдется та-
такое б > 0, что если оператор Ay e WT (X) имеет ядро с компакт-
компактным носителем и порядок —оо вне Го, то существуют операторы
А, Л2 е Ч?Т (X) порядка —оо вне порожденных компактами ко-
конусов, содержащихся в Г и Гг соответственно, такие что оценка
B4.7.1) с Рг вместо Р справедлива при zeZ, |z|<6.
Доказательство предложения 24.7.1 было получено с по-
помощью теоремы о замкнутом графике, позволившей перейти от
качественного утверждения теоремы 24.5.3 к количественному.
Однако с тем же успехом можно было бы проследить за всеми
шагами доказательства теоремы 24.5.3 с целью доказать оценку,
которой затем был бы придан более точный вид. Кроме того,
подобное доказательство остается в силе при настолько малом
параметре г, что применима лемма 24.7.2. Предоставляем чита-
читателю убедиться, что это так, и вернемся к нашему приложению
предложения 24.7.1' — доказательству леммы 17.5.14.
В качестве подготовки дадим явную интерпретацию геомет-
геометрического условия предложения 24.7.1 в простейшем случае.
Итак, рассмотрим волновой оператор d2/dt2 — Л с постоянными
коэффициентами в полупространстве {(t, дс)е R"+1; X\^Q} и
определим образ обобщенного бихарактеристического потока
при движении назад из точек переднего светового конуса {(/, х);
t >¦ |дс|, Х\ ^ 0}. Он совпадает с образом бихарактеристического
потока при движении назад по времени из полного открытого
переднего светового конуса в R"+1, т. е. с объединением W ко-
нормальных расслоений к задним световым конусам с верши-
вершинами в этом множестве. Мы утверждаем, что (t,x, т., ?)?f
при —1*| < t s^ |*| тогда и только тогда, когда
B4.7.2) т«х,|) + /т)>0.
Для доказательства сначала заметим, что (t, x, t, |) — точка
конормального расслоения к световому конусу с вершиной в
(*о, х0), если
(t-tof = \x-xof, т(дс--*„) + (/-/„)& = 0
(ср. с A7.4.11)). Отсюда следует, что |т| = |Ц=йО. Наше усло-
условие можно переписать в виде

616 24. Смешанная задача Дирихле — Коши
и так как хо — произвольная точка в R" с |*о|< 'о, то оно экви-
эквивалентно неравенству \у— ||<|т|, если у = (т* + /|)/U при
некотором U > 0. Поскольку |Б| = |т|, то последнее верно тогда
и только тогда, когда <тдс + tl, |> > 0, что совпадает с усло-
условием B4.7.2).
Доказательство леммы 17.5.14. Установим требуемые оценки
при г, близких к точке zq e Ко, где можно считать, что
Рг„ = — А. Поэтому рассмотрим сначала решения волнового
уравнения
-А) о = 0 в Q = {(t, х); \t |< 3, хх > 0},
обращающиеся в 0 при xi = 0 и на множестве
Q2 = {(t,x);\x\>\t\+l/2, U К 3, *,>()}.
Если |^| < 1/2 для точек @,«/) носителя данных Коши, то
последнее условие следует из леммы 17.5.12 (то же верно для
решений уравнения (d2/dt2 + Pz) vz = 0, удовлетворяющих ус-
условиям (i), (ii) леммы 17.5.14, при достаточно малом \z — 2о|).
Ядро Грина с полюсом в такой точке имеет особенность лишь
на объединении конусов {{t,x); t2 = \x — у\2} при |t/|<l/2.
Поэтому оно принадлежит С°° на множестве
Gi = Ш, х); t > \х | + 1/2, t < 3, jc, >0}.
Пусть Tl = T*(Qj) \0 при /= 1, 2, и пусть Г — объединение ко-
конуса Г,, дополнения к сжатому характеристическому множест-
множеству 2 в r(Q3)\0 и лежащего над Q образа сжатого бихарак-
теристического потока при движении назад из Г,. Здесь
Q3 = {(t,x)', t>l/2-\x\, \t\<3, д
Ясно, что ГсГ'фз) и что пересечение Г с S определяется
над Й3\Й1 условием B4.7.2), в котором t заменено на t— 1/2.
Следовательно, Г — открытый конус. Заметим, что Q2 cr Q3
и что Q3nW, *); ^^0}crQ2. Поэтому условия предложения
24.7.1 выполнены для волнового оператора и конусов Г, Гь Гг;
конус Г\ может быть также заменен на Г.
Пусть M<sQ{ — компактная окрестность множества
Наша задача — оценить производные функций vz из леммы
17.5.14 равномерно на М. Пусть Ki—ограничение на М сфери-
сферического расслоения единичных векторов из Т*. Выберем с по-

24.7. Операторы, зависящие от параметров 617
мощью леммы 24.7.2 компактную окрестность ZqclZ точки zo
и такие открытые конусы
-1}, Г'
Г,
что К\ cz Т{ и условия предложения 24.7.1 выполнены для этих
конусов и любых операторов Рг, z e Zo. Теперь зафиксируем
произвольное z из Zo и обозначим через К.* объединение множе-
множества К\ и сжатых обобщенных бихарактеристик оператора Рг,
Рис. 7.
идущих назад нз К\ и доходящих до плоскости t — —1. Пусть
Kl есть пересечение такого объединения с этой плоскостью.
Тогда можно выбрать такие открытые конические окрестности
F(v) множества Kf, что
и условия предложения 24.7.1 выполняются для оператора Рг
и конусов r(v+1) и T(v) в качестве Ti и Г при v = 1, 2 Дей-
Действительно, если конус F(v* уже выбран, то из леммы 24.7.2 сле-
следует, что сжатые обобщенные бихарактеристики, идущие назад
из достаточно малой окрестности множества К\, должны со-
.держаться в T(v) вплоть до t = —1 —е при достаточно малом е.
Из предложения 24.7. Г при ?, достаточно близких к z, по-
получаем равномерную ограниченность ЦЛО^Ц для любого one-

618 24. Смешанная задача Дирихле — Коши
ратора ЛA) е Wt (Q), имеющего ядро с компактным носителем
и порядок —оо вне порожденного компактом конуса, содержа-
содержащегося в ГA); конечно, постоянная, оценивающая норму, зависит
от ЛA). Дифференцирование уравнения (d2/dt2^ Pz\vt = 0 по
параметру ?,/ дает
(<W + />t) dvflt, - - (dPflt,) ot - f.
Так как A^f уже контролируется нами, то из предложения
24.7.Г получаем теперь ограниченность ||.<4<2>ctot/C?/||, если ?
принадлежит некоторой, возможно меньшей, окрестности точ-
точки г, ие зависящей от Л<2>, и оператор ЛB> имеет порядок —°о
вне порожденного компактом конуса, содержащегося в ГB).
Продолжая таким же образом, получим ограниченность
|i4<v)D;O;|i если |a|<Iv, оператор Л<у> имеет порядок —оо вне
порожденного компактом конуса, содержащегося в Г(у), и ?
достаточно близко к г. В частности, получаем равномерную
ограниченность любых производных D?, x, t»& (/, х) для (t,x)^M
и для t, из окрестности точки zeZo, зависящей от а. По лемме
Бореля — Лебега отсюда следует равномерная ограниченность
при всех z e Zo, что завершает доказательство.
Замечание. Отметим, что на множество Q3 проектируется много
особенностей функций Грина. Лишь благодаря микролокальной
точке зрения нам удалось избежать связанных с ними трудно-
трудностей. Именно поэтому было невозможно доказать лемму 17.5.14
в § 17.5.
Примечания
Уже Кшижаньский и Шаудер (Krzyzariski — Schauder [1]) ис-
использовали метод интеграла энергии для вывода оценок реше-
решений смешанной задачи Дирихле — Коши для операторов вто-
второго порядка. Много позже Гординг (Garding [6]) определил
общие граничные условия первого порядка, которые можно ис-
использовать вместо условия Дирихле для вывода довольно сла-
слабых оценок. Для операторов высшего порядка энергетические
оценки были впервые даны Агмоном (Agmon 16]). В дополне-
дополнение к условию, позже получившему название равномерного
условия Лопатинского, он требовал, чтобы вещественные
корни характеристического многочлена в направлении нормали
были не более чем двойными. Это условие было снято Сака-
мото (Sakamoto [2]); похожие результаты для систем были
доказаны Крайсом (Kreiss [1]) (см. также работу Chazarain —
Piriou [1]). По поводу обсуждения корректности в простран-
пространстве U также сошлемся на работу Sakamoto [2J.

Примечания 619
Здесь мы ограничились смешанной задачей Дирихле — Коши
для операторов второго порядка, чтобы иметь в этом случае
возможность полностью охватить теорию регулярности вблизи
границы. Как видно из § 24.2, обсуждения областей эллиптич-
эллиптичности и гиперболичности являются по существу микролокаль-
микролокальными вариантами теории эллиптических граничных задач и
строго гиперболической задачи Коши (по поводу гиперболи-
гиперболического случая см. также Chazarain [1]). Однако случай каса-
касания ставит существенно новые проблемы. Впервые они были
преодолены в случае дифракции Мелроузом (Melrose [3])
и Тейлором (Taylor [2]) с помощью построения параметриксов
(см. также Eskin [2]). Поводом для работы Мелроуза послу-
послужило явное решение, данное Фридлендером {Friedlander [1])
для волнового уравнения в слоистой среде. Его пример есть
модельный оператор в теореме 21.4.12. С другой стороны, Тей-
Тейлор руководствовался асимптотическими разложениями геомет-
геометрической оптики, аналогичными полученным Людвигом (Lud-
wig [2]). Затем случай скольжения был разобран в работе
Anderson — Melrose [1] с использованием эквивалентности пар
гиперповерхностей со скользящим пересечением, доказанной
Мелроузом (Melrose [2]). Другое доказательство, основанное
на построении параметрикса.было дано в работе Eskin [2]. Впо-
Впоследствии Мелроуз и Шёстранд (Melrose — Sjostrand [1]) про-
провели геометрическое рассмотрение обобщенных бихарактеристик,
которому мы следуем в § 24.3 с небольшими изменениями. Ис-
Используя лишь соображения, связанные с интегралами энергии и
не зависящие от теоремы эквивалентности Мелроуза, они дока-
доказали теорему 24.5.3 во всех случаях, кроме случая дифракции.
Для этого случая Иврий [2] вывел теорему о распространении
особенностей с помощью метода интеграла энергии, тем самым
исключив необходимость построения параметриксов по Мел-
роузу и Тейлору. Мы следовали его статье до тех пор, пока это
было возможно. Новым, быть может, является то наблюдение,
что в случае множества дифракции не обязательно предпола-
предполагать, что скользящий вектор не обращается в нуль. По поводу
более общих граничных условий читателю следует обратиться
к работам Melrose — Sjostrand [1] и E§kin [3, 4].
Интересный пример 24.3.11 взят из статьи Taylor [2]. Даль-
Дальнейшую информацию относительно неединственности обобщен-
обобщенных бихарактеристик, проходящих через точки множества G°°,
можно найти в работе Melrose — Sjostrand [1]. Для веще-
вещественно аналитических границ такой вопрос не встает. Однако
если интересоваться аналитическими особенностями, то рас-
распространение особенностей вдоль скользящего луча имеет ме-
место также в случае дифракции, и, следовательно, особенности,
вообще говоря, распространяются с бихарактеристик на мно-

620 24. Смешанная задача Дирихле — Коши
жества более высокой размерности (см. специальный случай
в работе Friedlander — Melrose [1] и общие результаты в ра-
работе Sjostrand [4]).
Конструкция решений с заданными особенностями в § 24.2
и 24.5 является модификацией конструкций для внутреннего
случая, видимо, впервые приведенных Ралстоном (Ralston
[1]). Данное здесь упрощение с помощью положительных ла-
лагранжианов было использовано многими авторами в аналогич-
аналогичных задачах, связанных с внутренними особенностями (см., на-
например, Hormander [29]). В контексте нашего изложения оно
было недавно использовано Ралстоном (Ralston [2]).
Результаты § 24.7 взяты из статьи Melrose [7], где упро-
упрощена работа Иврия [3] об асимптотических свойствах собствен-
собственных значений задачи Дирихле. Мелроуз также использовал
идею выделить качественную часть теоремы 17.5.5 и с тем же
успехом применил ее к аналогичным вопросам для систем.

Добавление В
Некоторые пространства
распределений
В этом добавлении собраны определения и основные свойства
пространств распределений, используемых в тексте. По большей
части эти пространства — частный случай пространств, обсуж-
обсуждавшихся в § 10.1 и 14.1. Однако мы дадим здесь по существу
независимое изложение, поскольку это потребует лишь незна-
незначительных повторений.
В.1. Распределения в R" и на открытых многообразиях
Еще в § 7.9 мы ввели важное пространство Соболева #(S)(Rn),
состоящее из всех us/(Rn) cue L\oa и
(B.I.I) ||«||(rt
В случае, когда s — неотрицательное целое, #<S) состоит из всех
и, для которых D°«e L2(Rn), |a|^s. (Используя псевдодиф-
псевдодифференциальные операторы, введенные в гл. 18, можно для лю-
любого s определить Я(«> как множество всех распределений, ко-
которые переводятся в L2 каждым псевдодифференциальным опе-
оператором1) порядка s.) Итак, #<«> — это образ пространства
L2(R", (I +|||2)sd|/Bn)") при обратном преобразовании
Фурье. В § 14.1 мы ввели модификации этих ^-пространств.
Рассмотрим теперь о'братные преобразования Фурье этих мо-
модификаций, которые будут модифицированными //(^-простран-
//(^-пространствами. Как и в A4.1.2), введем множества
(В. 1.2)
X, = {| <= R"; /?/_, < 111< Rf}, где R0 = 0, R, = 2i-> при j > 0.
Напомним (см. A4.1.8)), что
(В. 1.3) Я//4<A+Ш2)<2/& |е=Хг
') С символом, удовлетворяющим оценкам A8.1.1) с т = s. — Прим. ред.

U22 Добавление В. Некоторые пространства распределений
Для любого об/ с ugL?oc положим
п,и (х) = BяГ" 5 е' <* *> й A) rfg,
т. е. перед взятием обратного преобразования Фурье мы умно-
умножаем преобразование Фурье распределения и на характеристи-
характеристическую функцию множества X/. Из (В. 1.3) следует, что
Далее,
Этим подсказывается следующее определение более общих
пространств Бесова:
Определение В.1.1. При 1 ^ р ^ оо и ssR через "#(«> обозна-
обозначается банахово пространство всех и е 9", для которых
й е Lioc и норма
конечна. (При р = оо правую часть следует понимать как
sup || яун ||(s).)
Очевидно, что pH(S) — банахово пространство и что 2#(S>
= H{s). В силу (В.1.4),
что позволяет описать пространства "#<$> и их нормы, используя
лишь 12-норму ll-ll(o). Поскольку I" с /" при р < q, из (В. 1.6)
сразу следует, что пространства P#(S> расширяются с ростом р.
Далее,
(В.1.7) тНыс=1Ны при s{>s2.
В самом деле,
'II и IU < 21 •' Е 1 */'*/« |о) < 2' *|+| Sl'
Тем самым установлено
Предложение В.1.2. Включение Р'Я^сг ^//ы ыл<еег л<есго тогда
(и только тогда), когда st > s2 нлы Si = s2 ы pi ^ pj.
Для р < оо
1Е « -^-0 при N-*-oo, и
Ike)

В. 1. Распределения в R" н иа открытых многообразиях 623
Так как С™ плотно в L?Omp, отсюда вытекает, что Со" плотно
в образе пространства p#(s) при преобразовании Фурье. Зна-
Значит, 9 плотно в PH(s), откуда следует, что С™ плотно в PH(S)>
нбо Со° плотно в 9. При 1/р + 1/р' = 1 имеем
это показывает, что p'H(-S) непрерывно вложено в простран-
пространство, антидуальное к pli(Sy Из обращения неравенства Гёль-
дера вытекает, что это вложение есть изоморфизм:
Предложение В.1.3. Для 1 ^ р < с» пространство, антидуаль-
антидуальное к p//(S), совпадает с P7/(_S), где 1/р + 1/р' = 1.
Пример. Пространства В и В*, определенные условиями A4.1.1)
и A4.1.3), — это преобразования Фурье пространств '#A/2) и
°°#(_i/2) соответственно.
Теперь обсудим вопрос, как представить "#(«> в виде интер-
интерполяционного пространства, что удобно для получения различ-
различных оценок (см. также леммы 14.1.3 и 14.1.4). Если u^»H(S)
и Uk = JikU, то, как мы знаем, и= J] щ (сходимость в 9") и
где Л1Л = || яды |((о), так что
Обращение этого результата дается следующим предложением:
Предложение В. 1.4. Пусть uk e #(So) П #<*), *=1, 2 и
(В.1.8) l«ft|(M<^*vAfft' v=l, 2, k=\, 2
?слы So < s < si и последовательность RlMk принадлежит I"*
то ряд X«ft сходится в 9", его сумма принадлежит p#(s) и
(В. 1.9) 1 Е «ft IL< С (s)(E(/??Af/)")""•
Яры р < оо эгог ря<3 сходится в норме пространства РЯ(^>.
Доказательство. Достаточно установить оценку (В. 1.9) для
случая, когда число слагаемых конечно, а затем применить ее
к разности двух частичных сумм рассматриваемого ряда (при
р = оо заменив s некоторым меньшим числом). В этом случае
n.jU= Е я/и*> и оценка (В.1.8) дает

624 Добавление В. Некоторые пространства распределений
Взяв v = 0 при k~^\ и v=l при k < /, получаем
где
f Rk~sRs]~s' при k~^j,
I Rk ~SRTS' при k < j.
Поскольку числа Rk образуют геометрическую прогрессию,
где C(s) = (l _2S°-S)-' + BSI"S- I).
Оценка (В. 1.9) вытекает теперь из классической леммы Шура:
Лемма В.1.5. Если Е | alk | ^ С « 2 I a/ft I ^ ^ для всех k и ]
соответственно, то
Доказательство. В случае р = 1 или оо это очевидно. В осталь-
остальных случаях, используя неравенство Гёльдера, получаем
Е alkxk |р < ( Е | ау* |)р/р' Е | ад || jc* |р < Ср'р' Е ад| xk f,
где 1/р + 1/р'= 1. Следовательно,
Е Е а.„хк р < С1+р/р' Е \хк Г = С Е I ** Г,
чем доказательство и завершено.
Следствие В.1.6. Пусть Т — непрерывное линейное отображение
H(Sa)—*-H(st-m)- Если ограничение этого отображения дает не-
непрерывное линейное отображение ЯE,> -»¦ H(Sl-m) при некотором
si > so, то оно дает непрерывное линейное отображение "#<«>
-»-p#(s-m) При ЛЮбЫХ So < S < Si U 1 S^ p S^ OO.
Доказательство. Для всякого и е pH(S) мы имеем Ти = Е
где ряд сходится в ЯEо_т), и при v = 0, 1
_т) < С || 7lkU ||(Sv) < C'/?
Поэтому доказываемое утверждение следует из предложе-
предложения В. 1.4.

В. 1. Распределения в R" н на открытых многообразиях 625
Теорема ВД.7. Если феСх и производная Day ограничена
при каждом а, то отображение и>-*-ц>и есть непрерывный опера-
оператор в pH(S) для всех sup.
Доказательство. Очевидно, что это отображение является не-
непрерывным оператором в #(s) при всяком неотрицательном це-
целом s. В случае отрицательных целых s отображение ЯE>
9«i-»q)ttE//(s) СЛУЖИТ СОПрЯЖвННЫМ К Отображению #(_s)
эм*->-фмеН(_5) и потому также непрерывно. Теперь утверж-
утверждение теоремы вытекает из следствия В. 1.6.
Теорема В.1.8. Пусть ip— диффеоморфизм некоторого откры-
открытого множества Xi с: R" на другое открытое множество X2czRn,
и пусть % е СТ (Х2). Тогда для всякого v^pH{S)(Rn) обратный
образ ty*(xv)^S"(Xi)cz <S"(R") тоже принадлежит p#(S)(Rn)
Доказательство. Ввиду следствия В. 1.6 достаточно показать,
что для целых s
В случае когда s — положительное целое, эта оценка немед-
немедленно нолучается, если продифференцировать равенство
(определение обратного образа) и принять t|)(jc) в качестве но-
новой переменной. В случае когда s — отрицательное целое, вос-
воспользуемся соображениями двойственности. Выберем функцию
Xi е С" (Х^, равную 1 вблизи supp $*%. Тогда для и е С? (R")
=-|(|det(
в силу теоремы В. 1.7 и первой части доказательства. Следова-
Следовательно,
чем теорема и доказана.
Замечание. Для пространств ЯE) = 2#(s) с произвольным ,se R
теорему В.1.8 можно также доказать, используя G.9.3), G.9.4).
Ввиду теоремы В. 1.7 мы можем, опираясь на теорему
10.1.19, определить пространство РН\°)(Х) для любого открытого
подмножества X в R" как множество всех и^2)'(Х), таких
что ф«ер#E)(К") для каждой функции qpeC°o(X). Более об-

626 Добавление В. Некоторые пространства распределений
щим образом, пусть X — произвольное С°°-многообразие. Будем
говорить, что распределение и е2)'(Х) принадлежит РН\°)(Х),
если
для всякой системы координат и: Хм-*-Хкс:ип класса С°
Топология в пространстве "Н1^ (X) задается полунормами
где ф — произвольный элемент из Со° (Хк), аи — любая система
координат класса С°°. Из теоремы В. 1.8 следует, как и при
доказательстве теоремы 6.3.4, что можно ограничиться картами
х из некоторого атласа для X и функциями ф = фм, при усло-
условии что множества {х^Хк; срк (ю;) =?*= 0} покрывают X. В част-
частности, если XczR" и множество К — компакт в X, то
\)> и топология, индуцированная на
этом пересечении, совпадает с топологией, задаваемой нормой
"У •«(.)•
Обсудим теперь вопрос об ограничении рассматриваемых
распределений на подмногообразия. Начнем со случая гипер-
гиперплоскостей в R". Для всякой функции «e^(R") обозначим
через уи ее ограничение на гиперплоскость хп = 0, отождеств-
отождествленную с Rn-1:
«(x/, 0) jc'sR".
Теорема В. 1.9. Введенное выше отображение у продолжается
до непрерывного отображения из lHu/2)(Rn) в #@)(R'l~)
=iL2(Rra~1), которое мы снова обозначим через у. Для всякого
s > 0 ограничение отображения у на p#(s+i/2)(R") непрерывно
отображает это пространство на pH^)(Rn-1) и обладает непре-
непрерывным правым обратным (из pH(S)(Rn~l) в p#(S+i/2)(R")).
Доказательство. Пусть щи определено так же, как в начале па-
параграфа (перед оценкой (В. 1.4)). Тогда щи^С°° и
Х1
Если й е Со°, то и = ^ TifU, причем лишь конечное число чле-
членов в этой сумме отлично от нуля, и неравенство треугольника
дает

В. 1. Распределения в R" и на открытых многообразиях 627
Поскольку такие функции и плотны в'//A/2), этим доказаны пер-
первое утверждение теоремы и тот факт, что уи = ? Vя/" Для всех
Если и е p#(s+i/2) (R"), то для t ^ О
Правая часть последнего неравенства при / = 1, 2, ... образует
последовательность из I". Поэтому предложение В. 1.4, применен-
примененное к соответствующим частичным суммам, показывает, что при
Таким образом, у непрерывно как отображение p#(s+1/2)(Rn)
-*-pH(S)(Rn-1). Для построения правого обратного к этому ото-
отображению выберем какую-нибудь функциюг|) eCo°(R) с -ф @) = 1
и положим для (le^jR1)
где х'—(хи ..., дгл-i), a i>fe = jt*i> определено, как и прежде,
только при R", замененном на R"-1. Тогда
- BяГ" J | vk (Г
Это дает оценку (В.1.8) с Mk = c'tRZm\\nkv\]i,u). Так как для
из предложения В.1.4 вытекает, что отображение
непрерывно действует из p//(s) в pH{s+i/2). Очевидно, что при
s > 0 оно служит правым обратным к у. Доказательство завер-
завершено.
Замечание. Как было показано в гл. 14, у сюръективно и как
отображение из W(i/2)('Rn) в W@)(R"-1), но указанное выше пра-
правое обратное отображение не является непрерывным отображе-
отображением из tffotR"-1) в J#a/2)(R").

628 Добавление В. Некоторые пространства распределений
В теореме В. 1.9 рассмотрен лишь случай ограничения на
гиперплоскость. Однако, повторно применяя полученный резуль-
результат k раз, мы заключаем, что существует непрерывное отобра-
отображение ограничения, действующее из 1Н(кт(к") в H{0)(Rn-k)
(подразумевается, что jc'e R"-* отождествляется с (х\ 0)е R").
Его ограничение дает непрерывное отображение из pH{s+km (R")
в ptf(s)(R"-fc) при любых s > 0 и целых k > 0.
Поскольку мы определили отображение ограничения у при
помощи непрерывного продолжения, отправляясь от гладкого
случая, ясно, что это определение инвариантно относительно за-
замен переменных. Следовательно, если У — произвольное С°°-под-
многообразие коразмерности k заданного С°°-многообразия X, то
при s > k/2 для любого распределения и е РН\°)(Х) можно оп-
определить его ограничение ууи на Y, причем yYu e р#<?-й/2)-
Внимательный читатель, должно быть, заметил, что правое
обратное отображение, построенное при доказательстве теоремы
В. 1.9, было определено для всех s, хотя мы не могли утверждать,
что оно будет правым обратным для у при s^O, так как у не
определено на "H{S+\i2) при таких s. Это наводит на мысль, что
отображение у следует определить на несколько более широких
пространствах. Мы сейчас введем соответствующие модифика-
модификации пространств #(S). (Аналоги пространств Бесова мы для крат-
краткости уже не будем рассматривать.) В приводимом ниже опре-
определении особая роль отведена гиперплоскости хп = 0; отметим,
что первые п—1 координат ?' = (?ь ..., In-i) вектора geR"
суть координаты двойственного к ней пространства.
Определение В.1.10. Для любых т, se!R обозначим через
#<m, s>(Rn) множество всех и е ?"(R"), таких что й е Lfoc и
(В. 1.10)
н и iu.) - (B*r SI й © i2 A +1 if)m A +1 r I2)s rfi) < «о.
Это частный случай пространств В2, к из определения 10.1.6,
отвечающий функции
Поэтому, согласно теореме 10.1.15, операция умножения задает
непрерывное билинейное отображение
9 X Н{т, а) Э (ф, И)ь->"ф«е Н{т,
и по теореме 10.1.8
(В.1.11)
Н(ти л)(R") <= Him,,Sl)(Rn)<=>пи</п, и m2 +

В. 1. Распределения в R" и на открытых многообразиях 629
Пространство Со" (R") является плотным подмножеством в
Я(т, s) при любых tn, s. В случае когда т — положительное
целое, ЧЯ<ОТ, «> состоит из всех и, для которых Dfnu e Я<о, s+m-n
при 0^/^/п, а включение 1/еЯЛ!) означает, что v можно
рассматривать как /Лфункцию от хп со значениями в
Как и в теореме В. 1.9, мы обозначаем через у отображение
ограничения
(Yh)(*') = «(*', 0), a
Теорема В.1.11. Прит > 1/2 отображение ограничения у про-
продолжается до непрерывного отображения Я(Ш, s)(R")->-#<m+s-i/2)
(R'1-1). Кроме того, существует отображение продолжения е
из U#<s)(R"-') в 9"(Rn), непрерывно действующее из H(S){Rn~l)
в Я(т, s-m+i/2)(R") яр" всех s, tn и такое, что уе есть тожде-
ственное отображение. Далее, е можно выбрать так, чтобы
yD*e = 0 для каждого положительного целого k, а х„е было не-
непрерывным отображением из H(S)(Rn-1) в Я(т, s+k-m+\/2)(Rn) для
всех s, tn.
Из последнего утверждения вытекает следствие, аналогичное
следствию 1.3.4:
Следствие В.1.12. Пусть tn — положительное целое число. Если
fk e= flfs+m-ft-i^R"-1), *=0, . . . , m — 1, то найдется
«eH№!,(R"), такое что yDknu = fk, k — 0, ..., tn— 1.
Доказательство. Можно просто взять
Доказательство теоремы В.1.11. Если ие^и v—yu, то
\\u{t)dtJ2n\2
<\\U(l)f(l +\Zf)mdln\(l + \l?)-m<%JBn
Чтобы получить последнее неравенство, надо принять t = ln/(\
_j_|g'|2)i/2 B качестве новой переменной вместо |л. Для сходи-
сходимости интеграла здесь существенно, что /п>1/2. Умножая на
A +|!'|2)s+m~1/2 и интегрируя, получаем
II V \\{S+m-1/2)

630 Добавление В. Некоторые пространства распределений
При построении оператора продолжения е рассуждаем по су-
существу так же, как в доказательстве теоремы В.1.9, выбирая на
этот раз функцию т|> е С™ равной 1 в некоторой окрестности
нуля. Полагая Х = A + |1'|2I/2> определим ev = u для t»e^
формулой
й(Г )
Здесь й„ обозначает преобразование Фурье по переменным х'.
Ясно, что ие?*, и(', 0) — v и D'nu = 0 при хп= 0 для }Ф0. Да-
Далее,
v (Г) |2 Л2 E+*-Л+1 df J | Dfnxfo (Xxn) |2
ЯI-" \ | й (Г) |2 X2* rf|' J I D'M (xn) I2 rf^n.
Если т — положительное целое число, то, складывая соответ-
соответствующие оценки для 0 ^ / ^ т., получаем
, ft || V ||(S),
чем доказательство и завершено.
В. 2. Распределения в полупространстве
и на многообразии с краем
Мы обозначаем через R+ открытое полупространство в R", за-
задаваемое условием хп > 0, и через R" — дополнение к его за-
замыканию R^. Для всякого пространства F распределений в R"
будем обозначать через /^R^) пространство ограничений на
R+ элементов из F и через F (R±) — пространство всех рас-
распределений из F, у которых носитель лежит в R±. Таким об-
образом, F(R") — подпространство в ?)'(R+), и его можно рас-
рассматривать как факторпространство FfFiRl); оно содержит
факторпространство пространства /^(RX) по подпространству
элементов с носителем в dR+ = {xeR"; jtn = O}. Выбранные
обозначения призваны напоминать об этих фактах.
Пример. Пространство Co°(R+) состоит из ограничений на R+
функций из Со° (R"). Из теоремы 1.2.6 следует, что его можно
отождествить с пространством всех функций из C°°(R+), рав-
равных нулю вне некоторого компакта. Пространство Co°(RX) об-

В. 2. Распределения в полупространстве и на многообразии с краем 63}
разует в нем подпространство, состоящее из функций, имеющих
нуль бесконечного порядка при хп = 0. Пространство, двой-
двойственное к Со° (R+), совпадает (ввиду теоремы 2.3.3) с про-
пространством Ф (R+) всех распределений^ с носителем в R+, а
пространство, двойственное к С™ (R+) — с пространством
2>'(R+) распределений на R+, обладающих продолжением на
всё R" (в силу теоремы Хана — Банаха и теоремы 2.3.3).
Ниже будут рассматриваться в основном пространства
Я(П, S)(R+) и Н[т, s)(R+), наделенные соответственно факторто-
пологией и индуцированной топологией. Таким образом, мы
полагаем _
||u|Us) = inf||C/|U,,)( ue=Him,s)(Rn+),
где точная нижняя грань берется по всем U е Я(т. s) (R"), рав-
равным и на R+.
Теорема В.2.1. C~(R?) плотно e_H{m,^(Rn+), a C0~(R+)-e
Нш, s) (R+), и пространства Я(от, s) (R+), Я,_„, -s> (R%) двойствен-
двойственны друг другу относительно продолжения полуторалинейной
формы
\uvdx, u<=CZ(Rl), v e Co {R%).
Доказательство. Поскольку Со° плотно в Я<т, s) (R"), ясно, что
C~(Ri) плотно в H(m,s){Rn+). Плотность Со (Rn+) в Нш(пп+)
следует из теорем 10.1.16 и 10.1.17 (в последней берем <р с но-
носителем в R+). Далее, Я(Ш, S)(R+) — замкнутое подпространст-
подпространство в Н(п, s)(R"), поэтому двойственное к нему пространство
представляет собой фактор пространства Я<_т, _S)(Rn) по ан-
нулятору плотного в Я(т, s) (R+) множества Со° (R+), т. е. по
подпространству элементов, равных нулю на R+. Но по опре-
определению этот фактор и есть Я(_т>-s)(R+)-
Из теоремы 10.1.8 вытекает, что
(В.2Л)
Щти «,) (R+) С Я,тг. й) (R+) <=>Щ^ГПХ И Щ + S2 < ОТ! + $1.
Используя теорему 10.1.10, докажем следующий результат:
Теорема В.2.2. Пусть К — компакт в R+. Тогда множество
{и; ыеЯ(т„ Sl)(R+), || и IU, ю < 1, suppuc/c}
является компактным подмножеством в Я(т!, Sl) (R+), если
пг3 < mi и от2 + s2 < OTi + si. В случае когда у К есть внутрен*

632 Добавление В. Некоторые пространства распределений
ние точки, эти условия также и необходимы для компактности
указанного множества.
Доказательство. Утверждение о необходимости немедленно
следует из теоремы 10.1.10, если сузить К до компакта, содер-
содержащегося в R+- Чтобы доказать утверждение о достаточности,
возьмем какую-нибудь последовательность C/Vs НШи s,, (R+) с
suppuvcr/C и || uv ||<mi, Sl) <J 1. Найдется такая последователь-
последовательность (/,еЯ(Л1|.Л)(К"), что C/V = uv в Ri и ||?/vIU, Sl)< 2. Вы-
Выберем какую-нибудь функцию Ф е Со° (R*1), равную 1 в некото-
некоторой окрестности компакта К, и положим f/v=<t>?/v. Ясно, что
где С — подходящая постоянная. Поскольку supp C/v с supp ф
для всех v, из теоремы 10.1.10 вытекает, что существует под-
подпоследовательность Uv, сходящаяся в #(mb s2> (R") к некоторо-
некоторому пределу Uv e #<„,, Sl) (R"). Но тогда последовательность ib,t
ограничений элементов Uv/ на R" будет сходиться в H{mi, s,)(R+)
к ограничению на R+ элемента U. Доказательство завершено.
Установим теперь некоторые результаты, позволяющие дать
более прямое описание пространства #(m, s)(R+) в случае неот-
неотрицательных целых т.
Теорема В,2.3. Для того_чтобы и е H(m, s>(R+), необходимо и
достаточно, чтобы «eW|ffl.u+1,(Rl) и /)„ие tf(m_i, S)(R+);
справедливы неравенства
(В.2.2) 11| и im, s) < || Dnu IfcV,, S) + II и||fm_
Кроме того, и s H(m, S) (R+) тогда и только тогда, когда
us//(m, s-d(R+) и DjU^Him, s-d(R+) при j<n; при этом
ге-1
(В.2.3) || и С s) = || и |fm, s_,, + ? || D,u Ц?т, s_,,.
Доказательство. Пусть и е Him, s) (R%). Выберем U e Я(ш, s) (Rn)
так, чтобы С/ = u в R+ н \\U||(m, s) = ||и||(m> s). Тогда
IIDnU||fm-,, „ + || U||fm-,, e+1) = || U \fm, s) = || и||fm, „.
Этим доказано, что Dnu е Я(т_1, S)(R+), us Я(т_1, s+I)(R+) и
справедливо второе из неравенств (В.2.2). Остальные утвержде-
утверждения теоремы сразу вытекают из следующего результата:

В. 2. Распределения в полупространстве и на многообразии с краем 633
Теорема В.2.4. Пусть Г = A, 6»_i), A0 = A + ISTI'2 и
(8.2.4) Лт., (|) = «Г> + /|„)т <Г>*.
Тогда оператор Лт, S(D), задаваемый равенством Am,s(D)<p
= /7~1(Лт,5ф), (pe^iRj), есгб изоморфизм пространства
^(R+) на себя, продолжающийся по непрерывности до тополо-
топологического изоморфизма L2 (R+)-> Я(_т, _S)(R+). Сопряженный
Лт, S(D) к этому оператору продолжается по непрерывности с
C~(R") до изоморфизма из 7flm,S)(Rn+) в L2(R+). Таким обра-
образом,
(8.2.5) || иIU, „ - \\ Am,, (D) u||?, ^п+у и е Я,т..„ (R5-),
и #(ni.S)(R+) состоит из всех ue/(R"), 5ля которых Am,s«
Доказательство. Согласно примеру 7.1.17, обратное преобразо-
преобразование Фурье от Am,s (соотв. Лот,5) имеет носитель в R+
(соотв. R_)^ Следовательно, Лт,S(D) есть непрерывный опера-
оператор в ^'(R+) с обратным Л_т _S(D), чем доказано первое
утверждение теоремы, ибо I Лт,SA)P = A + ИРГA+1Г РГ-
Второе утверждение получается по двойственности.
Замечание. Записывая Am.s в виде Лт, S = ((D')+ iDn)Am_hs,
заключаем на основании доказанной теоремы, что каждый
элемент и е Я(-т. -S)^R+) можно записать в_виде ц = щ + Длцп»
где UoSffn-щ, _s_d(R+) и ц„еЯA_т, _s)(R+). Этот дуальный
вариант теоремы В.2.3 будет нам иногда полезен.
Следствие В.2.5. Если m и s — неотрицательные целые, то про-
пространство Я(т, S)(R+) состоит из всех aeL2(R+), для которых
D°ueL2(R") при \a\<^m-\- s к. ал<ш, Норма в этом про-
пространстве удовлетворяет оценкам
(В.2.6) С, || и !&,..,
где С, — положительная постоянная, зависящая от s и т, на
не зависящая от и.
Это немедленно следует из теоремы В.2.3 и того очевидно-
очевидного факта, что Я@, о> (R+) = L? (R+). Точно таким же образом
получаем, что для любых mas
(В.2.7) |Dau!(m_v s+an-iai)<||«IU,s), иеЯ(т, S)(R+)-

<!34 Добавление р. Некоторые пространства распределений
Поскольку элементы из Н{0 S)(R") можно рассматривать как
!Лфункцни от хп со значениями в H(S) (R"), ясно, что
ЛГ,о, s)(R+) = L2(R+> #<1> (R"))- Поэтому из теоремы В.2.3 вы-
вытекает также такое
Следствие В.2.6. Для неотрицательных целых m пространство
Л{т. S)(R%) состоит из всех ae^(R"), таких что D'nu при
Os^/<Im есть D-функция от хп е R+ со значениями в
H(S+m-})(Rn~l), и норма ||и|((ОТ. «) эквивалентна норме
-0 0
Следующая теорема — немедленное следствие теоремы
8.1.11:
Теорема В.2.7. Если } — неотрицательное целое и m > / + 1/2,
то для каждого фиксированного хп^0 отображение
можно продолжить до непрерывного отображения из Я<т, s> (R+)
& Hls+m-i-i/2)(Rn~1). Для всякого и <= H(m,S)(R+) получаемое та-
таким образом отображение
'nUi-, xn)€
непрерывно, и
-, JCn)L+m-/-l/2)<Cm./Hu|U,«),
Поскольку Я(„) (R") с CV(R") при s >(п — 1)/2 + v (след-
(следствие 7.9.4), отсюда вытекает
Теорема В.2.8, Если и е Я(т, s) (R+), то производные Dau не-
непрерывны в R+ при | а |< m + s — n/2 u а„ < m — 1/2.
При изучении краевых задач для дифференциальных опе-
операторов теорема В.2.7 в сочетании с приводимой ниже теоре-
теоремой, близкой к теореме 4.4.8', часто позволяет дать точную
интерпретацию граничных условий. Пусть X — открытое под-
подмножество в "R+ я_ X° = X(]Rl. Так как aeF^^R"),
-Ф е CJ° (R") => фм е Я(т, s» (R+), можно, как в теореме 10.1.19,
ввести локальное пространство fi\™ s) (Х°), состоящее из всех
таких что фц е= Н{т, ,>(R+) для всех феС(Д

В. 2. Распределения в полупространстве и на многообразии с краем 635
Теорема В.2.9. Пусть Р — дифференциальный оператор по-
порядка ц,
Р= Е aa(x)Da,
1<х|<ц
с аа е С" (X) и коэффициентом при ?#, равным I. Если
и е Н{%. so (Х°) и Put= Hfc-ъ
то не Н\т,s)(Х°) при т^.т2 и т + s^rrtj + S/, / = 1, 2.
Доказательство. Выберем какую-нибудь функцию
и положим о = фц. Предположим сначала, что
Тогда
(В.2.8) PBeVMl(Rl).
Действительно, уРи е Я,тг_ц, S2>= Я(т_ц, s), ^ силу (В.2Л), по-
поскольку m<m2Hm + s<m2 + 52, и Dau е Я^+i-n, в1>с:Я(тс-|».«>
при | а |< ц, поскольку т < т, + 1 и т + s < mx + sx. Заметим,
далее, что
(В.2.9)
ибо v s Я(т,, Sl). Следовательно, Dao е Я(т_ц, s> при_ an < ft
и |a|s^n, поэтому из (В.2.8) вытекает, что Dftv e Я<т_ц, s),
так как это верно для всех прочих членов в Pv. Мы утвер-
утверждаем, что Dfnv е Я(т_/, s), 0^/^ц. Поскольку это уже до-
доу
казано для /=Ц, можно принять, что /<ц и что-
i)i+Ioe Я,т_/_1, S). Но тогда наше утверждение следует из теоремы
В.2.3, ибо_ D^o е Я(т1_/, so_c: Я(т_/_1, s+i). При / = 0 мы полу-
получаем v е Я(т> S), i.e. не н}т, s), поэтому для случая m ^/п, + 1
теорема доказана. Переходя к общему случаю, мы можем,
очевидно, считать, что mt + Sj = /щ + s2 и ml=m2 — k для
некоторого целого fe>l. Тогда по уже доказанному
и е Я(Я?+1, Sl_i), и повторное применение этого рассуждения
дает последовательно
„ "Z/!oc „ <— 771ос Т71ос
U S Л (m,+2, s,-2), • • < > И fc Л (mi+fc, si-A) — п (mi, Ss)'
Доказательство завершено.
Замечание. В этой теореме можно было бы допустить и распре-
распределения и, принимающие значения в С", при условии что коэф-
коэффициенты рассматриваемого оператора суть N X М-матрицы,

636 Добавление В. Некоторые пространства распределений
причем коэффициент при DJJ есть обратимая матрица. После
умножения оператора на обратную к ней матрицу данное выше
доказательство проходит без каких бы то ни было изменений.
Понятие Сх-многообразия с краем определяется точно так
же, как и понятие «открытого» С°°-многообразия (определение
6.3.1), только в качестве множеств Хм допускаются открытые
подмножества замкнутого полупространства R+. Поскольку R"
диффеоморфно открытому полупространству R+, ясно, что мно-
многообразия— частный случай многообразий с краем. Далее, для
всякого п-мерного многообразия X с краем множество Х° всех
точек х е X, таких что у.х е R+ для некоторой (а значит, и для
любой) системы координат х, удовлетворяющей условию х е Л*,
будет n-мерным многообразием, называемым внутренностью X.
Множество всех х ^ X, таких что хх принадлежит границе полу-
полупространства R+ для некоторой (а значит, и для любой) си-
системы координат к с хе X*, образует многообразие размер-
размерности п— 1, называемое краем (или границей) X и обозначае-
обозначаемое дХ. (Системы координат на Х° н дХ — это, конечно, ограни-
ограничения систем координат на X.)
Если X и У — открытые подмножества в R+ и тр: Y-*-X—
диффеоморфизм класса С°°, то, опираясь на теорему 1.2.6, можно
продолжить г|) до С°°-отображения тр: Y-*-X между окрестно-
окрестностями множеств Y н X в R". Это отображение г|э будет диффео-
диффеоморфизмом, в случае когда окрестность Р выбрана достаточно
малой и X = MY). Если и е= ЗУ (X) и supp и с А', то $*и е ЗУ (Y)
и supp ф*и с= У. Множества таких распределений, отвечаю-
отвечающие различным выборам X, очевидным образом отождествляют-
отождествляются друг с другом. Обозначим получающееся в результате такого
отождествления множество через З)'(Х). Из теоремы 2.3.3 сле-
следует, что ф" определяет отображение г|)*: 3)'(X)-*-3)'(Y), не за-
зависящее от выбора X, Y, ф. Аналогично определим 3)'(Х°) как
множество ограничений на X" распределений, заданных в неко-
некоторой окрестности множества X в R". Отображение г|)* переводит
Ф'(Х°) в .3)'(Y°), поскольку ijj* переводит продолжения на Я
в продолжения на ?.
Очевидным образом видоизменяя определение 6.3.3, мы мо-
можем теперь для всякого С°°-многообразия с краем X определить
пространство ЗУ (Х°) продолжаемых распределений в Х° и про-
пространство 3>'(Х) распределений, сосредоточенных в X.. Ввиду
теоремы В.1.8 можно, далее, определить пространства #<°)С (X°)cz
Ш/ (Х°) и H\°s) (X) с ЗУ (X) точно так же, как и в случае откры-
открытых многообразий.

В. 2. Распределения в полупространстве и на многообразии с краем 637
Понятие дифференциального оператора на С°°-многообразии
X с краем определяется совершенно так же, как и в случае мно-
многообразий без края (см. § 6.4). Ясно, что если порядок диф-
дифференциального оператора ^т, то он задает непрерывное ото-
ото1
рр
бражение из Н(°)(Х°) в Н1?Чт)(Х°) для любого s. Чтобы поста-
поставить краевую задачу на X, нужно помимо дифференциального
оператора на X задать еще определенное число граничных усло-
условий на границе дХ. Каждое из них задается некоторым гранич-
граничным дифференциальным оператором, т. е. линейным отображе-
отображением р из СК(Х) в С°°(дХ), таким что для всякой системы коор-
координат х класса С°°
фи) о х~1 = р* (и о х) в Х„ П R«, « е= (Г (X).
Здесь использовано обозначение Ro = {х е R"; хп = 0}, а рх —
это некоторый дифференциальный оператор
с коэффициентами из С°° (R? П Хк)- Для граничного дифферен-
дифференциального оператора р мы наряду с его порядком, который был
инвариантно определен в § 6.4, будем рассматривать еще и
трансвереальный порядок, определяемый как наименьшее число
/, такое что а„ = 0 для всех к прн ап > t. Эквивалентно, это
наименьшее t, такое что ри = 0 в X для всякого и, имеющего
на дХ нуль порядка /+1. (Трансверсальный порядок может,
как и обычный, равняться + с», если край дХ некомпактен.) От-
Отметим, что граничные дифференциальные операторы трансвер-
сального порядка 0 можно также рассматривать как дифферен-
дифференциальные операторы на многообразии дХ.
Пусть теперь р — граничный дифференциальный оператор по-
порядка ц < оо с ^-коэффициентами. Если его трансверсальный
порядок <С.ш—1/2, то, как следует из теоремы В.2.7, отобра-
отображение
С°° (Х«) э v н-* р*о е С°° (R? Л X*)
единственным образом продолжается до непрерывного отобра-
отображения ИЗ Я(тС)(Хк) В #<m-n-I/2)(R" Г\ХК); ОбОЗНЭЧИМ ЭТО прО-
лолжение снова через рч. Ясно, что если us Hlm)(Xo), то рас-
распределения рхич в R" [\Хк определяют некоторое распределение
на многообразии дХ. Обозначая его через ри, получаем сле-
следующий результат:

638 Добавление В. Некоторые пространства распределений
Теорема В.2.10. Всякий граничный дифференциальный оператор
р порядка ц с О™-коэффициентами, задает непрерывное линейное
отображение
яй5 (х°) э и -* ри е= я/~_„_1/2) (а*),
при условии что трансвереальный порядок оператора р меньше
от—1/2.
Как н в § 6.4, не составляет никакого труда обобщить прове-
проведенные выше рассмотрения на случай распределений со значе-
значениями в векторных расслоениях и дифференциальных операто-
операторов, определенных на сечениях соответствующих расслоений.
Мы будем свободно пользоваться такими обобщениями без осо-
особых оговорок.

Добавление С
Некоторые факты
из дифференциальной геометрии
В этом добавлении дана подборка используемых в основном
тексте фактов об отображениях и векторных полях. Для боль-
большинства затронутых тем более подробное изложение можно
найти в многочисленных руководствах по дифференциальной
геометрии.
С. 1. Теорема Фробениуса и слоения
Основную теорему существования для систем дифференциаль-
дифференциальных уравнений первого порядка можно сформулировать следую-
следующим образом: если
— векторное поле класса С°° вблизи нуля в R", удовлетворяющее
условию и@)=^0, то найдутся новые локальные координаты
Уи ¦•¦, Уп, такие что v = d/dyi в некоторой окрестности нуля.
Мы рассмотрим сейчас сходный результат, в котором задано не-
несколько векторных полей. Напомним, что коммутатор [v, w] век-
векторных полей с и ш определяется формулой
[v, w]u = v(дон) — w(vu\ и sС°°.
В координатах это означает, что
[о, до] = Ц (vk dwf/dxk — wk dvt/dxk) д/дх,,
если w = 2 о»/ (х)
Теорема C.I.I (Фробениус). Пусть v\, ..., vr — векторные поля
класса С°° вблизи нуля в R". Если выполнены условия
(С. 1.1) 0,@) »г@) линейно независимы,
(С. 1.2) [vit v,}= T

640 Добавление С. Некоторые факты из дифференциальной геометрии
то существуют новые локальные координаты уи ..., уп, такие
что
г
d/dyt = Е ЬцУ,, t= 1 г,
где (Ьц) — некоторая обратимая матрица 1).
Доказательство. Прежде всего заметим, что векторные поля
Vi=*?daijV,, t = l, ..., г, тоже удовлетворяют условиям
(С. 1.1), (С. 1.2), если det(a(/)=^O, поскольку
= S atka,i [vk, v{\
Далее, эти условия инвариантны относительно замен перемен-
переменных. (Отсюда, между прочим, следует, что выполнение условий
(С.1.1), (С. 1.2) необходимо для справедливости заключения
теоремы.) Предположим теперь, что теорема уже доказана для
меньших значений п; это допустимо, так как при п = 1 теорема
верна тривиальным образом. Выполнив замену переменных, мы
вправе тогда считать, что v\ = д/дх\, и, вычитая из остальных
полей подходящие кратные поля v\, можно также добиться,
чтобы
л
V/ = Z Ьцд/dxt, ] = 2 г.
При JC] = 0 эти векторные поля в R"~l удовлетворяют нашим
условиям, поэтому, произведя замену координат х%, ..., х„, мы
можем по предположению индукции считать, что Ьц = 0 при
Xi = 0 для j = 2, ..., г и /> г. Но
т т
дЬп1дХу = v^/Xi = [о,, v,] xi = ? cl}kvkxl = 2 cukbkt,
1 = 2, ... , n, j = 2 r.
Из единственности решения задачи Коши для системы обыкно-
обыкновенных дифференциальных уравнений первого порядка вытекает
поэтому, что Ьц = 0 в некоторой окрестности нуля для / > г, чем
доказательство и завершено.
Следствие С.1.2. Пусть v\, ..., vr удовлетворяют условиям тео-
теоремы С.1.1, и пусть fi, ..., fr^ С". Уравнения
(С. 1.3) O/U = f/, /=1 г,
') Зависящая от выбора точки вблизи 0, в которой берутся »;, так же
как и числа Сц* в (С. 1.2). — Прим. ред.

: С 1. Теорема Фробениуса н слоения 641
имеют С°°-решеНие в некоторой окрестности нуля тогда и только
тогда, когда
г, /=1 г.
Если С°°-многообраэие ScR" коразмерности k, содержащее
точку 0, обладает тем свойством, что касательная плоскость к
нему в 0 дополнительна к плоскости, натянутой на векторы
i>i@), ..., Vr(O), то у системы (С.1.3) существует единственное
решение в некоторой окрестности нуля, принимающее на S лю-
любое заданное значение и0 е C№(S).
Доказательство. Условие (С.1.4) немедленно вытекает из (С.1.3)
и (С. 1.2), и ясно, что оно инвариантно относительно замен пе-
переменных, а также относительно взятия линейных комбинаций
уравнении из нашей системы. Следовательно, в силу теоремы
С.1.1, можно считать, что V} = d/dxj, /= 1, ..., г. Тогда с«7* = 0
и (С.1.4) сводится к условию
(С. 1.4)' affix t - dfjdxt = 0, /, / = 1 г.
Если положить *' =(*i, ..., хг) и х" = (хг+и ..., хп), то S за-
задается в некоторой окрестности нуля уравнением x'=h(x"), и
из (С.1.3) следует, что при фиксированном х" дифференциал от
и по л/ равен форме S//rfjc/> которая ввиду (С.1.4)' замкнута.
Таким образом,
xf г
«(*)= S ^f^ + Ho^x"), X")
есть единственное решение системы (С.1.3), равное ц0 на S.
Координаты у в теореме С.1.1 определяются, конечно, не
единственным образом. Если у\, ...,уп— Другие координаты
с теми же свойствами, то при каждом / ^ г поле
ду. д
1у, ду
' Я —1 '
должно быть линейной комбинацией полей д/ду\, ..., д/дуг. Сле-
Следовательно, dfjk/dyi = 0 при / ^ г и k > г, так что (локально)
(Уг+и • -. Уп) есть функция от [уг+и ..., Уп). Это подводит
к следующему общему понятию:
1/.91 Зак. «43

642 Добавление С. Некоторые факты нз дифференциальной геометрия
Определение С. 1.3. Говорят, что на С°°-многообразии X задано
слоение со слоями размерности г (или что X расслоено на г-мер-
ные слои), если на X выделен некоторый атлас &~, такой что
для любых х, х' е &~ у отображения
компоненты уг+1(х), ..., уп(х) являются функциями лишь от
хг+\, . . . , Хп.
Здесь использованы обозначения из определения 6.3.1. Зада-
Задание слоения на X выделяет для каждой точки хе.Х некоторую
плоскость пх<=Тх(Х) размерности г, а именно плоскость, опре-
определяемую уравнениями dxr+i = ... =dxn = 0. В силу теоремы
С. 1.1, дополнительное свойство, характеризующее слоение, со-
состоит в том, что для всех точек х из некоторой окрестности лю-
любой заданной точки можно так выбрать базис i>i(x), ..., vr(x)
в пх, что получатся векторные поля V\, ..., v, класса С0, удов-
удовлетворяющие условию Фробениуса (С.1.2). (Чтобы убедиться
в том, что этого достаточно для получения слоения, следует за-
заметить, что каждый атлас допускает измельчение, у которого
пересечение любого числа координатных окрестностей связно.)
Для каждой точки Хо е X локально существует единственное
r-мерное многообразие 2 с X, называемое слоем (или листом)
слоения, проходящим через хо, такое что 71хB) = я, при
всех xeS. В локальных координатах нз выделенного атласа
слой 2 задается уравнениями xr+\ = const, ..., х„= const. Дру-
Другим способом можно описать S как множество точек, в которые
можно попасть из точки *0, двигаясь вдоль интегральных кри-
кривых векторных полей v\, ..., vr и не выходя при этом за пре-
пределы некоторой подходящей окрестности точки х0. Множество
всех точек, в которые можно попасть, идя (сколь угодно далеко)
вдоль таких кривых, образует глобальный слой слоения. Вместе
со всякой своей точкой он содержит локальный слой, проходя-
проходящий через нее, но в любой ее окрестности может найтись счет-
счетное число других локальных слоев, содержащихся в рассматри-
рассматриваемом глобальном и отвечающих почти замкнутым интеграль-
интегральным кривым. За дальнейшими подробностями отсылаем читателя
к работе Haefliger [1].
С. 2. Одно сингулярное дифференциальное уравнение
Пусть v — вещественное векторное поле класса С°°, определен-
определенное вблизи нуля в Rn. Допустим, что задано разбиение
х = (х',х") координат в R" на две части, х'~[хи ..., xk)t

С. 2. Одно сингулярное дифференциальное уравнение 643
X" = (Xk+
(С.2.1)
(С.2.2}
л
до= ?
1
1, • • • i
*п),
И V =Vo
vo =
, причем
(А
w
ад, где
*', д/дх'),
t = 0, dwj
= 0 при */ = 0.
Таким образом, для поля v особыми точками служат точки пло-
плоскости /=0и только они, если вещественная &Х ft-матрица А
невырожденна и норма |дс'| достаточно мала.
Теорема С.2.1. Пусть v = vo + w — векторное поле класса С°°
вблизи нуля в Rn, v0 и w удовлетворяют условиям (С.2.1),
(С.2.2) и Re А > 0 для всякого собственного значения А мат-
матрицы А. Пусть, далее, g и А — функции класса С00, причем
g @) > 0. Тогда уравнение
(С.2.3) gu + vu = h
имеет единственное С°°-решение в некоторой окрестности нуля.
При доказательстве этой теоремы мы сначала построим и,
такое что gu + vu — Л имеет при х' = 0 нуль бесконечного по-
порядка. Для этого нам понадобится следующая
Лемма С.2.2. Пусть А — комплексная k X k-матрща с собствен-
собственными значениями \х, ..., А,*. Тогда собственными значениями
оператора (Az, д/dz), рассматриваемого как линейное преобра-
преобразование в пространстве пт однородных многочленов от
(zi, ..., Zk) степени m, служат суммы вида
k
(а, А>=Г
где a.j — неотрицательные целые с ^0; = ^.
Доказательство. Матрицей оператора (Az, д/dz), действующего
на п\, является матрица, транспонированная к А, поэтому ясно,
что ее собственными значениями будут А,ь ..., А,*. Линейной за-
заменой переменных г можно привести А к верхнетреугольной
форме, поэтому мы вправе считать, что Лд = 0 при / > k, a
Д,7 = ij. Тогда
(Аг, д/dz) za = (a, A,) za + /?z«,' где R — J Aikzk d/dz,.
Мономы z» с |а|=т образуют базис в пт- Если упорядочить
их лексикографически, то, очевидно, оператор R повышает лек-
лексикографический порядок, следовательно, <Лг, д/dz) как опера-

644 Добавление С. Некоторые факты из дифференциальной геометрия
тор в пт задается матрицей верхнетреугольного вида с диаго-
диагональными элементами <а, Я,). Доказательство завершено.
Эта лемма показывает, в частности, что оператор (Az, д/дг}
биективен на пт для каждого т, если выпуклая оболочка соб-
собственных значений матрицы А не содержит 0.
Когда мы будем переходить от формальных решений урав-
уравнения (С.2.3) к настоящим, нам при рассмотрении траектория
поля v понадобится следующая
Лемма С.2.3. Пусть А—линейное преобразование k-мерного ве-
вещественного векторного пространства V. Если все его собствен-
собственные значения лежат в открытой правой полуплоскости, то можно
ввести в V евклидово скалярное произведение (•, •), такое что
для некоторого с > 0
(Ах, х) > с (х, х), х е V.
Доказательство. Пусть | • |— какая-нибудь евклидова норма в V.
Положим
0
Этот интеграл сходится, поскольку |е~л'х| экспоненциально
убывает, и ясно, что ||>||—евклидова норма. Далее,
оо 0
в~*'*рЛ —||*|РЧ- \\e-Atxfdt.
S
Взяв производную по s при s = 0, получаем
2(Ах, x) = \
где (•, •) — скалярное произведение, отвечающее норме ||-||.
Лемма доказана.
Доказательство теоремы С.2.1. Сперва найдем формальный сте-
степенной ряд
где и» — однородный многочлен степени ц от х', коэффициенты
которого суть С°°-функции от х", удовлетворяющий уравнению
(С.2.3) с точностью до бесконечного порядка при х' = 0. Для
членов степени \i получаем уравнение
(g @, х") + (Ах', d/dxf)) и» (х', х") + R»(x', х") = 0,

С. 2. Одно сингулярное дифференциальное уравнение 645
где /?w определяется по данным задачи н по и0, ..., и^~К По-
Поскольку g > 0, из леммы С.2.2 следует, что эти линейные урав-
уравнения .для коэффициентов многочленов и* имеют единственное
решение. В силу теоремы 1.2.6 найдется функция иоеС°° с тей-
лоровым разложением ? иР (х', х") по х' при х' = 0. Уравнение
(С.2.3) можно тогда переписать в виде
g (и — и0) + v (и — щ) = h — gu0 — vu0,
где правая часть имеет нуль бесконечного порядка при х' = 0.
Следовательно, дело свелось к тому, чтобы доказать утвержде-
утверждение теоремы для случая, когда h имеет нуль бесконечного по-
порядка при х' = 0, и мы знаем, что если решение для этого слу-
случая существует, то оно должно иметь нуль бесконечного порядка
при х' = 0.
Чтобы решить уравнение (С.2.3) точно, надо рассмотреть
траектории векторного поля v, т. е. решения уравнений
(С.2.4) dx'/dt = Ax' + a/, dx"/dt = w".
Ввиду леммы С.2.3 можно считать, что (Ах', х?) ~^z с (*', х?). Сле-
Следовательно, при достаточно малых | х" \ -\- \ х" \
; (dx'/dt, х') > с01| х' |р, || dx"jdt || < с0 II х' Ц,
если 0<со<с. Таким образом, d\\x'\\/df$s со\\х'\\, поэтому при
любом достаточно малом у существует траектория x(t), t^O,
с х@) = у, и
IIх'(t)||<||/IIеЧ Их'@1| +1|х"@Ц<||/1| +1|у"|| при /<0.
Обозначим эту траекторию через x{Uy) и заметим, что уравне-
уравнение (С.2.3) можно записать в виде
(С.2.3)' (gu)(x(t, у)) + du(х(/, y))/dt = A(*(t, у)).
Положим
t
¦ O(t, y)=\g(x(s, y))ds} t<0.
Ясно, что \G(t, у) j ^ C\t\. Как было отмечено выше, если функ-
функция А в правой части уравнения (С.2.3) имеет нуль бесконечного
порядка при / = 0иу этого уравнения существует С°°-решение
и, то это решение также должно иметь нуль бесконечного по-
порядка при х'=*0. Отсюда следует, что и должно задаваться
формулой
(С.2.5) и{у)=[ h(x(t, y))ea

646 Добавление С. Некоторые факты из дифференциальной геометрии
Этот интеграл сходится, так как h {х (/), у) = О (| у' \N еыы)
при любом N, и ясно, что формула (С.2.5) дает решение урав-
уравнения (С.2.3)'. Дифференцируя уравнения (С.2.4) по парамет-
параметрам у, последовательно заключаем, что производные от x(t, у)
по у растут с ростом t не более чем экспоненциально. Следова-
Следовательно, и е С°°, чем доказательство и завершено.
Замечание. Хотя в проведенном выше доказательстве возмуще-
возмущение w играет малозаметную роль, избавиться от него заменой
переменных в общем случае нельзя из-за возможности резонан-
сов собственных значений матрицы А.
С. 3. Чистые пересечения
и отображения постоянного ранга
Прежде всего напомним, что о С°°-подмногообразиях У и Z дан-
данного С°°-многообразия X говорят, что они пересекаются в точке
хоеУП2 трансверсально, если TX(Y)+ TX(Z) = TX(X) при
* = *о. Равносильное условие состоит, конечно, в том, что
'Nx{Y)r\Nx(Z)={0} при х — хо. Отсюда следует, что если У ло-
локально определяется уравнениями fi = ... =fk=0, где dfu
..., dfk линейно независимы в точке хо, a Z аналогичным обра-
образом задается уравнениями gx = ... = gt = 0, то все дифферен-
дифференциалы dfu .-., dfk, dgu ..., dgi линейно независимы в точке
х0. Таким образом, пересечение Y(]Z, локально определяемое
уравнениями /i = ... =fk — gi= ... =gi = 0, является С°°-
многообразием в некоторой окрестности точки *0 и
(С.3.1) codim (Y П Z) = codim Y + codim Z,
(С.3.2) TX(Y(]Z)=TX(Y)(]TX(Z), xeEY(\Z.
Но пересечение Yf\Z вполне может быть многообразием,
для которого выполнено (С.3.2), и тогда, когда У и Z пересе-
пересекаются не трансверсально. Примером служат любые два ли-
линейных подпространства У и Z векторного пространства X.
Здесь вместо (С.3.1) выполняется равенство
(С.3.3) codim У + codim Z = codim (У Л Z) + е,
где е = codim(y-fZ). В действительности этот пример совер-
совершенно общий:
Предложение С.3.1. Пусть У, Z и Yf\Z — подмногообразия
класса С00 заданного С00-многообразия X. Предположим, что
выполнено условие (С.3.2). Тогда для любой точки Xo^Y(]Z
можно выбрать в некоторой ее окрестности локальные коорди-
координаты, в которых У и Z задаются линейными уравнениями. Та-

С. 3. Чистые пересечения и отображения постоянного ранга 647
ким образом, при указанном предположении справедливо равен-
равенство (С.3.3), где е — некоторое неотрицательное целое число,
равное-нулю в точности тогда, когда рассматриваемое пересе-
пересечение трансверсально.
Доказательство. Выберем локальные координаты, в которых
Хо = О, У задается уравнениями xi = ... = xv = 0, a Y(]Z —
уравнениями х\ = ... = xv+w = 0, где v = codim У, a v + И
— codim(Y(\Z). Подмногообразие Z определяется в выбранных
координатах некоторыми N = codimZ уравнениями F/(x)—0
с линейно независимыми дифференциалами dF,-. Поскольку
Т7/ = 0 при Xi = ... = Xv+д = 0, можно (по теореме 1.1.9) за-
записать Fi в виде
где Flk e С". Следовательно,
Z
в Y(]Z. В силу сделанного предположения эти уравнения вме-
вместе с уравнениями dx\ = ... = dxy = 0 задают касательную
плоскость к Y П Z, поэтому матрица
\Г; A-v+l v+n
имеет ранг ц. Пусть, скажем, отличен от нуля минор, отвечаю-
отвечающий /= 1, ..., ц. Тогда методом последовательного исключе-
исключения переменных можно найти в некоторой окрестности нуля
С°°-матрицу (а*/), такую что
/ = ц+1, ...,#.
В достаточно малой окрестности нуля уравнения G/(x) = 0,
i = ц -f-1 N, определяют некоторое многообразие W ко-
коразмерности е = N — ц, содержащее У и Z. Коразмерности
многообразий У, Z и YQZ в W равны соответственно v — е,
N — е и v + ц — e = v — е-\- N — е, так что для них выполнено
(С.3.1), т. е. У и Z как подмногообразия в W пересекаются
трансверсально. Если теперь выбрать новые локальные коор-
координаты у=(у',у") так, чтобы W задавалось уравнением у'— О,
то дело сведется к трансверсальному случаю, для которого,
как мы уже видели, наше утверждение верно.
Определение С.3.2. Если пересечение Y(]Z двух С°°-подмного-
образий данного С°°'многообразия Л тоже является С°°-под-

648 Добавление С. Некоторые факты из дифференциальной геометрии
многообразием в А и выполнено (С.3.2), то говорят, что У и Z
пересекаются чисто. Неотрицательное целое число е из (С.3.3)
называется эксцессом этого чистого пересечения.
Имея дело с чистыми пересечениями, полезно выбирать ко-
координаты в соответствии с предложением С.3.1, что позволяет
применять результаты линейной алгебры.
Рассмотрим теперь два С°°-многообразия X и У и С°°-ото-
бражение f: Y-+X. Если в некоторой точке i/oe У производная
f (г/о) инъективна, то некоторая окрестность этой точки пере-
переводится отображением f в некоторое подмногообразие в X раз-
размерности dim У. В случае когда производная f (г/о) сюръек-
тивна, мы получаем локальное расслоение Y над X со слоями
/"'(*)• Это следует из теоремы о неявной функции. Обсудим
более общую ситуацию, когда f имеет постоянный, но произ-
произвольный ранг.
Предложение С.3.3. Пусть Y и X — многообразия класса С"
и f: Y-+X — отображение класса С°°, такое что f имеет по-
постоянный ранг г в некоторой окрестности точки у0 е Y. Тогда
можно так выбрать локальные координаты Х\, ..., хт и
Уи ..., уп вблизи точек f(y0) и у0 соответственно, чтобы f(y)
= {.Уи •••> У', 0, .... 0). Таким образом, локально f определяет
расслоение многообразия Y над некоторым подмногообразием
в X.
Доказательство. Можно считать, что XczRm, f(yo)=O и для
f = (fi , ..-. fm) дифференциалы функций fu .... fr линейно
независимы в уо. Тогда можно так выбрать координаты в У,
чтобы t/o = O и fj(y) — yit /=1,' .... г. Следовательно,
dfi/dyk = 0 при />г и k>r — в противном случае ранг мат-
матрицы df/dy был бы больше г. Значит, fr+u •. •, fm зависят
лишь otj/i, ..., уГ, откуда вытекает, что f(y)== f(y\, ..., Уг,
0, ..., 0). Поэтому образ отображения f является подмного-
подмногообразием в X размерности г. Теперь заменим координаты в X
так, чтобы это подмногообразие задавалось,, уравнениями
хг+\ = ... = Хт = 0, и повторим все доказательство заново.
В результате получим /r+i = ... = fm = 0, чем наше утверж-
утверждение и доказано.
С. 4. Складки и инволюции
Если У и X — многообразия класса С°° и f: Y-+X — отображе-
отображение класса С°°, то для каждого у е У инвариантно определено
некоторое отображение из Кег /' (у) с: Ту (У) в Cokerf(i/)
= Tf(y)(X)/f(y)Ty(Y). Действительно, пусть qp: R-^У — ото-
отображение класса С°° с ф@) = # и <p'(O) = ti e Kerf (y\. Тогда

С. 4. Складки и инволюции 649
в локальных координатах . .
= У (У) (ф (s) - У) + < Г'(У) (Ф(s) - У), <p(s)-y)/2 + O (s3)
= s2 if (У) Ф" @) + < Г (У) Л, Л »/2 + О (s3).
При образовании соответствующего класса смежности из Coker
fly) член f(y)(p"(O) «пропадает», откуда видно, что
Кег Г(у)э^( /" (У) т,, т, > е Coker Г (</)
есть инвариантно определенная квадратичная форма. Ее назы-
называют гессианом отображения f в точке у.
Следующим определением вводится класс отображений, ко-
которые, хотя и не являются диффеоморфизмами, отличаются от
них простейшим возможным образом:
Определение С.4.1. Пусть У и X — многообразия класса С°° и
f: Y-*-X— отображение класса С°°. Говорят, что / имеет складку
(или является складывающим) в точке уо^ У, если dim Кег /' (у0)
= dim Coker f (y0) = 1 и гессиан f в у0 отличен от 0.
Отметим, что в таком случае Y и X должны иметь одинако-
одинаковую размерность.
Теорема С.4.2. Если f: Y-+X имеет складку в у0, то можно так
выбрать локальные координаты у\, ..., уп в Y, равные нулю
в уо, и локальные координаты Х\, ..., хп в X, равные нулю
в f(yo), чтобы f задавалось формулой
Доказательство. Выберем в X локальные координаты, обращаю-
обращающиеся в нуль в f(i/o), так, чтобы для отвечающего этим коорди-
координатам представления f—(fi, ..., fn) мы имелиdfn(уо) = 0.Тогда
dfu • • •» dfn-\ будут линейно независимы в у0, поэтому можно
выбрать локальные координаты в Y, такие что у/ — f, при / < п.
В выбранных таким образом координатах
f{y) = (yi Уп-ь !п(у)\
dfn @) = 0 и (Э2/,, @)/ду2п Ф 0, в силу определения складываю-
складывающего отображения. Из теоремы о неявной функции вытекает,
что уравнение
имеет единственное локальное решение yn = g(y')\ у' = (Уи
.... Уп~\), такое что g@) = 0. Заменяя переменную уп на
2 Зак. 443

650 Добавление С. Некоторые факты из дифференциальной геометрии
у„ — g(y'), получаем ноэые координаты, для которых д}„/ду„ = 0
при у„ = 0, а значит,
где F е С°° и F@)=^0 (формула Тейлора). Принимая х„ — М*'>
0) в качестве новой координаты вместо хп, имеем в этих новых
координатах
f (</) = (</, </„_,. у\РЩ-
Изменяя, если надо, знак координаты хп, можно считать, что
F > 0, и для завершения доказательства остается только взять
ynF(y)l/2 в качестве новой координаты вместо уп.
Эта теорема объясняет происхождение термина «складка»:
при л = 1 график {(/(«/), «/)}<= ^Х У отображения f представ-
представляет собой параболу, которая «складывается пополам» вокруг
оси х.
Следствие САЗ. Если f: Y-*-X имеет складку в точке у0, то
в некоторой окрестности V этой точки существует единственное
Сх'-отображение i: V -*¦ V, отличное от тождественного, такое что
Доказательство. В локальных координатах из теоремы С.4.2 су^
шествует ровно одно отображение с указанными свойствами, а
именно (у',Уп)*-*{у',—Уп).
Отображение i из следствия С.4.3 является инволюцией, т. е.
joj есть тождественное отображение. Это следует из данного
выше явного представления отображения i или же из утвержде-
утверждения о его единственности: если foi = f, то f°ioi=foi = ft по-
поэтому i о t = id, ибо 1°1Ф L Мы будем называть i инволюцией,
определяемой складывающим отображением / (или просто ин-
инволюцией, определяемой складкой). Множество неподвижных
точек инволюции i представляет собой гиперповерхность, на ко-
которой производная \' не биективна; в локальных координатах
она задается уравнением у„ = 0. Важность понятия инволюции,
определяемой складкой, выявляется следующим результатом:
Теорема С.4.4. Пусть и — функция класса С°° вблизи точки
yo^Y, в которой отображение {: Y -*• X имеет складку. Для того
чтобы нашлась функция v класса С°° в некоторой окрестности
точки f(yo), удовлетворяющая условию f*v=u, необходимо и
достаточно, чтобы ?и = и.
Доказательство. Если и = f*v, то ?u=(f о i)*v — f*v = ц, так
что с необходимостью все ясно. Чтобы доказать утверждение
о достаточности, воспользуемся локальными координатами из

С. 4. Складки и инволюции 651
теоремы С.4.2. Тогда функция и четна по уп, и потому в ее фор-
формальном тейлоровом разложении
члены с нечетными / должны отсутствовать. Опираясь на тео-
теорему 1.2.6, выберем функцию i/oeC°° с тейлоровым разложе-
разложением
Тогда функция ul{y) = u{y) — v0{yr, yty имеет нуль бесконеч-
бесконечного порядка при уп = 0. Поэтому функция
0 при хя<0
принадлежит классу С°°; действительно, все ее производные
стремятся к нулю при хп-*-0, поскольку
"-*° при *л-* + 0
для всех а а N. Наконец, функция v = vo + V\ обладает требуе-
требуемым свойством.
Локально всякая инволюция, неподвижные точки которой
образуют гиперповерхность, может быть задана прн помощи
некоторого складывающего отображения:
Теорема С.4.5. Пусть У — многообразие класса С°° и i: Y-*-Y—
инволюция класса С°°, множество неподвижных точек которой
представляет собой гиперповерхность, содержащую точку
у0 е Y. Тогда в некоторой окрестности этой точки можно вы-
выбрать локальные координаты уи ..., Уп, равные нулю в #0, в ко-
которых i задается формулой
НУи ••• . Уп) = (Уи ••-. Уп-\> —Уп)-
Доказательство. Из всякой функции u^C^iY) можно образо-
образовать функции i*u-\-u и г*м — и, первая из которых четна, а вто-
вторая нечетна относительно инволюции L Когда и пробегает неко-
некоторую систему локальных координат, из получающейся таким
образом системы функций можно отобрать систему локальных
координат уи ..., уп, в которой каждая координата либо четна,
либо нечетна относительно /, т. е. /*«// = ±У/. Коразмерность
множества неподвижных точек инволюции i равна числу нечет-
нечетных координат, поэтому оно должно равняться 1.
На гиперповерхности своих неподвижных точек инволюция j
определяет некоторое линейное расслоение, содержащееся в ка-
22*

652 Добавление С. Некоторые факты из дифференциальной геометрии
сательном расслоении к многообразию, на котором действует
инволюция, и состоящее нз собственных векторов «матрицы
Якоби» i', отвечающих собственному значению —1. Такие век-
векторы, разумеется, трансверсальны к гиперповерхности неподвиж-
неподвижных точек. Мы будем называть это линейное расслоение расслое-
расслоением отражения1), порожденным инволюцией L В случае когда
i определяется складывающим отображением f, расслоение от-
отражения, порожденное I, совпадает с ядром дифференциала f.
Теперь рассмотрим вопрос о возможности одновременного
приведения к простой форме двух инволюций с общей гиперпо-
гиперповерхностью неподвижных точек.
Теорема С.4.6. Пусть f и g— нетривиальные О"-инволюции на
Y с общей гиперповерхностью S неподвижных точек и с линейно
независимыми в точке у0 е S векторами отражения. Существуют
локальные координаты уи ..., уп, равные нулю в у0, в которых
fug задаются формулами
(С.4.1) f(y', уп) = (у', -уп),
0).
Вместо е\ можно, конечно, взять любой другой ненулевой
вектор, у которого последняя компонента равна 0. Заметим, что
расслоения отражения для инволюций f и g порождаются соот-
соответственно векторами е„ и еп — в\/2, где еп=@ 0, 1).
Доказательство. Выберем локальные координаты у\, .... уп,
равные нулю в у0, в которых / имеет желаемый вид. Поскольку
g — инволюция, оставляющая на месте каждую точку плоскости
уп = 0, матрица Якоби g' в точке {у', 0) должна совпадать с еди-
единичной матрицей, за исключением последнего столбца, который
у g' имеет вид (ai(yr), .... а„^1 (у1),—1). Эта матрица g' пере-
переводит вектор (т|',г|„) в вектор (т)',0)-f- r|n(ai(у'), .... an-i(y'),
—1), откуда видно, что расслоение отражения, отвечающее ин-
инволюции g, порождается вектором {ai(y'), ..., ап~\(у'),—2).
Следовательно, ввиду предположения о линейной независимости
векторов отражения, хотя бы одна из компонент а/ отлична от
нуля. Мы хотим ввести новые координаты, в которых f сохра-
сохраняет свой простой вид, а g принимает вид, более близкий к же-
желаемому виду
go(#i. •••. Уп) = (У1 + Уп> У2, ¦••> Уп-ъ —Уп)-
Пока мы знаем лишь, что
y'), У„А(у')) + О2,
•) А образующие его ненулевые векторы — векторами отражения,—
Прим, перед.

С. 4. Складки и инволюции 653
где а = (аь .... ап-\), а А — некоторая функция класса С°°.
Здесь и ниже символ Ок обозначает вектор, у которого первые
п— 1 компонент суть О (г/*), а последняя О (г/*+1). Такая клас-
классификация ошибок окажется удобной при заменах координат,
сохраняющих плоскость уп = 0. Итак, введем новые координаты
«(у) = («1 (у'), ¦•-, и-1 (у'), уаип(/)).
Вид инволюции f при этом не изменяется, и мы имеем
(ul(y/)+ ynun(yf), щ(у'), .... «„_,(/), -упип(у')),
(Щ {У' + Упа (*/')) ыЛ_, («/' + г/„а (/)),
(- 0» + 4И (/>)«»(^ + ^ (У'))) + О2.
Эти композиции совпадают между собой с точностью до члена
О2, если
(«;, а) = ы„, («;, а) = 0, / = 2 п-1, «, а) = Аиа.
Эти дифференциальные уравнения можно локально решить, за-
задав на какой-нибудь трансверсальной к а гиперповерхности в
плоскости уп = 0 следующие начальные данные: «i = 0, ыя = 1,
а ы2, .... Un-i равняются функциям, образующим некоторую си-
систему локальных координат на этой гиперповерхности. (Это
означает, в частности, что слои слоения поверхности S, опреде-
определяемого пересечениями касательных пространств к S с двумер-
двумерными плоскостями, натянутыми на наши векторы отражения,
представляются прямыми, параллельными оси г/j.) Взяв
щ, ..., Ып-ь УпЧп в качестве новых локальных координат, мы
достигнем того, что g = g0 + О2.
Вообще, предположим, что мы уже нашли локальные коор-
координаты, в которых f принимает простой вид (С.4.1), а
(С.4.2) g(y) = go(y)+Ok
для некоторого k ^ 2. Запишем g(y) в виде
(С.4.3) g(y) = g0(y) + ykn(h(y'):ynH(y')) + Ok+l,
где h имеет п — 1 компонент, а Я — одну. Рассмотрим по отдель-
отдельности два случая.
a) к четно. Поскольку g — инволюция, несложное вычисле-
вычисление дает
У = g о g (У) = go о go (У) + 2*/„ (А (!/). - УпН {у')) +Ок+Х,
откуда следует, что h = 0 и Н = 0.
b) А нечетно. Положим

654 Добавление С. Некоторые факты из дифференциальной геометрии
Тогда
«-' (У) = У - У*'1 (" (А У„У (/)) + O2k_2,
причем 2k — 2^k+\, так как k ^ 3. Непосредственным вычис-
вычислением получаем
gou-l(y) = gQ(y)-yn-1(v(y') + ynV(y')el, -УпУ(у'))
+ ykn(h(y'), УпН(у')) + Ок+1,
uogou-l(y) = g0(У) - */*"' (о(/) + ynV{у')ev -ynV(у'))
= g0 (У) + У* {h {У') + dv (t/)/dyi - V (у') ev
yn(H(y')-dV(y')/dyi))-{-Ok+i.
Здесь е\ обозначает первый базнсный вектор в 'R"-1. Последнее
выражение равно g0 + Оц+и если
а эти уравнения легко решаются.
Повторно применяя проведенное выше рассуждение, прихо-
приходим к степенному ряду по уп, дающему формальное решение за-
задачи нахождения такой замены переменных и (у), что
Uofou~l = f И
В силу теоремы 1.2.6 можно выбрать С°°-функцию и, для кото-
которой этот ряд служит тейлоровым разложением. Вводя новые
координаты и, сводим дело к случаю, когда / — в точности вида
(С.4.1), a g отличается от gQ лишь на функцию, имеющую нуль
бесконечного порядка при уп = 0.
Как и при доказательстве теоремы С.2.1, перейдем теперь ко
второй части рассуждения, цель которой — избавиться от этой
малой ошибки. Прежде всего заметим, что если до — какая-ни-
какая-нибудь из искомых координатных функций, отличная от у\, то она
должна быть четной (или, если это уп, нечетной) как относи-
относительно f, так и относительно g, а значит,
(С.4.4) wof
Обратно, если у нас есть функция w, удовлетворяющая этому
уравнению, то функция
W-{-Wof = W+Wog (СООТВ. W — Wof = W — W°g)
будет четной (соотв. нечетной) относительно fug одновременно.
Поэтому займемся решением уравнения (С.4.4), а точнее, рав-
равносильного ему уравнения
(С.4.4)' wob = w, где 6 — fog.

С. 4. Складки и инволюции 655
Из первой части доказательства мы знаем, что
где р имеет нуль бесконечного порядка при уп=0. Положим
wo = y/ для некоторого \ф\ и w = wq — w\. Тогда (С.4.4)'
равносильно уравнению
w\ = wx о б = h, где h — w0 — w0» б.
Здесь h имеет нуль бесконечного порядка при уп — 0. Выберем
функцию hl e С™,, равную h в некоторой окрестности нуля. До-
Достаточно решить уравнение
И), — W\ об = Л,.
Формально его решение дается рядом
(С.4.5) аI=Л, + Л,об + Л1обоб+
Ниже мы докажем, что ряд этот сходится и определяет С°°-функ-
цию, имеющую при уп = 0 нуль бесконечного порядка, для вся-
всякой функции Л, е С~, имеющей нуль бесконечного порядка при
уп = 0. Приняв это пока на веру, заменим координатные функ-
функции уг, ..., уп только что построенными их модификациями,
которые обладают нужной четностью относительно fag одно-
одновременно. В этих новых координатах / по-прежнему будет иметь
вид (С.4.1) (поскольку координатная функция у\ тоже четна
относительно /), а
где R имеет нуль бесконечного порядка при уп = 0. Положим
теперь wo = yi. Тогда
W0 — Wq о б = — уп + 1Ц (у),
где h2 имеет нуль бесконечного порядка при уп=0. Поэтому,
как и прежде, можно решить уравнение
а;, — wx о б = Лг
в некоторой окрестности нуля. Функция w = шо — w\ будет удов-
удовлетворять уравнению w — шо6=—уп, а ш — у\ будет иметь
нуль бесконечного порядка при уп = 0. Но уравнение w — w о f
оg = —уп можно переписать в виде w°g — w °f — уп- Следова-
Следовательно, функция ai — (ш-)-до о/)/2 относительно / четна, а под
действием инволюции g преобразуется в wog = w-\-yn. Если
взять w в качестве новой координаты уи то и /, и g примут же-
желаемый вид.

656 Добавление С. Некоторые факты из дифференциальной геометрии
Осталось убедиться в сходимости ряда (С.4.5). Положим 6*
= 6oj ... об {k «сомножителей»). Тогда
= е* + Eke{ + р (у + ку„ех + е*),
где Ek обозначает /г-ю компоненту вектор-функции е&. Таким
образом, ео = О и для некоторой постоянной С
Взяв /г-ю компоненту вектора в левой части, заключаем, что
если |?,|<|г/п| при /<*, то
6С1 при
при
Отсюда следует, что
поэтому
при А
если 16С> 1 и |г/„|<1. Таким образом, итерации отобра-
отображения б ведут себя почти так, как если бы «невязки» р вовсе
не было.
Положим
® = {у; \Уп\<ч, \у\<Ц,
где г\ мало, и пусть |г/|^М на supp/tt. Для уеш мы имеем
\6k(y)\>M, если А удовлетворяет условиям \kyn\> M-\-3 и
~1; такое fe найдется, если
Последнее неравенство будет выполняться для всех jgb, если
выбрать т] столь малым, чтобы
Обрывая ряд (С.4.5) на члене, номер которого равен первому
такому целому числу k, мы все еще получим С°°-решение урав-
уравнения (С.4.4)' в со при yn?*0. Число удержанных членов ряда
равно ОA/\уп\). Остается только получить оценки, гарантирую-

С. 4. Складки и инволюции 657
щие, что все производные гак полученного решения стремятся
к нулю при уп-*-0.
Пусть N — произвольное целое положительное число. Поло-
Положим
I/Iy- I 1*71.
la|<«
Тогда
где CN — некоторая постоянная, зависящая от N. Покажем, что
I e/|w "^ У2п ПРИ / ^ ^> если Уп мало и * — число удерживаемых
членов ряда (С.4.5), которое, как было отмечено, оценивается как
°A/\Уп\)- Отсюда будет следовать, что \W\\N = O{yn), а зна-
значит, И|еСя(и), причем все производные этой функции равны
О при Уп—0. Предположим, уже доказано, что|е/|дг<^ для
всех / ^ / ¦< k. Тогда если уп достаточно мало, то
ll\N + 2CN\yn\5 при
Складывая эти неравенства и учитывая, что ?0 = 0, получаем
\El\N^2CNk\ynf<C'Nyl при
Но отсюда следует, что
и, складывая эти неравенства, мы приходим к выводу, что для
достаточно малых у„
\e,\N<C%ky*n<yl при /</+1.
По индукции заключаем, что | e/ |w < у\, если / ^ k и уп доста-
достаточно мало, чем доказательство теоремы и завершено.
Отметим, что при выводе всех этих оценок мы действовали
по следующему простому принципу: сперва надо оценить у на-
наших итераций я-ю компоненту, поскольку она вообще почти
не изменяется, а затем уже нетрудно оценить и прочие.
Следствие С.4.7. Пусть выполнены условия теоремы С.4.6, ы
пусть v — касательный вектор к S в точке у0, не принадлежа-
принадлежащий линейной оболочке фигурирующих в формулировке тео-
теоремы С.4.6 векторов отражения. Тогда существует проходящая
через у0 гиперповерхность Yi a Y, трансверсальная к v и инва-
инвариантная относительно fug, так что они индуцируют на Y\ ин-
инволюции, обладающие теми же самыми свойствами, которые
предполагались выполненными на Y.

658 Добавление С. Некоторые факты из дифференциальной геометрии
Доказательство. В локальных координатах из теоремы С.4.6 на-
наложенное на v условие означает, что v—(vi, ..., un_i,0), при-
причем Vj ф О при некотором \ф\. Тогда поверхность
{
у;
трансверсальна к v, и ясно, что инволюции fug задаются на
этой поверхности по существу теми же самыми формулами.
Теперь легко дать однородный вариант теоремы С.4.6:
Теорема С.4.8. Пусть f и g — нетривиальные однородные сте-
степени 1 инволюции класса С°° конического С™-многообразия У,
имеющие общую гиперповерхность неподвижных точек Уо. Пред-
Предположим, что отвечающие этим инволюциям векторы отражения
и радиальный вектор линейно независимы в точке г/о ^ Уо. Тогда
п = dim У^З и в некоторой конической окрестности точки у0
можно так выбрать локальные координаты у\, ..., уп, из кото-
которых у и ..., уп-\ однородны степени О, а уп однородна степени 1,
чтобы
г/г. • • • , г/„),
У2, ••• , Уп-1+У\, Уп)-
Доказательство. Поверхность Уо является конической, поэтому
вектор р касателен к ней в точке у0. По предположению он не
лежит в линейной оболочке векторов отражения для / и g; зна-
значит, в силу следствия С.4.7 и теоремы С.4.6, можно так выбрать
гиперповерхность Y\, проходящую через у0 трансверсально к
р(уо), и локальные координаты ylt ..., уп-\ на Y\, равные нулю
в г/о, чтобы точка (г/i, ..., уп-\) переводилась инволюцией f
в точку (—г/i, г/г, .... уп-\), а инволюцией g — в точку (—г/ь г/2,
.... Уп-i + yi)- Продолжим эти координаты до полярных коор-
координат, взятых относительно Уь т. е. положим г/„ = 1 на Y\ и про-
продолжим все г// до однородных функций указанных в формули-
формулировке теоремы степеней однородности. Наше утверждение выте-
вытекает теперь из однородности инволюций / и g.
С. 5. Геодезические нормальные координаты
Пусть X — многообразие класса С°° и g(x, |) — вещественная
квадратичная форма класса С°° на Т*(Х). Если форма g невы-
рожденна, то двойственная к ней квадратичная форма на Т(Х)
будет (псевдо)римановой метрикой, и, как хорошо известно,
в этом случае можно ввести на X геодезические нормальные ко-
координаты относительно данного подмногообразия в X. Мы да-

С. 5. Геодезические нормальные координаты 659
дим сейчас симплектический вывод одного результата такого
рода, налагая на g более слабое условие.
Пусть У—такое С°°-подмногообразие в X, что ограничение
формы g на конормальное расслоение N*(Y) невырожденно.
Тогда
V = {(y, dg(y, т))/<Эт1); (У, r\)<=N
будет подрасслоением в Ту(Х) полной размерности dimX. Его
аннулятором в T*Y(X) служит g-ортогональное дополнение к
N*(У). Таким образом, этот аннулятор не пересекается с
N*(Y)\0, поэтому V есть расслоение, двойственное к N*(У), и,
следовательно, изоморфно нормальному к У расслоению
TY(X)/T(Y). Мы построим сейчас естественный диффеоморфизм
между некоторой окрестностью нулевого сечения расслоения V и
некоторой окрестностью подмногообразия Y в X, используя это
отождествление и «растекаясь» с лагранжева многообразия
N*(У) вдоль гамильтонова поля, отвечающего функции g(x, |)/2,
которое в локальных координатах задается формулой
H=—(^S-— dg д \
2\д%дх дх dl ) '
Будем далее обозначать exp tH через qv.
Теорема С.5.1. Если U — достаточно малая окрестность нулевого
сечения в N*(Y), то лагранжево подмногообразие ф11/ расслое-
расслоения Т*(Х) представляет собой некоторое сечение S этого рас-
расслоения над подходящей окрестностью Ux многообразия Y в X.
Если ns: S-*~UX — ограничение на S проекции я: Т*(Х)-*-Х, то
S={(x,dF(x)),x^Ux}, где F = (q>~lnjiyg/2. Вблизи всякой
точки из У можно выбрать локальные координаты (х/, х") в X
так, чтобы У задавалось уравнением х' = 0 и для некоторой фик-
фиксированной невырожденной квадратичной формы go(i') выпол-
выполнялось условие
(С.5.1) dg(x, t)/dt = dgoa')/dt,
если |" = 0 и х? — tdg0(!')/<??' при некотором /eR.
В частности,
g@, х", |) = ?оA') + Ы*", I"),
где g\ — некоторая квадратичная форма.
Следствие С.5.2. В случае когда У — точка, мы получаем коор~
динаты с началом в У, для которых выполняется соотношение
если x — ldg@, |)/д| при некотором /eR.

660 Добавление С. Некоторые факты из дифференциальной геометрии
Если записать g(x, |) в виде g(x, |)= <?(*)!, |>, где g(x) —
симметричная матрица, то это соотношение означает, что
(С.5.2) x = g{x)g@)-lx.
Следствие С.5.3. В случае когда У— нехарактеристическая отно-
относительно g гиперповерхность, переменная \' одномерна и
g(x, 1) = ±Ц + г(х, ГУ,
мы пишем здесь ?i вместо ?', а ?"=(?2. ¦¦-, In)-
Для случая положительно определенной формы g следствие
С.5.2 дает стандартные нормальные координаты, если только-
взять g(O)=id. Заметим, что в следствии С.5.3 невырожден-
невырожденность формы g не предполагается.
Доказательство теоремы, С.5.1. Ввиду однородности g, из урав-
уравнений Гамильтона
(С.5.3) 2dx/dt = dg/dl, 2dt/dt = - dg/дх
для траекторий гамильтонова поля Н вытекает, что при фикси-
фиксированном s ф О
2dx/d (st) = g{ (х, Us), d (l/s)/d (st) = -g'x (x, Its).
Следовательно,
(C.5.4) <p* (x, I) = (x (/), 5 W) => <Pst (x, уs) = (x (t), I @/s).
Выберем вблизи заданной точки локальные координаты х', х"
так, чтобы эта точка находилась в начале координат и У зада-
задавалось вблизи этого начала уравнением лг' = 0. В силу (С.5,4)
яф! (*. «?) = яфе (х, 1) = х + (е/2) дё/д% + О (в2),
откуда
(С.5.5) яФ, (х,1) = х + д (g/2)/dl + О A1 I2) (Б -¦ 0).
По предположению отображение %'*—>dg{0, |', 0)/д|' сюръек-
тивно, поэтому теорема о неявной функции позволяет заклю-
заключить, что яф! — локальный диффеоморфизм в точках нулевого
сечения расслоения N*(Y) = {F,x",%',0)}. Выберем окрестность
U этого сечения, имеющую выпуклые слои и столь малую, что
яф! является на ней диффеоморфизмом. Поскольку ф, — кано-
каноническое преобразование, многообразие S = q>iU будет лагран-
жевым. Вычислим ограничение на S формы gdjc в координатах
на U. С этой целью подсчитаем производную
4 < (^ dx) = Ф; Т, чС (I dx) I - Ф; ((dl/dt) dx + id (dx/dt)).

С. S. Геодезические нормальные координаты 661
Выражение в наружных скобках в правой части равно
= ((I d2g/dt дх - dg/дх) dx +1 (d2g/dl2) dl)/2
= ((dg/дх) dx + (dg/dl) dl)/2 = dg/2,
ввиду тождества Эйлера для однородных функций. Но форма g
постоянна на траекториях гамильтонова поля /f, поэтому мы
заключаем, что qpj(|dx) = dg/2, так как <p*0(idx) — 0 (ибо
ldx = 0 на N*(Y)). Таким образом, S служит графиком диффе-
дифференциала dF, как и утверждалось.
Наши локальные координаты х', х" можно выбрать так, чтобы
слои векторного расслоения V были касательны к поверхностям
х" = const при х1 = 0. Действительно, поскольку V траисвер-
сальио к T(Y), оно задается уравнением вида dx" = f(x")dx',
где / — некоторая гладкая матрица. Заменяя координаты х" на
yf — ](х")х\ добиваемся выполнения желаемого свойства. Из
него следует, что d2g/dl'd\'r = 0 на #* {Y).
В наших локальных координатах ограничение квадратичной
формы g на N*(Y) есть невырожденная квадратичная форма от
I', зависящая от параметра х". Используя метод дополнения до
полного квадрата, можно найти локальную замену переменных
у' = Т(х")х', у" = х", приводящую это ограничение к виду, в ко-
котором зависимости от х" уже нет. Таким образом, существует
невырожденная квадратичная форма ^о(п')»такая что g@, у", ц)
— goW) есть квадратичная форма от переменных ц". Рассмот-
Рассмотрим теперь диффеоморфизм
(/о (V)/2, у") ^ ЯФ, @, у", V, 0), {у", V) е U,
из V в X. В силу (С.5.5) матрица Якоби этого отображения
при г|' = 0 равна единичной матрице. Поэтому можно заменить
координаты в X так, чтобы это отображение стало тождествен-
тождественным, не нарушив при этом условий, наложенных ранее на коор-
координаты на У. Тогда функция F будет определяться равенством
Если Go — квадратичная форма, двойственная к g0, то соотно-
соотношение y' — g'0D')/2 равносильно соотношению tj' = G'o (t/')/2,
поэтому F'(y) = (G'0(y')/2, 0), или
(С.5.6)
Ввиду (С.5.4), в наших последних координатах
. У"> V. 0) = яф,@, у", Ы, 0) = (^

662 Добавление С. Некоторые факты из дифференциальной геометрии
Таким образом, решением уравнений Гамильтона (С.5.3) с на-
начальными значениями @, у", г\', 0) при / = 0 служит
х = A^0(ч')/2, у"), и при /=1 мы имеем l = F'(х) = (г{, 0).
Поскольку уравнение Гамильтона для dx/di дает при /=1
2, у",
доказательство теоремы завершено.
Сб. Лемма Морса с параметрами
Значение леммы Морса состоит в том, что она показывает, что
С°°-функция вблизи всякой своей невырожденной критической
точки эквивалентна некоторому многочлену. Нам нужен тот же
результат при наличии параметров:
Лемма С.6.1. Пусть f(x,y) (jteR'.jeR")—вещественнознач~
пая функция класса С°° вблизи точки @, 0). Предположим, что
¦f'x(Q> 0) = 0 и матрица A = f"x(Q, 0) невырожденна. Тогда урав-
уравнение f'x (x, у) = 0 определяет в некоторой окрестности точки 0
функцию х(у) класса С°° с дс(О) = О, и в некоторой окрестности
точки @,0)
fix, y) = f(x(y), y) + (Az, г)/2,
где z = x —x(y)+О(\х — х(у)\(\х\ + \у\)) —некоторая функ-
функция от (х, у) класса С°° вблизи @, 0).
Доказательство. По теореме о неявной функции уравнение
f'x(x, у) = 0 имеет вблизи нуля единственное решение х(у).
Введя х — х(у) в качестве новой переменной вместо х, можно
считать, что f?@, у) = 0 при малых у. Согласно формуле Тей-
Тейлора,
f(x, y)-f(O, y)=Tjbtkix, y)x,xk/2,
где
b,k(x, y) = 2^(l-t)djdkf(tx, y)dt.
Ясно, что B=(bjk) есть О-функция от (х, у) со значениями
в конечномерном векторном пространстве симметричных п X п-
матриц, причем В @,0) = А. Положим z = /?(*, у)х, где R — под-
подлежащая определению пХ "-матрица. Потребуем, чтобы /?@, 0)
= /, и определим R из уравнения

С. S. Геодезические нормальные координаты 663
Это уравнение выполнено в точке х = у = 0, где /? = /, В=А.
Производная отображения R*—>R*AR при R —I равна
Она сюръективна, поскольку для всякой симметричной матрицы
С мы имеем /?М + AR = C, если R =А~1С/2. Следовательно,
по теореме об обратной функции, уравнение (С.6.1) выполняется
для R = F(B) при некоторой С°°-функции F, определенной на
симметричных п X «-матрицах, близких к Л, и принимающей
значения в произвольных п X «-матрицах, такой что F(A) = I.
Таким образом, утверждение леммы справедливо для
z = F(B(x,y))x.
С помощью леммы С.6.1 можно было бы вывести теорему
7.7.6 из леммы 7.7.3, хотя вычислить в явном виде фигурирую-
фигурирующие в указаиной теореме операторы Lft /, у на этом пути трудно.
Другое приложение леммы С.6.1—следующий результат, ис-
использованный в § 22.3:
Лемма С.6.2. Пусть f — неотрицательная Ск-функция, опреде-
определенная в некоторой окрестности нуля в R* и удовлетворяющая
условию Д0) = 0, и пусть ранг матрицы f" @) равен п. Тогда
найдутся С°°-функции С\, ..., сп и g, равные нулю в 0, такие
что dcu ..., dcn линейно независимы в 0, g ^ 0, g"@) = 0 и
(С.6.2) f=tc) + g.
Доказательство. Так как f@) = 0 ^f, то f @) = 0. Линейной за-
заменой координат можно добиться, чтобы был отличен от нуля
определитель det\"хх@), где х = (хи ..., хп)—первые п коорди-
координат. Обозначим остальные координаты через у=(уи ..., «/*_„).
Применяя лемму С6.1 и вводя г, у в качестве новых перемен-
переменных, получаем
где А — положительно определенная матрица, ag^O. Матрица
Гессе функции / в этих координатах есть прямая сумма матрицы
А и матрицы g"@), поэтому g"@) = 0 (иначе ранг матрицы
f'@) был бы выше п). Для завершения доказательства остается
только записать (Az, z) в виде суммы квадратов и вернуться
к исходным переменным.

664 Добавление С. Некоторые факты из дифференциальной геометрии
Примечания
Результаты о пространствах Соболева //(«), приведенные в § В.1,
настолько общеизвестны, что мы и не будем пытаться просле-
проследить их источники. Для того чтобы в следующем томе при опре-
определении лагранжевых распределений иметь в своем распоряже-
распоряжении нужные пространства, мы также включили в § В.1 очень
краткое обсуждение пространств Бесова; более систематиче-
систематическое изложение, можно найти в Peetre [4]. Результаты § В.2, ка-
касающиеся многообразий с краем, первоначально взяты из Peetre
[1], а непосредственно попали сюда из книги, предшествовав-
предшествовавшей этой.
Мы также воздержимся от исторических замечаний по по-
поводу большинства разрозненных тем, затронутых в добавлении
С. Здесь единственный результат, относящийся к последнему
времени, — это теорема С.4.6. Она выделена из доказательства
утверждения теоремы 21.4.12, данного в работе Melrose [2], как
несимплектическая часть рассуждений Мелроуза. Остальная
часть его рассуждений была приведена в § 21.4.

Литература
Агранович М. С. [1] Об уравнениях в частных производных с постоянными
коэффициентами. — УМН, 1961, т. 16, № 2, с. 27—93.
Арнольд В. И. [1] О характеристическом классе, входящем в условия кванто-
квантования.— Фуикц. анализ и прил., 1967, т. 1, № 1, с. 1—14.
Аткинсон Ф. В. [1] Нормальная разрешимость линейных уравнений в норми-
нормированных пространствах. — Матем. сб., 1951, т. 28 G0), с. 3—14.
Бернштейн И. Н. [1] Модули над кольцом дифференциальных операторов.
Исследование фундаментальных решений уравнений с постоянными коэф-
коэффициентами.— Функц. анализ и прил., 1971, т. 5, № 2, с. 1—16.
Бернштейн И. Н., Гельфанд С. И. [1] Мероморфность функции Р . — Фуикц.
анализ и прил., 1969, т. 3, № 1, с. 84—85.
Буслаев В. С, Матвеев В. Б. [1] Волновые операторы для уравнения Шрё-
дингера с медленно убывающим потенциалом. — ЖЭТФ, 1970, т. 2, с. 266—
274.
Векуа И. Н. [1] Systeme von Differentialgleichungen erster Ordnung vom ellip-
tischen Typus und Randwertaufgaben mit einer Anwendung in der Theorie
der Schalen. — Berlin 1956. [Перевод статьи: Системы дифференциальных
уравнений первого порядка эллиптического типа и граничные задачи с при-
применением к теории оболочек. — Матем. сб., 1952, т. 31, № 2, с. 217—314.]
Вишнк М. И. [1] Об общих краевых задачах для эллиптических дифференци-
дифференциальных уравнений. — Труды ММО, 1952, т. 1, с. 187—246.
Вншик М. И., Эскин Г. И. [1] Уравнения в свертках в ограниченной обла-
области. - УМН, 1965, т. 20, № 3, с. 89-152.
[2] Уравнения в свертках в ограниченной области в пространствах с весо-
весовыми нормами. — Матем. сб., 1966, т. 69, № 1, с. 65—110.
[3] Эллиптические уравнения в свертках в ограниченной области и их при-
приложения. — УМН, 1967, т. 22, № 1, с. 15—76.
[41 Уравнения в свертках переменного порядка. —Труды ММО, 1967, т. 16,
с. 25—50.
[5] Нормально разрешимые задачи для эллиптических систем уравнений в
свертках. — Матем. сб., 1967, т. 74, № 3, с. 326—356.
Габриэлов А. М. [1] Об одной теореме Хёрмаидера. — Функц. анализ и прил.,
1970, т. 4, № 2, с. 18—22.
Гельфанд И. М., Шилов Г. Е. [1] Преобразование Фурье быстро растущих
функций и вопросы единственности решения задачи Кошн. — УМН, 1953,
т. 8, № 6, с. 3-54.
[2] Обобщенные функции. Вып. 1. Обобщенные функции и действия над
ними. 2-е изд. — М.: Физматгиз, 1959. Вып. 2. Пространства основных и
обобщенных функций. — М.: Физматгиз, 1958.
Горин Е. А. [1] Об асимптотических свойствах многочленов и алгебраических
23 Зак. 443

666 Литература
функций от нескольких переменных. — УМН, 1961, т. 16, № 1, с. 91 — 118.
Грушии В. В. [1] Распространение гладкости решений дифференциальных
уравнений главного типа.— ДАН СССР, 1963, т. 148, № 6, с. 1241—1244.
[2] Об одном классе гипоэллиптических операторов. — Матем. сб., 1970,
т. 83, № 3, с. 456—473.
Гуревич Д. И. [1] Контрпримеры к проблеме Л. Шварца. — Функц. анализ
и прил., 1975, т. 9, № 2, с. 29—35.
Дейч В. Г., Коротаев Е. Л., Яфаев Д. Р. [1] Теория потенциального рассеяния
прн учете простраиствеииой анизотропии. — Записки иаучн. сем. ЛОМИ,
1977, т. 73, с. 35—51.
Егоров Ю. В. [1] О канонических преобразованиях псевдодифференциальных
операторов. — УМН, 1969, т. 24, № 5, с. 235—236.
[2] О субэллиптнческих псевдодифференциальиых операторах. — ДАН
СССР, 1969, т. 188, № 1, с. 20—22.
[3] О субэллиптических операторах. — УМН, 1975, т. 30, № 2, с. 57—114;
№ 3, с. 57-104.
Иврнй В. Я. [1] Достаточные условия регулярной и вполне регулярной гипер-
гиперболичности. — Труды ММО, 1976, т. 33, с. 3—65.
[2] Волновые френты решений краевых задач для одного класса симметри-
симметрических гиперболических систем. — Снб. матем. ж., 1980, т. 21, № 4, с. 62—
71.
[3] О втором члене спектральной асимптотики для оператора Лапласа —
Бельтрами на многообразиях с краем. — Фуикц. анализ и прнл., 1980, т. 14,
№ 2, с. 25-34.
Иврий В. Я., Петков В. [1] Необходимые условия корректности задачи Кошн
для нестрого гиперболических уравнений. — УМН, 1974, т. 29, №5, с. 3—70.
Колмогоров А. Н. [1] Zufallige Bewegungen. — Ann. of Math. 35 A934), 116—
Левитан Б. М. [1] Об асимптотическом поведении спектральной функции са-
самосопряженного дифференциального уравнения второго порядка. — ИАН
СССР, сер. матем., 1952, т. 16, с. 325—352.
[2] Об асимптотическом поведении спектральной функции и о разложении
по собственным функциям самосопряженного дифференциального уравне-
уравнения второго порядка. II. — ИАН СССР, сер. матем., 1955, т. 19, с. 33—58.
Лопатннский Я. Б. [1] Об одном способе приведения граничных задач для
системы дифференциальных уравиеинй эллиптического типа к регулярным
интегральным уравнениям.—Укр. матем. ж., 1953, т. 5, с. 123—151.
Маслов В. П. [1] Теория возмущений и асимптотические методы. — М.: МГУ,
1965.
Михлин С. Г. [1] О мультипликаторах интегралов Фурье.— ДАН СССР, 1956,
т. 109, с. 701—703.
Олейник О. А. [1] On the Cauchy problem for weakly hyperbolic equations.—
Comm. Pure Appl. Math. 23 A970), 569—586.
Олейннк О. А., Радкевнч Е. В. [1] Уравнения второго порядка с неотрицатель-
неотрицательной характеристической формой. В сб.: Матем. анализ 1969 (Итоги иау-
ки). —М.: ВИНИТИ, 1971, с. 7—252.
Паламодов В. П. [1] Лииейиые дифференциальные операторы с постоянными
коэффициентами. — М.: Наука, 1967.
Петровский И. Г. [1] Ober das Cauchysche Problem fur Systeme von partiellen
Differentialgleichungen. — Матем. сб., 1937, т. 2 D4), с. 815—870.
[2] О проблеме Cauchy для системы линейных уравиеинй с частными про-
производными в области неаналитическнх функций. — Бюлл. Моск. ун-та (А),
1938, № 7, с. 1—72.
[3] Sur l'analyticite des solutions des systemes d'equations differentielles. —
Матем. сб., 1937, т. 5 D7), с. 3-70.
[4] On the diffusion of waves and the lacunas for hyperbolic equations.—
Матем. сб., 1945, т. 17 E9), с. 289-370.

Литература 667
[5] Некоторые замечания к моим работам о задаче Коши. — Матем. сб.,
1956, т. 39 (81), с. 267-272.
Повзиер А. Я. [1] О разложении произвольных функций по собственным ха-
характеристическим функциям оператора —Аи + си. — Матем. сб., 1953,
т. 32 G4), с. 109-156.
Радкевич Е. В. [1] Априорные оценки и гнпоэллиптнческие операторы с крат-
кратными характеристиками. — ДАН СССР, 1969, т. 187, с. 274—277.
Соболев С. Л. [1] Methode nouvelle a resoudre le probleme de Cauchy pour les
equations lineaires hyperboliques normales. — Матем. сб., 1936, т. 1 D3),
с. 39-72.
[2] Об одной теореме функционального анализа.—Матем. сб., 1938, т. 4
D6), с. 471—498.
Федосов Б. В. [1] Непосредственное доказательство формулы для индекса
эллиптической системы в евклидовом пространстве. — Фуикц. анализ и
прил., 1970, т. 4, № 4, с. 83—84.
Agmon S. [1] The coerciveness problem for integro-differential forms.—
J. Analyse Math. 6 A958), 183—223.
[2] Spectral properties of Schrodinger operators. — Actes Congr. Int. Math.
Nice 2 A970), 679—683.
[3] Spectral properties of Schrodinger operators and scattering theory. —
Ann. Scuola Norm. Sup. Pisa D) 2, A975), 151—218.
[4] Unicite et convexite dans les problemes differentiels. — Sem. Math.
Sup. No 13, Les Presses de l'Univ. de Montreal, 1966.
[5] Lectures on elliptic boundary value problems. — Van Nostrand Math.
Studies 2, Princeton, N. J., 1965.
6] Problemes mixtes pour les equations hyperboliques d'ordre superleur. —
loll. Int. CHRS 117, Paris 1962, 13—18.
[7] Some new results in spectral and scattering theory of differential opera-
operators on Rn — Sem. Goulaouic — Schwartz 1978—1979. Exp. II, 1—11.
Agmon S., Douglis A., Nirenberg L. [1] Estimates near the boundary for solu-
solutions of elliptic partial differential equations satisfying general boundary
conditions. I. — Comm. Pure Appl. Math. 12 A959), 623—727; II. — Comm.
Pure Appl. Math. 17 A964), 35—92. [Имеется перевод части 1: Агмои С,
Дуглис А., Ниреиберг Л. Оценки решении эллиптических уравнений вблизи
границы. — М.: ИЛ, 1962.]
Agmon S., Hormander L. [1] Asymptotic properties of solutions of differential
equations with simple characteristics. — J. Analyse Math. 30 A976), 1—38.
Ahlfors L., Heins M. [1] Questions of regularity connected with the Phragmen-
Lindelof principle. — Ann. of Math. 50 A949), 341—346.
Airy G. B. [1] On the intensity of light in a neighborhood of a caustic.—
Trans. Cambr. Phil. Soc. 6 A838), 379—402.
Alinhac S. [11 Non-unicite du probleme de Cauchy.— Ann. of Math. 117 A983),
77—108.
[2] Non-unicite pour des operaterus differentiels a caracteristiques complexes
simples. — Ann. Sci. Ecole. Norm. Sup. 13 A980), 385—393.
[3] Uniqueness and non-uniqueness in the Cauchy problem. — Contemporary
Mathematics (to appear).
Alinhac S., Baouendi M. S. [1] Uniqueness for the characteristic Cauchy pro-
problem and strong unique continuation for higher order partial differential
inequalities. — Amer. J. Math. 102 A980), 179—217.
Alinhac S., Zuily С [1] Unicite et non-unicite du probleme de Cauchy pour des
operateurs huperbaliques a caracteristiques doubles. — Comm. Partial Diffe-
Differential Equations 6 A981), 799—828.
Alsholm P. K. [1] Wave operators for long range scattering. — Mimeographed
report, Danmarks Tekniske Hejskole 1975,
23*
g

668 Литература
Alsholm P. K., Kato Т. [1] Scattering with long range potentials. In: Partial
Diff. Eq. — Proc. of Symp. in Pure Math. 23, pp. 393—399. Amer. Math.
Soc. Providence, R. I., 1973.
Amrein W. O., Martin Ph. A., Misra P. [1] On the asymptotic condition of
scattering theory. — Helv. Phys. Acta 43 A970), 313—344.
Andersson K. G. [1] Propagation of analyticity of solutions of partial diffe-
differential equations with constant coefficients. — Ark. Mat. 8 A971), 277—302.
Andersson K. G., Melrose R. B. [1] The propagation of singularities along gli-
gliding rays. — Invent. Math. 41 A977), 197—232.
Aronszajn N. [1] Boundary values of functions with a finite Dirichlet inte-
integral.— Conference on Partial Differential Equations 1954, University of
Kansas, pp. 77—94.
[2] A unique continuation theorem for solutions of elliptic partial differen-
differential equations or inequalities of second order. — J. Math. Pures Appl. 36
A957), 235—249.
Aronszajn N., Krzywicki A., Szarski J. [1] A unique continuation theorem for
exterior differential forms on Riemannian manifolds. — Ark. Mat. 4 A962),
417—453.
Asgeirsson L. [1] Ober eine Mittelwerteigenschaft von Losungen homogener
linearer partieller Differentialgleichungen 2. Ordnung mit konstanten Koef-
fizienten. — Math. Ann. 113 A937), 321—346.
Atiyah M. F. [1] Resolution of singularities and division of distributions.—
Comm. Pure Appl. Math. 23 A970), 145—150.
Atiyah M. F., Bott R. [1] The index theorem for manifolds with boundary.—
Proc. Symp. on Differential Analysis, Oxford, 1964, pp. 175—186.
[2] A Lefschetz fixed point formula for elliptic complexes. I. — Ann. of
Math. 86 A967), 374—407.
Atiyah M. F., Bott R., Garding L. [1] Lacunas for hyperbolic differential opera-
operators with constant coefficients. I. —Acta Math. 124 A970), 109—189. [Име-
[Имеется перевод: Атья М., Ботт Р., Гордииг Л. Лакуны для гиперболических
дифференциальных операторов с постоянными коэффициентами. I. — УМН,
1971, т. 26, № 2, с. 25-100.]
[2] Lacunas for hyperbolic differential operators with constant coefficients.
II. —Acta Math. 131 A973), 145—206. [Имеется перевод: Атья М., Ботт Р.,
Гордннг Л. Лакуны для гиперболических дифференциальных операторов с
постоянными коэффициентами. П.— УМН, 1984, т. 39, № 3, с. 171—224.]
Atiyah M. F., Bott R., Patodi V. К. [1] On the heat equations and the index
theorem. — Invent. Math. 19 A973), 279—330. [Имеется перевод: Атья М.,
Ботт Р., Патодн В. Уравнение теплопроводности и теорема об индексе.—
Математика, 1973, т. 17, № 6, с. 3—48.]
Atiyah M. F., Singer I. M. [1] The index of elliptic operators on compact ma-
manifolds. — Bull. Amer. Math. Soc. 69 A963), 422—433. [Имеется перевод:
Атья М., Зингер И. Индекс эллиптических операторов на компактных мно-
многообразиях. — Математика, 1966, т. 10, № 3, с. 29—38.]
[2] The index of elliptic operators. I, III. —Ann. of Math. 87 A968), 484—
530, 546—604. [Имеется перевод: Атья М., Зингер И. Индекс эллиптиче-
эллиптических операторов. I, III.— УМН, 1968, т. 23, № 5, с. 99—142; 1969, т. 24
№ 1, с. 127—182.]
Avakumovic" V. G. [1] Ober die Eigenfunktionen auf geschlossenen Riemann-
schen Mannigfaltigkeiten. — Math. Z. 65 A956), 327—344.
Bang T. [1] Om quasi-analytiske funktioner. Thesis, Copenhagen 1946.
Baouendi M. S., Goulaouic Ch. [1] Nonanalytic-hypoellipticity for some degene-
degenerate elliptic operators.— Bull. Amer. Math. Soc. 78 A972), 483—486.
Beals R. [1] A general calculus of pseudo-differential operators. — Duke Math.
J. 42 .A975), 1—42.

9—29.
3] Analytic continuation across a linear boundary. — Acta Math. 128
197
Литература 669
Beals R., Fefferman С [1] On local solvability of linear partial differential
equations. — Ann. of Math. 97 A973), 482—498.
S2] Spatially inhomogeneous pseudo-differential operators I. — Comm. Pure
lPP1. Math. 27 A974), 1—24.
Beckner W. [1] Inequalities in Fourier analysis. — Ann. of Math. 102 A975),
159-182.
Berenstein С A., Dostal M. A. [1] On convolution equations I. In: L'anal.
harm, dans le domain complexe. — Springer Lecture Notes in Math. 336
A973), 79—94.
Bernstein S. [1] Sur la nature analytique des solutions des equations aux
derivees partielles du second ordre. — Math. Ann. 59 A904), 20—76.
Beurling A. [1] Quasi-ahalyticity and general distributions. Lectures 4 and 5,
Amer. Math. Soc. Summer Inst. Stanford 1961 (Mimeographed).
[2] Sur les spectres des fonctions. — Anal. Harm. Nancy 1947, Coll. Int. XV,
pp. "
[3]
A972), 153—182.
Bjorck G. [1] Linear partial differential operators and generalized distribu-
distributions.—Ark. Mat. 6 A966), 351—407.
Bjork J. E. [1] Rings of differential operators. — North-Holland Publ. Co. Math.
Library series 21 A979).
Bochner S. [1] Vorlesungen fiber Fouriersche Integrale. — Leipzig 1932. [Имеет-
[Имеется перевод: Бохиер С. Лекции об интегралах Фурье. — М.: Физматгиз,
1962.]
Boman J. [1] On the intersection of classes of infinitely differentiable func-
functions.—Ark. Mat. 5 A963), 301—309.
Bonnesen Т., Fenchel W. [1] Theorie der konvexen Кбгрег. — Erg. der Math,
und ihrer Grenzgeb. 3, Springer-Verlag, 1934.
Bony J. M. [1] Une extension du theoreme de Holmgren sur l'unicite du pro-
bleme de Cauchy. — С R. Acad. Sci. Paris 268 A969), 1103—1106.
[2] Extensions du theoreme de Holmgren. — Sem. Goulaouic—.Schwartz
1975—1976, Expose no. XVII.
[3] Equivalence des diverses notions de spectre singulier analytique. — Sem.
Goulaouic — Schwartz 1976—1977, Expose no. III.
Bony J. M., Schapira P. [1] Existence et prolongement des. solutions holo-
morphes des equations aux derivees partielles. — Invent. Math. 17 A972),
95—105. [Имеется перевод: Бонн Ж--М., Шапира П. Существование и про-
продолжение голоморфных решений уравнений с частными производными. —
Математика, 1973, т. 17, № 1, с. 162—171.]
Borel Е. [1] Sur quelques points de la theorie des fonctions. — Ann. Sci. Ecole
Norm. Sup. 12 C) A895), 9—55.
Boutet de Monvel L. [1] Comportement d'un operateur pseudo-differentiel sur
une variete a bord. — J. Analysis Math. 17 A966), 241—304.
[2] Boundary problems for pseudo-differential operators. — Acta Math. 126
A971), 11—51.
[3] On the index of Toeplitz operators of several complex variables. — In-
Invent. Math. 50 A979), 249—272.
[41 Hypoelliptic operators with double characteristics and related pseudo-
differential operators. — Comm. Pure Appl. Math. 27 A974), 585—639.
Boutet de Monvel L., Guillemin V. [1] The spectral theory of Toeplitz opera-
operators.—An. of Math. Studies 99 A981).
Boutet de Monvel L., Grigis A., Helffer B. [1] Parametrixes d'operateurs
pseudo-differentiels a caracteristiques multiples. — Asterisque 34—35 A976),
93—121.
Brezis H. [1] On a characterization of flow-invariant sets, — Comm. Pure Appl,
Math. 23 .A970), 261—263.

670 Литература
Brodda В. [11 On uniqueness theorems for differential equations with constant
coefficients. —Math. Scand 9 A961), 55—68.
Browdef F. [1] Estimates and existence theorems for elliptic boundary value
problems. — Proc. Nat. Acad. Sci. 45 A959), 365—372.
Calder6n A. P. [1] Uniqueness in the Cauchy problem for partial differential
equations. — Amer. J. Math. 80 A958), 16—36.
[2] Existence and uniqueness theorems for systems of partial differential
equations. Fluid Dynamics and Applied Mathematics (Proc. Symp. Univ. of
Maryland 1961). —New York 1962, pp. 147—195.
[3] Boundary value problems for elliptic equations. Outlines of the joint
Soviet-American Symposium on partial differential equations, Novosibirsk
1963, pp. 303—304.
Calderon A. P., Vaillancourt R. [1] On the boundedness of pseudo-differential
operators. — J. Math. Soc. Japan 23 A972), 374—378.
[2] A class of bounded pseudo-differential operators. — Proc. Nat. Acad. Sci.
USA 69 A972), 1185-1187.
Calder6n A. P., Zygmund A. [1] On the existence of certain singular inte-
integrals.—Acta Math. 88 A952), 85—139.
Caratheodory С [1] Variationsrechnung und partielle Differentialgleichungen
Erster Ordnung. — Berlin: Teubner, 1935.
Carleman T. [1] Sur un probleme d'unicite pour les systemes d'equations aux
derivees partielles a deux variables independentes. — Ark. Mat. Astr. Fys.
26B No 17 A939), 1—9.
[2] L'integrale de Fourier et les questions qui s'y rattachent. — Publ. Sci.
Inst. Mittag-Leffler, Uppsala 1944.
[3] Proprietes asymptotiques des fonctions fondamentales des membranes
vibrantes. — С R. Congr. des Math. Scand. Stockholm 1934 (Lund 1935),
pp. 34—44.
Catlin D. [1] Necessary conditions for subellipticity and hypoelllpticity for
the д Neumann problem on pseudoconvex domains. In: Recent developments
in several complex variables. — Ann. of Math. Studies 100 A981), 93—
100.
Cauchy A. [1] Memoire sur l'integration des equations lineaires. — С R. Acad.
Sci. Paris 8 A839). In: CEuvres IV, pp. 369—426. — Paris: Gauthier-Villars,
1884.
Cerezo A., Chazarain J., Piriou А. Г11 Introduction aux hyperfonctions.—
Springer Lecture Notes in Math. 449 A975), 1—53.
Chaillou J. [1] Hyperbolic differential polynomials and their singular perturba-
perturbations. — D. Reidel Publ. Co. Dordrecht, Boston, London, 1979.
Chazarain J. [1] Construction de la parametrix du probleme mixte hyperbolique
pour l'equation des ondes. — С R. Acad. Sci. Paris 276 A973), 1213—1215.
[2] Formules de Poisson pour les varietes rietnanniennes. — Invent. Math.
24 A974), 65—82.
Chazarain J. Piriou A. [1] Introduction a la theorie des equations aux derivees
partielles lineaires.—Gauthier-Villars, 1981.
Chester C, Friedman В., Ursell F. [1] An extension of the method of steepest
descent. — Proc. Cambr. Phil. Soc. 53 A957), 599—611.
Cohen P. [1] The non-uniqueness of the Cauchy problem. — O. N. R. Techn.
Report 93, Stanford 1960.
[2] A simple proof of the Denjoy — Carleman theorem. — Amer. Math.
Monthly 75 A968), 26—31.
[2] A simple proof of the Denjoy — Carleman theorem.—Amer. Math. Monthly
phed manuscript. — Stanford University 1967.
Colin de Verdiere Y. [1] Sur le spectre des operateurs elliptiques a bicaracte-
ristiques toutes periodiques.— Comment. Math. Helv. 54 A979), 508—522.
Cook J. [1] Convergence to the Meller wave matrix, —J. Mathematical Physics
36 A957), 82—87,

Литература 671
Cordes Н. О. [1] Ober die eindeutige Bestimmheit der Losungen elliptischer
Differentialgleichungen durch Anfangsvorgaben. — Nachr. Akad Wiss. Got-
tingen Math.-Phys. Kl. Ha, No. 11 A956), 239—258.
Cotlar M. [1] A combinatorial inequality and its application to L2 spaces. —
Rev. Math. Cuyana 1 A955), 41—55.
Courant R., Hilbert D. [1] Methoden der Mathematischen Physik II. —Berlin,
1937. [Имеется перевод: Курант Р., Гильберт Д. Методы математической
физики. Т. 2. - М.: ГТТИ, 1951.]
Cotlar М. [1] A combinatorial inequality and its application to L2 spaces. —
Proc. Nat. Acad. Sci. 42 A956), 872—876.
De Giorgi E. [1] Un esempio di non-unicita della soluzione del problema di
Cauchy relativo ad una equazione differenziale lineare a derivate parziali ti
tipo parabolico. — Rend. Mat. 14 A955), 382—387.
[2] Solutions analytiques des equations aux derivees partielles a coefficients
constants. — Sem. Goulaouic — Schwartz 1971—1972, Expose 29.
Dencker N. [1] On the propagation of singularities for pseudo-differential ope-
operators of principal type.— Ark. Mat. 20 A982), 23—60.
[2] The Weyl calculus with locally temperate metrics and weights. —
Ark. Mat. 24 A986), 59—79.
Dieudonne J. [1] Sur les fonctions continus numeriques definies dans un pro-
duit de deux espaces compacts. — C. R. Acad. Sci. Paris 205 A937), 593—
595.
Dieudonne J., Schwartz L. [1] La dualite dans les espaces (&~) et (9?3r).-~
Ann. Inst. Fourier (Grenoble), 1 A949), 61—101. [Имеется перевод: Дьё-
донне Ж., Шварц Л. Двойственность в пространствах (^") и (<?&~).—
Математика, 1958, т. 2, № 2, с. 77—117.]
Dollard J. D. [1] Asymptotic convergence and the Coulomb Interaction. — J.
Math. Phys. 5 A964), 729—738.
[2] Quantum mechanical scattering theory for short-range and Coulomb in-
interactions.—Rocky Mountain J. Math. 1 A971), 5—88.
Douglis A., Nirenberg L. [1] Interior estimates for elliptic systems of par-
partial differential equations. — Comm. Pure Appl. Math. 8 A955), 503—
538.
Duistermaat J. J. [1] Oscillatory integrals, Lagrange immersions and unfolding
of singularities. — Comm. Pure Appl. Math. 27 A974), 207—281.
Duistermaat J. J., Guillemin V. W. [1] The spectrum of positive elliptic opera-
operators and periodic bicharacteristics. -»- Invent Math. 29 A975), 39—79.
Duistermaat J. J., Hormander L. [1] Fourier integral operators II. — Acta Math.
128 A972), 183—269.
Duistermaat J. J., Sjostrand J. [1] A global construction for pseudo-differential
operators with non-involutive characteristics. — Invent. Math. 20 A973),
209-225.
DuPlessis N. [11 Some theorems about the Riesz fractional integral. — Trans.
Amer. Math. Soc. 80 A955), 124—134.
Ehrenpreis L. [l] Solutions of some problems of division I. — Amer. J. Math.
76 A954), 883—903.
[2] Solutions of some problems of division III.— Amer. J. Math. 78 A956),
685—715.
[3] Solutions of some problems of division IV.— Amer. J. Math. 82 A960),
522—588.
41 On the theory of kernels of Schwartz. — Proc. Amer. Math. Soc. 7
A956), 713—718.
[5] A fundamental principle for systems of linear differential equations with
constant coefficients, and some of its applications. — Proc. Intern. Symp. on
Linear Spaces, Jerusalem 1961, pp. 161 — 174.
[6] Fourier analysis in several complex variables. — Wiley-Interscience Publ.,
New York, London, Sydney, Toronto 1970.
[
(
[

672 Литература
[7] Analytically uniform spaces and some applications.— Trans. Amer. Math.
Soc. 101 A961), 52—74.
[8] Solutions of some problems of division V. Hyperbolic operators. — Amer,
J. Math. 84 A962), 324—348.
Enqvist A. [1] On fundamental solutions supported by a convex cone. — Ark.
Mat. 12 A974), 1—40.
Enss V. [1] Asymptotic completeness for quantum-mechanical potential scatter-
scattering. I. Short range potentials. — Comm. Math. Phys. 61 A978), 285—291.
[2] Geometric methods in spectral and scattering theory of Schrodinger ope-
operators. In: Rigorous Atomic and Molecular Physics, G. Velo and A. Wight-
man ed. — Plenum, New York, 1980—1981 (Proc. Erice School of Mathema-
Mathematical Physics 1980).
ESkin G. I. (Эскин Г. И.) [1] Краевые задачи для эллиптических псевдодиф-
псевдодифференциальных уравнений. — М.: Наука, 1973.
[2] Parametrix and propagation of singularities for the interior mixed hy-
hyperbolic problem.— J. Analyse Math. 32 A977), 17—62.
[3] General initial-boundary problems for second order hyperbolic equations.
In: Sing, in Boundary Value Problems. — D. Reidel Publ. So., Dordrecht,
Boston, London 1981, pp. 19—54.
[4] Initial boundary value problem for second order hyperbolic equations
with general boundary conditions I. —J. Analyse Math. 40 A981), 43—89.
Fefferman С L. [1] The uncertainty principle. — Bull. Amer. Math. Soc. 9
A983), 129—206.
Fefferman C, Phong D. H. [11 On positivity of pseudo-differential operators.—
Proc. Nat. Acad. Sci. 75 A978), 4673—4674.
[2] The uncertainty principle and sharp Girding inequalities. — Comm. Pure
Appl. Math. 34 A981), 285—331.
Fredholm I. [1] Sur l'integrale fondamentale d'une equation differentielle ellip-
tique a coefficients constants. — Rend. Circ. Mat. Palermo 25 A908), 346—
351.
Friedlander F. G. [11 The wave front set of the solution of a simple initial-
boundary value problem with glancing rays. — Math. Proc. Cambridge Phi-
los. Soc. 79 A976), 145—159.
Friedlander F. G., Melrose R. B. [1] The wave front set of the solution of a
simple initial-boundary value problem with glancing rays. II. — Math. Proc.
Cambridge Philos. Soc. 81 A977), 97—120.
Friedrichs K. [11 On differential operators in Hilbert spaces. — Amer. J. Math.
61 A939), 523—544.
[21 The identity of weak and strong extensions of differential operators.—
Trans. Amer. Math. Soc. 55 A944), 132—151.
[3] On the differentiability of the solutions of linear elliptic differential
equations. — Comm. Pure Appl. Math. 6 A953), 299—326.
[41 On the perturbation of continuous spectra. — Comm. Pure Appl. Math.
1 A948), 361—406.
Friedrichs K., Lewy H. [1] Ober die Eindeutigkeit und das Abhangigkeitsgebiet
der Losungen beim Anfangswertproblem linearer hyperbolischer Differential-
gleichungen. — Math. Ann. 98 A928), 192—204.
Froman N., Froman P. O. [11 JWKB approximation. Contributions to the
theory. — North-Holland Publ. Co. Amsterdam 1965.
Fuglede B. [11 A priori inequalities connected with systems of partial differen-
differencial equations. — Acta Math. 105 A961), 177—195.
Girding L. [11 Linear hyperbolic partial differential equations with constant
coefficients. — Acta Math. 85 A951), 1—62.
Й1 Dirichlet's problem for linear elliptic partial differential equations,—
ath. Scand. 1 A953), 55—72.
[3] Solution directe du probleme de Cauchy pour les equations hyperboll-
ques. — Coll. Int. CNRS, Nancy 1956, pp. 71—90. [Имеется перевод: Гор-

Литература 678
динг Л. Прямое решение задачи Коши для гиперболических уравнений. —
Математика, 1958, т. 2, № 1, с. 81—96.1
[4] Transformation de Fourier des distributions homogenes. — Bull. Soc.
Math. France 89 A961), 381—428.
[5] Local hyperbolicity. — Israel J. Math. 13 A972), 65—81.
[6] Le probleme de la derivee oblique pour l'equation des ondes. — C. R.
Acad. Sci. Paris 285 A977), 773—775. Rectification C. R. Acad. Sci. Paris
286 A978), 1199.
a On the asymptotic distribution of the eigenvalues and eigenfunctions of
iptic differential operators. — Math. Scand. 1 A953), 237—255.
Garding L., Lions J. L. [1] Functional analysis. — Nuovo Cimento N. 1 del
Suppl. al Vol. A0I4 A959), 9—66.
Garding L., Malgrange B. [1] Operateurs differentiels partiellement bypoellip-
tiques et partiellement elliptiques. — Math. Scand. 9 A961), 5—21.
Gask H. [1] A proof of Schwartz' kernel theorem. — Math. Scand. 8 A960),
327—332.
Gevrey M. [1] Demonstration du theoreme de Picard — Bernstein par la me-
thode des contours successifs; prolongement analytique. — Bull. Sci. Math.
50 A936), 113—128.
Glaeser G. [1] Etude de quelques algebres Tayloriennes. — J. Analyse Math. 6
A968), 1—124.
Godin P. [1] Propagation des singularites pour les operateurs pseudo-differen-
tiels de type principal a partie principal analytique verifiant la condition (P),
en dimension 2. —С R. Acad. Sci. Paris 284 A977), 1137—1138.
Grubb G. [1] Boundary problems for systems of partial differential operators
of mixed order.— J. Functional Analysis 26 A977), 131—165.
[21 Problemes aux limites pseudo-differentiels dependant d'un parametre.—
C. R. Acad. Sci. Paris 292 A981), 581—583.
Gudmundsdottir G. [1] Global properties of differential operators of constant
strength. — Ark. Mat. 15 A977), 169—198.
Guillemin V. [1] The Radon transform on Zoll surfaces. — Adv. in Math. 22
A976), 85—119.
[21 Some classical theorems in spectral theory revisited. Sem. on sing, of
sol. of diff. eq. — Princeton University Press, Princeton, N. J., 1979,
pp. 219—259.
[3] Some spectral results for the Laplace operator with potential on the
n-sphere. — Adv. in Math. 27 A978), 273—286.
Guillemin V., Schaeffer D. [1] Remarks on a paper of D. Ludwig. — Bull. Amer.
Math. Soc. 79 A973), 382—385.
Guillemin V., Sternberg S. [11 Geometrical asymptotics. — Amer. Math. Sob
Surveys 14, Providence, R. I. 1977. [Имеется перевод: Гийемин В., Стерн-
берг С. Геометрические асимптотики. — М.: Мир, 1980.]
Hack M. N. [1] On covergence to the Mailer wave operators. — Nuovo Cimento
A0) 13 A959), 231—236.
Hadamard J. [1] Le probleme de Cauchy et les equations aux derivees partielles
lineaires hyperboliques. — Paris 1932.
Haefliger A. [1] Varietes feuilletees. — Ann. Scuola Norm. Sup. Pisa 16 A962),
367—397.
Hanges N. [1] Propagation of singularities for a class of operators with double
characteristics. Sem. on sing, of sol. of linear partial diff. eq. — Princeton
Univ. Press, Princeton, N. J., 1979, pp. 113—126.
Hardy G. H., Littlewood J. E. [1] Some properties of fractional integrals.
(I) Math. 27 A928). 565—606; (II) Math. Z. 34 A931—32), 403—
439.
Hausdorff F. [1]. Eine Ausdehnung des Parsevalschen Satzes iiber Fourierrei»
hen. —Math. Z, 16 A923), 163—169,

674 Литература
Hayman W. К., Kennedy P. В. [1] Subharmonic functions I. — Academic Press,
London, New York, San Francisco 1976. [Имеется перевод: Хейман У., Кен-
Кеннеди П. Субгармонические функции. — М.: Мир, 1980J
Hedberg L. I. [1] On certain convolution inequalities. — Proc. Amer. Math. Soc
36 A972), 505—510.
Heinz E. [1] Ober die Eindeutigkeit beim Cauchyschen Anfangswertproblem
einer ' elliptischen Differentialgleichung zweiter Ordnung. — Nachr. Akad.
Wiss. Gottingen Math.-Phys. Kl. Ha No. 1 A955), 1—12.
Helffer B. [11 Addition de variables et applications a la regularite. — Ann Inst.
Fourier (Grenoble) 28:2 A978), 221—231.
Helffer В., Nourrigat J. [1] Caracterisation des operateurs hypoelliptiques homo-
genes invariants a gauche sur un groupe de Lie nilpotent gradue. — Comm.
Partial Differential Equations 4:8 A979), 899—958.
Herglotz G. [1] Uber die Integration linearer partieller Differentialgleichungen
mit konstanten Koeffizienten I—III. — Berichte Sachs. Akad. d. Wiss. 78
A926), 93—126, 287—318; 80 A928), 69—114.
Hersh R. [1] Boundary conditions for equations of evolution. — Arch. Rational
Mech. Anal. 16 A964), 242—264.
[2] On surface waves with finite and infinite speed of propagation. — Arch.
Rational Mech. Anal. 19 A965), 308—316.
Hirzebruch F. [1] Neue Topologische Methoden in der algebraischen Geomet-
rie. — Springer-Verlag, Berlin, Gottingen, Heidelberg, 1956. [Имеется пере-
перевод (аигл. изд. 1966 г.): Хирцебрух Ф. Топологические методы в алгебраи-
' ческой геометрии. — М.: Мир, 1973.]
Hlawka Е. [1] Ober Integrale auf konvexen Korpern. I. — Monatsh. Math 54
¦ A950), 1—36.
Holmgren E. [1] Ober Systeme von linearen partiellen Differentialgleichun-
Differentialgleichungen. — Of versigt af Kongl. Vetenskaps-Akad. Forh. 58 A901), 91—103.
[2] Sur l'extension de la methode d'integration de Riemann. — Ark. Mat.
Astr. Fys. 1, No 22 A904), 317—326.
Hormander L. [1] On the theory of general partial differential operators.—
' Ada Math. 94 A955), 161—248. [Имеется перевод: Хёрмандер Л. К теории
: общих дифференциальных операторов в частных производных. — М.: ИЛ,
1959.]
[2] Local and global properties of fundamental solutions. — Math. Scand. 5
A957), 27—39..
[3] On the regularity of the solutions of boundary problems. — Acta Math.
99 A958), 225—264. [Имеется перевод: Хёрмандер Л. О регулярности ре-
решений граничных задач. — Математика, 1960, т. 4, № 4, с. 37—73.]
[4] On interior regularity of the solutions of partial differential equations.—
" Comm. Pure Appl. Math. 11 A958), 197—218.
[5] On the division of distributions by polynomials. — Ark. Mat. 3 A958),
555—568. [Имеется перевод: Хёрмандер Л. О делении обобщенных функ-
функций на полиномы. — Математика, 1959, т. 3, № 5, с. 117—130.]
[6] Differentiability properties of solutions of systems of differential equa-
equations.—Ark. Mat. 3 A958), 527—535.
[7] Definitions of maximal differential operators. — Ark. Mat. 3 A958),
501—504.
[8] On the uniqueness of the Cauchy problem I, II. — Math. Scand. 6
A958), 213—225; 7 A959), 177—190.
S9] Null solutions of partial differential equations. — Arch. Rational Mech.
Lnal. 4 A960), 255—261.
[10] Differential operators of principal type.— Math. Ann. 140 A960), 124—
146. [Имеется перевод: Хёрмандер Л. Дифференциальные операторы глав-
главного типа.— Математика, 1961, т. 5, № 5, с. 89—114.]
[11] Differential equations without solutions. — Math. Ann. J40 Д960),

Литература 675
169—173. [Имеется перевод: Хёрмандер Л. Дифференциальные уравнения
без решений. — Математика, 1961, т. 5, № 5, с. 115—120.]
[121 Hypoelliptic differential operators. — Ann. Inst. Fourier (Grenoble) 11
A961), 477—492. [Имеется перевод: Хермандер Л. Гипоэллиптические диф-
дифференциальные операторы. — Математика, 1963, т. 7, Mb l, с. 66—78.1
[13] Estimates for translation invariant operators in L" spaces. — Acta Math.
104 A960), 93—140. [Имеется перевод: Хермандер Л. Оценки для опера-
операторов, инвариантных относительно сдвига. — М.: ИЛ, 1962.]
[14] On the range of convolution operators. — Ann. of Math. 76 A962),
148—170. [Имеется перевод: Хермандер Л. Об области значений диффе-
дифференциальных операторов и операторов свертки. — Математика, 1962, т. 6,
№ 3, с. 37-66.]
515] Supports and singular supports of convolutions. — Acta Math. 110
1963), 279—302.
[16] Pseudo-differential operators. — Comm. Pure Appl. Math. 18 A965)',
501—517. [Имеется перевод: Хермандер Л. Псевдодифференциальные опе-
операторы. В сб.: Псевдоднфференциальные операторы. — М.: Мир, 1967,
с. 63—87.]
[17] Pseudo-differential operators and non-elliptic boundary problems.—
Ann. of Math. 83 A966), 129—209. [Имеется перевод: Хермандер Л. Псев-
Псевдодифференциальные операторы и неэллиптнческие краевые задачи. В том
же сб., с. 166—296.]
[18] Pseudo-differential operators and hypoelliptic equations. — Amer. Math.
Soc. Symp. on Singular Integrals, 1966, pp. 138—183. [Имеется перевод:
Хермандер Л. Псевдодифференциальные операторы и гипоэллнптические
уравнения. В том же сб., с. 297—367.]
[19] An introduction to complex analysis in several variables. — D. van
Nostrand Publ. Co., Princeton, N. J. 1966. [Имеется перевод: Хермандер Л.
Введение в теорию функций нескольких комплексных переменных. — М.:
Мир, 1968.]
!20| Hypoelliptic second order differential equations. — Acta Math. 119
1967), 147—171. [Имеется перевод: Хермандер Л. Гипоэллиптические диф-
дифференциальные уравнения второго порядка. — Математика, 1968, т. 12, №2,
с. 88—109.]
[21] On the characteristic Cauchy problem. —Ann. of Math. 88 A968),
341—370. [Имеется перевод: Хермандер Л. О характеристической задаче
Коши. — Математика, 1969, т. 13, № 1, с. 83—110.]
[22] The spectral function of an elliptic operator. — Acta Math. 121 A968),
193—218. [Имеется перевод: Хермандер Л. Спектральная функция эллип-
эллиптического оператора. — Математика, 1969, т. 13, № 6, с. 114—137.]
[23] Convolution equations in convex domains. — Invent. Math. 4 A968)
306—317.
[24] On the singularities of solutions of partial differential equations.—
Comm. Pure Appl. Math. 23 A970), 329—358. ("Имеется перевод: Херман-
Хермандер Л. Об особенностях решений дифференциальных уравнений в частных
производных. — Математика, 1972, т. 16, № 6, с. 33—59.]
[25] Linear differential operators. — Actes Congr. Int. Math. Nice 1970, 1,
pp. 121—133.
[26a] The Calculus of Fourier integral operators. — Prospects in math. Ann.
of Math. Studies 70 A971), 33—57.
[26b] Fourier integral operators I. —Acta Math. 127 A971), 79—183. [Име-
[Имеется перевод: Хермандер Л. Интегральные операторы Фурье. I. — Матема-
Математика, 1972, т. 16, JSTa 1, с. 17—61.]
[27] Uniqueness theorems and wave front sets for solutions of linear diffe-
differential equations with analytic coefficients. — Comm. Pure Appl. Math. 24
A971), 671—704. [Имеется перевод: Хермандер Л. Теоремы единственно-
единственности и волновые фронты для решений линейных дифференциальных уравне-

I
676 Литература
ний с аналитическими коэффициентами. — Математика, 1973, т. 17, № б,
с. 82—ПО.]
[281 A remark on Holmgren's uniqueness theorem.—J. Diff. Geom. 6 A971),
129—134.
[29] On the existence and the regularity of solutions of linear pseudo-diffe-
pseudo-differential equations. — Ens. Math. 17 A971), 99—163. [Имеется перевод: Хёр-
мандер Л. О существовании и регулярности решений линейных псевдодиф-
псевдодифференциальных уравнений. — УМН, 1973, т. 28, № 6, с. 109—164.]
[30] On the singularities of solutions of partial differential equations with
constant coefficients.—Israel J. Math. 13 A972), 82—105.
1] On the existence of real analytic solutions of partial differential equa-
Ions with constant coefficients. — Invent. Math. 21 A973), 151—182.
[32] Lower bounds at infinity for solutions of differential equations with
constant coefficients. — Israel J. Math. 16 A973), 103—116.
[33] Non-uniqueness for the Cauchy problem. — Springer Lecture Notes in
Math. 459 A975), 36—72.
[34] The existence of wave operators in scattering theory.— Math. Z. 146
A976), 69—91.
[35] A class of hypoelliptic pseudo-differential operators with double cha-
characteristics. — Math. Ann. 217 A975), 165—188.
[36] The Cauchy problem for differential equations with double characteris-
characteristics.—J. Analyse Math. 32 A977), 118—196.
[37] Propagation of Singularities and semiglobal existence theorems for
(pseudo-) differential operators of principal type. — Ann. of Math. 108
A978), 569—609.
[38] Subelliptic operators. Seminar on sing, of sol. of diff. eq. — Princeton
Univ. Press, Princeton, N. J., 1979, pp. 127—208.
[39] The Weyl calculus of pseudo-differential operators. — Comm. Pure Appl.
Math. 32 A979), 359—443.
[40] Pseudo-differential operators of principal type. Nato Adv. Study Inst.
on Sing, in Bound. Value Problems. — Reidel Publ. Co., Dordrecht 1981,
pp. 69—96.
[41] Uniqueness theorems for second order elliptic differential equations.—
Comm. Partial Differential Equations 8 A983), 21—64.
[42] On the index of pseudo-differential operators. In: Elliptische Differen-
tialgleichungen, Band II. — Akademie-Verlag, Berlin 1971, S. 127—146.
[Имеется перевод: Хёрмаидер Л. Об индексе псевдоднфференцнальиых опе-
операторов. — Математика, 1970, т. 14, № 4, с. 78—97.]
[43] L2 estimates for Fourier integral operators with complex phase. — Ark.
Mat. 21 A983), 294—313.
[44] On the subelliptic test estimates. Comm. Pure Appl. Math. 33 A980),
339—363.
Hurwitz A. [1] Ober die Nullstellen der Bessel'schen Funktion. — Math. Ann.
33 A889). 246—266.
lagolnitzer D. [1] Microlocal essential support of a distribution and decompo^
sition theorems — an introduction. In: Hyperfunctions and theoretical phy-
physics. — Springer Lecture Notes in Math. 449 A975), 121—132.
Ikebe T. [1] Eigenfunction expansions associated with the Schrodinger operator
and their applications to scattering theory. — Arch. Rational Mech. Anal. 5
A960), 1—34.
Ikebe Т., Saito Y. [1] Limiting absorption method and absolute continuity for
the Schrodinger operator. —J. Math. Kyoto Univ. 12 A972), 513—542.
Iwasaki N. [1] The Cauchy problem for effectively hyperbolic equations (a spe-
special case). —J. Math. Kyoto Univ. 23 A983), 503—562; (a standart type).—
Publ. Res. Inst. Math. Sci. 20 A984), 543—584.
Jauch J. M., Zinnes I. I. [1] The asymptotic condition for simple scattering
systems. — Nuovo Cimento A0) 11 A959), 553—567.

Литература 677
Jerison D., Kenig С. Е. [1] Unique continuation and absence of positive eigen-
eigenvalues for Schrodinger operators — Univ. of Minnesota Math. Report 83—
160.
John F. [1] On linear differential equations with analytic coefficients. Unique
continuation of data. — Comm. Pure Appl. Math. 2 A949), 209—253.
[2] Plane waves and spherical means applied to partial differential equa-
equations. — New York 1955. [Имеется перевод: Йон Ф. Плоские волны и сфе-
сферические средние в применении к дифференциальным уравнениям с част-
частными производными. — М.: ИЛ, 1958.]
[3] Non-admissible data for differential equations with constant coeffi-
coefficients. — Comm. Pure Appl. Math. 10 A957), 391—398.
[4] Continuous dependence on data for solutions of partial differential equa-
equations with a prescribed bound. — Comm. Pure Appl. Math. 13 (I960), 551 —
585.
[5] Linear partial differential equations with analytic coefficients. — Proc.
Nat. Acad. Sci. 29 A943), 98—104.
Jorgens K., Weidmann J. [1] Zur Existenz der Wellenoperatoren. — Math. Z.
131 A973), 141—151.
Kashiwara M. [1] Introduction to the theory of hyperfunctions. In: Sem.. on
microlocal analysis. — Princeton Univ. Press, Princeton, N. J., 1979, pp. 3—
38.
Kashiwara M., Kawai T. [1] Microhyperbolic pseudo-differential operators. I.—
J. Math. Soc. Japan 27 A975), 359—404.
Kato [1] Growth properties of the reduced wave equation with a variable
coefficient. — Comm. Pure Appl. Math. 12 A959), 403—425.
Keller J. B. [1] Corrected Bohr-Sommerfeld quantum conditions for nonsepa-
rable systems. — Ann. Phys. 4 A958), 180—188.
Kitada H. [1] Scattering theory for Schrodinger operators with long-range po-
potentials. I: Abstract theory. —J. Math. Soc. Japan 29 A977), 665—691; II:
Spectral and scattering theory.— J. Math. Soc. Japan 30 A978), 603—632.
Knapp A. W., Stein E. M. [11 Singular integrals and the principal series.—
Proc. Nat. Acad. Sci. USA 63 A969), 281—284.
Kohn J. J. [1] Harmonic integrals on strongly pseudo-convex manifolds I, II.—
Ann. of Math. 78 A963), 112—148; 79 A964), 450—472.
[2] Pseudo-differential operators and non-elliptic problems. In: Pseudo-diffe-
Pseudo-differential operators. CIME conference, Stresa 1968. — Edizione Cremonese,
Roma 1969, pp. 157—165.
Kohn J. J., Nirenberg L. [1] On the algebra of pseudo-differential opera-
operators.—Comm. Pure Appl. Math. 18 A965), 269—305. [Имеется перевод:
Кон Дж., Ниренберг Л. Алгебра псевдоднфференциалышх операторов.
В сб.: Псевдодифференциальные операторы. — М.: Мир, 1967, с. 9—62.]
[2] Non-coercive boundary value problems. — Comm. Pure Appl. Math. 18
A965), 443—492.
Komatsu H. [1] A local version of Bochner's tube theorem. — J. Fac. Sci. To-
Tokyo Sect. I-A Math. 19 A972), 201—214.
[2] Boundary values for solutions of elliptic equations. Proc. Int. Conf.
Fund. Anal. Rel. Topics. — Univ. of Tokyo Press, Tokyo 1970, pp. 107—121.
Kreiss H. O. [1] Initial boundary value problems for hyperbolic systems.—
Comm. Pure Appl. Math. 23 A970), 277—298. [Имеется перевод:
Крайс Х.-О. Смешанная задача для гиперболических систем. — Математи-
Математика, 1970, т. 14, JA 4, с. 98—111.]
Krzyzanski M., Schauder J. [1] Quasilineare Differentialgleichungen zweiter
Ordnung vom hyperbolischen Typtis. Qemischte Randwertaufgaben. — Studia
Math. 6 A936), 162—189.
Kumano-go H. [1] Factorizations and fundamental solutions for differential
operators of elliptic-hyperbolic type. — Proc. Japan Acad. 52 A976), 480—
483.

678 Литература
Kuroda S. Т. [11 On the existence and the unitary properly of the scattering
operator —Nuovo Cimento A0) 12 A959), 431—454.
Lascar В., Lascar R. [1] Propagation des singularites pour des equations hy-~
perboliques a caracieristiques de multiplicite au plus double et singularites
Masloviennes II. —J. Analyse Math. 41 A982), 1—38.
Lax A. [I] On Cauchy's problems for partial differential equations with mul-
multiple characteristics. — Comm. Pure Appl. Math 9 A956), 135—169.
Lax P. D. [2] On Cauchy's problem for hyperbolic equations and the differen-
differentiability of solutions of elliptic equations. — Comm. Pure Appl. Math.
8 A955), 615—633.
[3] Asymptotic solutions of oscillatory initial value problems. — Duke Math.
J. 24 A957), 627—646.
Lax P. D., Nirenberg L. [1] On stability for difference schemes: a sharp form
of Garding's inequality. — Comm. Pure Appl. Math. 19 A966), 473—492.
[Имеется перевод: Лаке П., Ниренберг Л. Об устойчивости разностных
схем; точная форма неравенства Гординга.—Математика, 1967, т. 11, №6,
с. 3—20.1
Lebeau G. [1] Fonctions harmoniques et spectre singulier. — Ann. Sci. Ecole
Norm. Sup. D) 13 A980), 269—291.
belong P. [I] Plurisubharmonic functions and positive differential forms. —
Gordon and Breach, New York, London, Paris 1969.
[2] Proprietes metriques des varietes definies par une equation. — Ann. Sci.
Ecole Norm. Sup. 67 A950), 22—40.
Leray J. [1] Hyperbolic differential equations. — The Institute for Advanced
Study, Princeton, N. J., 1953. [Имеется перевод: Лере Ж. Гиперболические
дифференциальные уравнения. — М.: Наука, 1984.]
[2] Uniformisation de la solution du probleme lineaire analytique de Cauchy
pres de la variete qul porte les donnees de Cauchy. — Bull. Soc. Math.
France 85 A957), 389—429. [Имеется перевод: Лере Ж. Уннформизация
решений линейной аналитической задачи Коши в окрестности многообра-
многообразия, несущего начальные данные. — Математика, 1959, т. 3, № 5, с. 57—89.]
Lerner N. [1] Unicitfe du probleme de Cauchy pour des operateus elliptiques.—
Ann. Sci. Ecole Norm. Sup. ser. 4, 17 A984), 469—505.
Lerner N., Robbiano L. [11 Unicite de Cauchy pour des operateurs de type prin-
principal.—J. Analyse Math. 44 A984/85). 32—66.
Levi E. E. [1] Caratterische multiple e problema di Cauchy.— Ann. Mat. Рига
Appl. C) 16 A909), 161—201.
Levinson N. [1] Transformation of analytic function of several variables to a
canonical form.— Duke Math. J. 28 A961), 345—353.
Levy H. [1] An example of a smooth linear partial differential equation with-
without solution. — Ann. of Math. 66 A957), 155—158.
[2] Extention of Huyghens' principle to the ultrahyperbolic equation. — Ann.
Mat. Рига Appl. D) 39 A955), 63—64.
Lions J. L. [1] Supports dans la transformation de Laplace. — J. Analyse Math.
2 A952—53), 369—380.
Lions J. L., Magenes E. [1] Problemes aux limites non homogenes et applica-
applications I—III. — Dunod, Paris, 1968—1970. [Имеется перевод: Лионе Ж.-Л.,
Мадженес Э. Неоднородные граничные задачи и их приложения. — М.:
Мир, 1971.]
Lojasiewicz S. [1] Sur le probleme de division. — Studia Math. 18 A959),
87—136.
Ludwig D. [1] Exact and asymptotic solutions of the Cauchy problem. — Comm.
Pure Appl. Math. 13 A960), 473—508.
[2] Uniform asymptotic expansions at a caustic.—Comm. Pure Appl. Math.
19 U966), 215—250.
Luke G. [1] Pseudodifferential operators on Hilbert bundles.— J. Differen-
Differential Equations 12 .A972), 566—589.

Литература 870
Malgrange В. [1] Existence et approximation des solutions des equations aux
derivees partielles et des equations de convolution. — Ann. Inst. Fourier
(Grenoble) 6 A955—56), 271—355.
[2] Sur une class d'operateurs differentiels hypoelliptiques. — Bull. Math.
France 85 A957), 283—306.
[3] Sur la propagation de la regularite des solutions des equations a coef-
coefficients constants. — Bull. Math. Soc. Sci. Math. Phys. R. P. Roumanie 3
E3) A959), 433—440.
[4] Sur les ouverts convexes par rapport a une operateur differentiel. —
C. R. Acad. Sci. Paris 254 A962), 614—615.
[5] Sur les systemes. differentiels a coefficients constants. — Coll. CNRS,
Paris 1963, pp. 113—122.
[6] Ideals of differentiable Functions. — Tata Institute, Bombay, and Oxford
University Press 1966. [Имеется перевод: Мальгранж Б. Идеалы диффе-
дифференцируемых функций. — М.: Мир, 1968.]
Mandelbrojt S. [1] Analytic functions and classes of infinitely differentiable
functions. — Rice Inst. Pamphlet 29 A942), 1—142.
[2] Series adherentes, regularisations des suites, applications. — Coll. Borel,
Gauthier-Villars, Paris 1952.
Martineau A. [1] Les hyperfonctions de M. Sato. — Sem. Bourbaki 1960—1961,
Expose No 214.
[2] Le «edge of the wedge theorem> en theorie des hyperfonctions de Sato.
Proc. Int. Conf. Funct. Anal. Rel. Topics. — Univ. of Tokyo Press, Tokyo
1970, pp. 95—106.
Mather J. fl] Stability of C°° mappings: I. The division theorem. — Ann. of
Math. 87 A968), 89—104.
Melln A. [1] Lower bounds for pseudo-differential operators. — Ark. Mai 9
A971), 117—140.
[21 Parametrix constructions for right invariant differential operators on
nilpotent groups.— Ann. Global Analysis and Geometry 1 A983), 79—130.
Melin A., Sjostrand J. [1] Fourier integral operators with complex-valued phase
functions. — Springer Lecture Notes in Math. 459 A974), 120—223.
[2] Fourier integral operators with complex phase functions and parametrix
for an interior boundary value problem. — Comm. Partial Differential Equa-
Equations 1 :4 A976), 313—400.
Melrose R. B. [1] Transformation of boundary problems. — Acta Math. 147
A981), 149—236.
[2] Equivalence of glancing hypersurfaces. — Invent. Math. 37 A976), 165—
191.
[3] Microlocal parametrices for diffractive boundary value problems. — Duke
Math. J. 42 A975), 605—635.
[41 Local Fourier-Airy integral operators. — Duke Math. J. 42 A975), 583—
604.
[5] Airy operators. — Comm. Partial Differential Equations 3:1 A978),
1—76.
S6] The Cauchy problem for effectively hyperbolic operators. — Hokkaido
lath. J. 12 A983), 371—391. '
[7] The trace of the wave group. — Contemporary Math., AMS, 27 A984).
127—167.
Melrose R. В., Sjostrand J. [1] Singularities of boundary value problems I,
II. —Comm. Pure Appl. Math. 31 A978), 593—617; 35 A982), 129—168.
Mikusiftski J. [1] Une simple demonstration du theoreme de Titchmarsh sur la
convolution. — Bull. Acad. Pol. Sci, 7 A959), 715—717.
[2] The Bochner Integral. — Birkhauser-Verlag, Basel, Stuttgart 1978.
Minakshisundaran S., Pleijel A. [1] Some properties of the eigenfunctions of the
Laplace operator on Riemannian manifolds. — Canad. J. Math. 1 A949),
242-256,

в 80 Литература
Mizohata S. [1] Unlcite du prolongement des solutions des equations elliptf-
ues du quatrieme ordre. — Proc. Jap. Acad. 34 A958), 687—692.
2] Systemes hyperboliques. — J. Math. Soc. Japan 11 A959), 205—233.
3] Note sur le traitement par les operateurs d'integrale singuliere du prob-
eme de Cauchy. —J. Math. Soc. Japan 11 A959), 234—240.
4] Solutions nulles et solutions non a'.alytiques. — J. Math. Kyoto Univ.
A962), 271—302.
[5] Some remarks on the Cauchy problem. — J. Math. Kyoto Univ. 1 A961),
109—127.
Meller С [1] General properties of the characteristic matrix in the theory of
elementary particles. I. — Kongl. Dansk. Vidensk. Selsk. Mat.-Fys. Medd. 23
A945), 2—48.
Morrey С. В. [1] The analytic embedding of abstract real-analytic manifolds.—
Ann. of Math. 68 A958), 159—201.
Morrey С. В., Nirenberg L. [1] On the analyticity of the solutions of linear
elliptic systems of partial differential equations. — Comm. Pure Appl. Math.
10 A957), 271—290.
Mover R. D. [11 Local solvability in two dimensions: Necessary conditions for
the principal-type case. Mimeographed manuscript. — Univ. of Kansas
1978.
Muller С [1] On the behaviour of the solutions of the differential equation
д[/ = Fix, U) in the neighborhood of a point. —Comm. Pure Appl. Math. 7
A954), 505—515.
Munster M. [1] On A. Lax's condition of hyperbolicity. — Rocky Mountain J.
Math. 8 A978), 443—446.
J2] On hyperbolic polynomials with constant coefficients. — Rocky Mountain
. Math. 8 A978), 653—673.
von Neumann J., Wigner E. [1] Ober merkwiirdige diskrete Eigenwerte.—
Phys. Z. 30 A929), 465-467.
Nirenberg L. [11 Remarks on strongly elliptic partial differential equations.—
Comm. Pure Appl. Math. 8 A955), 648—675.
[2] Uniqueness in Cauchy problems for differential equations with constant
coefficients. — Comm. Pure Appl. Math. 10 A957), 89—105.
131 A proof of the Malgrange preparation theorem. Liverpool singularities
— Springer Lecture Notes in Math. 192 A971), 97—105.
[41 On elliptic partial differential equations. — Ann. Scuola Norm. Sup.
Pisa C) 13 A959), 115—162.
[5] Lectures on linear partial differential equations. — Amer. Math. Soc. Re-
Regional Conf. in Math. 17 A972), 1—58. [Имеется перевод: Ниренберг Л.
Лекции о линейных дифференциальных уравнениях в частных производ-
производных. - УМН, 1975, т. 30, №¦ 4, с. 147—204.]
Nirenberg L., Treves F. [1] Solvability of a first order linear partial differen-
differential equation. — Comm. Pure Appl. Math. 16 A963), 331—351.
[2] On local solvability of linear partial differential equations. I. Necessary
conditions. II. Sufficient conditions. Correction. — Comm. Pure Appl. Math.
23 A970), 1—38, 459—509; 24 A971), 279—288. [Имеется перевод: Ни-
Ниренберг Л., Трев Ф. О локальной разрешимости линейных дифференциаль-
дифференциальных уравнений в частных производных. I. Необходимые условия. II. До-
Достаточные условия. Поправка к статье «О локальной разрешимости...>. —
Математика, 1971, т. 15, № 3, с. 142—172; № 4, с. 68—110; 1972, т. 16,
№ 4, с. 149—152.]
Nishitani Т. [1] Local energy integrals for effectively hyperbolic opera-
operators. I. —J. Math. Kyoto Univ. 24 A984), 623—658.
Noether F. [1] Ober eine Klasse singularer Integralgleichungen. — Math. Ann.
82 A921), 42—63.
Oshima T. [1] On analytic equivalence of glancing hypersurfaces, — Sci. Papers
College Gen. Ed. Univ, Tokyo 28 A978), 51—57,

Литература 681
Paley R. E. A. C, Wiener N. [1] Fourier transforms in the complex domain.—
Amer. Math. Soc. Coll. Publ. XIX, New York 1934. [Имеется перевод: Ви-
Винер H., Пэли Р. Преобразование Фурье в комплексной области. — М.: Нау-
Наука, 1964.]
Pederson R. [1] On the unique continuation theorem for certain second and
forth order elliptic equations. — Comm. Pure Appl. Math, 11 A958), 67—80.
[2] Uniqueness in the Cauchy problem for elliptic equations with double
characteristics. — Ark. Mat. 6 A966), 535—549.
Peetre J. [1] Theoremes de regularite pour quelques classes d'operateurs diffe-
rentiels. Thesis.— Lund 1959.
[2] Rectification a l'article «Une caracterisation abstraite des operateurs dif-
ferentiels». - Math. Scand. 8 A960), 116—120.
[3] Another approach to elliptic boundary problems. — Comm. Pure Appl.
Math. 14 A961), 711—731.
[4] New thoughts on Besov spaces. Duke Univ. Math. Series. I. — Durham,
N. C, 1976.
Persson J. [11 The wave operator and P-convexity. — Boll. Ua Mat. Hal. E)
18-B A981), 591-604.
Pham The Lai [11 Meilleurs estimations asymptotiques des restes de la fonction
spectrale et des valeurs propres relatifs au laplacien. — Math. Scand. 48
A981), 5—31.
Piccinini L. C. [1] Non surjectivity of the Cauchy — Riemann operator on the
space of the analytic functions on^ . Generalization to the parabolic ope-
operators. — Bull. Un. Mat. Ital. D) 7 A973), 12—28.
Plis A. [1] A smooth linear elliptic differential equation without any solution
in a sphere. — Comm. Pure Appl. Math. 14 A961), 599—617.
[2] The problem of uniqueness for the solution of a system of partial diffe-
differential equations. — Bull. Acad. Pol. Sci. 2 A954), 55—57.
!3] On non-uniqueness in Cauchy problem for an elliptic second order dif-
erential equation. — Bull. Acad. Pol. Sci. 11 A963), 95—100.
Poincare H. [1] Sur les proprietes du potentiel et les fonctions abeliennes.—
Acta Math. 22 A899), 89—178.
Ralston J. [1] Solutions of the wave equation with localized energy. — Comm.
Pure Appl. Math. 22 A969), 807—823.
[2] Gaussian beams and the propagation of singularities. — MAA Studies in
Math. 23 A983), 206—248.
Reed M., Simon B. [1] Methods of modern mathematical physics. III. Scattering
theory. — Academic Press 1979. [Имеется перевод: Рид. М., Саймон Б. Ме-
Методы современной математической физики. Т. 3. Теория рассеяния. — М.:
Мир, 1982.1
Rempel S., Scnulze B.-W. [1] Index theory of elliptic boundary problems. —
Akademie-Verlag, Berlin 1982. [Имеется перевод: Ремпель Ш., ШульцеБ.-В.
Теория индекса эллиптических краевых задач. — М.: Мир, 1986.]
de Rham G. [1] Varietes differentiables. — Hermann, Paris 1955. [Имеется пе-
перевод: Де Рам Ж. Дифференцируемые многообразия.—М.: ИЛ, 1956.]
Riesz F. [1] Sur l'existence de la derivee des fonctions d'une variable reelle et
des fonctions d'intervalle. — Verh. Int. Math. Kongr. Zurich 1932. I. S. 258—
269.
Riesz M. [1] L'integraie de Riemann — Liouville et le probleme de Cauchy.—
Acta Math. 81 A949), 1—223.
[2] Sur les maxima des formes bilineaires et sur les fonctionneles lineaires.—
Acta Math, 49 A926), 465—497.
[31 Sur les fonctions conjuguees. — Math. Z. 27 A928), 218—244.
[4] Problems related to characteristic Surfaces. — Proc. Conf. Diff. Eq. Univ.
Maryland 1955, pp. 57—71.
Rothschild L. P. [11 A criterion for hypoellipticity of operators constructed
Iron? vector fields. — Comm. Partial Dlff. Equations 4:6 {1979), 645—699.

682 Литература
Saito Y. [1] On the asymptotic behavior of the solutions of the Schrodinger
equation (—Д + Q (y) — If) V = F. — Osaka J. Math. 14 A977), 11—35.
[2] Eigenfunction expansions for the Schrodinger operators with long-range
potentials Q (y) = О (| у I ~e), e > 0. — Osaka J. Math. 14 A977), 37—53.
Sakamoto R. [1] ?-well posedness for hyperbolic mixed problems with constant
coefficients. —J. Math. Kyoto Umv. 14 A974), 93—118.
[2] Mixed problems for hyperbolic equations I. — J. Math. Kyoto Univ. 10
A970), 375—401; II ibid. 403—417.
Sato M. [1] Theory of hyperfunctions I. —J. Fac. Sci. Univ. Tokyo I, 8 A959),
139—193.
2] Theory of hyperfunctions II.— J. Fac. Sci. Univ. Tokyo I, 8 A960),
—437.
, Hyperfunctions and partial differential equations. — Proc. Int. Conf. on
unct. Anal and Rel. Topics, Tokyo Univ. Press, Tokyo 1969,
p. 91—94.
4] Regularity of hyperfunction solutions of partial differential equations. —
38!
ctes Congr. Int. Math. Nice 1970, 2, pp. 785—794.
¦" '" Hyp ' "
Sato M., Kawai Т., Kashiwara M. [1] Hyperfunctions and pseudodifferential
equations. — Springer Lecture Notes in Math. 287 A973), 265—529.
Schaefer H. H. [1] Topological vector spaces. — Springer-Verlag, New York,
Heidelberg, Berlin 1970. [Имеется перевод: Шефер X. Топологические век-
векторные пространства.—М.: Мир, 1971.]
Schapira Р. [1] Hyperfonctions et problemes aux limites elliptiques. — Bull. Soc.
Math. France 99 A97П, 113—141.
[2] Propagation at the boundary of analytic singularities. — Nato Adv.
Study Inst. on Sing, in Bound. Value Problems. Reidel Publ. Co., Dordrecht
1981, pp. 185—212.
[3] Propagation at the boundary and reflection of analytic singularities of
solutions of linear partial differential equations. — Publ. RIMS, Kyoto Univ.,
12 Suppl. 1977, pp. 441—453.
Schechter M. [1] Various types of boundary conditions for elliptic equations.—
Comm. Pure Appl. Math. 13 A960), 407—425.
[2] A generalization of the problem of transmission. — Ann. Scuola Norm.
Sup. Pisa 14 A960), 207—236.
Schwartz L. [1] Theorie des distributions I, II.— Hermann, Paris, 1950—51.
[2] Theorie des noyaux.— Proc. Int. Congr. Math. Cambridge 1950, I,
pp. 220—230.
[3] Sur l'impossibilite de la multiplication des distributions. — C. R. Acad.
Sci. Paris 239 A954), 847—848.
[4] Theorie des distributions a valeurs vectorielles I.— Ann. Inst. Fourier
(Grenoble) 7 A957), 1—141.
[5] Transformation de Laplace des distributions. — Comm. Sem. Math. Univ.
Lund, Tome suppl. dedie a Marcel Riesz, 1952, pp. 196—206.
[6] Theorie generate des fonctions moyenne-periodiques. — Ann. of Math. 48
A947), 857—929.
Seeley R. T. [1] Singular integrals and boundary problems. — Amer. J. Math.
88 A966), 781—809.
[2] Extensions of О functions defined in a half space. — Proc Amer. Math.
Soc. 15 A964), 625—626.
[3] A sharp asymptotic remainder estimate for the eigenvalues of the Lapla-
cian in a domain of R3. — Advances in Math. 29 A978), 244—269.
[4] An estimate near the boundary for the spectral function of the Laplace
operator. — Amer. J. Math. 102 A980), 869—902.
[5] Elliptic singular integral equations. — Amer. Math. Soc. Symp. on Sin-
Singular Integrals, 1966, pp. 308—315.
Seidenberg A. [\\ A new decision method for elementary algebra. — Ann. of
Math. 60 A954), 365—374,

Литература 683
Shibata Y. [1] E-well posedness of mixed initial boundary value problems with
constant coefficients in a quarter space. — J. Analyse Math. 37 A980), 32—
45.
Siegel C. L. [1] Zu den Beweisen des Vorbereitungssatzes von Weierstrass. In:
Abhandl. aus Zahlenth. u. Anal. — Plenum Press, New York 1968, pp. 299—
306.
Sjostrand J. [1] Singularites analytiques microlocales. — Prepublicatlons Uni-
versite de Paris-Sud 82—03.
[21 Analytic singularities of solutions of boundary value problems. — Nato
Adv. Study Inst. on Sing, in Bound. Value Prob., Reidel Publ. Co., Dor-
Dordrecht 1981, pp. 235—269.
[3] Parametricies for pseudodifferential operators with multiple characteris-
characteristics. — Ark. Mat. 12 A974), 85—130.
[4] Propagation of analytic singularities for second order Dirichlet prob-
problems I, II, III. —Comm. Partial Differential Equations 5:1 A980), 41—94;
5:2 A980), 187—207; 6:5 A981), 499—567.
[5] Operators of principal type with interior boundary conditions. — Acta
Math. 130 A973), 1—51.
Sommerfeld A. [1| Optics. Lectures on theoretical physics IV. — Academic Press,
New York 1969. [Имеется перевод: Зоммерфельд А. Оптика. — M.: ИЛ,
1953.]
Stein Е. М. [1] Singular integrals and differentiability properties of func-
functions.— Princeton Univ. Press 1970. [Имеется перевод: Стейн И. Сингуляр-
Сингулярные интегралы и дифференциальные свойства функций. — М.: Мир, 1973.]
Sternberg S. [1] Lectures on differential geometry. — Prentice-Hall Inc., Engle-
wood Cliffs, N. J., 1964. [Имеется перевод: Стернберг С. Лекции по диффе-
дифференциальной геометрии. — М.: Мир, 1964.]
Stokes Q. В. [1] On the numerical calculation of a class of definite integrals
and infinite series. — Trans. Cambridge Philos. Soc. 9 A850), 166—187.
Svensson L. [1] Necessary and sufficient conditions for the hyperbolicity of
polynomials with hyperbolic principal part—Ark. Mat. 8 A968), 145—
162.
Sweeney W. J. [1] The D-Neumann problem. — Acta Math. 120 A968), 223—
277.
Szego Q. [1] Beitrage zur Theorle der Toeplitzschen Formen. — Math. Z. 6
A920), 167—202.
Tacklind S. [1] Sur les classes quasianalytiques des solutions des equations aux
derivees partielles du type parabolique. — Nova Acta Soc. Sci. Upsaliensis
D) 10 A936), 1—57.
Tarskl A. [1] A decision method for elementary algebra and geometry. Ma-
Manuscript, Berkeley 1951, 63 pp.
Taylor M. [1] Gelfand theory of pseudodifferential operators and hypoelliptic
operators. — Trans. Amer. Math. Soc. 153 A971), 495—510.
[2] Grazing rays and reflection of singularities of solutions to wave equa-
equations.—Comm. Pure Appl. Math. 29 A976), 1—38.
[3] Diffraction effects in the scattering of waves. In: Sing, in Bound. Value
Problems. — Reidel Publ. Co., Dordrecht 1981, pp. 271—316.
[4] Pseudodifferential operators. — Princeton Univ. Press, Princeton, N. J.,
1981. [Имеется перевод: Тейлор М. Псевдодифференциальные операторы.—
М.: Мир, 1985.]
Thorin О. [11 An extension of a convexity theorem due to M. Riesz. — Kungl.
Fys. Sallsk. Lund. Forh. 8 A939), No 14.
Titchmarsh E. С [1] The zeros of certain integral functions. — Proc. London
Math. Soc. 25 A926), 283—302.
Treves F. [1] Solution elementaire d'equations aux derivees partielles dependant
d'un parametre. — С R. Acad. Sci. Paris 242 A956), 1250—1252.
[2] These d'Hormander П. — Sem. Bourbaki 135, 2» ed. (Mai 1956).

684 Литература
A95
Relations de domination entre operateurs differentiels. — Acta Math 101
A959), 1—139.
[4] Operateurs differentiels hypoelliptiques. — Ann. Inst. Fourier (Grenoble)
9 A959), 1—73.
[5] Local solvability in L2 of first order linear PDEs. — Amer. J. Math. 92
A970), 369—380.
[5] Fundamental solutions of linear partial differential equations with con-
constant coefficients depending on parameters. — Amer. J. Math. 84 A962),
561—577.
[7] Un theoreme sur les equations aux derivees partielles a coefficients con-
constants dependant de parametres. — Bull. Soc. Math. France 90 A962), 473—
486.
[8] A new method of proof of the subelliptic estimates. — Comm. Pure Appl.
Math. 24 A971), 71—115.
[9] Introduction to pseudodifferential and Fourier integral operators. Vo-
Volume 1: Pseudodifferential operators. Volume 2: Fourier integral operators.—
Plenum Press, New York and London 1980. [Имеется перевод: Трев Ф. Вве-
Введение в теорию псевдоднфференциальных операторов и интегральных опе-
операторов Фурье. В 2-х томах. — М.: Мир, 1984.]
Tsuji M. [1] Singularities of elementary solutions of hyperbolic equations with
constant coefficients. — Nato Adv. Study Inst. on Sing, in Bound. Value
Problems. Reidel Publ. Co., Dordrecht 1981, pp. 317—326.
Vauthier J. [1] Comportement asymptotique des fonctions entieres de type
exponentie! dans Cn et bornees dans le domaine reel.—J. Funct. Analysis
12 A973), 290—306.
VeseliC K., Weidmann J. [1] Existenz der Wellenoperatoren fur eine allgemeine
Klasse von Operatoren. — Math. Z. 134 A973), 255—274.
[2] Asymptotic estimates of wave functions and the existence of wave ope-
operators.—J. Funct. Analysis 17 A974), 61—77.
van der Waerden B. L. [1] Einfuhrung in die algebraische Geometric — Berlin
1939.
[2] Algebra I—II. 4. Aufl. — Springer Verlag, Berlin — Gottingen — Heidel-
Heidelberg 1959. [Имеется перевод: Ван дер Варден Б. Алгебра. 2-е изд. — М.:
Наука, 1979.]
Wang Rou-hwai, Tsui Chih-yung [1] Generalized Leray formula on positive
complex Lagrange — Grassmann manifolds — Res. Report, Inst. of Math.,
Jilin Univ. 8209, 1982.
Warner F. W. [1] Foundations of differentiable manifolds and Lie Groups.—
Scott Foresman and Co,, Glenview, 111., London 1971.
Weinstein A. [1] The order and symbol of a distribution. — Trans. Amer. Math.
Soc. 241 A978), 1—54.
[2] Asymptotics of eigenvalue clusters for the Laplacian plus a potential.—
Duke Math. J. 44 A977), 883—892.
[3] On Maslov's quantization condition. In: Fourier integral operators and
partial differential equations. — Springer Lecture Notes in Math. 459 A974),
341—372.
Weyl H. [1] The method of orthogonal projection in potential theory.—
Duke Math. J. 7 A940), 411—444. [Имеется перевод: Вейль Г. Метод орто-
ортогональной проекции в теории потенциала. В кн.: Вейль Г. Избранные тру-
труды. Математика. Теоретическая физика. — М.: Наука, 1984, с. 275—307.]
[2] Die Idee der Riemannschen Fla'che. 3. Aufl. — Teubner, Stuttgart 1955.
[3] Ober gewohnliche Differentialgleichungen mit Singularitaten und die
zugehorigen Entwicklungen willkurlicher Funktionen. — Math. Ann. 68
A910), 220-269.
[4j Das asymptotische Verteilungsgesetz der Eigenwerte linearer partieller
Differentialgleichungen (mit einer Anwendung auf die Theorie Hohlraums-
trahlung). —Math. Ann. 71 A912), 441—479.

Литература 688
Whitney H. [1] Analytic extensions of differentiable functions defined in closed
sets.— Trans. Amer. Math. Soc. 36 A934), 63—89.
Widom H. [1] Eigenvalue distribution in certain homogeneous spaces.—
J. Funct. Analysis 32 A979), 139—147.
Yamamoto K. [1] On the reduction of certain pseudo-differential operators with
non-involution characteristics. — J. Differential Equations 26 A977), 435—
442.
Zeilon N. [1] Das Fundamentalintegral der allgemeinen linearen Differential-
gleichung mit konstanten Koeffizienten. — Ark. Mat, Astr. Fys. 6 A911),
No 38, 1—32.
Zerner M. fl] Solutions de l'equation des ondes presentant des singularites sur
une droite. — С R. Acad. Sci. Paris 250 A960), 2980—2982.
[2] Solutions singulieres d'equations aux derivees partielles. — Bull. Soc.
Math. France 91 A963), 203—226.
[3] Domaine d'holomorphie des fonctions verifiant une equation aux derivees
partielles. —С R. Acad. Sci. Paris 171 A971), 1646-1648.
Zuily С [1] Uniqueness and non-uniqueness in the Cauchy problem. — Progress
in Math. 33. Birkhauser, Boston, Basel, Stuttgart 1983.
Zygmund A. [1] On a theorem of Marcinkiewicz concerning interpolation of
operators. — J. Math. Pures Appl. 35 A956), 223—248.

Именной указатель
Авакумович (V. Q. AvakumoviC) 13,
89, 90
Авербух В. И. 6
Агмон (S. Agmon) 7, 88, 356, 618
Адамар (J. Hadamard) 13, 49, 89,
547
Алинак (S. Alinhac) 88
Арнольд В. И. 463
Арояшайи (N. Aronszajn) 88
Аткинсои (F. V. Atkinson) 309
Атья (М. F. Atiyah) 9, 242, 245, 309,
310, 357
Бауэиди (М. S. Baouendi) 88
Берхин П. Е. 6
Билз (R. Beals) 243
Ботт (R. Bott) 9, 245, 310, 357
Браудер (F. Browder) 356
Буте де Монвель (L. Boutet de Mon-
vel) 244, 357, 509
Вайянкур (R. Vaillancourt) 225, 243
Вейль (Н. Weyl) 89, 93, 207, 243
Вейнстейн (A. Weinstein) 462
Вишик М. И. 244, 356, 357
Гийемии (V. W. Guillemin) 469
Гординг (G. Garding) 89, 5^
618
Грубб (a Grubb) 357
Грушин В. В. 509
S58,
Дёйстермаат (J. J. Duistermaat) 462
Джерисон (D. Jerison) 89
Дуглис (A. Douglis) 310, 356
Егоров Ю. В. 6
Земян (В. Ziemian) 8
Зингер (I. M. Singer) 9, 242, 309
Иврий В. Я. 90, 463, 548, 619, 620
Каваи (Т. Kawai)) 462
Кальдерой (А. Р. Ca!der6n) 9, 89,
225, 242, 243, 356
Каратеодори (С. Caratheodory) 462
Карлемаи (Т. Carleman) 88, 89
Касивара (М. Kashiwara) 462
Келлер (J. В. Keller) 463
Кениг (С. Е. Kenig) 89
Кнапп (A. W. Кпарр) 225, 243
Колмогоров А. Н. 508
Кон (J. J. Kohn) 243, 508
Кордес (Н. О. Cordes) 88
Котлар (М. Cotlar) 225, 243
Крайс (N. О. Kreiss) 618
Кшивицкий (A. Krzywicki) 88
Кшнжаньский (М. Krzyzanski) 618
Лаке (P. D. Lax) 10, 243, 54Р
Леви (Н. Lewy) 547
Левитан Б. М. 89
Лере (J. Leray) 547
Лионе (J.-L. Lions) 356
Лопатннский Я. Б. 356, 618
Людвнг (D. Ludwig) 619
Мадженес (Е. Magenes) 356
Маслов В.П. 359, 463
Мелии (A. Melin) 7, 465, 508
Мелроуз (R. Melrose) 7, 90, 244, 310,
462, 619, 620, 664

Именной указатель 687
Мидзохата (S. Mizohata) 548
Мииакшисундарам (S Minakshisunda-
ram) 89
Мюллер (С. Muller) 88
Нётер (F. Noether) 308
Ниренберг (L. Nirenberg) 243, 310,
356
Олейник О. А. 508
Осима (Т. Oshima) 462
Петков В. 463, 548
Петре (J. Peetre) 356
Петровский И. Г. 547
Плейель (A. Pleijel) 89
Плись (A. Plis) 89
Радкевич Е. В. 508
Ралстои (J. Ralston) 620
Ремпель (S. Rempel) 358
Рисе М. (М. Riesz) 89, 547
Рисе Ф. (F. Riesz) 247
Сакамото (R. Sakamoto) 618
Сато (М. Sato) 462
Сили (R. Т. Seeley) 89, 90, 356
Стейн (Е. М. Stein) 225, 243
Тейлор (М. Е. Taylor) 6, 462, 619
Трев (F. Treves) 6, 508
Фам Тхе Лай (Pham The Lai) 89, 90
Федосов Б. В. 310
Фефферман (Ch. Fefferman) 243,465
Фоиг (D. H. Phong) 243, 465
Фридлендер (F. Q. Friedlander) 619
Фридрихе (К. Friedrichs) 88, 547
Хайиц (Е. Heinz) 88
Хёрмандер (L. Hormander) 5, 6, 8,
243, 462, 508, 509, 548
Хнрцебрух (F. Hirzebruch) 309
Шарский (J. Szarski) 88
Шаудер (J. Schauder) 618
Шварц (L. Schwartz) 93
Шехтер СМ. Schechter) 356
Шёстранд (J. Sjostrand) 462, 508,
619
Шубин М. А. 6
Шульие (B.-W. Schulze) 358
Эскни Г. И. 244, 357

Предметный указатель
Ароншайна — Кордеса теорема 12
Асимптотическое разложение 95
Атьи — Зингера — Ботта теорема 9
Бесова пространства 622
Бихарактеристика 415
— ломаная 562
— обобщенная 573
Ботта оператор 283
Внутренность многообразия 636
Воротник 326
— удвоенный 345
Времеииподобный вектор 650
направленный вперед 550
Га мильтонов вектор 363
Гамильтоиово векторное поле 364
— отображение 429
— слоенне 383
Геодезические нормальные координа-
координаты 658
Гессиан 649
Гильберта — Шмидта оператор 252
Гиперболическая квадратичная фор-
форма 431
Гиперболичности область 559
Гиперболичность слабая 529, 548
— эффективная 548
Гипоэллиптический оператор 464
— символ 466
Гипоэллнлтнчности множество 606
Главного символа изоморфизм 121,
181
Главный символ 116, 144, 308, 326
уточненный 130
Гординга неравенство точное 107, 242
Граница многообразия см. Край
Граничный дифференциальный опера-
оператор 637
Грассманиаи 440
— лагранжев 438
Грина потенциал 317
— формула 316
Дарбу теорема 359, 366, 373
Де Рама комплекс 300, 303
Дирихле задача 13, 40
— принцип 46
Дифракция 570
Дугласа — Ниренберга система 308
Звездное множество 51
Изотропное подмногообразие 382
— подпространство 379
Изотропный вектор 550
Инволютивное подмногообразие 382
— подпространство 379
Инволюция 650
— определяемая складкой 650
Индекс 246
Индекса формула 309
Кальдерона проектор 317
— теорема 9
Каноническое отношение 388
однородное 388
скрученное 394
— преобразование 364
Касание 568—569, 570
Коизотропиое подпространство 379
Колмогорова уравнение 470
обобщенное 470
Коммутатор 639
Коммутационные соотношения 363
Комплекс 256, 300
— точный 276, 300

Предметный указатель 689
Комплекс фредгольмов 257
— эллиптический 300
Композиция псевдодифференциаль-
псевдодифференциальных операторов 102, 212
Конечного ранга оператор 252
Коническое многообразие 372
¦— множество 118
Конормальное распределение 93, 139
Контактная структура 360
Косинус-преобразование 68
Коши задача 510
Коэрцитивное™ условие 315
Краевая задача 637
Край 636
Кронекера символ 361
Лагранжев грассманиан 438
Лагранжево (под) многообразие 359,
382
— подпространство 379
Лакунарности условие 157
сильное 162
Лапласа оператор 301
Лапласа — Бельтрами оператор 27
Лефшеца формула 301, 304
— число 303
Лист см. Слой
Логарифмический закон для индекса
249
Лоренца (лоренцева) сигнатура 550
Маслова расслоение 446, 458
Медленно меняющаяся метрика 194
Медина неравенство 483
Метод интеграла энергии 70, 511,
551, 585
Мёбиуса преобразование 339
Мнкрогипоэллиптичиость 464
Мнкролокальность 114
Многообразие открытое 636
— с краем 636
— с углом 178
Множество гипоэллиптичности 606
— дифракции 570
— касания 568—569, 570
— скольжения 570
Морса лемма с параметрами 662
Морфнзм расслоений 315
Невырожденная неподвижная точка
303
— фазовая функция 391
— форма 361
Непрерывность псевдодифференцналь-
ных операторов 105, 221, 223, 230
Нехарактернстическая точка 123
Особая точка векторного поля 429
Отражения вектор 652
—'расслоение 652
Параметризация с помощью фазовой
функции 391
Параметрикс дифференциального опе-
оператора с переменными коэффи-
коэффициентами 53, 54
— комплекса 301
— краевой задачи 321
— псевдодифференциального опера-
оператора 103, 122, 124
— смешанной задачи Дирихле^
Коши 61
Подогнанные координаты 441
Полиодиородная функция 97
Положительная лагранжева пло-
плоскость 434
Порядок псевдодифференцнального
оператора в точке (х, |) 123
Продолжаемое распределение 636
Проективное нормальное расслоение
177
внутреннее 178
Простое касание 416
Пространственноподобный вектор
550
Прямой образ 181
Псевдодифференциальный оператор
92, 98
на многообразии 119
на сечениях векторного рас-
расслоения 128
собственный 121
Псевдолокальность 114
Пуассона оператор 358
— скобка 363, 364
Радиальное векторное поле 371, 372
Радикал 199, 368
Раздутие 177
Растянутое произведение 178, 180
Рисса Ф-. лемма 247
Сжатая ломаная характеристика
562
— обобщенная характеристика 573
Сжатое кокасательное расслоение 180
— косферическое расслоение 604
Символ 93, 94
— главный 116
— классический 97
— лакунарный 157
— субглавный 117, 220

690 Предметный указатель
Символ-полуплотность 143
Симплектическая система координат
363
— форма 361, 363
Симплектический базис 361
— диффеоморфизм 360, 364
— изоморфизм 361
Симплектическое векторное простран-
пространство 361
расслоение 383, 458
— коническое многообразие 278
— многообразие 363
— подмногообразие 382
— подпространство 379
— преобразование 215, 364
Симплектоморфнзм 364
Складка 649
Складывающее отображение 649
Скольжение 570
Скользящее векторное поле 573
— пересечение 416
Скользящий луч 571, 572
След 254
Следовая формула для индекса 255
Следовый оператор 358
Слоение 642
Слой 642
— глобальный 642
Соболева пространства 62!
Собственное отображение 121
Сопряженный к псевдодифферен-
цнальному оператору 99
Сосредоточенное распределение 636
Спектральная функция 66
Строго гиперболический оператор
521
— положительная лаграижева пло-
плоскость 435
Тодда класс 309
Тотально характеристический диффе-
дифференциальный оператор 113
псевдоднффереициальный опе-
оператор 181
Трансверсальная эллиптичность 480
Трансверсальное пересечение 646
Траисверсальный порядок 637
Трансмиссии условие (свойство) 146
модифицированное 154
ослабленное 148
Трикоми оператор 535, 606
Угловое многообразие 178, 180
Удвоение многообразия с краем 345
Умеренная метрика 200, 209
— функция 200, 209
Уравнение переноса 63
Условия накрываиия 315
Фазовая функция 391
Феффермана — Фонга неравенство 233
Фредгольмов оператор 246
Фридрихса лемма 19
Фробениуса теорема 639
— условие 639
Фундаментальная матрица 429
Характеристическая точка 123
двойная 548
Характеристическое множество крае-
краевой задачи 336
Харди неравенство 186
Чистая композиция канонических от-
отношений 389
— фазовая функция 391
Чистое пересечение 647
Шапиро — Лопатинского условие 315
Шура лемма 105, 624
Эйлера тождество для однородных
функций 373
Эйлерова характеристика комплекса
257, 300
Экспоненциальное отображение 57
• с отражением 58
Эксцесс фазовой функции 391
— чистого пересечения 647
Эллиптическая квадратичная форма
26
— краевая задача 314
Эллиптический оператор 122
в смысле Дуглиса — Ниренбер-
га 308
— символ 266
Эллиптичности область 559
Энергетическая оценка 70
Энергетическое тождество 552, 585
Ядерный оператор 253
Якоби тождество 365
о-плотность 129, 367
А-умеренная метрика 200
(A, g)-умеренная функции 20С
fL'-иорма 220
g-непрерывиая функция 196
s-нндекс 266
о-умеренная метрика 209
(a, g) -умеренная функция 209

Указатель обозначений
Пространства функций
и распределений и их нормы
Hw, II • Ik. 621
р#(,ь II • 1Ы 622
H{m.s), I! • IUs, 628
F, F 155, 630
d(m\ d 182
s4-' 183
N 191
Im(X, Y; E) 139
I-I*, I-If 195, 196
h
Пространства символов
S'n 94
phg, Ophg У/
» sZdD us
(, 1/.) 143
S? 156
157
131
S«.»»' 327
S(m, g) 196
Некоторые специальные обо-
обозначения
a(x, D) 97
Op a 98
<4Й 94
a«(x, D) 206
Л(дс, I) 156
^F 120, 123
Wm(X\ E, F) 128
Ч^в 132
ЧТ 181
Diff»(R3.) 155
Char A 123, 187
Char(P; 5,
WF(u) 125
WF(A) 124
IFF6(«) 187
su 127
si 127
ГШ 179
f*(X) 179
exp 57
expr 58
Яр 364
Я° 573
Ker 246
Coker 246
ind 246
s-ind 266, 267
cone supp 591
Л E) 438
M 446, 458
Tr+Q 479
als 117
Mt 143, 372
Qa 129, 367
Rl, R* 478
RS 637
Rad 431
[., ] 364
{ •, •} 363, 364
~ 95
El 272

Оглавление
Предисловие редактора перевода к томам 3 и 4 . • . . 5
Предисловие к томам 3 и 4 7
Введение к томам 3 и 4 9
17. Эллиптические операторы второго порядка 12
Краткое содержание главы 12
17.1. Регулярность внутри области и локальные тео-
теоремы существования 13
17.2. Теоремы об однозначном продолжении 20
17.3. Задача Дирихле 40
17.4. Конструкция параметрикса по Адамару .... 48
17.5. Асимптотические свойства собственных значений
и собственных функций 63
Примечания 88
18. Псевдодифференциальные операторы 91
Краткое содержание главы 91
18.1. Основы исчисления 94
18.2. Конормальные распределения 134
18.3. Тотально характеристические операторы .... 155
18.4. Еще раз о преобразованиях Гаусса 194
18.5. Исчисление Вейля 205
18.6. Оценки для псевдодифференциальных операторов 220
Примечания . 242
19. Эллиптические операторы на компактных многообра-
многообразиях без края 245
Краткое содержание главы 245
19.1. Абстрактная теория Фредгольма 246
19.2. Индекс эллиптических операторов 262
19.3. Теорема об индексе в R" 290

Оглавление в 93
19.4. Формула Лефшеца • 299
19.5. Различные замечания об эллиптичности .... 304
Примечания . 308
20. Краевые задачи для эллиптических дифференциаль-
дифференциальных операторов 311
Краткое содержание главы 311
20.1. Эллиптические краевые задачи 313
20.2. Некоторые подготовительные результаты об
обыкновенных дифференциальных операторах ¦ • 337
20.3. Индекс эллиптических краевых задач 342
20.4. Неэллиптические краевые задачи 354
Примечания . 356
21. Симплектическая геометрия 359
Краткое содержание главы 359
21.1. Основная структура 361
21.2. Подмногообразия симплектического многообра-
многообразия 378
21.3. Нормальные формы функций 396
21.4. Складки и гиперповерхности со скользящим пе-
пересечением 406
21.5. Симплектическая эквивалентность квадратичных
форм 429
21.6. Лагранжев грассманиан 478
Примечания . 462
22. Некоторые классы микрогипоэллиптических опера-
операторов 464
Краткое содержание главы 464
22.1. Операторы с псевдодифференциальным парамет-
риксом 466
22.2. Обобщенные уравнения Колмогорова 470
22.3. Неравенство Мелина 478
22.4. Гипоэллиптичность с потерей одной производ-
производной 486
Примечания . i . ¦ 508
23. Строго гиперболическая задача Кош и 510
Краткое содержание главы 510
23.1. Операторы первого порядка 510
23.2. Операторы высшего порядка 516
23.3.. Необходимые условия корректности задачи Коши 529
23.4. Гиперболические операторы главного типа . . • 534
Примечания , 547

694 Оглавление
24. Смешанная задача Дирихле — Коши для операторов
второго порядка ¦ , 549
Краткое содержание главы 549
24.1. Энергетические оценки и теоремы существования
в гиперболическом случае . 549
24.2. Особенности в эллиптической и гиперболической
областях 559
24.3. Обобщенный бихарактеристический поток • . ¦ 567
24.4. Случай дифракции 584
24.5. Распространение особенностей в общем случае 599
24.6. Операторы микролокального типа Трикоми . • • 606
24.7. Операторы, зависящие от параметров 612
Примечания . 618
Добавление В. Некоторые пространства распределений 621
8.1. Распределения в R" и на открытых многообра-
многообразиях 621
8.2. Распределения в полупространстве и на многооб-
многообразии с краем 630
Добавление С. Некоторые факты из дифференциальной
геометрии 639
С.1. Теорема Фробениуса и слоения 639
С.2. Одно сингулярное дифференциальное уравнение 642
С.З. Чистые пересечения и отображения постоянного
ранга • 646
С.4. Складки и инволюции 648
С.5. Геодезические нормальные координаты 658
С.6. Лемма Морса с параметрами 662
Примечания . 664
Литература . 665
Именной указатель . 686
Предметный указатель 688
Указатель обозначений . 691

УВАЖАЕМЫЙ ЧИТАТЕЛЬ!
Ваши замечания о содержании кииги, ее оформле-
оформлении, качестве перевода и другие просим присы-
присылать по адресу: 129820, Москва, И-110, ГСП,
1-й Рижский пер., 2, издательство «Мир».

Монография
Ларе Хёрмандер
АНАЛИЗ ЛИНЕЙНЫХ ДИФФЕРЕНЦИАЛЬНЫХ ОПЕРАТОРОВ
С ЧАСТНЫМИ ПРОИЗВОДНЫМИ
ТОМ 3. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Ст. научный редактор Н. И. Плужникова
Мл. научный редактор Т. А. Денисова
Художник В. А. Медников
Художественный редактор В. И. Шаповалов
Технический редактор Е. В. Алехина
Корректор Н. А. Гиря
ИБ № 6213
Сдано в набор 19.01.87. Подписано к печати 27.07.87. Формат 60Х90'/»-
Бумага кннжно-журнальная. Печать высокая. Гарнитура литературная.
Объем 21.75 бум. л. Усл. печ. л. 43,30. Усл. кр.-отт. 43,50. Уч.-изд. л. 40.79.
Изд. № 1/4802. Тираж 6500 экз. Зак. 443. Цена 4 р. 70 коп.
ИЗДАТЕЛЬСТВО «МИР» 129820, ГСП, Москва, И-110, 1-й Рижский пер,, 2
Ленинградская типография № 2 головное предприятие ордена Трудово-
Трудового Краевого Знамени Ленинградского объединения «Техническая книга»
им. Евгении Соколовой Союзполиграфпрома при Государственном ко-
комитете СССР по делай издательств, полиграфии и книжной торговли.
198052, г. Ленинград, Л-52, Измайловский проспект, 29.