Линейные дифференциальные уравнения главного типа - Егоров Ю.В.

Автор: Егоров Ю.В.
Теги: дифференциальные, интегральные и другие функциональные уравнения конечные разности вариационное исчисление функциональный анализ математика математический анализ математическая физика главная редакция физико-математической литературы
Год: 1984
Похожие
Анализ линейных дифференциальных операторов с частными производными. Том 4. Интегральные операторы Фурье
Анализ линейных дифференциальных операторов с частными производными. Том 3. Псевдодифференциальные операторы
Анализ линейных дифференциальных операторов с частными производными. Том 2. Дифференциальные операторы с постоянными коэффициентами
Анализ линейных дифференциальных операторов с частными производными. Том 1. Теория распределений и анализ Фурье
Текст
                    Ю. В. Егоров
ЛИНЕЙНЫЕ
ДИФФЕРЕНЦИАЛЬНЫЕ
УРАВНЕНИЯ
ГЛАВНОГО ТИПА
МОСКВА «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
1984

22.161.6
ЕЗО
УДК 517.947
Егоров Ю. В. Линейные дифференциальные уравнения главного типа. —
М.: Наука, Главная редакция физико-математической литературы. 1984. —
360 с.
В книге излагаются достижения последних лет в развитии общей теории
линейных дифференциальных уравнений с частными производными.
В начале книги излагается учебный материал, относящийся к теории
распределений и теории псёвдодифференциальных операторов. Затем — теория
краевых задач для эллиптических дифференциальных уравнений.
Вторая часть книги содержит новые результаты, относящиеся к
современной теории дифференциальных уравнений с частными производными.
Для научных работников, знакомых с обычными курсами
дифференциальных уравнений и функционального анализа. Может быть полезна студентам
старших курсов университетов и аспирантам.
Библ. 254 назв.
Юрий Владимирович Егоров
ЛИНЕЙНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ ГЛАВНОГО ТИПА
Редакторы И. Е. Морозова, М. М. Горячая
Техн. редакторы Л. В. Лихачева, С. Я. Шкляр
Корректоры Л. Д. Дорохова, Е. В. Сидоркина
ИБ 12399
Сдано в набор 02.09.83. Подписано к печати 18.05.84. Формат 60X907ie. Бумага книжно-
журнальная. Литературная гарнитура. Высокая печать. Условн. печ. л. 22,5. Усл. кр.-отт.
22,5. Уч.-изд. л. 25,74. Тираж 5900 экз. Заказ № 1644 Цена 3 р. 20 к.
Издательство «Наука»
Главная редакция физико-математической литературы
117071, Москва. В-71, Ленинский проспект, 15
Отпечатано с матриц ордена Октябрьской Революции, ордена Трудового Красного
Знамени Ленинградского производственно-технического объединения «Печатный Двор»
имени А. М. Горького Союзполиграфпрома при Государственном комитете СССР по
делам издательств, полиграфии и книжной торговли. 197136, Ленинград, П-136, Чкалов-
ский пр., 15 в Ленинградской типографии № 4 ордена Трудового Красного Знамени
Ленинградского объединения «Техническая книга» им., Евгении Соколовой
Союзполиграфпрома при Государственном комитете СССР по делам издательств, полиграфии и
книжной торговли, 191126, Ленинград, Социалистическая ул., 14.
<g) Издательство «Наука»
1702050000—100 Главная редакция
E"v 12-84 физико-математической
053(02)-84 литературы, 1984

ОГЛАВЛЕНИЕ
Предисловие 6
Обозначения * 8
Глава I
Теория распределений 9
§ 1 Определение распределений и их свойства 9
§ 2. Преобразование Фурье и свертка* распределений 18
§ 3. Пространства Соболева . 23
§ 4. Дифференциальные операторы с постоянными коэффициентами ... 31
§ 5 Распределения на многообразии 43
Глава II
Псевдодифференциальные операторы 5]
§ 1. Сингулярные интегральные операторы 52
§ 2. Определение псевдодифференциальных операторов и их свойства 56
§ 3. Эллиптические псевдодифференциальные операторы ♦ . . 71
§ 4. Канонические преобразования . , 82
§ 5. Неравенство Гординга 107
§ 6. Обобщения . 112
§ 7 Об одном классе псевдодифференциальных операторов 115
Глава III
Краевые задачи для эллиптических уравнений ♦ , 121
§ I. Уравнения с постоянными коэффициентами в полупространстве J21
§ 2 Краевые задачи для уравнения с переменными коэффициентами 126
§ 3. Сведение краевой задачи к псевдодифференциальному уравнению 130
1*

4
ОГЛАВЛЕНИЕ
Глава IV
Задача с косой производной 134
§ 1. Постановка задачи. Примеры 134
§ 2. Вспомогательные построения 137
§ 3. Многообразие первого класса 139
§ 4. Многообразие второго класса 153
§ 5. Многообразие третьего класса 158
Глава V
Волновой фронт. Интегральные операторы Фурье 164
§ 1. Волновой фронт. Определение и примеры 164
§ 2. Основные свойств волнового фронта 167
§ 3. Другой подход к изучению волновых фронтов 169
§ 4. Поведение волнового фронта при отображениях 171
§ 5. Волновой фронт и интегральные операторы Фурье 177
§ 6. Распространение особенностей. Разрешимость уравнений главного
типа с веществен нозначным главным символом 182
Глава VI
Необходимые условия локальной разрешимости 187
§ 1. Примеры 187
§ 2. Теорема Л. Хёрмандера 189
§ 3. Теорема для случая нуля конечного порядка 200
§ 4. Структура символа , 207
§ 5. Теорема для случая нуля бесконечного порядка 217
Глава VII
Достаточные условия локальной разрешимости • 228
§ 1. Обзор результатов 228
§ 2. Редукция к операторам первого порядка , . 232
§ 3. Доказательство теоремы 2.1 236
Глава VIII
Субэллиптические операторы 242
§ 1. Определение и основные свойства 242
§ 2. Локализация оценок 249
§ 3. Необходимые условия субэллиптичности 253
§ 4. Оценки для дифференциальных операторов первого порядка .... 257
§ 5. Достаточные условия субэллиптичности . . , 281

ОГЛАВЛЕНИЕ 5
§ 6. Канонические преобразования и разбиение единицы 304
§ 7. Приложения к задаче с косой производной 310
§ 8. Приложение к d-задаче Неймана 313
Глава IX
Задача Коши 319
§ 1. Постановка задачи 319
§ 2. Теорема Ковалевской 320
§ 3. Гиперболические уравнения 326
§ 4. Оценки типа Карлемана 333
§ 5. Теорема Кальдерона 336
Комментарии 346
Библиография 348
Предметный указатель , » , 360

ПРЕДИСЛОВИЕ
Теория дифференциальных уравнений с частными производными
сделала за последние тридцать лет огромный скачок в своем
развитии. До этого времени в ней изучались в основном уравнения
второго порядка в пространстве двух или трех измерений, причем
обычно предполагалось, что уравнение принадлежит к одному из
трех основных классов, т. е. является эллиптическим,
гиперболическим или параболическим. Исключением из общего правила
являются исследования таких выдающихся математиков, как
С. Ковалевская, Д. Гильберт, Ж. Адамар, С. Н. Бернштейн,
И. Г. Петровский, С. Л. Соболев.
Современная теория, не потерявшая связи с математической
физикой и не утратившая своего значения для математического
моделирования реальных процессов; изучает уравнения
произвольного порядка в пространстве любого числа измерений. В
отличие от классической теории, содержащей большое число теорем
и методов, пригодных для изучения отдельных уравнений
математической физики, для современной теории характерны создание
и использование общих методов, применимых для исследования
широких классов уравнений, стремление дать полное описание
классов дифференциальных уравнений, обладающих тем или иным
свойством.
В развитии общей теории линейных дифференциальных
уравнений можно выделить три этапа.
Для первого этапа характерно развитие теории распределений
и тесно связанной с ней теории дифференциальных уравнений
с постоянными коэффициентами. Теория распределений, основы
которой были заложены в работах С. Л. Соболева, особенно
интенсивно развивается с выходом н 1951 г. книги Л. Шварца [1].
В рамках этой теории решение дифференциального уравнения
с постоянными коэффициентами сводится к проблеме деления
образа Фурье распределения на полином, что является задачей
классического операционного исчисления.
Второй этап характеризуется развитием теории эллиптических
краевых задач и тесно связанной с ней теории
псевдодифференциальных операторов. Эллиптические дифференциальные операторы
являются наиболее близкими по своим свойствам к
дифференциальным операторам с постоянными коэффициентами и могут
изучаться методами теории возмущений. При построении фунда-

ПРЕДИСЛОВИЕ 1
ментальных решений эллиптических операторов появляются
псевдодифференциальные операторы, исследование свойств которых
было значительно продвинуто в шестидесятые годы.
Наконец,, на третьем этапе, в семидесятых годах, интенсивно
развивается теория интегральных операторов Фурье,
первоначальным вариантом которой является канонический оператор
Маслова. Примером интегрального оператора Фурье является
оператор решения задачи Коши для гиперболического уравнения.
Другим важнейшим достижением этого периода является введенное
в работах М. Сато и Л. Хёрмандера новое важное понятие
волнового фронта распределения, позволяющее точнее описать его
особенности. Одним из самых важных достижений современной
теории дифференциальных уравнений является результат Л.
Хёрмандера об инвариантности волнового фронта решений
относительно гамильтонова потока главного символа.
Класс дифференциальных операторов главного типа, которому
посвящена эта книга, является наиболее простым по своей
структуре после операторов с постоянными коэффициентами и
эллиптических операторов. Этот класс содержит, в частности,
эллиптические и строго гиперболические операторы, но не исчерпывается
ими. Основной характеристикой этого класса служит тот факт,
что свойства таких операторов не зависят от младших членов
и определяются только их характеристическими формами.
В этой книге представлено в несколько расширенном виде
содержание некоторых курсов лекций, прочитанных автором на
механико-математическом факультете МГУ. Она рассчитана на
читателя, знакомого с курсом уравнений с частными производными
и основными теоремами линейного функционального анализа.
Читатель, знакомый с теорией распределений, может без ущерба
пропустить первую главу. Первые три главы и три первых
параграфа* последней главы имеют более элементарный характер.
В четвертой главе излагается одна специальная задача для
эллиптического уравнения второго порядка, которая называется задачей
с косой производной, или задачей Пуанкаре. Эта задача является
хорошей иллюстрацией к теории, изложенной в главах VI—VIII.
В книгу не вошли многие из вопросов, относящихся к
уравнениям главного типа. Для дальнейшего чтения мы рекомендуем
читателю работы Л. Хёрмандера [3], [12], [13], [15], книги
В. П. Маслова [1], [2], М. А. Шубина [1], М. Тейлора [5].
В заключение я хочу поблагодарить М. С. Аграновича и
Е. А. Колесникову, ознакомившихся с рукописью книги и
сделавших много полезных замечаний.
К). 5. Егоров
Москва
1982

ОБОЗНАЧЕНИЯ
Кя — л-мерное евклидово пространство точек х с координатами (х1, ..., хп).
При этом |лМ —[(*1)* + ..- + (*я)2]1/2, xa=z(Xifittt(xnfnt если а = (<*!, ..., а„),
a/eZ+, Z+ — множество неотрицательных целых чисел, dx=dxl ...dxn — мера
Лебега в R".
R„-~пространство, двойственное к Rn, состоит из точек g с координатами
(5i Inh При этом ISI-pJ + .-.+ESp/1. f-^1...^ если а, в Z+,
d6=»dgi...dbi — мера Лебега в Rrt.
Если a«(ar ..., ал) &-Z+, то ^1 = ^ + ... + ^; а!»^! ...ал!; Da =»
= D^...D^, где £> = (Я1э ..., Dn).
/g <*J> -#- # (^if1- (W"/<*. !)•
/ae}/"—1, arg/=jt/2; Re 2, Imz—вещественная и мнимая части
комплексного числа г.
L(Ey F) — пространство ограниченных линейных операторов, действующих
из Е в F, где Е и F—линейные топологические пространства.
Ст (Q), где /neZ+. Q — область в R*,— это пространство функций/,
непрерывных в Q и имеющих непрерывные производные Da/ при | a | ^ m»
С™ (Q) — подпространство функций из Ст (Q), равных нулю в окрестности
границы области Q ив окрестности бесконечно удаленной точки.
Lp(Q)—-пространство измеримых функций в Q, для которых сходится
интеграл $ | / (*) \Р dx, \\ f ^ (0> - ( $ I / (*) 1р <**\1/р-
zl°°(&)—пространство измеримых функций в Q, для которых сходится
интеграл \ I / (х) \р dx, каково бы ни было компактное множество К cz Q.
□ — конец доказательства.

ГЛАВА I
ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
В этой главе приводятся необходимые для дальнейшего
сведения из теории распределений. Здесь излагаются свойства
преобразования Фурье, рассматриваются пространства С. Л. Соболева
HS(Q). В параграфе, посвященном дифференциальным операторам
с постоянными коэффициентами, изложена конструкция Л. Хер-
мандера фундаментального решения для такого оператора,
рассмотрены свойства эллиптических операторов и операторов главного
типа с постоянными коэффициентами. Последний параграф содержит
определение распределения на произвольном гладком многообразии.
§ 1. Определение распределений и их свойства
1.1. Понятие распределения, играющее чрезвычайно важную
роль в современной математике, в особенности в теории
дифференциальных уравнений с частными производными, возникло
первоначально в связи с необходимостью расширения понятия
решения дифференциального уравнения. Многие задачи
математической физики требуют при моделировании такого расширения,
поскольку часто из физического смысла задачи видно, что ее
решение не может иметь производных в обычном, классическом,
смысле, а зачастую не может быть даже и непрерывной функцией.
Идея, лежащая в основе определения распределения, довольно
проста. Мы не требуем больше, чтобы решение дифференциального
уравнения Р (х, D) и (х) = / (я), где Р (х, D) = 2 flaWOa, имело
|a| ^m
производные до порядка т включительно в области его
определения Q, как это предполагается в классическом анализе. Вместо
этого мы считаем, что а является непрерывным функционалом
над пространством функций С^(Й), имеющих непрерывные
производные порядка т и обращающихся в нуль в некоторой окрестности
границы области определения функции айв окрестности
бесконечно удаленной точки. В основу определения ставится
интегральное тождество, которое получается следующим стандартным
способом.
Мы рассматриваем вначале гладкую функцию и из класса
Cm(fi). Обозначим через / результат применения к и оператора
Р(ху D). Ясно, что если коэффициенты аа(х) непрерывны, то и/

10
ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
будет непрерывной функцией в Q. Равенство Р(х, D)u(x) = f(x)
эквивалентно равенству
\Р(х, D)u(x)q>(x)dx=\f(x)y(x)dx9 (1.1)
если считать, что оно выполняется одновременно для всех
функций ф из CJT(Q) (или С(Й), или CJ°(Q)).
Предположим для простоты, что коэффициенты аа оператора Р
являются бесконечно гладкими в Q функциями.
Это позволит проинтегрировать по частям в равенстве (1.1)
и перебросить производные с функции и на функцию <р. В
результате получим равенство
$ и (х) (Р (х, D) q>(x)dx=\f (x) <p (х) dx, (1.2)
в котором на долю функции и не приходится ни одной произ-
m
водной. Здесь *Р(х, D)q>(x)= 2 (—J)|a l£)a №« М Ф (*)]•
ia|=0
Равенство (1.2), эквивалентное равенству (1.1) в тех случаях,
когда «еСт(й), и служит определением обобщенного решения.
Нетрудно понять, что это равенство имеет смысл для функций и>
не обязательно непрерывных. Достаточно предполагать, что
u^L\oc(Q). Таким образом, мы приходим к следующему
определению.
Определение 1.1. Обобщенным решением уравнения
Р (xt D)u(x) = f(x)9 где /eL}oc(Q), называется функция
u^L\0C(Q), для которой справедливо равенство (1.2) при всех
ф£С(Й).
Если, в частности, и является обобщенным решением уравнения
Daa = /, то f называется обобщенной производной функции и.
Из этого определения сразу видно, что обобщенная
производная Dau определяется единственным способом (с точностью до ее
значений на множестве меры нуль) и что она не зависит от
порядка дифференцирования.
1.2. Хотя данное выше определение 1.1 достаточно для
большинства задач математической физики, с математической точки
зрения, оказывается удобным расширить его, считая, что в качестве
функций ф можно брать любые функции из пространства C£°(Q)r
и не ограничивая множеств обобщенных решений рамками
пространства L\0C(Q).
Понятие непрерывного линейного функционала на CJ5° (Q)
не является вполне элементарным, поскольку опирается на
определение топологии в этом неметризуемом пространстве (см.,
например, К. Иосида [1]). Однако непрерывность можно ввести,
используя только определение сходимости последовательности
в данном пространстве, что обычно достаточно для приложений.

§ I. ОПРЕДЕЛЕНИЕ РАСПРЕДЕЛЕНИЙ И ИХ СВОЙСТВА П
Итак, мы будем говорить, что Ф/->Ф в C^°(Q), если
1) существует компактное подмножество /CczQ такое, что
<ру = 0 в Й\/С;
2) для любого а последовательность Daq>j сходится в К
равномерно к Оаф.
Пространство CS°(Q), снабженное такой топологией,
обозначается J?(Q). (Это обозначение введено Л. Шварцем.) Полнота
пространства SJ (Q) вытекает из хорошо известных теорем
классического анализа.
Определение 1.2. Распределением называется линейный
непрерывный функционал и над пространством &(Q).
Множество всех распределений обозначается &' (й).
Определение 1.3. Распределение и имеет порядок k на
множестве М <ш Q, если существует такая постоянная С, что
|и(ф)1<С|ф|с*(Д|) Для ф^С(М).
Примером распределения, имеющего порядок т в области Q,
может служить функционал
и (ф) = \ и *Р*9 &х>
входящий в левую часть равенства (1.2), когда функция и локально
интегрируема.
Предложение 1.1. Распределение f^&' (Q) имеет конечный
порядок т (К) в каждом компактном подмножестве К области Q.
Доказательство. Допустим, что это неверно и найдется
такое компактное подмножество К G Q и такая
последовательность ф& функций из С2°(/С), что
/(ф*)^*|ф*|с*
Последовательность г|)А = <pk \\ q>k |~lfe (К)&~1/2 стремится к 0 в f (Й)
ари &-^оо, поскольку suppгрл ci /С и при |Р|^-/г
Поэтому /(^)~^0 при &->оо. Но с другой стороны,
фь !1 ь • У k
и т« ,ck (К) г
так что /(г|^)-^°° при &->оо. Полученное противоречие
доказывает теорему. □
В линейном пространстве &'(Q) можно ввести топологию,
которая называется слабой и в которой сходимость
последовательности щ элементов из J?'(Q) к а&& (Q) означает, что
I

12
ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
Ч/(ф)-* и (q>) для любой функции ф из CJT(Q). Полнота
пространства @f* (Q) относительно такой топологии следует из теоремы
Банаха —Штейнхауза (см. Иосида [1]).
Нетрудно видеть, что каждая функция и из Li°c (Й) определяет
распределение и (ф) = (и, ф) и § и (х) ф (a:) dx. Поэтому пространства
Lj0C(Q) является подпространством в 2&' (Q).
Определение 1.4. Распределение и равно нулю в
подобласти о, если и(ф) = 0 для всех функций ф из CJJ°(g)).
Определение 1.5. Наименьшее замкнутое множество, вне
которого ы = 0, называется носителем распределения и и
обозначается supp и.
В дальнейшем при изучении особенностей распределений нам
понадобятся следующие определения, аналогичные определениям
1.4 и 1.5.
Определение 1.6. Распределение и называется бесконечно
дифференцируемым в ш, если в пространстве C°°(Q) существует
такая функция и, что и(ф) = (а, <р) для всех ф из С2°(ш).
Определение 1.7. Наименьшее замкнутое множество, вне
которого меС°°((о), называется носителем особенностей
распределения и и обозначается sing supp и.
Вернемся теперь к определению 1.1 обобщенного решения.
Заменим в этом определении пространство L{0C(Q) на
пространство &F' (Q). Окончательная форма этого определения будет
следующей:
Определение 1.8. Обобщенным решением уравнения
Р(х, D)w = /(x), где / е $Р' (Q), называется распределение ы, для
которого справедливо равенство и ('Ар) = f (ф) при всех ф е С? (Q).
Большая часть этой книги будет посвящена изучению условий»
необходимых и достаточных для существования обобщенного
решения и исследованию свойств этого решения, в частности,
структуры его носителя особенностей.
1.3. Данное выше определение распределения не является
единственно возможным. Можно было бы, например, рассматривать
в качестве исходного пространства C°°(Q), а не CS°(Q). В этом
случае естественно меняется и двойственное пространство линейных
непрерывных функционалов.
Понятие сходимости в пространстве C°°(Q) вводится следующим
образом. Мы говорим, что последовательность q>j сходится к ц>
в C°°(Q), если для всякого а и любого компактного множества
/C<gQ имеет место равномерная в К сходимость
последовательности Оафу к D°4p.
Пространство С°°(й), снабженное такой топологией,
обозначается g(Q). (Это обозначение также принадлежит Л. Шварцу.)
Полнота пространства £(й) вытекает из хорошо известных теорем
классического анализа.

§ 1. ОПРЕДЕЛЕНИЕ РАСПРЕДЕЛЕНИЙ И ИХ СВОЙСТВА 13
Определение 1.9. %' (Q) есть пространство линейных
непрерывных функционалов над пространством §(Q).
Ясно, что каждый элемент пространства W (£2) принадлежит
&'(Q). Характеристику пространства Щ' (Q) дает следующая
Теорема 1.1. Пространство %* (Q) состоит из распределений
с компактными носителями.
Доказательство. Ясно, что каждая функция ср из SF(Q)
принадлежит g(Q), и если {г>у} е ^ (Q), фу->-0 в ^(Q), то Фу->0
в £(Q). Поэтому, если /e£'(Q), то существует ge^'(Q), для
которого /(ф) = £(ф), где фб^(О).
Покажем, что носитель распределения g ограничен. В самом
деле, если бы это было не так, то существовала бы такая
последовательность функций {фу} из & (Q), что фу(л:)==0 при \x\^j
и g(cpy)= 1. Но фу ->• 0 в %(Q), и поскольку функционал /
непрерывен, то /(фу)->0 при /-*оо. Отсюда видно, что равенство
f (фу) = g (ф;) не может выполняться при всех /, и мы приходим
к противоречию, так что suppgc /С, где К — компактное
подмножество точек из Q.
Покажем теперь, что /(ф) = £(ф) для всех фе!(й). В самом
деле, пусть hj&CT(&)> Л/=1 в окрестности компакта К и /iy-^1
в Ш(Q). Пусть ф£^(Q). Тогда hj<p-*■ ф в Ш(Q). Но /(ft/<p) = g(Луф),
a ff (ф)вг(А/ф)+в ((1 -Лу)ф)в«Г(Луф) ПРИ всех /• Поэтому /(/1уф)=
= й'(ф) ПРИ всех /■ Переходя к пределу при /->оо, мы получим,
ЧТО /(ф) = £(ф). П
1.4. В книге Л. Шварца [1] вводится еще одно важное
пространство распределений, определенных в R", — пространство S.
Как и выше, это пространство является двойственным к основному
пространству % гладких функций и называется пространством
распределений умеренного роста. Более точные определения
приводятся ниже.
Определение 1.10. Пространство $ есть пространство
бесконечно дифференцируемых в Rn функций ф, для которых
sup | x$Da<p (х) | < оо
х
при любых аир.
Таким образом, мы видим, что функции из пространства S
стремятся к нулю при я-*оо, даже если умножить их на любой
полином, и то же верно для их производных любого порядка.
Ясно, что Cf (Rn) с: #. Другим примером функции из % может
служить e-i*ia. Из определения видно, что пространство %
инвариантно относительно дифференцирования и умножения на
полиномы.
Определение 1.11. Пространство линейных непрерывных
функционалов над % называется пространством распределений
умеренного роста и обозначается $''.
Нетрудно видеть, что линейный функционал над $
принадлежит 8' в том и только том случае, когда существуют такие

14 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
индексы а и k и такая постоянная С, что выполнено неравенство
\u((p)\^Csup(l+\x\)k\D^(x)\y ф£|,
х
Поскольку @f (Rn) czS аё(Rn) и соответствующие операторы
вложения непрерывны, то 22?' (Rn) z> <§" z> Ш' (|Rn), и
соответствующие операторы вложения также непрерывны.
1.5. Покажем, что пространство распределений инвариантно
относительно умножения на любую функцию ft из С00 (Q) и
относительно дифференцирования.
Определение 1.12. Если weF(Q), fteC°°(Q), то
произведением hu называется функционал
(hu) (ф) = и (Аф), фе^(О).
Определение 1.13. Если иб^'(й), то производной Dau
называется функционал
(Dau)(ф) = (—1)'аi w (D», фбЯг(0)..
Отметим, что если ft sC°°(Q), wef (Q), то
D* (Ли) = (ОД и + ft (ОД. (1.3)
В самом деле, используя определения 1.12 и 1.13, можно
получить (1.3) из очевидного равенства
- и (hDky)» и ((ОД <p)-u (Dk (ft<p))f Ф <= ^ (Q).
Удобно пользоваться формулой Лейбница в более общем виде.
Если Р (I) — произвольный полином от п переменных |ь ..., £„,
то
P{D)(hu)^^~D^hP^{D)uy ftsC°°(Q), u<=&'(Q), (1.4)
а
где Р<а) (Б) = 3'а" Р (Б)/аб^ ... Э#», a P (D), Р<а> (D) -
дифференциальные операторы, которые получаются из полиномов Р (£),
Р(а) (I) заменой переменных |/ на Dj.
В самом деле, из равенства (1.3) видно, что
Р(D) (/ш) = 2 (Daft)Q*(D)u> fteCw(Q), ие^ (Q), (1.5)
a
где Qa (|) — некоторые полиномы. Эти полиномы можно найти,
если положить ft (х)=е1 <*■ *>, и (#)=е'<*■ч>. Заметим, что Р (В)еЦх- 6) =
= P(£)£l'(*'6). Поэтому из (1.5) следует, что P(S + r)) = £aQaOl)>
и по формуле Тейлора Qa(r)) = P(a)(i])/a!
В дальнейшем мы еще встретимся с обобщением равенства (1.4).
1.6. Для теории распределений важно, что всякое
распределение может быть приближено гладкими функциями. При этом
очень удобной оказывается техника усреднений.

§ I. ОПРЕДЕЛЕНИЕ РАСПРЕДЕЛЕНИЙ И ИХ СВОЙСТВА 15
Определение 1.14. Функция со^С°°(Кл) называется ядром
усреднения, если со(х) = 0 при |x|^lf со(а:)^0 и J <о (х)dx == 1.
Классическим примером ядра усреднения является функция
I 0 при |х|3*1,
с постоянной С, равной ( J el*«* ^d*) , Положим ©л (х) =
= /г-ла)(л;//г).
Определение 1.15. Усреднением распределения wsf flR")
называется функция «л (х) = ^ (сол (я — #)).
Теорема 1.2. Функция uh{x) бесконечно дифференцируема
при /i>0. При h-+ + 0 функции uh сходятся к и в &'(Un).
Если weLp(R"), то \uh — u\\L -►О при /i-*0, 1</?<оо. £сла
«eC(Rn), то uh-+u равномерно в каждой ограниченной
подобласти.
Доказательство. 1°. Непрерывность функции uh(x) no x
вытекает из определения распределения: при х-*х0 имеем ©л (у—я)->
-*юл (#-*<>) в Sf и поэтому м<,(юА(х — y))-+uy((oh(x0-y)).
Для доказательства дифференцируемости функции uh (у)
рассмотрим отношение [uh (у + 6z) — ил (#)]/б, где г — произвольный
вектор в R" единичной длины. Имеем
а*±!}=аИ-«.(*-[.('-=^)-.(^)]/«).
Но при 8->0 и фиксированном {/
в топологии пространства & (Un). Следовательно, при 6->0
uh(y+bV-uh(y) _^ их ^_а *d jx-f, j j _
Это и означает дифференцируемость функции иА((/). Повторяя
это рассуждение, можно доказать, что uh e С00.
2°. Пусть теперь mgC(R"). Тогда
I uh (х) - и (х) | = К сол (а: — #) [и (у) — ы (a:)] dt/1 ^ max | и (у) — и (а:) |.
Если Q — ограниченная область в Кл, то и равномерно
непрерывна, в ее компактной окрестности. Поэтому
max| uh(x) — u(x)\<, max \и(У)~и(х)\>
XGQ *eQ, \x — y\ <й

16 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
и если ft-^0, то max \uh(x) — и(л;)|->-0, т.е. uh-+u равномер-
но в Q.
3°. Пусть u^Lpy р>1. Отметим сразу, что \uh\L <|u|l .
В самом деле, применяя неравенство Гёльдера, можно видеть, что
\Uh(x)\*~\\&h(x-y)u(y)dy^=*
-1 $ «Л (х - у)*/Р (I (у) ©Л (х - у)1/"' dt/ |р ^
< (S ©д (х - у) | и (у) |р Ж/) ($ «а (х - у) d</)p/p' < $ <оА (* - */) | и (у) \р dy.
Поэтому
littAl£p-J|ttAWIp^<J|a(y)|p(J©A(;p-y)d;f)dy =
= \\u(y)\Pdy = \\u\ip.
Аналогично, при р=1
J | uh(x) | dx< J | и (у) | (J (oh (x-y) dx)dy=*\\u (у) \ dy.
Пусть теперь е>0. Если u<~Lp при 1^р<оо, то можно
найти функцию иъ непрерывную и равную нулю при |дг|^/?«
=#(е), для которой |u —Ui|l <e/3. По неравенству
треугольника
! и - uh \Lp^\u - «i \\Lp + l иг - м1Л Ц + || ulh - иЛ |Ц «^
<? + I«i-«u|l||.
Поскольку функция wi равна нулю при |*|^/? и непрерывна,
то по доказанному выше
max | иг {x)-ulh(x)\< / ,
если /i достаточно мало, где VR+i — объем шара радиуса /? + 1.
Поэтому
1 их - ulh \Lp = (j | ui (x) - ulh (x) \p dx)UP < ~.
Таким образом, если h достаточно мало, то выполнено
неравенство (a — uh\\l <e. Это и означает сходимость \uh к и в Lp при
4°. Пусть теперь wsf (КЛ), фб^(Rw). Тогда
uh (Ф) = J "* (о)л (0 - а:)) ф (у) dy = и, (J юА (у - х) <р (у) dy) = и (<рЛ).
По доказанному Фл-*ф равномерно и D°4pA-^D°4p равномерно,
причем все функции фА обращаются в нуль вне компактной
окрестности носителя функции ф. Следовательно, фЛ->ф в ^. По

I ■ § 1. ОПРЕДЕЛЕНИЕ РАСПРЕДЕЛЕНИЙ И ИХ СВОЙСТВА «'
I
определению пространства &?' отсюда следует, что uh (ф) = и (фл) ->-
-*н(Ф) при Л-^ + 0. Это и означает, что uh-+u в i^'. D
В качестве примера приложения операции усреднения приве-
дем следующее утверждение.
' Теорема 1.3. Если носитель распределения и состоит из
| одной точки лг = 0, то и(х) = 23 c«6(a)(*)» где k —некоторое
|а|<*
натуральное число или нуль, 8 (х) —мера Дирака, сае©.
Доказательство. В силу предложения 1.1 порядок k
распределения и конечен. Пусть ф е Со° (й), где Q — окрестность
1 начала координат. Разложим функцию ф в ряд Тейлора до чле-
f нов порядка k:
I la|<*
1 где g (*) e C~ (Кя) и g(#)=l в Q. Мы докажем, что m(^) = 0.
i Тогда
И(Ф)- S ^а(Ш)аф(0),
| |а|<*
I где £a = t/ (xf*g)/a,\ и теорема будет доказана.
I Заметим, что Dai|) (0) = 0 при | a | <; А. Пусть Кл — шар радиуса h
I о центром в начале координат. Пусть
| Хд(*)=- J <»h(x-y)dy,
I где со —ядро усреднения. Ясно, что %h е С? flR"), причем х*(х)=1
I при | х | < А, Хл (я) = 0 при |х|^ЗА. Далее, а (ф)»к(фхд), поскольку
i ^ (1 — Хл) = 0 в шаре Vh. Следовательно,
1 |и(Ф)|<С Ц sup|Da(MA)l.
lo|<fe
J Но \D^h{x)\^Cahr^\ а |D^(jc)|<a^-N при |а|^йи
! |х|<ЗА. Вычисляя производные £>а(г|)Хл) по правилу Лейбница,
I получим таким образом, что |ил(ф)|^С'А с постоянной С, не
to зависящей от h. Это означает, что и(г|)) = 0. □
j ' 1.7. Рассмотрим теперь усреднение uh распределения ие^' flR"),
которое определяется как
, "л(ф)а=и(фл).
f Будем считать для простоты, что ядро усреднения со —четная
по х функция.
Нетрудно видеть, что данное определение согласуется с
определением 1.15 в том случае, когда u^L\(Rn) и и(ф)=*
*=\u(x)y(x)dx. В этом случае иЛеС°° и uh(y) = \uh{x)y(x)dx.

18 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
§ 2. Преобразование Фурье и свертка распределений
2.1. Если функция / интегрируема по Rn, то ее
преобразование Фурье определяется формулой
?«)-$/(*) И* dxf (2.1)
где xl=x1li +... + хп%п. Если f eLi, то можно выразить / через }9
используя обратное преобразование Фурье:
f(x) = (2nr*lfll)e>*<%. (2.2)
Теорема Планшереля позволяет определить преобразование
Фурье и в том случае, когда f&L2 (Rn):
f(g)= lim $ f{x)r**dx.
#-*°° \x\<R
При этом оказывается, что f e L2 (Кл) и
f(*) = lim (2л)-" $ f (E)*"*dgf
причем пределы в двух последних формулах понимаются в смысле
пространства L2(Rn) и имеет место равенство Парсеваля
im!uR»)==(2n)-"/2lflLs(Rn). (2.3)
Последнее равенство эквивалентно следующему:
справедливому для любой пары функций /, g из пространства
U(R").
Если aeLi (Rn) и ф е Cg° (|R"), то сверткой и # ф называется
функция
(и * ф) (х) = $ и {y)4(x-y)dy.
При этом
(^ф)(£) = й(£)Ф(6).
Эта же формула верна и в случае, когда u^L2(Rn), <ре£а(Кл).
Отметим, что усреднение uh является сверткой: ua = u*<da,
где со* (jc) = А-Лю (х/г1).
2.2. Приведенные формулы, естественно, справедливы для
функций из пространства $.
Теорема 2.1. Если /el, то fs*. Я/?ы $/яол«
преобразование Фурье функции Daf равно laf(£), а преобразование Фурье
функции xaf равно (—D|)af (5).
Доказательство. Дифференцируя равенство (2.1) по §/,
получаем, что Dg./1 (£) = $(—x/)f(x)e^ix^dx.

* 2 ПРЕОБРАЗОВАНИЕ ФУРЬЕ И СВЕРТКА 19
Эта операция законна, ибо полученный интеграл равномерно
сходится Поскольку ее можно повторить, то отсюда следует,
что fsC°°, и производная D^fd) является преобразованием
Фурье от (—x)af(x).
С другой стороны
6Э/ (Б) = $ / (х) (— Dxf er** dx = $ D*/ (x) • е-"* dx
и
£a [ipf (Б)] = \ (-x)« Dlf (x) e-** dx, (2.4)
Поскольку (—x)aD?/eLi(R"), отсюда следует, что функция
Da[£Pf(l)] определена и ограничена при любых а и р, т. е. f el.
В частности, при а = 0 получаем, что функция &J(l) является
преобразованием Фурье от D$f(x). Q
Следствие 2.1. Преобразование Фурье отображает
непрерывно пространство § на себя.
Доказательство. Мы уже видели, что образом Фурье
функции f из % является функция f из *. При этом f eLi([Rn)
и справедлива формула (2.2) обращения преобразования Фурье.
Далее, возвращаясь к формуле (2.4), можно оценить левую часть
следующим образом:
max|Da[6^(g)]|<J(l+|x|)-^max|(l+|x|)» + 1 + i«iD^(jc)|£bc<
. <Ca,pJ(l + |x|)-*-1dx<Ci.3.
Поэтому отображение Фурье: *-** # является непрерывным и
следствие доказано. □
2.3. Свертка распределения и^&' flR») с функцией <р из C^flR")
определяется формулой:
(И*ф)(л;) = ^(ф (*-(/)).
Заметим, что эта же формула позволяет определить свертку
а*фв тех случаях, когда ие*', фе! или «6^', феС°°(Кл).
Теорема 2.2. £сли wef (R«), ф е Cg° (R«) или «еГ (R«),
Ф<=С°°(КЛ), то а*феС°°(Кл) и supp (и *ф) с: supp и + supp ф.
Кроме того, при любом а
Da (a * ф) = Daw * ф = и # £>аф.
Доказательство. Гладкость свертки и*ф доказывается
в точности так же, как гладкость усреднения в теореме 1.2. По
определению носителя {и * ф) (х)=0, если supp и (у) {] supp ф (х — у) =
= 0, т.е. если не существует точки у е supp и, для которой
#-*/<= supp ф, или, другими словами, хф supp и + supp ф. Для
доказательства последнего утверждения теоремы достаточно

20 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИИ
проверить, что
Dk (и # ф) = Dku # ф = и # Dk(f>.
Пусть ^ — единичный вектор, параллельный оси xk. Имеем
(u*q>)(x + dek) — (u*q>)(x) лл /(p(x + bek—y)-y(x—y)\
При б -> 0 и фиксированном а: отношение [ф (я+бе* — у) — Ф (# — #)]/б
сходится в Cg° (Кл), если фе=С°°(Кл), или в С00^"), если ф<=э
<=С°°(КЛ), к функции iDkq>(x — y). Следовательно,
Dk (U * ф) = U * Олф.
По определению производной распределения и определению свертки
имеем:
(и * Dkq>) (х) = и, (Dxk<p (x - #)) =
= — иу (°/Ф (* - У)) = Jfyty (ф (х -1/))»(D*a * ф) (х). □
2.4. Если распределение и имеет компактный носитель и фе
eCg°(Rn), то и * ф е Cg° (Rn), и можно рассматривать £>#(и#ф),
если osf flR"). Аналогично, если ух, ..., ^ <= ^'flR") и все эти
распределения, кроме, быть может, одного, имеют компактные
носители, а феС^(Кл), то по теореме 2.2 определена свертка
vi * v2 *... * vu * Ф е С00 (R").
При этом Da(tJi *... * Vk * ф)=£% *... * vk * Ф==.. .=01 *... * 0^*ф=»
=01#...#0/г#£аф.
2.5. Определение 2.1. Если распределение mgI', to его
преобразование Фурье и определяется формулой
й(ф) = и(ф), фб1. (2.5)
Из теоремы 2.1 следует, что йе!', если ие!',
Заметим, что преобразование Фурье распределения ueS'
можно определить следующим способом:
й (Б) «М*-* <*■*>).
В самом деле, если и — функция и и (ф) = J w (лг) ф (х) dx, то это
определение совпадает с (2.1). Если же и&<$', то рассмотрим
его усреднение uh с четным ядром. По теореме 1.2 uh-+u при
Л-^0 в топологии %\ а потому и в топологии <§". Из
определения 2.1 следует, что тогда йл-^йе^,и поскольку uh = uh(e-i(x> *>),
получаем, что
2 (8) «МИ <*■*>).
Пример 2.1.
Если и = б(х), то й(|)=1.
Если и = 6^ (#), то й (Б) = (— *£)а.

$ 2. ПРЕОБРАЗОВАНИЕ ФУРЬЕ И СВЕРТКА 21
Следующая теорема Пэли — Винера играет важную роль в общей
теории дифференциальных уравнений.
Теорема 2.3. Целая аналитическая функция U (£) является
преобразованием Фурье распределения ы, носитель которого лежит
в шаре Sa = {x, хер, |д:|^Л} тогда и только тогда, когда
|l/(OI<C(l + |C|)^^iImci (2.6)
с некоторыми постоянными С, N. Для того чтобы распределение U
совпадало с функцией из пространства Co°(S,0, необходимо и
достаточно, чтобы его преобразование Фурье U (£) было целой
аналитической функцией и для каждого N
\U(t)\<.CN(\ + \t\YN*Mlml^ (2.7>
Доказательство. Необходимость. Если ме^' к
supp и a SA, то существуют такие постоянные С и N, что
|и(<р)|<С 2 sup I />» ф U <pe5Cf(SA).
Пусть /i€С°°(R), причем Л(f) = 1 при |*|<1/2 и А(*) = 0 при
| /1 ^ 1. Функция
Фб(^) —е-»С*. »Л(|С|(|Х|_Л))
принадлежит пространству Со° и совпадает с $-'<*■ Ю при |х|^
<Л + |2&|^. Поэтому
|й(0Н|и(Фс)1<б И supp|D^|, (2.8)
но |e-'(*'0|^e^!hnti + i ПрИ хевиррф;, и неравенство (2.6)
следует из (2.8). Мы видим также, что и (£) является целой анали-
тической функцией.
Необходимость неравенств (2.7) следует из равенства (2.4),.
если подставить в него а = 0 и f = a.
Достаточность неравенств (2.7) доказывается заменой
интеграла в формуле (2.2) интегралом по комплексной области.
В самом деле,
и (х) = (2я)-" $ U (I) e** dl = (2я)-* \ U (I + iv\) el <*• * + «ч> dg.
Если положить в (2.7) Л/ = /г+1, то
|а(х)КС^"»1-и. 4)(2n)-»5(l + |6|)-*^dg.
Полагая r] = ta и устремляя * к +°°» можно доказать, что
h(#) = 0 при |х|>Л. Тот факт, что иеС00, если выполнены
неравенства (2.7), следует легко из формулы (2.2).
Для доказательства достаточности неравенства (2.6)
заметим вначале, что U г V и, следовательно, U = и для некоторого

'22 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
распределения ае!'. Функция ал = и#(ол бесконечно
дифференцируема и uh = u&h. При этом для uh выполнено неравенство (2.6)
<: заменой Л на Л + ft. Отсюда следует, что при любом ft>0
supp uh cz SA+h.
Устремляя теперь ft к 0, получим, что supp и cz SA. О
2.6. Рассмотрим преобразование Фурье свертки и#ф, где
ueB&'(Rn) и феСоЧР»). Имеем:
(и * ф) (ф (Б)) = (и « ф), (ф (х)) = и, (ф (х - у)) ($ (л:)) =
= иу ($ Ф (* - УЖ*) ^) = "у $ *-'<"• 6>ф (|) г|) (Б) dl =
т. е. н#ф = йф.
Ясно, что то же рассуждение проходит и в тех случаях, когда
■ueI', фе! или ие=Г(Кл), феС°°(Кл). Поэтому, если t/b ...
..., vk e J?' (Кл) и все эти распределения, кроме, быть может,
одного, имеют компактные носители, то в соответствии с п. 2.4
(уг*...*^*Ф) (Б) = Si (Б)... в* (Б) Ф (Б). (2.9)
Заметим, что операция свертки инвариантна относительно
сдвига. В самом деле, пусть гбКли (Тгф)(#) = Ф(х — г). Из
определения свертки видно, что и*(хг<р) = х2(и*<р). Можно показать,
что операция свертки единственная, обладающая этим свойством.
А именно, справедлива
Теорема 2.4. Если линейный оператор А непрерывно ото-
бражает C™(Rn) в С°°(КЛ) и x2A = Axz для любого zeRn, то
существует, и притом единственное, распределение и, для
которого Лф = и#ф, феСо°(Кл).
Доказательство. По условию значение функции Лф
в точке х = 0 является линейным непрерывным функционалом от
функции Ф1(#) = ф(—#), так что существует распределение и, для
которого
Лф (0) = и (ф!) = (и * Ф) (0), ф е Со0 (R").
Подставляя в этом неравенстве вместо ф функцию т_2ф, получим,
что Лф(г) = (и*ф)(г), фе=Со°(R«)f zep.D
Можно теперь определить свертку и*у двух распределений,
если у одного из них носитель компактен. В самом деле,
оператор А: ф->-и#(0#ф) линеен, непрерывен и перестановочен с х2
при всех z e Rn. Следовательно, по теореме 2.4, существует
единственное распределение w такое, что Лф = до#ф. Полагаем теперь
но = и * у.

§ 3. ПРОСТРАНСТВА СОБОЛЕВА \ 23
Аналогично определяется свертка любого числа
распределений, если все они, за исключением, быть может, одного, имеют
компактные носители.
Пример. Если u<=&'(Rn), то ы*6 = и.
В самом деле, по определению свертки верны равенства
(и # б) * ф = и # (S * ф) = и # <р.
Коммутативность определенной таким образом свертки сразу
вытекает из формулы (2.9) для ее преобразования Фурье.
Аналогично
Da (и # v) = (Dau) * v = и # D^v,
поскольку
ЕР&м) = 1«й (I) v (I) = (D^u) (I) • v (I) = й (I) (№)&) (2.10)
§ 3. Пространства Соболева
3.1. Важную роль в этой книге играют пространства
распределений HS{Q), введенные первоначально С. Л. Соболевым
Если s = 0, пространство Я0(Й) совпадает с L2(Q).
Если s>0 —целое число, то пространство HS(Q) состоит из.
тех функций н, которые принадлежат L2(Q), и имеют
обобщенные производные Dau при |a|^s, также принадлежащие L2(Q).
Норма в этом пространстве вводится так:
\Q lal<s /
Нетрудно видеть, что это пространство является гильбертовым
со скалярным произведением
(и, 0),= $ 2 D*u(x)-D*o(x)dx.
Q lai <s
Поскольку из сходимости последовательности \uk} в
пространстве Hs{&) вытекает ее сходимость в L2(Q) и ограниченность
норм \uk\s, полнота такого пространства вытекает из следующей
теоремы.
Теорема 3.1. Если последовательность {uk\ элементов из Hs(&}
сходится слабо в L2 (Q) к функции и е L2 (Q) и нормы \\ uk \s
равномерно ограничены постоянной Му то u&Hs(Q) и \\u\s^M.
Доказательство. Согласно определению 1.1,
\D*uk-ydx = {—1)|«>$млО«фЛс, |a|<s, феС(Й).
Поскольку правая часть равенства имеет предел, равный
(— 1) 1а I $ и • D°4p dx, последовательность {Dauk} слабо сходится
в L2(Q) к некоторой функции yaGL2(Q), причем
$i>aq>d* = (— ly^^u-D^dx, |a|<sf <реСГ(0).

24 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
Это равенство показывает, что va являются обобщенными
производными функции а, так что и е Hs. Так как
1Ы2= I] \D«uk\l^M\
f a i <s
то из слабой сходимости Dauk к va следует, что
и«ш = z ы<м2. □
lex i <s
3.2. Пространства HS(Q) с целыми неотрицательными s
оказываются весьма полезными, в частности, при изучении краевых
задач для эллиптических и гиперболических уравнений. Однако
при этом, как и во многих других исследованиях, приходится
рассматривать пространства Hs с дробными или отрицательными
значениями s. Определим вначале такие пространства для
функций и: Кл-*-С, как подпространства пространства
распределений *' (Rn).
Определение 3.1. Распределение ме!' принадлежит
пространству HS9 если конечен интеграл
\\u(l)\*(l + \t\*ydt
Величина этого интеграла равна квадрату нормы и в Hs>
которая обозначается lu\\s.
Нетрудно видеть, что если s — целое неотрицательное число,
то это определение эквивалентно данному выше для случая
Теорема 3.2. Пространство Hs совпадает с пополнением
пространства С0 (Кл) по норме \\*\\s.
Доказательство. Если функциям принадлежит такому
пополнению, то ие!', и норма \\u\\s конечна, так что u^Hs.
Обратно, если и е Hsy то существует последовательность uk
элементов из $, для которых [ uk — и \\s -> 0. Это следует из того
факта, что функция и (£) (1 + Ц \2у/2 принадлежит L?i (Rn) и потому
может быть приближена в L2(R") функциями вида vk(l)(1 + \l\2)s/2
в L2, где vk e С™ (Rn). Следовательно, vk е St и обратные образы
Фурье uk этих функций также принадлежат <§, причем
|Ил — u\\s-+0 при А-^со.
Остается доказать, что пространство cT(Rn) плотно в § по
норме ||-|U- Но если t/el, возьмем функцию феСГ(Кл), которая
равна 1 при | х | ^ 1, и положим ve (х) = v (x) ф (гх). Ясно, что
ve<=CT(Rn) и й^е — ^lis = II^(^)[ 1 — ср(ел:)]Щ —^0 при е-*0,
поскольку разность ve — v отлична от нуля лишь при l^l^e-1 и
стремится к нулю даже в топологии пространства $. П

§ 3. ПРОСТРАНСТВА СОБОЛЕВА 2&
3*3. Хорошо известно (см., например, Колмогоров и Фомин [1}
или К. Иосида [1]), что пространство линейных непрерывных
функционалов в L2 изоморфно пространству L2. Определение 3.}
показывает, что пространство линейных непрерывных
функционалов над пространством Hs изоморфно пространству #~у, поскольку
пространство Hs изоморфно пространству L2 и этот изоморфизм
(между Hs и L2) устанавливается оператором
Asu = u(l)(l + \l\*y/\
Таким образом, справедлива
Теорема 3.3. Всякий линейный непрерывный функционал 1 (и)
над пространством Hs представляется в виде
/ (и) = $ uv dx, еде v e H-s (Q).
При этом 1/HIN-*.
3.4. Отметим неравенство
\\fgdx\^\f\s\gU (3.1)
для функций /, g из С£°(КЛ), которое легко получается
переходом к образам Фурье:
<Bife)ivi+i6iv«ji«(»ivi+i6iv«r-iaiek.
Неравенство (3.1) верно, конечно, и для функционалов f из Hs
Hge #-,.
3.5. Рассмотрим теперь усреднение uh функции и е Hs.
Теорема 3.4. Если u&Hs, то \uh — u\s-+0 при ft->0.
Доказательство. Как мы уже видели выше, йн(I) =
= и (I) S (hi). Но функции со (hi) равномерно ограничены и S (hi) ->
~>й(0)=1 равномерно на каждом компактном множестве при
/i->0. Следовательно,
\\й(1)[&ф1)-1](1 + \1\*У/21о-+0,
т. е. \uh — и\\s~*0 при /i->-0. □
3.6. Довольно ясно, что функция, принадлежащая Hs при
большом s, должна быть гладкой. Точный результат был получен
С. Л. Соболевым для целых s и Л. Н. Слободецким в общем
случае и состоит в следующей теореме вложения, указывающей
на связь пространств Н$ с пространствами Ck гладких функций.
Теорема 3.5. Если u^Hs при s>& + rc/2, где us-sO —
целое число, то и совпадает почти всюду с функцией v из класса Ckt
при этом
\v\cu<A\ul% (3.2)
где постоянная А не зависит от и.

26 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
Доказательство. Пусть вначале иеСГ(Кп). По
формуле (2.2) и (х) = (2я)-л $ й (I) е1 <*• S) dg и поэтому Dau (x) =
По неравенству Коши — Буняковского
|D^(x)|<(2nrJ|fl(6)l(l+IBlV^I6l|a,(l + l6l,r/l«<
<(2nr(J|a(6)P(l + |6|Vd6)^(J(l+|6|«)'»i--dB)1/1.
При |а|^й выполнено неравенство |а| —s< — /г, и последний
интеграл сходится. Следовательно,
\D*u(x)\^C\u[„ |a|<*f
для всех функций aeC0 (Rrt). Суммируя эти неравенства по a
при |а|^А, мы получаем, что |и\\ck^А\и\s.
По теореме 3.2 существует последовательность \ат\ функций
из С0, сходящаяся по норме \*\s к функции и. В силу
доказанного для ит неравенства (3.2), имеем
I Um - Um' \ck < А || Um - Um> |U
откуда следует, что последовательность {ит} фундаментальна в Ck
и, в силу полноты этого пространства, имеет предел v^ С*.
Поскольку для феСЦ°(Кл) справедливы равенства
(и, ф)= Ит (ит, Ф) = (о, ф),
т-*оо
функции и и v совпадают почти всюду. □
3.7. С другой стороны, оказывается, что пространства Hs
содержат все распределения, имеющие компактные носители.
Теорема 3.6. Г (R") с (J Hs.
S
Доказательство. Пусть «eS'(R"), supp и а К и
порядок и равен т, так что
|к(Ф)|^Сзир £ |ДаФ(*)1> феСоэ(К").
х е к a I < m
В силу неравенства (3.1) отсюда следует, что | ы(ф)|^СЛ |ф|^
где s = m + [ft/2]+l. Таким образом, и является линейным
непрерывным функционалом над пространством Hs, и по теореме 3.3
существует элемент v пространства H~St для которого
и (ф)= I иФ dx.
Отождествив функционал и с этим элементом v> получим искомое
включение. □
За меч ание 3.1. Из доказательства теоремы 3.6 видно, что
существенным в этой теореме является конечность порядка
распределения ы, а не компактность носителя. Если aef (Rn),

$ 3. ПРОСТРАНСТВА СОБОЛЕВА
27
ф еcT(Rn)* т0 существует seR, для которого <ри е Hs. Поэтому
каждый элемент пространства И&' (Rn) может быть представлен
как предел распределений us при s-»- — oo таких, что us&Hs.
со
Пример распределения на прямой и (ф) = 2 £^ф(/) показывает,
/ = i
что SI9 (Кл) не содержится в объединении пространств Hs, т. е. что
существуют распределения, не принадлежащие никакому
пространству Hs.
3.8. Определим теперь пространства HS(Q) для произвольной,
области QaRn. Выше, в п. 3.1, это было сделано для целых
неотрицательных значений $.
Определение 3.2. Функционал asf (Q) принадлежит
пространству HS(Q), если существует продолжение [У этого
функционала, принадлежащее пространству Hs = Hs(Rn) и
совпадающее с и в Q. В качестве нормы \\u\\s в этом пространстве берется
нижняя грань норм \U[g по всем таким продолжениям U.
Во многих вопросах, встречающихся в теории дифференциаль-
о
ных уравнений, важную роль играет пространство HS(Q), кото*
рое состоит из тех функционалов и, для которых продолжение U
до функционала из Hs можно получить, положив (7 = 0 вне Q.
Теорема 3.7. Пополнение пространства С0 (Q) по норме l-j^
содержится в HS(Q).
Доказательство. Если функция и принадлежит
пополнению С0 (Q) по норме |«|у, то существует последовательность \uk\
функций из Co^(Q), которую можно продолжить нулем вне Q и
которая сходится по норме |1-||,. Предел v этой
последовательности принадлежит Hs по теореме 3 2. При этом функция v равна
нулю вне Q, поскольку и(ф) = lim ^^(ф) = 0 для функций фе.
eC^OR"), носитель которых лежит вне Й.
С другой стороны, если ф е СГ (й), то v (ф) = lim uk (ф) = и (ф)„
так что у=м вй. D
Замечание. Если граница области Q достаточно гладкая»
о
то можно показать, что Я5(й) совпадает с пополнением
пространства CjJ0 (Q) по норме ||«||9. (См. Л. Хёрмандер [3], Л. Р. Волевич
и Б. П. Панеях [1].)
При s^O можно определить HS(Q) как замыкание
пространства C°°(Q) по норме И*, у, которая определяется следующим
способом: если [$]«.-& и s=£k, то
Подробнее об этом см. Л. Н. Слободецкий [1].

28 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИИ
3.9. Рассмотрим теперь сужение элемента и из Hs на
плоскость хп = 0.
Теорема 3.8. Если u&Hs и s> 1/2, то определено
сужение уи на плоскость хл==0, и это сужение принадлежит
пространству #,-1/2 flR""1), причем
\и(х\ 0)U/2<C|H„ (3.3)
где слева стоит норма пространства Hs-i/2 (R""-1).
Доказательство. Достаточно доказать неравенство (3.3)
для функций и из C^°(Rrt), образующих плотное множество в Hs.
Пусть v(x') = u(x\ 0). Тогда v(l') — \u(l)dln и поэтому при
s>l/2
\v(t')\*^\(l + \t\y\u(l)\^tn\(l+\t\*rdtn =
= Co(l + \t'\V~S\(l + \t\2)s\u(t)\2dln.
Умножая обе части этого неравенства на (1 + |£'Р)**"172 и
интегрируя по £', получим искомое неравенство (3.2). П
Отметим, что при s^l/2 утверждение теоремы неверно
(см. Л. Н. Слободецкий [1]).
Следствие 3.1. Если u^Hs и $>k-{-l/2f то определено
сужение у^и на плоскость хп = 0 производных Dlnu при j*^k,
причем Dfnu (x\ 0) е Hs~j~w и
\\0*пи(х', 0)|^.1/f<C|a|,f /-0, 1, ..., k.
Доказательство аналогично приведенному выше.
ЗЛО. Справедливо и обратное утверждение.
Теорема 3.9. Пусть функции <p0, Фь ..., ф* определены
в Rn~x и фу е Яj-y_i/2, причем s>k-\-\f2. Тогда существует
функция и е Н$> для которой
Dfnu(x', 0) = фУ(х'), /-0, 1, ..., k.
Доказательство. Пусть /teCjT(R) и h(t)=l в
окрестности точки < = 0. Положим
k
и (g\ х») = 2 j dxn)Jh (*" (1 +1£' 12)1/?) Ф/ (П
/«о
Ясно, что й(Б\ 0) = ф0(6') и Ш(1\ 0) = фу(Г) при / =
= 1, 2, ..., k. Остается проверить, что u^Hs- Для этого
заметим, что
k
«"S^2/Hl<Mr)|2(1+iriv_lx
х i hw (ь. (1+1 i' Р)-1/2) Р и+1 г Is)*«.

§ 3. ПРОСТРАНСТВА СОБОЛЕВА Я?
поскольку преобразование Фурье по хп функции (ixn)f g (xn)
равно g{J) (1п)> а преобразование Фурье по хп функции h(pxn)
равно p^fi&np-1)'
Таким образом, после замены \п на \п{\ + \1' |2)1/2 получаем,
что
i^i!<2M|*^f)|1(1+|6#|i)-2^J+ix
/-о
х |fc^)fi,)|1(l+B)'d6fdbi<CS |9y|!-/-,^
/«о
так как функция h(ln) принадлежит пространству *(R). D
3.11. При исследовании гладкости решений дифференциальных
уравнений оказывается полезным использовать пространства,
в которых функция принадлежит пространству Hsтолько локально.
Определение 3.3. Функция и принадлежит пространству
#1°°^), если фмеЯ, для любой функции ф из С^°(й).
Ясно, что, например, Ck (й) cz tf£oc (Й).
В дальнейшем нам будет удобно ссылаться на следующее
свойство пространств Hl™(Q).
Теорема 3.10. Если «ef (й) и для любой тонки х0ей
существует такая функция ц> е С^° (Й), что ц> (х0) Ф0 и <ри е
€=//,(Й)> то аеЯ^Й).
Доказательство. Если феС*(Q), то по лемме Бореля —
Лебега существует конечное число функций <рь ..., ср# из С™ (й)
N
таких, что (p;U&Hs(Q) и Ф=2 1Ф/12>0 на эиррф. Функция
N
t|) = ф/ф принадлежит С^ (й) и поэтому щ = 2 'ФIФ/12 tt в
N
*=2 М%)(ф/") еЯ#(0).
Следовательно, и е Н* (й). П
3.12. В дальнейшем при исследовании гладкости некоторых
распределений мы будем пользоваться вспомогательными
пространствами HSfb где ssR, 6eR, б>0. Норма в этом пространстве
вводится следующим образом:
IttB-e-Jd + lglVd + iegiViatt)!1*
Ясно, что если б>0, то

30 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
где Сх(б) и С2 (б) — положительные постоянные, зависящие от б,
но не зависящие от и. Однако при б->0
|и|*.в-Ч«Ь ДЛЯ U(=HS.
Поэтому, если существует постоянная С, не зависящая от б, для
которой |«||^б<С при 0<6^б0 и u^Hs-u то отсюда по
теореме Фату (см. Ф. Рисе —Б. Секефальви-Надь [1], стр. 50)
следует, что u<=Hs и | и I, < С.
3.13. Теорема 3.11. Пусть Q — ограниченная область в R"
и s, t — вещественные числа, s<t. Тогда оператор вложения
i: Ht(&)-+HS(Q) вполне непрерывен.
Доказательство. Пусть {uk}^Ht(Q) и i«*f/^l. Надо
доказать, что из этой последовательности можно выбрать
подпоследовательность, сходящуюся в Hs.
Пусть fteC0 (Rn) и /i(x)=l в окрестности Q. Тогда uk^huk
и поэтому
йка)^1Н(х)ик(х)е-^х^Ых^(2п)^\йк(ц)к(1^у])й^
Поскольку 1 +1\|^(1 + \1 — ЛI)(1 +1Ц|). при любом seR верно
неравенство (1 +|£|)5^(1 + |£ — ц\У$IU +|t|I)j и поэтому
(i + \l\Y\ak(i)\*z
<(2я)-«|(1+|л|)'й*(ч)1а1(1+1б-ч1),ч,А(Б-Л)1а-
Применяя ту же оценку к равенству
Dlfuk (I) = (2л)- J й* (г)) D6 Л (| - г]) Aj,
получим, что
(1 + | ||)- |06/йЛ(Б)|<
<(2яГ|(1+|Ч|)*йПч)Ь1П + 1Б-т||)|-'^(5-т|)||в.
Эти оценки показывают, что последовательность йк равномерно
ограничена и равностепенно непрерывна на любом компактном
множестве. Поэтому существует лодпоследовательность #*.,
сходящаяся равномерно на всех компактных подмножествах в (R„.
Поменяв обозначения, можно считать, что этим свойством
обладает сама последовательность йь.
Пусть е-произвольное положительное число. Тогда
существует настолько большое /?, что (1 + 1£18)(*"/)/2<е при'|||>/?.
Поэтому
I uk - щ \\s ^ е | uk - щ \t +1 \ (\ + \1 \*У I йк (I) - щ (I) |2dl)l/\
\1Б1<Я /
Второе слагаемое в правой части стремится к нулю при &, /->оо„
а первое не превосходит 2е. Поэтому последовательность uk
фундаментальна в H$(Q). D

§ 4. ОПЕРАТОРЫ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 31
3.14. В приложениях часто оказывается полезным следующее
свойство пространств Hs.
Теорема 3.12. Пусть s и s'— такие вещественные числа,
что s>sf и s^ — n/2. Пусть со — открытое множество в R" и
ггеСГ (<*>)• Тогда для всякого е>0 найдется такое 6>0, что
если сПатсо^б, то ||ыЦв'^еЦu\\s.
Доказательство. Предположим, что это неверно, так что
существует последовательность {uk\ функций из С0 (со), у
которых supp uk cz со*, dia п со*</г1, \\uk\s = 1, ||uk\S' ^ c0>0. Можно
считать, не ограничивая общности, что все со* являются
окрестностями начала координат и co^+i с: со*.
Последовательность {uk} компактна в Hs* (по теореме 3.11) и
потому некоторая ее подпоследовательность имеет предел и в этом
пространстве. При этом и е HS9 \\ и \\s ^ 1, | и у ^ с0 > 0 и
supp и — {0}.
По теореме 1.3 существует полином Р(£) степени т^О такой,
что u(x) = P(D)8(x). Но тогда й(1)^Р Ц)ф0и P (l)(l + \l\^2 ^
е L2 (Rn), что возможно только при m + s< — п/2. Следовательно,
при s^ —я/2 приходим к противоречию. П
Замечание. Теорема неверна, если s < — п/2. В самом деле,
если Uk=*<ui/k, где со —ядро усреднения, то suppuk-+{0} при
&-*оо. При этом йь-+1 и |u*|!-»»£(l + |£|2)М|<оо при s<
< —я/2. Поэтому постоянная С в неравенстве | uk ||S' ^ С | uk IU
где s'<s<. — п/2, не может стремиться к нулю при £->оо.
3.15. В отличие от теоремы 3.12, следующее утверждение
справедливо при всех вещественных s.
Теорема 3.13 Пусть s и s'— вещественные числа и s>s\
Тогда для всякого е>0 найдется такая постоянная С = С (е, s, s'),
что Зля всех функций и из Hs(Rn) верно неравенство
|u|f<e|u|, + Ce|u|S'-i9
где Ce = c0e1/(s'"~s\ Со не зависит от е.
Доказательство. После перехода к образам Фурье
искомое неравенство сразу получается из неравенства
Xs'^zXs + CeXs'-\
верного при всех h^l, e>0. □
§ 4. Дифференциальные операторы
с постоянными коэффициентами
4.1. Теория дифференциальных операторов с постоянными
коэффициентами была в основном создана в 50-х годах на базе
теории распределений.

32
ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
Уравнение
P(D)a-/(*)f (4.1)
где P(D)= 2 а<х,Ва> flaSC, f^%\ после применения пре-
|a| <m
образования Фурье переходит в уравнение вида
Я (6) Я (6)-f (6).
так что вопрос о его разрешимости сводится к вопросу о
возможности деления на полином в классе образов Фурье распределений.
Если полином Р(I) таков, что \Р(1)\^с0 при £ €Кл, где
Со = const > 0, то формула
«i(x)-(2n)-«J^^d6 (4.2)
определяет решение уравнения (4.1).
В силу теоремы 3.6, функционал / принадлежит
пространству Hs при некотором seR. Из формулы (4.2) следует, что
we Hs. В самом деле,
При изучении разрешимости уравнения (4.1) достаточно
рассмотреть частный случай, когда f(x) = 6 (х).
Определение 4.1. Распределение Е е £&' (Un) называется
фундаментальным решением дифференциального оператора Р (D),
если Р (D) Е (х) = S (х), где б —функция Дирака.
Мы показали в п. 2.6, что для любого распределения /<s
е J?"'(Rrt) верно равенство f = /#6. Поэтому, если / е S' (Кл), то
по формуле (2.10)
f = f*P(D)E = P(D)(E*f),
т. е. а = £#/ является решением уравнения (4.1).
4.2, Формула (4.2) может не иметь смысла в том случае, когда
полином Р(%) имеет вещественные нули. Однако можно
видоизменить эту формулу, деформируя область интегрирования так,
что она станет /г-мерной поверхностью в Сп, поскольку /
является целой аналитической функцией. При этом поверхность
интегрирования выбирается так, что Р (С) =7^=0 на этой поверхности.
Теорема 4.1. Для каждого дифференциального оператора
с постоянными коэффициентами существует фундаментальное
решение.
Доказательство. Если п=1, то достаточно найти гакое
xeR, что P(l + it)Ф0 при geR, и положить
1и1! = $|й(£)|2(1 + И
\2\s
«-JF
P(l)

§ 4 ОПЕРАТОРЫ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 33
В самом деле,
(Р (D) Е) (Ф) ~Д(Р(-Р)Ф)-
= (2я)- J ф (-1 - ft) dg = (2я)- J ф (?)« = Ф (0).
При п>1 отметим, что с помощью преобразования поворота
£. = 1]а^г]Л всегда можно добиться, чтобы коэффициент при t\f
у полинома Р был отличен от нуля. Это следует из того, что
этот коэффициент равен Рт(а{, а£, ..., а\)> где Рт — однородная
часть полинома Р порядка т, не равная нулю тождественно.
Итак, можно считать, чго D?P — i-mtn\. Если фиксировать
значение вектора £' = (£2, •••, £*), то как и выше, существует
такое т, что |т|<т+1 и |P(£i + rr, Ъ')\>1> поскольку
min|£i + /T — X|>1 для корней % уравнения Р(Л,, ^«О.Поне-
li
прерывности это неравенство верно и для всех точек £', близких
к фиксированной.
Таким образом, каждой точке Ъ' соответствуют значение т и
окрестность 0 такие, что
\P(li + iT9 6')|>1 при $'ею.
Из покрытия пространства Rn^ окрестностями со можно выбрать
локально конечное покрытие окрестностями ©ь о2, ..., которым
соответствуют значения ть т2, ..., причем |т/|<т+1. Заменим
теперь (о2 на wj = ®2 \ <оь <о3 на coj = ©3 \ (®i U <°2) и т. д. Мы
получим разбиение пространства Кл~1 на непересекающиеся
участки. Определим теперь Н как множество точек (li + ir, £')> гДе
т==т/ при ^' е ©J, Оно называется лестницей Хёрмандера. Пусть
Е(Ф)-(2л)- J V^^ff С (рб^(R»).
Интеграл существует, поскольку |P(£i + ft, £')|>1, а функция
$(Ei-H't, £') стремится к нулю быстрее любой степени от 1/|£|
при |£| —>-оо равномерно по т при |т|^т+1. Ясно также, что
Е является распределением из &?' (КЛ).
При этом ^
(Р(0)Я)(ф)-£(Р(-Л)Ф)-(2я)-$*(—Ь-Л,6')«-
и
По теореме Коши внутренний интеграл, который берется в
плоскости ImCi^T/ по прямой, параллельной вещественной оси,
2 КХ В. Егоров

34 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
равен интегралу по этой оси. Поэтому (Р(0)£)(ф)а*
-(2я)-"$ф(£)^ = ф(0), т. е. P(D)E(x) = 6(x). □
4,3. Рассмотрим теперь важный класс эллиптических
операторов.
Определение 4.2. Оператор Р(D) порядка т называется
эллиптическим, если его характеристическая форма Рт(Ъ) не
обращается в нуль при £eR„\0.
Полином Рт(1) является однородным. Поэтому из отсутствия
нулей на сфере 151 = 1 следует, что
\Рт(Ъ)\^С.\1Г* (4.3)
гдес0= inf |Рж(Е)|>0.
151-1
Теорема 4.2. Пусть Р(D) — эллиптический оператор
порядка т, Q —область в R", P(D)u = f в Q, wef (Q) и f&
е= Hs (Q). Тогда и е= Н\*$т (Q).
Пусть h € С£° (Q) « А (я)— 1 я/?и х е со и пусть ф € CJJ0 (о).
Существует такая постоянная C = C(s), что
I фН U» < С ( | Ра 1, + I hu l+m-l)
для всех и е Hl+m (О).
Доказательство. Пусть #0<=Q, феС<Г(й) и ф(я)=~1
в окрестности со точки х0. Тогда <ри е £' (й) и по теореме 3.6
существует /eR, для которого фие#,(й). Если /<s + m, то
можно рассмотреть уравнение, которому удовлетворяет функция
U\ = 4\U% где ф1^С2°(а)) и фх= 1 в окрестности g>i точки х0.
Имеем
PmWu^h, (4.4)
где /i е Я/, и h = min (tf — т+ 1, s), поскольку оператор Р — Рт
имеет порядок m — 1 и (Я — Рт) (q>iti) e Ut-m\u a Qa = Яф^ — ф1Ри
тоже является оператором порядка m — 1 и его коэффициенты
равны нулю вне со, так что Qu&Ht-m+i- Наконец, щРи — ц^ &
еЯ„ поскольку f^Hs.
После применения преобразования Фурье к обеим частям
равенства (4.4) получаем, что Рт (£) йг {%) = ft (|), так что |Ы£)|3*
^с0\1\т 1^(1)1 и поэтому
(i + l6li),"|fii(6)li<C(iFi(6)p+|fii(6)|»).
Обе части этого неравенства умножим на (1 + 1II2)'1 (1 + |6£|2)-1»
где 6>0, и проинтегрируем их по IsR*. Получим
J(l+|6|V+,B(l + |e6|«)-1|fii(6)lid6<
<CJ(1 +111741 +I6S |V (|Ы£)12 + 1М1)М
или

§ 4. ОПЕРАТОРЫ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 35
Правая часть этого неравенства ограничена равномерно по б,
поскольку Ux^Ht и f^/ь a/ieff/,. Следовательно, левая часть
неравенства также ограничена равномерно по б, и в соответствии
с п. 3.12 получаем, что Wie//<1+m. Если t-\-l^s + mt то tx +
4-m = min(/+ 1, s + m) = s + m; и утверждение доказано.
Если же /+l<s + m, то можно повторить рассуждение, введя
функцию ф2 е CJJ° (coi) такую, что ф2 = 1 в окрестности со2 точки x0.
В результате получим, что функция а2 = ф2«еЯ/,+т, где t2 =
= min(f —m + 2, s), и если / + 2^s + m» to доказательство
заканчивается, а при t-\-2<s-\-m рассуждение повторяется.
Для доказательства второго утверждения заметим, что Р (щ) =
т
= фРи+ У -у Р(а) (£>) (/ш) Оаф. Поскольку, как мы видели выше,
\4>u\\s+m<:CQP(y^Ws + lyul+m-x), получаем, что
|| Щ \\s+m < d (|| PU I +1| hU \\s+m-l). □
Следствие 4.1. £слы tteD'(Q) a PweCco(Q), mo ue
<=C°°(Q).
4.4. Если оператор P(D) порядка m — эллиптический и
функция Рт вещественнозначная и положительная, то справедливо
так называемое неравенство Гординга
Ke\Pu-Hdx^Co\\u ft/a - Ci | a ||(2m-i)/2 (4.5)
для функций аеС^(й). При этом с0 — та же постоянная, что и
в (4.3), а Сг зависит от величины младших коэффициентов
оператора Р.
Для доказательства неравенства (4.5) достаточно перейти к
образу Фурье и функции и, что дает неравенство
Re\P(t)\u(l)\*dl^
^crQ $ (1 +1Б РУ7» I а СБ) Р^Б — Сх S (1 -ЫБ|*)С|»^>/Ж I я <г>19^Б»
которое эквивалентно неравенству
ReP(E)^cb(l+|g|«)*/«-Ci(l+|6|«)(»^>/8f
вытекающему из (4.3).
4.5. Рассмотрим эллиптическое уравнение
P(D)u=*f (4.6)
в ограниченной области QczR'1 для f^Hs(Q) с произвольными.
Если фб!' (Q) — решение уравнения (Рц*= 0 и suppфс: й,
то по теореме 4.2 феСо°°(й), поскольку оператор Ф(0) = Р(0)
получается из P(D) заменой коэффициентов комплексно
сопряженными числами и поэтому также является эллиптическим. Ли-
2*

36 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
нейное пространство решений уравнения 'Рф = 0, принадлежащих
пространству СТ(Щ, обозначим N (Q).
Неравенство Гординга (4.5) для оператора *Р и функции ф <=
&N(Q) показывает, что
^0|ф1т/2<С11ф1(2т-.1)/2.
Таким образом, множество функций из N (Q), лежащее в шаре
IФ |(ш-1)/2 ^ 11 компактно, по теореме 3.11. По теореме А. Н.
Колмогорова отсюда следует, что это пространство N (Q) должно
иметь конечную размерность.
Если обе части уравнения (4.6) умножить на функцию ф е
еСЦ°(й) и проинтегрировать-по Q, то получим равенство
$li'Pq>d*=$/q>£fcf (4.7)
из которого видно, что для разрешимости уравнения (4.6)
необходимо выполнение равенства
J /ф djc = 0 для всех y&N(Q). (4.8)
Покажем теперь, что это условие достаточно для
разрешимости.
Теорема 4.3. Если функция /ей,(Й) удовлетворяет
условию (4.8), то существует решение и уравнения (4.6) из класса
Hs+m{Q)> причем
\uUm^C\f\s
с некоторой постоянной С, не зависящей от f.
Доказательство. Для доказательства достаточно
проверить, что для всех функций феС^°(й), ортогональных
пространству N (Q), выполнено неравенство
||ф|и<С|<РФ|^т. '(4.9)
Из этого неравенства, которое по непрерывности справедливо и
для фбЯ^, ортогональных N(Q), по теореме Хана—Банаха,
следует существование элемента u&Hs{Q), удовлетворяющего
равенству (4.7) для таких ф. Поскольку это равенство верно и
для феЛ/(Й), то оно справедливо для всех ф^#_у(£2), т. е.
и является решением уравнения (4.6) из класса HS(Q) и lu\\s+m^
<C|/L.
Для доказательства неравенства (4.9) заметим, что
(l + l6IV<Cl|P(E)P(l + |6P)-« + C1(l+l6IV^-
Умножая обе части неравенства на |ф(£)|2 и интегрируя по £е
eRrt, получим, что
|фР-.<С1|^фр.1.ш + С,|фр..-1. (4.10)

$ 4. ОПЕРАТОРЫ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 37
Покажем теперь, что для ф, ортогональных N (Q), последнее ела- -
гаемое можно отбросить, так что справедливо неравенство (4.9).
В самом деле, допустим, что это неверно, так что существует
последовательность {срЛ} функций из CJS°(Q), для которых |<р*|-*= 1,
\\tPq>k\\-s-m^k~1 и q)feJLAf(Q). По теореме 3.11 эта
последовательность компактна в H-s~i(Q)9 и можно выбрать
последовательность ф*., сходящуюся к функции ф.
Из неравенства (4.10), верного и для разности фа — ф/,
следует, что эта подпоследовательность фЛ. сходится и в Я^й).
Поэтому Фф = 0 и | ф |_, = 1. Но это противоречит условию
ортогональности функции ф к N (Q). Противоречие доказывает
неравенство (4.9). □
4.6. Уравнения главного типа —важный класс уравнений,
выделенный впервые Л. Хёрмандером.
Определение 4.3. Оператор P(D) называется оператором
главного типа, если | grad Рт (£) | Ф 0 для |еКл\0.
Поскольку Рт — однородный полином, справедливо тождество
Эйлера
Таким образом, если gradPm(£) = 0, то и Рш(£)=0. Это
показывает, что, в частности, эллиптические операторы являются
операторами главного типа. Другими примерами таких операторов
являются операторы Dt или Di + tD2, не являющиеся
эллиптическими при /г>2.
Мы видим, что операторы главного типа могут иметь
характеристические точки, т. е. полином Рт(1) может иметь
вещественные нули. Однако эти нули могут быть только
простыми.
Локальная разрешимость уравнений главного типа с
постоянными коэффициентами доказывается, как и выше, с помощью
теоремы Хана —Банаха и следующей тчеоремы.
Теорема 4.4. Если оператор Р ф) — главного типа, то
существует столь малая окрестность о начала координат и такая
постоянная С, что для феС£°(оо) справедлива оценка
|<рЬм<Св|Рф)фЬ, (4.11)
где e = diamco и С не зависит от е и ф.
Доказательство. Заметим, что при |£| = 1 выполнено
неравенство
II \дРт{1№ь\*^с0>0.

38 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
Поэтому J] IdPmdydtbl^Coltl2^ и при т^2
= 1
п
2 |а/>(Б)/аБ*Р^^|е|»<—»> —Сж|6Р<—*>ч. (4.12)
л=1
fe=i
Если же т=1, то последнее неравенство верно при Ci = 0.
Отметим еще, что для дифференциального оператора Q(D) с
постоянными коэффициентами имеет место равенство
Q (D) xk - xkQ (D) = iQW (D).
Рассмотрим интеграл Ik от lm2xkP(D)q>-P(k) (D)q> no Rn.
Имеем
Ik = — i\xk[P(D)<p-PW(D)<{>-P(D)q>-PW(D)q)]dx =
= —i\ [Pk (D) xkP (D) - P (D) xkPW (D)] Ф • ф dx »
= J [P<**> (D) P (D) - P(« (D) P*(Z5)] Ф • ф d* + 0 (IP (D) Ф | J x* Ф1 m-0.
Отсюда следует, что
J | P<*> (D) ф |2 d*= J P (D) ф • PW (D) ф d*- U +
+ 0(|Р(^ф|^ф1^1). (4ЛЗ)
Из (4.12) легко следует, что при т^2
1ф1^1 = $(1+|^|2)'-11ф(Е)124^
^C^(j] \dP/dlk\*+l)\y(t)\*dl =
л=1
fe=l
Поэтому
+ j]|P(0)9ll**9l--iX
<Сз(||Рф||!ф|и-2+8||Рф11ф||^1+1Ф1^2),
где е= max |я*|. По неравенству Фридрихса
*esuppq>
||ф||т-2<С481ф|и-1.
Следовательно, | ф |S»—i < С5е (II Рф II | Ф IL-i + е IIФ lm-i). Если 2Сбв2 <
<1, то отсюда следует, что]ф|я»-.1<2С58||Рф1,т. е. справедливо
неравенство (4.11).

г
§ 4. ОПЕРАТОРЫ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 39
Если m=l, to P(kk)(D) = 0 и равенство (4.13) имеет вид:
_/^$|Р(*>(О)ф|Мх + 0(||Р(О)ф| |дс*ф|). Поэтому
• |фВ<с,2ир«Ф)фГл+0(|Р(Л)ф||дЛр|)<
<С,в|Р(Л)ф||ф|9
и мы снова приходим к (4.13). □
Следствие 4.2. Если Р (D) — оператор главного типа, то
для всякой функции f из Нг-т найдется функция и из L2{
удовлетворяющая уравнению P(D)u = f в со, где со — достаточно малая
окрестность начала координат. При этом
IHo^Cel/Vrc, e=diamo).
Замечание 4.1. Нетрудно проверить, что и обратно из
неравенства (4.11) вытекает, что оператор Р является оператором
главного типа.
4.7. Мы будем рассматривать задачу Коши для
дифференциального уравнения с постоянными коэффициентами в следующей
постановке: требуется найти решение и уравнения P(D)u — f,
для которого suppw лежит в полупространстве л^Э^О.
Более общая задача, когда задана функция ф и требуется
найти решение дифференциального уравнения и, удовлетворяющее
условию а — ф = 0 (| х1 |т) при ^-^О, где т— порядок
оператора Р, сводится к данной, если заменить и на и + ц> и
рассматривать задачу при я^О, полагая / = 0 при хг<0. Решив эту
новую задачу и затем аналогичную задачу, которая получается
после замены х1 на — х\ можно найти решение этой, формально
более общей, задачи.
Рассмотрим вопрос о единственности решения задачи Коши.
Теорема 4.5. Если коэффициент при D™ у оператора P(D)
порядка т равен нулю, то существуют такая окрестность со
начала координат и такая функция и^Ст (<о), что P(D)u = О,
и = О при х1 >0, но Ossuppи.
Доказательство. Пусть Р = Рт + Рт^1 + ... + Р0) где Ру—
однородный полином степени / и Рш(£)^0. Пусть I — такой
вектор, что Рт(1)ф0> a ei = (1, 0, ..., 0). Рассмотрим уравнение
Р («i + «) = 0 ^ , (4.14)
при больших s. Замена t = sz приводит его к уравнению вида
Pm(ei + zt) + (l/s)Pm-l(e1 + zt) + ... + (l/srP<>(e1 + zt) = G.
При s = oo это уравнение имеет корень г = 0, так как Рт {ех) = 0,
но Рт(ег + г1)^0. Такое уравнение имеет решение г = г(s),
которое является аналитической функцией от (\/s)1/p при некотором
целом /?. (См. А. И. Маркушевин [1].) Это означает, что уравне-

40 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
ние (4.14) имеет решение t(s)=s^ Cj(s-Vpy, аналитическое при
\s1/p\>M, где М — постоянная. Таким образом, существует
постоянная С, для которой 11(s)| «^ С | s l1-1^ при |s|>(2Af)*\ Пусть
теперь р —такое число, что 1 — 1/р<р<1 и
ft+co
и(х)= j «<»«+«<•><*. !>-<f/op ж, (4.16)
ft—oo
где т>(2М)р. Функцию (s//)p определим так, чтобы она
принимала вещественные положительные значения на положительной
мнимой полуоси, и фиксируем некоторую ветвь этой функции
при lms>0.
Интеграл (4.15) сходится при хг^0 и не зависит от т,
поскольку
Re(tsxL + it(8)(x9 £)-(s//)p)<
<-«l + C|x||l||s|"/p-|s|Pcos^<-T^-c|s|pf
где с = у cos (яр/2), |#|^Ci и |s| достаточно велико Таким
образом, если х принадлежит компактному множеству, то интеграл
(4.15) сходится абсолютно после произвольного числа
дифференцирований по х, так что иеС и, в силу уравнения (4.14),
P(D)tt = 0.
+ 00
Мы показали, что\и(х)\<:е-гх1 $ егс\°^ do при всех т ^ т0.
—00
Устремляя тк+оо, получаем, что и (я) = 0 при дс1>0.
Чтобы показать, что Oesuppw, заметим, что при (х9 £) = 0
функция и зависит только от я1. Обозначим ее а (я1):
ft+ 0O 00
ft — 00 —00
так что 1
00
О (Ж1) в***-'J t?**-b-wPfom
—оо
В силу равенства Парсеваля
\ \v(x1)e"l\2dx1 = 2n \ |e-<»-*>p|fda.
— 00 —00
Но мы показали уже, что v(x1) = 0 при х1 >0. Далее, так как
Р<1»

§ 4. ОПЕРАТОРЫ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 41
Следовательно,
О оо
\ \v(x1)e^t\4xl^e-^9 $ r-2,a|Pda. (4.16)
— оо —оо
Если бы функция v равнялась нулю на некотором интервале
(—ё, 0), где е>0, то при т-> + оо левая часть была бы
величиной порядка 0(£-2et), а это противоречит неравенству (4.16). □
Следствие 4.3. Если каждое решение уравнения Р(D)u = О,
определенное в некоторой окрестности начала координат, является
аналитической функцией, то Р — эллиптический оператор.
Доказательство. Если оператор Р —не эллиптический,
то существует вектор £=^=0, для которого Рт(?) = 0,/ причем
Рт=£0. Принимая направление вектора £ за ось х1, можно
построить решение уравнения P(D)u = 0, удовлетворяющее
теореме "4.5 и потому неаналитическое. □
4.8. И. Г. Петровский доказал, что справедливо
утверждение, обратное к следствию 4.3 (для операторов Р (х, D) с
аналитическими коэффициентами).
Теорема 4.6. Если Р(D) — эллиптический оператор, то
каждое обобщенное решение и уравнения Р (D) и = 0 в области Q
является аналитической функцией.
Доказательство. В силу следствия 4Л, обобщенное
решение принадлежит С°°(й).
Покажем, что и является аналитической функцией в малой
окрестности произвольной точки ЛХо из Q. Пусть шар К*г
радиуса 2г с центром в этой точке лежит в Q. Пусть h^Cf(K*r)>
причем Л(я) = 1 при \х — Хо\<:Г19 h(x) = 0 при \х — Хо\>гг + в
и |Da/i|^Ce-lal при \а\<:т с некоторым е>0, где г^гг^
<2г-е.
Носитель функции / = Р(/ш) лежит в слое {х: гг^\х — х0\^
т
<Г! + е}, причем /= ^ ^P{a)(D)u-Dah. Пусть iV-целое
число, N>m и N>n/2 + l.
По теореме 4.2
|/ш|лг<са/|лг^1+|А|||лг-1)-
Если г достаточно мало, то 2С | hu |/v-i <; || hu \N, и потому
т
где l^l^p —это норма в пространстве Соболева #Д/СР). Ясно, что
P(D) (Daw) = 0 при всех а и потому
m
. 1 hD*u Ъ, < Сх £ в"7'«D^uh-j, л+8. (4.17)
/=i

42 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
Покажем, что существует такая постоянная Л^1, что при
любом е>0 и всех целых /^0
2 ||№|„,Г1<е-М/+\ (4.18)
где /е ^ 2г — гь — постоянная А не зависит от е и /.
Эта оценка, конечно, верна при / = 0, если А достаточно
велико. Предположим, что она верна для /<&, где fes^l, и
докажем ее для / = &. Пусть &ев=^2г — гг. Тогда, в силу (4.17), имеем
т
|а|=/? ia| = fe |a|«ft/-»l
Используя (4.18) для j<k, получим, что
т
2 ^Ь.п^СгЛ*-' 2 |DP|iUiW<
m
/=i
Последняя сумма не превышает е-*Л*+1, если Л^Сх+1- Таким
образом, неравенство (4.18) доказано.
Если положить теперь г1==г и е = г//, то из (4.18) получим, что
2 \вь\н.г<>м#*
lal-/' ^
при всех /. По теореме 3.5 Справедлива оценка
max |£аа(л;)|<С||£аи|лг,г,
из которой следует, что
2 max |Daa(jc)|<C//r-M/+1.
Iос | = / I*—**oK/72
Поэтому функция и —аналитическая в шаре /Сг/2 П
Замечание. Если Р(х> D) — эллиптический
дифференциальный оператор с аналитическими коэффициентами и функция
Р (х, D) является аналитической в подобласти со a Q для и е
^^"'(£2), то и является аналитической в со. Это утверждение
доказывается тем же методом, что и теорема 4.6. Этот метод был
предложен в работе Ч. Морри и Л. Ниренберга [1].
4.9. Результаты И. Г. Петровского, давшего полное описание
класса уравнений вида P(D)w = 0, у которых все решения
являются аналитическими, получили свое развитие в работах
Хёрмандера, которому удалось описать класс уравнений такого
вида, не имеющих решений, не являющихся бесконечно
дифференцируемыми.

§ 5. РАСПРЕДЕЛЕНИЯ НА МНОГООБРАЗИИ 43
Определение 4.4. Оператор P(D) называется гипоэллипти-
ческим в области Q, если для всякой подобласти со с: Q каждое
обобщенное решение уравнения P(D)u = 0 в со являегся
бесконечно дифференцируемой функцией.
Теорема 4.7. Для того чтобы оператор P(D) был гипоэл*
липтическим, необходимо и достаточно, чтобы выполнялось одно
из следующих условий:
а) Пусть d (£) — расстояние от точки | s Rn до поверхности
{£, £е=Сл, Р(£) = 0}. Тогда d(g)->oo при £->оо.
б) Существуют такие положительные постоянные С и а, что
d(6)2*C|6|«.
в) При всех а Ф О lim p ™ = 0.
г) Существуют такие положительные постоянные С и а, что
I ^(а)^1<Г1 g I— Iоь|а
I Р® l^0'6'
если |eRft и £ достаточно велико. (Напомним, что Р{а)(Ъ)~
Доказательства этой и следующей теоремы имеются в книге
Л. Хёрмандера [3]. )
Хотя определение 4.4 относится только к однородному
уравнению, в действительности из условий теоремы 4.7 вытекает, что
для всякой подобласти wcQ решение неоднородного уравнения
P(D)u = f из класса J?"'(Q) является гладкой функцией в со,
если / — гладкая в со.
Теорема 4.8. Если оператор Р(D) гипоэллиптичен и Р(D)we
еС°°(со), где со — подобласть в Q и asf (Q), то иеС°°(со).
§ 5. Распределения на многообразии
5.1. При исследовании краевых задач для дифференциальных
уравнений с частными производными часто приходится
рассматривать распределения, определенные на многообразии,
которое является границей открытого множества в Rn, и
дифференциальные операторы, действующие на этом многообразии.
Поскольку здесь рассматриваются только линейные
уравнения, мы не будем стараться найти точные условия гладкости
для коэффициентов уравнений и многообразий, а будем считать
их бесконечно дифференцируемыми. Напомним определение
бесконечно дифференцируемого многообразия. (См. Де Рам [1].)
Определение 5.1. n-мерным многообразием называется
топологическое пространство, в котором каждая точка обладает
окрестностью, гомеоморфной некоторой окрестности начала
координат в пространстве Rn. Многообразие Q называется бесконечно
дифференцируемым, если на нем задан атлас, т. е. счетное
семейство открытых множеств Qv, покрывающих Q, и семейство

44 ГЛ. t. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
гомеоморфизмов /v множества Qv на окрестность wv начала
координат в йп, причем отображения
(одной окрестности начала координат в Rn на другую)
бесконечно дифференцируемы при всех v и р.
Множества Qv называются координатными окрестностями, а
fv —координатными отображениями.
Два атласа называются эквивалентными, если очевидным
образом определяемое их объединение есть снова атлас.
Дифференцируемой структурой на многообразии называется класс
эквивалентных атласов.
Функция a: Q->£! называется бесконечно дифференцируемой,
если при всех v бесконечно дифференцируемы функции
e|ov°/vl: ©V-*<D-
Многообразие называется замкнутым, если оно компактно и
не имеет границы.
5.2. Определение 5.2. Распределением и на многообразии
с атласом {Qv, <dv, Д) называется набор распределений uv e
&&'(щ), согласованных между собой, т. е. удовлетворяющих
равенствам
Wn=Wv(/vfu^) В (Ovf)/v(&n)
для всех (г и v. Два распределения, заданные на Q с помощью
различных, но эквивалентных атласов, называются эквивалент-
ными, если распределения их^&'(щ) и иу&&'(щ) образуют
согласованный набор, отвечающий атласу, полученному
объединением данных атласов. Совокупность классов эквивалентных
распределений обозначается @f* (Q).
В дальнейшем мы будем отождествлять эквивалентные
распределения и называть распределением весь класс эквивалентных
распределений. Чтобы показать корректность определения 5.2,
поясним, как меняется распределение, заданное в некоторой
области Q пространства Rn при преобразовании независимых
переменных. Пусть у = F (х) — такое преобразование, причем функции
F и F-1 бесконечно дифференцируемы, и пусть J (y) = \ dF~x (у)/ду |—
определитель Якоби. Пусть й'— образ области Q при этом
отображении.
Если и е S&' (Q'), то его обратный образ v = uoF = F*u при
отображении F есть распределение из Sf' (Q), которое
определяется следующим образом:
о(Ф)-и((фо/«)|/й. Ф^СГ(Й).
Нетрудно _ видеть, что это определение согласуется с
классическим правилом замены переменных под знаком интеграла в том

§ 5. РАСПРЕДЕЛЕНИЯ НА МНОГООБРАЗИИ 45
случае, когда ы(ф)= \ и (x)<p(x)dx и u&L\0C(£l). Из определе-
ния видно также, что отображение u-+uoF непрерывно как
отображение пространства &' (Q') в &' (Q). Поэтому из
равенства (1.3) следует, что справедливы цепное правило:
п
Dj(uoF)= 2 (DkuoF)d-£±
и правило умножения на функции а из C°°(Q'):
(аи) о F = (а о F)\u о F) для aef (Q').
Это позволяет определить дифференциальный оператор Р{х, D)
на многообразии как набор дифференциальных операторов Pv(x> D),
определенных в областях <dv cz R" и согласованных между собой,
так что
(Р*)о(1Л1)~Р»(*оШ).
Как и выше, вводится отношение эквивалентности таких
наборов, позволяющее определить дифференциальный оператор вне
зависимости его от выбора систем координатных окрестностей и
координатных отображений.
Данное определение является удобным для приложений,
поскольку позволяет определить дифференциальный оператор на
многообразии, отправляясь от координатных окрестностей. Оно
эквивалентно следующему, формально более короткому
определению, в котором в качестве исходного объекта берется оператор,
заданный на многообразии.
Определение 5.3. Линейный оператор Р : С00(Q)->С00(Q),
определенный на гладком многообразии Q, называется
дифференциальным, если для каждой координатной окрестности Qv
оператор
является дифференциальным.
5.3. Дифференциальный оператор Р (xt D) является локальным
в том смысле, что
supp Pua supp щ и&С™ (Q).
Оказывается, что свойство локальности является
определяющим для дифференциальных операторов, так что справедлива
следующая
Теорема 5.1.-Пусть Q — область в Un и Р — линейное
непрерывное отображение С™ (Q) -►- С00 (Q), которое является локальным.
Тогда для каждого компактного подмножества К a Q найдутся
такие /пе2+ и аа^С00(/С), что Р (х, D)u*= 2 а«(х)D<Xu(*)
|a| ^m
для всех и из С^°(/С).

46
ГЛ. I. tEOPHH РАСПРЕДЕЛЕНИЙ
Доказательство. Пусть ^-—произвольная точка из К.
Рассмотрим функционал F, определенный для и^С™(К) так, что
F(u) = (Pu)(xo).
В соответствии с определениями 1.3 и 1.5 F является
распределением и supp F состоит из одной точки Хо. Поэтому по
теореме 1.3 существуют такие числа m(x0), Яа(#о) при |а|^т(х0),
что
F — 2 а« (хо) £>аб (х — хо),
laKmUo)
т. е.
Ри(х)= 2 aa(x)Dau(x).
|а|<т(дс)
При этом число т(х) может зависеть от компакта /С, но
ограничено в каждом компакте. Чтобы доказать, что аа е С°° (/С),
достаточно взять функцию h&CfiK), равную 1 в К' а К, и
рассмотреть функции Ри для u = hQ, где Q — всевозможные
полиномы степени не выше т. Поскольку Ри е С°° (/С')» получим, что
aae С00 (/('), а так как /С' — произвольный компакт, лежащий
внутри /С, то aaeC°°(/C). D
5.4. Пусть Р — линейный дифференциальный оператор порядка
т в области QcRn и F — диффеоморфное отображение Q на £2',
При этом отображении Р переходит в дифференциальный
оператор Р' того же порядка т. В самом деле, очевидно, что этот
порядок не может повыситься, а понизиться он не может,
поскольку это означало бы, что он повышается при обратном
отображении.
Другим инвариантом отображения является
характеристическая форма оператора Р (х, D), т. е. старшая часть полинома
Р (х, I) по переменным £ —однородный по £ полином Рт(х, |)
степени т, входящий в Р (х> £), если считать, что эта функция
определена на пространстве, кокасательнрм к Q, т. е.
сопряженному к касательному.
Напомним, что расслоением r(Q), касательным к
многообразию Q, называется топологическое пространство, точками
которого являются всевозможные касательные к Q векторы. Локально,
в пределах координатной окрестности Qv, касательное
пространство изоморфно прямому произведению ovx|Rn, и в качестве
координат точки касательного расслоения можно взять (х, £),
где x£0)V) fcelR,,. При переходе к другим координатам y~F(x)
точка (х, I) касательного пространства переходит в точку (у,
F' (х) £). Этот закон преобразования координат совпадает с
правилом, по которому преобразуются векторы (х, a(x))t где а~
=== (аь ..., ап) и о,-— коэффициенты оператора первого порядка

§ 5 РАСПРЕДЕЛЕНИЯ НА МНОГООБРАЗИИ
47
V aj(x)Dj. Поэтому Течения касательного расслоения Т (Q) обычно
отождествляются с векторными полями на Q.
Пространство, сопряженное к касательному, называется кока-
сательным и обозначается Г*£2. Нетрудно видеть, что при
переходе к новым координатам y=*F(x) в координатной окрестности
Qv точка (х, I) переходит в точку (у, <F' (х)-г1), где <F'(х) —
матрица, транспонированная к матрице Якоби \dFi/dxf\. Этот
закон преобразования совпадает с законом преобразования
пространства точек (х, а(х)), где a = (ab •••> ап) и о/— коэффициенты
п
дифференциальной формы 2 aj{x)dxJ.
/ = i
Инвариантность характеристической формы относительно
преобразований независимых переменных может быть проверена
непосредственно, поскольку при преобразовании y — F(x)
характеристический полином Рт (х, I) переходит в Рт (F"1 (у), *F' (x) ц).
Если Р — дифференциальный оператор на многообразии Q,
рассмотрим функцию HtsP(e,ts), где т —параметр, a SeC°°(Q), и
разложим ее по степеням т. Нетрудно видеть, что эта функция
является полиномом от т. Верхняя грань степени этого полинома
по всем S называется порбдком оператора Р. При этом
erixsP (exs) = %тРт (х, grad S) + полином степени m —1.
Из определения дифференциального оператора вытекает, что для
произвольной функции феС00(Q)
Рт(х, gradS)of-1 = PlXtm(fa1(x), grad (Soft1)), хе=о^.
Определение 5.4. Поверхность S(x) = S(x0) называется
характеристической для дифференциального оператора Р порядка
т, если S€eC1(Q), gradS=^0, pm(x, gradS) = 0.
5.6. Напомним вкратце классический метод интегрирования
уравнения Рт (х, grad S) = 0. Будем предполагать, что
коэффициенты полинома Рт вещественны и принадлежат C°°(Q).
Предположим также, что йьРт(х0, 1°)ф0, где £° = gradS (a:0).
Продифференцировав уравнение Рт(х, gradS) = 0 по xJ, получим
п
Рщл (лг, grad S) + ^ Р* (*. grad S) т~^ = 0. (5.1)
Здесь использованы обозначения
Гт{Л(Х9 6) — -gj , Гт (Х> §)- щ .
Рассмотрим систему обыкновенных дифференциальных уравнений
% = Р{т} (х, grad S), k - 1, ..., п. (5.2)

/
48 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
N
П
Так как по условию 2 \Р(т(х, grad S) | =И= 0, то через каждую
к= 1
точку области £2 проходит одна и только одна интегральная
кривая, не имеющая особенностей. Из уравнения (5.1) следует,
что вдоль этой кривой
Ш{ы) — Ртф^ grad5>-
Если положить S = gradS и рассматривать £ как функцию от t
вдоль кривой x = x(t), то получим систему уравнений Гамильтона:
Определение 5.5. Интегральная кривая x = x(t), 1 = 1 (t)
системы
d# __df(x, l) d\k_ df(x,j) ., -q
dt "" аь • л ~~ dx* • K~~1' ••*» л ^0-°'
называется бихарактеристикой функции /. Бихарактеристика
называется нулевой, если f(x(t), £•(£)) = ().
Заметим, что функция f(x(t), l(t)) всегда принимает
постоянное значение, поскольку
. iH.m.s«>-2(&?-4*)-<>
в силу системы (5.3).
5.6. Разбиение единицы.
Теорема 5.2. Пусть {Uj} — открытое локально конечное
покрытие многообразия Q. Существует конечная или счетная
система функции {фу}, обладающая следующими свойствами:
2°. фу е С00 (£2), носитель фу компактен и содержится в одном
из Ui\
3°. »supp9y лежит в области определения некоторой системы
локальных координат.
При доказательстве используется следующее вспомогательное
утверждение.
Лемма 5.1. Пусть А —компактное множество в Rn и В —
открытое множество, содержащее Л. Существует функция h ei
^Go°(fi)t У которой значения на А равны 1.

§ 5. РАСПРЕДЕЛЕНИЯ НА МНОГООБРАЗИИ
49
Доказательство. Пусть f(x) = e-{/x2 при х>0 и f(x) = 0
при х<0. Пусть М*)= lf(t)f(l-t)dttlf(t)f(l-t)dt) \
—оо \—оо /
Тогда функция g(x)=--f!(x+l)—fi(x) бесконечно дифференцируема,
00
неотрицательна и равна нулю при |*|>1. При этом 2 ё(х—/) = !•
Если xsRfl, то для а = (аь ,.,,ал)б2л можно положить
п.
М^-Пг^-06/)' Т°ГДа S^W-l, AaSC*f /la^0 И
supp/ia лежит в кубе с длиной ребра 2е и с центром в точке ае.
Пусть теперь е настолько мало, что диагональ куба с ребром
2е меньше расстояния от А до границы множества В. Положим
ft(x)=»2'fta(x), где сумма берется по тем а, для которых suppfta
имеет общие точки с множеством Л. Нетрудно видеть, что h
является искомой функцией, □
Доказательство теоремы 5.2. Существует локально
конечное покрытие {Vi} многообразия Q, где каждое Vt
содержится в одном из U] и такое, что Vt лежит в области
определения некоторой локальной системы координат. В самом деле, у
каждой точки найдётся окрестность V с компактным замыканием,
содержащимся в одном из U и одновременно в области
определения некоторой системы локальных координат. Поэтому
существует конечное или счетное покрытие Q такими множествами.
Если оно не является локально конечным, его можно уменьшить
с помощью следующих рассуждений.
Определим по индукции компактные множества /Сь /С2, ...
и последовательность целых чисел пи пъ ... так, что /Ci=Fi,
пг = 1. Далее, пусть пт — наименьшее целое^ число, большее пт~г
пт пт _
и такое, что Km-i c= |J V), а Кт = \J V). Тогда Km-i cz Km и
/-1 /«1
любое компактное множество содержится в Кт с достаточно
большими номерами т. Пусть теперь Vi = VJ, если i^n2, и
Vi=*V'tf)(Q\Kmr-i)f если лж</<лЯ|+1 при /я>1.
Покажем, что множества Vi образуют покрытие
многообразия Q. Для этого достаточно проверить, что
пт+1 пт+1
и у«-и у<-
При т=\ оно верно, так как Vi=*V\ при i^n2. Если пред-
положить, что (J Vf= (J K/==A, то в силу соотношения /(m-ic:
й*1 (9»i

50 ГЛ. I. ТЕОРИЯ РАСПРЕДЕЛЕНИЙ
а А получим, что V,- (J/4 = 1/;U^ при nm<.i^nm+lt откуда и
следует искомое равенство для т+1.
Покрытие {Vi} является локально конечным, потому что
любое компактное множество содержится во всех Кт с
достаточно большими т и при i>nm+i множества V* и Кт не
пересекаются.
Построим теперь другое покрытие {№*}, для которого WidVi.
По лемме 5.1 найдется функция % из C™(Vi) со значениями
из [0,1], равная 1 на Wt. Сумма ^=2^ всюду принимает
значения ^=1. Положим теперь Ф* = г|^/г|). Ясно, что ср^еС00,
suppcpiCrKi и ф^О, 2ф;=1. D

ГЛАВА II
ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Многие вопросы теории дифференциальных уравнений
приводят к необходимости рассмотрения сингулярных интегральных
операторов и композиций таких операторов с
дифференциальными. Использование сингулярных интегральных операторов
позволило, в частности, получить теоремы о гладкости решений
эллиптических уравнений, упростить теорию И. Г. Петровского
задачи Коши для гиперболических систем уравнений^ (см. книгу
С. Мизохаты [1]), получить общую теорему единственности для
широкого класса систем дифференциальных уравнений (см. работу
Д. П. Кальдерона [1]).
Дальнейшее развитие этой теории привело к созданию алгебры
псевдодифференциальных операторов. Этому способствовали
работы А. Зигмунда, М. С. Аграновича, А. С. Дынина, М. И. Ви-
шика, Г. И. Эскина, А. Унтербергера, Ж. Бокобзы, Л. Хёр-
мандера, Р. Сили и др. Особенно важную роль в развитии
теории псевдодифференциальных операторов сыграла работа
Дж. Дж. Кона и Л. Ниренберга [1], где была построена алгебра
таких операторов, описано и обосновано исчисление для них,
указаны возможности применения таких операторов к исследо
ванию эллиптических уравнений. Название для этой теории было
предложено в работе К. Фридрихса, П. Лакса [1], операторы
такого вида встречались, по существу, еще в работе Г. Вейля
[1], написанной в 1927 г., однако именно в указанной работе
Дж. Дж. Кона и Л. Ниренберга новое исчисление было четко
оформлено и ясно изложено, так что именно после выхода этой
работы многие математики заинтересовались новой теорией и
началось ее бурное развитие.
Время показало жизненность теории псевдодифференциальных
операторов и широкие возможности для их применения в общей
теории дифференциальных уравнений. Многие вопросы общей
теории оказывается удобнее изучать, рассматривая одновременно
дифференциальные и псевдодифференциальные операторы.
В этой главе излагаются основы теории
псевдодифференциальных операторов. Вначале строится исчисление таких операторов,
получены формулы для символа композиции двух операторов,
для символа сопряженного оператора, теорема об инвариантности
главного символа относительно замены переменных и др. Отдель-

52 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
ный параграф посвящен доказательству теоремы об
инвариантности главного символа относительно однородных канонических
преобразований, а также инвариантности микролокальных
неравенств относительно общих канонических преобразований. В
последнее время появилось много обобщений теории
псевдодифференциальных операторов, из которых наиболее важными
представляются конструкции Р. Билса и Л. Хёрмандера. Не имея
возможности подробно изложить эти обобщения, мы указываем
в § 6 лишь некоторые из них. Только на одном из них,
необходимом для дальнейшего изложения, мы останавливаемся
подробнее в § 7, где приведено доказательство теоремы Кальдерона —
Вайенкура об ограниченности одного важного класса операторов.
§ 1. Сингулярные интегральные операторы
1.1. Теория интегральных операторов вида
Аи(х)=*\К(х, x-y)u(y)dy (1.1)
тесно связана с теорией линейных дифференциальных
уравнений с частными производными. Во многих случаях решение
краевой задачи для дифференциального уравнения может быть
представлено в виде (1.1) и ограниченность оператора А в
соответствующих функциональных пространствах означает гладкость
решения краевой задачи и его непрерывную зависимость от
правых частей.
Как правило, ядро К оператора (1.1) является гладкой
функцией при хфу и имеет особенность только в этой точке.
Особенность называется слабой, если
|*(*. х-у)\<Сх\х-уУ", т<п. (1.2)
Интегральный оператор А называется сингулярным, если
К(ху tz) = t-nK(x, z) при (>0 и выполнено условие
\ К(х, y)dSy = 0, xgQ (1.3)
|jf-*|-=r
при r^r0, где Го = г0 (х) — положительная постоянная. Это
условие позволяет рассматривать интеграл (1.1) в смысле главного
значения по Коши, т. е. как
lim \ K(x, x — y)u(y)dy.
е—-f-0|*-#l>e
Теория сингулярных интегральных операторов разработана
в работах Г. Жиро, С. Г. Михлина, А. П. Кальдерона и А.
Зигмунда. Мы рассмотрим здесь лишь простые факты, относящиеся^
к £2-теории таких операторов.

$ 1. СИНГУЛЯРНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 53
1.2. Докажем вначале ограниченность интегральных
операторов со слабой особенностью.
Теорема 1.1. Оператор А: и*-*»\К(ху y)u(y)dy со слабой
особенностью ядра К ограничен в L2(Q). При этом
1 ЛЦ^тах/sup [\К(х, y)\dy9 sup \\К(х, y)\dx) (1.4)
Доказательство. Обозначим постоянную, стоящую в
правой части неравенства (1.4), через N. Достаточно доказать, что
\Ъ\К(х> y)f(*)g(y)dxdy\*zN\f\ Li (Q)lghi (Q)>
Применяя неравенство Коши—Буняковского, получаем, что
|S$*(* y)f(x)g{y)dx'dy\<
<^ЦУ\К(х. y)\\f(x)\V\K(x, y)\\g(y)\dxdy^
<($$!*<*• y)\\f(x)^dxdy)w(H\K(x9 y)\\g(y)\2dxdy){/2<:
^(N\f (x) |« dx)** (N\\g (y) P dy)xn =N\\f \\La (0) \\g \\Li (Q). D
1.3. Ограниченность сингулярных интегральных операторов
в L2(Q) докажем вначале для частного случая оператора
Гильберта
—СО
Для этого рассмотрим распределение
/(<P) = (v.p. |)(Ф)= lim J 2&Ldy9
принадлежащее ^"'(R), и вычислим его преобразование Фурье.
Заметим, что
lim f ^dy= lim i f *&-dy-
. f ш при £>0,
*= ш sgn I = < .
I — in при g<0.
где

5* ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
По определению, если фб1, то
f(<p) = f($)= ton f ^-[e-iyt<p(l)d% =
tf--j-ooe<|#|<fl
Я_>-|-оое<|#|<#
f Hm (
i e-*4-0 J
\/г-*Тоов<|у|<л
и, следовательно,
. f(S) = — tosgng.
Поскольку Hu = — /#и, то
/&(S)--*(sgnE)fl(6)f
и в силу равенства Парсеваля
J| Яи(х)\Чх = (2я)-^ | Ни(I)\Ы1 = (2я)^$| й(g)|2d|= $ |и(*) №
т. е. \\Ни\\ = \\и}, так что оператор Н является изометрическим
в MR).
1.4. Ограниченность в L2 общего сингулярного интегрального
оператора с ядром /С, зависящим только от х — у9 может быть
доказана тем же способом, а именно, с помощью доказательства
ограниченности преобразования Фурье его ядра.
Рассмотрим оператор
Аи(х)= lim J K(x — y)u(y)dy = (v. p. K)*u (1.6)
e — +0 \x—y\>e
для и^&' (Rn)9 предполагая, что
K{tz) = t~nK(z) при *>0, J K(z)dz = 0. (1.7)
1*1 = 1
Предложение 1.1. Если функция /(еС1 (Rw\0)
удовлетворяет условиям (1.7), mo преобразование Фурье
(v. p. *)(Б)-Р(6)
является непрерывной в R"\0 функцией, для которой
р(® = р(1) при *>0, $ р(Б)ЙБ = 0. ' (1.8)
Докажем вначале следующее вспомогательное утверждение.
Лемма 1.1. Если функция f из Ll°cn^' такова, что f e L}oc
и f(x) зависит только от \х\, то f является функцией от |£|.

§ 1. СИНГУЛЯРНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 55
Доказательство. Пусть вначале /eL^R") и
(У—произвольный поворот вокруг начала координат в R*. Тогда
f ((Д) = \f(x) erix^ dx=\f (x) (r-iU~ix* dx =
= \f (Uy) er**dy = \f (у)г*Лdy = f (Б),
и утверждение доказано.
В общем случае, пусть h^Cf flR"), h (x) = 1 при | х | < 1
и h(x)=:0 при |#|>2, причем ft зависит только от \х\. Тогда,
если положить fB (а:) = h (гх) f (х), то f8eLiH/g->fB 8'. Поскольку
по доказанному fe зависит только от |£|, функция f тоже зависит
только от |£|. П
Лемма 1.2. Если f(tx) = tmf(x) при t>0, f^L\ocf]Sf и
?(£)€= Lloc, mof т = 1~™Щ).
Доказательство. Пусть вначале fe$. Тогда для />0
f (<Е) = J / (х) e~ix'* dx = *~» J f(f) И* dy =
= И-"1 J f (if) НЛ dy = f*-f (|).
В общем случае, пусть среД. Тогда при t>0
IJ (t$) ф (Б)« - JJ / (х) г«*ф (Б) dx d£ = t- J J /(f) е-^ф (Б) d(/d| =
- *—* JJ / ОД *"*** Ю d# « = '"л-т J ? (?) Ф (I)«.
т. е. f(^)-f(|)-^-w. □
Доказательство предложения 1.1. Заметим, что
k(х) = k (со) | х |~л, где со = х | л: |_1 — точка на единичной сфере Q.
В силу (1.7) имеем ^((o)dco==0.
Q
Пусть ф£^ и ф(х) = 0 при |х|>/?. Тогда ф(х) = ф(0) +
п
4 2 дЛр/(*), и ф;еС(И. Поэтому
(v. р. К) (ф) = Нт \ К (х) ф (a:) dx =
e- + 0U|>8
е^+°|,Г>е
dx =
/-1
Пусть h&C? (Rn) и ft (x) = 1 в окрестности начала координат.
Тогда
v. p. K(x) = h{x)v. p. *(*) + [! -h(x)]K(x),

56 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
где первое слагаемое в правой части принадлежите, а второе —
пространству L2. Поэтому /?(£) = v. p. К является функцией.
Если положить Кь(х) = к(<о)\х\п-6 при 6>0, то, в силу (1.9),
h(x)Kt-(x)-+h(x)v.p. К(х) при 6-^ + 0 и %'. Кроме того, легко
видеть, что [1 — Л(х)]/Сб(^)*^[1 — h(x)]K(x) в L2. Поэтому /Сб->-
->v. p. К в Я-°°=уЯ^. Поскольку преобразование Фурье Кь(Ъ)
S
функции Кь(х) является, по лемме 1.1, однородной функцией
степени —S, предельная функция p(Q = v. p. К однородна
степени 0.
Пусть теперь фа! и ср(£) зависит только от |g|. Тогда
Ф = г|)(х) зависит, по лемме 1.1, только от |х| и г|)е§. Поэтому
(2я)-л J p (I) ф (£) dg = v. p. J /С (*) i|) (х) dx. В силу (1.7), правая часть
равна нулю. Поэтому $ /? (£) ф (£) d£ = 0 для всех таких функций ф.
Отсюда следует, что J p(£)d£ = 0.
Остается проверить непрерывность функции р в Рл\0.
Преобразование Фурье функции h(x) v. p К(х) является бесконечно
дифференцируемой функцией.
С другой стороны, | А [(1 — h (х)) К (х)] | ^ С (1 +1 х |)"л-2, так что
преобразование Фурье этой функции, равное |£|2(1— Л)/С,
непрерывно и ограничено в Кл. Поэтому функция (1 — К)К непрерывна
при %Ф0. □
Предложение 1.2. Оператор А, определяемый по
формуле (1.6), ограничен в L2.
Доказательство. Применяя равенство Парсеваля и
предложение 1.1, получаем, что
\Auf = (2я)~* \Лй (I) ||2 = (2я)~* || р (|) й (I) J * <
<(2я)-»С|Д(8)Р-С|а(х)Р,
поскольку /? — непрерывная функция при 1£ | = 1 и | р (£) | «=g
<тах |р(Б)|-С. П
I6l=i
§ 2. Определение псевдодифференциальных операторов
и их свойства
2.1. К настоящему времени существует несколько различных
определений псев до дифференциальных операторов. Первоначально
такие операторы назывались сингулярными интегродифференциаль-
ными операторами и определялись равенством
' Аи(х)- 2 Aa(x)D*u(x),
]а|< т

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 57
где Аа (я) — сингулярные интегральные операторы. Такие операторы
оказываются полезными при исследовании краевых задач для
эллиптических дифференциальных уравнений.
В работах М. И. Вишика и Г. И. Эскина псевдодиффёрен-
циальные операторы назывались «операторами в свертках»
и определялись как
Аи(х)=\К(х> x-y)u(y)dy9
где К(х, ^^^'(йхЙ). Такие операторы также полезны при
исследовании краевых задач для эллиптических дифференциальных
уравнений.
Термин «псевдодифференциальный оператор» был предложен
в работах П. Лакса и К. Фридрихса [1] и Дж. Дж. Кона и
Л. Ниренберга [1] для операторов вида
Аи(х) = (2я)-* \ а (х, I) й (I) е*<*• *> d|, (2.1)
где и (I) — преобразование Фурье функции и. Функция а
называется символом оператора. Нетрудно видеть, что если а(х, £)=
= 2 а<х(х)Ъа, то оператор Л—дифференциальный. В общем
|а | < т
случае на а накладываются некоторые условия, например, в виде
неравенств:
№&(*, 8)|<С«.,^1 + |Б|)*Н«1, хеК, (2.2)
которые выполняются для всех а и Р и произвольного компакта
KaQ, так что аеС00^*^). Число т называется при этом
порядком оператора А. Класс функций а, удовлетворяющих
условиям (2.2) в Q, обозначается Sm(Q). Через S™{Q) мы будем
обозначать подкласс символов из Sm(Q), равных нулю вне
некоторого компактного подмножества, в области Q. Разумеется,
в конкретных задачах достаточно, чтобы неравенства типа (2.2)
выполнялись при |a + P|<;N с некоторым N. Однако для
построения общего исчисления таких операторов удобно считать, что
эти неравенства справедливы при всех аир.
Можно было бы определить класс псевдодифференциальных
операторов как минимальный класс линейных операторов,
содержащий все дифференциальные операторы и операторы, «обратные»
к эллиптическим дифференциальным операторам, так что для
каждого эллиптического дифференциального оператора Р в этом
классе существует такой оператора, что ф + Тф = Рфф, фе
еС2°(со), Г —компактный.
Наконец ниже мы увидим, что класс псевдодифференциальных
операторов естественно получается из класса дифференциальных
операторов с помощью преобразований, переводящих каждую
функцию ф из CJ°(Q) в значение решения гиперболического

58 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ \
уравнения
|~=Р(*, х, Dx)u
при £=1, если а (0, х) = у(х).
Каждое из этих определений сохраняет свое значение и
используется в соответствии с рассматриваемой задачей.
2.2. Мы рассмотрим вначале операторы вида (2.1), удовлетво-*
ряющие условиям (2.2), и изучим их основные свойства.
Начнем с доказательства ограниченности таких операторов.
Теорема 2.1. Оператор А, определенный формулой (2.1),
с символом а из класса S™ (R") переводит CJS° (R71) в Cf (Rn). Этот
оператор ограничен как оператор из Hs в Hs-m при любом
вещественном s.
Доказательство. Если «eC^dR"), то по теореме 2.3
из гл. I
|й(Ш<с„(1+|11)-"
для любого N. В силу (2.2)
№(*, 6)а(|)^-1>|<Сэ.Лг(1 + |6|)я+1Р1-^> х&К, ~
где К — произвольный компакт в R*. Эти оценки показывают, что
после дифференцирования под знаком интеграла в (2.1)
получающийся интеграл сходится равномерно. Следовательно, Аи&
s С00 (R"), если и €= СТ (Rn). Поскольку а (х, £) = 0 для х е= R"\/C0,
где Ко — компакт, Аи <= С^ (R").
Для доказательства ограниченности оператора А вычислим
преобразование Фурье функции Аи{х). Имеем
|Ж(т|)|-$Д(т|-6, l)u{l)dl.
Из оценок (2.2) следует, что для любого N
|д(л-Б, Б)|<с^(1 + |^л12)^(1+1118Г/а-
Поэтому надо оценить норму в L2 функции
(1 + 1ч1,)~5"$л(ч-6. 1)*(1)<%=
= 0 + hla) 2 JO + ISI1) *л(л-6, 6)L0+IEIVa«i)J«
через норму в L2 функции (1 + \l\2)sf2u(l).
По теореме 1.1 для этого достаточно показать, что интегралы
по 5 и по г) от функции
(1 +1 г) !■)('->/■ (1+|б |2)-/21 а (л - 6, 6) |

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 69
не превосходят постоянной С. В силу оценок функции а,
приведенных выше, эта функция может быть оценена через
ся, (4^{ff)(s"m>/2 (i+U - -n
Заметим, что из неравенства треугольника вытекают оценки:
1 + |г)|*<2(1 + |&-т,|*)(1 + |||*),
l + UI2<2(l + |£-r,|*)(l+hn,
и поэтому
Если N выбрано так, что 2N>n + \s — m|, то
и так же оценивается интеграл по т|. □
2.3. Оператор (2.1) можно, разумеется, записать и не используя
преобразование Фурье. Если подставить й (£) = ^и (у) e~iy^ dy,
то получим, что
Au(x) = (2ri)-n\\a{x> l)u(y)ei(*-y*bdydl = \K(xf x-y)u(y)dy,
где положили формально
К(х, х-у) = (2я)-»\а(х, l)e"*~y>bdl.
Заметим, что при хфу и при любом N
ei^-y'l) = \x-y\-2N(~^)Ne^x-y^\
Пусть h<=C?(Rn) и h&)=l при |Б|<1. Тогда
К (х9 г) = (2п)~»Ш^ J ft(|) a (xf l)<**dg
и поэтому
\z\^K(x9 г) = (2я)^Итв Jh(f)a(jc, l)(— A^e^dt.
Интегрируя по частям, мы получаем, что если N достаточно
велико, то
\г\™К(х, г) = (2я)-« lim f (— Д*)"[h(f)а(х, £)]ё*d\ =
= (2я)'-*$(— A^a(x, £)e«d£.
Мы видим, что |z|2iV/e(x, z)^C\ если Л/ настолько велико, что
l + m~2N< — n. Поэтому ядро К(х9 х — у)^С™ при х=£#
и имеет особенность только при х=у.

60 ГЛ. II ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Отметим еще, что в том случае, когда символ а удовлетворяет
условию (2.2) при любом т, т. е.
при любых а, Р и N, ядро
К(х, *) = (2я)-*$а(х, 1)ё*<Ц
является бесконечно дифференцируемой функцией при (я, г) е
ейхй и ЛиеС00 для любого распределения и^Ш {О). В этом
случае будем говорить, что порядок оператора Л равен —оо и
называть такие операторы сглаживающими.
Пусть fteC(R) и Л(0 = 1 при |/|<1, A(f)«0 при \t\^2
и Л(/)^0. Тогда
Л а (#) = \ К (х, х — у)и (у) dy = Ахи (х) + А2и (х),
где i4iti(x)«J/i(|jf —^|)/C(x, x-y)u{y)dy.
Оператор Л2 имеет ядро, равное нулю в окрестности
множества {(х, y)^U2n, х = у} и поэтому бесконечно дифференцируемое.
Как мы видели выше, такой оператор является сглаживающим.
Оператор Аг является регулярным в следующем смысле.
Напомним, что непрерывное отображение f: Х-^У, где X и Y —
топологические пространства, называется собственным, если для
любого компакта К cz Y его прообраз /-1 (К) является компактом
в X. Назовем регулярным множество Мсйхй, если его
канонические проекции ли я2: M-+Q являются собственными
отображениями. Интегральный оператор Ви (х) = $ К (х, у) и (у) dy
назовем регулярным, если регулярным является множество supp К.
Предложение 2.1. Если оператор
Ви(х)= \К(х, y)u(y)dy
с ядром из JT(QxQ), гладким вне диагонали, является
регулярным, то он определяет отображение
В: CS°(Q)^CS°(Q),
которое может быть продолжено до непрерывных отображений
В: C0O(Q)^CGO(Qy, В: &'(&)-+&' (Q);
В: g'(Q)->.g'(Q).
Доказательство. Если asCS°(Q), то по определению
регулярного -оператора множество |хей, К{х, у)и(у)щЁО)
является компактным, так что Bu<=C™(Q). По той же причине,
если иеГ (Q), то Ви е= V(Q).

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 61
формально сопряженный оператор 5*, определяемый равен
ством (Ви, v) = (u, B*v), где и, i;eCS°(Q), (и, v) = \u(x)V(x)dx,
имеет ядро К (у, х) и, следовательно, также является регулярным.
Он определяет непрерывные отображения
В*: CS°(Q)-*CS°(Q) и В*: S'(G)-**'(Q).
По двойственности это означает, что отображения В: &'(&)-+■
-+&'(Q) и В: Cco(Q)^Cco(Q) являются непрерывными. D
2.4. В дальнейшем нам будет полезна
Лемма 2.1. Пусть функция А = А(х, у, |, ц) бесконечно
дифференцируема в RnxRnxRnXRn и такова, что
\DtD*D*D$'A(x,y, Б, л)1<
<Са.^.э, 3'(l + ll|)m^|a|(l+h.|)^-i«'i4 (2.3)
Зля л/обь/х а, а', р, Р', n/шчел* А(х, у, Б, л) = 0 n/ш j/eR"\/(,
где /С — компактное подмножество в R71. Тогда функция
а(х, 1) = (2л)-*\\А(х, у, Б, ц)е^х-»> *-l>dydi\ (2.4)
бесконечно дифференцируема в RnxRn и для любых а, Р
справедливы оценки
\DlDU(x, Б)|<Са,3(1+Ш)т + т'-,<Ч (2.5)
Кроме того, если положить
aN{x, Б)- J ^DWMx9 У, Б. л) U*. ч_в, (2.6)
|а|<ЛГ
то функция a — aN является символом оператора порядка т+т'—N.
Доказательство. При фиксированных х% Б, Л функция
А(х,уу Б, л) е СГ (Кл) и потому интеграл по t/ сходится
абсолютно, определяя функцию, которую можно оценить через
С|(1 + |Б-т||)-/ 0+|1|)Я1(1 + 1л1)т' ПРИ любом целом/. Поэтому
интеграл в формуле (2.4) сходится и определяет бесконечно
дифференцируемую функцию а.
По формуле Тейлора
А (*, *, Б, лН 2 "ТЕГ °"л <*> *• Б. Б) (л - Б)а + г* (х, у9 Б, л).
(2.7)
Заменим в интеграле а функцию А суммой, входящей в (2.7),
и обозначим полученный интеграл через а^:
<*n(x, Б) =
= (2л)-* f f -J -^-D^(*> *,, Б, g)(q-£)ae'C*-^-6)^d4.

62 ГЛ. И. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Как известно (см. пример 2.1 в гл. I),
Поэтому
а'ы (х9 I) = 2 "IT D^A {х> х> *• l) = а" <*• ©•
|a|<iV
Из условия (2.3) и равенства (2.6) вытекает, что
ДО5ааг(*, &)I^Q3(i + lil)m+m'~|a|,
и нам остается проверить аналогичные неравенства для функции
а (х, Б) - aN (*, Б) = (2л)-* $ J /> (я, {/, Б, л) *(4Р^ ^ dy drj. (2.8)
Остаточный член формулы Тейлора (2.7) запишем в виде:
гы(х, У, Б, т|) =
в 2 ^srj О-в)"-'о*Л(*,*/,£, Е + е(Ч-Б))Л(т|---Б)«.
|оь I = W О
Записывая (г) - £)а е* <* - *• ч-l) в виде (— D^)a £>'<*-*• ч-гб) и
интегрируя по частям по у, получим, что
а(х% t)-aN(x, £) =
=(2я)- ^ ^п^I~e)^^lD"D;iл(^i/л^+9(т1"5))x
ia| = JV О
хеих-у, i\-&d9dydi\. (2.9)
Можно, в силу условий теоремы, предполагать, что Л = 0 при
у^Ып\К\ где /С'— компактное множество, так что
интегрирование по у ведется по компакту /С'.
Представляя экспоненту в виде
= (l-A^^<*-*.4-6)(i+|g-T||V.
где /> 0 —любое целое число, получим, что
NiN
xJJ j(i -e)"-i(i -д,уо5^Л(*,у,б.б+в(т|-б))х
О
xe'(*-v.4-e)(i+|g-T,|t)ride£fydT1#
В силу оценок (2.3) подынтегральное выражение не
превосходит
С1(1 + |БГ(1 + 1б + »(»|--Б)1),,|'-ЛГ(1 + 16--ч11)-|Й1»)>
а (ж, 5) - aN (х, I) - (2я)-« ^ ~5Г х

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 63
где hi <= CT (IR"), fti=l в окрестности компакта К'. Поэтому
\а(х, l)-aN(tc, g)|<
*sC,JJ(i + |EirO + ll+e(4-6)l)",'-'r(i + f6-4l,)-,*idr,.
О
Разобьем область интегрирования на две области:
Qi-{(». л); |в(л-Б)К16|/2}
Й2 = {(8, л); |в(Ч-6)|>|Б|/2}.
В области Qx выполнены неравенства
|Б|<2|б+е(ч-б)|<3|5|
и потому подынтегральное выражение не превышает
Cid + ISir+^-^O + lg-til1)-1-
Интеграл по Qi сходится при 21 >п и не превосходит
C,(1 + |S|)»+W'-".
В области й2 выполнены неравенства
|Е|<2|л-6| и 1 + |Б + в(Ч-6)|<1+3|л-6|.
Поэтому подынтегральное выражение не превышает
ЪА(1 + \Ъ\Г+т'-»(1 + \т\-Ъ\^»-*\»9
так как при m'^N
O^-^i + igD^-^o + iti-si)»'-^,
а при tri <N
(1 + |Б + в(ч-6)|)»'-^<1<
<(l+|6|)mf"jV(l + |t|-g|)iV-*r2^-»r.
Полагая / = |N — m2| + ^+ 1> мы получаем, что
\а(х9 1)-а„(х9 1)\^С*(1+\Ъ\)»+«-».
Чтобы оценить производные от a — aN> достаточно
продифференцировать равенство (2.9) по х и £ и повторить те же оценки.
В результате получим, что
|£$D5[fl(x. &)-a*(*. 6)]|«С;.а(1 + |Б|)*+»'-"-'•». □
Замечание 2.1. Если при условии (2.3) вместо (2.4)
рассматривается интеграл
Ь (х, I) = (2я)-* 5$ Л (х, у, £, Л) <* с* - *. л -1) dy, dr\9

\J/fm X
$4 ГЛ. I!. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
отличающийся от (2.3) знаком у показателя экспоненты, то,
переходя к комплексно сопряженным величинам, легко получить, что
b<=Sm+m' и 6-b^eS'n+m'-JV, где
М*. Е)- 2 4^DW(*»^'4
\a\<N I
Замечание 2.2. Из доказательства видно, что условие (2.3)
может быть заменено более слабым условием:
\D\D%D*D*'A{x, у, Б, Ч)|<
<С«.«%э. 0.(1 +1EI)— '«'(i + hl^-^Ui + IS-^l)^-'^.
(2.10)
где sa, a'f з —некоторые числа.
В самом деле, для сумм вида aN ничего не меняется, так как
в них £ = т|. При оценке же остаточного члена дело сводится
к увеличению вспомогательного параметра I на величину s, что
несущественно для доказательства.
2.5. Рассмотрим теперь композицию двух операторов А и В
с символами а и Ь из классов S™1 (Q) и S™* (Q).
Теорема 2.2. Я#сть aeS0mi(Q), beSj^Q)- Операторе,
переводящий функцию и из Cjj°(Q) в функцию В-Аи, является
псевдодифференциальным оператором порядка тх + пц с символом с
из класса S™1+ma(Q). При этом для всякого N функция c — cN,
где
cN{x>Z)= 2 ^-П\Ъ{хЛ)0«а{хЛ), (2.11)
|а|<ЛГ
"является символом из класса s™l + m*~~'N.
Доказательство. Вычисляем формально
В А и - В (2я)-* \а(уЛ)й Ц) & ^ *> d£ =
= (2л)-2* $ J J b (*, ц) ё**е*па {у, I) й (£) е*<*. I) dg d# drj =
= (2я)-"$с(*, 6)fi(E)^d6,
где
с(х, £) = (2я)-л$$ Ь(х, л) а (у, g) *'<*-*• &-*»ф% (2.12)
Заметим, что поскольку а = 0 при y^Rn\K, интеграл (2.12)
сходится и определяет бесконечно дифференцируемую по х и |
функцию.
Нетрудно видеть, что к интегралу (2.12) применима лемма 2.1,
из которой сразу получается искомое утверждение. D
Заметим, что. формулу (2.11) можно рассматривать как
естественное обобщение формулы Лейбница (4.4) из гл. I.

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 65
Следствие 2.1. Оператор Т = ВА — Со, где С0 — оператор
с символом, равным b(x, 1)а(х, £), имеет порядок mL-\-m2 — 1.
Следствие 2.2. Оператор 7\ = В Л — ЛВ — С\ имеет порядок
т1 + т2 — 2> если символ оператора Ci равен
fe=l
где {Ь, а} — скобка Пуассона функций Ь и а.
Следствие 2.3. Если b(х, |) = О яа носителе функции а,
то псевдодифференциальный оператор В А имеет порядок — оо.
Следствие 2.4. Если Р — псевдодифференциальный оператор
порядка т, а Т' — псевдодифференциальный оператор порядка — оо,
то РТ и ТР являются псевдодифференциальными операторами
порядка — оо.
Доказательство. Можно считать, что Г —оператор по
рядка —N при любом целом N. Поэтому операторы РТ и ТР
имеют порядок m — N при любом N. Но это означает, что их
порядок равен — оо. П
2.6. Часто бывает удобно рассматривать операторы несколько
более общего вида, чем (2.1), а именно, такие, что
А и (х) = (2я)г* $ $ Ь (х9 у, |) и (у) е1 <* - "• a dp dg, (2.14)
где функция 6eC°°(QxQxRw),-& = 0 при xeR^Xtf или j/s
€5КЛ\/С' И
|D?D5D3ft(x, {/, g)|<C«. p.v(l+l6|)m-|a|. (2.16)
Ясно, что это определение совпадает с (2.1) в том случае,
когда функция h не зависит от г/.
Следующая георема показывает, что в действительности one-
раторы (2.14) не являются более общими, чем операторы (2.1).
Теорема 2.3. Пусть оператор А определяется формулой (2.14)
с символом^ удовлетворяющим (2.15). Тогда оператор А является
псевдодифференциальным оператором порядка т с символом а из
S™ (Q), и если положить
on (*, I) - 2 1STD*D*b lx' у> l) I*-"
то функция a — aN является символом оператора порядка m — N,
Доказательство. Формально запишем оператор А в виде
псевдодифференциального оператора:
А и (х) = (2л)-2л \\ \ Ь (jc, у у п)й (5) * ^ 6)в*(* ~ *• п) <*| dy йц —
3 Ю. В. Егоров

6l гл. и. псевдодифференциальные операторы
где положили
а (х, I) = (2п)~п \\b{x, у, ц) е1 <*-«mi-S> dy drj.
Применяя лемму 2.1, получаем искомое утверждение. □
2.7. При изучении разного рода интегральных оценок возни- ||
кает необходимость в «интегрировании по частям», т. е. в пере- *'
броске псевдодифференциального оператора с одного сомножителя
в подынтегральном выражении на другой.
Определение 2.1. Оператор Р* называется формально
сопряженным к оператору Р, если
\Puvdx=\uP*vdx, и, у<=С?°(Й).
В § 1 гл. I мы уже встречались с этим понятием для
дифференциального оператора поскольку Р* (х, 0) = Ф (х, — D).
Следующая теорема позволяет вычислить символ формально
сопряженного оператора [для произвольного псевдодифференциального
оператора Р.
Теорема 2.4. Пусть А — псевдодифференциальный оператор
порядка т с символом а е S™ (Q) и пусть
а% (*,*;- ^ IT D№(*T!j- (2.16)
\a\<N
Тогда оператор А* является псевдодифференциальным, его порядок
равен т, а его символ а* —такая функция, что для любого N
оператор с символом а*—а% имеет порядок tn — N.
Доказательство. Вычисляем формально
\ Аи (x)v(*)dx = (2n)-n $ $ $ а (*, Б) и iy)e?i*-* ^vjxjdydldx^
~\u(y)A*v(y)dy9
где положили ~"
А*v (у) = (2я)~л,$ J aJxTt)г1 ъ- *. а и (х) dxdfc.
Запишем этот оператор в виде (2Л):
A*o(y)-(2n^J J JoTjcTI)^^-*' *>8(т|)*-'<*• 4)dT|dxdg-
— (2л)-л J а* (у, п) б (л) е*(*' л) <Ч
где а* {у, п)- (2л)-" J J а (х, 5) в' <*- *• *-ч> dxdg.
Полученное выражение удовлетворяет условиям леммы 2.1.
Утверждение георемы является простым следствием этой леммы. □
2.8. Тот факт, что ядро К (х, у) псевдодифференциального
оператора оказывается гладким при хфу, порождает важное
свойство псевдолокальности рассматриваемых операторов.

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 67
Определение 2.2. Точка х0 называется особой для рас-
пределения «ef (Q), если у этой точки не существует
окрестности, в которой и совпадает с бесконечно дифференцируемой
функцией. Множество особых точек распределения и называется
носителем особенностей и обозначается sing supp и. Оператор
Р: Ш' (Q) -> &' (&) называется псевдолокальным, если sing supp Pu cz
a sing supp и для каждого «е^' (Q). Оператор Р: &' (Q) -> &' (Q)
называется гипоэллиптическим, если sing supp Pu zd sing supp и
для каждого и е £' (Q).
Последнее определение в действительности совпадает с
определением 4.4 из гл. I, хотя формально и является более общим.
Псевдодифференциальные операторы не являются в общем
случае локальными (см. теорему 5.1 из гл. I), но обладают более
слабым свойством псевдолокальности.
Теорема 2.5. Псевдодифференциальные операторы являются
псевдолокальными.
Доказательство. Пусть ме!' (Q), supp и cz К и и
совпадает с бесконечно дифференцируемой функцией в окрестности о
точки х0. Если /ieCS°(Q), то hu&C™(Q) и, в силу теоремы 2.1,
P(ku)<=C*(Q).
Предположим, что h еС?°(со) и ft = 1 в меньшей окрестности ш\
ageCj°(co'). Тогда
gPu^gPhu + gP (1 - К) и.
Функция gP(\—h)u бесконечно дифференцируема в силу
следствия 2.3, так как g(l — /i) = 0. Таким образом, gPu eC00 и если
g^=0 в со", то РиеС^©*).
Так как «" — произвольная подобласть, компактно вложенная
в о, отсюда следует, что функция Ри бесконечно дифференцируема
вши потому sing supp Pucz sing supp и. □
2.9. Чтобы определить псевдодифференциальный оператор на
произвольном гладком многообразии, необходимо вначале изучить
зависимость его от выбора системы координат в подобласти Q
пространства Rrt.
Теорема 2.6. Класс псевдодифференциальных операторов
с символами из Sm(Q) инвариантен относительно
диффеоморфизмов F: Q -> й, для которых | DaF (х) | ^ Са при | а 13^ 1 и \ dF/дх | S^Co,
где dF/dx —матрица Якоби, c0=const>0, Q — область в R". При
этом, если А — псевдодифференциальный оператор с символом а е
s*Sw(Q), то оператор A*F отличается от оператора с символом
a(F(x), ^'(л;)-1^) на оператор порядка т — 1.
Доказательство этой теоремы основывается на следующем
вспомогательном предложении.
Лемма 2.2. Оператор вида
Аи(х) = \[Ь(х, у, E)a(y)e't«-if.l)df,dgl
3*

68 ГЛ. П. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
где функция Ь такова, что
где М — произвольный компакт в$п и b (х, у, £) = 0 при \х — у\^с09
с0 = const > 0, может быть записан в виде А и (х) = ^К (х, у) и (у) dy,
еде К (х> у) е С°° (Rn х Rn). Каждый оператор вида Ви (х) =
=$/((*» y — x)u(y)dy с бесконечно дифференцируемым ядром К I
таким, что
|дагЧ(х, z)\<Ca,bMtN(l+\z\)-N, хеМ,
для всех а, $, N, г и М т$п является псевдодифференциальным
оператором порядка —со.
Доказательство. Поскольку в носителе функции b
выполнено неравенство jjc — y\^c0i можно использовать тождество
ei(X - у. *> в | х _ у |-Ц (_ Д^ ef <*- у, £)
и проинтегрировать по частям по переменной |. Получаем
Аи(х) = lim JS^'fi'fcU, //, ^)Ijc — г/1-2/1/(i/)(— Д^в'^-^ф^
если т — 21<с — п, где
/С (xf у)«$ (- Д*)< & (*, у. Б) | х - у !~2' ё <*■*■ *> dg,
и интеграл абсолютно сходится» Если число / таково, что 2/>
>n + m + fc, го /(eCft. Поскольку / можно выбрать произвольно
большим, функция К бесконечно дифференцируема.
Интегральный оператор В \;ожет быть представлен в виде
Би(х) = \К(х% у - x)u(y)dy = {2ri)-»\\K (х, у-x)u(Qeiybdidy =
= {2n)-»\b{x, g)fi(g)e"*d6,
где формально
b(x9 ?)-$*(*, у-х)ё(У-*^Чу=*\К{х, z)e^z>Vdz.
При |£|>1 имеем
^в|£Г*(_Дж)'б«.
Интегрируя по частям, получаем, что
Ь(хЛ) = \1 \-п \ [(- А.)' К (х, г)} ё* dz.

§ 2. ОПРЕДЕЛЕНИЕ ОПЕРАТОРОВ И ИХ СВОЙСТВА 69
В силу условий на К отсюда следует, что при хеМ и любых
| DlD% (х, I) | < С., ь,. м 0 +| 11 )"*'. □
Доказательство теоремы 2.6. Пусть a<=Sm и
Лы (х) = (2я)-л $ $ а (х, Е) и (у) е' <*-*• W dy d\.
Пусть fteCT(IR) — такая функция, что Л (0 = 1 при |f|<l и
/х(f) == 0 при |*|5э=2. Представим А в виде Лх+^г, где
Aiu(х) = (2л)-«$ $а(х, I)h(28-1 \x-y\)u(y)ef<*-#• »>фdg.
Пусть теперь *-F(jO, y = F(y%, u(F(y'))=v(y'), (AlU)(F(x'))=
=Wi(x'). Тогда
Wl {x>) = (2я)-« J J a (F (x'), I) h (28-11F (*') - F ((/') |) с (*/') •
.^[Fuo-fooHiaF((/')%' |dt/'d|, (2.17)
где | OF (y')ldy' | — определитель Якоби. По лемме Адамара,
F(x')-F(y')=*B(x',y')(x'-y%
I
где В(*', у') = \dF(y' + s(х'-у'))1ду'ds. Отметим, что В(х\ х')^
о
=dF(x')fdx', так что матрица В(х\у') обратима, если \у'— х'\
достаточно мало, скажем, \у' — х'.|<е.
Положим ч\^*В(х\ #')£, где 'В —матрица, транспонированная
к В. Имеем
wx (х') = (2я)-" J J a (Z7 (*'), 'В (х\ у')-1 л)л ф-11Z7 (*') - F (у') |) •
Оператор Л1, переводящий у в о>ь имеет вид (2Л4) и потому
является псевдодифференциальным. Отметим, что в силу теоремы
2.3, он отличается от оператора с символом
a(F(x'),^P)-1l) (2.19)
на оператор порядка /я — 1.
Покажем теперь, что оператор А2 является
псевдодифференциальным оператором порядка — оо. Для этого заметим, что по
лемме 2.2 этот оператор является интегральным:
А2и (х) = $ К (*, у - х) и (у) dy,
причем
К(х, z) = \a(x,t)[\-fi(2*-*\z\)]<r**dl.

70 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Поскольку гфО в носителе подынтегрального выражения, можно
воспользоваться равенством
что приводит после интегрирования по частям к формуле
К (*, г) -1 z \* \ [(- А*)' а (*, 6)] [1 - Л (2вг* | г |)] е** dg,
из которой видно, что для всех а, р и /
|£)50?/С(х>г)|<Са,м.л(1+|г|)-11 при х<=М9 (2.20)
где М — произвольный компакт в R".
Диффеоморфизм F переводит оператор А% в оператор А'^ такой,
что
Проверим, что ядро
#'(*', z')-/((F(x'), F(A:' + 2/)-/7(Jc'))|aF(jc/ + 20/^|
удовлетворяет условиям леммы 2.2. Пусть точка х' е М% где
М —компакт в R". Отметим, что
\F {x1 + z')- F (х')\^*Съ\г' \, с0 = const >0,
| D«M dF (x' + z')/dx> | < C* , + CS. * | г' |,
и потому
I D%DbK' (*', 2') | < С. **. * (1 +1 г' |)-",
каковы бы ни были а, Р и N. |
Таким образом, условия леммы 2.2 выполняются д^ля
оператора А* и, следовательно, этот оператор является
псевдодифференциальным операюром порядка — оо.
Мы показали, что оператор А переходит в результате
гладкой невырожденной замены независимых переменных в
псевдодифференциальный оператор /4| + ^з- П
2.10. Функция а0 называется главным символом оператора At |
если функция а(х, l) — h(\l\)a0(xf l) является символом
оператора порядка т — 1. Здесь функция fteC" (R) такова, что h (t) = 1 I
при |*|^2, /i(0 = 0 при |*|<1.
Теорема 2.6 позволяет эффективно определить главный символ
оператора Л как
а.(х, 6)- lim Z^M.
Из определения видно, что функция а0 является положительно
однородной функцией от £ степени т, т. е. Оо (х, t\) = imao (xf £) ]
при f>Q*
i

§ 3. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
71
Если оператор А является дифференциальным, то
определенный таким образом главный символ совпадает с
характеристической формрй оператора Л.
В этой книге будут изучаться операторы, свойства которых
определяются главным символом Оо и не зависят от младших
членов.
Из теоремы 2.6 вытекает
Следствие 2.5. Главный символ псевдодифференциального
оператора определен инвариантно относительно диффеоморфизмов
области Q.
2.11. Определим теперь псевдодифференциальный оператор на
многообразии Q. Пусть {Qv, cov, /v} — некоторый атлас на Q.
Линейный оператор Р, заданный на Q, называется
псевдодифференциальным оператором порядка т, если каждый оператор вида
fvl°P°fv' сГСсо^-^С00^), где (ov — открытое (не обязательно
связное) множество в Rn и /v — диффеоморфизм ov на открытое
подмножество в Q, является псевдодифференциальным оператором
порядка т.
Теорема 2.7. Главный символ псевдодифференциального
оператора, заданного на многообразии Q, определен инвариантно как
функция а0: T*Q\0-+$.
Доказательство. Это утверждение сразу следует из
определения псевдодифференциального оператора на многообразии и
следствия 2.5. □
§ 3. Эллиптические псевдодифференциальные операторы
3.1. Эллиптические псевдодифференциальные операторы
образуют класс почти обратимых элементов в алгебре
псевдодифференциальных операторов и потому особенно важны для изучения.
Как уже отмечалось, класс псевдодифференциальных операторов
естественно возникает после замыкания алгебры, содержащей все
дифференциальные операторы и операторы, обратные к
эллиптическим дифференциальным операторам. Методы построения таких
операторов в виде (сингулярных) интегральных операторов известны
из классического анализа.
Отметим, что для многих эллиптических операторов,
определенных на замкнутом многообразии, обратного оператора не
существует, так как оператор Р может иметь нетривиальное ядро.
Однако это ядро всегда имеет конечную размерность и можно
построить «почти обратный» оператор Q, для которого
PQ = I + T, (3.1)
где / — единичный оператор, а Г —оператор порядка — оо.
Оператор Q, удовлетворяющий условию (3.1) называется яа-
раметриксом.

72 ГЛ. П. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ I
Напомним классический метод построения параметрикса для f|
эллиптического дифференциального оператора Р, принадлежащий "I
Е. Е. Леви. Этот метод состоит в том, что «замораживают» коэф- I
фициенты оператора Р, рассматривая уравнение с постоянными [
коэффициентами I
Р(х0, D)£0 = /, (3.2)
и находят оператор Е0. Затем ищут оператор £i из условия .1
Р(*о, D)E1 = [P(x(h D)-P(x, D)]E0, J
оператор E2 — из условия I
Р (х0, D) Е2 = [Р (х0, D)-P (х, D)] Ег
и т. д. Если ряд E0 + Ei + ... сходится, то, суммируя эти
равенства, получим, что ?
Р(х, О)[Е0 + Ег + ...] = 1. 1
I
Если х меняется в малой окрестности точки х0, то можно
доказать сходимость этого ряда В действительности при этом мы не
можем, вообще говоря, решить даже уравнение (3.2) и находим
лишь решение уравнения J
Р(х0, D)£0 = / + r0, I
И
где Г0 —оператор с конечномерной областью значений. Тогда one- I
ратор Ei находится по формуле \ \
EJ=E0[P(Xo, D)-P(x, D)]E0f9 1
и потому j
Р (х0, D) Ег = (1 + Го) [Р (х0> D)-P (х, D)] Е0«
= [Р(хо, D)-P(x% D)]Eo + Tx J
и т. д. Основную трудность в этом методе составляет доказатель- |
ство сходимости. Можно, правда, оборвать построения через ко- I
нечное число шагов и получить решение уравнения §
Р(х, О)£' = / + Г' + Г0, I
где Г' не является сглаживающим, но имеет малую норму. Однако 1
и в этом случае Е' представляется в виде громоздкого выраже- 1
ния, включающего многократное интегрирование. 1
Метод построения параметрикса в теории псевдодифферен- |
циальных операторов принципиально не отличается от метода ]|
Е* Е. Леви. Однако эта теория избавляет нас от необходимости 1
доказывать сходимость последовательных приближений и позво- II
ляет построить параметрикс в довольно элегантной форме. 4
3.2. ОпределениеЗ.1. Псевдодифференциальный оператор Р II
порядка т с символом р(х, |) называется эллиптическим в обла- ||

§ 3. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ 73
сти Q, если существуют гакие постоянные Ci>0 и С2>0, %о
\р(х.1)\^сг(1+\Ъ\Г при хбй, |£|5*С,. (3.3)
Нетрудно видеть, что это определение согласуется с
определением 4.2 из гл. I для дифференциальных операторов.
Определение 3.2. Псевдодифференциальный оператор Qе
е S~m (Q) называется правым (соответственно левым) параметрит
сом для оператора Р в области Q' е й, если
P/iQcp = ф + 7ф (соответственно Q/гРф = ф + Г'ф), (3.4)
где Т и Т" — операторы порядка — оо, ft e С^ (Й), ft = 1 в области Q'.
Построение параметрикса основывается на формуле (2.11),
полученной в теореме 2.2. При этом нам понадобится следующая
Лемма 3.1 (Л. Хёрмандер). Пусть ajе=Sm~J(Q) для j =
= 0,. 1, 2, ... Тогда существует символ a^Sm(Q) такой, что для
любого N
N
а- 2 aj(~Sm~N-l(Q).
/-о
Доказательство. Пусть {Mk) — последовательность
компактных подмножеств в Q такая, что. Mk с: Mk+i и lim Mk = Q.
Пусть /i£C°°(R„), причем ft(£) = 0 при |£|<1 и ft1f)=l при
|£|^2. Построим возрастающую последовательность tj такую,
ЧТО tfy-^ + OO И
\l%D*[h<£ti*)aj(x9 6)]|<2V(l+|g|)«-/-i«i+i (3.5)
при jceAl*. |a + P| + *</, geR..
00
Тогда функция а(х> 5) = 2 h(ltjl)aj(x, £) является искомой.
/-о
В самом деле, в каждой точке (#, £) лишь конечное число
слагаемых отлично от нуля и потому aeC°°(QxRn). Если К —
произвольный компакт в Q, то найдется &, для которого К с= Mk.
Пусть * е /( и | — произвольная точка из Кл. Найдется такое /0,
что */t>|£| и поэтому
*(*. 6)~S *№</')%(*. 6).
/-о
Для произвольных мультииндексов а и р имеем
|DfD$a(*. 6)|<'S |D?D8[/t(KTJ)ay(x, |)]|<
-l /=°
< 2 ^(i+isd—'-|e|+l+cip(i+iir-|e,<
'=1 <G^(l + |gDm-|e|.
А ем самым доказано, что osSffl(Q).

74
ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Точно так же проверяется, что
/«о
Д со
-2 [Л(У71)-1]ву(*. Б)+ Ц *(5<7l)fly(x, S)eS«-^-l(Q). □
3.3. Построим вначале правый параметрикс. По условию
\р(х9 1)\^сг(1+\1\Г при \1\2*с%. Пусть ХеСсо(Кл), х(|) = 0
при |S|<4 и х(Б)в1 при |||^£2+1. Далее, пусть h еCf(R")
и А==1 в окрестности компакта Q'.
Если Q0 — оператор с символом q0(x, £) = х (£) р~* (*» Б) (так
что <7о(я, £) = () при |Е|<С2), то его порядок равен—т, а
порядок оператора Ri = PhQ0 — hI равен —1. Пусть гг — его символ и
ft(*. 6) —*<*. S)/H(x, 6)x(g).
Тогда порядок оператора Qi с этим символом равен —/тг—1,
а порядок оператора R* = Ph (Q0 + Qx) — hi равен -—2, поскольку
R2 = hl + Ri + PhQ1 — hI = Ri + PhQi. Продолжая этот процесс,
находим последовательность операторов Q0, Qi> ■ • •, в которой
порядок орератора Qj равен — т — /, а порядок оператора Rj =
«PA(Qo + Qi + ... + Qy-i)-ft/ равен —/.
По лемме 3.1 существует оператор Q^S^m(Q) такой, что
порядок оператора Q — (Qo + Qi + -" + Q/-i) равен — m — j. Это
показывает, что порядок оператора R = PhQ — hI равен — / для
любого /, т. е. этот оператор является сглаживающим.
3.4. Левый параметрикс Q' строится аналогично. Оператор Q0
с символом х (£)/*(*» б)"1 имеет порядок — т, а порядок
оператора Rl^Q'JiP — hl равен —1. Обозначим его символ через г[ и
положим
tf(*. Ю—d(*. ЮхСЮ/гЧ*. Б).
Тогда порядок оператора Qi с этим символом равен —/я —1,
а порядок оператора /?з = (Qo + Qi) ЛЯ — Л/ равен —2, поскольку
я;=л/+я;+QlftP—л/ —/?;+qjap.
Продолжая этот процесс, находим последовательность
операторов Qo» Qu •••» в которой оператор QJ имеет порядок —/тг —/,
а порядок оператора /?/ = (Qo + • • • + Q/—i) ЛР — hi равен —/.
По лемме 3.1 существует оператор Q'sS^m(Q) такой, что
порядок оператора Q' — (Qo + .-. + Q/) равен — т — /, и потому
порядок оператора R' = QhP — hI равен — / для любого /, так
что этот оператор является сглаживающим.
Покажем теперь, что оператор {Q — Qr)h также является
сглаживающим*

§ 3. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ 75
В самом деле,
Q'h (PhQ) = Q'h (/!/ + /?) = Q'h* + 7,
(Q'hP) hQ = (hi + R') hQ = /i2Q + 7\
где Ги Г- сглаживающие операторы.
Отсюда видно, что Q'ft2 — /i2(? является сглаживающим, т. е.
Таким образом, операторы Q и Q' совпадают в Q' и верна
следующая
Теорема 3.1. Пусть псевдодифференциальный оператор
является эллиптическим оператором в Q порядка т. Тогда для
всякой функции И^Сц (Q) существует такой
псевдодифференциальный оператор Q порядка — т, что
QhP = h.I + Tu PhQ = h-I + Tt,
где Т\ и Т2 — сглаживающие операторы.
3.5. Рассмотрим теперь эллиптический оператор Р на
замкнутом гладком многообразии Q.
Определение 3.3, Псевдо дифференциальный оператор
Р: С°° (Q) -> С°° (Q), определенный на замкнутом гладком
многообразии, называется эллиптическим, если существует такой атлас
{Qv, (ov, /v} на Q, что каждый оператор Pv^ffPfv является
эллиптическим в cov.
Теорема 2.7 показывает, что главный символ р°, если он
существует, определен на T*Q\0 и является положительно
однородной функцией от I в локальных координатах (х, £). Поэтому,
если S*Q~- расслоение единичных сфер в пространстве Г*Й, то,
в силу определений 3.3 и 3.1, найдется постоянная с0>0, для
которой
\р°\^с0 на S*Q.
Это неравенство можно, конечно, принять за определение
эллиптического оператора, если предполагать существование главного
символа. К счастью, неравенство (3.3) также инвариантно
относительно диффеоморфизмов многообразия Q в силу теоремы 2.6.
Пусть {Qv, (ov, fv} — некоторый атлас многообразия Q, v =
==1, ..., N. Каждой карте атласа соответствует
псевдодифференциальный оператор Pv> определенный на функциях с носителями
в (ov = /v(Qv)(=R^
Пусть функции qv Q->R образуют разбиение единицы,
подчиненное данному атласу, так что (pveCJJ°(Qv), <pv^0, £(pv=l
и для каждого v supp cpv лежит в некоторой координатной
окрестности Пусть {г|)у} — гладкая функция, носитель которой также
лежит в координатной окрестности и ^v=l в окрестности
носителя функции фу, так что <Pvi|>v = cPv

7в ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Если aeC°°(Q), то «=*2](pvw и
PU - 2 V (<W0 = Ц *v/? (PvKv) + TiU,
V V
где «vsC0 (ov), /:*av = 9va, a Ti —оператор порядка — со.
По теореме 3.1 существует такой оператор Qv порядка — т,
что Qvq>vP = фу • / + Tv и 7V —оператор порядка — оо.
Пусть теперь Q = £ г^фц, Q' = £ф1Х Q^.
Если «еСю(Q), то
QPu = 2 V?n<Pn (2 Ф^фу) и + T\u = 2 VVM4<Pv" + 7V* =
H \ V / Jt,V
в2Ы%/ + Г,|)ФуИ + 7'«а«
U. V
= 2 ФцФу" + 2 %Tm<Pv« + 7*и = и + T9u9
li» V U, V
где Гу — операторы порядка — оо на Q.
С другой стороны, по теореме 3.1
Pq>vQv~<Pv/+r;,
где Tv —оператор порядка—оо. Поэтому, если u^C°°(Q), то
PQ'w = 2 ФЛ 2 Ф»'<?»'V" + П" =
и и'
= I] Ф|1 V4Qv*v« + 7> = £ Ф^ (ФУ/ + 3^) гМ + 7> =
U, V |Х, V
= 2 ФцФу^ + 2 Фц^Ж^ + П« = « + ?"«>
и, v ji, v
где Т'и Т'ъ V — операторы порядка — оона Q. Как и выше,
можно показать, что оператор Q — Q' — сглаживающий.
Таким образом, доказана
Теорема 3.2. Если Р — эллиптический
псевдодифференциальный оператор порядка т на гладком замкнутом многообразии Q,
то существует псевдодифференциальный оператор Q порядка —/я,
являющийся правым и левым параметриксом оператора Р.
3.6. Определим теперь пространства Соболева Hs (Q) для
гладкого компактного многообразия Q.
Сделаем это вначале для s = 0. Пространство #0(Q) = L2(Q)
может быть определено с помощью произвольного атласа {£JV, cov, /v}.
Именно, будем говорить, что ие12(й), если конечна норма
kilo = (2 $i"vl2d*V/2,
где wv=(/v)* (Ъи) и функции фу образуют разбиение единицы,
подчиненное атласу, как и выше, в п. 3.5.

§ 3. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ 77
Нетрудно видеть, что пространство L%(Q) не зависит от
выбора атласа, хотя норма |к|0 и может быть другой в другом
атласе. При этом, однако, всегда существует постоянная С, для
которой
^|м|в<|.и|;<с|мь.
где |-|о и [| - По — нормы, соответствующие атласам {Qv, ov, fv] и
Определение 3.4. Пространство HS(Q) на гладком
замкнутом многообразии Q состоит из таких функций и, что Ри е
sL2(2) для любого псев до дифференциального эллиптического
оператора Р порядка s. Норма в этом пространстве может быть
введена как
lab-plttvliY71.
где av = (M, (дм*) и | Mv |I = J (1 +1Б |2)-1 fiv (g) |2 <ft.
Это определение основывается на следующей лемме.
Лемма 32. Пусть mg^'(Q), где Q —область в Un и co<^Q.
Пусть Ри е # * (со), где Р — некоторый эллиптический оператор
порядка т. Тогда и^н1%т(<й).
Доказательство. Пусть ЛеС0 (со) и Q — такой оператор
порядка —т, что QhPu = hu + Tu. Тогда
/ш = ОЛРи -Ти е= #*+m (Q)f
поскольку Q —оператор порядка —т, а ГаеС°°(0). Так как
Л—произвольная функция из Cj°(©)f отсюда следует, что
«еЯ^т(4 D
Поскольку класс эллиптических операторов порядка s
инвариантен относительно диффеоморфизмов многообразия Q,
пространства HS(Q) также инвариантны относительно таких
диффеоморфизмов.
Как и для пространства L2(fi), переход к другому атласу
приводит к замене нормы в Hs (Q) другой нормой, эквивалентной
прежней.
Используя разбиение единицы, можно получить из леммы 3.2
следующее утверждение.
Теорема 3.3. Если «ef (Q), где Q — замкнутое гладкое
многообразие и Pu^Hs (Q), где Р — эллиптический
псевдодифференциальный оператор порядка m, mou& Hs+m (Q). Существует такая
постоянная C = C(s), для которой
IIФ U, < С (| РФ |, +1Ф U,^), Ф в С00 (Q). (3.6)
Доказательство. Первое утверждение сразу следует из
леммы 3.2, поскольку Hs+m(Q) — H\°+m(Q). Второе утверждение

78 гл. и. псёвдоДифФеренциаЛьныё операторы
вытекает из теоремы 3.2, поскольку
<p = QP<p+Tq>
и потому
IIФ U, <* 6 QP<P h+m + II Тер U, < С (I РФ 1, +1| ф |Um_0. D
Другим следствием леммы 3.2 является
Теорема 3.4. Эллиптические операторы гипоэллиптичны.
Доказательство. Пусть и<=Ш'(0) и PwsC00(со), где
со —некоторая подобласть в Q. По лемме 3.2, и^Н\ос((о) для
любого s и потому «еС L2J ^ ПрИ g-^ ~ -^ 1, в силу
теоремы Соболева 3.5 из гл. I. Следовательно, иеС°°(со). П
3.7. Рассмотрим теперь вопрос о разрешимости эллиптического
уравнения на замкнутом гладком многообразии.
Теорема 3.5. Пусть Q — гладкое замкнутое многообразие и
пусть d\i — положительная бесконечно дифференцируемая мера
на Q. Тогда пространство ]У(Й)=^е^'(0), Р*у = 0}, где Р —
эллиптический псевдодифференциальный оператор порядка т,
а Р* —оператор, сопряженный к Р относительно меры rfjut, имеет
конечную размерность и все его элементы принадлежат С°°(й).
Уравнение Ри = /, где /е^'(Й), разрешимо тогда и только
тогда, когда ^fvd\i = 0 для всех t/eiV(Q). Если это условие
выполнено и /еЯДЙ), то существует решение и из класса
Hs+m(Qi), для которого
с некоторой постоянной С, не зависящей от f.
Доказательство. По теоремам 2.4 и 2.6 оператор Р*
отличается от оператора с символом р(х, £) на оператор порядка
т —1. Поэтому оператор Р* также является эллиптическим и,
по теореме 3.4, все решения уравнения Р*а = 0 бесконечно
дифференцируемы. По теореме 3.3 для этих решений выполнено
неравенство || v ||i ^ С \\ v ||0, и потому множество решений v,
удовлетворяющих условию ||а|!о^1, компактно по норме пространства
L2 (Q). По теореме Колмогорова отсюда следует, что dim N(Q) <с оо.
Далее, заметим, что $ w(P*i>)4i = $f0dfi. Отсюда следует, что
условие $/x>d|i = 0 для всех i/sA/(Q) необходимо для
разрешимости уравнения Ры = /.
Для доказательства достаточности этого условия заметим, что
для функций ф е С0 (Q), удовлетворяющих условию
ортогональности подпространству N (Q), справедливо неравенство
|| фЦ-^С^^ф !_,_„, (3.7)

§ 3. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
7Э
В самом деле, если это неверно, то существует
последовательность функций ф*еС°°(£2), для которых
II 9 kl-s = 1, II P*<Pk W-s-m < k~\ \ Щ0 d\i = О ДЛЯ V 6= N (Й).
Но по теореме 3.3
I ф* ls < C2 (I Р*фй U-m + II 9* Ws-l)-
Последовательность {фл} компактна в Я-^ (Q) и потому, заменяя
ее подпоследовательностью, можно считать, что {ф*} сходится
в H-s-i. Но
I Ф* - % Is ^ С2 (| Р*ф* Ц-^ + I Р*ф/ \Ls-m + || ф* - 9* |U-l),
и, следовательно, {9*} сходится в H-s (Q) к функции феЯ-,(Й).
При этом Р*ф==0 и |q>I-,= 1, т. е. феМ(О) и ф=^=0, что
противоречит условию ^фуф = 0 для yeiV(Q).
Полученное неравенство (3.7) показывает, что функционал
§/фф> от функции Р*ф ограничен в H-s-my так как, если ф
ортогональна N (Q), то
| $ /Ф d|i | < Ci | f 11 ф Ik < CxC21| Р*Ф Um | / U.
По теореме Рисса существует элемент и е Я,у+т, для которого
$/фф, = $и(Р*ф)с!}х, причем ЦаЦ.у+щ^СхСгЦ/Ц.у. Функция w и
является искомым решением. D
3.8. В заключение этого параграфа докажем, что
эллиптический оператор Р: Hs (Q) -> Hs-m (Q) на замкнутом многообразии Q
является нёпгеровым при любом вещественном s. Последнее
означает, что область значений оператора Р является замкнутой,
размерности пространств ker Р = {и е Я^ (Q), Ри = 0} и kerP* =
= {и е Hm-S(Q), Р*а = 0} конечны.
Теорема 3.6. Пусть Q — гладкое замкнутое многообразие
и Р — эллиптический псевдодифференциальный оператор порядка т
на Q.
Предположим, что t~ma(xt /£)-*а0(#, Б) я/и/ /-^ + °° равно-
мерно для xswv, | £ | = 1. Тогда п/?и любол* вещественном s
оператор Р: Hs(Q)~+Hs-m(Q) является нётеровым и ind P =
= dimkerP —dimkerP*==0, если п>2.
Доказательство. Из теоремы 3.4 следует, что
пространства kerP и кегР* состоят из гладких функций и не зависят
от s. Мы уже видели при доказательстве теоремы 3.5, что
пространство N (Q) = ker P* конечномерно. Точно так же
доказывается, что пространство kerP имеет конечную размерность. При
доказательстве теоремы 3.5 мы получили, что множество Р (HS(Q))
состоит из функций / <= Я^-я, (Q),' ортогональных N (Q). Если

80 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
обозначить через #f (й) ортогональное дополнение в Ht (Q) к N (Q)
и рассмотреть Hf (Q) — ортогональное дополнение в Ht (Q) к ker Я,
то теорема 3.5 показывает, что пространство /7s°f т (Q) изоморфно
пространству Я5Х (Q) и этот изоморфизм осуществляется с помощью
оператора Р, так что Цм1,+я|^С1Рн|,'для u<=H?+m(Q). Отсюда
следует, что образ P(Hs+m(Q)) образует замкнутое
подпространство конечной коразмерности в HS(Q).
Величина
ind Р = dim ker P — dim ker P*
называется индексом и представляет собой целочисленную
характеристику для эллиптического оператора на компактном
многообразии.
Как мы уже видели, эта величина не зависит от s. Для
доказательства равенства indP = 0 при п^З нам понадобится
несколько вспомогательных утверждений, которые приведем
вначале без доказательств.
3.9. Пусть Е — банахово пространство и А: Е-+Е — линейный
непрерывный оператор. Пусть ind Л = dim N (А) — dim N (Л*),
где N(A) — ядро оператора А и N (А*) — ядро сопряженного
оператора Л*. Предполагается, что величины dim N(A) и dimAf (Л*)
конечны, а оператор Л имеет замкнутую область значений, т. е.
другими словами, что оператор А является нётеровым.
Лемма 3.3. Если А и В — нётеровы операторы, то
оператор В А нётеров и ind В А = ind Л + ind В.
Лемма 3.4. Если Т — компактный оператор, то 1-\-Т —
нётеров оператор и
ind(I + T) = 0.
3.10. Окончание доказательства теоремы 3.6. Пользуясь
леммами, мы вычислим индекс оператора Р.
Пусть Q — псевдодифференциальный оператор порядка —т/2
с символом, равным р(х, £)-1/2 при |£|^С2, гдеС2 — постоянная
из определения 3.1 эллиптического оператора. Заметим, что
множество |s|^C2 односвязно, если размерность п многообразия Q
больше двух. Поэтому функция р(х, |)~1/2 корректно определена
на этом множестве при фиксированном х> если фиксировать ее
значение в одной точке. Это позволяет определить функцию /г1/2
в пределах каждой односвязной координатной окрестности при
|£|^=С2. После этого можно определить оператор Q на всем
многообразии Q с помощью разбиения единицы. Тогда
оператор Q*QP имеет порядок 0, причем ind Q*QP — ind P + ind Q*Q,
по лемме 3.3. Поскольку Q*Q —самосопряженный оператор, его
индекс равен нулю. Следовательно, индексы, операторов Р и Q*QP
совпадают. По теореме 2.2 и теореме 2.4 оператор Q*QP
отличатся qt единичного оператора на оператор Т порядка ■=—}v

§ 3. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
81 |
Таким образом,
ind Р = ind (Q*QP) = ind (/ + Г).
Но по лемме 3.4, Ы(/ + Г) = 0. □
3.11. Доказательство леммы 3.3. Пусть /7'=kerBfl
р| coker Л. Напомним, что coker А = Е Q (АЕ). Заметим, что
подпространство ker В изоморфно coker Б* и ker Л* изоморфно
сокег Л так, что dimker B=dimcokerB* и dim coker Л—dimker Л*.
Далее, нетрудно проверить, что
dim ker В А = dim ker Л + dim ker В — dim F'.
Аналогично, dimker Л*В* = dim ker Л* + dim ker B* — dim/7'*, где
F'* = ker Л* П coker В*. Поскольку Z7' и Z7'* изоморфны и
конечномерны, dim/7'* = dim F' и потому ind/M = сНткегВЛ—
— dim ker (BA)*=dim ker Л — dim ker Л * +dim ker В — dim ker B* =
= ЫА + ШВ. П
Доказательство леммы 3.4. 1°. Допустим вначале, что
Т — конечномерный оператор, т. е. dimlmT^ + oo.
Пространство Е можно разложить в прямую сумму Ei + E*
так, что £i — замкнутое подпространство в Е, fidkerT, E*zd
=э1т7\ dim£2<oo. Ясно, что / + Т = / на Ег и (/ + Т) Е2 с: £2.
Оператор 1 + Т фредгольмов, поскольку ker (/ + Т) cz E2 и
lm (I + T)zd Ег. Поскольку на Ех этот оператор совпадает с /,
его индекс совпадает с индексом сужения оператора 1 + Т на
конечномерное пространство £2/Поэтому, по известной из линейной
алгебры теореме, этот индекс равен нулю.
2°. Проверим, что оператор 1 + Т нётеров. Поскольку на
кет (1 + Т) оператор / совпадает с —Г, он является компактным
и потому dimker(/ + T)<co. Аналогично, dimker(/ + 7,*)<°o-
Остается проверить замкнутость lm (I + T).
Пусть {хп} е Е и последовательность уп = (1 + Т) хп сходится
к у в Е при п->оо. Обозначим F замкнутое дополнение
к кег(/ + Г) в Е. Мы можем, конечно, считать, что xn^F при
всех п.
Последовательность {хп} ограничена, поскольку иначе мы могли
высчитать, что \\хп\\-+-оо, и если положить х'п = хп/\\хп1 у'п =
= (1 + Т)х'п, то мы пришли бы к противоречию, так как ||яд||=1,
||уп|->0, и потому множество {Тх'п} компактно, а из сходимости у'п
вытекает, что и последовательность {х'п} компактна.
Переходя к подпоследовательности, можно считать, чтохл-^х,
но 1*1 = 1, (I + Т)х = 0, а это противоречит условию xn^F.
Итак, {хп} ограничена и существует lim ТхЯ9 а потому и
" п -юо
lim xn = y — Y\mTxn = x. Но тогда (I + Т)х = у, так что #е
е Im (/ -1- Т). Следовательно,, Im (/ + Т) замкнут и оператор 1 + Т
нётеров

32 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
3°. Покажем теперь, что ind(/+ Г) = 0. Для этого достаточно
показать, что ind(/ + eT') не меняется, когда е возрастает от О
до 1. Последнее вытекает из непрерывной зависимости ind/4e0Te,
если Ае непрерывно зависит от е в операторной норме. Докажем
это свойство.
Пусть А нётеров оператор. Тогда существует такое е>0, что
ind(А + В) = ind А при |В|<е.
В самом деле, пусть оператор R таков, что
/М «/-Яь AR = I-P2t
где Pi и Ра- конечномерные проекторы на кет А и на Е © Im A
соответственно. Если Ег — замкнутое дополнение к ker А в Е и
Е2 — дополнение к 1тЛ, то оператор R определяется из условий:
RA = I на £i и #=0 на Е2. .
Положим е= 1/|R\\. Тогда Я(Л + 5)-I-Pt + RB, (A + B)R =
= I —P2 + BR. Операторы I + RB и I + BR имеют обратные,
поскольку || В/? || < 1. Следовательно,
(I + RBy1R(A + B)^I^P1> (A + B)R(I + BR)~i^I-P2.
Из этих равенств следует, что ker (Л + £)czker(/ — Рг)
и Im (А + В) zd Im (/ — Р2), так что оператор А-\-В нётеров.
Заметим, что ind (/ + BR) --= ind (/ + RB) = ind (/ - Px) = ind (/ - P2)=0.
Поэтому, в силу леммы 3.3,
Ш(А + В) = — ind/? = ind/l. D
§ 4. Канонические преобразования
4.1. Покажем, что множество преобразований, сохраняющих
класс псевдодифференциальных операторов, может быть расширено
по сравнению с множеством, указанным в теореме 2.6. Этот факт
существенно облегчает решение задачи о приведении (псевдо)
дифференциальных операторов к более простому виду и тем самым
расширяет наши возможности в исследовании общих
псевдодифференциальных операторов.
Определение 4.1. Симплектаческой структурой на
многообразии М четной размерности 2п называется замкнутая
невырожденная дифференциальная 2-форма ш2. Многообразие,
снабженное симплектической структурой, называется симплектшеским.
Напомним, что форма о2 называется замкнутой, если d(o2 = 0.
Форма со2 называется невырожденной, если для каждого ненулевого
вектора £ е ТМ найдется такой вектор т] е ТМ9 что о2 (£, ц)Ф0.
Пусть Q — гладкое (С00) я-мерное многообразие и M==T*Q.
В том частном случае, когда Й = КЛ, форма о2 = dx Д dl =
= I] dxJ l\ dlj, очевидно, является симплектической структурой
для Г*й. Нетрудно проверить, что и в случае общего
многообразия Q симплектическая структура на Г*й может быть опреде-

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ
83
лена с помощью формы со2, имеющей вид dx Д d£ в каждой
системе локальных координат. При этом со2 = dec1, где со1 —форма,
которая в локальных координатах имеет вид co1 = 5dx.
Форма о2 позволяет установить изоморфизм между Т* (T*Q)
и T(T*Q) следующим способом. Если аеГ(Т*й), то обозначим
через о» следующую 1-форму:
(oa(p) = (o2(P, a), реГ(Г*Й).
Нетрудно проверить, что каждой 1-форме to е Г* (T*Q)
соответствует единственный элемент a e 71(Т'*Й), удовлетворяющий этому
соотношению, так что определено отображение /: T*(T*Q)-+
-^T(T*Q), являющееся изоморфизмом. Из определения следует,
что в локальной системе координат отображение / определяется
/О —Е\
матрицей!^ А где Е — единичная матрица.
Если вещественнозначная функция Н е С°° (T*Q), то ее
дифференциал dH определяет элемент из Т* (T*Q). Векторное поле IdH
называется гамилытюновым векторным полем, а Н — функцией
Гамильтона. В локальной системе координат это векторное поле
является полем фазовой скорости канонических уравнений
Гамильтона: х = д#.(*, |)/д£, | =— дН (х, Q/дх. Интегральные
кривые этой системы называются бихарактеристиками функции Я.
Определение 4.2. Отображение Ф: T*Q-*T*Q называется
каноническим, если оно сохраняет симплектическую структуру.
4.2. Рассмотрим несколько примеров канонических
преобразований пространства T*Q в том случае, когда Q — область в R*.
Пример 4.1. Замена переменных y = F(x) порождает
преобразование пространства Г*Й:
Ф: (хр1)~{у, л), где y = F{x)% \ = <F (x)x\. (4.1)
При этом
&т\ Д dy=zdv) Д F' (x)dx=*'F' (x)dx\ Д dx\
dlf\dx = ('/=" (x) dr\ + *Р" (x) л dx) Д dx = 'F (x) d\\ Д dx,
так что Ф является каноническим.
Пример 4.2. Пусть (у, т)) = Ф(х, £), гДе
У' = (У\ .... У*), л'=(Лз, .... т]п). (4.2)
Ясно, что dt) Д dy = — dx1 Д d£i + d£' Д dx' =dl Д dx.
Пример 4.3. Пусть S —такая вещественнозначная функция
на 7*Й, что detS^^O. Пусть (у, ц) = Ф(ху £), где
l=as(x, то/а*, г/=as (д:, т|)/ач. (4.3)

84 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Ясно, что это преобразование корректно определено и
невырождено. При этом
dlf\dx = ^dx Д dx + -^dr\ Л dx = -e§^dy\ Л dx,
dr\ Д dy = dr\/\-g^dx + di\ A^fdn = j^dn Л dx.
Следовательно, и это преобразование является каноническим.
Пример 4.4. Пусть
(у, ч) = ф,(*. 6) = (*(*). 6(0).
где (х(/), |(0) —решение системы Гамильтона
для которого (*(0), Б(0)) = (х, 6). Тогда
£ (dx Д «) (0 = d* r\dl + dxf\dl =
= dH% Л d& —Лс Л dHx = Hlxdx Д dg + %dg Д «-
— dxf\ Нхх dx — dx/\ Hx% d\ = 0.
Следовательно, отображение Ф, является каноническим при всех t
или, иными словами, гамильтонов фазовый поток сохраняет
симплектическую структуру.
4.3. Пусть / и g- функции из C°(T*Q).
Определение 4.3. Скобкой Пуассона {/, g} называется
производная функция / по направлению фазового потока с
функцией Гамильтона g. (Это понятие уже использовалось выше —
см. (2.13).)
В локальной системе координат
y* ** £x\dxi dlf dt/dx/J
Из определения видно, что скобка Пуассона может быть
определена с помощью формы (о2 так, что {/, g) = o)2(/d/, I dg).
Предложение 4.1. Преобразование Ф: T*Q-+T*Q9 где
Q с R", является каноническим тогда и только тогда, когда скобки
Пуассона {/, g} любых двух функций /, geC00(7*0) не меняются
при этом преобразовании.
Доказательство. Поскольку скобка Пуассона выражается
через симплектическую структуру, она должна сохраняться при
где
Поэтому

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 85
канонических преобразованиях. Обратное утверждение легко
получить из равенства
{/, g} = со2 (Idf, Idg).
Дифференциалы координатных функций л?, £у образуют базис
в Т (T*Q). Поэтому из инвариантности скобок Пуассона вытекает
инвариантность значений формы со2, что и означает, что
рассматриваемое отображение является каноническим. □
4.4. Следующее утверждение показывает, что в
действительности все канонические преобразования исчерпываются
преобразованиями, рассмотренными в примерах 4.2 и 4.3. Отметим еще,
что преобразование (4.3) с линейной по т| функцией S совпадает
с преобразованием вида (4.1).
Предложение 4.2. Если Ф: (#, £)»—М#» ч)) — каноническое
преобразование, определенное в некоторой достаточно малой
окрестности со точки (л:0, |°) кокасательного пространства T*Q, mo Ф
представляется в этой окрестности в виде композиции конечного
числа преобразований у имеющих вид (4.1) с F (х) = Ах, (4.2) или (4.3).
При этом |d2S/dx* д£/ — б/|<е, где е->0 вместе с диаметром
рассматриваемой окрестности.
Доказательство. Пусть у = Фг(х, £), т1 = Ф2(л;, |) при
нашем преобразовании. Ранги матриц
дФг дФ11
дх ' 0|.I
дФа дФа
дх ' 61
равны п. С помощью преобразований типа (4.2) и перенумерации
переменных, которая осуществляется с помощью преобразований
типа (4.1), можно добиться того, чтобы det(-^M=£0 И
det(^)#0Bco.
Как легко следует из определения, линейная часть
канонического преобразования, вычисленная в произвольной точке, снова
определяет каноническое преобразование. Пусть 7\ — каноническое
преобразование вида
у = Ах, Т1 = Л* ~Ч,
где Л* = дФ2 (#о, 1°)/д1. Нетрудно видеть, что это — преобразование
вида (4.3) с функцией S(x, ц) = (Ах, т]).
Линейная часть преобразования 7\Ф в точке (х0, ц°) будет
описываться матрицей
(I+ВгАг ВЛ
\ Ах I J'
где Аъ Bi —квадратные симметрические матрицы порядка п. Пусть
Т2 — преобразование с производящей функцией щ — у (ВгЧ* Л)»
так что ri = £, у = х — Вг1. Тогда линейная часть преобразования

ГЛ. II. ПСЁ&ДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Т2ТхФ в точке (#0, £°) описывается матрицей
U
ti /Г
Заметим, что преобразования 7\ и Т2 определены во всем
пространстве Т*КЛ, так что преобразование Т2ТХФ имеет смысл.
Покажем, что это преобразование определяется с помощью
производящей функции S(x, г]), причем
S(x, г\) = хг\ + О(\х-х0\2+_\г)-ч°\2)
При Х-+Х0, Т]->Т]°.
В самом деле, это преобразование имеет вид
У'^фЧ*» 6). П/ = Ы*> Б). /=1, ..., п.
Разрешая эти уравнения относительно переменных у, £, что
возможно по теореме о неявной функции, в некоторой окрестности
точки (*о, S0) получим, что
у* = Ы(х, т|), Е/ = Р/(х, т|), /=1, ..., л.
Ясно, что
= \ /да* д
дх/
kel\a*/ ду* ^ дх/ ae*/1
12
0П/
Zi \ an/ ay* "*" an/ a&Jf '-1»
Поэтому
,,»_, ^ ag, Ф* dxf ag, $*
__ a^l_a/ ag apfc a/ ag \
ax/ a^ a|/ a*/ a^ ag,/'
/t7el\^i/ a^* ay/ an/ ag* ay/
an/ ay/ ay* a^ ay/ a& /
Так как преобразование, по условию, является каноническим,
мы имеем {/, g} (х, £) = {/, g} (у, ц) для любых функций fug.
Полагая, например, / = §/, §" = г/* = Ф*(*> £), получаем, что
-2-=—^-. Аналогично, подбирая fug, можно проверить, что
dxi дщ

§4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 87
Из этих равенств следует, что существует такая гладкая
функция S(#, г|), что
При этом
ss ■ = 0/>
dxJ дщ dxJ
так что в некоторой окрестности точки (х0, ц°) выполнено
неравенство
II дх/дщ У
Итак, мы доказали, что отображение Т3 = Т2Т1Ф имеет вид (4.3)
с некоторой производящей функцией S(x, ц). Поскольку отобра-
жение 7Y является линейным каноническим преобразованием
с производящей функцией ху\ + -=■ (Bit], г]), а 7V — преобразованием
с производящей функцией (Л-1*, п), предложение 4.2 доказано. □
4.5. Мы хотим установить связь между каноническими
преобразованиями пространства Г*й и преобразованиями функций
в Cj°(Q). Легко видеть, что преобразование вида (4.2) означает
переход от функции и (х) к ее частичному преобразованию Фурье
по переменной х1, т. е. к функции и (тц, х1). Такое преобразование
недопустимо с точки зрения теории псевдодифференциальных
операторов, поскольку переменные х и £ в этой теории играют
различную роль. Мы покажем ниже, что преобразования типа (4.3)
допустимы, если функция S удовлетворяет некоторым
дополнительным условиям
Определение 4.4. Вещественнозначная функция S из
пространства С°°(Т*0) называется фазовой функцией, если
1°. |D?D5S(*f g)|<ca.p(i + iii)l-iai;
2° \dS(x, Ъ)1дх\^Сг\Ъ\ при |£|3»С«, Ci = const>0.
Теорема 4.1. Пусть Р — псевдодифференциальный оператор
порядка т и
Фи{х) = (2п)-п\а(х, Б)й(1)eiS <*• 6)Hg, (4.4)
где S — фазовая функция и a^S°(Un). Пусть символы р и а этих
операторов обращаются в нуль при х е Rn\K, где К — ограниченная
область в Rn. Тогда существует такой псевдодифференциальный
оператор Q порядка т, что порядок оператора
Г=РФ-ФС?
равен —оо, причем Q отличается от оператора с символом
q°(yt г)) = /?(*, £), где точки (х, £) и (у, rj) связаны формула-
ми (4.3), на оператор порядка т—\-

88 ГЛ. П. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Доказательство. 1°. Оператор РФ является оператором
типа (4.4), поскольку
РФи (х)=(2лу2п \Ца(у, 1)й (1) eiS <*• & 0£г*т dy p (*, щ) ёх^ dx\ =
= {2ri)-n\k{x, t)u(l)eiS(*'t>db
где мы положили
k(x. Б) =
= {2ri)-n\\a(y, l)p(x, r\)e4Siv.D-sb.m + n*-v)i\dydi\. (4.5)
Из условий Г и 2° определения 4.4 вытекает, что
yS(x + t(y-x)tt)dt\ Сц|6| при, |g|^2C2? если |х^|<е
недостаточно мало. Пусть /leC^dR1), /1(0—1 при |f|^l/2
и А(0 = 0 при |<|^1. Разобьем интеграл (4.5) на сумму двух
интегралов Л+А, подынтегральные выражения в которых
содержат дополнительные по сравнению с (4.5) множители h(\x — y\ е-1)
и 1 — А(|х — у\г-г). Заметим, что
0t [S (У, D-S (х, 6)] + i (х - у) л —
= (Ao + \i\-Sy(y, £)|2+A„S(#, g) + |4|i|x-y|V-
. (Л0 - Д^ -1 т] |2 Дл) ё ts <*• 6) - 5 (х, 5)] + * (д_ j,) т|в
Постоянную А0 выберем так, чтобы выполнялось неравенство
FmmA0+\i\-SM(y9 l)\* + byS(y9 1) + \ч\*\х-у\*2*Со(1+\1\*)9
4>>0,
при \х — у\^г/2. Это возможно в силу оценки
l + h-Sy(y,t)\2 + \4\2\x-y\*^
5*j*%\Sy(t,9 S)|2+l^C1(8)(l+|g|2),
поскольку \bySly, 6)|<C(l+|g|)<iCi (е)(1+|Б|») + С,(в).
Остается выбрать А0 так, что Л0>С2(е)+1> и положить
с0 = Ci (е)/2. Аналогично ё {х~у) * = | х - у |~2 (— Дч) в* <*-*> ч и поэтому
при любых N и k
/. —(2я)—SJ[Mo—Адг —|т||«Ач)(Лв + |л —S^Of. £)12 + •
+ A,S((/, D+inH^-t/iVF- •
.{Ix-yl-^tl-Adx-yle^lato, |) (-Дл)*/> (*, t,)}.
Если 2&>m + n, этот интеграл сходится абсолютно и равномерно.
При этом |/а|^С(е, N)(l +\l\2)~~N, каковы бы ни были г н N.
Хад же оцениваются производные функции Iv Поэтому /^е S~°°%

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ
89
Покажем теперь, что /t e Sm. Заметим, что
S(y, l)-S(x, 1) = ЩьЛ(у-х) + (А(х, у, 1)(у-х),у-х),
где Аи<*. у, 6)- |(1 -О™***^'8*. ПУСТЬ
Ъ = дАЖ^> Щ-Ч-А(х,.у,1)(у-х),
Если | х\ - Ei | > 2x8 (| 11 + | г] |), | х - у! < 8 и е мало, то
IF (ху у&, т|) | ^ А) + [хв (| £ I +1 т) |)]2 и верны те же оценки, что и
для /2. С другой стороны, если | ц — |х | < 4хе (| £ | +1 ц |), \х — у\<г
и е достаточно мало, то | тц + Л (а:, у, I) (у - х) | ^ ? (| |i | + hi !)•
Поэтому для таких дс, у, |, п выполнены неравенства
iDjZ^iDfDj'a^ £)/?(*, г\г + А(х9 у, 6)(у-*)|<
<Ca,a^,p. e'(l+liria,(l+hil)m-|a'1.
Применяя лемму 2.1, можно утверждать, что k^Smuk' (х, |) ев
= £(*, g)-a(x, |)р(х, aS(x, l)/dx)^Sm~\
2°. Аналогично можно рассмотреть оператор <DQ, который
также имеет вид (4.4), поскольку
OQu(x) = (2n)-2nH\q(y% l)u(l)e?*dler*mdya(x, г]) e<s <*• *» dr) =
^(2n)-n\k1(xi t)u(l)eiS«'bdt9
j i
где
ki{x, |) =
-(2л)-л $$?(*/, |)a(x, n)e&«-4>+asu.4>-su.s>idyAi. (4.6)
Покажем, что 4isSw. Пусть
S(x, r])-S(x, |) = B(x, |, л) (л-6).
где В(х, |, ri) = jaS(xf 5 + <(ri-S))/a|.cttf так что B(x, |, |) =
о
= dS(x, l)m и |DfD(|DjB(jc, |, n)|<Ce,M(l + ,t|)-i«i.
•(1 +| n|)-lp (1 -4-1 ь — т)|)|,Х: + 2|в1. Поэтому после замены у на
t/x = у — В + х мы получим, что

90
ГЛ. II. ПСЕВДоДИФФЕРЕНЦИАЛЬНЫЁ ОПЕРАТОРЫ
причем
\l%D%D*D*'q(y+B(x, 6, Л)-*. £)*(*, Л)1<
Применяя замечание 2.2, получаем, что ^eSm и
*;<*, ^Мх, Б)—асх, g)?(as(xf D/di, ass»4.
3°. Итак, мы доказали, что если
<7o(3SU, Б)/ЭБ, D = p(x,dS(x, 1)/дх), (4.7)
то порядок оператора РФ — Фф0 равен т—1, и
(РФ - OQ) и (х) = (2я)-л J ft (jc, £) й (g) ^ <*. б> d£,
где pjeS"1-1. Найдем теперь такой символ JieS"-1, что
(РФ - <DQ0 - Ф&) и (х) = (2я)- J Л (*, |) й (?) j* u. a> dgf
где jt?2 s Sm~2. Для этого, разумеется, достаточно, чтобы
qi(dS(x, l)/dl, l) = p\{x, dS(x, 1)/дх). Продолжая этот процесс,
найдем такой символ qf e Sm_/, что
[РФ - Ф (Q0 + & + ... + Qy)] и (*) - (2я)-» J P/+1 (*, I) 2 (I) в« <*• *> 4
и pj+i&Sm-,-x. По лемме 3.1 существует оператор с символом
?(*. Б)~?о + ?1 + ... + <7/ + .-« из класса Sm, удовлетворяющий
всем условиям теоремы. П
4.6. Часто оказывается полезной следующая
Теорема 4.2. Пусть Р — псевдодифференциальный оператор
порядка т и Ф — оператору определяемый формулой (4.4).
Предположим, что 'фазовая функция удовлетворяет следующим двум
дополнительным условиям
*S(x9 g)
det
dxdl
^о>0;
0S(*. g) __ dSjx, rp (4-8)
—Tx —dx— <=>SeTl
яри 161'^Сь |т)|^Сь x&K, где К — ограниченная область в Rn.
Пусть символы р и а этих операторов обращаются в нуль при
x^Un\K- Тогда оператор (3 = Ф*РФ является
псевдодифференциальным оператором с символом q из класса Sm, причем
т-1
Я (У, Ч)-Р(х, l)\a(xf fiJPIdetS^l^sS'
где точки (х, I) и (у, ц) связаны соотношениями (4.3).
Доказательство. Как и выше, при доказательстве
теоремы 4.1, находим, что оператор РФ является оператором типа (4.4)
с символом k(xt |), указанным в формуле (4.5). Поэтому опера-

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 91
тор Q может быть представлен в виде
Qu (л:)=(2я)-гл \ $ $ k (у, |) й (£) es <»• *> d\ а {у, ц) е~iS (*•ч> dye?1** dr\ -
где
<?(*, £) =
= (2я)-я $ J k (у, I) а (у, ц) е{ Is <»• Ю - * <*• чя+л (л -1) ф drj. (4.9)
Пусть S(y, l)-S(y, ц) = В(у, 6, т|)(6-Ч), где
B(y,t,4)-yS{y'4ia~n))di>
так что В (у, £, £) = dS(#, E)/dg. В силу условий, наложенных
на функцию S, существует такое e>0, что
|<ы(м\Ы>)[>3 при |6-л1<в|Ч|.
Как и выше, представим интеграл (4.9) в виде суммы двух
интегралов /i + ^2> введя под интеграл функции Л(|£ — ЛIe_11ЛI"1)
и 1-ft(||-rile-1 h|-*), где heC?(R)f h(t) = 0 при |/|з*1 и
ft(/) == 1 при \t\^ 1/2. При этом, не ограничивая общности, можно
считать, что а (у, г]) = 0 при |т||^1.
В интеграле h перейдем к новой переменной, положив
г=В(#, £, ri),
что возможно в силу наших построений. Мы получим, что
Применяя к этому интегралу лемму 2Л, находим, что Ii^Sm
и /i-^o^S'»-1, где v
,o(i^JL, t).,.^ „,(„ «|Л.)|«(«£Я)|-.
Теорема будет доказана, если показать, что /2eS-°°. В силу
условий теоремы определена гладкая функция ср, для которой
<K(*,sM«.E))„6t откуда
|6-ri|<C(l + |dS(x, t)/dx-dS(x, ц)/дх\).
Поэтому существуют такие постоянные А0 и с0 > 0, что
}Л. + |5„(¥, 1)-ЗД, г,)Р + Д^(£/, t)-AyS(y, П)|^
>^(1 + |1-Ч|').

92 ГЛ. II ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Следовательно,
= (2я)^ J J[l-fc(!|^)]Mo-A,[^o+|Sy(yf ?)-S,(y, Л)12+
+ byS(y, D-bfiiy, л)Н*[*(у, l)7{^jy
1 . el fs <*/• 6) -«5 (у. то] + л (л -1) d/y dr|.
Интеграл по у берется по конечной области. Далее,
подынтегральное выражение оценивается через
С(е, ^)(1 + |Ч-БР)-лг(1 + |6|«г/1
и поскольку | л I ^ 28-11Б — т) |, мы имеем 11 | ^ (1 + 2г~х) | £ — т) |,
так что подынтегральное выражение может быть оценено через
С (8, /V) (1 + | Ц |2)-(*+1>/2 (l+|g |»)m/2 + 0i + 1)/2-ЛГ#
Аналогичные оценки могут быть получены и для производных
ЩО%12 Отсюда видно, что /2 е S-°°. П
Отметим следующее важное следствие из теоремы 4.2.
Следствие 4.1. Если фазовая функция S удовлетворяет
условиям теоремы 4.2 и а(х, |) = | det S^ |1/2, mo
Ф*Ф = / + В,
где В — псевдодифференциальный оператор с символом из класса S'1.
4.7. В качестве примера приложения доказанной теоремы
покажем, что оператор главного типа первого порядка с вещест-
веннозначным символом может быть приведен к виду Q = DV
Определение 4.5. Оператор Р(х, D) называется оператором
главного типа в области Q, если существует главный символ
р°(х, £), для которого форма dp0 {х, £) не пропорциональна
форме Idx ни в одной точке из T*Q\0.
Напомним, что р°(х, |) — положительно однородная степени т
по I функция, так что в силу тождества Эйлера
grad^p0^, £)=т^0, если р°(х, Ъ)фО. Поэтому определение 4.2
касается только поведения главного символа р° в
характеристических точках и означает,, что если в некоторой точке р?(х, £)=0,
grad| р° (х, I) = 0, то вектор grad* p° (х, I) не коллинеарен вектору |.
Имея дело с уравнением главного типа Pu = f, всегда можно,
не ограничивая общности, считать, что т= 1, поскольку к обеим
частям уравнения всегда можно применить эллиптический
оператор порядка 1 — т.
Предположим теперь, что функция р° вещественнозначная и
оператор Р является оператором главного типа и первого порядка.

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 93
Пусть p°(*o, 6°) = 0 и grad4 р° (х0, 1°)ф0. Будем для
определенности считать, что д^р0(х0, |°)=^0. Рассмотрим уравнение
Р°{х,Щ^) = Ч (4.10)
с начальным условием
п
5=2ч/(^-х{) при х1 = 4. (4.11)
Поскольку плоскость х1 = 4 не имеет характеристических
направлений в некоторой окрестности точки (л;0, Е°), задача Коши (4.10),
(4.11) имеет решение в некоторой окрестности этой точки.
Далее, если заменить вектор г] вектором ti\ при < >0, получим,
что функция /5 удовлетворяет этим новым уравнению и начальным
условиям. Поэтому
S(xf ti\) = tS(x, r\)9 *>0,
так что S является положительно однородной функцией от п
первого порядка.
Наконец, заметим, дифференцируя уравнение (4.10) по т)Ь что
2 ^Т* Tx-)mJT= l Из условии (4Л1> следУет-что шщг*
при /' = 2 п, если х1 = xl. Следовательно, \,°' ^ * =
д/fi (*». g>)
as.
-1 oHdet||*f%^>
Wfa.n0) .р где toe
=— u» 'л. Уравнение—у = б может быть решено
относительно \\ в некоторой окрестности точки (х0, £°) по теореме
о неявной функции. При этом |г)|^С, если, например, |£|^1.
По однородности отсюда следует, что
Т||
£.1 dS(x, ц)
дх
при всех г] и х из окрестности точки #0.
Мы проверили, что выполнены все условия из определения 4.2,
за исключением условия гладкости. Функция S, построенная
нами, является гладкой всюду при £#0. Чтобы исправить этот
недостаток, достаточно умножить S на функцию h e С°°, равную 0
при |£|<1/2 и 1 при 'ЦзН.
4.8. Рассмотрим теперь тот случай, когда р°(х0, 6°) = 0,
?rad| р° (хо, !°) = 0, но вектор gradxp°(x0, 1°) не обращается в нуль
i не коллинеарен вектору |°.
Пусть для определенности grad* р° (х0, 1°) = (а, 0, ..., 0) и
вектор 1° имеет отличную от нуля координату ES- В згом
случае удобно воспользоваться каноническим преобразованием,

94 ГЛ. И. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
обратным к (4.3). Производящую функцию этого преобразования
мы возьмем в виде S = S(y, £).
Рассмотрим задачу Коши
Р°{ЩЛ) = ^'' 5=.|)2^ + 1Н2Ы-1 (4.12)
при у' = 0.
Нетрудно видеть, что решение этой задачи существует и
S(y, ® = tS(y, I) при />0.
В точке (х0, £°), в силу (4.12), выполнены равенства:
так что
detl-^IUaQ-^O.
Отсюда видно, что
;с
а5 (у, а
^
в конической окрестности точки (у0> 1°).
Таким образом, и в этом случае оператор может быть
приведен к виду Di+ (оператор нулевого порядка) в малой конической
окрестности точки (х0> Е°).
4.9. Результат, полученный выше, может быть усилен
следующим образом: оператор вида Di + Q, где Q —
псевдодифференциальный оператор нулевого порядка, эквивалентен оператору вида
Di + T, где Г —псевдодифференциальный оператор порядка —оо.
Предложение 4.3. Если Q —псевдодифференциальный
оператор нулевого порядка, то существует такой эллиптический
псевдодифференциальный оператор А также нулевого порядка, что
B(D1 + Q)A^Dl + T, (4.13)
где В — параметрикс оператора А> а Т — псевдодифференциальный
оператор порядка —со.
Доказательство. Символ оператора Л£>3 равен а^.
Символ оператора фг + Q) А равен (1г + q) а + -^- +
+ 2 ~Dtq-Daxa + tN, где /,sS4
|a| = l
Отсюда виден путь для построения оператора А. Пусть а0 —
Л/7
ненулевое решение уравнения ^г + ^0= 0, например, а0 =
= ехр( — \qdxx\% так что a0^S°. Функцию а± из класса S"1

§ 4 КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 95
найдем так, что
С6 I = 1
Продолжая этот процесс, находим функцию о/ из класса S-J так, что
|0Ь|+/«/
Символ (ieSc строится с помощью леммы 3.1 по данной
последовательности {af}.
Равенство (4.13) проверяется непосредственно. □
4Л0. Другой способ преобразования символа
псевдодифференциального оператора состоит в использовании канонических
преобразований, рассмотренных в примере 4.4. Пусть Н (х, I) —
гладкая вещественнозначная функция из класса S1. Обозначим
через U (t) оператор, переводящий функцию ср из СТ (Кл) в
решение u(t, x) задачи Коши
g?-//(*, Dx)u, «(Q, ^) = Ф(4 (4.14)
Методы исследования этой задачи хорошо известны из
геометрической оптики. Если q>(x) = eix*>, то хорошее приближение
к решению может быть получено, если искать его в виде
eis (/. х, i) a (^ ^ g)# Фазовая функция S находится кг(й решение
нелинейной задачи Коши:
W = H(X' Ш' Si°> х' ®~х-1>
а амплитуда а находится с помощью интегрирования вдоль
бихарактеристик
х~Нг(х9 6), 1 — НЛх, I). (4.16)
Оператор U (t) ограничен в каждом пространстве Hs так же,
как и обратный к нему. При этом
U{t)<v = {2n)-»\e^>*>ba{U х, Б)ф(Б)<&
где Г —оператор порядка — оо.
Из теоремы 4.1 вытекает, что для каждого
псевдодифференциального оператора Р с символом р из Sm найдется
псевдодифференциальный оператор Q(t) с символом из Sm, для которого
PU(t)-U(f)Q(t) + T(t). (4.16)
При этом оператор Q отличается на оператор порядка т— 1
от оператора с символом
<7& У, Л)-Р(*& У, Ч)> lit, у, г])),

96
ГЛ. II ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
где (#(/, г/, »{)> £,(/, у, п))—решение системы (4.15),
удовлетворяющее начальному условию
а: (0, «/, л) = {/> U0» {/> П) = Л>
4.11. В гл. VI этой книги при изучении необходимых
условий локальной разрешимости ив гл. VIII при изучении
субэллиптических операторов мы встретимся с «локализованными»
оценками, которые получаются из обычных с помощью перехода
к дифференциальным операторам с полиномиальными
коэффициентами вида T{k^p(x + y, l + D), где Т£Л)р — разложение по
формуле Тейлора функции р в точке (х> I) до членов &-го порядка
включительно. Мы покажем сейчас, что такие локализованные
оценки инвариантны относительно произвольных канонических
преобразований пространства Т* (Q)
В качестве примера приведем следующий результат,
принадлежащий Л. Хёрмандеру (см. [6]).
Теорема. Пусть Р — псевдодифференцйальный оператор
первого порядка и
| U |-о < С (К) (I PU |'о + | U ||-a-l), U €= С (/С),
где К — компактное подмнооюество в области Q в R*. Тогда для
каждого компактного подмножества М из T*Q\0 существует
такая постоянная С, что при (х, £)еМ, h^l выполнено
неравенство
Ui2/-H<X + fll<W [|0
+ь-*/2 2 №°**\)' ^e^ (4Л7)
где \-\ —норма в пространстве L2(RW).
Докажем теперь, что условие (4.17) инвариантно относи
тельно канонических преобразований пространства Г*й.
Теорема 4.3. Пусть Ф — произвольное каноническое
преобразование пространства T*Q, при котором мнооюеетво М
переходит в некоторое компактное множество М'. Условие (4.17)
выполнено тогда и только тогда для всех (х, J)sM, когда для
всех точек (х\ £')еЛГ выполнено аналогичное условие, но с
заменой функций pffi функциями q[ft\ где q°a ^(х', l') = fP$4xt g),
(*', Ъ') = Щх% I).
Доказательство. В силу предложения 4.2 достаточно
доказать инвариантность условия (4.17) относительно
преобразований (4.2) и (4.3).
1°. Заметим, что подставляя в (4.17) функцию
г|з (у) = 2я $ \|), (т|, y')eiyt^dy\u где % <== 1
мы получим аналогичное неравенство для функции фь но с за

§ 4 КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ
97
меной р°(х, I) на (f>(x% 6) = р°(£ь к\ —л:1, £'). В самом деле
Аналогично, lyPD^KC 2 II f/6^!!- Далее имеем
||2/ + ;a + 3|<iV l
Ь/+|а+в1<ЛГ
x(D7*'to*|-/-|a+3l/2I =
2, А^иЛ)^(!/Гх
Р» II
2/ + |a+fl|<tf
v—о
= 2 ^^ ^
1
2/+ЮН-ЗКЛГ
a! P! У •
где &(*, l) = /$f(*> Б), х1 = |ь & = —х\ Г = х', |' = £'.
2°. Пусть теперь А — невырожденная квадратная матрица
порядка п и г|)(у) = г|)1(Лу). Тогда
1гИ = | det Л^ №!,
где c>0 не зависит от г|). Наконец,
Ь/НЧа + ЗК* I
-1 det Л I-1" 1 ^ Р$' <*• 6) Ш1 <Л^)Р х
Ik... -Э1<ЛГ
х 04*D*)«%V->-i«4-3!/2 \-
I det Л |-^|| 2 Ч%Т (*. 1) Щ[ гВД^-/-1«+Э1/2 +
]2/ + |а + ЭКЛГ
+ 2 2 ^»* i)^^A,-/-,a"hpi/2
4 Ю. В. Вгоро»

98
ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЁ ОПЕРАТОРЫ
где q°(x, 1) — рь(А~хх, Л*£) = р°(л;, £), гак что рассматриваемое
преобразование соответствует линейному каноническому
преобразованию переменных
х = Ах, \~А*-%
3°. Рассмотрим, наконец, каноническое преобразование вида
(4.3) с производящей функцией S, для которой d2S (л:0, \*)1д£ д£у=
= б{. Нам удобно заменить функцию S в этом случае функцией
xt + S(x, Б).
Предложение 4.4. Каноническое преобразование Ф с
производящей функцией xl + S (x, I) может быть представлено в виде
произведения канонического преобразования Фг с производящей
функцией
xt + S(x, £)-(grad,S(x0> 6е), ^-(gradfcSUo, 6°), £)
и двух параллельных переносоь Ти Тг в пространствах R" и R?f
m. е. канонических преобразований с производящими функциями
хЪ + а%, х% + Ьх, где а и b — постоянные векторы.
Доказательство. Для доказательства представим Фх в виде
произведения двух параллельных переносов и преобразования Ф.
Этого достаточно, поскольку преобразование, обратное к
параллельному переносу, снова является параллельным переносом.
Преобразование Фг имеет вид
'y = x + dS(x, f\)ldr\-dS(xo, £°)/dr],
I = ,, + dS (х, ц)/дх - dS (xo, 1°)/дх.
Пусть Xi=х, I1 = Е + dS (xq, 1°)/дх. Далее, пусть х2 — хг +
+ dS(xly £2)/3|, Ъ1~1* + дЗ(хъ 12)/дх. Наконец, положим */ =
= х2 — dS(x0i l°)/dl> г|«-Б;1. Легко видеть, что переход (х, 6)»—*
•—*>(#, г]) совпадает с преобразованием Фг. □
Предложение 4.5. Каноническое преобразование Ф с
производящей функцией xl + S(x, £), eded2S(xo, 10)/дх1д%; = 0, может
быть представлено в виде композиции канонического
преобразования Фх с производящей функцией
xt + S(x, 6)-? ^ dxtdx/ ■**— 2- «beg, *&
и канонических преобразований с производящими функциями xl +
4- о^*» *) м *£ + -о(Л£, £)э «^ ^ ы В —квадратные матрицы,
и элементарных преобразований вида (4.2).
Доказательство. Заметим, что произведение
канонического преобразования: (я, £)•—*Ч*, £ + #*) с производящей функ-

§ 4 КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 99
цией xl1 — у (Вх, х) и преобразования Ф:
Ь = хг + dS (xu %*)№, ? = 12 + dS (xu 1*)/дх
дает каноническое преобразование с производящей функцией
S(x, I2) — -£ №x> *)» имеющей те же производные второго порядка
по £, что и S(x, l2). Используя элементарные канонические
преобразования, можно поменять ролями переменные х и £ и
проделать затем аналогичную операцию. D
Предложение 4.6. Пусть Фх —каноническое преобразование
с производящей функцией x% + S (х, £■), где S e Co° (R" x R„) и
\d2S(xt \)ldxldlj|^б, где i, /=1, ..., п и б —достаточно малое
число. Пусть Sx e Co° (Rn х Кл) м Ф2 — каноническое
преобразование с производящей функцией x% + S(x9 Q + eSi(x, £). Тогда
найдется такое е0, что для любого г из (О, е0) определена функция
Тее?Со°(КлхКя) такая, что |D£D?re(*, £)|<Ca,p, где Са>р
не зависят от е, а преобразование Ф2ФИ является каноническим
с производящей функцией x£-\-eTe(x, £).
Доказательство. Преобразование Ф2ФГ! является
каноническим и локально определяется с помощью гладкой
производящей функции. Ясно также, что вне носителей функций S к S\
эта функция совпадает с х£.
Пусть теперь Фх: (*ь, £°) н-* (хъ I1), Ф2: (х0, 1°) *-** (х2, I2).
Имеем:
,? = Xo + ^(|j2+8as1^)i (4>I8)
gl) ь2 , as (*„, j*) ■ _ dSj (Xq, |«)
ё _ё "+" дх +8 дх
Отсюда следует, что
О
О
Поэтому
^-S^-efz + j
Если
1 V—1
d2S (*„> I1-+1&^Ш dt\ *Si (*» £»)
дх д£ дх
,., + .«1^, |le|a + e£2Vg^,

100 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИЛЛЬНЫЕ ОПЕРАТОРЫ
то мы получаем, что
д* \ J d* d£ 1 дх '
д*г (*1> I2) _ _ f»S(*o. Е^ЧЕ'-Е1))^^*!. S2) ■ dSx{x09 V)
dl ~ J 56 ag ш ^ ^ ag '
о
Из этих равенств видно, что производные функции Те по х и
| любого порядка ограничены равномерно по е. □
4°. В соответствии с предложением 4.4, проверим
инвариантность неравенства (4.17) относительно параллельных
переносов. В силу симметрии, существующей между переменными х
и £, достаточно проверить его инвариантность относительно
параллельного переноса по х. Для этого, в свою очередь,
достаточно подставить я|) (у) = a|)i (у) ёау, что не составляет труда.
Аналогично, в соответствии с предложением 4.5, рассмотрим
каноническое преобразование с производящей функцией х\ +
+ -^(АХу х). Для этого подставим в (4.17) функцию -ф(г/) ==
= г|)1({/)ехр^(Лу, у). Имеем
| yW«$ || = i tf (D + АуГЪ \\+0( £ I */^г|>1\,
\IV-HI<|a-f-0i-2 /
так что
12УН-1а + Э1<Л/ 1
где q°(x, l) = p°(xt % + Ах). При этом очевидно, что
!V+6|<|a+PI
5°. Рассмотрим, наконец, наиболее трудный случай—
каноническое преобразование, которое локально определяется
производящей функцией х£ + 5С*» £), где grad S(*o, £0) = 0f

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ Ю1
D|DgS(*b, fc°)==0 при |а-Ьр| = 2. В силу предложений 4.2, 4.4
и 4.5 после этого теорема 4.3 будет доказана полностью. Заметим,
что в р-окресгности точки (x0i 1°) при малом р выполнены
неравенства:
\S(x9 g)|<ep2, |gradS(*, 6)|<ep,
|DfD5S(*,£)|^e при |а + Р| = 2,
где е->0 при р->0. Пусть ЛеС?°(РлхКл), причем /i = 0 вне
р-окрестности точки (x0i £°) и А= 1 в р/2-окрестности этой точки.
Будем предполагать, что \D\D^h(x, £)|<Ср~,а+31 при |а + Р|<2.
Тогда hSs=zCT(RnxRn), hS = S в р/2-окрестности точки (x0, |°)
и |£>?DgftS(*f g)|<Ce при .К|а + Р|<2.
Поэтому, если р достаточно мало, то
det IЦ+d*hS/dx* dlj I = 1 + <р (*, £),
где ф€=С2°(КлхКл), |ф(х, S)|^Ci8 и ф = 0 вне р-окрестности
точки (*bt Б°).
Это позволит ограничиться рассмотрением того случая, когда
SeCTdR-xR»), DfD^S^o, g°) = 0 при |а+Р|<2, и
производные DiD%S(x, l) при |а + Р| = 2 малы при всех (я, £)еКяхК».
6°. Предложение 4.7. Пусть
v (х) = Аи (х) = \ й (g) <?«*• tt+'exs <*-**. ^-1/2) ^
г5в b^l, |DfD5S(jcf Б)|<С при |а + Р|<2, S esCftR-xR»).
Тогда существует такая постоянная е0, что при е^е0
справедливы неравенства
|о|/2<|и|<2|г|, u<=C?(R").
Доказательство. Имеем
|i>P-$S$fl(6)fifo)x
x^*(6-4J+fexs(*x-«/«. s&-i/«)-ft*s(*Ar-i/*. пл-»/2) d|dr]d*. (4.19)
По лемме Адамара существуют такие функции a'eCo>(R'lxR»X
хКл), что
S(x, &)-.S(*. Ч>-2 tf(*. gt n)(b-th)
при всех х, Б, п- Поэтому
k[S(xX-l<\ l%-l<2)-S(x%-v\ nX-1/»)]-
- К* 2 «* l**"*1, Вт*1. v№ <JU -■ 4i).

102 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Заменим под знаком интеграла в (4.19) переменную х на х—
— bV%ci(xX-v\ %k~v\ цХ-1'2). Имеем
Ы2=№й(1)йЩе<<*-*-ъ[1+г<р(х, Б, л. г)Щйцйх =
=1«12+8^(№ф(ч-1 6. л> e)dEA|,
где l+e9==detf6j+eda'(*b-1/2> Б*г1/2, Ф^^/дхГ^ а ф (С. Б,
г), е)~преобразование Фурье функции ф(я, Б> т], е) по первому
аргументу. Выберем е0 настолько малым, чтобы выполнялись
неравенства
етах$|ф(г)-Е, Б, Л> в)|Л|<1/2,
етах$|ф(л-Б, Б, л» e)|dg<l/2.
п
Заметим, что можно оценить последние интегралы, например
следующим, довольно грубым, способом. Пусть ft e Cjj° flRrt),
0<Л(х)<1, Л(*)=1 при |*|<1. Тогда
$|Ф(л-Б, Б, -п>|rf£ =-J|Jср (др. 6, ч)*«*.*-ч><«*|«-
= J | Jh ((Б - л) Ь1/2) ф (*. Б, л) * <*•м dx\dl+
+ 5|5[1-/1((Б-л)^1/2)]ф(^ Б, л)^и^-л)^И-
= 5|^((Б-л)^1/2)ф(^ Б, ч)«'^в-ч)Л|« +
+ 51Б-л|-2л[1-Л((^-л)^1/2)]Ца;ф(^ Б, 1)*<*-«-1>£&|<«.
Первый интеграл в правой части равенства легко оценить, если
заменить подынтегральное выражение на тах|<р(л;, Б» л)1> х
х, 6, л
на у№/29 Б^1/2 — на Б1, л^1/2~на Л1» поскольку он берется по
конечной области. Во втором интеграле интегрирование по у от
ограниченной функции берется по конечной области, а интеграл
по Б1 сходится. Можно применить теорему 1.1, что дает оценку
11*Р-|иГК1иР/2,
откуда следует, что
|up/2<|t>P<3|up/2. □
7°. Предложение 4.8. Пусть выполнены условия предложен
ния 4.7 и пусть
w(х) = Ви{х)^\Ь(х9 Б)й(Б)в**+«*С**-1'*. »""1Л>#,
аде |&(х, Б)|<С, а A,^l. Тогда |w|<Ci|ti|, где постоянная d
не зависит от и и от е.
Доказательство. Это предложение доказывается в
точности так же, как и первое утверждение в предложении 4.7. □

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 1°3
8°. Предложение 4.9. Пусть выполнены условия предложе-
ния4.8 и е^ео, где е0 достаточно мало. Тогда
2 \\xW«z?h^Cx £ |Л>*и|,
|а + 0| = / I6+VK/
2 l^DaWl^Ca J Ij^D^I,
где Ci и С2 не зависят от и.
Доказательство. Заметим, что
_ _! _!
Djv(x) = \[tj + zVbdS(xb \IX *)/ЗУ]й(£)>
_i -.1
xef(*.6)+feXS(*A, *.|Я 2)d£ = j4(D/W) +
-1 -1 -i -i
+ e/b$3S(;d \ 1% »)/a^fl(6)^-e)+le^w *•* *>d£.
При этом, в силу предложения 4.4, можно считать, что
до #« * '
где ауА и Ь/еС2°(КяхКя) при A,s*l. Ясно, что
|еК£$&/(*, I, ^)E*X-l/1a(g)e'^6)+'^(^-|/e-»'"l/i)£ft|<
<Ce|D*Cl|.
С другой стороны,
- —J [DhaJkU (lniaJku(l) г V^D^S (**>, gb-vtflx
X ^ (*♦ £)+^^s (**•""1/а» H»"~l/9)d6.
Пусть
где cki, dkl равномерно ограничены в С£° (R* x R„) при всех Я^К
Тогда
VI \ ajku (I) DlkS (х№\ &-1'2) е1 <*> *> + "*s (*~,/а* ft*"1*) d\ -
- Jfl/*[2 ^ + 2 ^/|й(£)е<<*' ^^^ ^~1/2) dg,
у

'04 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
и можно повторить наши рассуждения. В результате получим, что
Djv=A(DjU) +
где \Alk\+\Blk\ + \Clk\^C{znM)\ где М = тах(|я/л|, \b)k\,
\cjk\, \djk\)' Если гпМ<1/2, то ряд равномерно сходится и мы
получаем, в силу предложения 4.8, что
\Dp\<cl\DjU\ + s\u\ + s J |Л*| + в2 |D*a|l
а применяя предложение 4.7, получаем, что
\Dju\<cI\Djo\ + b[u\+bJ± |Л| + е2 |Дин1
\ fe=i *«i /
Заметим, что
xj'v = J [D^*] й (I) e*** I*"1**, ix-i/ч dg -
Рассуждая как и выше, получаем, что
|хЧ<с(|*/и| + е|и| + в2 l«*"l + e J] |D*a|l
|Л|<с(|*Ч + в|и| + e 2 l**«l + e 2 IA*lY
Таким образом, мы доказали, что
2(i^i + ity> d< c 2 1^о«и|.
2(ИиШ1ВД)<с 2 i*pd°h
/ = l 1а+Э|<1
и предложение 4.9 доказано для / = 1. Так же оно доказывается
и для больших значений /. Например,
DjDkv - \ [($, + е V% dS {x%-v\ &-v*)/dxf) •
.(la + el/XdS^-1/*, gX-*/«)/3**) +
+ e d2S (xX-1'*, Ък-*/*)/дх' dxk] й (I) e* <*• 6>+^s ^~m> &~m) d\ =
- М(б/ + *2 */^ + *2 b%\Uk + *% aksxs + e^blls\ +

§ 4. КАНОНИЧЕСКИЕ ПРЕОБРАЗОВАНИЯ 1°5
Заменяя каждое Xs производной по %s от —fe'u. б> и
интегрируя по частям, получим искомый результат. D
9°. Окончание доказательства теоремы 4.3. Подставим в (4.17)
лр (г/) = ^ $1 (ц) е1 {у* ц)+ieXS (*+^~1/2' *+^~т) dx\%
считая, что D\D*S{x% £) = 0 при |а + р|<2, SeC(RnxRn).
a e —достаточно малое число. Из предложения 4.7 следует, что
Ж<21гМ<4|г|,|.
Далее, из предложения 4.9 следует, что
Кроме того,
yW«q> = $ [D„ - e^1'2 as (x + jflr-v», £ + 4^f)/36P X
X h + e?i1/2 dS (x+y%~v\ I + ф**)/дхр fa (т,) x
поскольку при всех a и Р справедливо неравенство
| %v*D%D*S (x+y№*9 I + цЬг1'2) I <Caj^-^+^i/i.
Заметим, что
2 Wfo 6>^^D^-,a+'l/i-
2/<tf
+ 2 2 a^D^k > +
/ = 1|а + 0|<ЛГ-2/
+ 0(^^ 2 I^O^lV (4.20)
Поэтому можно, не меняя порядка последнего слагаемого,
заменить gradS(x+*A~1/2, £ + г]Аг1/2) тейлоровским разложением до
порядка N по у я i\. После этого можно проинтегрировать по
частям, заменяя каждое уРеМ*. л> на Djje'^-^. Это приведет к
замене каждого у на D^-EX^dSix + yK-1'2, £ + Л^~1/2)/д£.
Возникающие при этом члены со вторыми производными по ц могут
быть оценены через О (1 y*D«y \\ Х- 'а+ *;'2). Поскольку DfD^S (*, £)=

106 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
=*0 при |а + Р|^2, а слагаемые, содержащие i/D^ty с |а + р |^
^sN+1, относятся к остаточному члену, нам понадобится лишь
конечное число раз проинтегрировать по частям, чтобы
избавиться от у под знаком интеграла в (4.20).
В результате оставшийся интеграл будет иметь вид
bjT&.otfW 2э Л** 2bi(l):
Л*+1/А, 2,
xe'df.iD+fcbSvs+ux 2.S+*ix 2/dY], (4.21)
где ^(xf£)-^(x-e^Stx-e^S (л: —...g), Б), £ + ^S(x-
— ed^S (*-...,-£), I)) или, если *«* —e^S^fc), ! = £ +
+ ed*S(*, £), то </°(*> £)=p°(*, |). Интеграл (4.21) может быть
представлен в виде
где Ff-»tif(2)=»Jf(z)e"7<*^d2. В силу предложения 4.5, норма
в La этого интеграла оценивается сверху и снизу через
Слагаемые в (4.20) с коэффициентами ауар также допускают
гакие преобразования, но меняются более сложно, и мы не можем
получить явного выражения для этих членов. Можно только
утверждать, что
* 2 wi** 6)i**^w-/He+,ii/2-
2/+|а + ЭК#
\ ia+3KJV /
откуда, в силу предложения 4.7, а также оценок из
предложения 4.8 вытекает наше утверждение. Отметим, однако, что пока
теорема доказана только для того случая, когда производящая
функция имеет вид x£ + bS(x, £).
Покажем, что этого достаточно для доказательства теоремы
4.3. Рассмотрим семейство Ф, канонических преобразований,
определяемых производящими функциями x% + tS(x>t) при (ХК1.
Пусть М — множество точек / из отрезка [0, 1], для которых
преобразование Ф, является допустимым, т. е. таких, что
условие (4.17) инвариантно относительно канонического
преобразования Ф*. _Мы доказали, что М:э[0, e0] при малом е0>0.
Теорема 4.3 утверждает, что точка t=l также принадлежит М.
•'I

§ б НЕРАВЕНСТВО ГОРДИНГА 107
10°. Предложение 4.10. Множество М совпадает с от-
резком [0, 1].
Доказательство. Покажем вначале, что М — открытое
множество в [0, 1]. В самом деле, если tx ^ М и *i< 1, то, в силу
предложения 4.6, преобразование Ф^^-еФГ,1 при 0^е^80
определяется производящей функцией х\ + гТв (х, g), где | DlDbxTz (х, %) | ^
^Сос,р, 0^е^80, и является допустимым в силу доказанного
выше. Умножение справа этого преобразования на Oti также
является допустимым. Но это и есть Ф^+е-
Докажем теперь, что М замкнуто в [0, 1]. Пусть tn&M и
tn-*U. В силу предложения 4.6, преобразование Ф?0 является
произведением преобразования Ф* и преобразования,
определяемого производящей функцией вида xl+(t0 — *я)7\о_,я (х, £),
причем производные последней функции ограничены равномерно по п
при п^п0. Следовательно, это последнее преобразование
допустимо. Но тогда допустимым является и преобразование Ф,„.
Поскольку множество М одновременно открыто и замкнуто
в [0, 1], оно обязательно совпадает с [0, 1]. □
Этим доказательство теоремы 4.3 заканчивается. □
§ 5. Неравенство Гординга
5.1. Классическое неравенство Гординга было получено для
эллиптического уравнения вида P(xt D) и = /(#), где Р
—дифференциальный оператор. При этом предполагается, что
характеристическая форма р°(х, |) удовлетворяет неравенству
Rep°(x, l)^c0\l\m, шй, 5eR«, c0 = const>0. (5.1)
Пусть е>0 —малое число и /С — компакт, лежащий в Q так,
что расстояние от К до 3Q больше е. Из покрытия компакта К
шарами радиуса е выбираем конечное покрытие шарами ©i, ...
..., cojv и строим разбиение единицы 2ф/(#) = 1 так, что ф/е
Замечаем, что
(pjPu-POyju^Qu, (5.2)
где Q — оператор порядка т — 1. Если е достаточно мало, то
выполнены неравенства
([Р°(х> D)-P*(xh D)]<pju, <p,tt)<fl<P/KBi/i. /-1,.... #, (5.3)
где Ayssuppqpy.
Для дифференциальных операторов P°(Xj, D) с постоянными
коэффициентами неравенство Гординга доказывалось нами в п. 4.4
гл. I. Напомним, что
Re (/*>(*,, D)<VjUy %u) = Re\p°(xj, £) | Ф/й (£) |2 d£ ^
^c0 5 11Г I W* (I) I2dl ^c0 | фУи Гт,ъ - Cx I фУи ft,,-,. (5.4)

108 ГЛ. П. ПСЕВДОДИФФЕРЕНЦЙАЛЬНЫЁ ОПЕРАТОРЫ
Объединяя неравенства (5.2), (5.3), (5.4), можно написать, что
для и^С^(К) верны оценки:
Re\Pu-adx=*Re\ ^yjPuqyidx**
= Re 2 \P°(pjU-q>Judx+Re 2 \Q/u-y/udx^
i i
f i
— 2 II ФУ" !!^/2 II « IU/2-1 ^= ^0 S I Ф/W ||^/a — Ci 2 I ФУ" llm/2-1 —
- т 2'%u "^/a ■* т 2'фуи ^/a ~c% B u |Si/i-1 ^ r
Мы получили неравенство Гординга в форме:
Re J Pu.adx^±\u&n-C\u&/*-4 u^CT(K). (5.5)
5.2. Простой анализ приведенного доказательства показывает,
что меняя е, вместо постоянной с0/3 можно получить в
окончательном неравенстве с0(1—б) для любого 6>0. Разумеется,
постоянная С в неравенстве (5.5) при этом также может
измениться.
Оказывается, однако, что первую постоянную можно сделать
равной с0. Этот факт был доказан Л. Хермандером для общих
псевдодифференциальных эллиптических операторов.
Теорема 5.1. Пусть Р(х, D) — псевдодифференциальный
оператор порядка т с главным символом p°^Sm(Q) и
Re/?°(x, Ъ)^с0\Ъ\т, со = const, jcgeQ. (5.6)
Тогда справедливо неравенство
RelPu-udx^Coiultn/t-CKiuj^-u ае=С?(*). (5.7)
где К — произвольный компакт в Q.
Доказательство основано на следующем простом неравенстве.
Лемма 5.1. Если feC2(R"), /S^O и
2 sup —'— =Л4,
то
/ГУ™71

§ 6. НЕРАВЕНСТВО ГОРДИНГА 109
Доказательство. Ясно, что достаточно проверить
неравенства f*xj(х)<2/(х)max\f^x/J при /=1, ..., я, т. е. доказать
утверждение для /г=1.
Пусть feC2(R) и х — произвольная точка. Тогда
O^f^ + O^/W + '/'W + y^maxiri.
Подставляя в это неравенство t== — f (x)/max |/"|, получаем, что
0<f(*)-y/'2(*)/max|f|. □
Доказательство теоремы 5.1. Пусть Р°(х9 D) —
оператор с символом Rep°(xy l)h(l) = pl(x, £), где fteC03, Л(|) = 0
при \Ъ|^1, /i(|)=l при |6|^2. Заметим, что
Re \ Puu dx = Re $ P0uHdx + O(( и !U-n/a),
так как если А — оператор с символом 1тр°(л:, £)ft(E), to
оператор P — P° — iA имеет порядок /п-1 и
Re / J Аий dx=i\(A — A*)u-udx = 0(\\u Цт-т)
в силу теоремы 3.4.
Пусть вначале с0 = 0.
Рассмотрим покрытие пространства Rn шарами /С| при | е R„,
так что шар /С^ имеет центр в точке £ и радиус (1 +1 £ |2)1/4/2.
Выберем из этого покрытие локально конечное, так что каждая
точка пространства Rn покрывается не более, чем с(п) шарами.
Занумеруем эти шары Къ ...» Kj, ... и построим функции hj(\)
так, что hjEzCTiRn), Лу^О, ft/(£)=l при £*=/(/ и /t/ = 0 вне
шара /С/, концентричного с /С/ и имеющего вдвое больший радиус.
Предположим, что | D% (I) | < Са (1 +11 \)~|а |Л2 и Са не зависит
от /. Ясно, что такие функции могут быть получены из одной
стандартной функции h с помощью сдвигов и растяжений.
Г оо 1-1/2
/=i
Тогда УфИ6)=1.
Положим теперь фу(£) = Лу(|)
ФУеСГ(й,)и
|£х*фУ|<саьг|а|/4.
постоянные Са не зависят от /, а А,у = 1 +1V | и У — центр
шара Kj.
Имеем для «еС(/С)
Re\P°u-adx=Re'2t\<?j(D)P0u(pj(D)udx**
i
= Re 2 \Р° (х, D) фум • <pju Ах + Re 2'J [фу (О), Я0] и ■ фУы dx,

по
ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
где [фу, Р°] = фуР° — Р°фу — коммутатор операторов фу и Р°.
Переходя к образам Фурье, можно записать, что
$ [Фу, Р°] ифуи dx = (2я)-* $ [Фу (Б) Р°и (Б) - Р° (Фуи) (Б)] фуи (|) d|.
Так как
где b (у, r])=Rep°(#, i\)h(i\) и Ь(С, т)) — преобразование Фурье
функции Ь (у, г]) по у, имеем
J [фу, P°]u(pjudx —
- (2я)-2* J J [Фу (Б) - фу (л)] 6(л - Б, л) а (л) фу (Б) а (Б) <*Б *|. (5.8)
Заметим, что для любого N
|&(л-Б, л)1<С^(1 + |л-Б|2)-^(1+И12)т/2<
N , |т —1|
т+1
т—1
<24C^(!+h-^l2) 2 4 (1 + 1л12) 4 (1+1Б12)4, (5.9)
поскольку
14Чл12<2(!нчБ|2)(!+1л--£12)>
(i + hlV<2(i + |5|V(i+h-g|2).
С другой стороны, при | Б — тг| | ^>-1 Ti |/2 верны неравенства
21ф/(Е)-фу(л)12<4<8|Б-л11л|-1.
а при |Б — т||<|л1/2
I п I*
21<рИ6)-фу(л)1*-2 2 ^(ч+в/(5-п))(Ь-1и) <
Поэтому при | т] | ^ 1 справедлива оценка
Hlq>y(l)-9y(ri)l2<C2(l+h|V/a(l+||-Til2). (5.10)
Объединяя (5.8), (5.9), (5.10), получаем, что
т + Х
т—1
4 (1+|т,|1) 4 (l+|g|i) 4 |й(л),х
х SIФУ (6) a (i) 11 ф/ (I) - Ф,(л) | dfcлк л | и fU-м
/

% б. НЕРАВЕНСТВО ГОРДИНГА 111
причем мы воспользовались теоремой 1.1 и через А обозначили
величину
max J |/С (6, л)1#-тах$|/С(6, п)1*1,
где /с(Б, n) = (i+h-EI")-Wl+|m-|,/4+l.
Ясно, что эти интегралы сходятся при N>\m— 1 \/2 + п + 2.
Итак, мы показали, что
Re \ Рий dx ^ Re 2 $ ^°Ф/" • ф/И d* -- С81 w Ifm-n/a. (5.11)
Обозначим теперь через /?y(#, D) оператор
р*(х, D)-Po(x, m-i *qgii(z>,_$,
символ которого Rj(xy l) и его производные D$Rj(x, l) могут
быть оценены через Ср (1 + \l l)m_1» если £> £' ^ supp фу.
Оценим интеграл
Re $ Rj (х, D) yjiitpju dx =
-Re^/fo-g, ЙФ/(6)Я(6)Ф/(л)а(л)«Ж|.
Как и выше, используя оценки
lR/di-Б, 6)|<си1 + 1л-Б|)г"(1 + 1Б1Г*<
можно проверить, что при N>n + \m— 11/2
| Re J R/<Pju%u dx | < С41| Ф/w |<m-n/ai
так что
2 | Re J Rj<p/uq)ju dx j < C51 a |(m-i)/a-
/
Применяя лемму 5.1, находим, что
1ЭД(*. 6)
^/
2^Се/7?(^ Б) (1+1 61)"-1, /-1. ..., л.
Поэтому
|^м^(0|-й)Ф/«-я5гл«|<
1/2
: Св ( 1+ ||' |)^2>/2 (J P? (*, 60 I Ф/И Р ^)1/2 X
x(J(b-E0,|9/(5)a(6)|td6)1/,<
; ^ J р? <*, iy) I фу" I2 <**+с, (i +11> i)"-111 Ф, (i) й (i) p d|.

112 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Возвращаясь к неравенству (5.11), видим, что г
Re^Puudx^
/
S^ReJJpU*. W\w\*d*-C%\u\bn-M* (5-12)
поскольку
у(1+16|)<1 + |6'|<2(1 + |Б|) Для ^зиррфу.
По условию, выполнено неравенство /?/^?0, из которого в силу
(5.12) следует, что
Re \ Ри • й dx з> - С81 и ||(m-i)/3.
В общем случае, если с0 — любое число, рассмотрим оператор
Q = Р — с0Лт, где Л — оператор с символом (1 +1Б12)1/2. Поскольку
Re<7°(*> 1)^0, справедливо по доказанному выше неравенство
Re$Qaadx^-C|aRm_1)/if
из которого следует, что
Re $ Рий dx ^ с01 и |^/9 — С | и |I(W_ 1)/3. D
5.3. Интересное уточнение неравенства Гординга — Хёрман-
дера (5.7) было предложено в работе Ч. Феффермана и Д.
Фонга [1].
Теорема 5.2. Пусть Р (х, D) — псевдодифференциальный one-
гатор порядка т с символом р(х, I) из класса Sm(Q) и
Rep(x, t)^c0(l+\t\)m, co-const, *e=Q, |6|2sci.
Тогда справедливо неравенство
Re $ Puu dx^co J и yml% -CK\u Wlm-ыь u&C? (K)9
где К —подобласть в Q, /CczcrQ.
Мы не приводим здесь доказательства из-за недостатка места.
Дальнейшее обобщение можно найти в работе Ч. Феффермана и
Д. Фонга [2].
§ 6. Обобщения
6.1. Классы Sj^e. Л. Хёрмандер предложил рассматривать
более общие классы псевдодифференциальных операторов вида

§ 6 ОБОБЩЕНИЯ ИЗ
(2.1), но с символами, удовлетворяющими условиям:
даЬФ, i)\^catz,K(i+\$\r-iaiQ+^\ *«=*■ (ел)
вместо условий (2.2), которые получаются, когда 6 = 0, р=1.
Обычно предполагается, что O^fi^p^l. Гладкие
функции а, удовлетворяющие условиям (6.1), образуют класс S£ б(Й).
Большая часть результатов, описанных в § 2, при этом
сохраняется.
Пример 6.1. Пусть Р (D) — гипоэллиптйческий
дифференциальный оператор и пусть гладкая функция /i(£) такова, чтой = 0
в окрестности нулей Р и Л = 1 - в окрестности бесконечности.
Тогда функция p = hP~l является бесконечно дифференцируемой
и такой, что
|Д?Р(Б)|<Св(1 + |5|Г-,а1р.
где р = const, 0<р^1.
После замены переменных y = f(x) этот оператор переходит
в оператор с символом q(y, т|) = /?('/' \х)ц) и
|0^(г/,л)|<Са,р(1+|г]|Г-'а^+'Р!(,-р>.
Пример 6.2. Пусть 8(£)e=Cj?, причем 8(£)=1 при |6|*£1
и 8(|) = 0 при |£|з=2. Пусть 2i, .Т., zu ... — все точки в R"
с целочисленными координатами. Положим
Ф/Ш = 8(|-2/)Г1;еМ1-гУЛ-1/2.
Тогда фге=сГ(К") и S ф! (|) = 1. Функция
'/(*. 6)- fj A^Umi^Xixlll6),
I, т = \
где Aim — произвольные постоянные, бесконечно дифференцируема
и принадлежит классу Sp,6, если |Л/т|^С.
6.2. Первое предложение теоремы 2.1, очевидно, сохраняется.
Второе предложение верно при 0^б^р^1, исключая случай
б = р = 1. Мы докажем его в следующем параграфе.
В теоремах 2.2, 2.4 и 2.5 естественно предполагать, что 0^
<6<р^1. Тогда члены в сумме (2.11) имеют убывающие nog
порядки. Случай б = р мы рассмотрим в следующем параграфе.
Лемма 2.1 сохраняется, если заменить условие (2.3) условием
|ОДВДМ(х, f/Л, г))|<
<Ca,a4p,&'(1+IS|)m-|alp+l^16(l+hl)m'-la/lp+ie/|6
при 0^8<р^[. Тогда aeE-S^"1'.

114 ГЛ II ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Теорема 2.3 верна после замены условия (2.15) на
\D\DlDlb{x, у, 1)\^Са^,у(1+\1\)т-^^^6
при 0<6<р<1.
Теорема 2.6 верна при 0^б<р^1, 1 — р<;8.
При этом доказательства указанных теорем почти не меняются.
6.3. Практически все теоремы этой главы справедливы для
систем псевдодифференциальных операторов и для операторов,
действующих в сечениях векторных пучков на гладком
многообразии Q. Только следствие 2.3 перестает быть верным, если Ьа Ф
фаЬ.
6.4. В работе Р. Билса [2] определен новый класс
псевдодифференциальных операторов SM«m(0, ф), более широкий, чем
S™, б, и сохраняющий многие свойства операторов из S™, б-
Функции Ф и ф называются весовыми. Это гладкие функции
в RnxRn с неотрицательными вещественными значениями.
Предполагается, что отношение /? = Ф/ф не зависит от х. Кроме того,
предполагается, что
Г Фф^1 ^ф;
2° |ф$|<саЭФ1-,а,Ф'з>, |ф((б11^сарФ-|ау-|Э';
3° l/^I^Catf1-^-1"1, афО, 6>0.
Класс SA1>m, где М, т — вещественные числа, это множество
символов а, для которых
\а^(хГ1)\^Са^Фм^а1ц>—^К
Пусть LM * т — множество операторов вида (2.1) с символами
из SM< m. Пусть Нм* т — пространство Соболева, состоящее из тех
распределений «gI', для которых Au^L2 для любого
оператора А из LM> m.
Можно доказать (см. Р. Биле [2]), что
1° если Де^^, B<=ZA*, то АВ е//*+«• "+*;
2° если А €= LM• w, то А* <= Iм- т\
3° если ^eLM'm, то отображение A: HM+Km+k-+HK*k
непрерывно при всех К и k.
Замечательно, что этот класс может быть охарактеризован
внутренним образом,
Пусть LjB = [Я, «/] = iBrf - tV В, MjB = [Dh В] = DjB - BDj
и пусть Bi$) = tf...LannMfi...MnnB.
Теорема (Р. Биле). Линейный оператор В: <§->$'
принадлежит L0' ° тогда и только тогда, когда для любых а и р из
(Z+)" оператор В^ может быть продолжен до непрерывного
отображения пространства #—|а|- -13! в L2.
6.5. В работе А. Гроссмана, Дж. Лупиаса иЕ.М. Стейна [1],
в книгах Ф. А. Березина и М. А. Шубина [1] и В. П. Масло-
ва [2] рассматриваются операторы вида (2.1) с символами а {х, |),

§ 7. ОБ ОДНОМ КЛАССЕ ОПЕРАТОРОВ
115
удовлетворяющими условиям вида
|D?Dk(*f l)\*ZCa,i(\+\x\ + \l\r-w.
Такие операторы являются естественными для приложений в
квантовой механике, где переменные х и I играют роль координат и
импульсов. Все результаты настоящей главы без труда
переносятся на такие операторы. Эти пространства удобны также с той
точки зрения, что в них допустимы произвольные канонические
преобразования, поскольку переменные х и I равноправны.
При этом часто оказывается более удобным вместо операторов
вида (2.1) рассматривать операторы в форме, предложенной
Г. Вейлем:
Wu(x) = (2я)-* J J ё <*-"> Ч ftp-, l) u (у) dy d£.
Нетрудно проверить, что W отличается от оператора А с
символом а(х, I) на оператор порядка т— 1.
Исчисление операторов такого вида, приспособленное для
обычного пространства L2(Q), развито в работе Л. Хёрманде-
ра [16].
6.6. Все результаты этой главы без труда переносятся на
операторы вида
Ахи{х) = (2п)-п\а{%, х, Б)fl(Б)**<*■»<&
где яе=С°°(К+хКлхКл) и
№5а(т, х9 !)|^Са,э,И1+Ш + тГ~!Ч *е*. (6.2)
при всех а и PeZ+, т^т0. При этом вместо обычных
пространств Соболева Hs естественно рассматривать пространства HSt t>
норма в которых определяется по формуле
|аВ.т-$(1+|Б|1 + тв)'|Д(6)|1«.
Такие операторы используются нами в гл. IX при выводе
оценок типа Карлемана.
§ 7. Об одном классе псевдодифференциальных операторов
7.1. В этом параграфе мы рассмотрим один специальный класс
псевдодифференциальных операторов, который будет
использоваться в дальнейшем.
Определение 7.1. Символ а е С°°(QxRw) принадлежит
классу S™ (Q), если для всех а, Р и каждого компакта К d Q
справедливы неравенства
\D$D*a(x, t)\^Ca,ztK(l+\Z\)"+*«^-w\ xestf, (7.1)
где 6 = const, — оо<6<1.

П6 ГЛ. II. ПСЕВДОДИФФЕРЕНЦЙАЛЬНЫЕ ОПЕРАТОРЫ
Как и в § 2, начнем со вспомогательного утверждения.
Лемма 7.1. Пусть А ^С° (QxQxRnxRn) и
\D$D*D«'D*'A(x,yf Ь Ч)|<
<Ca>a%p,^(l + |g|)'»+e<lPl--l«l)(l + h!)m'+6(lp'|-'|a'l>v (7.2)
Тогда функция
а(х, 6)«$$Л(х, у, 6, 4)e^-y^-bdyd4 (7.3)
бесконечно дифференцируема и принадлежит классу S%*m'.
Доказательство. Воспользуемся тождеством
е, (^«^ л-S) = [ 1 + (1 +1 т] |)^ | х -1/12]-^ [ 1 _ (1 +1 г] |)2Л А^ X
х[1 + (1 + |Ч|)-*|ч-Б|»Г"[1 -O + hl)-26 д,]"*<*-*1-ю
и проинтегрируем по частям по т) и по у, так что
а(х, 1)=*1\ В(х, у, 6, ri)e*i*-**-t)dydi\9
где
*(*, у, 6, Ч) = [1-(1 + ||,НА^[1+(1+|Ч|)-^|||-6П-А'х
xtl-O + lfil^AJ^tl+O + hl^lx-^IT-^ «'<*-* .4-5).
После замены _/ = #+z(l + lTll)~6 можно видеть, что
х[1~(1 + 1л1)2бА#[1+1^12]^^(^^ 5. Ч)10 + 1чН&*1<
<cJ[i+(i+hl)raeh-6n-Af(i + l6l),ll(i + hi Г-^4.(7.4)
если JV выбрано так, что 2N>n.
Для оценки интеграла (7.4) разобьем область интегрирования
на три зоны.
В области, где 1 + |т||>2(1 + |£|), подынтегральное
выражение оценивается через
(1+|| |)-/ (1 + | Т] |)т'-1в + |т| + /-2А1 (1 -б)
для любого / > 0. При 2М (1 — б) > / +1 т | + т' — пЬ + л интеграл
оценивается через CiO + lfcl)"4-
Если 1+ГЕ|>2(1 + |ч|), то |г!-||2(Ц-|л1)-2б^С2(1 +
+ |61)а( » и интеграл по этой области не превышает величины
С3(14_|£|)т+|т'|+л-2<1-б)Л!#
Наконец, интеграл по области, где 1-f| _.|<2(1 + |т)|)<
<4(1 +1 £|)i оценивается через функцию
dx\ _______
С4(1+|||)'»+'"'-'1в| —
(\+\\\)-*\ч-1\*\м'

$ 7. ОБ ОДНОМ КЛАССЕ ОПЕРАТОРОВ Н7
которая конечна при 2М > п и величина которой не превышает
с. (l + i sir*"'.
Таким образом, при б<1 получена оценка интеграла (7.4):
\а(х, 6)|^Св(1 + |5|Г*»'.
Производные D*D$a(x, l) оцениваются тем же способом.
Имеем
£££&(*, £) =
= 51 с*. «.. 3-. з" 5 5 D?'D*'л (*• »•" 6. ч) (- V (-v х
а'4-а* «а
3'4-Р"-Э
- Ц С*. «., r. r $1 DfD%D*'D*"A (х9 у, Б, л) **-* ч-*> d</ dr,,
а,4-а"=а
Э' + Г-З
и мы получаем интегралы того же типа, что и (7.3). Ясно, что
их оценка может быть проведена тем же способом, что и оценки
интеграла (7.3). □
7.2. Мы покажем сейчас, что теоремы из § 2 остаются в силе
для операторов из S?.
Теорема 7.1. Если псевдодифференциальные операторы А и
В имеют символы а и b из классов S% и S%' ив<1,о /ieCS°(Q),
то оператор С = BhA является псевдодифференциальным и его
символ с принадлежит S™+m'.
Доказательство. Как и при доказательстве теоремы 2.2,
дело сводится к рассмотрению интеграла
с(х, Б) = (2я)-$$Ь(*, r))h(y)a(y, I)<*«-*'*-i>dydi\.
Применяя лемму 7.1, сразу получаем требуемое утверждение. □
Теорема 7.2. Оператор вида
Аи (х) = (2я)-* J$ ft (х, у, I) и (у) ё<*-* » dy d£,
где функция b eC°°(QxQx[R„) такова, что
\D\D*Dlb(x, у, Б) |^Слp. v(1 -ЫБ|)"+««Э+ЛР1—!«!>, в<1,
является псевдодифференциальным с символом из S™.
Доказательство. Как и при доказательстве теоремы 2.3,
дело сводится к рассмотрению интеграла
а(х% 1) = {2п)~п\\Ь{х, у, л)*'<*-"• i-*>dyЛ|,
к которому снова применима лемма 7.1. П
Теорема 7.3, Если А — псевдодифференциальный оператор
с символом из класса SJ? (й) и б < 1, то формально сопряженный

И8 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
оператор Л* является псевдодифференциальным с символом из
S? ДО-
Доказательство. Как и при доказательстве теоремы 2.4,
достаточно рассмотреть интеграл
а* (#, I) = (2Я)-*1 \\ а (у, ц) е* <*-*• *-*> ф А|.
Применяя лемму 7.1, получаем наше утверждение. □
7.3. Докажем теперь ограниченность операторов
рассматриваемого класса.
Теорема 7.4. Если А — псевдодифференциальный оператор
с символом а из класса S?, б<1 и ЛбС(й), то существует
такая постоянная C~C(s), что
lhAu\\s^C\\u\s+m9 «еСГ). (7.5)
Даннее ниже доказательство основывается на следующей лемме,
принадлежащей М. Котляру.
Лемма 7.2. Пусть Н — гильбертово пространство, X —
пространство с мерой, А (х) — измеримая функция omjc^X со
значениями в пространстве L{H) ограниченных в Н операторов, для
которой
jM(*M*(0)|v«dj,<Cf \\A*{x)A{y)fi*dy^C.
Тогда интеграл А = \ А (х) Ах слабо сходится и | А | ^ С.
Доказательство. Рассмотрим вначале специальный
случай, когда \\А(х)\^М и мера т всего пространствах конечна.
Из очевидного неравенства
II АХА2... А2п | < | Аг р | АгА2 р/«... | А2п.хА2п |V« || Л2я |V»
вытекает, что
й л 12" = || Л*Л Г ^ ^ tl ^* (^i) l1/2Ил* (^i) ^ (^) 111/2 IIЛ (л:2) Л* (хз) Ц1^...
... 1 А* (х2п-г) А (х2п)р| А (х2п)|*/«dxt...dx2n<mMC**-\
Отсюда следует, что | А || ^ С (тМ/C)V2n и при п-+оо мы
получаем, что |Л|<С. В общем случае, если Y — произвольное
подмножество в X конечной меры, на котором норма |Л(д:)||
ограничена, то для любых и, v e H имеем
$ (А (х) и, v) dx
Y
^C\\u\\\\v\\. Отсюда вытекает утверждение. □
Доказательство теоремы 7.4. 1°. Пусть вначале s = 0,
т = 0. Имеем
hAu{x) = {2n)-n\\h{x)a{x, l)u(y)e^x-y)^dydl =
= (2л)-* $ $ Ь (*, у, \) и (у) е' (*-у) 6 dy dg,

§ 7. ОБ ОДНОМ КЛАССЕ ОПЕРАТОРОВ
119
где
Ь(х,-у, 1)-!1+(-Д^(1 + !^12)6д1х
x[l+\x-y\2*{l+\lW"]-lh(x)a(x9l)-
Оператор Л, таким образом, представляется в виде Л = $ Л (|)d£,
где Л (£) — оператор с ядром (2п)~пеПх~у)%{х, у, £), причем
\Ь(х> у, l)\<C[l+\x-y\™(l+\l\*)MYl-
Отсюда видно, что Л (|) — ограниченный оператор, если 2Л/>п,
по теореме 1.1.
2°. Чтобы применить лемму 7.2, надо оценить нормы
| Л (I) Л* (т|) | и || Л* (|) Л (yj) ||. Оператор Л (£) Л* (г\) имеет ядро
C(jcf у, £, П) = (2л)-2й$е'<*-г. *>Ь(х, г, Йе-'^-2'1»^^ г, т|) dz. .
Представим г«*. ч-б) в виде £**'<*• п-&>, где L = [l+(1+i ^|2 +
4 InlVh-EI^Mi-tl+IEr + l^llVA*] и проинтегрируем по
частям. Заметим, что
|^1И^^1)Ь(^г,л)]|<С[1 + (1 + |||2 + |л12И|г|-ИТлх
х [1 Ч-! л: —^12А^(1 ~Ы&12)йл^1^Г1 Ч-!^/ —аг|2АЛ(1 Ч~! п 12)д^]-х-
По теореме 1.1 отсюда следует, что
\А(1)А* (т|)|<С(1 +1Б|2)-6/2(1 +1 п \*Уп6/2 X
xfi+-(i+IEI2+hl2)-6h-il2]^ (7.6)
Также оценивается норма оператора А (£)* А (ц), имеющего ядро
(2я)-2л \ е< (*-*^Ь(г, к, 6)е*«*-* Щ (z, у, г\) dz,
так что
\А (I)* А (ту К С (1 +11 |2)-"в/г (1 + h 12Гпв/2 х
х [1 + (1 +1 & |2+1 ч |8)-* \ц-1 П-*. (7.7)
3°. Оценим теперь $|Л (£) Л* (л)!172*!- Для этого разобьем
область интегрирования на три части: Qi = {ti; | л 1^(1 +i£|)/2},
Q.= {ti; h|^2(l+ll|)}, Q,-{ti; (1 + |£|)/2<|т,|<2(1 + |Ш-
В области Qi имеем
i+(t + lll2 + hl2)-eh-S|a^Co(H-|i|2)l-e, ce = const>0.
Поэтому
liA(&)A*(i\)Ftdr\<zCl 5(1 + 1Е|2)-*(1-в)/Мл^
<C,(l+hP)I',-*(1-e),/2. (7.8)
В области Qa
i+a+iip+iriivirt-ip^c^i+iriiv-»

120 ГЛ. II. ПСЕВДОДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
и потому
$M(EM*(4)|1/ad4<C8 SO+hl1)-^1-^1*!. (7.9)
Наконец,
$М(6М*(Ч)р/1А,<
я.,
<; С4 J [1 + (1 +1112)-611, - 512]'*'2 О +1Б 12)-лб/а *i- (7.10)
Интегралы в правых частях формул (7.8), (7.9), (7.10)
ограничены равномерно по |, если п < /г (1—6).
В силу (7.7), интеграл $| A (£)* A (i\)\1/2dr\ оценивается точно
так же. Поэтому теорема доказана для s = m = 0.
4°. В общем случае, пусть Л — оператор с символом (1 +1112)1/2,
так что 1и|, = |Л5и|0. Тогда неравенство (7.5) может быть
записано в виде
| A'hAu j|o < СI Л'+»и |'о, аеС (R").
Ясно, что эта оценка справедлива в том и только в гом случае,
когда она верна для всех и из пространства $. Далее, если
ие1, то и = Л^е! и поэтому неравенство (7.5) эквивалентно
неравенству
|Л*ллл-^|0<;СН1о. (7.П)
Но по теореме 7.1 оператор AshAi\rs~m имеет символ из класса S§
и поэтому неравенство (7.11) справедливо в силу доказанной
выше части теоремы. □
Замечание 7.1. Отметим, что в действительности мы ис*
пользуем лишь конечную гладкость символа оператора А.
Например, в том-случае, "когда m = 0, s==0, достаточно было
предположить, что существуют производные д|д*а(х, £) при \a\^2N
и | |S | <; 2fe, где N и k — такие целые числа, что 2N > /г, k (1 — 6) >
>/i, и для этих производных справедливы оценки

ГЛАВА III
КРАЕВЫЕ ЗАДАЧИ
ДЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
В этой главе мы покажем, как решаются краевые задачи для
линейного эллиптического дифференциального уравнения
произвольного порядка. Общий подход состоит в том, что эти
уравнения хорошо аппроксимируются соответствующими уравнениями
с постоянными коэффициентами, для которых проблема описания
корректных краевых задач сводится к простому алгебраическому
вопросу. В § 3 мы излагаем другой подход, основанный на
сведении задачи к решению псевдодифференциального уравнения на
границе области. При этом краевая задача оказывается
корректной в том и только в том случае, когда псевдодифференциальное
уравнение на границе является эллиптическим.
§ 1. Уравнения с постоянными коэффициентами
^ в полупространстве
1.1. Рассмотрим вначале краевую задачу специального вида:
P(D)u = f(x) при xn^0t п^З (1.1)
с условиями
Bj(D)u = gj(x) при *« = 0, / = 1, ..., р. (1.2)
Здесь Я (5) — однородный эллиптический полином порядка т,
т. е. такой, что выполнено неравенство
\P(l)\^Co\l\m9 co = const>0, SgsR,,,
и fx —число корней X уравнения Р(£\ А,) = 0, у которых мнимая
часть положительна. Это число не зависит от вектора £' —
= (£ь ..., ln-i)> меняющегося в пространстве Кл-ь поскольку,
в силу условия эллиптичности, уравнение Р(£', ЗС) = 0 не может
иметь вещественных корней при Ъ'ФО. Предполагается, что
порядок trij дифференциального оператора Bj не превосходит т— 1.
Краевая задача (1.1) —(1.2) не является корректной при
произвольных операторах Bj(D). Мы будем считать в этом параграфе,
что полиномы Bj(l) однородны по £ степени rrtj. Мы увидим
также, что эти полиномы должны удовлетворять некоторым
специальным условиям, которые называются условиями ЛопатинскогОщ

122 ГЛ Til. КРАЕВЫЕ ЗАДАЧИ ДЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
Опишем эти условия. Для этого рассмотрим следующее
обыкновенное уравнение с постоянными коэффициентами:
Его общее решение имеет вид
/ = 1 /=:0
где Къ ..., А,,— корни характеристического уравнения, кратность
которых равна vb ..., vr и Vi + ... + v, = m. Однако нас
интересуют лишь те экспоненты, которые являются образами Фурье по
переменным х' распределений в полупространстве хп>0. Тем
самым мы отбираем корни Хь ..., Х,Го, у которых ImX/>0.
Подставляя сумму вида
го V/-J
v(i\ х»)- 2 2 */i №') (*")'«*МГ) (1 .з)
в условия
мы получим линейную систему \х уравнений относительно (и
функций cjit где (х « vi -j-... -f vro — число корней характеристического
уравнения с положительными вещественными частями с учетом
их кратности. Условие Лопатинского и состоит в том, что эта
система линейных уравнений должна быть однозначно разрешима
при любых вещественных векторах £' Ф 0 и любых функциях
gi* •••> SV- Ясно, что условие выполнено тогда и только тогда,
когда определитель порядка ц, составленный из коэффициентов
при Cju отличен от нуля.
Пример 1.1. Для эллиптического уравнения второго порядка
с вещественными коэффициентами число ц всегда равно 1, и
потому должно быть задано одно краевое условие В(х, D)u = g(x).
Если порядок т оператора В равен 0, то оно имеет вид Ьи =
= g(x)t и условие Лопатинского означает, что ЬфО. Эта задача
называется задачей Дирихле.
п
Если же т=1, то условие имеет вид ]>]b/Dju = gf и условие
Лопатинского сводится к неравенству ЬпфО.
Будем говорить, что задача (1,1) —(1.2) поставлена корректно,
если выполнены следующие условия.
Iе. Пространство решений и задачи
P(D)a = 0 при хп^0\
Bj(D)u = 0 при х»«0; /«1, ..., р *I,4)

§ 1. УРАВНЕНИЯ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ 123
из класса #m(R+) имеет конечную размерность, причем
существует такая посгоянная С, что
llm—m — 1/2 + No) (1.6)
для уеЯт(К+).
u
2°. В пространстве вектор-функций CS°(R+)x JJ C^R""1) суще-
ствует подпространство L, дополнение к которому конечномерно
и такое, что если (/, gi,...,^) eL, то задача (1.1) —(1.2) имеет
решение и из #W(R+).
3°. Множество {(Р (D) и, y^i (£>) и»..., уВ» (D) и)\ uezHm (R+)}
замкнуто в {#оШч-)х#т_т1_1/2
Здесь у — сужение на Плоскость яЛ = 0.
1.2. Теорема 1.1. Для того чтобы задача (1.1) —(1.2) была
поставлена корректно, необходимо и достаточно, чтобы
выполнялось условие Лопатинского.
Доказательство. Мы покажем, что априорная оценка (1.6)
не может выполняться в том случае, когда условие Лопатинского
не выполнено.
Допустим, что это условие нарушено при 1'^ЪоФ®* так что
существует функция v(xn), убывающая при ял-> + оо и
удовлетворяющая уравнению
P(to, Dn)v = 0 при хп>0
и условиям:
Я/(Бо. Dn)v = 0 при ** = 0, /— 1 |*.
Положим
их (х) = Ф1 {х') ф2 (*») еа(х'' l'oh {%x%
где Х>0, 9ieC(R71"1), ф>еСГ(К), причем |ф1ф2|<1, функ-
ция фхф2 равна 1 в некоторой окрестности о начала координат
в R».
Подставим их в (1.5):
lUx\\m^C^PUx\\o+j] \B,Ux\ + I"|o •
Пусть a = (ai, ..., a„_b 0) и |a| = m. Тогда
I&%.US*W*-1 \IФ1 (*')\*dx'\\v(012dt- C^2*-3^c\\im-\
если % достаточно велико. Поэтому
|Ил1«>йЛт-ж/*. со>0,
С другой стороны, ясно, что Jw^J^const,

J24 ГЛ. III. КРАЕВЫЕ ЗАДАЧИ ДЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
Поскольку Р(D)[etK(Xt^'oh(kxn)] — 0, мы получаем, что
|P(DKIo<C,X*-\
и аналогично, из равенства Bj (D) [е0" <*'' l'»h (hcn)] = 0 при #л = 0
следует, что
Таким образом, если неравенство (1.5) выполнено для всех
функций Ui$ ТО
с0%т^2 < (С2 + С8) Ь™-1 + С4,
что невозможно. Полученное противоречие показывает, что
неравенство (1.5) не может выполняться, если нарушено условие
Лопатинского.
Пусть u^Hm(R+) и является решением задачи (1.4). Пусть
v(l\ ^ — преобразование Фурье функции и по переменным х'.
Тогда, в силу (1.4), имеем:
Р(6\ Dn)v = 0 при хп>0 и Ву(Г, Dn)v = 0
при #л = 0, /==1, ..., \i. Если условие Лопатинского выполнено,
то общее решение уравнения Р(£\ Dn)v = 0 в классе L2(R+)
имеет вид (1.3). Поэтому из условия Лопатинского следует, что
у = 0 и, следовательно, а = 0.
1.3. Покажем теперь, что задача (1.1) —(1.2) имеет решение и
из класса #m(R+), если выполнено условие Лопатинского и если
/e=L2(R+), ftsff^.,^), причем
|aU<*(|/fe + |] Iff/I
m — thf—1/2
Продолжая функцию / до функции из L2(R"), мы получим
эллиптическое уравнение P(D)u — f с постоянными
коэффициентами в R", рассмотренное нами в п. 4.3 гл. I. Такое уравнение
всегда имеет решение их в классе Hm(Rn). Замена у = ы — иг
сводит задачу (1.Д) —(1.2) к задаче
P(D)y = 0 при хл>0,
Bf(D)v=*h, при *"=*(),
где ft/ — в> — Y#/ (#) «1 в Нт-тгт (К'1*1), причем
|ftyim-m/-i/2<Ig>Im-m/-l/a + Ci|/Id.
Применим теперь преобразование Фурье по переменным #',
полагая
v (£', x») = \v (x) e-*'V dx\ hj (ff) * [hj (*') «-**'*' dtf.

$ I. УРАВНЕНИЯ С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ *25
Получим обыкновенное дифференциальное уравнение
P(l', Dw)S = 0 при хп>0 (1.6)
с условием
.ВУ(Г, Dn)v=hj при *»«0, /=1, .... ц. (1.7)
В силу условия Лопатинского линейное пространство решений Ъ
уравнения (1.6), экспоненциально убывающих при хл-^ + °°,
имеет размерность \i и отображение
взаимно однозначно. . Следовательно, задача (1.6) —(1.7) имеет
единственное решение в указанном классе, и поскольку это
решение убывает экспоненциально, так же как и его производные,
справедливо неравенство
т оо ~ т—1 • ц
2 l \D'nv\Ux"+ 2 Id's(£\ о)Г<с,(б')£ IMS')Г,
/=0 0 /=*0 / = 1
так что
т оо m«— 1
/ = 00 / = 0
;с(Г)
оо
$|f(6\ *«)|2d*« + 5] |#,(Б').
О / = 1
где функция С (£') непрерывно зависит от £'. Если С0 = max С (£')
при ]£'| = 1, то можно заключить, используя однородность, что
т оо т — 1
/=0 0 /=0
:C0u if (Г. *")i»d*»+2 16Ч2(т~т',~11&(1')11 .
vo / = i )
Добавляя к левой и правой частям интеграл $ | v |2 dxn и
интегрируя полученное неравенство по £', мы получим при m>m,]
оценку
1№ + »с(*'> 0)|^«i/a<Co(|f|8+ Sl*/BW-«,-i/a + l»B)- (!-8)
Эта оценка показывает, что задача (1.1) —(1.2) поставлена
корректно. О
1.4. Задача (1.1) —(1.2) имеет очень специальный вид и
интересна лишь как первый шаг на пути построения параметрикса
общей краевой задачи для уравнения с переменными
коэффициентами.

1^Ь ГЛ. III. КРАЕВЫЕ ЗАДАЧИ ДЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
Обозначим Н прямое произведение пространств LaflRj) и
Ят-т/-1/2(Кя-1) при /=1, ..., \i. Пусть A: Hm(Rl)-+H, так что
Аи = (Ри, уВги, ..., уВуЦ). Тогда левым (соответственно, правым)
параметриксом краевой задачи
Pu = f в RJ, Blu=gli ..., BpU^gp при хл = 0
называется такой оператор £: Я-^ЯШ(К;), что
ЕАи = и + Ти, uesHmiRl),
(соответственно, AEf = f + Tif, f^H)
где 7 и 7\ — компактные операторы, соответственно, в
пространствах #„,(|R») и Я.
§ 2. Краевые задачи для уравнения
с переменными коэффициентами
2.1. Рассмотрим теперь краевую задачу для эллиптического
оператора Р (х, D) порядка m в произвольной ограниченной
области Q пространства R* с гладкой границей dQ. Мы будем пред-,
полагать, что граница dQ состоит из конечного числа связных
компонент, а п^З.
Число граничных условий ц определяется для каждой
связной компоненты границы как число корней т уравнения Рт(х, £*+
4tv*) = 0 с положительными мнимыми частями, где v* —
единичная нормаль к границе, направленная вовнутрь области Q,
а вектор ^ — касательный к границе в точке х. Поскольку это
уравнение не может иметь вещественных корней, число \л не
зависит ни от точки х, меняющейся вдоль связного множества, ни
от вектора L>
Будем говорить, что граничные условия Bj(x, D)u=fj(x) для
х е 3Q, / = 1,..., fx, удовлетворяют условию Лопатинскрго в точке
xQ&dQ, если эти условия выполнены для системы операторов
(Р (х0, D), Bi(x0, D), ..., Bjx^o, D)) в локальной системе
координат, в которой точка х0 совпадает с началом координат, а
уравнение участка границы имеет вид хл = 0.
Теорема 2.1. Пусть для краевой задачи
P(x.D)u=*f в Q, (2.1)
Bj(x, D)u = gj при *edQ, /= 1, ..., |ы, (2.2)
выполнено условие Лопатинского, и пусть известно, что f e L2 (Q),
gj& Hm-mf-\/2(dQ). Тогда существует правый параметрикс
Е: Я-+Ят(Й), г*Я«Я0(О)хЯж^|1.1/1(ЭО)х...хЯт^да|4-1/2(ЭОк
и татп постоянная С, что если и = £ (/, gu ..., £ц), то
HW<c(l/!o+ 21 \В/\т-т,-х* + \иЬ\- (2.3)

§ 2. уравнения с Переменными коэффициентами 127
Доказательство. Пусть б>0 — положительное число и
6 = 8(е) таково, что значения коэффициентов операторов Рт и В)
отличаются не более, чем на е/2 в каждых двух точках из Q,
расстояние между которыми меньше 6.
Пусть фу <=CS°([R"), Фу^О, £фу(*) = 1, диаметры носителей
функций фу не превышают 6/2 и в каждой точке х не более, чем N
функций фу отлично от нуля Рассмотрим также набор функций г|>,
где \|>у > О, % е CJJ° (Rn), причем % = 1 в supp ф,. Обозначим supply
через coy. Будем считать, что diamo)y<:6/2.
Не ограничивая общности, мы можем считать, что в том
случае, когда окрестность coy имеет общие точки с границей dQ,
в этой окрестности можно ввести локальные координаты {/\ ...
..., уп, в которых часть границы дй, попадающая в шу, имеет
уравнение */л = 0, а соу лежит в области уп>0.
Если окрестность со, не имеет общих точек с границей dQ, то
мы выберем произвольно точку Xj из со, и построим параметрикс £у
для оператора Р(х/, D) с постоянными коэффициентами во всем
пространстве.
Если же окрестность со, пересекается с dQ, то мы выберем
точку xj из G)yf)dQ и систему локальных координат у1, .. , уп
так, что точка *у является их началом, граница coyf|5Q имеет
уравнение j/" = 0 и область юу лежит в полупространстве #л>0.
Построим параметрикс для краевой задачи
Р(х/, D)a=/ при (/*>0,
В^яу, D)u=*gl при (/Л = 0, / = 1, ..., [г,
как это описано в § 1. Возвращаясь к прежним координатам xf
мы получим оператор Еу, обладающий тем свойством, что если
положить
Иу = Яу(г|)у/, ypfgu ..., %^),
то
Pm(xj, D)u, = tyf + Tf(f, g1% ..., ^д,
В?(*/. D)Uj = qJgt + Tu(f, gu ..., g^), / = 1, ..., |if
где TfeL(H, Яг(Й)), T1}ezL{H, //„_«,+1,2 (3Q)).
Положим теперь £0 = 1] Ф/£/Фу- Ясно, что это линейный
оператор и £0 е L (Я, Hm(Q)). Далее, если F = (/, gb ..., ^)еЙ,
то мы положим u — EqF Тогда
/>(*, D)a «£/>(*. D)<pfE№F = £<pjP(x, D)ErtjF + TxF =
~2<P/Pm(xh D)Efxp/F+y^f\P(x, D)-Pm{xh D)]Ert/F + TxF =
= S <P/4v/ + 7V7 + T3F «f + r2f + T3F,
где 7\ и 7г —операторы из L(Hy #i(Q)), Тд е L(#, La(Q)) и
[ТзЦ^С^е, причем d не зависит от е.

12В ГЛ III КРАЕВЫЕ ЗАДАЧИ йЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
Далее, в точках границы д£2
Bi (*, D)u = ZBl (д, D) yjE^jF = V 4>JBl [x, D) EfljF + TaP =
= Z<PjB°i(xj, 0»^ + 2фЛВ/(^ D)-B](xj9 D)]EfljF + TnF =
= S <MV£/ + TnF + Tl3F = gl + Tl2F + Ti9F9
где Tn . и Ti2 - операторы из L (Я, Ят__т/ + i/2 (<?й)), Г/3 <=
<=L(H, Hm-m i/2 (5Q)) и || Г/311 ^ С>, причем С/ не зависит от е.
Итак, если /IeL(Ят(Q), Я), причем Лы = (Ри> уВцл,..., у^и),
то
AE0F = F + TF + T'F9
гдеГе=1(Я, Я'), ГеЦЯ, Я), Я'= //i(Q)xWw_W|+1/2(aQ)x.,.
...хЯт-_т + t/2(dQ), a IT'l^Cos. Отсюда следует, что если е
достаточно мало, то оператор Е = £<>(/ + 7")~1 является правым
параметриксом краегоЗ задачи.
Неравенство (2.3; вытекает непосредственно из построения
параметрикса, поскольку E^L(H> Hm(Q)). □
Замечание 2.1. Из доказательства видно, что операторы
Р — Рт и В/ — В/ не обязаны быть дифференциальными. Если эти
операторы принадлежат классам L(Hm(Q), Hi(Q)) и L(Яm(Q),
ffw_m/+ i/2 (dQ)) соответственно, то наше построение параметрикса
остается в силе.
Замечание 2.2. Из доказательства видно также, что наши
построения проходят и в том случае, когда оператор Р
определен на компактном я-мерном многообразии с краем, причем этог
край является гладким многообразием размерности п~1 и
операторы Bt определены на этом граничном многообразии.
2.2. Покажем теперь, что краевая задача (2.1) —(2.2) может
быть изучена и в том случае, когда / е Hs-m (Q), gt e Hs~mi-i/2 (dQ)
для любого вещественного s, s> max my+1/2.
Теорема 2.2. Параметрикс, построенный выше, является
оператором, действующим из пространства
H&{Q) = Hs(Q)xH9+m-nh-m{mx...xHs+m-m -i/2(dQ)
в Hs+m(Q) при любом вещественном s, s>maxmj + 1/2 — m. При
этом, если u = E(f, gb ..., g-ц), то
Доказательство, 1°, Рассмотрим вначале задачу (1.1)—(1.2)
в полупространстве.
Пусть F = (f, gu ..., ^ — вектор из H{s) (Й). Пусть Л5
—псевдодифференциальный оператор, действующий на функции от п — 1
переменных х1, ..., хп^ с символом (1 +Si +... + |л-0*/2. Вектор
'Л,/7 содержится в Я и потому £Л/еЯ„,(Й). Однако Л,Л=*ЛЛ,

§ 2. УРАВНЕНИЯ С ПЕРЕМЕННЫМИ КОЭФФИЦИЕНТАМИ
' 129
и потому EAS = ASE> так что Е = АЯ1ЕАЛ и, следовательно,
функция u = EF такова, что Л^еЯш(К5).
Пусть 0<s<;l. Тогда отсюда следует, что D}nD'au^Hs(Ul)
при |а|<т —/, т>]^\. В силу равенства Pu=f e ЯДК")
отсюда следует, что D%u^Hs(Rl), и потому «Gff^(IRj).
Если 1 <s^2, то по доказанному Л^и eflw+1(Rj), и,
повторяя то же рассуждение, получим, что и е Hm+S (Rj) и т. д.
Таким образом, оператор £ €= L (Ж*> (R*), tf,+w([R£)). .
2°. В случае произвольной области £0 = 2 Фу^/Ф/» где £)е
е L (#<J) (й), Я*+т (Q)), как мы видели при доказательстве
теоремы 2.1. Следовательно, £0si(H{s)(й), Hs+m(Й)). Поскольку
Е-Ео(1 + Т')-\ где Ге1(Я^(Й), /У<*>(0)), |Г|<Сов (см.
доказательство теоремы 2.1), мы получаем, что £sL(№(Q),
Я,+т(Й)). D
Следствие 2.1. Если условие Лопатинского выполнено, то
решения однородной краевой задачи: Ры*=0 б й; Вуи=*0 на Г,
/ = 1, ..., |xt образуют конечномерное подпространство в С00 (Q).
Доказательство. Если Е — параметрикс, то£Л = / + Т,
и если Ли = 0, то а = — Ты, где Г —оператор порядка —1.
Отсюда следует, что единичная сфера в пространстве решений
однородной задачи компактна и потому это пространство
конечномерно. Из равенства и =— Ти следует, что если «бЯ5(Q)f)ker Л,
то и еHs+1 (й) и погому и <= П Я,(й), т. е. и еС00(Й). □
Следствие 2.2. £сла выполнено условие Лопатинского, то
область значений оператора А:' Я^m (й)->-Я(,у) (й) замкнута.
Доказательство. Если аеЯ^+ш(й), то по теореме 2.2
ЕАи — и + Ти, так что
<С1(|Ра|5+ 2 l^/ttU+m-mz-i/a + lttU-
V /«1 /
Из этого неравенства видно, что если щ&Н£+т(&), Рик = ?к&
€=ЯДЙ), Bjuk=gJk&Hi+m-.m/-w(dQ) и /*->f в ЯДЙ), gJk-+gj
в Я8+т-_т/_1/2(дЙ) при £-^оо, to {uk} сходится в Я,+т(Й)
к функции и и иеО(Д), Этим доказана замкнутость области
значений оператора А. О
Следствие 2.3. Если условие Лопатинского выполнено, то
существуют такие функции иь ..., vN из С00(Й) и WjX, ..., wjN
из С00 (дй) при / = 1, ..., |ы, что если f&Hs (й),
g/«#s+m-.ту-i/2(dQ), s>тахт;+ 1/2 — т и
q /~idn
5 Ю. В. Егоров . -

130 ГЛ. III. КРАЕВЫЕ ЗАДАЧИ ДЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
то существует решение и задачи (2.1) —(2.2) из Hs+m(Q), и
Доказательство. Из равенства АЕ = 1 + Т'> где 7" €
е!(Я^(й), #<*+1)(Q)), следует, что £М*=/ + Г*. Поэтому,
как и выше, мы получаем, что dim ker Л* <оо и ker Л* с П #(,s) (й).
S
Базис d, ..., GN в ker Л* определяет искомые вектор-функции
G/ = (ty, i^i/, ..., Шр,/), /=1, ..., Л'. Условия разрешимости
уравнения Au=F эквивалентны условиям ортогональности: (F, Gz)=0,
/ = 1. ..., N9 поскольку область значений оператора А замкнута
(см., например, Браудер [1]). D
Следствие 2.4. Пусть выполнено условие Лопатинского и
функция и из Я5о(й), где s0>maxmy+l/2, является решением
задачи (2.1) —(2.2). Если s>So и feff^(Q), gj^Hs-mrl/2(dQ)9
то u&fis(Q). В частности, если /еС°°(Й), g)eC°°(dQ), то
uezC°°(Q).
Доказательство. Поскольку Au = (f,gu ..., g1^), мы
получаем сразу, что u + Tu = E(f, gu ...» fo)eff,(U). Так как
оператор Ге1(^(й), #/+i(Q)) при всех t^s0, то отсюда следует,
что u&Hs(Q). D
§ 3. Сведение краевой задачи
к псевдодифференциальному уравнению
3.1. В этом параграфе мы изложим другой подход к
исследованию краевой задачи для эллиптических уравнений на примере
уравнения второго порядка. Этот подход во многом напоминает
метод потенциалов и позволяет свести решение краевой задачи
к решению интегро-дифференциального уравнения на граничном
многообразии. При этом условия Лопатинского оказываются теми
условиями, при которых получающееся уравнение является
эллиптическим.
Итак, мы рассмотрим сейчас краевую задачу
п п
Luzs 2 aJl(x)DJDlu+ ^lbI(x)DJu + c(x)u=f(x)9 *е=Й, (3.1)
i, * = i у-1
n
Bu(x)^ ^laJ(x)Dfu + ^(x)u=g(x)i xezdQ. (3.2)
/-i
Предполагается, что все коэффициенты операторов L и В являются
гладкими комплекснозначными функциями, определенными в Rrt,
S aji(x)Ui^Co\l\\ где со = const>0, Z |ay |2 + ] P|2^0.
3.2. Если гладкая функция v определена в области й, будем
обозначать ifi функцию, равную i/ в й и нулю вне Й, Уо —след

t 3, ОЩкЫтВ К ПСЕВДОДИФФЕРЕНЦИАЛЬНОМУ УРАВНЕНИЮ 131
функции v на dQ, v± — след производной v по направлению
внешней нормали на dQ.
Производные функции v являются гладкими вне dQ и могут
содержать функции типа 8(dQ) и ее производных. Чтобы
вычислить эти производные, удобно распрямить участок границы dQ
в окрестности рассматриваемой точки.
Пусть Хо — некоторая точка границы dQ и ** = 0 — уравнение
граничного многообразия в окрестности со точки xq и область
Q f) со находится в полупространстве хп > 0. Если v — гладкая
функция в Й, равная нулю вне со, то
Dnv° = (Dnv)° -{6 (xn)®v0 (*')> Djv° = (Djv)° при / = 1, ..., n - 1.
Аналогично вычисляются вторые производные:
D\xf> = (ОД° - б (xn)®vx (x') - 6' (xn)®v0 (*'),
DnDjv° = (DnDjv)»-ib{xn)®DjVo(x'), /=1, ..., л-1,
DjDlxfi = {DjDlv)\ /, / = 1, ..., n-1.
Пусть оператор L имеет в выбранной системе координат
следующий вид:
L(x,D) =
= D*n + 2l2iajn(x)D/Dn+ "fj */' (*)ВД+ 2 &7 (*> Я/+*(*).
Тогда из приведенных выше формул видно, что
Lv° (x) = (Lv)° {х) - б (хп) ® ух (*') - 6' (**) ® и0 (а:') -
л —1
-2/ 2 аУл(*) 6 (хп)®Djv0 (х') -*б {xn)®v0 (х').Ьл (х). (3.3)
/«1
Применим к обеим частям формулы (3.3) параметрикс Е для
оператора L, определенного во всем пространстве R». Пусть
& (х) = (2я)-л J * (х, I) v (£) ^ d£.
Тогда
Я (б (**) ® о; (*')) = (2я)-Л J e (х, £) 9) (£') е"* d£ =
- (2л)-"*1 \ к (jc, б') а (Г) **'*'«',
£ (6' (Xя) ® w (х')) - (2я)- J в (х, 1) (tin) w &') ё* dl»
-(fciJ-^jM*. 6') »(6'> **'*'«'.
где
*k (*. 6') - - к J U (x, I) fbdU,
б*

132 ГЛ. III. КРАЕВЫЕ ЗАДАЧИ ДЛЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ
Символ е(х, I) строится, как в лемме 3.1 гл. И, в виде
асимптотического ряда по убывающим степеням |||. Поскольку
L(x9 l) является полиномом второй степени от £, главные части
символов k и ki вычисляются достаточно просто. В самом деле,
при |||>1 главный символ е° параметрикса Е имеет вид
е»(х, 1)^\и + 21п 2 afn(x)lf+ £ *лШ&
где a (xt lf) и р (х> £') — корни полинома (е°)~г.
■Р)П
Таким образом,
-Р)
*.
«(* Б')-
2ш
;<£.-
'(bi-P)
По лемме Жор дана мы можем при хп>0 деформировать контур
интегрирования так, что он будет лежать в верхней
полуплоскости Imln^zO. Этот контур Г состоит из отрезка вещественной
оси и полуокружности и содержит внутри себя те точки £л=а
и £Л = Р, в которых мнимая часть положительна. Значения этих
интегралов при ял-* + 0 определяются вычетами
подынтегрального выражения в этих точках.
Задача (3.1) —(3.2) может быть корректной только в том
случае, когда ц=*1, так что мы должны предполагать,
например, что ima<0 и ImP>0. Такая ситуация имеет место,
например, если коэффициенты а# вещественны. Если lma<0 и
ImP>0 при всех х = (х\ 0) и ||'|>1, то
*•(*. &')-
i
a'
«tef)-^
Таким образом, применяя оператор Е к
венства (3.3) и полагая хп = 09 получим, что
ио + (Ти)0 - (Ef°)0 - Киг - Км -
(3.4)
обеим частям ра-
DyUo] — iK(bnti0).
(З.б)
Поскольку, в силу (3.4), \kP(xt £') |^С(1 +\1'\)~1 при |6'|>СЬ
оператор К является эллиптическим оператором порядка — 1 и
уравнение (3.5) может быть разрешено относительно н1э так что
иг — Aiio + Aif, и главный символ оператора А имеет вид i(—a^
— 2 2ауя|у). Подставляя результат в граничное условие (3.2):
я'—1

§ 3. СВЕДЕНИЕ К ПСЕВДОДИФФЕРЕНЦИАЛЬНОМУ УРАВНЕНИЮ 133
мы получим уравнение относительно и0 вида Puq=sF, где F —
известная функция, которая выражается через fug. Последнее
уравнение будет эллиптическим, если
<ь(х)(-а-2Яа1яЪ,) + 2а;(х)%,ф09 {е^.
Если, например, ajn и а/ вещественны, то это условие
выполнено при ап(х)фОу поскольку Im( — а)фО.
С помощью разбиения единицы подобное сведение задачи
к уравнению на граничном многообразии может быть проведено
в целой области Й. Для уравнения (3.1) с вещественными
коэффициентами и вещественного граничного условия (3.2) задача
оказывается эллиптической, если в условии (3.2) отличен от
нуля коэффициент при производной по направлению нормали
к 5Q.
3.3. Аналогичная конструкция применима и в случае задачи
(2.1) —(2.2) для уравнения порядка т. В этом случае на
границе задается \i условий, определяющих соотношения между
функциями и09 иъ ..., Hm-ь являющимися следами функции и и
ее производных по нормали до порядка т — 1 включительно.
Недостающие т — \л соотношений получаются из равенства типа
(3.3) после применения к обеим его частям оператора Е и
дифференцирования его т — ц — 1 раз. Условия Лопатинского в
данном случае эквивалентны условию эллиптичности получающейся
системы псевдодифференциальных уравнений на границе.
Указанный метод применим для исследования условий
разрешимости, для доказательства -теорем о гладкости решений
краевой задачи. Например, если задача (3.1) —(3.2) удовлетворяет
условию Лопатинского, то из теоремы 3.6 гл. II следует, что
при /1^=3 индекс этой задачи равен нулю, т. е. размерности
ядра и коядра этой задачи совпадают.

ГЛАВА IV
ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
Здесь рассматривается одна задача специального вида для
эллиптического уравнения второго порядка. В сущности, это
та же задача (3.t) —(3.2) из гл. III, но в том случае, когда
условие Лопатинского может нарушаться в некоторых точках
граничного многообразия. При сведении этой задачи к
псевдодифференциальному уравнению на граничном многообразии
получается уравнение главного типа, не являющееся эллиптическим.
В общем случае такое уравнение имеет бесконечномерные ядро
и коядро.
§ 1. Постановка задачи. Примеры
1.1. Пусть Q — ограниченная область в пространстве R", где
гс^З, с гладкой границей Г. В этой области рассматривается
уравнение
п п
LuES 2 "'Чх)^+2ьНх)^ + с(х)и~!(х) (1.1)
с гладкими вещественными коэффициентами. Предполагается, что
уравнение (1.1) эллиптическое, т. е. что
п
Ц а^(х)Ы^Со\1\\ c0 = const>0.
п
На границе Г задано гладкое поле /= У а/(*)ал7> которое мо-
/-1
жет касаться границы в точках, образующих непересекающиеся
гладкие подмногообразия Г01, ..., T0N размерности п — 2, но не
касается самих подмногообразий. Кроме того, допускается, что
поле / касается границы на.произвольных подмножествах
меньшей размерности, отстоящих от Г01, ..., T0N на положительное
расстояние.
Задача состоит в решении уравнения (1.1) при условии, что
Bu=slu + k(x)u*=g(x) на Г, (1.2)

$ 1. ПОСТАНОВКА ЗАДАЧИ. ПРИМЕРЫ 136
где / — гладкое поле: / =* JTj al (х) d/dxJ, а к — гладкая функция
на 1.
Отметим сразу же, что заменой u*=av со специальным
образом подобранной функцией а можно свести задачу к тому
случаю, когда & = 0. Для этого достаточно, чтобы выполнялось
равенство /а + & = 0. Если функция а такова, что с^а(х)^сгг>
> 0, то все дальнейшие рассуждения справедливы. Поэтому будем
в дальнейшем считать, что & = 0 и Bu^lu.
1.2. В зависимости от структуры поля / в окрестности каждого
подмногообразия Г0у это подмногообразие может быть отнесено
к одному из трех классов.
Пусть V —вектор единичной внешней нормали к Г. Каждое
многообразие Г0у является ориентируемым в Г с помощью поля /.
Пусть & = (/, v) — скалярное произведение двух полей и пусть
А — произвольная точка на Г0у. Если в некоторой окрестности
этой точки на Г функция Ь принимает отрицательные значения
с отрицательной стороны от T0j и положительные — с
положительной, то будем говорить, что точка А относится к первому классу.
Если, напротив, функция Ь принимает положительные значения
с отрицательной стороны от Г0у и отрицательные — с
положительной, то такую точку А отнесем ко второму классу. Наконец,
если функция Ь сохраняет постоянный знак в некоторой
окрестности точки Л, то точка А принадлежит третьему классу.
Нетрудно видеть, что любые две точки, принадлежащие одному
подмногообразию Г0у, всегда относятся к одному и тому же
классу, поскольку поле / не может касаться многообразия Г0у и
функция (/, v) отлична от нуля вне Г0/ в некоторой
окрестности Г0/ на Г.
Если изобразить поле /, заданное на Г\иГо/ стрелками,
направленными внутрь области Q, то эти стрелки будут
направлены в сторону подмногообразий первого класса и от
подмногообразий второго класса. В теории броуновского движения, в
соответствии с этой инте]рпретацйей, многообразия первого класса
называются притягивающими, а второго — отталкивающими.
Многообразия третьего класса называются нейтральными.
Важно отметить, что, добавляя к / поле jbv со сколь угодно
малым е, можно получить при соответствующем выборе знака е
задачу, удовлетворяющую условию Лопатинского, если на Г нет
подмногообразий первого и второго классов. Если же имеется
хоть одно такое подмногообразие, то никакая гладкая
регуляризация задачи невозможна.
Если продолжить поле / в окрестность границы Г в области Q,
то многообразия Г0 первого класса характеризуются тем, что
интегральные кривые продолженного поля в окрестности
многообразия Го имеют оба конца на Г. В tq же время для много-

136
ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
9
образий Г0 второго класса интегральные кривые продолженного
поля идут внутрь Q в обоих направлениях. Наконец, для
многообразий третьего класса один конец каждой интегральной кривой
лежит на Г, а в другом направлении интегральная кривая идет
внутрь области й.
1.3. Следующие примеры показывают специфику многообразий
из различных классов.
Пример 1.1. (А. В. Бицадзе). Рассмотрим в R3 шар Q =
= {*; (х1)2 + (*2)2 + (я8)2 < 1} и уравнение Лапласа Да = О в Q
с граничным условием DiU = f на <ЗЙ = Г.
В этом случае на Г имеется одно особое подмногообразие Г0,
принадлежащее первому классу. Будем искать решение краевой
задачи, удовлетворяющее дополнительному условию:
u=*g на Г0. (1.3)
Функция v = Dxu удовлетворяет в Q уравнению Лапласа, и
условие с/ = / на Г позволяет определить функцию v однозначно
в Q. Рассмотрим в плоскости экватора ^ = 0 краевую задачу
Fffi + Tffi=-W> U=SS на l0.
Поскольку функция v уже определена, эти равенства позволяют
однозначно определить и в той части плоскости экватора,
которая лежит в Q.
По известным значениям и в плоскости экватора и функции
v ** Diu в Q можно однозначно определить функцию и всюду в й.
Таким образом, рассматриваемая краевая задача однозначно
разрешима, если добавить условие (1.3). Без этого условия задача
имеет бесконечномерное ядро.
Пример 1.2. Рассмотрим теперь краевую задачу
Ди«0 в Й, Оха — / на Г (1.4)
в том случае, когда Q — область в R8, являющаяся внешностью
единичного шара, так что
Q «{*; х е= R», (х1)2+(*2)2+(я3)2 > 1}.
Добавим к условиям (1.4) условия на бесконечности
lim и (х) - 0, lim Dxu (x)- 0.
Х-»00 Х-*00
Как и выше, решая задачу Дирихле, найдем в Q функцию
v**D\U. После этого функция и находится в области Q по
формуле
\ lv(U x\ x*)dtt xl<0t
и(х)<
] lv(tt x\ x*)dt9 xl>0.

$ 2. ВСПОМОГАТЕЛЬНЫЕ ПОСТРОЕНИЯ 137
Чтобы функция и была непрерывна в Q, необходимо и доста-
оо
точнб, чтобы $ t; dx1 = 0 при (я2)2 + (jc8)2 ■■ 1, поскольку функция
— со
00
J v dx1 — гармоническая при (х2)2 + (*8)2 > 1 • Если воспользо-
— 00
ваться интегральным представлением решения задачи Дирихле:
я (*) =* И * (*» ^ ' ДО d# и ПРИ ^2 + (**)* ^ 1 положить
00
/Ci(x2, х3, #)= $ /С (х, #)djt\ то условие разрешимости примет вид
— 00
\\Ki(x\ A y)f(y)dSy = Q, если (х2)2 + (х*)2 ~ I. (1.6)
Таким образом, коядро задачи бесконечномерно, т.е. задача (1.4)
может быть решена только в том случае, когда функция /
ортогональна бесконечномерному подпространству функций.
§ 2. Вспомогательные построения
2.1.
Предложение 2.1. Для каждой точки, принадлежащей
многообразию Г0, существует система координат ух%..., уп с
центром в этой точке и такая, что. в некоторой ее окрестности поле I
совпадает с полем д/ду1, многообразие Г0 определяется уравнениями
j/i^O, j/n«0, аГ определяется уравнением yn***f{yx> ..,, у91"1),
причем /^0 для многообразия Г0 первого класса и f^O для
многообразия Г0 второго класса.
Доказательство. Пусть Р — произвольная точка,
принадлежащая Г0. Выберем такую систему координат s\ ..., s*
с началом в точке Р, для которой поле / в некоторой
окрестности точки Р совпадает с полем d/ds1.
Точки, лежащие на нормалях к многообразию Г, проведенных
во всех точках из Г0, образуют трансверсальное к Г
многообразие Nt имеющее вид s^cp^2, ..., sn). Положим
t1^s1-(p(s2, ..., s"), */-*', /=«2, ..., п.
В координатах t1, ..., tn начало совпадает с точкой Р, поле /
имеет вид d/dt1, а многообразие Г0 определяется уравнениями:
*i = 0, *»*!)(*» tn)\
Координаты у1, ..., уп выберем теперь так, что
0/-*А /*=1, ..., л-1; yn = t»-^(t* *«-*).
Ясно, что эти координагы удовлетворяют всем условиям. D

138 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
2.2.
Предложение 2.2. Существует разбиение единицы
JV + 1 _
2 %(a:)«1 таков, что г|5/®С°°(й), г|)лт+1=*0 в окрестности всех
/=i
многообразий Г0, а в носителе каждой из остальных функций
определена система координат у1, ..., уп, удовлетворяющая условиям
предложения 2.1 и /г|)у = 0 При /»1, ..., N в некоторой
окрестности многообразия Г0.
Доказательство. У каждой точки Р@Г0 существует
окрестность (ор, в которой определена система координат у1, ..., уп,
описанная в предложении 2.1. Каждая такая окрестность
содержит куб {у\ \yt\^a, /—I, .:., /г}, где а —положительное число,
зависящее от Р. Эти кубы покрывают многообразие Г0. Выберем
из них конечное покрытие соь • ••» ю#. В каждом из выбранйых
Кубов (D/ ПОСТрОИМ фуНКЦИЮ 9у S СГ (<0у), ПОЛОЖИТеЛЬНуЮ ВНуТрИ (О/
и такую, что dbjldy1^^ при (#Т + ({/Л)а<а2/4. В координатах я
функции 6у соответствует функция %(х), положительная внутри
образа куба ©у и такая, что /ф/ = 0 в некоторой окрестности
многообразия Г0. Положим теперь г|эу (х) = фу (а:) 2фа(х) в тех
N
точках, где 2 ФлМ^О» и ♦/М"0 в остальных точках. Если
AT
положить г|)лг+1 (*) = 1 — У\ %(*)» то получим искомое разбиение
единицы. □
2.3.
Предложение 2.3. Пусть Q'czQ и пересечение Г"
границы Q' с Г является гладким многообразием, причем Г'czVczT.
Обозначим В оператор взятия следа на Г или оператор вида
п
У Л'^у + Л°, в котором коэффициент при производной по нор-
жали отличен от нуля. Пусть т —порядок оператора В (т = 0
ила 1). Тогда справедливы следующие утверждения:
I. Если ut=Ht (Й), Lu = f<aHs(Q) uBu*°*g<= Я^+з/2 (Г"), где
s>m — 3/2, то иг'Я*+я(&')» и существует постоянная С,
независящая от и, для которой
14^<G(lLnls + I^m + 8/a + i«l0).-
II. Еслис^тН$(Я), g&Hs-m+z/i{T"), то существует такая
функция с; @ Я,+2 (&')» что Lv*~f — ft в Q\ Bv=*g—gt на T%
и существует постоянная G, ж зависящая от f и g, для которой
т + в/a^*

§ 3. МНОГООБРАЗИЕ ПЕРВОГО КЛАССА - 139
Доказательство.
I. Пусть heC°°(Q) — такая функция, что h=\ в
окрестности Q' и /i=0 в окрестности множества Г\Г*. Тогда
L(/iw) = A/r + L1(tt) в Q,
B(hu) = hg + B1(u) на Г,
где Li — оператор порядка 1, а Вг — порядка т—\. Таким
образом, L(hu) = |i£ Ht-i(Q) U Я,(Q), Я(Ли) - ft еЯ,-ш+3/2 (Г) U
и^/-т+1/2(Г). По теореме 2.2 из гл. Ill hu е Ят (Q) U Hs+2 (Й) и
справедлива оценка
|tol<cOVL+l^f-lll+^+l«lr-i)t
где *' = min(*-|-l, s+2).
Если t^s+U то теорема доказана. Если же <<s+l, рас
смотрим функцию /iieC°°(Q), равную 1 в некоторой окрестности
множества Q' и равную 0 вне того множества, на котором /i=l.
Тогда L(hiu) = hif-\-L2(hu) в Q, B(h1u) = hxg +B2(hu) на Г, где
L2 — оператор первого порядка, а порядок В2 равен m — 1.
Поэтому L (hxu) = U<=Ht (Q) U Я, (Q), В (М = g2 е= Я,-м з/2 (Г) U
уЯ^_т+3/2(Г). По теореме 2.2 из гл. III получаем, что hxu e
е Я/+2 (й) (J Я.у+2 (Q), и справедливо следующее неравенство:
I htu У < С (| hj/ U + II hxg f_ m+a/a +1 и llr -1),
где f = min(/ + 2, s + 2).
Если t^sy то теорема доказана. При t<s рассматриваем
новую функцию /i2eC°°(Q), равную нулю вне того множества,
на котором h = 1, и единице в некоторой окрестности
множества Q', и т. д.
II. Продолжим g до функции из Я.у-ю+з/г (Г). Краевая задача
Lv = f в Q, Bv = g на Г может быть и неразрешима, поскольку
функции (/, g) должны быть ортогональны коядру задачи, т. е.
дополнению к области значений оператора (L, В). В силу
следствия 2.3 из гл. III это коядро состоит из бесконечно
дифференцируемых функций и проекция (/ь gi) вектора (/, g) на это коядро
такова, что
т -f 3/2 ^
при любом вещественном /. Краевая задача
Ly = f-/i в Q, Bv = g — gi на Г
разрешима и решение у принадлежит пространству HS+2(Q). □
§ 3. Многообразие первого класса
3.1. Предположим, что Г содержит одно гладкое
подмногообразие Г0, на котором поле I касается границы Г, и что это
многообразие принадлежит первому классу. Покажем, что тогда

140 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
задача (1.1) — (1.2) становится фредгольмовой, если добавить новое
условие:
u~uo на Г0. (3.1)
Таким образом, задача (1.1) —(1.2) имеет бесконечномерное
ядро, изоморфное пространству функций щ на Г0 с точностью до
конечномерного подпространства, и, кроме того, даже при
бесконечно гладких функциях / и g задача (1.1) —(1.2) может при
любом s иметь решение, не принадлежащее пространству HS(Q).
3.2. Пусть Р — произвольная точка подмногообразия Г0 и
У\ • • • i Уп — система координат в окрестности Up этой точки,
введенная в предложении 2.1.
Обозначим d диаметр окрестности Up и будем считать d малым
числом. Каждую точку окрестности Up можно соединить с
плоскостью у1 = 0 отрезком, параллельным 0#\ целиком лежащим в Q
и имеющим длину ^Cd.
Лемма 3.1. Для каждого е>0 найдется такое d, что если
диаметр окрестности Up равен d, функция u^Hs (Q) при s ^ 0
и и(х) = 0 вне Up, то
Uu(tf x')dJ|<e|a|,. (3.2)
Доказательство. Пусть \u(t, x')dt = v(x). Определим
о
норму || w ||о, s как (J I w ||s2 dx1)1'2, где | • Ц — норма в Hs (R*-1). Ясно,
что
IvI<С(2 IDPlo.#-i +1 DivU + lvId].
Оценка (3.2) при s = 0 следует из неравенства Коши — Буняков-
ского, если e = d. Аналогично
п
2 l^k*-i<C1d|i«|f.
По теореме 3.13 из гл. I (которую можно применить к
функции и после продолжения ее на все пространство с сохранением
нормы в Яу), для любого 6>0 справедлива оценка
|uU-i<8|aU + Ce|i>|o.
Таким образом, объединяя все эти неравенства, получим
.|оЬ<С(С^|и|, + 8|иЬ + Св|о|о + |о|оХ
<(CCid + e)|a|, + C(Ce+l)d|ttb<[CCid + e + C(Ce + l)d]|a|f.

§ 3, МНОГООБРАЗИЕ ПЕРВОГО КЛАССА
141
Если 8<е/2 и d настолько мало, что йС(Сг + (С^+ 1))<е/2, то
отсюда следует, что ЦоЦ^еЦиЦ,. □
3.3. Лемма 3.2. Пусть Up — окрестность точки РеГ0
диаметра d и у —(у1, ..., уп)—координаты в UP, о которых гово*
рилось в предложении 2.1. Пусть Au = (Ll — lL)u и R (/, g) —
параметрикс для задачи Дирихле для оператора L в области Up.
Пусть
Vх
Sw = $ w (t, у') dt9 B0w = R (Aw, 0)
о
(т. e. LBw = Aw + TxAw в UP\ BQw = T2Aw на dUP, где Тг и
Тъ —операторы порядка —1). Если d достаточно мало, то
B0Sw==B1w + B[w> (3.3)
SB0w = B2w + B'zw, (3.4)
где Si и В« действуют из HS(UP) в Hs(Up) и имеют норму
меньше 1/2 (при соответствующем выборе нормы в пространстве
Hs(Up))> а операторы В\ и В* переводят элементы пространства
HS(UP) в HS+1(UP).
Доказательство. Не ограничивая общности, можно
считать, что Up является выпуклой областью с гладкой границей,
а оператор А является однородным дифференциальным оператором
второго порядка, поскольку младшим членам соответствуют
в представлении (3.3) — (3.4) операторы В) порядка —1.
Преобразование независимых переменных # = zd переводит
область Up в область единичнбго диаметра, для которой
операторы Во и S ограничены:
|Во|<Сь IS |<Clf (3.5)
где постоянные Сг и С2 зависят только от максимальных значений
коэффициентов операторов L и I и максимальных значений первых
производных этих коэффициентов.
Для простоты будем считать s целым положительным числом,
s
так что \uj$= %\\ОЩ1 где -
/-о
Up I a I - /
Пусть L' — образ оператора L при преобразовании y = zd.
Оценки (3.5) сохраняются, если рассмотреть оператор d2L\
параметрикс для которого равен Rd = d-2R'u, где R' соответствует
параметриксу R для оператора L в координатах г.
Отсюда следует справедливость оценок
\D*R'(Aw, 0)Ь + <Н|Я'(4о>, 0)!о =
= <H\DlRa(Aw9 0)l + d-*\Rd(Aw, 0)к<
< Cdr* (\\Dlw ||0 +1 w ||0) ^ Сг (||D> ||о +1 dr*w |d).

142 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
Аналогично проверяется, что
l&Swlo + d-tlSwlo^CbdqD'wlo + d-slwlo).
Пусть теперь d настолько мало, что CiC^d<i\l2 и нормой
пространства Hs является сумма |D*w|o + d-*|w|o. Тогда ||fii||<
<1/2, |В,|< 1/2. П
3.4. Д^мма 3.3. Если d достаточно мало и функция и, при-
надлежащая пространству tf5+i(Q), равна нулю вне Udt edeUd —
окрестность точки РеГ0 диаметра d, то при s> 1 /2
справедливо неравенство
l«lf+|faU+|tt|.n<
^ С (»/.а |^2 +1 /Z.a B^.a +1 Z.a llJl.2 + Р /w ||F_ 1/2+H«llfl-i/2 +1 w J0), (3.6)
где П — пересечение плоскости у1 = 0 с окрестностью Ud>
а постоянная С не зависит от и.
Доказательство. Пусть u(x)=v(y)9 где {/ — координаты,
введенные в предложении 2Л. Положим Lu = fn u = w при уг=0.
При ух = 0 оператор L представляется в виде Li + L2 (^~т)> гДе
Li — эллиптический оператор второго порядка, действующий по
переменным j/2, ..", уп> a L2 —оператор первого порядка.
Функцию до —след функции и на плоскости у1 = 0 —можно
рассматривать как решение задачи Дирихле:
Lxw~f-U(^ вП,
w = «о при уп = 0.
Поэтому при s>l/2 имеет место оценка
|w^<Cx(|/i|^3 + |^^1 + |iisf^i/s + |tt!k)- (3.7)
Дифференцируя уравнение Lv=*f по у1, получим равенство
1®
& + *".
где Л—дифференциальный оператор второго порядка. Обозначим
след функции dv/dy1 на Г через g.
Снова используя оценку решения задачи Дирихле, получим
неравенство
<c8(|^.L2+ii»b+|g|f_,/2+|f!o). (3.8)
Применяя лемму 3.1, получаем, что при достаточно малом d
\vK\v-wl + \wl^,t\dv/dyl\, + [w\,.

§ 3. МНОГООБРАЗИЕ ПЕРВОГО КЛАССА 143
Объединяя это неравенство с (3.7) и (3.8), приходим при
C3d<l/2 к неравенству
IIH <с* (1^и+|*^^+,^-|/2+|/|?-2+|с'10)'
После этого из (3.7) и (3.8) получаются оценки для \v\s
и |*|? = |»L- п
3.5. Лемма 3.4. Пусть и е Hs+i(Q) и и = 0 вне d
—окрестности многообразия Г0 первого класса. Если d достаточно мало
и $> 1/2, то существует такая постоянная С, что
< С (| Lu 1,-2 +1 Ни U +1 Lu |*L2 +1 lu f_ i/2 +1 и |Jl i/2 +1«|0).
где N— многообразие у определяемое уравнением у1 = 0 в системе
координат у из предложения 2.1.
Доказательство. Воспользуемся специальным разбиением
единицы из предложения 2.2. Для каждой функции wtyk
справедливо неравенство (3.6). Ясно, что
2 | L (тЫ |,-2 < 21 ^Lu 1^2 + Сг || и IU < С, (| Lu U +1 ti U
k k
2 i /l и>л) u < 21 %La ь-*+2 ilA ik)u u <
& k k
< c8 21 v^ u+21л (*)/w u-«+сз i" iu-x <
2iL(^)is%-2i^^i-2+2i^(^i-2<
« л ft
<CB0ba|fL2 + |ttL-i^)<Ci|Ltf|^a+8|Mb + C8|tiU-i-
Поэтому
ft
<C(|LaU + |/L«U + I^lls^2 + iglLi/2 + !"ol!^ □
3.6. Теорема 3.1. Если tt£flm(Q), d>0 — достаточно
малое число и s>l/2, mo существует такая постоянная С>0,
не зависящая от и, что
С^иЪ+\1фи)1 + \НиГ)<>
+ [ u0 ft-i/a +1 и Ь < С (|| а Ь +1 / (hu) I +1 /ш Г), ' (3.9)
где f = Lu$ g = /u на Г, ц0 = и на Г0, /ieC°°(Q), причем ft=-=l
в (d/2)~0KpecmH0cmu многообразия Г0 и Л = 0 вне d-окрестносщц
это$о многообразия. *

144 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
Доказательство. Обозначим через йб при б>0
множество точек из области Q, отстоящих от Г0 на расстояние больше
б, и через Га — пересечение ГП&6.
Поскольку поле / не касается границы на Г^/4, в силу п. I
из предложения 2.3, справедлива оценка:
С другой стороны, по лемме 3.4 имеем
! hu I+1 / (hu) I+[ hu |f < C« 0 Мм |U +1 IhLu |^+\hLu f-2 +
Поэтому
+ |A^lLi/2+Ho«Fli/2+||w|o). □
Следствие 3.1. Пространство решений однородной задачи:
Lu = 0 в Q, 1и = 0 на Г, а = 0 на Г0 конечномерно.
Следствие 3.2. Обозначим через ПДО) пространство
функций с конечной нормой
\ubstQ) = \ul+\l(ta)l + \bu$
и через Ts — пространство функций, определенных на Т с конечной
нормой ,
Тогда область значений оператора
u*-+(Luy /и|г, и|г0),
действующего из US(Q) в Us^(Q)xTs^3/2xHs^i/2(To)9 замкнута.
3.7. Покажем сейчас, что оценка (3.9) не может быть
улучшена в пространствах Hs, т. е. невозможна оценка вида
II Uls+6^C (|| f U + I g f_ i/a + i Uo fll/2 + | U |o)
ни при каком 6>0.
Пример 3.1. Функции «m = (х1 + i*1)"1#3 являются
гармоническими в R3. Их можно рассматривать как решение краевой
задачи:
Au = 0 в Q, д^з =£ на Г, и = 0 на Г0,
где Й = {л:; х е= R3, (х1)2 + (*2)2 + (*3)2р < 1}. F - граница области Й,
Го —множество точек из Г, в которых х3 = 0.

§ 3, МНОГООБРАЗИЕ ПЕРВОГО КЛАССА 145
Мы хотим доказать невозможность оценки
l«U<C(|s£-i/2 + |a|o) (3.10)
с постоянной С, не зависящей от и.
Вычислим вначале \\u\k при целом k^Q. Имеем
2 1оа"1г=((^)г[и2+иг]т-*(^)г+
|а|_*
Далее,
1 <1—г*)1/2р
\ [(х1)2 + {x2)2]m-k (х*)Чх = 2я j г2 ^-*>+1 dr J И2 d*3 =
О 0 _(1_гз)1/2р
I 1
, *L f Г2 (m-*)+l (1 _ Г2)3/2р ^ e 2« f /m-* (1 - f)3/2p df
3
_ / я \
c0m 2p,
■¥.(w-t+,,i+,).>r7+'>r,s+;)
3 v 2" ' 3 г(»-м-£+а)
где Со — положительная постоянная, не зависящая от m и т-* + оо.
С другой "стороны, аналогично вычисляем
1 <1_гз)1/2р
J ((х1)2 + (х2)2)™-**1 dx = 2я I г2 (*-*+« dr J dx3 =
Q 0 _(i_r»)l/2p
1 1
= (4я) $ г*****1*1 (1 - л2)1/2* dr = 2я J <m~*+1 (1 - 01/2р Л =
о о
r(m-*+2)r(i + l)
= 2яВ т-^ + 2, i+ 1) = 2я 7 Щ^г1 ~ dm-1-1/2*,
V 2Р ' г(«- £ + 3+^)
где Ci — положительная постоянная, не зависящая от т.
Отсюда видно, что при целых k
I и t ^ C2mk-v2-v*P, c2 > 0.
Оценим теперь норму \g\^ при /^0. Поскольку |gf_1/2<
<|Яаи|ь оценим вначале |D3tt|l/ при целом /. Имеем
2 ID^.uf^lj^l'^y + ix2)2]-
i- -з-н -[(m-OIJ lv"' ' *"'
|a| = /
Следовательно, ] Dau Ц? «=< Cam21-1-1'2"-

146 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
Интерполируя, можно получить аналогичное равенство при
всех вещественных /^0. Поэтому
Iffli-i/i^V^m"/"/".
Таким. образом, неравенство (3.10) приводит к неравенству
т*+6-1/2-3/4р ^ £4 (m*-l/2-l/4p _j_ m-l/2-3/4p)>
которое, однако, не может выполняться для всех т, если б> 1/2р.
Поскольку число р может быть сколь угодно большим, оценка (3.10)
неверна при 5>0.
3.8. Докажем теорему о гладкости решения.
Теорема 3.2. Если многообразие Г0 принадлежит первому
классу и известно, что
useHs (Q), Lu s Hs (Q), lu e HM/t (Г), и e= Hs+1/2 (Г0),
где s>0, mo asft+i(Q), и существует такая постоянная С,
не зависящая от и, что
lu U ^ С (| Lu I +1| lu f+1/2 +1 а Й-1/а +1 a ||,).
Доказательство. Пусть fteС00(Q)—функция, равная 1
в (й/2)-окрестности Qrf/2 многообразия Г0 и h(x) = 0 вне d-окре-
стности Qd этого многообразия. Поскольку вне Г0 выполнены
условия Лопатинского, функция w£ffi+2(Q\i!rf/4). Носитель
функции Lhu — hLu лежит в Q\Qrf/2, гак что L(hu)^Hs(Q).
Аналогично, / (hu) е #.9+1/2 (Г). Таким образом, доказывая теорему,
можно считать, что носитель и лежит в Qd.
Пусть d настолько мало, что /г|)* = 0 в Qd9 где г|)Л —функции,
построенные в предложении 2.2. Обозначим г|) одну из,функций г|>л.
Покажем, что \|ш е #J+i (Q) и
| г|>и |U < С (| Lu I + J lu f +1/2 +1 "о f+i/2 +! a ||,).
Очевидно, что этого достаточно для доказательства теоремы.
Таким образом, можно считать, что носитель функции и лежит
в столь малой окрестности точки Р, что в ней определены
координаты у1, ..., уп из предложения 2.1.
Обозначим Lu через /, lu на Г через g и и на Г0 через и0.
По условиям теоремы
LI (m|)) = ф//+ Ли е Я^-2 (Q),
/(т|))==ф/ыеЕ#,+1/2(Г).
В силу следствия 2.4 из гл. III отсюда следует, что /(и\|))е
е #* (Q), так что lu& Hs в некоторой окрестности многообразия Г0.
Отметим, что
II Щ) = Щ + А (уи) + Лхи + А% (lu) = F + A (Ци), (3Л1)

§ 3, МНОГООБРАЗИЕ ПЕРВОГО КЛАССА 147
где А — дифференциальный оператор второго порядка, Ах и А2—
операторы первого порядка, функция F = tylf + A\и-\-А21и
принадлежит классу Н5-г(£1).
Пусть u(x)=v(y), где у —координаты, введенные в
предложении 2.1. Функция w(y)=v(0, у2, ..., yn)&Hs-1/2(U) и при
уг=0 LxW=f + L2 (dv/dy1), где Ьг — эллиптический оператор второго
порядка, а порядок L2 равен 1. Поэтому при ^ = 0
где /7i = [t|)/+^o(^%1)L1=oS^5-1/2(II), порядок оператора Л/
равен /. Здесь П — часть плоскости уг = 0, лежащая в U.
Если Ri — параметрикс задачи Дирихле для оператора L
в области t/, то
Ri(Lz, 2\ди)^г+Тгг, (3.13)
где порядок оператора Т\ равен —1, а
RxEzLiH^WxHwidU), Htil))).
Пусть /?2 — параметрикс задачи Дирихле для оператора L\
в области П:
RtiUz, z|«m) = z + 7V, (3.14)
причем порядок оператора Т2 равен —1 и
Я2 s I (Ям (П) х #ы/2 (Ш), Я, (П)).
Поскольку Z(i|)t/)=i|)g на ГПд(У и /(г|я>) = 0 на остальной
части границы dU> из (3.11) и (3.13) следует, что
^ + Ti(w) = Rl{F + A (гИ' 2)=^ + 4>№0> , (3.15)
где g —значения l(tyv) на d£/, F2 = Ri(F, g)&Hs+1(Q) и Л0е
eEL(Hs(U), HS(U)).
Аналогично, из~(3.12) и (3.14) вытекает, что
yw + T^w-R^Fx + Aiw + L,^), B*)=F*+A-W(&), (3.16)
где й0 — значения функции г|)Ш на ЗП, так что #o = i|)«o на ШПГ
и й0 = 0 на остальной части ОТ, порядок оператора Л_г/2 равен
—1/2, F8 = Я2 (Fi + Аги>, 2в) е tfm/2 (П), поскольку F,. е Я^/2 (П),
й0еЯ,+1/2(Ш) и шбЯН/2(П).
Из равенства
t|*> = ^ + s(|^), (3.17)

148 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
где S — ограниченный оператор, и равенств (3.15), (3.16) следует,
что
Поэтому
где FA = F2 + AoF3 — AoT2{^w)^Hs+xf2(U)i порядок Ali/2 равен
-1/2, так что А11/2(-^)еЯ,+1/2([/).
По лемме 3.2 оператор A0S представляется в виде суммы
Bi + B'u где ВЦ—у) EffJ+i((/), а норма оператора Вх не
превышает 1/2. Таким образом, оператор / — Вг обратим и
^O-B^ + B^-AU^)]. (3.18)
Следовательно, dtyv/ду1 е Hs+i/2 (U)>
Из (3.16) видно, что ^s^+i/sfll), а из (3.17) —что г|)ие
& Hs+i/2(U). Это означает, что л|эа е Я*+1/2(&). Чтобы показать,
что tyu e Hs+i (Q), надо повторить проведенное рассуждение,
начиная с равенства (3.16). В самом деле, поскольку tyw s Hs+i/2 (П)
и F3 ^ Hs+U2 (П), мы видим, что FA e Я^ (£/). Поскольку
Ali/2 (дфа/df/1) е Я^-ы ((У), из (3.18) следует, что dtyv/ду1 е Я^+i (П),
а из (3.17) видно, что tyw е #J+i ((/), и потому, в силу (3.17),
Замечание. Из доказательства видно, что условия теоремы
можно ослабить. А именно, можно предполагать, что /е//м(й),
l(hf)ezH^(Q), g<=Hs-1/2(T), hg<=Hsw(T\ u0 es Я,+1/2 (Г0).
Здесь, как и выше, /i —функция из С°°((/), равная 0 вне
некоторой окрестности многообразия Г0 и равная 1 в некоторой
меньшей окрестности этого многообразия. При этом мы получаем
не только, что и е Hs+i (Q), но также, что / (hu) e Hs+1 (Й) и
hu&Hs+1(N), так что для и выполнены двусторонние оценки.
3.9. Докажем теорему о разрешимости краевой задачи (1.1),
(1.2), (3.1).
ТеоремаЗ.З. Пусть f € Я^-i (Й), g е Я^-1/2 (Г), и0 ег Я^^Го),
где s> 1/2. Тогда существует такое конечномерное
подпространство No пространства Ян(Й)ХЙн/2(Г) X Я^-1/2(Г0), что если
вектор (f, g, u0) ортогонален Nf то задача (1.1), (1.2), (3.1)
«жевт решение и из класса HS(Q).
Эта теорема является следствием из следующего, более точного,
утверждения.

§ 3. МНОГООБРАЗИЕ ПЕРВОГО КЛАССА 149
Теорема 3.4. Пусть /ieC°°(Q)— функция, равная 1 e(d/2)-
окрестности многообразия Г0 и О вне d-окрестности. Пусть
fsffng l(hf)eEH^(Q)9 hfeH^{N)9
g €= #,-з/2 (Й), % (= #,-1/2 (Г), Wo € #,-1/2 (Г0),
где s>l/2, а пусть вектор (/, g, и0) ортогонален
подпространству No пространства Hs-t (Q) x #*-i/2 (Г) X #.y-i/2 (Г0) конечной
размерности. Тогда существует решение и задачи (1.1), (1.2), (3.1)
из пространства Hs (Q), для которого I (hu) e #, (Q) и hu\N&
е Hs (N). Существует постоянная С, не зависящая от и, для
которой
tul + \\l(hu)ls + lhuf^C(Ul^2 + \\l(hni^ +
+ II hf It 2 + ||g||L3/2 + 1 ftjf f- 1/2 + 1 "0 fl.1/2).
Доказательство теоремы 3.4. Введем пространства
П,(0) с нормой №п,НиЬ + |/(ОД|* + |и|в" и Г*(П с нормой
1*Ф,НИГ + !1М£+1.
Пусть вначале s достаточно велико, например, $5*5.
Рассмотрим разбиение единицы 2 фу (х) = 1,_ введенное в предложении 2.2,
и аналогичные функции щ из С00 (Q), для которых <р/фу = (ру.
В силу предложения 2.3, п. II, существует оператор
Rn + \* Hs-2 (Q) x #^3/2 (Г) -►• Hs (fi), для которого
yx+xLRiv +1 №at+i/» ^лг+ig) — Флг+i/ + 7V+i (/, g),
4>n+iIRn +1 (флг+i/t ^лг+ig) = 4>N+ig + ^ +1 (Л g) на Г,
где
:(Дн(0)хЯ,чя(Г), n^(Q)),
r« + iei№-2(Q)x/W(Г), Г^1/2(Г)).
Пусть теперь 1 <; i <; N. Мы построим оператор
Ri&L (П^2 ([/,) хГ^-з/2 (Г*) X #*-!/* (Го П dl/,), П, (Q)),
где t/,=supp%, Гг = З^ПГ, для которого
<PiLRi(%f, fyg, bUo) = 4>if+Ti(f, g, «о),
<f>ilRi(bf, Ы> %Uo)\r = <Pig+T't(j, g, и»),
%Ri($if> Ы> %"о)|г, = <Р*«о + 77(/, g, uo),
где
T,: Tls^ (Q) x Г^8/2 (Г) x H^ut (Го) -► П,_х (Q),
Г,: П^ (О) х Г^.3/2 (Г) X Hr-vt (Го) -> Г^1/2 (Г),
T'r.U^ (Q) х Г^3/2 (Г) х Я,_1/а (Г0) -> Я,+1/2 (Г0)
— ограниченные операторы.

150 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
JV + 1
Проверим, что после этого оператор R = 2 Ф*Я$* будет пра-
вым параметриксом для рассматриваемой задачи. В самом деле,
LR(f, ft Uo) = ^L%Ri(^iff ifoft tfott0) =
= E<p*Lfli(t|tft ЧЗДГ. ^o) + 7,(/, ft w0) =
= S9if + 71i(f, ft Ио)=/ + 7\(/, g, a0),
где T и Тг — ограниченные операторы из пространства П^2 (й) х
X IV3/2 (Г) х Я^1/2 (Г0) в П^х (Q).
Далее, в точках границы Г
М?(/. ft «о) = 2 /ф*#* W, %ft %Ио) =
«2ф<«|(*/. **. ^о) + Г(/, ft и0) =
= S <м>#+Л (/, ft «о) = в+г; (A ft ао),
где 7' и Т[ — ограниченные операторы из пространства П*-в(£2) X
X IV-3/2 (Г) х ffj-i/2 (Го) в Г,-1/2(Г). При проверке ограниченности
оператора Т" используется тот факт, что /*ф^ = 0 в Qdi так что
носитель функции Т (f,~ft Ио) лежит вне Qd.
Наконец, заметим, что на Г0
Я (A ft Ио) = £фЛ(%/> ifoft %«о) =
= 2ф^Ио + Г(/, ft «о) = Ио + Г(/, g, «о),
где Т" — ограниченный оператор из Пм (й) X Г^3/2 (Г) X Ям/2 (Го)
В #,+1/2 (Г0).
Построенный таким образом параметрикс позволяет свести
краевую задачу к системе уравнений Фредгольма второго рода.
В самом деле, если положить a = 7?(f, ft й0)> то мы видим, что и
является решением краевой задачи тогда и только тогда, когда
f + TiQ.g9 fle) = /,
g + T[(l ft w0)=ft
"o + T"(f, ft Яо) = Ио.
Поэтому утверждение теоремы вытекает непосредственно из
теоремы Фредгольма. Поскольку операторы 7\, Т'и Т" являются
сглаживающими, ядро сопряженного оператора состоит из
бесконечно дифференцируемых функций и имеет конечную размерность.
Таким образом, условия разрешимости состоят в условии
ортогональности вектора (/,.ft щ) конечному числу функций вида
(F, G, Uо) из Саэ(Й)хСсо(Г)хСсо(Го).
Таким образом, для доказательства теоремы остается построить
оператор Rt для i = l, ..., N. Для краткости будем опускать
индекс i и считать, что функции /, ft u0 отличны от нуля лишь
в малой окрестности U точки Р, лежащей на Г0.
Обозначим через RD правый параметрикс для задачи Дирихле
для оператора L в области U и через R'D — параметрикс для за-

§ 3. МНОГООБРАЗИЕ ПЕРВОГО КЛАССА 151
дачи Дирихле для оператора Lb который получается из L
отбрасыванием производных по переменной у1 в области П. Эти
операторы RD и Rh таковы, что
LRD(f, g)-f + T1(f, e), RD{f, g)\du=g+T2(ft g);
UR'dV, g)4 + TlV. g). Rhtf. g)\m-g+r%(f9 g)9
и для каждого SS&2
TtXTt&L(#,_2 (U)x#,-1/2(dU), H,-!(U)xHs+1/2(dU))\
П x г; в l (#,_2 (П) x #,-i/2 (an), #^ (П) x #,+i/2 (an)).
Если и — решение краевой задачи, то, как мы видели выше,
Llu=*lf-\-AiU- в (/,
Lxw vaf+Ax (tu) на П,
u=*w + Slu в f/,
где Аг и Л2 — дифференциальные операторы первого и второго
порядков соответственно, a S&L(HSf Hs).
Определим на функциях г из HS(U) операторы
B1z^sRD(A2z, 0), B2z^R,D(A1RD{A2z, 0), 0).
По лемме 3.2 оператор Вх является суммой В[-\-В№и где В[
имеет норму *С1/2 в пространствах HS(U)> Hs-i(U), #s_2(JA
tiss(U), если диаметр области U достаточно мал, а оператор В[
имеет порядок —1. Порядок же оператора В2 не превышает —1/2.
Покажем, что образ пространства HS(U) при отображении
/ — Вх — В2 имеет конечную коразмерность и функции из #*(£/),
ортогональные этому образу, принадлежат пространству HS^(U).
В самом деле, если
((/ - Вг - В2) ut v)s - 0, Vu & Hs (U),
где (, ^ — скалярное произведение в HS(U), то
(/-Bf-BJ)o-0. (3.19)
где Bt и £J — операторы, сопряженные к операторам Вг и В2
относительно скалярного произведения в Hs(lf). Оператор В*
ограничен в Hs+k(U) при £а-1, 2, 3 и имеет норму <Л/2, а
оператор 5|sL(#^([/), #^+ft+i/2 ([/)). Отсюда следует, что решения
уравнения (З.Щ образуют конечномерное подпространство и
принадлежат Hs+s(U).
С другой стороны, каждый элемент вида w = (/ — В± — Ва) v,
где v^Hs(U), может иметь конечное число прообразов при
отображении / — Вг — B2. Условимся, что <£>w означает тот из
прообразов, норма которого минимальна. Если же w ортогонален ко
юш элементам вида (/ — Вг — В2) v, то считаем Фдо « 0.

162 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
Положим теперь
Я(Ф/. ад, 1Ы=Ф(*ЬМ*+^/Ы'Ф/. Ч£), 4>flo)+s/?D('+/. ♦£)),
где г|)£ и \|5Й0 — функции, полученное из tyg и 1|)И0 после
продолжения нулем на всю границу dU. Покажем, что R и есть искомый
параметрикс.
Пусть u = #(i|)/, tyg, г|)и0). Ясно, что v &Hs-i(U). Покажем,
что в действительности игП,(£/). Имеем
(/ - Вг - В2) v = Rh fof + AtRD (А|>/, *g)f #0) +
+ SRD(ltyf, tyg) + ToW, I», t|)Uo),
где Г0 (i^f, i|)g, г|>и0) €i Us+2 (U) (даже Я.у+3 (£/))• Отсюда и из
определения операторов Вг и В2 следует, что
v = RbW + AiRD(Btyf+A2v, г|#), #0) +
+ S^(/+/ + i4,of i№) + Jo(+/, ^, г|)И0).
Следовательно,
/о-Лг)(/ф/+Лл г|)£) + /Г0(г|>/, г|#, г|)«0).
Отсюда видно, что lv e Я^ (£/) и что
I (Lv - tf) = ^i (f. г» "о) в Я, (£/), (3.20)
(lv - г|#) |Г = Г (/, g, ив) в Hs+W (U). (3.21)
Далее,
(L* - */)yi-o = T, (/, g, и0) « Я,(П), (3.22)
v |г0 - Ч>"о = Г (/, g, ио) Q Я,+1/2 (Го). (3.23)
Из (3.20) и (3.22) видно, что
I* - ф/ « Г (f, g, ио) ш Hs (£/). (3.24)
До сих пор мы использовали только тот факт, что f e Н^2 (&) и
gs//H/2(r). Но известно также, что
I(hf) е Я,_2(Q), Щ|,1.0е Я^2(П), ftge Я^1/2(Г).
Из (3.24) и (3.21) следует, что неЯ, вне (й/2)-окрестности
многообразия Г0. Поэтому
l(hv)\T-hgmHs-1/2(T()dU).
Поскольку L(hv) — hf&Hs-i(U)9 имеем
L (hv) & П,_2 ([/), / (ко) |г s Г^з/2 (Г), to |г§ <9 Я^/2 (Г0).
Рассуждая, как при доказательстве теоремы о гладкости,
заключаем, что уеПД(/).
Уравнения (3.21), (3.23), (3.24) показывают, что
<pLv - ф/ — <рГ (f, g, "о) е П^ (Q),
(ф/у-ф^)|г = фГ(/, g, и0)еГн/2(Г),
(фу - фи0) |г. = фГ" (/, g, Ир) <г Я,+1/2 (Г0).

§ 4. МНОГООБРАЗИЕ ВТОРОГО КЛАССА
153
Следовательно, оператор R удовлетворяет всем требуемым
условиям и теорема доказана при s^5.
Для доказательства теоремы при l^s<5 данные задачи
следует аппроксимировать гладкими функциями. Заметим, что если
решение и задачи (1.1), (1.2), (3.1) ортогонально решениям
однородной задачи, то неравенства (3.9) справедливы без слагаемого
|и|о в средней части. Если вектор (/, g, и0) удовлетворяет
условиям ортогональности, необходимым для разрешимости, то
аппроксимирующие функции выбираются так, чтобы эти условия
ортогональности выполнялись и для них. Из оценок (3.9) вытекает
тогда сходимость решений аппроксимирующих задач к функции и
из #ДЙ), которая и будет решением задачи (1.1), (1.2), (3.1).
Следствие 3.3. Область значений оператора
u>-+{Lu9 Bu\v, и|Гв),
действующего из Us (Q) в IVa (Q) х Г^1/2 (Г) х Hs-1/2 (Г0), имеет
конечную коразмерность, равную размерности ядра этого оператора.
Доказательство этого утверждения следует из
эквивалентности краевой задачи интегральному уравнению вида (/ -\~T)u~f,
где Г —оператор порядка (—1). Эта эквивалентность была
установлена в процессе доказательства теоремы 3.4. п
§ 4. Многообразие второго класса
4.1. Рассмотрим теперь тот случай, когда на Г имеется
единственное подмногообразие Г0, принадлежащее второму классу.
В таком случае нет теоремы о существовании, но ядро имеет
конечную размерность и справедлива теорема о гладкости решения.
Теорема 4.1. Пусть функция и из пространства Hs(Q)npu
s>l/2 является решением задачи (1.1) —(1.2), где /еЯ^Й и
g e Hs-i/2 (Г). Существует такая постоянная С, не зависящая от и,
что
l«L<cO/U+lerf-iy2+|ttU.i)-
Доказательство этой теоремы основывается на следующей лемме.
Лемма 4.1. Существуют такие положительные постоянные е0
и /С, что если u&Hs (Q), е < е0, и = 0 вне г-окрестности
многообразия Го, то |u|,</Ce|/a|,.
Доказательство. Пусть Р —некоторая точка на Г0, у1, .^
..., уп — координаты в окрестности точки Р, о которых говорилось
в предложении 2.1, и % — функции, образующие разбиение
единицы в соответствии с предложением 2.2. Поскольку
многообразие Г0 относится ко второму классу, уравнение границы Г в
окрестности точки Р имеет вид уп^(о(у1, ..., у"-1), причем со=0 при
у1 =ч*0 и со<;0, у1д(о/дуг^0 в этой окрестности. Не ограничивая
общности, можно считать, что и = 0 вне носителя некоторой
функции %, т.е. и»0 при ({/1)8 + (Ул)*^е2> а также в том случае,

104 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
когда хотя бы для одного/, 2^/<;/i— 1, выполнено неравенство
\у*\^а. Обозначим носитель функции и через Q. Пусть Qi — частьQ,
в которой у1 < 0, и Q2 — часть Q, в которой у1 > 0. В области Qi
— 8
Ясно, что || и |£ ^ Ci81 da/d*/11£*. Аналогично, [и£■ < Ci81| ди/ф1 |Q*f
и поскольку, по условию и 6 #*, отсюда следует, что
Возвращаясь к переменным х, получаем, что
|ttU<cte|to|«-
В общем случае, когда носитель и не является малой
окрестностью точки Я, имеем
4.2. Доказательство теоремы 4.1. Пусть вначале « = 0
вне Qe и е>0 достаточно мало (ниже мы укажем насколько).
Функция 1и удовлетворяет уравнению
L{lu) = lf+A(u)t
и на Г
Используя априорную оценку для решения задачи Дирихле,
получаем неравенство
<c2(I/u+l«||,+|^iLi/2+l«U).
По лемме 4.1 имеем |к|« </Ce|/u|,, так что, объединяя эти оценки,
можно утверждать, что
Если е столь мало, что С2/Се<1/2, то
I/"L<2C2(||/U+lffllLi/2 + HU)
и
|| a L < 2С2Кв (| / U +1 $ gl 1/2 +1| и |U). (4.1)
Таким образом, в случае, когда и = 0 вне йе* теорема доказана.
В общем случае представим и в виде u = heu~\-(l — he)u, где
/ieeC°°ffi)f Ав = 0 вне Q8 и Л8 = 1 в Пдо. Ясно, что L(/i6«) =
=»V + ^iW, где Лj —оператор первого порядка, коэффициенты.

/ f-4, МНОГООБРАЗИЕ ВТОРОГО КЛАССА 155
которого равны нулю в Q8/2. Аналогично, на Г: /(A8")=ftefif +
+ ul(he), причем / (Ле) = 0 в йе/2- В силу предложения 2.3, п. I,
имеем
\A1ul+\ul(hB)^l/2^CB(\f[9-1+\g€^i/2 + \u^.
В силу того же предложения,
Заменяя в (4.1) и на heu, получаем, что
|М1< с* (I ЫЪ-i + lAiU U +1 Arf + "* (Л£) if-1/2 +1« U-i) <
Поэтому
|M|*<IMb+l(i-Ae)tt|,<ce(|fUi+lerii,-i/2+|ttU.i)- п
Следствие 4.1. Пространство решений однородной задачи
(1.1) —(1.2), принадлежащих HS(Q) при s> 1/2, конечномерно.
Замечание 4.1. Из доказательства видно, что в
действительности имеют место двусторонние оценки:
C-MII"I, + I/(Ml,)<in^2 + |/(A/)U + ||g«Sr--3/2 +
+1 hg f .1,2 +1 a U < С (f а Ь + J / (to) I),
где s>l/2 и постоянная С не зависят от а.
Следствие 4.2. Если Iis — пространство функций в Q с
конечной нормой ||и\ц = \\u\\s+\l(hu)|„ а Гу — пространство
функций, определенных наТ,с нормой \\ g |г = | g £ +1 /tg f+ j, mo область
значений оператора и н-* (Lu, lu |г), действующего из Us (Q) в Пу_2 (Q) x
xIVg/2, замкнута.
4.3. Докажем теперь теорему о гладкости решения и задачи
(1.1) —(1.2).
Теорема 4.2. Если функция и из HS(Q) является решением
задачи (1.1)- (1.2), где f^Hs (Q), g e Hs+1/2 (Г) и s > - 1/2, mo
и е Я,+1 (Q).
Доказательство. Воспользуемся нормой |-^tб,
определенной в п. 3.11 гл. I для функций из пространства H^iU")- Если
функция и определена только в'области Q, то ее норма \\i{\\s,6
определяется как нижняя грань таких норм для функций £/,
являющихся продолжением функции и на все пространство.
Повторяя доказательство леммы 4.1, нетрудно проверить, что
справедливо неравенство
|«1.б</Св|/и|,|в,
где постоянная К не зависит от е и б.
Аналогично, повторяя рассуждения из п. 3.2, можно показать,
что для решения и краевой задачи
Lu = f в Q, и = <р на Г,

156 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
справедлива оценка
!"k6<C(|/U,6 + l9U/2,6 + NU,6), s>l/2,
с постоянной С, не зависящей от 6.
Таким образом, для функции v9 равной 1и в Q, являющейся
решением задачи Дирихле
Lv = lf + Au в Q, t> = g на Г,
выполнено неравенство
i»Ui.e<c1(iaie+ittUi.e+itff+i/iie+i»u.e).
если s>—1/2. Оценивая |a|Ui,6 через /<е | и |Ui, б, получаем при
малых е оценку | и |,+1, в < С3е (| / Ue + Ififf+i/a.e + lwke)-
Поскольку правая часть этого неравенства ограничена
равномерно по б при 6-^0, отсюда следует, что норма |a|Ui,6
равномерно по 6 ограничена, и потому и е Hs+i. □
Замечание 4.2. Из доказательства следует также, что
lu e Hs+i (Q). Более точное, чем теорема 4.2, утверждение о
гладкости можно получить, используя пространства riy(Q) и Г, (Г),
введенные в следствии 4.2. Именно, если asII^i(Q), fs Цу-2(й),
ge=IV3/2(r), то «еПДЙ).
4.4. Следующий пример показывает, что теорема 4.1 не может
быть усилена в том смысле, что норма |и|, в левой части не
может быть заменена нормой \u\\s+9 ни при каком р>0.
Пример 4.1. Пусть Q —область, полученная при
пересечении окрестности начала координат в R3 с полупространством
#8>0. Рассмотрим последовательность бесконечно
дифференцируемых функций ит (х) = e{ix2-x*)mg>(rmlKp + !>), где р — нечетное
натуральное число, г = V(x1)2 + (х2)2 + (а?)2, функция ф € С при г Ss0,
ф(г) = 0 при г 3^1 и ф(г)=1 при г ^1/2.
Проверим, что при целых s^O
I um I ^ Cm*-*WipbDt с « const > 0.
В самом деле,
2 I CPum |2- mur-*"*tf (rml/^+1>) + О (е-2™*™2*-2*2'^).
Поэтому для таких s
I ит Ц = т2$\ег 2тх\2 {гтг'(р+») dx +
+ О (m25-2^/^+1)) J ег2тх* dx ^
$zm2s ] e-2mx*dx + 0(m2s-w(i»1)) $ er2m**dx=*
-с0та*-2^+1>-*4- 0 (т**-8) 3* -^ с0щ2*-2/WHAbi,

§ 4. МНОГООБРАЗИЕ ВТОРОГО КЛАССА 167
Рассмотрим теперь норму |Дкт|*. Поскольку
Ди»-**•-" )w[At + 2fmg-Sbng],
где ф (х) — ф (гт1^*1*), имеем при целых Л
|а|<* . /-2
Следовательно,
2
| A tt„ Ц <; dm2"+2 + F+T J <,-2m*» dx < dm»**.
Аналогичное неравенство для вещественных &> 0 получается
применением интерполяционных неравенств (см. Ж. Лионе и Э. Ма-
женес [I]).
Рассмотрим теперь норму \Ш$9 где /и == (^У — + д^г- Имеем
при *3*=0
1и = — т(ххУeimxi(p[гт^+Ч + mF^eimxi , ■ ** ©' (rmHFTj.
Отсюда видно, что при *•«()
2 |Da/a|2<m^+1 + 2V2(^p+1) +
|a|<n
+С2 m2+2(n-/) + ^(^^)+C1m2"-2+?TT,
/-1
и потому
/-o i_
r^m t>+1
i_
Аналогичная оценка
при s>0 получается с помощью интерполяционных неравенств.
Полученные неравенства показывают, что
в то время как
\UmU»^Cm+° » >+»,
I А^т Ir-i + i '"/я £-1/* +1 Umh-1 < С/П*-1'*.

158 к ГЛ. IV. ЗАДАЧА в КОСОЙ ПРОИЗВОДНОЙ
Ясно, что если р настолько велико, что 1 <;(/?+1)Р> то оценка
I Um !у+р ^ С (| Аит |U +! lum f _ 1/2 + S uOT 1-г)
не может выполняться для всех /п.
§ 5. Многообразие третьего класса
5.1. Как мы уже отмечали, это многообразие наиболее просто
для изучения, поскольку поле / + 8v при соответствующем знаке 6
не касается границы. В том случае, когда на границе Г
отсутствуют многообразия первых двух классов, краевая задача
(1.1) —(1.2) имеет конечномерные ядро и коядро, и область
значений соответствующего ей оператора замкнута.
Лемма 5.1. Пусть многообразие Г0 принадлежит третьему
классу и носитель функции и сосредоточен в малой окрестности со
этого многообразия. Тогда для каждых е>0 к seR найдется
такое d, что если со с Qd9 где Qd — множество точек из Q,
расстояние которых до Г0 не больше d, то
|aU<e|/uU- (5.1)
Доказательство. Используя разбиение единицы из
предложения 2.2, можно свести доказательство к тому случаю, когда
носитель функции и лежит в столь малой окрестности со точки
Р е Г0, что в ней определены координаты у1, ..., уп, о которых
-говорилось в предложении 2.1. Каждая точка этой окрестности
может быть соединена с некоторой точкой на границе Г
прямолинейным отрезком длины «s^d, параллельным оси Or/1.
Функция v = lu может быть гладко продолжена на все
пространство Rn, после чего функция и продолжается за пределы Q
как решение уравнения du/dy1 = v. Неравенство |и\f^&\v\f
проверяется без труда при d<e с помощью неравенства Коши-—
Буняковского. П
5.2. Теорема 5.1. Если функция и принадлежит
пространству HS(Q) и является решением задачи (1.1) —(1.2), то при s>
>3/2 справедливо неравенство
I"L<C(!/U+»fifiLi/a+I«IoX
где постоянная С не зависит от и.
Д-оказательство.^ Пусть lu — v. Тогда v является
решением задачи Дирихле:
Lv—lf + Аи в Q, u = g на Г.
Поэтому при s>l/2 выполнено неравенство
.|»b<Ciavirt+ii4«irt+uu/»+!"io)<
- • ■ ^C»fl/b-i+|aL+Urlr-w). (5.2)

§ 5. МНОГООБРАЗИЕ ТРЕТЬЕГО КЛАССА 159
По лемме 5.1 |%ыЦ,^Кг\\Щи\\s при /=1, ..., N, где %
—функции, определенные в предложении 2.2. С другой стороны,
2l[*. %]" L+И ^^+i^ IU < С3 (II / IU-2 + II grlU-s/2 + II w ||o)
1
в силу предложения 2.3, п. I, так как носитель функций tyN+1 и
/(г|)у) отделен от Г0. Таким образом,
Л/ + 1 М ^
|Kb< 2 \\%^\\s^^^\\l^jU\\s + Ce{\\fU + lgls-m + \u\o)^
1 1
< Кгг \\vl + С'е (| / U +1 g U/2 +1 и [о). (5.3)
Выберем е>0 так, чтобы выполнялось неравенство С2/Се<1/2,
и фиксируем его. Объединяя неравенства (5.2) и (5.3), получим, что
i"Kc4a/u-i+igU/,+ittio). п
Замечание 5.1. Как и выше, вводя пространства US(Q)
с нормой | и 1^ +1 Л/а Ь и ГДГ) с нормой | и £ + 1 &"£+!» можно
утверждать, что справедлива двусторонняя оценка
- а/я (Г) +1а к) < I ^ In, (Я) < -
<С(||/|п,_2(а) + №_3/3(Г) +1 и 1о).
Следствие 5.1. Пространство решений однородной задачи
(1.1) —(1.2), принадлежащих .Hs(&) при s>3/2, конечномерно.
Следствие 5.2. Пересечение области значений оператора
Lxl: Hs (Q) -> Н^ (Q) x #,-з/2 (Г)
с пространством Hs-i (й) х #*-i/2 (Г) замкнуто.
5.3. Докажем теорему о гладкости.
Теорема 5.2. Ясли ue=Hs(Q), /еПн(Й), §еГы/2(Г),
где s>l/2 а и —решение задачи (1.1) —(1.2), то u^Us+1(Q)9 и
справедливо неравенство
Доказательство. По условию f&Hs-i(&), g^Hs-3/2(T).
В силу предложения 2.3, п. I, вне сколь угодно малой
окрестности многообразия Г0 функция u^Hs+1.
Напомним, что h e C°° (Q) — такая функция, что h (х) = 1
в (й/2)-окрестности многообразия Г0 и h(x) = 0 вне d-окрёстности
этого многообразия. Заметим, что L(hu) — hLu еЯДЙ), поскольку
Lh — hL — оператор первого порядка, коэффициенты которого
отличны от нуля лишь в той области, где меЯ^. Поэтому
L (hu) g П^_1 (Q). Аналогично, / (fiu) е Hs+i/2 (Г).
Пусть {i|?fe, & = 1,—, /V +1} — функции из разбиения единицы,
построенного в предложении 2.1, Ясно, что для доказательства

160 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
теоремы достаточно показать, что ф*а e П^+х (Й) и что
1 ф*а 1п,+1 (Q) < С (|| La bM (Q) +1Я 1г, _ 1Л2 (Г) +1 и |0).
Пусть -ф —одна из функций фЛ и носитель ее V настолько мал,
что в этом носителе определены координаты #\ ..-., уп из
предложения 2.2. По условиям теоремы
LI (фа) = ф// + Аи е= Я^2 (Q), (5.4)
/(фа) = ф/ае=Я,+1/2(Г), (5.5)
поскольку можно считать, что функции фь ..., фдг отличны от
нуля лишь в той области, где Л=1. По известной из теории
эллиптических краевых задач теореме заключаем, что / (фа) e
еЯДЙ), т. е. lu&Hs в некоторой окрестности многообразия Г0.
Вычисляя LI (-фи) более точно, видим, что Ы (фа) = ф// + А* (фи) +
+ Ах (и) + А[ (lu) = Fx + А2 (фа), где Л1 и Л1 — операторы первого
порядка, Л2 —оператор второго порядка и FleЯ^-l(Q).
Пусть R — левый параметрикс для задачи Дирихле в
области [/, так что #(1г, г) |ас/= г + ?\z, где Ti — оператор
порядка —1 и Де£(Ям(1/)хЯ,-1/|(д£/)), Я, (£/)). Из (5.4), (5.5)
видно, что
/ (фи) + TLl (фа) =» Я (Fi + Л2 (фа), №) = F2 + Л0 (фа), (5.6)
где А>€=1(#Д(/), ЯД£/)), a F%-R(FU ф#) е=Я,+1(£/).
Таким образом, фа = S А0 (фа) + ^з» где F8 ^ Я.,+1 (£/). По
лемме (5.1) Ц S | < е, если d достаточно мало. Поэтому при малых d
оператор / — SA0 обратим, так что -фа е Hs+X (Й), а в силу (5.6)
и /(фи) sft+i(Q), причем справедлива оценка
<c(i/u+ivu+»ffU/2+i%U/2+i«io). a
5.4. Теорема 5.3. Если /еПм(Й), #еГ,_з/2(Г), еде s>
> 1/2 а функции (/, g) удовлетворяют условиям разрешимости
вида Fi(f9 g) = 0, t = 1, ,.., No, еде Ft — линейные функционалы
в пространстве П^_2(й)хГ^_3/2(Г), то существует решение и
задачи (1.1) —(1.2) из класса n,(Q).
Доказательство. Пусть {фу, / = 1, ,.., N+ 1} — функции,
образующие разбиение единицы из предложения 2.2, и {фу, /=*
= 1, ..., N+ 1} — аналогичная система функций, причем suppcpy
лежит в том множестве, на котором фу = 1.
В силу предложения 2.3, п. II, существует оператор
R&L (Я,-2 (Q) х Я,-з/2 (Г), Hs (Q)),
для которого
Ф/v+iL/? (ф^+1/, флг+^^Флг+^+Тлг-ы^, g) в Q,
9*+i'# (Флг+i/* Ф^+хг) = Фту+1§ + ^ + 1(/» 8) на Г.

S S. МНОГООБРАЗИЕ ТРЕТЬЕГО КЛАССА /61
Здесь
TN+i e= I (И,.* (Q) x Hs-m (Г), IV, (Q)),
T'N + KezL (Hs-z (Q) x Я,_3/2 (Г), Г^1/2 (Г)).
Пусть теперь 1 «£ i ^ N Построим оператор
IY-3/2 (Г|), П, (Q)), где t/f = supp •ф!
и Г^ = 5У( П Г"» Для которого
Ф«М></, %£) = Ф,/ + ^(/, 8) в Q,
ф</#,- (W. №) = Ф* + T't {f, g) на Г,
причем
TteL (IV* (Q) x Г^8/2 (Г), ПА (Q)),
A $-3/2 (Г), 1 J-1/2 (Г)).
Тогда оператор /
t = i
будет параметриксом нашей задачи. В самом деле,
W» *)-2Й>ЛМЖ *1вГ)-2ф^|(ф|/, М) + П/. *)-
где 7 и 71! операторы из МП^-2(Й)хГ,_з/2(Г), n*-i(&))-
В точках границы Г
«(/. *) S 'фЛ (*f. *ff) - S Ф1Ю1 «tf, ^g) + 7* (A «) -
-2*ig + T\(f9 g)=g + rt(ffg),
где 7' и Т\ «операторы из L{J\^{Q)xV^w{?), Г^1/2(Г)). При
этом используется тот факт, что /ift — 0 в окрестности Г0, так что
носитель функции T[(f, g) лежит вне этой окрестности.
Таким образом, если искать решение задачи в виде и » /?(/, g)>
то эта задача сведется к решению системы уравнений
f+TxQ9 *)-/. 8 + nG,g)-g.
к которой применимы теоремы Фредгольма.
Покажем теперь, как строится оператор /?* при /=1, ..м N.
Для краткости будем опускать индекс / и считать, что функции /
и g отличны от нуля только в малой окрестности V точки Р,
лежащей на Г0.
Пусть RD — параметрикс для задачи Дирихле в области U.
Тогда
LRD(f, g) = f + TD(f, g) * U,
Rp(t, g)-e + rD(/f g) на dU9
6 Ю. В, Егоров

162 ГЛ. IV. ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ
и при этом
TDх П е= L(Яrt(U)xH,-w(dU)t Hs-1(U)xHs+1/2(dU)).
Если а — решение задачи (1.1) — (1.2), то
Llu = lf + Au в U9
/u = g на Г.
Поэтому
u-SRD(tf + Au, g).
По лемме 3.2, которая применима и в данном случае, оператор
ин-► SRD(Аи, 0) представим в виде Ах+ А2, где AisL(Hs(U)f
HS(U)) и Их||< 1/2, a A2e=-L(HS(U), HM(U)). Таким образом,
(I-Ax-AJu-SRoilf, g).
Определим оператор Ф TiaKHM образом, что если элемент w из
HS(U) может быть представлен в виде «;-»(/ — Ах — A2)z для
некоторого z^Hs (U)} to Фдо совпадает с тем элементом z такого
вида, который имеет минимальную норму. Если же w не пред-
сгавляется в таком виде, то мы полагаем Фш = Фдо\ где w' —
проекция w на
Im (/ - Ах - А2) - {(/ - Aj - /2) г; г е= Я, (£/)}.
Положим теперь
/?(г|)/, №-<t>(SRD(W, «g))
и проверим, что /? является искомым параметр иксом.
Пусть u=/?(i|)/, ^g). Ясно, что а е tf,-i ((У). Покажем, что
v<~T\s(U). Имеем
(/ _ л, - Л2) v - S/?D (/*/• *g) + П fl>/, я|#),
где ГоОф/, Ч^) е 'lt+i(t/)« Отсюда и из определения операторов Лх
и Л2 следует, что
ti-^(/i|)/ + M ite) + 7o(tf, **),
так что
fo«/?D(^/ + M « + /Г0(^ я|#).
Отсюда видно, что /иеНн(У) и что
Mfo)-tyf+^+74(i|>/, Ш
т» е.
/(1л>-Ч/)-7Ч(Ф/. \pg)<=Hs{U).
Отсюда следует, что
LV-r|j/ = ST,(tf, г|#) efl,(^ (5.7)
и
/0-*в-Г'М W**H„w(dU). (5.8)

§ 5. МНОГООБРАЗИЕ ТРЕТЬЕГО КЛАССА 163
До сих пор использовали только тот факт,, что / е Н^2 (Й) и
£е#*-з/2(Г). Но нам известно также, что /(ft/)sflH(Q), hg&
еЯи/г(Г)- Из (5.7) и (5.8) видно, что уеЯ, вне (d/2)-0Kpecr-
ности многообразия Г0. Поэтому
IW-hgeHs-wPndU).
Поскольку Lhv — hf<=Hs-i(U)t имеем
Lhv г П^2 ((У), /to |г е= Г,_з/2 (Г).
Повторяя доказательство теоремы 5.2, получаем, что v^Us(U).
Таким образом, теорема 5.3 доказана полностью. □
5.5. Отметим, что пример 4.1 с четным числом р показывает,
что и в случае многообразия третьего класса априорные оценки
решения не могут быть улучшены.

ГЛАВА V
ВОЛНОВОЙ ФРОНТ.
ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
§ 1. Волновой фронт. Определение и примеры
1.1. Понятие волнового фронта распределения было введено
в работах А. Сато (для аналитического случая) и Л. Хёрман-
дера. Это понятие позволяет правильнее определить процесс
распространения особенностей решений и упростить исследование их
гладкости. Необходимо подчеркнуть также, что это понятие
является весьма естественным и полезным для теории кратных
тригонометрических рядов и многомерных интегралов Фурье.
В основе определения волнового фронта лежит та простая
идея, что особенность распределения в R" при п>1
характеризуется не только ее местоположением в этом пространстве, но
также и направлением в двойственном пространстве, так что,
если, например, распределение и является плоской волной, т. е.
функцией вида / ((ш, #)), где со е Rn \ 0, то эта функция является
гладкой в любом направлении, ортогональном направлению
вектора со. Поскольку всякая функция, по теореме Района, может
быть представлена в виде суммы плоских волн, ее «особые»
направления в каждой точке могут быть определены как
объединение направлений, особых для этих плоских волн. Приложения
понятия волнового фронта к теории дифференциальных уравнений
основываются на том факте, что волновой фронт распределения,
являющегося решением уравнения с гладкой правой частью,
содержит вместе с каждой своей точкой бихарактеристику главного
символа соответствующего дифференциального оператора,
проходящую через эту точку.
1.2. Определение 1.1. Точка (х0, 1°) из T*Q\0 не
принадлежит волновому фронту WF распределения и из @?' (й), если
найдутся две такие функции ф и г|), что
1) феС(й), ф = 1 в окрестности точки х0;
2) ^<=C°°(R„), ф('» = *(» при f>l, |6|ssl, ф(£°)=*0;
3) г|)(0)ф«(х)еС°°(Кя).
В приложениях часто удобно заменять условие 3) условием
убывания функции г|) (I) щ (£):
|ф£(Б)|<СИ1 + 111Г" U-1)
для любого N и для £еГ> rAe Г—supp^*

§ 1. ВОЛНОВОЙ ФРОНТ. ОПРЕДЕЛЕНИЕ И ПРИМЕРЫ 165
Предложение 1.1. Точка (#о, 1°) не принадлежит WF(tt)
тогда и только тогда, когда существует такая функция ф из
пространства Cf (Q), что ф (х0) ¥=0, и такой конус Г в
пространстве Rn о вершиной в начале координат, содержащий внутри себя
луч {I; l = tl°9 £>0}, что для^^Т выполнены неравенства (IА).
Доказательство. Пусть выполнены неравенства (1.1) и
функция г|) €= С00 такова, что supp ф с: Г, \|) (£*) =1 иф (*|) = <ф (£)
при /^1, |6| ^|5° |- Тогда, очевидно, ф(D) фи(х) еС°° и,
следовательно, (#o, |°)^WF(tt).
Обратно, пусть точка (я0, 1°) не принадлежит WF (и) и
функции ф, г|э удовлетворяют условиям определения 1.1. Покажем, что
•ф (Z)) <ри s ^. Отсюда будет следовать, что ф (6) фй (£) e ^ и,
в частности, функция фа (£) быстро убывает в конической
окрестности вектора £о» т. е. выполнены неравенства (1.1).
Если ft e С?0, то функция М|кри также принадлежит
пространству С£°, и потому нам достаточно проверить, что неравенства
| Da (1 — ft) г|) (D) у (а:) | ^ Са, ту (1 +1 х |)~^ справедливы при любых а
и N, где у = фа. Будем считать, что ц>(х) = 0 при \х — лг0|>Р и
А=1 в окрестности носителя функции ф.
Заметим, что ие£'(Кл) и по теореме 3.6 из гл. I и=Д*№,
где k — некоторое целое число, а № —непрерывная функция.
Поэтому
^(D)v(x)^(2nyn\le^^y)^(l)v{y)dydl^
- (2я)-» J J ^ (**>* |g|2* г|) (g) Г (у) dy dl
Воспользовавшись равенством (—Д^в1**-^*^* — у)2* е*(*-0>*
и интегрируя по частям, можно записать, что
^(ДМ*)-(2я)-л$$^^^
если л: ssupp(1 —ft), a t/esupp w, поскольку в этом случае
I * — УI ^ со 0 +1 * I), со = const > 0.
Если 2Np>2k-\-n+l и 2М>/г+1, то последний интеграл
абсолютно сходится и справедливо неравенство
\ty{D)v{x)\^C(l + \x\)-2N+n+K
Аналогично проверяются неравенства для производных
\D^(D)v(x)\<,a, N(l + \*\)~2N+n+\
из которых следует наше утверждение. □
1.3. Пример 1.1. Пусть распределение и является плоской
волной, т. е. u(x)—f(x1)i где f^&'{R). Тогда всякое
направление, непараллельное оси я1, . является неособым, и каждая
точка (хо, |°) из T*Q\Q не принадлежит WF(tt), если SJg^Q
Аля некоторого jgM.

166 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
В самом деле, если ф е CJj°, то
Ф^ (I) = Ф (й * й (I) = Ф (Ю * f (li) 6 (!') = $ Ф (^i - ^^ Б'ШпОАц-
Пусть конус Г с вершиной в начале координат содержит луч,
определяемый вектором £°, и не содержит оси £i и близких ей
направлений, так что
• 1Ы<*|6'1
для |еГ. Тогда щ(§) = \ц>(^-Чь 6') f Ы *»■ Если £е=Г, то
Не ограничивая общности, можно считать, что /(х1)=0 при
1л:1 —41^6 > 0- Поэтому существуют такие С, &, что
1?Ы1<С(1-+Ы)*.
Выбирая N = k + 2, получим, что для любого / имеет место
оценка \w(Q\ <С,(1 + 1£|)~/> означающая, что {х0, Ъ°)ф
1.4. Пример 1.2. Если Ф^С?°, ф^О, ф(0) = 1, цфО% то
функция
принадлежит Q'-1 flR") при /s=*l и WF(a)={(0, ft)), *>0}.
Доказательство. Ясно, что в каждой точке хфО лишь
конечное число членов отлично от нуля и потому aeC°°(Rn\0),
так что точки (х, £) при хфО не принадлежат WF(«). Если
ф — преобразование Фурье функции ф, то
00
так что й(й2г])^£-а'-'\ т. е. (О, ti)<=WF(w).
Если вектор £° не коллинеарен ц, то найдется такое с>0,
что в некоторой конической окрестности Г вектора £° выполнено
неравенство J £ — г| |:^с(||| + | г||). Поэтому для всех k^l
справедливы оценки
Отсюда видно, что при всех iV и |еГ
I а (6) I < S fr"-»cN (1 + Vfflr" < c'n О+1II)-"'3,
т. e. (0, |°)^WF(a). □

$ 2. ОСНОВНЫЕ СВОЙСТВА ВОЛНОВОГО ФРОНТА 167
§ 2. Основные свойства волновою фронта
2.1. Докажем вначале следующее простое утверждение.
Лемма 2.1. Если hezCT(Rn) и ue=&'(Un), то
WF фи) с WF (и).
Доказательство. Пусть у=?/ш и точка (х0, g°)^£WF(u).
В силу предложения 1.1, существуют такой конус Г с вершиной
в начале координат и такая функция ср из С£°, что <р= 1 в
окрестности точки х0у и если ^еГ, то \^U(l)\^CN(l + \l\)~N для
любого N. Поэтому для | е F, где Г' — конус, лежащий внутри Г
и содержащий точку £°, имеем
фЛ"(6)я$#Й-л)фй(л)Ж1+ \ й(Ъ-ц)(рй{ц)(1г\.
Г Rn\V
Для оценки этих интегралов понадобится неравенство 1 + |£|<
<0 + 1л|)0 + 16 —Л !)• В первом интеграле подынтегральное
выражение оценивается через
С^ (1 +1S — л |)-^ (1 Ч-1 -л [)-^-я-1 ^ Сл. (Ц-1 ^ |)-^ (Ц-1 т, 1)-л~х-
Что касается второго интеграла, то для £еГ выполнено
неравенство |£ — т)|Э5С0|6| с некоторым с0>0, и потому
подынтегральное выражение оценивается через
BN(i + \l-4\)-»-2k^-l(i + \4\)k^
<Bir(l+|5|y-^(l+|t|-6|)-*J,
поскольку |ф«(л)|<С(1+1л1)* по теореме 2.3 гл. I, и
1 +|Л|<(1 + 161)0 + |Б-л1)<С(1 + |$-л1>1-
Таким образом, мы видим, что для | s Г
для всех N, т. е. (х0, £°)^WF(/m). П
2.2. Связь волнового фронта с носителем особенностей
распределения указывается в следующем утверждении.
Предложение 2.1. Если п: T*Q-+Q — естественная про
ещияу то jtWF(a) = singsupptt.
Доказательство. Ясно, что если х0фsingsuppи, то
существует функция феС(Я), которая равна 1 в окрестности
точки х0 и фаеС?°(Й). Поэтому |ф«(£)|<Сл(1+|£|)-"iV для
любого N и всех £ е Rn, так что (jc0, l) ф WF (и), каков бы
ни был вектор ieR„\0i
Обратно, если (х0, I) ф WF (и) для всех векторов I e Rn при
|6| = 1, то для каждой точки |°eS^1 найдется такой конус Г

168 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
с вершиной в начале координат, содержащий точку |°, что
|$M(S)[^Cjv(l + |E|)-jV для всех N для некоторой функции ф е
еС£°(й), причем ф(д;)=1 в окрестности точки х0- Окрестность
точки £° на сфере S71-1, лежащую внутри Г, обозначим щ0. Из
покрытия сферы S"-1 такими окрестностями выберем конечное
подпокрытие окрестностями ©ь ..., со*, соответствующими
точкам £\ ..., %k. Каждой из этих точек соответствует функция фу (х)
и конус Г/, причем ф;= 1 в окрестности точки х0 и иГ/ = Кл.
Если положить ф0 (х) = фх (а:) ... ф* (а:), то ф0 (л:) = 1 в некоторой
окрестности точки х0, ф0еС2°, и в силу леммы 2.1
1чй(6)1<си1+|б|)-"
для любого N и для любого вектора geR„\0. Это означает,
что фиеС^(О), и потому jto^singsuppa. D
2.3.
Предложение 2.2. Пусть ие1'(й), Если (хо,Ъ°)ф
^WF(w), то (*о, 1°)g£WF(Au) для любого
псевдодифференциального оператора А, т. е. WF (Au) cz WF (и).
Доказательство. По условию найдутся функция <р из С^0,
равная 1 в окрестности точки х0, и невырожденный конус Г
с вершиной в начале координат и осью, коллинеарной вектору £°,
такие, что \w(l)\^CN(l+\l\)-N для всех N и всех £<=Г.
Пусть -феС00 — такая функция, что вирр-фсГ и г|)(|) = 1
в конической окрестности точки £°. Обозначим Q
псевдодифференциальный оператор г|э (£>) ф (я). Ясно, что символ этого оператора
равен 1 в конической окрестности о точки (х0, £°) и Qug С00.
Пусть В — псевдодифференциальный оператор с символом
•ф! (£) Фх (я), носитель которого лежит в со, однородным по £
степени нуль при |Б|>|£°| и равным 1 в меньшей конической
окрестности со' точки (х0, 6°). Покажем, что ВАи е С00, откуда
будет следовать, что (х0, |°) ^ WF (Аи).
Имеем
ВАи=АВи + [В9 А]и =
= ABQu + AB(I-Q)u + [B, A]Qu + [B, A](I-Q)u.
Все слагаемые в правой части являются бесконечно
дифференцируемыми функциями, поскольку Qu e С°° и символ оператора В
равен нулю в окрестности носителя символа оператора Q — L □
2.4. Поскольку главные символы псевдодифференциальных
операторов инвариантны относительно канонических
преобразований кокасательного пространства, из следующего предложения
вытекает, что волновой фронт распределения также является
инвариантным относительно таких преобразований.
Предложение 2.3. Точка (хо, £°) не принадлежит
волновому фронту u€l'(Q) тогда и только тогда, когда существует

§ 3. ДРУГОЙ ПОДХОД К ИЗУЧЕНИЮ ВОЛНОВЫХ ФРОНТОВ 169
псевдодифференциальный оператор А нулевого порядка с главным
символом а (х, |), для которого Аи&С™ и а(х0, 1°)ф0.
Доказательство. Если (х0, |°)^WF(m), to по
определению 1.1 оператор A=ty(D)<p(x) удовлетворяет условиям
предложения.
Обратно, если А — оператор с указанными свойствами, то,
рассуждая как и при доказательстве теоремы 3.1 из гл. II,
построить такой оператор В, что символ оператора ВА равен
тождественно 1 при |Е|>1 в конической окрестности ш точки
(х0, |°). Пусть функция ty(l)(p(x) бесконечно дифференцируема,
имеет носитель вши равна 1 в меньшей конической окрестности
точки (*о, £°)> причем \|) (*£) = ф (£) при |||3*1, t^zl. Нам
достаточно показать, что г|э (D) (ри е С°°.
Имеем
ф (D) щ = ВА^ (D) фИ + (/ - БЛ) i|) (D) фа =
==г|)(0)фВЛа + [ВЛ, yp(D)<p]u + (I-BA)ty(D)q)U.
Первое слагаемое бесконечно дифференцируемо, поскольку Аи е
е С°°. Так как символы операторов [ВА, ij> (D) ф] и (/ — ВЛ) -ф (D)
тождественно равны нулю, остальные слагаемые также бесконечно
дифференцируемы. □
§ 3. Другой подход к изучению волновых фронтов
3.1. Рассмотрим другую возможность исследования волнового
фронта распределения, основанную на разложении распределения
на плоские волны.
Пусть X и У —гладкие многообразия и /: Х-+ Y — гладкое
отображение. Напомним, что / называется собственным, если
прообразом каждого компактного множества в Y является
множество, компактное в X. Если / является собственным, то
определено отображение /*: С^(У)-^С^(Х)9 сопоставляющее каждой
функции ф из C?(Y) функцию /*ф (#) = Ф (/(#)), которая,
очевидно, принадлежит пространству С? (X).
Таким образом, если, «£#'(Х), то можно определить /*и —
прямой образ и, — как такое распределение из ^'(У), для
которого ^(ф) = U (/*ф).
В частности, прямой образ f#u определен для каждого
распределения и из g'(X).
Если отображение / диффеоморфно, то можно определить
отображение /*: 3f' (У) ->- J?"' (X)9 являющееся продолжением
использованного выше отображения С™ (Y)-+C™ (X). При этом
распределение f*u из S2P (X) называется обратным образом
распределения и из @Г'(У).
Обратный образ распределения может быть определен и в том
случае, когда отображение / является наложением, т. е. когда

170 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
прообразом каждой точки у является гладкое подмногообразие,
диффеоморфное фиксированному многообразию 1 размерности' k.
В этом случае каждой функции ф из Cjj°(X) можно сопоставить
гладкую функцию /^ф из C™(Y), проинтегрировав по слоям.
После этого каждому распределению и из g0' (Y) можно
сопоставить его обратный образ f*u, положив /*ы(ф) = ы(/*ф)-
Пример 3.1. Пусть я: K^-vR1 — проекция на ось х1. В этом
случае определены как п*и для u^^'(Rx), так и n^v для иб
eS'(R"), причем
п*и (х) = и (х1) <g) 1Л ^ хп\
n^v(^)^^v(x\ х2, .. , xn)dx2...dxn.
3.2., Определим теперь волновой фронт распределения,
используя описанные выше понятия.
Теорема 3.1. Пусть Q — область в R"; Qi — область в Rm, x0
и уо —точки из Q и Qle Пусть ueC°°(Qi; ^'(Q)) u (#0, |°)е
еГ*Й\0. Точка (х0, £°) не принадлежит WF(w(#0)) тогда а
только тогда, когда существует такая функция ф из С? (Q), что
<р(хо)ФОу и для каокдой гладкой функции f: эиррф-^К, для
которой grad / (х0) = 1°, функция fm (фа) (/) является гладкой по t и
по у, когда (t, j/)eRX(o и о — окрестность точки уо в Qx.
Для доказательства теоремы ЗЛ нам понадобятся следующие
леммы.
Лемма 3.1. Теорема 3.1 справедлива для распределений и,
являющихся плоскими волнами.
Лемма 3.2 (теорема Радона). Если u&%'(Rn), то
где g^: Rn-+R —отображение, переводящее точку х в х-со Зля
00
(oeS"4, а /Л-Ч; (т) = ^ С tn^v {t) eitx dt.
Лемма 3.3. Если ие§'(Р), mo (g0)* и(*) = й(*о>).
Покажем, как теорема 3.1 вытекает из этих лемм.
3.3. Доказательство теоремы 3.1. Пусть (х0, (о°)ф
^eWF(u). Тогда функция u(t(o) быстро убывает при/-> + °° Для
всех со, близких к со0. По лемме 3.3 отсюда следует гладкость
функции (#©)*« и, следовательно, функция g^In^1{g^)^u
принадлежит С°° для со, близких к со0. Поэтому, если и = иг + и2, где
ах —тот же интеграл, что и в лемме 3.2, но по окрестности
точки со0 на Sn~lt то иг е С03, и функция f * (ф^) г С°°.
Если направление вектора df(xo) близко к со0, то функция
ft ((pu2) является гладкой, по лемме 3.1. Таким образом,
функция /^ (ф") = /* (ф^) + /^ (ф^г) бесконечно дифференцируема. Не-

§ 4. ВОЛНОВОЙ ФРОНТ ПРИ ОТОБРАЖЕНИЯХ 171
трудно видеть, что в этом случае справедливо и утверждение
о гладкой зависимости от параметров.
Обратно, если условия теоремы справедливы для лю^ой
функции /, то, полагая / = £©, видим, что функция (£ш)^ ери является
гладкой для со, близких к со0. В силу леммы 3.3, отсюда
следует, что функции yu(t(o) быстро убывают при £->--}-со, если
направления векторов со близки к направлению вектора со0. Это
и означает, что (#0, co°)^WF(a). □
3.4. Доказательство леммы 3.1. Пусть u = f(x1)> где
f e^'(IR)» и пусть g: Q->R — гладкая функция, у которой
вектор gradg не коллинеарен оси х1. Используя гладкое
преобразование координат, можно считать, что g = #2. Тогда
(g^nW-lftfWtpix1* А .... x«)dx*)dx\..dx»
является бесконечно дифференцируемой функцией.
Поскольку, как мы видели в примере 1.1,
WFw = {(*> Ъ)\ ^esingsupp/, b#0t £2 = ...= £л = 0},
лемма доказана. □
Доказательство леммы 3.2. Заметим, что
оо
и{х)={2п)~п\й(1)е1*Ь<11 = (2пУп\ dr \ a(rv)r*W*-*da>.
о sn-i
Поскольку й(гсо) —(£<„)* u(r)f отсюда следует, что
и(х)^(2л)г^1 $ In-l(g<u)*u(a>x)d<of
00
где /n-iv (т) = _!_ f Гп-\Ъ (Г) etrx ^ T# е
Доказательство леммы 3.3. Если ие?'(Р), то
й(Щ^и(у)е~1Шу dy. Заменяя ал/ на г\ мы получаем, что
й(tco) = \u{z)e**dzK..dz» = \Ы* шг«'1 da*-(iX"(*)• D
§ 4. Поведение волнового фронта при отображениях
•4.1. Рассмотрим вначале вопрос о волновом фронте прямого
образа распределения.
Теорема 4.1. Пусть отображение f: X-+Y является
наложением и ме|'(Х). Тогда
WF (/*")<= {(/(*), г)): хе=Х, (х, WeWF(«) или %ц = 0},

172 ГЛ. V. ВОЛНОВОЙ ФРОНТ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ I
где fx —матрица Якоби отображения f, % — транспонированная 1
матрица. I
Доказательство. Пусть х0е^, у0 = / (х0) е Y и вектор т]0 I
таков, что ^оЛ° =5^ 0- Предположим, что (х0, '/^Л0) ^ WF (и) и 1
докажем, что тогда (у0, т|°) ^ WF (f*u). 1
Пусть g: Y -*R — гладкое отображение и §/(Уо) = 'П0- По тео- 1
реме 3.1, для того чтобы (у0, t\°)^WF(f*u)9 достаточно, чтобы I
gj*u <=C°°(R). Проверим это. Рассмотрим отображение gof: X-> II
->-R< По правилу дифференцирования сложной функции (g о f)Xo = я
= 7ioTl0' Но (хо^%91\°) &WF(и) и по теореме 3.1 (go/j^e 1
eC°°(R). Поскольку (gof)* u = g# (f*u) в силу определения пря- |
мого образа, то получаем, что g# (f#u) eC°°(R). D 1
Пример 4.1. Пусть f: R2 -*- R — отображение проекции, 1
f(x\ x2) = x\ Тогда Д = (1, 0), 7^ = (o) Для 4«R. Из теоре- |
мы 4.1 видно, что WF($a(*\ х2) dx2) а {(л:1, т]): (#\ х2, т], 0)@ I
gWF(m) при некотором л:2}, т. е. WF (f^u) состоит из проекций j
тех точек волнового фронта и, в которых особые направления I
параллельны оси х1. I
4.2. Теорема 4.1 позволяет доказать следующий интересный I
результат. I
Теорема 4.2 (Д. Людвиг). Пусть X, Y — гладкие многооб- I
разия, Z^XxY, я: Z-+X — естественная проекция, a f: Z-> I
-* R — гладкое отображение. Для каждого # е У рассмотрим по- \
верхность в X I
Ясли aeg'(R), singsuppa=*{0}, h&CT(Z), то ,j
WF(n,ft/*a)cA = {(*f g); 3(f/, 0 е У xR+, f(*. y)-0, |
/И*. 0 = 0, £ = *№ J/)K j
I
Пример 4.2. Пусть X = R", Y — гладкая гиперповерхность 1
в R", f(x, У) = \х-у\2-а2. Тогда S(j/) = {xeR", |д:-у|2 = a2}— I
сфера радиуса а с центром в точке {/, Л — совокупность точек 1
нормалей к огибающей этого семейства сфер. |
Пусть и = й(0, (eR. Легко проверить, что тогда |
f*u=6(\x-y\*-&)&&'{XxY), . 3
njif*u~\h(x, г/)6(1лг —f/|a —a2)dt/. , |
у 1
Теорема 4.2 показывает, что при интерференции распределе- I
ний с особенностями на сферах постоянного радиуса и с цент- 1
рами на гладкой поверхности исчезают особенности в точках, I
принадлежащих нескольким сферам, и остаются только особенно- 1

§ 4. ВОЛНОВОЙ ФРОНТ ПРИ ОТОБРАЖЕНИЯХ 173
сти на их огибающей. Это утверждение известно в математической
физике как принцип Гюйгенса.
Доказательство теоремы 4.2. По лемме 3.1, если
df(X, У)ф0, то WF(/*tt) = {(*> </> tfx, tfy): f=0, ;#0}. По
лемме 2.1 WF (hf*u) d WF(/*tt). Отображение nx>y определяется
матрицей ||/, 01, где / и 0 —единичная и нулевая матрицы порядка
пхп. Поэтому, если Ee|R„, то *n'Xtj£ = (£, 0). Из теоремы 4.1
следует, что
WF(M/*iOc={(xf Б): (*, {/, £, 0)eWF(ft/*«)},
WF(ji,ft/*u)cA. D
4.3. Изучим теперь волновой фронт обратного образа
распределения.
Пусть X и У —гладкие многообразия и F: Х-> У — гладкое
отображение. Пусть «е^'(К). Когда можно определить
распределение F*mg^'(X) таким образом, чтобы при и е С°° (К) было
(F*a) (х) = u(F (х)) s С00 (X)? Ответ на этот вопрос дается в
следующей теореме.
Определим множество
NF = {(y, л); ЗхеХ, jf = F(x), ^Мг] = 0}сГК.
Теорема 4.3. £а/ш WF(u)ONF~0, то определено
распределение F*u e ^"' (X), причем
WF(F*u)cz{(x, g); Э(у, ^)eWF(a); F (*) = </, 6 = <F'(x)t|}.
Замечание. Мы уже рассмотрели частный случай теоремы
в примере 1.1, где y = R и NF={(y> т)); Зх^Ху y = F(x),
F'(x) = 0, tjgR}, Для этого случая теорема утверждает, что:
1) распределение F*ue#'(X) определено, если F' (х)ф0
в singsuppa; 2) при этом условии
WF(/?**/)<={(*, 6); Э(</, t|)sWF(a), у = />(*), 6 = '/"(*)чЬ
т. е. singsuppP*« есть множество линий уровня F(x) = y, где
#<= singsuppw, а векторы £ — нормали к этим линиям уровня.
4.4. Доказательство теоремы 4.3. Поскольку теорема
носит локальный характер, можно считать, что XqR", Y с:Rm,
u^l%' (У), и У является достаточно малой окрестностью точки y0i
причем и(у0)ф0. Пусть вначале и ее Со (У). Тогда
(F*u) (x) = u(F (х)) - (2я)-Л J й ft) ё* <*>*Мг].
Предположим, что x^Co°W и xW^°» причем F(x0) = y0.
Тогда
^^(х) = (2я)-^/х(т!)й(л)^ (4.1)

174 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
где
/x(4)-$X<*>*IFW),ld*-
(4.2)
Докажем, что если условия теоремы выполнены, то формула
(4.1) верна для любых и из %' (Y) и % из С£°(Х), когда suppyv
содержится в достаточно малой окрестности U точки х0. Тем
самым будет доказано первое утверждение теоремы — о
существовании распределения F*u.
Пусть
Ve = {T]eR»; *Р'(х0)ц = 0},
так что, если ц e У0* то
/=i
6F/ (х0)
дх*
Т]у = 0, k=l9
п.
Пусть V — коническая окрестность множества V0. Тогда для #£=(/,
т) ф V выполнено неравенство
ал:*
Л/
:С|Г]|2, C = CODSt>0.
(4.3)
По условию те направления т], по которым функция й(ц) не
убывает быстрее любой отрицательной степени, лежат вшУ. Мы
докажем, что вне V интеграл /х(т]) = 0(|г])-^) при г]-> со и
любом N. Это означает, что интеграл (4.1) сходится для любой
функции х из CJ°(i/), так что определено распределение F*u.
Заметим, что
d*Ff | VI dFi
d\xkY
, eiF (x) v\ _
2d*Ff
nj
/-1
dxk
П/
eiF(x)nf A==]>
Суммируя по k, получим
eiF(x)-v\^
•n"1
L fe = l /«1
(a**)2
4r
X l X? oFJ
-l
= Л(х, г])Д^<*>\
причем в силу (4.3) при |г]|^1 имеет место оценка | А (х, ц)\<*
^Ci|ii|-2. Подставляя это равенство в (4.2) и интегрируя по
частям, получим, что /х (ц) = $ А [% (х) А (х, ц)] eiF (*> ч dx, так что
при цфУ в силу (4.3) выполнено неравенство | /х (т)) | ^ С21 г) |-2.
Повторяя это рассуждение N раз, можно показать, что при
т] ф V справедлива оценка
IMn)I^C«*|n|-™. Q

§ 4. ВОЛНОВОЙ ФРОНТ ПРИ ОТОБРАЖЕНИЯХ 175
Рассмотрим теперь WF(F*u). Пусть снова %<~C™(V) и U —
малая окрестность точки х0. Интеграл
%F*u (I) = (2я)"л $ й (ц) dv\ \ х (х) eiF <*> r'-*S dx (4.4)
устроен так, что градиент по х экспоненты обращается в нуль
на множестве
Ух = {(6, ч): '/"(*>Ч~Б}.
Вне конической окрестности V2 множества Ki выполнено
неравенство
\l-'F' (х)ч\\^г(\Ъ\ + \ч\), e = const>0.
Повторяя примененный выше приеме интегрированием по частям,
нетрудно показать, что при (£, ц)<фУ2
\^eiF^^ixh(x)dx\^CN(l+\l\ + \\]\)-^.
Поскольку распределение и имеет конечный порядок, т. е.
|й(г1)|<Сз(1+М)*> отсюда видно, что
I \ u(r\)d^\eiF^^ixh(x)dx\^CN(l+\l\)-'^.
С другой стороны, если ц находится вне конической
окрестности множества {'F' (х0) £; (F (x0)t I) е WF (а)}, то и (ц) = О (|т)|-*)
для всех Ny когда окрестность t/ точки x<i достаточно мала.
Кроме того, если (£, t|)g^2, то | £ | ^ С41 ц |. Поэтому
l(6.t|)sVi I
если suppx и suppu достаточно малы. П
4.5. Пример 4.3. Пусть М —гладкое fe-мерное
подмногообразие в R" и р (а:) — гладкая плотность, заданная на М. Пусть
и = р <Э б (М) — потенциал простого слоя на М. Тогда
WF(tt)c#(M)\0,
где N (М) — пучок конормалей, N (М) с Г* flR"). Кроме того, если
Р (*о) Ф 0, то (#о, 6) s WF (а) тогда и только тогда, когда вектор £
направлен по нормали к М.
В самом деле, по теореме 4.3 достаточно рассмотреть тот
случай, когда М определяется уравнением х" = 0, где х' = (х\ ..., xk),
x" = (x*+\ ...,**) и и = р(*')6(л:"), pe=C°°(R*). Если р имеет
компактный носитель, то функция й(£) = р(£') быстро убывает
в любом направлении £, для которого 1'фО, но не убывает
в направлениях | = (0, £*), если только р^ЁО.
4.6. Приведем теперь несколько следствий из теоремы 4.3.
Следствие 4.1. Пусть М —гладкое k-мерное
подмногообразие в R", определяемое уравнением *" = (), где а;' = (а:1, ..., х%

176 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
х"=(хм хп) и ме^'(Кй), Если WF(u)()N(M)=0y то
определено естественное сужение и\м^&' (М), причем
W(u\M)cz{(x', Б'), 6'^О, ЭГ, (х\ О, Г, g*)eWF(u)}.
Доказательство. Рассмотрим естественное вложение
i: M-^R", так что *(#') = (#', 0). Тогда
*'(*') = (/, 0), (|, л)'/'(*') = £•
Нетрудно видеть, что множество Np9 определенное в теореме 4.3,
для F = i совпадает с N (М). Поэтому, если WF(tt)f)N (М)= 0,
то определено i*u е &P (М), и
vVF(t*u) <={(*', Б'); Б'^0, ЭГ: (*', 0, Б\ nsWF(«)}. П
4.7. Следствие 4.2. £&/ш распределение и & &ff (R*+1) f/Зов-
летворяет дифференциальному уравнению
Р(*, *, D,f D,)ИеС00(R"+l), IsP.xsR",
а плоскость t = 0 нехарактеристическая, m. e. /?° (0, #, 1, 0) ^= 0,
mo определены следы Dfu (0, *) e «^r/ (Rn) при всех k, и и (t, x) e
e=C°°(R, <T(R*)).
Доказательство. Из условия р°(0, х, 1, 0)#0 следует,
что точки (0, x, т, O)^WF(w) так что, в силу следствия 4.1,
WF (и) Г) N (М0) = ф, где М0 — плоскость f = 0.
Остальные утверждения доказываются аналогично. □
4.8. Следствие 4.3. Если ии u2e J?'(X), где Х~гладкое
n-мерное многообразие и WF (ui) + WF (a2) <z Г*Х\0, то
определено распределение иги29 причем
WF (ал) с: {(*, 6 + tj); (*, QeWFJfa) ила | = 0,
(*, г)) е= WF (a2) или г] = 0; Б + Л^0}.
Доказательство. Распределение Ui®u2 корректно
определено в &Р (X х X). При этом, если ui и и2 имеют компактные
носители, содержащиеся в некоторой координатной окрестности,
то иг <g> и2 (£, т)) = Ci (Б) й2 (л), Б е Rn, л е R„. Функция йх (/£)й2 (/т))
быстро убывает при *->- + °°> если только (£, r])^ WF(wi)(g)WF(a2),
причем £#0, т]=^0.
Рассмотрим диагональное отображение Д: Х->ХхХ9 так что
А (х) = (х, х), и применим к нему теорему 4.3. Это можно
сделать, если WF («10 и2) П Мд = ф. Заметим, что # д = {(л;, х, £, —£),
l<=R/i} и А* (иг §§ и2) = иги2. Поэтому теорема 4.3 применима,
если WF(wi) + WF(w2) cz Т*Х\0. В силу этой теоремы,
WF(m, */2)<z4{(*, Е + л); (*> *. Б» Л) е WF (иг <g) w2)},
откуда сразу следует наше утверждение. □

§ 5. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 177
§ 5. Волновой фронт и интегральные операторы Фурье
5.1. Рассмотрим вначале поведение волнового фронта
распределения при действии на него интегрального оператора. Пусть
Ке= <^'(&iXQ2), QiCzR", Q2czRm и отображение /С: сГ(Й2)->-
->^'(Й1) определяется равенством
Ки (ф) = К (и ® ф), и<=сТ (Й2), Ф е СГ (&i).
Теорема 5.1. Если и&С™(£12), то
WF(/Ca)c:{(*f 6)sT*Q!\0; 3(/g=Q2, (х, y, g, 0)gWF(/()(.
Доказательство. Не ограничивая общности, можно
считать, что К имеет компактный носитель в QixQ2 я WF(/C)cz
с: Qi X й2 X Г, где Г — замкнутый конус в Un+m с вершиной в начале
координат. Достаточно доказать, что WF (Ки) cz Qi x Г0, где
Г.-{5; (Б, 0)еГ|.
Заметим, что ^и(Б) = (2я)-т $К(£» — ч) и (ц) йц-
Если замкнутый конус Гх в Rn с вершиной в начале
координат не пересекается с Г0, то существует такое е>0, что х
\К(1, —ч)КСлг(1+|Б|)-^, если |ч|<в|Б|, БеГь
Так как \K(h — л) I < С (1 +151 +1Л \)+k для некоторого k9 то для
£<=1\ выполнено неравенство
lt||<e|g|
1Л1>8||1
так что 1(й(1) быстро убывает, если £еГь |-*оо. Таким
образом, WF(/Ca)czQixro. П
5.2. Теорема 5.2. Пусть tt(=£'(Qa). К е ^' (Qx x Й2),
iMl3-{(yf л); (*, if, of-4)eWF(/()}nwF(«*) = 0,
М2^{(х, Б); (*, у, Б, O)eWF(/C)H0.
Тогда определено распределение
Ки(х) = \К(х, y)u{y)dyeSf9(Q1).
причем
WF(Ku)*={(x, |); (х, у, 1, -T|)e=WF(70, (У, 4)eWF(a)}.
Замечание 5.1. Рассмотрим формально сопряженный
оператор К*у действующий по формуле K*v (у] =* $ К (х, y)v{x)dx.
В силу теоремы 5.1, оператор К* действует из СГ(Йх) вС00^),

178 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
если M32s{(y, л)» (*» #» 0» r|) eWF (/()} = ф. Поэтому по
двойственности оператор К действует из %' (Й2) в @?' (Qi).
Замечание 5.2. Пусть 1 (х) — функция, тождественно
равная единице на £1г. В силу следствия 4.3, произведение
распределений К (х> у) и(у) = К (х, у) • [и (у) (g) 1 (#)] определено, если
волновые фронты распределений не содержат противоположных
направлений. Но
WF[a(y)®l (*)] = {(*, У. О» Л)"- <0. ^)^WF(a)}.
Поэтому, для того чтобы произведение К (х, у) и (у) было
определено, достаточно, чтобы множество WF(/C) не содержало точек
вида (хг у\ 0, —т|), где (*/, t])<==WF(u), т. е. Мх=ф.
Замечание 5.3. В силу теоремы 5.1 условие М2=ф озна- -
чает, что К'- С0 (Q2)-> С00 (£2i), т. е. образы гладких функций не
имеют особенностей.
Доказательство теоремы 5.2. С помощью разбиения
единицы доказательство легко сводится к тому случаю, когда К
имеет компактный носитель, WF (К) с: QxxQ2xr, WF(a) cr Й2хГ",
где Г и Г'— замкнутые конусы с вершинами в начале координат
в пространствах Un+m и Rm соответственно. Будем считать Э1и
конусы минимальными, так что в силу условий теоремы
(6, т))е=Г=>1) если £ = 0, то -т^Г; 2) цфО. (5.1)
Доказать же надр, что
WF(Ku)czQ1x{l\ Зле Г', (g, -т|)еГ}. (5.2)
Введем однородные функции нулевой степени г|> (£, т)) и ф (rj),
равные 1 в окрестности конусов Г и Г' соответственно. Будем
считать', что носители функций ф и ф настолько близки к
конусам Г и Г', что условие (5.1) сохраняется при замене Г на supp г[?,
Г' —на suppcp.
Запишем преобразование Фурье
/^(£) = (2я)-*$К(£, -Л)0(Л)*|
в виде
KJu(l) = (2nyn(Il + I2 + h + h),
где
/i- S [1-ф(л)]*(Е. -л)й(л)*В
IriKelil .
/i- J [1 —ф(ч)]К(6. -л)й(л>*|;
1л1>е|||
/эЧфШ1-^. -л)]/?(Б, -л)й(л)*15
/«=$ф(л)*($. ~Л>* & -Л)2(Л)^Л-

* В. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ~ 179
По построению [1 —ф (6, -ц)]К(Ъ, -г]) = 0 при (Б, п)^Г, так
что при всех (Б, т]) имеет место |(1-г|))/С|^С,(1+ГБ| + |г11)~',
а потому \h\^C'i(l+\l\)-1 при всех /.
Подынтегральное выражение в /i и /2 отлично от нуля только,
если ?]^Г\ В силу условия (5.1), в интеграле 1Х точка (Б, — ц)
лежит вне Г, так что |/х \<,СЧ(1 + |Б|)~*- Интеграл /2 оцени-
вается с помощью неравенства ^^л^^СШ^-^Ы-*/2, так
что |/«|<СГ(1 + |БГ. -
В интеграле /4 подынтегральное выражение отлично от нуля
только при (Б, — ц) € supp -ф, т] е supp ф. Поэтому WF (Ки) cz
aQiX{(l, - л) е supp ф, Tj_e=supp<p}. D
5.3. Пусть теперь Р — псевдодифференциальный оператор с
символом р (х, Б), аме Ш' (Q), так что
Ри (х) - (2я)-* JI р (х9 Б) и (у) ё <*-*> * Ж/ d|.
Ясно, что Я можно рассматривать как интегральный оператор
с ядром
К(х, у) = (2п)-п\р(х, Qe^x-yKd^ xsQ, yeQ. (5.3)
Лемма 5.1. Если ядро К имеет вид (5.3), то
WF(/0с{(*,*, 6, т-Б), *e=Q, |еКл\0}.
Доказательство. Мы уже видели в гл. II, что sing supp К cz
а{(х, я), хей). Можно считать, что р(х, Б) = 0 при \x\^R.
Рассмотрим преобразование Фурье
R&9 т]) = (2л)-*$$$/?(*, Qefiw^^ndtdxdy.
Поскольку (2я)-я J e-*y (C+,|) dy = в (С + rj), то после интегрирования
по у и £ получаем, что
К (Б, т|) = J p (х, -r))e-ix^)dx.
В конусе {(Б, г]); |Б + г]|>8 (IБ1 + 1Л I)} можно воспользоваться
тождеством
е-*х (Un) в (J +1 g + у, |«)- ы (J _ д^л g-i* (1+л),
из которого после интегрирования по частям следует, что
*(Б. rO-Jd + iE + ^pr^d-A^p^ -4)r"ft*i><k.
Отсюда следует, что
1*.(Б. л)КСлг(1 + |г1|)-(1 + |Б+т1|)~2^<
<C^(l+|Tl|)-(l+8||| + 8hl)-2^
т. е. д убывает быстрее любой степени | Б | +1 т) | вне конической
окрестности множества Б + Л = 0- п

180 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
5.4. Докажем теперь псевдолокальность
псевдодифференциального оператора Р в смысле волновых фронтов, что является более
точным утверждением, чем теорема 2.5 из гл. II.
Теорема 5.3. Если Р — псевдодифференциальный оператор и
меГ(Й), то WF(Pu)cWF(a).
Доказательство. Применим теорему 5.2. В данном
случае Мх=ф, М2=ф, так что WF(Pa)c:{(x, I); (*» У Л, — т|)е
e=WF(/t), (у, ri)eWF(tt)}. Но если (*, у, g, - ч) г WF (К), то
по лемме 5.1 */ = #, T|==g. Отсюда WF(Po) с WF(w). D
5.5. Рассмотрим теперь вопрос об определении WF(w) через
WF (Ри). Для этого введем множество
CharP = {(x, 5)sT*Q\0; /?°(*> |) = 0}.
Теорема 5.4. Для каждого распределения
WF(a)c=WF(Pu)UCharP.
Доказательство. Пусть (х0, |°)^WF(Pw) и /?°(*о, |°)#
#0. Докажем, что тогда (*0, £0)<^WF(u).
По определению WF(Pa) существуют такие функции феС0 (Кл),
t|)eC°°(|Rn\0), ф (х) = 1 в окрестности точки х0, ty(tQ = •$(%) при
f>0, i|?(E°)¥=0, что г|)(|)фРи(£) убывает быстрее любой степени
(1 + lgl)-1. Пусть Р' = г|)(0)фР. Тогда Р'и&С™ и /?'°(*о, 1°) =
= *(6V°(*b. Е0)=^0.
Построим теперь символ ^(дс, £) параметрикса, для которого
2я(Ю*)в?(*. Б)«р'(*. 0^1
для точек (я, £) из некоторой, достаточно малой конической
окрестности точки (х0, |°). Пусть Q — оператор с символом q (x, £),
R — QP и г (а:, |) —символ оператора Я. Тогда #и е C°° и символ
оператора /? равен 1 в некоторой конической окрестности точки
(#o, |°). Выберем теперь функции ф' и г|/ так, что i|/ (tQ = i|/ (g)
при / > 1, | £ | > 1, ф' =1 в окрестности точки х0, г|/ = 1 в
окрестности точки £° и <р'(*)Ф'(5)Ф. БИф'(*)*'<£)• Тогда ф'Р)ф'(*)Яа—
— г|/ (D)фг (х) 1/еСюи потому г|/ (D)ф' (а:) и еC°°. Следовательно,
(х0, g°)^WF(a). D
Следствие 5.1. Если Р — эллиптический оператор, то
WF(Pa)=»WF(ti).
Замечание. Напомнцм, что оператор Р называется гшю-
эллиптическим, если sing supp Ри zd sing supp a.
Если WF (Pu) => WF (w), то оператор Р называется
микролокально гипоэллиптическим.
5.6. Рассмотрим теперь изменение волнового фронта
распределения под действием интегрального оператора Фурье. Пусть
Аи (х) = (2я)-* $ а (х, Б) й (1) eiS <*• *> dg, (5-4)

$ 5. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ, ОПЕРАТОРЫ
\
181
где а €Е S° (R"), а функция S удовлетворяет определению 4.4 гл. II.
Ядро этого оператора имеет вид
К (х, у) = (2п)-п $ а (*, С) eiS <*• о -< <*. о d£.
Чтобы применить теорему 5.2, необходимо описать WF(/Q.
Лемма 5.2.
Доказательство. С помощью разбиения единицы по х и #
можно свести теорему к тому случаю, когда К (х, {/) = О вне малой
окрестности точки (х09 Уо). Рассмотрим конус
г-{(Б. п); |у-^^|+|б-^^|(|11+1ч1Н>в, (х.у)в£/}.
Покажем, что преобразование Фурье К (£, — ц) убывает вне Г при
I £ I +1 ЦI -* °° быстрее любой степени (| 11 +1Л I)"1-
Заметим, что
#(£, —г1)=(2я)-я5^/1(^, j/)a(x, О^^0-'^»-'<*• »>+'^i>dCdxdyf
где ft в СГ(К2л), -А — 1 в (У. Используя тождества
(1 - Д„) ^(ч-«) = (1 +1 т| -£12) е-"<ч-»,
(1 - A*) e's <*»£>-<<*• £> =
= (1 +1S,(*; С) -112-tA,S (х.Л)) eiS <*• О-'**- »,
(1 — (14-1С |)*Ас)^*вСж- о—*^--» —
— 1Ч-(1+1С|>*Iу — Sc(*• О Г —«СИ-1СIя) AeS(jc. 0)^c*.o-'^ot
и интегрируя по частям, можно представить К в виде интеграла
от функции, которая оценивается через
при любом N. Отсюда и следует искомое утверждение. □
5.7. Доказанная лемма и теорема 5.2 позволяют описать
WF(Am).
Теорема 5.5. Пусть ме^'(й) и А —оператор вида (5.4),
причем выполнено условие:
если g(x, Б) = 0, то (^р, l)&WF(u).
Тогда
WF (Л«) с {(*, *Ц-!>): (^J!), „) е WF («)}.
Таким образом, если S является производящей функцией
канонического преобразования, то WF (Аи) является образом WF (и)

182 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
при каноническом преобразовании (у, rj) »—►(#, £), порожденном
функцией S (х, ц). Поскольку каноническое преобразование
обратимо, знак включения в теореме 5.6 можно заменить знаком
равенства.
§ 6. Распространение особенностей.
Разрешимость уравнений главного типа
с вещественнозначным главным символом
6Л. Докажем теорему Л. Хёрмандера о распространении
особенностей для решений уравнения Pw = /, где Р —
псевдодифференциальный оператор с вещественнозначным главным символом
р°(х, I). Будем предполагать, что Р является оператором
главного типа, т. е. выполнено определение 4.3 гл. II.
Рассмотрим гамильтонову систему
dxi dp* t4 Ф др*(х, I)
Фазовые кривые x = x(t), £=-£(/) этой системы называются
бихарактеристиками оператора Р. Очевидно, что вдоль
бихарактеристик р (* У' *( " = о, так что p°(x(t), £(0) = const. Поэтому, если
/—связный кусок бихарактеристики, то либо /ciCharP, либо
/ПСЬагР = ф.
Введем в пространстве T*Q дифференциальный оператор
/-1
Ясно, что Яро/(л; (0, £(0) = 2г/(*(0> 2(0) ДЛЯ любой функции /
из С1 (T*Q).
6.2. Теорема 6.1. Если ме#'(й), / — связный кусок
бихарактеристики и I (] WF (Ри) = 0, то либо / с: WF (и), либо
/nWF(a) = 0.
Другими словами, на дополнении к WF(Pu) множество WF(w)
инвариантно относительно сдвигов по траекториям гамильтоновой
системы (6.1).
Доказательство. Рассмотрим вначале частный случай
оператора P=DV Тогда р°(д:, £) = £ь и бихарактеристики имеют
вид:
& = xlQ + t, x' = *j, %k = U> /«=2,...,/i; fc=l, ..., л.
Иначе говоря,
/ = {(4+', 4, 1°), *«R}.
В точках на бихарактеристике векторы (я, £) с £i=£0 являются:
нехарактеристическими и потому не принадлежат WF (и). Еслш

§ б. РАСПРОСТРАНЕНИЕ ОСОБЕННОСТЕЙ
183
же 11 = 0, то в силу следствия 4.1, если точка (я, g)eWF(w),
то (*, I') a WF(a|*i=xi). Поэтому функция ф (D') ср (х') и |*iexj€=C°°,
если г|э {D') ф (л:') и^С° при х1 = а и отрезок бихарактеристики
[я, 4] не пересекается с WF (Dtu).
В общем случае можно считать, чтот=1, поскольку
утверждения теоремы инвариантны относительно умножения оператора Р
на эллиптический оператор. В силу предложения 4.2 гл. II
существует такой интегральный оператор А нулевого порядка, что
Р = А*ОгА + Т^9
где Г_оо — сглаживающий оператор и потому, если положить
Au = v, то D&^Af + TLa»
Таким образом, доказательство сводится к рассмотренному
выше случаю. Поскольку при преобра[зовании с оператором А
бихарактеристикам оператора Р соответствуют прямые,
параллельные оси х1, теорема доказана и в общем случае. □
6.3. Для приложений удобно бывает уточнить понятие
особенности, назвав особыми те точки, в которых функция и не
принадлежит пространству С. Л. Соболева Hs.
Определение 6.1. Будем говорить, чтои<~Н5 (х0, £°), или
(хо, 1°) q^WFs(u)y если и можно представить в виде и = их-\-и2,
где ut e Hs и (х0, 1°) ф WF (и,).
Нетрудно видеть, что теорема 6.1 может быть
переформулирована в терминах WFs(u) следующим образом.
Теорема 6.2. Если «6^'(Й), / — связный кусок
бихарактеристики и IП WFs (Ри) = ф, где Р — псевдодифференциальный
оператор порядка т, то либо I a WF<S+W_i(a), либо IП WF^+m-i (а)=ф.
При этом доказательство теоремы 6.2, по существу, не
отличается от доказательства теоремы 6.1. Нужно только
воспользоваться оценками из п. 4.3 гл. III, утверждающими ограниченность
оператора А и его параметрикса в пространствах Hs.
6.4. Теоремы 6.1 и 6.2 позволяют доказать существование
решения уравнения вида Ри = /, где Р — псевдодифференциальный
оператор главного типа с вещественнозначным главным символом.
Теорема 6.3. Для каждой точки ^0gQ найдется такая
окрестность V, что если /бЯ,(0), то существует функция и
из Hs^m-1{Q)i удовлетворяющая уравнению Pu = f e U, причем
lu\\s+m-i^Clf\s с постоянной С, зависящей только от s.
Доказательство. Пусть (У—такая окрестность точки #0,
что каждая нулевая бихарактеристика функции р°, проходящая
через точки из T*U\0, имеет точки, лежащие в T*U\du- В силу
того, что Р является оператором главного типа, такая окрестность
всегда существует.
Заметим, что оператор Р* также является оператором главного
типа, и если Р*ф <= Hs-m+i ((У), фе^' ([/), тофеЯ, ((У). В самом
дрле} пр теореме 6,2 множество точек, в которых ср е Н^ инва-

184 ГЛ. V. ВОЛНОВОЙ ФРОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
риантно относительно гамильтонова потока #р<>, а поскольку
в окрестности границы области U распределение ф обращается
в нуль, то каждая нулевая бихарактеристика содержит точки,
в которых ф еС00. Таким образом, фбй^в каждой точке из T*U.
С помощью разбиения единицы можно показать, что тогда
<реЯ,(£/).
По теореме Банаха об открытом отображении существует такая
постоянная С, зависящая только от s, что
| ф К С | Я*ф U.+1. ф е= СТ (U).
Из этого неравенства вытекает, что при / <= Hs (Q) интеграл
\fydx является линейным ограниченным функционалом от Р*ф е
бЯ:Гиц. По теореме Хана — Банаха и теореме 3.3 гл. I
существует функция и е Hs+m'-ъ для которой
^f(pdx = ^uP*q)dx, феС* (£/),
причем
|aU»-i<C|/|f.
По определению и является обобщенным решением уравнения
Pu = f, и теорема доказана. D
6.5. Теоремы о распространении особенностей позволяют также
получить и более общие результаты о полуглобальной
разрешимости, т. е. о разрешимости в любом компактном подмножестве.
Нетривиальность таких результатов видна из следующего примера.
Пример 6.1. Пусть Q — кольцо на плоскости, определяемое
неравенствами 1^г*^2, где г— полярный радиус. Оператор
D<p = —-£-является оператором главного типа, но для
разрешимости уравнения £фи = / в Q необходимо, чтобы
У (г, cp)d<p = 0
О
при всех ге[1, 2]. Таким образом, для разрешимости необходимо
выполнение бесконечного числа условий ортогональности.
Приведенный пример показывает естественность следующего
условия:
(А) Каждая нулевая бихарактеристика, проходящая через точки
из T*Q\0\Ky где К —компакт в Q, имеет точки, проекция
которых на Q лежит вне К.
Как обычно, уравнение Pu = f разрешимо, только если
функция / ортогональна ядру сопряженного оператора. Рассмотрим
это ядро подробнее.
Лемма 6.1. Пусть Р*ф = 0,фЕ§' (/С), и выполнено условие (А).
Тогда феС0 (/С), множество всех таких ф с |<р|о^ 1 компактно
в Со (К) и имеет конечную размерность.

§ б. РАСПРОСТРАНЕНИЕ ОСОБЕННОСТЕЙ 185
Доказательство. Гладкость функции ф следует из
теоремы 6.1, поскольку по условию каждая нулевая бихарактеристика
содержит точки, не принадлежащие WF^). Если рассмотреть
множество
N (К) = {ф;фе СТ (/(), Р*Ф = 0} (6.2)
и в нем шар {ф, ||ф1о^1}, то по теореме 6.2 получаем, что все
такие функции ф принадлежат пространству Нг(К) и ЦфЦх^Со.
По теореме 3.11 из гл. I это множество компактно и потому
размерность пространства N (К) конечна. □
Теперь можно сформулировать теорему о разрешимости.
Теорема 6.4. Пусть псевдодифференциальный оператор Р
порядка т главного типа имеет вещественнозначный главный
символ р° в области Q с R". Предположим, что для компактного
подмножества KczQ выполнено условие (А). Тогда множество N (К)
имеет конечную размерность и для каждой функции f из #ДЙ),
ортогональной N {К), найдется функция и из пространства
Hs+m-i(&), удовлетворяющая уравнению Pu = f в К- При этом
существует такая постоянная С, которая не зависит от /, что
|иЬ+«-1<С|/Ь.
Доказательство. Конечномерность пространства N (К)
доказана в лемме 6.1. Ясно, что если Pu=f, то
м(Р*ф) = \f(pdx
для ф е N (К). Поэтому условие ортогональности функции /
пространству N (К) является необходимым для разрешимости.
Покажем, что для функций ф из С0 (/С), ортогональных
пространству N (К), справедливо неравенство
. . 1ф|к<С1|Р*ф||-^+1. (6.3)
В самом деле, предположим, что это неверно. Тогда найдется
последовательность {ф*} функций из С0 (/С), для которых
|<р*|.,»1, ||Р*фЛ|к-т+1<~ и £ф**рЛх = 0 для г|> е= N (/С).
В силу теоремы 6.2 и теоремы о замкнутом графике (см.
К. Иосида [1]) имеет место оценка
IIФ* Ik < Сг (! Р*щ U.m+i +1Ф* |k-i). (6.4)
Поскольку последовательность {q>k} компактна в Я-^-ь то можно
считать, переходя к подпоследовательности, что {фЛ} сходится
вЯ„,_ь Но
IФ* - 4>k> U < Сг (| Р*щ |-,-w+1 + S Р*Щ> i-™+i +1Ф* - Щ> i-,-i)

186 ГЛ. V. ВОЛНОВОЙ ФГ>ОНТ. ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ ФУРЬЕ
и, следовательно, {ф*} сходится в H-S(K) к некоторой функции ф
о
из H-S(K). При этом Р*ф = 0 и |ф|^=1, т. е. феЛ7(/(), что
противоречит условию ^фгрсЬс = 0 для \|)e/V(/(). Итак,
неравенство (6.3) доказано. Из этого неравенства следует, что функционал
\fydx от функции Р*ф ограничен в H-s-m+u так как
s-m+v
По теореме 3.3 гл. I и теореме Хана—Банаха существует элемент
и е Hs+m-i, для которого
^uP*q>dx~^fq>dx,
причем Wuls+m-x^Cilfis. Функция и и является искомым
решением. □

ГЛАВА VI
НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Вопрос о разрешимости (хотя бы локальной) общего линейного
дифференциального уравнения был и остается одним из центральных
вопросов общей теории дифференциальных уравнений. Еще
в 1946 г. И. Г. Петровский в своей программной статье [4]
отмечал, что «даже для самых простых неаналитических уравнений
мы, как правило, не знаем, имеет ли такое уравнение хотя бы
одно решение. Было бы важно исследовать этот вопрос». Хотя
проблема разрешимости далека еще от своего окончательного
решения, в последние годы получены результаты, позволяющие
надеяться на скорое окончательное решение для дифференциальных
операторов с простыми характеристиками.
Наиболее важные результаты о необходимых условиях
локальной разрешимости получены в работах Г. Леви, Л. Хёрмандера,
Л. Ниренберга, Ф. Трева, Ю. В. Егорова, П. Р. Поливанова.
§ 1. Примеры
1.1. Рассмотрим некоторые примеры уравнений, не разрешимых
даже локально в классе распределений. Первый пример такого
вида был построен Гансом Леви в 1956 г. Он доказал, что
уравнение
где / — построенная им функция из класса C°°(R3), неразрешимо
ни в какой открытой подобласти пространства R8.
Пример 1.1. Наиболее простой пример уравнения, не
разрешимого ни в какой окрестности начала координат, построен
В. В. Грушиным, использовавшим идею П. Гарабедяна.
Это уравнение имеет вид
5г + «*|г-«*. у)' (Ь2)
где /еСГ(К!), fSsO, f(x, y)=f(—x, у), и при xs*0 функция/
00
равна нулю всюду вне множества (J Dn% где \Dn] —
последовали
тельность непересекающихся кругов, лежащих при jc>0 и схо-

188 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
дящихся при п-+оо к началу координат. Ясно, что пространство
таких функций имеет бесконечную размерность. Будем считать,
что />0 в D„, и обозначим D носитель функции /.
Мы покажем сейчас, что каждое уравнение такого вида не
имеет решений в классе распределений ни в какой окрестности
начала координат.
В самом деле, пусть а —такое решение. Положим
v(x,y)=u{x'y)+^-x'y), w(Xiy)=u{x'y)-^-x'y) .
Сравнивая уравнение (1.1) с уравнением
Эа(—*, у) ■ / d"(— *> У) __ п v ,л
дх ~^1Х ду ——/V—*> У),
получаем, что
dv . . dv Л dw , . dw * . ч
^-+«^.-0, -^ + txw=f(x, у).
Первое из этих уравнений переходит после замены s = x2/2
в уравнение Коши —Римана
означающее, что v является аналитической функцией от s+iy9
v = F{s + iy). Гладкость функций v вытекает из теоремы 3.4 гл. II.
Функция до также является аналитической от я2/2 + и/ всюду
при х>0 вне множества D. Поскольку дополнение R2\D
является связным и до = 0 при я = 0, по построению получаем, что
ш = 0 в области R2\D. По теореме 3.4 гл. II функция w
бесконечно дифференцируема при х>0. Поэтому до = 0 на границе
каждого круга Dn. Но по формуле Грина '
\\fdxdy = \\(ux-\-ixiiy)dxdy= ф udy~-ixudx — 0,
n n _ n
и мы приходим к противоречию.
Нетрудно видеть, что приведенное выше рассуждение
переносится и на несколько более общее уравнение
w+ix*k+1w=nx>у)- ' (1-3)
1.2. Еще один пример неразрешимого уравнения, на этот раз
псевдодифференциального, может быть получен из примера 1.2
гл. IV.
В самом деле, процедура, описанная в § 3 гл. Ш, позволяет
свести краевую задачу
Ди-0 в Q, ~=g цаГ (1.4)
j

§ 2. ТЕОРЕМА Л. ХЁРМАНДЕРА
189
к эквивалентному ей псевдодифференциальному уравнению
Pu=g на Г. (1.5)
Однако краевая задача (1.4) разрешима только в том случае,
когда функция g удовлетворяет бесконечному числу условий
ортогональности вида $ Ф/g Ах = 0, где Ф,- при i = 1, 2,... — функции
из С00 (Г), которые образуют линейно независимую систему.
Поэтому и уравнение (1.5) разрешимо, только если выполнены
эти необходимые условия. Более того, можно показать, что даже
для существования решения уравнения (1.5) в сколь угодно малой
окрестности произвольной точки из Г0 необходимо, чтобы
функция g удовлетворяла в этой окрестности бесконечному числу
условий ортогональности.
§ 2. Теорема Л. Хёрмандера
2.1. Приведем доказательство наиболее важного утверждения
о необходимых условиях локальной разрешимости — теоремы
Л. Хёрмандера. Именно эта теорема впервые объяснила причину
неразрешимости уравнения Г. Леви. При доказательстве этой
теоремы Л. Хёрмандером были разработаны методы, которые
использовались и во всех дальнейших работах, посвященной этой
проблеме.
Теорема 2.1 (Л. Хёрмандер). Пусть Р (х, D) —
псевдодифференциальный оператор порядка т и точка (x0, l°) e T*Q такова,
что %°Ф0, р°(х0, £°) = 0 и с°(х0, £°)>0, где
^(х9^21тУ^^ШЕЖ (2.1)
— главный символ коммутатора С = Р*Р — РР*. Тогда для всякой
окрестности со точки х0 можно найти такую функцию f из С0 (со),
что не существует распределения Mel'(Q), для которого Pu = f
в со. **
2.2. Прежде чем приводить доказательство теоремы 2.1,
отметим некоторые примеры и следствия из нее.
Пример 2.1. Для оператора Г. Леви с символом
р°(х, D^iti-U + iixi + ix*)^
функция с0 равна 4£3- Поэтому условия теоремы 2.1 выполнены
в каждой точке (х, £), в которой £з>0, £1==_*2^ 12= — хЪ-
1аким образом, уравнение Ри =/ неразрешимо ни в каком
открытом множестве со с (R3.
Для оператора (1.2) с символом р°(х, £) = i£i —J^ia функция с°
равна 2|2. Условия теоремы 2.1 выполнены в точках (х, £), где
* ^Q» lx —0> |g>Q. Поэтому уравнение (1.1) неразрешимо

190 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
в каждом открытом множестве на плоскости (х> у), имеющем
непустое пересечение с осью у.
Пример 2.2 (Г. Леви). Если уравнение (1.1), где /eC°°(R3),
не имеет решений в классе распределений ни в какой открытой
области из R3, то однородное уравнение Р (х, D)u — fu = 0 не
может иметь нетривиального решения из класса С1 (со) ни в каком
открытом подмножестве из R3.
В самом деле, если и — такое решение, то «^0 в некоторой
области о, и функция v = lnu удовлетворяет в со уравнению
Р(х, D)y=/, что противоречит предположениям.
Отметим следующее утверждение, показывающее, что множество
гладких функций / из С0 (со), для которых уравнение Pu=f
имеет решение в классе распределений, является множеством
первой категории в классификации Бэра (т. е. является объединением
счетного числа замкнутых нигде не плотных множеств).
Следствие 2.1. Пусть Р (xt D) — псевдодифференциальный
оператор порядка т. Пусть Q —область в Rn и для каждой
подобласти шей существует функция ц> из С0 (о), для которой
уравнение Ри = (р не имеет решений в со из класса Ш' (Q). Тогда
существует функция fe^(Q), для которой уравнение Pu=f
не может быть решено ни в какой подобласти со с: Q. Множество
таких функций f является множеством второй категории в £? (Q).
Напомним, что £? (Q) определяется как пополнение
пространства СГ(Й) в топологии пространства £*.
Доказательство. Пусть вначале о — фиксированная
подобласть в Q и s —некоторое целое число.
Рассмотрим множество
L(o, s) = {/e^(Q); ае=Я„ Pu = f в со}.
По условию теоремы L(co, s)^^^(Q).
Это множество является проекцией на £" (Q) множества
/((со, s) = {(a, f)s^X^(Q); Pu = f в со},
которое, очевидно, замкнуто в HsxS^(Q), Отсюда следует, -что
эта проекция L(co, s) является замкнутым нигде не плотным
в S? (Q) множеством, т. е. множеством первой категории.
Пусть теперь Q = (J coy, где coy — открытые подмножества в Q,
/
образующие счетный базис для открытых подмножеств в Q.
Например, можно взять в качестве {со;} последовательность сфер
рациональных радиусов с рациональными координатами центров,
содержащихся в Q. Тогда множество |J L (о/, s) является мно-
/
жеством первой категории как объединение счетного числа таких
множеств. Следовательно, его дополнение в S? является
множеством второй категории и, если / принадлежит этому дополнению,

§ 2. ТЕОРЕМА Л ХЙРМАНДЕРА 191
уравнение Pu = / не имеет решений из класса распределений ни
в каком открытом подмножестве ©ей. D
Следствие 2.2. Если Р (#, D) — дифференциальный оператор
порядка т, то теорема 2.1 справедлива, если в точке (#0, £°) e
е 7*Q\0
//>(*о, £°)=0, (*(хо, 1°)=^0.
Доказательство. Если Р —дифференциальный оператор
порядка т, то оператор С (я, D) также является дифференциальным
и его порядок равен 2т— 1. Поэтом^, если c°(xo, £°)^0, то из
двух чисел £°(*o> |°) и с°(*0> —1°) одно является положительным
и потому применима теорема 2.1. D
2.3. Доказательство теоремы 2.1 основывается на следующих
леммах.
Лемма 2.1. Пусть уравнение Pu=f разрешимо в области со,
т. е. для любой функции f из С0 (со) найдется распределение и
из Ш' (R"), для которого Pu=f в со. Тогда существуют такие
вещественные постоянные С, s и t> что
1ф1,<С||Р*ф1ь «peCJV). (2.2)
где со' с со.
Доказательство. Не ограничивая общности, можно
считать, что множество со компактно и носитель распределения и
лежит в компактном множестве Q, поскольку символ р(х, £)
можно изменить вне компактного по х множества, не меняя
значений Ри в со.
Функционал ^fvdx является непрерывным, когда f принадлежит
пространству С0 (со) с топологией, определяемой счетным набором
норм \\'\\s с целыми s, и v принадлежит пространству С^ (<*>'), где
со' <S со, топология в котором определяется счетным набором
норм ||P*t4 G целыми /. В самом деле, непрерывность по / при
фиксированной функции v из С0 (со) очевидна, а непрерывность
по v следует из равенства
\fQdx = \uP*vdx,
где и — решение уравнения Ри=/ в со. По теореме Банаха —
Штейнгауза (См. К. Иосида [1]) из непрерывности функционала
\fvdx в отдельности по / и v вытекает его непрерывность, т. е.
существование таких С, s и /, что
\lfodx\<C\f\-M\P*vb.
Это неравенство верно для любой функции /еСГ(Й), так как
fv = hfv, где йеСГ(со), h=\ в со', и потому
\lfOdx\<C\hfL,\P*vKC'\f[«\P*ob

192 ГЛ. VI НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Поэтому из полученной оценки вытекает, что
\\vls^C\\P*v\\h vt=c7((*'). □
2.4. В силу леммы 2.1, теорема 2.1 вытекает из следующего
утверждения, которое и будет доказано ниже.
Теорема 2.2. Пусть Р (х, D) — псевдодифференциальный
оператор порядка т, и в точке (х0, l°) e T*Q\0 выполнены условия
Р°(хо, 6°) = 0, <?(х0, 1°)>0.
Тогда ни для какой окрестности (о точки х0 не существует таких
постоянных С, s, /, что
1фЬ<С|Р*фЬ. феСГ(«). (2.3)
Следующая лемма позволяет свести доказательство теоремы 2.2
к частному случаю.
Лемма 2.2. Для доказательства теоремы 2.2 достаточно
рассмотреть тот случай, когда /и=1, / = 0.
Доказательство. Предположим, что неравенство (2.3)
справедливо при некоторых т, s, t, о и С для всех и & С0 (о).
Пусть Q(#, D) — псевдодифференциальный оператор первого
порядка, символ которого при 11| ^ 1 равен 11 р-"1 р° (х I), и
А(х, D) — псевдодифференциальный оператор, символ которого
при | Е | ^ 1 равен 11 |1-m-'h (х) где /г е= С^ (со), ft (х) -~- 1 в со' с_ ©.
Поскольку оператор Л является эллиптическим в ©', то,
полагая и = Лс/, получаем, что при v^C0 (со')
где r=l—m--f s. Используя (2.3), мы видим, что
I v I ^ Сг (| Ри |,+ | u U) < С2 (|| ф |'о+ || v Ю
для всех уеС0 (о)')> т. е. что неравенство (2.3) выполнено для
оператора Q в области со' с / —0.
Покажем теперь, что условия теоремы 2.2 выполнены
одновременно для операторов Р и Q. Обозначим В
псевдодифференциальный оператор с символом, равным \1\1'т при |||>1. Тогда
с точностью до младших членов Q- ВР+■-•■• и В* - В. Поэтому
[Q*, Q]5aeP*B*BP-BPP*B + ...=-B2C+^i + ^.,
где a} (я, £)■**(), если /?° (а:, £)~ 0. Таким образом, роль функции с0
для оператора Q играет функция ЬоСа = 11 \2^т)с°. Поэтому условия
теоремы 2.2 выполнены для оператора Р тогда и только тогда,
когда они выполнены для оператора Q. □
2.5. Следующее утверждение принадлежит Л. Хёрмандеру.
Лемма 2.3. Если для оператора Р первого порядка, символ
которого имеет компактный носитель, выполнено неравенство
I и I ^ С (К) (| Ри |о +1 и и*), и s СГ (/С)»

§ 2. ТЕОРЕМА Л. ХЁРМАНДЕРА 193
где К —компактное подмножество точек из Q, то (Зля каждого
целого N > 0 и всякого компактного множества М cz Kx {Rn\ty
существует такая постоянная С, что
Icplo^a1-*
+
+ Я 2 ^ lf/PD>l!o (2.4)
яри все* ф€=сГ(Кя), ^1> (*. 6)еМ, />;>, M>) = V-fpf(x9 Б).
Доказательство. Неравенство (2.4) достаточно доказать
при больших А,. Пусть (a:, ^)gM и
где ft е СГ (Я)» Л== 1 в окрестности компакта К', где /С' — проекция
множества М на RJJ.
Пусть v(y) = q> ((у — я) }А) eiX <?• *>; тогда
Заметим, что если ft=l в точках, отстоящих от К' на
расстояние, менш.ее 6>0, то при ]/\>6гг
(1 —ft)» = 0,
и поэтому J и \\s = I v |l„ так что
1 и \1 = Х-»$ (1 +1 т| |2)^ j ф ((л - Ц) ^О |2Йт] =
= ^/25(1 + 1^ + ^1/212Г!ф(012С
При |£|<А,1/2/2 можно оценить 1 + |^£+£Ь1/2|а снизу и сверху
через 4±1А2. Поскольку
ICI>*.1/2/2
получаем, что
Аналогично проверяется, что
| а |}., < a*(-i>-*/2 (| ф |2 + ян* || ф щ,).
Далее, Pu = Qv, где Q = P(x, D)h(x). Ясно, что
Ри (у) = (2я)-Л J ^ (У, Л)»(Л) *'(*' ю dx\ =
= (2я)-я \ q {уу ц) Х-п^ф ((г) - Х|) Аг1^2) е* <*• ** ~ п) +* (I/. л) ж, =
= (2я)-« J 9 (г/, Ц + Ъ№) ф (0 г-' <*• S> *!/V fe. ** + ^1/2> d£
7 Ю. В. Егоров

194 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Раскладывая q(y9 Я£ + £Я.1/2) по формуле Тейлора по переменной £,
мы получаем
q (*/, %1 + ^1/2) - J j <7(а) (У, Я© (£Ь1/2)а + г (у, С, X). (2.5)
|а|<ЛГ-1
При этом
I
ia! = /V ' 0
и q{a)(xt l) = (iD%)aq(xy £). При |£|<№/8/2 остаточный член
г(у> С, К) не превосходит \l\N\x-N^, а при |£|>^/2/2, оценивая
остальные слагаемые в (2.5), мы получим, что
|г(у, С. *.)l<Ct S W-i-iK^/VKCeltrw-w.
■O.KN
Если a» sCS°(Q) — произвольная функция, а # —оператор
с символом г (у, £, 1), го
<Яи, ш> = $$г(г/, С, X) ф (Qe-'<*»^Vk'«+'*•'■>#«> (у) dy»
- $ $ f ft - ^1/2, I, X) ф (С) г-' с О*1/ай> (*£ - л) dt, dT|,
где Г (tj, £, Я,) — преобразование Фурье функции г (г/, £, X,) по
первому аргументу. Отсюда
| <Яи, ш> |< С4 П 1С Г 0 +1Л ~ &'/21)"""1 *!-"'2 X
<C6>,'-*/»(5|£n(p(0|«d£)1/,(j|ffi(X6-Ti)|»rf4)1/,<
<С^-"/»|ф|лг|юЬ.
Поэтому
Таким образом, с допустимой точностью Ры совпадает с
iOcKJV
\OL\<N
Разложим теперь производные q(a) (у, £) по формуле Тейлора
по переменной у в точке х:
qW(y,tt) =
- 2 р с <*• **> (у - *>* + 2 ^ <*• »• *>(i/ - *)Y*
1С6+0КЛГ a + vl-iV

§ 2. ТЕОРЕМА Л. ХЁРМАНДЕРА 195
где </<$(*, t) = (iDx)t(iD^q(x, £). Имеем
I 2 si ^ <*• У'1) (у -х)у °"ф ^ - *> ^/2> ^(у-Ъ) Г ^
lla+Vl — A/ ||о
^ с6 2] ^n/21*'~!a+v !/2^о?ф (^ к2=
|a+Vl=W
Таким образом, мы получаем, что
I lla+вКЛГ Но
+ Х2-П/2-* ^ 1^/ЛрВ).
Вспоминая, что р(я, 5)=* 23 ^(х» Б) + г(*» i)i где г —символ
/<ЛГ/2
оператора порядка 1 — Л^/2, мы приходим к (2.4). □
2.6. Следующие две леммы были доказаны в гл. II.
Лемма 2.4. Пусть Т — произвольное каноническое
преобразование, при котором множество М а К X {Rn \ 0} переходит в
компактное множество М\ Неравенство (2.4) выполнено для всех
(х, Q&M тогда и только тогда, когда для всех (х', £')еМ'
выполнено аналогичное неравенство, но с заменой р (х, £) функциями
qj(x', l'), где </<>(*', g') = P*(*. I), qf(x', W) = W-i<f(x\ \').
Лемма 2.5. Пусть р° — вещественная функция из С°° (U х
x{R"\0}) и p*{x, tl) = tp°(x, l) при t^l, |Б|^1.
Предположим, что р°(х0, Б°) = 0, но вектор grad*, | р° (хо, 1°) не коллине-
арен вектору (1°, 0), Тогда существует каноническое
преобразование, после которого функция р°(х, £) переходит в функцию,
равную li в некоторой окрестности точки (х0, £°).
2.7. Из условия с°(*о, £°)>0 следует, что grad|/?o(#o, 1°)ф0-
Поэтому, используя леммы 2.2 и 2.5, можем считать, что р° (х, |) =
= f£i + <7(*i I) в окрестности точки (0, £°), причем £} = 0,
q(0, £°) = 0 и
^(о. £•>—Agrei>0.
а функция q вещественнозначна и не зависит от &•
Лемма 2.6. Для всякого N>0 в окрестности начала
координат можно найти функцию w(x) такую, что w(Q)=0,
gradoy(0) = 0 и
Im w (х) ^ Со | х |2, со = const > 0,
а Р°(х, l° + gradw(x)) = 0(\x\N) при х->0.
7*

196 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Доказательство. Поскольку grad w (0) = 0, достаточно
решить уравнение
2 Si ^ (*' ^ tgrad ш ^ ^ °(| * |iV) npw * "^ °
!a|<tf/2
ИЛИ
+ 2 Й!^**' l°)[mdw(x)f^
i dxi
= 0(\x\") при x~*0. (2.6)
Мы можем далее заменить коэффициенты q°(a) (x, 1°) отрезками
из рядов Тейлора до порядка Af — 2faj и^ получить уравнение
первого порядка с аналитическими коэффициентами (если
заменить правую часть нулем). При этом уравнение (2.6)
показывает, что
1 dw0 , X* дд(0, go) , VI fo(0..P) top П , ,-
/«1 ' /«2
при х-+09 причем w = w0 + wt и w1 = 0(\x\z).
В том случае, когда grad|</(0, £°) = 0, можно положить
Щ>= — iq{l) (0, Ъ») (^)2/2 + Ш (И2 +... + (**)2) -
/=2
где ?(i) (0, £°)<0 по условию и, если УИ>0 достаточно велико,
то Im^o(^)^c0|x|2.
Если же grad£<7(0, 1°)ф0, то можно положить
^0 = -* [</(!) (0, g^+J^fO, 5°)2]^ +
•+i(W%+...+X*V)/2 + v(x)9
где функция а(х) является квадратичной формой с вещественными
коэффициентами, удовлетворяющей уравнению
/-1 /=2
причем
6i = - 2 </(/) (0, £0)2, fcy = ?(у) (0, Б°) + iqu) (0, 1°),
/-2
; = 2, ..., я.
п
Если а = 2 AjixJ'x1, то легко видеть, что
/. /=i
1=1

§ 2. ТЕОРЕМА Л. ХЁРМАНДЕРА 197
Эта система уравнений относительно Аи совместна, поскольку
S Im^>(0, « = +Re*!.
Поэтому задача сводится к построению симметрической
матрицы А порядка п— 1, для которой Ла = Р, где вектор а =
*= (<7(2) (0, £°), .... qin) (0, g0)) не равен нулю по условию. Пусть
0 = (1, 0, ..., 0) и Т —такая невырожденная матрица порядка
я —1, что а 5= Те. Если положить Т*АТ=В, то уравнение
примет вид Вг = Г*р. Из этого уравнения однозначно определяется
первый столбец матрицы В, а остальные элементы определим
произвольно, но так, чтобы матрица В была симметрична. После
этого полагаем A**T*~lBT~l. □
2.8 Доказательство теоремы 2.2. По лемме 2.2 можно
считать, что порядок оператора Р равен 1. Мы предположим, что
IФ к < С ([ Р*Ф ie +1Ф U Ф € С (со) '(2.7)
с некоторыми постоянными С и s, и покажем, что это
противоречит условиям теоремы 2.2.
По лемме 2.3 из неравенства (2.7) вытекает, что
^ • 1 _/_J«±Eil
+
2/ + \<x4-$\<N 1Ю
+х-** 2 * |! ^Da* |ol *e c" (Rn)' (2-8)
при всех к ^ 1, (x, ?)sM, где Л4 — компактная окрестность
точки (хо, 1°), r° = /A £r/ — символ оператора Р*.
Применяя леммы 2.4 и 2.5, можно ограничиться
рассмотрением того случая, когда-
Р°(х, l) = ili + q(x, g),
где q(x0, l°) = 0, q{i)(x0, £°)<0, й = 0, fl—вещественнозначная
функция» не зависящая от £х. Будем в дальнейшем считать для
простоты, что х0 = 0. Пусть \pi (у) = ^ (<А"1/2). Подставляя в (2,8)
функцию i|)i, получаем неравенство
l|lci+p!<W
l^lo^CX,1-
"i + 2 г'б>,(0' ^i^^-'-'" |+
оу1 ■
2/+|a+&|<JV

198 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
которое выполняется, по условию, при всех %^1 и любых фе
еС£°(Кл). Число N будет указано позже.
Пусть со —столь малая окрестность точки # = 0, что в ней
существует функция ш, для которой
А (У) - 7 W + 2 q№ <0' *°> щ Ур (g"d w)« = 0(\y |*)
ioc + p|<iV
И
Im а> (у) ^ с0 ((у1)2 + ... + (упП с0 = const > 0.
Существование такой функции w и такой окрестности о> доказано
в лемме 2.6. (Число k будет выбрано позже.)
Мы найдем сейчас функцию вида
/-о
для которой неравенство (2.9) не может выполняться при
больших X. Заметим, что
м
2/ + |а+ЭК« • /«о
где M = /-tf+l,
ао(г/) = фо0/)^(г/),
п
П
М#Нфт(#М(у) + /^+2^
/-1
причем Cm — линейная комбинация функции ф0, фх, ..., фт-2 и
их производных. Поскольку Л(у)а=0(|#|*), можно найти такую
функцию фо^О, что сц(у) = 0(\у\к-1). Для этого достаточно
решить уравнение
п
так чтобы фо (0) = 1, По теореме С. Ковалевской можно найти
такую функцию ф0, что ф0=1 при у1 = 0. Полученное
аналитическое решение следует потом умножить на срезающую функцию,
равную 1 в области ш' cz со.
Аналогично могут быть определены функции ф1э ф2)..., ум е
€=CS°(<d), так что ат(у) = 0(\у\к-т) при у-+0.

Ё ф/(у)^
/=о
g— 2\lmw(y) Дуа
$ 2. ТЕОРЕМА Л. ХЁРМАНДЕРА 199
Заметим, что
Пусть # = гАг1/2. Тогда при А,->-оо
II ^ |о^ ^^ [SI Фо (0) |2е—2С «г1>а+--+- <^л)2) rfe + о (1)] ^^х^, (2.10)
где Ci = const>0 и к = —я/2. С другой стороны,
1М ||2 М
/=о ||о /-о
м
< С3ЬХ 21 ^'~* JI* 11(*"ле-2бо(У)2+...+(гл)а) dZf
/«о
где я0>0 и k>M. Следовательно,
||2/+ia + Pi<tf I
^СД1-^^-*)/». (2.11)
Наконец, поскольку |grada>(#)-|<;C|#|, имеем
\\yW^(y)\^dy%}^-^<i
lal
^ Св 2] $ I У I21 Э' Я2<1а^/> | у |2<lal- /> е*2* Im ю ^)Х,1в1-1а1 ф ^
/« 0
|а|
;СвЯ,и2] J|z|2(l»'+'ai-'>e-^f(*l)1+"- + ^i)£te^<C7^f
/-0
так что
^s-w/2 2] |^Z>JH|)|oWiPi-lal)/i<CeX1-»-^+^8. (2.12)
Пусть теперь fe^2(l—s) и N настолько велико, что
2(1 — s) — /V/2 ^ 0, т. е. #^г4(1— s). (Отметим, что в
неравенстве (2.7) число s меньше 1.) Полученные оценки (2.10) —(2.12)
показывают, что из оценки (2.9) вытекает неравенство
которое не может выполняться с одной и той же постоянной С
при всех X^zl, т. е. мы приходим к противоречию. □

200 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
§ 3. Теорема для случая нуля конечного порядка
3.1. Здесь мы докажем теорему о необходимых условиях
локальной разрешимости в том случае, когда алгебра Ли,
порожденная операторами Р и Р*, содержит оператор, эллиптический
в данной точке. Такая теорема была получена одновременно и
независимо в работе Л. Ниренберга и Ф. Трева [2] и в нашей
работе [11] (при несколько более широких условиях).
В упомянутой работе Л. Ниренберга и Ф Трева было
впервые сформулировано условие (W) и высказано предположение
о том, что это условие является необходимым и достаточным для
локальной разрешимости псевдодифференциальных уравнений.
Сформулируем это условие. Пусть Р —
псевдодифференциальный оператор с главным символом р° и пусть a = Reep°, b =
= 1тгр°, где г — комплексное число, отличное от нуля. Пусть
(*о, £°) е T*Q\0 — характеристическая точка. Обозначим у
бихарактеристику функции Ь, проходящую через точку (х0> £°),
так что
v-{(*(*), 6(0); <eR, i(0 = |(*(0, 6(0).
Ш--»<х%М\х<р>-*9 £(0) = 4
Положим еще h(f) = a(x(t), l(t))>
Условие OF): Для каждого ге(С\0 из условия h(t{)>0
следует, что h(t)^0 при всех t^t\.
Разумеется, условие (V) рассматривается лишь на той части
кривой у, на которой касательный к ней вектор не имеет
«радиального» направления, г. е. не коллинеарен вектору (0, £).
В работе Л. Ниренберга и Ф. Трева [2] доказано, что в
действительности условие (¥) достаточно проверить для одного
значения z Ф0.
3.2. Пусть lm/?° = ab Re/?° = a2. Обозначим через Ht
оператор дифференцирования вдоль бихарактеристики функции а»:
Если а = (аг, ..., аг), £ = (Ръ •••» Рг)» где ау,
Р/~неотрицательные целые числа, то через Н%Н§ будем обозначать оператор
Обозначим через k0(x, l) наименьшее число k, для которого
H\(h(x, £)=?£= 0, а через ki(xf £) — наименьшее fe, для которого
Я?#?а2(*, Ъ)ф09 |a + P| = fe. Если аг(х9 t) + ia2(x, Ъ)ф09 то
полагаем k0(x, l) = kx(x, £) = 0. Таким образом, значения
функций йо и fex отличны от нуля только в характеристических точках.
Мы докажем в этом параграфе следующую теорему.

§ 3. СЛУЧАЙ НУЛЯ КОНЕЧНОГО ПОРЯДКА 201
Теорема 3.1. Пусть Р — псевдодифференциальный оператор
порядка т и (х0, 1°) е Т* Q\0 — характеристическая точка, причем
k(xo> £°) = 6<oo. Предположим, что для некоторого геС\0
в точке (х0, £°) нарушено условие QP). Тогда для всякой
окрестности со точки Хо найдется такая функция f из Со°(оо), что
уравнение Pu = f не имеет решений в со из класса ^'(Q).
Заметим, что теорема 2.1 является частным случаем теоремы
3.1, соответствующим значению k=l.
3.3. В следующем параграфе будет доказана
Теорема 4.1. Пусть ki(х0, £°) = k, причем 0<k<oo. Пусть
с°(х, I) ^ 0 в каждой характеристической точке из некоторой
окрестности точки (х0, |°). Тогда для всех вещественных чисел р,
исключая, быть может, конечное их число (которое не больше k),
оператор (1 + ф) Р является таким, что h (х0, 1°) = k0 (х0, £°) = k.
По предположению теоремы 3.1 условиз (W) нарушено для
некоторого геС\0, так что вдоль бихарактеристики x = x(t),
g = g(f) функции Imzp° функция h(t) = Rezp°(x(t), l(t)) такова,
что она принимает отрицательные значения на некоторой
последовательности tj-^0, tf>0 и положительные на другой
последовательности //->0, t'j<0. По непрерывности отсюда следует,
что условие OF) нарушается и для близких значений z.
Поскольку условие OF) инвариантно относительно умножения на
вещественные числа, можно считать, что эти значения z имеют
вид г=1+ф с вещественными р. По теореме 4.1 можно считать,
что ki = ko = k для оператора. (1+/р)Р, причем k нечетно, и если
главный символ этого оператора равен ах + ia^, то ff^i (*<ь £°) < 0.
В частности, из этого неравенства следует, что вектор
grad*, ^ а2 (Хо, 1°) не коллинеарен вектору (£°, 0). Поэтому,
применяя каноническое преобразование, можно считать, что a2 = £i,
так что р°(хч Q = ili~\-q(x, £) в некоторой окрестности точки
(#0, Е°), причем k— нечетное число, £i = 0 и d[q(xo', g«) = 0 при
/<*, dtq(xo, 6°)<Д
3.4.
Лемма 3.1. Пусть feC°°(R2) и
F(x, y) = axk + byxP + y(x, у),
где 2p^k—l, ЬфО, афО, а если k нечетно, то а<0 и
Ф(*> У) = 0(\у\* + \ухР+1\ + \х\Ы),
&^-0(\уГ + \ухГ\+\х\*)
пРи (х, у)-+(0\ 0). Тогда в каждой окрестности начала
координат имеется точка (х0, */0)> для которой F (х0, уо) = 0,
дх ^^

202 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Доказательство. Пусть у = f(х) — такая функция, что
F(x9 /MHO, /(ОНО.
Существование такой функции / в малой окрестности точки х = 0
вытекает из следующих соображений. Пусть z = yxp-k. Тогда
F(x9 у) = х*[а + Ьг + 0(\г\*\х\*-*+\г\\х\ + \х\)]
при (*, у)-+(09 0). Так как ЬфО, можно найти z = г (х) из
уравнения F (х9 у) = 0 по теореме о неявной функции. Очевидно, что
f(x) = 2(x)x^'~[-± + 0(\x\j\x>-*
при аг-^0. Рассмотрим теперь функцию dF(x9 у)1дх при y~f(x).
Имеем
ад;
\v-Hx)e ****~1 + &/7^P_1 + ° (I У I2 +1 ^P I +1 ^ I*) =
== ал:*-1 (^ — >f7) + О (| jc |л +1 л: |2 С^-р)) при *_+().
Ho 2k — 2p>k в силу сделанных предположений. Следовательно,
dF (x, у)
дх
Ымя^[а(*""р) + 0(1)1 ПРИ *^°* °
3,5. Таким образом, лемма 3.1 показывает, что если
grad,, r q (*, 1°) Ф 0 или grad^, v *'(*»*0) Ф 0
при 2/^&—1, то в каждой окрестности точки (х09 £°) найдется
точка (х9 £), в которой выполнены условия теоремы 2.1. Поэтому
можно считать при доказательстве теоремы 3.1, что
^^.г^Р-о°р-/-о.1.-.[т-]- (3-D
В дальнейшем мы используем леммы 2.1, 2.2, 2.3 без всяких
изменений. Взамен леммы 2.6 мы докажем следующее
утверждение.
Лемма 3.2. Пусть функция р0^С°° (T*Q), причем р°(х9 g) =
= ilx + q(x9 I) в окрестности точки (0, £°), где |£°|^1, £? = 0,
причем q (0, |°) = 0, d[q (0, £°) = 0 при j < k = 2/ - 1, но d\q (0, g°) <
U <*!^^ •
(dxtydx* (dx^Vdlt H
f=l, ..., n и q не зависит от |i. Тогда для всякого а>0
н окрестности начала координат можна найти функцию w(x)9
имеющую нуль второго порядка при х = 0 и такую, что lmw(x)^
^ со ((х1)21 + (х2)2 +... + (**)2), а ? (х9 1° + grad w (x)) = 0(\x \°) при

§ 3. СЛУЧАЙ НУЛЯ КОНЕЧНОГО ПОРЯДКА 203
Доказательство. Поскольку grad w (0) = 0, достаточно
решить уравнение
2 i^^-^ferad^WP-Od*!0) при х-0
|а|«т/2
ИЛИ
-'&+ 2 a^feAterad.WP-Oflxn при х+0.
!а!<а/2
Мы можем далее заменить коэффициенты д^д (х, l°)/dla отрезками
их рядов Тейлора до порядка а — 21 а | и получить уравнение
с аналитическими коэффициентами (если заменить правую часть
нулем). Для этого уравнения существует единственное
аналитическое решение задачи Коши с начальными условиями:
w = i({x2)2 + ... + (xn)2) при ^ = 0, graday(0) = 0.
Покажем теперь, что
lmw(x) = [b(x1)2l + {x2)2 + ...+ (xn)2](l+o(l)) при *-*0,
где Ь>0. Заметим, что рассматриваемое уравнение чможет быть
переписано в виде
L!*Ljl п0(у ?оч i V дд(л, 1°) dw , 1_ Vi d2g(x, £°) dw dw
зь a*5 ■ 2 jL а^аь a*5
a*' '
Из этого равенства видно, что ^г = 0 при # = 0. Дифференцируя
его по л? при 2<s=s^n, получаем, что ®^ \ =0. Предположим
теперь, что /</ и
а/ш(0) ^ а/-%(0) _ ^ (0) ^ Q
(ал:1)/-1 а^5 ^ (ад:1)/-2 ад:5 а^1 а** ""
Докажем, что тогда д*+гха)(0)1(дх1удх* = 0. Продифференцируем
уравнение один раз по г* и / — 1 раз по х1. По условию
dfq (0, l°)/dxs (дх1)*-1 = 0. Нетрудно видеть, что производная
а/ / да dw\ л
д s (* 1 /-1 ( 17) также Равна нулю при #=0, поскольку после
дифференцирования мы получаем конечную сумму, каждое сла-
ажя д*+гхл)
гаемое которой содержит множитель вида —, либо
дЬ (дх*У дх* (дх*У
при i</— 1, а эти множители равны нулю при л; = 0. Все по-
д'+1о;
следующие слагаемые также имеют множитель д s(d 1){ при i^
^/— 1. Итак, мы показали, что — = 0 при / = 0, 1, .... /.
а*5 (ад:1)/

204 ГЛ. VI НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Предположим теперь, что / < 2/ — 1 и что ^ \ = ...
...= -^±2 = 0, Продифференцируем уравнение / раз по х1 По
условию d[q(0y £°) = 0. Производная от q^ * ^ также равна
нулю при я = 0, потому что после дифференцирования мы
получаем конечную сумму, каждое слагаемое в которой имеет множи-
0r+i0 dr+1w . ,
телем либо ^ /а\., либо а 9£Л 1ЧГ при rz^l — 1, а эти множители
di* (d*i)r d* (^ )
равны нулю при x = 0 по доказанному выше. В результате
дифференцирования остальных слагаемых в левой части уравнения
мы получим конечную сумму, каждое слагаемое в которой будет
иметь множитель, равный производной > г при r^l— 1,
если 2^г^п, или г при t^/.
Следовательно, 5{+1ш(0) = 0, и мы доказали, что <9fш (0) = 0
при /7=^2/ —2. Продифференцируем теперь уравнение 2/ — 1 раз
по х1. По условию — d?-lq(0, £°)=a>0.
г-, дя dw ^
Производная от *г^-; снова обратится в нуль, поскольку
после дифференцирования мы получаем конечную сумму, каждое
слагаемое в которой имеет множитель либо d[di q, либо d[dsw.
То же верно и в отношении остальных слагаемых в левой части
нашего уравнения. Следовательно, d\lw(0)~ia, где а>0.
Итак, мы доказали, что
о>= [№*+.-- + №* + ^№)«](1+о(1)) при х->0,
поскольку |(л:1)/^| = 0((а:2)2 + ... + (а:л)2 + (л:1)?/) при х-*0, если
/^/+1, 2<s<n. D
3.6. Доказательство теоремы 3.1. В силу леммы 2.2
можно считать, что порядок оператора Р равен 1.
Предположим, что
| Ф1, ^ С (|| Р*Ф ||о +1| ф U), ф е= Со00 (со) (3.2)
с некоторыми вещественными постоянными С и s, C>0, s<l,
и покажем, что это противоречит условиям теоремы.
По лемме 2.3 из неравенства (3.2) вытекает, что
11|2/ + |о + Э1<АГ ||0
+k-w 2 1#р°аЦ (з.з)

§ 3. СЛУЧАЙ НУЛЯ КОНЕЧНОГО ПОРЯДКА 205
для всех \|) е СТ (Rn), X^zl, (х% I) е М, где М — компактная
окрестность точки (0, £°), г° = р°, ^г' —символ оператора Р*.
По теореме 4.1 мы можем заменить оператор Р оператором
(l-fj'p)P, у которого главный символ равен ai + Шг, причем
ki (0, l°)=k0 (0, 1°) = * - нечетное число, *=*2/- 1 и Н\аг (0, £°) < 0.
Применяя леммы 2.4 и 2.5, можно ограничиться рассмотрением
того случая, когда
Р°(*Л) = *Ь + <7(*. 6),
где ^(0, g°) == 0, d*g(0, £°)>0, q — вещественнозначная функция,
не зависящая от |t. Будем в дальнейшем считать для простоты,
что li = 0. Пусть i|)i (у) = г|) (уХ~1/9) Подставляя в (3.3) функцию -фь
получаем неравенство
I ф ||о < СЬ1- (I J </<«{ (0, Iе) ^L j^A-i«i -
-И? + 2 ^(0- ^«ж^^1"11 +
2/+>а+0!<М ||0
+ %-М 21 I ^Da^ fo W э' -'а 1)/21> (3.4)
которое, по условию, выполняется при всех Х^ 1 и любых г|) из
CJTdR'O- Число Л/ будет выбрано позже.
На основании леммы 3.1 можем считать, что выполнены
условия (3.1), так как в противном случае в любой окрестности точки
(0, 1°) найдется точка, в которой функция с° = — dxq принимает
положительное значение, и потому применима теорема 2.1.
Пусть со —столь малая окрестность точки */ = 0, что в ней
существует функция до, для которой
A(y)amTw+ 2 *Ш°» l°)^r^(grada,)a=o(ii/l0)
при у-*0 и
lmw{y)^ с, ((у*)" + (у2)2 +... + (у»)*).
Существование такой функции до и окрестности со следует из
леммы 3.2. (Число а будет выбрано позже.)
Найдем теперь функцию г|) (у) = 21 %(y)X^eiKw^\ где сруе
/-о
^С^(со), для которой- неравенство (3.4) не может выполняться
при больших X. Заметим, что
k
2/-Ma+3i<iV / = 0

206 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
где K = L-N + l,
ао(у) = Ч>о(у)А(у),
<hW) = 9iW)A(y) + ±$ + J А;{у)д$ + В(у)<р0,
П
причем С,у —линейная комбинация функций ф0, фъ ..., ф^2 и их
производных, а Лу(0) = 0. Поскольку А (у) — 0(\у\°) при г/->0,
мы можем найти такую функцию фо¥=0, что аг(у) = 0(\у\°-1).
Для этого достаточно решить уравнение
п
т|?+2 Ш^+В(у)ч>о = 0(\уГ1) при у-+0
/-1
так, чтобы фо (0) = 1. Существование такой функции ф0 можно
вывести из теоремы Коши — Ковалевской, если поставить условия
Коши при у\=0. (Например, можно положить ф0 = 1 при у1=0.)
Затем полученное аналитическое решение, определенное в
некоторой окрестности начала координат, следует умножить на
срезающую гладкую функцию, равную 1 в области со' cz со.
Аналогично могут быть определены функции <рь ф2, ..., ф/,
из С^°(со), для которых as(у) = О (| у\a~s) при у-+0.
Заметим, что
L
И
2>/(</)^'
р-2\ 1шш((/) fly
Пусть y1^=z1X^2l9 y2 = z2X~v\ ..., yn^z^-1'2. Тогда при *,->оо
«^*[$|фо(0)|2е-2С^ (3.5)
21
где к = — т^-^ЦЛ С>0, Сх>0. С другой стороны,
1к
;С2 21 5lf/l2(G""/)^"2/^2Mma,(^)rff/:
/-о
<С*№ 2] lK-2f-{0-f)/l$ | z i2(°-f)e~2a*<<г1>2' + <*2>2 + - + k")2)dz,
/-о
где а0>0 и О/О Следовательно,
k1-
2 f'<*>
B2/+|a+PI<iV
W^ ^0)щг^аФ^"/Ча|
;СД2+1 s 2V (3.6)

§ 4. СТРУКТУРА СИМВОЛА
207
Наконец, поскольку \gradw(y)\^c\y|, мы имеем
\\уЮ^(у)\2йу%^\-^\^
|а|
<С6 2 $|у|2'Э|Я,2<1а1^')|у|2<1а1-/)^-2Л1т«'^)й^з,-,а1<
|а|
/«о
■ д | о, о; 1«+Э1-/
xh 2/ <с7Ях+1а + э,<1~-1/2^>,
так что
^l-*-JV/2 2 fj/&D°4|)|| W P-aD^^^x^-M-s^^^+^d-l//)^^ (3.7)
Пусть теперь <т>2(1 — s)/, г N настолько велико, что 2(1 — s)<
<Л//2/, т.е. ,V>4/(1— s). (Напомним, что s<l.) Оценки
(3.5) — (3.7) показывают теперь что неравенство (3.4) не может
выполняться с одной и той же постоянной С при всех X^l,
т. е. мы приходим к противоречию. □
§ 4. Структура символа
4.1. Напомним формулировку теоремы о^структуре главного
символа.
Теорема 4.1. Пусть ki(xo,l°)=k, причем 0<&<оо и
<?(х, ?)<0 а каждой характеристической точке из некоторой
окрестности со точки (х0, £°) 'Тогда для всех вещественных чисел р,
исключая, быть может, конечное их число {не превышающее &)>
оператор (l+ip)P является таким, что ki(x0, l°)—ko(x0, l°)=k.
Попутно при доказательстве этой теоремы будет получена еле-
дующая
Теорема 4.2. Условия теоремы 4.1 инвариантны
относительно умножения оператора Р на произвольный эллиптический
оператор.
4.2. Легко видеть, что все утверждения теоремы 4.1
инвариантны относительно общих канонических преобразований
фазового пространства переменных (л:, £). Не ограничивая общности,
можно считать при доказательстве этой теоремы, что р°(х, I)
является полиномом степени k.
Так как по условию k < оо, вектор grad* % Р° (#о, 1°) не кол-
линеарен вектору (£°, 0). Это видно из того, что в противном
случае для любой однородной по I функции г

ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
где т —порядок однородности функции г и к — коэффициент
пропорциональности: grad* ip°(x0i |°) = (х£°, 0). Таким образом, если
cf{x0t |°) = 0, то и Hpoaixo, Е°) = 0, так что k(x0, £°) = оо.
Мы будем считать, что вектор Imgrad*^/?0^, 1°) не колли-
неарен вектору (£°, 0). Если это условие не выполнено, то можно
умножить оператор Р на / и поменять местами функции аг и а2.
Единственное, что не инвариантно относительно такой
перестановки,—это определение функции k0. Однако, как будет видно
из доказательства, число k0(x, £) в формулировке теоремы может
быть заменено числом k2 (x> |), равным минимальному значению ky
для которого Нк{а2(Ху £)ф0. Поэтому можно для определенности
считать, что вектор lmgradXtip°(x0i 1°) не коллинеарен вектору
(|°, 0), и, используя каноническое преобразование, добиться того,
что в окрестности точки (*0, 1°) будет выполнено равенство
а2(ху 1)=$ъ а = 0. (4.1)
Очевидно, что после этого Н{аг(хУ l) = d{a1(xi l) и коэффициенты
при (х1 — х$ у многочлена аг(х, £) должны быть равны нулю,
если j<_k0.
Для сокращения записи совместим точку (л:0, 1°) с началом
координат.
4.3. Лемма 4.1. Пусть А —линейное пространство над полем
комплексных чисел, порожденное одночленами 1ах® при 1 ^ |а+Р \^k>
причем среди образующих отсутствуют одночлены вида (хгУ при
j^k uli (хгУ, х1 (хгУ при i<fe/2, I = 2,..., п. Пусть A<y=(ad A)s A
Тогда все элементы,As равны нулю при # = £ = 0, s^k.
Напомним, что ^==^(0, 0) и (ad f)g(x> £) = {/, g}{x> £).
Доказательство. Предположим, что какой-то элемент Л,
отличен от нуля при # = £ = 0, s^k. Каждый элемент из As
является полиномом, и если полином при # = £ = 0 принимает
значение, отличное от нуля, то отличен от нуля свободный член
этого полинома. Проследим его происхождение. Поскольку в Л
мы имеем лишь один одночлен с неравным нулю градиентом,
а именно, £i» то ненулевая постоянная может получиться только
в результате применения оператора #2 = di к х1. В общем
случае несколько предыдущих шагов тоже могло заключаться в
применении оператора Н2> и мы должны показать, откуда появился
одночлен (хг)г с каким-либо г, г^&. Поскольку таких
одночленов не было среди образующих Л, он мог получиться только как
результат вычисления скобки Пуассона вида {(x1)als, (х1^ Xs}, где
a + b=r, s — одно из значений 2, ..., п. Заметим, что при этом
либо (хг)а1^ либо (хх)а Xs должен принадлежать Л. Поскольку \s
и Xs равноправны, будем считать, что (^^еЛ, так что a^k/2.
Если и (х1)ь Xs ^А, то b^zk/2 и для получения ненулевой
постоянной мы должны вычислить не менее £+1 скобок Пуассона,
что противоречит предположениям. С другой стороны, одночлен

§ 4. СТРУКТУРА СИМВОЛА 209
(xl)b Xs может получиться лишь в результате вычисления
следующих скобок Пуассона:
{Ь, (*1)*+1*'Ь {W**b. ^)dx% {(хГЪ> №)dxlx%
где c + d = b. Мы считаем, что здесь на первом месте всегда стоит
элемент из Л; при этом g/ и х\ конечно, можно поменять местами.
Мы видим, что в первых двух случаях мы снова возвращаемся
к вопросу о происхождении одночлена вида (х1)1 х1, и лишь
третий способ выводит нас из этого тупика. Однако в этом случае
c^fc/2 и, следовательно, b^k/2. Поскольку a^fe/2, то r^fe,
и мы снова приходим к противоречию. □
4.4. Таким образом, если р°(0, 0)=0, grad*', |'ax(0, 0)=0 и
grad*', |' <9{^i (0, 0) = 0 при /<6/2, то единственный способ
получить отличнее от нуля значение величины Н^Н^ах (0, 0) при
|« + Р | ^ k состоит в том, чтобы положить | а | = k, \ р | = 0. Таким
образом, мы сразу видим в этом случае, что &i(0, 0) = &0(0, 0).
Как будет показано дальше, такая возможность всегда
реализуется в том случае, когда k\ (0, 0) — четное число.
Отметим, что если &i(0, 0) = 1, то числа 60(0, 0) и &i(0, 0)
совпадают по определению, так что теорема 4.1 содержательна
лишь при &(0, 0)^2, и мы будем в дальнейшем считать, что
дхаг (0, 0) = 0.
4.5. Предположим теперь, что либо grad^, %> аг (0, 0) Ф 0, либо
grad*'( g'djai(0, 0)=^=0 при каком-либо /, 1^/<^/2. Поскольку
переменные х' и £' равноправны, будем считать, что
^,ajai'(0f 0)=И=0 (4.2)
при некотором s, 0^s<.k/2. При этом, если s>0, то считаем,
конечно, что d^dfai (0, 0) = 0 при /<s. Таким образом, мы
предполагаем теперь, что коэффициент цри (х1)*^ у,многочлена аг
отличен от нуля. Применяя каноническое преобразование в
пространстве переменных х\ £', можно добиться того, что все
коэффициенты при одночленах вида (xl)s (x')V £а, исключая (х1)*^,
будут равны нулю при ^=0. (Для этого надо заменить £2 +
+ 2 ^{x'YV1 на £а«) В частности, если s = 0, то после такого
преобразования мы получим, что grad**, g'ai(0, 0) = grad^t |>£2-
4.6. Л е м м а 4.2. Если выполнены условия (4.1), (4.2) и с0(х, 1)^0
во всех характеристических точках из некоторой окрестности со
точки (лго, g°), то
dtfaiiO, 0)=d„Mai(0, 0)=^0
при /<fe/2, / = 3, ..., пу т=1, ..., п.
Доказательство. Предположим, что одна "из указанных
производных, например д^д[аг(0у 0) отлична от нуля при неко-

210 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
тором /, причем /<6/2. Покажем, что тогда функция с0
принимает положительное значение в некоторой характеристической
точке из о.
Положим £i==0, g4 = ... = £„ = 0, x2 = ...=f = 0H рассмотрим
функцию ах на этом трехмерном пространстве. Имеем
ах (*, I) = А (ху + В (х*У 12 + С (х1У Ъ + Ф (*, I),
где Ф (*, 6) = О (| х11*"+| *i |*и | %21+| х1 |/+i 1131+а+В) при (х, 6)-*
-►0. При этом В=^0 и С^О. Пусть ** = *, %%^ytk~s, £8 = ***-'.
Тогда М*, 6) = /*[Л + Яу + Сг + 0(| /1 + | f | |y| + | /| \z\ + \t\y* +
-f|/|z2)], поскольку k>2s и k>2j. По теореме о неявной
функции существуют функции y(t) и г(<) такие, что при y = y(t),
z = z(t) имеем ai (#,£) = О и при £-^0 y(f) = {/0 + 0(| f|), z(f) =
= z0 + O(|/|), каковы бы ни были числа у0, z0, для которых А+
+ Буо+Сг0 = 0. С другой стороны,
Н2аг (х, I) = kA (х1)*-1 + sfi (я1)-1 £2 + /С (jc1)/-1 Is + dl4>
и на нашей кривой
#2я 1 (jc, E) = t*-1 [M + s5f/0 + /Сг0] + О (| /1*).
Изменяя уо и z0 на плоскости Л+ £f/o + Czo = 0, можно добиться
изменения знака величины kA + sBy0 -f /Cz0 (напомним, что /^s)
и, следовательно, изменения знака величины Н%ах{х> £), что
противоречит предположениям. □
Лемма 4.3. Пусть оператор Р удовлетворяет условиям (4.1),
(4.2) и с0(я, 1)^0 во всех характеристических точках из
некоторой окрестности со точки (х0, £°) = (0, 0). Тогда у многочлена
аЛ (х, I) равны нулю коэффициенты при
/ = 3, .... п\ m=U ..., п\ a + b(s+1)</(/2,
где /( = min[a + &(s+ 1)J, а минимум берется по всем а, ft, Зля
которых коэффициент при (х1)" (х2)ь у многочлена аг не равен нулю.
Доказательство. Предположим, что коэффициент при
(х1)а (г?)61з ' отличен от нуля при некоторых а, Ь таких, что
a + b(s-\- l)=p</C/2. (На место £3 можно поставить любое £/
при / = 3, ..., п или хт при /п=1, ..., п.) Положим, как и выше,
л:3 = ... = л:л==0, £4 = ... = £я = 0. Тогда
fli (*. 6) = 2 ^v (*ХУ (*У+в W Ъ+
f + /<s+l)=K
+ 23 са,(*т (*yb+<pi(*. 6).
где
<M*. Б) = о( 2 |*ЧЧ*К(1*11 + 1*11)+а+В +
\f + /(s+l) = K
+1 *ъ1+1 (*y+' ы + 2 I и* (я-2)61 j е. i (i x* i+1 x2 d).

§ 4. СТРУКТУРА СИМВОЛА 211
Подставляя xx = xty x2 = yts+1, %><i = ztK-\ l3 = utK-p, получим
+ 2 СаьХГуЬи + ОШ 2 |*УК|*1 + |у|) +
+ |xm3; + |F| + 22 + u2+ 2 \x\a\y\b\z\(\x\ + \y\)]\,
a+ b(s+\) = p I
поскольку K>2s> K>2p. По теореме о неявной функции
существуют такие функции x = x(t), y^y(t), z = z(t)t u = u(t), что
ai (Xf l) = 0 на рассматриваемой кривой и при t -> 0
x(t)=x0 + O(t)y у(0=йо + 0(/), z(0-*o + d(/)f а(0=*и« + О(/),
каковы бы ни были х0, {/о» г0, «о такие что
2 Ац4уо + В?<>4+ 2 Со^вЧ = 0. (4.3)
« + /(8+1) —К , a + ft(s + l)-/?
При этом
+ 2 с^^гч^Чз+ахф^
a + 6 (s+ 1) *= п
Ь +/(« + !) = К
+ " 2 Ceua4~Vo4 + 0(H|)l.
Мы должны показать, что многообразие (4.3) содержит точки
(*о, f/o, 2b, t/o), в которых величина а = 2М*/'4~ ^о + Я^о""1^ ■+■
+ 2Са&я*о"~1*/о"о принимает значения разных знаков. Заметим,
что если *о, уо, и0 — любые фиксированные числа, х0 ф О, то из (4.3)
однозначно определяется значение z0. Умножая левую часть в (4.3)
на s и вычитая из х0о, получаем выражение
<Ji = 2 Aij (i - s) x\y{ + 2 Cab4yUo (a - s).
Поскольку не все коэффициенты Саь при a + fc(s+l)=/?, a=^s,
обращаются в нуль, можно найти значения (#0, f/0) такие, что
#о>0 и %Саь(а— s)*оУо =7^= 0- (Напомним, что Са,& = 0 при a = s.)
Поскольку значение и0 может быть выбрано произвольно (после
того, как были фиксированы (лг0, {/о)), можно найти такое
значение u0=zUq1\ при котором ai (а следовательно, и а) будут
положительны, и такое значение w0 = «o2), при котором а и ^ будут
отрицательны. Зто противоречит условиям леммы 4.3. □
4.7. Следующий шаг аналогичен лемме 4.1. Мы докажем, что
коэффициенты при (х1)" (х2)ь не могут равняться нулю при всех a, bt
Для которых a + b(s+\)^ki.

212 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Лемма 4.4. Пусть / = min(&i, К). Пусть А —линейное про- 1
странство над полем комплексных чисел, порожденное одночленами £ь
1ах$ при 2^; |а + р | <:/, причем среди образующих отсутствуют
одночлены вида §
{х1)а{х2)ь при a + b(s+l)^l, (х1)*^ при c<s, *,
(х^х*, (xl)*lt, WiJpyx*. (х1У(х2УЪ
при d<//2, e + f(s+l)<l/2, s = 2, ..., п\' t = 3 п.
Тогда все ■ элементы множества Лу = (ad A)s А обращаются в нуль
при х = I = 0, / <; /. |
Доказательство. Как и при доказательстве леммы 4.1,
мы должны указать способ получения постоянной, отличной от |
нуля, не более, чем за / шагов. Поскольку у всех образующих Л, -||
кроме Ъь градиент равен нулю при л; = £ = 0, последний шаг со- I
стоит в применении оператора adjj, и мы должны указать спо- |
соб получения одночлена вида (л;1)''при каком-либо г: 1<;г<:/. И
Если (х1)' получен в результате вычисления скобки Пуассона Ч
вида {(xfyij, {xl)b xJ) при \ф2, то а^//2, и встает вопрос Л
о происхождении одночлена (л;1)^. Как мы видели при доказа- "ц
тельстве леммы 4.1, получить этот одночлен не более, чем за 1/2 [\
шагов невозможно, если не использовать (л;1)*^- Если же этот J
одночлен был использован, то надо еще показать, как был по- . I
лучен одночлен вида (л:1)^ (л:2)* х) не более, чем за 1/2 шагов. И
Если (х1)г получен в результате вычисления скобки Пуассона \\
вида {(x1)sl2, (а:1)6 л:2}, то требуется объяснить происхождение i
одночлена (л:1)*^2. Имеются следующие возможности: \
{1ъ (х1)»*1*2}, {(xlyU, (я1)*-* (я*)8},
{(х^хЪ, {х*)ь-*х% {{**)* x*lj9 (x^xJl I
№)atj> (хг)ь'ах2х^ \Ф2.
(Как всегда, xi и £у можно поменять местами при /^3.) В
первых трех случаях вопрос остается нерешенным. В четвертом
случае а>//2 —s—1, в пятом а^-Л/2 в силу условий леммы.
В этих случаях надо объяснить происхождение одночлена вида
(х1)ь (х2)сxJ (как и в предыдущем абзаце). 1
Существуют следующие способы получить такой одночлен: I
{(&)b*№)etx1h {x1)*-** (x2y-c>x% I
{(х1)^ (х2)с> {xJf, (х1)* - ъ (х2)с - *£/}. 1
{(х1)^ (х2У> £,, (х1)* - * (х2У - * х1хЦ.
При этом первые четыре случая не дают ответа на поставленный
вопрос, и погому либо необходимо воспользоваться пятым, либо
одночлен вида (л:1)^ (х2)с xi имеется среди образующих Л.

$ 4. СТРУКТУРА СИМВОЛА
213
В первом случае &i+Ci(s+ l)^//2 и потому b + c(s + 1)^1/2.
Во втором —имеем b + c(s+1)^1/2 (по условиям леммы).
Двигаясь в обратном порядке, посчитаем теперь число шагов,
которое необходимо сделать для того, чтобы получить const ФО.
В соответствии с вышесказанным, нужно применить к одночлену
(х1)* {х2)с х* р раз оператор adgi и q раз оператор асЦх1)*^» после
чего получим одночлен вида \xl)bJrp+sq (x2)c~Q хК При этом, если
мы хотим следующим шагом избавиться от множителя х)\ то, как
мы видели выше, или q = с или q = c — 1.
Если q — c, то b — p + sq = t — a, так что t = a + b — p-\-sq и
r==>_l_./=5=s-f-a-|-& — P + sq, и общее число шагов N, проделанных
для получения const Ф О, будет не меньше, чем
r + l+p + q = s + a + b + sq+l+q>l/2 + b + (s+l)q,
поскольку а>//2 — s — 1. Но b + q(s + 1)^1/2 и потому №>L
Если <7 = с—1, то fr — p + sq = t — а^О, где а^//2. В этом
случае снова r = .s + / = s + fl + 6 — p + sg и число шагов /V,
затраченных для получения постоянной, отличной от нуля, будет не
меньше, чем г + 1 +p + q = s + a + b+ l +-(s+'l)<7>s + //2 + ft -h
4- 1 +(s+l)(6'-l), так как аз*//2. Ho b + c(s +1)^ Z/2, так
что tf>s + l/2 + [6+c(s+l)]+l-(s+l)3s/, т. е. ив этом
случае N>1. Таким образом, мы доказали, что не существует
способа получить число, отличное от нуля, проделав число
операций, не превосходящее /. □
4.8. Лемма 4.5. Пусть выполнены условия леммы 4.4. Тогда
ki (О, 0) = К = min [a + b (s + 1)], где минимум берется по тем а
и Ь, для которых d?d*ai(0, 0)=^0.
Доказательство. Лемма 4.4 показывает, что К<*кг.
Поэтому достаточно проверить, что если /5C = a0 + feo(s+1), то
цЬ%*Н\шН?ахф, 0)^0, (4.4)
поскольку отсюда сразу следует, что kt^K и потому ki = K-
Неравенство (4.4) непосредственно вытекает из доказательства
леммы 4.2: мы видим, что при решении более простой задачи
получения постоянной, отличной от нуля, из несвязанных
одночленов из Л необходимо было затратить на это более К шргов,
если попутно встретился хотя бы одночлен, содержащий
множитель xJ при /^3. Поэтому, если к образующим пространства Л,
описанного в лемме 4.4, добавить одночлены (хг)а (х2)ь при
а + Ь(ь+1) = К, то при вычислении выражения, стоящего в левой
части (4.4), можно опустить в аг(Ху £) и Нг все одночлены, кроме
тех, которые соответствуют {хгУ12 и (хг)а(х2)ь. После этого дело
сводится к простым вычислениям. □
4.9. Покажем теперь, что если число 6 = &i(0, 0) четно, то
условие (4.2) несовместимо с условием с°(х> ?)^0 в
характеристических точках. Поэтому, если выполнено это последнее условие

214 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
и k четно, то мы находимся в ситуации, рассмотренной в
лемме 4.1.
Лемма 4.6. Если число k четно и функция d°{x, l) не
отрицательна в характеристических точках, то
grad^6^ai(Of-0)«0 (4.5)
при /<£/2.
Доказательство. Допустим, что это не так и выполнено
условие (4.2). Тогда, в силу лемм 4.3 и 4.5, имеем при £i = 0,
Ь=...=Ь. = о, *3=...=*»=o
а + 6 (s-h 1) = Др
где
Ф (*, g) = О (I** |w +1 *2 |<**>/(**> +1 ** Г11 g. | + 65 +1 х%21).
Пусть л:1 = U х2 = у***\ £2 = 2rf*-*. Тогда ах (*, 6) = **[£ Ла,у> + Bz] +
+ 0(\t\k+1)> поскольку 2(k-s)^k+l и k^2(s+l).
Как обычно, по теореме о неявной функции мы выводим отсюда,
что существуют такие функции y(t)y z(t), что при x = t, y = y(t)y
z = z(t) имеем аг{х, |) = 0 и у(t) = y0 + O(t), z{t) = z0 + O(t) при
f-»-0, каковы бы ни были числа у0, z0, для которых
С другой стороны, Я 2ai (*, £) = £ aAab (х1)""1 (*2)b + sB (х1)*-1 £2 +
+ <?1ф (#» I)» и на рассматриваемой кривой
ЯА(*. 6)-^(2]аЛ^+^*) + 0(<*) при *->0.
Число Л — 1 нечетно, и нужно показать, что существуют такие
числа #о» го, Для которых
Поскольку, по предположению, ВфО, достаточно показать
существование значения y0i для которого
2>-5)Ла^#0.
Последнее же очевидно, поскольку 2 I ^л& | =^= 0 по лемме 4.5.
(Напомним, что мы еще раньше условились считать, что Aab = Q
при s = 0 (см. п. 4.4).) □
Замечание 4.1. Если число k нечетно, то из
доказательства леммы 2.6 видно, что многочлен 2 (a — s)Aaby* не меняет
знака.
4.10 Доказательство теоремы 4.1. Пусть р
—вещественное число. Старший символ оператора (l+ip)P равен ах—-

§ 4. СТРУКТУРА СИМВОЛА 215
pa2 + U^2 + P^i)' Заметим, что
[ad (а2 + ра±)]к (<h - pa,) = (1 + р2) [ad (а2 + р^)]*-1 (— с J =
= (1 +Р2) 2 (ada1)a(ad«2)Pp!al (—*),
1а + Э1 = ^ —1
где Ci = —#2М*, £), (ad/)g = {/, g}, (ad а$* (ad а2)& = (ad ax)^ •
. (ad а2)Эх. • • (ad ai)06' (ad а2)вг. Полученный полином от р имеет не
более / корней, где / — это максимальное значение числа а0, для
которого
£ (ad air (ad а2)& сг (х, I) Ф 0. (4.6)
I а | = а0
Как мы видели при доказательстве леммы 4.5, значение /
совпадаете максимальным из значений а, для которых a + b(s + l)=
= kx и производная djd^i (0, 0) Ф 0. Нетрудно проверить, что
все слагаемые в сумме (4.6) имеют одинаковый знак и хотя бы
одно из них отлично от нуля (см. лемму 4.5). Поэтому для всех р,
исключая, быть может, / значений рь ..., ph имеем
[adte + paOPfa-paiHO, 0)#0,
т. е. значение k0(0, 0) совпадает с & = &i(0, 0). D
4.11. Доказательство теоремы 4.2. Пусть главный
символ оператора Q равен qi + iq2i а главный символ оператора Р
равен ax-{-ia2. Тогда главный символ оператора QP равен a[-\-ia^ =
= axqx — a2q2 + i ((hqi + uxq2) •
Заметим, что a[ (x, |) + ia^ (x, g) = 0 тогда и только тогда,
когда a±(xt l) + ia2(x, £) = 0. В этих точках
с[ (х, I) = — ad (<hqi + axq2) • (a^i - a2q2) =
= - (ql + ql) ad {(h) • ax = (flff + <tf) *i (*, £),
откуда сразу видна инвариантность условия Ci<0b
характеристических точках.
Чтобы проверить инвариантность условия #i(*, £)<oo,
рассмотрим два случая, соответствующих условиям (4.5) и (4.2).
(Как и выше, мы считаем, что выполнено (4.1).) Если выполнено
условие (4.5), то gradfl^O, 0) = xgradgi при некотором к и
d£ai(0, 0) = 0 при /<6, но dfai(0, 0)Ф0. Предположим вначале,
что qx (0, 0) + щ2 (0, 0) Ф 0. Это означает, что grad a2 (0, 0) ==
= N2(0, 0) + (7x(0, 0)]gradgi^0. Ясно, что djaj (0, 0) = 0,
digrad^aHO, 0) =* 0 при j<k, l<k/2, j« 1, 2, так что
[ad (ад + a^)]*. (a# 1 - a2q2) (0, 0) =
= N2 (0, 0) + ?l (0, 0)]*-1 (q\ + ql) (ad a2)k a± (0, 0),
и поскольку (ada^a^O, 0)=И=0, то и (ada^a^O, 0)=^0, так
что k± (0, 0) = £0 (0, 0) = k[ (0, 0) = К (0, 0).

216 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Если же ^(0, 0) + щ2(0, 0) = 0, то <7г(0; 0)-x<7i(0, 0)^=0,
т. е. gradaj(0, 0)=[х^(0, 0) — ^(0, 0)] grad £х =/= 0. В этом случае
[ad (atfi - Chq2)f (аф + a^2) (0, ,0) =
= [nqL(0, 0)-qt(0, 0)]*-1 (q\ + ql) (ad axf <h (0, 0)
и снова k[(0, 0) = fej(0, 0)=ft,(0, 0)=*i(0, 0).
Аналогично, если выполнено условие (4.2), то
а{аьаН0, 0)=о при /<s, i = i, 2,
aiaba;(0, о)=<мо, 0)а?а|гмо, о),
dia6x(o, o)=(/2(o, о)а;аьа1(о, о>,
и
а^ано, 0)=a{amaH0, 0)=о
при t = l, 2; /<fe/2; / = 3, ..., га; m = lt ..., га, по лемме
4.2. В силу лемм 4.3 и 4.5 имеем
a?a£a6/aHo, 0)=a?$amaH0, о)=о
при i — l, 2; a + ft(s+l)<;&/2; /=3, ..., га; т = 1, ..., га.
Кроме того,
dfdSaHO, 0) = 0 при a + 6(s+l)<^; < = 1, 2,
а если a + ft(s-f-1) =&, to
fldtai (о, о)=qi (о, 0) tfata (о, о>,
а?ак(о, о)=^(о, о)а?а5а!(о, о>.
Рассмотрим вначале тот случай, когда
<7i(0, 0) + х^,(0, 0)#0,
grada^O, 0)Ф0. Как и при доказательстве леммы 4.5, можно
проверить, что если kt = Оо + h (s +1), д^д^ (0, 0) Ф 0, ^ (0, 0) Ф II
#0, то Н?ь°Н[ь°Н?°аи0, 0)Ф0, т. е. *; (0, 0)=М0, 0). (Здесь "
H't = ad а* — оператор дифференцирования вдоль бихарактеристики
функции а'г(л;, |), t = l, 2.) Если же <7i(0, 0)=0, то q2(0, 0)Ф0
и <fc(0, 0) + х<?2(0, 0)#0, так что H'isb°mboH'ta'a^(0y 0)ф0, т. е.
снова k[(0, 0) = MO, 0).
Аналогично, если qi (0,0) + щг(0, 0) = 0, то q2(0, 0) — щх(0, 0)Ф т
Ф0. Отсюда следует что ^(О, 0)^=0, и, снова повторяя дока- *'
зательство леммы 4.5, можно проверить, что
Я;мЯ^ЯГ°аИ0, 0)Ф0, если a0 + b0(s+ l)=k0,
a6„(S+i)a«„flj(0> 0)^0> D

§ 5. СЛУЧАЙ НУЛЯ БЕСКОНЕЧНОГО ПОРЯДКА 21?
§ б. Теорема для случая нуля бесконечного порядка
5.1. Здесь мы докажем теорему о необходимых условиях
локальной разрешимости, не предполагая, что функция a = Rep°
имеет нуль конечного Порядка вдоль бихарактеристик функции
ft = Im/?°. Эта теорема содержит в себе как частные случаи
доказанные выше теоремы 2.1 и 3.1.
Существенным моментом в теоремах 2.1 и 3.1 является
выполнение приведенного ниже условия (&#). Для формулировки его
рассмотрим характеристическую точку (л:0, 1°) и проходящую через
эту точку бихарактеристику у функции Ьу так что вдоль у
*(0 = grads&(*(f), 6(0). t(t)= — gradxb(x(t), l(t))
(*<0), Б(0)) = (*. 1°У
Как и выше, будем предполагать, что вектор grad*, ф (х0> £°) не
коллинеаред вектору (£°, 0). Часть кривой у, соответствующую
положительным (соответственно отрицательным) значениям
параметра /, обозначим у+ (соответственно у-).
Предположим, что выполнено следующее условие:
a(x(t)9 Б(*))3>0 на у_, a(x(t)9 g(*))<0 на у+
(&£) и сУЩеспгвУют такие последовательности точек (л:(*), \{k)) e
еу., (x{k), |(ft))ey+t сходящиеся к (х0, £°) я/?и fc-^co,
«imo в з/шя точках функция а принимает ненулевые
значения.
Таким образом, мы предполагаем, что функция а не
обращается в нуль ни на каком отрезке кривой, содержащем точку а,
(*о> 6°). Обозначим /(/) оператор интегрирования вдоль кривой у,
так что
/(0/ = i/(*(s). Ш)*.
В силу условия (<з^) функция 1(f) а принимает
отрицательные значения при всех /=^0.
Будем предполагать также, что выполнено условие (в®),
обобщающее условия (4.5):
Пусть I —гладкое векторное поле в Г*й\0, определенное
в точках кривой у и касательное к поверхности b (х, £) = 0,
содержащей эту кривую. Тогда
№) I(t)la^c<>V-I(t)a
при 111 ^ е; е > 0, с0 = const > 0, причем постоянная с0
достаточно мала (в зависимости от £] I ^а4 (*о, 6°) \\
а не зависит от I.
Сформулируем теперь основной результат этого параграфа.

218 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Теорема 5.1. Пусть в характеристической точке (аг0, £°)
оператора Р выполнены условия (&>£) и {SB). Тогда для всякой
окрестности о точки Хо найдется такая функция f из С0 (о),
что уравнение Pu=f не имеет решений в со из класса Ш' (Q).
Как и выше, можно воспользоваться леммами 2.1, 2.2, 2.5 и
считать, что /и=1 и
Р°(*, l) = %i + Q{x, Г).
Кроме того, можно считать, что функция р* —/?° не зависит от £ь
где р* — символ оператора Р*.
Нетрудно видеть, что условия теоремы 5.1 инвариантны
относительно канонических преобразований и условия (о^) и (<£&)
могут быть переформулированы в следующем виде:
Функция q(xl, 4, 1°)(х1 — х\) неотрицательна при \хх — xj|<
(от€) <е и не обращается в нуль тождественно ни на каком
отрезке, содержащем точку х\.
Существуют такие положительные постоянные с0 и е,
что
I х1 12 х1
К grad^,rq(s, *J, l°)ds\ <~Со$ q(s, x'0t l°)ds
|o I о
при I x1 — *} | < e а постоянная с0 достаточно мала,
В работе Ю. В. Егорова и П. Р. Поливанова [1] вместо
условия (<£@) рассматривалось более грубое условие:
|grad^r</(x\ 4, t°)\2^c*\q(x\ 4, 6°)|.
Там же были приведены различные условия, достаточные для
того, чтобы выполнялось это неравенство.
5.2. Следующее утверждение аналогично лемме 2.3 и
доказывается аналогично.
Лемма 5.1. Пусть Р — оператор первого порядка с главным
символом р° (х, I) = ili -Ь q (х, £), где q — вещественнозначная
гладкая функция, которая не зависит от £i. Предположим, что су-
ществуют вещественные постоянные С и s, для которых
справедливо неравенство
II a U < С (К) (| Я*и ||о +1 и U), и^сТ (К), (5.1)
где К —компактное подмножество точек из Q. Тогда для всякого
целого М>0 и всякого компактного множества М czKx{Rn\0}
существует такая постоянная С>0, что
X* 11 !о < С (1- Ц + 2 5ПЯ <$>^ *»' |0) ^D^(^ 0 Х
III а + pKJV
xXi-,«+0,/2 + 2 aiT/fl? (*\ 4, 6°) jW+(*. y)x
2/+|a-f 3KW
xw-z-ia+pi/a +^-^2 2 i;^£>°4(*\ wiol (5.2)

§ б. СЛУЧАЙ НУЛЯ БЕСКОНЕЧНОГО ПОРЯДКА 219
при всех X^l и для всех функций феС^°((—е, eJxR""1), если
8^>0 достаточно мало.
Для сокращения записи перенесем начало координат в точку х°.
По аналогии с леммой 3 2 докажем следующее утверждение.
Лемма 5.2. Пусть главный символ оператора Р в
окрестности точки (О, £°) равен i%i-\-q(x, £') и удовлетворяет условиям
(от€) и {S3). Тогда для всякого натурального числа а>0 в
некоторой окрестности со начала координат в Rn можно определить
такую гладкую функцию w(xl, у), что
JW+ 2 W «Ш <*• ** И & (Srad, wy* =3 О (| у Г), (б.З)
1пш(#\ у)^*а0р2, |%ЫУw(х\ у)\<агр, (5.4)
где a0 = const>0, ax = const>0,
оЧх\ y)~\y?-\q{U *9 l*')dt.
о
Доказательство. Будем искать до(х\ у) в виде
|<х|«т
где aieSC*. t»a(0) = 0.
Подставляя это выражение в уравнение (5.3) и приравнивая
нулю коэффициенты при уа> |a|<a,. получаем для определения
функций wa систему обыкновенных дифференциальных уравнений
вида ^
Wa(XX)=Oa(x\ Wpix1)), |a|<0, |P|<0,
с начальными условиями aya(0)=0. Функции Фа, вообще говоря,
являются комплекснозначными, однако не составляет труда
превратить эту систему в систему уравнений с вещественнозначными
правыми частями, приравнивая по отдельности вещественные и
мнимые части, так что число уравнений в системе увеличивается
вдвое. Полученная система имеет единственное решение при l^l^e,
если е —достаточно малое положительное число.
Отметим, что
&»(*) +iq(#, 0, |°') + i"E ?{/,(*S 0. l°')wJ(x1) +
/-i
я—1
+ 2 cfl(^)wj(^)w,(^) = 0, (5.5)
i.t = i
w'i (x1) + iqU) (x\ 0, g°') - 2qW (x\ 0, £«') +
+ *1 2 a» № Я(1) <*\ 0, Г) + x1 2 b\ (xl) w, (xl) = 0, (5.6)

220 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
где dju b/, с'7— гладкие функции, максимумы которых
оцениваются величиной, зависящей от 2 l°a?Uo> 1°) I» причем
Введем обозначения
0 0
QJ(xl)**]q{J)(t, 0, бПЛ. -
о
Напомним, что по условию (<$>) выполнено неравенство
^ 2 {I Qy И I2 +1Q' (х1) Щ <-2cl (n - 1) Q (*)f (5.7)
а в силу условия (в^) функция Q0*;1) монотонная при хгФ0*
Из уравнения (5.6) следует, что
\wj(xL)\<\Qj{*iL)\+*\Q/(#)\ +
+ Сгг 2 IQ'^H + C.J 2 !^i(0l*. .
Суммируя эти неравенства по / и применяя неравенство (5.7), .
получаем, что
*2 i»y(^)i<c.j *2 |<мо|л+слуЧота
/«1 U /=1
откуда, в силу неравенства Гронуолла, следует, что
п — 1
2 l^(^)|2^C5^|Q(^)|. (5.8) /
Из уравнения (5.5) видно, что, в силу (5.8), |
;C6^e|Q(^)|
Интегрируя по частям, получим, что
\ Яи) («, 0, lQt) wj 0) Л = QJ (х1) wj (х^) - J Q' (t) w) (t) dt.
1 . 0
Из (5.7) и (5.8) видно, что \QHx1)wJ(xl)\*£.Cicl\Q(x1)\.

§ 5. СЛУЧАЙ НУЛЯ БЕСКОНЕЧНОГО ПОРЯДКА
Снова используя уравнение (5.6), получаем
221
J\QJ(t)Wi(t)dt = \ QJ(t)
iq{J)(t, 0, l*')-2qU)(t, 0, l*) +
+ t S an{t)q«4t\ 0, E°') + "S 6)(ОЮ|(0|Л.
/«i /«i J
Рассмотрим четыре интеграла, стоящие в правой части.
Первый из них является чисто мнимым и потому не представляет
интереса. Второй интеграл равен
-2j Q4t)q^(U 0, t°')dt [Q/(*i)]V
о
Далее, с помощью интегрирования по частям получаем, что
* QJ (t) taji (t) qW (t, 0, Г) dt = QJ (x1) Q< (x1) #an (x1) -
о о
Отсюда видно, что
"S Jte/i(0«(/)(<. 0, \*)Q!(t)dt =
/.1-10
л —1
ft —1 *i
=4 2 ^H^^^W-i 2 fQ/(0Q'W[tey/Wr*
/\/=l /./ = 10
и потому
Г^ $ ta//(0<7(/)tf, 0, 6*)Q'(0*|<Cee(S|Q(*4|.
I/./=io I
Наконец, рассмотрим последний интеграл
n —i
JQ'WS б|(0ю|(0Л.
/=i
Из (5.7) и (5.8) следует, что этот интеграл не превосходит по
абсолютной величине C&cl\Q{xx)\.
Суммируя проведенные оценки, получаем, что
! Im wo (x1) + Q (х1) | < с10с? | Q (х1) |.
Таким образом,
l^w{x\ y)^-Qixi) + lyl2-.ly{l2i \wj(xi)\-c10cl\Q(xi)\^
s-Q(^)[l-ftncg-4cecgJ + -2-|y|\

222 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
и если Со настолько мало, что
то lmw(x\ y)>j(\y\2-Q(x1)). D
5.3. Для доказательства теоремы 5.1 понадобится еще
Лемма 5.3. Пусть w (х) — функция, построенная в лемме 5.2.
Тогда существуют такие постоянные Са, что
| DV** | < СсЛ'а *ег *lm ••2*'а' (5.9)
при всех ^^1 ^ х^со.
Доказательство, При а*=0 это неравенство очевидно и
Со*»Ь Если |а|*=1, то ||
| £)o^to |2 _. | %D%mfow |» — \» | £)аш |2 £-2*, im ю# ||
Из (5.4) следует, что
| D*w |8 е~ *Im • < а?р2е- ^op* < От1.
Поэтому
Допустим, что неравенство (5.9) доказано при |а|^/э где /S*l.
Тогда при | а | = I имеем
| DjDaeiXw |2 = | Da (Dyay • %^Xw) |2 ^
. +1CX2|D/oy-DVA'tt'|2<CaWai + le-^Ima"2^la|-"1. П
5.4. Доказательство теоремы 5.1. Используя леммы
2.1, 2.2 и 2.5, можем считать, что т=1 и р°(*, £) = t|i + #(х, £)
в некоторой окрестности точки (х0, £°), причем справедливо
неравенство !|
|Фи<С|Р*ф|г, ФеСГ(ш). |
По лемме 5.1 гогда выполнено неравенство (5.2). Пусть о) — столь I
малая окрестность начала координат в R", что справедлива "j
лемма 5.2. В неравенстве (5.2)- заменим у на уХ1/2. Тогда оно
перейдет в неравенство
^!г|?||о^С1|-а1г|) +
/>0|a + 3'<tf-2/ ||о
+ W-W 2 ^1^^1^аФ(^1, f/)Ioi (5.10)
I
|а+Э1 <^
•"Ф(*\ f/)loi

§ б. СЛУЧАЙ НУЛЯ БЕСКОНЕЧНОГО ПОРЯДКА 223
Обозначим через А (л:1, у) выражение, стоящее в левой части
равенства (5.3). Числа а и N будут указаны ниже.
Пусть Ц(х\ !/)=2ф/(Д y)W(*b*w*v\ где Ф/еС?>)-
/-о
Имеем
- В + 2 щ\д® {х1> *•>^ уЮ> (х1> у)%1~1а,+
la+PKTV
+ 2 2 a^'V. А. 1")№№, «/)я.>-/-|«| =
/>0|а+ЭК^-2/
L — N + 1
где а/еС^°((о). Требуется найти функции <р/, для которых а/ = 0.
Нетрудно проверить, что
До (*\ У)=*А (л:1, у) фо (л:1, у) = 0(\у |°) при */ -> 0,
fli (*\ #) = ^ (л:1, у) фх (л:1, у) - агфо +
л —1
+ 12 Л/(**' ^/Фо + Ж*1, */)Фо>
/«1
я* С*1» У) = А (х\ у) фот (х1, у) - д1фт_1 +
+ -J ^ ЛУ<*а' у) а/«ь.-1+*(**. у)Ф^1+ст(^, у),
где Ст —линейная комбинация функций ф0, фь ..., фт-2 и их
производных, а Л>(0, 0) = 0.
Функцию фо определим как решение уравнения
-<5icpo+ 2 Aj{x\ y)Djcpo + B(x\ у)Фо = 0(|г/Г1) при у-+0
с условием фо (0, у) = 1 Как и w, функция ф0 находится с
помощью теоремы Ковалевской. Аналогично, функции <pm-i(x> у)
при 2*^m<;L находятся из условий
- di<P«-i + £ Лу (л:1, у) D/фя-! + В (х1, у) фт-х + Сот (х\ у) =
/-1
11 Фт-1(0, */)==0. Разумеется, при этом можно считать, чтофунк-
ции 4>т обращаются в нуль в окрестности границы области со.

224 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Заметим, что поскольку фо(0, 0) = 1, то имеем
ж*1. </)р=И
L
Е «М*1. у)*
1 = 0
= Х-"/2 [ С J | фо (0, 0) |2 е-2С' «*1>г + I г"!> dxl dy + О (-J-)l =
=^/2[со+о(1)Ма.-»/2,
где с0>0, а Я, достаточно велико. С другой стороны,
II L-JV + 1 |р
I / = 0 ||
L — N + 1
/=0 а>
L — 7V4-1
Наконец, в силу леммы 5.3 при |a + (5|^N
так что
Подставляя полученные оценки в (5.10), получаем, что
Ц ^-"/4 < С3Я-°'2+1 + СуЯ,1-^-^-1)/*,
где постоянные с0, С3 и С7 не зависят от Я, и с0>0. Выбирая
N и о столь большими, что a/2 >—s +л/4+1, /V> — 2s+ 5/2,
получаем неравенство, когорое не может выполняться при всех
Я$5Я,0. Полученное противоречие доказывает справедливость
теоремы 5.1. □
5.5. Укажем здесь некоторые условия, при которых
выполнены условия теоремы 5.1.

§ 5. СЛУЧАЙ НУЛЯ БЕСКОНЕЧНОГО ПОРЯДКА 225
Предложение 5.1. Пусть для оператора Р в точке.(х0, £°)
выполнено условие (о^) и функция £i = {a, b) принимает
неположительные значения в каждой характеристической точке из
некоторой окрестности точки (х0у Е°). Тогда каждое из
следующих условий достаточно для справедливости условия (<£/3):
(s®i). Функция а монотонная вдоль у в некоторой окрестности
точки (хо, 1°).
(&©2)- Существует такая постоянная С>0, что \а(х> £)|^
^С\а(у, т|)|, если (х9 £)^Y» (у, л) е У и точка (х9 i) лежит
ближе к (хо> 6°), чем точка (у, г|).
(<^8з)- Функция а имеет вдоль у нуль конечного порядка в точке
(хо, 6е).
(еЗД. Если а(ху 6) = 0, mo gradX',g'a(*, £) = 0.
(е$?5)- В некоторой окрестности точки (я0, £°) существует
гладкое многообразие 5, трансвереальное к полю (grad|6, —grad^ft)
а обладающее следующим свойством: в каждой точке поверхности
S, в которой Ь(х, £) = 0, функция а меняет знак с минуса на
плюс при движении в положительном направлении вдоль нулевой
бихарактеристики функции Ь, проходящей через эту точку.
Доказательство. Как обычно, мы можем считать, что
т=1 и р°(х, l) = ili + q(x, £')» Так что в тех точках, где
q{x% £') = 0, выполнено неравенство dxq{x, |')^0. Мы покажем,
что из условий (gSBi) — (<г©б) вытекает неравенство
|grad^r<7(*\ 4, \*')\%<>C\q(x\ xl \«)\.
Нетрудно видеть, что из этого неравенства вытекает, что
\ grad<7(*, *J. t«')dt\ <C|^|K q(U *i, Б0')Л
о I 1 о
и потому справедливо условие ($3).
(SBi). Доказательство в этом случае, а также в случае (<£®2)
содержится в работе Л. Ниренберга и Ф. Трева [2]. Оно состоит
из доказательства двух лемм.
Лемма 5.4. Пусть <р <= С2 (— г, г) и | ф" (у) | ^ М% причем
функция ф принимает вещественные значения и ф(0)<М \-кСг\ ,
где С —некоторая постоянная, C>]f~2. Тогда
щ
а) если | ф' (0) | > С У М \ ф (0) |, то на отрезке \У\<^ту >
М
содержится ровно одна точка yQy в которой ф обращается в нуль
б) обратно, если ф (у0) = 0 при \yo\<-gy ^ > ™> I ф' (0)1^
^|С/М|Ф(0)|.
8 Ю. В Егоров

226 ГЛ. VI. НЕОБХОДИМЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
Доказательство, а) Преобразование
У^Ту-
ф'(0)
ф(0) + ]| fc-nWft)*!
непрерывно отображает отрезок \у\^р в себя; поэтому
существует точка уоУ для которой у0 = Ту0. Поскольку | ф' (у) | > О
при |{/|^р, такая точка единственна и ф'(уо)=^0.
б) Пусть ф(уо)==0 и |г/о|<р. Будем считать, что у0>0 и
ф(0)>0. Тогда
-УоФ'(0)^ф(0)--|Му^ф(0)(1--^)^{ф(0)
и
|Ф'(0)| = -Ф'(0)^|-^^^КМ|Ф(0)|. D
Лемма 5.5. Пусть R = {(ty j/)eR2, |y|<r0, 0<*<60} и
ф£С2(/?), причем
1) ф(0, 0) = 0, ф(£, 0) монотонно возрастает;
2) если ф (t, у) = 0, то % (t, у) <; 0;
3) |ФдаС »)|<М б Я.
Тогда яри достаточно малом 6>0 выполнено неравенство
|Ф,(/, 0)|2^16М|Ф(*, 0)|, 0^*<8.
Доказательство. Пусть г0 настолько мало, что ф(б0, у)>0
при |у|<г0. Допустим, что
|<Ы'о, 0)|2>16М|ф(4; 0)|, 0</0<б0.
Можно считать, что |ф(4, 0)|<Мго. По лемме 5.4 с С = 4
в интервале |у |<у|ф(/о» 0)/Л111/2 существует единственная точка
г/о, в которой ф(£0, #о)=0. При этом Ф^о, Уо)фО. Для
определенности будем считать, что #о>0. Поскольку ф(/0, у)>0
при 0<,у^уо, мы видим, что Ф^о, */о)<0. По теореме о
неявной функции множество нулей функции ф образует в окрестности
точки (*о, уо) гладкую кривую Г, определяемую уравнением у =
= f(t). На этой кривой ф#<0. С другой стороны, на кривой Г
выполнено равенство ф^/,-f Ф/== 0. Отсюда следует, что /><:0
на Г, т. е. функция / убывает. Так как функция ф(/, 0) по
условию возрастает, справедливы неравенства
О<т</0о)^у|Ф(<, 0)/МГ при t^U.
По лемме 5.4 отсюда следует, что
КС 0)|^^1/А1|ф(<, 0)|, t^t0.

§ б. СЛУЧАЙ НУЛЯ БЕСКОНЕЧНОГО ПОРЯДКА 227
Снова применяя лемму 5.4 с постоянной С = 3/2, получим, что
функция / определена при всех /, для которых t0^t^60,
причем /(б0)</'о, так что ф(б0, /(60))=0, что противоречит
предположению о том, что ф(60, у)>0 при |*/|<г0. □
(с0Вг) Для доказательства достаточно применить предыдущие
рассуждения к функции
При этом
1<Ы*. 0)|^4/СЛ1[ф(/, 6У|. П
(SSZ) См. леммы 4.2 и 4.6. □
(<Й?4) Утверждение легко следует из следующей леммы.
Лемма 5.6. Пусть fsC2(R) и /'(х) = 0б каждой точке х,
вкоторой /(х)=0. Пусть M = max\F(х)\. Тогда f {x)<2УИ |/(л:)|.
Доказательство. Пусть а и {5 — два соседних нуля
функции /. Будем считать, что />0 на (а, Р) (в противном случае
можно заменить / на —/). Найдем максимум функции g=*f'*f-1
на [а, Р]. Если он достигается во внутренней точке х0 этого
отрезка, то g' (#0) = 0 и потому 2/" (л:0) / (х0) — f (х0) = 0, так что
g(xo)=2f0(xo)^2M. Если же максимальное значение gmax
достигается в граничной точке отрезка [а, Р], например, при я=а,
то по правилу Лопиталя
а -ншf^J*L-iim У<«>П*)_2Гы
gfmax - lim f {x) _ lim f, (x) - гг {а).
Таким образом, доказано неравенство f (x)^2Mf{x). D
(<£@ь) Из условий видно, что gradXit>q(xt £) = 0 в точках
(х, £) е 5. Поскольку в нулях, не принадлежащих S, знак
функции q не меняется, то выполнено условие (<$?4). □
8*

ГЛАВА VII
ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
§ 1. Обзор результатов
1.1. Еще совсем недавно в теории дифференциальных
уравнений с частными производными не существовало никаких теорем
о разрешимости дифференциальных уравнений за пределами
классов операторов с аналитическими коэффициентами и основных
классов уравнений математической физики—эллиптических,
параболических и гиперболических.
Первые общие результаты были получены в работах Л. Хёр-
мандера [1] в 1955 г., когда он доказал следующее утверждение.
Теорема 1.1 Для локальной разрешимости
дифференциального оператора Р (х, П) достаточно, чтобы выполнялись два
условия:
(1) gradfc/>«(*, £)=^=0;
(2) cUx, Б)-21. 2д^^Щ1^ (х, Е)еГЙ\0.
Условие (2) выполнено, например, в тех случаях, когда
функция р° вещественнозначна или когда р° не зависит от х.
Напомним, что оператор Р называется разрешимым н точке
x0gQ, если существует такая окрестность о этой точки, что
Р(^'(©))=>сГ(©).
Для псевдодифференциальных операторов Р разрешимость
в точке х? означает существование двух окрестностей со и со'
этой точки таких, что со' ш> со и
Уа)Р(Г(со'))оСГ((о),
гДе Yw/ — сужение функции / на область оз.
Эта теорема была обобщена Л. Хёрмандером в книге [3], где
был определен новый класс операторов, нормальных в главном,
которые характеризуются условием: существует
дифференциальный оператор Q(x, D) порядка т—1 с коэффициентами из
С1 (О) такой, что
d(xt £)=2Re^(*, £)q(xt 6).

§1. ОБЗОР РЕЗУЛЬТАТОВ
229
Теорема 1.2. Нормальные в главном операторы,
удовлетворяющие условию (1), разрешимы локально.
Более полный анализ, учитывающий значения производных
высших порядков в характеристических точках, был проведен
в работе Л. Ниренберга и Ф. Трева [1] для случая дифферен-
п
циальных операторов первого порядка Р (х, D) = У] о! (х) D/+a(x).
Они доказали, что в случае аналитических коэффициентов а}
для разрешимости этого оператора необходимо и достаточно,
чтобы выполнялось следующее условие. Пусть {,} —скобки
Пуассона,
if *i- X (*L*l-JLM\
/= l
Тогда номер первой отличной от нуля функции р°, с^—{р°, р°}9
с2 = {/Л Cib ••• должен быть конечным и четным или
бесконечным для всех 1Ф0 и шш, где со —некоторая окрестность
начала координат.
1.2. Дальнейшие продвижения в теории разрешимости связаны
с развитием теории псев до дифференциальных операторов.
С одной стороны, псевдодифференциальные уравнения
естественно возникают при изучении краевых задач для
дифференциальных уравнений. При этом оказывается, что разрешимость
полученного псевдодифференциального оператора эквивалентна
разрешимости исходной краевой задачи. С другой стороны,
теория псевдодифференциальных операторов оказывается очень
полезной при изучении свойств дифференциальных уравнений.
Например, для исследования разрешимости уравнений главного
типа оказывается достаточным рассмотреть случай
псевдодифференциальных уравнений первого порядка, что значительно
облегчает исследование.
Важнейший шаг в дальнейшем развитии теории был сделан
Л. Хёрмандером [6]. Он показал, что справедлива
Теорема 1.3. Для разрешимости уравнения Pu—f
достаточно, чтобы выполнялось условие
Р° (*, I) = 0, (*, I) & Г*Й\0 =* сг (*, I) > 0.
В этом случае для функции f из #s((o) при любом s существует
локальное решение и из класса Hs+m-i^(Q).
В этой же работе доказана теорема 1.2 для произвольных
псевдодифференциальных операторов.
1.3. Упомянутые выше результаты Л. Ниренберга и Ф. Трева
и георема 1.3 были обобщены автором в работе [4] о
субэллиптических операторах, которым будет посвящена гл VIII этой
книги.

230 ГЛ. VII. ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ * 1
В ряде работ Ф. Трева [3], [4], Л. Ниренберга и Ф. Трева 1
[1]—[3] и автора [7], [9] были получены теоремы о достаточных I
условиях локальной разрешимости. :;
Для дифференциальных операторов главного типа с анали- ■'
тическими коэффициентами в главной части в работе Л.
Ниренберга и Ф. Трева [2] доказана локальная разрешимость при I
условии ($>):
На каждой бихарактеристике функции Rezp0 функция Im zp*
не меняет знака (ze(D\0}.
Достаточность этого условия для операторов с гладкими
(не обязательно аналитическими) коэффициентами была доказана
Р. Билсом и Ч. Феффермансм в [1]. В дальнейшем им удалось
усовершенствовать это доказательство в рамках новой, очень
широкой теории псевдо дифференциальных операторов (см.
Р. Биле [2]).
1.4. Мы приведем доказательство одной теоремы о
достаточных условиях локальной разрешимости, которая не содержится
в упомянутых выше работах, поскольку в ней не предполагается
выполненным условие (<^). Методы, используемые при
доказательстве, сравнительно элементарны; они опираются на
рассмотрение квадратичных форм и неравенство Гординга.
Хотя результаты этой главы не являются окончательными и
не содержат упомянутых теорем Л. Ниренберга — Ф. Трева и
Р. Билса — Ч. Феффермана, они довольно естественно смыкаются
с необходимыми условиями разрешимости, данными в гл. VI.
Будем предполагать, что Р (х, D) — псевдодифференциальный
оператор порядка т главного типа, удовлетворяющий условию:
Если у — бихарактеристика функции Im zp°, проходящая
через характеристическую точку (х0, |°), и h(t) =
(Ху = Rezp°(x(t), £(/)), где x = x(t), g = £(*) — уравнения,
[ ' определяющие у, то из условия /i(/i)>0 следует, что
h(t)^zQ при всех t^tu если точка x(t) принадлежит Q -у
для всех геС\0. -f
Кроме того, будем предполагать, что для каждой характе- ;
ристической точки (л:0, £°) выполнено одно из следующих условий: |
(A) В окрестности точки (х0, 1°) определена такая гладкая ^
функция а(х, £), что а(х, t\)=a(x, %) при t^ly |£|^1 и \
с\{х, £) + Rea(*, g)/>•(*, £) + Л/|р°(х, 6) I116 (-1 Зэ* 0 ;
с некоторой постоянной N^zO. Здесь, как обычно;
с\ (хЛ) = 2 Im J] рос/) (х, I) р0и)(х, I). I
/-1 - |
(B) Пусть а = Re p°, b== Im p° и а — символ оператора глав- I
ного типа. Пусть у'Ь — производная функции Ь по направлению 1
векторного поля, касательного к поверхности а(х, £) = 0 и транс- 1

* 1. ОБЗОР РЕЗУЛЬТАТОВ 231
нереального к полю
п.
и ~ \ (да Л Oil d \
Па~ L\dljdxi dxfdlfj-
Тогда существует такая постоянная /С, что
\V'b(x, t)\*<:K\b(x, l)\
в некоторой окрестности точки (х0, £°) для всех точек (х, £),
лежащих на поверхности а(х, I) = 0, | g | = 1.
Основным результатом этой главы является
Теорема 1.4. Пусть Р (х9 D) — псевдодифференциальный
оператор главного типа порядка т в области й, удовлетворяющий
условию (Y), и в каждой характеристической точке (#o, 1°) из
T*Q\0 выполнено одно из условий (А) или (В). Тогда для
каждой точки Хо е Q и каждого вещественного числа s, s <; т — 1 +
+ я/2, найдется такая окрестность со с: Q, что уравнение Pu = f>
где f e Hs-m+1 (Q), имеет в со решение и^Й$ (Q), причем
| и К Се | f ||5-m+i, e = diam со,
где постоянная С не зависит от }.
Укажем некоторые условия, достаточные для справедливости
условий (А) и (В).
Ясно, что условие (А) выполнено, когда сЦхо, £°)>0. В этом
случае можно считать, что а = 0* и Af = 0.
Менее очевидна справедливость этого условия, когда векторы
gracU, i Re />°, grad*. i Im p° и (£°, 0) линейно независимы. Если
Re /?° = а и Im/?0 = &, то а и Ь — символы операторов главного
типа с линейно независимыми градиентами. Поэтому
характеристическое множество М = {(я, £); р°(х, 1) = 0} в окрестности
точки (лг0, £°) является гладким (2п — 2)-мерным многообразием
и векторы gradtf и gradft образуют базис в каждой нормальной
плоскости к М. Отсюда следует, что существует гладкая
функция а, удовлетворяющая условию а(х, Щ=а(х, |) при t^l,
111 ^ 1, для которой функция h (х, I) = с\ (ху I) + Re а (*, £) /7° (х, £)
имеет в точках М нули только второго порядка. Таким образом,
существует такая постоянная Af^O, что h(x, Q + N\p°(x, l)\2X
Х|£|в1^0 в окрестности точки (#0, £°), т. е. выполнено
условие (А).
Условие (В) выполнено, например, в случае, когда функция
не меняет знака на поверхности а(х> £) = 0. Это следует из
леммы 5.6 гл. VI. То же верно и в случае, когда функция Ь меняет
знак, но имеет при этом нуль второго или более высокого порядка,
так что в каждой характеристической точке у'6 (х, £)=0.
Далее, условие (В) выполняется, когда функция b меняет
Знак в точках гладкого многообразия S, трансверсального к би-

232 ГЛ. VII. ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ 1
характеристикам функции а. В этом случае доказательство также I
основано на применении леммы 5.6 из гл. VI. 1
1.5. Разумеется, возможен и иной подход к вопросу о разре- 1
шимости: можно расширить класс рассматриваемых обобщенных I
решений, выйдя за традиционные рамки теории распределений. I
По-видимому, всякое уравнение главного типа разрешимо в классе |
функционалов над пространством аналитических функций. В ра- II
боте М. Сато [1] был введен класс гиперфункций, которые можно 1
рассматривать как граничные значения в вещественном простран- !
стве голоморфных функций. Однако П. Шапира [1] показал, что |
уравнение Dxu + 1Хг02и = / неразрешимо и в классе гиперфункций |
ни в какой области Q с: R2, содержащей начало координат, для I
некоторой функции f из C°°(iR2). 1
Ф. Трев [2] рассмотрел класс Ks ультрараспределений, явля- "•
ющихся образами при преобразовании Фурье таких функций
0(|), что
l\v(Q\2e-2s^dl<co.
В этом классе он доказал локальную разрешимость уравнения J
Р(ху D)u = f(x) (и даже задачи Коши для таких уравнений)
при весьма широких предположениях. ;|
В ряде работ М. И. Вишика и Г. И. Эскина, М. И. Вишика ?!
и В. В. Грушина, В. Г. Мазьи и Б. П. Панеяха при отсутствии *
разрешимости вводятся «кограничные» условия, спасающие поло- ■]
жение. Этот прием сводится к замене уравнения Pu = f уравне- :
нием вида Ри ~/ + 6(Г)(5<)р, где Г — характеристическое
множество ир — неизвестная функция, которая ищется одновременно с и.
В работе Л. Ниренберга и Ф. Трева [2] показано, как из .
теоремы 1.4 можно получить теорему о локальной разрешимости
системы уравнений Pu=^f в предположении, что detP{x, £)
удовлетворяет условию (W).
§ 2. Редукция к операторам первого порядка
2.1. Покажем, как свести доказательство теоремы 1.4 к рас- §
смотрению специального случая. 1
Лемма 2.1. Достаточно доказать теорему 1.4 для случая |
s = 0, m=l. |
Доказательство. Предположим, что теорема 1.4 верна 1
для m=l,s=b0. Пусть Q^PA1-™ — оператор первого порядка !
с символом q (х, Q=P(xt I) (1 +11 (2)(i-m)/2 и д =flA-s — оператор |
с символом h(x) (1 + |£ \2)~s/2, где h^C^ (со), h(x) = l в некото- |
рой меньшей окрестности со' точки х0, которую можно принять \
за начало координат. При этом можно считать, что diamco'=е/2. |
Проверим, что условия теоремы выполнены одновременно для |
операторов Р и Q. Ясно, что если р°{х, |)=0, то I
grad (р° (х, I) 11 J1-*) = 11 \1~т grad p° (*, 6), 1

§ 2. РЕДУКЦИЯ К ОПЕРАТОРАМ ПЕРВОГО ПОРЯДКА 233
так что оператор Q главного типа. Если zp° = a + ib, где zg
g(D\0, то zq0 = 11 |1_m (a + /ft), так что
sign Re zp° = sign Re zq°,
и бихарактеристики функции Im zp° и 1тг<Д вдоль которых
Im zp°y совпадают, различаясь лишь параметризацией.
По предположению, уравнение Qu=f разрешимо, т. е. для
функций / из L2 (Q) с компактным носителем существует
функция и из L2(Q), для которой
|«lo<Ce|f|o. (Ф, /) = (Q*<P. «О, феС((й).
Отсюда видно, что
IIФ Цо = sup |(/, Ф)|*£ sup |a!o|Q4!o<Ce|Q*V(o,
i:fi;o=J i:foii=i
т. е.
|ф[о<Се|(?*ф!о, ФеС(со) (2 Л)
Пусть теперь г|? е С^° (о/), так что /п|) = г|х Подставим в нера
венство (2.1) функцию ср = А\р = /lA-^if), учитывая, что Q* =
= д1-тр* Получим
S ЛЛ-*-ф f0 < Се 1Л1-^*^-^ |о - Се | P*hA-*y \\^m.
Отсюда следует, что
|г|) I-, < | ЛЛ-Ч> |о + Сх | г|) |U_a < Се |ГР*ЛЛ^ |U, f Сх \ ф |.rt <
< Се (| Р*я|> t^., + С, | ф Ы + d | г|> |U_ls
Если СС2е< 1/2, то отсюда вытекает неравенство
|| ф ||_, < 2Се I Р*ф Ь_да-.5 + 2СХ || г|> |^.
Поскольку s^n/2, по теореме 3.11 гл. I
Ж-^х^СзеЖк.
Если 4CiC3e < 1, то получаем оценку
l^ll-^^elP^lx-^.
Из этой оценки видно, что если ^еЯ^(й), то функционал
(&> я)?) от Я*г|? е H-s-m+i ограничен и потому существует элемент
v из Hs+m-ly для которого
(Р*г|>, и) = (я|>, £), г|х=С((о'),
l|y|Um-i<4Ce||g||,. □
2.2. При доказательстве неравенства (2.1) понадобится
разбиение единицы на единичной сфере {geR«, |£| = 1}. Пусть gy,
' ^ '» • •, г, — это г неотрицательных4 С°°-функций от £ при
I5i = l и v^ = i. Продолжив их до С°°-функций, определенных

234 ГЛ. VII. ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
для всех I и однородных нулевой степени при !|!^1/2,
определим псевдодифференциальный оператор gj(D) нулевого порядка,
положив
g} (D) и (х) - (2я)-" \ e^gj (I) и (I) d£,
I
где и — преобразование Фурье функции и. Оператор £g/(D) — / |
будет бесконечно сглаживающим, и потому ||
|M|o<Sltfy(0)tt|o. |
X
2.3. Будем считать, что точка х? является началом координат, i
Если р°(0, 1°)ф0 и |£°| = 1, то 1
\р(х> £)|^Со, со = const > О
для всех (х, I) из некоторой окрестности точки (0, £°).
Если носитель функции g (£) h (x) лежит в такой окрестности, то
|h(x)g(D)иЬ<Сг(||Р* (х, D)hgu[о +1|hgu(о), «gC(У).
При этом можно считать, что diamsuppu = e и ft (аг) = 1 в ,
«-окрестности носителя функции и, так что (1 — h)u = 0. Ясно, что
Whguk^C&Whguh,
так что при малом е из этих неравенств вытекает оценка
\\hguh^C3e\\P*hgulo. (2.2)
2.4. Пусть теперь /?°(0, £°)=0 и |£°| = 1. Поскольку опера-,
тор Р главного типа, то существует такое однородное
каноническое преобразование ф, после которого grad^p°(0, £°)=И=0, .
например, д^/^О, £°)=И=0, где р* = уор°. Далее, существует ;
такая гладкая функция Х(х, £') в некоторой окрестности точки ;
(О, g°), что 1
р°(*, 6) = [Ь-М*. Б')]а(*. Б), ' |
где аеСот и |а|^С!>0. Пусть А, = а + *р, где а и Р — гладкие I
вещественнозначные функции от х и I'. Существует такое одно- *
родное каноническое преобразование фх в пространстве перемен- :
ных (х\ £'), зависящее от параметра х1, после которого функция ?
£i—а(х, ^') переходит в li. При этом функция Р (х, £') перехо- ч
дит в q(x, £')• •;
Пусть Н(х, £') и #i(#, g') — гладкие функции на Rn*Sn-2 ■■
с носителями в той окрестности точки (0, £°), в которой опре- •>
делены функция X и преобразование <рь равные 1 в некоторой ||
меньшей окрестности о точки (0, £°) и такие, что HH1 = Hv
Продолжим их до гладких функций, однородных степени нуль
при | £|^= 1/2. Пусть функция а продолжена до гладкой
функции, однородной степени нуль при |£|^1/2 и такой, что

§ 2. РЕДУКЦИЯ К ОПЕРАТОРАМ ПЕРВОГО ПОРЯДКА 235
а(х, 5) | ^с1 > О и ^ (*» D) — оператор с символом а (х, £).
Пусть Ф и Фх — интегральные операторы Фурье,
соответствующие однородным каноническим преобразованиям ф и фх.
Наконец, Q(*» ^') и Hi(x, D') — операторы с символами q(x, £') х
X Я (я, £') и Я^х, £'). Тогда порядок оператора Нх(х, D')x
х[Р* — ФМФ? (iD\+ 0)Ф\Ф] равен нулю, причем оператор А
является эллиптическим первого порядка, а символ Q(x, I1)
оператора Q не меняет знака с плюса на минус при
возрастании х1.
Теорема 2.1. Если оператор Р удовлетворяет условию (¥),
то существует такая постоянная, что
| ф |о < Се || (Ш, + Q) ф |о. фе С (со), (2.3)
где e = diamo).
Если подставить в неравенство (2.3) функцию ф = Ф1Ф/1£м,
где A(jc) и g(£) определены аналогично тому, как это сделано
в п 2.3, то получим
1 hgu So = II d>id>hgu [о = IIФ fo *£ Се || (fDi + Q) $>lOhgu \0 =
= Се || Ф,* {Юг + Q) O&hgu fo <
< Cde (| Л Of (Фг + Q) fyOhgu |0 + II hgu |'0) =
= CCie (I ФМФ,» (IDX + Q) O&hgu k + \hgu |0) <
< CCie (| Р*Л^ (o + C, | A^lo).
Если СС&г < 1/2, то
|Л£и|о<Све'Я*Л£и|о,
т. е. получаем неравенство, аналогичное (2.2).
2.5. Итак, каждой точке l^S"-1 можно сопоставить
функцию g(l) h (х), как это сделано в пп. 2.3 и 2.4.. Носители
функций g покрывают единичную сферу. Выберем из этого покрытия
конечное покрытие и построим гладкое разбиение единицы
г
2 8/ (I) = 1» соответствующее этому покрытию. Каждой функции gj
соответствует окрестность coy начала координат в R" в силу
конструкций, данных в пп. 2.3 и 2.4. Обозначим со пересечение этих
окрестностей. Тогда имеем
II h (x)gj (D)'и "о ^ Се | P*ft (х) gj(D) и ||0, и <= С? (со), (2.4)
при / = 1, ..., г.
Пусть теперь й(л;) = 1 в окрестности со' начала координат и
"еС^(со"), где (о"<^со\ так что hu^u. Заметим, что
I [К gj] и h < Св! и к, и е СГ (о/), (2.5)
так как символ оператора |Л, gyj равен нулю в окрестности со'
носителя и.

236 ГЛ Vtl. ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ Ш
Для нас существенна зависимость постоянной Се от е. Пусть 1
diamo) = 8, diamco'^e/2, diam о"^е/4. Заметим, что при пере- 1
ходе к новым координатам у по формулам к = гу (2.5) переходит А
в аналогичное неравенство, но символ оператора [A, gj\ в нем не
зависит от е Поэтому
Возвращаясь к исходным переменным х, видим, что
F [К ft]и fo < Сге-11 и U II5/ [К gj] и ||0 < Ср-* \\ и Ц.
Поэтому из оценок (2.4) вытекает, что „
\gJ(D)ulo^Cn\P*gf(D)uU + CC1i]+^)\uU / = 1. ••> г.
Суммируя чти неравенства по /, получаем
I! и h ^ £ jgj (D) и «о < Се SII Я*г, (D) и «0 + С*-1 II и Ц ^
^ Се S |!яу (D) Я*а ||о + Св || и !|о + Сзе-11 и Ц <
^ С4е || Р *и ||о + С3е | и ||0 + С*-1} и U
Пусть С3е<1/2. Тогда
|| и ||о <= 2С4е || Р*ы Р0 + 2С28-11 и U
Пусть теперь u^Cf (й) и di am © <, бе, где б > 0 — некоторое I
малое число. Тогда I
||w!-i^C56e||«|!o,
где Сь не зависит от б и е. Если б настолько мало, что
4С2С5б<1
(подчеркнем, что б не зависит от е), то получаем, что
[w!!o^C6ei|P*tt|!o, M€=CS°(S).
где Св не зависит от е.
Таким образом, доказательство теоремы 1.4 сводится к дока- I
зательству теоремы 2.1. I
§ 3. Доказательство теоремы 2.1
3.1. Итак, будем предполагать, что оператор Р имеет вид [I
Р (х> D)~ — iDi + q(x, Ь'), где вещественнозначная функция q не \
зависит от 1х и q (л\ /£'■) = tq (x, %') при t ^ 1, J £' | ^ 1. Здесь, л
как обычно, £' = (£*. ..., £„). |
В силу условия (Чг) функция q не меняет знака с «—» на «+» 1
при возрастании х\ если фиксировать значения других аргументов. Ц
JL

§ 3. ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 2.1 ^37
Как уже было указано в пп. 2.4 и 2.5, достаточно доказать
неравенство (2.3) локально, т. е. для функций вида u=h(x)g(D)(py
3.2. Если р°(хо, 1°)ф0, то искомое неравенство получено
в п. 2.3. Пусть (х0у 1°) — характеристическая точка, Ъ°Ф0.
Рассмотрим вначале тот случай, когда в этой точке выполнено
условие (А).
Продолжим функцию а (х, £) до гладкой функции на Г* (со)
так, что а(х, /|) = а(л;, £) при 151^=1, t^A. Заметим, что
I Ри ||2 = I Р*и |2 - Re (Ciu, и) (3.1)
и главный символ оператора Сг равен cj. Пусть Л — оператор
с символом а(х, I) и S =*Сг + ^ (АР + Р*А*) + NA~lP*P, так что
5 —оператор первого порядка и его главный символ
s°(%, £) = *?(*, 6) + Rea(jf, S)/7°(x, £) + Af|p°(*, E)lfI6I"1
неотрицателен в конической окрестности точки (x0, £°). Пусть
Я (х, ^) — вспомогательная функция с носителем в этой
окрестности, неотрицательная, равная 1 в supp h(x)g(Q и такая, что
Н(ху Щ = Н(х, I) при t^ly |g|^l, и пусть Н(х% D) —
псевдодифференциальный оператор с символом Н (х, £).
Поскольку Re (Схи, a) = Re (Sff«, и) + Re (5 (/ - H) и, и) +
+ Re(Pw, A*u) + N (А-1Р*Ри9 и), получаем с помощью
неравенства Гординга Re(Ci«, a)^-r-cilw|5~ylPwlJ. Используя эту
оценку, выводим из (3.1), что
Но Р* — Р = 2Шх + Л о, где Л0 — оператор нулевого порядка.
Поэтому
|01а|о<у|(Р*-/>)а|0 + ^|м|о<|-|/>*и|о+(?.|и|о.
Из этой оценки и неравенства | и|0 ^е | Оги |!0, u^Cf (со),
следует, что при с3е<1/2 справедлива оценка
|иГо^Зв|Я*и|о.
Таким образом, неравенство (2.3) получено.
3.3. Пусть теперь в точке (х0, 5°) выполнено условие (В).
Если Р = — *Di+ </(*, D'), то это условие может быть записано
в виде
2( <7(П<*, &')i8IS'l + l<7m(*. ПНб'^Х/СкК*, £)|. (3.2)
Пусть 8 (*') — такая функция, что 6еС (К'1""1), 9 (х) ^0 всюду:
0(х') = О, когда х? 1^3/4 для какого-нибудь / =2,..., л; е (*')=!,

238 ГЛ. VII. ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
если \xt\<:l/2 для всех / = 2, ..., п. Пусть glf g2> • •• — точки ц
с целочисленными координатами в R"-1 и
4 = 1 /
гак что Ф/еСГ (SR"-1) и S Ф/ (*')=! ■ Отметим, что 5 | ©«фу (а:') | ^ Са
i = i
для всех а, и если ^(х')фО, ^(у')фО, то |х' — у' |sS2l/Vt — 1.
Пусть ty (D') = фУ (D' | D' I-VI). Тогда
\Р*иТ = 2 I% Ф') [И>1 + Q (*. О')] и II2 =
f
= 21 №+Q (*. D')) Ъ (°')«+[%• Q]« Р ^
з* j 2' ['Di+Q (** D')] +'(D'} a l|2 ~ 21 [+>• Qiи ||2- (3-3)
/ - /
Далее, если положить
Pj = Юх + Q (x, g'O + 2 Q(" (*• 6'Л (£>i - ЙО.
/ = 2
где |/; — какая-нибудь точка из supp -фу, то
/
< С! s s 16/; f-11 (ь - siO2 ♦/ «о а (Г) If < c21 и \\
1 1 = 2
гак как IS' — \]\^Co\l'f\1/2, если g'esupp%. Поэтому
2i^*+y(o#)«ii<l2|P^(D')a|,"Cf|a|1' (3-4)
Далее,
! ЯГ % (£>') и Р - SIФ* <*' 1 ^ l1/2) PMv (D'>« I2 ^
- 2 2 IQ(l) (*. 5'015'' l1/2Ф»(1) (*' I У i1/2) % (£>')« P. (3.5)
И вновь, если положить ср* (х' \ У |1/2) % (D') и = иуЛ (я) и
P% = iDx + Q(x\ x'fk, 6'0+2Q(l)<*\ */'ь Е'0(0,-Б7) +
/ — 2
J
/ — 2 •

§ 3. ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 2.1 239
где */* —какая-нибудь точка из supp <рл (*'| £'|1/а), то получим
V | (Р? - Р%) vjk (■ < 2 £ II [Q (*, 6") - Q (х\ х\к% 6") -
- У> Q(i) (x\ x'jk9 %) {х1 - 4)1 */* (*)I2 + 2 21 S [Q(/) (*, 6") -
/«2 fe II/=2
- Q(/) (*\ 4, Щ (Di - &fl */А Г < С31 фуи Р. (3.6)
Оператор Pft — дифференциальный, первого порядка. Пусть
с^ —такое значение переменной х1 из отрезка [—е, 4-е], что
sgnfc1—etyOQC*1, x'jk, i'0^0 Для всех ** из этого отрезка. Если
функция Q(x1, х/й, £'') не меняет знака, то полагаем ajh равным е
или -е. Пусть max\\vJk\2dx' = \\vjk(f>jk> x')\2dx'- Если Py*«zy4f
то, интегрируя по отрезку — е^х1 <:£/*, получаем равенство
Re\P*kVjkVfkdx =
=4 1 l^iW + J IQ <**■ *>*' Z'l) 11 »/* Nx +
+.Q{i)(x\ 4k. l4){xl-xlik)\VjkV,kdx.
Если же $jk>aJk9 то аналогичное равенство получается после
интегрирования по х1 от е до {5/*. Далее, если проинтегрировать
по всей полосе | х11 < е функцию sgn (л:1 — о^) p%VjkVjk* то получим
аналогичное равенство, в котором участвует интеграл от
IQC*1, xJk, |'0|1ч/л|2 по всей полосе.
Таким образом, получим
21 P%vJk || |и/л«^ I max J | и,* |2 Жг' + J | Q (x\ *•*, \'t) | j vJk \*dx-
г=2
+1 Qd) (x\ x'ik, |'0 (*« - 4)cy* |] IЫ Лс. (3.7)
Отметим сразу, что
max J|^ft|a^'^^|o/ft|2.
Нетрудно видеть, что
YiQ(l)(x\ x'ik, g'O (£»< — S0t»/* 11 v^ I dx-c
< 6 J | QC> (x», xfc, Г') I2I £'> I! »/* I2 dx + -J J | 17» f d*,

240 ГЛ VII. ДОСТАТОЧНЫЕ УСЛОВИЯ ЛОКАЛЬНОЙ РАЗРЕШИМОСТИ
где 6>0. В силу (3.2)
2 $IQ(/)(*\ x'fkt l'i)\*\i4\\vJk\*dx^K\\Q{x\ x'ik9 l'i)VvJk\*dx.
f=2
Аналогично,
2 J|Q<I)<*\ X'/k, V^(xl-X)k)\\vJk\*dx^
1 = 2
n
<S^ JlQ(i)(^. */*> £//)l2ir/|-1l^l2dx+-J(^~l)J|c;/ft|2^^
Пусть б таково, что 2/CS = l/4, a 8 настолько мало, что
16е(я — 1)<б Тогда из (3.7) вытекает, что
к 1Ч* i2 +\$ lQ (хК *'*• ^ 11 Чь |2 dx ^ | P%vik | -1 a,, |. (3.8)
Оценим теперь остаточные члены в (3.3) и (3.5) Имеем
2 И*. Q]"P<22 £h)l)(D')Q{l)(x, D')uf + Ct\uf.
i i '=2
Поскольку
2M0<D'>*r<C,2lS'|-*|iv(D')*r. geL,(R-)f
то получаем оценку
S i [%• Ql« P ^2C» 2 2 l £; i"11 <p* <*' I £y l1/2) +/ <D'> Q(« (*• D'>«»2+
+C41| u S2 < 2C5 2 2 I 6> I-11 Q<i) (*\ *?*, £") iv* II2 + Ce I a f.
j. k 1 = 2
Аналогично,
2 2 II Q(/) (x, Б</>) IT >11/2 Ф* (/) U' I E' l1/2) % (£>') a f <
/. fc / — 2
Как и выше, из условия (3.2) выводится, что
2 (IS'I-MQcdC*1. */*> rO^f+irKJQ^^1, */*, Б'О^РХ
1=2
^K$|QU\ xjk7 1'1)\Лч*\%&ь

§ 3 ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 2.1 241
Собирая все выписанные выше неравенства, начиная с (3 3),
получаем, что
[Р*и?2*\%\Р1ъФ')ир-±С%\иГ-
. / г. ь
-12 2! Qil) {х'г>) •?,/|1/2 ф*<*> {х' ■г'|1/2) ^(£),) ы р -
- 1 С*! и f - 2СЪ ^ 2 I *'' I"1 • <?«<> ^' х>*' 6'0 »у* »2 -
-С6!!ир^ ^'2 1 ^>/*l!2-^С9\ир-
/. *
- Iе' 2 J^"4*1' *''*' ^'')ir'l1/2^f-{cjM|,2-
-\С*Ы Г - 2СЬ ^ 2 ' ^l_11 Q«> <**• */*' 6'0 »/* Р - С, | и ||2 >
^ и 21! р^*|2 ~ к (т с'+2Сб) J! Q (Д *'*• г/} 11 у>* I2 ^ - с» I" '*
/. *
(3.9,
Из неравенства (3.8) выводим, что
и потому
^ II vjk f + | J I <? (*\ *fc, I'O 11 o,* |2 dx ^ 641 P>/ft f.
Отсюда и из (3.9) следует, что
если только е настолько мало, что
8^({С7 + 2С6)<4 и 32.64.82-С9<1.
Таким образом, неравенство (2.3) получено и в случае (В).
Как отмечалось выше, этого достаточно для завершения доказа-
тельства теоремы 2.1. □

ГЛАВА VIII
СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
§ 1. Определение и основные свойства
1.1. Определение 1.1. Псевдодифференциальный оператор
Р (ху D) порядка т называется субэллиптическим в области Q,
если для каждого компактного подмножества К из Q существуют
такие вещественные постоянные С, s и 8, что
|| и К С (| Ри Uh* +1| и Ю. «еС (К), • (1.1)
причем 0<; 8< 1.
Если 6 = 0, то оператор Р является эллиптическим и оценка
(1.1) эквивалентна условию р°(х, 1)¥=0 в Г*й\0.
В работе Л. Хёрмандера [6] доказана следующая
Теорема 1.1. Оценка (1.1) с 6=1/2 выполнена в том и
только в том случае, когда
ffl(x, 6) = 0 =*<*(*, Е)>0,
где (х9 9еГО\0 для *(*. g) = 2Im У др°(х\ 1) др°{х> g) .
j~\ dxJ аЕ/
В работе автора [4] была сформулирована
Теорема 1.2. Оценка (1.1) с 6 = &/(&+!) выполнена в том
и только в том случае, когда выполнены приведенные ниже
условия (¥') и (<&). Если pQ(x0i E°) = 0t fa, Б°)еГ*Й\0 ц все
j-кратные скобки Пуассона, составленные из функций р° и /?°,
обращаются в нуль в точке (х0, 1°) при /</, то оценка (1.1) яе
может выполняться при 6</(/+!)~\ л:0 е /С.
Условие (Y) уже приводилось в гл. VI, VII. Если p° = ai + m2,
где а± и а2 — вещественнозначные функции и grada2(x0, £°)=#0,
Р°(*о< S°) = 0, то рассматриваем интегральную кривую x = x(t),
1 = 1 (t) системы уравнений
x(t) = dia2(x(t), 1(f)), l(t) = -dxa2(x(t), l(t))4
проходящую через точку (х0) |°), и функцию h(t) = ai(x(t)tl(t)).
Введем условие:
С¥') если h (t0) < 0, то Л (/) < 0 при t > t0.

$ 1. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА 243
Для формулировки условия (S3) рассмотрим операторы
п
Hi = 2 \dfli (*• £) ^"- dljai (*> Ъ)^~\> i = 1, 2.
Если а=(аь ..., аг), р = (рь ..., рг), то через #?#£ будем
обозначать оператор Ff^H^ ... Н^гН*г. Через &0 (#, I) будем
обозначать наименьшее число 6, для которого #*ai (*, £) =5^= 0, а через
ki (х> I) — наименьшее &, для которого tf?#fai (х, I) Ф О, | а + р | =
= fc. Если ах (%, £) + ia2 (х, I) Ф О, то полагаем kx (*, I) = k0 (x, I) =
= 0. Таким образом, значения функций k0 и k\ отличны от нуля
только в характеристических точках.
Второе условие в теореме 1.2 имеет вид
(^)supM*> D^K (х, £)e=r*(Q), хе=/(, |£|=1.
1.2. Полное доказательство теоремы 1.2 было опубликовано
в работах автора [14], [15] (см. также [18]). Отметим, что ряд
частных случаев был рассмотрен автором ранее— в работе [3],
где изучен случай 6^2/3, в работе [8], посвященной изучению
операторов, символ которых имеет градиент, не
пропорциональный вещественному вектору, в работе [7], где рассмотрены дру
гие специальные классы.
X. Сузуки рассмотрел в работе [1] условия, достаточные для
субэллиптичности дифференциального оператора в случае двух
независимых переменных Его доказательства довольно просты,
но результат не является вполне точным.
Ф. Трев в работе [7] дал полное доказательство теоремы 1.2
для дифференциальных операторов с аналитическими
коэффициентами. Отметим, что для дифференциальных операторов
условие OF') заменяется несколько более простым условием (9s): функ
ция h не меняет знака.
В работе Г. И. Зскина [3] также рассматривались субэллип
тические операторы специального вида, которые получаются, когда
эллиптические операторы равномерно вырождаются на некотором
гладком подмногообразии.
Наконец, субэллиптическим операторам посвящена статья
Л. Хёрмандера [18], в которой излагаются результаты из работ
автора [14], [15] и предлагается некоторое усовершенствование
в доказательстве достаточности условий теоремы 1.2, касающееся
выбора специального разбиения единицы. Это
усовершенствование используется автором при доказательстве теоремы 1.2
1.3. Попутно в этой главе будет доказана следующая
Теорема 1.3. Если выполнены условия теоремы 1.2, то для
всякого вещественного числа s и всякого компактного подмножества
К с: Q существует постоянная С = С (s, К) такая, что
i P*u l^C (| Ри |, +1 и Um-ih и е С? (К).

244
ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Отметим еще, что из теоремы 1.2 и теоремы 4.1 гл. VI
вытекает
Теорема 1.4. Пусть Р — псевдодифференциальный оператор,
удовлетворяющий условию (S3). Для того чтобы оператор Р был
гипоэллиптическим, необходимо и достаточно, чтобы выполнялось
условие OF').
В том важном частном случае, когда оператор Р является
дифференциальным, теорема 1.2 имеет следующий вид.
Теорема 1.5. Для того чтобы дифференциальный оператор Р
был субэллиптическим, необходимо и достаточно, чтобы функция
fei (x, I) принимала в каждой точке четные значения, не
превосходящие некоторого целого числа k. В этом случае 6 = fc/(&+l).
Если функция k\ (x, I) принимает нечетное значение в некоторой
точке (х0, |°), то оценка (1.1) не может выполняться ни в каком
компакте /С, содержащем точку х0, ни при каком 6gR.
Отметим, что для дифференциальных субэллиптических
операторов kQ(x, £) = М*» I).
1.4. Вопрос об условиях, при которых оценка (1.1) выполнена
для матричных операторов Р, является очень трудным и не решен
даже в простейшем случае, когда 6=1/2. Укажем здесь условия,
достаточные для выполнения такой оценки при 0^б<1,
которые могут быть выражены в терминах характеристической формы
оператора. При этом под нормой \\u\\s вектора u = (ui, ..., uN)
понимаем (j ux jj + • • • +1! un !s)1/2.
Теорема 1.6. Оператор Р является субэллиптическим, и
оценка (1.1) имеет место с b = kl(k-\-\), если условия теоремы 1.2
выполнены для скалярного оператора R0(x, D), где R0—-главная
часть оператора R (х, D) = det | Ру (х, D) , i, / = 1, ..., N.
Доказательство. Пусть Qi/(x, £) — алгебраическое
дополнение элемента Р},(х, I) в матрице 1РЦх, %)\. Функция Qu
является положительно однородной по | при |£|^1 степени
m(N — 1). Оператор R имеет порядок mN. Пусть Ри=/, где и =
= (иъ ..., «Л')> / = (/ь • • •, /л). Тогда каждая компонента щ
удовлетворяет скалярному уравнению
N N
R (х, D) щ = 2 Qu (*• °) // + И Ти (*. °) ui W.
i = \ 1=)
где порядок операторов Tjt не превышает mN — 1. По теореме 1.2
I N N у
II и, К СI S I Qu (х, D) ft \\^mIV+6 + 2 I! щ U-! ,
w=l !=1 /
откуда следует, что
l^||,^C(i/|,-m+6 + 4a'U_1). □
1.5. Докажем теперь несколько простых теорем о свойствах
субэллиптических операторов.

§ 1. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА
245
Предложение 1.1. Всякий субэллиптический оператор
является гипоэллиптическим.
Предложение 1.1 вытекает из следующей теоремы о
гладкости.
Предложение 1.2. Пусть Р — субэллиптический оператор
и ki(x> b)<zk для всех (х, I) из T*Q. Пусть со — подобласть в Q.
Если «Gf (Q), Ри <= Hi (со), то и(= #/+ш-б(со), где б = k/(k+ 1).
Доказательство. Не ограничивая общности, можно
считать, что замыкание области со компактно. Тогда существует
такое вещественное число t, что меЯД(о), Пусть \|) = CjJ°(co),
сол — такая функция из СХ°(КЛ), что сол^0, сол (#) = 0 при \x\^h,
[ сол (х) dx = 1 Положим uh (х) = § соЛ (х — у) г|) (у) и (у) df/.
В силу георемы 1.2 гл I, uh^C™(Rn) и
[ал-г|>иЬ-*0 при ft-^0. (1.2)
Пусть t^l-\-m—l. Покажем, что тогда г|)И е#,+1_б(со). Если
tf+1 — 6<Л + т — 1, то, повторяя это же рассуждение, получим,
что и е Ht+2(i-6) (<0, где о/с: со, и т. д. В конце концов
получим, что «еЯ/+т-б((Оо), где со0 — произвольная подобласть в со
Заметим, что
Puh = Р (сол * г|ш) = сол * Ptyu + Тли,
где 7\ — оператор порядка т—1, причем || Thu\\s^C\\u\\s+m-x для
ы е Hs+m-x (со) и постоянная- С не зависит от ft. Подставляя в (1.1)
функцию u = uh и s = /+l— б, /С = (о, получим
I! uh |lm_6 ^ С (| Puh ||,-m+1 + ? ил !!,-б).
В силу вышесказанного отсюда вытекает, что
||uh|,+1_б<С (| фРи||,-от+1 +1|и\t +1| хри\\t) <d (|РиЬ-т+г + \иЪ),
где постоянная Сл не зависит от ft. Таким образом, нормы
|идЬ+1-б равномерно по h ограничены. Отсюда и из (1.2)
вытекает, что i|j«e//w.e((B). □
1.6. Как показывает следующее утверждение, уравнения,
содержащие субэллиптические операторы, разрешимы на
компактном многообразии без границы.
Предложение 1.3. Пусть Q— замкнутое гладкое
многообразие и Р — субэллиптический оператор на Й. Существует
конечный набор функций *фь •••> tyd из C°°(Q) таких, что если /е
е Н* (&), \ hpi dQ = Oy j = 1, ..., d, ma уравнение P*u = f имеет
решение и из класса Hs+m-6(Q)-
Доказательство. Пусть N — ядро оператора Р, т. е.
совокупность функций v из ^ (Q), для которых Pv = 0. В силу
предложения 1.1 эти функции бесконечно дифференцируемы и,
поскольку оператор Р—субэллиптический, из (1.1) вытекает, что

246 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
|| v \\s <; С || v [у-ь уеЛ/. Отсюда следует, что единичный шар
линейного пространства N (] Hs-i (Q) компактен и по теореме
Колмогорова имеет конечную размерность. Пусть ij)b ..., tyd — базис
пространства ЛЛ Покажем, что если $m|)/dQ = 0, /==1, ..., d, ие
e=C°°(Q), то
1и1^С\Ри1-т+6у (1.3)
где постоянная C = C(s) не зависит от и. В самом деле,
предположим, что это неравенство неверно. Тогда найдется
последовательность функций uv из C°°(Q), для которых
jM)ydQ = 0, /=1, ...,d; ЦыД,= 1, ||Pav|^т+Л->-0.
Поскольку последовательность {wv} ограничена в HS(Q), она
слабо компактна в этом пространстве. Пусть uv-+u слабо в HS(Q)
и сильно в #y_i(Q). Из неравенства (1.1) вытекает тогда, что
\uv — u\s->0 при v-*oo. Поэтому и^О и Ри = 0, т. е. u<=lN.
Но из равенств Juv%dQ = 0 вытекает, что §m|)ydQ = 0, т. е.
функция и ортогональна N. Полученное противоречие доказывает
справедливость неравенства (1.3).
Пусть теперь f^Hs(Q)y [Ф0 и $/%dQ = 0 при /=1, . ..,d;
если tteC°°(Q), то u==Ui + u2y где ux^N и $w2ij)/d& = 0 при
/ = 1, ..., d. Имеем
J(/, «OIHCf. tti)KC|/Hii,k.
Но в* силу (КЗ) lu2\\-s^C1\\Pu2\\^m+6^C1\\Pul-s.m+6. Таким
образом, | (/, и) | ^ CCi| Ри I-^m+e для всех функций и из C°°(Q).
Это означает, что (f, и) является линейным непрерывным
функционалом от Ри и по теореме Хана —Банаха этот функционал
может быть продолжен до непрерывного линейного функционала
на #-*_ш+б(&), т- е- существует такая функция v из Hs+m-6(Q),
что |uUi!H><CCi|/|j и (/, и) = (и, Ри) для всех и из C°°(Q).
Последнее равенство означает, что P*v = f. П
1.7. Следующее утверждение позволяет свести доказательство
теоремы 1.2 к одному частному случаю.
Предложение 1.4. Для доказательства теоремы 1.2
достаточно рассмотреть ее частный случай, когда m=l, s=l— б.
Доказательство. Пусть Р (х, D) — оператор порядка т.
Обозначим через Рх оператор с символом р(х, I) (1 +1 £ |2)(1~т)/2
и через А — оператор с символом (1 + |£|а)(1-б-*)/аА(х), где h e
е С£° (/С) и ft (х) = 1 в К' а /С. Предположим, что для оператора Р
выполнена опенка (1.1) при 6^[0, 1). Поскольку А —
эллиптический в К' оператор, то. полагая u — Av, где v^C™ (/С),
получаем
|wili-6^C(|«iU + ||wU).

§ 1. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА 247
Используя оценку (1.1), отсюда имеем
[ v ||^6 ^ С (К) (|| Ри U^ +1| и U +1 v U) < С± (| PAv \\s-m+6 +1 v U) ^
< C2 (i APv ls-m+6 + J v lo) < C8 (i Pxv |o +1 и lo)-
для всех у из CJJ°(/C')-
Обратно, предположим, что для оператора Pi имеет место
оценка
II у Ii-6 < Сг (К) (| Pxv ||о +1 v |о), v<=C™ (/(). (i.4)
Обозначим через В оператор с символом (1 + |£|2)(,у-1+б)/2/г(л:), где
/i —та же функция, что и выше. Поскольку в —эллиптический
в К' оператор, то, полагая v = Bu, получаем для u^C™(Kf)
оценку
luKtCqvl-b + Wul-x).
Используя (1.4), можно написать, что
и \\s ^ ССХ (|| Ptv |о +1 v [о) + С\\и U < С2 (| РгВи ||0 +1 и U+6) <
< Сз (| ВРги [о +1| и U+6) <; С4 (| Ри ||,-т+б +1 и U+6),
откуда сразу следует (1.1). Таким образом, установлена
эквивалентность неравенств (1 1) и (1.4).
Покажем теперь, что условия теоремы также инвариантны
относительно перехода от Р к Pi. Заметим, что Р°(хо, £°) = 0
тогда и только тогда, когда- р? (х0, £°) = I £° l1""1 Р° (*о, £°) = 0, так
что множества характеристических точек операторов Р и Pi
совпадают. Нулевые бихарактеристики функций Im р? определяются
как интегральные кривые системы уравнений
x' = ^lmpl(x, t) = \t\i-m^lmp°(x, I); ,
i/ = -|g|1-w^Imp0(x, £),
вдоль которых Imp0(я, £) = 0. Но, как легко видеть, вектор
правых частей этой системы уравнений пропорционален (с
непрерывным множителем) в каждой точке (ху £) вектору
(grad^ Im р° (х, £), —grad* Im р° (х, £)), т. е. нулевые
бихарактеристики, соответствующие функциям Imp0 и Imp?, совпадают.
С другой стороны, Rep0(л:, |) = 11 \т-г Reр? (х, £), и поэтому
условие (¥") выполнено для оператора Р гогда и только тогда, когда
оно выполнено для оператора Pi.
Для доказательства инвариантности условия {33) проверим,
что kx(x, l) = k[(x, |), где k[ — функция, определенная для Рх по
тому же правилу, что и функция k\ для оператора Р.
Достаточно доказать, что если
/>°(*о, |°) = 0, Нахн1ах{Хо, 1°) = 0 при |а + Р|</,

248 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
ТО
р\ (*о, 1°) = 0, Щн1а[ (хо, g°) = 0 при |а + р |</
и
Н^Н^{х,Л")-\и1-т)^1)Нахн1а1{х^ $«) при |а + р| = /.
Здесь а\ (*, \) = а, (х, I) \ 111-'», а£ (*, \) = а2 (х9 I) \ I l1"™, Н[ и Щ-
операторы дифференцирования вдоль бихарактеристик функций а[
и а'ъ соответственно.
Заметим, что при |о& + Р| = /, где
нрнраКхо, 1«)=н'^н?\..н?гтка\{х<>, t°) =
= (| Б |*-« Я^ (| 611-'" Я2)^ ... (| 1|*-« ЯО*' (I Б \1~т Н%)*г х
Xflgl^M*, g°)).
Это выражение является суммой большого числа слагаемых вида
Ср, 0Я?Я.2 ах (x0i 1°) при |р + <х|</. Однако, если |р + а|</, т. е.
если мы хотя бы один раз продифференцировали множитель
|Б|1-«, то эти слагаемые, по условию, равны нулю. Поэтому при
|а + Р| = /
Точно так же доказывается
Предложение 1.5. Для доказательства теоремы 1.3
достаточно рассмотреть случай m=l, s = 0.
Следующее утверждение является почти очевидным.
Предложение 1.6. При доказательстве теорем 1.1 — 1.5
можно считать, что р(х, %) = р°(ху I) при |£|Ssl/2.
Доказательство. Пусть Р° — оператор с гладким
символом, равным Р°(х, I) при |£|S5l/2. Тогда Р — Р° — оператор
порядка т—\ и \\\Ри\\s-m+6 — 1 Р°и\\s-m+6 \<:С\и 1^-1+а- Поскольку для
каждого е>0 найдется постоянная Се> для которой
II и |U-i < в | и |, + С81 и 1-й и^СТ (К)
предложение доказано. □
1.8. Отметим еще, что субэллиптический оператор является
оператором главного типа, как видно из следующих утверждений.
Предложение 1.7. Если Р — субэллиптический оператор,
то вектор grad*.%р°(х, £) не обращается в нуль при |Б|^1/2.
Доказательство. В соответствии с предложениями 1.4 и
1.6 будем считать, что т=1 и Р = Р°. Из неравенства (1.1) при
0<;6<1 вытекает по лемме 2.3 из гл. VI, что
Ч-Ь6"1 2 1у*0«Щ (1.5)

§ 2. ЛОКАЛИЗАЦИЯ ОЦЕНОК 249
для всех г|) из С™(Rn) я X^l. Здесь, как обычно, |-(0 —норма
в ЫКл) Если вектор grades/?°(*о, £°) = 0 и |£°|5И/2, то и
п
р°(хо, 1°) = 2 2/^.р° (Хо, £°) = 0 и неравенство (1.5) имеет вид
где С —постоянная. Так как б<1, то ясно, что это неравенство
не может выполняться при всех/Х>1. П
Предложение 1.8. Если оператор Р удовлетворяет
условию (<03), то вектор grad* £/?°(*<ь £°) не коллинеарен вектору
{1\ 0) при |Е|^1/2.
Доказательство. Допустим, что grad|/?0(*o, ^°) = 0 и
grad*/?°(*o, £°) = х|° при |£о 1^1/2. Тогда р°(х«ь 1°) =
»SEfV°(*6. |0) и
/■=1
#р0=23 (djp° (*. 6е) ^ - ай/> (хв, 6е) dj) = х i] Евд.
Поэтому, если функция г(х, I) однородна при |g|5*l/2
степени т, то
Нрог(х0, 1°) = xmr (х0, £°), H~or(x0t l°) = %mr(x0, £°).
Ясно, что число &i (x0, £°) можно определить как минимальное
значение k, для которого
ffyH$jfi(xo, £0)^0 при |а+Р| = *.
Но если Ci(Xo. g°) = 0t то и #роС/(*о, |°) = 0, Нр0С}(х0, |°) = 0,
так что &х (хо, 5°) = оо. П
§ 2. Локализация оценок
2.1. При доказательстве теорем 1.2, 1.3 удобно пользоваться
локальными оценками, аналогичными оценкам (1.5).
Теорема 2.1. Если оператор Р первого порядка является
субэллиптическим и 0 < 6 < 1, то для всякого целого & > 0 и
каждого компактного множества К cz Q найдется такая
постоянная С = С(К), что для всех xg/(, I e[Rn (\l\= 1), X^l и
всех г|) из С™ (Rn) выполнено неравенство
| ф (у) || < С {%* | 7f *V0 (х + fA6"1. Б + ^~6) гр (У)!, +
+ ьм*+и (i-б) 2 !f/p£aH wai^-26>\, (2.1)

250 гл. vm. субэллиптические операторы
где использовано обозначение
П*• Ч (У, Л) - 2 W& № (*. I) (У ~ х? (Л - 1)<\
a ${(*. D~(iD$*(iDx)*f(x% I) для /esC^r'G).
Теорема 2.2. £слг/ для всякого компактного множества
KczQ существуют такие постоянные С = С(/С), N = N(K) и е0,
что для всех jcg/(, | £ | ^ 1/2, h^ 1 и все* г|? (у) е С^° (Rn) -сл/wz-
ведливо неравенство
" +l^DaP^|!0 + ||yPDaP^|!0), (2.2)
где /\(у, D)i|) = ^nx'V(^+^-1, Е + ОХ-*)ф а /?°(х, Ц) =
= tp°(x, I) при /^1, |E|S*l/2f p°eC°°(r*Q), то для
оператора P с главным символом р° выполнена оценка
II Р*и к +1 и b/ok+i) < Ск (| Рм Но +1| и У, «gC? (/С). (2.3)
2.2. Доказательство теоремы 2.1. В силу леммы 2.3
из гл. VI из (1.1) вытекает оценка
Ж»)1а<с/х*Ы Tf V(* + <A~1/2> t + D№)y(y)\ +
+ X<MW)/t 2 ||f/pD^ ||Д г|) <= С (R*).
Легко видеть, что после замены y = zX6-1/2 из этой оценки
вытекает (2.1). D
2.3. Доказательство теоремы 2.2. Пусть и^С^(К).
Не ограничивая общности, можем считать, что, /?(*, £) = 0 при
д:еКл\/С', где /С' — некоторый компакт, содержащий /С.
Пусть 9 s СТ (Кя), причем 8 (*) = 1 при | х | < 1 и 8 (х) = 0
при |х|^2. Пусть go, gi, ... — точки в R" с целочисленными
координатами, так что g0 = 0 и % (х) = 8 (л: — gt) [Е 8 (л: — gy)2]~1/2.
Тогда ф^еСГб?1) и £фН*)=1- Положим
гр, (Е) = Ф, (eg | ^
где е —некоторое малое положительное число, которое мы
выберем ниже. Имеем || Ри ||2 = ЕII Фу (D) ?и II2- Заметим, что 2 IФ/ (?) —
— % (Л) I2 ^ Се211 - л I211 \-2k/{k+1) + 1611 - т) |2111-2. Первое
слагаемое в правой части получается при оценке левой части в
области, где 2 \1 — )] | < 111, второе — при оценке в дополнении
к этой области. Пусть [vj\~- произвольная последовательность

$ 2. ЛОКАЛИЗАЦИЯ ОЦЕНОК 25!
функций из С(Г(К"), для которой сходится ряд £\Vjf. Имеем
У] j J [4j (D) Pu -PVj(D) u]Vj(y)dy\-
/
X | Й (6) | (Ce* + 16 11 |-V(»+i))Vi | g - л | j/2]|S,(-ri)l2« d4 -
где / Зг 0 — произвольное целое число. Отсюда при / = п + 2
следует, что
2|$№y(D)/>a-PYy<D)^
где |у|!о = ]/ 2]1Ч/В• Поэтому
£ | \fy (D) Ри - Р% (D) и р ^ 2С0 [е» | ы «f/(ft + „ +1 и Д.
Имеем
Р° (х, D) ¥y (D) и = (2я)-« J /><> (д, |) ф, (Б) й (g) ё* &\.
Разложим функцию р° (х, I) в ряд Тейлора по переменной £,
фиксируя произвольную точку У из supp г|?у:
ict|<*
Поскольку |g — 6^ | < Cie-11S |*^*+1) при /^/о для ge supp if у,
видим, что |ry(xf S)|^C2, где С2 не зависит от g и у, но зависит
от е. Повторяя приведенное выше рассуждение с vj, получаем, что
2k/(*. D)¥y(D)a|2<C3if/f.
Таким образом,
i II 1<*К* 0 |
«sCeMBR/tt+D + Cjap,
где постоянная С не зависит от е. Рассмотрим выражение
'•/lha|<A
- (D -1^)« Ф< (е* | У |V(»+D)j у, (D) и Г.

252 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Легко проверить, что оно не превышает
С5^2 S | g/ |20-l«l) в2 IVI | gy |2lv l/<fc + 0 | (/J _ ^«-YTy (D) £/ i» ^
i a ! = 1 Y<r*
4C(SH S \lJ\{ k+1 fe + ^||¥;(D)M|l2e^v,-2l«1^
<Cee2|U|f/(ft+1) + CeIUp
и поэтому
I •Pu |2 - III 2 ap0 (a) (*>|;) (D -|y)a ф<(e*' ^|1/U+I)) *'(D) "II2 H
Пусть zv(*) = e- '<*• *%t (ex| # |V(*«) ^ (D) и (х). Разложим
p°(a) (л;, %f) в ряд Тейлора по переменной х в какой-либо точке
ИЗ SUpp Zif.
Легко видеть, что при /^/о
.l — loti
fc + 1-lai
:С9г-^^\\иЦ
\Гаи(х)\^С8\У\ fe + 1 e|a|_ft_le
Поэтому
2 21 2 чм-йг^'Н
и, следовательно,
i pu i: - 21 2 ^(>a> (*"•ё/) w(x ~x>'^ D*Zi>ix) I
!. /I I a + В I ^ * ||0
<C782i|a|f/(fe + n + C;i«|g. (2.4)
Аналогичную оценку можно, разумеется, написать и для
|P*a|J, если заменить р^}а) (л:, I) на рЭД{*> (л:, £). С другой стороны,
2 hiM БIV \^М) = 21V 12/(*+1) I¥' (°)м В 3* -g-MI/ok +1) - CiolaB.
Используя оценку (2.2) с Х = |1Л1/(*+1). |/ = (x-Jt//)|£'|1/(*+1).
1 = 1'//|Е-/1. получаем таким образом, что
11«|!/(*+„ + !/>•« В <
< С {|| Ры С + СХ1е21 и lf/(fe +1, + С, | и В + "
+ y\llJ\~e'M+i У, ||У |t2-2 la I (*-!)]/(*+ 1)Х
х"[| *№„ в+1 tf&Ptfi) В+1 ^^Рлу В]}-

§ 3 НЕОБХОДИМЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 253
Нетрудно видеть, что
^C12 Z Z> \VC^\\D«[e-l(x-ii)x¥,(D)u(x)]Ux =
-cB I] 2] l6^~r^iiSlC-g^|ell%(£)fi(C)l,««e!
<C18 2 JlCP/(*+1)|%(aa(DNS<C14!«|W+1).
Наконец,
Аналогично проверяется, что
Ц Ц 16' I ^ " (I УН)ар^и lo + S «WW Б) <
/. / ,а+Э1 ^*-И
^ Cle (I Pu ||5 +1! P*u U + 2C7e21| u ||f/(, + ,) + 2C; | и |J),
где последнее неравенство вытекает из (2.4). Окончательно
получаем, что если 11' | ^ 'ко при / ^ /0, то
i | и \\/ik + х) + 1Р*и \\1 ^ С [| Рм R + С7в21| ц |i/(fc + „ +
+ С8\\иИ + Хг2* (См|и\\!/{k + о + С161a||g +
+ С16 (|| Р« |jj + \Р*и ||02 + 2С7г21 и \\пк +Х) + 2С; | и В))].
Если е и К таковы, что
СС<^ + Аг-**Сц + 2А,->е°С7С1бе> < 1/4, Си*-2* < 1/2,
то отсюда вытекает неравенство
i|«|f/(, + 1)+{||P^||^|C||PulJ + C17||u|,
эквивалентное оценке (2.3). D
§ 3. Необходимые условия субэллиптичности
3.1. Теорема 3.1. Пусть для оператора Р первого порядка
выполнено условие
l^kx(Xo, £°)<:Оо
и ^<оо. Тогда оценка
|| и h-б ^ С (| Ри |в +1 и ||о), ие=С?(К) (3.1)

254 ГЛ VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
не может выполняться при 8<//(/ + 1)» если компакт К
содержит точку х°.
Доказательство. Предположим, что оценка (3.1)
справедлива. Заметим, что утверждение леммы тривиально при / = 0.
Поэтому мы можем считать, что /^1.
В силу предложения 1.8 вектор grad^ip0^, 1°) ненулевой
и не пропорционален вектору (£°, 0). По теореме 2.1 гл. VI, если
М*ъ ^)>0 и р° (хь Ех) = 0, то оценка (3.1) не может
выполняться ни при каком fi e R ни в какой окрестности точки хг.
Поэтому c-i(xu Ъг)^0 и Ci(x, l)<:0 во всех характеристических
точках из некоторой окрестности точки (*о» £0)-
По теореме 2.1 из оценки (3.1) вытекает неравенство
| ф (о ^ с {tf | Tf^ ? р« (хо + ytf-\ 1° + DI-6) ф (у) Jo +
для всех функций я|> из СГ (Кл) и X 3> 1.
Покажем, что последнее невозможно. Отметим сразу, что
8 — 1(1 — 6) < 0, поскольку б < 1/(1 + 1) Не ограничивая общности,
можем считать, что (/ — 1)//^6. Поскольку оператор Р можно
заменить оператором iP, можно, не ограничивая общности,
считать, что Im grad p° (x0i £0)=^0. По теореме 4.2 из гл. II,
оценка (3.2) инвариантна относительно общих канонических
преобразований. Поэтому мы можем считать, что .1тр°(л;, |) = £i в
некоторой окрестности рассматриваемой точки, так что £i=0.
Если /=1, то б<1/2, и неравенство (3.2) принимает вид
||г|?|о<С/Хб||/(л;о, 6°)4><0)fo+ Ц \\уЮ«ур\0К-^^«-Щ.
I ia + 0|<l i
Но р°(Хо, |°) = 0, а 26 —1<0, и это неравенство не может
выполняться при ^->оо даже для одной фиксированной
функции if) из С0 (Rn), если о|)=^0, diam supp ij)>nC.
Поэтому считаем, что / ^ 2. В соответствии с анализом,
приведенным нами в § 4 гл. VI, будем различать в дальнейшем
изложении два случая.
А. Пусть функция аг(х, £) = Re /?° (х> I) такова, что
d/gradU'.^ta, E°) = 0 при 0</<//2. (3.3)
В этом случае gradai(#0, £°) = xgrad£i. После замены у1^^1,
у'= z'A,1/2~6 неравенство (3.2) перейдет в неравенство
I ф [о < с J! am? (z) + 2 sW* (*0' ^0) гР£)аг|) (г) х
х ^б - б»! — (1 - б) ft, — ! а' + 0' |/2II i ^6-/(1-6) х
X 2j Ji^D0^;^ V2 y [ (3.4)

§ 3. НЕОБХОДИМЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧИОСТИ 255
для всех функций Ф из СГ (Кл). Показатель
б — бсб! - (1 - 6) рх - | ее' + Р' |/2
степени X будет отрицательным в следующих случаях:
1) |а' + Р'|3*2;
2) ах^2;
3) а1 = 1, |а'| + |р|#0;
4) а1 = 0, |а' + р'|=*1, S — 1/2 —(1 — б)рх<:0.
При 2^|а + Р|^/—1 остаются еще наборы fa, Р), для которых
а1==0, |а' + р'| = 1, Pi (1-б)<б-1/2 или а = 0, Р' = 0, рх</
Но (б - 1/2) (1 - б)-1 < (/ - 1)/2, поскольку б < //(/ + 1) и в силу
(3.3) производные а[%) (х0, 1°) равны нулю при ai = 0, | а' + Р' 1= 1 •
Ml-e^e-i/*
С другой стороны, условие kx (*о, |°) ^/ означает, частности,
что Z?{ai (a:0, £°)=0 при /'</. Следовательно, при Л,->оо
неравенство (3.4) переходит в неравенство
IH^Il-i'xHdiH, феСГ(Кя).
Однако это последнее неравенство не может выполняться для
всех г|? из С0 (Кя) с одной и той же постоянной -С. Если, напри
мер, фя(г) = г|)о(г/т); где я|)о=И=0, то
|гЫо^от*/2, I^V^^i^/2-1,
где с0>0 и при т->оо приходим к противоречию.
В. Если условие (3.3) не выполнено, т. е.
при некотором s, 0<;s<;//2t то можно применить каноническое
преобразование и добиться того, чтобы
ai%>(*o, g°) = 0 при a1==0, p1 = s, |a + P|</-lf
за исключением производной д\д%%ах (х0, 1°). Кроме того,
предполагаем, что
d{%ai (xo, £°) = 0 при /<s. (3.5)
В силу леммы 4.2 имеем
afafo/M*,, б0)=#ааЧл(*о, £°) = o
при a + ft(s+l)<//2; / = 3, ..., п\ т=1, ..., я;
d?dSat(jco, i°) = 0 при a + ft(s+l)</. (3.6)
Сделаем замену переменных под знаком интеграла в (3.2)

256 ГЛ. VIII. СУБЗЛЛИПТИЧЁСКИЁ ОПЕРАТОРЫ
где у" = (уъу ..., уп). Неравенство (3.2) перейдет после этого
в неравенство
| ф |'о ^ С И дгхр (z)+ 2 Щ\ а^ (*0' &0) ^^ & Х"а'РI +
+ ^-/(1-6) 2 I zp£>°4 (г) !!о ЬМа> Р\, (3.7)
где
Л^а.р = в —вах —(1—в)?! —«062 + 06^(1—б) —
- р2 (1 - «) (5+ 1) — !сх" + Р7' 1/2,
Ма,р = (а1 + а2)(1--2б) + (а2-р2)5(1-б) + (1^б)|а'' + Р/,|.
Отметим, что показатель степени X в последней сумме в правой
части неравенства (3.7) всегда отрицателен, поскольку
6-/(1-6)<0, 2б>1,
и как мы сейчас покажем (коэффициент при а2)
l-26 + s(l-6)<0.
В самом деле, если / = 2, то s = 0 и это очевидно. Если же/^3,
то (/+1)/(/ + 3)^(/-1)/Л Но 6Э*(/-1)//, так что б^
^С+0/(' + 3). С другой стороны, s^(l — l)/2 из неравенства
1 — 26 + s (1 — б) > 0 вытекает, что 6 < (/ + 1)/(/ + 3). Полученное
противоречие показывает, что при ft,-* со последняя сумма в
правой части неравенства (3.7) стремится к нулю. Покажем сейчас,
что это верно и для остальных слагаемых под знаком нормы
в правой части этого неравенства, за исключением dity(z)
и (&Уд^(г).
Прежде чем перейти к доказательству того, что Л/а>р<0,
отметим, что коэффициент при а2 - в выражении для Na>^ равен
s(1 — 6) — б и эта величина <-* — 6^0, так как s<//2, a
/(1-6)<1.
Нетрудно проверить теперь, что Na,$<.0 в следующих случаях:
1) |а" + Р"|^2;
2)0! 3*1; |о'| + |Р1¥=0;
3) а,-0, |а" + Р"| = 1, о2^1;
4) а, = 0, |а" + Р"|=1, 02 = 0, [Pi + P2(s + 1)1(1 -6)> 6- 1/2;
5) а,=0, а" = 0, Р =0, а2^2;
6) О! = 0, а" = 0, Р" = 0, а2 = 1, р2^1;
7) аг = 0, а" = 0, Р" = 0, а2 = 1, р2 = 0, р2>s;
8) а, = 0, а" = 0, Р" = 0, а3 = 0, Pi + p2 (s+1)>6/(1-6).
При 2 ^ | а + Р I ^' ~ 1 остаются еще наборы (а, Р), для которых
1) а1 = 0, а2 = 0, |а" + Р"! = 1> [Pi + P.(s+l)](l-6)<e-l/2;
2) а1 = 0, а2 = 1, о" = 0, Р' = 0, px<s;
3)о = 0, р" = 0, [Pi + Pt(s+1)](1-6)<в.

§ 4. 6ЦЁНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 267
Однако в/(1-6)</ и (6-1/2)/(1-6)<(/-1)/2, а в силу (3.5),
(3.6) такие производные ац#) (лс0, £°) равны нулю, за исключением
производной ds1dita1(x0f £°), которой соответствует значение #а>р=0.
Таким образом, при Я,->-оо неравенство (3.7) переходит в
неравенство
Жг) |о < С | д& (г) + .4 {г1)' ЗД> (г) |0, (3.8)
где А = idfitflx (#0, &)/s\. Это неравенство должно выполняться
с одной и той же постоянной С для всех функций -ф из С0 (Кя).
Однако это невозможно. В самом деле, пусть г|з0 — произвольная
функция из C™(Rn), не равная нулю тождественно. Пусть
г|)«(2) = г|)о(г1/т, г2/т*+\ г3, .... г").
Очевидно, что
|йф» (г) + А (г1)* <Э2г|>т (г) |0 = т<**>/» I Зф + Л (г1)* д,ф» 1о,
и, подставляя \|) = i|)m, приходим при т->оо к противоречию. □
3.2. Докажем теперь необходимость условия (¥'). Предположим,
что это условие нарушается в некоторой точке (лс0, £°). По
теореме 4.1 из гл. VI существует такое вещественное число р, что для
оператора Px = (l + ip)P числа fci(x0, 1°) и ko(x0f 1°) совпадают.
Если оценка (3.1) выполнена для оцератора Р, то она будет
справедлива и для оператора Pi. С другой стороны, в силу
инвариантности условия (W) относительно умножения на
постоянную, это условие будет нарушено и для оператора Pi в точке
(*о, 1°). Последнее означает, что если р\ (х, I) = ах (х, £) + ш2 (*, £)—
главный символ оператора Рг и grada2(#<h £°)¥=0> то функция ai
меняет знак с минуса на плюс при движении в положительном
направлении вдоль нулевой бихарактеристики Г функции а2»
проходящей через точку (лс0, |°). Легко видеть, что так как
в силу условия (38) число &i(#o, 1°) конечно, оно должно быть
нечетным и Н%аг(х09 £°)>0. По теореме 3.1 из гл. VI в этом
случае неравенство (3.1) не может выполняться ни при каком
вещественном б. G
§ 4. Оценки для дифференциальных операторов
первого порядка
4.1. Докажем теорему, аналогичную теореме 1.2, но в
модельной ситуации, рассматривая вместо псевдодифференциальных
операторов дифференциальные операторы первого порядка с поли*
номиальными коэффициентами. Эти результаты используются
в Дальнейшем при доказательстве достаточности условий теоре
9 Ю. В Егоро»

268 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Теорема 4.1. Оценка вида
l\ulo^C\\u'(t) + №P(t)uh (4.1) 1
оо
для всех А,>0, меС0 (R), где Р (f) — вещественный полином
порядка k с равным 1 старшим коэффициентом, имеет место
тогда и только тогда, когда полином Р не меняет знака с минуса
на плюс при возрастании t.
Теорема 4.2. Если выполнены условия теоремы 4.1, то
справедлива оценка
Я*+*|Р (t) и (о +1 и' (t) Но + X\uh<Cx\и' (0 + №Р (t) иU (4.2)
-ч<»
для всех hS^O, ибС0 (R1).
Теорема 4.3. Пусть Q = {(f, jc)eR2, |*|<lt Н<1}.
Оценка вида
%\и\<>^С\и' {t) + A{t)Dxu + %**B(U x)ufo (4.3)
для всех Х>0, ие Со (Q), где A (t) — вещественный полином
степени l<k/2 со старшим коэффициентом, равным 1, и B(t, *) —
вещественный полином степени k, имеет место тогда и только
тогда, когда:
1) A (t) не меняет знака]
2) функция С (t, х) = В (/, х)/А (t) является гладкой и
sgnA(t)-dtC(t, x)<0;
3) существует такая постоянная с0>0, что
£ \D\\A (ty DfxD<B (*,*)] | > со.
Теорема 4.4. Если выполнены условия теоремы 4.3, то
справедлива оценка
4ulo + lu'(t)U + lA(t)Dxu + X*+1B(tt x)ulo^
< d 1 и' (t) + A (t) Dxu + № В (U x) и [о (4.4)
для всех Я,$г=0, u^C™(Q).
4.2. Доказательство теоремы 4.1.
Необходимость. Пусть Q(t) — такой полином, что Q'(/)=
= — P(t)- После замены и = v exp A,A+1Q (*) неравенство (4.1)
перейдет в неравенство
X\v(t)е**+1<?«> !о<СIи' (0е**+1<?«>||0, УбС?(R).
Если полином Р(0 меняет знак с минуса на плюс при
возрастании / в некоторой точке, которую примем за начало отсчета,
то функция Q(t) имеет в этой точке локальный максимум.
Поэтому найдутся такие т, г^ и е«, что ei>0, е*>0 и
Q(t)^m при — Ki^/^ea,
<2(Q<m при — 2^^*^ — ех и при ^^1^282.

$ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 259
Если функция v (t) такова, что v (0 = 1 при — ei^t^e2
и y(f) = 0 при *< — 2гг и при *^2е2, то
-8,
У (0^*+1° «> fo < Т I • (012 *2^+lQ «> Л + •
-2e,
28,
+ 5 I V9 (t) |2 ^*+1<? «> dt < СХв2^* +1 (Bj + 82).
Поэтому мы приходим к неравенству А.<ССь которое, очевидно,
неверно при больших %.
Достаточность. Условия теоремы 4.1 означают, что
полином P(t) либо не меняет знак вовсе, либо меняет его один раз
с плюса на минус при возрастании /. В последнем случае мы
будем обозначать через а точку, в которой происходит смена
знака.
Пусть вначале P(t)^0 при всех L Заметим, что
i t
Re | [и' + XмР (0 u)adt = -j | и (t) |* + Я** J P (01 и (t) |»dt (4.5)
—oo —oo
и потому
— со
CO
Зз= у max | u (0 |a + Л*« J \P(t)\\u(t) \*dt. (4.6)
— OO
В том случае, когда P(t)^Q всюду, можно так же получить
неравенство (4.6), если интегрировать не от —оо, а от -f oo
t i
Re ^[u' + XwPW^adt^^luiW + XM §\P(t),\u(t)\2dt. (4.7)
+00 «fOO
Наконец, если Р (t) (t — a) < 0, то при / <a, можно воспользоваться
равенством (4.5), а при t>a — равенством (4.7), ненова получим
оценку (4.6).
Покажем теперь, как (4.1) вытекает из (4.6). Пусть |аь ...,
покоряй полинома Р (t) и М — множество точек / на R, для которых
U — MylSsXr1 при всех /. Легко видеть, чго mes (R\A1) <: 2&Х~\
так что
^max|u(0i2^(4/e)'1A f >u(t)fdt.
t R\M
9*

260 ГЛ. VII!. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
С другой стороны, при t&M выполнено неравенство \P(t)\^k"k
и потому
Xk+1\\P(t)\\u{t)\4t^X\\u(t)\*(U.
м
Таким образом, из неравенства (4.6) вытекает, что
00 СО
$ |(н' + Я*+1Р(0ы)й|Л^(8^)-и $ |и(01*Я.
— СО —00
По неравенству Коши,
\\(и' + %k* P Ц)и)й\(и<>
так что окончательно получаем
(16*)-lXj|a(0l,df<4*X-1J|a' + ^+l/5(0"li^
т. е. неравенство (4.1), в котором С = 8&. □
Замечание 4.1. Отметим, что если старший коэффициент
при tk у полинома Р равен b (Ь>0), то оценка (4.1) выполняется
с постоянной
Это сразу вытекает из предыдущего, если заменить X на Mr1.
4.3. Для доказательства теоремы 4.2 докажем вначале несколько
вспомогательных утверждений. Определим функцию
М(*) = max |6yAW</> (f)//! |V(/*i)t
где бу > 0 — достаточно малые постоянные, которые выберем ниже.
Заметим, что М (t) ^ (6k/kl)^k+1) X.
Лемма 4.1. Если 6/ таковы, что
k
2 TfJ^or^^T6^ * —О,- 1 *—1. (4.8)
mo при 11 — fo I ^ М-1 (t0) выполнены неравенства
Л1(*о)/2<Л1(*)<4А*(*о)/3.
Доказательство. Пусть
М (ад = 16Д*+1Р«> (U)/i\ p/d+i)f
где / — некоторое целое число, 0^t*^£. Обозначим М (t0)
через УИ. При \t — t0\^M-1 имеем
|Я1'>(0-Р('>(*о)|<; 21 \P{J)(to)\/(j-i)lMi-J.

§ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 261
Но из определения числа М следует, что
I Р(Л (to) | </! (буА**1)-11W+K
Потому
и в силу (4.8) имеем
к
Следовательно,
м (0/+1 s> бд*+11 />«> (О |/и > |- Af'+s
и поэтому (3/4)1/(М) М (t0) < Л1 (/). С другой стороны, из тех же
оценок видно, что при всех i
так что M(0<max(|)1/(W)M<|-iW. D
Лемма 4.2. Пусть для некоторого s, (Xs<;&,
Af (t0) = 18sXk^P^ (t0)/sl |V(**i>
u
/ = 0
Гогда существует такая постоянная Си зависящая только от kt что
Л1(^0)2бГ2/(8+1)1^Г+Л1(/о)бГ1/(5+1)тах|а(0|2<
< С! | а' (0 + AWo (0 а (*) IIS (4.9)
Зля всех функций и из C^flR).
Доказательство. Заметим, что старший коэффициент
полинома P0(t) равен
В силу замечания 4.1, справедливо неравенство
М (/0)2 6S"2/(S + ° | и Ц < (8*)а | а' (0 + AW, (0 и (О Б.
С другой стороны, из неравенства (4.6) следует, что
00
■g-max|«(Or< J |и' + Х*«*рв(Ои(0||в(»)|Л,

262 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
и поэтому
00 00
тах|ы(0!2<С $ lu' + WPoWul'dt + O* $ |и(/)|»Ж
— ОО — 00
< [С + С-1 (8k)* 6*/(s +1) М «о)"2] || и' + Xм Р0 (t) и [J.
Если положить C = 8fe6]/(S + 1)M (to)-1, то получим неравенство (4.9)
с постоянной Ci = 6462+16&. П
Лемма 4.3. Пусть выполнены условия леммы 4.2 и
k
2 в71<вГ!/(1+1)(2Сх)-1 (4.10)
(при всех 1 = 0, 1, ..., k— 1).
Тогда Kk+1\P(t) - Po(t)\^M(t0)87ms + l) Wi)-1 лра |<-<о!<
^Л!-1 ад-
Доказательств о. Имеем
/г
х*+1|Р(0-р0(0 | = х**
2 Р^>(«|)(<-<оУ//!
/-• + 1
k к
Из (4.10) следует тогда, что
№ | Р (0 - Ро (0 | < ЛГ (*0) S71/(s +!) (2d)-1. П
Лемма 4.4. Пусть (o = jieR, 11 —10|<М-1 (t0)} и пусть
аеа), Р е о. Тогда
^^(^-^(^кгжад^бл
Доказательство Имеем
k k
Xk+1\P W)- P (a)\^№+1 % \Pu)(^)\^-0L\f/H^M(a)X e7l-
По лемме 4.1, M (а) ^ 2Л4 (*0), поэтому
Ь*+11Р (Р) - Р (а) | < 2Л4 (f0) 2 б/1. □
/-1
4.4. Доказательство теоремы 4.2. Совокупность
интервалов (d(t0) = U; \t — U\<-2 M-1^)} покрывает прямую R. Выберем
из этого покрытия такое подпокрытие интервалами соь ...,©/,...,
при котором каждая точка прямой покрывается не более чем
двумя интервалами. Пусть ft e CS° (R), причем h (t) = 1 при | < |^1/2,

I 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 263
h(t) = 0 при |*|^1 и|А'(/)|^3. Положим фу(/)= h((t — tj)Mj) x
X (£h*((t — tr)Mr))-1/%9 где tj — центр интервала ©у и Mj = M(tj).
Тогда (pye=C(R) и £ф/(0 = 1> причем ф/(*) = 0 при |*-f7|>
^УИ"1^/), так что в носителе функции фу выполняются
утверждения лемм 4.1—4.4. Заметим еще, что \q>'j(t)\^4Mj в силу
леммы 4.1. Положим Ну = фу#. Из лемм 4.2, 4.3 вытекает, что
| „' + К*Ри В - SI ФУ (и' + ЬмРи) В >
где последнее неравенство вытекает из лемм 4.2, 4.3 и неравенства
16Ci6j/(e + 1,<l. (4.11)
В самом деле, пусть М (^) = |6Д*+1Р^ (tj)ls\ |V(«-i). Тогда
IttJ + XwPii/B^yNH^^eayB-W^^I^-^tf/B^
^ | Сг2бГ2/(5 + °Af JI и/ В - ~ CT2S72/(S + X* I uj В =
= |cr8672/(s+1)Al?iaylo%
и потому
1- В«; + А,^^^ ||g ^ ^ Cr26f2 (s + ''Л!2; || ^у |g ^ 16Alf || W/ ||g.
Остается выбрать параметры б/ так, чтобы выполнялись
неравенства (4.8), (4.10) и (4.11), которые можно, положив bjl = yj9
записать в виде
Yi/(f+i)>16C1, i = 0, 1 k.
Ясно, что можно положить Yft = (16Ci)*+1+1 и затем
определить последовательно y*-i> •••> Yo-
Поскольку
liiH^vWttB-ltt'B+^^M^WttB-xwJP^OIttWI1*.
неравенство (4.2) вытекает из неравенства
Xм $ Р' (t) | щ (t) |2 dt ^ C2 ] и) + XMP (t) и Ц
если постоянная С2 не зависит от / и X. Ясно, что пересечение
подмножества {/eR, Р'(0>0} с носителем функции щ состоит

2*4 гл. vm. сувэллиптический операторы
не более чем из k интервалов. На каждом из этих интервалов
%!»1 \ Р' (t) | щ (t) p dt < max | и] (t) |2 X**1 [P (P) - P (a)].
a
Из лемм 4.2 и 4.4 следует, что
max | щ (t) |2 № [P (p) - P (a)] <
< 2C?8l/(s + %' | и', + U> (t) щ I? < C3 i и', + ЬР (0 иj B,
где постоянная С3 зависит только от fe. □
4.5. Доказательство теоремы 4.3 разобьем на несколько лемм.
Лемма 4.5. Если выполнена оценка (4.3), то при всех Я>0,
х и % функция \А (t) + h*+1B (/, х) не меняет знака с минуса на
плюс при возрастании t.
Доказательство. Допустим, что оценка (4.3) справедлива
и функция loA (t) + Xkd*{B(t, Хо) меняет знак с минуса на плюс
в точке, которую можно считать точкой / = 0.
1. Рассмотрим вначале случай, когда
а»6вЛ/(0) + *5+1ВНО, *о)>0.
Для сокращения записи будем считать, что х0 = 0.
Пусть w(t9 #) — полином, для которого
iwt + A(t)wx+Xk0 + lB(t, х)«0, (4.12)
w=*xU + ibx* при <=0, (4.13)
где Ь > 0 — достаточно большое число.
Такой полином легко построить в виде 2 w/(t* x)> гДе
/-о
iwot + ^о+ ХВ (t, х) = 0, wo = jfo + ibx* при t — 0 и ^ = i A (t) (wy-i)*,
доу = 0 при / = 0 для /=1, ...,/- Ясно, что степени полиномов ay
по х убывают, так что / равно степени полинома В по
переменной х.
Покажем, что lmw(t> x)^c0(t2+x2) в малой окрестности
начала координат, где с0 = const >0. В самом деле,
£<Р.0)-Ь, £<Р. 0)-0, 5?(0,0)-1в.
g(o, о)-аб, U(o, 0)—2&Л(0)+^+1^(о, о).
Поэтому если В|(0, 0)^(* + 1)<2ab, то форма
положительно определена и
lm w(t, x)Sscfc (**+**)

$ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 265
в достаточно малой окрестности о начала координат. Пусть теперь
Ф е CJ0 ((о) и ф (0, 0) = 1. Положим
Пусть Imw(t, x)^C(t2 + x2) в со. Ясно, что
| и Ц = $ $ | ф (/, X) (•r^(VX.)*4lIm«(/. х) djcd/ ^
^ ИIФ ('• *) I2 *~2 аАо)*+1 С ('* + *2) djc л ^ СД-*-1, Ci > 0.
С другой стороны,
\Ui + A (t) Dxu + W*B(U *)u\l = |(qv +1Л (0Фх)ё<^»>*+1•1<
< c2 И ^* (Х/Л#)*+1 ('* + *2) d* л ^ С A-*-1.
Поэтому из неравенства (4.3) вытекает оценка
которая, очевидно, не может выполняться при больших X.
2. Таким образом, можно считать, что если функция \А (t) +
+ Х*+1В(/, х) меняет знак с минуса на плюс, то ее первая
производная по / обращается в нуль в точках смены знака.
Пусть вновь смена знака происходит при * = 0 для значений
|=£0=£0, 1 = %0, *=0 и функция £оЛ(0 + *5 + ,Д('. 0)=а^[1+ 0(1)]
при /-»-оо. Поскольку а>0 и k — нечетно, то по лемме 3.1 из
гл. VI в этом случае необходимо выполнены условия
v ' • а// ' д*д// (4.14)
при / = 0, 1, ..., (/—1)/2.
Пусть снова w — решение уравнения (4.12), удовлетворяющее
условию (4.13) при 6=1. Покажем, что
\mw(t, x)^c0(x2 + t1+l)t со = const>0 (4.15)
в некоторой окрестности о начала координат. Из (4.12) и (4.13)
следует, что
$(0.0)-0, £(0,0)-6*
5<р.о)-а, £Й(Р. о>-о при />Ц1.
^(0, 0) = 0 при *«£/, 5^(0, 0)-to.
Таким образом, w(t, х)=хЪ<, + Цхг + а1м/(1 + 1)\) (1 +о(1)). Пусть
С —такая постоянная, что Ima>(/, x)^C(x2-\-tl+1) в ©. Пусть

266 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
вновь фб CJS°(со) и ф(0, 0) = 1. Положим
u(U х) = ф(*, x)el^o)k+1 w(t,x)m
Тогда
| и Ц = $ $ | ф (/, х)\2е-2 (vx.)fc+l im ш dx dt ^
^ $ $ | Ф tf, х) I2 e-> <^o>*+1 c (<'+1 + *2> dx dt ^ СгХ*9
где'х —(y + ^Cft+l), С>0.
С другой стороны,
| и, + Л (0 Ди + ^lfi (*, *) и ||S = | [ф, + A (t) Dx<p] ё <^»>'m -1 =
< C* И *"" (V^)&+1 (/+1 + *2) dx d/ < C^-
Поэтому из неравенства (4.3) вытекает оценка
которая неверна, если К достаточно велико. □
Лемма 4.6. Если выполнено неравенство (4.3), то
функция A (t) не меняет знака.
Доказательство. Предположим, что А меняет знак при
t = t0, так что
A(t)=a(t-to)l + 0(\t-t0\M)9 t + U,
где аФ0 и Z — нечетно. Пусть ti<t0<.t2 и A(ti)A(t2)<.0t
!Л(^)| = б, |Л(/,)|=6, 6~const>0. Пусть Xk0 + x\B(t, 0)|<Л1
при U^t^i2. Выберем I так, что £6sgn A (tx) = 2М. Тогда
функция 1А (t)-\-X*+[B(ty 0) принимает при t = tx значение, которое
меньше — УМ, и при t = t2 — значение, которое больше М, т. е.
эта функция меняет знак с минуса на плюс при возрастании t.
В силу леммы 4.5 в этом случае не может выполняться
неравенство (4.3). □
Лемма 4.7. Если выполнено неравенство (4.3), то функция
С (tt х) = В (/, х)/А (/) гладкая и dfi (/, х) • Л (/) < 0.
Доказательство. Пусть, для определенности, Л(£):^0.
Заметим, что тогда знак функции \А (<) + A,J+1B(<, x) совпадает
со знаком функции l + Xk0^lC{t, x), где C(U x) = B(ty x)/A(t).
По лемме 4.5 этот знак не может меняться с минуса на плюс при
возрастании t. Поэтому функция C(ty x) должна быть монотонно
убывающей по t и, в частности, не может обращаться в +°°
или — оо. Отсюда видно, что если Л(£о)^0, то функция B(ty x)
имеет при / = /0 нуль по крайней мере того же порядка при
каждом х. Это означает, что функция C(t, x) будет полиномом
по jc, с коэффициентами, гладко зависящими от <, и dtC(t, л;)^0. D

§ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 267
Лемма 4.8. Если все производные PltA(ty DxDfB(t9 х) при
l-\-j^k—l обращаются в нуль при / = 0, # = 0, то оценка (4.3)
невозможна.
Доказательство. Пусть A (t) = ats[\ +o(l)] при t-+Q.
По лемме 4.6 число s должно быть четным. Заметим, что
возможность замены и на ие*ф{х) с вещественнозначной функцией Ф
позволяет нам считать, что 5(0, #) = 0.
Сделаем замену переменных: t^t'X-1, x = x'X~s-x.
Неравенство (4.3) в новых переменных имеет вид
II и |0 < с! щ. + at'* [1+0 (К-1)] Dx>u + О (Х-1) и ||0,
поскольку производные DJD£D,2J(0, 0) равны нулю при * + /(s+l)<
*^k— 1, в силу условий леммы. Таким образом, из оценки (4.3)
при Я,->-оо следует, что
\\u\\o^Clut + at*Dxu\\o, u<=C?(R2).
Однако эта последняя оценка не может выполняться, например,
для последовательности функций
um = q>(t/mt x/ms+1),
где (peCT(R2), ср^О, поскольку
\um\^cm^sl\ idtUn + at'DxUmWo^&mW, c0>0. □
4.6. Леммы 4.6 — 4.8 показывают необходимость условий
теоремы 4.3. Докажем теперь достаточность этих условий.
Доказательство также опирается на ряд лемм.
Как и выше, определим функцию
М (*, х) = max | буХ**1 (£>,)а(Л (t)Dx? DtB (t x)\w+l\ (4.16)
|а|-*-1
гдеа=фь ..., аг), р«(Рь .... pr), (Lxf (Lt)3 = L^1...L?'!?',
и б/у — некоторые малые положительные числа, которые будут
указаны ниже. Кроме того, мы выделим важнейший коэффи-
циент as полинома А (0=2 в/С"""'**)7» положив
|я,|Л1^у*вптх|а/|Л^ул М=М(*0, *о),
где уу — положительные числа, которые, так же как и б,7, будут
указаны ниже. Разумеется, и s, и a = |a,J зависят от t0.
Отметим, что |а}|<УзураМ'-* при / = 0, 1, ..., [&/21, а M(t% х)^сгХ9
где c1 = const>0 и М (/, л:)^СД(*+Ш2 В зависимости от
величины а в дальнейшем будут рассмотрены два возможных случая.
I. Если a^AfmAr(*+1)/2, положим
где M=M(t0, jco), a = a(/0).

268 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
4.7. Проверим, что величины а и М мало меняются в Q(/0, *o)
и что в рассматриваемом случае
M(U *)= max \Ьц№МВ{и *)|1/('+1\ (4.17)
т. е. для получения М достаточно дифференцировать функцию В
только по t.
Лемма 4.9. Если а^М*+1Яг(й+1)/2, то справедливо
равенство (4.17).
Доказательство. Из анализа, проведенного в § 4 гл. VI,
видно, что для получения М иным путем следует воспользоваться
одночленами т, at% %к+хЫ1х*. Если при этом /5*2, то
| Xk+1ba? | ^ C^+W'^*1^-*-1 < М«+/(*+1)+1
и 4лы приходим к противоречию. Если же / = 1, то, поскольку
B(t, x)=*A(t)C(t, х), для получения М с помощью
дифференцирования по х необходимо использовать коэффициенты,
содержащие о/, минимум дважды. Оценка, проведенная выше, показывает,
что это невозможно. П
Лемма 4.10. Если a*^Ms+1X-W2, то при |*-*0|<2ЛН
выполнено неравенство
| DU (t)1 < С\- (^«/■Af/+1, /-0,1,..., [fc/2],
где постоянная С не зависит от %, а М=М (t09 х0).
Доказательство. По условию
№А(Ь)\<ум*аМ'-*11
Отсюда видно, что при 0</<[£/2], \t — f0|<2Al-1f %^*%о
|DJA(0|
2^D{A(t0)(t^t0)^+O(\t^t0p^i + ^)\
<CAf'+4ir <**>*. П
Лемма 4.11. Если а<М,+1Аг<*+1)/2, то всюду в Q(t0, Хо)
выполнены неравенства
М (to, хо) <у М (t9 х) < ~ М (to, хо).
Доказательство. Из леммы 4.9 и 4.10 следует, что
формула (4.17) справедлива при \t — t0\^2M-1. Достаточно доказать,
что M(t, x)<yM((0, Хо) при \t — f0|^2M(f0, Яо)""1- В самом
деле, тогда точка (t0> x0) попадает в аналогичную окрестность
любой точки (tf x) из Q (t0t Хо) и поэтому М (to Хо) <* 2~ М (t> х)*

$ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 269
Заметим, что М (t, х) = | ЬШЭ\В (tt x) Xм |х/('+1) при некотором J,
O^i^k. Имеем
к
\D\B(U x)-D\P(U. *о)|< 2 \$В«о, х0)\у^(М/2у-' +
k
+ 2 №*B(fe, *b)|^.(A«/2)"X-<«>/* +
/»* + !
/J
[*/2]
поскольку В (t, x) = A (t) С (t, x) и производные D\C ограничены, а
IШ (to) | < W/'aAf-*//! < ЧшУ11М1*Гг <**«/»/!
Если числа б/0, Y/ таковы, что
/-И-. U ' (4.18)
б<о2т.Г1(74^2/-'<-1-; С8,0 <-§-*<,
и X^sXo с достаточно большим Хо, то получаем, что \D',B(t, х)|<
^Ж'+ОДА,-*-1 (1+3/8), так что
lAi(/, *) И «■#*<*, х)^Г+1)<^(4)1/('+1)<у^. а
4.8. Пусть теперь Н(t, x)=h((t-t0)M)h((x-x0) №+»'*), ft e
eC(R), ftSsO, ft(s) = 0 при |s|^l, ft(s) = l при s<l/2. Если
L« — щ + A (t) Dxu + Xk+1B (t, x) u,
TO
\[L, H]ulo^Mimuto + CM\H'xuh,
где постоянная С зависит только от величин fj.
Лемма 4.12. Справедливо неравенство
1 LHu 5J ^ СоМ* I Яы В + со | £>!#« В, (4.19)
*де со — положительная постоянная, не зависящая от %, и с0>
>(С + 2)«.
Доказательство. Пусть ft/eCTflR), 2Л/(0 = 1. А/^0,
причем |f—/|<2 для fesuppfty и |D'ft/|<Cj для всех /.

270 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Положим HJ{Dx)=hj(Dxfk~{<k+x)i2'). Заметим, что
к
[Hj(Dx), №B(t, *)]-2 jVk+1H1-l'2)DlxB(t, х)НУфх).
Если (t, х) е й (t0, Хо), то
\%,{M){i-i/*)DiB{t9 x)\^CxM.
В самом деле, при /^2 это очевидно, а при / = 1 это
выражение оценивается через С2А,<*+1)/2| А (/)|, а | A (*)|<С8Ла-<*+1)'2 по
предположению. Поэтому
21[#/(D*), Х^В(tt х)]Н(*, х)иЦ^С4М21НиЦ (4.20)
где постоянная С4 не зависит от X.
Далее, ясно, что если g^esupply, то
21Л (0 (Dx - 60 «у (А*) Н (*. *)«Но ^ С6М21| Як Б, (4.21)
поскольку \A(t)\^CBMX-«+»<\ и \t-%\^2XW\ если |е
е supp Я/.
Рассмотрим теперь оператор Ly, для которого
Lfu = ut + %A(t)u + XMB(t, x)u.
Этот оператор удовлетворяет условиям теоремы 4.1, и
функция М, определяемая для него в п. 4.3, совпадает с функцией,
рассматриваемой нами. Эта функция зависит, конечно, от х, но
в силу леммы 4.11 такая зависимость несущественна. Используя
лемму 4.2 и теорему 4.2, можно утверждать, что
6^2/(*'+ 1>М* I Hj (Д) Ни I? +1 DtHj (Dx) Ни Б < С, | LfHj (Dx) Ни Ц
Из этого неравенства и оценок (4.20), (4.21) следует, что
6^2/(fe+1)M21 Ни Б +! DtHu В < С. | L#u Б ~ С7М21 Ни Б,
и потому справедливо неравенство (4.19), если
б-2/<*+1)>(с+2)2 + С7в п
Рассмотрим теперь вторую возможность.
II. а>Л!**Аг<*+1)'1.
В этом случае задача становится существенно двумерной и не
сводится к теореме 4.1. Положим
Q(<o. *•)«{('. x)esR2, \t-t0\<M-*9 |x-*o|<aM-*-*b
4.9. Как и в первом случае, покажем вначале, что а и М
мало меняются в Q(tp} x0).

ft 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 271
Лемма 4.13. Пусть B(t, *)» 2] ftv (f -/0)' (х — х0)*. Тогда.
№+1 \Ьц\< СсгШ*+* <*+1>+\ (4.22)
где С = в74./л,л
Доказательство. Фиксировав i и /так, что * + /(s+ 1)<
</j—1, (^1 (при i + /(s+l)^^ неравенство (4.22), очевидно,
справедливо), рассмотрим выражение
си^д?{А{Г)дхуд\В(и х) =
-* 2 2 (pJil-i)b><{t-и)р~1 (x-x»)g-;Aw =
... ak.d\$ [(t - U)p -' + *! + - + */] (* - *о)*-/.
В точке (<, #) = (f0, #o) это выражение равно
Cij = J! ^ЗТГ ^/a«a** - • • a**].
*1 + ... + */ + р-/+й
Если t = &, то / = 0 и ck0 = bbQ. Поэтому
\bkobk0Xk+1\infc+1)^M и Л**11 б/л| -^ «5?iAf*^э
так что неравенство (4.22) справедливо.. Допустим теперь, что оно
доказано для коэффициентов bpq при p>i и докажем его для
p = i. Отметим, что при s=*0 доказательство упрощается,
поскольку Cij = i\ jlbyCiJ. Поэтому можно считать, что $>0.
Потребуем, чтобы в сумме, определяющей сцу доминировало
слагаемое, для которого /? = *', &iss...=sftys=s, т. е. (js)\ /I i\ cJb%j.
Имеем по определению функции М
С другой стороны,
ICij-UsV-llilaJbiji^
«2'''/'№)'i^ia'|;...b+2'f^v+,..^-
... Ii Ar*-iM p+/ c^+D+iAf (fti -s) + - +(*/ -s)
Y*>
где 2' означает суммирование по тем ku ..., Ay, для которых
*x + ... + fty«/s, (*i-s)1+... + (*/-*)i^Of а 2"-по тем
Р, *i, ..., fe/, для которых р>и P + ki + ... + k/ — i-\-js. Пусть

272 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ .
Тогда
Неравенство (4.22) сразу получается отсюда, если
или, так как s^2 и, следовательно, Л /! (/$)!^2, если
Г«(^7)1б^/,/^...^<|б^/,/. (4.24)
Итак, если условия (4.23), (4.24) выполнены, то лемма 4.13
доказана. □
4.10. Лемма 4.14. Пусть выполнено условие
£ W/^^o, (4.25)
где Со — малое число. Тогда на каждом отрезке \tu t2] длины Л4-х/4
найдется отрезок длины 2/kM, на котором I A (t) | ^ С\аМ~*, где
c1^2~Jis-2(s+l)-s.
Доказательство. Пусть для определенности A (t) ^ 0,
При |£— t0\^2Af-1 имеем
[Л/2]
2 ву*-4
1Л/2]
< 2 Y^7laM^2A^c0aM-*.
/=s + l | f-s + 1
S —1
Пусть / таково, что l^l<,2(s+l) и полином |г**+ У *№ не
/-о
обращается в нуль при
Нпйп<«<«1+ /+1
8Л1 (s +1) ^" ^ *1Л8ЛГ (s+1) *
Тогда на некотором отрезке длины [8M(s+ 1 J]-1 этот полином при-
нимает значения, абсолютная величина KOTopbix^-s-[16M|(s+l)]-5=s
= a2-4j-1iW-J(s+l)~*. Если Co<fr4*-*(s+ l)-*f то получаем, что
| А (0 | ^ г-^аМ-* (s + 1 )-*
на этом отрезке. □
Покажем теперь, что величина М мало меняется в Q.

§ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 273
Лемма 4.15. Пусть с0 и Сх —достаточно малые числа, кото-
рые будут указаны ниже, и выполнены неравенства
\т\
2 УмУ7х<со9 (4.26)
s+i
2 6*"4- р + и+ я) (s + о. / + я < d$i + / (s +1), /. (4-27)
Р + Я>\
Тогда
2 3
jM(t0, x0)^M(t, x)^jM(t0, дс0),
2 3
если (и)ей(/0, ^) = {(U):|/-M<^-1, | х - ль |< aAf-*-1} •
a,(0=^(0/s!
Доказательство, а. Заметим, что при
0^/^[Л/2]справедливы оценки
!ft/2
I at (t) - a, (to) | <u £ /11 ay 0e) (f - ;0)>-< l/(/ - /)! ^
[ft/21
< " S /! yifilaM^ll{!- 01 <:[ft^l/cbT^aAf'-*.
В частности, при /=s имеем
|a,(f)-a|<cea[*/2]I
5
в. Покажем вначале, что Л1 (/, л:0)^^ Л1(*0, *о) при |f—fo|<
<2ЛН. Из этой оценки при перестановке точек / и <0 вытекает,
«то M(f0f x0)<:jM(U Хо) при ll-Zoi^Af"1.
Пусть при некоторых I и /, i + j^k,
M(t, ^)'+weevX^|a^(0^...d{M(0^°B(lf *)|,
где /0+...+// = 1\ /о^1. Тогда
ft-i-/
+ e<A*" 51 i а'+/1Л Од^М (t) dJt«B (t, х) (t - w\t-t.■
ft-*-/
<Af(f0, *b)'+/*l + 8,y 2 #%U.lM(to, ХоУ+"М(2М-*)*<
k—i-i
-]b7+q,j^ci6ilh и сх достаточно мало.
я=*\

274 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
с. Чтобы показать, что М мало меняется при варьировании
х, выберем точку V из отрезка [U — M-1, to + M-1] в соответствии
с леммой 4.14 так, чтобы A (tf)^caM~s. Заметим, что | Л(Л (/') |<
<:С(у)аМ1~3, где С (у) будем обозначать постоянные, зависящие
от Yo> ..., Y[fe/2] и ky но не зависящие от 6l7 Далее, \д\А {t')-Q\<t
^c(y)crqM£+sgt где под а и s понимаем их значения,
относящиеся к точке (t\ xq).
Пусть л: —какое-либо значение, для которого \х — х0\*^
^Ci(y)aM's-x и
M(t\ xY+f*z.bjW"\FtQ ,,(*', х)|,
где F1q ,.(/, х) = д{М (t)дх...д1М (t)дхд\«В(*,*), /0^ 1, /0 + ...
... + lj = i. Тогда |a?F|e ,.(Г, ^Кб^,,/^-1^^, дг)'+/+^ и
Iа^ ,. (/', х) |< c-vw | л (оа^ ч (t\ х) | =
»С-^М* | F/o |/р 0 (f \ х) К C-4llt+ iff^r^-M*'+'+***.
Аналогично проверяется, что
I «/^ i, <<'. х) | ^ (СаМ-)-Р | A (t)PdpxFlQ ч(/', х) | -
= (СаМ-^|Ло l/i0 0(*\ х)|<
Поэтому
М (<', х)<+>+1 < М (t\ *b)'+/fl +
р»1
1
\M(t\ Xo)i+/+1 + &u 2 ^a-mP^+f+P+^j+paPM-PWcpiy)
las 1
;M(*\ ^o)r'+/+1|
Ja»(*\ х0У+>+\
если постоянная сх з (4.27) достаточно мала. □
Лемма 4.16. Справедливы оценки
I ty I < С (б) o-mm'+^H'+i^-a-i, (4.28)
\C(t9 x)\^C{8)cr1M*+\
где си = 0№хС(и9 x0), C(t, x) = B(t, x)A~1(t), (t9 x)t=Q(t0, x0),
постоянная С (б) зависит от выбора постоянных 6/.
Доказательство. Достаточно проверить эти неравенства
при ( + (/+l)(s+l)<;fe, так как для других i и / они
выполнены автоматически, поскольку М^Х.

$ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 275
Предположим вначале, что Ау0)^с0аМ-*, где cQ = (s+ 1)-*/2
Тогда Со/ = A (t^boj, и потому, в силу леммы 4.13, |Со/|«с
t
^CcH^MV+W**1^-*-1. Используя формулу Ьу^^щСц, легко
проверить с помощью индукции по i% что I С*/1 <; С (6) а-'-1 ><
Если неравенство Л (/0) ^ с0аМ-* не выполнено, то сущест
вует такая точка t\ что А(?) ^с0аМ~* и \t0 — t' l^/W-1. Поэтому
оценки (4.28) верны в точке (*'. #o). Но сдвиг на расстояние М-1
по оси / не меняет оценок, незначительно меняется только
постоянная С (б). □
4.11. Пусть теперь
#(/, Xf Dx) = h1(t)h((x~Xo)a-iM*+i)h(80aM-*-1(Dx-to)),
где ft —функция, определенная в п. 4.8, и 60>0 — малое число,
которое будет выбрано ниже, a /ц е CJJ° (R1) — такая функция
со значениями из [0, 1], что hi(t) = l при |/ — *0|^3/4Л1, fti(/) = 0
при |f —fol^Af"1, и в носителе функции h[(t) выполнено
неравенство A (t) ^ схаМ~~*, Ci = const >0. Последнее возможно в силу
леммы 4.14. Имеем
[#, L]u = MH'tU + a-1Ms*A(t) H'xti +
к
+ №А (0 2 ^f (aM-**Y дрхС (tt х) (dpDxH) и. (4.29)
Покажем, что справедлива
Лемма 4.17.
c0M||//ttSo + Ci|Di#alo<
к
<\ни\ъ + М\ти\> + ЩН'#\ь + М £ \\ФРохЩи\^ (4.30)
где Со и с\ — положительные постоянные, причем
с„=сГ+/+,)>1.
Доказательство. А. Если s=0, то Ca~SzA($)^zC-xa
в Q, так что из равенства
\\ A-1] Lv\*dxdt = \ $ A-1\d#fdxdt +
Н-5 5 Л ! lv\*dxdt -X**1 \ \ (dtC) | v\*dxdt,
где l = Dx — £о + Х.*+1С(<, л:), v = Hu, вытекает, что
la^B+HtoB-sciLoB,
поскольку д(С^0. Ниже (в п. 4.12) мы покажем, что
6Zi/u+i+" i Mo IS ^ Co (! Dfi В+1 Xto В), (4.31)

276 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
где I, / — некоторые целые числа, i + j^k— 1, так что при
s = 0, X^K справедлива оценка
1 Dtv \l +1Alv Ц + 6Г//('+/+Х)М> I v IS < С2 (1 + со) || Lu I?. (4.32)
Из равенства (4.29) и оценок (4.28) вытекает неравенство
(4.30), если
8Г//('+,+ 1)2><*. «оС(6)<1, (4.33)
где сг — постоянная, не зависящая от % и fi,y.
В. Пусть теперь s=^0 (так что s^2). Обозначим Gx
множество тех точек (*, х) из Й(/0, #о), для которых АЦ)^гаМ-*,
где е —некоторое положительное число, которое будет указано
ниже, и Go = Q(*o, x0)\Gi. (Мы считаем для определенности что
А (0^0 в Q(t0, ль).)
Имеем, в силу (4.29),
J J Л-1 (0 | dtv \2dxdt + \\ A (t) | lv \2dxdt +
+ 2 Re ^ dtvlvdxdt^d [$ J Л-1 (*) | HLu \2dxdt +
+ M*\\ Л-1 (01(dtH)и|2dxdt + ar*M*№ \\A{t)\Hxu f dxdt +
Gt Gt
+ £ blPC (6) M*\\A{t)\ (dpDxH) и |2 dx dt], (4.34)
p=l Gt J
где постоянная d зависит только от k.
Заметим, что
2Re\\dtvTvdxdt =
— 2^\\dtvlvdxdt-%k^\\dtC{t, x) \ v |2 dx dt (4.35)
Go
Пусть Ао = аМ-*. Поскольку в d мы имеем ъА0^А(()^СА0,
из (4.34) и (4.35) вытекает, что
i f f (1^12 + 1л/у12)^^<с1|Т §§\HLu\2dxdt +
Gt L Oi
+ 2Re40 §§dtv-ivdxdt+~M2 ^\(dtH)u\*dxdt +
Go Gt
k
+ CM* ^ \H'xti\4xdt + CM*6lC(6) ^ ^\{dbxH)ufdxdt
Gx P-l 6i
(4.36)

§ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 277
поскольку по построению A(t)^c0A0 в носителе функции (д*Н).
Далее, из равенства (4.29) видно, что
■g ^(\dtv\2+\Alv\*)dxdt^Clk\\HLu\2dxdt +
Go lG»
+ г2А1111 lv\2dxdt+ e2M2 \\\H'xu \2dxdt +
Go On
-№2C(8)M*$$ 2 \(dpDxH)u\*dxdt\.
Заметим, что
2 Re A0 \ J dtvlvdxdt =
»2КеЛо^^Ь^^-2КеЛо^Л(0|/г;|2ЛсЛ<
Go Go
<2 Re A> f J LvTvdxdt^j J J | Lu|2dxЛ + eЛ? j J | Л|*ЛсЛ.
Oo Go G*
Нетрудно видеть, что
\\\lv\2dxdt^
Go
< [Сбо2 + С (6)1 ЛГМ 2*$ J | v \2dxdt + A»*M2 \\\Hxu \2 dx dt,
Go Go
\\\Lv\2dxdt<i\\\HLu\2dxdt+Cb2M2\\\H'xu\2dxdt+
Go Go Go
+ ЬфС(8)M*$ $ 2 I<&>XH)ufdxdt.
Таким образом,
2 Re Л f J dtvhdxdt <j fj I HLu ?dxdt +
O, 0.
+ е[Сбоа + С(6)]Л1г^|у|8^Л+еМ8(1 + С8)^|Я;«|аал;Л +
Oo G,
+С (6) 6Je8Ma 5J2I (5 V*)" I*dx *•
Объединяя полученные неравенства, видим, что
£(1йор + М/»|«)<
^C3\YtHLuf + tlC6?+C(6)]M*^\v\*dxdt +
L Ge

278
ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
+ М2 $$ | (dtH) и |2dxdt + (1 +е + е2) М* J J | H'xit |2dxdt +
+б0С(б)(1+8+е2)М?^ 2 |(а£/0"12^].
р-1 J
В силу (4.31) отсюда вытекает искомое неравенство (4.30), если
кроме неравенств (4.33) выполнено еще неравенство
e[C6of + C(8)]<l. - (4.37)
Таким образом, лемма 4.17 доказана. □
4.12. Доказательство неравенства (4.31).
Пусть Li=d,, U^A(t)dx + iXMB(tf x). Обозначим *tL/i> (*, х)
решение задачи Коши:
dxz = Ljzf Zj = v при т = 0.
Ясно, что | exLf 1=1.
Дифференцируя по т функцию гу (т) = | exLw — у f при /=1, 2,
приходим к неравенству r'j(x)^2yrj(x)\Ljv\9 из которого
следует, что ||^xL/u —и|<|т|||1уу|. Пусть максимум в формуле,
определяющей М, достигается, когда мы берем оператор вида
Z>L2I>-^... L[xULhMB (t, x)%
где /о + /i + ... + /р = а, /о ^ 1. Лемма 4.15 показывает, что
всюду в Q(t0, Xo) выполнены неравенства
|М(*0, XoF+^^Cazit, *)<f Af ft, *о)а+р+\
где (%*(*, x) = 6aiXk+1LH2...L\1L2L\°B(ty x).
Формула Кемпбелла — Хаусдорфа позволяет представить
оператор умножения на exp (vft^rXca^6^) в виде произведения
большого числа множителей, каждый из которых равен e±rLf (/= 1, 2)
(см. Л. Хёрмандер [8]). Если положить теперь т = Л1-1(^о, х0) X
X (ябар)1/(а+р+1), то получим, что
С другой стороны, exp (na^lca$8ak) = (П exp (± xLj)) v. Отсюда
следует, что
| е»^а+э+1^6^ - 11В t; В ^ 2] I в^ т/-/и -1; || ^ dx (J Ll£; || +1| L2u J)
и поэтому _
что и требовалось доказать. D

§ 4. ОЦЕНКИ ДЛЯ ОПЕРАТОРОВ ПЕРВОГО ПОРЯДКА 279
4.13. Выбор параметров.
Выпишем все неравенства, которым должны удовлетворять
параметры yJy 6,7, 8, б0, Я0:
2 ^(]4о[2^<^. M»2g<j. Сбт<±Ы (4.18)
УДе-...Jt /i+-l+fe/)l.M<fr, (4.23)
IlR^orvt-% V+'" '<*«** /. (4-24)
2 г^/^СотГ1, (4.25), (4.26)
/as I
2 fii"+P+(/+<7)(s + D, /+<7^^A+/(s + i). /, (4.27)
6_2/(^/+i)^^ боС(б)<1> (433)
е[Сбо2 + С(б)]<1. (4.37)
Выберем вначале у/ так, чтобы выполнялись неравенства (4.23),
(4.25) и (4.26). Для этого положим 7/== Y71 Условия (4.23), (4.25)
и (4.26) имеют вид
Пусть Yo = 1 и 0<yJ^1. Тогда поскольку среди индексов
&ь ..., fy есть хотя бы один, который >s, то эти неравенства
будут выполнены, если ys + i ^CqN-^ для всех s=^ 0, 1,..., [&/2],
где N —максимально возможное число слагаемых в этой сумме.
Можно положить, например, у) = p(ft +1)/-1, где р > 0 — достаточно
малое число, p<.c0/N.
Фиксировав у/, найдем 6;у из неравенств (4.18), (4.27). Для
этого положим б// = бг4./«, /• Неравенства (4.18), (4.27) вытекают
из неравенства
2 в^<$А',, (4.38)
с достаточно малой постоянной Су Чтобы выполнялось (4.38),
достаточно положить б£/ = Ср(ЛЧ"1)*+>""1, где р — достаточно малое
число. Постоянную С выберем настолько большой, чтобы
ej72/('+/+I)>cl

280 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
при всех /, /, *^1, i + /<fe— 1. После этого выберем б0
настолько малым, чтобы выполнялось (4.33). Наконец, выберем в
так, чтобы выполнялось неравенство (4.37). В заключение
фиксируем значение Хо.
4.13. Доказательство теорем 4.3 и 4.4.
Опираясь на полученные выше результаты, докажем теперь
неравенства (4.3), (4.4).
Пусть (t0i х0) — произвольная точка на плоскости. Определим
величину M = M(t0, х0) по формуле (4.16) и величину a{U) как
значение |аЛ*о)1» Для которого
yj\aj\M-J<iys\as\M-5 при /=0, 1 k/2.
Если а<;Аг(*+1)/2Л4*+\ то сопоставляем точке {t0, *о)
окрестность
Q(to, *0) = {(<> ^)eR8; \t-h\<M-\ {x-XoKX-W*}
и функцию
Н (t, x) = h ((t -10) М) h ((х - хо) Х<*+1)/2),
где h s Cf (R1) — функция со значениями из отрезка [0, 1], рав-
ная 1 при |/|*£1 и 0 при \t13*3/2.
Если же a>Ar(*+1)/W+1, то точке (to, х0) сопоставляется
окрестность
Q(*o. Xo) = {(t, *)e=R2; \t-t0\<M-\ \x-XoKaM~*-1}
и функция
H(ty x)=h1(t)h((x~Xo)a-1M'+1),
где fti определена в п. 4.11.
Область Q покрывается окрестностями, которые концентричны
Q(f0, Хо) и имеют вдвое меньшие размеры. Выберем покрытие
области Q такими окрестностями так, чтобы каждая точка
покрывалась не более чем четырьмя окрестностями. Пусть &г,
Q2, ... — области, образующие это покрытие, и #ь Я2, ... —
соответствующие им функции. Тогда 1 <£#/(*, л:) ^4.
Очевидно, что достаточно доказать неравенство
2 (с*Щ I Hju Ц +1 DtHja В) < С £ | H}Lu ||J, (4.39)
/
где постоянные с0 и С не зависят от / и X, причем с0^>С.
Леммы 4.12 и 4.17 показывают, что
CoM)\\Hju\\l + \\DtHfu\l^
< С | HjLu Ц + dM) I (dtHj) и 11 + C.MJ || (д,Я,) и \1 + СщМ] I Hju Ц
если постоянные у/, §ij удовлетворяют указанным выше условиям.
При этом существенно, что co>Ci + C2 + C3+1. Поэтому,
суммируя эти неравенства по /, придем к неравенству (4.39).
Тем самым теоремы 4.3 и 4.4 полностью доказаны. D

§ 8. ДОСТАТОЧНЫЕ УСЛОВИЯ СУВМЛИПТЙЧНОСТИ 281
§ 5. Достаточные условия субэллиптичности
5.1. В этом параграфе мы докажем, что при условии (¥') и
выполнено неравенство (2.2). В силу теоремы 2.2, из этого
неравенства вытекает оценка (2.3), т. е. справедливы теоремы 1.2
и 1.3.
Если точка (дг0, £°) такова, что |£°| = 1, р°(х0у Ъ°)фО, то
существуют такие постоянные Со>0 и с>0, что
Kio+ак*
для всех (я, I) из некоторой окрестности точки (аг0, £°) в /Сх5л-Х.
В этом случае неравенство (2.2) вытекает из неравенства вида
<Ci*,*-*|i|> |d+ *,-*• S li^D^loXHaK»-!) (5.1)
при K|v + 6|<*t X^Xo.
Предложение 5.1. Существует такое число d, что ягра-
венство (5.1) выполняется для всех Х^Хо и всех -феС^°(Кл), если
Доказательство. Заметим, что
где /в*-|т|Л-|в| + |в|(Л-|т|-|в|+вв)(^-|т|-|в|К по-
скольку при |(/|^-ivl—iei>^* —1Л1—iv'+во это неравенство верно
без первого слагаемого в правой части, а в дополнительной
области—без второго. Отсюда следует, что
Аналогично, Xl\l\v^Xk-*» + Xm\Ъ\", где m = — e0-N(k-1),
если N — k>NE0 и поэтому
X/ J Ov-ф |]0 «^ X*—в« Я -Ф Во + х,—во—лг<л—i> 1101^ -ф Во,
откуда следует наше утверждение. □
5.2. Пусть теперь /?0(#<ь |°) = 0. Если показать, что
неравенство (2.2) выполняется в некоторой окрестности со такой ючки
(*о, 1°) в KxSn-ly то, выбирая затем конечное покрытие
компакта KxS"-1 такими окрестностями, получим, что это неравен-
ство справедливо с общей постоянной С всюду в /CxS"-1.
Предложения 1.4, 1.8 и теорема 2.1 из гл. VI позволяют
считать, что т=1 и Im/?° = £i в окрестности точки (#0> 6°)t так

282 ГЛ. VIII. СУВЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ .
что p°=*i£i + q(x9 l). (Мы считаем, что £} = 0.) Неравенство (2.2)
вытекает в таком случае из следующей оценки:
1*|о + 1^|о<вс[|д1ф + Ом|)|о +
+ Аг* 2 *~1а'(fe~ ° (I У*°"Ъ !о +1 J^tf |о)1 (5.2)
где
Отметим, что если |а + Р1^2, ai^l, то
так что слагаемые такого вида, входящие в Q&,, могут быть
отброшены, поскольку они оцениваются через последнее слагаемое
в правой части неравенства (5.2). После этого можно считать, что
где |а + Р|^& и ai = 0. Поделив /\ на 1+Ф и проделав
каноническое преобразование, при котором функция £i + P(l +p2)_1x
xSoapA^Sa переходит в 1ъ получим оператор
где |a + P|^&, ai = 0 и 6ар вещественны, причем оценка (5.2)
эквивалентна такой же оценке для оператора Р'\.
Для удобства записи заменим у на у% и затем заменим число
переменных «на п+1, заменив у1 на t и вектор (у2, ..., */л)
вектором (у1, ..., ул). После этого неравенство (5.2) примет вид
+ 1%р£>а^|1о)], (5.3)
где
a = (ai, ..., ал), Р = (Pi, ..., Рл),
и функция q(tt x% £) вещественнозначна. Неравенство (5.3)
является более сильным, чем (5.2), поскольку в правую часть не
входят произъодные по i ьышъ первого порядка.

$ б. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 283
5.3. Пусть А — функция из CJ°(R), принимающая
неотрицательные значения, равная 1 при \t\^3/4 и 0 при |*|^1.
Покажем, что неравенство (5.3) выполняется одновременно с
аналогичным неравенством для функции Н (t, у)\\>(у), где Н (t, у) =
п
^h(tXl"e°)JJ[h{yiX1-eo) (возможно, с другой постоянной с).
Heir» i
трудно видеть, что нормы в L2(Rn+1) коммутаторов функции Н
с ръ с dt и fcJ--ee-i<*i*+i3i^0a при |а + р|<# оцениваются
через
а норма коммутатора с оператором Я,1—«•-1*1*+»31^Э]Зад/
оценивается через
С другой стороны, неравенство (5.3) всегда выполнено для
функции (1 — //)*ф, поскольку в носителе этой функции |у| + |<|>
^2№гЩ и поэтому
(п
2 0 ^^ Яо ^+11 ^Уа^ Но) + ^ II ^Ф Но + И ^/-Ф l!o) ^ -J(я-»^ И°+Иа^»°)-
/«1
Отсюда следует, что неравенство* (5.3) достаточно проверить для
функции Н\р. Аналогичное рассуждение показывает, что это
неравенство достаточно проверить для функции
ПА(ОД-*-*)Я(*. *Ж'.0-
Таким образом, существенными для нас при доказательстве
неравенства (5.3) будут только те у, где lyl^A,80-1, и только те
точки т] из supp-ф, для которых |т||^^е°+л.
5.4. Суть доказательства, которое приведено ниже, состоит
в использовании достаточно мелкого разбиения единицы в
пространстве переменных (/, у, г\) и частичного замораживания
аргументов (у, D) у оператора /\ (t, y9 D), превращающего его
в оператор первого порядка. Мы определим сейчас функцию
M(U у, т|), для которой справедлива оценка
где L{ttytX\) — указанный оператор первого порядка. Зта функция
определяется через коэффициенты оператора P\(t, у, D).
Пусть /, / — целые неотрицательные числа и i + j^k. Пусть
«1 -т, a2 = Qx(t, уу ц). Положим (adaz) 6 = {ah &}•, где {at9 b} —

284 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
скобка Пуассона функций at и Ь при / = 1, 2. Рассмотрим теперь
функции
Cij{t9 У, л) = max |(ada2)/*(adai)lft...(ada2)/l(ada1)/la2|,
/!+.» + <*"-/
M(t, у, х\) = тах[Ьму9 У> л)]1/('+/+1). (5.4)
где 8ij — положительные постоянные, определенные в п. 4.13. При
t = / = 0 полагаем с00(<, У, Л)=1М'. У» л)1-
Отметим, чго М <; СХЛ+1, где постоянная С зависит только от
m&x\Daq(t9 х> g)| при |a|<£. С другой стороны, в силу
условия (<^g) значения М (/, J/, л) ограничены снизу через с°Я с
постоянной с°>0.
Фиксируем (до конца параграфа!) точку (*0, х, £), в которой
доказывается неравенство (5.3). Для удобства записи будем
считать, что /0 = 0, х = 0, Ъ~0, хотя это и противоречит формально
условию III —1.
Напомним, что Qx (f, у, л) = №T(t *' l)q ('о +19 x+y, 1+л^"1).
5.5. Как и в § 4, будем различать два случая, в зависимости
от величины grad Q*,:
I. I^grad.dto^o, f/o, ^l + lgrad^^Q^^o, f/o, Л°)1<
<Аг(«>/«Л|/*(<ь, f/0, Л°); / = 0, 1, ..., [k/2]; (5.5)
II. 3s, 0<s<[*/2], Jr^lgrad^CM/o, jfe, Л°)1 +
Ч-^асЦЭЙ^Л. f/o, л°)1>^(*+1)/2^+1(^о, {/о, Л0)- (5.6)
Рассмотрим вначале первый случай. Пусть
, _*±1
1л-л°1<бЛ"т"}#
Как и в п. 4.7, докажем ряд лемм о структуре символа
оператора Рх в окрестности Q.
Лемма 5.1. Из условия (5.5) следует, что
М (to, f/o, Л°) -1 М& (*о, Jfe, Л°) 11/(/+1) (5.7)
я/?и некотором /, ()<;/<;£.
Доказательство. Результаты § 4 гл. V показывают, что
иначе Л1 можно получить, только используя одночлены т, о/'ль
JJMAV* (у1)* при s<k/2, или одночлены т, а^тц, Ы1(ухУщ9
№+1cta (у1)^ (у2)1* или еще более длинную цепочку одночленов
такого вида.
Рассмотрим вначале первую возможность, когда Ale+P<#+1)+1ss
= fia+^.pl^^i^+1- Из (5.5) следует, что |a|*sU-<*+1)/2Af*+1 и

§ 5. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 286
потому при Р^2
и мы приходим к противоречию. Если же Р = 1, то в силу (5.5)
| Л | =^ ^-(л+1)/2д^об+1 (ПрИ a^k/2 это неравенство тем более верно,
так как М^сРХ), так что и в этом случае
| Аа | Xм ^ М0*1^1 < 6Д3s, вМ0*^2,
если ба+р^р досгаточно малы.
Аналогично проверяется, что М нельзя получить в
рассматриваемом случае и с помощью более длинной цепочки: всякий
раз в ней участвуют, по крайней мере, двд коэффициента,
удовлетворяющие неравенству (5.5). D
Лемма 5.2. Если выполнено условие (5.5), то существует
татя постоянная С, не зависящая от X, что
X-k-l\gradyditQb(U у, r\)\ + \grad1ldftQx(t, у- п)|<
<СЯ-<*+1>/*М'+Ч'о, Уо, Л°>, /«О, 1, ...-, [А/2], (6.8)
когда (t, у, r])sQ(*<>, Уо, Л0)-
Доказательство. Имеем
(Я-*-1 grad, d{Qb (tt у, т|), grad„ 3& (tt y, л)) = grad^,, n fy (tt yy цХ-*-1)
и
|grad,,„#</(*, y, r\X-*^)\<
[Л/2]-/
< J Igrady^dl+iqito, y0, r,o^-1)|lbj^ +
+0(\t-t0\№-<+*)+0(\y~yo\ + \4-4»\x-*-i)^
< CiX- (W>/»Af'+1 + CtX-^-WW+i + СщХ-.W* +
+ СД- (*+«/» < CX~ <*+1 >/»Af/+l,
если A,^^o и Хо достаточно велико. П
Из леммы 5.1 и 5.2 следует, что формула (5.7) остается в силе
после замены точки (/0, Уо, Л°) на точку (t, у, r\)^Q(t0, y0f r\°).
Покажем теперь, что значения M(t, y> т|) в этой области мало
отличаются от M(t0, уо, г)°).
Лемма 5.3. Если (t, у, т!)бЩ/0, у0, п°)> яю
jAf(/0, Уо, vFXMtf, у, ц)^~М(и, у0, г,0).
Доказательство. Достаточно доказать, что М (t, y% ц)<г
^М при |/-/о1<2А1-\ |{/-{/о|<^(Л+1)/2, 1л-Л°1<Ь(Л+1)/*,
так как второе неравенство получается тогда при перемене
местами точек (t0, Уо, Л°) и ('f У» Л)- Заметим, что неравенства (5.8)
остаются в силе и для таких (t, у, q), если ^достаточно велико

286
Пусть
ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
М{и у, л)Н^Д*+111/('+1),
где I — некоторое целое число, O^i^k, ^==(5^(^ у, rjXr*-1)/;!.
Тогда
Mi+1(t, yt r\) = 6i0\qi(t, у, л)1^А+1<
W»1
<? — i
2 ,т^+'«('о. г/о, гА-*-1н<-д/+
/*о
+ 23а^('в. №. ч") (**-*•)+
/<я»1
+ 23 ^(<о. №, п*^)<Л1-п»^+0(ар*-«)
< Af« (*2 ^обу! /. 0//! + Cx6i0 + CaMol + С^бо1),
\/«o /
поскольку М2*с°Х. Если
ft—i
2 2/6^ обГ^/, о/Л <-у • 6i0 <сьбо,
/-1
и Х^Хоу а Хо достаточно велико, то отсюда следует, что
5.6. Если положить теперь
-Л((*- « А1)П ft ((У'-^(*+1)/2) W/ " Л?)бо^+^/2),
то получим, что коммутатор [Я, Р*,] может быть оценен и
функция Р\Н^ эквивалентна функции
/?
что позволяет нам использовать теоремы 4.1 и 4.2. Подробнее
мы проделаем это позже, а сейчас рассмотрим случай II.
Приведенной части доказательства было бы достаточно, если
бы оценки (5.5) выполнялись во всех точках (/, у, т|). Например,
это имеет место в том случае, когда gracU( t q (t, x, Q = О в
каждой характеристической точке.
5.7. Пусть теперь выполнено условие II и
Igrad,.,^ ft, </о, 4°)|>M^Jr^/*,
(5.9)

§ в. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 287
где б —целое число и 0*s^s<k/2. Можно считать при этом, что
ysM-s\gradytX]dstq(to, y0, т|°)1в
= таху;М-!Igrady^d'tq(t0, y0, n°)|. (5.10)
i
Положим a = gradytX]\dstq(to, f/o, Л0)!-
С помощью простейших канонических преобразований:
поворота и, быть может, преобразования Фурье, можно добиться
того, что
grady^'d'tqito, f/o, Л°)=0.
Определим теперь каноническое преобразование переменных
(у, Л)1-* (*» £)> ПРИ котором
grad,,vdlfiq(f0, 26, С°)=0, / = 0, 1, ..., /0, (5.11)
где /0 = [(&/2 — s)/(s+ 1)]. Для этого перенесем начало координат
в точку (t0y уоу Л°) и затем определим каноническое преобразо-
ние с помощью производящей функции y£ + S(y, £), так что
z = y + St(x, С), Л = £ + ЗД. С).
Условия (5.11) эквивалентны равенству
odiS + % 2 [M#W + ^(y№+<?/SG/, 0]]+ S С|(^У = 0,
где
^«TT^i^Co. f/o, Л0), ftj^-^al^^o, f/o, Л0)»
Ci = jd{dstq(t0, y0, ц%
При этом можно считать, что S = 0 при ^ = 0. Тогда
S (у, 0 - С (f/1) + J] Д, (У1) */' + £# (f/1) t/. (5.12)
/=»2 /=2
где Лу, В>, С—полиномы от у\ причем
/«1 0 /-1/-2

^8Й гл. viii. субэллиптичёсжиё операторы
Величины а//, й{, с* являются значениями производных
функции q порядков <:& и потому равномерно ограничены. Поэтому
при \у1\*^аМ-5-1 справедливы оценки
| Af (у1) \ +1BJ о (у1) | +1 С«> (у1) | ^ Са1-/Л4^+1> («)
при / = 0, 1;
! 4° (у1)! +1BI «> (у1) | +1 С<« (у1) | < Са-г
при /^2. Искомое преобразование имеет вид
*-Л а^ + Я^), Ч/-С/ + Лу(^), /-2, .... /г,
m-b+C'(^) + S W)y<+i] я1'ОЛЬ- (5.13)
/»2 f«2
Поэтому функция q(t, y% т|) переходит в функцию
*(*. г, £) = </(*, *\ г'-В (г1), Ь + 2 ^'ИЫ-
\ /==2
+ ЕЛ/(«1)2| + Св(аА)| Г + ^ИУ
/-2 /
где Со (z1) = С (у1) - £ Л'/ (у1) В* (t/1) и при
/«2
|2Ч<СоЛ!-*-\ |2^<^(*+1)/2, |?y|<^*+2)/2^8
справедливы неравенства
5.8. Докажем сейчас, что
a/V^^lgrad^^a^o^o, 26, W|<*Af'+,<i+l) + * (5.14)
при i + /(s+l)<*/2.
Лемма 5.4. При i + / (s+ 1) <fe справедливы неравенства
15{a^o Со, г» £°) I <бГ^ь /s, /а-'М'+'^+Чг*-1. (5.15)
Доказательство совпадает с доказательством леммы 4.13.
Лемма 5.5. Существует такая постоянная К, не зависящая
от К9 что выполнены неравенства (5.14).
Доказательство. При i + j(s+l)^k/2 эти неравенства
всегда справедливы. Допустим, что нашлись такие t0, /0, что
0<Je+/o(s+l)<A/2 и

* 5 ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 289
где С0 —некоторое число, которое мы укажем ниже. Пусть
Ф(*. а*, Ь. «-*(*•*• 0 при г'=*0, Г = С°".
Тогда
Ф0. г1, Сь W-Q(«. «|) + ^(0(Ь-й) + В(/| а*)(Ь-й) + Я,
где
/«о
— полиномы степени Л, а
!#(*, a*, Ь, Ш<с[\Ь-ЯГ + \Ь-йГ + \*-*\\Ь-а\ +
+ 2 1<-^1Ч^-4К^и+1Ь-а|+|Ь|-С8№
fc+l<H-/<s + l)<*+s + l
По лемме 5.4, получаем, что при | < — fo I < ^"\ | г1 — aj | <
^аМ-*-1 справедливо неравенство
|Q(*, a*)KCiAfX-*^.
Не ограничивая общности, можно считать, что
где 0</<£/2, 0<f+/(s+l)<*/2, b = |6Wo|, 0<*0+/o(s+l)^
*s^&/2, причем
Рассмотрим вспомогательные полиномы
а(0=г1ММ(/о + Ш-1),
&(*, ^)-6^М'-+м*+1>а-/.В(*в + Ш-л, zJ + ^M^-1).
У полинома а коэффициент при ts равен 1, а остальные не
превышают по абсолютной величине С. У полинома b
коэффициенты при ts(xxy равны 0, если s+J(s + l)^k/29 коэффициент
при 11*(хх)1о равен 1, а остальные по абсолютной величине не
больше С. Обозначим Ш совокупность всех пар полиномов anh
степени <^к% удовлетворяющих этим условиям. Используя
компактность множества Ш% легко показать, что величина
*- |nf sup |det("(;> ;s*i))i
о,*еШ1 „|<i. |/'|4l. i*M<ll WW bff, #))\
ValO Ю. В. Егоров ^

290 у ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ "
положительна и зависит только от k, s, i0, /0 и С. Для
полиномов a (t), b (t, х1) найдем такие точки t, Г, x1, что
(a(t) b(t,'xi)
aet\a(t') b(t', ^)J|^Co/A
Пусть для определенности t<.t'. Найдем теперь £i» £2 так, чтобы
A (t0+Ш-1) & - Й) + ВЦЬ + tM-\ 4 + axW-*-1) Д, - 8) =
= —(t + Ci + 2C)MX,-*-i,
Л & + Г М-1) (Ь - О) + S «о + f'Af-\ 4+адгШ-*-1) (Ь - й) =
= (l+Ci + 2C)№Ar»-4
Легко видеть, что
|^-SI<CaHM!'+/»^»+1rH-w,
где С2 — постоянная, не зависящая от К, X и М.
При выбранных значениях переменных г1, £i, £г условие (Ч")
будет нарушаться, если
\R(t, г\ d, 0|<2СШ-«, (5.16)
поскольку тогда при возрастании < от <0 + М-1 до ^о + *'Mr1
значения функции Q меняются от значения <; —Л1Х,-*-1 до значения
^М\-*-1, а значения Q отличны от значений функции q на
О (Я-*-1).
Чтобы проверить неравенство (5.16), заметим, что в силу (5.9)
I b - а I ^ Сгк- (»+«/», | ь - G К c,/c-*mv2x- <*+1>/a.
Поэтому при 11 —101 <= М-1, Iz1 —zJIfSaAl-*-1
|Я«, г1, d, С1)КС(С?Х-»-» + С|/С-*А1Л,-*-1ГЬС^-*-* + СЛ-*4),
откуда следует неравенство (5.16), поскольку М^сок и ^з^Ао,
а Хо достаточно велико. □
5.9, Покажем теперь, что величины а а М мало меняются
в Q(t0, г0, £°), где
Q ('о, г0, С0) -{(<, г, 9; I * - *о К М~\ | z1 - z01< cAf—\
|z'-zi|<X-(ft+1)/2, Ib-GKe^rW*», |£'-£°'|<Vb(ft+1,/ab
Лемма 5.6. £&/ш выполнены условия (4.26), (4.27), то
\M<.M{tt г, »<f M, fa<|a,(*. г, Of<fo,
г* (*, г, DeQ(/„ г0, О, a,(t, г, £) = &#&(*, г, £)/s!, A1-
~M(f„ г0, Ц>), a=\as(to, г0, £°)|.

§ 5. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 291
Доказательство. А. Заметим, что при 0 ^l^[k/2]
справедливы оценки
\as{U *, Q-а,('о, *, С°)|.<
[*/2]-s ' , . . .
< 2 ^VZ+sY^^^M^ + C^-^-^i + X-^^^ + eo1^^^/2).
Поскольку а>ЛР+1Аг<*+1)/2, то
и при h^?A,0 из условия (4.26) следует, что
\a9(U г, £)-а|<а/3. D
В. Проверим, что в силу неравенств (5.14). М может быть
получено только с помощью одночленов т, аЩц и At1 (**)р (быть
может, с несколькими возможными значениями s, а и [$).
Это доказательство аналогично доказательству леммы 5.1. Как
уже видели, если не использовать одночленов вида ах%г при
а> MSJrl%-^M)i\ то М можно получить только как
[(adT)<'^*+1]1/('+1)-
Покажем, что М нельзя получить с помощью цепочек
одночленов вида т, аНи ВР^Б». Ct?(&)x(tf)*bM. В самом деле,
если бы это было возможно, то имели бы
Но из (5.14) следует, что
и если к> 1, то
| £*Cat+Px | Xм < CiMx «*+*)+Р* (*+D -*/»,
и мы приходим к противоречию. Если же и=1, то в силу (5.14)
| С | < /CMa+t <*+1)+vty- <*+»>/»о-\
так что
| ЯСат+Р | %k+1 < /C2MG+(a+1) + (Р+/С) (J+1)+1Аг1,
и мы снова приходим к противоречию.
Аналогично проверяется, что М нельзя получить с помощью
более длинной цепочки одночленов: каждый раз в этой цепочке
будет присутствовать не менее двух одночленов, для
коэффициентов которых выполняются неравенства (5.14).
Vi10*

292 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
C. Покажем теперь, что неравенства (5.14) выполнены всюду
в Q(*o, *o, £°), т. е. что
|grad^c-a$</o(<, *, Ql^KxMWnu+wX-Wfiar' (5.17)
для (*, г, £) е Q. Ясно, что эти неравенства верны при i -f
+ /(s+l)> ft/2. Далее, поскольку |z'-2o|<b~(*+1)/2, |С-£°|<
< So 1Лг(*+1)/|э достаточно проверить, что неравенства (5.17)
сохраняются при варьировании t и г1, т. е. при г'=го\ £ = £°. Имеем
d$grad2'.£'<fo(', г, £) =
2 ТЙПГ ^+та'+'£Гас1*'' *' ft Со, г0, 1°) х
'+/+(/+m)d+1)< */2
^х(*-*о)/(г1-*оГ+
\fc/2+X'+l+(/ + m)(«+l)<*/2+i + l /
Поэтому при |* — <о|<ЛН, Iz1 — гоI•<аА1-*-* имеем
|d$grad^</0(*, ^ Ol^CAI'+^'+^+^X-wai-^Ca-Z+X-4). D
D. Покажем теперь, что
|В(<, г, О-В (/о. *>, £°)|<4|В(/о, г0, Р)|,
где £(*, г, 0=д?д?9о (*> г, Q, а а и р таковы, что
А1«и# (*u)+i в ба+^, , | В | att**\ (5.18)
т. е. М получается с помощью одночленов т, atslu Bf* (x1)^ Л**1.
Ясно, что
в(<, г, О-В (/в, 2о, £°) =
/г
Lfc/2] р г
{=0 U=»2
<„-=*+•
+ U-C°|2 + !<-/o|fc/2+1(K-l0| + |2'-zJ|)).

§ б. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ
293
где sy = i + ai + (J + fi)(s+l). Остаточный член оценивается через
2 (ЛГ§</ + Ь-^бо2) < CiX-^ej1 ^ САг^в,"1В |,
поскольку из (5.18) видно, что |В|^САг*.
Из (5Л5) следует, что
к I
^ aj9,'B(/„ г0, ^^^-^^-г^ <
•</-'
/г
4,-1
Vе1
если выполнено условие (4.27).
Из (5.14) видно, что
ГА/23 п
+dhdltB (/о, *<>, С0) (С/ - С?)] (/ - Uy
^ /Сб^М^^*1^^-*-1 • 2 (я- 1) <СА^'Х11 5|.
Наконец, заметим, что если Р^1, то
Х-*-11 Ci - ПI < бе 'a-W^Ar*-1 < С | Я | V.
Также при Р=0, а^/г/2 имеем
Ь-*-11Ь - й I < б^М'^Аг*1 ^ в?1^^"/1 < C8f V1В |.
Наконец, при Р = 0, a <,k/2 имеем
»/2J
[Л/2]-a
r=0
2 j[fobB(b> го, C°)(Ci-CJ)(<-<o)
2] —a
2 -J- у5утим^*^м^-{+с i в i х-1 <
/[*/2]-a \
bi 2 ^вао-я-тлг^а+а-М.
\ (• о /
So'баО 2 7Г Wf+a < J§ •
Если
[ft/2]-a
(5.19)
; —о
Ю Ю. В. Егоров

294
ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
то получим отсюда, что
\B(t, z9 S)-B(tQ, г0, £0)|<4|В(*о, 26. РН
если Х^Хо и выполнено условие (5Л9).
Из неравенств (5.17) следует, что если бы М получилось в точке
(t9 z, £) e Q не тем же путем, как это делалось в точке (t0, z0, £°),
то результат в силу рассуждений из п. В. был бы таков, что
М (/, z, С) ^ СМАт1/(2*+2). Но из п. D видно, что с помощью тех же
одночленов можно получить для М (t, z, £) значение, мало
отличающееся от М (U, z0, £°). Чтобы завершить доказательство,
достаточно повторить доказательство леммы 4.15.
Таким образом, лемма 5.6 доказана. □
5Л0. Пусть в точке (t0i z0, £°) выполнено неравенство (5.9) и
q(t9 z, С)— функция, в которую перешла функция q(t, х9 I) после
канонических преобразований, описанных в п. 5.7.
Пусть A(t) = dltq(t9z9 t), B(t) = q(ty z9 £) при z = z0> £ = £°.
Лемма 5.7. Функция А не меняет знака при 11 —101 ^ 2-М-1.
Доказательство. Допустим, что функция А меняет знак
при t = f9 так что Л(П = 0, ..., А^и1)(Г)^09 А&(Г) = аф0
и / нечетно. По лемме 5.6 мы имеем | A{s) (t) \^as\/2 при 11 — и\<£М-х
и потому l^s. Сместим начало координат в точку t = t0y так что
A(t)=atl + 0(\t\l+*)y афО, I нечетно и /<s.
k
Пусть В(0=2 W- в СИЛУ (5Л5) имеем 1М<САР+1Х-",
откуда следует, что при | /1 ^^ 2Л1—ж выполнено неравенство
IBWKCiAfAr*-1. Положим | Ci | = 4Cior1p-|Al/+1X-*-1f где
р-настолько малое число, что \A(t)\^a\t\l/2 при | t\^pM~19 а знак
?i выберем так, чтобы функция ^Л (t) меняла знак в точке t = 0
с минуса на плюс, когда t возрастает. При z = z09 £' = £'°, t=± рЛ!-1
и выбранном значении Ci имеем
\q(t9 z, О| = |Л(0Ь + В(0 + О(©|^
^ 2СгЛ1 Jr*-1 - CiM X-^1 - С2Л12 («>&-«*-■.
Заметим, что из (5.9) следует, что ЛР+1=ё^С3^(*+1)/2, так что
М2 см)*,-**-1 < М2 (*+d А,-2*-2 < Я,-*-1 < C4MX-fe-1A,-1.
Поэтому |<7(f, z, £) | > CiA4X-*"V2 при А,^^0- Следовательно, знак
функции q меняется с минуса на плюс при возрастании /, что
противоречит условию (V). □
б. 11. Пусть теперь при z = &9 £' = £0', £? = 0
q(t9 z, £) = fl(f, z1), 3^0, z, £) = Л(*, z1),
так что
qf (Л z, E) = fl(f. 2*) + £H(f, rf) + 0(£f),
и пусть A(t9 Zo)^=0 в соответствии с леммой 5.7.

§ б. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 295
Лемма 5.8. Пусть выполнено условие (5.9). Тогда существуют
такие полиномы Ak(t) степени [k/2] и Ck{t, z1) степени k, что
при 11 — U | < М-\ | z1 — zj | <^ аМ-*~г выполнены следующие
неравенства:
1°. ЛПО^-СааМ-*-1, |Л(/, а*) — Л* (01 < СаЛ!-^-1.
2°. | А НО С, (f, г1) - Б (f, г1) | < С,*,-*-1.
3°. |С*(*. г^^С^о-Ш**1*,-*-1.
4°. В тех точках, где Ак(1)^гаМ-* при е>0, выполнено
неравенство dtCk (/, г1) < С (е) а^М^Х^-1.
Доказательство. Для упрощения записи будем считать
/0 = 0, 2о==0. Положим
Л* (0-2^(0, 0)«///!
Поскольку \г1\^аМ"9тЛ и а^ЛР+1Ят(*+1)/2, то сразу получим,
что
\A(t9 z*)-Ak(t)\^CaM-*-\
и потому справедливы неравенства 1Q.
Заметим, что
s-l U/2]
и при \t\^M~1 имеем
U/2]
2 ajV + 0(\t\t*№)
/ = s + l
U/23
если у/ таковы, что
t*/2]
S У*уТ<Со/2 (5.20)
/—8+1
и Ао достаточно велико. Пусть / — такое целое число, что О^Л^
S — 1
^2(s+l) и полином ats+ ^iajV не обращается в нуль при
/-о
(* ^~ 2(s4-n)^_1 ^ I'' ^ (' "^ 27s+Tr) ^~1" Тогда в некоторой точке
этого отрезка этот полином принимает значения, которые по
абсолютной величине не меньше a[2(s+l)M]~s. Если c0<[2(s+ l)]"s/2f.
то
\Ak(t)\^±[2(s+l)Mlr*
в этих точках. Перенесем начало координат в такую точку. Пусть
В (t9 г1) - 2 &*/ (г1)', СЛ (*, г1) = 2 <*/ (г1)'.
10**

296 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Определим теперь сц так, чтобы разложения по формуле
Тейлора у функций AkCk и В совпадали до порядка k.
Заметим, что Со/ = &о//яо и в силу леммы 5.4 отсюда следует,
что |c0y|^Ca-/-1M^+1)(J+1)X-*~1, где постоянная С зависит только
от 8у. Используя формулу
и неравенства | aj1 ^ СаМ*-*, легко проверить по индукции, что
|с,/1 < Cflr'-W'+<**> (t+i)x-*-i, i+ / (ъ + I) <k - 1. (5.21)
Отсюда вытекают неравенства 2Q и 3е
Докажем теперь неравенство 4°. Заметим, что
q(t, г, Q-A*(0[Ci + C*(f, гЧИ-О^ + Тг*-1).
Пусть Лл(^0)^еаЛ1-* и е>0. Предположим, что dtCk(t0, zj)>
>/<a-1MmAr*-1. Если р> 0 —достаточно малое число, то
Л, (0 ^ | аМ-*9 д<Ск (U 4) > 4 ^lA1 J+l^"1
при \t — /ol^pM-1. При этом р не зависит от Я» Положим
£}=* — Сл(^о, г{). Тогда имеем в силу 3°
q(t, г0, П)-±Л*(Ь)дА(*о, г4)рМ-* +
+ О (a-*Aft<«+«Ari<*+1> + (р2 + Ar1) MX-*-1)
при ^^/o^tpM-1, поскольку I^CAl^Ca^M^3^*1 в силу (5.21>*
Но aS*MJ+1Xr<*+1)'2, и потому
Отсюда видно, что
q (t9 г, С) > ^ РМХ-*-1 - CipAa-*-1 при f -fe + pM~\
q (t9 z, С) < - т ^Ж^л"1 + СгрМЬ-*-1 при * = t0 - pM~\
и если е/С>4Сь то знак </ меняется с минуса на плюо при пере*
ходе от точки / = *0 — pAf-1 к точке fefo + pAl-1. Поскольку это
противоречит условию (*¥'), предложение 4° доказано. □
5.12. Возьмем точку (tQt Уо, Л0)» в которой выполнено
условие (5.9) и которая лежит на поверхности dsfl(ty yt rj) = 0. В силу
условия (5.9) эта поверхность является гладкой в окрестности
рассматриваемой точки.
Проделаем каноническое преобразование, описанное выше,
в п. 5.7. Пусть
Оо(*о, го, £•)-{('. г, QesR**1; \t-t0\<M-\
l^-^KflM^-1, \z'-z'0\<X-W\ It-^K»-'^/1}.

§ 5. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 297
Эта окрестность отличается от окрестности Q, определенной выше,
в п. 5.9, только размерами в направлении оси £г.
Неравенства (5.14) и (5.15) позволяют нам заключить, что
Q(t9 z, Q = №B(t, z*) + A(t, *)<£г-® +
+ 0(№\*-4\* + X-±*\t-1?\* +
+ £ a-tV"\t-Mf\*-zU/ +
+ьм 2 2(1 ddahb (to, г0, с) i | * - z\ |+
/.// — ?
+ |dC|d{3fo,(fo. г0, CD)||Ci-0|)|«-/aN«l-«ll/Ti7r +
+ 2 «r'l'-'oN^-tfl'ICi-ai)-
- A (U г1) (Si - Й) + bMB (t, г1) + О (1 + Af */■ + 6"*),
где М = М (<0, г0, С0)- Заменить A (t, г1) на Л (/) можно было бы
в О(*о. г0, С0), но не в Q0(f0, г0, £°), если *,<**>/■> б-'о-М!**1.
По лемме 5.6 величина М (t, г, £) мало меняется в Q (£0, г0, £°).
В точке (<0, г0, £°)
М^*1-б^^/Л^ 2A)d,...ajM(ff ^)дгд^В(и гх)|,
причем /0^1, /e + /i + -•• + '/ = '• Правая часть этого равенства
не зависит от £i-
Поэтому M(t0t z0, С1» t,0')^M(t0j z0, С0), так как с ростом
J& —G| наряду с указанным появляются другие способы
получения М и при \£>i — %l\>C&Qia-1Ms+1 неравенство становится
строгим, поскольку
M(U г, Р*+1^6,о|<Ш'о, г0, С1, е°')|2*
^ 6sQsl f Сбо 1дг1А1 *+l = 6,0s! у беW'+1 > М*+\
если C6if0s!>2б0, т.е. | Ь - й I >2870ia-1M*+4s\.
В силу леммы 5.6 отсюда видно, что М (t, г, £) ^с0М (/0, г0, £°),
где постоянная с0 не зависит от М и X, a (rf, г, £) <= Q0 (*о, г0, £°).
Отметим еще, что неравенства (5.14) верны всюду в Q0 с А1=
=«M(/o, г0, £°), как видно из доказательства леммы 5.6, п. С.
Поэтому если разбить Q0 на области, аналогичные Q, плоскостями
Ci = const через интервалы длины 6olaAf-*-\ то М будет мало
меняться в таких полосках, хотя М может быть больше М (t0, z0, £°)
При доказательстве леммы 5.6 брались области, имеющие
меньшие размеры в направлениях t и z1.
Рассмотрим теперь покрытие множества точек
© = {(*, {/, т])еК2л+1; \t\ + \y\<K*~l9 |ч| «*,*+*}
окрестностями типа Q0.

298 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Если в точке (*0, f/o, Л°) выполнены неравенства (5.5), то
Qo(to, f/o, Л°) = {('> У, ti)gR«; \t-t0\<M-*9
fe+1 fe+П
\У~Уо\<Х 2 , |л-Л°1<8-^ 2 f.
Пусть теперь в точке (t0i Уо, л°) выполнено неравенство (5.9).
Заметим, что эта точка лежит тогда на 'расстоянии ^8sdXik+1)/2
от поверхности d*q(t, у, т]) = 0. В самом деле, Q\{t, г, £) =
= Xk+lB(t, z^ + Atf, z^fa-iD + OW1?2) при Х^Х0. Поэтому
в точках, находящихся от этой поверхности на расстоянии
>6;Д(А+1)/2, выполнено неравенство
М*+1 ^ б,0 (6;Д(*+1)/2) а « а^**1*/2,
т.е. неравенство (5.5). Так как б<^б^>, то для каждой точки
(*о, Уо, Л0)» в которой выполнено условие (5.9), возьмем в
качестве покрывающей ее области область Q0, соответствующую точке
(t\ y\ л')* лежащей на поверхности dstq(t, у, ц)=0 и ближайшей
к (*о, У<ь Л0)-
Заметим еще, что области, концентрические с Q0 и имеющие
вдвое меньшие размеры, также покрывают множество о. Выберем
из этого покрытия такое, при котором каждая точка покрывается
не более чем N окрестностями, где N зависит только от п, но
не от X.
Занумеруем эти окрестности QJ, Qo» ••• и сопоставим каждой
из них функцию
Hj (*, г, С) = К (t) h ((z1 - z0) a-W"1) h ((Ь - 0) Х-№'*8) х
п I fe-мх / _i±J \
хП'1^-^)^2 ;л\(ь-юх 2 б],
/«=2
где (*о, Уо. л°)~"^ентР окрестности QJ0 и Л1 —значения,
относящиеся к точке (t0, уо, л0)» Л —стандартная функция'из CJTflR1),
0<ft(f)«l. ft(/) = l при |f|<l/2, ft (0 = 0 при |*|3*1.
Функцию hi для окрестности первого рода можно взять в виде 1ц (f)=
= h((t — to) M). Для окрестности второго рода функция hx строится
в соответствии с правилом, указанным в п. 4.11, исходя из
функции A(t)=dlxq(U zo, £°).
5.13. Пусть теперь Gj(tt у, л) = #/(*> z> £)> где переменные
.(*/, г]) и (г, £) связаны каноническими преобразованиями,
определенными в п. 5.7. Выпишем еще раз эти преобразования.
Переход от координат (у, л) и координат (z, £) является
произведением следующих преобразований:
(1) Преобразования (у, r|) i—> (л^-*-1, yXk+1) или, быть может,
аналогичного преобразования по части переменных у.

§ б. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 299
(2) Преобразования поворота
(3) Преобразования вида
Р = г\ t'=z'-B(z% т^Ь + Ь^ЧЛ,'^), z'-5(2*))-
-(B'(s1). С1)-^1^1), т'^С' + ^+Ч^1).
Пусть G(£, у, t|) = 2jG/C» У» Л)- По построению
/
КС(<, у, т|)<С(л).
Ниже, в § 6, мы проверим, что
|D{D?5D5G(<f у, ^^^«.pAfa^HiPi-icxi^e^i. (5.22)
На основании результатов § 7 гл. II отсюда можно заключить,
что
j I ^2G*G/ <<• У» D*) ^ 2C W 7> (5-23>
если б достаточно мало.
5.14. Пусть Р^гр = / Ясно, что в силу 5.23
\ff^cBL\Gf(t9 г/, Dy)f\\
Оператор /\(/, у, Du Dy) = iDt — Q%(t, yy Dy) является
полиномиальным по у и Dy. Поэтому коммутатор [G/, Р%] состоит
всегда из конечного числа слагаемых.
Из оценок (5.22) видно, что слагаемые в этих коммутаторах,
содержащие производные от Qx по у и Dy порядков ^2,
представляют собой ограниченные операторы и могут быть отброшены
Что же касается слагаемых, содержащих первые производные, то
они имеют символом скобку Пуассона {G, Q^\ и могут быть поэтому
вычислены в координатах (z, £).
5.15. Если окрестность й/ с центром в точке (t0, y0y ц°)
принадлежит первому типу, т. е. в suppG/ выполнены неравенства (5.5),
то
I [Qj. Qd + II2 < ЩI (dfi,) ♦ М- Я, (*), (5.24)
где 2\R,ty)\<Ci2MHGrtr, поскольку
Из теорем 4.1 и 4.2 следует, что в этом случае

300 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
где Lj = iDt-\-Qb(t, у0> г)°). Поэтому из (5.24) следует, что
б^2/(а+,)^1С^р + 1а^г|)12^
< С | G, Р& \2+М) [ (dfij) q\2 + Rj (*)). (5.25)
5.16. Пусть теперь Ц —окрестность второго типа, так что
выполнено неравенство (5.6). Функция A (t) определена в
исходных координатах, поскольку переменная t не меняется при
канонических преобразованиях.
Заметим, что [G/, 3/] =— dfij и
[G/, Qd = [Gj> A(t, *i)(Dx-£) + b*+1S('> *)] + /*,'-
^A(t)(D1GJ) + WiB(ti z*)dDfij + Ri
причем £ J Д ,4|> |i < C2 My I Gy\|5 В и £ I Я/i|> Б < C£ M} I G/$ Б- в самом
деле, Л (/, г1) DiGy можно заменить на A (t) Dfij, поскольку
Izi-zJI^aM-*-1, Ib-Gl^e"^^1^ в suppGj. С другой
стороны, оператор (дгВ) б<Д(*+1)/2 (dufij) также ограничен, поскольку
6C(6)a-1AlJ+2^+1>^<6C(6)M и 6С(б)<1.
Итак,
GjPx = LfGf - dfij - Л (0 (DiOy) - М)^ (*t z1) <?DlGy + RJt
где £|#/фБ<С2М}|б/фБ» а оператор Lf эквивалентен оператору
Ll^QtlL/bj-dt + Alfi, ^(Dj-ro + X^Bp, z1).
Таким образом, получаем, что
- Л (0 (Зф) г|) - A^D^ (*, z') (dDtGj) ф Б - С £ Af J | G/ф Б -
=■* 21^/-ФГ («/?/)♦-Л (0ortDiO,)*-
- т^Ф^в (/, г1) (dDtGy) t В - с 21 aim G^ в.
где Уу = O^G/ф.
В том случае, когда o-^Af *+l ^ й(*+1)/*, используем дополни-
тельное разбиение единицы по переменной &1
где каждая из функций g'm является гладкой, принимает
значения из отрезка [0, 1], имеет носитель на отрезке единичной длины,
причем gm=l на отрезке длины 1/2 и \Dag'm\^Ca при всех а.
Положим gm (Di)— gm (боаМ^Фх) и ^ym=gmiy. Пусть
Я(/т) - {(<• I, 0 е G„ Ь €= supp *у.
Для (/, z, £)<=й(/т) имеем
Qx (*, z, С) - Л (/, z*) ft, - СГ) + \™Вт (U г1) + <?т,
где Вт = В+ A(t?-$)%-*-! и 1(?т%т1о^С|г|?ут1о. Далее, по
лемме 5.8, существуют полиномы Ak*=AkJm(t) и Cb=*C*jm(t, г1),

§ 5. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 301
для которых
\[л(t, z1)-лft(0](i>i—sr)^ymНо^Схбо1 в%«jo, ,5 26)
X*+l I [Bm (t, z1) - Ak (t) С (t, z1)] г|>м [о < C% | г|>/т lo.
Заметим, что
m,/ m, /
<C£[i + с (б) 6o? м;тi%mи+cvi*is+с111?,
где
flm (*, z1) = В (f, a*) + (ЙГ - G) Л* (0 A,-*-» = Л» (0 Cftm (<, 21),
L?m = A„ (t) (Dx - СГ) + X**M» (/) C*m (*, г1).
Поэтому
l/B^SlLVt/«.-4*(<)ft»l8-CiVltB-C,2AfJwH»y„B, (5.27)
/.m
где
gM=Ap (t) g„fl>1dfifl - gmG>f (Dtp,) *-X**gmDtCt (t, z1) Ф/ (dDfij) г|>.
Напомним, что Ak(t)^c0aM-s и suppd<G/. Поэтому
2Мг2(5+,)а?^тр<С1г|,р
l.m
И
m, / m, /
5.17. Искомая оценка
М}я6$'{* + * + {)\\ %ж |S +1 dtfy* I? <-
< С (| L?m%m - Ak (t) gJm Ц + a-*Mft +1) \\g/m |i) (5.28)
доказывается, в сущности, так же, как и в лемме 4.16, с той,
однако, разницей, что вместо условий A(t)^0 и d*C(f, г')^0
в этой лемме имеем условия Г и 4° леммы 5.8. Ясно, что из
этой оценки и оценок (5.23) и (5.25) вытекает искомое
неравенство (5.3). При этом вначале суммируем неравенства (5.28) по т
и только после этого, использовав равенство 2<JmGm = /,
суммируем полученные неравенства и неравенства (5.25) по /, что
в силу (5.23) дает искомый результат.
Параметры е, у/> й/, б0 были выбраны выше, в п. 4.13.
Небольшое отличие вносит единственный новый параметр 6. Этот
параметр появился в п 5.12. Окончательное его значение будет
установлено ниже, в п. 5.19.

302 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
5.18. Доказательство оценки (5.28).
A. Рассмотрим вначале тот случай, когда s = 0. Тогда Са^
^Aki^^C^a в Qym, так что из равенства
\\A?\Ljmv\2dzdt = \\A?{t)\dtv\2dzdt +
+ \\Ak\lv\2dzdt + XM\\dtC\v?dzdt,
где / = Di-^ + ^+1Cft(^, г1), ^ = -ф/т, вытекает, что
1 dtv Б +1Л lv I? < С | 1Ути р0 + СМ ?от || о В.
В силу (4.31) отсюда получается оценка (5.28), так как
Ц (II (ftG/) *«Ф II? +1 агШАъ (t) фф) gnu II? +
+ II Ь*+г [Gjgm, Ск] Ak (/) ♦ В < С 2 ^ 1 ♦/« Б-
B. Пусть теперь s=£0 (так что s^2). Пусть Gi — множество
точек (/, г), в которых Л^^ешИ-*, где 8 —некоторое
положительное число, a Go — множество точек, не попавших в Gi и
принадлежащих проекции Qjm на пространство (t, z). Пусть A0 = aM"s>
M = Mjm. В силу (5.27) имеем
\\A~k1(t)\dtv\2(hdt + llAk(t)\lv\2dzdt + 2Re\\dtvrvdzdt^
Gt Gt Gt
<2(\\A^{t)\fjm\2dzdt + \\Ak{t)\gjM\2dzdt\ (5.29)
\Qi Gt I
Где fjm = L)m^jm — Ak{f)gjm, V=^^Jm.
Заметим, что
2Rt\\dtvfvdzdt^
Gi
^—2Kt\\dtvh)dzdi-%k+1 \\ dtC(t, z)\v\2dzdt. (5.30)
Go G0 + Gi
Поскольку в Gi выполнены неравенства гА0^АкЦ)^САо, из
(5.29) и (5.30) следует, с учетом леммы 5.8, что
J_
С
~g7
+ 2ReAo\\dtv-ivdzdt + 2CAll\\g/m\2dzdt +
G0 Gt
+ C(b)Mill\v\2dzdt + C(z)M\\\v\idzdt. (5.31)
Go Gi
Далее, из равенства
ЦтЬт = fjm + Ak (0gjm
^(\dtv\2 + \Aklv\2)dzdt^^^\fJm\2dzdt +

§ 5. ДОСТАТОЧНЫЕ УСЛОВИЯ СУБЭЛЛИПТИЧНОСТИ 303
следует, что
G0
\G0 G0 G0 J
Заметим, что mes{t, Ak(t) ^saM~s} ^с0г2/кМ~1. Поэтому
M2 \\ | v |2 dz dt < CoB^M max \v2 dz < c0e2/* J $ | ф |2 dz dt. (5.32)
Go '
Далее, имеем
2ReA0\\dtvlvdzdt =
Go
= 2ReAo\\Lfmv>tvdzdt-2ReAo\\Ak(t)\tv\2dzdt<:
G Go
^2ReAo\\LjmV'rvdzdt + C2Ale\\\lv\2dzdt^
Go Go
<,j JJ \L/mv\4zdt + (C2+l)eAl С С \lvfdzdt.
Go Go
Нетрудно видеть, что
\\ | Iv |2 dz dt ^ [d6o2 + С (6)1 MM?2 $ $ | у fdz dt +
<?o Go
+ C3M*A?l\Z\g%(D)vj\*<kdt,
Go *=1
G0 Go G0
Таким образом,
Go G0 Go:
+ (C2 + 1) e [CA2 + С (6)] M* ^ | v fdz dt +
G,
+ (d +1) C8eM* S $ S | «J? (£>) У/1» dz dt.
Объединяя полученные неравенства, получаем
■g- (la^ + l Л*&»В) <С*(-|- »/м1? + е[бо! + С(б)]М21^ + СЛ§1^ти +
+ С(б)со82/*[^'1о + С(е)Л111;1§ + еУИ22;!^)Ф)^).

304
ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Если
CAC(8)C0*k<±; ^>5увва«+» + «С«С(в);
е[бо2 + С(8)]<1, (5*33)
то отсюда вытекает, в силу (4.31), искомое неравенство (5.28). D
5.19. Вернемся теперь к вопросу о параметрах. Кроме
условий, рассмотренных в п. 4.13, надо учесть еще (5.19) и (5.33).
Существенно, что постоянная С (8) в условиях (4.33) и (5.33)
зависит только от 6*у при />1.
Поэтому выбираем, как и прежде, постоянные yj, затем 8^
при /^1, затем б0 — из условия (4.33) и лишь потом 8а0 при
О^а^й. После этого выбираем е из условия (5.33) и в
заключении— %о и 8
§ 6. Канонические преобразования
и разбиение единицы
6.1. Докажем неравенства (5.22), которые использовались
выше, при доказательстве теоремы о достаточных условиях
субэллиптичности.
Вначале построим интегральные операторы, соответствующие
каноническим преобразованиям, описанным в п. 5.7. Фиксируем
окрестность Qj второго рода и перенесем на время начало
координат в ее центр. Пусть щ = д$д(0), W = дл d]q(0) (/==1, ..., п)
и пусть для определенности E(^0f3*I]aJ (в противном случае
можно поменять ролями переменные у и т|, заменив в
неравенстве (5.3) функцию if) ее преобразованием Фурье). Пусть П =*
= |я{|, P = |piy| — такие квадратные матрицы порядка п, что
2>/&<=0, / = 2 я, ^п\Ы = \Ь\=УШ)\
П
2 Р*/#= — о/, /=1, ..., п.
Нетрудно видеть, что такие матрицы всегда существуют, причем
можно считать, что П*П = /, Р*=Р. Каноническое
преобразование (у, г))*—*(!/> Л) с производящей функцией
Sn(yt Л) = (Ш/, л) + |(Рг/, у)
переводит функцию 2>ajyJ + £bfr\j в функцию \Ь\г\х, В соответ-
ствии с § 4 гл. II, положим
Фпи (у) = (2n)-n\eKk*ls (у- ^~к~Ч (ц) йц,

§ 6. РАЗБИЕНИЕ ЕДИНИЦЫ 305
где й(ц) = ^и(х)е~*хГ)(1х. Фя и есть преобразование, описанное
в начале п. 5.7.
6.2. Интегральный оператор Фь соответствующий
производящей функции S(y, £), определенной формулой (5.12), имеет
довольно простой вид. Пусть
Фги (у) = (2я)-Л $ e<rt + ^+ls <* »"*^)а (Е) dg.
Поскольку S(y, £) = (Л (у1), у') + (5 (у1), П + С^1), получаем, что
фги (у) = г'***1 к* (у1) -у') + с <**% (у1, #' + В (г/1)).
Переменная у' играет роль параметра, не меняющегося при
канонических преобразованиях.
6.3. Найдем теперь оператор фафлФ1а Имеем
Фи (х) - (2л)-2л $ $ $ й (I) № + **+ls <"• S^"1) X
Заметим, что
(2я)-» Je-on+a**1**^ ^-*-1)dT) = ea*«(Px. *>/2S ^ _ Ш),
и потому
Фи (х) = (2я)-« J й (I) ea*+ls«<*• ^"*_1) dg,
где
S.(jc, 5)«(Пж, Э + (Лх(ж), Ш)+ №(*), 9 + С!(х) +j(P*. ж),
Лх (л) = (О, A (£ я#)), Вг (х) = (О, В (2 яИ).
Ci(a:) = C(S^0.
Существенно, что функция S0 линейно зависит от |, так что
преобразование Ф сводится к замене переменных:
Фи (х) - еа*+1г <*>и (Пх + Вг (х)), (6.1)
где Т (х) = (Л, (х), Ux) + d (х) +1 (Рж, х).
6.4. Пусть L — оператор, для которого
Цх, D)u(x) = (2n)-"\L(x, $й <£>**<%.
В силу (6.1) имеем
(Ф*£Фы, v) = (1Фн, Фу) =
= (2я)-« $ J JI (х, |) е< <*-*• &>е**+1 [г (у) - г им х
х ы (1Ъ/ + Si (у))7Ш+ЖЩ dy a\ dx

306 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Делая замену г = Пу + Вг(у), t = Ylx-\-Bi(x), получим
(Ф*ЬФи, v) = (2л)-" \ $ $ U (/, I) е<«~г- ВД х
х ea*+1 tr« w -г««Ни (г)vji)dzd|Л,
где L^, 6) =/.(*, |), Ti(z) = T(y), Tl{f) = T(x). Отметим, что
П (г) = (А (г% г1) + С (г1) - (А (г*), В (г1)) +
+ 4(РП*(г-Я(г1)), n^z-B^1))). (6.2)
Пусть T1(z)-T1(t) = R(z, t){z-t) и ц = Щ-Я,*«Д(г, t). Тогда
Ф*1Фи (0 = Lxu (0 = (2я)-л J $ L2 (*, г, л) е1« -*• ч>и (г) dz dx], (6.3)
где
L2 (t, z, t|) = Lx (*, П* (ij + *,*+*# (г, О)) -
= L(II* (<-£(<*), П*(л + Х*+^(г, /))).
Отметим сразу, что если L (х, I) == 1, т. е. L (x, D) = /, то из (6.3)
следует, что Ф*Ф = /, т. е. Ф —унитарный оператор.
6.5. Пусть теперь L(x, £) является полиномом от х, 1.
Поскольку 50 — полином, функции Ti, R, L2 также будут
полиномами. Разложим функцию Lz(t, z, r\) в ряд Тейлора по степей
ням z — t:
U(t, г, т))=2йа"12^ '• чХг-^)».
а
Представим (г —0а^и-г'л) в виАе (—Д,)06^*'-** ч) и
проинтегрируем по частям в (6.3) по переменной г\:
Lxu (t) - (2я)-« Jir J D"D" La ('■ '• *»>й M^dr>-
a
Отсюда видно, что оператор L\ будет дифференциальным и его
главный символ равен
U (г, » = L (П* (г - В (г1)), П* (&-« + Я (г, г))),
где Ri(z, z)=diTi(z) и Ti определяется по формуле (6.2).
Полученная формула служит обоснованием для выбора
преобразования Ф. Из нее видно, какими должны быть функции
Л, В, С и матрицы П, Р для того, чтобы выполнялось
условие (5.11).
6.6. Сравним теперь операторы Ф и Ф1э соответствующие двум
соседним окрестностям Q и fii.
Пусть вначале число s является общим для Q и Qx. Матрицы П
и Р определяются из условий
nV^(0) = (|V^(0)|, 0, .... 0),
PVfo(0)-—v^(0).

§ б. РАЗБИЕНИЕ ЕДИНИЦЫ 307
Этих условий, разумеется, недостаточно для определения матриц Р
и П. У ортогональной матрицы П однозначно определена только
первая строка. Если фиксировать П, то у матрицы РП* также
будет определена однозначно только первая строка. В общем
случае нельзя выбрать матрицы Р и П всюду в области, где
выполнены условия (5.9) так, чтобы их значения в соседних
окрестностях были близки. Однако эта область может быть
разбита на конечное число клеток Qb ..., Q^, в каждой из
которых матрицы Р и П могут быть выбраны гладкими, причем N
не превышает некоторой постоянной, зависящей только от k и п.
Сейчас рассмотрим вопрос о том, насколько близки матрицы П
и IIi, P и Pi при «наилучшем» выборе матриц Пх и Рг (считая,
что П и Р фиксированы). Эта близость определяется тем,
насколько меняется вектор 4x,\dstq(x, l) при переходе от центра
окрестности Q к центру окрестности Qi (точнее, не сам вектор,
а его образ при каноническом преобразовании, соответствующем
окрестности Q). Канонические координаты этого вектора в центре
окрестности Q равны
(0, .... 0; а, 0, ..., 0).
Пусть (t0t x0t £°) — координаты центра Q. Тогда при \t —t0\^
< М-1, | х1 - 41 < аМ-*-1, | х' - АI < Ь"(*+1)/2, 16 - 6° | < 6-1Мм»%
координаты этого вектора меняются так, что
\d!dstq(tf xt ^j^Cia-W^^1^-*-1,
I V,.. vdstq (*, *f Б) | < dMs + 4- <*«/",
поскольку по леммам 5.4 и 5.5
V,'i6'd#<7(*o, xo, !°) = 0 при s + /(s+l)<*/2,
\V*.l#Mq(to, xo, $°)\<:C2crJMi+i{s+l)+n-№/\ (6.4)
В лемме 5.6 было показано, что
\d\fiq{U х, g)-a|<a/2."
Поэтому можно утверждать, что для коэффициентов а{, р;7
преобразования
*' = £<*//, Бу-^^ + ИРуЛ /—1 л.
соответствующего рассматриваемому повороту, выполнены оценки
l/2«zj,<2, lai/l + IPJ/KCAi-i/", / = 2 п.
В силу ортогональности матрицы А отсюда следует, что
I ail — 11 «^ СМ-1/2, а в силу ортогональности всего рассматривав-

308 ГЛ. VIII СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
мого преобразования получаем, что | Рп |<:CM-1/2. Для
преобразования в пространстве переменных (у, т]), где у = х, r] = £A,ft+1,
отсюда следует, что
1 /2 ^ а{ ^ 2, | ад К CM-v\ | Pu |< C*,**lAf-1/1,
IPvKCXWAI^/», /-2, .... я. (6'5)
6.7. Оценим теперь в Q U Qx значения многочленов А0 « А — Ль
В0 = В — Ви Со = С —Ci. Из определения этих полиномов видно,
что
А (у1) —42 (7^Т)Г V<* (Р) ftfl*\
/«1
flo (у1) —42 (TFT)iv*'^ (p) йЯу+1'
/-1
/o-f-1
Co (У1) — j 2 aTlTT5^(P) (i/1)y+1 - I(Л° (т)' B° (T)) dT'
где P —центр Q, причем производные dlq вычисляются после
канонического преобразования, соответствующего Q. В силу (6.4)
имеем при | у1| ^ СаМ-*-1
I д{А0 (у1) | < САг (*+1)/^шу (m)-i/2f
I d'#o (У1) | ^ Ck-W2arJMJ('+«-va
и в силу (6.4)
I d/Со (г/1) | < САг*-ЧгШ У<*+1>. (6.7)
6.8. Покажем теперь, что
|д\д%д*Н(*, г, С)I<С,,а,рАРв'а'Ь<*+1)<> *• -'а»'2, (6.8)
где Я —какая-либо из функций Hj. В силу теоремы 7.1 из гл. II
и неравенств
К2#7<С(л)
из 6.8 следует, что
4-1«р «s 2 ■ ^-^*
если б достаточно мало.
Переход от координат (#, т|) к координатам (г, С) является
произведением двух преобразований:
(1) z/= £ aff, fc~i] «fo+il M'> /-»• -. *

§ 6. РАЗБИЕНИЕ ЕДИНИЦЫ
309
(2) Р = у\ Г =у' -В (у% т' = л' + ЬМА (f/1), хх - % +
+ Л*+1(Л/(01). У -В (у1))-(В'(у1), Л')-^1^1)- Вычислим
производные функции #у по (у, т]). Имеем
,•=.1 \ J = 2
+
rt
+ 2 *■[*»- 2 biBr + a)D + 2<4A№*).
I —— £ у а а . , /*■,
где
D(y, ^-(А^1), у'^1-ВХ*+1)-(Л/, B')%k+l-(B\ C')-C*X*+1.
Используя неравенства (6.5), (6.6), (6.7), получаем, что
\дН
dJL
ду*
дН
; Ca-W+S
I а/
8 сел-<**>/■, /=i,
а(Л+1)/2э /==2, .... л;
I dri/1
Поскольку коэффициенты в выписанных выше формулах для
первых производных таковы, что дифференцирование их по у1 дает
множитель crlMs+1t дифференцирование по у' дает А,(*+1)'2, а по
^ —множитель 6Аг<*+1)/2, получаем искомую оценку (6.8).
6.9. Пусть число s меняется при переходе от Й к Qi на
значение Si^s. В этом случае
где с0 не зависит от X и УМ, b = \gradgt{d\lqo(P)\. Переход от
матриц П, Р к III, Pi определится в зависимости от угла между
векторами grad^^(O) и graded?1? (P). В силу оценок (6.5),
полученных выше, достаточно рассмотреть преобразование,
соответствующее переходу от вектора grad^d^ (0) = (0, ..., 0; а, 0,..., 0)
к вектору gradXtldtlq(Q). Поскольку
|grad*. %ftq (0) | < СМ*> + i/4t-<*+i>/«t
I dxftq (0) | < CorW* +$ + {X-k~\

310 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
то для преобразования поворота, который осуществляется при
переходе от вектора graded*? (0) к вектору gracU.gd/tyfO),
выполнены соотношения (6.5). Эти же оценки верны и для обратного
преобразования. Поэтому произведение двух указанных
преобразований поворота от gracU, £<3^7 (0) к gracL, idpq (0) и затем
к gvadx^d^q (P) снова удовлетворяет условиям (6.5).
Рассмотрим теперь каноническое преобразование с
производящей функцией хЪ + (А(хг), х') + (В (х1), П + С(Д где
trio
А И = - Т 2 д''^д*-<1 (р) (л1)У+1/(/ + 1)'.
/=о
/ = о
CW=-J 2 #d{q(P)(xL)W/U+l)l-^(B'(T)9 A{x))dx
/ = о о
и mo = [(&/2 — Si)/(S| +1)]. Как и выше, можно проверить, что для
этих полиномов А, В, С выполнены неравенства (6.6), (6.7).
Таким образом, все рассуждения, проведенные выше при оценке
производных функции Я, остаются в силе. Следовательно, и
в том случае, когда число s меняется, выполнены неравенства (6.8),
§ 7. Приложения к задаче с косой производной
7.1. Покажем здесь, как полученные выше результаты могут
быть использованы для исследования задачи с косой производной»
изученной в гл. IV.
Рассмотрим вначале модельную задачу. Пусть R+ — часть
n-мерного пространства R", для точек х=(хг, ..., хп) — (х\ хп)
которой выполнено неравенство хп^0. Будем предполагать, что
п^З. Пусть функция и удовлетворяет уравнению
Аи = 0 в R+ (7.1)
и краевому условию
(*х)*ё+а1?=2(*) при *я=0' (7-2>
где а Ф 0 — вещественная постоянная. Заметим, что условие Ло-
патинского нарушается для этой задачи только при х1 = 0. Пусть
и (£', Xя) =* \ и (х) е~ ix'V dx' — преобразование Фурье функции а
по х\ В силу (7.1) функция й(£', хп) удовлетворяет при хп>0
уравнению
-i*L_|£'|!fls==0

§ 7. ПРИЛОЖЕНИЯ К ЗАДАЧЕ С КОСОЙ ПРОИЗВОДНОЙ 311
общее решение которого имеет вид й (£', хп) = v (£') е- *л I *' • +
+ до (£')***16''- Поскольку й(£\ #л) является при л:71 > 0
преобразованием Фурье от распределения, надо положить w = 0.
Подставляя результат в (7.2), получим, что при #л = 0
$ [- И* IБI + te6d »(6#) **т «' = №)**g (*').
Это уравнение является псевдодифференциальным с символом
р(х'9 %')= — (к1)* | £I + icfci- Бихарактеристики функции Imp
совпадают с прямыми, параллельными оси х1. Из теоремы 1.2
следует, что этот оператор будет субэллиптическим при k четном,
а если k нечетно, то оператор является субэллиптическим тогда
и только тогда, когда а>0. В этих случаях из теоремы 1.2
вытекает априорная оценка решения
II и 1 < Cs (I g U-e/i+*/(*u)+1и L-i).
где постоянная Cs не зависит от и> и соответствующая теорема
о гладкости (см. предложение 1.2). В гл. IV была получена
более грубая оценка, не учитывающая порядка касания поля
с границей, но зато требующая для своего доказательства гораздо
более элементарные средства.
7.2. Покажем, что и в общем случае задача
Lu = / в Q (7.3)
w=s на г <7-4>
с косой производной может быть изучена с помощью теоремы 1.2.
Пусть Lxu ^Lu — Ku при X ^ Х0 > 0. Пусть ^- = У ay cos (v, xl) dj9
где v —внешняя нормаль к Г, a cos(v, л:') — косинус угла между v
и осью х1. Определим оператор Л, положив Af = jff-F L. где
/еСго(Г), a F — решение задачи Дирихле LKF = Q в Й, F = f
на Г. Оператор Л определен корректно, если А,0 достаточно велико.
Как мы видели в гл. III, оператор А является
псевдодифференциальным оператором первого порядка. Кроме того, этот оператор
является эллиптическим и
Отсюда следует, что он допускает замыкание и может быть
продолжен на \JHS(T).
Лемма 7.1. Оператор А —А* имеет нулевой порядок и,
следовательно, главный символ а0(х* |) оператора А является
вещественнозначным.
Доказательство. Пусть ^if = ^rr/71 L где (Lx + Z^Fi —О
г*
в й, ?! = / на Г, a /i — такой оператор первого порядка, что

312 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
L% + h — симметрический оператор. Из формулы Грина
видно, что Лх —симметрический оператор.
Заметим, что ^-^ = 0 на Г, U(F — Fi) = liFi = T1/2f> где
Т%/2 — оператор порядка 1/2. Отсюда следует, что F — Fx = T-3/2f
и потому Af — Ах/=^ (F — /4) |г = 7У, где Г-3/2 и Го — операторы
порядков (—3/2) и 0 соответственно. Но тогда и A*f — A*f = T*f>
и потому
A*f-Af~(A*-Af)f + {Ar-AJf + (Ai-A)f = rj9
где TJ —оператор нулевого порядка, что и требовалось доказать.
Пусть в окрестности со точки Р0, лежащей на Г, выбрана
такая система координат, что направлениях1, ..., х"-1 касательны
к Г, а ось хР: направлена по конормали к границе и
дЦх) -
П
= У V/ (я) ——. Таким образом, поле щ-г касается границы Г
в тех и только в тех точках из (о, где v„(*) = 0. Тогда если
/еС°°(Г) и X велико, то можно решить задачу Дирихле: Lkw~Q
в Q, w=f на Г и положить Р/==-^- =ул(л:) Л/ + В/, где В —
дифференциальный оператор первого порядка. Главная часть
символа оператора Р для хею равна
/»(*. 0=Ъ(*)а(*. 0 + Й(х, 0, (7.5)
где а и & — вещественнозначные функции, а(х, 0^С|С| для
Как было показано раньше, решение задачи (7.3), (7.4)
сводится к решению псевдодифференциального уравнения
Pf = g в Г (7.6)
и последующему решению задачи Дирихле
Lu = 0 в Q a = f на Г.
Поскольку последняя задача хорошо изучена, остается
рассмотреть уравнение (7.6).
Мы не будем выписывать здесь формальные условия на строение
поля д/dl, при которых применима теорема 1.2. Отметим только,
что в отличие от гл. IV мы не делаем здесь никаких
предположений о строении множества, на котором v„ имеет нуль четного
порядка. Кроме того, можно рассмотреть случаи, когда функции Ы(х)

* 8. ПРИЛОЖЕНИЕ К 8-ЗАДАЧЕ НЕЙМАНА 313
si /I Я
и с(х) комплекснозначны и -^ « aT + f яр Тогда символ
оператора Р в локальных координатах будет иметь тот же вид (7.5),
но с комплекснозначными функциями vn и Ь.
§ 8. Приложение к d-задаче Неймана
8.1. Пусть Q — относительно компактная область в
пространстве С2 комплексных переменных г1, г2 с гладкой границей Г.
Предположим, что в окрестности границы Г определена
гладкая вещественнозначная функция г такая, что г<0 в Q, г>0
вне Q и dr^O.
Область Q называется псевдовыпуклой, если для каждой точки
РеГ и произвольного вектора (/\ i2)s(D8, удовлетворяющего
условию r2i(P)tl-\-rzt(P)t**=0, выполнено неравенство
г^С^^М'+^г^^+г^^^+^г^^Р^О. (8.1)
Здесь использованы обычные обозначения:
2J = xV-l + ixV\ /-1, 2.
Рассмотрим систему уравнений
в предположении, что область Q псевдовыпуклая и выполнено
условие совместности:
^ = -й. (8.3)
При этом нас интересует регулярное решение, т. е. такое, что
sing suppH=±sing suppf, f=*(fu /2). (8.4)
Поскольку система (8.2) является эллиптической в Q, свойство (8.4)
для внутренних точек вытекает из общих свойств эллиптических
операторов. Трудность для исследования представляют только
точки, лежащие на границе Г.
Решение этой задачи тесно связано с решением проблемы
Э. Леви об областях голоморфности и с другими важными
задачами комплексного анализа (подробности см. в книгах Б. В. Ша-
бата [1], Р. Ганнинга и X. Росси [1], Дж. Б. Фолланда и
Дж. Дж. Кона [1]).
8.2. Векторное поле L называется голоморфным в открытом
множестве V с: С2, если оно записывается в виде
L = a*± + a*^, rfeC-(I/).

*э*4 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Векторное поле L называется касательным, если L(r) = 0 при
г = 0. Будем считать, что |дг|= 1. Как обычно, полагаем
Если 7\, Т2 — два векторных поля, то определяем их скобку
Ли, полагая
[Т19 Т^ТгЪ-ТЯ4!.
Алгебра Ли, порожденная полями 7\ и Т2 над пространством
гладких функций, является наименьшим модулем над этим
пространством, замкнутым относительно взятия скобок [,], и
обозначается X(7\, Тъ). В этой алгебре определена фильтрация, т. е.
X(Tl9 T%)=\JXk(Tl9 Г2),
где X0(Tl9 Т2) — модуль, порожденный Тъ Т2, а Хш(Ти Т2)
получается присоединением к элементам Xk(Tly Т2) элементов
(7\ 7U [7\ Т2] для TeXk(Tl9 T%).~
Пусть L — голоморфное касательное поле в некоторой
окрестности точки Ре Г, которое отлично от нулевого в точке Р.
Положим X = X(L, Z), Xk = Xk(L, I).
Пусть
так что система (8.2) может быть записана в виде
а условие (8.3) —в виде д/ = 0.
Определение 8.1. Точка РеГ называется точкой
конечного яшяа, если существует такой элемент Fgj?, что
<дг(Я), Р(Р)>^0.
Если при этом F ^Xk и k является минимальным, то точка
называется точкой типа k.
8.3. Пусть Р — точка на Г и со1, со2 — ортонормированный
базис для (1, 0)-форм в окрестности 0 точки Р, причем (о2 = /дг
и /=1 на Г. Соответствующий базис в сопряженном пространстве
векторных полей обозначим Lb L2. Ясно, что Lx является
касательным голоморфным векторным полем, поскольку
fU{r) = f(dr, L1) = <(o2, £,!> = ().
Определим оператор 3*, формально сопряженный к
оператору д, с помощью равенства
фи, а) = (и, 5*а),

§ 8. ПРИЛОЖЕНИЕ К д -ЗАДАЧЕ НЕЙМАНА 315
где а является (0, 1)-формой, иеСГ(£2)- Отсюда вытекает, что
если а лежит в области определения оператора д*, то а
удовлетворяет естественному граничному условию: (a, дг) = 0 на Г,
т. е. в указанном локальном базисе 02 = 0 на Г. Множество (О, 1)-
форм с компактным носителем в U (]Q9 удовлетворяющих этому
граничному условию, обозначим <Ш.
Докажем теперь следующий важный результат.
Теорема 8.1 (Дж. Дж. Кон). Если область Q псевдовыпукла,
то существует такая постоянная С, что
4 |ii4>il + |riq)il + |ZlVl| + |q),b<CaAp| + l^| + ^D (8.5)
для всех феЛ Здесь || • [ и | • Ь — нормы в L%(Q) и Н1 (Q)
соответственно.
Доказательство. Если фбД то
ф = ф^1 -f ф2<02,
■^Н^-^ФО^ Л ©*+■•-. (8.6)
где точками обозначена форма, коэффициенты которой являются
комбинациями функций ф1 и ф2. Далее,
<Э*ф = — Ьгщ - 12ф2 + ,..., (8.7)
где снова точками обозначена линейная комбинация функций ф!
и ф2. Из (8.6) следует, что
1&фР=1ф!!-2№ф/> гуфО+0(1фЬ»ф1+!ф12), (8.8)
где |ф|^яя21|1<Ф/Р- Из (8.7) получаем, что
|5ЧР-51(^ь ^Фу)+0(1ф1?1ф[ + 1ф!2).
Здесь не возникает интегралов по границе при интегрировании
по частям в выражении (£*фь ...) из-за того, что Lj является
касательным полем, а фг = 0 на Г. Положим
[L„ I/] = Sc{/L» + 2d?/Z».
Проинтегрируем по частям в выражении (8.8)
-2&ф/> Ш-ИМм* ф04-О(|ф|-1ф1+1ф12)=
= -2(Vp/. Ш + 2(сЬи%, ф{)+0(1ф1?!ф1+1ф12) =
=—S ^*ф «2 + 25 ^Ф/Ф«- ^5+0(11ф1Ьг1ф11+1 фГ).
Г
Поскольку фз = 0 на границе, интеграл по границе равен
S ^fi | Ф1 J2 <i*S. Отсюда следует, что
1Ф|+^?1|ф1|М5^С(1афр+1а*фр+1фр). (8.9>
г

316 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Снова используя равенство нулю значений функции q>2 на Г,
получаем
$ Lm I2 = - {ULm, ф*) + о (1Ф \-г | ФI) =
= 1^ф2р + 0(|ф1-1ф1 + 1фР)<С(1Фе- + 1ф[а). (8.10)
С другой стороны,
i ^хф1 Р — (Г^1фь <Pi) + О (1Ф \j IФ 8) -
-1 Zi«Pi I2 + (tiiUvi, Ф1) + О (| ФI-1Ф |) <
<5сЬ|ф1|а^+0(!ф!| + 1фГ). (8.П)
Г
Из (8.9), (8.10) и (8.11) вытекает искомое неравенство (8.5). О
8.4. Определение псевдовыпуклости, данное выше, эквивалентно
в выбранном локальном базисе условию
ХяЕ=(дг, [I, Lx]>^0 в T(]U. (8.12)
Поэтому cJi^O на Г и оба слагаемых в левой части
неравенства (8.9) неотрицательны.
Рассмотрим вопрос об особенностях решения системы (8.2).
Уравнение Li(P, £) = 0 определяет в пространстве Т% (Г) прямую.
Из двух направлений, определяемых этой прямой, одно является
эллиптическим для системы операторов 1Ъ 12 в соответствии
с теорией, развитой в гл. III. Именно, если заморозить
коэффициенты операторов и сделать преобразование Фурье по
касательным переменным, то получим из оператора L2 оператор первого
порядка в нормальном направлении v вида =- +т, где т — линейная
форма от 5- Если нормаль v направлена внутрь Q, то значения
т>0 (т<0) соответствуют решениям обыкновенного уравнения,
убывающим (возрастающим) в направлении v. Обозначим £(Р)—
кокасательный вектор, определяемый из условия Lx (Р, £(Р))=0
и такой, что (т, £(Р))<0. Тогда
WF (a)\WF (/) <= (J (Р, С {Р)У (8.13)
Р€=Г
Условия регулярности решения зависят от строения поля L%
в окрестности точки (Я, £(Р)) в 7** (Г).
Условие псевдовыпуклости недостаточно для того, чтобы имело
место равенство (8.4), как показывает следующий
Пример (Дж. Дж. Кон). Пусть cftss0 в окрестности точки
Ре Г. Тогда можно выбрать такие локальные голоморфные
координаты z1, z2 с началом в точке Р, что в некоторой ее
окрестности все точки вида (г1, 0) лежат на Г. Пусть р е С™ (U) и р = 1
в окрестности точки Р. Пусть a = d(p/z2)=c)p/z2. Тогда если
носитель достаточно мал, то существует функция w, для которой

г
§ 8. ПРИЛОЖЕНИЕ К 3-ЗАДАЧЕ НЕЙМАНА 317
du~0L. При этом функция Л = и —p/z* является голоморфной
и равна —l/z2 + u в области, где р=1. Если бы singsuppwe:
crsingsuppa, то и была бы гладкой в области со, где р = 0 и
имела бы особенности в той области, в которой р=1 и которая
лежит внутри о. Однако это противоречит известным теоремамс
из классического анализа.
8.5. Ниже будут получены условия, достаточные для
регулярности d-задачи, основанные на субэллиптических оценках вида1
1Ф!1/(Л+1)<С(1аФ[ + [а*ф1 + !Ф1), ФеА (8.14>
Теорема 8.2. Оценка (8.14) имеет место тогда и только
тогда, когда есе точки из Г f] и являются точками типа не выше k~
Необходимость условий теоремы 8.2 была доказана П. Грей-
нером, достаточность —Дж. Дж. Коном. Мы не останавливаемся
здесь на следствиях из теоремы 8.2. С ними можно познакомиться
в работах Дж. Дж. Кона [2] — [4], Дж. Б. Фолланда и Дж. Дж..
Кона [1], Дж. Дж. Кона и Л. Ниренберга [1].
8.6. Пусть уравнение границы в локальных координатах имеет
вид д^вф^1, х2, х?). Замена переменных £' = л^, /=1, 2, 3„
х4 = л;4 — ф распрямляет границу области Q, так что Г имеет
в новых координатах уравнение л^ = 0, а область Q(]U
расположена при х4>0. Не ограничивая общности, можно считать
при этом, что
и = Ог + 1(0% + аР& L2 = Dt + ibD9,
где а, Ь е С°° (U Г) &)> Ь > 60 > 0. Ясно также, что
Xssdta^zO при ^ = 0. (8.15)'
Нетрудно видеть, что точка Р является точкой типа £, если»
к
^\д[а(х)\^со>0 для х€=еГ. (8.16>
Будем считать, что окрестность U настолько мала, что мно
жество М С(^) заполняет лишь малую часть единичной
сферы 52, целиком лежащую в шаре | С — Со |<;1/8. Пусть функ
ция \|> из 0е0 (S2) такова, что гр = 1 в окрестности этой част»
сферы и ф(С) = 0 при |С — Со |>1/4. Продолжим эту функцию»
на пространство R3 так, что t|)(/, 0=^(0 при |С 1^1, *^=t
и \|>€=Cr((R3).
Как уже отмечалось выше, из теории эллиптических краевых:
задач вытекает оценка
1(1-¥(Я))ф|х<С(|(1-Т(0))аф|о +
44(l-¥(D))54lo + Mo). (8.17>

318 ГЛ. VIII. СУБЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ
Обозначим через Я, пространство С. Л. Соболева HS(U(]U)
и через #s пространство с нормой
i«с - ($ $ о+1 £' I2)' iй (с. *4) I2 «' ^4)1/2.
С' — (£ь Сг> £з)«
Лемма 8.1. Если u&H'Sy ^еЯм, s>0, то u^Hs и
\и1<>С<\и\\'s +112иK_i), и е Й,(йП */).
Доказательство. Ясно, что
II«к! и ц;+1 d4« k_i<_
< I и С +1 L2a |Ui + d! D3" K-! < C2 (| u К +1 Uu 1U).
Если u € Яв, L2« г #J_i, то D4a € #J_i и потому u&Hs. D
8.7. Доказательство теоремы 8.2.
Достаточность. В силу (8.5), (8.17) и леммы 8.1
достаточно получить оценку
II Wq*1{/(* +1) < С (1 ЮМ.1ф1 |о +1 AYZ*p Io +1Ф1 Но), ' (8.18)
где fteC0 (Г), ft=l в окрестности множества Uf\T. Ясно, что
ЦЧуг^РЧъ, Е,Тф1вРТф| (8.19)
где P==D1-|-j(D2 + ai3(D/)), a В (О') —эллиптический псевдодиф-
ференциальный оператор первого порядка в R3, у которого
символ В (Г) совпадает с £з в suppij) и | б(£')1^£о|С'|- Из
условий (8.15) и (8.16) следует, в силу теоремы 1.2, субэллиптичность
оператора Р. В силу (8.19) это дает оценку
II АТф! К/(* + о < С 0 Li №>г) 1о + IIU (ЛТфО |0 +1 Фх 1о)
и потому справедливо неравенство (8.18).
Необходимость. Заметим, что из (8.14) и (8.17) вытекает
неравенство (8.18), а из этого последнего и равенств (8.19)
следует, что
II и !}/(* +1) ^ С (1 Ри ||о +1 Р*и 1о +! и Но),
по крайней мере для функций и вида ii = A4^pi.
В силу (8.15) из равенства
|PuB = |P*u|J + ((P*P--PP*)ii, и)
следует, что для а = Л¥ф! имеет место оценка |/>*и|о<|Яи|о +
+ Ci|a|J и потому
||||Г/(*+1)<С2а/>иВ + |ии).
По теореме 2.1 эта оценка влечет локальную оценку (2.1) в точке
(Ро, Z(Po)) для Ро&и> из которой по теореме 3.1 вытекает
справедливость неравенств (8.15) и (8.16). □

ГЛАВА IX
ЗАДАЧА КОШИ
§ 1. Постановка задачи
В этой главе рассматривается одна из основных задач для
эволюционных уравнений— задача Коши. В наиболее общей
формулировке задача состоит в том, чтобы найти решение уравнения
Ри=/ в некоторой области Q, совпадающее с заданной
функцией g в подобласти Q' с: Q. Обычно Q является окрестностью»
начала координат, a Q'— той частью Q, в которой я^О.
Довольно естественно предполагать при этом, что плоскость
л;1 —О является нехарактеристической для оператора Р, т. е.
/?°(0, х\ 1, 0)^=0, когда точка (0, x')^Q'. Если Р —
дифференциальный оператор, то при этом условии однозначно определяются
значения всех производных решения на этой плоскости.
Задача Коши поставлена корректно далеко не для всех
уравнений, а лишь для так называемых гиперболических, что означает,.
в частности, что корни g1 уравнения р°(х,11,1') = 0 вещественны
при всех jcgQ. Е' еR"-1. Задача Коши для гиперболических
уравнений изучалась в классических работах Ж. Адамара [1]г
И. Г. Петровского [1] —[3], Ж. Лере [1], Л. Гординга [1].
Единственность решения задачи Коши может быть доказана
для гораздо более широкого класса операторов. Наиболее сильный
результат здесь был получен А. П. Кальдероном в работе [1].
Этот результат обобщался в дальнейшем в работах К. Смита [1]^
Ф. Трева [9], Б. Мальгранжа [3], Л. Ниренберга [2]. Мы также
приводим здесь некоторое обобщение их результатов. Наше
доказательство основывается на применении оценок типа Т. Карлемана,.
которыми он пользовался при изучении задачи Коши для
эллиптических дифференциальных уравнений.
В работах А. Плися [1], [2], П. Коена [1] приводятся
примеры уравнений, для которых задача Коши имеет неединственное
решение. В книге Л. Хёрмандера [3] приведено уравнение
для которого П. Коеном доказано существование нетривиального
решения, равного нулю при *^0. Здесь а е С°° — вещественно-
значная функция.

320
ГЛ. IX. ЗАДАЧА КОШ И
С развитием общей теории дифференциальных уравнений все
большую роль играет одна из наиболее ранних теорем,
относящихся к теории задачи Коши, теорема С. В. Ковалевской. Эта
теорема утверждает существование и единственность решения
задачи Коши для систем дифференциальных уравнений весьма
общего вида в классе аналитических функций. Классическая
георема С. В. Ковалевской была обобщена в работах Л. В.
Овсянникова, имеющих очень широкую область применения. Мы
приводим ниже доказательство теоремы Ковалевской, основанное на
идеях Овсянникова, и принадлежащее Ф. Треву [2], [11].
§ 2. Теорема Ковалевской
2.1. Рассмотрим систему уравнений вида
D?u - £ aaJ (t9 x) D*D[u + f (*, x). (2.1)
|<х|-И<т
Здесь и = (иъ ..., uN)y /~(/i, ..., Ы, <h.tj — матрицы порядка N.
Системы уравнений такого вида называются системами типа
Ковалевской. Будем искать решение этой системы, удовлетворяющее
начальным условиям:
0{а = фУ, / = 0, 1, ..., т — 1 при / = 0. (2.2)
Теорема 2.1. (СВ. Ковалевская.) Если функция aaj, f
аналитичны в окрестности Q = {(/, #)eR*+1, |*|<б, \t\<T}
начала координат и функции фу аналитичны в Qf){t~0}9 то
существует одна и только одна вектор-функция u(tt x)
аналитическая в некоторой окрестности й' = {(t, х) & Кл+1, | х \ < б',
111 < V) начала координат и удовлетворяющая в Q' уравнению (2.1)
и условиям (2.2), 0<6'^8, 0<Г'<7\
Ниже будет также доказана теорема, которая справедлива при
несколько более широких условиях:
Теорема 2.2. Пусть aaj, f являются непрерывными
функциями от t при 111 ^ Т со значениями в пространстве вектор-
функций, голоморфных в окрестности 6) = (^eR", |х| <6} начала
координат в R" и функции % аналитичны в со. Тогда существует
одна и только одна вектор-функция u(tt x) m раз непрерывно
дифференцируемая по t при \t\<,T' (0<Т'^Т) со значениями
в пространстве вектор-функций, голоморфных в окрестности
(o' = jxep, |#|<8} начала координат в Rn\ 0<8'^8,
удовлетворяющая уравнению (2.1) при хеш', |/|<Г' и условиям (2.2)
при jcew', / = 0.
2.2. Начнем с некоторых упрощений.

§ 2. ТЕОРЕМА КОВАЛЕВСКОЙ 321
Лемма 2.1. Задача Коши (2.1) —(2.2) эквивалентна задаче
Коши для системы уравнений первого порядка
п
d£=2AJ{t*x)dS+B«> *)"+w.*). (2-з>
(/(О, *) = £/,,(*), (2.4)
где U*=(Uu •••» Uм)> / = (/i> •••» /ж). ^ и В — квадратные
матрицы порядка М, М —некоторое большое число. При этом свой-
сгпва коэффициентов и решений быть голоморфными или
непрерывными сохраняются.
Доказательство. Пусть и — решение задачи (2.1), (2.2).
Положим
и0 = н, Uj = DjU, \^i<,n% unAr\^Dtu, (2.5)
и пусть и = (Ыо, ии ..., ttn+i) — вектор в (п + 2) N -мерном
пространстве. Ясно, что
D?~{u} = D?-2Djun+b /-1, .... л, . (2.6)
1*0 /-«О a.|=0
где последнее уравнение переходит в (2.1), если выразить щ
через w по формулам (2.5). Ясно, что может существовать много
способов написания этого уравнения. Выберем любой из них.
Условия (2.2) порождают при **=0 условия
Dltu0 = ф;,
DWj^DjVu /=!,..., я, (2.7)
0{ия+1 —ф|+ь /==0> Ь •••» «1 — 2.
Уравнения (2.6) и условия (2.7) могут быть теперь записаны
в виде системы уравнений
т—2 т — 1— /
ЯГ"1»- 2 2 *«./('. *)£^+g(<, х), (2.8)
D!u = %, / = 0, 1 m-2, / = 0.* (2.9)
Покажем эквивалентность задачи (2.8)—(2.9) задаче (2.1)—(2,2).
В самом деле, если задача (2.8) — (2.9) имеет решение при
любых g и %, то, решая ее при
g = (0, ..., 0, /),
♦ye(4Vf Dtbt •••! Л«ФУ» ФУ+i)» 0^/^т — 2,

322
ГЛ. IX. ЗАДАЧА КОШИ
получим решение задачи (2.1) —(2.2), если взять в качестве и
вектор, определяемый первыми N компонентами вектора и.
Если однородная задача (2.1) —(2.2) имеет нетривиальное
решение и, то соответствующий вектор v отличен от нулевого и
является решением однородной задачи (2.8) —(2.9).
Если нетривиальное решение v имеется у однородной системы
(2.8) —(2.9), то вектор и, образованный первыми N
компонентами вектора и, будет ненулевым. В самом деле, пусть ы=^0, т. е.
и0 = 0 в системе (2.6). Тогда Dj"~2wrt+i = 0, т. е. ип+1 является
полиномом по / степени <т — 3. Но из (2.7) следует, что
Dltun+i = 0 при < = 0, /^=0, 1, ., m —2. Поэтому ип+1 = 0. Из
(2.6) следует тогда, что 0?~~1щ=*§ при /=1,. ., п и поскольку
DltUj~0 при < = 0, /=1, ..., п, / = 0, 1, . ., m —2, мы видим,
что uj-^О. Следовательно, о = 0, что противоречит
предположению.
Покажем теперь, что из разрешимости задачи (2.1) —(2.2) при
любых / и ф; вытекает разрешимость задачи (2.8) —(2.9) при
т—2
любых g и -фу. Вначале заметим, что заменой v на v— 2 %"//!
/-0
задачу (2.8) - (2.9) можно всегда свести к задаче, в которой г|?у « 0.
Если g--(go» gu ..., gn+i)> где каждый вектор gj является N
-мерным, то можно найти вектор (w0, wu ..., дол), для которого
Dr-Xwj=g/, /— 1, .... л,
О{до/ = 0 при / = 0, / = 0, 1, ..., т —2, / = 0, 1, ..., п.
Тогда вектор б = и-^(до0, а>ь • ••> ^л» 0) удовлетворяет системе
(2.8) с g —(0, ..,0, g*n+i) и условиям (2.9) с % = 0. Но такая
задача эквивалентна задаче (2.1) —(2.2) при f = g и Ф/ = 0. Так
как по условию эта задача имеет решение, разрешима и задача
(2.8)-(2.9).
То, что коэффициенты, начальные условия и решение в
исходной и в новой задаче имеют одинаковую регулярность, очевидно
из построений. Таким образом, эквивалентность этих задач
доказана.
Поскольку процесс редукции к системе уравнений меньшего
порядка может быть продолжен, лемма 2.1 доказана. D
2.3. Мы получим теоремы 2.1 и 2.2 как следствие общей
абстрактной теоремы типа Коши — Ковалевской.
Пусть Es при 0<;s=^l является банаховым пространством,
причем если s' <s, то ES<=ES' и
iui*"^lu|» A715* «e£«.
(2.10)

I 2. ТЕОРЕМА КОВАЛЕВСКОЙ
323
Рассмотрим множество La линейных операторов Л, действующих
из Es в ES' при 0^s'<s^l и удовлетворяющих условию
\Аи\
S — S
г I" I*
(2.11)
Теорема 2.3. Пусть w0<=£i, /еС([-Г, Г]; £i) и A(t)<=
С([—Т, Т]; La). Тогда
I. Существует функция «еС1^—7', Г'); £0). причем us
iC1^—Т„ Г,); £,), гае T' = l/ae, Ts = T'(l-s), для которой
ди
™ = A(t)u + f(t), и(0) = и0.
(2.12)
II. £&ш для некоторого 7', 0<7'*^7, и для некоторого sf
0<s<;l, существуют две функции из Сг((—7', 7'), £^), #дов-
летворяющие (2.12), то они совпадают.
Доказательство.
I. Пусть
Vo(t) = \f(T)dT,
Vk+i(t)^Uo + \f(r)dx+^A(x)vk(x)dx, k = Q, 1, ...
о о
Очевидно, что ufeEC([—7, 7]; Es) при 0<s<l. Пусть
W0 = Vo, Wk+^Vk+l — Vk, k = 0, 1, ...
Ясно, что
wk+1(t) = 5 A (T)wk(x) dr.
о
Покажем, что
|«М0Ь<Л*(0(-^)*, |*|<7\
(2.13)
где М(0 = 1«оЫ-
$l/WfidT
, 0<s<l.
Неравенство (2.13) тривиально для £ = 0. Пусть оно верно
для k, проверим его при k-\-l. Если 0s^s'<s-<l, то
lwM(t)\s>
S-S'U
wk(x)ldx
■М
W^rfem
1 '
Пусть (s —s')(/fe+ 1)= 1 — s. Тогда (1 -s)/(l -s') = k/(k+ 1) и
потому
I^+1(OKM(o(^i)ft+1|(^)ft<Ai(o(^)ft+1. .

324 ГЛ. IX. ЗАДАЧА К0ШИ
Так как M(t)^Mf из (2.13) следует абсолютная сходимость
00
ряда 2 ш*(0 в £*• равномерная в каждом замкнутом отрезке,
ft «О
лежащем внутри интервала l*l<-jy^- Его сумма а(0
удовлетворяет условиям теоремы и
u(t)=*uu + lf(x)dx + \A(T)u(%)<k.
о о
II. Пусть DGC^t-T', T'),ES) при некотором s, 0<s<l и
^ = Л(/)у, 0(О) = О.
Покажем, что и = 0 в (—7", Г'). Имеем
t
v(t) = \A(T)v(x)dx.
о
Пусть s'<s и M(t) = s\iplv(x)\s при О^т^*. Проверим, что
\v(t)l>^M(t)(^)\ ft-O, l, ... (2.14)
Для & = 0 это тривиально. Если это верно для некоторого & ^ О,
то при s"<.s'
Пусть (s'-s")(6+l) = s-s\ Тогда (s-s')/(s-s") = k/(k+l) и
потому
|.»к*<»е^г«,(ч:!)'<*»(5й'-г-
Таким образом, оценка (2.14) верна при всех k. Но отсюда
следует, что v(0 = 0 при |/|<(s — s')/ae. По непрерывности и(0 = 0
при | /|*S(s — s')/ae. Повторяя это рассуждение, можно показать,
что v(0 = 0 при ^=^-<*<2Ц^- и т. д. За конечное число ша-
гов мы исчерпаем любой отрезок [—/0, /о]* содержащийся в (—Т\
V). Отсюда следует, что v(0 = 0 в {—Т\ Г). □
2.4. Доказательство теоремы 2.2. Эта теорема
получается из теоремы 2.3, если в качестве Es взять пространство
вектор-функций, голоморфных в Й, = {ге©*, |z|<s6} при 0<С
<s*Cl, g нормой |ab«=sup| u(z)\. Проверим справедливость не*
°,
равенства (2.11).

§ 2. ТЕОРЕМА КОВАЛЕВСКОЙ
325
Если и — комплекснозначная скалярная функция, то при z^i
ей,', s'<s, имеем
|c'-*'|-<—*>*
где £' —zj ПРИ ^/- Отсюда следует, что
|^-4|-(■-!')«
и потому
Таким образом,
да (г0)
К
1
6(s—s')
I «I*.
i^^sii?)1"1*-
Для функций и со значениями в ©^, очевидно, выполнено
неравенство
Поэтому
Ws'^^Ms.
2Л>(*. г)^ + Я(«, г)и <e-^r|a|t
с некоторой постоянной а, зависящей от N и максимума модулей
элементов матриц № и В.
По лемме 2.1 задача (2.1) —(2.2) эквивалентна задаче (2.3) —
(2.4). Из теоремы 2.3 вытекает существование и единственность
решения задачи (2.3) —(2.4), непрерывно дифференцируемого по/.
Из доказательства леммы 2.1 видно, что в таком случае задача
(2.1) —(2.2) имеет решение, т раз непрерывно дифференцируемое
по /. □
2.5. Доказательство теоремы 2.1. Вначале заметим,
что решение u(t) задачи (2.12), построенное в теореме 2.3, будет
аналитическим по t, если A(t) и f(t) являются аналитическими
функциями по t. В самом деле, при этом условии аналитическими
будут функции vk и Wk, построенные в ходе доказательства. Из
оценок (2.13) вытекает равномерная при \t\^q(l —s)/ae
сходимость ряда £wk(t), где q< 1 — произвольное число. Так как
сумма равномерно сходящегося ряда аналитических функций
является аналитической функцией, то решение u(t) задачи (2.12)
будет аналитической по t функцией со значениями в Es при
tf|<(l-s)/a*.

326 ГЛ. IX. ЗАДАЧА КОШИ
Отсюда следует, что задача (2.3)— (2.4) имеет аналитическое
по / и по х решение £/(/, *), если А/, В и / являются
аналитическими по t и л; функциями. В силу леммы 2.1 отсюда вытекает
справедливость теоремы 2.1. D
Замечание. Теоремы 2.1, 2.2, 2.3 справедливы и в ^случае
нелинейных уравнений. Кроме того, подбирая различные
пространства Esy можно получить из теоремы 2.3 утверждения о
разрешимости задачи Коши в других банаховых пространствах,
например в пространствах Жевре. Используя-схему- Хольмгрена,
можно получить с помощью теорем 2.1, 2.2, 2.3 теоремы о
единственности решения задачи Коши в классе неаналитических
функций.
§ 3. Гиперболические уравнения
3.1. Мы здесь очень кратко коснемся теории задачи Коши
для гиперболических уравнений, служащей иллюстрацией
возможностей применения аппарата псевдодифференциальных
операторов и интегральных операторов Фурье. Более полное
изложение теории гиперболических уравнений, можно найти в книгах
Л. Хёрмандера [3], Ж. Адамара [1], С. Мизохаты [1], Л. Гор-
динга [1].
Лемма 2Л позволяет ограничиться рассмотрением задачи Коши.
для системы уравнений первого порядка
в 2 А'(*>*)м + В& *)*+f(t' *)> -(3.1)
dt
/-1
и (О, х) = <р(х). (3.2)
Здесь и = (ии ..., uN), /=(/i, ..., fN)t <p = (<Pi, ..., Флг), AJ и
£ — квадратные матрицы порядка N.
Определение 3.1. Система уравнений (3.1) называется
строго гиперболической, если при всех (х, |)еГ*^\0
уравнение относительно переменной 31
det
/-1
=*0
имеет N вещественных различных корней.
Покажем, что для строго гиперболической системы уравнений
задача (3.1) —(3.2) поставлена корректно.
Поскольку тот же метод позволяет рассмотреть несколько
более широкий класс систем, введем еще следующее определение.
Определение 3.2. Система уравнений (3.1) называется сим-
метризуемой, если существует такая матрица R(tt x, |) порядка
NxN, что

§ 3. ГИПЕРБОЛИЧЕСКИЕ УРАВНЕНИЯ 327
1) Я(*. х, 6)€=С°°([0, Т\хТ* ($?));
2) R(t9 х, Xt) = R(U x, l) при k^l, |6|^1;
3) |det/?(/, x, £)|^Co>0 при |£|>1;.
4) /?/2 ^yW1 эрмитова при |6|^1.
3.2. Лемма 3.1. Строго гиперболическая система (3.1) сим-
метризуема.
Доказательство. Собственные значения %j(t, x> I) опре:
делены однозначно и являются гладкими функциями при £=И=0,
поскольку они вещественны и не совпадают при 161 == 1.
п
Пусть A(t, х, £)=2 AJ(tt x)lj. Обозначим Мц алгебраиче-
ское дополнение элемента матрицы A— А*/, стоящего на
пересечении i-й строки и /-го столбца. Тогда вектор Mj = (Myy..., MNJ),
/ = 1, 2, ..., N, будет собственным вектором матрицы А. В каждой
точке (tt ху I) при |£|^1 имеет два собственных вектора
единичной длины: ej = Mj/\Mj\ и е} = — Mj/\Mj\, отвечающих
собственному значению %j. Поэтому задача сводится к выбору знака
в каждой точке так, чтобы при этом получились гладкие
функции при 161=^=1. Поскольку при м^З фундаментальная группа
многообразия [0, T]xS*(R*) тривиальна, фиксируя в одной точке
Оо» #о, 1°) знак каждого собственного вектора, однозначно
определяем его всюду на этом многообразии.
Если же я = 2, то это многообразие можно отождествить с
[О, T]xR2x5x. Ясир, что достаточно построить гладкое поле из
собственных векторов на (0, 0, OJxS1. Пусть 0 —координата на 51,
0=^8 <;2я. Найдем векторы е}- при /==1, ..., Ny 8 = 0 и затем
будем двигаться по окружности. Если £/(2я) = бу (0), то вектор
£/(9) построен на всей окружности. Если же ej(2n)= — fy(6),
заменим еу (8) на ej (8) е'е/2. Таким образом, ej (8) будут определены
на всей окружности. Построив векторы еу на [0, 7,]xS*(Rw),
продолжим их на [0, Т]хТ* (Rn) так, чтобы они были однородными
по I при |2|>1 и гладкими при |£|<1.
Пусть /? —матрица, строками которой служат векторы ejt
Матрица RAR-1 является диагональной и потому
эрмитова. D
3.3. В том случае, когда корни характеристического
уравнения вещественны, но некоторые из них совпадают, система не
обязательно симметризуема, хотя в некоторых случаях это
возможно.
Изучение задачи Коши для симметризуемой системы
основывается на энергетическом неравенстве.
Теорема 3.1. Если система (3.1) симметризуема и и
является гладким решением задачи (3.1), (3.2), то для каждого вещест-

328 ГЛ. IX. ЗАДАЧА КОШИ
венного числа s существует такая постоянная C(s), что
|a(.f 0|.<C(s)(|<PL + Sl/<-. *>!.*)• (3.3)
Доказательство. Оператор Q = /?*(/, х, D)R(tt xt D)
является при каждом t псевдодифференциальным оператором
нулевого порядка, причем Q*-~Q сглаживающий оператор порядка
— оо.
По условию матрица RAR-1 эрмитова, т. е.
RAR-^Rt-WR*.
Отсюда следует, что R*RA = A*R*Rt т. е. матрица R*RA также
является эрмитовой. Поэтому оператор Q(t, x> D)A(t, x, D), где
A(ty x9 D) = £AS(tf x)Dj, отличается от сопряженного к нему
на оператор нулевого порядка.
Используя равенства ^ = /Л(£, х% D)u + B(t$ x)u + f(t, x) и
(и$ v)s=(A2su, ц)0> где Л25 —оператор с символом (1 + |£|2)*,
а (и, v)0 = J и (х) v (x) dx, получаем, что
|(Q", u)s = (Q%, u)s+(Qu,d£)s+(Qtu, и),-
= i(QAuf u)s-i(Qu, Au)s+(Qtut u)s + (QBu, u)s + (Qu, Bu)s +
+ (Qf. u)s+(Qu, f)s = i(№QAu, и)о-1(А*А**(}и, и)о +
+(A2sQtu, u)0 + (APQBu, u)0 + (A**Qu> Bu)0 + (AuQf9 u)0 + (A2*Qu, ft.
Заметим, что оператор A2sQA — A*A2sQ имеет порядок 2s в силу
построений. Поскольку оператор A2sQt + A2sQB + B*A2sQ также
имеет порядок 2s и \lm(QAuf u)s\ + \lm(Qu, Au)s\<Ci\u§, то
справедливо неравенство
yRe(Qtt, u)s^C2Uull + l№),
«ели м —гладкая функция от t при O^t^T со значениями
в CJfflR"). Так как A^Q — эллиптический оператор порядка 2s,
то, добавляя к Q оператор порядка —1, можно считать, что
справедливо неравенство Гординга:
Re(Qa, и)^с0\\иЦ
где Co a» const > 0. Таким образом,
<b\u(U -)ls2^Re(Q(^ xf D)u, u)s*£
t t
<Re(Q(0, x, D)u, «),+С2$1«(т, Olidx + Cjl/Cr, .)Bdx<
о о
<iC,i4>p + C,J|tt(t, )BAr+C.J|/(T, -Hidx.
» о

§ 3. ГИПЕРБОЛИЧЕСКИЕ УРАВНЕНИЯ 329
С помощью неравенства Гронуолла отсюда легко получается
опенка (3.3). □
3.4. Теперь можно доказать теорему о существовании и
единственности решения задачи Коши (3.1) —(3.2). Обозначим L^{HS)
пространство функций, интегрируемых с квадратом по t со
значениями в пространстве Hs и нормой
/Т ,1/2
Теорема 3.2. Пусть система (3.1) симметризуема, ipG
&Hs(Rn) и f<=L2(Hs), где s— произвольное вещественное число.
Тогда существует решение u(t, х) задачи (3.1), (3.2) из класса
1<ъ{Н8), это Решение единственно и удовлетворяет неравенству
(3.3).
п
Доказательство. Пусть Ри = -щ —- У AJ(ty *) g^j —
п
— В (t, х) и. Заметим, что оператор Р* = — дт + У ^j* g-y +
/-1
+ 1 У "J7—^ 1 также является симметризуемым, причем роль
матрицы R для него играет /?.*-\ где /? — соответствующая мат»
рица для оператора £.
Здесь Р* — оператор, сопряженный к Р относительно скаляр»
ного произведения
7
(и, v) = \ {и (t, x), v (t, x))o dt.
о
Ясно, что из неравенства (3.3) вытекает единственность
решения и в классе Lt(Hs).
С другой стороны, если t;eC°°([0, Г]хКп) и v (Г, #) = 0, то
т
\v(t9 .)k<C(s)S|P*r;(*, .)U*
о
в силу того же неравенства 3.3. С помощью неравенства Коши
отсюда легко получить, что
т т
l\v(t,-)\\Lsdt^C*(s)T*\ \P*v(t, ОР-.Я,
о о
т
|1>(0, .)iLs^CHs)T\lP*v(t, .)||L,d.
о
"11 Ю. В. Егоров

830 ГЛ. !Х. ЗАДАЧА КОШИ
Имеем
т I
l(v(t* -)>v(t, -))оЯ +|(Ф(-), v(U -))о|<
о I
7
О
< Шц (я,) С (s) Г | />** [м„_?) + || ф I, С (s) Kf I Я*у 1М„_,).
По теореме Рисса, существует элемент и из L2 (ЯД для которого
т т
$(/(*, •). »(<, ))йй + (Ф(-)> »(*. •))-$(«'(*, ). P*v(t, ))dt.
0 0
Это равенство означает, что и является обобщенным решением
из LziHs) уравнения Pu = f, удовлетворяющим условию и(0, #) =
иф(х),"т. е. решением задачи (3.1) —(3.2). При этом
\^lHs)^C(s)\T\f\hlHa)+\/r\v\,l
т. е. справедливо неравенство (3.3). П
3.5. Для построенного решения справедлива теорема о
гладкости в зависимости от гладкости функций ф и /.
Теорема 3.3. Пусть s — произвольное вещественное число,
а. k —целое, fe^O. Если f e Hk(Hs), m. е. конечна норма
/=оо /
а феЯ^, то решение и задачи (3.1), (3.2) принадлежит классу
Hk(Hs)\ если /е=С°°([0, T]xRn) и феС°°(Р), mo we
е=С°°([0, T]xR*).
Доказательство. Продифференцировав уравнение (3.1).
по t, можно получить уравнение для dtu. Из теоремы 3.2
следует, что З^е L2{HS), если k^l. Повторяя это рассуждение
k раз, получим* что
и, д(и, ..., dku^L2(Hs)%
т. е не /У* (ЯД и справедливо неравенство
II и l„k(Hs) < С (| / Ц (/,,, +1 ф h+s).
Если / и ф бесконечно дифференцируемы, то и е Я* (Я,) при
всех Ь s, т. е. «<=С°°([0, T]xRn). D
3.6. В случае строго гиперболической системы (3.1), решение
задачи Коши может быть построено как результат применения
интегральных операторов Фурье к векторам / и ф.

§ 3. ГИПЕРБОЛИЧЕСКИЕ УРАВНЕНИЯ 331
Вначале заметим, что достаточно уметь решить задачу Коши
с / = 0. Если v(t, tt л:) —решение задачи
/=1
v(x, т, x) = f(x9 х),
то функция
и (t, х) = J v (т, t, x) ск
удовлетворяет условию и (0, #) = 0 и уравнению
п
%= %А1(и x)^ + B(t> x)u+f(t, x).
Используя конструкцию из леммы 3.1, можно заменой и = Rv
свести задачу к следующей:
| = A(f, х, D)v + B(U х, D)v9 (3.4)
v (О, х) = Ф(*), (3.5)
где Л(^, х, £) —диагональная матрица, элементами которой
служат собственные значения %i(t, x, £) матрицы
2 AJ(U x)lj при / = 1, ..., N,
a В(/, лс, D) — матричный оператор нулевого порядка.
Положим теперь ^ = (/ + Ki) v, где Ki — оператор порядка
—1, псевдодифференциальный по х при каждом t, O^t^T.
Имеем
d^==(I + K1)A(I+K1)-1w1 + (I+Ki)B(I + K1)-1w1 +
wt(09 x) = (I + Ki)y.
Выберем теперь матрицу Ki(t, x> I) так, чтобы матрица
KiA-AKi + B0 (3.6)
была диагональной и диагональные элементы матрицы К\
равнялись бы нулю. Получим систему
-Q^^Awi + BtWi + AiWu
tMO, x) = (I+Ki)<p(x),
11*

332
ГЛ. IX ЗАДАЧА КОШИ
где Ai — диагональная матрица, элементами которой являются
операторы нулевого порядка, и Вг — оператор порядка —1.
Для доказательства существования матрицы Кг достаточно
показать тривиальность решения однородной системы
(/tA-A/t);y = 0, 1Фи i,j=L...,Nf (3.7)
поскольку условие, что матрица (3.6) диагональна, можно
рассматривать как систему N2 — N линейных уравнений относительно
недиагональных элементов матрицы Кг* Однако из (3.7) следует,
что
Xikij^Xjkij, гф\% /, / = 1, ..., N,
и, так как \Ф*к) при %Ф\% отсюда следует, что Aty = 0.
Далее, можно подобрать матрицу /С2 так, чтобы вектор w2 =
= (/ + /С2)доА удовлетворял системе уравнений
-|2- = Аау2 + B2w2 + (Ах + А2) w2,
где А2 —диагональная матрица с операторами порядка —1 на
диагонали, а В2 — оператор порядка —2 и т. д.
Пусть /С — такой оператор порядка —1, что
/ + K = ...(/ + tf.)(/ + tfi). .
Этот оператор может быть построен методом, описанным в
лемме 3.1 гл. II.
Тогда вектор z = (I + K)v удовлетворяет системе уравнений
g=Az+Tz, г = (/ + /С)ср при / = 0,"
где 7 —сглаживающий оператор порядка —оо, а А
—диагональный оператор с элементами — операторами первого порядка на
диагонали.
3.7. Таким образом, задача сводится к построению решения
задачи Коши для скалярного уравнения
Lw ss д,и - Я, (*, х% Dx)u = 0, (3.8)
и(0, х) = ф(*), (3.9)
где X(tf х, I) — вещественнозначная гладкая функция, a X(t, х, Dx)
при каждом t е [0, Т] является псевдодифференциальным
оператором первого порядка.
Решение задачи (3.8) —(3.9) может быть получено с помощью
оператора
t/(*)q>= \a(t, x, Е)Ф(5)е"<'-*'е><&
i?"
где 5(0, х9 !)»*•£, а(0, x, £) = !.

§ 4. ОЦЕНКИ ТИПА КАРЛЕМАНА 333
При доказательстве теоремы 4.1 в гл. II получили, что
к (t, х, Dx) U (0 <р = (2л)-« \ k (t, x, 1) ф (g) eiS «• *• е> dl,
где
*(<, x, l) = y.-S-^Ia«, у, t)D«%(t, x, A)\._.
k(t, x, S) = y4-DS[a(f, г/, £)W, x, A)]y=x
a ,, = l
Д0, ,, у, i, лНп+f (l-T)a2S('- ^-^ g)dT-(t/-^).
6
Отсюда видно, что функция S определяется из условий
Амплитуда а(/, a:, £) строится как сумма асимптотического
ряда 2а/(*» *» 6). причем а/(*, х, т£) = ir'a/(/, *, £) при т^1,
ж- Z щ} w+l * \h *• Тх—j=u>
«о(0, л:, 6)=1.
Для функций ау при />0 выполняются дифференциальные
уравнения с той же старшей частью, что и для а0, и начальное
условие имеет вид я,(0, х, £) = 0.
Построенный таким образом оператор U удовлетворяет равен*
ствам
LU{t) = U{t)Dt + T> t/(0) = / + 7lf
где 7 и Тх-~ операторы порядка —оо. По существу приведенная
конструкция совпадает с данной в § 4 гл. II и позволяющей
привести оператор L к эквивалентному оператору Dt.
Разрешимость задачи Коши (3.1) —(3.2) для строго
гиперболических систем может быть доказана и таким путем.
Преимущества этой конструкции состоят в том, что здесь можно
проследить за процессом распространения особенностей, доказать теорему
о конечной области зависимости решения от начальных данных
и описать ее в терминах поведения бихарактеристик для
собственных значений 1/.
§ 4. Оценки типа Карлемана
4.1. Рассмотрим вопрос об оценках типа Карлемана:
2 T2(m~6-.|a|)^|£)aw|2eXp[2T9(A:)]dA:^
|а| <т—1
*^С\\Р(х, D)u\2exp[2x(f>(x)]dx1 . (4Л)

334 ГЛ. IX. ЗАДАЧА КОШИ
где u<=C™(Q) и т>0. Здесь Q — открытая область в R",
постоянная С не зависит от и и т, Р(х, D) — псевдодифференциальный
оператор порядка т главного типа, ф е C°°(Q) — вещественнознач-
ная функция, grad ф (х) Ф О, 0^;6<;1.
Будем предполагать, что функция qx(xy Q = p°(x, £+ггф'(х))
определена при всех вещественных т>0 как гладкая функция
от т, х, £. Это условие выполнено, в частности, если р° является
многочленом по I в направлении grad ф (х)> Например, если ф (x)=t,
то оператор Ру являющийся дифференциальным по /,
удовлетворяет этому условию. Поскольку оценки (4.1) представляют
интерес, главным образом, для доказательства единственности
решения задачи Коши, такое ограничение является естественным.
Заметим, что неравенство (4.1) эквивалентно аналогичному
неравенству с оператором Р° вместо Р. Замена u = v(x, т) X
хехр(—тф(л:)) переводит неравенство (4.1) в неравенство
2 T2(m-6-|a|) J j D«v |2 dx<c\ \ P° (x, Dx+i%<p' (x))v\*dx. (4.2)
|a|<m— i
4.2. Будем рассматривать Р°(х, Dx + iT<p' (x)) как
псевдодифференциальный оператор в пространствах HStX с нормами
\\vkr=(Ul + \l\2 + r'r\v(^ t)\2dt\1/2.
Тогда неравенство (4.2) может быть записано в виде
I! v U-*. х < с I Р° (х, D + ix grad <р (х)) v [о, т. (4.3)
Заметим, что при всех а и Р выполнены неравенства
jD?DfP<>(x, I + ixgradФ W)|<Ca.M(l+|E + iTgrad q>(*) |)*-.«i,
для л: е /(, где /С — компактное подмножество в Q. Поскольку
| grad ф (х) | Ф О, справедливы неравенства
c0(\t\ + %)^\t + iTgrady(x)\^C1(\t\+x)
при т>0, Со = const >0.
4.3. Неравенство (4.3) для функций v из C^(QxR+) является
оценкой того же типа, что и изученные нами в гл. VIII.
Естественным при этом является условие (V) для функции р°(х, £ +
+ ixgradq)(x)). Отметим, что при т^т0 неравенство (4.1)
эквивалентно обычной оценке ||и|m_6^С\\Р(х, D)u\\Q и потому
условие OF') должно выполняться для функции /7° (я, £).
Далее, как мы видели в гл. VIII, необходимым для
справедливости оценки (4.3) является условие (SS), которое в данном
случае принимает следующий вид:
Пусть а (х, £„ т) = Re р° (х, £ + ix grad ф (х)), b (х, I, х) =
= Im р° (х, I + /xgrad ф (х)). Если р° (х, I + ix grad ф (х))=0,
• ^£Й, т>0, |£|2 + т2 = 1, то существуют такие целые

» 4. ОЦЕНКИ ТИПА КАРЛЕМЛНА 335
_ числа /•, aJ( Р„ s = 1,..., г, что as5э0, Р^О, £ (а^+р,)</г
^т' и |(ada)ai(odfe)Pi...(ada)a'(ad6),J'-a(A;, g, т)|^с0, где с0 =
= const>0, («</),(*, Э- 2 [ЩШ~ШМХ' 1)-
/ = 1
Если выполнены условия (V') и (<й?т), то доказательство
теоремы 1.2 из главы VIII может быть перенесено на оператор
Qx (jc, D) = Р (я, D +. т grad ф (х)) в пространствах Я5> т и
справедлива
Теорема 4.1. Если функция
qx(x, l) = fP(x, £ + ftgradq>(*))
удовлетворяет условиям (¥') и (d®t) при всех т>0, %^§\п и х из
некоторой области ficR", то существует такая постоянная
С>0, что
2] T2(m —lot| —Дг/(ЛЧ-1)) ^ | O^t/ |2^2^Ф(^)
ia|<m— 1
<zC\\P{x> D)u\*e2x<*Wdx (4.4)
Зля всех и^СТ (Q). Оператор Р в правой части неравенства
можно заменить оператором Р°.
4.4. Покажем теперь, как доказывается единственность
решения задачи Коши с помощью оценок типа Карлемана. Для
простоты ограничимся случаем дифференциального оператора.
Теорема 4.2. Пусть Р (х, D) — дифференциальный оператор
порядка тЗ=1 главного типа и с гладкими коэффициентами.
Предположим, что для функции qx(x, Q=p°(x, I + ix grad ф (х))
выполнены условия (W) и 03x)i когда х лежит в некоторой области Q
из R», £е=Кя\0, т>0. Если u<=Hl°c(Q), P(xy D)« = 0 в Q и
м=0в области {х; jceQ, ф(#)>г|) (*<>)}» где феС°°(й), -ф(лг0)=
=Ф(хо) и я|э(х)<ф(х) при #eQ\*o, то и = 0 в некоторой
окрестности точки Xq.
Доказательство. По теореме 4.1 в окресгности Q
выполнено неравенство (4.4). Пусть h eCj°(Q) и /i= 1 в окрестности (о
точки Хо Положим v=*hu. Тогда иеЯт и Pti = 0 в со. Ясно,
что неравенство (4.4) справедливо для функций v из Ят, если
supp v cz Q. Поэтому можно подставить функцию v в это
неравенство.
В силу построений найдется такое число р>0, что ф(х)^
^ Ф (*о) — р в supp Pv[\Q. Пусть coi = {х\ х е со, ф (х) > ф (хо) — р}.
Тогда из (4.4) следует, что
2] г2^-1а I -б) l\D<*v (x) |2 е2т^ <*»ьр] d* ^
<= С11Р (х, D) v (х) Is е2т I» <*•> - р] dx,

336 ГЛ. IX. ЗАДАЧА КОШИ
и потому
Т2(ш-б) J |у|Мх<С$|Р(*, D)v\2dx
Oh
при всех т>0. Отсюда вытекает, что и = 0 в ©ь и потому а = 0
в ©1. Так как щ является окрестностью точки х0, теорема
доказана. □
§ 5. Теорема Кальдерона
5.1. Рассмотрим решение системы уравнений
т —1
Lu^D?u- 2 a,(t9 x, Dx)Djtu = f(ty x\ (5.1)
/-о
где и = (иъ ..., uN)y / = (/ь ..., Ы» «у — квадратная матрица
порядка /V, элементами которой являются
псевдодифференциальные операторы по х порядка т — /, с условиями:
D{u=0 при £ = 0, / = 0, 1, ..., т—1.
Поскольку мы будем применять псевдодифференциальные
операторы по переменным х, удобно перевести плоскость / = 0, на
которой задаются начальные условия, в поверхность / = 6|л;|2.
Для этого введем новые переменные (f, л;'), положив
х'=х, t'=t + $\x\\ б>0.
Нетрудно видеть, что система (5.1) останется в новых перемен»
ных системой того же вида, т. е. системой типа Ковалевской.
При этом решение и задачи Коши можно считать равным нулю
при t'^8\x'\2 и потому оно имеет компактный носитель по х'
при каждом V, 0 <Г ^ 7\ где Т — некоторое положительное число.
Будем в дальнейшем обозначать V и х' снова через / и х.
Основным результатом этого параграфа является
Теорема 5.1. Пусть корни Хъ ..., ХтЛг характеристического
уравнения
det [XmlN - 2 a/ (t, x, I) v) = 0 (5.2)
удовлетворяют следующим условиям:
(I) Кратность корней X характеристического уравнения (5.2)
постоянна.
(II) £сли порядок жордановой клетки, соответствующей корню
X = a + ib, равен I, то в каждой точке (t, x> £), |£|>1, в
которой b (/, х, £)<0 выполнено неравенство
- W + {я, &} ср' + &ф" ^ 0. (5.3)

§ Б. ТЕОРЕМА КАЛЬДЕРОНА 337
Кроме того, если функция b (t, x, %) меняет знак в точке (t0t x0, 1°),
то в этой точке
21 <%>№>, хо, Ъ*)\^Со\1\, (5.4)
где k^l, Co = const>0.
(III). Если порядок жордановой клетки, соответствующей корню
% = a + ib, равен 2, то
I b | ^с0111 при |£|^1, где cQ =const > 0.
(IV). Если порядок жордановой клетки, соответствующей корню
X = a + ib, больше или равен 3, то
b(t, х, l)^Co\l\ при |5|^1, где е0 = const>0. (5.5)
Тогда при достаточно малых Т и и <= [СТ (<о)]^, где (о={(£, х) е
е R"+1, T^t^8\x\2} выполнено неравенство
т
\ 2 \Dau(t' ')fe2xw)dt^
о |а | ^ m — 1
Т
<С(72 + т-1)5 \Lu(U -)\\2e2xWdt, (5.6)
о
где ф (t) = (t — Г)2, т^т0, постоянная С не зависит от и, Т и
от т, а
m
Lu = DTu- 2 fly С, *, D)D{a.
/ = о
Из этой теоремы легко выводится теорема единственности
решения задачи Коши.
Теорема 5.2. Пусть Lu = Q в области Q = {(t, x)^Rn+1,
t<T} и suppwc: (o = {(^, x)eRw+1, *^6|л;|2}. Если корни
характеристического уравнения (5.2) удовлетворяют условиям (I) —(IV)
теоремы 5.1, а Т достаточно мало, то и = 0 в Q.
Доказательство. Пусть fteC°°(R), ft 5^0, причем h(t)=Q
при *Ss7\ ft(f) = 1 при *<Г(1 - б), где б -любое число, 0<б< 1/2.
Тогда L(hu) = 0 при *<Г(1—6).
Подставим в (5.6) вместо и функцию hu. Тогда
7(1 —26) Т
I е2х*^\\u(t, •)f dt< J е2х(Р<'> ||ft(0 и (*, -) |2Л<
о о
т
< С (Г2 + х-1) 5 е2Тф (Л || I (fta) (*, ■) I2 dt =
Г
^=С(Г2+т-1) J e2T<P^lL(ftw)(/, -)fdt.

338
ГЛ. IX. ЗАДАЧА К0ШИ
Поскольку ф'(0<0 при 0<£<7\ отсюда видно, что
7(1 — 26)
е2Тф(Щ-2б)) J |ц^ .)рЛ<
о
7
^ С (Т2 + т-1) е2Т(Р <г t1-6» 5 IL (М С •) !2 dt
7(1 — 6)
Устремляя т к +°°» получаем, что «(/, х) = 0 при t^T(\ —26).
Так как 6 — любое неотрицательное число, отсюда следует, что
u(t, х) = 0 при t^T. П
. Замечание 5.1. Вместо поверхности £ = fi|#|2 можно
рассматривать любую гладкую поверхность типа t = ty(x)y где г|э(х)>
>гр(0) при хфО, если диаметр пересечения области {(t, x), t>
>гр(л:)} с плоскостью t = v стремится к нулю при в->0.
5.2. Заменим задачу Коши для системы (5.1) эквивалентной
задачей для системы уравнений первого порядка. Однако здесь
не применим прием, использованный при доказательстве леммы 2.1,
поскольку при этом возникают лишние характеристики. Способ,
предложенный А. П. Кальдероном, позволяет свести систему (5.1)
к системе Nm уравнений первого порядка, имеющей то же самое
характеристическое уравнение. При этом, в отличие от леммы 2.1,
полученная система будет содержать уравнения,
псевдодифференциальные по переменным х даже в том случае, когда система (5.1)
была дифференциальной.
Пусть Л — оператор с символом (1 +1 £ |2)1/2, так что Л2 = 1 — А.
Пусть и;=Ат-Ю{~]и, /=1, ..., т, так что щ является Л/-мер-
ным вектором. Пусть [/ — вектор-столбец [иъ и2, ♦ .., ит]. Тогда
система уравнений первого порядка для вектора (/,
эквивалентная (5.1), имеет вид
т—1
/-о
(5.7)
Операторы в правой части являются псевдодифференциальными
операторами первого порядка. При этом характеристическое
уравнение имеет вид
О
\fljtf. *. О\lI1""1. *\(U хЛ)\1 l2"m,.... <&_! (/, х. By
= 0.
(Напомним, что а/ —квадратные матрицы порядка ЛЛ) Оно
совпадает с (5.2). Поэтому характеристические корни исходной
системы (5.1) совпадают с характеристическими корнями
полученной «истемы (5.7) уравнений первого порядка.

§ 5. ТЕОРЕМА КАЛЬДЕРОНА 339
5.3. Запишем систему уравнений (5.7) в виде
DtU = P{t, х, DX)U + F.
Здесь Р — матрица, составленная из псевдодифференциальных
операторов первого порядка, действующих по переменным х. Ниже
показано, что при условиях (I) —(IV) выполнено неравенство
т
J*e««p<'>|t/(ff .)|'Я«£
о
т т
*£ С (Г? + т-1) \ е^ О | DtU - PU Ц dt + C\ е2^ О \\ U |Li dt, (5.8)
о о
если 70 — достаточно мало.
Этого достаточно для вывода оценки (5.36). В самом деле, из
определения вектора U следует, что с некоторой постоянной С
верны оценки
C-'lUll^ 2 \\Dtxut^C\\U\l
|а ] <т—1
т
/«1
С другой стороны,
lDtU-PU\\l = \\ni = \\LuH
Поэтому из (5.8) следует, что
т
О |а|<т—1
< Сг (П + г-1) )° е^ «>1L« (*, •) В <ft +
О
т 70
Заметим, что при 0 <; t <; 7 справедливо неравенство diam о <: ]/Т
и потому
m
/ = 1 /+|а|<т
Если Т настолько мало, что CiC2T< 1/2, то получаем оценку (5.6).
Таким образом, задача сводится к доказательству неравенства (5.8).
5.4. Условие (I) позволяет нам локально, т. е. в окрестности
точки (0, 1°) e|R',+1xS'|-1f привести матрицу Р0 к жордановой
нормальной форме, в которой каждая диагональная клетка имеет
постоянный размер. Можно утверждать, что в указанной окрест-

340 ГЛ ТХ ЗАДАЧА КОШИ
ности определена такая невырожденная матрица Q(t, х, I) с
гладкими элементами, что матрица J = QP0Q~1 состоит из
диагональных клеток вида
(MU *. В 1 о ... о
0 K(t, х, I) 1 ... О
0 0 0 ... l(t, х, I)/
Продолжив матрицу Q гладким образом так, что
Q(U х9 t£)=tQ(*, х% I) при |g|s*l, т^1,
можно рассмотреть псевдодифференциальный оператор Q(ty x, D).
Поскольку ^ — произвольная точка на сфере S"-\ получаем, таким
образом, покрытие сферы окрестностями, в которых определена
матрица Q. По теореме Гейне — Бореля, можно выбрать из этого
покрытия конечное покрытие окрестностями <оь • •» ®Р
указанного вида и построить затем подчиненное ему разбиение единицы
р
2«/(5) = l, a/eC0O(S/I-1). Продолжим ay на все пространство
/=i
до гладких функций, положительно однородных нулевой степени
при |||^1. Пусть Aj(D) — псевдодифференциальный оператор
с символом ау (£) и Uf = Aj (D) U. Тогда £ | Uj Ц -1 U Ц и
/
\\DtU-PU\l = ^\\Aj(D)(DtU^PU)ll^
SMUj-PUf + M* P]Ufr
i
Оператор [Лу, Р] имеет нулевой порядок, и потому
\WDtU-PU\l-ZWDtUj-PUjll
I /
Здесь Но — норма в пространстве 12(КЛ)» так что
рассматриваемые функции и их нормы зависят от t, как от параметра.
Построим теперь символ Pj {t, x, £), который совпадает с Р0 (ty x, £)
в suppay и который приводится к жордановой нормальной форме
сразу на всей сфере Sn_1. Для этого удобно построить гладкое
отображение г|у. S^-^coy тождественное в suppay. Далее, поло
жим Pj(t, х, l) = Po(t, xt %(£)) при ||| = 1, и аналогично,
QjiU х% £)=<?(*, *, ЬШ *j(t> *> t) = J(t, х, г|?у(£)), где Q и
/ — матрицы, определенные выше для окрестности coy. Ясно, что
QjPjQ]1z=Jj при /=1, ..., /?. Продолжим эти матричные функции
до гладких функций во всем пространстве переменных |,
однородных при |£|;^1» так чтобы соотношение QjPjQ]1 = Jj
выполнялось при всех £, |6|^1. Порядок однородности для Qj при
этом равен 0, а для Pj и /,—единице. Пусть теперь Qj(f, хл D) Uj=Vj.
С] U Ц

§ 5 ТЕОРЕМА КАЛЬДЕРОНА 341
Тогда Uj = SjVj-\-TjUj, где Sj — параметрикс для эллиптического
оператора Qjy порядки Sj и Qj равны нулю и
II Uj [о < С | Vj (о + Сг | (/у 1-х, | Vy ||о < d || Uj |'o. (5.9)
Таким образом,
Qj {DtUj -PUf) = DtVj - QjPSjVj + ЗД = DiVf - JjVf + Tit/,
где То и 7q имеют нулевой порядок. Отсюда следует, что
II DtVj - JjVj ||о ^ С21 ВД -Я£/у к + С31 (У, ||о
и потому
2J|AV/-//V/|S<C4|D/[/-./>t/|J + C.2]|l//B. (5Л0)
/ у
Проверим теперь, что из оценки
т
$е"ф('>|1>(*, ■)!?#*£
о
< С (Г2 + г1)] е"» «> [ (D, - /у) о (*, •) |i dt, (5.11)
0
для /=1, ..., /?, ueC?(Q)f где Q = ((U)sR^, 0</<7},
вытекает неравенство (5.8).
Для этого подставим в (5.11) v = Vj и просуммируем
полученные неравенства по /.
Имеем
где Ce = const >0. С другой стороны, из (5.10) следует, что
ZKDt-JJVjIl^CADtU-PUIt + Cb-ZiVjll^
<С4||Щ/-Р£/|„г + С8|{/12.
Если Т2 + х-х^(2СС8)-1С6, то получаем из (5.11), что
0
т т
^ Св (Г2 + т-1) $ е^ «> | DtU-PU |S d/ + С10 J e2^ «>|| £/ JL, Л,
0 а
т. е. справедливо (5.8).
5.5. Докажем теперь неравенство (5.11). Очевидно, что
достаточно доказать его для отдельных клеток в жордановои
нормальной форме. Проведем это доказательство в три этапа,
соответствующих условиям (И) — (IV).

342
ГЛ. IX. ЗАДАЧА КОШИ
(II). Пусть aeCS°(co), Dtu-A(\ x, D)u-iB(t, xy D)u=*f и
для главного символа a + ib оператора A + iB выполнены
условия (5.3) и (5.4). Замена а = ш"Тф(Л приводит к уравнению
Dtv — A(t9 xt D)v — iB(t, x, D)v + iTq>' (t)v = g9
где g = /eT(p(/). Задача состоит в доказательство неравенства
■$|1>ВЯ<СГ«$ Wglldt. (5.12)
о о
При этом неравенство (5.13) означает, что условие (W)
выполнено при всех т>0. В самом деле, условие (¥') означает, что
функция b(t, х, |)— vp'(t) не меняет знака с минуса на плюс
вдоль бихарактеристики функции o — a(tt x, I) (а — двойственная
к / переменная). Поэтому функция &/<р'— т не должна при
возрастании t менять знака с плюса на минус при всех т>0. Но
это означает, в свою очередь, что функция Ь/ф' должна быть,
монотонно возрастающей в той области, где ее значения
положительны, т. е.
b(U *, |)<0^{о-а, £}^0.
Это и есть условие (5.3), которое, таким образом, достаточно для
того, чтобы в окрестности точки (t, x% £), где b(tt x9 £)<0,
выполнялось условие (А) теоремы 1.4 из гл. VII. В окрестности
точки (/, х, £), в которой функция b принимает положительное
значение, выполнено условие (В) той же теоремы. Наконец,
условие (5.4) означает, что в окрестности каждой точки (/, х, £),
в которой функция b меняет знак, выполнено условие теоремы 1.2
главы VIII. В силу построений из п. 2.5 гл. VII, можно
утверждать, что неравенство (5.12) справедливо.
(III). Пусть
D&i — A(t9 xt D)u1-iB(t> x, D)u1-Au2 = fu
Dtu2 — A(t, x, D)u2 — iB(t, x, D)u2 =/2
и оператор В является эллиптическим оператором первого порядка
с вещественным символом, так что
\Au\<Ci(\Bo\ + \v\)
для v e Cf (со). Замена щ = vje~X(f> (Л при / = 1,2 переводит систему
(5.13) в систему
Dtvx-A(t, х, D)vx — iB(t, x9 D)v1 + h(p/ (0t>i-Л^2 = gi,
Dtv2 — A(t, x, D)v2 — iB(t, x9 D)v2 + nq>' (t)v2 = g2y
где gj^fje^m. Из второго уравнения этой системы следует, что
g2f = \DtVb~Av*l2 + l(B-T4>')v2f+2Rei(Dtv2-Av2t (Я-тф>2).

§ 5. ТЕОРЕМА КАЛЬДЕРОНА 343
Как и в случае (И), справедлива оценка
т т
\ \\Dtv%-Av^Tdt^CoT-*\ \v2fdt.
о о
Далее,
т
2 Re i $ (Dtv2 - Av2i {В - тф') v2) dt =
о
T T
^Rejtf— Bt-i[B9 A])v2i v2)dt + Re J(^2, (fl-B*)i*)dt +
0 0
T 7
+ x ^'lUtP^-Ref J(((B*-5)4-(Л*-Л)В)и8, u2)d/ +
т
+ Rett J ((Л*-Л)и2, udq/(<)<«• (5.15)
0
Поскольку операторы А*—А и В* —В имеют порядок 0, а
операторы В* и [В, Л] —первого порядка, то отсюда следует, что
7 7
2 Re г $ (Dfflt- Ли2, (В-тф') v%)dt ^x\ цГ\v2 f dt -
о о
т т т
-С2\ ||Ли21Ы^-С2т$ \<p'(t)]\\v2l%dt~-C2\ \\g2\\lv2\\dt.
0 0 О
Поскольку
1(В-тф/)^||^||5с;2|-т|ф'||^!^Сз||Л^1-(С4 + т|ф,|)!^!,
где c8 = const>0, имеем
т т т
о о о
т т т
+ C6T§\<p'\lv2fdt<:j§l(B-T<p')v42dt-\-C7jlvtpdt +
0 0 О
Т Т 7
+ С8х J |<р' ||о»рж| J 1(В-тФ')«2 рЛ + у J |t%p<tt,
если т достаточно велико, а 7 достаточно мало.

344 ГЛ. IX. ЗАДАЧА КОШИ
Таким образом,
1 Т Т
£ \gt\*dtz*± J \\v2\?dt + c0T-* J \\v2fdt +
+ 1^|(В-хф')^рЛ. (5.16)
Отсюда видно, что
т т т
$ || Av2 fdt < С9 J | (В - тф') v2 р Я + С9 $ | v212 <ft +
0 0 0
+ C9T*\<p'stv2fdt^C10(l+<cT*)\ tg2fdt. (5.17)
о о
Из неравенства
| Dtvx - Avx - ffli* + ixy'vx 1 < |ft + Лу2 II
тем же путем получаем оценку
Т-2\ Mdt + T-^ WAv.fdt + rl Mdt^Cn] \\gi + Av2fdt.
о о о о
Отсюда
\ Kpd^CuT-^ Igifdt + Cniv^ + T^l \gtfdt9
0 0 О
что вместе с (5.16) дает искомую оценку.
(IV). В этом случае рассматриваем систему уравнений
DtUi — Aux —iBux — Ли2=/ь
Dtur-\ — Aur-i — iBur-г — Aur = fr-i,
Dtur — Aur —iBur =/r,
где r — некоторое число, 3 ^ г <; /V. После замены щ = vje~x^r
эта система переходит в систему
DtVi —Avx —iBvi -\-i%y'v\ — Av2=g1,
DtVr-i — Avr-i — iBvr-i + ixy'Vr-i — Avr = gr-i,
D,iv — Avr —iBvr +ivf'vr =gr-
Начнем оценки с последнего уравнения в этой системе. Имеем,
как и выше,
|! Dtvr - Avr |2+I (В - тф') vr i,2 + 2 Re * (Dtvr - Лiv, Bvr - щ'иг) = ||gr I2.

§ 5. ТЕОРЕМА КДЛЬДЕРОНА 345
При этом
2 Re i\ (DtVr — Avr, Bvr — щ'иг)(И =
т т
= Re$ ((—Bt-i[B, A])vry Vr)dt + %\ ф"|Ы2^ +
6 . о
т т
+ Re \ ((В - В*) vr9 dtvr) dt + Re ix \ ((A* - A) vr, vr) ф' (О dt -
о о
T 7 7 T
0 0 0 0
Поскольку по условию (5.5) b(t, x> £)^£o|£| при |5|3sl и
Ф' < 0, справедливо неравенство | b (t, x, I) — тф' | ^с0 \ I \ -\-х | ф' |
и потому
\\(B-x4>')vf^co]A.vf + x2\\<p'vf--C2\\vf
для и<=Со°(со), где с0 = const >0.
Но тогда
7 7 7 7
J I Я, Р dt^ | J | Луг f dt + Clx J | vr f dt + c2T~* J J vr f dt,
0 0 0 0
где С; = const >0, / = 0, 1, 2.
Используя оценку для Aiv, можно далее оценить функцию
tv_i, так что
$(Ыв + 1*г-1р)*2*
^65 |Ао^1РЛ + с1т$ ||^i!2^ + c^25 IWr-iP*.
Продолжая этот процесс, придем к оценке
2 \ (i4f+*\\vji2+T~4v;t)dt^c £ $ |ягурл.
/=10 /«Ю
Таким образом, доказано неравенство (5.11), и тем самым
полностью доказана теорема 5.1. П
Замечание 5.1. Условие.(I) можно было бы заменить более
точным условием постоянства кратности нормальных делителей,
поскольку характеристические корни X в разных клетках матрицы J
мо*гут, разумеется, совпадать.

КОММЕНТАРИИ
К гл. I
Развитие теории распределений начинается с выхода в 1951 г. книги
Л. Шварца [11], хотя основы ее были заложены еще в работах С. Л. Соболева
(см. [1]). Более основательно эта теория изложена в книгах В. С.
Владимирова [1], Л. Шварца [2], С. Л. Соболева [2], И. М. Гельфанда и Г. Е.
Шилова [1]. Изложение во многих местах близко к книге Л. Хёрмандера [3].
Конструкция фундаментального решения взята из книги И. М. Гельфанда и
Г. Е. Шилова [1] Подробное изложение теории распределений на
многообразии приведено в книге Де Рама [1].
К гл. Н
Теории сингулярных интегральных операторов посвящены книга С. Г. Мих-
лина [1] и работы А. П. Кальдерона и А. В. Зигмунда [1] —[2]. Алгебра
псевдодифференциальных операторов была построена впервые в работе
Дж. Дж. Кона и Л. Ниренберга [1], ее описание можно найти в книгах
М. Тейлора [1], М. А. Шубина [1], К. Фридрихса [1], в работах Л.
Ниренберга [1] —[2], Л. Хёрмандера [4].
Изложение в § 4 следует в основном работе Ю. В. Егорова (10]. Отметим,
что результат, близкий по форме к теореме 4.1, в приложении к операторам
квантовой механики был получен ранее В. А. Фоком [1]. Другие варианты
изложения этой теоремы имеются в работах М. В. Федорюка [1], Л.
Ниренберга и Ф. Трева [2], Л. Хёрмандера [13].
Важное для приложений неравенство Гординга было получено впервые
в точной форме в работе Л. Хёрмандера [6]. Мы в основном следуем в § 5
статье П. Лакса и Л. Ниренберга [1]. Обобщения этой теоремы получены
в работах А. Мелина [1], Л Хёрмандера [16], Ч. Феффермана и П. Фонга
С различными обобщениями теории псевдодифференциальных операторов
можно познакомиться по работам Л. Хёрмандера [7], [16], Р. Билса [1], [2],
X. Кумано-го [2]. Основной результат § 7 принадлежит А. П. Кальдерону и
Р. Вайянкуру [1], [2]. Наше изложение близко к работе Л. Буте де Мон-
веля [1].
К гл. III
Излагаемая конструкция параметрикса близка к работе Ф. Браудера [1],
Метод сведения к уравнению на граничном многообразии разработан Я. Б. Ло-
патинским [1], Р. Сили [1] и Л. Хёрмандером [6].
Изложение теории эллиптических краевых задач можно найти в работе
С. Агмона, А. Дуглиса, Л. Ниренберга [1], в книге Л. Хёрмандера [3],
в статьях М. Шехтера [1]. Дж. Питре [1], М. С. Аграновича [1].
К гл. IV
Изложение близко к работе Ю. В. Егорова и В. А. Кондратьева [1],
Пример из § 1 принадлежит А. В. Бицадзе (см. [1]). Задаче с косой
производной посвящены работы А. В. Бицадзе [1], М. Б. Малютова [1], В. Г. Мазьи
и В. П. Панеяха [1], В. Г. Мазьи [1], К. Таиры [1] — [4], Б. Винцелля.[1],
Ш А. Алимова [1], Р. Боррелли [1].

КОММЕНТАРИИ 347
К гл. V
Понятие волнового фронта введено в работе Л. Хёрмандера [13]. Ранее
близкое понятие сингулярного носителя гиперфункции было введено в работе
М. Сато [1]. Подход, излагаемый м § 3, предложен в работе В. Гийемина и
Д. Шеффера [1], см. гакже В. Гийемин и Ш. Стернберг [1]. Результаты § 6
получены в работах Л. Хёрмандера [13], Г. Даюстермаата и Л. Хёрмандера [1].
К гл. VI
Пример 1.1 принадлежит В. В. Грушину [2], переработавшему примеры
П. Гарабедяна [1]. Основная теорема из у 2 получена в работе Л.
Хёрмандера [2]. Случай нуля конечного порядка изучен в работе Л. Ниренберга и
Ф. Трева [2] и Ю. В. Егороьа [11]. Структура символа изучалась 10. В.
Егоровым в [13] (см. также [14]). Теорема из § 5 не публиковалась ранее, она
обобщает теорему из работы Ю. В. Егорова и П. Р. Поливанова [1].
К гл. VII
Изложение следует в основном работе Ю. В. Егорова [20]. Доказательство
более общей теоремы, анонсированной автором в [16], [19], пока не опубликовано.
К гл. VIII
Впервые субэллиптические операторы с б =1/2 были введены в работе
Л. Хёрмандера [6]. В работах Ю. В. Егорова [1], [3], [5], [7], [8] описаны
некоторые классы субэллиптических операторов. Оценки для операторов
первого порядка изучались в его работе [2]. Впервые основная теорема о
необходимых и достаточных условиях субэллиптичности была сформулирована
в работе Ю. В. Егорова [4]. Полные доказательства опубликованы в его
работах [14], [15] (см. также поправку в [18]). В работе Л. Хёрмандера [18]
предложено усовершенствование финальной части доказательства, упрощающее
построения и оценки с разбиением единицы из работы Ю. В. Егорова [15]. Эта
1 идея использована в § 5. В работе [7] Ф. Трева теорема о достаточных
условиях доказана для дифференциальных операторов.
Теорема 8.1 получена Дж. Дж. Коном в [3], необходимость условий тео-
\ ремы 8.2 доказана в работе П. Грейнера [1], достаточность (в несколько более
слабой форме) —в работе Дж. Дж. Кона [3]. В 1964 г. в работе Дж. Дж. Кона [2]
субэллиптические операторы были описаны полностью для случая строго псевдо-
I выпуклой области в пространстве Сл для любого п. В работе [5] Дж. Дж. Кон
получил окончательные результаты о субэллиптических оценках в
псевдовыпуклой подобласти пространства Сл.
К гл. IX
Излагая теорему Ковалевской, мы следуем в основном книге Ф. Трева [1].
Задача Коши для симметризуемых систем изучена в книге С. Мизохаты [1]»
см. также работу Л. Ниренберга [1]. Процесс диагонализации строго
гиперболической системы, проведенный в § 3, предложен в работе М. Е. Тейлора [2].
, Теоремы 4.1—4.2 и 5.1—5.2 доказаны в работе Ю. В. Егорова [22], при этом
изложение § 5 близко к работе Л. Ниренберга [2].

БИБЛИОГРАФИЯ
Агмон С, Дуглис А., Ниренберг Л. (Agmon S., Douglies A.
Nirenberg L.)
fl] Estimates near boundary for solutions of elliptic differential equations
satisfying general boundary conditions. — Comm. Pure Applied Math., 1959, 12,
623—727. (Русский перевод: Оценки решений эллиптических уравнений
вблизи границы. — М.: ИЛ, 1962.)
Агранович М. С.
[1] Эллиптические сингулярные интегро-дифференциальные операторы. — УМН,
1965, 20, № 5, 3—120.
[2] Граничные задачи для систем с параметром. — Матем. сб., 1971, 84, № 1,
27-65.
Адама р Ж. (Hadamard J.)
[1] Le probleme de Cauchy, Paris, 1932. (Русский перевод: Задача Коши для
линейных уравнений с частными производными гиперболического типа. —
М.: Наука, 1978).
Алимов Ш. А.
[1] Об одной задаче с наклонной производной. — Дифф. уравнения^ 1981, 17,
№ 10, 1738—1751.
Андерсон (Andersson К. G.)
[1] Propagation of analyticity of solutions of pseudodifferential equations with
constant coefficients'. — Arkiv for Matematik, 1970, 81, 277—302.
Андерсон, Мельроуз (Andersson К. G., Melrose R.)
[1] The propagation of singularities along gliding rays. — Invent. Math., 1977,
41, 197—232.
Арнольд В. И.
[1] Лекции по классической механике. — М.: Изд-во МГУ, 1968.
[2] Математические методы классической механики. — М.: Наука, 1974.
Атанасов А. И.
[1] Об одном классе субэллиптических систем псевдодифференциальных
операторов. — Вестник МГУ, 1974, № 2, 3—8.
Берез и н Ф. А., Шубин М. А.
[1] Лекции по квантовой механике. —М.: Изд-во МГУ, 1972.
Б е р с Л., Джон Ф., Ш е х т е р М. (Bers L., John F., Schechter M.)
[1] Partial differential equations. N. Y.: Wiley, 1964. (Русский перевод:
Уравнения с частными производными,—М.: ИЛ, 1966.)
Биле (Beals R.)
[1] Spatially inhomogeneous pseudo-differential operators, II. — Comm. Pure
Applied Math., 1974, 27, 161—205.
[2] A general calculus of pseudodifferential operators. —- Duke Math. J., 1975,
42, № 1, 1—42.
[3] Characterization of pseudodifferential operators and applications. — Duke
. Math. J., 1977, 44, № 1, p. 45—57.
[4] On the boundedness of pseudodifferential operators. — Comm. PDE, 1977, 2,
1063—1070.
Биле, Фефферман (Beals R., Fefferman C.)
[1] On local solvability of linear partial differential equations, — Ann. of Math.,
1973, 97, No 3, p? 482—498,

БИБЛИОГРАФИЯ
349
[2] Spatially inhomogeneous pseudodifferential operators, I.— Comm. Pure
Applied Math., 1974, 27, 1—24.
Бицадзе А. В,
[1] Краевые задачи для эллиптических уравнений второго порядка. — М.: Наука,
1966.
Б о н и (Bony J.—М.)
fl] Principle du maximum, inegalite de Harnack et unicite du probleme de Cauchy
pour les operateurs elliptiques degeneres. — Ann. Inst. Fourier, 1969, 19, № 1,
277—304.
12] Propagation des singularites differentiables pour une classe d'operateurs diffe-
rentiels a coefficients analytiques. — Asterisque, 1976, 34—35, 43—91.
Б о р е л л и (Borrelli R.)
[1] The singular, second order oblique derivative problem. — J. Math, and Mech.,
1966, 1, 51-81.
Б р а у д e p (Browder F. E.)
[1] Estimates and existence theorems for elliptic boundary value problems.—
Proc. Nat. Acad. Sc. USA, 1959, 451, 365—372.
|2] Functional analysis and partial differential equations. — Math. Ann., 1959,
138, 55—79.
Буте де Монвель (Boutet de Monvel L.)
[1] Hypoelliptic operators with double characteristics and related
pseudodifferential operators. —Comm. Pure Applied Math. 1974, 27, 585—639.
Буте де Монвель, Гийемин (Bouter de Monvel L., Guillemin V.)
[1] The spectral theory of Toeplitz operators. — Ann. Math. Studies (Princeton),
1981, № 99.
Вейль (Weyl H.)
jl] Gruppentheorie and Quantenmechanik — Leipzig: Verlag von S. Hirzel, 1928.
Вейнстайн (Weinstein A.)
[1] Symple:tic manifolds and their lagrangean submanifolds. — Adv. in Math.,
1971, 6, 329-346.
Вайянкур (Vaillancourt R.)
[1] A simple proof of the Lax-Nirenberg theorem. —Comm. Pure Applied Math.,
1970, 23, 151—163.
Винцель (Winzell B.)
[1] Solutions of second order elliptic pseudodifferential equations with prescribed
directional derivative on the boundary. — Dissertation, Linkoping U., 1975.
В и ш и к М. И., Г р у ш и н В. В.
[1] Об одном классе вырождающихся эллиптических уравнений высших
порядков. — Матем. сб., 1969, 79, 3—36.
[21 Вырождающееся эллиптические дифференциальные и
псевдодифференциальные операторы. — УМН, 1970, 25, № 4, 29—56.
Владимиров B.C.
[1] Уравнения математической физики.—М.: Наука, 1981.
[2] Обобщенные функции в математической физике. — М.: Наука, 1979.
Волевич Л. Р.
[1] Гипоэллиптические уравнения в свертках.—ДАН СССР, 1966, 168, № 6,
1232-1235.
12] Псевдодифференциальные операторы с голоморфными символами и классы
Жеврея. — Труды ММО, 1971, 24, 43—68.
Волевич Л. Р., П а н е я х Б. П.
[1] Некоторые пространства обобщенных функций и теоремы вложения. — УМН,
1965, 20, № 1, 3—74.
Г а б о р (Gabor A.)
[1] Remarks on the wave front of a distribution. — Trans. Amer. Math. Soc, 1972,
170, 239—244.
Ганнинг Ф., Росс и Х.
fl] Аналитиче:кие функции многих комплексных переменных. — М.: Мир, 1969.
Гарабедян (Garabedian P. R.)
1] An unsolvable equation. — Proc. A. M. S., 1970, 25, 207—208.

350
БИБЛИОГРАФИЯ
Гельфанд И. М., Шилов Г. Е.
[1] Обобщенные функции, вып. 1—3,—М.: Физматгиз, 1959.
Гийемин В., Стернберг С. (Guillemin V., Sternberg S.)
[1] Geometric asymptotics. — Math. Surveys, 1977. (Русский перевод: Геометри-
' ческие асимптотики. —М.: Мир, 1981.)
Гийемин, Шеффер (Guillemin V., Schaeffer D.)
[1] Fourier integral operators from the Radon transform point of view. — Proc.
Symp. Pure Math., 1975, 27, 297—300.
[2] On a certain class of Fuchsian pseudodifferential equations. — Duke Math. J.,
1977, 44, № 1, 157—199.
Г о р д и н г (Garding L.)
[1] Linear hiperbolic partial differential equations with constant coefficients.—
Acta Math., 1951, 85, 1—62.
[2] Cauchy's problem for hyperbolic equations. —Chicago: Lectures notes, 1957.
(Русский перевод: Задача Коши для гиперболических уравнений. —М.: ИЛ, 1961.)
Г р е й н е р (Greiner P.)
[1] Subelliptic estimates for the d-Neumann problem in C2. — J. Diff. Geometry,
1974, 9, 239-250.
Гроссман, Лупиас, Стейн (Grossman A., Loupias G., Stein E. M.)
[1] An algebra of pseudodifferential operators and quantum mechanics in phase
space. — Ann. Inst. Fourier, 1969, 18, 343—368.
Г р у ш и н В. В.
[1] Распространение гладкости решений дифференциальных уравнений
главного типа. —ДАН СССР, 1963, 148, № 6, 1241—1244.
[2] Псевдодифференциальные операторы в Rn с ограниченными символами. —
Функц. анализ и его приложения, 1970, 4, № 3, 37—50.
[3] Об одном примере дифференциального уравнения без решений. — Матем.
заметки, 1971, 10, № 2, 125—128.
[4] Об одном классе эллиптических псевдодифференциальных операторов,
вырождающихся на подмногообразии.—Матем. сб., 1971, 84, 163—195.
[5] Гипоэллиптические дифференциальные уравнения. — Матем. сб., 1972, 88,
504—521.
Даюстермаат (Duistermaat J.)
[1] Fourier integral operators. — N. Y.: Courant Inst. Lect. notes, 1971.
Даюстермаат, Хёрмандер (Duistermaat J., Hormander L.)
[1] Fourier integral operators II. — Acta Math., 1972, 128, 183—269.
Даюстермаат, Шестранд (Duistermaat J., Sjostrand J.)
[1] A global construction for pseudodifferential operators with non-involutive
characteristics. — Invent. Math., 1973, 20, 209—225.
Д е н к е р (Dencker N.)
[1] On the propagation of singularities for pseudodifferential operators of principal
type. Thesis, Lund, 1981.
Дынин А. С.
[1] Сингулярные интегральные операторы произвольного порядка на
многообразиях. — ДАН СССР, 1961, 141, 21—23.
Егоров Ю. В.
[1] Псевдодифференциальные операторы главного типа. — Матем. сб., 1967,
73, 356—374.
[2] Оценки для дифференциальных операторов первого порядка. — Функц.
анализ, 1968, 3, № 3, 59—77.
[3] Об одном классе псевдодифференциальных операторов. — Матем. сб., 1969,
79, 59-77.
[4] О субэллиптических псевдодифференциальных операторах. — ДАН СССР,
1969, 186, № 1, 20—22.
[5] О невырожденных субэллиптических операторах. — ДАН СССР, 1969, 186,
№ 5, 1006-1007.
[6] О канонических преобразованиях псевдодифференциальных операторов. —
УМН, 1969, 24, № 5, 149—150.

БИБЛИОГРАФИЯ 351
[7] О локальных свойствах псевдодифференциальных операторов главного типа. —
М.: МГУ, 1970.
[8] Невырожденные субэллиптические псевдодифференциальные операторы. —
Матем. сб., 1970, 82, 323—342.
[9] О локальной, разрешимости псевдодифференциальных уравнений. — В кн.:
Межд. конгресс математиков в Ницце. — М.: Наука, 1972.
[10] Канонические преобразования и псевдодифференциальные операторы. —
Труды ММО, 1971, 24, 3-28.
[11] О необходимых условиях разрешимости псевдодифференциальных
уравнений главного типа. —Труды ММО, 1971, 24, 29—41.
[12] О разрешимости д:-фФеоенцчальных уравнений с простыми
характеристиками. — УМН, 1971, '26, № 2, 3—28.
[13] О структуре субэллиптических операторов. — ДАН СССР, 1971, 198, № 6,
1259-1262.
[14] Субэллиптическке операторы. — УМН, 30, № 2, 57—114.
[15] О субэллиптических операторах. — УМН, 1975, 30, № 3, 57—104.
[16] Об условиях разрешимости дифференциальных уравнений с простыми
характеристиками. — ДАН СССР,. 1976, 229, № 6, 1310—1312.
[17] О регулярности решения d-задачи Неймана. — Вестник МГУ, сер. матем.
и мех., 1977, № 5, 12—21.
[18] Об одном неравенстве для дифференциальных операторов первого порядка, —
УМН, 1978, 33, № 6, 203—204.
[19] О решениях уравнений главного типа. — В кн.: Дифференциальные
уравнения с частными производными. — Новосибирск: Наука, 1980, с. 116—120.
[20] О достаточных условиях локальной разрешимости псевдодифференциальных
уравнений главного типа Тр. ММО, 19/4, 31, 59—84.
[21] Operateurs souselliotiques. —Paris: Colloque Internat. С. N. R. S., Asteris-
que, 1973, 152—159.
[22] О единственности решения задачи Коши. —ДАН СССР, 1982, 265, № 4,
812—814.
Егоров Ю. В., К о н д р а т ь е.в В. А.
[1] О задаче с косой производной. —Матем. сб., 1969, 78, 148—176,
Егоров Ю. В., Поливанов П. Р.
[1] Об уравнениях главного типа, не имеющих решений. —УМН, 1974, 29 : 2,
172—189.
Захманоглоу (Zachmanoglou E. С.)
[1] Uniqueness of the Cauchy problem when the initial surface contains
characteristic points. —Arch. Rat. Mech. Mat. Anal., 1966, 23, 317—326.
[2] Non-uniqueaess of the Cauchy problem for linear partial differential equations
with variable coefficients. —Arch. Rat. Mech. Anal., 1968, 27, 373—384.
3 e p н e p (Zemer M.)
[1] Solutions singulieres d'equations aux derivees partielles. — Bull. Soc. Math.
France, 1963, 91, 203—226.
Иврий В. Я.
[1] О волновых фронтах решений некоторых псевдодифференциальных
уравнений. — Функц. анализ и его приложения, 1976, 10, № 2, 71—72.
И о с и д a (Yosida К.)
[1] Functional analysis. — Berlin: Springer, 1965. (Русский перевод:
Функциональный анализ. — М.: Мир, 1967.)
К а в а и (Kawai Т.)
[1] Construction of a local elementary solution for linear partial differential
operators. — Proc. Jap. Acad., 1971, 47, p. 19—23.
Кальдерой (Calderon А. РЛ
[1] Uniqueness in the Cauchy problem for partial differential equations. — Amer,
J. Math., 1958, 80, 16—36.
[2] Singular integrals. — Bulletin A. M. S., 1966, 72, 426—465.
Кальдерон, Вайянкур (Calderon A. P., Vaillancourt R.)
[1] On the boundedness of pseudo-differential operators,—J. Math. Soc, Japan,
1971, 23, 374-378-

352 БИБЛИОГРАФИЯ
[2] A class of bounded pseudo-differential operators. — Proc. Nat., Acad. Sci. USA,
1972, 69, 436—447.
Кальдерон, Зигмунд (Calderon A. P., Zygmund A.)
[1] On the existence of certain singular integrals. — Acta Math. 1952, 88, 85—139.
[2] Singular integral operators and differential equations. — Amer. J. Math., 1957,
79, 901-921.
К а н н а и (Kannai Y.)
[1] An unsolvable hypoelliptic differential operator. — Israel Math. Journ., 1979,
9, 306—315.
Каратеодори (Caratheodory C.)
[1] Variationsrechnung. — Berlin, 1935.
К а р д о з о (Cardoso F.)
[1] On the existence of local solutions of pseudo-differential equations. — Bol.
Soc. Brasil Mat., 1973, 4, № 2, 121—137.
[2] Wave front sets, Fourier integrals and propagation of singularities. — Bol.
Soc. Brasil Mat., 1975, 6, 39—52.
Кардозо, Трев (Cardoso F., Treves F.)
[1] Onsubelliptic pseudodifferential operators. — In: AnalyseFonct. Appl., C. R. Col-
loque d'Analyse Rio de Janeiro, 1972, 1975, 61—65.
Карлеман (Carleman T.)
[1] Sur une probleme d'unicite pour les systemes d'equations aux derivees
partielles a deux variables independantes. — Arkiv for Mat. Fys., 1939, 17,
1-9.
К а т о (Kato Y.)
[1] On a class of non-elliptic boundary problems. — Nagoya Math. J., 1974, 54,
7—20.
[2] Mixed-type boundary conditions for second order elliptic differential equations. —
J. of the Math. Soc, of Japan, 1974, 26, № 3, 405—432.
Каш и вар а, Каваи (Kashiwara M., Kawai Т.)
[1] Micro-hyperbolic pseudo-differential operators. — Lecture Notes Math., 1975,
449, 70—82.
Кашивара, Каваи, Сато (Kashiwara M., Kawai Т., Sato M.)
[1] Microfunctions and pseudo-differential equations. — Lecture Notes (Springer),
1973, No 287.
К о е н (Cohen P.)
[1] The non-uniqueness of the Cauchy problem. — O. N. R. Tech. Report, Stanford:
1960, 93.
Колмогоров А. Н., Фомин С. В.
[1] Элементы теории функций и функционального анализа. —М.: Наука, 1976.
Кон (Kohn J. J.)
[1] Harmonic integrals on strongly pseudo-convex manifolds. — I, Ann. Math.,
1963, 78, 112—148, II, 1964, 79, 450—472.
[2] Boundaries of complex manifolds. — Proc. of the Conference on Complex
Analysis, Berlin: Springe^ 1965, 113—119.
[3] Boundary behavior of д on weakly pseudoconvex manifolds of dimension two. —
J. Diff. Geometry, 1972. 6, 523—542.
[4] Global regularity for д on weakly pseudo-convex manifolds. — Trans. Amer.
Math. Soc, 1973, 181, 273—292.
[5] Subellipticity of the d-Neumann problem on pseudo-convex domains: sufficient
conditions. — Acta mathem., 1979, 142, 79—122.
Кон, Ниренберг (Kohn J. J., Nirenberg L.)
[1] An algebra of pseudo-differential operators. —Commun. Pure Applied Math.,
1965, 18, 269—305. (Русский перевод: Алгебра псевдодифференциальных
операторов. — В кн.: Псевдодифференциальные операторы. — М.: Мир,
9-62.)
Кумано-го (Kumano-go H.)
[1] Pseudodifferential operators and the uniqueness of the Cauchy problem. —
Commun, Pure Applied Math,, 1969, 22, 73-129.

БИБЛИОГРАФИЯ
353
[2] Algebras of pseudodifferential operators. — J. Fac. Sci. Univ. Tokyo Sec 1A
1970, 17, 31—50. '
[3] Pseudodifferential operators of multiple symbol and the Calderon-Vaillancourt
theorem. —J. Math. Soc. Japan, 1975, 27, № 1, 113—119.
Лаке (Lax P. D.)
[1] Asymptotic solutions of oscillatory initial value problems. —Duke Math. J., 1957,
24, 627—646.
Лаке, Ниренберг (Lax P. D., Nirenberg L.)
[1] On stability of difference schemes; a sharp form of Garding's inequality. — Com-
mun. Pure Applied Math., 1966, 19, № 4, 473—492. (Русский перевод: Об
устойчивости разностных схем; точная форма неравенства Гординга. —
Математика (сб. перев.), 1967, И, № 6, 3—20.)
Л е в и (Lewy Н.)
[1] An example of a smooth linear partial differential equation without solution. —
Ann. Math., 1957, 66, 155—158.
Л e p e (Leray J.)
[1] Probleme de Cauchy. — Bull. Soc. Math. France. I.— 1957, 85, 389—430;
II - 1958, 86, 75—96; III - 1959, 87, 81—179.
[2] Solutions asymptotiques et groupe symplectique; Fourier inegral operators and
partial diff. equations: Lecture Notes in Mathematics, 1975, 459, 473—497.
Лионе, Маженес (Lions J., Magenes E.)
[1] Problemes aux limites non homogenes et applications, v. 1. Dunod, Paris, 1968.
(Русский перевод: неоднородные граничные задачи и их приложения. — М.:
Мир, 1971.)
Лопатинский Я. Б.
[1] Об одном способе приведения граничных задач для системы дифференциальных
уравнений эллиптического типа к регулярным интегральным уравнениям.—
Укр. матем. ж., 1953, 5, № 2, 123—151.
Людвиг (Ludwig D.)
[1] Exact and asymptotic solutions of the Cauchy problem. — Commun. Pure
Applied Math., 1960, 13, 473—508.
Мазья В. Г.
[1] О вырождающейся задаче с косой производной. — Матем. сб., 1972, 87,
417—454.
Мазья В. Г., Па не я х Б. П.
[1] Вырождающиеся эллиптические псевдодифференциальные операторы и
задача с косой производной. — Тр. ММО, 1974, 31, 237—255.
[2] Коэрцитивные оценки и регулярность решений вырождающихся
эллиптических уравнений. — Функц. анализ и прил., 1970, 4, № 4, 41—56.
Мальгранж (Malgrange В.)
[1] Equations aux derivees partielles a coefficients constants, 1. Solution elemen-
taire. — Comptes Rendus Acad. Sci., 1953, 237, № 25, 1620—1622.
[2] Existence et approximation des solutions des equations aux derivees partielles
et des equations de convolution. — Ann. Inst. Fourier Grenoble, 1956, 6,271—355.
[3] Unicite du probleme de Cauchy. — Seminaire Schwartz, 1959/1960, Lectures
8—10, Paris, I960.
Малютов M. Б.
[1] О краевой задаче Пуанкаре. —Тр. ММО, 1969, 20, 173—203.
Маркушевич А. И.
[1] Теория аналитических функций, т. 2. —- М., Наука, 1968.
М а с л о в В. П.
[1] Теория возмущений и асимптотические методы. — М.: изд-во МГУ, 1965.
[2] Операторные методы. — М.: Наука, 1973.
Маслов В. П., Федорюк М. В.
[1] Квазиклассическое приближение для уравнений квантовой механики. — М.:
Наука, 1976.
Me л и н (Melin A.)
[1] Lower bounds for pseudo-differential operators. — Arkiv for Matematik, 1971.
9, N° 1, 117-140.

364
БИБЛИОГРАФИЯ
Мелин, Шестранд (Melin A., Sjostrand J.)
[1] Fourier integral operators with complex phase functions and perametrix for an
interior boundary value problem. — Commun. in Partial Diff. Equations, 1976,
1, 313—400.
Мельроуз (Melrose R.)
[1] Equivalence of glancing hypersurfaces. — Invent. Math., 1976, 37, 165—191.
[2] Differential boundary value problems of principal tupe; in Seminar on
singularities of solutions of linear partial diff. equations, ed. by L. Hormander. —
Princeton U. Press, 1979, 81—112.
[3] Transformation methods for boundary value problems. — Singularities in
boundary value problems, 1981, 131—168.
Мельроуз, Шестранд (Melrose R., Sjostrand J.)
[1] Singularities of boundary value problems, I. — Commun. Pure Applied Math.,
1978, 31, 593—617.
МизохатаС.
[1] Теория уравнений с частными производными: Пер. с японск.—М.: Мир,
1977.
Миранда К-
[1] Уравнения с частными производными эллиптического типа. — М., ИЛ, 1957.
М и х л и н С. Г.
[1] Многомерные сингулярные интегральные уравнения. — М.: Физматгиз, 1962.
Мищенко А. С, Стернин Б. Ю., Шаталов В. Е.
[1] Лагранжевы многообразия и метод канонического оператора. — М.: Наука,
1978.
Морри, Ни ренберг (Моггеу С, Nirenberg L.)
[1] On the analyticity of the solutions of linear elliptic systems of partial diff.
equations. — Comm. Pure Applied Math., 1957, 10, 271—290.
Назайкинский В. Е., Ошмян В. Г., Стернин Б. Ю., Ш а т а-
л о в В. Е.
[1] Интегральные операторы Фурье и канонический оператор. — УМН, 1981,
36, № 2, 81—140.
Нери (Neri U.)
[1] Singular integral operators on manifolds. — Proc. Symposium in Pure Math.,
1967, 10, 232—242.
Ниренберг (Nirenberg L.)
[1] Pseudo-differential operators. — Proc. Symposium Pure Math., 1970, 16, 149—
167.
[2] Lectures on linear partial differential equations. — American Math. Soc,
Regional Conference Series, 1973, № 17, 1—58. (Русский перевод: Лекции о
линейных дифференциальных уравнениях с частными производными. — УМН,
1975, 30, № 4, 147—204.)
[3] On elliptic partial differential equations. — Annals Sc. Norm. Super. Pisa,
1959, 13, 115—162.
N H и р е н б е р г, Трев (Nirenberg, L., Treves F.)
[1] Solvability of a first order linear partial differential equation. — Commun.
Pure Applied Math., 1963, 14, 331-351.
[2] On local solvability of linear partial differential Equations — Comm. Pure
Applied Math., 1970, 23, I Necessary conditions, 1—38; II Sufficient conditions,
499—510. (Русский перевод: О локальной разрешимости линейных
дифференциальных уравнений в частных производных. —Математика (Сб. перев. 1971,
15, № 3, 142—172; 1971, 15, № 4, 68—110.)
[3] Remarks on the solvability of linear equations of evolution. — Symposia Math.,
1971, 7, 325—338.
Овсянников Л. В.
[1] Сингулярный оператор в шкале банаховых пространств. — ДАН СССР, 1965,
163, № 4, 819—822.
Олейник О. А., Радкевич Е. В.
[1] Уравнения второго порядка с неотрицательной характеристической формой, —
В кн,: Матем. анализ 1969, — М,: ВИНИТИ, 1971.

БИБЛИОГРАФИЯ
365
Паламодов В. П.
[1] Линейные дифференциальные операторы с постоянными коэффициентами. —
М.: Физматгиз, 1967.
П а л э (Palais R. S.)
[1] Seminar on the Atiyah-Singer index theorem. — Princeton University Press,
1965. (Русский перевод: Семинар по теореме Атьи-Зингера об индексе. — М/
Мир, 1970.)
П а н е я х Б. П.
[11 Псевдодифференциальные операторы постоянной силы в главном.—Матем.
сб., 1967, 73, № 2, 204—226.
Петровский И. Г.
[11 Uber das Cauchysche Problem fur Systeme von partielle Differentialgleichun-
gen. — Матем. сб., 1937, 2 (44), 815—870.
[2] О проблеме Cauchy для системы линейных дифференциальных уравнений с
частными производными в области неаналитических функций. — Бюлл. МГУ
(А), 1938, 1, № 7, 1—72.
[3] Sur Tanalyticite des solutions des systemes d'equations differentielles. — Матем.
сб., 1939, 5 (47), 3—70.
[4] О некоторых проблемах теории уравнений с частными производными,—
УМН, 1946, 1, № 3—4, 44—70.
[5] Лекции об уравнениях с частными производными. — М.: Физматгиз, 1961.
П и т р е (Peetre J.)
[11 Another approach to elliptic boundary problems. — Commun. Pure Applied
Math., 1961, 14, № 4, 711—731.
Плись (Plis A.)
fl] A smooth linear elliptic differential equation without any solution in a sphere. —
Commun. Pere Applied Math., 1961, 14, 599—617.
[2] Unique continuation theorems for solutions of partial differential equation. —
Proc. Intern. Congr. Math., Stockholm, 1962.
Поливанов П. Р.
Ч] О локальной разрешимости одного класса псевдодифференциальных
уравнений с двукратными характеристиками. — Труды сем. им. И. Г. Петровского,
1975, 1, 237—278.
\2] Elements of the symplectic differential geometry and partial differential
equations. — Berlin, Akad. der Wiss. der DDR, 1977.
РадкевичЕ. В.
[11 Об одной оценке Л. Хёрмандера. — УМН, 1969, 24, № 2, 233—234.
[21 Оценка типа Шаудера для некоторого класса псевдодифференциальных
операторов. — УМН, 1969, 24, 199—200.
Рисе, Секефальви-Надь (Rtesz F., Sz., — Nagy В.)
[1] Lecons d'analyse fonctionelle. — Akad. Kiado, Budapest. (Русский перевод:
Лекции по функционально;^ анализу. — М.: Мир, 1979.)
Д е Рам Ж. (De Rham)
[1] Дифференцируемые многообразия. — М., ИЛ, 1956.
С а т о (Sato M.)
[1] Hyperfunctions and partial differential equations. — Conf. on Funct. Analysis
and Related Topics, Tokyo, 1969,.91—94.
[2] Regularity of hyperf unction solutions of partial differential equations. — Actes
Cong. Intern. Math., Nice, 1970, 2, 785—794.
С в и н и (Sweeney W.)
[1] A condition for subellipticity in Spencer's Neumann problem. —J. of
Differential Equations, 1976, 21, № 2, 316—362.
С и л и (Seeley R. Т.)
[1] The resolvent of an elliptic boundary problem. — Amer. J. Math., 1969, 91,
889-920.
[2] Integro-differential operators on vector bundles. — Trans. Amer. Math. Soc,
1965, 117, 67-204.
[3] Analytic extension of the trace associated with elliptic boundary problems. —
Amer. J.; Math., 1969, 91, 969—983.

356
БИБЛИОГРАФИЯ
[4] Refinement of the functional calculus of Calderon and Zygmund. — Proc. Acad.
Wet. Ned., Ser. A, 1965, 68, 521—531.
Слободецкий Л. Н.
[1] Обобщенные пространства С. Л. Соболева и их приложения к краевым
задачам для дифференциальных уравнений в частных производных. — Уч. зап.
Ленннгр. пед. ин-та, 1958, 197, 54—112.
Смит (Smith К. Т.)
[1] Some remarks on a paper of Calderon on existence and uniqueness theorems for
systems of partial differential equations. — Commun. Pure Applied Math.,
1965, 18, 415—441.
Соболев С. Л.
[1] Некоторые применения функционального анализа в математической физике. —
Л.: изд-во ЛГУ, 1950.
[2] Введение в теорию кубатурных формул. — М.: Наука, 1974. ^
Стейн (Stein Е. М.)
[1] Singular integrals and differentibility properties of functions. — Princeton U.
Press, 1970. (Русский перевод: Сингулярные интегралы и дифференциальные
свойства функций. — М.: Мир, 1973.)
Стернин Б. Ю.
[1] О микролокальной структуре дифференциальных операторов в окрестности
точки покоя. — УМН, 1977, 32, № 6, 235—236.
С у з у к и (Suzuki H.)
[1] Improving estimates for differential operators in two independent variables. —
Publ. RIMS, Kyoto Univ., 1970, 5, 287—299.
T а и p a (Taira K.)
[1] On some degenerate oblique derivative problems. — J. Fac. Sci. Univ. Токуо,
Sec. IA, 1976, 23, 259-287.
[2] On some non-coercive boundary value problems for the Laplacien. — J. Fac.
Sci., Univ. Tokyo, Sec. IA, 1976, 23, 343—367.
[3] Sur le probleme de derivees oblique. I. — J. Math. Pures et Appl., 1978, 57,
379—395; II. Arkiv for Matematik, 1979, 17, № 2, 177—191.
[4] Sur l'existence de process de diffusion. — Annales de Tlnstitut Fourier, Grenoble;
1979, 29, № 4, 99—126.
Тартаков (Tartakoff D. S.)
fl] Gevrey Hypoellipticity for subelliptic boundary value problems. — Commun.
Pure Applied Math., 1973, 26, 251—312.
[2] Local analytic hvpoellipticity for П& on nondegenerate Cauchy ~-Riemann
manifolds. — Proc. Nat. Acad. Sci. USA, 1978, 75, 3027.
Тейлор (Taylor M.)
[1] Pseudodifferential operators. — Lecture Notes in Math., 416, Springer, New
York, 1974.
[2] Reflection of singularities of solutions to systems of differential equations. —
Comm. Pure Appl. Math., 1975, 28, 457—478.
[3] Propagation, reflection, and diffraction of singularities of solutions to wave
equation.— Bull. A. M. S., 1978, 84, 589-611.
[4] Fourier integral operators and harmonic analysis on compact manifold. — Proc.
Symp. Pure Math., 1979, 35, 115—136.
[5] Pseudo-differential operators. — Princeton U. Press, 1981.
T p e в (Treves F.)
[1] Lectures on linear partial differential equations with constant coefficients. —
Rio de Janeiro, 1961. (Русский перевод: Лекции по линейным уравнениям в
частных производных с постоянными коэффициентами. — М.: Мир, 1965.)
(2] Ovcyannikov theorem and hyperdiffere'ttial operators. — Notas de Matematica,
№ 46, Rio de Janeiro: 1968.
[3] On the local solvability of lineaf partial differential equations in two independent
variables. — Amer. J. Math., 1970, 52, № 1, 174—204.
[4] On local solvability of linear partial differential equations. — Bulletin of the
A. M. S., 1970, 76, № 3, 552—571.
[5] Linear partial differential equations, — Gordon arid Breech, N. Y., 1970,

БИБЛИОГРАФИЯ 357
[6] Hypoelliptic equations of principal type, with analytic coefficients. — Commun.
Pure Applied Math., 1970, 23, 637—651.
[7] A new method of proof of the subelliptic estimates. — Commun. Pure Applied
Math., 1971, 24, 71—115. v
[8] Hypoelliptic partial differential equations of principal tupe, Sufficient
conditions and Necessary conditions. — Commun. Pure Applied Math., 1971, 24,
631—670.
[9] A link between solvability of pseudodifferential equations and uniqueness in
the Cauchy problem. — American J. of Math., 1972, 94, № 1, 267—288.
[10] Existence et regularite des solutions des equations aux derivees partielles lineai-
res, quelques resultats et quelques problems ouverts. — Sem. Goulaouic-Sch-
wartz, Paris, 1973.
[11] Basic linear partial differential equations. — Academic Press, N. Y., 1975.
Унтербергер, Бокобза (Unterberger A., Bokobza J.)
[1] Les operateurs de Calderon—Zygmund precises. — С R. A. S., 1964, 259, 1612—
1614.
Ф а р р и с (Farris M.)
[1] Egorov's theorem on manifold with diffractive boundary. —Commun. Partial
Diff. Equations, 1981, 6, 651—687.
Федорюк М. В.
[1] Метод стационарной фазы и псевдодифференциальные операторы. — УМН,
1971, 26, № 1, 67—212.
Фефферман, Фонг (Fefferman С, Phong D. Н.)
[1] On positivity of pseudo-differential operators. — Proc. Nat. Acad. Sci. USA,
1978, 75, 4673—4674.
[2] The uncertainity principle and sharp Garding inequalities. —Commun. Pure
Applied Math., 1981, 34, 285—331.
Фок В. А.
[1] О каноническом преобразовании в классической и квантовой механике. —
Вестник ЛГУ, 1959, 16, 67.
Ф о л л а н д (Folland G. В.)
[1] The tangential Cauchy—Riemann complex on spheres. — Trans. Amer. Math.
Soc, 1972, 171, 83—133.
Фолланд, Кон (Folland G. В., Kohn J.J.)
[1] The Neumann problem for the Cauchy—Riemann complex. — Ann. Math.
Studies (Princeton), 1972, 75.
Фолланд, Стейн (Folland G. В., Stein E. M.)
[1] Parametrices and estimates for the decomplex on strongly pseudoconvex
boundaries. — Bull. Amer. Math. Soc, 1974, 80, № 2, 253—258.
Фридлендер (Friedlander F.)
[1] The wavefront set of a simple initial-boundary value problem with glancing
rays.— Math. Proc. Camb. Phil. Soc, 1976, 79, 145—149.
Фридрихе (Friedrichs K.)
[1] Pseudo-differential operators, An introduction. — Lecture Notes, Courant Inst.
of Math. Sc, N. Y., 1970.
Фридрихе, Лаке (Firedrichs К., Lax P. D.)
[1] Boundary value problem for first order operators. — Comm. Pure Applied
Math., 1965, 18, № 1—2, 355—388.
X e н к и н Г. М.
[1] Интегральное представление функций в строго псевдовыпуклых областях. —
Матем. сб., 1969, 78, 611—632.
Хёрмандер (Hormander L.)
[1] On the theory of general partial differential operators. — Acta Math., 1955, 94,
161—248. (Русский перевод: К теории общих дифференциальных операторов
в частных производных. — М.: ИЛ, 1959.)
[2] Differential equations without solutions. — Math. Ann. 1960, 140, 169—173.
[3] Linear partial differential operators. — Berlin-Heidelberg — N. Y., Springer,
1963. (Русский перевод: Линейные дифференциальные операторы с частными
производными. — М,: Мир, 1965.)

358
БИБЛИОГРАФИЯ
!4] Pseudo-differential operators. — Commun. Pure Applied Math., 1965, 18,
501—517.
15] An introduction to complex analysis in several variables. — Van Nostrund,
Princeton, 1966. (Русский перевод: Введение в теорию функций нескольких
комплексных переменных. — М.: Мир, 1968.)
16] Pseudo-differential operators and non-elliptic boundary problems. — Ann.
Math., 1966, 83, 129—209. (Русский перевод: Псевдодифференциальные
операторы и неэллиптические краевые задачи. — В кн.: Псевдодкфференциаль-
ные операторы. — М.: Мир, 1967, 166—296.)
[7] Pseudo-differential operators and hypoelliptic equations. Proc. Symp. Pure
Math., 1966, 10, 138—183. (Русский перевод: Псевдодифференциальные
операторы и гипоэллиптические уравнения. — В кн.: Псевдодифференциальные
операторы. — М.: Мир, 1967, 297—367.)
[8] Hypoelliptic second order differential equations. — Acta Math., 1967, 119,
147—171. (Русский перевод: Гипоэллиптические дифференциальные
операторы второго порядка. — Математика (сб. перев.. 1968, 12, № 2, 88—
109).
[9] The spectral function of an elliptic operator. — Acta Math. 1968, 121, 193—218.
(Русский перевод: Спектральная функция эллиптического оператора. —
Математика (сб. перев.), 1969, 13, № 6, 114—137.)
[10] Linear differential operators. — Actes Congr. Int. Math., v. 1, Nice, 1970,
121—133.
[11] On the singularities of solutions of partial differential equations. — Commun,
Pure Applied Math., 1970, 23, 329—358.
[12] On the existence and regularity of solutions of linear pseudodifferential
equations. — L'Ensiegnement Math., 1971, 17, 99—163. (Русский перевод: О
существовании и регулярности решений линейных псевдодифференциальных
уравнений. — УМН, 1973, 28, № 6, 109-164).
113] Fourier integral operators. — I, Acta Math., 1971, 127, 79—183). (Русский
перевод: Интегральные операторы Фурье, I. — Математика (сб. перев.),
1972, 16, № 1, 17-61; 1972, 16, № 2, 67—136.)
[14] Uniqueness theorems and wave front sets for solutions of linear differential
equations with analytic coefficients. — Comm. Pure Appl. Math., 1971, 24,
671—704.
[15] Propagation of singularities and semi-global existence theorems for pseudo-
differential operators of principal type. — Ann. of Math., 1978, 108, № 3,
569-609.
[16] The Weyl calculus of pseudo-differential operators. —Commun. Pure Applied
Math., 1979, 32, 1—25.
[17] Spectral analysis of singularities, Sem. on singularities of solutions of linear
partial differential equations. — Annals of Math. Studies, 1979, № 91,
3—49.
[18] Subelliptic operators, Annals of Math. Studies, 1979, № 91, 127—208.
Шабат Б. В.
[1] Введение в комплексный анализ, ч. II.—М.: Наука, 1976.
Ш а п и р a (Shapira P.)
[1] Une equation aux derivees partielles sans solutions dans Tespace des hyperfunc-
tions. — С R. Acad. Sci., 1967, 265, 665—667.
Шапиро 3. Я.
[1] Об общих краевых задачах для уравнений эллиптического типа. — Изв.
АН СССР, сер. матем., 1953, 17, 539—562.
Шварц (Schwartz L.)
[1] Theorie des distributions. I—II. Hermann, Paris: 1950.
[2] Methodes mathematiques pour les sciences physiques. — Hermann, Paris. 1961.
(Русский перевод: Математические методы для физических наук. — М.: Мир,
1965.)
Ш е х т е р (Schechter M.)
[1| Various types of boundary conditions for elliptic equations. — Commun. Pure
Applied Math., 1960, 13, 407—425.

БИБЛИОГРАФИЯ 359
Шёстранд (Sjostrand J.)
[1] Operators of principal type with interior boundary conditions — Univ. of Lund
1972.
Шилов Г. Е.
[1] Локальные свойства решений дифференциальных уравнений в частных про
изводных с постоянными коэффициентами. — УМН, 1955, 14. № 5, 3—44.
Штраусе, Трев (Strauss M., Treves F.)
[1] First order linear PDE's and uniqueness in the Cauchy problem. — J. Diff.
Equations, 1974, 15, 195—209.
Шубин М. A.
[1] Псевдодифференциальные операторы и спектральная теория. — М.: Наука,
1978.
Эренпрайс (Ehrenpreis L.)
[1] Solutions of some problems of division, I. — Amer. J. of Math., 1954, 76, 883—
903.
Э с к и н Г. И.
[1] Задача Коши для гиперболических уравнений в свертках. — Матем. сб.
1967, 74, № 2, 26-297.
[2] Системы псевдодифференциальных уравнений с простыми вещественными
характеристиками. — Матем. сб., 1968, 77, № 2, 174—200.
[3] Вырождающиеся эллиптические псевдодифференциальные операторы
главного типа. — Матем. сб., 1970, 82, 585—628.
[4] Эллиптические псевдодифференциальные операторы с вырождением первого
порядка по пространственным переменным. — Тр. ММО, 1971, 25, 83—113.
[5] Краевые задачи для эллиптических псевдодифференциальных уравнений. —
М. Наука, 1973.
[6J A parametrix for interior mixed problems for hyperbolic equations. —J. Anal.
Math., 1977, 32, 17—62.

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Атлас многообразия 43
Бихарактеристика 48, 83
— нулевая 48
Вейля оператор 115
Волновой фронт 164
Гильберта оператор 53
Гиперболический оператор 326
Гипоэллиптический оператор 43, 67
Главного типа оператор 37, 92
Главный символ 70
Голоморфное поле 313
Гординга неравенство 35, 107
Дирака мера 17
Индекс 80
Кальдерона — Вайянкура теорема 118
Кальдерона теорема 336
Каноническое преобразование 83
Карлемана типа оценки 333
Ковалевской теорема 320
Кокасательное пространство 47
Коши задача 319
Леви Г. пример 187
Лейбница формула 14
Лестница Хёрмандера 33
Локальный оператор 45
Лопатинского условия 121
Многообразие 43
Нётеров оператор 79
Носитель особенностей распределения 12
— распределения 12
Обобщенная производная 10
Обобщенное решение 10
Обратный образ распределения 44, 169
Параметрикс 73
Порядок оператора 57
— распределения 11
Произведение распределений 176
Производная распределения 14
Пространства 3). Ъ' П
Пространства <§# <£' 12
Пространства $ %' 13
Пространства Hg^ 29
Пространства Соболева Hs 29
Прямой образ распределения Г69
Псевдовыпуклая область 313
Псевдодифференциальный оператор 57
Псевдолокальность 67
Пуассона скобки 65, 84
Пэли — Винера теорема 21
Радона теорема 170
Разбиение единицы 48
Распределение 11
Регулярный оператор 60
Редукция к системе первого порядка 321
Свертка распределений 22
Сглаживающий оператор 60
Символ оператора 57
Симметризуемая система 326
Симплектическая структура 82
Сингулярный интегральный оператор 52
Собственное отображение 60
Субэллиптический оператор 242
Условие (ЧГ) 200, 230
Условие (ЧГ') 242
Усреднение распределения 15
Фазовая функция 87
Формально сопряженный оператор 61
Фундаментальное решение 32
Фурье интегральный оператор 87, 180
— преобразование 18
Характеристика 47
Эллиптический оператор 34, 72
Ядро усреднения 15