Анализ линейных дифференциальных операторов с частными производными. Том 2. Дифференциальные операторы с постоянными коэффициентами - Хермандер Л.

Автор: Хермандер Л.
Теги: дифференциальные, интегральные и другие функциональные уравнения конечные разности вариационное исчисление функциональный анализ математический анализ математика
Год: 1986
Похожие
Анализ линейных дифференциальных операторов с частными производными. Том 3. Псевдодифференциальные операторы
Анализ линейных дифференциальных операторов с частными производными. Том 4. Интегральные операторы Фурье
Анализ линейных дифференциальных операторов с частными производными. Том 1. Теория распределений и анализ Фурье
Дифференциальные уравнения в частных производных.
Текст
                    Grundlehren der mathematlschen Wissenschaften 257
Lars Hormander
The Analysis of Linear Partial
Differential Operators II
Differential Operators
with Constant Coefficients
Springer-Verlag
Berlin Heidelberg New York Tokyd №83

ЛХёрмандер
Анализ линейных
дифференциальных
операторов
с частными
производными
В четырех томах
Том 2
Дифференциальные операторы
с постоянными коэффициентами
Перевод с английского под редакцией
М. А. Шубина
Москва «Мир» 1986

ББК 22.162
Х39
УДК 517.9
Хёрмандер Л.
Х39 Анализ линейных дифференциальных операторов с част-
частными производными: В 4-х т. Т. 2. Дифференциальные
операторы с постоянными коэффициентами. Пер. с англ.—
М.: Мир, 1986. — 456 с, ил.
Второй том фундаментальной монографии крупного шведского математика,
знакомого советским читателям по переводам его книг и статей, посвящен
теории дифференциальных операторов с постоянными коэффициентами и отра-
отражает современное состояние исследований в данной области.
Тома 3 и 4 планируются к выпуску в 1987—1988 гг.
Для математиков разных специальностей, аспирантов и студентов универси-
университетов.
- 1702050000-42°.23-86,ч.1 ББК 22.162
041@1)—86
Редакция литературы по математическим наукам
© Springer-Verlag Berlin Heidelberg 1983
All rights reserved. Authorized trans-
translation from English language-edition pub-
published by Springer-Verlag Berlin Heidel-
Heidelberg New York
(g) перевод на русский язык, «Мир», 1986

Предисловие редактора
перевода
Эта книга представляет собой второй том четырехтомной моно-
монографии Хёрмандера, занимающей в современной литературе по
уравнениям с частными производными уникальное положение
по глубине и полноте охвата большого и сложного материала,
накопившегося за последний период бурного развития излагае-
излагаемой теории.
Этот том посвящен в основном вопросам теории уравнений
с постоянными коэффициентами, которые к настоящему моменту
считаются объектом классическим и хорошо изученным. Нужно
помнить, однако, что многие фундаментальные уравнения мате-
математической физики (например, волновое уравнение, уравнение
Лапласа, теплопроводности и т. д.) являются уравнениями с по-
постоянными коэффициентами. Знание теории таких уравнений
необходимо для успешного изучения более сложной современ-
современной общей теории линейных уравнений с переменными коэффи-
коэффициентами (эта теория составляет содержание томов 3 и 4, пере-
перевод которых также готовится к публикации издательством
«Мир»). Кроме того, автор, верный своему стилю и идеям, дает
изложение основных фактов теории, пользуясь современным
языком микролокального анализа — теорией волновых фронтов.
Отметим также, что в книге содержится современное изложе-
изложение теории рассеяния, которая рассматривается здесь как раз-
раздел теории возмущений уравнений с постоянными коэффи-
коэффициентами.
В целом перед читателем четко написанная и весьма содер-
содержательная монография пот одному из важнейших разделов тео-
теории уравнений с частными производными. Она вполне доступна
начинающим, знакомым с теорией распределений и с элемен-
элементами теории волновых фронтов1), хотя и отнюдь не предназна-
предназначена для легкого чтения. Не вызывает сомнений, что эта книга
будет полезна и интересна всем читателям, занимающимся тео-
теорией линейных уравнений с частными производными или изу-
изучающим ее.
12 сентября 1985 г. М. Л. Шубин
!) Более чем достаточными являются сведения, изложенные в т. 1; здесь
используется лишь небольшая часть материала первого тома.

Предисловие
Этот том является расширенным вариантом глав III, IV, V и
VII моей книги «Линейные дифференциальные операторы с част-
частными производными», изданной в 1963 г.1). Кроме того, в нем
имеются совершенно новые главы, посвященные уравнениям в
свертках, теории рассеяния, а также глава, посвященная мето-
методам теории аналитических функций многих комплексных пере-
переменных. В последней, впрочем, рассмотрены лишь отдельные
вопросы, ибо нам кажется излишним дублировать монографии
Л. Эренпрейса и В. П. Паламодова на эту тему.
Предполагается, что читатель знаком с теорией распреде-
распределений в том объеме, как она изложена в первом томе. Боль-
Большинство обсуждаемых здесь тем в действительности уже встре-
встречалось в первом томе в частных случаях, предоставляющих не-
необходимую мотивировку и основу для более систематического
и точного изложения. Главным техническим аппаратом настоя-
настоящего тома является преобразование Фурье — Лапласа. Более
сильные методы для изучения операторов с переменными коэф-
коэффициентами будут развиты в т. 3. Тем не менее именно теория
операторов с постоянными коэффициентами дала общее на-
направление всей работе. Хотя эта область сейчас не очень ак-
активно разрабатывается (возможно, из-за ее высокого уровня
развития) и хотя можно перейти от т. 1 прямо к т. 3, представ-
представленный здесь материал не должен быть пропущен серьезным
читателем, который хочет получить сбалансированное представ-
представление о развитии теории линейных дифференциальных уравне-
уравнений с частными производными.
Я хотел бы выразить благодарность всем, кто помогал мне
во время подготовки этого тома. Как и в случае с первым томом,
я особенно обязан Нильсу Иёргену Кокхольму (Копенгагенский
университет), который прочитал все корректуры и предложил
много улучшений текста.
Лунд, февраль 1983 г. Ларе Хёрмандер
1) Русский перевод опубликован издательством «Мир» в 1965 г. — Прим.
ред.

Введение
Дифференциальные операторы с постоянными коэффициентами,
действующие на распределения с компактными носителями,
диагонализуются с помощью преобразования Фурье — Лапласа.
В гл. 7 уже было показано, каким образом это наблюдение
приводит к общим результатам о существовании фундаменталь-
фундаментальных решений и аппроксимации решений. В гл. 10 мы сначала
подробнее изучим свойства регулярности фундаментальных ре-
решений, в том числе опишем их волновые фронты. Затем будут
систематически исследованы вопросы существования и аппрокси-
аппроксимации решений. В гл. 11 описывается класс гипоэллиптических
операторов; в т. 1 уже обсуждались такие их типичные при-
примеры, как эллиптические операторы и оператор теплопровод-
теплопроводности. Мы докажем также общий результат о распространении
свойств регулярности решений, аналогичный теореме единствен-
единственности Хольмгрена. В т. 1 приведены явные формулы решений
задачи Коши для волнового уравнения. Гиперболические опера-
операторы, обладающие аналогичными свойствами, исследуются в
гл. 12, которая содержит также изучение характеристической
задачи Коши, сформулированной как для уравнения теплопро-
теплопроводности или уравнения Шредингера. Точность результатов,
полученных в этих главах, сработает в гл. 13, где они позволят
нам рассматривать (локально) довольно большой класс опера-
операторов с переменными коэффициентами как возмущение опера-
операторов с постоянными коэффициентами. Новые свойства, при-
присущие даже таким операторам, особенно проявляются при об-
обсуждении неединственности решений задачи Коши. Гл. 14
посвящена теории возмущений в R" (теория рассеяния для
короткодействующих возмущений).
Изучение общих переопределенных систем дифференциаль-
дифференциальных операторов с постоянными коэффициентами требует больше
предварительных сведений из теории аналитических функций
многих комплексных переменных, чем нам хотелось бы здесь
предполагать. Как упомянуто в предисловии, этой теме уже по-
посвящено несколько монографий. Поэтому в гл. 15 мы изложим
только некоторые основные аналитические методы в упрощенном

в введение
виде по сравнению с другими известными руководствами. Их
использование иллюстрируется на примере одного дифферен-
дифференциального уравнения. Так же как и в предыдущих главах, при
рассмотрении определенных систем не возникает дополнитель-
дополнительных трудностей.
Гл. 16 посвящена уравнениям в свертках. Свойство инва-
инвариантности относительно сдвигов, которым они обладают по-
подобно дифференциальным операторам с постоянными коэффи-
коэффициентами, настолько приближает их изучение к нашей основ-
основной теме, что такое расширение кажется естественным и даже,
пожалуй, неизбежным.

10
Существование
и аппроксимация решений
дифференциальных уравнений
Краткое содержание главы
В предыдущих главах уже были построены явные фундамен-
фундаментальные решения для некоторых дифференциальных операто-
операторов. Кроме того, в гл. 7 приведена конструкция фундаментадь-
ных решений, применимая ко всем дифференциальным опера-
операторам с постоянными коэффициентами. В § 10.2 мы вернемся
к ней для более подробного обсуждения свойств регулярности
фундаментальных решений. Сначала мы выясним, при каких
условиях фундаментальные решения принадлежат простран-
пространствам, введенным в § 10.1. Эти пространства являются обобще-
обобщением пространств ЯE) из § 7.9 и определяются, по существу,
применением обратного преобразования Фурье к пространствам
LP с подходящими плотностями. В § 10.2 мы исследуем, кроме
того, как полученное с помощью указанной конструкции фунда-
фундаментальное решение Е(р) оператора P(D) зависит от Р, и оце-
оценим WF(E(P)) при фиксированном Р.
Дифференциальное уравнение P(D)u = f при fe<g" ре-
решается непосредственно, если дано фундаментальное решение
оператора P(D). В § 10.3 мы довольно точно устанавливаем
свойства решений, используя результаты § 10.2. Это приводит
к сравнению относительной силы дифференциальных операторов
(полиномов): говорят, что оператор Р сильнее оператора Q,
если при mg^' распределение Q(D)u имеет по крайней мере
такую же гладкость, как и P(D)u. Это понятие в более точной
форме подробно изучается в § 10.4. В § 10.5 мы кратко об-
обсуждаем аппроксимационные теоремы типа Рунге для решений
однородного дифференциального уравнения P(D)u=0. Это
служит подготовкой к предпринимаемому в § 10.6 изучению
дифференциального уравнения P(D)u = f, где / — распределе-
распределение конечного порядка. Та же задача обсуждается в § 10.7 для
произвольного распределения /. Наконец, § 10.8 посвящен
поискам геометрической формы условий разрешимости, встре-
встретившихся в § 10.6 и 10.7.

10 10. Существование и аппроксимация решений
10.1. Пространства Bp,k
В теории существования решений дифференциальных уравнений
с частными производными важно получить точные утверждения
о регулярности полученных решений. Условие регулярности
распределения или функции и (с компактным носителем) можно
рассматривать как условие на поведение преобразования Фурье
и на бесконечности. Для описания этого поведения можно, на-
например, задаться вопросом: для каких весовых функций k спра-
справедливо включение кй е Lp? Множество всех таких умеренно
растущих распределений и обозначается здесь через Вр> Л.
В действительности интересны только случаи р = 2, р = оо и
р=1. Относительно k мы сделаем предположение, из которого
будет вытекать, что BPi k является модулем над Со°-
Определение 10.1.1. Положительная функция k> заданная в R",
называется умеренно растущей весовой функцией, если суще-
существуют положительные постоянные С и N, такие что
A0.1.1) ЛF + ч)<A+С|&|)"Л(ч); b4sRe. .
Множество всех таких функций k будет обозначаться через Ж
Замечание. В гармоническом анализе весовой функцией обычна
называют такую функцию /С, что
Во избежание недоразумений мы будем называть здесь такие
функции субмультипликативными.
Из A0.1.1) вытекает, что
A0.1.\У A+С|Б1ГЛГ<*(Б + ч)/*(ч)<A+С|6|)ЛГ; Б, t|€=R\
В самом деле, левое неравенство получается, если ц в A0.1.1)
заменить на 1 + 4» а Б —на —Б- Если в неравенстве A0.1.1)'
устремить ? к 0, то из него будет следовать, что функция k не-
непрерывна, а если взять т] = 0, то мы придем к полезной оценке
A0.1.2) й@)A+С|Б1ГЛГ<*(БХЛ@)A+С|Б|)Лг.
Для к^Ж положим
A0.1.3) Affc(g) = sup*(E + ti)/fe(T|).
Это означает, что М* есть наименьшая функция, для которой
Ясно, что функция Mk субмультипликативна:
A0.1.5) МкA

10.1. Пространства Вр k 11
я так как M*(g)<(l + C|g|)", то MfteX С помощью A0.1.61
мы должны установить, что
Действительно, для произвольного целого положительного v
1 = Mk @) < Mk AГ Mk (- vg) < AfA (?)v A + Cv 1g1 f;
если теперь извлечь корень степени v и устремить v к оо, то
получим оценку A0.1.6).
Пример 10.1.2. Пространства #E), рассмотренные в § 7.9, соот-
соответствуют весовым функциям
Из оценки
следует, что к^Ж и А4Лв(л)<A + I Л II*1.
Пример 10.1.3. Основным примером функции из пространства
Ж, который и послужил причиной введения такого класса, яв-
является функция Р9 определяемая равенством
|а
Z |
|>0
где Р — полином (так что сумма конечна) и РМ = даР. Из
формулы Тейлора легко следует, что
где т — степень полинома Р, а С — постоянная, зависящая
только от т и размерности п. Другие функции из Ж, необходи-
необходимые в дальнейшем, получаются из этого примера с помощью
операций, описываемых в следующей теореме:
Теорема 10.1.4. Если k\, к2^Ж, то функции k{ + k2, k\-k2,
sup(?b k2) и inf(fti, k2) также принадлежат Ж. Если к^Ж, то
ks e Ж для любого вещественного s, и если \х — положительная
мера, то либо \i*k == оо, либо [i*k e Ж.
Доказательство. В силу A0.1.1)' из включения к^Ж вытекает,
что l/к^Ж. Поэтому все утверждения теоремы очевидны, за
исключением последнего. Для его доказательства заметим, что
из неравенства A0.1.1) следует неравенство
Если для какого-либо г\ свертка \i*k конечна, то она конечна
всюду и принадлежит Ж

12 10. Существование и аппроксимация решений
Иногда полезно знать, что функции из Ж могут быть заме-
заменены эквивалентными функциями, которые действительно очень
медленно меняются.
Теорема 10.1.5. Если к^Ж, то для всякого 6 >0 найдутся та-
такая функция k6 e Ж и постоянная Сб, что
A0.1.9)
A0.1.10) ^
где постоянные С и N не зависят от б и
A0.1.11) Мц—>1 равномерно на компактных подмножествах
из Rn при 6-»0.
Доказательство. Положим
(Отметим аналогию с определением свертки.) Тогда из нера-
неравенства A0.1.1) получаем
где последнее равенство служит определением постоянной Сб.
Это доказывает A0.1.9). Для доказательства A0.1.10) заметим,
что
Чтобы доказать A0.1.11), перепишем сначала формулу, задаю-
задающую kb, заменив г\ на g — х\. Тогда
Следовательно,
•л
' i sup е~а 16-^ \k (ц) = е* I б'
что доказывает неравенства
Теорема доказана.

10.1. Пространства Вр k 18
Замечание. Быть может, естественнее в определении 10.1.1 по*
требовать от функции к только непрерывности и выполнения
неравенства
A0.1.1)"
Мы так не сделали, поскольку это не гарантировало бы непре-
непрерывности Mk. Доказательство теоремы 10.1.5 показывает, одна-
однако, что если функция k удовлетворяет только неравенству
A0.1.1)", свойство A0.1.9) по-прежнему справедливо и kb е=Ж.
Поэтому наш выбор определения не приводит ни к какой суще-
существенной потери общности.
Теперь можно дать формальное определение нужных нам
пространств.
Определение 10.1.6. Если к^Ж и 1 ^ р ^ сю, то Вр, * будет
обозначать множество всех таких распределений и е &', что
й — функция и
A0.1.12) \\u\\p^
Если р = сю, то под нормой ||Ы!р, к понимается ess sup | ?(?)#(?) |.
Множитель Bя)~п включается для удобства, и его появление
объясняется тем, что мера Bn)~nd\ возникает в формуле Пар-
севаля. Например, благодаря этой нормировке
Теорема 10.1.7. Пространство BPt k является банаховым простран-
пространством с нормой A0.1.12). Вложения
имеют место и в топологическом смысле1). При р < оо про*
странство Со° плотно в Вр> k-
Доказательство. Пусть LPy k — банахово пространство всех изме-
измеримых функций у, для которых Bn)-nfp\\kv\\p < сю. Тогда вло-
вложения
имеют место и в топологическом смысле и У плотно в LPi k при
р<оо. Действительно, в силу второго неравенства A0.1.2),
^czLp, *. При р < оо по теореме 1.3.2 получаем, что даже
Сц° плотно в Lp k, поскольку в этом пространстве плотно CJ.
1) Это означает, что топология самого пространства 9* сильнее, чем то-
топология, индуцированная в нем топологией BPt ft, а топология пространства
Вр, к сильнее топологии, индуцированной в нем топологией 9".

14 10. Существование и аппроксимация решений
Для доказательства того, что Lp, k с: 9*\ заметим, что по нера-
неравенству Гёльдера
где 1/р+1/р' = 1. Этим наше утверждение доказано, так как,
в" силу первого неравенства A0.1.2), ||ф/&ИР' является непре-
непрерывной полунормой в пространстве 9*. Теперь воспользуемся
тем, что преобразование Фурье есть автоморфизм пространств
S? и 9й \ получим, что Вр, k полно, 9 a BP)k<^9' в топологиче-
топологическом смысле и 9 плотно в ВР} k при р < сю. Так как по лем-
лемме 7.1.8 Со° плотно в 9, доказательство теоремы закончено.
Теорема 10.1.8. Если ku k2<=X и
A0.1.13) ft2ffi)<CftiF), S^R11,
то BPt kx cz Bp, k2. Обратно, если существует такое открытое мно~
жество X Ф 0, что Вр, &, П 8' (X) cz BPt k2* то справедливо
A0.1.13).
Доказательство. Первое утверждение очевидно. Для доказа-
доказательства второго утверждения введем множество F, являющееся
компактным подмножеством в X с непустой внутренностью, и
положим В = ВР, kxf\S' {F). Так как топология каждого из про-
пространств Вр, ь> сильнее топологии пространства У (теорема
10.1.7), то В — замкнутое подпространство пространства Вр, *„
а отображение вложения В в BPt k2 замкнуто. Тогда по теореме
о замкнутом графике
A0.1.14) II«IU<C'II"IU- ые5' .
где Cj — постоянная. Мы применим оценку A0.1.14) к функции
и^ (х) = и (х) е' '*'Т1), где и е С" (F)—фиксированная функция, та-
такая что и Ф 0, т) s R". Так как Й1)(|) = й(| —1\), с помощью
оценок
I fti F)Л(Е — т|) К *i (л) 1ЛГ», F —(Е )
получим
Комбинируя эти неравенства с A0.1.14), получим A0.1.13) с по-
постоянной С = Сх || и ||р Mk /|| и \\р х(йк. Доказательство закончено.
Следствие 10.1,9. Если ku k2^X>9 то BPt кх П Вр, k2 = Вр, /ц+ь и

10.1. Пространства Вр k !5
Доказательство. Так как А/ ^ k\ + &2, то
С другой стороны, если «sB^^flBp,^ то из неравенства Мин-
ковского следует, что и& Bp.fn+ki и справедлива вторая часть
неравенства. Это доказывает следствие.
Рассмотрим теперь случай, когда отображение вложения из
теоремы 10.1.8 компактно.
Теорема 10.1.10. Если К — компактное множество в Rn и
A0.1.16) *2F)/*i(l)-»O при |->оо,
то вложение Вр% kx Л &' (К) в Вр, ъ% компактно. Обратно, если
для некоторого множества К с непустой внутренностью это вло-
вложение компактно, то справедливо A0.1.16).
Доказательство, а) Предположим, что A0.1.16) выполнено. Вы-
Выберем такую последовательность uv^ BPtk{ п &" (К), что
II uv Up, kx ^ * • Нужно доказать, что из нее можно выделить
подпоследовательность, сходящуюся в пространстве Bp,k2.
Пусть функция феСГСК") равна единице в некоторой окрест-
окрестности множества /С. Так как uv ¦=¦ q>uVi то
A0.1.17) М1) = BяГ
Умножим равенство A0.1.17) на k\(l) и воспользуемся нера-
неравенством
а также неравенством Гёльдера. Тогда получим
1 *i (I) uv (Б)
Аналогично, применяя те же рассуждения к продифференциро-
продифференцированному равенству A0.1.17), находим, что
| ft, (I)Dauv (I) | <Ba)-n"/\\MklDa^l.
Это доказывает, что последовательность йу равномерно огра-
ограничена и равностепенно непрерывна на любом компактном мно-
множестве в Rn. Следовательно, можно найти подпоследователь-
подпоследовательность, сходящуюся равномерно на всех компактных множествах.
Изменяя, если потребуется, нумерацию, можно считать, что
сама последовательность dv равномерно сходится на компакт-
компактных множествах. Для произвольного е > 0 выберем достаточно

16 10. Существование и аппроксимация решений
большой шар 5, такой что Ы?)/М?)<в при 1&S. Применяя
неравенство Минковского, получаем
8 К ~
При р = оо эта формула интерпретируется обычным образом.
Второй член в правой части стремится к нулю при ц и v->oo,
а первый всегда не превосходит 2е. Значит, uv—последователь-
uv—последовательность Коши в Вр. k,, что доказывает компактность вложения.
Ь) Предположим, что для некоторого множества К с Int/C^
Ф 0 вложение компактно. Докажем справедливость условия
A0.1.16). Для этого достаточно показать, что М
при ?v->• «>. Пусть С~(К)^иф 0; положим
С помощью A0.1.15) получаем
A0.1.18) IIM^IHU
Из первого неравенства вытекает, что последовательность wv
ограничена в BPt kx и, стало быть, относительно компактна в
BPt к,. Если ф е ^, то (<ри) е ^, и потому
wv dx = (фи) (— 6v)/fe! (|v) -> 0 при v -> оо.
Тогда uv->-0 в 57/. Так как топология в Р7' слабее, чем топология
в Bp,k2, единственной предельной точкой последовательности
uv в Вр, к, является 0, а значит, в силу относительной компакт-
компактности последовательности t/v, II Wvllp, *,"-*()• Но тогда наше
утверждение вытекает из второго неравенства A0.1.18). Дока-
Доказательство закончено.
Теперь выясним, как действуют дифференциальные опера-
операторы с постоянными коэффициентами в пространствах Вр> k. На-
Напомним, что если функция Р(?)—полином от п переменных
1ь Ъ> • • • у %п с комплексными коэффициентами, то дифферен-
дифференциальный оператор P(D) получается заменой в нем ?/ на Dj =
= —id/dXj. Пусть функция Р задана формулой A0.1.7).
Теорема 10.1.11. Если и^Вр k, то P(D)u^ Bp kfp.
Доказательство. Утверждение теоремы очевидно, так как пре-
преобразование Фурье распределения P(D)u есть функция
P(l)u(Q, по абсолютной величине не превосходящая P(l) \u(Q |,

10.1. Пространства Вр k 17
Следующая теорема обобщает теорему 10.1.11 и столь же
проста.
Теорема 10.1 Л 2. Если щ е Вр кх 0 &' и и2^ Boo, k2, то и{*и2^
^ Вр, kxku и имеет место оценка
A0.1.19) \\Щ^и2\\р
Доказательство. По теореме 7.1.15 преобразование Фурье сверт-
свертки и\*и2 равно произведению й\й2. Теперь из неравенства
^21 #21 ^ IIМ2 It», л„ вытекает нужное неравенство A0.1.19).
Для того чтобы перейти от результатов, полученных в тер-
терминах пространств Вр, *, к утверждениям в классической форме,
необходим следующий результат:
Теорема 10.1.13. Если 4g J и j — неотрицательное целое число,
такое что
A0.1.20) A+ g\yik(l)sLp't l/p+l/p'=l,
то Вр, * cz С Обратно, если BPtk[\Sr(X)ciO для некоторого
открытого множества ХФ0, то имеет место A0.1.20).
Доказательство достаточности включения A0.1.20). Если we
^Bp>k и |а|^/, то, в силу A0.1.20) и неравенства Гёльдера,
функция l*u(l) = {l*/k(l))(k(l)u(l)) интегрируема. Поэтому
интеграл в формуле для обратного преобразования Фурье
а также интегралы, полученные после дифференцирования функ-
функции и по переменной х не более чем / раз, абсолютно сходятся.
Следовательно, и е О. Доказательство необходимости включе-
включения A0.1.20) будет приведено после теоремы 10.1.15.
Теперь определим двойственное пространство к пространству
ВРу k при р < оо. Так как при р < оо пространство У плотно
в BPtk (теорема 10.1.7), непрерывный линейный функционал на
Вр> k однозначно определяется своим сужением на Р7.
Теорема 10.1.14. Пусть L — непрерывный линейный функционал
на Вр k, р < оо. Тогда найдется такое распределение v e Вр\ i/ь
1/р'+1/р=1. что
L(u) = v (и), и е= У.
Норма этого функционала равна \\ v \\p,t l/k. Следовательно, про-
пространство Вр\ i/fe двойственно к пространству Вр> ky и канониче-
канонической били^ей^Щ^Р^й^на Вр, k X Вр>, ми является непрерывное
^е^ий^ы v (и); v е Вр>, ци, и е 9>.

18 10. Существование и аппроксимация решений
Доказательство. С помощью преобразования Фурье теорема сво-
сводится к утверждению о том, что непрерывный линейный функ-
функционал на 9> относительно нормы ||Ш||Р, р < оо, является ска-
скалярным произведением с такой функцией V, для которой
Lp/, причем норма этого функционала равна \\V/k\\p'.
Замечание. Аналогично получаем, что каждый антилинейный
функционал на ВРу и является расширением функционала и ->
->о(й), ые?, и его норма равна ||v]\p,txjk.
Теперь мы остановимся на одном из самых важных свойств
пространства ВР) k.
Теорема 10.1.15. Пусть u^BPyk мфЕ^. Тогда уи е Вр> k и
Доказательство. Из теорем 7.1.10, 7.1.15 известно, что если
ф е Со°, то преобразование Фурье от v = q>u является сверткой
Умножая это равенство на k(Q и замечая, что
M(l )k)f получаем
Из неравенства Минковского в интегральной форме вытекает
оценка
которая эквивалентна неравенству A0.1.21). Так как простран-
пространство Со° плотно в &, то результат немедленно распространя-
распространяется на произвольные функции qp e SP.
Окончание доказательства теоремы 10ЛАЗ. Мы должны пока-
показать, что если Bp>kf\&'(X)czCi, то справедливо включение
A0.1.20). Можно считать, что OgX. Выберем функцию
ф ^ Со° (Х)9 такую что ф = 1 в окрестности точки 0. Если v e
^ВР,к, то по теореме 10.1.15 фо е BPtk[\8'(X). Тогда по усло-
условию теоремы yv e О. Применяя теорему о замкнутом графике,
так же как при доказательстве теоремы 10.1.8, получаем
1аТ</
В частности, если |а|^/, то

10.1. Пространства Вр k 19
Из двойственности пространств LF и Lp> при
вытекает неравенство
I&7* AI/<СBп)п"/, |а|</,
la отсюда следует неравенство A0.1.20).
С помощью теоремы 10.1.15 мы получим результат о при-
приближении распределений из пространства BPt * элементами с
компактными носителями.
Теорема ЮЛ Л 6. Пусть феСГ и if@)=l. Положим $ъ(х)=*
= \|?(ejt). Тогда если u^Bp>k и р < оо, то \|?eH->w при е->0
в топологии пространства BPt k.
Доказательство. По теореме 10.1.15
ЬН.*<С||«Ид.k при u<=BPtk9 0 < е< 1,
где постоянная
sup Bя)-я ? в"я | * (Е/е) | Ал
0<е<1 J
sup BлГп\\ЪA) \Mk(et)dt
<е<1 J
0<е<1
конечна в силу A0.1.1). Теперь теорема очевидна для функций
#еСо°. Так как пространство Со° плотно в BPtkt то получаем
доказательство теоремы.
Для аппроксимации элементов пространства BPt k можно
также воспользоваться обычной регуляризацией.
Теорема ЮЛ Л 7. Пусть ф^Со°^ \<pdjt=l. Положим Фе(#)=*
*=е-пф(*/е). Тогда если u^Bp>k и р < сю, то а*фе->а при
е->0б топологии пространства BPt k.
Доказательство. Преобразование Фурье от и * ф8 равно
й(|)Ф(е|). Таккак функции Ф(е?) ограничены одной постоян-
постоянной и Ф(е?)-*ф(О)= 1 при б->0 равномерно на каждом ком-
компактном множестве, то теорема доказана.
Теорема 10.1.15 позволяет для каждого открытого множества
XczRn определить подпространство пространства 2)'(Х), эле-
элементы которого локально ведут себя так же, как элементы про-
пространства Вр, л, но могут иметь произвольный рост на границе
и на бесконечности. Будем пользоваться следующей термино-
терминологией.
Определение 10.1.18. Линейное подпространство $Г простран-
пространства 2)'{Х) называется полулокальным, если из феС"Ш и

20 10. Существование и аппроксимация решений
и е У следует q>u e ЗГ. Оно называется локальным, если в до-
добавление к сказанному У содержит всякое распределение ир
такое что <ри е У при любой функции <р€Со° {X).
Примерами локальных пространств служат ?D'(X)9 Ck(X)>
L\0C(X), тогда как пространства 20р(Х), <§' (X), LP(X) полуло-
полулокальны, но не локальны. В силу теоремы 10.1.15 множество
сужений на X распределений из BPt k полулокально.
Очевидно, что Lfoc (X) есть наименьшее локальное про-
пространство, содержащее Lp(X). Справедливо и более общее
утверждение:
Теорема 10.1.19: Пусть ЗГ полу локально. Тогда наименьшим
локальным пространством, содержащим &*, является простран-
пространство
#-loc = {w; и*=2У(Х), щ*=У для любого <р€=С?ДО}-
Доказательство. Так как ЗГ полулокально, то У с: &ос. Ясно
также, что 3TXoz полулокально. Покажем, что пространство У{ос
локально. Пусть и — распределение, такое что ери е &~]ос для
любой функции феС~ (X). Выберем г|) е С^° (X) так, что г|? = 1
на носителе ф. Тогда по определению пространства У]ос полу-
чаем фи=ф(фи)€^". Поэтому меРс и, следовательно, про-
пространство У]ос локально. Очевидно, что это наименьшее локаль-
локальное пространство, содержащее ?Г.
Для будущих ссылок выделим следующее полезное свойство
локальных пространств.
Теорема 10.1.20. Пусть У — локальное подпространство про-
пространства Ф'{Х). Пусть «G^'fX), и пусть для каждой точки
хо^ X найдется функция ф е СГ (X), Такая что уи^ЯГ и
ф (Хо) ф 0. Тогда и<=&~.
Доказательство. Пусть феСо°(Х). По лемме Бореля — Лебега
можно найти конечное число функций ф1? ..., q>k^C™, таких
что ф,йе?", /=1, ..., ky иФ=Х1ф/12>0 на носителе ф.
Тогда функция \f» = ф/Ф, продолженная нулем вне виррф, при-
принадлежит С™ IX)- Так как SF полулокально, то щ =
k
= Z ФФ/Ф/И е ^"- Наконец, поскольку пространство У локаль-
но, отсюда следует, что и^9Г.
Обозначим через $Г° множество распределений из простран-
пространства У9 имеющих компактный носитель в X. Ясно, что если У

10.1. Пространства Вр k tt
полулокально, то
A0.1.22) ff-c = ff-loc П %' Ш, rXoz = (&~c)loc.
Большинство результатов, полученных выше для пространств
BPt k, немедленно переносятся на локальные пространства
B^k (X), построенные с помощью сужений на множество X рас-
распределений из ВРу k (или, что эквивалентно, с помощью распре-
распределений из Вр> к[\&'\Х)).
Теорема 10.1.21. Для справедливости включения Bp°*kx (X) сг
d Вр°\2 (X) необходимо и достаточно, чтобы выполнялось нера-
неравенство A0.1.13).
Доказательство. Ввиду теоремы 10.1.8 достаточность очевидна.
Чтобы доказать необходимость, заметим, что по предположе-
предположению, а также благодаря A0.1.22) имеем
BPt kx П %' (X) = Bjft (X) П 9* (X) с В$ш (X) П Г (X) с fip, k.
Следовательно, необходимость также вытекает из теоремы
10.1.8.
l0C
Теорема 10.1.22. Если u<=Blp0Ck(X), то P(D)u<= в?°л/р (X).
Доказательство. Для любой функции Ф е Св° (X) можно выбрать
такую функцию я|) е СГ (X), что \|) = 1 в окрестности носителя
ф. Так как ^u^BPtki то в силу теорем 10.1.11, 10.1.15 получаем;
и теорема доказана.
Теорема 10.1.23. Если и е= Вр°% (X) и ф s С°° (X), то q>u e BJT* (X).
Доказательство. Ясно, что этот результат имеет место для лю-
любого локального пространства.
Теорема 10.1.24. Пусть и{ <= Вр kx(Rn)(]8'(Rn) и tt2GB^(Rn).
Тогда u^u2^B^kiki(Rn).
Доказательство. Требуется доказать, что Ф (щ * щ) е Вр, kxk2 для
любой функции феС?°(Кл). Пусть К — множество всех точек
х, для которых множество {х} + supp и\ пересекает supp ф. Так
как К компактно, можно выбрать функцию <феСо°(КЛ)> такую
что if = 1 в окрестности К. Тогда в силу D.2.2) носитель рас-
распределения
и, * и2 — щ * М>«2) = ц, • (A — -ф) ы2)
не пересекает эиррф. Поэтому ф(«1 #^2) = ф(и1 * (*Ф«2)), и наше

22 10. Существование и аппроксимация решений
утверждение немедленно вытекает из теорем 10.1.15 и 10.1.12.
Следующий результат легко получается из теоремы 10.1.13.
Теорема 10.1.25. Для справедливости включения В1°% (X) с О (X),
где j— неотрицательное целое число, необходимо и достаточно,
чтобы выполнялось включение A0.1.20).
Теорема 10.1.7 приводит к следующему утверждению.
Теорема 10.1.26. Пространство Вр°%(Х) является пространством
Фреше с топологией, определяемой полунормами и-*\\уи\\р, *,
<р е Со° (X)» Кроме того, имеют место вложения
C"(X)czB%\(X)cz2y'(X)
при некотором j (также в топологическом смысле).
Доказательство. Для доказательства метризуемости простран-
пространства В]р\(Х) выберем возрастающую последовательность ком-
компактных множеств Kv cz X, такую что каждое компактное под-
подмножество X содержится в некотором /Cv. Пусть функции q>ve
€С0°°(Л таковы, что (pv=I в Kv Тогда топология в ВР°,%(Х)
определяется счетным набором полунорм и-+\\q)vu\\Pt *. Действи-
Действительно, для произвольной функции ф е Со*(Х) можно найти до-
достаточно большое число v, при котором supp ф с Kv Тогда q>u =
= ффуи,-и по теореме 10.1.15 получаем
Следовательно, топология метризуема. Для доказательства пол-
йоты достаточно доказать сходимость каждой последователь-
последовательности и/, для которой при произвольной функции феОГСХ)
последовательность <ри/ является последовательностью Коши в
пространстве Вр> *.. По теореме 10.1.7 последовательность ф«/
имеет предел в BPt Л> а значит, и в 3)'. Поэтому и = lim щ су-
существует в 2)'{Х)У и для любой "функции феС<ГШ имеем
||фи/ — фм||р,л->-0 при /->оо. Последнее утверждение теоремы
легко получается из доказательства теоремы 10.1.7.
Пусть кц^Ж и 1 ^ рц ^ оо, |л = 1, 2, .., . Мы будем
оо
изучать также пространство (| ^р0С,* (X) с топологией, кото-
которая является точной верхней гранью топологий пространств
В1р? k (X) и определяется с помощью полунорм
M-Hlqwllp^, феСГШэ |i=l, 2,....
Ясно, что полученное пространство является пространством
Фреше; оно метризуемо, так как топология в нем определяется

10.2. Фундаментальные решения V&
полунормами ||чм*Ир .л с теми же функциями q>v, что и в дока-
зательстве теоремы 10.1.26. Заметим, что по теореме 10.1.25
(Ю.1.23) с~ш=П<ЧШ> ^
Ясно, что пересечение более чем счетного числа пространств
В1°\(Х) есть также локально выпуклое пространство, но не
обязательно пространство Фреше.
Введя топологию в пространстве В1?%(Х), мы теперь в со-
состоянии обобщить теорему 10.1.10.
Теорема 10.1.27. Для того чтобы всякое ограниченное множества
в В1?%(Х) было относительно компактным в пространстве
В1°%2(Х)> необходимо и достаточно, чтобы выполнялось условие
A0Л.16).
Доказательство, Необходимость условия A0.1.16) легко следует
из теоремы 10.1.10, так как для произвольного компактного
подмножества К в X множество
{и; и<=Вр^х[\8'{К)Л\и\\рЛх<\)
ограничено в В1?%г(Х). (Отметим, что топологии пространств
В ki и Bl™k2(X) на этом множестве совпадают.) Для доказа-
доказательства достаточности возьмем ограниченную последователь-
последовательность uj в пространстве Blpocki (X). Это означает, что для функций
<pv, введенных при доказательстве теоремы 10.1.26, при каждом
фиксированном v последовательность ||чм*/||р.л, ограничена,
когда /-^оо. Следовательно, по теореме 10.1.10, применяя кан-
канторов диагональный процесс, можно выбрать такую подпосле-
подпоследовательность и, , что последовательность q>vuf сходится
вВр ^2при каждом v. Но это означает, что подпоследовательность
uj сходится в пространстве Bl°cki(X). Теорема доказана.
10.2. Фундаментальные решения
Пусть Р — дифференциальный оператор с постоянными коэф-
коэффициентами. Распределение E^2)'(Rn) называется фундамен-
фундаментальным решением оператора Р, если
A0.2.1) Р? = 6,
где б — мера Дирака в нуле. (По поводу важности фундамен-
фундаментальных решений см. § 3.3 и 4.4.) Для некоторых дифферен-
дифференциальных операторов выше были указаны явные фундамен-
фундаментальные решения. Так, в примере 3.1.2 мы видели, что функция

^24 10. Существование и аппроксимация решений
Хевисайда Н(х) является фундаментальным решением опера-
оператора d/dx на прямой R. Равенства C.2.17)' и C.2.2)" показы-
показывают, что функция Х+" — фундаментальное решение оператора
(d/dx)k на R. Таким образом, функция 5С+1~1(*1) ... Х+Л-1(^Л)
есть фундаментальное решение оператора да (см. доказатель-
доказательство теоремы 4А7). В C.1.12) было получено фундаментальное
решение l/nz оператора Коши — Римана д/dz, а в § 3.3 мы
построили фундаментальные решения оператора Лапласа, опе-
оператора теплопроводности, а также некоторых близких к ним
операторов, таких, как оператор Шрёдингера. Фундаментальные
решения вещественных однородных операторов второго порядка
были даны в § 6.2. В теореме 7.1.20 была найдена общая форма
фундаментальных решений однородных эллиптических операто-
операторов. В теореме 7.3.10 мы привели общую конструкцию фунда-
фундаментальных решений. Наконец, в теоремах1 7.1.22 и 8.3.7 были
получены параметриксы для эллиптических операторов и опера-
операторов вещественного главного типа (см. определение 7.1.21).
Теперь мы рассмотрим конструкцию теоремы 7.3.10 более вни-
внимательно.
Теорема 10.2.1. Пусть P(D) — отличный от нуля дифференциаль-
дифференциальный оператор в частных производных с постоянными коэффи-
коэффициентами. Тогда равенство G.3.22) определяет его фундамен-
фундаментальное решение Е е В1^р.
Доказательство. Мы можем записать G.3.22) в виде
<10.2.2)
где g$ имеет преобразование Фурье, равное
Из неравенства G.3.21) при Q = P6 = P(g+ •) получаем
sup |Ф| = С1в
Поэтому llgtlloo р^С\. По заданному е > 0 мы можем выбрать
множество Z в лемме 7.3.12 так, что |?| < е/2 при ?eZ. Тогда
gl =0 при |?|>е/2. Двойственным к пространству BUk при
?=1/Р является пространство В^р (теорема 10.1.14). Если
| ? | < е/2, то ясно, что семейство функций fe, ; (х) = е( <*• ^/ch | ex \
является ограниченным подмножеством в 5^. Так как M*(g)^
^ A + C|g|)m, то из неравенства A0.1.8) вытекает, что
\\Ul\\uMh<C29 IS К е/2.

10.2. Фундаментальные решения 2&
По теореме 10.1.15 с помощью неравенства A0.2.2) получаем.
5II ft IL, р IIL с lllt щ II ф 11Ь k db ft) < с3
Отсюда по теореме 10.1.14 имеем
(Ю.2.3)
где Сз зависит только от п, е и порядка т оператора Р. Тео-
Теорема доказана.
В терминах пространств В1°%, введенных в § 10.1, невоз-
невозможно сделать лучшее утверждение, чем теорема 10.2.1. Дей-
Действительно, предположим, что имеется фундаментальное реше-
решение Е оператора Рф), такое что Ее B[°ck(Rn). Ввиду теоремы*
10.1.22 находим, что
Но это означает, что k/P e Lp, поэтому ku e LP всякий раз,,
когда Рй е L°°, Отсюда
Bloc ploc
Определение 10.2.2. Фундаментальное решение Е оператора
P(D) называется регулярным, если Е е В1^ср-
В соответствии с этой терминологией теорема 10.2.1 утверж-
утверждает, что всегда существует регулярное фундаментальное ре-
решение. В силу A0.2.3) оно может быть выбрано с малым экспо-
экспоненциальным ростом на бесконечности так, что для него выпол-
выполнена оценка сверху, равномерная по PePol°(m, п)у где-
РоГ(т, п)—пространство полиномов от п переменных степени
не выше т с удаленным элементом 0. Пусть Е(Р) — фундамен-
фундаментальное решение, определенное формулой G.3.22). Рассмотрим
его. зависимость от Р. Пусть QePol(m, n). В формуле G.3.22)
заменим Р на P-\-tQy где t — малый вещественный параметр.
Тогда
А (ф (Рг + tQlt i)i(P (g + S) + tQ E + С))) 1/-о
= Ф7 (Рь С; Qt)/P F + ?) - Ф (Рь 0 Q F + 0/Р F + О2,.
где Ф'(Р, ^;Q)—производная функции Ф по Р в направлении
Q. Так как производные функции Ф по Р однородны по Р сте-
степени —1, то имеет место оценка
1ФЧР, UQ)I<CQ(O)/P(O).

26 10. Существование и аппроксимация решений
Функция Q(l)/P(l) имеет не более чем полиномиальный рост.
Поэтому функция (Е(Р), ф> бесконечно дифференцируема по
РеРо1°(га, п) при феС^. Отсюда следует, что отображение
РоР(/л, п)эР^?(Р)е2)/(Кя) принадлежит классу С°°. Его
дифференциал получается формальным дифференцированием
G.3.22). Следовательно,
<10.2.4) 4В' (Р; Q), <р> = BлГп \<ц\ф (-?-?) (Ф' (Рь ?; Qj)/P (Б+0
- Ф (Я*. О Q (Б + О/я (Б + О2) Л @.
Вьфажение в круглых скобках под знаком интеграла ограни-
ограничено умноженной на некоторую постоянную величиной
Ф(Ъ)/Р(ЪJ- Для производных ЕУЦР; Qu ..., Q/) мы получаем
аналогичную формулу с заменой выражения в круглых скобках
на сумму, первый член которой равен
последний
(- 1)' /IФ [Рь 0 Qi (Б + 0 . •. Q/ (Б + О/я (Б + 0ж.
Эта сумма оценивается величиной вида C/Ci(S) ••• ()/(Б)
Поэтому доказательство теоремы 10.2.1 немедленно приводит
к следующему результату:
Теорема 10.2.3. Отображение Р-+Е(Р), где Е(Р)—фундамен-
Е(Р)—фундаментальное решение, определенное в G.3.22), является С°°-отобра-
жением пространства Pol°(m, п) в 3)'(кп). Если supz|?|<e,
то для каждого j существует постоянная С/, такая что произ-
производные EU)(P\Qu ..., Qi) порядка j no направлениям Qu ..., Qf
удовлетворяют неравенствам
{10.2.5) ||?<Л(Р; Ql9 ..., Qy)/ch|e. |IL.F<C/f где
Пространство Boo, f здесь снова наилучшее в том смысле, что
оно содержится в любом пространстве °ВР, kj которое могло бы
быть использовано в неравенстве A0.2.5). В самом деле, пред-
предположим, что Е(Р)— произвольное фундаментальное решение
оператора Р, которое (локально) является С'-функцией по Р.
Тогда *
<10.2.6) Р (/))/+> ?(/) (р; Ql> ..., Qj) = (-1)/ /! Qx (D) ... Q} (D) 6.
Докажем равенство A0.2.6) по индукции. При / = 0 оно явля-
является определением фундаментального решения. Предположим,

10.2. Фундаментальные решения 27
что />1 и A0.2.6) уже доказано для меньших значений /„
Тогда
A0.2.7) А>(D)/?</-»(P;Qlt ..., Q/-i)
Дифференцирование по направлению Q/ дает равенство
Умножая его на P(D) и используя A0.2.7), получим A0.2.6).
Если ?(У) (Я; Qi Qy) s В?СЛ для некоторого * е ЯС в
ре[1, с»], то в силу A0.2.6) и теоремы 10.1.22 получаем
Можно считать, что все полиномы Q/ отличны от нуля. Выберем
для каждого из них регулярное фундаментальное решение />
Тогда
Qux(D) ...Qi(DN = Fi*Qi(D)...Q}(DN9 i=l9 ..., /.
Согласно теореме 10.1.24,
где F определено в теореме 10.2.3. Следовательно,
откуда вытекает вложение
Изучим теперь вопрос о расположении особенностей Е(Р)..
Начнем с простого результата о его носителе. Введем множе-
ство
A0.2.8) Л (Р) = {г, е= R"; Р (I + /т|). Р (|)},
которое с очевидностью является линейным пространством, и:
положим
A0.2.9) Л7 (Р) = {хе= Rn; (х, ц) = 0, ц е Л (Р)}.
Заметим, что если A'(P)={xeRn; xk+\ = ...=xn = 0}, та
функция Р(|) не зависит от ?Л+Ь ..., gn, так что мы имеем диф-
дифференциальные операторы, действующие только по переменным
Х\у . . . , Xk.
Теорема 10.2.4. Для фундаментального решения E(P)t опреде-
определенного формулой G.3.22), имеет место включение supp?(P)c:
А'{Р)
Доказательство. С помощью линейной замены переменных (и со-
соответствующей замены функции Ф) мы можем свести доказа-
доказательство к случаю, когда Л'(Р) определяется уравнениями

28 10. Существование и аппроксимация решений
jck+l — ... =хп = 0. Тогда функция Ф(РЬ ?)/P(g-{-?) не за-
зависит от ?" = (?/ж, ..., In). С помощью формулы обращения
«Фурье мы можем записать G.3.22) в виде
(Е (Р), Ф) = BяГ* J d? \ фоР%У^] Ф (Рг>, 0 dk (?),
где фо (л:') = <р (#', 0). Это доказывает теорему и дополнительное
утверждение, что Е(Р) является тензорным произведением рас-
лределения, заданного на плоскости х"=0, с б(лг").
Фундаментального решения оператора Р с носителем в мень-
меньшем линейном пространстве не существует:
Теорема 10.2.5. Пусть V — линейное пространство, и пусть P(D)
имеет фундаментальное решение ?, такое что supp? с V. Тогда
VidA'(P).
Доказательство. Достаточно доказать, что если хп = 0 в Vy то
полином P(D) зависит только от D' =(DU ..., Dn-i). Запишем
оператор Р в виде
По теореме 2.3.5 имеет место аналогичное разложение
в окрестности нуля. Здесь б обозначает 6-функцию, зависящую
только от хп, а ?/ — распределение, зависящее только от х/.
Уравнение P(D)E = 8 приводит к системе уравнений
2 aAD')Ek = Q при /=1, ...,т + г; а0(D')Ео = б{х').
Если т > 0, то, выбрав i = т + г, получим am(D')Er = 0. При-
Применение оператора am(D') к уравнению с / = m + r—1 уничто-
уничтожает ?t и приводит к равенству am{D'JEr-x =0. Действуя та-
таким же образом далее, окончательно получаем
ам (D0r+1 Во = 0, а потому am (D')r+1 б (*') = 0.
Отсюда ат = 0, что и доказывает теорему.
Запишем G.3.22) формально в виде
Е (Р) (х) = BпГп J dl
Интегрирование по переменной | по компактному множеству
приводит к С°°-функции, поэтому ясно, что на особенности фун-
фундаментального решения Е(Р)* влияет только поведение Р на
бесконечности. Кроме того, интеграл по большой окрестности
точки, расположенной достаточно далеко, должен быть довольно

10.2. Фундаментальные решения 29
тесно связан с фундаментальным решением предельного поли-
полинома для семейства полиномов Рл, или, точнее, нормированного
полинома Р\\/Р(г\) при т]->оо. Рассмотрим все такие предель-
предельные полиномы.
Определение 10.2.6. Множество предельных полиномов для се-
семейства нормированных полиномов
в Pol°(m, п) при т]->оо в Rn обозначим через L(P). Если
беК"\0, то множество таких предельных точек при лЛч!^
->0/|0| обозначим через Lq(P).
Ясно, что множества Lq(P) и L(P) являются замкнутыми
подмножествами единичной сферы в Pol°(m, ri). Элементы мно-
множеств L{P) и Lq(P) и их кратные с ненулевыми постоянными
множителями будем называть локализациями на бесконечности
{в направлении 0). Они могут быть получены как пределы вдоль
полиномиальных кривых:
Предложение 10.2.7. Пусть Q^Lq(P). Тогда можно найти по-
полином
4@= t в/,
о
где в/ е Rn, 0* = 0 и k > 0, такой что
<10.2.10) Р (I + л (*))/Р (Ч @) -> Q (Б) при t -> оо.
Доказательство. Теорема Тарского — Зайденберга (или, точнее,
следствие А.2.6) показывает, что
^ (/) = inf { !9 — 6г! !2 + S I Q(a) @) — aP(a) (ri) |2); a > 0,
1, 1ч12 = 1912^> bt=\)
является алгебраической функцией по t при больших t и
lim inf с (t) = 0, так как Q<=Le(P). Следовательно, c(t)-+O
при /->оо. Ясно, что точная нижняя грань достигается, и по
теореме А.2.8 для больших t она достигается при значении г],
. представляющем собой алгебраическую функцию от tt
4@=18/*,
— оо
где 0* = 0, так как 0 — i\(t)/t->0 при t-+oo. Сумма от —со
до —1 стремится к нулю при t-+- +°°- Положим

30 10. Существование и аппроксимация решений
Тогда ясно, что P(l + r\o(t))/P(r\0(t))-+Q(l) при /->оо. Заме-
Заменив t на tk> получаем доказательство предложения.
Теорема 10.2.8. Если Qe=Lq{P)9 to 9gA(Q), а если е<=?Л(Р)>
то deg Q < deg P.
Доказательство. В силу A0.2.10) для некоторых а>0ио^0
имеем
Если s вещественно, то
Ч 0 + stx-k/k) = ч @ + sQ + О A/0,
поэтому замена t на /+5^""ЛАпРив°ДиткРавенствУ ^)
= Q(|), и первое утверждение доказано. Ясно, что если
^D@)"^°°! то deg Q< deg Р. Поэтому последнее утвержде-
утверждение теоремы получаем с помощью следующего предложения:
Предложение 10.2.9. Если \^Rn и расстояние от g до Л(Р)
стремится к бесконечности, то P(g)->oo.
Доказательство. Пусть М — множество в Rn, на котором Р
ограничено. Положим Р = р + Г, гДе Р — однородная функция
порядка т, не равная тождественно нулю, а г имеет степень
однородности меньше т. Тогда если \а\ = гп — 1, то р(а) — Р(а>
есть постоянная, и поэтому функция р(а) ограничена в М. Мно-
Множество
N {Rn W() = 0 при
содержится в Л(р). В самом деле, так как р однородна, то
(т -1 а |) р<«> (ч) = S Ч/ ^Р(а
поэтому индукция по убывающим |а| показывает, что если
r\&N и |а|</л, то р(а)(ч) = О. Поэтому разложение Тейлора
по ч приводит к равенству рA + ц) = рA) при ч ^ Л^. Следова-
Следовательно, NczA(p). Итак, М ограничено по модулю N, и потому
р ограничено в М. Отсюда заключаем, что г также ограничено
в М. Если предложение уже доказано для полиномов степени
однородности меньше т (это мы можем предположить), то М
ограничено по модулю Л (г). А так как A(P)zd A(r)(]A(p)t то
множество М ограничено по модулю Л(Р). Это доказывает
предложение.
Предложение 10.2.7 показывает, насколько хорошо элементы
множества L(P) могут быть аппроксимированы полиномами
вида Р(- + ч)/^(ч)- Теперь Mbf обсудим, насколько хорошо
функции Р(- +ч)/^(ч) могут быть аппроксимированы элемен-
элементами множества L(P) при больших |ч|.

10.2. Фундаментальные решения 31
Предложение 10.2.10. Существуют такие положительные посто-
постоянные Cub, что для достаточно больших \х\\
О0.2.П) inf IZI ^(а)(-п)/р (л)—Q(ax@) |2+1 в —л/1 л 112; Q^LQ(
Q, 0 I a
Доказательство. Согласно теореме А.2.2, множество
{9} X LQ (P) с (Rn \ 0) X Ро1° (ет, п)
является полуалгебраическим. Действительно, оно определяется
формулой
{(в, Q); Ve>0 Зл: e|t||>lf |в - л/1 л I К е,
-Qia (О)р<в)
{Знаменатели и квадратные корни легко устранить, вводя вме-
вместо них новые переменные.) По следствию А.2.6 точная верхняя
грань при 1л | = * от точной нижней грани в левой части нера-
неравенства A0.2.11) является алгебраической функцией от t при
больших t. Она стремится к 0 при /~^оо, так как иначе мы
могли бы найти последовательность л/"*0» Для которой
A0.2.11) не сходится к 0. Это. приведет нас к противоречию,
если в качестве Q выбрать предел Р(- + Л/)/^(Л/). Ясно, что
в этом случае Q^Lq(P), где 0 — соответствующий предел по-
последовательности Л//1л/1- Алгебраическая функция f(t), удов-
удовлетворяющая условию f(t)-+Q при f-^оо, равна O(t~2b) для не-
некоторого Ь > 0. Предложение 10.2.10 доказано.
Теперь мы подготовлены к доказательству результатов о рас-
расположении волнового фронта и сингулярного носителя фунда-
фундаментального решения Е(Р). Пусть F — замыкание множества
A0.2.12) {(*, 6)ERnX(Rft\0); *sA'(Q) для некоторого
и пусть Fo — проекция множества F в Rn. Ясно, что Fo замкнуто,
так как мы всегда можем выбрать вектор 0 имеющим длину 1.
Отметим, что по теореме 10.2.8
A0.2.13) (х9 8> = 0 при (x,B)<=F.
Теорема 10.2.11. Пусть Е(Р)— фундаментальное решение, опре-
определенное формулой G.3.22). Тогда
A0.2.14) WF (E (P)) a F, sing supp Е (Р) с FQ.
Прежде чем доказывать эту теорему, сформулируем и до«
кажем ослабленный вариант обратного утверждения:

32 10. Существование и аппроксимация решений
Теорема 10.2.12. Пусть Е— регулярное фундаментальное реше-
решение оператора Р. Если QeLe(P), то Q имеет такое регулярное
фундаментальное решение eQ, что
A0.2.15) supp eQX {0} ci WF (E), supp eQ a sing supp E.
Доказательство теоремы 10,2,12, Второе включение A0.2.15) по*
лучается из первого проектированием в Rrt. Из равенства
P(D)E=8 находим
Р (D + Л) (???-<<•• *») = е~1 <• n>p (D) Е = 6.
Следовательно,
A0.2.16)
Выберем последовательность т]/-^оо так, что
(ю.2.17) p(d + i\,)iP(i\,)-+Q(D), viл/ 1-*еле|.
Покажем, что ЕР (т)у) е^'^ имеет сходящуюся подпоследо-
подпоследовательность.
Если феС0°°, то по условию теоремы ?ф = <р?'еВ00 р. Та-
Таким образом,
Это означает, что для преобразования Фурье
распределения ?фР(т|/)в"^">Т|^ имеет место оценка
(см. A0.1.8)). По теореме 10.1.10 при ft(?) = (l -f-1^|) —^«—»
найдется подпоследовательность последовательности ^P(t|/)X
X ^"^%л/>, сходящаяся в пространстве Boo, *. Используя диаго-
диагональный процесс и переходя к подпоследовательности, можно
считать, что Е^Р (r\j)e~l^tlC]^ сходится в Boo, * для каждой функ-
функции ф из некоторого разбиения единицы в пространстве R . По-
Поэтому в 2)'(Rn) существует предел
и, в силу A0.2.16), Q(D)G = 6. Если G9 = ф<7, то
ЁфF + Л/)Я (Л/) 1^СФ lim Р(л,)/Р(Б + Л/) =
Значит, G^Bl™$. Для доказательства теоремы остается по-
показать, что если (х, 0)^ WF(E)9 то G =0 в окрестности точки х.
Для этого выберем такую функцию ф, ф = 1 в окрестности

10.2. Фундаментальные решения 33
точки х, что функция ?ф быстро убывает в конической окрест-
окрестности 9. Тогда
?Ф(?+Л/)?(Л/)-»0 при /-юс
равномерно на произвольном компактном множестве. Отсюда
получаем, что cpG = 0. Следовательно, G = 0 в окрестности
точки х. Положив е<? = G, получим A0.2.15).
Доказательство теоремы 10.2.11. Разобьем интеграл G.3.22),
используя разбиение единицы. Для удобства будем считать, что
оно зависит от непрерывного параметра. Выберем такую функ-
функцию x^C™{Rn) с носителем в единичном шаре, что
= 1. Положим
где 8Е@, I) — достаточно малое число, которое будет выбрано
позже. Тогда
(Ю.2.18)
и || — л1 <A +|1|2)8/2 на носителе %г. Отсюда следует, что
для больших т] велико также и ?. Кроме того, |? —л1<|?|/2 и,
значит, 3|?|/2>|т)|>|Ц/2. Это дает
A0.2.19) 1?-лКСеA+1л1)е> если (g, л) е supp ъ.
Теперь ясно, что для произвольного мультииндекса а
A0.2.20) |^Хе
Положим
A0.2.21) Е(х, г\) =
Из равенства A0.2.18) следует, что
., л),
Докажем теорему 10.2.11, получив подходящие оценки для
Е(х, л).
Из определения множества F как замыкания множества
A0.2Л2) следует, что если (*0, бо)^/7» то найдутся открытая
окрестность <о0 точки хо и коническая открытая окрестность Го
точки 00, такие что
в>о П Л' (Q) = 0 при Q e Le (Р) для некоторого 8 <= Го.
Мы должны показать, что если Ф^СК), то функция (фЯ)(т)
быстро стремится к нулю при т -> оо в замкнутом конусе Г си Го.
2 Зак. 64

34 10. Существование и аппроксимация решений
Пусть Гь Гг — открытые конусы, такие что
Г с: Г2el1! в Го,
где Ш обозначает включение с замыканием (в R"\0). Для каж-
каждого N имеем
A0.2.22) |й?(т, ч)|<СуA+1x1)^A+|чО"^ если теГ
и ч^Гр
Действительно,
$? (т, ч) = BяГ J Хе F, Л)« J Ф (т - 6 - О gffig Л ft).
Если Ф(Я|, 5) =т^ 0, то мы можем оценить |ф(т — ?— ?) | через
С*A+|т —?|)-* при любом ЛЛ Если (?, т))е supple, Ч<?1\
и |л|>С<ь то из A0.2.19) следует, что |^Г2. Для те Г и
ф Г имеем |t| + |I|^Ci|t —1|, так как это верно для
= l. Поэтому если тбГ, г\<?Ги Ы\> Со и (gf л)е
ppxe, то |тЦ-|т)|<С2|т —g|. Отсюда вытекает A0.2.22).
Если мы покажем, что
г,
является С°°-функцией, то отсюда будет следовать, что функция
(фЯ)(т) быстро стремится к нулю при т-^-оо вГ.
По предложению 10.2.10 для больших ц^Г\ и некоторого
9еГ0 можно найти такой многочлен Q** e Lq(P), что
A0.2.23) РF + л)/Р(л) = ОЧб) + Яч(Е), Лч@)<С|лГд.
Для любых ?, таких что |5|</С|л|8> и t^A(Qn) из A0.1.8)
получаем
I P (I + ц) | = Р (Л) | Da (t, D)f R* (I) |
при / > 0, так как оператор (t, D^> аннулирует (Д Если е на-
настолько мало, что 2/пе ^ 6, то для больших ti e Fi и
получаем при / ^ 0
A0.2.24) |?»?</, Dft/Pft+^I^7
Из последнего неравенства будут вытекать оценки для произ-
производных функции Ф(Р|+Л, ?)/^(§ + Л + Б). Для этого докажем
следующее утверждение.
Лемма 10.2.13. Пусть f — функция класса С00, однородная сте-
степени \х в У\ {0}, где Y — конечномерное векторное пространство
над R. Если s-+y(s) — функция класса Ck из R в К, го

10.2. Фундаментальные решения 35
A0.2.25) \\dkf(y(s))/dsk\\^Ck\\y(s)\r sup (\\^(8)\У\\у(з)\^и.
Доказательство. Можно считать, что s = 0, а умножение у и s
на постоянные множители сводит доказательство к случаю,
когда II*/@)||=1 и sup ||^/) @)||= 1. Но тогда неравенство
o</<fe
A0.2.25) сразу следует из правила дифференцирования слож-
сложной функции. Заметим, что Ck зависит только от k и производ-
производных функции f порядка не выше k на единичной сфере.
Окончание доказательства теоремы 10.2.11. Применим лемму
10.2.13 к пространству У = Ро1(т, п) с нормой ||Q|| = Q(O) и
/(Р) = ф(Р, ?)//>(?), \х=-19 y(s) = Psm^ Тогда из A0.2.24)
вытекает, что
tyu4o)l=(Y,\Dt(t, do'
Отсюда
Заменяя ? на ? — т] и используя A0.2.20), получаем
Если мы умножим равенство A0.2.21) на </, л:)^ напишем
и проинтегрируем по частям, то для больших т) е Fi и / е A(QT»)
получим оценку
A0.2.26) |(/, х)'Е(х, Л) |<С; (|/1/| ril8O.
(Заметим, что мера множества {?; %г(^ц)ф 0} не превосходит
С|т)|еТ1.) Расстояние d(x, A'(Q)) то х до A7(Q) равно
sup \(t, x)\/\t\,
t^A(Q)
поэтому предыдущая оценка показывает, что для больших
чеГ,
A0.2.27) |Я(х, 4)KC,(dU, A^Q^hT) . / = 0, 1, ....
Если хезиррф, то величина d(x, Af(Q^)) оценивается снизу
положительной постоянной. Так как дифференцирование Е(х, ц)
по переменной х\ вносит в интеграл A0.2.21) лишь множитель
^ _|_ ?^ то ясно, что аналогичное доказательство при любом а
дает
A0.2.28) \DaxE(x>r\)\^CJta\nt(l{^i9 y' = 0, I,...,
х s supp ф, Q s Гд.

36 10. Существование и аппроксимация решений
Если мы выберем / настолько большим, что /е — |а|>/2, то
правая часть является интегрируемой функцией при больших ц.
Поэтому
у(х)Е(х, T])dT]
является С°°-функцией. Это завершает доказательство.
В § 8.3 мы видели, насколько важна информация о WF(E)
для фундаментального решения Е. (Мы вернемся к этому в
гл. 11.) Главное преимущество конструкции фундаментальных
решений, изучаемой в этом параграфе, — ее универсальный ха-
характер. Однако эта конструкция не всегда дает фундаменталь-
фундаментальное решение Е с минимальным волновым фронтом. Например,
в теореме 8.3.7 множество WF(E±), грубо говоря, составляло
половину множества F, появляющегося в теореме 10.2.11. Это
расхождение связано с тем фактом, что локализованные опера-
операторы Q могут иметь фундаментальные решения с носителями
намного меньшими, чем A'(Q); например, носителем может
быть полупрямая, в то время как множество A'(Q) — прямая.
Каждый дифференциальный оператор с постоянными коэф-
коэффициентами имеет фундаментальные решения из &'. Известны
несколько доказательств этого факта (см. примечания в конце
настоящей главы). Однако не всегда существует фундаменталь-
фундаментальное решение, одновременно регулярное и умеренно растущее:
Теорема 10.2.14. Предположим, что P(D) имеет- фундаменталь-
фундаментальное решение Е^ &'[\ В1™? (Rn). Тогда найдется постоянная С,
такая что
A0.2.29) J dr)/QD)<C
для всякого положительного в Rn полинома Q
Доказательство. Согласно предложению 10.2.7, мы можем вы-
выбрать полином ^t)(/)gR", такой что для больших t
A0.2.30) \Q®-Pa + 4(t))/P(r)(t))\<Crl(l+\l\)m, geR*.
Кроме того, как показано в примере А.2.7, в силу следствия
А.2.6
A0.2.31)
для некоторых постоянных с > 0 и \х. Следовательно,
A0.2.32) | Р (| + т| @)/Р (П @) I > с A + 11 \I~>
при

10.2. Фундаментальные решения 37
Рассмотрим теперь фундаментальное решение
оператора P(D + r\(t))/P(r\(t)). Преобразование Фурьер удов-
удовлетворяет уравнению Р(- + r\(t))/P(t\(t))Et = 1, поэтому
A0.2.33) ^F)-Р(ч(О)/РF + л(О) при (l + \l\)m+*<ct/Q.
Отсюда Et-+l/Q в ЗУ при /-*оо; докажем, что имеет место
сходимость в 9". Чтобы сделать это, выберем функцию х е С<Г
с носителем в единичном шаре, такую что %(Q=l при |?|<С
< 1/2. Представим функцию (ре^в виде
ф фГ + Ф; фГ(Е)
Если A + Г)т+^<с//С, то из A0.2.30) — A0.2.33) получаем
\(Et-Q-\ d)
\(Q~X> ч?)\
-Имеем
и
sup | g^V (Б - ч W) I - sup | (Б + л (ОK ^аф2 (Б) I
Выберем число Т — atb (а, 6 > 0) настолько малым, что
A + Г)т+^ <? ct/C. Тогда отсюда следует, что Р(л @)ф2 (• —
— Ц (t))->0 в У при г-^оо. Поэтому Et-+l/Q в ^
Предположение ? е В^% означает, что
supР(I)| ? * ф(Б) |<Bя)л||Ф?|Ц? = Сф < оо, ф
Отсюда при 1 = ц(() получаем
Устремляя t к бесконечности, находим, что
A0.2.34)
Мы можем выбрать <р так, что ф^Ои ф>0в единичном шаре,
например, взяв ф == г!)*^, где функция if) близка к б-функции и
ф(х) — ¦(—х). Тогда A0.2.29) вытекает из A0.2.34). Доказа-
Доказательство закончено»

88 10. Существование и аппроксимация решений
Пример 10.2.15. Для полинома РA) = ЦЦ + Щ + И4 локализа-
локализацией в направлении @, 1, е, 0) является функция (?? + e2)D-f
+ е4)~1/2. Так как функция 1/6? не является локально интегри-
интегрируемой, ясно, что не существует равномерной оценки вида
A0.2.29). Следовательно, единственное умеренно растущее фун-
фундаментальное решение
ехр (/ (*& + Х&
- *4 (ЦЩ + Ц)) d\x d\2 dl3 при хА > 0,
при *4<0
не является регулярным.
10.3. Уравнение P{D)a = f при /<=#'
Теперь мы объединим общие результаты § 4.4 по использованию
фундаментальных решений с построением регулярных фунда-
фундаментальных решений в § 10.2. Это приводит к следующим двум
теоремам.
Теорема 10.3.1. Пусть Е —регулярное фундаментальное решение,
задаваемое формулой G.3.22). Пусть и — решение уравнения
A0.3.1)
задаваемое формулой
A0.3.2) u = E*f,
{см. D.4.3)). Тогда если {е= BPt *(R"), где k<=X и 1 ^ р ^ оо,
то иеВр°с^И« Кроме того,
A0.3.3) WF (и) с {{х + у, 6); (*> I) e WF (/) и (у, I) e F),
где F — замыкание множества A0.2.12).
Доказательство. Эта теорема является очевидным следствием
теорем 10.1.24, 10.2.11 и формулы (8.2.16).
Замечание. Теорема 10.1.22 показывает, что если уравнение
P(D)u — f имеет решение mgB^, to [^В°\. Поэтому ре-
решение уравнения A0.3.1), задаваемое формулой A0.3.2), имеет
наилучшие возможные локальные свойства, описываемые в
шкале пространств В1р°\. Однако включение A0.3.3) не всегда
оптимально. " -\ . *
Следующая теорема заметно уточняет теорему 7.3.2.

10.3. Уравнение Р (D) и = f при f <= 8' 39
Теорема 10.3.2. Пусть ие^;, к^Ж и 1 ^ р ^ с». Включение
и е Вр ^ ыл*еет жесго тогда и только тогда, когда P(D) и е BPt k.
Доказательство. По теореме 10.1.11 из условия и е Вр kp сле-
следует, что P(D)u^ BPf ъ. Пусть Е — регулярное фундаментальное
решение. Тогда, объединяя D.4.2) с теоремой 10.1.24, получаем
обратное утверждение.
Следствие 10.3.3. Пусть «е^, 4gI и 1 < р ^ оо. Если
P(D)u e BPf k, то P(D) (ф«)е BPi k для всякой функции у ^ С™.
Доказательство. Это утверждение вытекает непосредственно из
теорем 10.3.2 и 10.1.15.
Часто бывает полезно переформулировать предыдущий ре-
результат, используя понятие, которое вводится следующим опре-
определением.
Определение 10.3.4. Пусть P(D) и Q(P) — дифференциальные
операторы, такие что
A0.3.4) Q{l)/P(l)<C geR*.
Будем говорить, что оператор Q слабее оператора Р (и писать
Q-^P) или что Р сильнее Q (и писать Р >> Q). Если Р <( Q <( Р,
то операторы Р и Q называются операторами одинаковой силы.
Теперь теоремы 10.3.1 и 10.3.2 можно сформулировать так:
Теорема 10.3.5. Пусть f <= Bcp,k> где k<=W и 1 < р ^ оо.
^Py то для решения и уравнения A0.3.1), данного в тео-
теореме 10.3.1, Q(D)u^BpOCk. Обратно, если для некоторых fteJif
up, 1 ^ р ^ оо, уравнение A0.3.1) илгеег решение и, такое что
Blpock для каждого f е ??. *, го
Доказательство. Для доказательства первого утверждения до-
достаточно заметить, что из ие ^pjfcp следует включение Q(D)u e
) (теорема 10.1.22), и затем применить теорему 10.1.21.
Для доказательства второго утверждения заметим, что если
Q(D)uefi'%, то Q(D)f = P(D)Q(D)ue=B[p0\/P (см. теорему
10.1.22). Ввиду теоремы 10.3.2 из включения f^S>/ вытекает,
что f^Bpk§/p. Поэтому
откуда в силу теоремы 10.1.8 получаем Q <^ Р.
Теорема 10.3.6. Если к<=Ж и 1<р^оо, то условие Q<P
равносильно тому, что из включений «g^' и P(D)u e BPtk вы-
вытекает Q(D)u&Bp,k. '

40 10. Существование и аппроксимация решений
Доказательство. Пусть и е &§'. Теорема 10.3.2 показывает, что
условие P(D)u e Bp, k равносильно условию u^Bpkp, а усло-
условие Q(D)u^ Bp, k равносильно условию u^Bpk§. Теперь не-
необходимое утверждение является непосредственным следствием
теоремы 10.1.8.
Теоремы 10.3.5 и 10.3.6 можно грубо резюмировать следую-
следующим образом: распределение Q(D)u тогда и только тогда имеет
ту же гладкость, что P(D)u, когда Q^P. Ясно, что такие за-
заключения важны при изучении возмущений дифференциальных
операторов с постоянными коэффициентами (см. гл. 13). Для
иллюстрации результатов рассмотрим подробно частный случай,
когда р = 2, k = 1, т. е. Bp,k = L2.
Теорема 10.3.7. Пусть X— ограниченное открытое множество в
Rn. Тогда существует ограниченный линейный оператор Е в про-
пространстве L2(X), такой что
A0.3.5) P(D)Ef = f, fe=L2(X),
A0.3.6) EP(D)u = u, если меГ(Д Р(D)и е= L2(X),
A0.3.7) Q(D)E — ограниченный в L2 оператор для любого
Доказательство. Пусть f^L2(X) и f0 — функция, равная f в X
и нулю в Rn\X. Далее, определим Ef как сужение «о = ?о*/о
на множество X, где Ео — регулярное фундаментальное реше-
решение. Тогда A0.3.5) и A0.3.6) немедленно следуют из D.4.2) и
D.4.3). По теореме 10.3.5 получаем, что оператор Q(D)E отобра-
отображает пространство L2(X) в себя. Чтобы вывести ограниченность
оператора Q(D)E, можно было бы применить теорему о замк-
замкнутом графике. Однако мы докажем этот факт, повторив дока-
доказательство теоремы 10.1.24. Пусть я|> е С?° (R"), -ф = 1 в окрест-
окрестности замыкания множества X — X = {х — у; ху у е X] и Fo =
= \f>?0. Тогда F{)& В^р и Fo*fo = ?о*/о = "о в X по теореме
4.2.4. Следовательно, v
|| Q (D) Ef \\L, < || Q (D) (Fo * f0) ||2 , < || f01|2,, IIQ (D) Fo Щ ,
< II f IL, II /^o lloo, p sup | Q (I) I/P (g),
что доказывает теорему.
Имеется еще одно интересное приложение:
Теорема 10.3.8. Пусть Q<P и Р(?M*0, ? е= R". Тогда для про-
произвольного открытого ограниченного множества X czRn
A0.3.8) j jj (Q (D) и) п dx | <С* jj (P (D)u) udxy и € Cc°° (X),
где Cx — некоторая постоянная.

10.4. Сравнение дифференциальных операторов 41
Доказательство. Нужный результат следует из теоремы 10.3.6
при р = 1, k = 1, примененной к свертке «*й, где п(х) =
= и(—х)—функция, имеющая преобразование Фурье й. Детали
доказательства предоставляются читателю.
10.4. Сравнение дифференциальных операторов
Здесь мы изучим формальные правила пользования отношением
предпорядка Q^P (см. определение 10.3.4) и рассмотрим не-
некоторые примеры. В доказательствах будет применяться только
определение 10.3.4, хотя некоторые из наших утверждений легко
получаются при помощи теорем 10.3.5 и 10.3.6.
Теорема 10.4.1. Если Qi<P и Q2<P, то aiQi + a2Q2< P для
произвольных комплексных постоянных п\ и а2. Если Q[ <( Pi
ы <?2<^2, то Q\Q2~<P\P2. С другой стороны, если Q[Q2~KP[P2
uQi>PutoQ2<P2.
Доказательство. Первое правило тривиально. Другие вытекают
из следующей леммы:
Лемма 10.4.2. Существует постоянная С, такая что для всякого
полинома Q в Rn степени ^ m
A0.4.1) Q(E, /)/C< sup |Q(? + T))I<CQ(?, /), gGER", / > 0,
где
A0.4.2) Q(|, 0
Доказательство. Если мы заменим Q на полином
то доказательство сведется к случаю, когда g=0 и /=1. Те-
Теперь утверждение очевидно, так как sup |Q(t])| и C@, 1) =
I л i<i
= <3@) являются нормами в конечномерном векторном про-
пространстве Pol (л, т) и, следовательно, эквивалентны.
Окончание доказательства теоремы 10 АЛ. Достаточно показать,
что
A0.4.3) С'Р (I) Q A) < (PQ) (?) < С P(l) Q (I)
для полиномов Р и Q в R" степени ^ /п. Вычисляя производ-
производные произведения PQ по формуле Лейбница, сразу получаем
второе неравенство. Чтобы доказать первое, воспользуемся лем-
леммой 10.4.2 и для данного ge Rnвыберем такой элемент rieR*,
что | т| | ^ 1 и

42 10. Существование и аппроксимация решений
Из A0.1.8) вытекает неравенство Q(l)/C ^ Q(l + r\)/Cx\ по
формуле Тейлора получаем
+ 4)l- Е lQ(a)(g + л)ва|/а!
Если |8|< l/2CiC2, то
Так как Р = PQ/Q, то
при 18 |< 1/2СА.
Отсюда, применяя A0.4.1) и A0.1.8), получаем
Р (I) < СгР (Б + л) < С4 (PQ) (| + 4)/Q (| + ч j < C5 (PQ) FVQ (?),
что доказывает A0.4.3).
Теорема 10.4.1 позволяет естественным образом распростра-
распространить отношение предпорядка на рациональные функции, хотя
нам это и не понадобится. В самом деле, по теореме 10.4.1 если
/?i и #2 — рациональные функции, то либо
A0.4.4.) PRi<PR2
для всякого полинома Р Ф 0, для которого произведения PR\
и Р/?2 являются полиномами, либо это отношение не выполня-
выполняется ни для одного такого Р. Положим по определению R\ <(/?2>
если A0,4.4) выполнено для всякого полинома Р, для которого
PRi и PR2 являются полиномами. Отсюда сразу вытекают сле-
следующие свойства:
A0.4.5) Rl<
Теперь дадим два альтернативных описания отношения
Q<P.
Теорема 10.4.3. Отношение Q^P равносильно каждому из сле-
следующих условий:
a) существует постоянная С, такая, что
A0.4.6) IQ(i)l<C'P(|), SsR";
b) существует постоянная С", такая что
A0.4.7) Q(|, t)<CP(l> t); 6 е R", /> 1.

10.4. Сравнение дифференциальных операторов 43
Доказательство. Ясно, что из условия Ь) следует отношение
Q<^P, откуда в свою очередь вытекает а). Поэтому остается
доказать, что из а) следует Ь). Для этого применим лемму
10.4.2:
)<С sup |Q(| + ц)| <С'С sup
\r\\<t \r\\<t
<С'С2 sup |P(?
\r\\<t+\
Доказательство закончено.
Введем другое отношение порядка, тесно связанное с отно-
отношением Q <( Р. Связь между ними скоро прояснится.
Определение 10.4.4. Будем говорить, что Р доминирует над Q,
и писать Р^> Q или Q <^ Р, если
A0.4.8) supQ(?, t)/P(l, /)->0 при
где | и / вещественны.
Отметим, что Р{A)^Р для всякого а Ф 0. Ясно, что есл*.
Q<^P, то Q<(P. Следующие теоремы являются аналогами тео-
теорем 10.4.1 и 10.4.3.
Теорема 10.4.5. Если Q,<P и Q2<P, то aiQl+a2Q2<€ P для
произвольных комплексных постоянных а{ и а:. Если Q\^P\ и
Q2"n^2> toQiQ2^PxP2. С другой стороны, если Q\Q2^P{P2 и
Q\ > Л» то Q2 <€ Л>- Кроме того, из условий QiQ2 < P{P2 и Qi>Pi
следует, что Q2*^P2-
Доказательство. Применив неравенства A0.4.3) к полиномам
P(tl) и Q(tQ, получим
A0.4.3Г С'Ра, t)Q&, /)<(PQ)(g, 0<C"PQ, /)Q(g, /).
Далее рассуждаем так же, как при доказательстве теоремы
10.4.1.
Теорема 10.4.6. Для справедливости отношения Q<^P доста-
достаточно, чтобы выполнялось условие
A0.4.9) inf (sup | Q (Б) I/P (|, /)) = 0.

44 10. Существование и аппроксимация решений
Доказательство. Пусть С(/) = sup| Q(?) |/ЯF. t), 5, / > 0. Так же
как при доказательстве теоремы 10.4.3, получаем
sup |Q(? + 4)|<CC(s) sup Р(Ъ + ц, s)
\r\\<t \r\\<t
) sup \
\4\<t+s
Отсюда следует, что
ffin
Так как infC(s) = 0, получаем условие A0.4.8). Теорема до-
доказана.
Пусть Ро— фиксированный полином в R" степени m > 0,
и пусть
(Ю.4.10) Г = {Р;Р<Р0}, W0 = {P\ P<Po).
Степени полиномов из множеств W и Wo не превосходят m и
m — 1 соответственно, поэтому W и Wo — конечномерные комп-
комплексные векторные пространства. Если Р е W, то Р(а) е Wo для
всякого афО. Поэтому полином |-^Р(| +Э) —P(g) содер-
содержится в множестве Wo.
Пусть Е — открытое подмножество W, состоящее из всех
полиномов одинаковой силы с Ро. Если РеЕ, Qe WOt то R =
eP + QEfi. Действительно, если число / достаточно велико, то
.?(?,/)<? (I, /) + Q (I, t) < Л (Б, 0 + Р (Б, /)/2.
Отсюда следует, что Ро <С Р -< /?. Докажем, что Я можно оха-
охарактеризовать как множество, на котором отличны от нуля все
функционалы из некоторого семейства линейных функционалов
на W. Ясно, что такие функционалы должны обращаться в нуль
на полиномах из множества Wo.
Пусть ^gR". Положим
Множество & = {L\\ ^gR"} является ограниченным подмно-
подмножеством двойственного к W пространства W. Из равенства
вытекает, что замыкание SE является компактным подмноже-
подмножеством в пространстве W\ не содержащим нулевого элемента.
Положим

10.4. Сравнение дифференциальных операторов 45
Заметим что если Lit->L и отношение /*оE/> */)/А>(?/) огра-
ограничено для некоторой последовательности f;->oo, то из нера-
неравенства
вытекает, что L q &§.
Теорема 10.4.7. Множество Е полиномов одинаковой силы с по-
полиномом Ро является подмножеством в W — {Q; Q<( Ро}> выде-
выделяемым соотношением
E = {Qe=W\ L(Q)=?0 для любого L е= &0},
где So— такое компактное подмножество в 1#"\{0}, что
Wo = {Q;Q< Ро} = {Qe W\ L(Q) = 0 для любого L s S^b
Доказательство, а) Пусть Q g №' не является полиномом одина-
одинаковой силы с Ро. Тогда найдется такая последовательность
?/->-оо, что
Qffi/)/^o(E,)->o.
Поэтому можно выбрать такую последовательность ?/->оо, что
По лемме 10.4.2 существует такая последовательность
h/| < '/, что если 9/ = lf + rj/, то
Отсюда вытекает неравенство
Следовательно, LQj(Q)->0 при /->-оо. Применяя неравенство
A0.1.8) к полиному Ро(</?), получаем
Ро (9у, /у) < С'Ро (Б,, /;) < СГ| Ро (8у) |.
Отсюда вытекает, что каждая предельная точка L последова-
последовательности /,0/ содержится в So, т. е.
IF; L(Q) = 0 для некоторого полинома LeS'o}.
b) Пусть QelF и L(Q) = 0 для некоторого функционала
s^o, Пусть |/еКя — такая последовательность, что А/"*
I. Тогда Q(g/)/Po(l/)-^O. Так как Q^^Pq при а=?^0, то
^^O для любого мультииндекса а. Поэтому
Q(/)/o (/)> 0
и, значит, Q&E.

46 10. Существование и аппроксимация решений
с) Пусть Qe№\U/0. Докажем, что найдется функционал
L^S^o, для которого L(Q)=t^O. По условию теоремы найдутся
такие последовательности 5/sR" и t\ ->oo, что для некоторой
постоянной с > 0
*<| Q (Б/)
Так как |Q(g,) | ^ СР(|,), то
Следовательно, IL^^Q)!^^ и в силу A0.4.11) каждый предел
L последовательности 1%} содержится в SV Так как L(Q)^0,
то теорема доказана.
Следствие 10.4.8. Для того чтобы при любом комплексном а вы-
выполнялись соотношения Р <( Р + aQ^P, необходимо и доста-
достаточно, чтобы было Q<^ Р.
Доказательство. Нужное утверждение вытекает из теоремы
10.4.7 с Ро = Р. В самом деле, условия L{P) + aL(Q)=f^0 при
любом сеС и Le^o равносильны условиям L(Q) = 0 и
L e SV Это означает, что Q e tt^o-
В заключение приведем два простых примера отношения
сравнения. Для этого нужно вспомнить определение 7.1.19 эл-
эллиптического оператора.
Теорема 10.4.9. Дифференциальный оператор P(D) порядка m
сильнее любого оператора порядка ^ m тогда и только тогда,
когда он эллиптичен.
Доказательство, а) Эллиптичность необходима. В самом деле,
если существует такое вещественное %ф0, что Pm(g) = O, то
Р(tQ = О(tm-{) при *-^оо. Возьмем такой однородный полином
Q степени /л, что Q{%)?=0. Тогда Q(tQ = tmQ(l), и потому Q не
слабее Р.
Ь) Эллиптичность достаточна. Действительно, если опера-
оператор Р эллиптический, то точная нижняя грань С величины
|Рт(|)| на вещественной единичной сфере положительна и в
силу однородности
cmm<ipm(i)i.
Записывая Pm = P + (Pm — Р), мы получаем
где С\ — некоторая другая постоянная. Отсюда следует, что
С1 при |Ц>2С,/С,

10.4. Сравнение дифференциальных операторов 47
и, значит, с некоторой третьей постоянной С
(Ю.4.12) 1+1БГ<СР(Е).
Это доказывает теорему.
Пусть Р— эллиптический дифференциальный оператор по-
порядка т. Операторы Р и Q являются операторами одинаковой
силы тогда и только тогда, когда порядок Q равен т и Q эллип-
эллиптичен, т. е.
Qm(l)?=0 при |Б|=1, ?e=R*.
В этом случае функционалы, используемые в теореме 10.4.7,
можно заменить на функционалы Q-> Qm(^).
Теорема 10.4.10. Дифференциальный оператор P(D) с главной
частью Pm(D) доминирует над всеми дифференциальными опе-
операторами порядка < m тогда и только тогда, когда
A0.4.13) ? | дРт A)№,- \2ф0, 0Ф1 е= R\
Доказательство, а) Необходимость условия A0.4.13). Предполо-
Предположим, что для некоторого вещественного | ф 0
dPm&l'dl^O, /==1,..., п.
Тогда, согласно тождеству Эйлера для однородных полиномов,
Pm(g) = O. Если Р = Рщ + Рш-\+ ..., то при s->oo и фикси-
фиксированном t
P{SI, /J=Z
a
Следовательно, если Q — однородный полином степени w — 1
и QA)=Uto
P(SI, tJ/\Q(sl)\2->\Pm-l(l)\2 ПРИ S->OO.
Так как правая часть не стремится к бесконечности при /->оо,
то Р не доминирует над Q.
Ь) Достаточность условия A0.4.13). Рассуждая так же, как
при доказательстве теоремы 10.4.9, из условия A0.4.13) находим
Поэтому
Это доказывает, что полином Р доминирует над любым поли-
полиномом Q степени <Спг. Доказательство завершено.
Следующее определение служит обобщением определения
8.3.5.

48 10. Существование и аппроксимация решений
Определение 10.4.11. Оператор Р называется оператором глав-
главного типа, если главная часть Рт удовлетворяет условию
A0.4.13).
Если Р есть оператор главного типа, то оператор Q тогда и
только тогда слабее Р, когда степень Q не превосходит т и
\Qm(l) |<J C\Pm(l) |, где С — некоторая постоянная. Множество
3?о, введенное в теореме 10.4.7, является замыканием множе-
множества функционалов Q-+Qm(t)/Pm(l), где ^g^h РтA)ф0.
10.5. Аппроксимация решений однородных
дифференциальных уравнений
Начнем с того, что распространим результат теоремы 7.3.6 на
пространства, введенные в этой главе. Пусть kx е Ж и 1 ^ pt <
< оо, где i принадлежит счетному или несчетному множеству
индексов /. Пусть Хс= Rn — открытое множество и
Топология пространства ^(Х) определена в § 10.1. В этом па-
параграфе предполагается, что pt < оо.
Теорема 10.5.1. Пусть X— выпуклое множество. Тогда замкну-
замкнутая в &~(Х) линейная оболочка экспоненциальных решений
уравнения
A0.5.1) p(D)u = Q
{см. определение 7.3.5) состоит из всех решений уравнения
A0.5.1), принадлежащих &~(Х).
Доказательство. Пусть L — непрерывный линейный функционал
на &"(Х), ортогональный всем экспоненциальным решениям.
Так как топология пространства С°°(Х) сильнее, чем топология
пространства &~(Х) (теорема 10.1.26), то сужение L на C°°(R")
есть распределение vgI'(A'). Из доказательства теоремы 7.3.6
получаем, что если ие=С™(Х)и P(D)u=0 в окрестности мно-
множества /С = c/isuppv, то L(u) = v(u) = 0. Более того, если
u^ff'(X)[\&'(X) и P(D)u=0 в окрестности множества /(, то
L(u) = 0. В самом деле, регуляризация #8 = и*фе, используе-
используемая в теореме 10.1.17, принадлежит классу Со* (X) и удовлетво-
удовлетворяет уравнению P(D)ue = 0 в окрестности множества К при
малых значениях г. Поэтому L(ue) = 0. Теорема 10.1.17 показы-
показывает, что ие-+и в (Г(Х) при е->0. Следовательно, из непре-
непрерывности L на пространствеР'(Х) получаем L(u)=\\m Ь(иг)=0.
По определению топологии пространства !F(X) найдется такое

10.5. Аппроксимация решений 49
компактное множество К' с:Х, что если ye !F(X) и supp v f| K'=
= 0, то L(v) — 0. Выберем такую функцию эсеСо°(ЛО> что
Х = 1 в окрестности множества К\]К'. Тогда L((l— %)и) = 0
для всякого элемента i/Gf (J), и L(%u) = 0, если и вдобавок
удовлетворяет уравнению A0.5.1). Поэтому если и^@~(Х)
удовлетворяет уравнению A0.5.1), то L(m) = Z,(A—%)и)-{-
-\- L(yu) = Q. Доказательство завершается применением теоре-
теоремы Хана — Банаха.
Замечание. Мальгранж (Malgrange [1]) доказал, что в условии
георемы 7.3.6 (а потому и в условии теоремы 10.5.1) тогда и
только тогда достаточно использовать полиномиальные реше-
решения, когда все неравные константам делители полинома Р(?)
обращаются в нуль в начале координат. Кроме того, из доказа-
доказательства леммы 7.3.7 легко получается, что в этих теоремах
тогда и только тогда достаточно использовать решения вида
е {х'^ у когда полином Р(?) не имеет кратных делителей.
Докажем теперь аналог теоремы 4.4.5 для общих дифферен-
дифференциальных операторов с постоянными коэффициентами. Этот ре-
результат понадобится нам в § 10.6. Структура доказательства не
изменяется, но отсутствие аналитического продолжения для ре-
решений уравнения A0.5.1) вынуждает нас сделать утверждение
более неявным.
Теорема 10.5.2. Пусть Х\, Х2 —-открытые множества, XxczX2 и
каждое распределение \х е &>'(Х2), для которого supp Р(—D)\i с
аХи принадлежит пространству <8'(Х\). Положим
уГ/ = {и;ие=0-(*,), P(D)m = 0}, /=l, 2,
и пусть N'^— множество всех сужений элементов из Jf2 на Х\.
Тогда Jf'2 плотно в Jf{ в топологии, индуцированной топологией
пространства ёГ(Х\).
Доказательство. Пусть L — непрерывный линейный функционал
на fF(Xi), ортогональный к/,. По теореме 10.1.26 сужение L
на С°°(Х\) является распределением vg^'^), Докажем, что
существует распределение \х, такое что
A0.5.2) |i е= 8* (*,), Р (- D) |i = v.
Для этого заметим сначала, что так как распределение л> орто-
ортогонально всем экспоненциальным решениям уравнения A0.5.1),
то по лемме 7.3.7 и теореме 7.3.2 существует такое распределе-
распределение jne^?/(R'1), что Р(—D)^i = v (см. доказательство теоремы
7.3.6). Если мы докажем, что
A0.5.3) supp \iczX2>

50 10. Существование и аппроксимация решений
то из предположений теоремы получим A0.5.2). Докажем вклю-
включение A0.5.3). Пусть Е — фундаментальное решение оператора
P(—D). Тогда ii=E*v. Если ф е= CJT (СЯ2)> то
jx (о|>) = jx * ^ @) = Е * v * ф @) = v (Ё * г|5).
Так как Ё является фундаментальным решением оператора
P(D), то P(D)(?*\|))==i|5 = 0 в Х2. Сужение С°°-функции ?*<ф
на Хх принадлежит Л9^. Тогда по предположению v(?*\|)) = 0,
откуда следует A0.5.3).
Из A0.5.2) вытекает, что
если «е C°°(Zi) и P(D)u =0 в окрестности носителя \х. Так же
как и при доказательстве теоремы 10.5.1, получаем, что L(u) = 0
для каждого элемента и^&г(Хх), для которого P(D)u =0 в Х\.
Доказательство завершается применением теоремы Хана — Ба-
Банаха.
Следствие 10.5.3. Пусть X—открытое множество в R", такое
что каждое \n&S'(Rn), для которого supp Р( —D)\i а Ху при-
принадлежит пространству 8'(Х). Тогда экспоненциальные реше-
решения уравнения A0.5.1) плотны в множестве всех решений этого
уравнения, принадлежащих $Г (X).
Доказательство. По теореме 10.5.2 решения уравнения A0.5.1),
заданные на X, можно аппроксимировать решениями в Rn, а по
теореме 10.5.1 последние могут быть аппроксимированы экспо-
экспоненциальными решениями.
10.6. Уравнение Р(D)u = f, где/—элемент
локального подпространства пространства 3/р .
В этом параграфе мы изучим уравнение P(D)u = f в случае,
когда f^2)'(X) и, сверх того, принадлежит некоторому про-
пространству flpjfe (X). Мы докажем, что для произвольного X реше-
решение существует тогда и только тогда, когда множество X яв-
является Р-выпуклым в смысле следующего определения.
Определение 10.6.1. Открытое множество X с Rn называется
Р-выпуклым для носителей, если для каждого компактного мно-
множества KczX найдется компактное множество К'аХ, такое
что из условий ф е С~ (X) и supp Р(—?))ф с= К следует supp ф с:
с: К'.
Прежде чем продемонстрировать важность этого условия,
приведем несколько простых свойств, касающихся Р-выпукло-
сти для носителей.

10.6. Уравнение P(D)u = f 51
, Теорема 10.6.2. Всякое открытое выпуклое множество Р-выпукло
для носителей. Если X выпукло, то в определении 10.6.1 в ка-
качестве К' можно взять выпуклую оболочку множества К.
Доказательство. Это утверждение следует из теоремы 7.3.2.
Теорема 10.6.3. Множество X является Р-выпуклым для носите-
носителей тогда и только тогда, когда для всякого распределения
\к&&'(Х) расстояния от СХ до supp \x и до suppP(—D)\x оди-
одинаковы.
Доказательство, а) Достаточность. Если К — компактное под-
подмножество в X, то расстояние б от К до СХ положительно. Мно-
Множество F, состоящее из точек на расстоянии ^б до СХ, зам-
замкнуто. Если це^"(Х) и suppP(—D)\xczK, то по условию и
по теореме 7.3.2 supp цс= Kf = F f) ch(K).
b) Необходимость. Так как supp \х иэ supp Р(—D)\if то до-
достаточно доказать, что расстояние от suppP(—D)\x до СА^ не
превышает расстояния б от supp \х до СХ. Пусть сначала ц е
eCo°CY). Тогда при |а|<б функция [ха(х) = \х(х —а) при-
принадлежит Со° (X), но не существует компактного подмножества
множества X, содержащего supp \ia для всех таких а/Поэтому
не существует и компактного в X подмножества, содержащего
носитель функции Р(—О)\ла для всякого а с |а|<б. Так как
(Р(—D)\xa) (x) = (P(—D)\x) (x — а), то мы заключаем, что рас-
расстояние от suppP(—D)\x до С(Х) не превосходит б. Это дока-
доказывает теорему при (xeC*(JT). Чтобы доказать ее для произ-
произвольного \i^&'(X)9 применим полученный результат к регуля-
ризованной функции |дф (см. теорему 4.1.4) и устремим suppcp
к{0}.
Пусть Х\, /е/, — некоторое семейство открытых множеств.
Обозначим через [)°Х множество внутренних точек пересечения
множеств Хи а через WvcfXt — множество точек, каждая из ко-
которых обладает окрестностью, содержащейся во всех Xt9 за
исключением конечного числа.
Теорема 10.6.4. Если при каждом /е/ множество Xi P-выпукло
для носителей, то множества {fXi и WxxfXi также Р-выпуклы
для носителей.
Доказательство. Пусть X = [)°Xi и це^A). Если расстояние
от suppP(—D)\x до СХ равно б, то расстояние от suppP(—D)[i
до CXi не меньше б при каждом i. Поэтому по теореме 10,6.3
расстояние от supp \x до CXt не меньше б при каждом /. Следова-
Следовательно, расстояние от supp|i jxoCX{ не меньше б, а потому мж>
жество X Р-выпукло для носителей. По аналогичным причинам
\irn°Xi также Р-выпукло для носителей.

52 10. Существование и аппроксимация решений
Следствие 10.6.5 Для каждого открытого множества X суще-
ствует наименьшее содержащее его открытое множество, Р-вы-
пуклое для носителей.
Этот результат, а также теорема 10.6.2 делают естественным
применение термина «выпуклость». Дальнейшее его оправдание
будет дано в § 10.8, где обсуждается геометрический смысл
условия Р-выпуклости для носителей.
Докажем теперь, что условие Р-выпуклости для носителей
необходимо для получения теоремы существования в случае
уравнения
A0.6.1) P(D)u = f,
когда на / не накладывается никаких глобальных ограничений.
Теорема 10.6.6. Допустим, что уравнение A0.6.1) имеет решение
ие2)'(Х) при любой функции f^C°°(X). Тогда X Р-выпукло
для носителей.
Доказательство. Рассмотрим билинейную форму
A0.6.2) (Ф, /)->$<р/Лс,
в которой функции / принадлежат С°°(Х)У рассматриваемому
как пространство Фреше с обычной топологией (см. теорему
2.3.1), а функции ф берутся из метризуемого пространства Ф,
определяемого следующим образом. Элементами Ф являются
такие функции у^С™(Х), для которых supp Р(—/))ф си /С, где
К — фиксированное компактное подмножество в X. Топология
в Ф задается полунормами sup|DaP(—D)y\ для всех мульти-
индексов а. При фиксированной функции ф форма A0.6.2) не-
непрерывна по f, ибо ф имеет компактный носитель. С другой сто-
стороны, по предположению можно для каждой функции f ^ С°°(Х)
найти распределение ме^Щ, удовлетворяющее уравнению
A0.6.1). Тогда
\ dx = и(Р(— D)ф), феФ.
Это показывает, что для фиксированной функции / форма
A0.6.2) непрерывна также и по ф. Но билинейная форма, за-
заданная на произведении пространства Фреше и метризуемого
пространства, непрерывна, если она раздельно непрерывна (т. е.
непрерывна отдельно по каждой переменной). Поэтому суще-
существуют компактное множество К'аХ и постоянные С, Nu N2,
такие что
A0.6.3) КФ/Лс|<С V sup|DaP(-D)q>\ У sup|Dp/|;
феФ, /еС°°(^).

10.6. Уравнение P(D)u — f 58
В частности, неравенство A0.6.3) показывает, что если <р@Ф,
то supp ф е К'. Доказательство закончено.
Докажем обратную теорему.
Теорема 10.6.7. Пусть X Р-выпукло для носителей и fe
€5 Вр°у%7 (X), / = 1,2, ..., где kf е= Ж и 1 < /?/ < оо. Тогда урав-
уравнение A0.6.1) имеет решение u&Bl°cpk (X), /=1, 2,
В силу равенства A0.1.23) получаем
Следствие 10.6.8. Если X Р-выпукло для носителей, то при вся-
всякой функции /бС°°A) уравнение A0.6.1) имеет решение
С{Х)
Доказательство теоремы 10.6.7. Пусть XVi v = 1, 2, ..., — откры-
открытое множество всех таких точек xel, что |x|<v и расстоя-
расстояние от х до СХ больше 1/v. Ясно, что Xv-\ ш Xv ш X. Из тео-
теорем 10.6.3 и 7.3.2 следует, что каждое распределение ^е<§Г'(Х),
для которого suppP(—D)\xczXv, в действительности принадле-
принадлежит пространству &'(Ху,). Пусть qpveCo° (Xv)> cpv = 1 в окрест-
' ности множества ^v-i- Полунормы ||(pvttlUfc, v = l, 2, ..., опре-
определяют топологию в В1Р%(Х) (см. доказательство теоремы
10.1.26). Теперь существенная часть доказательства содержится
в следующей лемме.
Лемма 10.6.9. Предположим, что выполнены условия теоремы
10.6.7 иу кроме того, f ==Q в Xv. Тогда для каждого е > 0 можно
оо
найти такое и е f| Bp pk , что P(D)u = f e Xv+X и
' A0.6.4) || Ф|1и |Ц Pkf < е; ^ < v, / < v.
Доказательство. Условие и заключение леммы не изменятся,
если заменить f на (pv+2f. Поэтому можно считать, что
оо
f е П Яр,. */П #" ДО- По теореме 10.3.1 для уравнения
оо
P(D)v=f можно найти решение og P В^срк (|рл). В част-
частности, это означает, что P(D)v =0 в Xv. Применим теорему
10.5.2, заменяя множества Х{ и Х2 на множества Xv и Xv+2 со-
соответственно. Тогда найдется элемент w пространства
П ^°;^^+2).такой что P(D)w=0b Xv+2 и
A0.6.5) Ифц("

64 10. Существование и аппроксимация решений
Теперь ясно, что разность u = q>v+2(v — w) обладает всеми не-
необходимыми свойствами.
Окончание доказательства теоремы 10.6.7. Мы можем, поль-
пользуясь леммой, построить такую последовательность uv e
е= П B^-pkf (X), v = 1, 2, ..., что P(D)uv = f в Xv и
(Ю.6.6) \\v
Действительно, u\ можно выбрать так же, как в начале дока-
доказательства леммы 10.6.9. Допустим, что элемент и» удовлетво-
удовлетворяет необходимым условиям. Будем искать wv+i в виде такой
СуММЫ Mv+l=^v + tt, ЧТО P(D)u = f—P(D)uv В Xv+l И ДЛЯ U
выполняется оценка A0.6.4) при 8=2 v. Из предыдущего шага
построения следует, что f—P(D)uv=0 в XV, и по теореме
оо
10.1.22 имеет место включение f — P(D)uv^ f| B{??k,(X). По-
этому решение находим по лемме 10.6.9. Из оценки A0.6.6)
следует, что \lmuv = u существует в пространстве B[°cpk (X)
при каждом j и и очевидным образом удовлетворяет уравнению
P(D)u = f во всем X. Доказательство закончено.
Замечание, Доказательство теоремы 10.6.7 часто называют про-
процедурой Миттаг-Леффлера, так как оно проходит по тому же
образцу, что и классическое доказательство теоремы Миттаг-
Леффлера, в котором строится мероморфная функция с задан-
заданными полюсами. Отметим, что на каждом шаге индукции важ-
важную роль играла точная информация о регулярности решения
уравнения A0.6.1) при ]&.<?'. Иначе в процессе построения мы
теряли бы все больше и больше производных.
В силу G.3.2) из условия k(Q (I +|g| )f e Lp сразу следует,
что Ф^(Х) cz В1р,%(Х). Поэтому объединение всех пространств
В1р\(Х) равно 3)'f{X). Отсюда вытекает
Следствие 10.6.10. Пусть множество X является Р-выпуклым для
носителей. Тогда для каждого f<=2D'F{X) уравнение A0.6.1)
имеет решение и е ЗУР (X).
Однако используемые здесь методы непригодны, если вы-
выполнено лишь включение f&3)'(X). Исключение составляет
случай, когда оператор Р гипоэллиптичен (см. § 11.1). Для
гипоэллиптических операторов из доказательства теоремы
10.6.7 следует, что при каждом f^2)'(X) уравнение A0.6.1)
имеет решение и^9)'{Х), так как решение однородного урав-
уравнения P(D)w = 0 автоматически принадлежат классу С°°. Как

10.7. Уравнение P(D)u = f при feS)' (X) 65
мы увидим в следующем параграфе, чтобы гарантировать су-
существование решения уравнения A0.6.1) для любого /е®^!),
на область X нужно, вообще говоря, наложить более сильные
условия.
10-7. Уравнение P{D)u=f при f^3)'{X)
Из теоремы 10.6.6 и следствия 10.6.8 вытекает, что P{D)?fr'(X)zd
id C°°(X) тогда и только тогда, когда множество X является
Р-выпуклым для носителей. Поэтому P(DK)'(X)= 2D'(X) то-
тогда и только тогда, когда множество X является Р-выпуклым
для носителей и, кроме того, отображение, индуцированное опе-
оператором P(D) в пространстве 2)'(Х)/С°°(Х), сюръективно. Мы
докажем, что это равносильно некоторому условию, аналогич-
аналогичному условию Р-выпуклости для носителей.
Определение 10.7.1. Открытое множество XczRn называется
Р-выпуклым для сингулярных носителей, если для каждого
компактного множества Kcz X найдется другое компактное
множество К'аХ, такое что из условий hg^'(Z) и
singsuppP(—D)iiczK вытекает включение sing supp \i e К'.
Свойства, связанные с Р-выпуклостью для носителей, кото-
которые мы доказали в § 10.6, очевидным образом переносятся на
случай Р-выпуклости для сингулярных носителей.
Теорема 10.7.2. Каждое открытое выпуклое множество X яв-
является Р-выпуклым для сингулярных носителей.
Доказательство. Это утверждение является следствием теоремы
7.3.9.
Теорема 10.7.3. Область X является Р-выпуклой для сингуляр-
сингулярных носителей тогда и только тогда, когда для каждого распре-
распределения ix^<g"(X) расстояния от СХ до sing supp |i и
sing supp P(—D)\i равны.
Доказательство. В определении 10.7.1 условие \i&g'(X) можно
заменить условиями \i^<g'(Rn) и sing supp \i cz X. В самом
деле, пусть ф е Со° (Х)9 ур = 1 в окрестности sing supp ц. Тогда
в условии определения 10.7.1 распределение ц можно заменить
на ф|л. В этой расширенной форме указанное условие позволяет
повторить рассуждение из доказательства теоремы 10.6.3, ис-
использующее оператор сдвига. Мы предоставляем читателю про-
проделать это во всех подробностях.

56 10. Существование и аппроксимация решений
Теорема 10.7.4. Если множества Xt являются Р-выпуклыми для
сингулярных носителей при i е /, то множества (]°Xi и lim°Xi
также Р'выпуклы для сингулярных носителей.
Доказательство. Достаточно в доказательстве теоремы 10.6.4
ссылку на теорему 10.6.3 заменить ссылкой на теорему 10.7.3.
Следствие 10.7.5. Для каждого открытого множества X суще-
существует наименьшее содержащее его открытое множество, Р-вы-
пуклое для сингулярных носителей.
Теорема 10.7.6. Пусть отображение, индуцированное оператором
P(D) в пространстве ЗУ(Х)/С°°(Х), сюръективно. Тогда мно-
множество X является Р-выпуклым для сингулярных носителей.
В доказательстве мы будем для изучения свойств регуляр-
регулярности распределений использовать пространства Н\°8) =Bx?\s,
ks =A +|l|2)s/2 (см. также § 7.9). Нам потребуется следующая
простая лемма.
Лемма 10.7.7. Пусть v ^3)'(Y) и существует такое вещественное
число 5, что Dav €== h{s) (Y) при любом а. Тогда иеС°°(У).
Доказательство. Если ф е Со° (Y) и w = фи, то по формуле
Лейбница Daw e #(s) при любом а. Поэтому w e #E+Л) при лю-
любом целом ft ^ 0 и по теореме 10.1.13 w^C°°(Y). Лемма до-
доказана.
Доказательство теоремы 10.7.6. Пусть К — компактное подмно-
подмножество в X', предположим, что не существует компактного под-
подмножества К' множества X, для которого выполнено условие
в определении 10.7.1. Выберем такую расширяющуюся последо-
последовательность компактных подмножеств Kj из X, что каждое ком-
компактное подмножество из X содержится в некотором /С/. Тогда
найдутся такие последовательности [ij^&'(X) и х\ ^ X, / =
= 1, 2, ..., что
A0.7.1) singsuppP(— D)\ijCzK'y xf <= sing supp м-у',
xf & supp \ik, k < j; xf ф Kj.
В самом деле, если распределения \iu ..., m</-i и точки хи
..., а:/ ! уже выбраны, то по предположению можно найти рас-
распределение |ы/, для которого sing supp P (—D) ц/ с= К и
sing supp [ij содержит некоторую точку xh не принадлежащую
компактному множеству /С/ |J supp ^i U ••• U supp (Ш/-ь
В силу A0.7.1) каждое компактное подмножество в X со-
содержит только конечное число точек х\. Поэтому существуют
открытые симметричные окрестности Ул точки 0, которые ежи-

10.7. Уравнение Р (D) a = f при f e= 2)' (X) 57
маются с ростом &, причем К+У\ является компактным под-
подмножеством в X и
A0.7.2) х, ф supp \ik + ?к9 j > k; supp \ik + Ykcz X.
Пусть [ik^ H(sky Так как Xk e sing supp (!&, то по лемме
10.7.7 найдется мультииндекс а*, такой что
A0.7.3) D«V ф //}fft.| ttft.11) (Yk + {xk}).
Это, в частности, означает, что
(Ю.7.4) \ak\>\ak-il
Положим
(Ю.7.5) f=Z(-D)af6xr
где bXf—- мера Дирака в точке х/. Так как в произвольном ком-
компактном подмножестве содержится только конечное число точек
Xj, то ряд A0.7.5) сходится в З)'(Х). Докажем, что предполо-
предположение о существовании и&З) (X) и g^C°°(X), таких что
(Ю.7.6) P(D)u = f + g,
приводит к противоречию.
Уравнение A0.7.6) означает, что
A0.7.7) и (Р (- D) ф) = f (ф) + g (г|)), г|) е Со°° (X).
Если феСГ(У^), то, в силу A0.7.2), цА*феСо°°D Поэтому,
подставляя г|? = [1**ф в A0.7.7), получаем
A0.7.8) и (Р (- Z>) |i* ¦ <р)« |; (Da/^ « ф) (х,) + g(\ik* Ф),
Так как supp(ца:*ф)с: supp \ik + ?k, то из A0.7.2) следует, что
при ]>k слагаемые в сумме A0.7.8) равны нулю. Перепишем
A0.7.8) в виде
A0.7.9) @>,
Для того чтобы оценить правую часть, сначала заметим, что
A0.7.10) | D\h • Ф | I 11

58 10. Существование и аппроксимация решений
где а —произвольный мультииндекс. Заменим g на С~-функ-
цию, равную g в supp \хк + Yk. Тогда для любого числа s
Чтобы оценить и(Р{—D)ixk*(p), введем функцию х^Со°(X),
равную единице в окрестности множества К. Поскольку К +
+ ?i си X, функцию % можно выбрать так, чтобы множество
suppx+ У\ = К было компактным подмножеством в X. Тогда
если т — порядок оператора Р, то
vl = ХР (- D) рке H(Sk-m), v"k = A - X) Р (- D) ^ е Со°° (X).
Каждую производную функции v? * ф можно оценить величи-
величиной ||ф||E) для любого s. Так как supp(v?*qp) содержится в ком-
компактном подмножестве supp jia + ?k множества X, то найдутся
постоянные С*, 5, такие что
A0.7.12) |и«*Ф)|<С».,||фЦ,), феСГ(У6).
Наконец, чтобы оценить и (v'k * ф), заметим, что если ф е
eCS°Gfe), то supp (v'k* у) czR и по аналогии с A0.7.10) легко
получить оценку
I D V* ¦ ф | < I vi \sh-m) II Ф И(| a |+m-sfc), Ф S Со°° (У*)'
Пусть а — порядок распределения и в R. Тогда
(ю.7.13) |«(v; * Ф) | < с п Ф nco+w—fc), ф^со°°(уй).
Сводя воедино оценки A0.7.9) — A0.7.13), мы найдем, что
A0-7.14) | ((?>>*) *<р)(*»)|<
если k настолько велико, что т + а^|а*_1|. Из неравенства
A0.7.14) следует, что
A0.7.15) D>* s ЯЙ-,^., |) (У* + Ы).
При доказательстве включения A0.7.15) можно упростить обо-
обозначения, полагая xk=0. Тогда если ^еСГ(У*), то
VJ (ф) | = | (De*|i*) (*Ф) I < С || *Ф ||(| «,_,,-,,)
Здесь мы воспользовались оценкой A0.7.14) и теоремой 10.1.15.
Согласно последней оценке и теореме 10.1.14, ^Dak[ik^
еЯ. ,а ..откуда следует A0.7.15). Так как включения

10.7. Уравнение Р (D) и = / при / е= &>' (X) 59
A0.7.15) и A0.7.3) противоречат друг другу, доказательство
теоремы закончено.
Теперь докажем обратное утверждение.
Теорема 10.7.8. Пусть X — открытое множество в R", Р-выпуклое
для сингулярных носителей. Тогда оператор P(D) индуцирует
сюръективное отображение в пространстве 2D'(X)/C°°{X).
Доказательство. Достаточно показать, что для каждого распре-
распределения f^2)'(X) существуют непрерывная в С™ (X) полу-
полунорма q вида B.1.3) и такая последовательность функций
г|)геСо°(А), что не найдется компактного в X множества, имею-
имеющего непустое пересечение с бесконечным числом множеств
supp \|v, и
A0.7.16) |/(iOI<Cfo(P(-D)iO+Zlfo*r>D. v^Co(X).
В самом деле, в соответствии с теоремой Хана — Банаха расши-
расширим линейный функционал
(P(-D)v, (v, ih>, (v, г|J), ...)->f(v)
до линейного функционала на пространстве С^рО®/1. Такое
расширение приводит к линейному функционалу и в простран-
пространстве С?° и набору комплексных чисел аг, таким что
f(v) = u (Р (- D) v) + ? аг ф, t|)r), v е Со°° (X),
Следовательно, а
По техническим причинам мы должны доказать более силь-
сильную оценку, чем A0.7.16), а именно
A0.7.16)' I /(о) | + sup | о |<С U(P(-D) о)+Z Ко, фг)|),
о е= Со°° Ш.
Пусть Kj — расширяющаяся последовательность компактных
множеств в X, объединение которых равно X, Ко = 0 и для
каждого / множество К] удовлетворяет условию в определении
10.7.1, так что К'о= 0 и множество К] содержится в Int/Cy+l.
Положим также /(_1=/С11 = 0.
Лемма 10.7.9. Пусть /^0 и Vj — множество всех функций
v<=C0(<K/J+l)iдля которых Р (— D) v (= С°° (СК;_{). Предположим,
что множество К/ снабжено топологией, определяемой полунор-
полунормами sup|u| и sup|DaP(—Z))с|, где К —компакт, K()Kj-l = 0,

вО 10. Существование и аппроксимация решений
Тогда Vj— пространство Фреше и отображение Vi->C°° (СК]__Х),
задаваемое сужением функций из Vj на множество СЖу.р не-
прерывно.
Доказательство. Пусть vv — последовательность Коши в Vj\
она имеет равномерный предел у еС0(/Су+1), а последователь-
последовательность Р(—D)vv имеет предел w в пространстве C°°(C/C/_i). По-
Поэтому Р(—D)v = w вС/С/^1, и тогда ие|//и^->ув Vj. Сле-
Следовательно, Vj полно. По предположению сужение функций из
пространства Vjna множество СК/1_1 отображает V} в С°° (С/Су_,).
Так как отображение сужения очевидным образом замк-
замкнуто, то по теореме о замкнутом графике оно непрерывно.
Окончание доказательства теоремы 10.7.8. Ясно, что при /«=0
оценка A0.7.16)' верна. Предположим, что A0.7.16)' уже дока-
доказана при условии, что v е С™ (Ку). Пусть е; > 0. Мы утверж-
утверждаем, что неравенство A0.7.16)' остается верным для всех
меС~(/е^+1), если постоянную С заменить на СA+е;), полу-
полунорму q — на другую полунорму qf в Со°(А")> такую что q'(ty) =
= <7(Ф) для г|) е Co°(^/_i)> а функции \|v дополнить конечным
числом функций из пространства С^° (С/Су—1). Повторение этого
рассуждения с последовательностью 8/, для которой ПA +
-4-е/)<оо, приводит к неравенству A0.7.16)' для всех v e
eCS°W- Для доказательства сделанного утверждения введем
плотную в пространствеCo°(C/C/-i) последовательность функций
Хь %2> ... . Если наше утверждение ошибочно, то можно (на-
(например, так же, как в доказательстве теоремы 2.1.4) найти та-
такую последовательность ^gCS0^/^ чт0
A0.7.17) \f(vN)\
и Р(—D)vN-+0 в C°°(C/C/_i). Так как последовательность vn
ограничена в V/, то по лемме 10.7.9 она ограничена, а потому
относительно компактна в пространстве C°°(C/C/-i). Каждый
предел должен быть равен нулю в силу его ортогональности ко
всем %s. Значит, ^->0 в С°° (CK'j_{). Пусть функция /е
еС~(/Су) равна 1 в окрестности множества /Cj_,. Тогда A — х)Х
Х^-^0 в Со°(Х). Следовательно, в силу A0.7.17), для боль-
больших значений N
q(P(-D)(%vN)) + 11 fa,» W|<1+ в//2.

10.8. Геометрический смысл условий выпуклости 61
Так как %vN е Со° (/С/), это противоречит предположению, что
неравенство A0.7.16)' выполняется для всех v еСо°(/С/). Полу-
Полученное противоречие доказывает теорему.
Замечание. Доказательство теоремы 10.7.8 проходит и в том
случае, когда Р — дифференциальный оператор с С°°-коэффи-
С°°-коэффициентами (на многообразии), а Р(—D) заменяется на фор-
формально сопряженный. Однако это не так для теоремы 10.7.6,
при доказательстве которой существенно используется инвари-
инвариантность относительно сдвигов. Контрпример дается сюръектив-
ным обыкновенным дифференциальным оператором Р =
= s\nnxd/dx на R. В самом деле, для всех мер v, сосредоточен-
сосредоточенных в целых точках, <Pv == 0. Поэтому аналог условия Р-выпук-
лости для (сингулярных) носителей не имеет места.
В заключение сформулируем следствие теорем 10.6.6, 10.7.6,
10.7.8 и следствия 10.6.8.
Следствие 10.7.10. Уравнение P(D)u = f имеет решение ие
^2)'(Х) для любого распределения f^3)'(X) тогда и только
тогда, когда множество X является Р-выпуклым как для носите-
носителей, так и для сингулярных носителей.
10.8. Геометрический смысл условий
выпуклости
Никакие полные геометрические характеристики условия Р-вы-
пуклости для (сингулярных) носителей неизвестны, но некото-
некоторые частные результаты мы приведем. Первый из них является
простым следствием теоремы 8.6.7. Будем говорить, что функция
f, заданная в множестве Ху удовлетворяет принципу минимума
в замкнутом множестве F, если для каждого компактного мно-
множества KczF (]Х
min/(.*;)= min f(x),
х&К X€=dFK
где dFK — граница множества К в F. Пусть dx(x) — евклидово
расстояние от х^Х до СЯ.
Теорема 10.8.1. Если X — открытое множество в Rn, Р-выпуклое
для носителей, то функция dx(x) удовлетворяет принципу ми-
минимума в каждой характеристической гиперплоскости.
Доказательство. Предположим, что функция dx{x) не удовле-
удовлетворяет принципу минимума в характеристической гиперпло-
гиперплоскости п. Тогда найдется компактное множество Кая[)Х, та-
такое что
A0.8.1) 2d = mindx(X)<mlndx(x).

62 10. Существование и аппроксимация решений
Найдем точки уо^К и хо^дХ, для которых \хо — уо — 2d, и
положим tQ=(y0 — хо)/2. Если х е К' = /<—{/о} и |s < 1, то
по неравенству треугольника d*(* -(- s^o) ^ d(l +5). Пусть // —
полупространство с границей я — /0 = к7, содержащее множе-
множество К. Используя теорему 8.6.7, найдем такую функцию и ^
^ С°°, что Р(—D)u = 0 и supptf = #. Положим v=%u, где
Х^СГ, X === 1 вблизи /С' и х = 0 вне другой малой окрестности
множества К'. Тогда suppP(—D) v а Н [) supip d%. Так как в
силу A0.8Л) расстояние от дП'К'у до дХ больше d, то суще-
существует окрестность V множества дП'К*', расстояние от которой
до <ЭЯ больше d. Функцию х можно выбрать так, что
H()s\iipip d%czV[)(K'+ @, l)/o)- Тогда расстояние от suppP(—D)v
до СХ больше d. Но jc0 + t0 ^ supp у и ^л(*о+/о)=<1 Поэтому
из теоремы 10.6.3 вытекает, что множество X не является Р-вы-
Р-выпуклым для носителей.
Следствие 10.8.2. Произвольное открытое множество X в Rn
тогда и только тогда является Р-выпуклым для носителей, когда
оператор Р эллиптический.
Доказательство. Если Р не является эллиптическим оператором
(см. определение 7.1.19), то у него есть вещественные характе-
характеристические плоскости, и поэтому условие теоремы 10.8.1 содер-
содержательно. Например, если X Р-выпукло для носителей и дХ^С2,
то граница дХ не может быть строго вогнутой в характеристи-
характеристической точке. С другой стороны, если оператор Р эллиптиче-
эллиптический, и^8'{Х) и d(suppP(— D)uy CA)>d, то d(suppw,
CX)^d, Действительно, пусть В — открытый шар радиуса d
с центром в точке хо^дХ. По теореме 8.6.1, и — аналитическая
функция в. В и « = 0 в окрестности точки а:0, следовательно,
и = 0 в В. По теореме 10.6.3 отсюда следует, что множество X
является Р-выпуклым для носителей.
Необходимое условие, сформулированное в теореме 10.8.1,
при п = 2 является также и достаточным. При доказательстве
этого утверждения можно считать, что X связно, так как откры-
открытое множество X является Р-выпуклым для носителей тогда и
только тогда, когда каждая из его связных компонент Р-вы-
пукла для носителей.
Теорема 10.8.3. Пусть оператор Р не является эллиптическим,
XczR2 — открытое связное множество. Тогда следующие усло-
условия равносильны:
(i) Множество X является Р-выпуклым для носителей.
(и) Всякая характеристическая прямая пересекается с X по
открытому интервалу.
(ш) Каждая точка xQ e CX является вершиной такого зам-

10.8. Геометрический смысл условий выпуклости 63
кнутого собственного выпуклого угла A cz СХ, что никакая ха-
характеристическая прямая не пересекает угол А только в точке xq.
Доказательство. (i)=^(il) Предположим, что (i) справедливо.
Достаточно показать, что если точки (±1,0) принадлежат мно-
множеству X и ось х является характеристической прямой, то / =
= [—1» 1]Х{0}с=Х Для этого соединим точки (—1,0) и A,0)
в X ломаной у без самопересечений. Можно считать, что эта
ломаная пересекает ось х только в точках (±1, 0), так как в
противном случае мы могли бы разбить у на несколько лома-
ломаных, имеющих на оси х только концы, и затем рассмотреть их по
отдельности. Ломаная у и отрезок / ограничивают в R2 замкну-
замкнутое множество F. Положим
Y = {y, (x, y)^F при некотором х},
Y0 = {yz=Y-y (х, y)t=F^(x, (/)е4
Ясно, что У— замкнутый промежуток, а Уо непусто, так как
конец отрезка У, отличный от нуля, заведомо принадлежит Уо.
Если y^Y0 и (х, y)^F, то, применяя теорему 10.8.1 к мно-
множеству ^ГК^Х {*/}), получаем неравенство d((x, у)У СХ)^
^d(y, СХ). Поэтому множество Уо замкнуто в У, но так как X
открыто, то Уо также открыто в У. Следовательно, Уо=У, от-
откуда получаем, что 0еУ0 и I а X.
(ii)=^(iii). Пусть хо^Х и L — характеристическая прямая,
содержащая точку хо. Тогда, в силу (п), один из лучей L\ пря-
прямой L с вершиной в точке х0 целиком содержится в СХ. Анало-
Аналогично если М — другая характеристическая прямая, такая что
Хо^М и L\(]M= {хо}> то один из ее лучей Мх целиком содер-
содержится в СХ. Так как множество X связно, то луч М\ можно
выбрать так, что выпуклая оболочка А лучей L\ и Мх содер-
содержится в СХ. Если существует характеристическая прямая, ко-
которая пересекается с углом А только в точке х0, то расширим А
с помощью выпуклой оболочки угла А и соответствующего луча
характеристической прямой. Будем продолжать этот процесс
расширения А до тех пор, пока не получим множество с тре-
требуемыми свойствами.
(iii)=>(i). Пусть К — компактное подмножество множества
X, число d > 0 — расстояние от К до СХ. Если хп е СХ и угол
А обладает свойствами (ш), то (А +{у})(] К = 0 при \y\<d.
Пусть Аг — такая коническая окрестность множества Л\{0},
что (А'+ {у})(]К = 0. Если и<=(Г'(Л и supp P(—D)u cz К, то
применяя следствие 8.6.11 к А' + {у}, получаем, что и = 0 в
А' + {у}- Поэтому d(supp и, СХ)^ d, что и доказывает (i).
Пример. Пусть P(D)= D1D2. Тогда множество Ху равное объ-
объединению полукруга {х'у х2 > 0, х\ + х\ < 9} и кругов {х; {х{ d=

64 10. Существование и аппроксимация решений
±2J + *2< 1}, не является Р-выпуклым для носителей. Од-
Однако пересечение множества X с каждой из полуплоскостей
*i > а ^ — 1 или Х\ <<. а ^. I является множеством, Р-выпук-
Р-выпуклым для носителей. Этот пример показывает, что свойство Р-
выпуклости для носителей не является локальным.
Рис. I
Следствие 10.8.4. Если открытое связное множество X в Rn яв*
ляется Р-выпуклым для носителей при Р(!•)=</, ?> и произ-
произвольном t е к*\0, то множество X выпукло.
Доказательство. При п = 2 утверждение следует из теоремы
10.8.3. Пусть п>2. Ясно, что каждая С°°-функция, заданная на
пересечении двумерной плоскости и множества X, может быть
продолжена до С°°-функции в X. Поэтому если множество X
является Р-выпуклым для носителей, то его пересечение с про-
произвольной двумерной плоскостью также Р-выпукло для носите-
носителей. Следовательно, в силу теоремы 10.8.3 каждая связная ком-
компонента такого пересечения выпукла. Тогда если ломаная с
вершинами хо,х\, ..., xN лежит в X, то последовательно по-
получаем, что отрезок прямой между х0 и х/ принадлежит X при
каждом / ^ N. Поскольку X связно, оно выпукло.
Замечание. С помощью простых изменений в доказательстве
импликаций (ii)=^(iii)=^(i) из теоремы 10.8.3 легко получить,
что если для каждой характеристической плоскости я пересече-
пересечение Х[)п выпукло, то множество X является Р-выпуклым для
носителей. Детали доказательства предоставляем читателю.
(Необходимо заменить угол А на его произведение с подпро-
подпространством коразмерности 2.)
Теорема 10.8.5. Пусть P(D) — дифференциальный оператор в Rrt,
действующий вдоль линейного подпространства V и эллиптиче-

10.8. Геометрический смысл условий выпуклости 65
ский как оператор в V. Для того чтобы открытое в Rnмноже-
Rnмножество X было Р-выпуклым для носителей, необходимо и доста-
достаточно, чтобы функция dx (x) удовлетворяла принципу минимума
в каждом аффинном пространстве, параллельном У.
Доказательство. Необходимость получается простой модифика-
модификацией доказательства теоремы 10.8.1, так как мы всегда можем
найти распределение и, для которого Р{—D)u =0 и supp u= V.
Чтобы доказать достаточность, предположим, что weCo°(Z).
Пусть d = d(suppP(— D)u, СХ)У yo^suppu и
Если у^К и d(y, СХ) < d, то Р(—D)w=0 в окрестности
точки у. В силу эллиптичности оператора P(D) в V функция и
аналитична в направлении V. Поэтому supp и содержит окрест-
окрестность точки у в {у0} + V. Следовательно, d {у, СХ) ^ d, если у
принадлежит границе компакта К в {у0} + V, откуда по прин-
принципу минимума d(yy СХ)>^в К. Значит, d(suppj/, CJ)>d,
что и доказывает теорему.
Пусть Р — оператор второго порядка с главной частью
A0.8.2) p2F) = _g2 + g2+...+g2e
Пусть
А(х) = х\-х\-...-х*п
— форма Лоренца, | я |2 —обычная евклидова метрика. Иногда
мы будем полагать х' = (х2, ..., хп). Пусть X — открытое мно-
множество в R".
Теорема 10.8.6. Множество X не Р-выпукло для носителей тогда
и только тогда, когда найдутся точки х, у ^ X с хфу и
А(х — у) = 0 и открытая окрестность W отрезка I = [ху у], та-
такие что
A0.8.3) W[\{z\ A(z-
Доказательство достаточности. Предположим, что можно найти
ху у и W, для которых выполнено условие A0.8.3). Обозначим
через F разность между опережающим и запаздывающим фун-
фундаментальными решениями оператора Р(—D), построенными в
теореме 6.2.3. (При построении F члены первого порядка опе-
оператора Р можно в силу свойства нечетности опустить, а с чле-
членами нулевого порядка поступить так же, как в теореме 12.5.3.)
Тогда Р(—D)F =0; кроме того, А ^ 0 на носителе F и из усло-
условия A(z) = 0 вытекает включение г e supp F. Предположим,
что л: = 0, и выберем %^ СГ (№), %=1 вблизи /. Тогда
3 Зак. 64

66 10. Существование и аппроксимация решений
/ с supp vczI[}X, supp Р(— D)v cz supp d% fl supp F cz X.
Если A (t) > 0 и точка t расположена в том же конусе Лоренца,
что и у, то для малых е > 0 имеет место включение
supp i;(•—te)c:X и носитель Р(—D)v(-—te) содержится в
фиксированном компактном подмножестве X. Так как
suppt>(*—te) сколь угодно близко подходит к каждой точке
пересечения / П дХ, то отсюда следует, что множество X не Р-вы-
пукло для носителей.
Прежде чем доказывать необходимость, приведем два след-
следствия теоремы единственности Хольмгрена.
Лемма 10.8.7. Если P(—D)u = o в Гд = {лг; | хх \ + \ х'\ < R^2\
и и = 0 при | х | < R, то и = 0 в TR.
Доказательство. Характеристическая плоскость, не пересекаю-
пересекающая шар |х|<#, имеет вид
ахх + (а\ *') = Я, |а| = |я'|, |а|2 + |
Поэтому |а| = |а'|<; 1/д/2, откуда следует, что характеристи-
характеристическая плоскость не содержит точек, для которых | хх \ + \ х' \ <
< R У 2. Теперь утверждение леммы вытекает из теоремы
8.6.8.
Лемма 10.8.8. Пусть Р(—D)u=0 в выпуклом множестве У, и
пусть в множестве Y\supp и имеются две непрерывные кривые
[0 1] () [0 1]() A(() {)) 0
у pp рр р
[0, 1]э s->x(s), [0, 1]э5->уE), такие что A(x(s)— y{s))> 0
при 0^s^ 1. Тогда решение и в окрестности отрезка [x{s),
y(s)] либо обращается в нуль при всех se[0, 1], либо не обра-
обращается в нуль ни при каких s.
Доказательство. Пусть S — множество всех точек sg[0, 1], для
которых решение и обращается в нуль в окрестности отрезка
[я(s), у(s)]. Из теоремы 8.6.8 следует, что если 5 е S, то ре-
решение обращается в нуль на пересечении множества Y и полу-
полуконусов Лоренца с вершинами x(s) и y(s), содержащих точки
y(s) и х (s) соответственно. Это же утверждение справедливо
при s^S. Так как м = 0 в окрестности точек x(s) и y(s)> то
отсюда вытекает, что 5 открыто и замкнуто одновременно.
Лемма доказана.
Доказательство необходимости в теореме 10.8.6. Если область
X не является Р-выпуклой для носителей, то найдется такое
распределение и е & (X), что
CX) <d (supp P(—D)u, CX) =

10.8. Геометрический смысл условий выпуклости 67
где d(-y •)—расстояние между множествами в евклидовой ме-
метрике. Выберем Хо^дХ и yo^suppu так, что |^о| = ^ь где
to = Уо — *о. Тогда
vB = u(- + A—е) <„)€=«" (Я) при 0 < е < 1
и
d(suppP(— D)ve9 CX)^d2 — d{ при 0
Пусть 0 < R < min ((rf2 — di)/(l + У 2), rfi)*> тогДа
A0.8.4) d(suppP(-D)v0, CX)>R +
A0.8.5) Aroesuppyo, ^o = O при |дс —
как | /0 I = d{ > /?, то уо^= 0 при | х — xQ + Rto/\ tQ\\<R.
Если |* — *ь + Я/о/|/ЬИ<Я V2, то Р(—D)u0=0. Поэтому, со-
согласно лемме 10.8.7, ио=О в множестве
A0.8.6) Г (*0) = TR + х0 - RtJ\ t01.
Ясно, что хо^Г(хо) и ^4(^о) = О. Из следствия 8.6.14 или из
теорем 8.5.9, 8.6.5 вытекает, что отрезок
содержится в supp v0. (Для одной из двух частей этого отрезка,
на которые он делится точкой х0, этот факт легко следует из
леммы 10.8.8.) Следовательно, этот отрезок содержится в X.
Пусть / — наибольший компактный промежуток на прямой
{х0} + Ri4/(/0), такой что х0 е / сдХ (] supp v0. Тогда /+ {^0} с:
с supp ы, поэтому
d(xy supp^X^!, x^J.
Противоположное неравенство вытекает из определения вели-
величины d\. Поэтому d(x> suppu)=d\ при x^J. Следовательно,
все сказанное выше о точке х0 справедливо для всякой точки
х е /. Отсюда получаем, что vo — 0 в открытом множестве
Г= U Г(*) и
В частности, в JflX имеются точки, сколь угодно близкие к кон-
концам промежутка /.
Пусть Л — открытый полуконус Лоренца, задаваемый нера-
неравенством А (х) > 0 и тем условием, что U ^ дА. Положим
W = {x; d(x, /)</?}.
а*

68 10. Существование и аппроксимация решений
(См. рис. 2, где множество W обозначено пунктирными линиями,
а Г(-) — малые двойные конусы.) Существенным шагом дока-
доказательства теоремы является доказательство включения
A0.8.7) W(]({x} + A)czX при х<=].
Предположим, что xg/, j/Elf и у— хбЛ. Тогда если вели-
величина б > 0 достаточно мала, то г== х — е((/ — ^)еГ и точка г
близка к интервалу J.
Рис. 2
Рассмотрим отображения
s->y — 5/0, s -* z — st0,
где 0 < s < sx и число si < /?/di выбрано так, чтобы у —
е Г. Тогда при достаточно малых е для 0 ^ s ^ s, имеет место
включение z — s?0 ^ Г. Так как * е supp v0, то найдется такое
«s^[0, si], что у — 5/0с: supp v0. Действительно, иначе мы бы
получили по лемме 10.8.8, что vq = 0 вблизи точки х. Но тогда
у + б/0 е supp ys+d с X при 0<б< 1 — RdXi
откуда следует включение A0.8.7).
Конус {д:}+Л в условии A0.8.7) расширяется, когда точка
х приближается к одному из концов /' интервала Л Поэтому
включение A0.8.7) может быть усилено:
UO.8.8) W(]({x} + &)czX[)J при хе/.

10.8. Геометрический смысл условий выпуклости 69
Пусть то^ка к содержится в той компоненте разности /\У, на
границе которой лежит точка /', а у принадлежит другой ком-
компоненте разности /\/. Тогда если ху у е X и множество W
сжато настолько, что ({х} —A)(]W с: X, то условие A0.8.3) вы-
выполнено и доказательство закончено.
Теорема 10.8.5 показывает, что геометрическое описание
условия Р-выпуклости для носителей, возможно, потребует до-
довольно тонкого исследования свойств искривленности границы
дХ. Этим объясняется, почему так мало случаев разобрано до
конца. Перейдем теперь к описанию условия Р-выпуклости для
сингулярных носителей. В этом случае полные результаты
имеются для операторов Р вещественного главного типа (см.
определение 8.3.5). Если Pm(g) = O, то прямая в направлении
Р^A) называется бихарактеристикой.
Теорема 10.8.9. Пусть Р — дифференциальный оператор веще-
вещественного главного типа. Открытое множество X cz Rn является
Р-выпуклым для сингулярных носителей тогда и только тогда,
когда функция dx(x) удовлетворяет принципу минимума на
каждой бихарактеристике.
Доказательство. Необходимость докажем аналогично тому, как
это сделано в теореме 10.8.1. Пусть I cz X — отрезок бихаракте-
бихарактеристики L, и пусть d(dLI, CX)>d. По теореме 8.3.8 можно
выбрать такую функцию u&Cm(Rn), что sing supp и = L и
Р(-О)иеПР*). Положим v = %uy где %*=С~(Х), з(=1в
окрестности отрезка /. Тогда /czsingsupp v и singsupp P(—D)v
cz L П supp d%. Если носитель функции % близок к отрезку /, то
d < d (sing supp P (— D) v, CX).
Из теоремы 10.7.3 следует, что если X Р-выпуклое для сингуляр-
сингулярных носителей, то
d < d (sing supp v9 CX) < d (/, CX),
что и дает принцип минимума.
Доказательство достаточности близко к доказательству теоре-
теоремы 10.8.5. Пусть и<^&'(Х) и yo^sing supposing supp P(—D) и.
Выберем такое tjo g Rrt\0, что (уОу Ло)^ WF(u). Тогда из тео-
теоремы 8.3.1 следует, что Рт(ло) = О. Пусть L = yo+ RP'm (т),) —-
соответствующая бихарактеристика и
K = {y^L; (yyrH)t=WF(u)}.
Ясно, что К — компактное множество, и по теореме в.З.З7 имеет
место включение dLK c= sing supp P(—D)u. Следовательно, по

70 10. Существование и аппроксимация решений
принципу минимума
d(K, CX) = d{dLK, CX)>d(singsuppP(—D)u, CX),
и так как уо е /С, то доказательство завершено.
Следствие 10.8.10. Пусть Р — оператор вещественного главного
типа, X — открытое множество в Rn, Тогда P(DJ)'(X) =
= ?D'(X) в том и только том случае, если функция dx(x) удов-
удовлетворяет принципу минимума на каждой бихарактеристике.
Доказательство. Необходимость следует из теорем 10.7.6 и
10.8.9. Достаточность будет вытекать из следствия 10.7.10 и
теоремы 10.8.9, если мы докажем, что множество X является
Р-выпуклым для носителей. Пусть и^&"(Х)\ предположим, что
минимум функции dx(x) при x^suppu достигается в точке у0.
Если Хо^дХ, \уо — хо\= dx(yo) и tio = f/o —*о, то (по теореме
8.5.6) (уо, r\o) e WFA (и), а но теореме 8.6.1 из условия у^ф
ф sing виррл Р (-D) и вытекает равенство Рт (г]о) = 0. Теперь
доказательство завершается так же, как доказательство тео-
теоремы 10.8.9, с той лишь разницей, что здесь мы рассматриваем
аналитические особенности, замечая, что они содержатся в но-
носителе распределения и.
Следствие 10.8.11. Если открытое связное множество X в Rn
является Р-выпуклым для сингулярных носителей при Р(?) =
= <*, ?> для любого t^ Rn\0, то множество X выпукло.
Доказательство. Можно воспользоваться доказательством след-
следствия 10.8.4 со ссылкой на теорему 10.8.9 вместо 10.8.3.
Мы вернемся к условию Р-выпуклости для сингулярных но-
носителей в гл. 11, когда в нашем распоряжении будут некоторые
дополнительные результаты об особенностях (см. следствия
11.3.2 и 11.3.3).
Примечания
Как упоминалось в примечаниях к гл. 7, существование фун-
фундаментальных решений в полной общности было впервые дока-
доказано Эренпрейсом (Ehrenpreis [1]) и Мальгранжем (Malgrange
[1]) с использованием теоремы Хана — Банаха. Теорема суще-
существования регулярных фундаментальных решений была анало-
аналогично доказана Хёрмандером (Hormander [2]), который также
показал, что умеренно растущие регулярные фундаментальные
решения существуют, вообще говоря, не всегда (см. пример
10.2.15, взятый из работы Enqvist [1]). Конструктивный метод,
использованный в этой главе, был в общих чертах описан в ра-
работе Hormander [29]. Он очень удобен для изучения фундамен-
фундаментальных решений операторов, зависящих от параметров, и

Примечания 71
позволяет дать простые доказательства результатов Трева
(Treves [6]), которые были получены с помощью более грубой
конструкции, приведенной в книге — предшественнице настоя-
настоящей книги (см. также Treves [1]). Теорема существования фун-
фундаментальных решений со свойствами регулярности, описан-
описанными в теореме 10.2.11, была получена в работе Hormander
[24]; тот факт, что конструкция из работы Hormander [29]
обеспечивает эти свойства, доказан здесь впервые. Габриэлов
[1] показал, что множество Fo из теоремы 10.2.11 имеет поло-
положительную коразмерность. Доказательство этого результата, а
также доказательство существования умеренно растущих фун-
фундаментальных решений, впервые полученное Лоясевичем (Loja-
siewicz [1]) и Хёрмандером (Hormander [5]), было невозможно
включить в эту книгу. Упрощенное доказательство, основанное
на результатах Хиронаки о разрешении особенностей, было по-
получено Атьей (Atiyah [1]), а также И. Н. Бернштейном и
С. И. Гельфандом [11. Более простая конструкция принадлежит
И. Н. Бернштейну [1] (см. также Bjork [1]).
Понятия, позволяющие сравнивать дифференциальные опе-
операторы, были введены в работе Хёрмандера [1]; некоторые при-
приведенные здесь результаты принадлежат Фуледе (Fuglede [1]).
Теорема 10.4.7, вероятно, является новой. До сих пор остается
открытым вопрос: можно ли найти фундаментальное решение
Е(Р), аналитически зависящее от Р, при условии, что Р— опе-
оператор одинаковой силы с оператором Ро. Трев (Treves [7]) до-
доказал, что условие постоянной силы является необходимым.
Локально это условие является и достаточным. Свойство ли-
линейной выпуклости множества таких операторов Р, доказанное
в теореме 10.4.7, по всей вероятности, поможет доказать гло-
глобальный результат. (Термин «доминирование» в другом смысле
использован в работе Treves [3].)
При доказательстве теоремы об аппроксимации в § 10.5, а
также результатов о существовании из § 10.6 (за исключением
упрощений, связанных с существованием регулярных фундамен-
фундаментальных решений) мы следуем работе Malgrange [1]. Суще-
Существование решений уравнения P(D)u — f при любом f^S)'(X)
было впервые доказано Эренпрейсом (Ehrenpreis [2]) в случае,
когда область X выпукла. Его доказательство было упрощено
Мальгранжем (Malgrange [3]). Условие, приведенное в § 10.7,
предложено Хёрмандером (Hormander [14]). Преимущество
разделения теории существования в 3)' на теорию существова-
существования в 2)'/С°° и в С°° замечено в работе Hormander [29], которой
мы здесь и следуем.
Мальгранж (Malgrange [4]) доказал, что если X Р-выпукло
для носителей, дХ^С2 и оператор Р имеет вещественный глав-
главный тип, то нормальная кривизна границы дХ неотрицательна

72 10. Существование и аппроксимация решений
в каждой характеристической граничной точке в направлении
соответствующей бихарактеристики. Доказательство, основан-
основанное на существовании нуль-решений задачи Коши, конструируе-
конструируемых с помощью теоремы 9.4.2, было приведено в книге — пред-
предшественнице данной. Здесь оно заменено полным описанием
Р-выпуклости для носителей в случае, когда Р — волновой опе-
оператор, принадлежащим, по существу, Перссону (Persson [1]).
Общие результаты по этой проблеме до сих пор отсутствуют.
Однако условие Р-выпуклости для сингулярных носителей хо-
хорошо изучено для широких классов операторов. Результаты,
представленные в § 10.8, содержатся в работе Hormander [29].

11
Регулярность решений
дифференциальных уравнений
внутри области
Краткое содержание главы
В § 4.4 уже были получены свойства гладкости решений неко-
некоторых дифференциальных уравнений, для которых были по-
построены явные фундаментальные решения. В § 11.1 мы завер-
завершаем эту тему описанием операторов (разумеется, с постоян-
постоянными коэффициентами), для которых все решения — распреде-
распределения принадлежат классу С°°. Такие операторы называются
гипоэллиптическими. Класс таких операторов легко описывается
с помощью результатов об особенностях фундаментальных ре-
решений, полученных в § 10.2. В § 11.1 приводится также другой,
более элементарный подход, основанный на результатах § 10.3,
и в заключение дается несколько примеров.
В § 11.2 рассматриваются частично гипоэллиптические урав-
уравнения, т. е. уравнения, решения которых оказываются беско-
бесконечно дифференцируемыми, если потребовать бесконечную диф-
ференцируемость по некоторой группе переменных. Изучение
свойств этого класса операторов проводится аналогично § 11.1
и может быть пропущено читателем без ущерба для даль-
дальнейшего.
В § 11.3 мы возобновляем начатое в § 8.3 изучение распро-
распространения особенностей для операторов вещественного главного
типа. В частности, мы описываем те линейные пространства,
в которых могут быть расположены особенности решений диф-
дифференциального уравнения P(D)u —Q. Результаты формули-
формулируются только в терминах sing supp и. Легко переформулиро-
переформулировать их в терминах WF(u). Однако в общем случае это не дает
никаких преимуществ, так как оператор Р может иметь много
локализаций в одном и том же направлении на бесконечности.
Для того чтобы получить правильный результат о спектральном
разрешении особенностей, необходимо ввести понятие волнового
фронта, приспособленное к каждому рассматриваемому опе-
оператору.
В § 11.4 мы приводим оценки роста производных (в зависи-
зависимости от их порядка) для решений гипоэллиптических диффе-

74 11. Регулярность решений
ренциальных уравнений. Так, мы получаем аналоги того факта,
что решения эллиптических уравнений вещественно аналитичны,
а также обратную теорему и некоторые подобные результаты.
11.1. Гипоэллиптические операторы
В этом параграфе будут рассмотрены дифференциальные опера-
операторы P{D), для которых решения и уравнения
A1.1.1) p(D)u = f
бесконечно дифференцируемы, когда бесконечно дифференци-
дифференцируема f. Такие операторы легко описать с помощью теорем
10.2.11 и 10.2.12.
Теорема 11.1.1. Пусть P(D) — дифференциальный оператор с по-
постоянными коэффициентами. Следующие условия равносильны:
(i) Для всякого открытого множества Хс Rn и и^@'(Х
WF(u)=WF(P(D)u).
(ii) Для всякого открытого множества Ic R" и и ^
sing supp и = sing supp P (D) и.
(iii) Если X — открытое множество в Rn и и^
P{D)u = 0y то ие=С°°(Х).
(iv) Р<а)F)/Р(Е)->0 при | + оо в R", а^О.
(v) Оператор P(D) имеет фундаментальное решение ?, та-
такое что sing supp ?= {0}.
Доказательство. Ясно, что (i)=>(ii)=>-(iii). Пусть Е — регуляр-
регулярное фундаментальное решение оператора P(D) (см. определе-
определение 10.2.2). Если выполнено условие (iii), то Е е C°°(Rn\0).
В силу теорем 10.2.12 и 10.2.5 локализации оператора Р на
бесконечности постоянны. Так как
тоР(«)(г!)/Р(г])->0приг1->оо, афО. Поэтому \P(r\)\/P(i\)-+l,
откуда вытекает условие (iv). Обратно, из (iv) следует, что
локализации оператора Р постоянны на бесконечности. Тогда
по теореме 10.2.11 имеется фундаментальное решение Е, для
которого sing supp E = {0}. Отсюда вытекает условие (v). Если
ие=<Г', то в силу (v) и (8.2.16)
WF (и) =WF(E* (P (D) и)) с WF (P (D) и).
Обратное включение верно в силу (8.1.11). Пусть и^З)'(Х),
УшХ — произвольное открытое множество. Возьмем функцию
феС~(Д ф = 1 в F, и применим полученный результат к рас-
распределению фи. Тогда получим равенство WF(u)= WF(P(D)u)

11.1. Гипоэллнптические операторы 75
в F, что и завершает доказательство теоремы (см. также до-
доказательство теоремы 4.4.1).
Определение 11.1.2. Дифференциальный оператор P(D) и поли-
полином Р(?) называются гипоэллиптическими, если выполнены
(равносильные) условия теоремы 11.1.1.
Алгебраическое условие (iv) для гипоэллиптических полино-
полиномов можно представить в нескольких эквивалентных формах,
которые иногда оказываются более удобными.
Теорема И.1.3. Каждое из следующих условий необходимо и до-
достаточно для того, чтобы полином Р(|) был гипоэллиптическим:
1а) Если d(l) — расстояние от точки %&Rn до поверхности
{?; ^еСД P(t) = 0}, то d(|)->oo при 6->оо.
Ib) Существуют такие положительные постоянные с и С,
что если ^gR" и величина |g| достаточно велика, то |?|с^
На) Если а#0, то Р{а)A)/РA)-^0 при ?-*оо в Rn.
lib) Существуют такие положительные постоянные с и С,
что если g<= Rn и величина |g| достаточно велика, то
Доказательство. Условие Па) совпадает с условием (iv) тео-
теоремы 11.1.1. Ясно, что lib) влечет Па), a Ib) влечет 1а). То, что
1а) влечет Ib), вытекает из теоремы Тарского — Зайденберга
(см. добавление). Действительно, пусть
M(R) = inf
Тогда
где нижняя грань берется по всем вещественным |, для которых
| g |2 == /?2, и по всем комплексным ?, для которых P(t) = Q
Тогда благодаря следствию А.2.6 получаем
М (R) = ARa A + о A)) при R -> оо.
Но по условию la) M(R)-+- оо при R->oot откуда вытекает, что
а > 0 и Л > 0. А в таком случае условие Ib) справедливо при
О 1/А и с = а.
Эквивалентность условий 1а) и Па), Ib) и ПЬ) непосред-
непосредственно вытекает из следующей леммы, которая, таким образом,
завершает доказательство теоремы 11.1.3.
Лемма 11.1.4. Существует такая постоянная С, что для всех по-
полиномов Р в Rп степени не выше m имеют место неравенства
A1.1.2) C\l

76 11. Регулярность решений
где через d(^) обозначено расстояние от g до поверхности
{Се.С»; Р(С) = 0>.
Доказательство. Для доказательства левого неравенства в
A1.1.2) введем обозначение А= Ц | Р(а)F)/РF)|1/|а|- Тогда
|Р(а)(|)|<Л|а||Р(Ю1 и по формуле Тейлора
Пусть с — такая положительная постоянная, что
0<|a|<m
Ясно, что если Л|?|<с, то P(g + ?)=#=O. Но тогда (Q^
что доказывает левое неравенство A1.1.2) с постоянной С ^ 1/с.
Для доказательства правого неравенства сначала покажем,
что
A1.1.3) |P(g + ?)l<2m|PF)| при |?|<<*(Б).
Рассмотрим функцию g(t) = P(%+ t%) как полином от /. Его
нули // удовлетворяют неравенству |^||^| ^d(E)^4?l> и» зна"
чит, \ti\^ 1. Поэтому
откуда следует неравенство A1.1.3). Применяя неравенство
Коши к аналитической в шаре |?|^d(|) функции Р(|-[-?;),
получаем
(Мы также могли бы воспользоваться здесь неравенством
A0.4.1).) Лемма доказана.
Используя теорему 11.1.3, можно было бы при доказатель-
доказательстве теоремы 11.1.1 обойтись без ссылок на технически слож-
сложные теоремы 10.2.11 и 10.2.12. В самом деле, как видно из дока-
доказательства теоремы 7.1.22, если выполнено условие ПЬ) в
теореме 11.1.3, то оператор P(D) имеет параметрикс Еу для ко-
которого sing suppf = {0}. Отсюда вытекает условие (i) теоре-
теоремы 11.1.1. С другой стороны, условие 1а) в теореме 11Л.З легко
следует из ослабленного варианта условия (iii) теоремы 11.1.1:
Теорема 11.1.5. Предположим, что для некоторого открытого
множества ХФ0 в Rn и некоторых Jg/, Р^П, °°] все ре-
решения и е В]р.\ (X) уравнения Р (D) и = 0 принадлежат про-
пространству С°°(Х). Тогда
A1.1.4) Im?->oo, когда ?—>0 на поверхности
так что оператор P{D) гипоэллиптический.

11.1. Гипоэллиптические операторы 77
Доказательство. Пространство решений, о котором идет речь в
теореме,
A1.1.5) Jf = {u\ «s^ffl, P(D)tt = 0}
является замкнутым подпространством в В{?%(Х) и, следова-
следовательно, пространством Фреше. По условию имеется вложение
JfaC°°(X). Обратное отображение (на образе, снабженном
индуцированной топологией) непрерывно по теореме 10.1.26.
Значит, по теореме Банаха непрерывно само вложение Jf cz
сС°°(Х). Поэтому последовательность, ограниченная в про-
пространстве Jf9 ограничена в С°°(Х).
Допустим, что условие A1.1.4) не выполняется. Тогда мы
можем найти такую последовательность ?v^ C\ что P(?v) —0,
|?v|->oo, в то время как последовательность |Im?v| ограни-
ограничена. Положим ?v = 5v + *%, где ?v, % вещественны, и
Ясно, что «vg/, и если феСсГШ, то
A1.1.6) ||ф^||р.А =
< (Bяр J | ф (| - /4v) Mk (I)
(Ср. с первой частью неравенства A0.1.18).) Так как последова-
последовательность t]v ограничена, то в силу неравенства G.3.3) правая
часть неравенства A1.1.6) также ограничена.
Ограниченность последовательности uv в пространстве С°°(Х)
означает, что для произвольных компактного множества КшХ
и мультииндекса а
sup\Dauv(x)\*CCK,a.
к
Так как последовательность r\v ограничена, то для любого це-
целого р, > 0
что противоречит A0.1.2) при \i>N. Остается заметить, что
условие A1.1.4) есть только переформулировка условия 1а)
в теореме 11.1.3. Теорема доказана.
Если оператор P(D) гипоэллиптический, то множество Л,
определенное в A1.1.5), содержится в пространстве С°°{Х) и
состоит из всех решений уравнения P(D)u=0 в 3)'(Х). По
теореме 4.4.2 топологии пространств &)'{Х) и С°°(Х) совпадают
на множестве Jf. В частности Jf — монтелевское пространство,
т. е. из каждой ограниченной последовательности в нем можно

78 11. Регулярность решений
извлечь сходящуюся подпоследовательность (этот факт следует
из теоремы Асколи). В случае когда P(D) — оператор Коши —
Римана, этот результат является классической теоремой Стил-
тьеса — Витали. Свойство монтелевости пространства JC есть
одна из характеристик гипоэллиптических операторов:
Теорема 11.1.6. Предположим, что существует такое непустое
открытое множество X cz R я, что для некоторых k ^Ж и р е
е[1, оо] пространство A1.1.5) является монтелевским с топо-
топологией, индуцированной топологией пространства B{*k (X).
Тогда имеет место свойство A1.1.4) и, следовательно, оператор
P(D) гипоэллиптический.
Доказательство. Допустим противное. Рассмотрим ограничен-
ограниченную последовательность uv e Jf, использованную при доказа-
доказательстве теоремы 11.1.5. Она сходится к нулю в пространстве
2)'{Х), так как если qpeCjTW, то в силу G.3.3) и A0.1.2),
Ф (х) щ (х) dx = q>(- ?v)/& (iv) -> 0 при v -> оо.
По предположению J? — монтелевское пространство, и так как
нуль — единственная предельная точка последовательности t/v,
то wv->0 также и в топологии пространства ВР°,%(Х). Применяя
неравенство &(?v) ^ k(l)Mk(lv — ?), мы вместо A1.1.6) полу-
получаем оценку
, IU k >(Bя)-« J | ф F - Щ,IМк {- |) \ЫЪI1Р.
Из того что Иф^Ир, k~+0 при v->oo, получаем, что ф(? — ir)o) =
^0, если т]о — предельная точка последовательности rjv. Сле-
Следовательно, ф = 0. Это противоречит предположению о том, что
Ф — произвольная функция из пространства С™ (X). Доказа-
Доказательство теоремы закончено.
Далее мы применим результаты § 10.3, опирающиеся только
на теорему 10.2.1, для доказательства общей теоремы о регу-
регулярности внутри области, справедливой для произвольного диф-
дифференциального оператора с постоянными коэффициентами.
Позже мы применим ее к гипоэллиптическому случаю.
Теорема II.1.7. Пусть us=B[p°X(X) и P(D)u = f <= В1р,%(Х), где
kj е Ж у / = 1, 2. Тогда если к^Ж и для некоторых постоянных
С и N справедливы оценки
A1.1.7.)
A1.1.8)

11.1. Гипоэллиптические операторы 79
то и^ B[p°,ck (X). Здесь использовано обозначение
Отметим, что функция Р\ определенная в A1.1.9), принад-
принадлежит множеству Ж.
Доказательство. Сначала докажем теорему при N = 1. Нам
нужно показать, что если функция k удовлетворяет неравен-
неравенствам A1.1.7) и A1.1.8) при ЛЛ = 1, то (pu^BPtk для всякой
функции ф^Со°(Х). В силу теоремы 10.3.2 достаточно дока-
доказать, что Р (D) (срм)е Bp,k/p- П° формуле Лейбница
а ф 0
Поскольку и^ ВрТь, то, как следует из теорем 10.1.22 и 10.1.21,
каждое слагаемое под знаком суммы принадлежит пространству
Вр kjp,, которое является подпространством пространства
В up, если справедливо неравенство A1.1.7) с N=1. По
аналогичным причинам фР (D) и е BPt kjp • Так как Р (D) и^Вр°г%29
то q>P(D)u<= Bp k2t а значит, <pP(D)u <= Bp tMp+ht) (следствие
10.1.9). Поэтому неравенство A1.1.8) влечет q>P(D)u e Bp k/p,
что доказывает теорему при N=1. Применив этот результат
последовательно /V раз, где N — положительное целое число, мы
получим, что u^l Bp°\N)(X), где
kiN) (I) = inf (k{ (I) (P {1I P' {i)f> h (I) + P (I) k2 &)).
Доказательство завершено.
Замечание. Из теоремы 10.3.2 следует, что неравенство A1.1.8)
необходимо и достаточно для справедливости заключения тео-
теоремы 11.1.7 даже в случае, когда we^(X), Используя экспо-
экспоненциальные решения уравнения P(D)u = Q, как это было сде-
сделано при доказательстве теоремы 11.1.5, можно показать, что
если заключение теоремы справедливо при / = 0, то отношение
k(Q/k\ E) должно быть ограничено некоторой функцией от
Р(|)/Р'(|). Если k и k\ — полиномы, из следствия А.2.6 выте-
вытекает, что при некотором N должно выполняться условие A1.1.7).
Мы не будем пользоваться здесь этим результатом и предостав-
предоставляем его доказательство читателю.
Следующая теорема уточняет условие (п) в теореме 11.1.1.
Теорема 11.1.8. Пусть P(D) — гипоэллиптический оператор и
и<=2)г (X). Если P(D)us= В[р°,\ (X), то ие= В[р°*?к (X).

80 П. Регулярность решений
Доказательство. Пусть Y — открытое множество, У шХ. Так как
и есть распределение конечного порядка в У, то «g Blp\(Y)
для некоторого k\^JH>. В силу условия lib) теоремы 11.1.3
найдутся такие положительные постоянные с и С, что
Тогда существуют такие постоянные С и N, что
Из теоремы 11.1.7 вытекает включение и е В*°^Л (К). Ввиду
произвольности множества У шХ тем самым теорема доказана.
Теперь мы займемся изучением алгебраических условий ги-
поэллиптичности и приведем несколько примеров.
Теорема 11.1.9. Пусть P\(D) и P2{D) —операторы одинаковой
силы и P\(D) гипоэллиптичен. Тогда оператор P2(D) также ги-
поэллиптичен. Если d/(?) —расстояние от точки | до поверхно-
поверхности нулей полинома Р}, то найдется такая постоянная С, что
A1.1.10) С <(d,(g)
Доказательство. В силу оценки A1.1.2),
Пусть величина ||| настолько велика, что d{(l)^ 1. Применяя
неравенство A0.4.7) при Q = P2i P = PX и f = di(g), получаем
где С — некоторая постоянная. Так как оператор Р{ слабее, чем
Р2, то с некоторой другой постоянной С имеем
Пусть теперь величина |?| настолько велика, что di(gJ>2C.
Тогда
l
Применяя неравенство A1.1.2) к полиному Р2, получим, что
для больших ||| и некоторой положительной постоянной с имеет
место неравенство d2(l)/d\(b>) > с. Поэтому полином Р2 удов-
удовлетворяет условиям I) теоремы 11.1.3 и, следовательно, гипо-
гипоэллиптичен. Так как полиномы Рх и Р2 можно поменять места-
местами, то неравенства A1.1.10) доказаны.

11.1. Гипоэллиптические операторы 81
Замечание. Если оператор Р гипоэллиптичен, то ясно, что отно-
отношение Q <( Р эквивалентно ограниченности частного Q(?)/P(?)
на бесконечности в Rn. Рассуждения, которые применялись в
приведенном выше доказательстве, показывают, что отношение
Q < Р тогда и только тогда эквивалентно условию Q(l)/P{l)-*-
-+0 при ^->оо в R", когда Р — гипоэллилтический оператор.
(Необходимость вытекает из того, что Р(а) <^ Р для всякого Р
при а =7^=0.)
Теорема 11 Л. 10. Эллиптические операторы гипоэллиптичны. Если
Рт — главная часть гипоэллиптического оператора Р, то урав-
уравнение Рт(?) = 0 не может иметь простых вещественных корней,
отличных от нуля.
Доказательство. То, что эллиптические операторы гипоэллиптич-
гипоэллиптичны, непосредственно следует из неравенства A0.4.12). Пусть
m — порядок оператора P(D) и ^е Рл\0— простой нуль его
главной части Рт. Тогда Рт(|) = 0, но dPm(l)/dlj Ф0 при не-
некотором /. Так как полином P(t%) по / имеет степень не более
т—1, а коэффициент при tm~l полинома Р(;)(^?) в точности
равен dPm(l)/dlh то отношение Р(/)(/?)/Р(/?) не стремится к
нулю при ^->оо. Значит P(D) — не гипоэллиптический оператор.
Более общий класс гипоэллиптических операторов может
быть определен следующим образом. Пусть /щ, ..., тп — поло-
положительные целые числа и
A1.1.11) |a:m|?
1
Рассмотрим дифференциальный оператор
A1.1.12) Рф)= Z яа?>а,
И ПОЛОЖИМ
A1.1.13) P°(D)= 2 aaD*.
I a : т| = l
Теорема 11.1.11. Если РЩ)Ф0 при 0ф I e R", то P(D) —гипо-
—гипоэллиптический оператор. Такие операторы мы будем называть
семиэллиптическими.
Доказательство. Сначала отметим, что для некоторой постоян-
постоянной С
A1.1.14) Е|6/Г'<С|/>°(БI, ^Rn.
В самом деле, когда левая часть неравенства равна единице,
функция Р° оценивается снизу положительной постоянной. Обо-
Обозначая нижнюю границу через 1/С, получаем неравенство

82 П. Регулярность решений
A1.1.14), когда левая часть равна единице. Но замена |/ на
|,tllmiy j= 1> •••> пу t > О, сводится к умножению обеих частей
неравенства на /. Поэтому неравенство A1.1.14) справедливо
для всех |. Из очевидного неравенства \ иГк^ 2 II/ lm/ выте-
вытекает, что
A1.1.15) 11а1
Действуя так же, как при доказательстве неравенства A0.4.12),
легко получить оценку
Из оценки A1.1.15) вытекает, что |Р(а)(?) |/|Р(|) |->0 при
|->-оо, чем и заканчивается доказательство.
Отметим, что если т/ = т для всякого /, то семиэллиптиче-
ские операторы являются эллиптическими операторами порядка
т. Взяв ш\ = 1 и аи/ =2 при / > 1, мы увидим, что уравнение
теплопроводности гипоэллиптично (см. также § 4.4). Кроме
того, р-параболические операторы Петровского [2] семиэллип-
тические.
В заключение приведем более сложный пример гипоэллипти-
ческого оператора, чтобы показать, что его главная часть мо-
может быть более или менее произвольной, коль скоро его веще-
вещественные характеристики имеют высокую кратность.
Теорема 11.1.12. Пусть Q(|) — произвольный полином степени m
с вещественными коэффициентами и R(l)—однородный поло-
положительно определенный полином степени 2km — 2(k—1), где
k — целое число, k^2. Тогда
A1.1.16) P(l) = Q(lJk + R(l)
— гипоэллиптический полином.
Доказательство. Проверим, что выполняется условие (iv) тео-
теоремы 11.1.1. Обозначим Q(lJk через S(g). Тогда Р«*>(?) =
S<>(?)#(>). Так как
I R{a) (I) I/P (I) < I R{a) (t) VR (I) -> 0 при I -> оо, а Ф 0,
то трудность составляет только оценка производных S(a). Можно
записать
min Bfe, I a I)
A1.1.17) S(a)(|)= Д5

11.2. Частично гипоэллиптические операторы 83
где F/d) —полиномы степени не выше \т — |а|. Оценивая
полиномы Q(lJk и R(l) сверху через Р(|), получим
A1.1.18) \Q®F-'Ra)m<P(D-
Если |ш — степень полинома /?, то для каждого члена суммы
A1.1.17.) получается оценка
I Q (I) I2*"' IF? F) I < СР (I) R <?fm-*a ш~т.
Степень (jm — |а|)/ц — j/2k возрастает по /, так как 2km > ц.
Поэтому если /^|оь|, то она не превосходит |а|((т—1)/м< —
— 1 /2k) = — | а | /k\x. Таким образом, мы доказали, что
S(a)(l)/P(Q-+0 при ?->«>, а=^0. Доказательство закончено.
Отметим, что главная часть оператора A1.1.16) равна глав-
главной части оператора Q, возведенной в степень 2k.
11.2. Частично гипоэллиптические операторы
Здесь мы рассмотрим такие дифференциальные операторы P{D)>
для которых решения и уравнения P(D)u =/ с необходимостью
являются гладкими, если правая часть / — гладкая функция и
если, кроме того, потребовать гладкость решения и по некото-
некоторым переменным. Результаты здесь параллельны результатам
§ 11.1 и содержат их, однако мы рассмотрели случай гипоэл-
липтичности отдельно ввиду его важности.
Предположим, что координаты х=(хи ..., хп) разбиты на
две группы: х'=(хи ..., */) и x"=(xj+u ••-, *п). Аналогично
разобьем на части мультииндекс а. Если ф еС~ (R7)» to тензор-
тензорное произведение ^(а:7)® б(х") является мерой в плоскости
х" = 0. Пусть X — открытое множество в Rn. Положим Х$ =
= {х\ {х}—supp (if) (g) б)с= Х\. Ясно, что если и^З)'(Х), то в
Х$ определена свертка w* ф = и*(г|э(8>6) (см. § 4.2). Если
йе ВХр%х(Х) и для некоторых постоянных С и N
то и/феВрд2(^). В случае X = Rn это следует из теоремы
10.1.24, а небольшие изменения, необходимые для доказатель-
доказательства общего случая, предоставляются читателю. Следующий
результат представляет собой аналог теоремы 11.1.5.
Теорема 11.2.1. Предположим, что существуют непустое откры-
открытое множество Xcz Rn, функция к^Ж и число ре[1, оо], та-
такие что для всякого и е ВХр% (X), удовлетворяющего уравнению
=0, и всякой функции феСсГО^О свертка u*'ty при-

84 И. Регулярность решений
надлежит С°°(Х^). Тогда если ^->оо яа поверхности Р(?) = О,
то
A1.2.1) |im5| +
Доказательство. По теореме о замкнутом графике отображение
должно быть непрерывным. (Множество ЛГ определено равен-
равенством A1.1.5).) Допустим, что условие A1.2.1) не выполнено.
Выберем такую последовательность точек ?v = ?v + frlv ^ Cn,
что P(t>v) = 0 и |?v|-^°°, в то время как последовательности
\%\ и |1С| остаются ограниченными. Тогда последовательность
ограничена в Jf (см. доказательство теоремы 11.1.5), поэтому
последовательность их*' ty = ^(^v)^ должна быть ограниченной
в С°°(Х$). Выберем функцию г|э настолько близкой к мере Ди-
Дирака, что множество Х^ непусто и 1ф(?') |^1/2 при |?'|^
^SsuP|?vl- ОтсюДа вытекает, что последовательность uv должна
быть ограниченной в пространстве С°°(Хф). Рассуждение, ана-
аналогичное приведенному в конце доказательства теоремы 11.1.5,
приводит к противоречию.
Существует более сильный вариант теоремы 11.2.1, парал-
параллельный теореме 11.1.6:
Теорема 11.2.2. Предположим, что существуют непустое откры-
открытое множество XczRn, функция ftej и число /?е[1, оо], та-
кие что отображение
компактно при всяком -ф^СоЧкО- (Множество Jf определено
равенством A1.1.5).) Тогда выполнено условие A1.2.1).
Доказательство. Допустим, что условие A1.2.1) не выполнено.
Выберем последовательности ?v и uv так же, как и при доказа-
доказательстве теоремы 11.2.1. Тогда последовательность uv ограниче-
ограничена, а свертка ttv*'^ сходится к нулю в пространстве 2)'(Х^) (см.
доказательство теоремы 11.1.6). Поэтому, в силу предположения
о компактности, uv*'ty-+0 в в)?,%(Ху). Выбрав функцию г|э близ-
близкой к мере Дирака, получим, что «v->0 в В{?%(Хуь)- Это про-
противоречит рассуждению, приведенному в конце доказательства
теоремы 11.1.6.
Прежде чем доказать утверждение, обратное к теореме 11.2.1,
мы приведем несколько условий, равносильных A1.2.1).

11.2. Частично гипоэллиптические операторы 85
Теорема П.2.3. Условие A1.2.1) равносильно любому из сле-
следующих шести условий:
I. Если d(l)—расстояние от geR* до поверхности fteC*;
«) 0}, то
a) d(|)-> оо, когда ?"-»~оо, а ?' остается ограниченным]
b) существуют такие положительные постоянные с и С, что
Па) Р{а)(Ъ)/РA)-+0, когда афО и g"->oo, a ?' остается
ограниченным.
lib) Существуют такие положительные постоянные с и С,
что
III. Р можно представить в виде конечной суммы
(П.2.2) />(&) = ? Р«(ПГв.
а"=0
где полином РоA") гипоэллиптичен (как полином от g"), и
a) Ра(Г)/Л>(Б")->0 яри g"->oo, а^=0;
b) существуют такие положительные постоянные с и С, что
I Ра(П 1/A Ро (Г) I + 1) <С A + I Г \ГС, а # 0.
Доказательство. Условие la) очевидным образом эквивалентно
условию A1.2.1). Ясно также, что из условия Ib) следует 1а).
С другой стороны, если условие 1а) выполнено, то
A + d(Q2) A +||/|2)~^°° ПРИ 1-*"°°. Поэтому Ib) получается
с помощью следствия А.2.6 так же, как при доказательстве
теоремы 11.1.3. Лемма 11.1.4 показывает, что из Ib) следует
ПЬ), а из Па) следует 1а). (Постоянные С при этом будут раз-
разные.) Ясно, что из ПЬ) следует Па). Тем самым доказана рав-
равносильность условий I и II.
Из формулы Тейлора получается формула A1.2.2), где
Если полином Р удовлетворяет условиям II, то Ро удовлетво-
удовлетворяет условиям II теоремы 11.1.3. Поэтому полином Ро гипоэл-
липтический, и остальные условия III непосредственно вытекают
из II.
Так как 11 Ib) влечет П1а), то остается только доказать, что
Ша) влечет Па). Для этого заметим, что, в силу Ша), Рра)-<
< Рр << Ро при р Ф 0. Поэтому
A1.2.3)
)M(?")-*0 при ^->оо И $Ф0 или афО

86 II. Регулярность решений
(см. замечание после теоремы 11.1.9). Так как из условия
A1.2.3) вытекает Па), доказательство закончено.
Определение 11.2.4. Дифференциальный оператор P(D) назы-
называется частично гипоэллиптическим относительно плоскости
х" = 0, если выполнены (равносильные) условия теоремы 11.2.3.
Полином Р(|) называется в этом случае частично гипоэллипти-
гипоэллиптическим по I".
Теорема 11.2.5. Пусть P(D)—частично гипоэллиптический опе-
оо
ратор относительно плоскости х" = 0, и пусть и е f| Вр°\ (X),
где kv(l)=ko(t)(l+\t'\)v— функции из X. Тогда если P(D)u=
= /е=С°°(Х), то wgC°°(X).
Доказательство. Если для некоторых постоянных С, N и v
A1.2.4) k (I) < Ckv A) (P g)/p' (l))N, ^eR«,
to и^Вр°\(Х) в силу теоремы 11.1.7. Из условия lib) теоремы
11.2.3 вытекает, что неравенство A1.2.4) выполнено, если с не-
некоторой другой постоянной С
Это неравенство справедливо для любого feej, если выбрать
число v = N достаточно большим. Теорема доказана.
Следствие П.2.6. Пусть P(D)—частично гипоэллиптический опе-
оператор относительно плоскости л;" = 0, и пусть \|> ^ Co°(R0- То-
Тогда если P(D)u = fezC°°(X)y то u*'ty^ C°°(X+).
Доказательство. Предположим сначала, что распределение и
имеет в X конечный порядок и, следовательно, и^Вр°\{Х) для
некоторой функции къ^.Ж. Согласно замечаниям перед теоре-
теоремой 11.2.1, свертка w*'\f> удовлетворяет условиям теоремы
11.2.5 в Х$. Поэтому и*'г|э е С°°(Х^). Далее, если и — произ-
произвольное распределение, то по только что доказанному w^ife
е C°°(Y^) для всякого открытого множества YшХ. Тем самым
следствие установлено.
Следствие 11.2.7. Пусть P(D) — частично гипоэллиптический
оператор относительно плоскости х" = 0. Тогда (в обозначениях
теоремы 11.2.1 и A1.1.5)) отображение Jf^ u-*u*'ty является
непрерывным отображением пространства JF в С°°(Х^) и, сле-
следовательно, компактным отображением Jf в В{р°%'(Х$) для лю-
любой функции k' е Ж.
Доказательство. Непрерывность вытекает из следствия 11.2.6
и теоремы о замкнутом графике (или из доказательства след-

11.3. Продолжение дифференцируемости 87
ствия 11.2.6). Ограниченные множества в С°°(^), относительно
компактны в топологии пространства С°°(Х^), которая сильнее
топологии в В]р,% {Х$). Тем самым доказательство закончено.
Пример 11.2.8. Дифференциальный оператор P(D) частично ги-
поэллиптичен относительно гиперплоскости хп=0 тогда и
только тогда, когда часть полинома Р(|), имеющая наивысший
порядок по In, не зависит от других переменных. В этом случае
следствие 11.2.6 вытекает из теоремы 4.4.8. (В нехарактеристи-
нехарактеристическом случае этот же результат следует из теоремы 8.3.1 и
соотношения (8.2.16).)
Теорема 11.1.7 показывает, что если we
С(Х) ТО
A1.2.5) IФ^FI <С*(l+|g|)-", N=l, 2, ...,
когда ф^Со°(А'), а ?еЛ4, где М — такое подмножество в
что для некоторых положительных постоянных С и сг
A1.2.6)
Условие lib) в теореме 11.2.3 означает, что в качестве М можно
выбрать множество
с некоторой постоянной с" > 0. При с"=1 условие A1.2.5)
означало бы, что волновой фронт распределения и не пересе-
пересекается с плоскостью 6' = 0. При с" < 1 множество М намного
уже конической окрестности плоскости 6' = 0. Однако можно
ввести модификации понятия WF(u), принимающие в расчет
справедливость A1.2.5) именно в таких множествах Му и пере-
переформулировать результаты настоящего параграфа в этих новых
терминах. (См. также Hormander [29, § 1.6].)
11.3. Продолжение дифференцируемости
В этом параграфе приводятся аналоги теорем (не)единствен-
(не)единственности из § 8.6, относящиеся к сингулярным носителям. Теоремы
§ 8.6 существенно использовались при изучении условия Р-вы-
пуклости для носителей в § 10.8. Результаты этого параграфа
имеют аналогичные приложения при исследовании свойства
Р-выпуклости для сингулярных носителей.
Сначала введем подходящую замену для характеристических
гиперплоскостей, использованных в теореме 8.6.8. Для этого
будем рассматривать не только гиперплоскости, но также ли-
линейные пространства произвольной размерности. Пусть P(D) —

88 11. Регулярность решений
дифференциальный оператор в Rn с постоянными коэффициен-
коэффициентами и V — линейное подпространство в R*. Положим
A1.3.1) P|rF, /)
Заметим, что если V = Rn, то из неравенств A0.4Л) вытекает,
что определение A1.3.1) эквивалентно данному ранее опреде-
определению функции Р(|, t). Поэтому всякий раз, когда это удобно,
мы опускаем символ V и возвращаемся к обозначению A0.4.2).
Ввиду A0.4.1) ясно, что если V — координатная плоскость %" =
= F*+ь ..., 6л) = 0, то функция Pv(U) эквивалентна функции
A1.3.1)' ( I |Р«*>(Б)р/2|а|у/2
Отсюда следует, что изменение нормы в Rn вызывает изменение
величины Pv(l, t) не более чем на фиксированный множитель.
Положим
A1.3.2) orP(K) = inf lim pv(%t /)/p(g, /).
Функция Op(V) является непрерывной функцией от V в том
смысле, что
A1.3.3) oP(V)^oP(W) + Cd(V, W)9
где
A1.3.4) d(V,W)= sup ( inf \x-y\\.
*€= V, | X | = l \!/€= W, I У 1 = 1 /
Для доказательства неравенства A1.3.3) сначала заметим, что
по формуле Тейлора
A1.3.5) |Я(? + е)-РF +
при |Э|^/, |т||^'*. Если BgV и |0|^/, то по определению
A1.3.4) можно найти такое x]^Wy что |т|| = |0| и |6— т]|^
^td(V,W). Поэтому
, W)P(t,t),
откуда следует неравенство A1.3.3). Из A1.3.3) получаем
A1.3.3)' \oP(V)-o
Следовательно, если размерность пространства V фиксирована,
то op(V)—непрерывная функция от V.
Теорема 11.3.1. Пусть V — линейное подпространство в Rnf для
которого op(V') = 0, где V' — ортогональное дополнение к V.
Тогда для каждого неотрицательного целого \i найдется такая
функция «gC^R'1), что P(D)u=0 и sing supp и = V. Точнее,

11.3. Продолжение дифференцируемое™ 89
и можно выбрать так, что и ^= О**1 (N) для любого открытого
множества N, имеющего непустое пересечение с V.
Позднее будет также получен обратный результат. Прежде
чем доказывать теорему, рассмотрим некоторые ее приложения.
Следствие 11.3.2. Пусть X— открытое Р-выпуклое для сингуляр-
сингулярных носителей множество в Rn. Тогда расстояние до границы
dx(x) удовлетворяет принципу минимума в каждом аффинном
подпространстве, параллельном линейному подпространству V,
для которого ор (V') = 0.
Доказательство. Мы получим необходимое утверждение, если
в первой части доказательства теоремы 10.8.9 вместо теоремы
8.3.8 применим теорему 11.3.1.
Следствие 11.3.3. Каждое открытое множество X a Rn является
Р-выпуклым для сингулярных носителей тогда и только тогда,
когда оператор P(—D) гипоэллиптичен.
Доказательство. Если оператор Р(—D) не гипоэллиптичен, то
у него найдется локализация на бесконечности Q, отличная от
постоянной (см. доказательство теоремы 11.1.1). Ясно, что
Qv@,
Если V = A(Q), то числитель не зависит от /, в то время как
знаменатель стремится к бесконечности при /^оо. Поэтому
Op{V) = 0 и по следствию 11.3.2 функция dx(x) удовлетворяет
принципу минимума в каждом аффинном подпространстве, па-
параллельном A'(Q). Однако это условие не выполнено, если об-
область X строго вогнута в точке, в которой найдется аффинное
пространство, параллельное A'(Q) и касательное к дХ. С другой
стороны, если оператор Р(—D) гипоэллиптичен, то singsuppw=
= singsupp P(—D)u для всякого ме^'(^). Следовательно,
множество X является Р-выпуклым для сингулярных носителей.
Чтобы доказать теорему 11.3.1, мы сначала сформулируем
ее утверждение в более сильных (на вид) предположениях.
Лемма 11.3.4. Если on(V') = 0y то существуют такие положитель-
положительные постоянные b> p, t\t р, что для любых t > t\ и г > t? най-
найдется точка ge Ra, ||| = r, в которой имеет место неравенство
(П.3.6) pr(|, /)<W
Доказательство. Из теорем А.2.2 и А.2.5 вытекает, что

вО 11. Регулярность решений
является алгебраической функцией от t при больших /. В самом
деле, условие y^a(t) означает, что для всякого е>0 най-
найдется точка ?, в которой г2\1\2 > 1 и
Здесь использованы выражения вида A1.3.1)' для Ру и Р.
Ясно также, что
m
По предположению inf a(() = op(V') = 0. Отсюда следует, что
lim a(t) — O. Поэтому для некоторого рационального числа р > О
f-»oo
и постоянной Ь > О имеет место неравенство
По теореме Тарского — Зайденберга множество
М = {(г, 0; t > 1. ?v(lt 0< W"p^F» 0 при некотором
является полуалгебраическим, и если t>l, то (г, /)еМ для
произвольных достаточно больших значений г. Так как граница
М есть кусочно алгебраическое множество, то из условий г >
> /р, t > t\y где ft, p — достаточно большие числа, вытекает
включение (г, f)^Af.
Для изучения следствий неравенства A1.3.6) удобно выбрать
систему координат таким образом, чтобы подпространство V
задавалось равенством х' = 0, где координаты х=(х\ х") раз-
разбиты на две группы: х' = (хи ...,**) и х? = (хк+и ••-, *л).
Тогда ортогональное дополнение 1/' задается равенством |" = 0.
Рассмотрим теперь такой полином Q, что Q @, /) = 1 и Qy@, /)
мало. Тогда можно выбрать такое г), |т)|^ /, что | Q (г|) |= 1, и
затем найти окружность, на которой полином Q отделен от
нуля. В самом деле, по лемме 7.3.12 если q — полином степени
не выше т от одной переменной, то
A1.3.7) sup \q (г) |< Со sup int\q(z)\,
|z|<l 0<r<l|z|=.r
где постоянная Со зависит только от т. Применив это неравен-
неравенство к q(z)=Q(i)'y zy\"), при некотором ге[0, 1] получим
A1.3.8) IQ(r)W)l>l/C0, |z| = r.
Если |Q(ti', 0) | < 1/Со, то уравнение Q (т]', гт]^) = 0 имеет ко-
корень при |г|<г. Пусть х — число таких корней. Так как

11.3. Продолжение дифференцируемое™ 91
0 ' ПРИ ISI^ U то из (Н.3.8) и формулы Тейлора полу-
получаем при достаточно малой у
A1.3.9)
при \г\ = г9 9еС*, |6|<у/.
Здесь у зависит только от п и т. Для всякого 9 с |9| < yt урав-
уравнение QCn' + S, <гл") = 0 должно иметь х корней с |г|=г. По-
Положим
U (9, х!') = Bят)-А J в' и//« гт>"> X
Тогда при |9|<v*
A1.3.10)
8, 0)== 1, Q(ti' + 9,D")?/(9,*") = 0, | G(9,
где С — постоянная, зависящая только от п и т. Ясно, что (У
является аналитической функцией по переменным х? и 9 при
|9|<у*.
Простым следствием приведенных утверждений является
Лемма 11.3.5. Существуют такие постоянные ео, с, С, у (зави-
(зависящие только от п и пг), что если Р — оператор порядка ^ m
и для некоторых g e Rrt, ? > 0
го найдутся точка tjeR"c |ii — ?| ^ /, л — ^eFw аналитиче-
аналитическая функция [/(9, х"), Э е= .С*, |9| < yU x" e С«-л, удовлетво-
удовлетворяющие условиям
A1.3.11) ?/(9,0)=1, P(T] + (9,Z)//))f/F,^) = 0,
A1.3.12) |(/(9, *//)|<Сехр(с/|*"|в1'«).
Доказательство. Не ограничивая общности, можно считать, что
| = о. Положим
где 0< б< 1. Тогда
р(о,
и, следовательно, Qv@> /)/Q@, )^
Если С'еб~т = 1/2С0, где Со—постоянная из A1.3.8), то мы
получаем функцию, обладающую свойствами A1.3.10). Тогда,
взяв в качестве т] точку (ц\ 0), получим, что функция (/(9, 6*")
обладает требуемыми свойствами. Доказательство завершено.

92 П. Регулярность решений
Доказательство теоремы 11.3.1. Теорема Банаха и рассуждение
о сгущении особенностей точно так же, как в доказательстве
теоремы 8.3.8, показывают, что если утверждение теоремы не
верно, то
A1.3.13)
У |?>аа@)|<С( Z sup\ D«u\+ ? sup\Dau\)
1а|=1А+1 \|а|<ц Кх I а | < v /Ca /
для всех м?С°°(Кп), для которых P(D)u = 0. Здесь К\ и /Сг —
компактные множества, /С2с:1Ря\1/. Теорема будет доказана,
если мы построим такое решение и, для которого имеет место
обратное к A1.3.13) неравенство. Пусть е и б — малые положи-
положительные числа, которые будут выбраны позже. По лемме 11.3.4
найдутся сколь угодно большое / и ^eR", для которых
A1.3.14) log| g | = 6/, Ри'(Е,0/Р(Е,0<в.
Пользуясь теоремой 1.4.2, выберем такую последовательность
функций %N^C™(Rk) с носителями в {8; |9|<у/2}, что
NdQ=l и
Положим
A1.3.15) и(х)
где N будет выбрано позже, а ?/(9, х") и х\ задаются леммой
11.3.5. Тогда P(D)w=0, меГ и w@)=1. Так как по нера-
неравенству Коши
I D%V (9, х") | < Се (cteVmy «"' exp (ct \ x" \ e1/m) | а" \!,
то в Ki имеет место неравенство
A1.3.16)
при Ci81/m < 6/2, поскольку еб'=|?|. Аналогично получаем
A1.3.17) DHl @) = г]« + О (| л I1 a '/2)-
Остается рассмотреть последнюю сумму в A1.3.13). По
предположению |л:/|>Со>О в /С2. Из представления
и (х) = е1 <*¦ ^> J в' <"'•е^ U (/8, jc7') x^ (8) d8
в силу неравенств Коши находим
, х") | <С'a l+1 exp (ci | х" | e1/m) | a |!, 191 < Y/ 2.

11.3. Продолжение дифференцируемое™ 93
Поэтому доказательство предложения 8.4.2 (часть а) дает не-
неравенство
\и (х) | < Со (C'N/cQt)N exp (C2/e1/m), x е= /B.
Дифференцирование функции и приводит лишь к умножению
на ||| и изменению постоянной Со. Следовательно,
5 = ? sup | Dau (х) | < Cv (C'N/cot)N 11Г exp (C2t6/2C{).
I a | < v Kt
Если Л/ =[co^C/], то отсюда находим, что
A1.3.18) S < eCv exp (- cot/eC' + 6/ (v + C^J2CX)).
Выберем б таким образом, чтобы 6(v + C2/2Ci)< Co/eC, и
пусть е удовлетворяет неравенству Cje1/m < 6/2. Соотношения
A1.3.16), A1.3.17) и A1.3.18) при ?, /->оо приводят к противо-
противоречию с неравенством A1.3.13). Доказательство завершено.
Следующая теорема намного сильнее, чем обращение тео-
теоремы 11.3.1.
Теорема 11.3.6. Пусть X — открытое множество в R", x°gA',
фь ...» фйбС1!!) — такие вещественнозначные функции, что
dq>i(x°), ..., dq>k(x°) линейно независимы. Предположим, что
ар(и?)=й=0, где W — пространство, натянутое на векторы
d<f>i(xo)y ..., dq>k{x°). Пусть
Х_ = {х е X; фу (л:) < Ф/ (а:0) мр^ некотором j = 1, ..., ^}.
Тогда если и *е 2)'(X), Р (D) и е= С°° (X) ««еГ(Д го w e= С°°
в некоторой не зависящей от и окрестности точки х°.
Доказательство этой теоремы довольно длинное, поэтому мы
сначала перечислим некоторые ее следствия, чтобы читатель
с большей охотой обратился к этому доказательству.
Следствие 11.3.7. Пусть XicrA^ — открытые выпуклые множе-
множества в Rn, P(D)—дифференциальный оператор с постоянными
коэффициентами. Тогда следующие условия равносильны:
(i) Каждое решение ые2)'Щ уравнения P(D)u=0,
имеющее сужение класса С°° на Х{, в действительности принад-
принадлежит С°°(Х2).
(п) Каждая гиперплоскость Н с ор(Н') = 0, пересекающая
Х2, пересекает также и Х\.
Доказательство. По теореме 11.3.1 сразу получаем, что (i)=^(ii).
Для доказательства обратной импликации надо лишь скопиро-
скопировать доказательство теоремы 8.6.8, заменив ссылку на теорему
единственности Хольмгрена (теорема 8.6.5) ссылкой на теорему
11.3.6 с k = 1.

94 11. Регулярность решений
Следующее утверждение показывает, что минимальные ли-
линейные пространства V, для которых ар(У') = 0, являются так-
также минимальными носителями особенностей решений и среди
нелинейных множеств.
Следствие 11.3.8. Пусть V — такое линейное подпространство в
Rn, что op(V') = 0j но вр(W) =т*= 0 для всякого линейного под-
подпространства W а V, W ф V. Тогда если Р (D) и^С°° и
sing supp и с V, то либо sing supp a =V, либо меС°°.
Доказательство. Пусть пространство V задается равенством
х' = 0 и для некоторого г > 0 имеет место включение weCw
при |je|</\ Таким образом, иеС°° в множестве {х=(х\ х")\
\х"\<г или х'фО}. Пусть а—линейная функция от х'. Тогда
включение и^С°° имеет место на множестве, в котором
= | хГ \2 — г2 — а (х') < О,
так как если ф(*)< 0, то либо х' =И=0, либо \х"\ < г. Ясно, что,
grad ф = (—а', 2х"). Поэтому если xQ = @, л:^), | х" | = г, то под-*
пространство, порожденное такими градиентами, имеет вид
V Ф Клг0 и, следовательно, оно шире, чем V. Поэтому и^С°°
в окрестности точки хо. Следовательно, множество всех таких г,
для которых и е С°° при \х\ <С ту является одновременно откры-
открытым и замкнутым. Следствие доказано.
Следствие 11.3.8 не означает, что у решений уравнения
P(D)u=0 особенности должны распространяться вдоль линей-
линейных пространств, в том смысле что для каждого х е sing supp и
существует такое линейное пространство V, что op(V') = 0 и
{х} + V cz sing supp и. По теореме 8.3.3' этот факт имеет место
для операторов вещественного главного типа. Однако в общем
случае это не так. Рассмотрим, к примеру, дифференциальный
оператор P(D) = D2D3 в !R3. Положим и =6(х{) (f(x2)— g(xz)),
где / и g — характеристические функции соответственно интер-
интервалов (—1, 1) и B, 3). Тогда P(D)u=0 и 0 е sing supp uy но
не существует прямой, проходящей через нуль и содержащейся
в sing supp и.
Доказательство теоремы 11.3.6, так же как и доказательство
теоремы в.З.З7, основано на построении фундаментального ре-
решения оператора P(D), или, точнее, некоторого семейства пара-
метриксов. В качестве подготовки приведем сначала аналоги
лемм II.ЗА и 11.3.5 для случая, когда ор(У)фО.
Лемма П.3.9. Если ор(У)Ф0, то существуют такие положитель-
положительные постоянные bt tu P, что при t > t\ и |?|> № имеет место
неравенство
A1.3.19) Pv(l,t)>bP&i).

11.3. Продолжение дифференцируемости 95
Доказательство. Пусть 0 < Ъ <С Op(V'). Тогда функция
g|;P//(g,/)<6P(E. 0}
конечна при t > 1 и по следствию А.2.4 и теореме А.2.5 является
кусочно алгебраической функцией. Поэтому существуют такие
положительные постоянные р и tu что a(t) < Р при t > i\. Тем
самым лемма доказана.
В частности, неравенство A1.3.19) имеет место (и лишь
в этом случае мы будем его применять) при log|?| = 6/, где
t>T6. (См. также доказательство теоремы 11.3.1.) Здесь б —
малое положительное число.
Из неравенства A1.3.19) вытекает, что можно найти доста-
достаточно большую область, не содержащую нулей полинома Р,
двигаясь вдоль некоторого направления, принадлежащего V:
Лемма 11.3.10. Пусть к и Ъ — фиксированные положительные
числа, х < 1. Тогда существуют такие положительные постоян-
постоянные Ъ\ и у, зависящие только от %, 6, п и гп, что если ц° е V,
|г)°| = 1, то из неравенства A1.3.19) при некотором 0 ^ У\
01 ^ Kt вытекает неравенство
A1.3.20) \P(t + itr)° + zQ + Q\>b{Pa,t),
где zs=C, |z|=l; ^C", |?|
Доказательство. Из неравенств A1.3.19) и A0.1.8) следует, что
ЬР(Б, /)<Pv(Б, 0<СРу>(I + itr\\ Ы)9
поскольку rf e V, Так же как и при доказательстве леммы
11.3.6, можно найти такое 0 е V, 0 ^ |6| ^ Ы, что
Pv (Б + «Л°> Ы) < С, | Р (Б + «Л° + 2в) I, I z | = 1
(см. A1.3.7)). Если |?|<2v<, Y< 1. т0
| Р (| + /7л° + 2гв + g) | > С3Р (g, 0-C2yP<? + iti\0 + 2ti, ()
>(Cz
Лемма доказана.
Замечание. Обратно, из неравенства A1.3.20) уже при ? = 0
следует оценка A1.3.19), поэтому A1.3.20) содержит всю ин-
информацию, доставляемую неравенством A1.3.19). Заметим, что,
так как |0|^х/, скалярное произведение tr\° + \m zQ с т)° не
меньше, чем /A — х). Поэтому аргумент функции в левой части
A1.3.20) действительно можно менять в направлении irf.
Прежде чем заниматься дальнейшим развитием технического
аппарата, наметим в общих чертах конструкцию параметрикса,

96 11. Регулярность решений
которую мы и стремимся получить. Нашей целью является
интерпретация (в смысле G.3.14)) интеграла
который берется по некоторому циклу, не содержащему нулей
полинома Р, и который при больших | близок к
Польза от таких интегралов для изучения особенностей была
продемонстрирована при доказательстве теоремы 7.3.8. Причина
в том, что абсолютное значение экспоненты под знаком инте-
интеграла на цикле равно |||-а-T*o>/6. Поэтому можно ожидать, что
распределение Я, грубо говоря, <х, ц°}/8 раз дифференцируемо
по х (является распределением порядка —<х, г|0>/б при
<х, т]°> <С 0). Чтобы избежать нулей полинома Р, мы будем сле-
следовать схеме доказательства теоремы 7.3.10, но опираясь на
неравенство A1.3.20). Это вынуждает нас к локальным рас-
рассмотрениям и разложению интеграла с помощью разбиения
единицы.
Для точного описания этих соображений положим t&(Q =
= б logF|?|+ 2) и рассмотрим разбиение единицы с шагом
ytb(l) в точке ?, где у, 0 < у < 1, — такое фиксированное число,
что справедлива оценка A1.3.20). Так же как и в доказательстве
теоремы 11.3.1, нам необходимы хорошие оценки для производ-
производных до порядка, пропорционального числу /6(|). В следующей
лемме е обозначает (не обязательно малый) положительный
коэффициент пропорциональности, который будет выбран позже.
Лемма 11.3.11. Существуют такое разбиение единицы 1 = 2 X/
в Rn и такие точки |/esupp%/, что при больших j
A1.3.21) supp l4 с Bf = {g; 11 -
Пересечение более чем Со шаров Bf пусто и
A1.3.22) |DaX/(E)l<Cia|+1e|a|,
Постоянные Со и С} не зависят от г ц б и, кроме того.
(П.3.23) ЕМб/ЛБ,!-'1-1 <оо.
Доказательство. Метрика
равномерно медленно меняющаяся. В самом деле, при у = б =
= 1 это очевидно, а значит, это верно при у<1» изменение
масштаба в R" дает нужный результат для произвольных б.

11.3. Продолжение дифференцируемости 97
Тогда шары В/ могут быть взяты из теоремы 1.4.10, а разложе-
разложение единицы может быть получено из замечания, следующего
за теоремой 1.4.10, если в В/ положить dt = l/(stj + 2), где
i/г ^ tj = /бA/)« Неравенство A1.3.23) следует из того, что
сумма в левой части оценивается сверху сходящимся интегралом
Со| El-" d6.
По лемме 11.3.9 при больших значениях ]
а по лемме 11.3.10 найдутся такие точки 6/е V, |6/|^к1/, что
при |г|=1, |S|<2V//
A1.3.24) | Р {% + //7л° + 2в, + С) |
Здесь и далее г и ?— комплексные переменные. Положим
.
где СF) = Б + «в(Б)л° и d& =/«)«, /(E) = D(C(E))/DE. Заме-
тим, что J(l) является аналитической функцией от | в кониче-
конической окрестности пространства Rn и стремится к 1 на бесконеч-
бесконечности. Из включения | е suppx/ вытекает неравенство ||—1/|^
^ у/у. Поэтому
1С — Sy — «Л01 < Y'/ +1 <вF) - <в(Б/) I = Y</ A + O(l/| fig, I)) < Щ/2,
если / достаточно велико. Следовательно, знаменатель в
A1.3.25) в силу A1.3.24) ограничен снизу. Значит, интеграл
Ei e С°° определен при / >/о, и обсуждение равенства G.3.14)
показывает, что сумма
существует в 3)'(Rn). Так как
Р (D) Е, (х) = Bя)-« J х/ (Е) в'(* :> К,
ТО ДЛЯ IX €= Со°° (R")
Здесь интеграл равен интегралу от й( — ?) d?i л ... л rffЛ
по цепи ?->? +#л(|I10 вне U suppx/. По формуле
4 Зак. 64

98 11. Регулярность решений
Стокса это интегрирование можно заменить интегрированием
по R п и по компактной цепи. Поэтому
где d\i — мера с компактным носителем. Последнее равенство
эквивалентно равенству
где правая часть есть целая функция от х. Таким образом, мы
получили параметрикс.
Остается детально оценить функцию ?/ и ее производные.
Имеет место следующее представление:
?, (х) = BлГп в'*!(*'ф J $ е* <*• Ht ffi) Ff (g, z) d\ dz/2niz,
где lz'=1
F, (g, г) = (exp / (x, i (t6 (g) - /,) Ч° + гв,» / (g)/P (? (g) + 2Й).
Функция f/ аналитична по g в комплексном шаре с центром
g/ и радиусом 3v///2. Если / > /0, ^еС", |g — g/|<3v///2,
\z\= 1, то
A1.3.26) |F,(I, г) |<Cexp(| jc'| + x/71 jc' |).
В самом деле, при / > /0
откуда вытекает оценка экспоненты, в то время как из оценки
A1.3.24) и неравенства
| g (g) - g, - itrf | < 3Y/y/2 + 1 < 2Y/,
следует оценка снизу для функции Р(?(?) + г6). Теперь для
оценки функции
(Б,+ ^)Х
X F/ (I, + /)!, г) ег <"/• %> d% dz/2mz
мы снова можем применить предложение 8.4.2, часть а). В силу
A1.3.26) имеем
A1.3.26)'
| D$F, (?, + 1,1, z) | < С[а 1+11 a |! exp (| /1 + xt, \x |), | ? |< Y,
а из неравенства A1.3.22) получаем
A1.3.22)' |DaX/U/

11.3. Продолжение дифференцируемое™ 99
Таким образом,
Е, (х) | < Ы х' hi (C3st,/\ xt, \frl exp (/, (x \x \ - (x, ц0))).
При оценке производных функции Е\ мы должны лишь принять
во внимание дополнительный множитель (? + г6/), после чего
получим
| DaE} (х) | < Cj х' 44 (CW| xt, \frl X
Xexp(/y(x|^] + 6|a|-a, л0»).
Если еСъг < |л:| < 2eC<6ey то, обозначив р = 1/2еС3, найдем, что
(С8е/1* \f Г1 < Зе~*! < 3^р'/[х {.
Поэтому
| /)аЯ/ (х) | < ЗСав1 ^ ^7 ехр (// (к | л:' | + б | а | — (л:, ti°> — р | jc |)).
Отсюда, а также из оценки A1.3.23) вытекает равномерная схо-
сходимость ряда 2 Da?y (x) на множестве, задаваемом неравен-
неравенствами
в/2 < р | * |< в, * | *' | + а | а | - <*, т|°>-р|*|<-6(л+1).
Следовательно, на множестве
A1.3.27) е/2 < р | х |< е, к \ х' \ - <*, т|°> - р | х |/2 < О
мы получаем включение ?eCv для любого наперед заданного
v при б < 6V.
Выберем срезающую функцию г|э е Со° (Rrt), г|? = 1 при |xj<
< Зе/5р, г|)=0 при |х|>4е/5р и положим F = \f>?. Тогда
P(D)F = бо + со, где со е С°° при |х|<3е/5р и, кроме того,
(oeCv({jc; х|^| —<л:, т]°> — р|*|/2 < 0}) при достаточно ма-
малом б. Заменив 2е/5р на е, мы получим следующий результат.
Предложение 11.3.12. Предположим, что V — такое линейное
подпространство в Rrt, что аР(]/')ф0. Пусть ц° ^ V\ \ч\°\=\
и 0 <С х- < 1. Тогда для всякого & > 0 и любого положительного
целого v найдется такое распределение FB v ^.<$r{ R'1), ^^a
|x|<2e на suppFe,v, P(D)Fe, v — 60 €= C°°({x; |x|<e}) м
P(D)Fe. v e Cv({^; x| ^ | - <*, f|°> - p| x |/2 < 0}).
Здесь xr — класс смежности #modV, a p — положительная по-
постоянная, не зависящая от г и v.
Пусть распределение и таково, что P(D)u=f^C°° при
\х\ < Зе. Тогда при \х\ < е
и = и * F0 - Р (D) /ч, v) + / * /ч, v.

100 11. Регулярность решений
Последнее слагаемое принадлежит С°°({х\ \х\ < е})\ Если
и е С°° в окрестности множества
A1.3.28) {х;е<|х|<2е, х| х' | + <*, Л0)- р|* 1/2 >0},
то по теореме 4.2.6 меС°° в некоторой окрестности нуля при
V—>- оо.
Окончание доказательства теоремы 11.3.6. Можно считать, что
х° = 0 и <P/(*) = */ + 0(|*J) при х->0. Возьмем точку т]° =
= — A, ..., 1,_0 0)/У&, у которой & первых координат
равны — 1/У&, и пусть х < 1/д/&. По условию теоремы из
включения лее sing supp а вытекает оценка лг/ ^—о(|jc| ) при
/ = 1, ..., k. Поэтому \xf— \х}\ | = о(|х|), откуда
k k
<о(|*|)-р|*|/2<0,
если е < | jc| < 2e, где е достаточно мало. Значит, иеС°°в мно-
множестве A1.3.28) и, следовательно, в окрестности нуля. Доказа-
Доказательство завершено.
Из предложения 11.3.12 следует также полезное глобальное
свойство:
Теорема 11.3.13. Пусть Г — замкнутое выпуклое множество в Rrt,
а V — наибольшее векторное пространство, для которого Г +
+ Vr = r. Тогда для того, чтобы из условий u^2)'(Rn),
р (?)) и = 0 и sing supp и cz Г Ъытекало включение и е С°° (R"),
необходимо и достаточно, чтобы {У)Ъ
Доказательство, Допустим, что ap(V) = 0. Тогда из теоремы
11.3.1 следует, что для любой точки j/еГ найдется такая функ-
функция a?Cm(Rn), что P(D)u=0 и sing supp и = {у} + V cz Г.
(Легко убедиться, что можно выбрать распределение и с
sing supp и = F для всякого замкнутого множества F, для ко-
которого F-\-V = F.) С другой стороны, предположим, что
0p(Vr/)=^O и О^Г. Тогда имеется собственный конус в Rn/V,
содержащий образ множества Г в Rn/V. Можно считать, что
множество Г представляет собой обратный образ такого ко-
конуса. Множество точек, в котором включение и е С°° может
быть установлено с помощью предложения 11.3.12, очевидным
образом представляет собой конус, поскольку е может быть лю-
любым положительным числом. В доказательстве теоремы 11.3.6
мы видели, что функция и бесконечно дифференцируема в
окрестности нуля, а поэтому всюду в R

11.4. Оценки для производных высшего порядка 101
Результаты этого параграфа, как и § 11.1, хорошо согла-
согласуются с классификацией дифференциальных операторов, при-
приведенной в § 10.4:
Теорема 11.3.14. Пусть Р' и Р" — операторы одинаковой силы.
Тогда условия ap,(V) = 0 и ор» G) = 0 равносильны.
Доказательство. По теореме 10.4.3 из предположений следует,
что
A1.3.29) С^Я'Ч!, 0/P'(S>0<C2; geR", />l.
Согласно леммам 11.3.4 и 11.3.9, условие ар'A/) = 0 выполнено
тогда и только тогда, когда для некоторой последовательности
5/-*оо в Rn
где // = log|g/|. Переходя к подпоследовательности, можно счи-
считать, что существуют пределы
Q'«)- ton/>'«,+
Q" F) = lim P" (lf + t,l)lP' (I,, tj).
В самом деле, точная верхняя грань отношения |P'(g/ +
+ tfe) \/P'(lh '/)» когда I меняется в единичном шаре, равна 1,
в то время как такая же точная верхняя грань отношения
\P"(li + tiQ\/P'(lj9 tj) заключена между Сх и С2. Поэтому
пределы не могут равняться нулю тождественно, а из неравенств
< 11.3.29) имеем
CXQ' (h t) < Q? (h t) < C2 Q' (h /), / > 0.
Устремляя t к нулю, заключаем, что если Q' = 0, то Q" = 0. Из
того, что Q' == 0 в V, вытекает, что Q" = 0 в V. Поэтому
P'v(lh tj)/P" (lj, //)->0 при /->оо. Следовательно, oP'<(V) = 0>
и теорема доказана.
11.4. Оценки для производных высшего порядка
Улучшая доказательство теоремы 11.1.7, мы приведем сейчас
точные оценки роста производных решений гипоэллиптического
дифференциального уравнения
<11.4.1) p(D)u = 0
в зависимости от порядка дифференцирования.

102 11. Регулярность решений
Теорема 11.4.1. Пусть j/eRrt, и пусть С и р — такие постоян-
постоянные, что
A1.4.2) K*/,l>KC(d(?)+l)<\ BeR",
где d(l) — расстояние от | до множества нулей гипоэллиптиче-
ского полинома Р(?). Если и — решение уравнения A1.4.1)
в окрестности компактного множества /С, то существует такая
постоянная С, что
A1.4.3) |<#,Я)/и(л:)|<С>/р>, /=1, 2, ...; х е /С.
Замечание. При у =т^0 из неравенства A1.4.2) следует, что р 5г 1,
так как если Р(Ь>) = 0, то d(g)^|g_?0|.
Доказательство теоремы 11.4.1 легко вытекает из следую-
следующей теоремы, в которой используется обозначение
и>х и»=(?е'а' S'р(а) (Z)) а |2 d
\а^0 X
Теорема 11.4.2. Пусть X — открытое множество в Rn; обозначим
через Х6 множество всех точек из X на расстоянии >6 от гра-
границы X. Если справедливо неравенство A1.4.2), то существует
такая постоянная С, не зависящая от и} 8 и X, что для всякого
решения уравнения A1.4.1) в X и всех б, 0 < S < 1,
A1.4.4) \\(у9 D)uy *6||6<С6-р||и, Xh.
Доказательство теоремы ПАЛ. Теорему 11.4.1 легко доказать,
опираясь на теорему 11.4.2. В самом деле, пусть X — окрестность
множества /С, в которой P(D)u = 0 и все производные и принад-
принадлежат пространству L2(X). Применив оценку A1.4.4) несколько
раз, получим, что для всякого положительного целого /
A1.4.5) \\(у,
Возьмем постоянную с, 0<с<1, для которой KczXc, и по-
положим S = c/j. Поскольку Р(оь> есть отличная от нуля постоян-
постоянная для некоторого а с |а| = т и поскольку P^(D)u e L2(X)
при любом а, мы заключаем, что для некоторой другой по-
постоянной С
A1.4.6) \\(y,D)lu\2dx^CijW, /=1,2,....
Для того чтобы вывести поточечную оценку A1.4.3), восполь-
воспользуемся неравенством
A1.4.7) sup|H(*)|2<C У [\Dtu\2dx, u<z=C°°(Xc),
которое получается из леммы 7.6.3 изменением масштаба. Ис-
Используя неравенство A1.4.7) с заменой в нем и на {yt Dy'u, мы

11.4. Оценки для производных высшего порядка 103
получим оценку A1.4.3), если применим A1.4.6) ко всем произ-
производным D&u, |Р|^я, и сложим полученные неравенства.
При доказательстве теоремы 11.4.2 мы будем пользоваться
нормами
<П.4.8) IMILe
где е > 0 и
(И.4.9) Л.еF)=
(Напомним, что d(%) есть расстояние от g до поверхности ну-
нулей полинома Р.) В силу неравенства треугольника d(? + r|)^
<d(g) + |n|. Поэтому
A1.4.10) ^.
что доказывает, в частности, включение ds, e s Ж.
Лемма 11.4.3. Если weCo°(R'1) и е > 0, то
A1.4,11)
¦?е-2|а| |||/>«*)(?) „HI2
а^=0 а
Доказательство. Оценка A1.4.11) получается из неравенства
A1.4.12)
(l-|-ed(g)J ? е-^Ч/^ЧШ^С 28|а|
если умножить его на Bл)~л| rf5, e(g)^(|) |2 и проинтегрировать
ло |. В свою очередь неравенство A1.4.12) очевидно при ed(g)<
< 1, если С ^ 4. С другой стороны, если ed(l)^ 1 и |a| ^ 1, то
Поэтому неравенство A1.4.12) вытекает из леммы 11.1.4.
Мы получим оценки для решений и уравнения A1.4.1), при-
применив лемму 11.4.3 к произведениям и на подходящие функции
из С0°°(Х).
Лемма 11.4.4. Пусть фбСо°° (Rn). Положим ф8 (х) = ф (х/е),
е > 0. Тогда для всех мультииндексов а и всех целых j спра-
справедливо неравенство
A1.4.13)
где Col, / не зависит от е.

104 11. Регулярность решений
Доказательство. Поскольку фе(?) = ertt(e?), мы получим оценку
A1.4.13), введя новое переменное eg и заметив, что ф^Р.
Лемма 11.4.5. Пусть и — решение уравнения A1.4.1), определен-
определенное в шаре Ве = {х; \ х | < е}, ф?Со°(Si), и пусть s ^ 0 — целое
число. Тогда
A1.4.14)
где С не зависит от г и и.
Доказательство. Для доказательства неравенства A1.4.14) при
$ = 0 заметим, что |||-|||о, е есть норма в пространстве L2. По-
Поскольку e|a|sup|Z)a(pe|^ sup|Da(p|, неравенство A1.4.14) оказы-
оказывается следствием тождества
Доказывая неравенство A1.4.14) при 5 > 0, мы можем предпо-
предполагать, что оно уже доказано при s— 1 для произвольной функ-
функции qpeC?°(Bi). Из оценки A1.4.11) получаем, что
A1.4.15) ?|
Для того чтобы оценить в правой части член с а = 0, выберем
такую функцию феСГ(Вх), что ф = 1 в окрестности носителя
ф. Из соотношений q>eu = Фе(феи), ф8Р(/?) (^еи)— yeP(D)u — 0
по формуле Лейбница получаем
A1.4.16)
Нормы членов, стоящих в правой части A1.4.16), можно оце-
оценить, пользуясь теоремой 10.1.15 и неравенствами A1.4.10),
A1.4.13). Это даст
A1.4.17) |||Рф)(феи)|||*-1,е
Неравенство A1.4.14) теперь вытекает из оценок A1.4.15) и
A1.4.17), так как по предположению оно выполнено для s — 1
вместо s.
Лемма 11.4.6. Пусть выполнено неравенство A1.4.2). Тогда су-
существует такая постоянная С, что если P(D)u=0 в ВВ и

11.4. Оценки для производных высшего порядка 105
0< е< 1, то
и |2
Доказательство. Пусть s — наименьшее целое число, удовлетво-
удовлетворяющее неравенству s ^ р, где р — показатель степени в усло-
условии A1.4.2). Тогда из A1.4.2) следует, что
e(l) при
Следовательно, по формуле Парсеваля
/, D)v\2dx^C2\\\v\\\le; 0<е
Пусть <р е С" (Si), ф — 1 в шаре Вх/2. Если мы применим только
что доказанную оценку к v = Р<а) (D) (фгы) и воспользуемся
оценкой A1.4.14), то получим, что с некоторой другой постоян-
постоянной С
, D){tfu)\2dx
' \P{a)(D)u\2dx.
е
Поскольку фе= 1 в Ве/2, лемма доказана.
Доказательство теоремы 11.4.2. Пусть выполнены предположе-
предположения теоремы 11.4.2 и гЕХ8, 0<е<1, Применив лемму 11.4.6
к функции и(* +2), получим
-2ia, J \p{a)(D)(y, D)u\2dx
\х — zl<e/2
л—z|<e
Теперь проинтегрируем по г обе части этого неравенства по
области Хв и поменяем порядок интегрирования. Интеграл по
г в правой части не превосходит пг(Ве) и обращается в нуль
при х ф X. При х е Х2е интеграл по z в левой части равен
m(Be/2) = 2-nm(Be). Поэтому
2"VP ?e|a/ J |P(a)(?)<#> D)u\2dx
\-\P{a)(D)u\2dx,
X
Выбрав 8 = 6/2, придем к оценке A1.4.4).

106 11. Регулярность решений
Замечание. Простая модификация доказательств теорем п.4.1
и 11.4.2 приводит к результатам о решениях неоднородных урав-
уравнений P() f
Докажем теперь, что теорема 11.4.1 дает наилучший воз-
возможный результат.
Теорема 11.4.7. Пусть j/gR" и х°^Х, где X — открытое мно-
множество в Rn. Предположим, что числовая последовательность
Mj обладает тем свойством, что для каждого решения гипоэл-
липтического уравнения A1.4.1) в X существует постоянная С>
при которой
A1.4.18) \<у, Dyu(x°)\<XJMn /=1,2,....
Тогда существует такое число а и такие положительные по-
постоянные с, Cf что
A1.4.19) М^с1]0!, /=1, 2, ...,
A1.4.20) \{у,
Доказательство. Пусть JF — множество всех решений уравнения
A1.4.1) в X и топология в Jf индуцируется топологией простран-
пространства L?oc (X) = #2?°i (X). Согласно теореме 4.4.2, эта топология сов-
совпадает с топологией, индуцированной из пространства С°°(Х).
Отсюда следует, что множество
A1.4.21) Fr = {u; u<=JT, \(y, D)fи(х»)\^г!Мп /=1, 2, ...}
оо
замкнуто при любом целом г. По предположению U Fr = JC, в
1
так как Jf — пространство Фреше, то по теореме Бэра найдется
такое г, для которого Fr имеет внутреннюю точку. Поскольку
множество Fr выпукло и симметрично, начало координат должно
быть внутренней точкой. Поэтому существуют число 6>0 й
компактное множество К, такие что Fr содержит всякое реше-
решение u<=JF, /Лнорма которого по компакту К не превосходит 6.
Но это означает, что для любого решения и
A1.4.22) \(у, D/ix^K^Afye-'AlupdjcV^ /=1,2,
так как это неравенство однородно по и и справедливо для тех
и, /,2-норма которых по компакту К равна б.
Возьмем теперь произвольное ? е :СП, для которого Р(?) = (),
и в неравенстве A1.4.22) положим и (х) = е* (*•*). Если А есть
верхняя грань для | л: — л:01 при х s Kt то для некоторой по*
стоянной С
A1.4.23) \{у, O\j^CrJMjeA^lm^9 /=1, 2,

11.4. Оценки для производных высшего порядка 107
Пусть jli(t)—точная верхняя грань величины \(уу ?>| при
0 и |1т^|^т. Согласно следствию А.2.6, существуют
такие постоянные а и 6, что
<11.4.24) ,л(т) = 26таA +оA)), т->оо.
Таким образом, неравенство A1.4.20) справедливо при о = ау
если С достаточно велико. С другой стороны, условие A1.4.24)
показывает, что (ы(т)^ Ь%а при больших т. Поэтому из неравен-
неравенства A1.4.23) при больших т следует
<11.4.25) М, >С~1 (Ыг)! та!е~м.
Положим т = /. Тогда при больших / получим неравенство
{11.4.19), в котором а = а. Доказательство завершено.
Сравним теперь условия A1.4.2) и A1.4.20) при я>1.
Теорема 11.4.8. Пусть Р — гипоэллиптический полином. Обозна-
Обозначим через d(?) расстояние от g до множества нулей полинома Р.
Неравенство
< 11.4.26) \(у, l)\<C(d(l)+lft EeR",
выполняется с некоторой постоянной С тогда и только тогда,
когда для некоторой другой постоянной С
<11.4.27) \(у, ?
Доказательство. Можно считать, что уфО. Каждое из нера-
неравенств A1.4.26) и A1.4.27) тогда влечет р Г^ 1. Если ? = 2 + Й1»
где | и г] вещественны, и Р(?) = 0, то d(g)<|ri|. Поэтому, в
силу A1.4.26),
откуда в свою очередь вытекает неравенство A1.4.27), так как
р^ 1. С другой стороны, предположим, что справедливо нера-
неравенство A1.4.27). Для ^eRra можно выбрать ? так, что P(?) = Q
и |? — g| = d(|). Тогда |Im?|^d(|) и, следовательно,
|<У, 1)\<\(У> t-O\ + \(y> 0\<\y\d(t) + C(d(t)+l)e.
Поскольку р ^ 1, отсюда следует неравенство A1.4.26). Теорема
доказана.
Определение 11.4.9. Обозначим через р(у)9 y^Rny наименьшее
из чисел р, для которых при некоторой постоянной С справед-
справедливо неравенство A1.4.26) или A1.4.27).
Заметим, что существование наименьшего показателя р сле-
следует из доказательства теоремы 11.4.7. Функция р(у) имеет
очень специальный вид:

108 П. Регулярность решений
Теорема 11.4.10. Существуют строго возрастающая последова-
последовательность подпространств
{0} = Go с G, с ... с Gk = Rft
w строго возрастающая последовательность рациональных чисел
Рь .-., р*, «^ меньших 1, го/ше <*го р(f/) = Р/, где j — минималь-
минимальный номер, при котором у е G/.
Доказательство. Очевидно, что
A1.4.28) pfty, + ^2)<тах(рЫ, р(*/2)).
Но это означает, что для всякого вещественного р множества
является линейным подпространством в R*, расширяющимся
с ростом р. Размерность пространства Gp есть возрастающая
функция от р, имеющая лишь конечное число точек разрыва
рь . • > р*. Тогда
{0} с GPl с Gp2c= ... с GP/fe = R"
и pd/) = p/t если Gp — первое из этих пространств, содержа-
содержащее у. Немного изменив обозначения, получим нужное утверж-
утверждение.
Предположим теперь, что система координат выбрана таким
образом, что пространства G/ задаются уравнениями
A1.4.29) xf = 0 при j>dimGr
Обозначим р(е;) через р/, где в\ — единичный вектор, направ-
направленный вдоль /-й координатной оси. Ясно, что р(у)= р/, где / —
наибольший индекс, для которого у}ф0.
Определение 11.4.11. Обозначим через Т^ЦХ) множество таких
функций wgC°°(X), что для каждого компактного множества
КаХ существует постоянная С, для которой при всех мульти-
индексах а справедливо неравенство
A1.4.30) |Dat/W|<C|a| + 1a?iai ... «РЛ *е=*.
Теорема 11.4.12. Решения уравнения A1.4.1) в X принадлежат
классу Г(Р)(Я), г&е Р определяется так, как указано выше.
Небольшая модификация доказательства теоремы 11.4.1, ко-
которая приводит к нужному результату, предоставляется чита-
читателю. Если р/= 1 при всех /, то класс Tip)(X) состоит из всех
вещественно аналитических в X функций. Это приводит нас
к такому следствию.

Примечания 109
Следствие 11.4.13. Все решения уравнения P(D)u = 0 являются
(вещественно) аналитическими функциями тогда и только тог-
да, когда оператор P(D) эллиптичен.
Доказательство. Если оператор Р эллиптичен, то в силу нера-
неравенства A0.4.12)
при ?->оо в Rn. Тогда по лемме 11.1.4 отношение |?|/(
ограничено при ?->оо и, значит, р (|/) == 1 для любого у. Таким
образом, согласно теореме 11.4.12, решения уравнения P(D)u =
= 0 аналитичны. Ясно, что этот результат является частным
случаем теоремы 8.6.1.
С другой стороны, если все решения аналитичны, то р(у)=\
при любом у и, значит, отношение |||/rf(|) ограничено при
?->-оо. Пусть т — порядок оператора Р. Тогда можно выбрать
такое а, что |а| = т и Р«*>>Ф0. Из леммы 11.1.4 тогда следует,
что отношение \\\т/Р{0) ограничено при |->-оо. В частности,
для всех вещественных %ФО отношение \t%\m/Р(?Е) ограничено
при /-^оо, а это показывает, что РтA)?=0. Следовательно,
полином Р эллиптичен. (Этот результат также является след-
следствием теоремы 8.6.7.)
Теорема 11.4.14. Для двух произвольных гипоэллиптических
операторов одинаковой силы функции р, задаваемые определе-
определением 11.4.9, совпадают.
Доказательство. Это утверждение является непосредственным
следствием неравенства A1.1.10).
Пример 11.4.15. Для семиэллиптических операторов, введенных
в теореме 11.1.11, р, = m/m/, где m = sup m, есть порядок опе-
оператора.
Примечания
Петровский в работе [3] доказал, что все классические реше-
решения дифференциального уравнения в частных производных с
постоянными коэффициентами аналитичны тогда и только
тогда, когда это уравнение эллиптично (следствие A1.4.13). Он
также дал доказательство аналитичности решений аналитиче-
аналитических (нелинейных) эллиптических дифференциальных уравне-
уравнений и тем самым обобщил результаты С. Бернштейна (Bern-
(Bernstein S. [1]). Дифференцируемость слабых решений важна для
применений вариационного исчисления (принцип Дирихле) и
для уравнения Лапласа впервые была доказана Г. Вейлем
(Weyl [1]). Поэтому результаты подобного рода часто назы-
называют обобщениями леммы Вейля. В большинстве прежних работ

НО 11. Регулярность решений
доказательства основывались на формулах, представляющих
решения через фундаментальные решения, однако в 50-е годы
были развиты другие методы, основанные на точных оценках
решений с компактным носителем для неоднородных уравнений.
(См., например, Schwartz [I], John [2], Friedrichs [3], Lax [2],
Nirenberg [1].)
Гипоэллиптические уравнения с постоянными коэффициен-
коэффициентами были охарактеризованы Хёрмандером (Hormander [1])
путем построения фундаментальных решений. (Алгебраические
условия гипоэллиптичности, по существу, подсказаны доказа-
доказательствами Петровского [3].) В § 11.1 мы сначала следовали
этому подходу, используя точные результаты о фундаменталь-
фундаментальных решениях, полученные в § 10.2. Затем мы привели другие
более простые доказательства, основанные на изучении свойств
оператора P(D) в пространстве <§Г, полученных в § 10.3 (см.
Malgrange [2], Hormander [4], Peetre [1]). Результаты, пред-
представленные в § 11.2, о частично гипоэллиптических операторах
принадлежат Гордингу и Мальгранжу (Garding, Malgrange [1])
и Эренпрейсу (Ehrenpreis [3]).
Из теоремы 7.3.9 вытекает, что если P(D)u^C°° и «еС°°
вне строго выпуклой поверхности 5, то и ^ С°° в окрестности S.
Это впервые было доказано в работах Malgrange [3] и John
D]. Общие результаты § 11.3 о распространении свойств глад-
гладкости вдоль других поверхностей принадлежат Хёрмандеру
(Hormander [30]).
Как уже упоминалось, результаты доказанные в § 11.4,
восходят к Петровскому [3], получившему их для эллиптиче-
эллиптических уравнений. Для уравнения теплопроводности они принад-
принадлежат Хольмгрену (Holmgren [2]). Общие результаты получены
Хёрмандером (Hormander [1, 6]). Здесь используется метод
доказательства, который восходит к Жеврею (Gevrey [1]).

12
Задача Коши
и смешанные задачи
Краткое содержание главы
Решить задачу Коши для дифференциального оператора P{D)
с начальными данными на гиперповерхности 5 = {х; р(*) = 0}--
это, грубо говоря, означает найти такое решение и уравнения
A2.1) p(D)u = f
с заданной правой частью /, что для некоторой другой наперед
заданной функции ср имеет место оценка
A2.2) u(x)-<f(x) = O(p{x)m) при р(дг)-*О.
Здесь т — порядок оператора Р. Если разность и — <р диффе-
дифференцируема достаточное число раз, то условие A2.2), разуме-
разумеется, эквивалентно тому, что на поверхности S функция и — ср
и ее производные до порядка <т по направлению, трансвер-
сальному к S, обращаются в нуль. Именно в такой форме
обычно и ставится задача Коши.
Условие A2.2) означает, что имеет место представление
м = ф-}-рту. При р=0 из уравнения A2.1) следует, что
Pm(p'/i)v = f — P(D)y. Если поверхность S нехарактеристиче-
нехарактеристическая, т. е. Рт(р')?=0 при р=0, то можно вычислить v при
р=0. Если все начальные данные принадлежат классу С°°, то
можно продолжить этот процесс и получить на S единственным
образом тейлоровское разложение функции и, такое что равен-
равенство A2.1) верно с точностью до функции, имеющей на S нуль
бесконечного порядка. Этот факт является формальным осно-
основанием к тому, чтобы поверить в логичность постановки задачи
Коши. Однако мы обнаружим, что в противоположность анали-
аналитическому случаю, рассмотренному в § 9.4, такая вера оправ-
оправдана лишь для некоторых классов операторов P(D) и поверх-
поверхностей S.
Если разложить функцию и в сумму и = ф + vt то задача
Коши сведется к задаче с однородными начальными данными.
Изменив обозначения, мы можем тогда предполагать, что гра-
граничное условие имеет следующий однородный вид:
A2.2)' и(х) = О(р(х)т).

112 12. Задача Коши и смешанные задачи
Положим U+ = u, F+ = f при р>0, U+ = F+ = 0 при р < 0;
тогда из условий A2.1) и A2.2)' следует, что P(D)U+ = F+ в
смысле теории распределений; обратно, если поверхность S не-
нехарактеристическая, то из последнего равенства вытекают со-
соотношения A2.1) и A2.2)' при p(x)>0. (Аналогично рассмат-
рассматривается другая сторона поверхности 5.) Поэтому задача Коши
с однородными начальными данными эквивалентна нахожде-
нахождению решения уравнения A2.1), которое обращается в нуль с
той же стороны от поверхности S, что и функция /. Именно
таким образом должна быть поставлена задача Коши в случае,
когда поверхность S характеристическая или начальные дан-
данные не очень гладкие.
Для того чтобы сделать эти рассуждения точными, мы в
§ 12.1 начинаем с подробного обсуждения волнового уравнения.
Его кульминацией является красивая явная формула М. Рисса
для решения в четырехмерном случае. В § 12.2 рассматривается
задача Коши для волнового* уравнения в случае, когда началь-
начальные данные быстро осциллируют. Приводятся асимптотические
формулы геометрической оптики, включая обсуждение простей-
простейших типов каустик. Позже эти результаты будут служить ориен-
ориентиром при изучении операторов с переменными коэффициентами;
кроме того, эти формулы представляют и самостоятельный ин-
интерес. Однако в действительности результаты § 12.2, а также
большинство результатов § 12.1 не потребуются для дальней-
дальнейшего чтения ни этой главы, ни этого тома в целом.
В § 12.3 мы начинаем систематическое изучение задачи
Коши с доказательства того факта, что задача Коши для опе-
оператора P(D) с начальными данными на нехарактеристической
гиперплоскости <jc, N}=0, вообще говоря, может быть решена
только тогда, когда Р — гиперболический полином относительно
вектора N. Это означает, что найдется такое число то, что
РA + пЫ)Ф0 при ^ERn и т<ю. Подробное изучение таких
полиномов проводится в § 12.4. Мы покажем, что полином Р,
кроме того, гиперболичен как относительно вектора —N, так
и относительно любого вектора из некоторого выпуклого конуса
Г(Р, N), содержащего N. Далее, полином Р гиперболичен тогда
и только тогда, когда гиперболична его главная часть Рту т. е.
нули т полинома Pm(l + i:N) вещественны при ?e(Rrt, а млад-
младшие члены слабее, чем Рт. При помощи этих результатов легко
построить фундаментальное решение гиперболического опера-
оператора с носителем в дуальном конусе Г°(Р, N). Это сделано в
§ 12.5. Затем задача Коши изучается точно так же, как в
§ 12.1. Параграф 12.6 посвящен исследованию особенностей
фундаментального решения, а также формулам Герглотца —
Петровского для фундаментального решения вне сингулярного
носителя. В § 12.7 мы доказываем теорему единственности, ко-

12.1. Задача Коши для волнового уравнения 113
торая, грубо говоря, показывает, что если главная часть опе-
оператора не гиперболична, то начальные данные, для которых
нехарактеристическая задача Коши может быть решена, коге-
когерентны. Это означает, что на любом открытом множестве они
однозначно определяются своим сужением на дополнение к не-
некоторому компактному множеству. Далее, § 12.8 посвящен за-
задаче Коши с начальными данными, заданными на характери-
характеристической гиперплоскости. В этом случае нет общей теоремы
единственности, однако мы описываем класс операторов, для
которого теорема единственности справедлива. Простыми при-
примерами служат уравнение теплопроводности и уравнение Шрё-
дингера. Однако общая теория таких операторов довольно
сложна технически, и такого рода результаты не понадобятся
в дальнейшем. Наконец, в § 12.9 рассматриваются смешанные
задачи в четверти пространства. Это означает, что на одной
граничной плоскости требуется выполнение условий Коши, а на
другой — некоторых других дифференциальных граничных усло-
условий с постоянными коэффициентами.
12.1. Задача Коши для волнового уравнения
В § 6.2 мы построили фундаментальное решение Е+ волнового
оператора в Rrt+1
? = с~2д2/д? - Д = с-2д2/дР — 2 д2/дх2
1 '
которое имеет носитель в переднем световом конусе
{(/, х); ct>\x\}.
Покажем теперь, каким образом оно может быть использовано
для решения задачи Коши в полупространстве
# = {(/, х); (>0).
Сначала докажем теорему единственности. Ясно, что она явля-
является частным случаем следствия 8.6.9. Соответствующее рас-
рассуждение было уже проведено в доказательстве теоремы 6.2.4.
Теорема 12.1.1. Предположим, что иеС2"(Я), Па = 0 в Н и
и = du/dt = 0 при t = 0. Тогда и = 0 в Я.
Доказательство. Положим U = и в Н и U =0 в С#. Тогда
U^C[ и OU = 0 в R"*1 по теореме 3.1.9. Отображение
((/, x)9 (s, y))-+{t + s, x + y)
является собственным, так как из условия 5 + t ^ С при
t^O следуют неравенства 5 ^ С, t^C и, значит, |л;|

114 12. Задача Коши и смешанные задачи
Поэтому замечания, сделанные в конце § 4.2, дают
Аналогично доказывается теорема существования:
Теорема 12.1.2. Пусть v и к—целые числа, v^(m —3)/2,
k ^ 2. Тогда задача Коши
A2.1.1) du = f в Ht и = щ и ди/д1 = щ при ( = 0
имеет решение и е Ск(Н) для любых {е Ck+V(H) и щ о
2-/(|рл)ф Других С2-решений не существует.
Доказательство. По теореме 12.1.1 разность между двумя ре-
решениями равна нулю. Отсюда вытекает последнее утверждение.
Для доказательства существования предположим сначала, что
Uo = и\ = 0 и daf = 0 при / = О и |a|^A + v. Если
F = f в Я, F = 0 в С#,
то имеет место включение F ^ C*+v(Rn+1). Как мы видели в до-
доказательстве теоремы 12.1.1, свертка
определена. Ясно, что V =0 в С# и DU = 8*F = F. Далее,
Е+ = 0 при с/<|л:|, а при />0
Поскольку (n — l)/2^v+l, из теоремы 6.1.2 вытекает, что
при v ^ 0 порядок распределения ?+ в Rn+1\0 не превосходит
v, а доказательство теоремы 3.2.3 распространяет это заключе-
заключение на все Rrt+1. Если v=—1, то п = 1 (или 0) и явная фор-
формула для ?+ показывает, что распределение Е+ и его первые
производные имеют порядок 0. Следовательно, U^Ck(Rn+l) и,
значит, сужение функции (У на Я обладает нужными свой-
свойствами.
Доказательство теоремы 12.1.2 в общем случае сводится к
уже рассмотренному частному случаю, если положить и =
== w + v, где v <= C*+v+2 и
да(/ — ? v) = 0, Uq = v, u{ = dvldt при / = 0,
Условия на v означают, что при t = 0
A2.1.2) v = uOt dvldt = ui9
d!+2v/dt!+2 = c2dj (/'+ Ли)/5/у, 0 < / < ft + v.
Положим
A2.1.3) dtv/dt^Uf при / = 0

12.1. Задача Коши для волнового уравнения 115
тогда условия A2.1.2) означают, что нам известны функции
щ и и\ и
и/+2 = с2 (rff/dt1 + Аи,) при t = 0, 0 < / < k + v.
Это позволяет вычислить функции и2у иг> ... . По индукции
получаем, что м/ е C*+v+2^', 0^/^6 + ^ + 2, а условия
A2.1.2) равносильны условиям A2.1.3) с вычисленными нами
Uj. Следствие 1.3.4 гарантирует теперь существование функции
v^Ck+v+2f удовлетворяющей условиям A2.1.3), чем и завер-
завершается доказательство.
Благодаря тому что мы знаем явный вид фундаментального
решения ?+, мы можем воспользоваться предыдущим доказа-
доказательством для вывода явных формул для решения задачи Коши
A2.1.1). Для простоты ограничимся физически важным случаем
п = 3. Согласно F.2.7), фундаментальное решение задается
формулой
<?+, Ф) = Dл)-1 \ ф (| х \1су х) dx/\ х\, ф <= Со (R4).
Пусть и — решение задачи Коши из теоремы 12.1.2. Выберем
%^C°°(R) так, что % = 0 на (—оо, 0) и % = 1 на A, оо), и
положим
(t, х).
Для нахождения решения и в полупространстве Н заметим, что
? ие {U х) = h (//в) + 2с~2ди/д(г' (//в)/е + с~2и Г С/е)/е2.
Если / > е, то u(t, x) = ue(ty x) = E+*nue(t, x). В полярных
координатах в R3 имеет место следующая явная формула:
и (U х) = DЯ)'1 $(/(/- г/с, х - гсо) х ((/ - г/с)/в)
+ с Bи[ (t-r/с, х- гсо) х' ((/ - г/с)/в) е
+ !«(/ — г/с, х - red) х/г ((/ - г/с)/е) е~2)) rdrdco.
Проинтегрируем последнее слагаемое по частям, заметив, что
и что %'{{t — r/c)/E)/e-+6(t — r/c) = c6(ct — r) при 8-^0.
Если г = cty то
-~- (га (/ — г 1с х — гсо)) = «0 (х — /ссэ) — toj (x — /ссэ)
— с/ (со, 3/5х) а0 (л: — /со)#

116 12. Задача Коши и смешанные задача
Устремляя е к нулю, мы снова получаем формулу Кирхгофа
(см. G.3.8)):
A2.1.4) u{U x) = Dn)~l J f(t-]y\/c, x-y)dy/\y\
\y\<Ct
+ Dя)-! J (M* +/с©) + to! (* +/сю)
| со! = 1
+ ct (со, д/дх) и0 (х + /со)) do.
Здесь d(x) обозначает элемент площади на единичной сфере в R3.
Доказательство теорем 12.1.1 и 12.1.2 можно легко приспо-
приспособить к задаче Коши для произвольной пространственно-подоб-
пространственно-подобной поверхности, т. е. для произвольной гладкой поверхности в
R1+rt, которая имеет точно одно трансверсальное пересечение
с каждой прямой, направление которой принадлежит замкну-
замкнутому световому конусу. В частности, такая поверхность пере-
пересекает прямые, идущие в направлении оси t. Поэтому такую
поверхность можно задать уравнением
t = S(x).
Здесь |S'|<l/c, поскольку иначе имелись бы касательные,
принадлежащие световому конусу. Кроме того,
\х\ — c\S(x) |-*оо при *->oo.
В самом деле, для произвольного Т > О пересечение поверхности
со световым конусом с вершиной в точке (Г, 0) или (—Г, 0)
компактно, поскольку пересечение с лучом есть непрерывная
функция направления. Следовательно, множества
{х; cT-cS(x)^\x\}9 {x; cS(x) +сТ>\х\}
компактны, а потому компактно и их объединение {х; \х\—
\S()\T}
\()\}
Пусть Н — множество, задаваемое неравенством t
Рассмотрим задачу Коши
A2.1.1)' Du = f в Я, и = щ и duldt = ux на дН.
Поскольку задний световой конус с вершиной в произвольной
точке из Н имеет компактное пересечение с //, доказательство
единственности (теорема 12.1.1) остается без изменений. Пред-
Предположим, что граница дН принадлежит классу Cfe+V+2, т. е.
S g C*+v+2. Так же как в доказательстве теоремы 12.1.2, по на-
начальным данным в A2.1.1)' можно затем вычислить производ-
производные функции и на дН и получить на дН включения
Далее доказательство существования проводится так же, как в
раньше.

12.1. Задача Коши для волнового уравнения 117
Покажем теперь, что рассуждения, которые привели к фор»
муле Кирхгофа, тоже можно изменить и получить одну формулу
М. Рисса. Предположим, что начало координат лежит внутри
Н. Вычислим в нем значение функции и. Пусть s — произволь-
произвольная гладкая функция, такая что множества Н и дН задаются
соответственно неравенством s^O и равенством 5=0. Пусть
ds=?Q на дН. Мы могли бы положить s = / — S(x), однако-
удобнее на некоторое время оставить выбор функции 5 откры-
открытым. Возьмем функцию % такой же, как при доказательстве
формулы A2.1.4), и положим
%г (S) = % (S/В), UB (X) = Хе (s) U (/, х).
Обозначим через р квадратичную форму т2/с2 —1?|2, дуальную
к R = c2t2— \х\2. Это же обозначение будем использовать для
соответствующей симметричной билинейной формы. Таким об-
образом, ? = р (д), и если Е = ?L, то при малых е
s', и'), ф-
Здесь ? = с6(/?)/2л. Поэтому
р(?', s') = cd'(R)(>(R', s')/2n.
Выберем теперь такую функцию s, что вблизи пересечения 2
границы дН и носителя распределения Е имеет место равенство»
A2.1.5) -1=р(#', s') = 2{YJxJdsldx} + tdsldt).
Это согласуется с условием положительности функции s выше
дН. Перед тем как устремить е к нулю, мы должны уничтожить
член, содержащий S'(R). Для этого вблизи 2 выберем такое
векторное поле I/, что
A2.1.6) (V, s/) = 09 (V, R/)=L
Это можно сделать, поскольку s' и /?' линейно независимы на
S. Тогда
(b'(R)y?(s), и) = -F (*)?(«). div{Vu))9
так как правая часть равна
R')x'e(s), и)
+ (WW*)(v9 A uy

118 12. Задача Коши и смешанные задачи
и, следовательно, в силу A2.1.6) сводится к нужному виду.
Устремляя е к нулю, находим, что
Пи(-\у\/с, y)dyl\y\
, 5), p(s', K')-di
Здесь 6(/?, s) — прообраз меры Дирака бо, заданной на R2, и,
значит, положительная плотность на 2. Заметим теперь, что
2— риманово многообразие с метрикой, индуцированной метри-
метрикой —R(dX), X = (ty x\, x2, *з), поскольку она положительна
даже на пространственно-подобной поверхности дН.
Лемма 12.1.3. Плотность сб(/?, s) является римановой поверх-
поверхностной мерой на 2.
Доказательство. Вблизи произвольной точки на 2 можно ввести
такую локальную систему координат у=(уи у2у уЪу */4), что
У\ =/?, У2 = s. Тогда, в силу F.1.1),
cF(R, s), ф)=^Ф(Х@, 0, г/з, Уа))с\ detdX/dy\dy3dt/49
при условии что функция ф имеет малый носитель. Положим
gik = — p(y'r y'k)- То^да ?и=0на 2, а из A2.1.5) следует, что
?12= 1. Таким образом, det(g-r/)| /=1 = — 1 Ф 0. Заменим г/3, У\
новыми координатами
2
Ук = Ук+ S akf (У) У!> k = 3, 4,
равными старым на 2 и такими, что на 2
0 = Р (&, У'д = P(y'k, У[) - t % (У) §"• '=1.2; k = 3, 4.
Поэтому можно считать, что gii=0 при /^2 и /^3. Тогда
det{glk)l k=3 = - det (g'k)l ft=I = с1 detdy/дХ |2.
Псевдориманова метрика
имеет обратную матрицу. Поэтому det (gfk)i &=з = с21 det <ЭХ/<Э# |2.
Поскольку поверхностная риманова мера равна (det {gjk)t ?=зI/2
X dyzdyAy лемма доказана.
Векторное поле V задается условиями A2.1.6) лишь с точ-
точностью до векторного поля, касательного к 2. Для точного

12.1. Задача Коши для волнового уравнения 119
выбора поля V потребуем, чтобы при некоторых функциях а и
Ь (они будут определены ниже) выполнялось равенство
A2.1.8) (V, г|/> = яр(*'> ' 0 1
Это равносильно условию
Поэтому на 2 для касательных векторов / имеет место равен-
равенство R(V9 /) = 0. Теперь, если вспомнить A2.1.5) и заметить,
что p{R',R') = 4R9 условия A2.1.6) примут вид
A2.1.9) ap(s'9 50 = 6, — а
Таким образом,
/, s%
A2.1.10) ft = -p(/ sOAl /?p(/, 50).
На поверхности 2 справедливы равенства а =—1, 6 =
в— p(s7,50. Поэтому, воспользовавшись условием A2.1.8), ин-
интересующую нас величину в правой части равенства A2.1.7)
можно представить в виде
p(s', u')-di\{Vu) = p(tf9 иО + р(/, u') + p(s', s')p(R'9 uf)
— и div V = р (9, «0 — и div К*
6 = 25' + p(s/, 50 R'.
Из A2.1.5) следует, что на 2 имеют место равенства
р(9, /?0 = 2рE', /?0 = ,
р (в, 9) = 4р EГ, 50 + 4р (/, 50 Р (/, /?0 = 0.
Если L — вектор, соответствующий ковектору 9 по формуле
p(^> 6)=<?, ^>» то ^ изотропен, т. е. R(L9 L) = 0; L является
/^-ортогональным вектором к ^B), поскольку ковектор 9 есть
линейная комбинация s' и R', и <L, R'} =—2. Эти условия за-
задают вектор L на 2; это отражение в 2 луча света, пришед-
пришедшего из точки 0.
Для вычисления div V проинтегрируем равенство A2.1.8) с
некоторой пробной функцией г|). Интегрируя по частям, получим
Если R = 5 =0, то из A2.1.10) следует, что
о! = — 4/?'р (s'y 50; таким образом, р(а'9 50 = 4рE', 50,
Напомним, что b = ap(s\ s'). Поэтому на поверхности S
р{Ь', /?0 = яр(р(*', s'Y, /?O = -p(p(s', s')', R%

120 12. Задача Коши и смешанные задачи
Поскольку функция s + log У~~^ однородна степени нуль, s' в
•силу A2.1.5) имеет степень однородности —1. Следовательно,
форма p(s', s') однородна степени —2 и (см. A2.1.5))
-P(p(s', s7, *') = 4p(s', s').
'Наконец, bOR = — 8p(s', s') и, значит, на 2
<12.1.11) ~divK=D5.
Сужение функции Ds на 2 не изменится, если мы заменим
.s на другую функцию s + qt которая удовлетворяет условию
{12.1.5) и равна нулю на 2. Действительно, q = 0 при /?=0,
поэтому функцию q можно представить в виде q = //?, где
Р (f'R + R'f> R') = 0, т. е. р (Г, R') + 4f = 0.
Если R = 0, то
? <7 = ?(//?) = 2р(Г, /?') + /П/? = -8/+ 8f = 0.
Этого, разумеется, следовало ожидать из-за той роли, которую
играет Ds в формуле A2.1.7).
В полярных координатах в R3 поверхность 2 можно задать
с помощью равенства —tc = r = exp if) (со) и затем взять
s = -{log\ct\-$(xJ\x\))/29
поскольку последняя функция является решением уравнения
<12.1.5). Если ct = —\x\, то
Пусть Д© — оператор Лапласа на S2. Тогда в полярных коор-
координатах в R3
Л = гЛш + 2г~1д!дг + д2/дг2,
где два последних слагаемых аннулируют каждую однородную
степени нуль функцию. Следовательно,
Приведенное описание поверхности 2 отождествляет ее с S2.
Метрика на 2, индуцированная метрикой —R(dX), равна
adr + rda) — dr2 = г2 (dco, dco) = en> (dco, dco),
где (rfco, d(a) — стандартный линейный элемент на сфере.
Лемма 12.1.4. Гауссова кривизна линейного элемента
^(о))(^со, do)
на сфере S2 равна е~2^{\ — Д©^).
Доказательство. Рассмотрим 52 как многообразие, вложенное
в R3, и докажем утверждение леммы в точке @, 0, —1).

12.1. Задача Кош и для волнового уравнения 121
В окрестности этой точки мы берем х\ и х2 в качестве локаль-
локальных координат на сфере. Поскольку ?*/**/== ()> стандартный
линейный элемент равен
dx\ + dx\ + {xxdxx + x2dx2J/(l - x\ - xf).
Поэтому с точностью до членов третьего порядка нужно рас-
рассматривать метрический тензор
gn = е2* A + *i)> ?i2 = e
В точке 0 получаем gng22 — g\2 = е*Ъ, а символы Кристоффелл
имеют вид
= - 2~ldgn/dx2 + dgl2/dxx = -
Пусть R — риманов тензор кривизны. Тогда в точке О
/?i2i2 = d2gl2/dx{dx2 ~ (d2gu/dx22 + d2gjdx\)l2
41 tf |2)/2 + ^(| ^ |2
В точке 0 оператор Лапласа на единичной сфере совпадает со
стандартным оператором Лапласа по (хи дс2). Это завершает
доказательство леммы.
Таким образом, мы вычислили все величины, входящие в-
формулу A2.1.7), и теперь можем подвести итог, сформулировав
следующую теорему М. Рисса (рис. 3):
Теорема 12.1.5. Пусть Н—множество в R4, состоящее из точеку.
расположенных над гладкой пространственно-подобной поверх-
поверхностью дН. Пусть (/, х)^Н\дН. Обозначим через 2 пересече-
пересечение множества дН и светового конуса с вершиной в точке (/, х)~.
Зададим такое векторное поле L на 2, что на 2
/?(L, L) —О, <L, /?'(•-(/, *))> —-2, /?(L
Тогда решение задачи Коши A2.1.1)' имеет вид
A2.1.13) u(U *)"=DяГ! \ f(t-\y\/c, y)dyl\y\
<t-\y\/c,y)eH
+
<t-\y\/c,y)eH
Dл)-1 J и (а) К (о) do + Bя)-] J (L, и*) do,.
2 2

122 12. Задача Коши и смешанные задачи
Рис. 3. Задний световой конус, 2 и L
где da — риманов элемент площади, задаваемый сужением ме-
метрики —R(dX) на 2, а К — гауссова кривизна на 2. Здесь R =
= c2t2 — | х |2 — форма Лоренца.
При и S3 1 отсюда получается формула
которая, разумеется, является следствием формулы Гаусса —
Бонне.
12.2. Осцилляторная задача Коши
для волнового уравнения
Уже формула Рисса (теорема 12.1.5) показывает, что при ре-
решении задачи Коши для волнового уравнения важную роль
играют световые лучи геометрической оптики. Это становится
¦еще яснее при рассмотрении задач с быстро осциллирующими
начальными данными, которые мы собираемся здесь изучать.
(Хорошо известно, что с ростом частоты радиоволны распро-
распространяются все более и более прямолинейно.) Мы ограничимся
исследованием однородного волнового уравнения в Rrt+1 с еди-
единичной скоростью света и начальными условиями на плоскости
A2.2.1)
A2.2.2) и = 0, dujdt = f при * =

12.2. Осцилляторная задача Коши 12*
Предположим, что feC^O?"). Тогда решение будет иметь
компактный носитель в каждой полосе |/|^:7\ Выполнив пре-
преобразование Фурье по переменной х в A2.2.1) и A2.2.2), мы
получим обыкновенное дифференциальное уравнение с началь^
ными условиями. Решив его, получим по формуле обращения?
Фурье
A2.2.3) tt(/fx)
Будем всегда предполагать, что п ^ 2. Тогда интегралы схо-
сходятся, и легко проверить, что функция A2.2.3) удовлетворяет
уравнению A2.2.1) и условиям A2.2.2).
Формула, задающая /, позволяет записать равенство A2.2.3);
в виде
A2.2.4) u(U x) = Bn)-n
где интегралы существуют как осцилляторные (см. § 7.8), по-
поскольку дифференциалы по у от фазовых функций <д: — у, ?> ±
± /||| не равны нулю при |g|^fcO. Для отождествления функций.
A2.2.4) и A2.2.3) нужно вспомнить, что осцилляторные интегра-
интегралы равны пределам при е->0 абсолютно сходящихся интегра-
интегралов, полученных после умножения подынтегральных функций.
на х(8?)> гДе Х^Со** %=1 в окрестности нуля. (См. также
пример 7.8.4.)
Возьмем теперь осциллирующие начальные данные, т. е.
A2.2.5) f(x) = a (х) е№\ со > О,
где а еС~(Rn)t функция феС°°(Rn) вещественна и ф^ Ф О
в R". (На самом деле достаточно предполагать, что ср* Ф 0 на
носителе а.) Тогда решение представимо в виде и(Л = и^ — и^г
где
A2.2.6) и* (f, x) = Bn)-
Для исследования асимптотического поведения этого интеграла
при (о-^оо воспользуемся методом стационарной фазы (§ 7.7).
У функции, стоящей под знаком экспоненты, имеются ста-
стационарные точки по переменным у и |, удовлетворяющие соот-
соотношениям
A2.2.7) ? «акр'(у), y = x±tt/\t\.

124 12. Задача Кош и и смешанные задачи
Положив g = охр'(у)-f-г], мы видим, что эти стационарные точки
иевырожденны тогда и только тогда, когда
О Ф D (л, У - х =F ' '
Таким образом, стационарные точки могут быть вырожденными
только в случае, когда точка (/, х) принадлежит множеству
С± = {(<, х); х = у^ ftp' (у)/\ <р' (у) |; D (у =F V (*/)/1 ф' (у) !)/?>*/ = О
при некотором у е R"}.
Это множество называется каустическим множеством или кау-
каустикой. Ясно, что С± замкнуто, так как \х — y\^t, а образ
компактного множества при непрерывном отображении ком-
лактен. При фиксированном t мера С^ равна нулю в силу сле-
следующего простого варианта теоремы Морса — Сарда:
Лемма 12.2.1. Пусть К — компактное множество в Rn и f — ве-
веществ еннозначное Сх-отображение некоторой открестности мно-
множества К в Rn. Тогда множество критических значений
{f(x); *е=/(, det/'(*) = O}
имеет меру 0.
Доказательство. Для всякого е > 0 мы можем покрыть множе-
множество {х^К\ det f'(лс) = 0} непересекающимися кубами /у диа-
диаметра е, такими что 2 /п(//)<С, где постоянная С не зависит
ют е. По формуле Тейлора
/(*) = / (*/) + V (х,) (х -xj) + o (e), х е //э
агде лс/е// и det//(x/) = O. Таким образом, расстояние от мно-
множества f(lj) до некоторого множества диаметра О (г), которое
в силу равенства det//(jt/) = O принадлежит некоторой гипер-
ллоскости, равно о (г). Поэтому т(/(//)) = о(ел) = т(//)оA).
•Следовательно,
Z/»(/(//))-> 0 при е->0.
Лемма доказана.
Если (t, x) меняется в некоторой связной компоненте G
разности Rrt+I\C±, то по теореме о неявной функции уравнение
< 12.2.8) У = х±Щ
имеет фиксированное число v±(G) решений у, каждое из кото-
которых (локально) есть С°°-функция от (/, л:I). Решение един-
]) Числа v±(G) конечны, поскольку все решения у при фиксированных
i и х ограничены ввиду очевидного неравенства \у\ ^ |*| + |/[, вытекающего
из A2.2.8). — Прим. ред.

12.2. Осцилляторная задача Коши 125
ственно при ^ = 0, а следовательно, и в компоненте множества
Rn+l\C±t содержащей гиперплоскость {0} X R*. В каждой ком-
компоненте G определим v±(G) бесконечно дифференцируемых
функций ф±(/, #), полагая локально
где у находится из A2.2.8). Далее, если выполнено A2.2.8), то
<12.2.9) dq>±/dt = ± | д^/дх |; д^/дх = дфу.
(Первое уравнение есть уравнение эйконала из геометрической
оптики.) Уравнения A2.2.9) являются следствиями теории ин-
интегрирования уравнения Гамильтона — Якоби (см. § 6.4), од-
однако нетрудно выполнить прямую проверку: если справедливы
уравнения A2.2.8), то
ЛфЫ = <ф'(</)> dy) = (q>'(y), dx)±W(y)\dt
±t(q>'(y), d(q>'(y)/\<v'(y)\)).
Здесь последнее слагаемое обращается в нуль, так как
d<ф' (УI\ ф' (У) I, ф' (УI\ Ф' (У) I) = d\ - 0.
Прямые /->(*, У Т/<p'(y)/|<p'(#) |) являются световыми лу-
лучами, соответствующими начальным данным нашей задачи
Коши. Пока мы видим, что вне каустик, образованных этими
лучами, можно построить конечное число гладких фазовых
функций, считая их постоянными вдоль рассматриваемых све-
световых лучей.
Чтобы изучить асимптотическое поведение функций и*> по-
покажем сначала, что большие значения g в интеграле A2.2.6)
дают малый вклад.
Лемма 12.2.2. Пусть % е С<Г (Rn\0), у = 1 в окрестности мно-
множества {q/(#); yesuppa}. Тогда интеграл
BпГп J \ е1 «*-"• «>*"«¦+•««> (а (у) A - г(|/со))/2/111) dyd\
быстро убывает при о-^оо.
Доказательство. Если t/esuppa и g ^ supp A — х)» то |фг(#) —
— ?|>сA+|?|) при некотором с > 0, так как левая часть
неравенства не обращается в нуль, а функция q/ ограничена.
Поэтому на носителе подынтегральной функции |(oq/(t/) — ?|>
>с(|(о| + |?|). Следовательно, применение теоремы 7.7.1 пока-
показывает, что интеграл по у оценивается сверху произвольной
степенью функции (l^l + co). Доказательство завершено.

126 12. Задача Коши и смешанные 'задачи
Остается рассмотреть интеграл
A2.2.10) »*(/, х)
Здесь при (/, х)^С± критические точки невырожденны. С по-
помощью разбиения единицы отделим друг от друга имеющееся
конечное число критических точек и затем к каждому члену
применим теорему 7.7.6. Из условий A2.2.7) следует, что
<х — у, ?>=Ы|?| = 0 в критической точке. Поэтому в каждой
связной компоненте G множества Rn+1\C± локально имеем
A2.2.11) i?{t9x) = <»-lZeiw>±it'*)aS(t9 x) + R±(t, x)9
где для функции а* е С°° справедливо асимптотическое разло-
разложение по степеням 1/со, a R* быстро убывает. Сумма бе-
берется по всем v±(G) решениям изученного ранее уравнения
эйконала. Для того чтобы вычислить главный член в A2.2.11)
и найти асимптотическое поведение вблизи каустик, мы рас-
рассмотрим теперь критические точки более внимательно.
Для упрощения обозначений предположим, что фазовая
функция в A2.2.10)
A2.2.12) F, у)^(х-у, l)±t\l\
имеет критическую точку g=(gb 0, ..., 0), у=0. Таким об-
образом,
A2.2.13) ду@)/ду = 1, x = =Ftelf
где ei=(l,0, ..., 0). Предположим, что gi > 0, и заметим, что
при малых 0
16 + в | = (h + 0,) A +1
где 0/==@2, ..., 0Л) и мы пренебрегли членами порядка 4 к
выше. Пусть ф2 и ф3 — однородные слагаемые порядка 2 и 3 в
тейлоровском разложении функции ф в точке 0. Тогда для функ-
функции A2.2.12) разложение Тейлора в точке g, 0 имеет вид
A2.2.14) (х-у, 6 +
С помощью ортогонального преобразования переменных у2, ...
..., уп всегда можно привести фг@, у') к диагональной форме
п
<Р2@, /)=

12.2. Осцилляторная задача Коши 127
Тогда члены второго порядка в A2.2.14) равны
? (bjy2f ± Я?/| 11 - 2yfli)/2 + у, (L (у) - Qx)9
Для изучения этой квадратичной формы возьмем вместо 8i в
качестве новой переменной 0! — L(y). Форма $\у{ невырожден-
на по переменным 0! и у\ и имеет нулевую сигнатуру. Таким
образом, квадратичная форма невырожденна, если только для
некоторого / не выполнено равенство
02.2.15) ±tbf/\l\=l.
Сигнатура членов, стоящих под знаком суммы, равна нулю при
/ = 0 и меняется на 2sgn(±f) в момент, когда выполнено усло-
условие A2.2.15). Теперь заметим, что поверхность уровня функции.
<р, проходящая через 0, имеет касание второго порядка с по-
поверхностью |?|yi + q>2@, у') = 0, т. е.
?
01--?
2
Пусть ориентация нормали совпадает с направлением q/@) = \.
Тогда радиусы кривизны равны —1?|/&/. Следовательно, если
точка х = :+:^/|§| не является центром кривизны, то квадра-
квадратичная форма неособая. Для всех других точек сигнатура формы
равна 2Nsgn(ibO, гДе N — число центров кривизны, лежащих
между точками у=0 и х. Вспоминая, что определитель этой
квадратичной формы был уже вычислен после A2.2.7) когда мы
впервые рассматривали условие невырожденности, получаем
следующий результат:
Теорема 12.2.3. Решение задачи Коши A2.2.1), A2.2.2) при
условии A2.2.5) равно иа = и^ — м«, где для функций и* вне
каустического множества С± имеет место асимптотическое пред-
ставление A2.2.11) с главным членом
= Ца(у) B11 <р' (у) |)-i | D (у =F ttf (у)/\ ф'(у) \)Юу |-
Здесь у — произвольное решение уравнения A2.2.8), а N— число
точек каустического множества (центров кривизны поверхности
уровня функции ф, прохдоящей через точку у), лежащих между
точками @, у) и (tt x) (между у и х), взятых с учетом их крат-
ностей.

128 12. Задача Коши и смешанные задачи
Заметим, что квадрат модуля этой амплитуды, умноженный
на поперечное сечение инфинитезимального пучка света, по-
постоянен вдоль луча, а фаза постоянна вдоль луча, не считая ее
скачка на ±я/2 при прохождении через каустику. Это — хорошо
известное в оптике явление, поддающееся наблюдению. Однако
формула A2.2.16) создает неверное впечатление, что амплитуды
имеют особенности в точках каустики. На самом деле при под-
подходе к каустикам перестает быть верным асимптотическое раз-
разложение A2.2.11). Таким образом, при описании решений
вблизи каустик необходимо более точное представление. Оно
может быть получено из теоремы 7.7.19. /
Чтобы применить теорему 7.7.19 в точке каустики (/¦*), сна-
сначала необходимо убедиться, что это простая каустика, т. е. что
в выбранной ранее системе координат условие A2.2.15) спра-
справедливо только при одном значении /. Тогда ранг гессиана
отображения A2.2.12) равен 2/г — 1, а его ядро определяется
соотношениями Ь\у\ = 9/ для данного /, yi = 9* =0 при 2^Ф}
и #1=0, Qi=L(y) = dy2/dy\. В этом направлении члены
третьего порядка в тейлоровском разложении фазовой функции
A2.2.12) с помощью A2.2.15) преобразуются к виду
A2.2.17) =
= - (bf/2111) у)ду2 @, y,9 0)/дух + qp3 @, y,9 0)
Нам нужно предположить, что эта величина отлична от нуля.
Для интерпретации этого условия заметим, что поверхность
уровня функции ф, проходящая через точку t/=0, определяется
равенством
У il\ + Ф2 (У) + Фз (У) + • • • = 0,
откуда, пользуясь приближением у\ =—Фг@, f/')/UI + •••
всюду, кроме первого члена, получаем
• #1 = -|1Г(Ф2@, /) + Фз@, у')
- Ф2 @, Щ <3ср2 @, t/VdyJl l\) + O(\y' I4).
Таким образом, тот факт, что величина A2.2.17) не обращается
в нуль, означает, что соответствующая окружность кривизны
не имеет точек касания более высокого порядка с рассматри-
рассматриваемой поверхностью уровня функции ф. (При п = 2 это озна-
означает, что эволюта не сингулярна.) Из теоремы 7.7.19 вытекает
следующий результат:
Теорема 12.2.4. Пусть точка х0 = уо Ч1 *офг (Уо) /1 Фг (уо) \ есть
простой центр кривизны для поверхности уровня {у\ ф(^/) =
— Ф(#о)}; предположим, что соответствующая соприкасающаяся
окружность не имеет третьего порядка касания с поверхностью

12.3. Необходимые условия существования и единственности 129
уровня. Тогда вблизи (to,xo) существуют такие С*-функции \р
и р, что ty(t0, хо) = 0 и вклад в и? (t, х) от окрестности точки у0
равен
A2.2.18) со-5/6(wm(t, x)Al№(t, x)®W)
+ Лш(/, х) Ai' (ф(t, x)(о2/3)ю-)е*«"*'х).
Здесь w® и W& — функции, имеющие асимптотическое разложе-
разложение в ряд по степеням 1До.
Таким образом, особенность в точках каустики в представле-
представлении A2.2.11), выявленная в формуле A2.2.16), вызвана тем,
что порядок главного члена в A2.2.18) определяется величиной
Ф-б/б^ а не ^-^ как это было в A2.2.11). Заметим, что функ-
функция A2.2.18) экспоненциально убывает при г|)(/, л:) > 0, но
имеет вид A2.2.11) в тех точках, где г|)(/, л;) < 0. Поэтому ра-
равенство ^{t, х) = 0 задает вблизи (t0, x0) границу множества,
освещаемого из окрестности точки у0. На расстоянии порядка
ф-2/з от этой поверхности мы практически можем пренебречь
членом A2.2.18) в зоне тени и заменить его на A2.2.11) в осве-
освещенной зоне.
12.3. Необходимые условия существования и
единственности решения задачи Коши
Пусть Н — полупространство, заданное неравенством <*, N} ^
^ 0. В соответствии с тем, что было сказано во введении к этой
главе, задача Коши для оператора P(D) в Я с однородными
начальными данными состоит в нахождении решения уравнения
A2.3.1) p(D)u = f в R",
где / — заданная функция с носителем supp/cz//, такого что
supp иен Н. Как мы уже знаем из теоремы 8.6.7 и следствия
8.6.9, равенство f = 0 влечет и = 0 тогда и только тогда, когда
граница дН нехарактеристическая, т. е. Рт(М)Ф0) где Рт —
главная часть оператора Р. Сейчас мы докажем, что для спра-
справедливости даже очень слабой теоремы существования полином
Р должен удовлетворять весьма ограничительному алгебраи-
алгебраическому условию.
Теорема 12.3.1. Предположим, что уравнение P(D)u = f при
любой правой части /еС0°°(Я) имеет решение u^2)'(Rn)
с носителем, лежащим в И, и что граница дН ^характеристи-
^характеристическая. Тогда существует такое число то, что
A2.3.2) Р (I + ixN) Ф0 при ? е= Rn и т < т0.
Б Зак. 64

130 12. Задача Кош и и смешанные задачи
Для упрощения доказательства покажем сначала, что уело
вия этой теоремы на самом деле гораздо сильнее, чем это ка-
кажется на первый взгляд.
Лемма 12.3.2. Из условий теоремы 12.3.1 следует, что уравнение
P(D)u = f имеет одно и только одно решение иеС°°(Кп) с
supp и а Н для каждой правой части f^C°°(Rn) с suppfczH.
Доказательство. Пусть /еС~(Я), и пусть «e?Z>'(Rn)—реше-
«e?Z>'(Rn)—решение уравнения P(D)u = f с suppuczH. Такое решение суще-
существует по предположению. Пусть V — выпуклая окрестность
вектора N, такая что Ят(В)=т^О при ОеКи, кроме того, (ху 0>^
^—1 при x^suppf и 0 е V. Тогда, в силу следствия 8,6.10,
suppwc П {х; (х, 0)> — 1}.
9е=К
В частности, это означает, что пересечение supp и с любым по-
полупространством {х, <#, М> ^ а} есть компакт. Пусть % е
gC0°°(R), х=1 (в ~я, я). Тогда u=)((('^»mg^ и
P(D)v^C°° при <x, /V> < я. Следовательно, по теореме 7.3.9,
и е С°°при (ху М} < а и, значит, и^С°° при <я, Af> < а. Так
как а произвольно, то u^C°°(Rn).
Пусть теперь / — произвольная функция из C°°(Rn), у кото-
которой supp f a H. Выберем такую последовательность функций
Xv e C~ (Rn)t что %v(x)=l при | а: | < v. Тогда уравнение
P(D)uv = %vf имеет решение uv e C°°(Rrt), носитель которого
расположен в //. Но
Р (D) (fiv+I - av) = (Xv+i - Xv) f = 0
при |jc|<v. Поэтому, в силу следствия 8.6.11, на всяком ком-
компактном множестве uv+{ — uv =0 при больших v. Следовательно,
существует предел u=\\muv. Очевидно, что и е С°° (Rn),
V -> оо
supped W « P(D)u=f. А поскольку единственность вытекает
из следствия 8.6.9, доказательство леммы завершено.
Доказательство теоремы 12.3.1. Из леммы 12.3.2 и теоремы Ба-
Банаха следует, что дифференциальный оператор P(D) задает
автоморфизм замкнутого подпространства
{и; ut=C°°(Rn\ supp и cz Я}
пространства С°°(РЛ). В частности, если у — такая точка, что
(Уу ЛО > 0, то для некоторого компактного множества К с: Rn
и некоторых постоянных С и ft
у Z sup|DaP(D)u\;
A2.3.3) ««Kfe ^
ue=C~(Rn), supp и а Н.

12.4. Свойства гиперболических полиномов 131
Возьмем теперь такую функцию зсеС°°(К), чт0 ее носитель
сосредоточен на положительной полуоси и ^(/)=1 при />
>(j/,Af)/2 = c. Тогда неравенство A2.3.3) можно применить
к функции и(х) = e<ix~y'l)%((x, N)). Если Р(?) = 0, то P(D)u=0
при <jc, N} > с. Положив /(' = {х\ xgK, <jc, N} ^ с}, мы по-
получим, что с некоторой другой постоянной С
A2.3.4)
Если С = g + /xiV, где g вещественно, а т < 0, то из неравен-
неравенства A2.3.4) следует, что
A2.3.5) l<C(l+IED*+lVt
при P(t) = O и 1т? = т#, т<0.
Положим теперь
ix (a) = sup (—т),
где точная верхняя грань берется по тем вещественным | и т,
для которых
|5 + /т#|2<G2 и |Р(Б + /тЛОР = О.
Из следствия А.2.6 вытекает, что либо |л(ст) = О, либо для неко-
некоторых постоянных А Ф 0 и а
1х(о) = Аоа A+оA)), (т->оо.
Условие A2.3.5) показывает, что
1 < С A + a)k+me'cli io) при |i (a) > 0.
Отсюда следует, что функция fx(a) должна быть ограниченной
сверху при а->оо. Доказательство завершено.
Определение 12.3.3. Полином Р называется гиперболическим
относительно вещественного вектора N, если Pm(N)=?0 и для
некоторого то справедливо условие A2.3.2).
В § 12.5 мы докажем, что задача Коши всегда может быть
решена, если полином Р гиперболичен. Этот результат можно
было бы получить прямо с помощью условия A2.3.2). Однако
сначала нам будет удобно изучить свойства гиперболических
полиномов, что мы сделаем в § 12.4.
12.4. Свойства гиперболических полиномов
В этом параграфе мы докажем, что из гиперболичности поли-
полинома вытекают условия, которые кажутся гораздо более силь-
сильными, чем определение гиперболичности. Фактически часть их
легко извлечь из доказательства теоремы 12.3.1, но мы пред-
предпочитаем привести прямые доказательства.
s*

182 12. Задача Кош и и смешанные задачи
Теорема 12.4.1. Если полином Р гиперболичен относительно век-
вектора N, то он гиперболичен и относительно вектора —N.
Доказательство. Из однородности главной части Рт видно, что
Рт(—#) = (—1)тРт(ЮФ0. Условия A2.3.2) показывают, что
P(l + ixN)^0 при %<=Rn и Rex<x0, так как l + nN=*
= g— imxN + iRexN. Заметим теперь, что коэффициент при
хт-\ в уравнении P(\-\-i%N)*=*0 является линейной функцией
от g и что коэффициент при хт равен Pm(iN)*?0. Обозначим
т
т-нули полинома P(g + ixN) через т/. Тогда сумма У) xf является
т
линейной функцией от g и, значит, ? Re xf также является ли-
линейной функцией от g, ^eR", причем, в силу условия A2.3.2),
последняя сумма ограничена снизу величиной /лт0. Следова-
т
тельно, Yj ReT/ = c, где с — постоянная, и это означает, что
—(m— 1)т0.
Таким образом, P(l + ixN)^0 при %>с — (т — 1)то, что и до-
доказывает нашу теорему.
Теорема 12.4.2. Если полином Р гиперболичен относительно век-
вектора N, то его главная часть Рт также гиперболична относи-
относительно N.
Доказательство. Из условия A2.3.2) следует, что корни уравне-
уравнения Р(Ъ + hN) = 0 расположены в полуплоскости Re т ^ то.
Далее,
Pm(l + ixN)** lim o-mP
Поскольку нули полинома P(ol + iaxN) сосредоточены в полу-
полуплоскости a Reт^ то, все нули полинома Pm(% + ixN) лежат в
полуплоскости Rex^O. Теорема доказана.
Для однородных полиномов определение гиперболичности
выглядит особенно просто:
Теорема 12.4.3. Однородный полином Р гиперболичен относи-
относительно N тогда и только тогда, когда Р(Л/)=#=0 и уравнение
A2.4.1)
при вещественном g имеет только вещественные корни.
Доказательство. Если P(g + xAO = O, то, в силу однородности,
Р (ag -f- axN) = 0 для всякого вещественного а. Если выполнено
условие A2.3.2), то для всякого вещественного а имеет место

12.4. Свойства гиперболических полиномов 133
неравенство almx^to. Отсюда следует, что 1тт==0. Обратно,
если уравнение A2.4.1) имеет только вещественные корни, то
Р(Ъ + 1хЩФй при вещественных хфО, откуда следует гипер-
гиперболичность полинома Р.
По лемме 8.7.3 однородный гиперболический полином про-
пропорционален полиному с вещественными коэффициентами. Ком-
Компонента F(P,N) в множестве {0; Рт{§)Ф 0}, содержащая век-
вектор N, является выпуклым конусом, а включение 0еГ(Р, N)
равносильно тому, что Рт@ + Ш) = 0 влечет t < 0. Следующий
результат близок к лемме 8.7.4.
Теорема 12.4.4. Пусть полином Р гиперболичен относительно N
и для него выполнено условие A2.3.2). Если 8еГ(Р,Л/), то
A2.4.2) P(l + i%N + ioQ)?*0
при Re т < то и Re a ^ 0.
Доказательство. При Rea = 0 неравенство A2.4.2) следует из
условия A2.3.2). Мы изучим нули полинома P(i + ixN + ioQ)f
рассматривая его как полином от а, когда т меняется в полупло-
полуплоскости Ret < to. Заметим, что коэффициент при am равен
;mPm@)=7^O, а это означает, что нули непрерывно зависят от т.
Таким образом, число нулей а с отрицательной вещественной
частью должно быть постоянным, когда Re т < to, ибо дока-
доказано, что нулей с Re a = 0 нет. Таким образом, для доказатель-
доказательства теоремы нужно только показать, что при достаточно боль-
больших отрицательных т не существует нулей а с Re a < 0. Обо-
Обозначим a = их\ тогда уравнение P(l + ixN + ioQ) = 0 можно
записать в виде
При т->—оо это уравнение переходит в уравнение Pm(N-\-uQ)=a
=« 0. Как отмечалось выше, последнее имеет только отрицатель-
отрицательные корни при 9еГ(Р, Af), и, значит, все корни уравнения
Р(? + ixN + и*в)= 0 имеют положительную вещественную
часть, когда Ret < to. Доказательство завершено.
Следствие 12.4.5. Если полином Р гиперболичен относительно
вектора N, то Р гиперболичен относительно всякого вектора
в€=Г(Р, N).
Доказательство. Если в условии A2.4.2) мы возьмем веществен-
вещественные а и т, причем т == еа, то получим, что для всякого е > 0
полином Р гиперболичен относительно 0 -)- eN. Поскольку
Г(Р, N) — открытое множество, 0 — еМеГ(Р, N) при малых
е и 0^Г(Р, Л^). Значит, Р гиперболичен относительно 0 =
= @ — еЛ/)+ eN.

134 12. Задача Коши и смешанные задачи
Обсудим теперь результат, обратный к теореме 12.4.2. Пусть
P = Pm + Pm-i+...+P0,
где Р/ — однородный полином порядка /.
Теорема 12.4.6. Если главная часть Рт полинома Р гипербо-
гиперболична относительно N, то каждое из следующих условий необ-
необходимо и достаточно для того, чтобы полином Р был гиперболи-
гиперболичен относительно N:
(i) Отношение P(g + iN)/Pm(\ + iN) ограничено при g e Rrt.
\\у Отношение Р/A + iN)/Pm(i + iN) ограничено при ?е
eR", y=0, ..., т.
(и) Оператор Р слабее оператора Рт.
(и)' Оператор Р/ слабее оператора Рт при / = 0, ..., т.
(iii) Рт доминирует над разностью Р — Рт.
(ш)' Рт доминирует над Р/ при / = 0, ..., т— 1.
(iv) Р и Рт — операторы одинаковой силы.
(v) Р(о(Ъ + 1Ы))Ф0 при geR", aeiCj и достаточно боль-
ших | ог |.
Доказательство. (i)=»-(ii) Действительно, из условия (i) по
теореме 10.4.3 вытекает неравенство /*(? + Ш) ^ C{Pm(l + ^W),
поэтому, в силу A0.1.8), P(g)<C2Pm(g). (ii)=^(ii)/ В самом
деле, если Р слабее Рт, то Р(^) слабее Pm(tl)= tmPm(l) для
всякого вещественного t Ф 0. Таким образом,
Выберем m + 1 отличных от нуля различных вещественных чи-
чисел /Л / = 0, ..., т. Поскольку матрица (/?), /, k = 0f ..., m,
невырожденна, каждый из полиномов Pk представим в виде ли-
линейной комбинации полиномов Р(//?) и поэтому слабее Pm(l).
(ii)/=^(i)/ Так как полиномы Pj{l + iN) и Р/(|) имеют одина-
одинаковую силу при каждом /, то мы получим нужное утверждение,
если покажем, что
A2.4.3) Pm(l + iNXC\Pm(l + iN)l l*=Rn,
где С — некоторая постоянная. Так как множество Г(Рт, УУ)
открыто, то при достаточно малых |?| имеет место включение
N + Re С €= Г (Pm, N), и поэтому Рт (I + iN + /?) Ф 0. Таким об-
образом, неравенство A2.4.3) следует из леммы 11.1.4. Имплика-
Импликация (i)'=^(i) очевидна, и, значит, доказана эквивалентность пер-
первых четырех условий.
Из условия (iiO вытекает оценка
A2.4.4) iTf-'Pyd, т)<СРт(?, т)

12.4. Свойства гиперболических полиномов 135
при / = О, ..., m, (g, т) ^ Rn+]. В самом деле, при т = 1 это есть
в точности условие (И)', а из однородности обеих частей нера-
неравенства степени т по (g, т) получаем A2.4.4) при любом т. Та-
Таким образом, (ii)'=^(iii)'=^(iii). В силу следствия 10.4.8, (iii)=^
=Miv). Импликация (iv)=^(ii) очевидна. Условие (v) означает,
что для нулей полинома
отРт F + М) + o^Pm-i A + Ш)+...+ Ро
имеет место оценка, не зависящая от g. Это равносильно суще-
существованию не зависящей от / и g оценки отношения Р/(Ц-
+ iN)/Pm(l + iN). Таким образом, (i)'=>* (v)=^(i). Из условия
(v) при вещественных значениях о вытекает гиперболичность
полинома Р. Остается доказать (в этом и состоит основная труд-
трудность), что из гиперболичности полинома Р вытекает усло-
условие (i).
Пусть p(g, s)=smP(g/s) — однородный полином, соответ-
соответствующий полиному Р. Тогда p(g, O)=Pm(g) и p(g, l)=P(g).
Из гиперболичности полинома Р относительно векторов N и —N
следует, что для некоторой постоянной С
A2.4.5)
так как при s = 1 это совпадает с условием A2.3.2). Докажем,
что
A2.4.6) \p(l + itN. Q\<C\p(l + itN,0)\9 (g, /)eRn+1.
Тогда при / = 1 получим условие (i). В силу однородности до-
достаточно доказать оценку A2.4.6) при |g|=l, а поскольку
\t\m^: C\p(l + UN, 0)|, остается только проверить A2.4.6) при
малых t. Допустим противное. Тогда по теореме А.2.8 найдутся
такие аналитические в окрестности точки OgC функции g(r)
и t(r), вещественные при вещественных г, что ||(г)|=1 и
\p(l(r) + it{r)N, t(r))/p(l(r) + it(r)N, 0)| —оо, /(г)->О
при г->0.
Однако это заключение противоречит утверждению следующей
леммы, примененной к функции
А (Л г, s) = p(g(r) + W, s).
Доказательством этой леммы мы и завершим доказательство
теоремы 12.4.6.
Лемма 12.4.7. Пусть функция h определена и аналитична в
окрестности точки Об С3. Предположим, что в некоторой окрест-
окрестности нуля
A2.4.5/ h{U r, s) = 0 влечет |Im/|<C|s| при (г, s)eR2,

136 12. Задача Коши и смешанные задачи
Тогда существует такая постоянная С, что
A2.4.6)' |А(й, г, /)|<С|А(й, г, 0)| мри малых (/, r)GR2,
Доказательство. В силу A2.4.5)' при Im/^0 и малом / мы
имеем h(t, 0, 0)=^0. Поэтому функция Л(/, 0, 0) имеет нуль
конечного порядка m при / = 0. Предположим, что лемма уже
доказана для меньших значений т. (При т = 0 утверждение
леммы очевидно.) Лемма 8.7.2 и замечание, приведенное после
ее доказательства, показывают, что в точке 0
A2.4.7) А(/, г, s) = A°(/, r,
где А0 — однородный полином степени т. Следовательно, функ-
функция
A, (U ry s) = h (г/, г, rs)/rw
аналитична вблизи нуля и
•А,(Л 0, s) = A°(/, 1, 5).
Таким образом, Ai(/, 0, 0) имеет нуль порядка ^т при t = 0.
Для нулей функции 1г{ с вещественными г,и s вблизи точки 0
имеет место оценка |Im r/| ^ C|rs|. Поэтому |Im/|^C|s|, и,
значит, для Ai также выполнено условие A2.4.5)'. Предположим
на время, что для h{ выполнена оценка A2.4.6)'. Тогда для не-
некоторых б > 0 и С
\h{irU г, гО1<С|А(/г/, г, 0)| при |/| + |г|<б.
Поэтому если |/|<б|г|/2 и |г|<б/2, то справедливо A2.4.6)'.
С другой стороны,
|А(й, г, OKCil/Г при |/|>б|г|/2.
Поскольку малые нули функции z->/i(zt г, 0) вещественны, при
вещественных t и г получаем
A2.4.8) \h(iu г, 0)\>C2\t\m.
Следовательно, оценка A2.4.6)' справедлива также при |/|>
>|г|б/2 и достаточно малых г.
Представим функцию А в виде степенного ряда
й(/, Л s) =
Тогда flapY = 0 ПРИ a'+P + Y
Aj (/, г, s) =
Если функция h\(it, 0, 0) в точке 0 имеет нуль порядка < т,
то лемма 12.4.7 вытекает из предположений индукции и приве-
приведенного выше рассуждения. В противном случае мы повторим

12.4. Свойства гиперболических полиномов 137
ту же процедуру, заменив Л на Ль Если после k таких шагов
лемма все еще не доказана, то
flapy^0 ПРИ P + ?(a + v — m)<0-
Поэтому за исключением случая, когда аа$у = 0 при a + Y < m»
мы при некотором k получаем нужное утверждение. Но если
Яа0у == 0 при а + у < га, то
IW г, 0l<C|/|w.
Следовательно, оценка A2.4.6)' сразу же вытекает из A2.4.8),
и доказательство завершено.
В A0.2.8) мы ввели пространство Л(Р), вдоль которого
полином Р постоянен. Теперь условие (i) теоремы 12.4.6, в част-
частности, показывает, что если Pm(? + iN + tr\) не зависит от t
для некоторого вещественного вектора т), то Р(\-\- iN -\- tx\)
также не зависит от /. Таким образом, имеет место
Следствие 12.4.8. Пусть Рт — главная часть гиперболического
полинома Р. Тогда Л(Р) = Л(Рт).
Сравнение дифференциальных операторов не всегда является
легкой задачей. Поэтому мы приведем еще несколько следствий
и примеров, вытекающих из теоремы 12.4.6.
Следствие 12.4.9. Пусть полином Р = Pm-f Pm-i + ... гипербо-
гиперболичен относительно вектора N. Если вектор l^Rn не пропор-
пропорционален N} a t0 есть нуль порядка \х функции /->Pm(l + tN),
то | + toN есть нуль порядка \х — / полинома Рт-/» / = 0, ...
..., m— 1.
Доказательство. Можно считать, что t0 = 0, g ф 0, так как иначе
\ можно заменить на g-f UN. Ввиду условия (i)' теоремы 12.4.6
и неравенства A0.1.8) для каждого а имеем
|P(^/a)l<C|Pm(g + /yV)|<cf \(д9 N)kPm(l)\.
о
При замене g на s? и при s->oo правая часть неравенства есть
оСз771"*1), и, значит, Рт-/F) = 0 при т — / — |a|>ra — \i, т. е.
при |а|<|х — /.
Следствие 12.4.10. Каждое из двух формулируемых ниже усло-
условий необходимо и достаточно для того, чтобы произвольный по-
полином Р с главной частью Рт был гиперболичен относительно N:
a) полином Рт гиперболичен относительно N и имеет глав-
главный тип (определение 10.4.11). -
b) Pm(N)=?0 и полином т->Рт(? + tN) имеет только про
стые вещественные корни для всякого вещественного вектора
|, который не пропорционален N.

138 12. Задача Коши и смешанные задачи
Доказательство. Необходимость условия Ь) вытекает из след-
следствия 12.4.9. То, что из Ь) следует а), очевидно. Если Рт имеет
главный тип, то полином Рт доминирует над каждым полино-
полиномом Q порядка <т (теорема 10.4.10). Значит, по условию (Hi)
теоремы 12.4.6 полином Pm + Q гиперболичен.
Определение 12.4.11. Полином Р называется строго гиперболи-
гиперболическим (или гиперболическим по Петровскому) относительно
вектора Л/, если для него справедливы равносильные условия
а) и Ь) следствия 12.4.10.
Одним из примеров является, конечно, волновой оператор,
отвечающий полиному Р (g) = gf — g| — ... — g*, который строго
гиперболичен относительно любого вектора N, такого что
Щ— Щ— ... — N2n> 0. Имеется также вполне законченная
теория строго гиперболических операторов с переменными коэф-
коэффициентами. Мы вернемся к ней в гл. 23.
Вообще говоря, условие в следствии 12.4.9 слабее условий
в теореме 12.4.6. Мы проиллюстрируем это примером.
Пример 12.4.12. а) Пусть Р4 (?) = (|? — ?г — &У — квадрат фор-
формы Лоренца. Ясно, что полином Р4 гиперболичен. Тогда усло-
условие в следствии 12.4.9 имеет вид Р,(|) = 0 при ??—-У —?з = 0,
откуда вытекает соотношение
A2.4.9) Рз<6)-МБ)(б?-Й-б).
где L — линейная форма. В силу теоремы 10.4.1, Рз-<Р4. По-
Поскольку Р3 сильнее любого оператора меньшего порядка, ска-
скажем, при L(g) = gi, условие A2.4.9) является единственным
ограничением на младшие члены гиперболического оператора
с главной частью Р4!).
Ь) Возьмем теперь произведение двух форм Лоренца с ка-
касательными световыми конусами
D /t\ (t2 ?2 Ъ2\ (t2 t2
Pa (s) = \h — 52 ~ S3J Vsi — §2 —
Тогда условие в следствии 12.4.9 состоит в том, что если |3 =0
и 5? = 52» то Рз(?) = 0. Отсюда вытекает условие
A2.4.10)
где L — линейная, a q — квадратичная форма. По теореме 10.4.1
полином Р4 сильнее {Щ - Ц - 2Щ) L (I) и (Б? — Ef — 6§) ?. С6) для
1) В самом деле, члены Ро, Р} и Р2 слабее l] (l2 — %22 — ifj и, значит,
слабее Р^ так что из A2.4.9) вытекает условие (ii)' теоремы 12.4.6. — Прим
ред.

12.5. Задача Коши для гиперболического уравнения 139
любой линейной формы L. Поэтому Р4 также сильнее (g? — Ц)X
X L(Q и ЩЬ(%). Остается узнать, будет ли Р4сильнее ?з?(?ь 0)
или, что то же самое, справедливо ли неравенство
Если |, = ± |2, то правая часть равна ( \\
+ ^+1). Заменим (gb g2) на s&u Ь). Тогда, устремляя s к
оо, получим \1ьЯA{, ±1Г 0)|<2С?*. Поэтому q&u ±6ь 0) = 0.
Отсюда следует, что полином Р = Р4 + ^з + • •. гиперболичен
тогда и только тогда, когда
A2.4.11) P3(g) = (^-522)^(S) + ^2E),
где Li и L2 — некоторые линейные формы. Из условия A2.4.10)
не вытекает условие A2.4.11).
с) Рассмотрим теперь случай, когда световые конусы пере-
пересекаются трансверсально
И (Ь) = (%2 О?2 ?2\
Тогда условие в следствии 12.4.9 состоит в том, что P3(g) = 0,
если одновременно |^ = Щ и ?? = 3^. Если записать Р3 в виде
Р3 E) - L, (I) FJ - 2^ - g;) + Б1в (E2f у + Ь (|2, бе),
где L — линейная, а — квадратичная, а Ъ — кубическая форма,
то это означает, что формы а(|2, \ъ) и Ь(\2, Ъ) должны обра-
обращаться в нуль при ?2 = ?2. Следовательно,
A2.4.12) Р3 (|) - L{ (I) FJ - Щ - 8J) + (gj - Щ) L2 (t),
где L2 — также линейная форма. Но теорема 10.4.1 показывает,
что Р4 E) сильнее L (?) (Ц - 2g| - g|j и L (g) (g2 _ g2 _ 2|32), а зна-
значит, сильнее L (l) (Щ — Ц) для любой линейной формы L. Таким
образом, условие A2.4.12) не только необходимо, но и доста-
достаточно для того, чтобы полином Р был гиперболическим.
12.5. Задача Коши для гиперболического
уравнения
В этом параграфе мы докажем, что из гиперболичности следует
существование решений задачи Коши. Формула G.4.7) служит
основанием при доказательстве следующей теоремы.
Теорема 12.5.1. Пусть оператор P(D) гиперболичен относительно
N. Тогда у оператора P(D) существует единственное фундамен-
фундаментальное решение Еу носитель которого заключен в полупростран-
полупространстве Н = {х\ <jc, N} ^5 0}. Это фундаментальное решение регу-

140 12. Задача Коши и смешанные задачи
лярно (см. определение 10.2.2), и supp? содержится в дуальном
конусе
A2.5.1) Г°(Р, N) = {x; 0t,-e>>0, 9е=Г(Р,
и не содержится ни в каком меньшем выпуклом конусе с верши-
вершиной в нуле.
Доказательство, а) Если Ех и Е2— два фундаментальных реше-
решения с носителями в Я, то их разность и = Е{—Е2 является ре-
решением уравнения P(D)u = 6 — 6 = 0 с носителем в Я. Тогда
из следствия 8.6.9 вытекает, что и = 0.
Ь) Докажем теперь существование фундаментального реше-
решения Е. Заметим сначала, что из условия A2.3.2) вытекает не-
неравенство
A2.5.2) \P(l-\-ixN)\>\Pm(N)\\x-x0\m, т<тО)
m
В самом деле, Р (| + ixN) = imPm (N) Ц (* — ^/)> где нули т/
удовлетворяет неравенству Rex/^to. Поэтому если т веще-
вещественно, то |т — x/I^Rex/ — т ^ to — т, откуда следует нера-
неравенство A2.5.2).
Фиксируем теперь т < т0 и зададим распределение Е сле-
следующей формулой:
A2.5.3) ?(Ф) = Bя)"п J ф (I + hN)/P (I + ixN) dl, Ф е= Со°°.
Это определение имеет вид G.3.14), так что оно законно в силу
неравенства A2.5.2). Поскольку функция ф (|-(- ixN) есть преоб-
преобразование Фурье от
Ф (х) е~'<х> ixN> = ф (х) е<х* xN> = г|) (д:),
из определения Е следует, что для F = e<x'xN>E справедлива
формула
J ixN)) dt,
а это означает, что Р = l/P(- + ixN). Таким образом, в силу
неравенства A2.5.2) распределение F принадлежит пространству
9>г (хотя ? и не обязано принадлежать &'). По теореме 12.4.4
P(l + ixN + /?)=#= 0, если g вещественно и (т0 — x)N — Re^ G
^T(P,N) (последнее верно для достаточно малых |?|). Зна-
Значит, расстояние от точки g + hN до нулей полинома Р ограни-
ограничено снизу, и поэтому из леммы 11.1.4 вытекает, что
P(l + ixN)^C\P(l + kN)\. Следовательно, РF)< С|Р(| +
+ ixN) | с некоторой другой постоянной С. Это означает по
определению, что F е В^ $, откуда ?Gi5^,

12.5. Задача Коши для гиперболического уравнения 141
Тот факт, что Е— фундаментальное решение, вытекает из
формулы обращения Фурье
Е (Р (D) Ф) = Bя) ~п J ф (I + ЬЮ <Ъ
Далее мы покажем, что если т < то, то на самом деле Е не за-
зависит от выбора т. Можно считать, что вектор N направлен
вдоль оси ?ь Тогда нам нужно лишь сдвинуть прямую, по ко-
которой происходит интегрирование, в комплексную zi-шюскость.
То, что это возможно, следует из аналитичности функции
ф(?)/Р(?), нижней оценки A2.5.2) для Р и того факта, что ф
удовлетворяет неравенству ^7.3.3). Используя доказательство
теоремы 7.3.1, нетрудно показать, что supp?c:#. Для этого
заметим сначала, что если феС~(#), то в силу G.3.3)
A2.5.4) \Z + i%N\n+]\q>(t + nN)\^C при т<0, ?e=R*.
Используя неравенства A2.5.2) и A2.5.4), мы теперь находим,
что при т < inf(to, 0)
где С п С{ — постоянные. При т -*—оо отсюда следует, что
?Г(ф) = О. Значит, supp E с=#.
Остается доказать, что supp ? с: Г°(Р, N). На самом деле
это вытекает из следствия 8.6.10 (см. доказательство теоремы
12.3.1), но мы предпочитаем дать доказательство, не зависящее
от теоремы единственности Хольмгрена. Итак, заметим, что
если 0еТ(Р, АО, то, как следует из теоремы 12.4.4, можно еще
раз сдвинуть контур интегрирования и доказать, что
Ё (Ф) = Bя)"л J (ф (I + ixN + Ш)/Р (I + ixN +
т < т0, а < 0.
При а-*—сю мы, как и раньше, получим, что ?(ф) = 0, когда
С ? {
р у (
^ при яезиррф. Следовательно, supp?
^0} и, значит, supp?c:ro(P, Л^).
Для доказательства того, что supp E не содержится ни в ка-
каком меньшем выпуклом конусе, воспользуемся следующим об-
обращением теоремы 12.5.1:
Теорема 12.5.2. Предположим, что дифференциальный оператор
P(D) имеет фундаментальное решение, носитель которого со-
содержится в замкнутом конусе К (с вершиной в нуле), не имею-
имеющем с полупространством {х\ (ху М> ^ 0} ни одной общей точ-
точки, кроме нуля. Тогда Р гиперболичен относительно N.

142 12. Задача Кош и и смешанные задачи
Предположим на время, что теорема доказана. Из нее видно,
что если носитель фундаментального решения, построенного в
теореме 12.5.1, является подмножеством замкнутого выпуклого
конуса К с вершиной в нуле, то все собственные опорные пло-
плоскости конуса К должны быть нехарактеристическими. Тогда
совокупность К° всех векторов 8, для которых <х, 0> > О при
О ф х е /С, содержит N и представляет собой выпуклое подмно-
подмножество в открытом множестве {0; Рт(й)Ф 0}. Поэтому К° со-
содержится в компоненте Г(Р, N)y откуда и следует, что К"^
=)Г°(Р, N).
Доказательство теоремы 12.5.2. Обозначим через Н полупро-
полупространство {х\ <*, N}^0}. Если f eC~(#), то евертка « = ?*/
удовлетворяет уравнению P(D)u = f и, кроме того, suppuczH.
Если мы докажем, что плоскость <х, N}—0 нехарактеристиче-
нехарактеристическая, то из теоремы 12.3.1 будет следовать, что оператор Р ги-
гиперболичен относительно N. В силу теоремы 8.6.7 достаточно
показать, что t/=0, если P(D)u=0 и supp и а Н. Но это оче-
очевидно, потому что и = Е*(P(D)u) (см. доказательство теоремы
6.2.3).
Используя теорему 12.4.6, мы теперь покажем, что фунда-
фундаментальное решение оператора P{D) с младшими членами
можно выразить в терминах младших членов главного символа
и их степеней, как подсказывает следующее формальное раз-
разложение:
Теорема 12.5.3. Пусть оператор P(D) гиперболичен относительно
вектора Ny Pm — главная часть Р, и пусть Ek — фундаменталь-
фундаментальное решение оператора Pm(D)k+\ имеющее носитель в Г°(Р, N).
Тогда сумма
A2.5.5) f,(Pm(D)-P(D))kEk
сходится в пространстве В]°съ к фундаментальному решению
' m
оператора P(D), носитель которого содержится в Г°(Р, Л0.
Доказательство. В силу условия (i)' теоремы 12.4.6 или, точнее,
в силу неравенства A2.4.4) имеем

12.5. Задача Коши для гиперболического уравнения 143
Тогда если т < —2С, то приведенное выше формальное разло-
разложение сходится,
Р (I + ixN)-1 = Z (Pm (I + ixN) - Р F + lxN)flPm (I + /тЛО-*-1
о
при |е R*. После умножения последнего равенства на функцию
Pm(l)^ C\Pm(l + i%N)\ мы также получаем равномерно схо-
сходящийся ряд. Подставляя это разложение в A2.5.3), завершаем
доказательство теоремы.
Замечание. Ясно, что Ek есть однородное распределение степени
—n + (k+ 1)т (теорема 7.1.16), преобразование Фурье кото-
которого равно Рт(- —iON)-k~l (см. теорему 3.1.15). Поскольку раз-
разность Pm(D)—P(D) имеет порядок т — 1, общий член в разло-
разложении A2.5.5) есть сумма членов, степень однородности кото-
которых не меньше —п + т + Аине больше —п -\-(k-\-\)m. Таким
образом, в A2.5.5) имеется только конечное число членов фик-
фиксированной степени однородности. В § 12.6 мы воспользуемся
теоремой 12.5.3 для изучения фундаментального решения в ко-
конусе Г°(Р, N).
Теперь с помощью фундаментального решения нетрудно ре-
решить задачу Коши с нулевыми начальными условиями.
Теорема 12.5.4. Пусть fe=2)'(Rn) и suppfcH= {х\(х,Ю^0}.
Если оператор P(D) гиперболичен относительно N> то уравнение
P(D)u=f имеет одно и только одно решение и, носитель ко-
которого лежит в Ну причем и = ? * /, где Е — фундаментальное
решение, построенное в теореме 12.5.1. Если /eB^(Rft), то
Доказательство. Если P(D)u =/, то (см. доказательство теоре-
теоремы 6.2.3)
?*/ = ?*(Р (D) и) = (Р (D) Е)*и = и.
Этим доказана единственность, которая вытекает также из
следствия 8.6.9. С другой стороны, полагая a = f*f, мы таким
же образом найдем, что P(D)u = (P{D)E)*f = f. Последнее
утверждение теоремы получается с помощью простой модифи-
модификации теоремы 10.1.24, и мы предоставляем это читателю. До-
Доказательство завершено.
С помощью теоремы 10.1.25 можно перейти к доказательству
теорем существования в их классическом виде, когда вместо
функциональных пространств BPt k используются пространства
С/. Поскольку пространства О никоим образом не приспособ-
приспособлены для точных утверждений о регулярности решений, мы не

144 12. Задача Коши и смешанные задачи
будем стараться получить наилучшие результаты, которые могли
бы быть выведены из теоремы 12.5.4.
Следствие 12.5.5. Пусть /eC^(R"), где г = [я/2]+1, и пусть
supp/сгЯ. Тогда полученное в теореме 12.5.4 решение и с носи-
носителем в Н уравнения P(D)u—f принадлежит пространству
O(Rn).
Доказательство. Полагая kr(Q = (l + |?|)г, мы находим с по-
помощью равенства Парсеваля, что Со+Г си В2, k}+r. Следовательно,
/ е Bl2ock (Rrt). Поскольку функция Р ограничена снизу, из тео-
теоремы 12.5.4 следует, что и е= Bl2°%j+r (Rn). Но l/ferGL2, так что
из теоремы 10.1.25 вытекает включение t/eC'(Rrt) (см. также
лемму 7.6.3 и следствие 7.9.4).
Доказательство теоремы 12.1.2 теперь приводит к следую-
следующему результату.
Теорема 12.5.6. Пусть Н — полупространство {х\ <*, М>5*0}, «
пусть P(D) — дифференциальный оператор порядка пг, гипер-
гиперболический относительно N. Пусть j ^ т. Положим г = [я/2] +
+ 1. Тогда для всякой функции f^Q+r(H) и любых cpfe e
е Ст-к+1+г (дН), 0 ^ k < /n, существует и притом единственное
решение и^С^(Н) задачи Коши
A2.5.6) p(D)u = f в Ну
A2.5.7) (D, N)ku = yk в а//, 6 = 0, ..., т-1.
В точке х е Я решение и однозначно определяется сужениями
функций f и {ер*} на яож/с {х} — Г°(Р, /V).
Доказательство. Можно считать, что N =A, 0, ..., 0). Сначала
мы найдем такую функцию и ge Cm+'+r(#), что при Xi =0
A2.5.8)
при 0 с^ k < m.
Достаточно брать а==(й, 0, ..., 0), 0 <; й ^/ +г. Поскольку
оператор P(D) содержит член Pm(N)D? с ненулевым коэффи-
коэффиA258)
рр () р у фф
циентом, условия A2.5.8) позволяют вычислить последователь-
последовательно такие функции
что условия A2.5.8) эквивалентны следующей совокупности
условий:
A2.5.9) DiV = q>k при хх=0

12.6. Особенности фундаментального решения 145
По следствию 1.3.4 мы теперь можем выбрать функцию v e
еСт+/+г(Я), для которой выполняются условия A2.5.9).
Положим fl=f — P(D)v в Я, /i=0 в С#. Тогда, в силу
A2.5.8), fi e С/+г, и по следствию 12.5.5 можно найти такую
функцию п\ еО"(Рл) с носителем в Я, что Р (D) u{ = f\. Тогда
Dftti=O при Х\=0 и К/. Следовательно, если k ^ m, то
функция «=wi + i; является решением задачи Коши A2.5.6),
A2.5.7).
Последнее утверждение теоремы 12.5.6 легко вытекает из
следствия 8.6.11 (а также из самого доказательства, если заме-
заметить, что ось х\ должна принадлежать конусу Г°(Р, N)). Таким
образом, доказательство завершено.
Следствие 12.5.7. Если f^C°°(H) и {ср*} <= С°°(дН), то задача
Коши A2.5.6), A2.5.7) имеет единственное решение и^С°°Н)
Доказательство. Условия теоремы 12.5.6 справедливы для всех
/', а решение и, полученное в этой теореме, не зависит от /'.
Решение задачи Коши, полученное в теореме 12.5.6, зависит
только от значений f и (р* внутри конуса {х} —Г°(Р, N) с вер-
вершиной в точке х, откуда ясно, что задачу Коши можно также
рассматривать локально. Плоскость <х, iV> = 0 можно также
заменить «пространственно-подобной», поверхностью, т. е. по-
поверхностью, все нормали к которой принадлежат конусу T(P,N).
Мы предоставляем читателю дать точные формулировки и до-
доказательства.
12.6. Особенности фундаментального решения
Пусть оператор P(D) гиперболичен относительно вектора N.
Обозначим через Рт главную часть оператора Р. Пусть 1-фО,
Рт,ъ — наименьший по степени однородности член в разложе-
разложении Тейлора полинома
в окрестности точки 0. Полином Pm, s также гиперболичен отно-
относительно вектора N (лемма 8.7.2) и, значит, относительно каж-
каждого вектора 8еГ(Рт,$, N). По теореме 10.2.12 можно найти
нижнюю границу для волнового фронта фундаментального ре-
решения оператора P(D):
Теорема 12.6.1. Пусть Е — фундаментальное решение с носите-
носителем в Г°(Л Л0, оператора P(D) и 0 Ф \ е= R п. Тогда конус
Г°(Рт, |, N) содержится в замкнутом выпуклом конусе с вер-
вершиной в нуле, порожденном множеством {х\ (х> g),e WF(E)},

146 12. Задача Кошн и смешанные задачи
Доказательство. Если полином Рт, % имеет степень р,, то
Рт. & (ч) = lim е-»* Рт (I + ел) = lim в*-»* Pm (g/e + л).
0 е->0
Поэтому Рт,\ является локализацией Рт на бесконечности в
направлении g (определение 10.2.6). По теореме 12.4.6 однород-
однородный член Pj степени / полинома Р слабее Рт. Следовательно,
при фиксированных g и ц выражение ет""^Р/(Е/е + л) остается
ограниченным, когда е->0. Значит, в этом выражении нет отри-
отрицательных степеней е и предел равен сумме
Степень этой суммы по переменной ц равна \i + j — т. Поэтому
Рт, i является главной частью локализации
= lim е™-** Р {Цг + ч).
е->0
По теореме 10.2.12 оператор Р* имеет фундаментальное решение
??, для которого supp?^X {1} cz ^/(f), и тогда supple:
сГ°(Р, Л^). В силу теорем 12.5.2 и 12.5.1, полином Р^ гипербо-
гиперболичен относительно вектора Ny а Г°(Рт, ^, Л^) есть замкнутый
выпуклый конус с вершиной в нуле, порождаемый носителем
Е^. Теорема доказана.
Теорема 12.6.2. Пусть фундаментальное решение Е оператора
P{D) имеет носитель, лежащий в множестве Г°(Р, N). Тогда
A2.6.1) WFA(E) с {(*, |); % Ф 0, х<= Г°(Рт. ь N)}.
Поскольку 0еГ°(Рт>5, N) при всяком g и поскольку Е яв-
является фундаментальным решением, правая часть с неизбеж-
неизбежностью содержит точку @, g) для всякого g#0 (см. пример
8.2.6). Если Р = Рту то теорема 12.6.2 следует из теорем 8.7.5
и 8.4.18. В общем случае доказательство аналогично доказа-
доказательству теоремы 8.3.7. Мы начнем его с того, что приведем
замену леммы 8.3.6, позволяющую найти достаточно большую
область, в которой полином Р не имеет нулей.
Лемма 12.6.3. Пусть lQ^Rn\{0} и Т\ — такой открытый выпук-
выпуклый конус, содержащий вектор N> что Г\\{0} cz Г (Pm, ?0, N).
Тогда существуют коническая окрестность W точки g0 в Rn\{0}
и число у > 0, такие что при больших \Ц
A2.6.2) . |P(g
если х<т'о9 ^еГ, ве-Г,, ie|<Y!?l> |t|<yII|.

12.6. Особенности фундаментального решения 147
Доказательство. Так же как при доказательстве теоремы 12.4.6,
введем однородный полином
p(h s) = smP(t/s)>
где s мало, s > 0, и точка ? взята вблизи ?0. В силу условия
A2.3.2), имеем
A2.6.3) р (? + i%N, s) Ф О при т < ros, 5 > О,
где мы считаем, что to < 0. Пусть \х — степень полинома Pmt\^
Из леммы 8.7.2 вытекает, что если 9g.—Гь |6|=1, то
A2.6.4) р (go + ДО, 0) = (tzfPm. ь (9) A + О (z)).
Так же как при доказательстве теоремы 12.4.4, рассмотрим
теперь уравнение
Р (I + hN + /cr9, s) = 0,
где 9 е Ti и |9| = 1. Можно выбрать такие г > 0 и 6' > 0, что
при тах(|т|, |s|, || — So|) ^ 6х это уравнение имеет в точ-
точности in корней а, для которых справедлива оценка |а| <С г.
Если 5 > 0, то, в силу A2.6.3), Rea^O, при условии что т<
< ToS. При s = 0 и Q=N все корни лежат на прямой Rea==
= —т > 0. Тогда по непрерывности получаем, что при т < tos,
s ^ 0 для всех |i корней уравнения имеет место оценка Rea>0.
Поэтому так же, как в конце доказательства леммы 8.7.4, мы
заключаем, что если О^а^—г/2, т < tos, ВеГь |8|=1,
тах(|т|, \s\, lE-EoIXe7, то
i&B, s)\>c\aT.
Взяв |/s, т/s, a/s в качестве новых переменных, можно запи-
записать этот результат в виде
если 0>а>-г/25, т < т0, IsK^, |t|<67s, \l-~h/s\ < 6'/s,
8еГь |в|=1.
Пусть теперь s = | ^ 1/111; положим W = {g; | Ц\\\ - У\ |011<
<й716о1Ь Тогда если т < т0, Z^W, 9е-Г„ |9|<r|||/2U0|,
\Ь'?\Ш 1611Ь/в/1, то
Если т<т^ = т0—1, то мы можем заменить т на т+1 и
9 на 9 — N. Поскольку при 9 е —Т\ величина |9 — N\ отделена
от нуля, отсюда следует неравенство A2.6.2). Лемма доказана.

148 12. Задача Кош и и смешанные задачи
Доказательство теоремы 12.6.2. При фиксированном т < То из
равенства A2.5.3) вытекает, что Е = (а — Д)п/?ь
A2.6.5) Е{ (х) = BлГп J е1 <*• 6+™ty(Q (g + /тЛО Р F +
где Q(g) = (# + <g, g>)rt и число а настолько велико, что поли-
полином x->Q(g + WV) не имеет нулей при вещественных g. Тогда
подынтегральное выражение есть O(|g|~2/I) при g->oo, и по-
поэтому интеграл абсолютно сходится. Так же как при доказа-
доказательстве теоремы 8.3.7, деформируем ^-плоскость интегрирова-
интегрирования вблизи g0 в цикл следующим образом. Пусть функция
ХеС°° неотрицательна, однородна степени 0 н ]( = 1 в
окрестности точки g0, %—Q вне W, где W — коническая окрест-
окрестность точки g0 из леммы 12.6.3. Если 8е—Гь |9| = y и / до-
достаточно велико, то рассмотрим цепь
где постоянная С выбрана настолько большой, что выполнена
оценка A2.6.2), а также оценка снизу для Q. По формуле
Стокса g-плоскость интегрирования в формуле A2.6.5) заме-
заменим на цепь GQ)t при больших |g|. Если х лежит в полупро-
полупространстве Не= {х\ <х, 0> >0}, то можно устремить t к беско-
бесконечности и перейти к интегрированию по циклу
G0: R"=Bg-*g
Когда g принадлежит конической окрестности точки g0, в кото-
которой %(g)=l> интеграл задает аналитическую в Hq функцию Ео.
Точно так же, как при доказательстве теоремы 8.3.7, в силу
теоремы 8.4.8 множество WFA (Е\ — Ео) не содержит элементов
с частотой g0. Таким образом,
{*; (х, b)e'WFA(E)}czCHB
для каждого 8е-Г(Рт,^, Л^). Пересечение множеств СЯв
для всех таких векторов Э по определению есть Г°(Рт,^0, N).
Доказательство завершено.
Для однородного гиперболического полинома Рт преобра-
преобразование Фурье фундаментального решения Е с носителем в ко-
конусе r°(Pm, N) равно 1/Pm(g — iON), а преобразование Фурье
от DaE есть однородное степени \а\—т распределение
la/Pm(l — iON). Чтобы выполнить обратное преобразование
Фурье, естественно использовать свойство однородности, проин-
проинтегрировав сначала по радиальной переменной. Во избежание
появления логарифмических членов удобно воспользоваться
формулой G.1.24). Поэтому мы сейчас остановимся на исследо-
исследовании этой формулы, используя понятие волнового фронта.

12.6. Особенности фундаментального решения 149
Напомним, что и в G.1.24) есть однородное распределение
степени —п — k и четности, противоположной четности числа k.
Поэтому из включения (ху ^)^WF(u) следует, что <л:, ?>== О
(теорема 8.3.1) и (—л:, — g)e WF(u) (теорема 8.2.4). Дифферен-
Дифференциал функции f(xt ?) = <*, Е>, (х, ^eR2"\{0}, равен
П*. 6) (У, г\) = (У> %) + (*> г\) = ((У> л). *Г(х, БI>,
где *f'{x9 1I= (g, *)• Возьмем распределение а*, заданное в
G.1.23). По теореме 8.2.4
A2.6.6) WF(ak({xf ?») = {(*, К; л, у); <*, ?> = 0f (л, у) =»/(!, *)
при некотором / ^ 0}.
(Здесь имеет место равенство, поскольку распределение ок ве-
вещественно и Ое singsuppor*.) В равенстве A2.6.6) ц и у —
дуальные векторы соответственно к х и ?. По теореме 8.2.9
A2.6.7) WF {и (х) ® 1) = {(a:, g; л, 0); (х, л) е Г^ (и)}.
Поэтому произведение u(x)ok((x, g>) определено при х^=0,
так как в этом случае уФО в A2.6.6). Из теоремы 8.2.10 также
следует, что
A2.6.8) WF(u(x)ah((x9l)))
cz{(x, g;
Заметим, что из включения (х, ?; т), у)е!Г^(и(л:)а*«^ |»)
вытекает равенство <х, л)== 0- Поэтому определено сужение
этого распределения на единичную сферу |#|=1, и равенство
G.1.24)' справедливо (см. теорему 5.2.1) в смысле теории рас-
распределений:
A2.6.9) u(-)=*m-l-hSx(u(x)ok((x, •>))•
Из теоремы 8.2.12 и включения A2.6.8) следует, что
WF(u)cz{(t, tx); 1=^=0, 1хф0,
{х, - tl) e WF (и)} U {@, х)9 х + 0}.
Поскольку (*,?)е= WF(u)<=>(—x, — |)s №F(a), мы имеем
включение
ITf (й) cz {(g, х); (- х9 I) e IFF (u)} (J ^,
которое также вытекает из теоремы 8.1.8.
Теперь выясним, может ли равенство A2.6.9) иметь место
поточечно при 1Ф0. Сужение распределения u(x)ok«xf ?>) на
сферу S"-1 X {|} ' существует, если только волновой фронт не
содержит элементов вида (jc, g; л, у) с 1^1=1 ил пропорцио-
пропорциональным вектору х. Ввиду равенства <х, л) = 0 отсюда следует,

150 12. Задача Коши и смешанные задачи
что вектор х] должен быть равен нулю, а включение A2.6.8) по-
показывает, что тогда (х, — tQ^WF(u). Если 1Ф0 и (ху Q<?
ф. WF(u) при хФО (и <х, ?> = 0), то мы получаем, что распре-
распределение u(x)ek((x, 6» имеет корректно определенное сужение
на сферу Sn~l X {|}. Следовательно, равенство A2.6.9) выпол-
выполнено поточечно в открытом множестве
при х=И=0} = (R*\{0})\sing supp й.
Все эти утверждения, разумеется, справедливы и в случае, когда
вместо WF рассматриваются множества WFa или WFl.
Вернемся теперь к изучению распределения Ea = DCLE1 где
Е — фундаментальное решение оператора Pm(D) с носителем
в Г° (Рт N). Ясно, что Еа = Ъа/Рт (I — iON) однородно сте-
степени |се| — m =i — п — q, где q = m — n — |а|. Четность распре-
распределения
= la(l/Pm (I - Ш) - (- ir/Pm (I +
противоположна четности числа q. Если п четно, то его носи-
носитель принадлежит множеству нулей полинома Рт, а по тео-
теореме 8.7.5 всегда
Преобразование Фурье распределения и равно Bл)п{Еа(—х) —
— (—1 )«?«(*)), поэтому из A2.6.9) следует, что в смысле тео-
теории распределений
A2.6.10) ?а (*)-(
161-1
1а A/Рт (I - iON) - (- l)n/Pm (t + iON)) do (I),
где do* — элемент площади поверхности единичной сферы. При
хфО аналитический сингулярный носитель содержится в
W[)(—W)9 где
A2.6.11) W= U Г°(Рт.ь N)
1?U
есть замкнутый конус, поскольку множество Г° в теореме 8.7.5
замкнуто. Так как второй член в левой части равенства A2.6.10)
равен нулю вне конуса —Г°(Рт, N), мы получаем, что вне мно-
множества №11Г°(Рт, — N) для распределения Еа(х) имеет место
поточечная формула.
Равенство A2.6.10), по существу, является формулой Гер-
глотца — Петровского. Она обычно встречается в разнообразных

12.6. Особенности фундаментального решения 151
эквивалентных формах. Если п четно, а оператор Рт имеет
вещественный главный тип, то выражение в круглых скобках
в правой части равенства есть плотность на поверхности Рт =0.
Если q < 0, то интеграл в A2.6.10) может быть записан как
интеграл по пересечению этой поверхности с единичной сферой
и плоскостью, ортогональной к к. Это и есть первоначальная
формула Герглотца — Петровского. Можно пойти по другому
пути и записать правую часть A2.6.10) в виде контурных ин-
интегралов вне сингулярностей. Коротко говоря, это делается
следующим образом.
Замечание после определения 8.2.2 показывает, что утверж-
утверждение теоремы 8.1.6 может быть усилено до утверждения о схо-
сходимости f(-+iy)->fo в ^5г° при Гэг/->0. Кроме того, если
выполнены условия теоремы 8.1.6 и x-+Q(x)^t— вещественно
аналитическая функция в некоторой окрестности множества X,
то / (х + /80 (#)) -> /о в ^>г°- В самом деле, если применить
C.1.20) к /(г+/е8(г)), то получим сходимость в SD\ а если
ПсгГиФ}, то распределение f(z + ieQ(z)) равномерно при
малых в удовлетворяет условиям теоремы 8.1.6, в которой Г за-
заменено на Гь
Для того чтобы применить предыдущее рассуждение к
A2.6.10), заметим, что если xz?W\J(—W) и %ф0, то скаляр-
скалярное произведение <*, 6> не имеет постоянного знака при 8 ^
еГ(Рт, 6» N). Поэтому можно найти такой вектор 6еГ(Рт, s, N),
что <jc, 6>=0. Для всех х\ из некоторой окрестности векторов
±| имеет место включение 9еГ(Рт>л> N) (лемма 8.7.4), при
этом конусы Г(Рт, п, N) выпуклы. Поэтому мы можем восполь-
воспользоваться разбиением единицы на сфере Sn~l и образовать из
конечного набора векторов 8 С°°-функцию 8(?) в Rn\0, для ко-
которой выполнены условия
A2.6.12) (х, в(?)) = 0, в(/?) = в(?), ^0,е^)еГт^№
С помощью регуляризации функции G, суженной на множество
|8|<2, например посредством свертки с гауссовой функцией,
можно сделать функцию 6 вещественно аналитической.
Пусть
есть форма Кронекера. Из условий A2.6.12), свойств гранич-
граничных значений аналитических функций, которые обсуждались
выше, а также из рассуждения, приведшего к формуле A2.6.10),
мы получаем, что если хф. W\jr(Pmt —N), то
A2.6.100 Ea(x) = \i

152 12. Задача Коши и смешанные задачи
Можно было бы использовать здесь поверхностную меру (?),
однако мы увидим, что форма Кронекера делает интеграл не
зависящим от е, так что нет необходимости переходить к пре-
пределу.
а) Если q ^ 0, то
<М-<*. I)) = 2-Isgn(-A:, l)<-х, l)qlq\-
Ясно, что <jc, Oqt,a/Pm(t,)(d(t,) есть замкнутая форма, так как
степень однородности множителя, стоящего перед формой со(?),
равна —п (см. рассуждение, приводящее к C.2.25)). В формуле
A2.6.10)' <jc, ?> = <Л', ?>, а форма со(?) равна нулю в плоскости
(х, ?>=0. Следовательно, по формуле Стокса интеграл не за-
зависит от параметра е при малых е. Пусть а+ есть сумма цикла
A2.6.13) S'-'sfc-^-feeG)
и умноженного на (—I)"-1 цикла
A2.6.13/ sn-l=>l->l + M(l).
Мы получаем, что при q = т — л — |<х|^0 и xqkW\jr(Pmt—N)
A2.6.10)" DaE(x)
Заметим, что скалярное произведение <jc, ?> вещественно на а+,
так что sgn<x, ?> имеет смысл. Мы можем опустить этот мно-
множитель, если заменим <х+ на цепь а+, которая отличается от
исходной только изменением ориентации при <jk, g> < 0. Ясно,
что тогда да+ есть цикл в плоскости <*, ?> = 0.
Ь) Если ^<0, то М-<*, g>) = б^>(—<аг, ?.», k = -\-q.
Предположим на время, что х\ ф 0, но Х2 = ... = хп = 0. Тогда
о„ (- (х, |» - (- *,ГЧб (-ХД) - (- *,)-* | *, Г1 б*» (I,)-
В A2.6.10) после замены формы rfco(g) на форму Кронекера
мы могли бы проинтегрировать по множеству R X Sn~2, по-
поскольку подынтегральное выражение однородно степени —-п и
имеет носитель в плоскости gi =0. Это означает, что в A2.6.10)'
можно интегрировать по g=(gb g'), l'^Sn~2. Таким образом,
\ -(-1)Л
/вF)
где в интеграле ^ = 0. (Заметим, что tf?2 л.. .Л d\n = 0.)По фор-
формуле Стокса интеграл не зависит от е. Производную можно ин-

12.6. Особенности фундаментального решения 153
терпретировать как вычет, который при q — m — п—|<х|<С0 и
х&У?[}Г(Рт, —N) дает
A2.6.10)'" DaE(x)
Здесь а_ есть сумма цикла-
A2.6.14) {*/<=С, |г 1 = 6} X fees11; (x, ?> = 0}=э(г, g)
где е достаточно мало, б < бе, и умноженного на (—1)п~1 цикла,
задаваемого аналогичным отображением, в котором / заменено
на —/. Окружность |г| = 6 снабжается положительной ориента-
ориентацией, а (п— 2)-мерная сфера ориентируется как граница полу-
полусферы {geS"-1; <*, g><0}. Такая ориентация обеспечивает
появление знака переменной х\ перед множителем |jci| в пре-
предыдущей формуле, а инвариантность формулы делает ее спра-
справедливой без каких-либо специальных предположений о направ-
направлении переменной х. Заметим, что цикл а- порождается окруж-
окружностью в направлении х с центром на границе цепи а+ (или,
правильнее, на границе, умноженной на —1/2, если принимать
в расчет ориентацию и кратность).
Подводя итог, мы получаем следующий результат.
Теорема 12.6.4. Если оператор Рт гиперболичен относительно
вектора Л/, а Е — фундаментальное решение оператора Pm(D)
с носителем в конусе Г(Рт, Л0, то при x^W[)Y(Pmi —N) и
q = тп — п — |а|^0 (соотв. <С 0) имеет место формула
A2.6.10)" (соотв. A2.6.10)'"). Здесь W —множество, заданное
в A2.6.11), а+, а- — циклы, которые были введены ранее.
Следующее определение содержит достаточное условие, при
котором интеграл A2.6.10)'" обращается в нуль.
Определение 12.6.5. Говорят, что точка x^W\JT(Pm, —N)
удовлетворяет условию Петровского, если цикл
гомологичен нулю в множестве {?^.0; (х, ?> = 0> Рт(Е)ф0},
где функция 8 удовлетворяет условиям A2.6.12), а е достаточно
мало.
Ясно, что это определение не зависит ни от е, ни от выбора
х в связной компоненте дополнения множества U7Ur(Pm, —W).
Теорема 12.6.6. Пусть в компоненте V множества (
Г(Рщ» —Л/)) выполнено условие Петровского. Тогда для

154 12. Задача Коши и смешанные задачи
каждого положительного целого k фундаментальное решение
оператора Pm(D)k с носителем в конусе Г(Рт, N) совпадает в
V с некоторым однородным полиномом степени mk — п. Если
оператор P(D) гиперболичен и его главная часть есть Pm(D),
то фундаментальное решение оператора P(D)k с носителем в
T(Pm, N) совпадает в V с некоторой целой функцией экспонен-
экспоненциального типа.
Доказательство. Цикл а- — один и тот же как для Рт, так и
для Рт. По предположению в множестве, где (xt t} ?=0, Рт(Х>)Ф
=5^=0, он гомологичен нулю. Пусть Ek— фундаментальное реше-
решение оператора Pm(D)k с носителем в Г(Ят, N). Тогда из
A2.6.10)'" следует, что DaEk(x) = 0 в V при \а\> km — п. По
формуле Тейлора из свойств аналитичности и однородности
фундаментального решения Ek в V вытекает, что Ek совпадает
в V с однородным полиномом Qk степени km — п. По теореме
12.5.3 фундаментальное решение оператора P(D) = Pm(D) —
— R(D) равно
в смысле теории распределений. Поскольку порядок оператора
R(D) меньше т, ясно, что R(D)kQk+{(z) есть полином по г,
состоящий лишь из мономов га, где m-\-k — я^|а|^
^ т (k -f I) — п. Мы можем теперь оценить Da?fe, | а | = mk - п,
применив A2.6.10)" при д=0 и заменив Рт на Pkm. Получим
неравенство
Следовательно, коэффициент при &*/al в R(D)kQk+\(z) не пре-
превосходит С? и, значит,
|a|+/i-m
!! с?.
Внутреннюю сумму в правой части можно оценить умноженной
на некоторую постоянную величиной A + Ci)|a|> что завершает
доказательство теоремы.
Замечание, Во второй части теоремы достаточно было предпо-
предполагать, что при каждом k фундаментальное решение Ek есть
однородный полином в V.
Пример «лакун Петровского», описанных в теореме 12.6.6,
дает волновое уравнение в пространстве четной размерности
(см. F.2.4)). Методы алгебраической геометрии дают много

12.7. Глобальная теорема единственности 155
информации о результате, обратном к теореме 12.6.6, но для
этого мы должны отослать читателя к литературе, указанной
в примечаниях.
12.7, Глобальная теорема единственности
В этом параграфе мы докажем несколько довольно точных ре-
результатов о несуществовании решения задачи Коши в негипер-
негиперболическом случае и о носителе решения в гиперболическом
случае.
Теорема 12.7.1. Предположим, что ни один из делителей поли-
полинома Р не имеет главной части, гиперболической относительно
вектора N ^ Rn. Если в полосе X = {х; а < <х, N) < b) имеется
решение и^З)'(Х) уравнения P(D)u=0, носитель которого
ограничен, то и = О в X.
Доказательство. Достаточно доказать теорему, в случае, когда
полином Р неприводим, так как каждый неприводимый дели-
делитель Р можно рассматривать отдельно. Достаточно также до-
доказать теорему для решений, принадлежащих С°°. Действитель-
Действительно, возьмем функцию qp e Co° (Rn), для которой \ф^л:=1 и
]<*, N>|<1 при х^эиррф. Свертка и*фе, где фв(л;) =
= е-пф(л;/е), определена и принадлежит С°° при а + е<
< <jc, Af> < b — е, причем и * ф8 удовлетворяет в этой полосе
условиям теоремы. Если мы докажем теорему для С^-функций,
из нее будет следовать, что ищг = 0 и, значит, и = lim и*ф8
е->0
= 0вХ.
Систему координат можно выбрать так, что X = {х\ —2 <
<Схп<С2}у и не все гиперплоскости, проходящие через ось хп,
оказываются характеристическими относительно Р. Рассмотрим
частичное преобразование Фурье — Лапласа от и
К (?', хп)=\и (х) е-1 <*'> W dx\ -2<xn< 2,
где *'=(*!, ..., Хп-i) и ?'=(&, ..., t/i-i). При фиксирован-
фиксированном хп функция й является целой аналитической функцией от
?'. Из условия P(D)u=0 следует, что
A2.7.1) Pig, Dn)un&'9 xn) = 0, -2<xn<2.
Если Р(?', Оп) не зависит от Dn> то можно заключить, что
йп = 0 и, значит, и==0 при —2 < хп < 2. Поэтому в дальней-
дальнейшем мы будем предполагать, что порядок \х оператора Р(?',?„)
относительно Dn положителен. Поскольку функция йп удовле-
удовлетворяет обыкновенному дифференциальному уравнению A2.7.1),

166 12. Задача Кош и и смешанные задачи
она является линейной комбинацией экспоненциальных решений*
Выделим одну из таких экспонент. Для этого зададим полином
/?(?', а, т) степени т — 1 равенством
A2.7.2) (а - т) R (?', а, т) = Р (?', о)-Р (С т)
и положим
A2.7.3) Wtf, а, хя)»Я(С. or, Dn)un(l\ xn).
Из равенств A2.7.1) и A2.7.2) следует, что
(Dn-o)W(?9 a, *Л)«(Р(С Dn)-P(?, а))ЛЛ —/>(С о)йп.
Поэтому
A2.7.4) (Dn-o)W(?9 о, хп) = 0 при />(?', а) = 0.
Таким образом,
W (?', а, 0) = ^/ах^(Г, а, хп);
A2.7.5)
-2<*n<2, Р(^, а) = 0.
Далее, так как R — полином степени т — 1 и йп как функция
от ?' при фиксированном хп удовлетворяет неравенству G.3.3),
то
A2.7.6) \W(l\ а, л:Л)|<СA+|а|)т-1вЛ1|1тС/|,
где М — верхняя грань для \х'\ при x^snppu (в X), а С — по-
постоянная, которая может зависеть от хп. Положив #„ = ±1, мы
получим, что при Р(?', а) = 0
A2.7.7) \W(t9 а, 0)|<C(l+|or|)mexp(Af|Img/|-|Im(T|).
Мы хотим теперь доказать, что U^(^, а, 0) = 0, если (^9)
«= 0. Для этого мы сначала заметим, что но лемме А. 1.2 добав-
добавления из неприводимости полинома Р следует, что множество
Q = {VgC, PWf a) имеет р, различных нулей}
открыто и плотно в CJ1-1. Легко видеть также, что множество
Q«{(r)', а); ц'е-Q, Р(ц'9о) = 0}
связно. Предположение о том, что оператор Рт не гиперболичен
относительно N=@, 1), означает, что либо Рт@, 1) = 0, либо
уравнение Рт{\\ а) = 0 имеет невещественный корень а для не-
некоторого вещественного |' и, следовательно, имеет невеществен-
невещественный корень для всякого g' из некоторого открытого подмно-
подмножества в Rn~l. В силу свойства однородности получаем, что

12.7. Глобальная теорема единственности 157
Рт{%'/о, 1) = 0 и 1/а невещественно. Мы выбрали координаты
так, что некоторая плоскость, содержащая ось хп, нехарактери-
нехарактеристична, т. е. Рт(?>', 0)^0. Поэтому можно выбрать такой век-
вектор g' e R", что
A2J.8) Рт&', 0)ф0, но Рш(с0?'> 1) = 0
либо при с0 = 0, либо для некоторого с0 с Im с0 Ф 0.
При фиксированном ij'eQ рассмотрим теперь риманову по-
поверхность, заданную уравнением
A2.7.9) РИ' + Ч', а)=»0.
Таким же образом, как при доказательстве теоремы 8.6.7, из
A2.7,8) следует, что существует решение т уравнения A2.7.9),
которое для некоторого целого р является аналитической функ-
функцией от а1/р при больших |<т| и для которого имеет место раз-
разложение
оо
П9 7 \(W г (а) — а V сп-^Р
и
сходящееся при \о\{/р ^ R, с главным членом Соа, где с0 — по-
постоянная в A2.7.8). Разложением A2.7.10) задается часть S
римановой поверхности A2.7.9).
Оценим теперь функцию F(o)= W(x{o)%' + v\', a, 0), исполь-
используя для этого неравенство A2.7.7). Из ограниченности |т|/|а|
следует, что с некоторыми постоянными А и В
A2.7.11) |F(cr)|<i4eBI4 |а|>#р.
На отдельных лучах эти оценки можно улучшить. Действи-
Действительно, существуют такие аргументы 8, что
A2.7.12) М\ 6' || Im (coeiQ) \ < | Ime'e |/3 = | sin 81/3,
ибо, поскольку Со невещественно или равно нулю, левую часть
можно сделать даже равной нулю, тогда как правая часть от-
отлична от нуля. Множество всех 8, удовлетворяющих неравен-
неравенству A2.7.12), открыто. Очевидно, что если 8 удовлетворяет
этому неравенству, то 8 + kn тоже удовлетворяет ему при лю-
любом целом k. В случае когда справедливо A2.7.12), из оценки
A2.7.7) следует, что
A2.7.13) |
Таким образом, функция F ограничена на всех лучах, аргу-
аргументы которых удовлетворяют неравенству A2.7.12). Поскольку
лучи, удовлетворяющие A2.7.12), разбивают S на угловые об-
области раствора меньше я, то, как следует из неравенства

158 12. Задача Коши и смешанные задачи
A2.7.11) и теоремы Фрагмена — Линделёфа, F ограничена на S.
Таким образом,
где ряд сходится при \о\> Rp. Далее, если некоторое а\ФЪ>
то функция F(a) при а->оо асимптотически должна вести себя
как некоторая степень от а~1/р. Но это невозможно, так как не-
неравенство A2.7.13) показывает, что вдоль некоторых лучей F
экспоненциально убывает. Следовательно, /7 = 0 на S и, зна-
значит, W(xlf + r\\ а, 0) = 0 в связной компоненте множества 5 на
римановой поверхности A2.7.9). Эта компонента содержит не-
некоторую точку с т=0. В окрестности вектора rj^eQ нули по-
полинома Р(ц', о) являются аналитическими функциями oi(r\'),
/ = 1, ..., |л, причем, как мы видели, для всякого т)'» близкого
Но отсюда следует, что один из сомножителей равен нулю тож-
тождественно, поэтому W(y\'y а, 0) = 0 в некотором открытом под-
подмножестве связного многообразия Q. Следовательно, это верно
всюду в Q. Если г)' е Q, то из интерполяционной формулы
Лагранжа вытекает, что полиномы от а
o
jf
образуют базис в пространстве полиномов от а степени <
А поскольку, в силу A2.7.3),
\хп\<2, т|'е Q,
мы получаем, что Dnun(V» хп) = 0 при / < ц. В частности,
йп (Ч'э *п) = 0 при | хп |< 2, V е Q.
Так как множество Q плотно в JQ"-1, отсюда следует, что и = 0.
Доказательство завершено.
Приведем, теперь одно приложение теоремы 12.7.1.
Теорема 12.7.2. Пусть X — открытое подмножество в Rn и «е
е Ст(Х) — решение уравнения P(D)u =0; пусть плоскость 2 =
= {х\ (х* N> =0} не является характеристической относительно
оператора P(D) порядка т. Предположим еще, что ни один
неприводимый делитель полинома Р не имеет гиперболической
относительно N главной части? Тогда если начальные данные

12.7. Глобальная теорема единственности 159
для и имеют в 1*[\Х компактный носитель, то и = 0 в некото-
некоторой окрестности множества 2 (] X.
Доказательство, Пусть /С' сг X — компактная окрестность носи-
носителя начальных данных в Rn. Тогда из теоремы единственности
Хольмгрена (теорема 8.6.5) следует, что и=0 в некоторой
окрестности множества 2 (]дК\ Положим и\ = и в К! и и\ =0
в остальных точках. Тогда, во-первых, supp щ а К\ а во-вторых,
U\ e Cm и P(D)u\=0 в некоторой окрестности каждой точки
из 2. Если е — достаточно малое положительное число, то
P(D)u\=0 при \(x, N>|<e. Поэтому, как следует из теоремы
12.7.1, «i=0 при |<jc, ЛГ>|<е. Тем самым доказательство за-
закончено.
Замечание. Из доказательства следует, что в приведенной выше
теореме достаточно предполагать существование решения и в
некоторой окрестности множества Xf|S в полупространстве
<х9 ЛГ> ^ 0. .
Начальные данные, при которых разрешима задача Коши
для дифференциального оператора P(D)y удовлетворяющего
условиям этой теоремы, являются, таким образом, когерентными
в том смысле, что своими значениями на некоторых множествах
они однозначно определяются на других множествах. (Разуме-
(Разумеется, никакого аналитического условия, которому удовлетво-
удовлетворяли бы все «допустимые» начальные данные, не существует,
так как с помощью преобразования Фурье задача Коши всегда
может быть решена для начальных данных, преобразование
Фурье которых имеет компактный носитель. Они плотны в 9>.)
Теперь мы докажем, что утверждение теоремы 12.7.2 не-
неверно, если полином Р имеет делитель с гиперболической глав-
главной частью. Для этого мы докажем теорему существования ре-
решения задачи Коши в случае, когда начальные данные при-
принадлежат (малому) классу Жеврея, определяемому следующим
образом:
Определение 12.7.3. Пусть б > 0. Обозначим через у^ или
yC6)(Rn) множество всех таких функций ф е С°°( ?я), что при
всяком компактном множестве Л' и всяком е > 0 существует
постоянная Се, для которой при любом а =5^0
A2.7.14) |ОаФ (х) | <Cfe|a' (| а | !N, х е= К.
Положим, кроме того, уо} = у{6) П С~-
Воспользовавшись формулой Стирлинга, мы могли бы, ко-
конечно, заменить |а|! в правой части на |a|la|. Поскольку
оо
2 l/k6 < оо при б > 1, из теоремы 1.4.2 сразу следует, что при

160 12. Задача Коши и смешанные задачи
6 > 1 множество у{06) достаточно велико, чтобы в нем можно
было найти срезающую функцию. Разумеется, это множество
образует алгебру (предложение 8.4.1).
Следующая лемма дополняет теорему 7.3.1.
Лемма 12.7.4. Целая функция Ф(?), ?еСЛ является преобра-
преобразованием Фурье — Лапласа функции q>^y&\ носитель которой
лежит в компактном выпуклом множестве К с опорной функ-
функцией Я, тогда и только тогда, когда для каждого В > 0 суще-
существует такая постоянная КвУ что
A2.7.14)' |O(^<K*exp(#(Im0-S!Re?|J/6X C^C".
Доказательство. Поскольку ?аФ(?) есть преобразование Фу-
Фурье— Лапласа от Daq>, из G.3.1) и A2.7.14) следует, что с не-
некоторой новой постоянной С8
Отсюда вытекает, что
Ч Ф (Ш < СЛ"е^ Re ? |)* е" <Im ^
Выбирая в качестве k наибольшее целое число, меньшее
(|Re ?|/<?яеI/б, мы получим неравенство
Из того что k > (\Яе1\/епеI/6—1, следует оценка A2.7.14)'
с В=(епе)~1'\
Для доказательства обратного утверждения заметим, что по
теореме 7.3.1 каждая функция, для которой имеет место оценка
A2.7.14)', является преобразованием Фурье — Лапласа функции
<ре=СПЮ. Далее,
J
1 а! ехр (—
Перейдем к полярным координатам. При этом правая часть
станет равной интегралу, определяющему Г-функцию. Тем са-
самым оценка A2.7.14) доказана для е > В~6. Доказательство
завершено.
Теперь мы можем сформулировать теорему существования,
которая показывает, что теорема 12.7.2 для оператора с гипер-
гиперболической главной частью не верна (заметим, что по теореме
12.4.6 такой оператор не обязан быть гиперболическим).
Теорема 12.7.5. Пусть главная часть оператора P(D) гипербо-
гиперболична относительно N и имеет порядок т. Тогда задача Коши
A2.7.15) P(D)u = f в Rn,
A2.7.16) (D, N)ku = yk в 2, 6 = 3, ...,/и—1,

12.7. Глобальная теорема единственности 161
где 2= {xeR", <x, N> = 0}, имеет решение мЕ7(й)(П для
любых функций |е7(й)(Кл) и ф^7(в)(^), коль скоро 1 <б^
<m/(m—1).
Эта теорема, в частности, означает, что если главная часть
оператора P(D) гиперболична, то допустимые начальные дан-
данные некогерентны. Из доказательства легко вывести, что опера-
оператор P(D) имеет фундаментальное решение с носителем в
Г°(Рт, N), принадлежащее к двойственному пространству про-
пространства у$). В частности, существует фундаментальное реше-
решение, являющееся гиперфункцией. Таким образом, условия тео-
теоремы 12.4.6 вызваны нашим желанием, чтобы фундаментальное
решение принадлежало классу 3)'.
Докажем сначала теорему для случая, когда f=0, а функ-
функции ф? имеют компактный носитель. Выберем систему коорди-
координат так, что N =@, ..., 0, 1). Из следствия 8.6.11 вытекает, что
если хп ограничено, то решение задачи A2.7.15), A2.7.16)
должно иметь компактный носитель. Поэтому так же, как в
§ 12.2, мы можем изучать задачу Коши, взяв частичное преоб-
преобразование Фурье йп{Ъ>\ Хп) от и по переменной х'. Тогда мы
получим задачу Коши для обыкновенных дифференциальных
уравнений
A2.7.15)' Р(Г, Dn)un&9 xn) = 0;
A2.7.16)' Dnun(r, *я) = ф*(Г), *» = 0, k<m.
Чтобы изучить эту задачу Коши, оценим сначала характеристи-
характеристические корни.
Лемма 12.7.6. Если главная часть Рт оператора Р гиперболична
относительно N = @, ..., 0, 1), то корни уравнения Р(?'т) = 0
удовлетворяют неравенствам
A2.7.17) |т|<СAП+1), 117
Доказательство. Запишем
где полином а/ имеет степень не выше /, а а0 Ф 0, так как
Pm(N)=?0 и N=@, ..., 0, 1). Можно считать, что ао = 1.
Пусть Ci — такая постоянная, что |я/(?11 ^ (Ci(|g/|+ 1))' при
любом /. Тогда
1
6 Зак. 64
-'о, (SO
при

162 19. Задача Коши и смешанны* задачи
Это доказывает первое из неравенств A2.7.17). (Предположение
о вещественности g' здесь не использовалось.) Для того чтобы
доказать второе неравенство, заметим сначала, что для веще-
вещественного ?'
Рт(Г, т)/
где корни т/ вещественны. Следовательно (см. (8.7.4)),
1Л»(Г, т)|>ЦттГ. I'eR"-1.
Используя уже доказанное первое неравенство A2.7.17), мы
получим, что если Р(?', т) = 0, то
\Рт(Г, т)| = |Р(Г, х)-Рт(Г, х)\<С2(\1'\+\)т-1.
Отсюда вытекает, что |Im т|m ^? С2(|?'| + \)т~~1, чем и завер-
завершается доказательство.
Для решения задачи Коши A2.7.15)', A2.7.16)' нужно
вспомнить простой результат из теории обыкновенных диффе-
дифференциальных уравнений:
Лемма 12.7.7. Пусть p(D) = Dm ¦+• a\Dm~x + ••• ^ть обыкновен-
обыкновенный дифференциальный оператор с постоянными коэффициен-
коэффициентами. Если 0 ^ k < m, то задача Коши
A2.7.18) p(D)vk = 0 на R, D}vk@) = 6Ik при
где bjk — символ Кронекера, имеет единственное решение. Если
из равенства р(т) = 0 следует, что |т|^Л и |Imt|^B, то
A2.7.19) |йЧ@1<2т(Л+1)у+т""^<в+1)»^, / = 0, 1, ....
Доказательство. Единственность и существование доказываются
просто. Мы утверждаем, что
A2.7.20) vk @ = Bm)-1 j *"' (q (%)/p (%)) dx9 .
где множество со={т; |т|<Л+1, |1тт|<5+1} содержит все
нули полинома р, а (/ есть некоторый полином степени < /п.
Тот факт, что p(D)Vk=0, где функция Vk задана равенством
A2.7.20), легко вытекает из интегральной формулы Коши. Гра-
Граничные условия означают, что вычет функции xfq(x)/p(x) на
бесконечности будет равен б/л при / < т, т. е.
?W/pW = ^~1"fe + O(T-m-1) при т-»оо.
Отсюда следует, что <7(т) есть полиномиальная часть функции
р(т)т~1"*. Коэффициенты полинома р ограничены коэффициен-
коэффициентами полинома (т-}-Д)т. Поэтому коэффициенты полинома q

12.7. Глобальная теорема единственности 163
ограничены коэффициентами полиномиальной части функции
(T + i4)mr""ft. Таким образом,
|<7(т)|<BЛ+ \)т(А+ 1Г|-*<2Я|(Л+ II"-1"*, тедсо,
и |р(т) I ^ 1 на ^со, поскольку расстояние от <Эсо до нулей поли-
полинома р не меньше 1. Длина границы <Эсо не превосходит
2я(Л + 1) и |т| ^ А + 1 на дсо. Отсюда, дифференцируя равен-
равенство A2.7.20), с помощью простых оценок интеграла приходим
к оценке A2.7.19).
Доказательство теоремы 12.7.5. Предположим сначала, что
f = о и что все cpk е y@6). Пусть функция Fk (?', хп) является
решением задачи Коши
Р (Г, Dn) Fk (Г, хп) = 0; DlFk (Г, 0) = 6/*, / < пг,
где k < m. Тогда решение задачи (^J.tB)^ A2.7.16)/ имеет вид
A2.7.21) йп <?', хп) = 'Е
Воспользуемся леммой 12.7.4 для оценки функции ф^ (g7) и
леммами 12.7.6, 12.7.7 для оценок производных функций F*.
Тогда функция йЛ, заданная формулой A2.7.21), допускает
оценку
|Шп(Г, хя)| <КвКт(\Г\+
при любом В. (Здесь мы воспользовались условием 1/6 ^
^ 1 — 1/т.) Пусть теперь функция м есть обратное частичное
преобразование Фурье от йп. Тогда
Поскольку В можно выбрать сколь угодно большим, то так же,
как во второй половине доказательства леммы 12.7.4, мы полу-
получаем, что и е yF). Кроме того, ясно, что функция и удовлетво-
удовлетворяет уравнению A2.7.15) при / = 0 и начальным данным
A2.7.16). Таким образом, в этом частном случае теорема до-
доказана.
Пусть теперь / = 0, a q>* e у<б>. Выберем такую функцию
%^ Y(o6)> что %(*) = 1 при |*| < v. Если учесть, что %yk & у^\
то нами уже доказано, что уравнение P(D)u =0 имеет решение
щ с данными Коши \|vp*. Из следствия 8.6.Г1 вытекает, что на
б»

164 12. Задача Кош и и смешанные задачи
любом компактном множестве uv+\ = uv при больших v. Следо-
Следовательно, предел и = lim щ существует и принадлежит у(б)-
V -> оо
Очевидно, что P(D)u = 0 и и имеет начальные данные A2.7.16).
Предположим теперь, что / е y{>6)- Если Я— фундаменталь-
фундаментальное решение оператора P(D), то у =?*/е у(б). В самом деле,
если /С — компактное множество в Rn и К' = К — supp/ =
= {х— у; х^К, у^ supp/}, то найдутся постоянная С и целое
ky для которых
Это дает нам
|Da(E*/)(*)|<C ? sup|Da+p/|, xt=K.
Введем обозначение ui=u — v. Задача Коши A2.7.16), A2.7.16)
теперь оказывается эквивалентной задаче
= 0, (D, N)kul = ^k — (Dt Nfv на S, k < m,
и мы только что доказали, что эта задача Коши имеет решение
U\ e yF).
Наконец, существование решения при любых / и <р* из у(б)
можно получить, заменяя / на tyvf и устремляя v к оо. Доказа-
Доказательство завершено.
Замечание. Теорему существования из § 12.5 можно было бы
установить теми же методами, которые применялись для дока-
доказательства теоремы 12.7.5.
Пример. Задача Коши для уравнения теплопроводности
д2и/дх2 = du/dt разрешима при любых начальных данных из
7B), задаваемых на оси t. Этот пример является классическим.
Он очень прост: из уравнения следует, что
d2hu/dx2k = dkuldt\ d2k+lu/dx2h+l = dk+lu/dx dt\
Ряд Тейлора по переменной х
и(х л = у д*и № 0 *2k | V
{ ' ' Li д? Bk)\ Y
L д? Bk)\ Y dtkdx Bk + \)l
сходится, так как начальные данные принадлежат у&\ и пред-
представляет собой решение задачи Коши.
Приведем теперь приложение теоремы 12.7.1 к задаче Коши
в случае, когда начальные данные имеют компактный носитель.

12.7. Глобальная теорема единственности 165
Теорема 12.7.8. Пусть Р — неприводимый полином, главная
часть Рт которого гиперболична относительно вектора N. Пусть
К — выпуклое компактное подмножество плоскости (х, Af>=0,
а у — точка этой плоскости, лежащая вне К. Пусть Н =
= \х\ <jc, N} ^ 0} и и <= Ст(Н) есть решение уравнения
P(D)u =0 с начальными данными, которые обращаются в нуль
Рис. 4
вне К. Если носитель функции и, за исключением некоторой
своей ограниченной части, содержится в множестве {у} +
t+ r°(Pm, N), то и = 0 тождественно в Я.
Заметим, что, как следует из теоремы 12.5.6,
+ Г°(Рт, N). В соединении с теоремой 12.7.8 этот факт дает
очень точную информацию о носителе решения и.
Доказательство. Поскольку компакт К выпуклый и у ф. /С, мож-
можно найти такую точку geRft, что
A2.7.22) (х, Ъ)<(у, 6> — б при х&К,
где е > 0. Пусть то — наибольший из корней уравнения
Pm (I + tN) = 0. Положим т] = I + тоЛЛ Тогда Рт(т)) = 0ит] при-
принадлежит границе конуса Г(Рт, Af). Так как <jc, N) = (уу N} =«
= 0 при х& К, из A2.7.22) следует, что
U2.7.23) (х, г]) < (у, ч> - в при х <= /С.
Положим теперь
и пусть v — функция, равная и в Х(]Н и равная нулю вХ(]СН.
Ясно, что, поскольку Х[]К пусто, v^Cm(X) и P(D)v = 0
в X. Далее, множество X не пересекает конус {у} + Г°(Рт, УУ),
так 1&к из условия г)бГ(Рт, Л/") следует, что в этом конусе

166 12. Задача Коши и смешанные задачи
<jc — у, г]> ^ 0. По предположению носитель функции v в X
ограничен. Это означает, что у = 0 в силу теоремы 12.7.1, ко-
которая здесь применима, так как Рт(ц) = 0.
Рассмотрим теперь функцию и\, равную а, когда х е Н и
<jc, т]> ^ <у, т]>, и равную нулю в остальных точках полупро-
полупространства Н. Так как u — v = 0 в Х[)Н, то и[^Ст(Н) и
P(D)u\ =0 в Н. Начальные данные для гц обращаются в нуль,
поэтому ai=0, а поскольку и\=и на множестве {у} +
+ Г°(Рт, Л0, мы находим, что и=0 в {у}+Г°(Р«, /V). По
предположению носитель функции и в Н ограничен. Применив
опять теорему единственности Холъмгрена, мы видим, что и == 0
в Н. Доказательство завершено.
12.8. Характеристическая задача Коши
Пусть P(D) — дифференциальный оператор в частных производ-
производных с постоянными коэффициентами в Rn, и пусть N — отлич-
отличный от нуля вещественный вектор. Положим
Н = {х; (х9
Мы будем изучать задачу Коши для оператора P(D) в полу-
полупространстве Н с начальными данными, равными нулю на гра-
границе дН, в случае, когда эта граница характеристична для
P(D). Таким образом, мы хотим найти решение уравнения
A2.8.1) p{D)u = f в Rrt,
носитель которого принадлежит Я, а / таков, что supp fczH.
Из теоремы 8.6.7 известно, что единственность не имеет места
без дополнительных условий на рост решения на бесконечности
(которые здесь не налагаются). Таким образом, нужно выяс-
выяснить вопрос о существовании. Методы, служившие нам в § 10.5
и 10.6, могут быть применены к доказательству теоремы суще-
существования для задачи Коши, если существует решение при / = б,
т. е. фундаментальное решение (конечного порядка) с носителем
в Н. Достаточным условием для этого является условие Петров-
Петровского, состоящее в том, что коэффициент при наивысшей степени
т полинома P(%-\-xN) не зависит от ? и для некоторой по-
постоянной С
A2.8.2) 1тт>С при Р(? + тЛ0 = 0, |eRn.
В самом деле, мы можем тогда задать фундаментальное реше-
решение Е по формуле A2.5.3) и показать, что supp ? с: Я, восполь-
воспользовавшись соответствующей частью доказательства теоремы
12.5.1. Но условие A2.8.2) не является необходимым для того,
чтобы оператор Р имел фундаментальное решение с носителем
в Я. Действительно, если Е — фундаментальное решение one-

12.8. Характеристическая задача Коши 167
ратора P(D)y то Ee'<*'e> есть фундаментальное решение опера-
оператора P(D — 6) при любом О е .Cft. Следовательно, множество
всех операторв P(D)9 имеющих фундаментальное решение (ко-
(конечного порядка) с носителем в Я, инвариантно относительно
сдвига полинома Р(?) по переменной g на любой вектор 9 е Сл.
С другой стороны, условие A2.8.2) не инвариантно относительно
сдвига. В самом деле, оно верно для оператора Шрёдингера
р(g) »=» g2 — Si при N = {0, 1), но не верно для Р(?+9) при
9=(/, 0). Однако, как показывает условие (Hi) в следующем
главном результате этого параграфа, отсутствие инвариантности
относительно сдвига — это единственный существенный недоста-
недостаток условия A2.8.2).
Теорема 12.8.1. Следующие условия на оператор P(D) и полу-
полупространство Н равносильны:
(i) Оператор P(D) имеет фундаментальное решение с носи-
носителем в Н.
(ii) Существует компактная окрестность К точки 0, такая
что для некоторых постоянных С и \л
A2.8.3) |и@)|< Е sup|D*P(DL ие= С~ (К).
|aj<pi -Я
(Hi) Существуют такие постоянные Ах и А2у Ах > 0, что для
каждого решения т(?) уравнения P(? + tN) = 0, аналитического
и однозначного в шаре В радиуса Ах с центром в вещественной
точке, имеет место неравенство
A2.8.4) supImT(?)>42.
в
(iv) Если \ ^.р <оо и k&Jif, то уравнение A2.8.1) имеет
решение и е= в?сд (Rrt) с носителем в Н для любого f^Blp0Ck(Rn)
с носителем в Н.
(v) Уравнение P(D)u = f имеет решение ме^(^) с. но-
носителем в Н для любого f e grfp (Rn) с носителем в Н.
Объяснение использованных здесь обозначений можно найти
в § 10.1. .
Доказательство. Импликации (iv)=^(v)=^(i) очевидны. Если
выполнено условие (i) и функция %&С™ равна единице в /С, то
и @) — <?, Р (D) и) = <х?, Р (D) и), и е= Со°° (К).
Теперь, поскольку пересечение полупространства —N и некото-
некоторого шара, содержащего supp/, выпукло, неравенство A2.8.3)
вытекает из теоремы 2.3.10.
Если <p.Q Со° (К) и ф = 1 в окрестности нуля, то множество
/C'eaf—//)f|suppd<p компактно и содержится в (Я)^С\{}

168 12. Задача Коши и смешанные задачи
Из A2.8.3) следует, что с некоторыми новыми постоянными
A2.8.3)' |и@)|<С Z sup|Daa| при us=C°°(Rn),
|a|<ii К',
P(D)u = 0.
В самом деле, достаточно применить A2.8.3) к функции v = ц>и
и заметить, что
P(D)v= ? (p{a)(D)u)D\/al
афО
имеет носитель в К'. Условие (III) мы получим, применяя
A2.8.3)' к суперпозиции экспоненциальных решений уравнения
P(D)u =0. Однако предварительно нужно сделать несколько
замечаний.
Во-первых, достаточно доказать импликацию (ii)=^(iii) в
случае, когда полином Р неприводим. В самом деле, если
Р = ЦР/есть разложение Р в произведение неприводимых со-
сомножителей, то функция т из условия (ш) с очевидностью удов-
удовлетворяет одному из уравнений Р/ (? -f- xN) = 0 и условие
A2.8.3)' остается справедивым для оператора Pf(D) вместо
P(D), поскольку из равенства Pj(D)u—0 вытекает равенство
P(D)u = 0. Выберем систему координат так, чтобы полупро-
полупространство Н задавалось неравенством хп ^ 0, и запишем
где |'='(|ь ..., ?,г_1), а функция ат(%') не равна тождественно
нулю. (Поскольку граница дН может быть характеристической,
порядок оператора Р может быть больше т.) Можно считать,
что т > 0, так как если /л = 0, то условие (iii) выполнено
очевидным образом. Пусть Д(?') — дискриминант Р как поли-
полинома от ?„, т. е.
где ть ..., Тт — корни полинома P(g', t). Ввиду того что поли-
полином Р неприводим, дискриминант Д не равен тождественно
нулю, так как в противном случае полиномы Р и дР/д1п имели
бы общий множитель. На множестве в С/*, где ат(^')Д(?')?=0,
уравнение Р(?) = 0 задает m-значную аналитическую функцию.
Точнее, если В —шар, содержащийся в множестве
то существует т аналитических функций т/(?'), /=1, ..., т,
заданных в Ву таких что т/(?')=#т^(?') для любого fc'eB при

12.8. Характеристическая задача Коши 169
Функции т/(?') с точностью до перенумерации определены одно-
однозначно. Это следует из теоремы о неявной функции (лемма
АЛЛ) и принципа аналитического продолжения вдоль радиусов
из центра. Следующая лемма позволит нам найти шары, не
имеющие пересечения с множествами нулей функций ат и Д.
Лемма 12.8.2. Существует такая постоянная y = yM>Vy что если
R ф О — полином в Су степени не больше М и В cz Cv — шар
радиуса ty то существует шар В' cz В радиуса yt, в котором по-
полином R не имеет нулей. Если центр шара В веществен, то в
качестве В' можно также взять шар с вещественным центром.
Доказательство. Можно считать, что В — единичный шар, а
/j@)= 1. Множество таких полиномов R компактно, а наиболь-
наибольший радиус открытого шара В7 cz В, в котором R Ф О, есть по-
положительная полунепрерывная снизу функция от R. Следова-
Следовательно, она имеет положительный минимум. Лемма доказана.
Далее заметим, что если степень полинома Р не превосходит
Af, то (см. лемму 12.7.6)
A2.8.5) |amft/)C«l<C(l + IC/|)Af-m+l при Р@ = 0.
В самом деле, если до = ат (?')?„, то мы получаем уравнение
wm + am^wm'1 + am_2amwm-2 + ... + aQa%~1 = 0.
Поскольку степень многочлена at не превосходит М — /, сте-
степень коэффициента при wm~k не превосходит М—(m — k)-\-
+ (k — l)(M — m) = k(M — /n+1). Отсюда следует, что функ-
функция w{\ + |?'|)-м+m-i удовлетворяет полиномиальному уравне-
уравнению, у которого коэффициент при старшей степени равен 1, а
остальные коэффициенты равномерно ограничены. Благодаря
этому мы получаем A2.8.5).
Доказательство импликации (ii)=^(iii). Пусть U — множество
всех таких точек (|о, /?> А), что So ^ Rn~\ R > 0, А > 0 и
(a) ат (СОД F0=3*0 при \?-%\<R+U
(b) 1тт(С0<-Л при |?'-^|<#
для одного из аналитических решений уравнения Р(?', т)=0
(если аналитических решений нет, то условие (ш) тривиально).
Докажем сначала, что для гшп(Л, R) при (??, /?, A)^U
существует оценка сверху. Затем, чтобы получить условие (iii),
воспользуемся леммой 12.8.2, По лемме И.1.4 J««i(?0.1 имеет

170 12. Задача Коши и смешанные задачи
фиксированную положительную нижнюю грань при |?' — 1'0\ < /?,
поскольку некоторая производная функции ат постоянна. Сле-
Следовательно, при k=M — m + 1 в силу A2.8.5) имеем
A2.8.5/ | т(сО |<СA + |?' D*
Возьмем функцию <реС~({6; Ш < 1/2}) с J<p(|)dS=l и по-
положим
A2.8.6) и (х) = J exp / «*', Г) + xnx (?')) Ф ((Г - ЭД/Я) <*Б7ЯЯ-
Ясно, что P(D)u =0 и а@) = 1. Применим неравенство A2.8.3)'
к функции и. Для того чтобы оценить правую часть этого нера-
неравенства, заметим, что хп ^ 0 в К' и существует такое б>0,что
при х<=К' либо \х'\ ^ б, либо хп ^ —б.
1° Пусть Хп < 0 и |х'| ^ б. Если |?' — gj| < /?, то
Далее,
x'*Da и (х) = J в' <*Л s'> (- D$, (|'а'т (Г)"" е'
Применяя неравенство Коши, находим, что
при |?' — 6J| < R/2. Значит, для любого N
A2.8.7) \Dau(x)\^CN(\ + \lo\ + rY*1 R~N при
2° Далее предположим, что хп ^ —б < 0. Тогда
\exp{ixnx{l'))\^: е-~А6 и, взяв в предыдущих рассуждениях
Р = 0, получим, что
A2.8.7)' |/)eaW|<C(l + |8j| + /?)VAd при |а|<ц.
Неравенство A2.8.3)' в сочетании с A2.8.7), A2.8.7)' дает
A2.8.8) 1<СЛГA + 1Й| + Л)*|1(Л-ЛГ + ^Л>)
при (%, R, А) е ?/.
Функция
/@ = sup{s; (li, 5, s)^U при некотором lieR"" с |бо|^^}
конечна. По условию Ь) в определении множества U можно
выбрать то, для которого Р (%> то)==О> так что 'т^<—^i
если (х, ?', т0, |q) s ?, где ? — множество из теоремы А.2.9, и

12.8. Характеристическая задача Коши 171
|?' — ??[<#. Поэтому из теорем А.2.9 и А.2.2 следует, что мно-
множество U полуалгебраично. Тогда, как показывает следствие
А.2.6, функция / либо ограничена, либо имеет степенной рост
по t на бесконечности. В силу A2.8.8),
A2.8.8)' 1<С„A + t + f(t))k(f (trN + e~W).
Поэтому функция f не может расти как степень переменной t.
Таким образом, функция / ограничена, т. е. при некотором s0
(%, s, s)e*U^s^s0.
Далее, если %&')— решение уравнения Р(?', т (?')) = О с
1тт(?/)^^2<0 в шаре радиуса А\ с центром в веществен-
вещественной точке, то по лемме 12.8.2 можно найти такую точку
%, что (%, /?, ~Л2)е(/, R+l=yA{. Если yA{ = s0 + 2, то
—А2 <; s0. Значит, условие (Hi) будет выполнено, если взять
Л2 < —s0. Это завершает доказательство импликации (И) =>•
*>(Ш).
Оставшаяся импликация (iii)=^(iv) является наиболее труд-
трудной частью теоремы 12.8.1. Мы можем опять считать, что поли-
полином Р неприводим. В самом деле, если Р=г=ПР/—-его разло-
разложение на неприводимые множители и условие (Hi) справедливо
для Р, то оно справедливо и для каждого полинома Р/. Из нера-
неравенства A0.4.3) вытекает, что если импликация (iii)=^(iv)
имеет место для каждого полинома Р/, то она верна и для по-
полинома Р. Мы можем, разумеется, выбрать систему координат
так же, как и ранее. Тогда, согласно условию (Hi), для анали-
аналитического решения т(?') уравнения Р(?', т(?/)) = 0 в шаре В
радиуса Ах и с центром в вещественной точке имеет место не-
неравенство
sup Im т (?0 > Л2 — Ах.
в
Следовательно, для полинома
справедливо такое же условие с заменой А2 — Ах на 1 и
рх (D) = е-({+А*-А2)хпр (D)eil+Al~A2)*n.
Поэтому условие (iv) выполнено как для оператора P(D), так
и для оператора P\(D). Значит, начиная с этого места, можно
считать, что условие (ш) имеет вид
A2.8.9) sup 1тт (?')>!,
в
когда Р(?', т(?;')) = 0 и функция т аналитична в шаре радиуса
Ах с центром в вещественной точке. Для удобства мы будем
предполагать, что А\ ^ 1.

172 12. Задача Коши и смешанные задачи
Чтобы пояснить, что именно нужно сделать, заметим, что
уравнение P(D)u = f эквивалентно равенству
u(P(D)v)=*f(v), vz=Co(Rn)-
Отсюда следует, что J(v) можно оценить в терминах сужения
функции P(D)v на полупространство —Н. Обратно, если это
доказано, то решение и можно получить, применив теорему
Хана — Банаха. Таким образом, мы должны показать, что если
v е С?° (X), то сужение функции v на —Н можно оценить в тер-
терминах сужения функции P(D)v на это полупространство. Обо-
Обозначив P(D)v = g и выполнив преобразование Фурье по пере-
переменным X\t . . . , ЛГ/г—1, ПОЛуЧИМ, ЧТО
Р (С Ai) в (С хп) = ё (?', *„); С е С*. хп <= R.
При решении этого обыкновенного дифференциального уравне-
уравнения имеются две трудности:
a) Главный коэффициент ат(\г) может иметь нули.
b) Уравнение Р(%\ т) = 0 при больших g'e R^1 может
иметь корни с большими по модулю отрицательными мнимыми
частями, а условие A2.8.9) обеспечивает лишь, что один из них
можно переместить в верхнюю полуплоскость, немного изме-
изменив ?'.
Первая трудность преодолевается легко, ибо в § 7.3 мы уже
видели, как обойти нули полинома. Вторая трудность намного
серьезнее. Она заставляет нас устранять каждый раз только
один линейный множитель Dn—т(?') с таким ?', что 1тт(?')>1,
а затем пользоваться принципом максимума и получать заклю-
заключение для произвольных ?;'. Именно эта процедура не позволяет
по крайней мере на этом этапе воспользоваться конструктив-
конструктивными рассуждениями из § 10.2.
В качестве подготовительного шага докажем несколько эле-
элементарных утверждений об интегрировании обыкновенных диф-
дифференциальных уравнений. Пусть k^3f(R). Тогда для некото-
некоторых постоянных С и N
A2.8.10) fcft+riXMSHl+ClTiD"; 8, tisR.
При 1 ^ р ^ оо мы будем использовать норму
Если fG^, a q — полином от одной переменной, не имеющий
вещественных нулей, то уравнение q(D)u=f имеет единствен-
единственное решение в Ф и
A2.8.11) Ци|1

12.8. Характеристическая задача Коши 173
Далее, нас в действительности интересуют лишь сужения функ-
функций на RL, поэтому мы введем факторнорму, задаваемую ра-
равенством
A2.8.12) \\u\\;k = mi\\v\\p,k- v = u на R_; ме?,
V
Для того чтобы равенство и = v на R_ было эквивалентно ра-
равенству q(D)u = q(D)v на R_ при и, v<=<?, мы потребуем, что-
чтобы каждое нетривиальное решение однородного уравнения
q(D)w =0 имело экспоненциальный рост на —сю, т. е. чтобы
из равенства q(i) = 0 вытекало неравенство 1тт>0. В этом
случае можно перейти к факторнормам в A2.8.11) и получить
следующую лемму:
Лемма 12.8.3. Если me^(R), a q(x) — полином, все нули кото-
которого лежат в верхней полуплоскости Im т > 0, то
A2.8.13) \\u\\pAq\k = \\q{D)u\\lk.
В частности, если К е С] и Im К > 0, то
A2.8.14) lmk\\u\fck<\\(D-b)u\fck.
Последнее утверждение, разумеется, вытекает из того, что
|т — A,|:^ImA, при вещественных т. Для произвольного поли-
полинома q получаем, что \\q(D)u\\p, *<|М? \q\k-
Для того чтобы разъяснить ход рассуждений при доказа-
доказательстве импликации (iii)=^(iv), мы установим теперь один
промежуточный результат.
Предложение 12.8.4. Пусть Р — неприводимый полином^ для
которого выполнено условие A2.8.9). Тогда существуют такие
постоянные С, %, R, что если УбС0°°, P{D)v =g и \х'\^М на
множестве supp v при хп ^ 0, то для 1 ^ р ^ оо и /г^Ж(Щ
имеет место неравенство
A2.8.15) 81Ф || v (Г, хп) \\~ k < Се«м ^ jsu^ || & (?', хп) \\~ kjP.
Заметим, что, в то время как функция k зависит лишь от ?„,
отношение k/P зависит также от ?'. Позднее функция k будет
зависеть также и от %'.
Лемма 12.8.5. Если V (?') = || v (?', •) |? k, то log V{?) — плюрисуб-
гармоническая функция от ?' е С,"-1 и
A2.8.16) KttOO"!1*'^ 7 = sup V&').
Доказательство. Если F(t,')—аналитическая функция со значе-
значениями в банаховом пространстве, то функция log||/7(g/)|| плю-
рисубгармонична, так как она полунепрерывна сверху и равнп

174 12. Задача Коши и смешанные задачи
точной верхней грани от log|<F(J;')', ?>l> гДе элемент g пробе-
пробегает единичный шар двойственного пространства. (По поводу
основных фактов о плюрисубгармонических функциях см. § 4.1.)
При хп <; 0 из теоремы 7.3.1 вытекает, что
e-Afiimt'.idft', хп)
сходится к нулю при ?'-^оо равномерно по хп. Этот факт спра-
справедлив и для всех производных по хп. Поэтому V (?)е~М Imt'J->
-*0 при ?'-><*>. Если ?', T]'elRrt~1, то разность
является субгармонической функцией от шеС. Она ^0 для
вещественных w и стремится к —сю при ш->оо в верхней полу-
полуплоскости. Следовательно, эта разность ^ 0 при lmw>0.
Взяв w =/, мы получим оценку A2.8.16).
Оценка A2.8.16) является хорошо известным следствием тео-
теоремы Фрагмена — Линделёфа для целых функций экспоненци-
экспоненциального типа. Следующий результат — это, по существу, тео-
теорема Адамара о трех окружностях.
Лемма 12.8.6. Если w — плюрисубгармоническая функция, w <; 0
в шаре {?е.СЛ |?|<С/?0} и w^—1 в некотором меньшем
шаре {?; |? — ?o|</?i}, то
A2.8.17)
где
Доказательство. Если ?о = 0, то в силу принципа максимума
w @ < (log | С/Ло I) /log (Ro/Rx), Rx < 1С |< Ro.
Поскольку logt^t—1 и —l^.t—1 при t > 0, находим, что
A2.8.18) о>@<AС1/*о- l)/max(l,
Если |?0|<#i/2, to можно применить полученное неравенство,
заменив в нем Ri на R\/2. Предположим теперь, что |?о|^
^ /?i/2 и, следовательно, 3R\/2 ^ /?0. Тогда в шаре с центром
?о =ЕоA—/?1/2|Бо|) и радиусом R\/2 (соотв. 3R\/2) имеет ме-
место неравенство w ^—1 (соотв. до^О). Таким образом, со-
согласно A2.8.18),
|С|
В частности,
w (Й + С) < - 1/(9 log 3), | g |< 4Й./3.
Повторяя это рассуждение самое большее k раз, где k — наи-
наименьшее целое число, для которого выполнено неравенство

12.8. Характеристическая задача Коши 175
D/3)*/?i > 2/37?о, получим оценку A2.8.17), где величина б
ограничена снизу умноженной на постоянную некоторой сте-
степенью частного R\/Rq.
Докажем теперь несколько лемм, которые показывают, что
вне точек ветвления алгебраические функции ведут себя так же
хорошо, как и полиномы.
Лемма 12.8.7. Пусть Z— связное открытое множество в [С"~1,
a Fm(Z) — множество всех аналитических функций f в Z, таких
что для некоторого полинома R Ф О в Сп степени ^ m в мно-
множестве Z справедливо равенство /?(?',/(?'))= 0. Пусть Z\ и
Zi — непустые открытые множества, Z\ Z% Ш Z. Тогда существует
такая постоянная С, что
A2.8.19) supl/KCsupl/l, f**Fm(Z).
z, z,
Доказательство. Это утверждение достаточно доказать в слу-
случае, когда множества Z\<^Z2^Z представляют собой шары с
центрами в начале координат, а этот случай очевидным обра-
образом сводится к случаю п = 2. Без ограничения общности можно
считать, что
sup 1/1=1,
Zx
так как множество Fm(Z) замкнуто относительно умножения
на комплексные числа. Мы будем писать z вместо %\ и w вместо
?2. Уравнение, которому удовлетворяет функция f, можно запи-
записать в виде
Нормируем коэффициенты условием ? | ajk \ = 1.
При любом выборе (а^) коэффициентов можно найти диск
Z', Z2czZ'mZ, и отрезок L, соединяющий некоторую точку
в Z\ с точкой границы dZ\ такие что при каждом zL)dZ'
р
полином X) a°jkwfzk имеет наибольшую возможную степень по w.
Для этого необходимо лишь не попасть на конечное множество
нулей старшего коэффициента. Тогда можно найти такое число
№>1,что
%а%т»'гкф0 при \w\=*W и zs=L\}dZ'.
Для любого набора коэффициентов (а/*), достаточно близкого
к (ayfe)> получаем
при \w\ = W и

176 12. Задача Коши и смешанные задачи
Если ZayJ(z)'V = 0 bZh |f(z)|<l при ze=Zb то |/(z)|<
<С W при zeLU dZ'. В самом деле, множество L [} dZ' связно
и имеет общую точку с Z\. Поэтому \f(z)\<W в некоторой
точке и, кроме того, \f(z)\=?W в каждой точке множества
L[)dZ\ Следовательно, по принципу максимума \[(z) |< W при
2GZ2. Поскольку множество всех (а/*), для которых Х1а/л1=Ь
компактно, лемма доказана.
Заметим, что из леммы 12.8.7 вытекает, что множество всех
функций f^Fm{Z) с sup | / | = 1 компактно в топологии равно-
мерной сходимости на компактных подмножествах в Z (см. тео-
теорему 4.2.2).
Лемма 12.8.8. Пусть выполнены условия леммы 12.8.7, и пусть
Zo— непустое открытое множество, Zq&Z\. Тогда существуют
такие постоянные Са и г > 0, что если / e Fm (Z) и sup Im / ^
>0, то ' z>
A2.8.19/ sup |Daf | <Ca sup Im /, a Ф 0,
Z% Z\
A2.8.19)^ sup Im/<Coinf Im/,
Zx В
где В — некоторый шар радиуса г, В a Z\.
Доказательство. Можно считать, что supIm/ = 0. Таким обра-
зом, 1т/Bо) = О при некотором zq^Zq. Можно также считать,
что /(го) —0, поскольку к / всегда можно добавить веществен-
вещественную постоянную. Более того, можно так нормировать функцию
/, что sup | /1 = 1; тогда множество М всех таких функций /
Zi
компактно. Для левой части A2.8.19)' при feM имеется оценка
сверху, зависящая от а. Кроме того, sup Im / > 0, поскольку
если Im/^0 в Zb то из равенства Im/(zo) = O следовало бы,
что Im/ = 0 в некоторой окрестности точки го и, значит, функ-
функция / равнялась бы в Z вещественной постоянной, которая в
силу условия Re/(zo) = O должна была бы равняться нулю.
Таким образом, suplm/ — положительная непрерывная функция
Z\
от [еМ и, значит, ограничена снизу положительной постоян-
постоянной. Отсюда следует неравенство A2.8.19)'. Легко видеть также,
что неравенство A2.8.19)" выполнено для фиксированной функ-
функции /, а значит, и для всех функций / из некоторой ее окрест-
окрестности. Тогда, в силу компактности, найдется г > 0, при кото-
котором неравенство A2.8.19)" справедливо для всех /eif,

12.8. Характеристическая задача Коши 177
Лемма 12.8.9. Пусть Zf mZ и множество Z связно. Если k — по-
положительное целое число, то существует такая постоянная С,
что
k k
A2.8.20) IIsuplZ/KCsup Ш, ; /i, .... fke=Fm(Z).
1 Z' ' Z' \
Доказательство. Точная верхняя грань в правой части нера-
неравенства является положительной непрерывной функцией от
Xfu • • • i fk) в компактном множестве, заданном условием
sup|fy|= 1 при каждом /. Следовательно, она ограничена снизу
положительной постоянной, чго и доказывает лемму.
Так же как при доказательстве импликации (ii)=^(iii), мы
представим Р(?) в виде
Р@ = а«(С0П(Сл-тУО.
1
Тогда можно описать функцию Р в терминах нулей т/:
Лемма 12.8.10. Существует такая постоянная С, что
A2.8.21) С"Р(л)<|ат1
+ sup I
1С'-ч'К1
при условии что АA')ат(^')Ф0, когда {?,'— 'П/|<2.
Доказательство. Из неравенств A0.4.1) и леммы 11.1.4 находим,
что
ia*D')K sup
1С''1
Поскольку
A2.8.22) sup IC-
левое неравенство A2.8.21) следует из A0.4.1). Для функции F,
аналитической в единичном круге в .С, имеем
Следовательно,
max A^-^(^I+1, sup | х; (СО |/2) < sup |СЛ —
4 ' * 21С'т1'|<1 1 ' ' IC-iiKl1
и если теперь воспользоваться неравенствами A2.8.19), A2.8.20),
то получится правое неравенство A2.8.21).

178 12. Задача Коши и смешанные задачи
Доказательство предложения 12.8.4. В добавление к обозначе-
обозначениям V (?') = II v (?', •) ||Г k и V = sup V (?')» введенным в лемме
12.8.5, положим
Для оценки функции V(\f) сначала заметим, что по лемме
12.8.2 можно найти такое rj' с Кы, что \г{ — 1'\ + А\ + 3 <
</?=(Л1 + 3)/7 и
Д (?)ат (СО Ф 0 при | ?' - п' | < 4i + 3.
Применяя лемму 12.8.6 к некоторой линейной функции от
log К(?,'), получаем, что
log V (Г) < A-6) sup logVftO+a sup log К (СО-
Согласно лемме 12.8.5, V(?')< Vem Im^/j, поэтому
A2.8.23) |/(Г)<(И"в sup К (О6-
|;ч'!<Л
По условию для некоторого ?7, |?' — г]'|^Ль выполнено
неравенство Imt/(^)^ 1. Поэтому
t>') + 2AlT}>l при I^VKA, где
7\= sup It;
7 ic-V /
Для нулей полинома по переменной ?;„, заданного равенством
q (С. Ь.) = Е (Ь, - т7 (О - ЫА1Т,),
получаем, следовательно, Imgn^ I + AiTj. Этот полином мы
ввели потому, что применение леммы 12.8.3 дает равенство
A2.8.24) || о (с, *„) и; 4=н 9 (С Dn) б &', хп) в; А/|,,, if - v к л,.
Для вещественных |„ и |?' — г)'| < А( находим, что
1 + АХТ,< Imх,(SO + ЗЛ,Г,<||„-т,(С)-3/Л,Г/1.
Значит,
I in - х, (лО I < U« - т, (СО - 3/Л.771 + 5А?1
Если мы заметим, что из A0.1.8) следует неравенство
< СР(у]', и), то в силу A2.8.21)
A2.8.25) Р(|)<С| am(tjO11Ц«'. \п)I- I? -П'К Л,.

12.8. Характеристическая задача Коши 179
Введем весовую функцию
kp(ln) = \amW)\k{ln)lP{l', Ея),
которая, конечно, зависит и от !¦', а затем воспользуемся оцен-
оценкой A2.8.25) и запишем A2.8.24) в виде
A2.8.24)' V(O<C\\q(l', Dn)v{t!, xn)\\~kp при iC-n'K^.
Из A0.1.8) и определения величины G вытекает неравенство
при |^-ч'|<л,+ 1.
Из доказательства леммы 12.8.10 следует, что отношение
\am(r\')/am(t,')\ ограничено при \%' — т\'\<А1-{-1. Поэтому
A2.8.26) I ft фл - х, О t (?', .)| <C'Q, | &' - ц' | < Л, + 1.
I) 1 Ир» &р
Положим
81 (Г. *») = П (А* - tv О ft (Dn - tv (?0 - 3iA{Tv) v (С, агл),
' i /+i
Таким образом, неравенство A2.8.26) позволяет нам контроли-
контролировать Nmy а правая часть неравенства A2.8.24)' ограничена
сверху посредством CNq. Далее, из леммы 12.8.8 нам известно,
что шар {?; | ?' — х\' \ < А{ + 1} содержит такой шар Bf фиксиро-
фиксированного радиуса г, что
Г, < С 1шт, (О. С'в В/.
Из оценки A2.8.14) вытекает, что при / = 1, ..., т, ?'^В/
Tt IП (Dn - rv О ft (Dn - tv (CO - ЗМЛ) v (?', .) I
II 1 /+i Up. kP
Поэтому
A2.8.27) nery-iff. •)IC*p<(l + 3i4iC0)iV/ при ^
Чтобы применить лемму 12.8.6, нужна также некоторая оценка
для нормы ||gJmmX{%, хп)||~ kp при |g' — л' |< Л! + 2. Из второго
неравенства A2.8.21), A0.1.8) и из оценок

180 12. Задача Коши и смешанные задачи
которые имеют место в силу леммы 12.8.7, получаем, что
/-1 т
ПI и - *v (С) IП11а - tv (со - 3M,rv
П11а v (со ,rv I
т
< П (||„ - х, ft') I + СТ,) < С'Р (|)/| am ftO |.
Поэтому с некоторой новой постоянной С
A2.8.28) || gHl (С ^) И; fe/> < С|| б (Г, *Л) li; k
Применив теперь лемму 12.8.6 к некоторой подходящей линей-
линейной функции от log||g*/_i(?', Xn)\\Z k и воспользовавшись нера-
неравенствами A2.8.27), A2.8.28), найдем, что
Таким образом, индукция по убывающему параметру / приводит
нас к неравенству
При / = 0, воспользовавшись A2.8.24O и A2.8.26), получаем,
что
(Vemye при |Г-Л'КЛ,.
Из этой оценки в сочетании с оценкой A2.8.23) находим, что
Точная верхняя грань левой части равна V. Отсюда, сократив
на некоторую степень Vy получаем
где к = R(8~ls-m—1). Это завершает доказательство предло-
предложения 12.8.4.
Если feeJ{f(Rw), то положим
\\pk; и, v<?9>(R% u = v в -Я.
Наш следующий шаг состоит в том, чтобы перейти к таким нор-
нормам в оценке A2.8.15).
Лемма 12.8.11. Если ks=3tf(Rn) и йу (?л) — A (g', У, го
A2.8.29) \\u\\;k

12.8. Характеристическая задача Коши 181
Доказательство. Если и, ие^иы = ув R1, то
Поэтому
|| и \\~ k > (Bя)' -" \ (|| й (Г, *„) ||р- ft$/)P dV
При доказательстве противоположного неравенства можно счи-
считать, что функция йA\ хп) тождественно равна нулю для боль-
больших |?'|, ввиду того что такие функции плотны в 9>. Пусть
Ф — некоторая положительная непрерывная функция. При каж-
каждом g' можно выбрать такую функцию ш^е^(К), равную
нулю на R_, что
IIй(Г, -) —»^ПЛЧ,<
По непрерывности неравенство
справедливо также для всех т]/ из некоторой окрестности точки
%'. При больших г]' можно выбрать w =0. Используя разбиение
единицы по переменной ?', мы можем, следовательно, найти та-
такую функцию W(l', jcn)^^(R"), равную нулю при хп < 0 и
при больших |?'|, что для всех |г
Г, •) + Г (Г, ¦) II,, ^ < II и F', .) И; v + Ф (П
Взяв # = # 4* Я?, мы заключаем, что
Функцию Ф можно выбрать так, что последний интеграл будет
сколь угодно мал. Этим и доказано противоположное неравен-
неравенство в A2.8.29).
Теорема 12.8.12. Предположим, что оператор Р удовлетворяет
условию (iii) в теореме 12.8.1 с А2 = А\ + 1 и N = @, ..., 0, 1).
Тогда можно найти такое число к, а также для любых р s
<s[l, оо] и k&3C(Rn) такую постоянную С, что
A2.8.30) ' || и ||;§ k < Се"м || Р (D) и ||; ,^,
где ueCS° и Ijc'I^AI npa (л/, Jtjesuppy, л

182 12. Задача Коши и смешанные задачи
Доказательство. Предположим сначала, что функция k не за-
зависит от ?', и модифицируем неравенство A2.8.15). Пусть
%<=CZ(Rn-l),x=~\ при |х'|<1 их = 0при \х'\>2. Если# =
= P(D)v и Хм(Л = х(*7А1), то %Mg = g при х„<0. Поэтому
- V) ? (V, *я) Л|'. *п < 0.
Для оценки правой части в A2.8.15) заметим, что из A0.1.8)
следует неравенство
иж. xn)\\-k/Pi,<(i+c\e^ii'\)NMW> ^)ii;,/V
Если |1тв'|</?< то
f f \f Mn-{e2MR(l + M\Q' \ГМ
при М>С.
Заменив постоянную и в A2.8.15) на и + 27? + 1, мы получим,
что
A2.8.15)' sup||в.Г, хп)\\;
Фиксируем некоторую функцию qp eCJT (R") с носителем
в единичном шаре, для которой ф@)= 1. Положим ср (х') =
= е* <*'> п\ (х'). Тогда ф^ F0=ф (Г - л0> а если (xr, xn)<= supp у*Ф^
и ^rt^0, то \х'\^М-\-1. (Здесь символом * обозначена
свертка по х'.) Поэтому из A2.8.15)' при k=^k^ следует, что
В самом деле, постоянная в оценке A2.8.15)/ не зависит от k.
Взяв 6'= V B -левой части этого неравенства, мы в силу
A0.1.1) получим, что
Поскольку фF0 {l+C\l'\)NesLl, из A2.8.29) вытекает нуж-
нужная нам оценка Л2.8.30).
Теперь из теооемы 12.8.12 сразу следует локальная теорема
существования:

12.8. Характеристическая задача Коши 183
Теорема 12.8.13. Пусть 1 ^ р ^ оо, k e!(R п) и Хш Rn. Пред-
Предположим, что оператор Р удовлетворяет условию (iii) теоремы
12.8.1. Если f e Bp>k(Rn) и supp/с: Я, то найдется такой эле-
элемент vg Вр pk(Rn), что supp we Н и Р(D)и = / в X.
Доказательство. Без ограничения общности можно считать, что
элемент f имеет компактный носитель. Поскольку мы будем
строить решение и с компактным носителем, можно также счи-
считать, что условие (iii) справедливо при 42 = Ai + l. Уравнение
P(D)u = f равносильно равенству
u(P(D)v) =
По теореме 12.8.12 при \/р + 1/р' = 1 имеем
I f (v) |< С || v II" ф < С || Р (D) v И" 1/ftf v е Со°° (- X).
По теореме Хана — Банаха линейную форму
P(D)v->f(v)
на множестве PJD)C~(—Z) можно продолжять до такой ли-
линейной формы U на C™(Rn), что
Таким образом, ?У есть распределение с носителем в Я, для ко-
которого P(D)U = f в X. Более того, U^Bp.pk при р> 1 (тео-
(теорема 10.1.14). В случае р = 1 преобразование Фурье распреде-
распределения U есть такая мера d\it что
Далее, возьмем такую, функцию^ ^С?°, что г|> = 1 в X, и поло-
положим и = г|)/7. Тогда P(D)u=f в X, носитель w является ком-
компактным подмножеством в Я, а преобразование Фурье от и
есть С°°-функция, удовлетворяющая тем же условиям, что и О
(теорема 10.1.15). Следовательно, включение u^Bppk(Rn)
имеет место даже при р — 1.
Из теоремы 12.8.13, в частности, вытекает, что можно найти
такое распределение ? <= В^ ^(К*), что supp ? с: Я и разность
P(D)E — б обращается в нуль в X. Таким образом, если мно-
множество X достаточно велико, то Е — почти фундаментальное
решение оператора1 Р. Этот факт позволяет доказать аппрокси-
мационную теорему, аналогичную теореме 10.5.2, которая в даль-
дальнейшем приведет нас к глобальным теоремам существования.

184 12. Задача Кош и и смешанные задачи
Теорема 12.8.14. Пусть XiCzX2 — ограниченные открытые мно-
множества в Rn и P{D) — дифференциальный оператор, удовлетво-
удовлетворяющий условию (iii) теоремы 12.8.1, Обозначим через ЛР/ мно-
множество всех решений u<=C°°(Xj) уравнения P(D)u=0, для
которых supp и с= X/ П Н. Предположим, что множество Jff
снабжено топологией, индуцированной топологией пространства
C°°(Xj). Если верна импликация
A2.8.31) ц €= «" (R% Н° П supp |i cz X29
Н° П supp Р (— D) |i ш Хх => Я0 П supp |i в Xi,
где Я0 = Int#, то сужения элементов множества Jf2 на Х\ обра-
образуют плотное в Jf\ подпространство J?'2.
Доказательство. Если мы докажем, что каждый элемент ve
&ff'(X\)9 ортогональный к JF'29 ортогонален также и к Jfu то
нужное утверждение будет следовать из теоремы Хана — Ба-
Банаха. Выберем такое распределение Eeff'(H), что разность
P(D)E — 8 = f равна нулю в некотором большом открытом мно-
множестве X (оно будет указано ниже). Положим м = ?'*ф, ф?
еС~. Тогда
причем если f=0 в Х2 — suppcp, то ф*/ = 0 в Х2. Положим
Y = {y;X2-{y}cX).
Ясно, что множество У открыто. Если множество X настолько
велико, чтоХ =э Х2 —* Х2 (это и будет предполагаться в дальней-
дальнейшем), то УЪХ2. Тогда если <р е С? (К \ Х2)» то P(D)u~0 в
Х2, а если supp ф cz Я, то supp и cz Я. Следовательно,
т. е. распределение n = ?*v равно нулю в H°f\Y\X2. Кроме
того,
P(—D)\x = v + f *v
nf»v=O в У, поскольку если yesuppf*v, то у = х — z и,
значит, z — x — у для некоторых х^Хх и zq^X.
Выберем % е Со° (F), х = 1 в некоторой окрестности множе-
множества Х2. Тогда 1Ы1=хц^^/(>') и Я0 П supp jii cz X2t H°f)
f|suppP(—D)\i\ czX{. Поэтому, в силу A2.8.31), Я0Г|8ирр|Л1(^
mX\. Таким образом, можно выбрать такую функцию
XisCj0^), чтох! = 1 в некоторой окрестности множества Н° (]
П supp |xi. Если теперь \i2=X\l*>\ и v2 = P(—D)\i2, то &'(X\
п v —vje^T^-Xi),

12.8. Характеристическая задача Коши 185
Далее, если u^Jf\y то
v2 (и) = (Р (- D) |i2) (и) = *г2 (Я (D) и) = О,
а по теореме 2.3.3 (v — V2)(w) = 0. Следовательно, v(m) = 0, что
и завершает доказательство теоремы.
Для построения множеств Xj, удовлетворяющих условиям
A2.8.31), можно воспользоваться теоремой единственности
Хольмгрена. Пусть |л — порядок оператора Р; а р — его главная
часть. Если ?е Rn и рA)фОу то полином p{N + %l) не может
иметь более чем |л нулей, поскольку он не равен нулю тожде-
тождественно. Поэтому можно найти такое е > 0, что p(N + т?)=И=0
при 0 < т ^ е. Это означает, что при N2= N и N\ = N + е?
справедливо условие (8.6.17). Выберем п векторов g1, ..., |rt,
таких что каждый вектор ?е Rft является линейной комбина-
комбинацией с неотрицательными коэффициентами векторов g1, ..., ln
и —N, и положим Nf = N -f- е^, где число е положительно, но
настолько мало, что при каждом / = 1, ..., п выполнено усло-
условие (8.6.17) с N2 = N и N\ = NL Тогда множество
является открытой окрестностью нуля. Ясно, что
(х, - N) < 1, (х, lf) < 2/е при jcgI
Поэтому каждая линейная форма <л*, 5) ограничена сверху при
jteX и, значит, множество X ограничено. Из следствия 8.6.10
вытекает, что при 0 <С t <C s
A2.8.32) це^(R"), Я0Пsupp^i czsX,
Н° П supp Р (— D) |i с: /Г=ф- Я0 П supp м< с: /X.
В самом деле, в клине <х, N} > 0, <л:, Л^О > t имеет место ра-
равенство Р(—D)^ = 0. Поскольку jj, = 0 в той части клина, где
W > 5, то, согласно следствию 8.6.10, jut = 0 во всем клине.
Теперь мы подготовлены к тому, чтобы доказать оставшуюся
часть (iii)=^(iv) теоремы 12.8.1.
Теорема 12.8.15. Предположим, что оператор P(D) удовлетво-
удовлетворяет условию (iii) теоремы 12.8.1. Пусть f^B]pfkf(Rn), / =
= 1,2, ..., где k\ е Ж, 1 ^ pf < оо, и пусть supp / cz Я. Тогда
существует такое решение и уравнения P(D)u = f, что supp ucz
czHu u^Bl;icPki(Rn),j = l,2
Доказательство. Мы подготовили все для того, чтобы повторить
доказательство теоремы 10.6.7. Поэтому мы лишь кратко оста-

186 12. Задача Коши и смешанные задачи
новимся на соответствующем рассуждении. При v = l, 2, ...
можно найти элементы uv^f]BPjtki (Rn)y лля которых supp uv cz
сЯ и P(D)uv=>f в Xv=vX. В самом деле, если qpveCST(Xv),
fv=l в -Xv-i, то мы можем взять uv = Е*(qv-и/), где Е<=
^ В^ p(Rn)y supp-E a H и P(D)E = 8 в достаточно большом
открытом множестве. Существование распределения Е гаранти-
гарантируется теоремой 12.8.13. Тогда P(D){uv — uv_\) = 0 в Xv_t. Если
1 и %е(х) = е-п%(х/е), то i>e = %e*(wv-
~ Uy,^)-*^ — HVel В fiP/, fty(Rrt) При 8-^0 И P(D)ue=0 В /Yv-2
при е < 1. Поэтому из теоремы 12.8.13 следует, что можно найти
функцию w e С°°{Хч+\), supp w с: Я, P(D)oy=0, которая сколь
угодно точно аппроксимирует функцию ve в Xv_2. Заменяя tfv на
, мы последовательно получим, что
Но это означает, что предел и== Mm uv существует, «s f] Bl°c к (Rrt),
supp и czH и P(D)u=*f в Rrt. Доказательство завершено.
Определение 12.8.16. Будем говорить, что P(D) является эволю-
эволюционным оператором относительно Я, если выполнены равно-
равносильные условия теоремы 12.8.1.
Понятие эволюционного оператора вполне согласуется с
классификацией дифференциальных операторов, приведенной в
§ 10.4:
Теорема 12.8.17. Пусть P{D) — эволюционный оператор относи-
относительно Я, Е — множество всех операторов Q одинаковой силы
с Р и Ео — связная компонента оператора Р в Еш Тогда каждый
оператор Q е ЕСг является эволюционным оператором относи-
относительно Я.
Заметим, что яе каждый оператор Q^E является эволю-
эволюционным оператором относительно Я. Примером служат поли-
полиномы Р(|) = |2+ Ц2 и Q(l) = g2 — /g2, соответствующие опера-
операторам теплопроводности с переменными времени соответственно
Х2 И —Х2.
Доказательство теоремы 12.8.17. Можно считать, что полупро-
полупространство Я задано неравенством хп^0. Если X — ограничен-
ограниченное открытое множество, содержащее точку 0, то по теореме
12.8.12
(Условие А2=*Л|+1 в теореме 12.8.12 легко устранить с по-
помощью комплексного сдвига полинома Р в направлении оси ?я.)

12.8. Характеристическая задача Коши 187
Доказательство теоремы 12.8.12 показывает, цто постоянная С
кроме размерности п и степени [х полинома Р зависит лишь от
Ах и Л2. Для полинома Ре(?)=Р(?/е) услоиие (iii) теоремы
12.8.1 выполнено с постоянными еЛь еЛ2 вместо Ах и А2. По-
Поэтому если е достаточно мало, то можно считать, что Лх == 1 и
Д2 =—1. Таким образом, при е<е(Р)
A2.8.32) || v \\1, <Ст || Р8 Ф) с»: 1/?е,
Предположим далее, что Q ¦< Р:
A2.8.33) Q(l)<MP(g), i<
По теореме 10.4.3
Q (g,
т. е.
A2.8.33)' ene
Из неравенства A2.8.32) вытекает, что
и««Г, < ст«(я. (/» + Qe Щ v ц- 1/?е+
Таким образом,
I v @) | < || v \\;г1 < 2СЯ|11| (Ре (Д) + Qe Ф» v И" 1/?/ о е С? (X),
при условии что М ^ 1/BС^Спд). Отсюда следует, что оператор
^e + Qe удовлетворяет условию (и) теоремы 12.8.1 и, значит,
является эволюционным оператором, а потому и P + Q — эво-
эволюционный оператор.
Таким образом, мы доказали, что если выполнено неравен-
неравенство A2.8.33) и постоянная М меньше некоторой постоянной,
зависящей лишь от п и ji, то Р + Q есть эволюционный оператор
относительно Я, если таковым является оператор Р. Следова-
Следовательно, множество всех операторов R е ?, эволюционных отно-
относительно Я, открыто и одновременно замкнуто. Значит, оно
является объединением связных компонент из Е. Теорема до-
доказана.
В двумерном случае легко описать эволюционные операторы
относительно полупространства х2 ^ 0. Для этого заметим, что
нули t = t(?i) полинома P(?i,t) в окрестности бесконечности
представляются в виде ряда Пюизё

188 12. Задача Коши и смешанные задачи
По условию (iii) теоремы 12.8.1
Поскольку аргумент переменной ^ можно взять равным vjt при
любом целом v, легко видеть, что имеет место один из следую-
следующих случаев:
(a) k ^ 0, т. е. функция т ограничена на бесконечности;
(b) k = ply где / — положительное четное число, и lm сн > 0;
(c) k — положительное кратное р, Imc? = 0 и С/=0 при
k — p<j<k.
Ясно, что для каждого из нулей t/ = х}{1\) полинома P(lu t)
в случае (Ь) мнимая часть Imt/ растет как |gi|*/p, а в случае
(с) функция |ту| растет как ^р*"^. Поэтому из леммы
12.8.10 следует, что полином Р имеет одинаковую силу с по-
полиномом
A2.8.34) Р«)-<
Здесь al* — главный член коэффициента при S2m в Р, а cffi —
главные члены в представлении т/ в виде ряда Пюизё. Таким
образом, d вещественно, если только ^ не является четным и
Imc/^0. Нетрудно показать, что оператор р доминирует над раз-
разностью Р — р. Поэтому операторы Р и р принадлежат одной и
той же компоненте множества операторов одинаковой силы с
оператором р. Следовательно, эволюционные операторы — это
в точности операторы вида A2.8.34) и операторы из их связ-
связных компонент в множестве операторов одинаковой с ними
силы. Кроме касательного оператора D{ имеются гиперболи-
гиперболические множители вида D2— cD{ с вещественным с, множители
D2 — cD\ с вещественным с и v > 1 (типа оп^патора Шрёдинге-
ра) и, наконец, множители D2 — cDv\ с четным v и Imc>0
(типа оператора теплопроводности). В двумерном случае дока-
доказательство теоремы 12.8.1, конечно, можно сильно сократить за
счет того, что можно так хорошо контролировать нули поли-
полинома Р.
12.9. Смешанные задачи
При решении задачи Коши, например, для волнового урав-
уравнения в R3+1 мы предполагали, что при ? = 0 начальные дан-
данные известны во всем пространстве R3. Если начальные данные
заданы лишь в некотором подмножестве X a R3, то задача
Коши имеет единственное решение в точке (х, t) только тогда,
когда все световые лучи, приходящие в точку (х, /), начинаются
в множестве X при t = 0. Для выхода за пределы этого множе-

12.9. Смешанные задачи 189
ства физически естественно, что нужно задать граничное усло-
условие на множестве {(х, t)\ х^дХ, /^0}, которое контролирует
излучение, входящее в цилиндр XX R+. Это приводит к так на-
называемой смешанной задаче. В соответствии с духом этого тома
мы рассмотрим лишь случай, когда X — полупространство, от-
отложив намного более деликатный случай искривленной границы
дХ до т. 3.
Итак, предположим, что в R" заданы дифференциальный
оператор в частных производных P(D) с постоянными коэффи-
коэффициентами и два полупространства
H = {xs= Rn\ (x, N)>0}, Я' = {хе Rn; {x, 6)>0},
где векторы N и Q линейно независимы. Смешанная задача,
которую мы будем изучать, состоит в нахождении такого ре-
решения и, что
A2.9.1)
A2.9.2) ?>а(ы-ф) = 0 в Н'()дН при |а|<т,
A2.9.3) Bj(D)u = <vjt /=1, ..., |i, на Н(]дН\
Сначала мы получим необходимые условия для существования
единственного решения ueC°°(Hf\Hf) при произвольных функ-
функциях /,?g С°°{Н П #') и функциях ф/ €Е С°° (Н П дН'), имеющих
нуль бесконечного порядка на дН(]дН\ Затем мы покажем,
что из этих условий вытекает существование и единственность
для довольно общих начальных данных.
Читатель, который только что получил представление о труд-
трудностях при рассмотрении характеристической задачи Коши, дол-
должен заметить, что здесь граница дН предполагается не харак-
характеристической, т. е. если Рт — главная часть оператора, то
Рт(ЮФ0.
Тогда необходимо потребовать, чтобы оператор P{D) был ги-
гиперболическим относительно N. В самом деле, пусть /еС^(Я).
Выберем точку / е(Я/\(ЗЯ/)П^Я и рассмотрим смешанную за-
задачу A2.9.1) —A2.9.3) с ф = ф/ = 0. Заменим / на x^f(x—at)y
где а настолько велико, что полученная функция принадлежит
классу С™(Н[)Н'). Если решение иа такой задачи существует,
то P(D)ua(- +at) = f в (#'— {at})f\H и функция иа имеет
нулевые начальные данные на дН. В силу единственности реше-
решения задачи Коши отсюда следует, что уравнение P(D)u = f
имеет решение класса С°°{Н) с нулевыми начальными данными.
Значит, по теореме 12.3.1 оператор P{D) гиперболический. Это
и будет предполагаться в дальнейшем. Таким образом, по тео-

190 12. Задача Коши и смешанные задачи
реме 12.4.4
A2.9.4) Р®Ф0 при Im ? е= {х0Щ - Г (Р,
Предложение 12.9.1. Пусть m+, m~, /По — соответственно число
положительных, отрицательных и равных нулю корней
Pm(Q — xN) как полинома по т. Тогда существуют пределы
A2'9*5) q (I) — lim ern-mp g + е/е),
каждом tf qm есть главная часть полинома
q и
A2.9.6) q ft) ^ 0 при Im S е= {т0Л/} — Г (Р, N) + R0.
A2.9.7) Р (С + шО) - 0, Im ? 6 {то#} - Г (Р,
аж^т степень m+ + m- no w. Оно имеет щ+ {соотв. т~) корней
с Im w > 0 {соотв. Im ку < 0), а его старший коэффициент ра-
eenq{l)
Доказательство. Полином Рт,в{1), равный однородной части
наименьшей степени полинома l-+Pm{Q + l), гиперболичен от-
относительно N (лемма 8.7.2). Поэтому он отличен от нуля в N.
Таким образом, полином Pm@ + eN) имеет при е = 0 нуль, по-
порядок которого равен степени Рт, е и, следовательно, равен то.
Поэтому существует отличный от тождественного нуля предел
qm. Из доказательства теоремы 12.6.1 вытекает, что предел q
также существует и является локализацией Р на бесконечности
в направлении 8. Ясно, что q{% + tQ) = q{Q (см. теорему 10.2.8),
и, значит, свойство A2.9.6) следует из A2.9.4) и теоремы Гур-
вица 1).
Таким образом, мы доказали, что полином в A2.9.7) имеет
степень /л+ + я*- относительно w и его старший коэффициент
равен q{%). Из условия A2.9.4) вытекает, что вещественных
корней нет. Чтобы найти число корней в каждой полуплоскости,
возьмем ? = —ixN и положим до =т№\ Поскольку при т->+оо
Р (— ixN + xWQ) {Цх)т -+Pm{N + iWQ),
а предельный полином имеет m+ (m_) нулей при Im W > 0
(Im W < 0), то доказательство закончено.
1) Если ?(?)= 0 при каком-либо С, для которого 1т?е{т0М}—Г(Р, N) +
-f RQ, то при малом е то же верно и для полинома &т~т^р (? -{- 0/е), что
противоречит A2.9.4). -^Прим. ред.

12.9. Смешанные задачи 191
Решение задачи Кощи было получено с помощью преобра-
преобразования Фурье — Лапласа по всем переменным (см. A2.5.3)),
Для решения смешанной задачи понадобится преобразование
Фурье — Лапласа лишь вдоль граничной плоскости дН'. Это
приведет нас к обыкновенному дифференциальному уравнению
с граничными условиями, и мы отклонимся сейчас от основной
темы, с тем чтобы обсудить некоторые задачи из этого круга
вопросов.
Пусть рф), где D = —id/dt,— дифференциальный оператор
с постоянными коэффициентами на R. Предполагается, что стар-
старший коэффициент полинома р равен 1, а сам полином не имеет
вещественных нулей. Имеет место представление
где полиномы р+ и /?_ имеют старшие коэффициенты 1, степени
соответственно т+ и т_ и все нули принадлежат полуплоскостям
1тт>0 Aтт<0). Решения уравнения p(D)u—0 единствен-
единственным образом разлагаются в сумму и = и++ и_, где р+(Ь)и+=0,
P-.(D)w- = 0. Здесь функция и+ экспоненциально убывает на
R+ и экспоненциально возрастает на R_, а функция и_ на-
наоборот.
Рассмотрим теперь граничную задачу
A2.9.8) p(D)u = f на R+, bf{D)u{0) = yj) /=1, ..., ц,
где /^^(R)^ ф/eCj и требуется, чтобы выполнялось включе-
включение we^(R+). Решение и0 дифференциального уравнения
A2.9.8) на R дается равенством йо=//р. Положив u = uo + v,
мы приходим к задаче
A2.9.8/ p(D)v = 0 на R+, ft, (D) v @) = #/э / =-1 |*,
где % = ф/ — bj(D)uo(O). Для ограниченных на R+ функций v
уравнение p(D)v=0 эквивалентно уравнению p+(D)v = 0.
Можно разделить Ь\ на р+:
где степень полинома г/ меньше т+. Тогда задача A2.9.8)' экви-
эквивалентна задаче
A2.9.8)" p+(D)v~0, Г/(D) i>@) = 4),, /—1 |*.
Граничные условия задают ji линейных уравнений на началь-
начальные данные v@)9 ..., D + v @). Поэтому единственное реше-
решение существует тогда и только тогда, когда полиномы п, ..., гц
линейно независимы и \х = т+. Это означает, что полиномы
6s ..., 6ц линейно независимы по модулю р+ и \х = т+. Соот-
Соответствующее аналитическое условие состоит в том, что отличен

192 12. Задача Коши и смешанные задачи
от нуля определитель Лопатинского
A2.9.9) L(bl9 ..., Ьт+;р+)
= det (Bnt)~l \ 6у (т) (хк-{/р+ (т)) с
где интеграл берется вдоль границы круга, содержащего все
нули полинома р+(т). Действительно,
(/, g) -> BтГ1 J / (т) (g (х)/р+ (т)) dx = (f, g)p+
есть билинейная форма на векторном пространстве полиномов
от т по модулю р+, ввиду того что она обращается в нуль,
когда / или g делится на р+. Она невырожденна, поскольку ра-
равенство (/, g)p+=0 при любом g означает, что в разложении
Лорана функции f(x)/p+(x) в окрестности бесконечности нет
отрицательных степеней т. Классы одночленов %k~\ & = 1, ...
..., т+, по модулю р+(х) образуют базис, поэтому полиномы
Ь\> ..., Ьт+ линейно независимы modp+ тогда и только тогда,
когда определитель A2.9.9) отличен от нуля. Определитель
Лопатинского не меняется, если р+(т) и все Ь}(х) заменить на
полиномы р+(т — а) и Ь}(х — а) при некотором aeR. В самом
деле, это приводит к замене %к~~х на (т + а)*-1 под знаком ин-
интеграла; при этом ясно, что
(т +<*)'-'= ? cfk(a)xk~K
к ^ /
к
где detc/fe(a)=l, так как матрица Cfk(a) — 6/fe строго треуголь-
треугольная. Заметим, что скалярное произведение (/, g)p+ есть поли-
полином от коэффициентов полиномов /, g, p+, поскольку на беско-
бесконечности
00 ь
о
Если ц, = т+ и определитель Лопатинского отличен, от нуля, то
решение «e^(R+) задачи A2.9.8) можно найти следующим
образом. Пусть Е~(у) — фундаментальное решение оператора
p~{D) с носителем в R_. Оно экспоненциально убывает. По-
Поскольку уравнение p~(D)v=0 не имеет решений в ^(R+), мы
получаем, что
о
A2.9.10) p+(D)« = /*?_= \f{--t)E_(()d( = gt

12.9. Смешанные задачи 19$
где последнее равенство служит определением функции g. До-
Докажем теперь, что
A2.9.11) LDMO)=ZVP*+ Е*/*Я**«». / = 0,
где L — определитель Лопатинского, t\h и Sjk являются полино-
полиномами от коэффициентов полиномов р+, &ь ..., Ът и во второй
сумме
Тождество A2.9.11) эквивалентно тождеству
Таким образом, tj* можно найти из уравнений
A2.9.12) L(x>, т'-%+=?</*<**('*). *'""%+' /==1> •••• m+>
умножив вектор <т;, т'-%+, /=1, ..., т+, на матрицу из ал-
алгебраических дополнений элементов матрицы Лопатинского
(bk(x), т*~)р+. Далее, разделив на р+(т), мы получим полином
Вернемся теперь к ситуации, описанной в предложении
12.9.1. Имеет место представление
A2.9.13) P(l + tau) = q(Z)P+(w,b)P-(w9t)9
' Imt <={%QN}-Г (P,N),
где Р+ и Р- — полиномы по w степени щ+ и т«, нули которых
лежат соответственно в верхней и нижней полуплоскости, а
старшие коэффициенты равны 1. Сдвинув полином Р, можно
всегда добиться того, чтобы то = 1. Тогда если Im J; е —Г(Р, N),
то полином q по модулю ограничен снизу положительной по-
постоянной, и, воспользовавшись неравенствами A0.4.3), мы по-
получим, что
A2.9.14) ? |DLP+ @, g) | S | DfwP- @, 0\<СР(?),
Поскольку суммы ограничены снизу числами т+! и т_!, это
дает полиномиальные оценки для всех коэффициентов полино-
полиномов Р+ и Р-. Если ц, = т+, то можно образовать определитель
Лопатинского
A2.9.15) L @ = L (В! (g + шб), ..., Вт+ (g + ^); Р+
7 Зак. 64

194 12. Задача Коши и смешанные задачи
где ? рассматривается как параметр. Из инвариантности отно-
относительно сдвига определителя Лопатинского, т. е. соотноше-
соотношения L(?)= M? + *9), t^ R, следует, что L(i) можно рассма-
рассматривать как аналитическую функцию в образе множества
Rn — ЛГ(Р, N) в факторпространстве С7С0. Полином q также
аналитичен в этом образе и всюду отличен от нуля.
При изучении задачи A2.9.1) — A2.9.3) с ф=0 удобно про-
продолжить и и f нулем в Я'ПСЯ. В общем случае мы будем
рассматривать распределение и, являющееся решением задачи
A2.9.1) внутри #', которое равно нулю в С#__и которое можно
рассматривать как С°°-функцию от <jc, 8> e R+ со значениями
в ^'(R"-1), удовлетворяющую условиям A2.9.3). При этом
предполагается, что выбрана система координат jci == <лг, 9>,
*2, •••> хп (выбор х2у ..., хп несуществен). Для упрощения в
доказательствах обычно предполагается, что хп = <х, N}. Под
носителем решения и из этого класса обычно понимается замы-
замыкание носителя и, рассматриваемого как распределение в Int#'.
Теорема 12.9.2. Предположим, что ранг матрицы Лопатинского
Ljk (?) = BШГ1 J Л*-1 (Bf (g + Щ/Р+ (К ?)) dK
k = l, ..., m+, /= 1, ..., \i,
меньше m+ при каждом ?, для которого Im ? е {тоЩ — Г(Р, /V).
Тогда можно найти такую С°°-функцию и от <jc, 9> e R+ со зна-
значениями в ^'(R"-1), что
0s=suppuczH'nro(P9 АО, P(D)u = 0 в Н\
BJ{D)u = Q на дН\ /=1, ..., \i.
Доказательство. Вводя дополнительные операторы Bf и изменяя,
если потребуется, нумерацию, можно считать, что ранг матрицы
Лопатинского с 1 ^ / < т+ равен т+—1 для векторов ? об-
общего положения1). Для каждого полинома B(w) тождество
B{w); P+(w9 ?))
Bя/)~! J В (w) (H {w, Q/P+ (w, g)) dw
задает единственный полином H(wt t,) по переменной w степени
т+ — 1 с коэффициентами, аналитическими по Е; при Im g s
е {тоЛ^}—Г(Р, Л^), которые не все равны нулю там, где ма-
матрица Лопатинского имеет ранг т+—1. Благодаря равенству
4) To есть на открытом всюду плотном множестве векторов ?. Для этого
ввиду аналитичности по ? достаточно, чтобы этот ранг был всюду ^т+—1
и при каком-то значении С в точности равен т+ — 1. — Прим. ред.

12.9. Смешанные задачи 195
эти коэффиценты не обращаются в нуль тождественно также и
при <?, 8> =0. В дальнейшем мы считаем, что то = 1.
Выберем координаты так, чтобы W=@, ..., 0, 1) и 8 =
= A, 0, ..., 0), и обозначим ?'=(?2, ..., ?«)• Тогда коэффи-
коэффициенты полинома H(wy @, ?')) аналитичны при @, Im?')e
е—Г(Р, N) и не равны нулю тождественно. Положим
H(w, @, Z)){eiwXxlPAw, @,
где интеграл берется по границе открытого множества, лежа-
лежащего в полуплоскости Im w > —1 и содержащего каждый круг
радиуса 1, центром которого является нуль полинома Р+. Эта
функция аналитична по ?', и в силу A2.9.14) при каждом ,/'
справедлива оценка
\D'XlU(xu ?)\<CfiXx(\ + \X\)Ml.
Ясно, что P(Dut)')U(xut>')= 0. Следовательно, U есть преоб-
преобразование Фурье — Лапласа по х' распределения и, заданного
в #', для которого P(D)u=0 и supp и а И'f|#, причем это
распределение есть С°°-функция от х\ со значениями в простран-
пространстве распределений (см. теорему 7.4.3). Для изучения его носи-
носителя лучше всего сначала рассмотреть граничные значения на
дН'. Для всякого дифференциального оператора B(D) с по-
постоянными коэффициентами граничное значение B(D)u при
х\=0 равно обратному преобразованию Фурье — Лапласа от
функции
F (?') = BШ) J Я (w, @, СО) (В (w, ?,')/Р+ (w, 0,
где ^=@, tf). Но определитель Лопатинского не зависит от
поэтому функция F аналитична в
Q = {?'; (Я, Im?0^ — Г(Р, N) при некотором Я}.
Если B=Bf при некотором /, то F = 0. Значит, S/(D)«=0 на
дН'. Для произвольного оператора В имеется полиномиальная
оценка для F. Поскольку дуальный конус к T(P,N)+RQ ра-
равен Г°(Р, N){\dH\ находим, что
supp В (D) и |Xi_0 с Г° (Р, N) П дН'.
Продолжим распределение и на Rn так, чтобы «=0 в ОН\
Тогда
Р (D) и = f, supp f с= Г° (Р, J '
и suppwcz Я. Таким образом, «=?*/, где ? — фундаменталь-
фундаментальное решение оператора P(D) с носителем в Г°(Р, /V). Отсюда
7*

196 12. Задача Коши и смешанные задачи
следует, что supp и а Г°(Р, N). Если 0 ^ supp и, то по теореме
7.4.3 для некоторых постоянных С, М, с > О
Ясно, что F является алгебраической функцией. Если F Ф 0, то
стандартное применение теоремы Тарского — Зайденберга (тео-
(теорема А.2.2) (детали мы предоставляем читателю) позволяет
заключить, что либо F = 0, либо функция
sup | F (?' + i%N') | A + | Г + ixN' | Гм
при т->—оо не может убывать быстрее, чем некоторая степень
величины |т|-1. Так как Н ф 0, то не может быть F = 0 при
каждом В. Следовательно, 0 е supp и и теорема доказана. '
Взяв свертку распределения и и С~-шютности в дН\ носи-
носитель которой содержится в пересечении Н[\дН\ мы получим
нетривиальное С°°-решение задачи A2.9.1) — A2.9.3), все на-
начальные данные /, ф, q>/ которой равны нулю. Таким образом,
из единственности решения задачи A2.9.1) — A2.9.3) следует,
что ранг матрицы Лопатинского равен т+ для векторов Е; об-
общего положения. Это условие, однако, еще не является доста-
достаточным для единственности решения. В следующей теореме бу-
будет предложено условие, которое необходимо добавить, чтобы
получить достаточное условие.
Теорема 12.9.3. Пусть [i = m+, и пусть и^С°°(Н') удовлетво-
удовлетворяет A2.9.1) и A2.9.3) с /=0, Ф/=0, причем supp ucz Н {\ Н'.
Тогда если 3? — распределение с носителем в дН'(]Г°(Р, N),
такое что &(%) = L(?), еде функция L(%) определена в A2.9.15),
70^*^ = 0 в И'.
Напомним, что в нашей стандартной системе координат
функция L(?) не зависит от ?ь Таким образом, & = 3?е®
<8>6(<jt, 8>), где 3?q — некоторое распределение, заданное в пло-
плоскости дН'. Поэтому свертка действует только при фиксирован-
фиксированном значении <jc, 8>.
Доказательство теоремы 12.9.3. Начнем с равенства A2.9.11) и
установим сначала формулу для представления свертки j?e*
* (В (D) v) \дн, при уеС0°° (Rn). Мы получим утверждение тео-
теоремы, применив эту формулу к произведению и и некоторой
срезающей функции. (Здесь B(D) — произвольный дифферен-
дифференциальный оператор с постоянными коэффициентами.)
Если мы применим равенство A2.9.11) к функции Р_(ш, @, ?'))
и положим P{D)v — f, v^C™, то, воспользовавшись A2.9Л0),

12.9. Смешанные задачи 197
а также явной формулой для ?_, получим, что
X9 со в (о, eo=5>*(eofl*(fli. со в (о, со
' S
(Г
Здесь последний интеграл берется по границе открытого мно-
множества, содержащего все нули полинома Р_. Коэффициенты
Tk{%') и S*(?0/<7(?0 аналитичны и полиномиально ограничены
в множестве {?'; (О, Im?')e — Г(Р, N)}. Следовательно,
A2.9.16) ^е*5Ф)^и
= Ztrk*Bk (D) о |ая, + Е (л • я?
где #"*(СО == ГЛ(СО. а ?к(х{9 -) = 09
Носители этих распределений содержатся в конусе Г°(Я, Л^) +
R()
(
Если и является^ решением однородной смешанной задачи,
как это и предполагается в теореме, и если е — наименьшее по-
положительное решение уравнения Рт(е, 0, ..., —1) = 0, то по
теореме единственности Хольмгрена и(х) = 0 при хп < елгь Если
у е supp и и
»е{@, хО}-(Г°(Р, A0 + R8),
то 0 < 8f/i < уп < а:п, If/' — *'|«g С(а:п — уя). Отсюда следует,
что точка у принадлежит некоторому компактному множеству
К. Пусть %^С™ (Rn)9 % = \ в окрестности У множества К. При-
Применим равенство A2.9.16) к произведению функции % и С°°-про-
должения и в Rn. Тогда Bk(D)v =0 и P(D)t/ =0 в Kfl^. По-
Поэтому 5?е*В(й)«=0 в точке @, х'). Значит, D{S?b* и = 0
в дН' при каждом /, так как мы можем взять B(D) = Z)(. По-
Положим U = 2>*и в Н' и U =0 в С/У'. Тогда P(D)U = 0 в Rn,
поскольку 1УеС°°, и это равенство верно в //'. Далее, 17=0
в СЯ. Следовательно, U = 0 всюду. Этим завершается доказа-
доказательство теоремы.
Из теоремы 12.9.3 легко извлечь следующее заключение.
Если \x = m++l и определитель Лопатинского от Blf ..., Bm
не равен нулю тождественно, то смешанная задача A2.9.1) —
A2.9.3) не может быть решена с произвольными данными. В са-
самом деле, пусть 7 = ф = 0, ф/ = 0 при / ^ т+ и qpm+ + i e С™.
Тогда по теореме 12.9.3 уравнение Bm++i(D)и |ая, =<pm++i дает

198 12. Задача Коши и смешанные задачи
нам
Так же как в доказательстве теоремы 12.9.2, отсюда следует, что
Oesuppi?e. Если 3!\^<§' равно i?0, скажем при хп<^Т> та
хп^Т на supp 5?е*Фт +1. Тогда по теореме о носителях
хп^Т на supp(pm +1. Поскольку Т произвольно, мы получаем,
что Фт+ + 1=0. Значит, смешанная задача не имеет решения нв
для какой нетривиальной функции qpm+ + i с компактным носи-
носителем. Подводя итог, мы с помощью теорем 12.9.2 и 12.9.3 за-
заключаем, что необходимое условие для существования и един-
единственности решения смешанной задачи A2.9Л) — A2.9.3) состоит
в том, что [х = т+ и определитель Лопатинского не равен тож-
тождественно нулю. Это и будет теперь предполагаться в дальней-
дальнейшем. Мы докажем, что в этом случае все вполне аналогично за-
задаче Коши для дифференциальных операторов. После введения
главного символа определителя L, мы сначала докажем, что
единственность имеет место тогда и только тогда, когда этот
главный символ отличен от нуля в N, а затем получим, что
существование решения равносильно условию, которое совер-
совершенно аналогично условию гиперболичности.
Лемма 12.9.4. Пусть g+(w) и g-(w)— полиномы от одной пере-
переменной степени т+ и т_ со старшим коэффициентом 1 без общих
нулей. Для каждого полинома r(w) степени меньше m+-\-m-
с достаточно малыми коэффициентами существуют такие одно-
однозначно определенные полиномы r+(w) и r-(w) степени меньше
т+ и т_, что их коэффициенты малы и
g+ (o>) g_ (w) + r(w) = (g+ (w) + r+ (w)) (g_ (w) + r_ (w)).
Коэффициенты полиномов г+ и г_ являются аналитическими
функциями от коэффициентов полинома г.
Доказательство. Нужное утверждение сразу же вытекает из
теоремы о неявной функции (теорема АЛЛ для нескольких не-
неизвестных), поскольку линеаризованное уравнение
г (w) = g+ (w) r_ (w) + g_ (w) r+ (w)
имеет единственное решение, задаваемое разложением
r(w)/g+(w)g~(w) на простейшие дроби.
Предложение 12.9.5. Предположим, что определитель Лопатин-
Лопатинского ?(?/), который аналитичен при Im^e—Г/ = {8/; (X, 0')е
е—Г(Р, N) при некотором %}, не равен тождественно нулю.
Тогда существует такое целое Л, что функция eHL(t,'/г) аналитич-

12.9. Смешанные задачи 199
на по (?', е) в некоторой окрестности множества (Rn~l — /Г')Х
Х{0} и ее предел Lo(t') при е->0 не равен тождественно нулю.
Доказательство. Поскольку
J b,(w/e)(wk~l/em+P+(w/e))dw,
при ImE;e —-Г(Р, N) имеем
L (С/в) = L (B{ (С/в + дов), ...; Р+ (до,
Из уравнения
р (е/в + шв)=^ (е/в) р+ (w, с/в) р. (ш, с/в)
следует, что
етР (С/в + ов/в) = ето^ (С/в) ет+ Р+ (ш/е, С/в) ет-Р. (ш/е, С/в),
где старшие коэффициенты полиномов ет+Р+ (до/е, ^/е) и
ет-Р_ (до/в, С/в) равны 1 и все нули этих полиномов лежат со-
соответственно в полуплоскостях Im до > 0 и Im w < 0. Левая
часть последнего равенства является полиномом по е, который
при 8=0 сводится к
Рт (С + Щ = Ч (?) Рт+ (ш, ?) Рт_ (ш, S).
Если после деления на ет°<7 (?/s) = ^то (S) + О (г) применить
лемму 12.9.4, то мы получим, что функция ет+Р+ (до/е, ?/е) ана-
литична по е и 5, а при е = 0 сводится к Рт+ (до, ?). Выбрав
в качестве h минимальное целое, для которого функция
eftL(CV8) аналитична вблизи е=0, мы сразу придем к требуе-
требуемому утверждению.
Поскольку Lo^CO— ^o(CO при />0 и множество {до е С/,
Im доС' е —Г'} выпукло при каждом С' =^ 0, мы можем продол-
продолжить функцию Lo единственным образом до аналитической
функции в множестве
U
однородной степени А. Назовем эту функцию главным символом
смешанной задачи A2.9.1) — A2.9.3). Без ссылки на нашу спе-
специальную систему координат множество, на котором главный
символ инвариантно определен, имеет вид
. U w(Rn-iT(P% АОУСв.
W
Докажем теперь аналог теоремы 8.6.7.

200 12. Задача Коши и смешанные задачи
Теорема 12.9.6. Если главный символ смешанной задачи
A2.9.1) —A2.9.3) (с |i = m+) равен нулю в точке N/RQ, то
можно найти такое решение и е С°°(Н (] Н') однородной сме-
смешанной задачи, что Н (]дН' с: supp и.
Доказательство. Так же как в доказательстве теоремы 8.6.7,
рассмотрим сначала решение уравнения
где t/s мало, a Ims отрицательно и велико. Здесь вектор ?'е
gRm будет выбран позже. Положив t = ws и s = l/e, полу-
получим уравнение
которое аналитично вблизи e = w=0 и сводится к уравнению
Lo(N'+ wl') = 0 при 8 = 0. Выберем ?' так, чтобы функция
Lo(W-j-«jg') не равнялась тождественно нулю. Тогда если s
принадлежит некоторой угловой окрестности отрицательной
мнимой полуоси, то уравнение L(sN' -f t(s)l') = 0 имеет реше-
решение t(s)y представимое в виде ряда Пюизё
сходящегося при больших |s|, скажем при \sl/p\> M.
Продолжим наше построение, комбинируя соответствующие
рассуждения из теорем 12.9.2 и 8.6.7. Ранг матрицы Лопатин-
ского при ?=@, sN'-\-t(s)g) меньше m+. Поэтому можно
найти полином H(w,s) no w степени <т+, коэффициенты кото-
которого являются аналитическими функциями от s~1/p в нуле, не
все они тождественно равны нулю и, кроме того,
J В} (w, sN' + I (s) Г) (H (w, s)/P+ (w, @, sN' + t (s) Г))) dw = 0,
/= 1, ..., ш+.
Коэффициентами полинома H(w,s) служат подходящие миноры
матрицы Лопатинского. Таким образом, функция
U (хь s) = Bя/)""! J Я (w, s) (eiwXl/P+ (w, @, sN' + t (s) I*))) dw
удовлетворяет уравнению P(DU sN'+ t(s)%')U(x\, s) = 0 и гра-
граничным условиям Bf(Du sN' + t(s)l')U@9 s) = 0 при C(|/(s)| +
+ 1)<—Ims, где постоянная С настолько велика, что из по-
последнего неравенства вытекает включение Im(sW +tf(s)g')e
е—Г'. Для функции U(x\y s) имеется полиномиальная оценка.
Пусть 1 — \/р < ро < р < 1, и пусть ух — кривая
R=3a-*a-/(a2+ 1)р/2 — /т.

12.9. Смешанные задачи 201
Если параметр т достаточно велик, то функция U(xus) опре-
определена на ух и интеграл
P> S)ds
не зависит от т. (Мы берем —n<args<0.) Отсюда следует,
что и е С°° (Я7), P(D)u=0 в Н', Bf (D)u=0 на д#'; устремляя
т к бесконечности, получаем и = 0 при <jc, Af) < 0. Из доказа-
доказательства предложения 12.9.5 следует, что D{(J(Ot s) есть меро-
морфная функция от sl/p на бесконечности, не равная тожде-
тождественно нулю при некотором /. Доказательство теоремы 8.6.7'
без каких-либо изменений дает нам, что функция D{u@,х') ана-
литична при <*', N'} > 0. Следовательно, при некотором / ее но-
носитель есть Н(]дН\ Доказательство завершено.
Имеет место обратное утверждение к теореме 12.9.6, которое
мы сформулируем в виде теоремы единственности.
Теорема 12.9.7. Если главный символ смешанной задачи
A2.9.1) — A2.9.3) (при (я = т+) не равен нулю в N/RQ, то реше-
решение и^?°°(Н (]Н') смешанной задачи однозначно определяется
данными /, ф, ф/.
Доказательство. Если данные задачи равны нулю и решение и
доопределено нулем вЯ'ПСЯ, то 9? * и = 0 в #'. Из предложе-
предложения 12.9.5 мы знаем, что в некоторой окрестности вектора N' при
малых е функция e/lL(—it//г) аналитична и не равна нулю.
Взяв параметр е чисто мнимым, мы заключаем, что функция
L~l имеет полиномиально ограниченное на бесконечности про-
продолжение в комплексную коническую окрестность вектора N'.
Поэтому теорема $.6.15 показывает, что
(х\ ЛГ) ф WFA (и (*„ •)), х' е= R*-\
при каждом фиксированном х\. Поскольку и =0 при (х\ N') <
< 0, по теореме единственности Хольмгрена и = 0 (см. след-
следствие 8.6.9).
Из теоремы 8.6.8 мы могли бы, конечно, получить намного
более точные теоремы единственности, но мы оставляем это до
изучения существования решения смешанной задачи. Докажем
сначала аналог теоремы 12.3.1.
Теорема 12.9.8. Если смешанная задача A2.9.1) —A2.9.3)
{с ц = т+) имеет единственное решение и^С°° (Н(]Н') при
произвольных С™-данных, равных нулю на дН, то существует
' Ъакая постоянная уо ^ то, что
A2.9.17) L(l' + iyN')=&0 при g'eR" и Y < Yo-

202 12. Задача Коши и смешанные задачи
Доказательство. По теореме Банаха решение непрерывно зави-
зависит от данных смешанной задачи. Следовательно, для фиксиро-
фиксированной точки у ^дН/(](Н\дН) мы можем найти такое ком-
компактное множество К cz Н 0 Н' и такие постоянные С, k, что
если ф=0 и функции /, фу имеют нуль бесконечного порядка
на дН, то
A2.9.18) ? \Dau(y)\
la |<m
Пусть (/€=O(#') и
P(D)U = 0 в H', Bf(D)U = 0 на дН\ /=l, ...,
применим неравенство A2.9.18) к произведению и = %{(-, )
где %^C°°(R)t % = 0 на (—оо, 0) и х= 1 на (с, оо), с =
= <у, ЛО/2. Тогда
P(D)w = 0 при <*, N) > с;
Bj (D)u = 0 на дН' при (д:, Л0 > с.
Обозначив К! = {х\ х^К, (х, N}^.c}t мы получим, что с не-
некоторыми новыми постоянными С, k'
A2.9.18Г ? \DaU(y)\^C Z sup|DaC/|.
|a|
Если L(^) = 0, S/ = I/ + ^V/, то можно найти такой поли-
полином H(w) степени < m+, что #@)= 1 и функция
Ux (х{) = BЯ/)-1 J U (w) (eiwXl/P+ (w, @, Г))) Аи
удовлетворяет не только уравнению P(Dh ^')Ui(xi) = 0f но так-
также и граничным условиям Bj(D\, ?') ?7i@) = 0. Эти условия экви-
эквивалентны уравнениям
BЯ/Г1 5я(^)(В7(ш, Z')/P+(w, @,
которые образуют систему гп+ уравнений для коэффициентов
полинома H(w) с определителем L(^/) = 0. Применим теперь
оценку A2.9.18O к функции U (x) = Ux(xl)eUx'>t'\ Тогда для не-
некоторых постоянных С и М имеет место оценка
A2.9.18Г ? |Df(/,@)|<C(l+in)VY.
Здесь D[U\ @) — вычет функции wfH {w)/P+ (w, @, ?')) на Оеско-
нечности. Поэтому H(w) есть полиномиальная часть суммы
2 д{С/,@)/>+(а>, @, g0)/«»/+l-

12.9. Смешанные задачи 208
В силу A2.9.14)
1 = Н @) < С S | D[U{ @) | Р (@, СО).
Воспользовавшись оценкой A2.9.18)", мы теперь получим, что
Эта оценка аналогична A2.3.5), поэтому по теореме Тарского —
Зайденберга, повторяя конец доказательства теоремы 12.3.1, по-
получаем условие A2.9.17). Детали доказательства предоставля-
предоставляются читателю.
Определение 12.9.9. Смешанная задача A2.9.1) — A2.9.3) назы-
называется гиперболической, если |л = т+, главный символ Lo не
равен нулю в N/RQ и при некотором у0 справедливо условие
<917)
Так же как в теореме 12.4.4, множество, в котором опреде-
определитель L не обращается в нуль, можно расширить:
Теорема 12.9.10. Если смешанная задача гиперболическая, то
связная компонента S вектора N' = N/RQ в множестве {?'е
^Г(Р, N)/RQ, ЦA')ф0} является открытым выпуклым ко-
конусом,
A2.9.19) Z.0(?0 Ф 0, Im?'€= -Z,
<12.9.20) L {О Ф 0, Im ?х е=у0ЛГ - 2.
Доказательство. Если J'eR"-1, то из предложения 12.9.5 вы-
вытекает, что
Lo(?' + zN')= Urn BhL{(l' + zN')ls), Im2:<0.
Поскольку, в силу A2.9.17), ?((?' + гЫ')/е)Ф0 при Im z < гуо
и предел Lo(l' + zN')= zHL0(l'/z-\- Лг) не равен тождественно
нулю, из теоремы Гурвица следует, что Lo(|' + г№')Ф 0 при
lmz<0. Используя свойство однородности функции Lo, нахо-
находим, что функция
( L(
аналитична и отлична от нуля при 1тг=7^0. Если J'gS, to
1т (Г + zN')/i = - Г - Re zN' e - Г (Р, A0/R9, Re z > 0.
Поэтому функция /V (г) аналитична при Re z!>0, а так как
/^,@)=5*=0, то F5/(z)^0 при Re 2 = 0. Поскольку
и Ь0(М')Ф0у мы можем найти такую постоянную С, что
^ 0 при | г | > С16' |. Далее, функция FN>(z) — (г + 1

204 12. Задача Коши и смешанные задачи
не имеет нулей в полуплоскости Re г ^ 0, значит, по непрерыв-
непрерывности это свойство выполнено также для каждой функции F^(z)
при ^е2. В частности, если Я, ц ^ 0, A, + jx>0, то L0(kN'+
+ \il') ф 0. Следовательно, множество 2 звездно относитель-
относительно N'.
Докажем теперь свойство A2.9.20). Пусть ?' е ^л-1 и т)' е 2*
Если у < yo, то функция
аналитична по г при Яег^О и не имеет нулей при Re2 = 0.
Если у принадлежит компактному множеству, то сходимость
(iz)-h L (Г + iyN' + iz4') -> Lo (г)') ^=0, z -* oo,
равномерна по у. Поэтому при больших г функция GY не имеет
нулей, и, значит, число нулей при Re г ^ 0 не зависит от у-
Если у — очень большое отрицательное число, то для некоторой
постоянной С
L (Г + iyN' + IZ4') Ф0 при Re z < 0, | г/у I > С,
так как функция (iz) ~hL (?' + iyN' + izx\') близка к Lo ix\').
С другой стороны, сходимость'
AуГн L (Г + iyN' + iywif) -+ U {N' + wr\')> у -> - оо,
равномерна при Ret^^O и |до|^С. Выше уже доказано, что
этот предел не имеет нулей в полуплоскости Re w ^ 0. Следова-
Следовательно, если Re z^: 0 и у — достаточно большое отрицательное
число, то
L (?' + iyN' + feT|0 Ф 0.
Это же верно при всех у <С уо. Тем самым свойство A2.9.20)
доказано. Возвращаясь к рассуждению, проведенному в начале
доказательства, и заменяя N' на г/, получаем A2.9.19). Мы
также заключаем, что множество 2 звездно относительно каж-
каждой точки tj7 e 2, т. е. множество 2 выпукло. Доказательство
завершено.
Лемма 12.9.11. Из условия A2.9.20) следует, что для некоторых
постоянных С и М
Доказательство. В силу A2.9.20)
(Yo-l)iV/ -2} > 0,
поскольку Nf + 2 ci 2, а множество рассматриваемых ?' ком-
компактно. Из следствия А.2.4 и теоремы А.2.5 получаем, что
f(t) = Ata(l +o(l)), /->оо, где АфО и число а рационально.

12.9. Смешанные задачи 205
Таким образом, если М ^ —а и С достаточно велико, то
A + t)~M ^ Cf(t). Лемма доказана.
Теперь мы подготовлены к построению «фундаментального
решения» смешанной задачи:
Теорема 12.9.12. Если смешанная задача A2.9.1) — A2.9.3) ги-
гиперболическая, то можно найти распределения ek в //', k =*
= 1, ..., m+, которые являются С"'-функциями от (х, 6> со
значениями в 2D'(Rn~x) и для которых
A2.9.21) supp^czS° + r°(P, ЛО, P(D)ek = 0 в Н\
Bl(D)ek\dH/=6jk6(x/).
Здесь 2° есть лежащий в дН дуальный конус компоненты 2
вектора M/RQ в множестве {^еГ(Р, N)/RQ, Lo(t')?=O}, где
Lo— главный символ смешанной задачи, a 8jk обозначает сим-
символ Кронекера.
Доказательство. Пусть Hk(wy ?'), k = 1, ..., m+, — полишга»
степени < пг+ по w\ при Imt;7^^(vo—\)N' — S положим
Ek{xu ?) = BтГ1 J Hk(w, ?)(eiwxiP+ (w, @,
Тогда P(Dl9 OEk(xx, ?) = 0 и
1 J B,{w, O(Hk(w, №+ (w, @, ft))dw
m+
= J Hrk (?') BЯ/)-1 \ wr~t (B, (w, a/P+ (w@, CO)) rf*
где мы положили
Таким образом, B}(DU tf)Ek(O, ?') равно произведению матри-
матрицы Лопатинского и матрицы (Hrk). Тогда, выбирая в качестве
(#г*) матрицу из алгебраических дополнений матрицы Лопа-
Лопатинского, деленную на L, мы получим, что Bj(Du ?')?"fe@, SO33"
= 8jk (здесь б/* — символ Кронекера). Из леммы 12.9.11 сле-
следует, что коэффициенты полинома #*(до,?') аналитичны и поли-
полиномиально ограничены при 1т^7еGо—l)Af' — S. Значит, тео-
теорема 7.4.3 показывает, что Ek{x\,Zf) есть преобразование
Фурье — Лапласа по хг от С°°-функции ek(x\, •) переменной х\
со значениями в ^'(IR*-1) и с носителем в 2°. Так же как в
теореме 11.9.2, можно уточнить информацию о носителе, доспре-

206 12. Задача Кош и и смешанные задачи
делив ек(х\, -)=0 при *i<0. Тогда suppe*cz# и supp P(D)ekcz
с {0} Х2°. Ясно, что ek=E(P9 N)*(P(D)ek). Это и завершает
доказательство A2.9.21).
Следствие 12.9.13. Если смешанная задача A2.9.1) — A2.9.3) ги-
гиперболическая, то она имеет единственное решение и е
^C°°(H[\Hf) для всех С*-данных f, ф, <р/, согласованных на
пересечении дН[\дН' в том смысле, что в каждой точке этого
пересечения существует решение в виде формального степен-
степенного ряда. В точке х^Н[\Н' решение определяется данными
ф/ в Rx = dH/(]({x}—T°(P>N) — I,0) и данными ft <p в ({х}{]
&)°(Я )
Доказательство. Функции / и ф можно продолжить до С°°-функ-
ций F я ф в Rn и найти в Я решение ио задачи Коши A2.9.1),
A2.9.2) с этими начальными данными. (См. теорему 12.5.6.)
Обозначив и = ио + и, мы сведем смешанную задачу к задаче
P(D)v = 0 в Н[\Н', Dav = 0 в
'tyn /=1 т+> на Н(]дН\
Для формального степенного ряда, представляющего решение vf
все производные функции v обращаются в нуль на дН[\дН\
Поэтому условия согласования, которые остаются в силе после
проведенной редукции, означают, что функции % имеют на
дН П дН' нуль бесконечного порядка. Продолжим функцию ф/
до С°°-функции на дН', равной нулю в дН [)СН. Теперь реше-
решение смешанной задачи задается суммой
» — ?**¦¦*
где свертка берется только по переменной х'.
По теореме 12.9.7 построенное решение является единствен-
единственным решением смешанной задачи. Если <р/ = 0 в Rx и данные
F, ф задачи Коши равны нулю в Rx — Г°(Р, N), то \|)/ = 0 в Rx
и, значит, v = 0 в точке x&HflH'. Это верно при подходящем
выборе продолжений F и ф в случае, когда функции / и ф обра-
обращаются в нуль в некоторой окрестности множества Rx —
— Г°(Р, N). Если функции F и ф обращаются в нуль в {х} —
— Г°(Р, Л0, то решение ио равно нулю в точке х. Поэтому если
данные смешанной задачи равны нулю в окрестности множеств,
указанных в формулировке следствия, то мы тем самым дока-
доказали, что решение и равно нулю в точке х. Теперь достаточно
применить этот результат к функции и(х — eAf) и устремить 8
к нулю.
Приведенное здесь доказательство существования, разуме-
разумеется, применимо также в случае, когда данные смешанной за-

12.9. Смешанные задачи 207
дачи являются распределениями. Фундаментальное решение
Е(Р, М) есть С°°-функция от х, со значениями в 2D'(Rn-{) при
х\^0 и х\ ^ 0. Пусть / есть С°°-функция от Х\ ^ 0 со значе-
значениями в ^'(R"-1), имеющая носитель в полупространстве //,
и пусть ф/е<2>'(<?#')» supp ф/ с: Н (] дН\ Тогда, как показывает
доказательство следствия 12.9.13, существует единственное ре-
решение задачи A2.9Л), A2.9.3), которое является С°°-функцией
от х\ ^ 0 со значениями в <2)'(Rn) и носителем в Н. (В случае
когда решения являются распределениями, легче ставить нуле-
нулевые данные Коши.)
Пример 12.9.14. Для волнового оператора P(D) = D\ + ...
...+D«-i—D2n (ri^A) найдем условия, при которых граничный
дифференциальный оператор косой производной
задает гиперболическую смешанную задачу (Ь\ = 1). Легко ви-
видеть, что
п
Г />Л У U У f- />2 7-2 7-2 \1/2
1
где Im %x > 0 и Im ?' принадлежат заднему световому конусу;
далее,
/ /t'\— У и ? /62 62 t2 V/2
если |7 принадлежит переднему световому конусу. Следова-
Следовательно, условие нехарактеристичности равносильно условию
Ьпф\. Положим ?" = (?2, ..., ln^i) и
W =
Множество W является либо эллипсом (возможно, вырожден-
вырожденным), либо замкнутой внутренностью эллипса1). Тогда второе
условие гиперболичности состоит в том, что функция
не принимает значений из множества W при Im2<!0. Здесь
F(z)= z(bn — A—2)-1/2, |;г|>1, поэтому функция F анали-
тична и нечетна вне интервала (—1, 1). Таким образом, функ-
функция F не должна принимать значений из множества W при
Im г ф о.
*) Коэффициенты bi могут быть комплексными числами, так что W есть
образ единичной сферы {?"; |?"|= 1} под действием R-линейного отображе-
отображения Rn~2 в С. — Прим. ред.

208 12. Задача Кош и и смешанные задачи
1) Если Re6n>0 и &п^=@, 1), то точка 0 принадлежит
области значений F(z) при 1тг<0. В этом случае должно
выполняться включение We R, т. е. коэффициенты Ь/ веще-
вещественны.
2) Если Ьп = 0, то {F(z)\ Imz<0} совпадает с верхней по-
полуплоскостью, из которой удален отрезок 10,/]. Таким образом,
либо W a R, т. е. все коэффициенты Ь\ вещественны, либо W с
i
с= [—i9 i], т. е. все коэффициенты Ъ\ чисто мнимые и ? | bf
3) Если Re6n==0 и 1тЬпФ0, то все коэффициенты 6/ долж-
должны быть чисто мнимыми и
|6212+ ... +|6ft-iP<l»»P+lp
чем охватывается и второй случай в 2), когда мнимая часть
Im Ьп становится равной нулю.
4) Если Rebn<.0, то область значений функции F при
1тг=7^0 есть внешность эллипса Е = {bnx + iy; (x, j/jeS1}, за
исключением кривых ±/7( [1, оо]). Отсюда следует, что либо
W принадлежит замыканию внутренности эллипса ?, либо коэф-
коэффициент Ьп веществен и W a R.
Подводя итог, мы получаем два главных случая.
а) Все коэффициенты Ь,- вещественны и Ьп < 1. Если |7 —
точка переднего светового конуса, то равенство нулю главного
символа в точке % означает, что
? =(?2 — ?2— — ?2 V/2
n
удовлетворяет равенству ^ = ]Г bjlj, т. е. J] bfei > 0 и
Таким образом,
+ ... +Ц_, +(max(o, ± ^,
Скорость распространения, описываемая множеством 2°, воз-
возрастает во всех направлениях, если вектор F2, ..., Ьп) лежит
внутри переднего светового конуса, и не возрастает ни в одном
из направлений, если он лежит в заднем световом конусе. На
рис. 5 показана внешняя граница носителя решения смешанной
задачи для волнового уравнения с / = б2, о, о и ф = 0 при фикси-
фиксированном целом хг в случае, когда скорость распространения
равна удвоенной скорости света.
. Ь) Вычисления, которые предоставляются читателю, показы-
показывают, что если мы положим (Ь2, ..., bn-u —bn) = F-\- iE, где

Примечания 209
0, вектор F принадлежит
Здесь, так же как в § 12.1, через [,] обозначено скалярное
произведение Лоренца. Это объединяет остальные случаи, и ско-
F и Е вещественны, то 1 + [Е, Е]
переднему световому конусу и
Рис. 5
рость распространения не меняется ввиду лоренц-инвариант-
ности условий.
Примечания
§ 12.1 посвящен явным формулам М. Рисса (Riesz M. [1, 4])
для волнового уравнения в R3+1. Приведенная здесь формула
A2.1.13) отличается от формулы Рисса тем, что вместо средней
кривизны, связанной с вложением 2 в R4, в нее входит гаус-
гауссова кривизна. Две эти формулы связаны уравнениями Гаусса
в вырожденной форме. Асимптотическое представление решения
осцилляторной задачи Коши, обсуждаемое в § 12.2, имеет дав-
давнюю традицию в оптике по крайней мере для главных членов.
(См., например, Sommerfeld [1] по поводу сдвига фазы на
каустиках.) Исследование асимптотического поведения на про-
простых каустиках восходит к работе Airy [1] и нашло точное обо-
обоснование в работе Ludwig [2]. По поводу случая более общих
каустик читателю следует обратиться к книгам Duistermaat [I]
и Guillemin — Sternberg [1].
Как подчеркивалось уже Адамаром (Hadamard [1]), в
С°°-случае в противоположность аналитическому случаю Коши —
Ковалевской решение задачи Коши не обязательно непрерывно
зависит от начальных данных. (В терминологии Адамара, за-
задача Коши не обязательно должна быть корректно поставлена.)
По теореме о замкнутом графике это означает, что решение не
обязательно существует для произвольных бесконечно диффе-
дифференцируемых начальных данных. Петровским [2] были в су-
существенном охарактеризованы операторы, для которых задача

210 12. Задача Коши и смешанные задачи
Коши всегда разрешима в классах 9* и 9*'. (Его условие совпа-
совпадает с неравенством A2.3.5).) По теореме единственности Хольм-
грена отсюда следует также существование решения задачи
Коши в пространствах &' и С°°. Гординг (Garding [1]) показал,
что условия A2.3.1), A2.3.2) необходимы и достаточны для
единственности и существования решения задачи Коши в
классе С°°. Переход от условия A2.3.5) к A2.3.1) требовал до-
довольно сложных алгебраических рассуждений, которые теперь
стали простыми благодаря теореме Тарского — Зайденберга.
(Ослабленное условие Петровского A2.3.5) остается интерес-
интересным, ибо, как мы увидим в гл. 16, оно удобно при рассмотре-
рассмотрении уравнений в свертках.) Гордингом также были доказаны
точные свойства гиперболических полиномов, приведенные в
§ 8.7 и в начале § 12.4. Описание членов младшего порядка
в теореме 12.4.6 было предложено Гордингом (Garding [1])
в качестве гипотезы и доказано Свенсоном (Svensson [1.])
(см. также Chaillou [1] и Munster [1, 2]). В двумерном случае
этот результат принадлежит Леви (Levi Е. Е [1]) и Лаксу
(L[l])
([])
Изучение особенностей фундаментального решения, приве-
приведенное в § 12.6, берет свое начало в работах Герглотца (Herg-
lotz [1]) и Петровского [4]. Изложенные здесь общие резуль-
результаты принадлежат Атье, Ботту и Гордингу (Atiyah, Bott, Gar-
Garding [1]). Для изучения необходимости условия Петровского,
а также дальнейших результатов, читателю следует обратиться
к работе Atiyah, Bott, Garding [2]. Случай двойных характери-
характеристик подробно изучен в работе Tsuji [1]. Благодаря этому полу-
получен контрпример к одной гипотезе из работы Atiyah, Bott, Gar-
Garding fl].
Глобальная теорема единственности из § 12.7 принадлежит
Джону (John [3]) в нехарактеристическом случае и Бродде
(Brodda [1]) в характеристическом случае. Приведенная вслед
за ней теорема существования доказывается способом, восхо-
восходящим к Коши (Cauchy [1]). В настоящее время имеется об-
обширная литература, посвященная таким теоремам существова-
существования в классах Жеврея, также и для операторов с переменными
коэффициентами.
В работе Петровского [2] изучалась не только нехарактери-
нехарактеристическая задача Коши. Однако полное изучение характеристи-
характеристической задачи Коши было впервые проведено в работе Horman-
der [21]. Переход от локальных результатов к глобальным осно-
основан на идее Мальгранжа, сходной с идеей, использованной в
§ 10.6. Для более общей проблемы описания операторов, имею-
имеющих фундаментальное решение с носителем в выпуклом конусе
с острием произвольной коразмерности, полных результатов не
существует. Наилучшие результаты принадлежат Энквисту

Примечания 211
(Enqvist [1]). Трудность проблемы особенно видна из того, что,
как показал Энквист, даже если существует фундаментальное
решение с носителем в Г/ при каждом / и множества Г/
убывают, то необязательно существует фундаментальное реше-
решение с носителем в пересечении всех множеств Г/. Теоремы един-
единственности для характеристической задачи Коши с глобальными
условиями можно найти в работах Тэклинда (Tacklind [1]) и
Гельфанда и Шилова [1].
Общие результаты о смешанной задаче с постоянными коэф-
коэффициентами были впервые установлены в работах Херша
(Hersch [1, 2]). Сакамото (Sakamoto [1]) обнаружила в них
«некоторые шероховатые рассуждения» и уточнила их, но при
некоторых дополнительных предположениях. В частности, она
предположила, что плоскость, несущая данные смешанной за-
задачи, нехарактеристична; кроме того, не было приведено убе-
убедительных доводов для выбора количества граничных условий.
Эти моменты были дополнены в работе Shibata [1]. К этим
результатам мы прибавили здесь довольно полное обсуждение
единственности, аналогичное теореме единственности Хольм-
грена. Следует отметить, что в статьях Херша изучались также
некоторые смешанные задачи с бесконечной скоростью распро-
распространения. Заключительный пример в значительной степени
заимствован из работы Гординга (Garding [6]).

13
Дифференциальные операторы
постоянной силы
Краткое содержание главы
В этой главе мы изучим дифференциальные операторы, которые
в пространствах BPtk можно рассматривать как ограниченные
возмущения дифференциальных операторов с постоянными коэф-
коэффициентами. Для этого необходимо, чтобы для операторов, по-
полученных после «замораживания» аргумента в коэффициентах
в точке лг0, их сила не зависела от х0. Большинство результатов,
уже доказанных для дифференциальных операторов с постоян-
постоянными коэффициентами, с помощью простых соображений, свя-
связанных с возмущениями, допускают локальное обобщение на
дифференциальные операторы, имеющие постоянную силу
(в указанном смысле).
После обсуждения локальных теорем существования в § 13.2,
13.3 и свойств гипоэллиптичности в § 13.4 мы обращаемся в
§ 13.5 к вопросам глобального существования. Оказывается,
глобальное решение существует тогда и только тогда, когда со-
сопряженный оператор и его локализации на бесконечности инъек-
тивны. Если коэффициенты вещественно аналитичны, то это
всегда справедливо по теореме единственности Хольмгрена (см.
§ 8.6). Однако в случае, когда коэффициенты принадлежат
лишь классу С°°, никакой такой теоремы единственности нет.
И действительно, в § 13.6 мы приводим несколько примеров не-
неединственности решения задачи Коши, в том числе для эллип-
эллиптического уравнения, которое имеет нетривиальное решение с
компактным носителем.
13.1. Определения и основные свойства
Мы будем рассматривать дифференциальные операторы, кото-
которые в пространствах BPtk являются ограниченными возмуще-
возмущениями дифференциальных операторов с постоянными коэффи-
коэффициентами. В силу теоремы 10.3.6 это приводит нас к следующему
определению.

13.1. Определения и основные свойства
Определение 13.1.1. Говорят, что дифференциальный оператор
Р(х, D), заданный при xgI, имеет в X постоянную силу, если
для любых фиксированных точек х, j/g! дифференциальные
операторы с постоянными коэффициентами Р(х, D) и Р(у, D)
имеют одинаковую силу, т. е.
Следующая лемма переводит это условие в более удобнук>
форму.
Лемма 13.1.2. Пусть оператор Р(х, D) имеет постоянную силу^
Фиксируем х° и положим P0(D) = Р{х°, D). Пусть Ро, ..., Рг —
базис в конечномерном векторном пространстве операторов с
постоянными коэффициентами, которые слабее Ро. Тогда
A3.1.1) P(xiD) = P0(D)+ficl(x)Pi(Dl
о
где коэффициенты С/ определены однозначно, обращаются &
нуль в точке х° и имеют те же свойства гладкости и непрерыв-
непрерывности, что и коэффициенты оператора Р(х, D).
Доказательство очевидно.
Покажем теперь, что оператор Р(х, D) и сопряженный опе-
оператор fP(x, D) имеют постоянную силу одновременно. Напом-
Напомним, что сопряженный оператор 1) задается равенством
J v*P (x, D)udx=\{P (x, D)v)u dx,
где либо v, либо и имеет компактный носитель.
Теорема 13.1.3. Пусть Р(х, D) — дифференциальный оператор
постоянной силы в X порядка m с коэффициентами класса
С°°(Х). Тогда *Р(х9 D) также является оператором постоянной
силы, одинаковой с Р(х, —D) при всех х.
Доказательство. Пользуясь представлением A3.1.1), получаем
*Р (х, D) = Ро (- Я) + Z Я/ (- D)€t
о
= Ро (- D) + ? ? ((- D)a с,) РТ'(- D)/a\.
а /«о
*) Определенный таким образом оператор гР часто называют транспони-
транспонированным оператором к Р, резервируя термин «сопряженный оператор» для
оператора, сопряженного относительно эрмитова скалярного произведения. —
Прим. ред.

14 13. Дифференциальные операторы постоянной силы
Поскольку с/ (л:0) = 0, то, в частности,
?>)+ Е ?{-О)ас,(
^О /0
Далее, при а ф О
Р(/а) (- D) <С Я/ (- D) < Ро (- D).
Поэтому из следствия 10.4.8 вытекает, что оператор *Р(х°, D)
имеет ту же силу, что и оператор Р{х°, —D). Последнее верно
при всех х°^Х, откуда ясно, что оператор *Р(х9 D) имеет по-
постоянную силу.
Перемножение операторов постоянной силы снова приводит
к операторам постоянной силы:
Теорема 13.1.4. Пусть P(x,D) и Q(xyD) — операторы постоянной
силы в X. Предположим, что коэффициенты оператора P(xt D)
принадлежат Ст(Х), где т — порядок оператора Q(x, D). Тогда
Д(х, D) = Q(x, D)P(x, D) — оператор постоянной силы. Более
того, полиномы R(x, g) и Q(xt ?)P(*, 5) имеют одинаковую силу
при всех х.
Доказательство. Пользуясь представлением A3.1.1) и формулой
Лейбница, получаем
A3.1.2) R(x,D) = Q(x,D)P(x, D)
= Q (х, D) Po (D)+ZZ Dacf (x) Q(a) (x, D) Pi (D)/al.
a /-o
Из условий
Q{oa)(D)Pi(D)<Qo(D)Pf(D)<Qo(D)Po(D) при a ф О,
а также из следствия 10.4.8 вытекает, что оператор R(x°t D)
имеет ту же силу, что и Qo(D)Po(D). Этим завершается дока-
доказательство.
Замечание. Важно отметить, что класс дифференциальных опе-
операторов постоянной силы связан с векторной структурой про-
пространства Rn. Поэтому он не инвариантен относительно нели-
нелинейных преобразований координат.
13.2. Теоремы существования в случаях,
когда коэффициенты только непрерывны
Следующий результат обобщает теорему 10.3.7.
Теорема 13.2.1. Пусть оператор P(xt D) с непрерывными коэф
фициентами имеет постоянную силу в окрестности точки х° е R"
п

13.2. Теоремы существования, когда коэффициенты непрерывны 21S
Если X — достаточно малая открытая окрестность точки jc°, to
можно найти такой линейный оператор Е в L2(X), что
A3.2.1) Р(х9
A3.2.2) ЕР (х, D)u = u, ue=:C~ (X),
A3.2.3) Q(D)E является ограниченным оператором
2( <°
р р
в L2(X) при Q(D)<PU°, D).
Замечания. 1. Тождество A3.2.1) нуждается в некотором пояс-
пояснении, потому что умножение произвольного распределения на
непрерывную функцию не определено. Это тождество надо пони-
понимать в том смысле, что если записать Р(ху D) в виде A3.1.1), то
Po(D)Ef+?c,P,(D)Ef = f9
о
а это уже имеет смысл, так как P}(D)Ef e L2(X) в силу свой-
свойства A3.2.3).
2. Согласно теореме Шварца о ядре (теорема 5.2.1), огра-
ограниченный линейный оператор Е в пространстве L2(X) имеет
ядро Е(х, у), которое является распределением в Ху^Х. Тож-
Тождества A3.2.1) и A3.2.2) показывают, что Е — двустороннее
фундаментальное решение оператора Р(х, D), т. е. если коэффи-
коэффициенты достаточно гладкие, то
Р (х, Dx) Е (х, у) = <Р (у, Dv) Е (х, у) = б (х - у).
Доказательство теоремы 13.2.1. Пусть Х\ — такая ограниченная
окрестность точки х°, что оператор Р(х, D) имеет постоянную
силу и непрерывные коэффициенты в Хх. Если X а Хи то мы
можем применить теорему 10.3.7, положив в ней Р = Ро> и по-
получить ограниченное линейное отображение Ео в L2(X), для
которого
A3.2.4)
A3.2.5) Е0Р0 (D)u = u, u<= Co (X),
A3.2.6) N(Pf(D)EQ)<C, / = 0, ..., г.
Здесь через N обозначена операторная норма в L2(X), и если
ХаХ\, то постоянную С можно выбрать не зависящей от X.
Операторы Р/ здесь те же, что были введены в лемме 13.1.2. Мы
хотим найти решение уравнения
A3.2.7) Р{х9 D)u = P0(D)u+? с,(х)Pl{D)u = fs= L2{X),
о

216 13. Дифференциальные операторы постоянной силы
имеющее вид u=Eog, g^L2{X). Это означает, что мы хотим
решить следующее уравнение относительно функции g:
< 13.2.8) g+?c,P,(D)Eog=f.
Если обозначить через А оператор
то, как следует из неравенства A3.2.6),
W)<?p|/|
С X
Поскольку коэффициенты с/ непрерывны и с/(лсо)=О, то N(A)<
< 1/2, если X — достаточно малая окрестность точки х°. По-
Поэтому оператор I-{-А имеет обратный, норма которого не пре-
превосходит 2. (Через / здесь обозначен тождественный оператор.)
Это означает, что уравнение A3.2.8) имеет единственное реше-
решение g =(/ + A)~lf. Положим Е = Е0A-\- Л)-1. Тогда Ef = Eog,
где g удовлетворяет уравнению A3.2.8). Тем самым равенство
A3.2.1) доказано. Из оценки A3.2.6) и из того, что операторы
Pj(D), / = 0, ..., г, образуют базис для операторов, более сла-
слабых, чем P0(D), сразу вытекает справедливость A3.2.3). Нако-
Наконец, если f = P(x, D)uy i/gCo°°№, to единственным решением
уравнения A3.2.8) является функция g = Pq{D)u. Следова-
Следовательно, Ef = Eog — и, что и доказывает равенство A3.2.2).
13.3. Теоремы существования в случае,
когда коэффициенты принадлежат С°°
В этом параграфе мы хотим показать, что теорема 13.2.1 оста-
остается справедливой при замене в ней L2 любым из пространств
Вр, и- Для того чтобы получить этот результат в случае множе-
множества Ху не зависящего от выбора 4е«У, мы заменим k другой
функцией к6^Жу которая выбирается в соответствии с теоре-
теоремой 10.1.5. При этом Вр,/г = Bp,k6, а следующая лемма показы-
показывает, в чем преимущество использования весовых функций k6
вместо k.
Лемма 13.3.1. Пусть feeJif, « пусть kt задается так же, как
s теореме 10.1.5. Для всякой функции ф?? существует такое
положительное число бо, что
при 0 < б < б0; и^ВР,к = ВР

13.3. Теоремы существования, когда коэффициенты принадлежат С°° 217
Заметим, что норма функции ср в правой части не зависит
от k. Число бо, разумеется, зависит от k, но это не существенно-
для последующих приложений.
Доказательство леммы 13.3.1. В силу теоремы 10.1.15 нам надо
лишь доказать, что
при б < бо. Но это очевидно, так как из условий A0.1.10),.
A0.1.11) следует, что при б->0
IIФ Hi. мч = BлГЛ J I Ф (I) I М*б (I) dl -> Bл)~п J ! ф (Б) | dl = || Ф ||1§,.
Для применения леммы 13.3.1 нам понадобится еще следую-
следующая дополнительная информация:
Лемма 13.3.2. Пусть^<=С™(Яп). Положим^е(х)=^ ((*—JC°)/e).
Если h^C°° в окрестности точки х° и h(x°) = 0> то ИфеАИы =г
= О(е) при 8->0.
Доказательство. По теореме 1.1.9 мы можем выбрать такие
функции hf e Со*, что
в окрестности нуля. Воспользовавшись теоремой 10.1.15, мы при7
малых е получим
что. и завершает доказательство.
Теорема 13.3.3. Пусть оператор Р(х, D) имеет коэффициенты
класса С°° и является оператором постоянной силы в окрест-
окрестности точки JC°GRn. Если X — достаточно малая окрестность
точки jc°, то существует линейное отображение Е пространства
&'(Rn) в &f{Rn)y обладающее следующими свойствами:
A3.3.2) P{x9D)Ef = f в X при f<=8'{R%
A3.3.3) EP(x,D)u = u в X при ие=<Г(Х),
A3.3.4) ll?/IU*<cjmu
при f е= # (R*) П В„. * и keX.
Здесь постоянная Ck не зависит от /, и свойство A3.3.4)
означает, в частности, что
E^BPiPak при /sr(R")nBAt.

218 13. Дифференциальные операторы постоянной силы
Доказательство. Обозначим Хъ= {х\ \х — л:01 <С е} и выберем
«о > 0 так, чтобы оператор Р(х, D) имел коэффициенты класса
€°° и был оператором постоянной силы в ХВп. Пусть x^C(R"),
Х = 1 в окрестности шара {х; |д:|^2ео}, и положим F0 = %E0,
где Ео^ В[™рп (R") — фундаментальное решение оператора
Pq(D). Если snppfczX^ то F0*f = EQ*f в ХВо. Поэтому в Хг,
<13.3.б) Ро (D) (Fo * f) = Fo * (Ро (D) f) = f
при f^<g'(Xz). Заметим также, что
{13.3.6) ^оеВоо, Pi-
Возьмем такую функцию г|э е С~ (Rrt), что -ф(л:)=1 при
|л:|^ 1, a slippy заключен в шаре {х\ |jc|^2}. Обозначим еще
^58(д:) = г|)((д: — х°)/г). Ниже мы докажем, что существует такое
положительное число еь что при 0 < 8 < ei < ео/2 уравнение
{13.3.7) g+t ^eC,Pi(D)(Fo*g) = V
0
имеет единственное решение ^G(?"(Rn) для любого f e^T'(Rrt)
Приняв этот результат пока на веру, определим
<13.3.8) E/ = F0*g.
Поскольку supp г|)е cz Хео, имеем g^&'iX^. Поэтому из ра-
равенств A3.3.5) и A3.3.7) вытекает, что
Р (х9 D)Ef = P (xt D) (Fo * g) = Ро (D) (Fo * g) + ? ^Pf (D) (Fo ¦ g)
Этим доказана справедливость A3.3.2). Если мЕ^Aе), то
функция g = Pq(D)u удовлетворяет уравнению A3.3.7) при
f = P(x, D)u. Действительно, из A3.3.5) следует, что Fo*g =
— и в Х2г и носители обеих частей уравнения A3.3.7) содер-
содержатся в Х2е- Поэтому ЕР(х, D)u — Fo*(Po(D)u)= и в Хъ.
Чтобы доказать существование и единственность решения
уравнения A3.3.7) и справедливость условия A3.3.4), изучим
отображение Л8, определяемое формулой
< 13.3.9) Aeg = ? ф^Р, (D) (Fo * g)> 8^ &>' (R").
о
Оценим норму Аг в Вр, ьб в случае, когда k^Xf а функция
kt определяется так же, как в теореме 10.1.5. Заметим сначала,
что из условия A3.3.6) вытекает существование такой постоян-

13.3. Теоремы существования, когда коэффициенты принадлежат С°°
ной С, что \Pj(QPqA)\^ С, / = 0, ..., г. Если б достаточна
мало, то из леммы 13.3.1 и теоремы 10.1.12 следует, что
A3.3.10) WA^Wp, h<2 ^\\^с}1л\\Р,Ф)Fo*g\\p,
Далее, как видно из леммы 13.3.2, ei можно выбрать так, что
О < 8i < 80/2 и
г
A3.3.11) ?lHv?/Di.i< 1/4C при 0<в<в!.
о
Заметим, что выбор ei не зависит от функции к. Из неравенства
A3.3.10) следует теперь, что
A3.3.12) || Azg IU h < 2-11| g \\р, ifti g € Вр. v
Уравнение A3.3.7) можно записать в виде g + Aeg = г|)е/. По-
Поскольку Вр, *б = Вр, л, из оценки A3.3.12) сразу следует, что для
/еВр, k уравнение A3.3.7) имеет единственное решение gG
g ВР) fe, причем ge^f^R"), так как носитель функции г|)8 ком-
компактен. Заметим, что каждое конечное множество распределений
из пространства ^(R") содержится в пространстве BPyk для
некоторого k. Отсюда можно заключить, что уравнение A3.3.7)
имеет одно и только одно решение gG^f'fR") для любога
распределения /e^fR"). Из неравенства A3.3.12) следует
оценка || g \\Pt k6 < 21| г|э8/ ||р§ ку в силу чего
о^ о " 8 К »6<Ц F° 'U ?o " ; 'U h И Фе II,. г
Тем самым свойство A3.3.4) доказано, так как нормы ||/||р, *б &
|| / ||р, к эквивалентны.
Приведенное ниже следствие обобщает теорему 10.3.2.
Следствие 13.3.4. Пусть Р(х, D) и X те же, что и в теореме*
13.3.3. Если и<=&'(Х) иР (х, D)u<= Вр, ь то и*= Вр ^.
В следующем утверждении существенно, что множество X
можно выбрать одним и тем же для всех функций k, встречаю-
встречающихся в теореме 13.3.3.
Следствие 13.3.5. Пусть Р(х, D) и X те же, что и в теореме-
13.3.3. Тогда уравнение Р(х, D)u = f имеет решение ижС°°(Х\
для любой функции /sC°°(Rrt)

220 13. Дифференциальные операторы постоянной силы
По теореме Шварца о ядре (теорема 5.2.1) отображение Е
в теореме 13.3.3 имеет ядро е(х, y)^2)'(RnX^n). Из равенств
< 13.3.2), A3.3.3) следует, что в произведении XXX имеет место
равенство
Р (*, Dx) e (xt у) = <Р {у-, Dy) e (х, у) = 6 (х- у).
Особенности ядра е(х, у) очень похожи на особенности ядра
оператора свертки (ср. с (8.2.15)):
Теорема 13.3.6. Из условия A3.3.4) вытекает следующее свой-
свойство:
(х,у, Б, 4)e
где е — ядро оператора Е.
Доказательство. В силу A3.3.4) и теоремы 10.1.14
J/И,. *II8II* !,>.* при /,«еС {Rn) и
Если мы заменим функцию f(y) на f(y)ei{y*^9 a g(x) на
.g{x)eiix*® и положим и =(g® f)e, то получим, что
03.3.14)
Поскольку
| Лг (в) f (в — л) I ^ Ar (ri) (I -f- С | в — л ! )^ I f (в —
м/еУ, то мы можем оценить /Лнорму в A3.3.14) умноженной
на постоянную функцией k(r\). Воспользовавшись аналогичной
оценкой для другой нормы в A3.3.14), получим
< 13.3.15) |Л(Б, -Ч)|<С^(Т|)/А(Б).
Покажем теперь, что из оценки A3.3.15) следует, что функция
й(|, —т]) быстро убывает при (|, т])->оо в дополнении к любой
конической окрестности W диагонали в РХ R"-
Будем рассуждать от противного. Предположим, что суще-
существует такая последовательность (|/, т)/)^ W, стремящаяся к
бесконечности, что для некоторого фиксированного N
A3.3.16) |Л(БУ, -Ч/)|>A + |Бу1 + |т|у|Г\ /=1, 2, ....
Так как включение к^Ж влечет включение 1/feeJif, то усло-
условие A3.3.15) симметрично по | и т), поэтому мы можем считать,
что |т]/|^||/|. Можно также перейти к подпоследовательности,
сделав последовательность настолько разреженной, что для
всех /
.17) '\l,+i\>\l,P>2\l,\.

13.3. Теоремы существования, когда коэффициенты принадлежат С°° 221
Введем теперь функцию
которая с очевидностью принадлежит X. Ясно, что (\\)
^(l+|g/|). Заметим, что ?(?)^2 вне множества, на котором
\1 — Ы<|Ы/2 при некотором /, и, следовательно,
Поскольку | Л/1 < IS/1 < 16/+i/21 у отсюда следует, что
й(Лу)<тахB, A -К I S,—ж I >• 0 + I 6, |)/A + 1I, - Л/1».
По условию (?/, л/)9^ ^» поэтому |?/— Л/|>с|5/| с некоторой
фиксированной постоянной с > 0. Следовательно, в силу
A3.3.17)
1/2
откуда вытекает неравенство к (л/) /k (?/) < 2СХ A +117-1) -1/2.
Если мы теперь применим неравенство A3.3.15), в котором
функция k заменена на k2N+l, то получим противоречие с усло-
условием A3.3.16). Доказательство завершено.
Мы знаем из теорем 12.4.6 и 12.8.17, что Р(х, D) является
гиперболическим оператором (соотв. эволюционным операто-
оператором) для каждой фиксированной точки xgI, если множество
X связно и это верно для некоторой точки х = х°. Поэтому за-
задача Коши может быть решена так же, как в случае операторов
€ постоянными коэффициентами:
Теорема 13.3.7. Предположим, что справедливы условия теоремы
13.3.7 а, кроме того, оператор P(x°,D) гиперболичен относи-
относительно вектора N (соотв. является эволюционным оператором
относительно полупространства Н = {х\ <х, N}^0}). Тогда
если /g^m E — отображение, построенное в теореме 13.3.3, то
<13.3.18) supp?/c:ro(P, iV) + supp/
(соотв. suppf/ с Н + supp/).
Доказательство. Искомый результат получается с помощью ана-
анализа доказательства теоремы 13.3.3. Заметим сначала, что
свертка с Fo обладает нужными свойствами, если выбрать фун-
фундаментальное решение Ео с носителем в Г°(Р, N), соотв. в #.
(На самом деле мы должны воспользоваться теоремой 12.8.13,
а также следующим за ней комментарием.) Отсюда вытекает,
что оператор Л8«тоже обладает свойством A3.3.18), как и опе-
оператор (/ +Ле), поскольку он может быть выражен с помощью
ряда Неймана. Этим доказательство завершается.

222 13. Дифференциальные операторы постоянной силы
13.4. Гипоэллиптичность
Теперь уже нетрудно обобщить результаты § 11.1 на операторы
постоянной силы.
Теорема 13.4.1. Пусть Р(х, D)—оператор постоянной силы с
коэффициентами класса С°°(Х). Предположим, что оператор
Роф) = Р(х°, D) гипоэллиптичен в некоторой точке х°&Х.
Если иеЕ®'(Х) и Р(х, D)ut= Bl™k(X), то mgB^(I).
В частности, из того что Р(ху D)u^C°°(X), вытекает, что и&.
С°°(Х)
Заметим, что, согласно теореме 11.1.9, условия нашей тео-
теоремы на самом деле выполнены для всех л:0 е X.
Доказательство теоремы 13.4.1. В силу сделанного замечания и
теоремы 10.1.20 достаточно доказать наше утверждение для не-
некоторой окрестности точки х°. С этой целью представим сначала
полином Р Ъ виде A3.1.1). Пусть d(|) — расстояние от точки
?е Rn до нулей полинома Po(t). В силу неравенства A1.4.10),
d+ I eJ, а теорема 10.4.3 дает нам
\P?(l)\2(d® + lJ|a|<C Z \P^(l)\2(d A)+1J|а| <С'(Р0A))\
а
где последняя оценка получается из леммы 11.1.4, а С, С — по-
постоянные. Обозначим
Тогда с некоторой постоянной С
A3.4.1) P'/(?)<C
Пусть Y — такая окрестность точки х°, что УеХив У спра-
справедлива теорема 13.3.3. Тогда we B?%(Y) для некоторой функ-
функции ^gX Повторив доказательство теоремы 11.1.7, мы дока-
докажем, что
A3.4.2) uz=B{p%v(Y), v = 0, I, ... ,
где ftv = inf(Po&, (flf+l)^7). Так же как при доказательстве
теоремы 11.1.8, отсюда следует, что Bl°*k =BlpCfk при боль-
больших v. Тем самым теорема будет доказана.
При v = 0 условие A3.4.2) очевидно, так как ko^k'. Пред-
Предполагая A3.4.2) уже доказанным для некоторого значения v,
покажем, что v можно заменить на v+1. Итак, возьмем
Ф е Со° (У) и положим С/ = Cj при / ф 0, Со = с0 + 1, где с} —
коэффициенты в представлении A3.1.1). С помощью формулы

13.4. Гипоэллиптичность 223
Лейбница получим
P(x,D) (<ри) = ФР (х, D) и + У Z (Яаф) С/Р^ Ф) «/а!.
Члены, стоящие под знаком суммы, принадлежат Вр k rp*,
а значит, и Вр k ,р , поскольку, в силу A3.4.1),
< CAV. Так как фР (jc, D)u€=Bp,ku Av+i/P0 < Л, то Р (х,
^Вп ь /р • Чтобы вывести отсюда включение ф^еВ« *
достаточно воспользоваться следствием 13.3.4. Поэтому усло-
условие A3.4.2) остается справедливым и после замены в нем v на
v+ 1. Доказательство завершено.
Из теоремы 10.4.9 легко вытекает, что эллиптические опера-
операторы удовлетворяют условиям теоремы 13.4.1. Для эллиптиче-
эллиптических операторов следствие 8.3.2 представляет собой более
сильный результат, чем последнее утверждение теоремы 13.4.1.
В общем случае имеет место
Теорема 13.4.2. Если оператор Р(ху D) удовлетворяет условиям
теоремы 13.4.1, то
A3.4.3) WF(u)=WF(P(x, D)u), u<=2)'(X),
A3.4.4) sing supptt = sing suppP(x, D)u, u^g)'(X).
Доказательство. Равенство A3.4.4) является следствием равен-
равенства A3.4.3); кроме того, оно было доказано в теореме 13.4.1.
Чтобы доказать равенство A3.4.3), мы для произвольной точки
jc°gX выберем сначала ее окрестность У^Х, в которой при-
применима теорема 13.3.3. Можно считать, что u^.&'(Y). Если
(*°, Ъ°)(? WF(P(x, D)u), то найдется такая функция феС0°°(К),
равная 1 в окрестности точки х°, что множество УХ {I0} не пе-
пересекается с WF (фР(х, D)u). Значит, по теореме 13.3.6 множе-
множество УХ{?0} не пересекается с WF{E(cpP(x,D)u)), а по теоре-
теореме 13.4.1 тогда ?(A — ф)Р(х, D)u)& C°° в открытой окрест-
окрестности точки х°, где ф = 1. Так как и = Е(Р(х, D)u) в У, то
(х°у ?°)<^ WF(u). Отсюда следует, что
WF(u)czWF(P(x, D)u).
Противоположное включение верно всегда.
Следующая терминология вполне согласуется с определением
11.1.2.
Определение 13.4.3. Дифференциальный оператор P(jc, D) с ко-
коэффициентами класса С°°(Х) называется гипоэллиптическим,
если выполнено условие A3.4.4); он называется микрогипоэллип-
тическим, если выполнено условие A3.4.3).

224 13. Дифференциальные операторы постоянной силы
Следующая теорема вместе с теоремой 13.4.2 показывает, что
для операторов постоянной силы эти понятия совпадают.
Теорема 13.4.4. Если оператор Р(ху D) имеет постоянную силу
в X и его коэффициенты принадлежат классу С°°(Х), то
оператор P(x,D) гипоэллиптичен тогда и только тогдау
когда оператор с постоянными коэффициентами P(x°>D) гипо-
гипоэллиптичен при каждом х° е X.
Доказательство, Равенство A3.4.4) остается справедливым, если
множество X заменено на открытое множество У Ш X, в котором
применима теорема 13.3.3. Если х° е У, то
и = Е6Хо е В1?р9 (У), Р (х9 D)u = 6xQ.
Из условия A3.4.4) вытекает включение и е С^УХ^л:0}). Пусть
Qo— локализация полинома Ро на бесконечности. Так же как
в доказательстве теоремы 10.2.12, можно найти такую последо-
последовательность Г]/~)-ОО, ЧТО
а поскольку оператор Pk слабее Ро, то пределы
/->оо
также существуют для некоторой подпоследовательности. Из
доказательства теоремы 10.2.12 нам также известно, что благо-
благодаря включению «еВ^ предел
существует для некоторой подпоследовательности, а так как
ue=C°°(Y\{x0}), то v =0 в УХ{л:0}. Из уравнения Р(х, D)u =
= дх° следует, что
поэтому v Ф0. Если феСо°(У) и ф=1 вблизи точки х°9 то
произведение w=q>v имеет носитель в точке х° и w Ф 0. Зна-
Значит, w =е1 <х°* ^)(ф (|), где функция г|) есть ненулевой полином,
для которого произведение г|><5о ограничено. Следовательно, по-
полиномы гр и Qo оба ограничены и, значит, все локализации по-
полинома Ро на бесконечности являются постоянными. В силу
условия (iv) теоремы 11.1.1 это в точности означает, что поли-
полином Ро гипоэллиптичен.
Однако мы хотим подчеркнуть, что имеются большие классы
гипоэллиптических операторов, которые не являются операто-

13.5. Глобальные теоремы существования 225
рами постоянной силы и к которым теорема 13.4.4 неприменима.
Например, уравнение Колмогорова G.6.13), соответствующее
оператору — D2X -f x{iD} — /D3, является гипоэллиптическим
(в этом легко убедиться, воспользовавшись фундаментальным
решением, построенным в § 7.6). Однако при фиксированном х\
этот оператор действует вдоль двумерной плоскости. Поэтому
такое уравнение при замороженных коэффициентах не гипоэл-
липтично.
13.5. Глобальные теоремы существования
В этом параграфе мы рассмотрим случаи, когда условие тео-
теоремы 13.3.3 о том, что множество X мало, можно опустить. Мы
должны тогда рассмотреть локализации на бесконечности опе-
оператора постоянной силы Р(х, D). Неявно они уже встречались
нам в доказательстве теоремы 13.4.4, Видоизменяя определение
10.2.6, мы будем говорить, что оператор Q(x, D) является лока-
локализацией на бесконечности, если Q не равен нулю тождествен-
тождественно и
Q(x, l)=lima,P(x, g + g,)
для некоторой последовательности g/ е Rn, g/->oo, и некоторой
последовательности а}- > 0. Заметим, что
$(*, 0)= lim а,Р(*, gy).
Для полинома Р0(?)=Р(х°, ?) при некотором фиксированном
х° мы, в частности, получаем, что a/P0(?/)-* Q(*°,0) и Q(x°,0)>
> 0, поскольку иначе предел
Hma,P(jc, g/) = lima/P0F
был бы равен нулю при любом х. Таким образом, если взять
aj = 1/Po(gy), то полином Q изменится лишь на положительный
множитель. Поэтому
A3.5.1) Q(jc, g)= limP(jc, g + lt)/P0 (g,).
Этот выбор последовательности a/ нормирует полином Q посред-
посредством равенства Q(x°, 0)= 1. Ясно, что полином Q также имеет
постоянную силу. Из равенства A3.1.1) получаем, что по край-
крайней мере для некоторой подпоследовательности
Q (jc, D) = Qo (D) + ? с, (х) Qf (D),
Поэтому коэффициенты оператора Q(xtD) также принадлежат
классу С°°.

226 IS. Дифференциальные операторы постоянной силы
В следующей теореме мы обозначаем через BPtk(X) множе-
множество всех сужений на X элементов из BPt k, т. е. Вр k (X) =
= Bp,k/NPik{X), где
Np,k(X) = {uf=Bp,k; н = 0 в X}.
Если р <С оо и k'(Q= l/k(—?), то по теореме 10.1.14 простран-
пространство Вр>, k' является двойственным к^ BPt *. Поэтому двойственное
к Bp>k(X) есть пространство B°f/t w {X)> элементами которого слу-
служат функционалы из Вр>% w, равные нулю на Np,k(X). Они
имеют носители в X. С другой стороны,
A3.5.2) в1>, к> (X) z> 8' (X) П Вр>% k>.
В самом деле, из теорем 10.1.16 и 10.1.17 следует, что каждый
элемент u^NPyk{X) является пределом в Bp>k последователь-
последовательности UJ&97, элементы которой обращаются в нуль на каждом
компактном подмножестве в X при больших /.
Георема 13.5.1. Пусть Р(х, D) — оператор с коэффициентами
класса С°°, имеющий постоянную силу в открытом множестве
XcRn. Пусть рфоо, и предположим, что множество
Р (xt D)Bp kp(Y) имеет конечную коразмерность в BPtk{?) при
всех AgJ и YmX. Тогда оператор 'Q(jc, D) инъективен на
&'(Х), если Q — произвольная локализация оператора Р на
бесконечности. Если Р(х, D)Bp k^(У) = Вр k (Y) при всех к&Ж
и Y шХ, то оператор Ф также инъективен на &'(Х).
Доказательство. Начнем доказательство с последнего утвержде-
утверждения. Если непрерывный оператор P(x,D) из Вр,kP(Y) в BPtk(?)
сюръективен, &р= ЛР0, то сопряженный оператор *Р: Вр\ fe,G)->
-> В0 , (Y) инъективен. Таким образом, включение A3.5.2) по-
pf* kp
казывает, что из условия *Ри = 0 следует равенство и =0, если
только u^l8'{Y) и «е Вр>, к>. Это утверждение верно для каж-
каждого элемента и&&'(Х)у если выбрать y=5suppw и А(|)=»
s=(l +|5|)s» где 5 достаточно велико.
Допустим теперь, что множество Р (х, D) Bp, kP (Y) имеет ко-
конечную коразмерность N в Вр, *(Р). Поскольку пространство 9*
плотно в BPt k, то множество С°°(?) плотно в BPtk(?). Поэтому
можно выбрать функции фЬ ..., q)N^C°°(?) так, чтобы их ли-
линейная оболочка порождала дополнительное подпространство к
Р(х9 D)Bp,kP(Y) в Bok(Y). Тогда
ЛГ
T(v, a{, ..., aN) = P(x, D)vT

13.5. Глобальные теоремы существования 227
есть сюръективное отображение из BPtkp(Y)Q)CN в Bp,k(Y).
Следовательно, его сопряженное *Т есть инъективное отображе-
отображение с замкнутой областью значений. По теореме о замкнутом
графике оно имеет непрерывное обратное. Таким образом,
A3.5.3) Wv^^
Если Q — локализация полинома Р на бесконечности, зада-
задаваемая равенством A3.5.1), то
Применим теперь неравенство A3.5.3) к функции v(x)*=
= w(х)e~l(x>*f\ w^Cq (У), и устремим / к бесконечности. Тогда
сумма в A3.5.3) сходится к нулю. Если существует предел
A3.5.4) ИтА(| + |/)
/-»оо
то ввиду неравенства
получаем, что w (l)/k (— I + 6/) -> w AI k^ (— 1) по 1р/-норме.
Поэтому л
Ясно, что
/
Поэтому левая часть неравенства A3.5.3) сходится к ||ш||,
F/ - 6» -> 1/(*о (- 6) Qo (-6)).
Значит, из A3.5.3) вытекает оценка
A3.5.3/ |ML ,; <C\\fQw || 'fc/ , weC?(Y).
Для всякого 5 можно выбрать такую функцию k> что ko(l) =
= A+UI)S» по крайней мере в случае, когда последователь-
последовательность |/ настолько разрежена, что |?/ — ?И>/ ПРИ /^^ (по*
следнее всегда можно предполагать). Этот факт достаточно до-
доказать при s = 1, а затем нужно лишь взять
+16-6*1).
В силу неравенства треугольника &(? + г])^A +Ы)?(Е), по-
поэтому AgI. Имеем АF + 6/)= 1+UI при |6|<//2, так как
тогда |6 + 6/ — 6*1 > 16/ — 6*| — /У2 >//2, fe?=/. Поэтому оцен-
оценка A3.5.3)' справедлива с ko(l) = (I +|g|)s. Теперь свойство
инъективности оператора 'Q можно установить так же, как в
начале доказательства, если распространить оценку A3.5.3)' на
все aiel'(Y)flВ^к^. При рг — оо потребуем, чтобы^(I) 0(|)*
8*

228 13. Дифференциальные операторы постоянной силы
-> 0, когда ?->оо. Тогда регуляризация ш*фе из теоремы 10.1.17
сходится к w по норме В , .< при е->0. Поскольку оценка
р , «0
A3.5.3)' верна для функции ш*фе при малых е, мы установим
A3.5.3)' для распределения w, устремляя е к нулю. Доказатель-
Доказательство завершено.
Если оператор Р(х, D) имеет постоянную силу и его коэф-
коэффициенты аналитичны, то сопряженный оператор fP(x, D) инъ-
ективен на 8'% В самом деле, предположим, что 0 ф и е &' и
fP(x, D)u=0. Если ge Rn\0 и точка x^suppu выбрана так,
что скалярное произведение О, ?> максимально, то из теоремы
8.6.5 вытекает, что (х, ?) принадлежит характеристическому
множеству полинома гР. Следовательно, по теореме 13.1.3 глав-
главная часть полинома Ро обращается в нуль в точке \. Так как
%— произвольная точка, получаем противоречие. Поскольку ло-
локализации полинома Р на бесконечности также имеют постоян-
постоянную силу, то справедливы заключения теоремы 13.5.1. Однако,
как мы увидим в § 13.6, даже эллиптические уравнения с
С°°-коэффициентами могут иметь решения с компактным носи-
носителем. Поэтому представляет интерес следующее утверждение,
обратное к теореме 13.5.1.
Теорема 13.5.2. Пусть Р(х, D) — оператор постоянной силы с
С™-коэффициентами в открытом множестве X cz Rrt. Предполо-
Предположим, что оператор 'Q инъективен на <%'{Х), где Q — произволь-
произвольная локализация оператора Р на бесконечности. Тогда
13.5.5) R (?) = {«;€=«" (?); fPw = 0}
есть конечномерное подпространство в С~(У), где Y — произ-
произвольное открытое множество, Y шХ. Для каждого элемента
f ge BPtk(Y), для которого </, ф>=0 при всех_ qp e RG), урав-
уравнение Р(х, D)u =f имеет решение и е Вр k$ (Y).
Заметим, что скалярное произведение </, ф> определено, так
как по теореме 2.3.3 </7, ф> = 0 для каждого распределения
Fs^'jR"), равного нулю в У.
Для доказательства теоремы 13.5.2 нам понадобятся две
леммы. Первая показывает, что преобразование Фурье каждого
негладкого распределения с компактным носителем может быть
локализовано на бесконечности. Во второй лемме норма в про-
пространстве BPtk описывается в терминах норм в пространствах
Лемма 13.5.3. Для каждого м е ?Г'(R*). \ С* можно найти после-
последовательность Б/-*оо в R" и постоянные tj&?bt такие что по-

13.5. Глобальные теоремы существования 229
следовательность ^ехр(—?<•, ?/>)и имеет предел иоФО в <Ь"
при j-> оо и supp uq си sing supp и.
Доказательство. Мы должны выбрать такие последовательности
6/ и tj, что tju(%-{- ?/)->¦ й0 в 57/. Для этого заметим сначала, что
с некоторыми постоянными С и М
Поскольку и ф Со°» мы можем также найти такую последова-
последовательность г|/->оо в Rn, что с некоторыми другими постоянными
\йA\,)\>СA+\1\,\Г.
Мы будем выбирать точки 6/ поблизости от точек т|/, так чтобы
значения fiF/) случайно не оказались малыми. Для этого по-
положим
где N — такое число, что N > М и |й(|)|/г(| — Л/)-*0 при
|->оо. Пусть |/ — точка, в которой функция
достигает максимума. Тогда
поэтому
Если N > 2М — |л, то |6/ — Л/1/1 Л/1-^0 ПРИ /-*-о®. В частности,
6, ->оо. Поскольку
получаем, что
|й(§Ж1йA,IA+11-1/1)".
Воспользуемся тем, что ограниченная в Boo, kN последователь-
последовательность распределений с носителями в F предкомпактна в В«>, kNJrX
(теорема 10.1.10). Переходя к подпоследовательности, мы мо-
можем считать, что последовательность ие~*('' *'УЛF,) имеет предел
щ в Boo.ft^ f Поскольку йо(О)=1, находим, что щФО.
Оценки, полуденные выше, дают

230 13. Дифференциальные операторы постоянной силы
Если ф е Со° и ери е С~, то
<шГ' <'• */>/й (g,), Ф> = (щ) №,)/* (I/) -> 0 при /-> оо,
откуда следует, что supp и0 с: sing supp и. Доказательство за-
завершено.
Замечание. На самом деле мы не нуждаемся в последнем
утверждении леммы, однако включили его для того, чтобы на-
напомнить читателю аналогичное доказательство теоремы 10.2.12.
Если точка 0 принадлежит множеству Е(и), определенному так
же, как в § 8.1, т. е. (х, 0)е WF(u) при некотором х, то можно
взять точки r\j из любой заданной конической окрестности точки
0. Построенная последовательность |/ будет также принадле-
принадлежать каждой конической окрестности точки 0 при больших /.
Лемма 13.5.4. Пусть к^:Ж\ зададим функцию к^^.Ж при
rjGR" формулой
A3.5.6)
где М > п и
A3.5.7) *
Если К — компактное множество в Rn и 1 ^ р < оо, то при
u^<g'(K)[\BPtk норма \\u\\p,k эквивалентна норме
Доказательство. Так как \u(r\)k(r\) I^Hall^ k , то ||и||рЛ^
^IIMlIp, k- Для доказательства оценки в другую сторону возь-
возьмем функцию х е Со°> X = 1 в окрестности множества К. Тогда
й = Bя)-~пй#? при и^<?'(К). Поскольку
в силу неравенства Гёльдера имеем
Следовательно,
Интегрируя по г), получаем ||| и |||^ h < C21| и |? Л, что и завершает
доказательство, >

13.5. Глобальные теоремы существования 231
Доказательство теоремы 13.5.2. Если w&R(?)\C™, то по лем-
лемме 13.5.3 можно найти последовательность gy-^оо в R" и по-
постоянные //SlCj, для которых
wf = tjwe"* <*' */) -> ш0 ^ 0.
Ясно, что уравнение Фдо =¦= 0 приводит к равенству
*Р {wfi* <*'*^) = 0 и, значит,
'P(*,D +6/) », = <>.
Переходя к подпоследовательности, мы можем считать, что су-
существует предел
Q(x, ?) = Ит Р(^,Б —67)/Р0(—6,).
Так же как в доказательстве теоремы 13.5.1, получаем
*Р(*. 6 + 6/)/Po(-^-**Q(*. 6).
Поэтому fQ(x, D)wo = O, откуда по условию теоремы wq = 0.
Это противоречие дает нам включение R(Y) сСо°(У). Множе-
Множество /?(F) есть банахово пространство, в котором в качестве
нормы можно, например, взять максимум абсолютной величины.
По теореме о замкнутом графике С'-норма является эквивалент-
эквивалентной нормой в /?(Р). Таким образом, единичный шар компактен
и, значит, пространство R{?) имеет конечную размерность.
Для доказательства теоремы достаточно показать, что в
обозначениях доказательства теоремы 13.5.1 имеет место
оценка
A3.5.8) ll^||^ft,<C||^||p,^ при оеСГ(К) и v±R(Y).
В самом деле, тогда
A3.5.9) |</, о>|<С||/||р J'Рой, ,' при v eC0°°(f) и v±R(Y).
Поскольку элемент / ортогонален пространству /?(Р), это нера-
неравенство^ на самом деле справедливо для всех функций
v e Co>(Y)f так как функцию v можно представить в виде v =»
8=8 0i+ 02, где v\JlR(?) и v2^RG). Оценка A3.5.9) эквива-
эквивалентна такой же оценке для функции v\ вместо v. Поэтому ли-
линейная форма
fPv-><f, 0>, 0eCo°°(F),
непрерывна на некотором подпространстве пространства
Вр,к'. По теореме Хана — Банаха ее можно продолжить до

2S2 13. Дифференциальные операторы постоянной силы
непрерывной линейной формы и на В k> , такой что
(UttPv) = (f, v), v<=C~(Y).
Это означает, что Р(х, D)u = f в У и u^Bp,kp(Y) при рф\.
Так же как в доказательстве теоремы 12.8.13, это утверждение
справедливо также при р = 1.
Сначала докажем оценку A3.5.8) при р' = оо. Если эта
оценка не верна, то можно найти такие функции 0уеСо°(К),
v,±R(Y)9 что
A3.5.10) ИИо..*-1. WtpviL.kp<lll-
Выберем такую последовательность ?/, что |6/(g/) | А7(?/)"*" 1 ПРИ
/->оо, и введем функции До/ с помощью равенства
Л, (D-d, (Б+ ?,)/«, F,).
Тогда при больших /
A3.5.11) \tibia)\^k'
Поэтому существует подпоследовательность, имеющая в S9
предел, равный wf причем ш@)=1. (См. доказательство лем-
леммы 13.5.3.) Так же как в начале доказательства, мы можем
считать, что
' ?/)->'<? (*> 6).
Поскольку w/ = y/e"^*'^Vt)/(g), мы получаем
*Q (х, D)w = lim *-'<"• */>'Pvf/(PO (- g,) Й, (?,)).
Если теперь воспользоваться вторым условием в A3.5.10), то
мы найдем, что преобразование Фурье правой части в точке g
ограничено величиной
=г1 (kp af)/kp a+g,))/i ^ в,) л, F,) I,
которая, поскольку ^Gjf, стремится к нулю при /->оо
равномерно на компактных множествах. Таким образом,
fQ(xy D)w = 0, а, стало быть, по предположению оператор Q
не является локализацией на бесконечности. Это означает, что
последовательность g/ имеет конечную предельную точку g0 и,
следовательно,
0.

13.6. Неединственность решения задачи Коши 233
Поэтому элемент
Vq = wei «•. ъ> = Hm Vf/df (g;) & (У)
удовлетворяет уравнению tP(x,D)v0 = 0, т. е. уое/?(Р). С дру-
другой стороны, элемент у0 ортогонален к /?(?), так как это верно
для каждого i>/. Значит, у0 = 0, что противоречит условию
0о(?о)=1. Отсюда следует оценка A3.5.8) при //= оо.
Из доказательства также видно, что
A3.5.8/ iML^Cj'PoL^ при veC?(Y)*v±R(r)
• р
для каждой функции к^Ж> удовлетворяющей неравенству
A3.5.7) с фиксированными постоянными С и М. В самом деле,
в противном случае для некоторой,функции ii/El, удовлетво-
удовлетворяющей неравенству A3.5.7), мы получили бы A3.5.10). Оценка
A3.5.11) устанавливается так же, как и раньше, а остальная
часть доказательства проходит без изменений. В частности, мы
можем применить оценку A3.5.8)' к функции
Тогда 1гъA) = A +\1-ц\Гмk'(t). Если oe=C0°°(F) и vlRG)9
то в силу A3.6.8)'
A3.5.12) ИЦ7
где постоянная Сх не зависит от х\. Теперь мы получим оценку
A3.5.8) в общем случае, если возьмем число М достаточно
большим, возведем обе части неравенства A3.5.12) в степень
р' и проинтегрируем, воспользовавшись леммой 13.5.4. Теорема
доказана.
Мы уже отмечали, что условия теоремы 13.5.2 выполнены и
/?(F) = 0, если оператор Р имеет аналитические коэффициенты
(и постоянную силу). Эти условия выполнены и тогда, когда
все локализации оператора Р на бесконечности гиперболичны.
Это вытекает из теоремы 13.3.7. Поэтому теорема 13.5.2, в част-
частности, применима к операторам вещественного главного типа,
коэффициенты которых являются переменными лишь в млад-
младших членах. Однако в § 13.6 мы покажем, что в общем случае
условия теоремы 13.5.2 не выполнены и множество R(Y) может
иметь положительную размерность даже в эллиптическом
случае.
13.6. Неединственность решения задачи Коши
Если граница полупространства

284 13. Дифференциальные операторы постоянной силы
характеристична для оператора P(D), то из теоремы 8.6.7 нам
известно, что уравнение P(D)u=0 имеет решение, носитель
которого совпадает с HN. Это совсем очевидно, если оператор
P(D) однороден, поскольку тогда P(D)u=0 для произвольной
функции и, зависящей только от <jc, iV>. В этом параграфе мы
строим примеры, показывающие, что теоремы единственности,
полученные в § 8.6 для нехарактерйстическои задачи Коши, пол-
полностью нарушаются для операторов с С°°-коэффициентами. На
первый взгляд это может показаться удивительным. Однако
этого можно ожидать, если вспомнить, насколько существенно
в § 8.6 использовалось аналитическое продолжение.
Мы будем здесь применять обозначение
A3.6.1) PN(l)\
которое означает, что мы рассматриваем сужение Р на прямые
в направлении N. Как обычно, через Рт обозначается однород-
однородная часть оператора Р порядка т.
Теорема 13.6.1. Пусть P(D) и Q(D) — два дифференциальных
оператора с постоянными коэффициентами порядка ^ т,
Рт(ЮФ0 и
A3.6.2) supQN(t)/PN(t)=oo.
Rn
Тогда при некотором а^С°° (Rn), supp a a HNy уравнение
A3.6.3) (Р (D) + a(x)Q(D))u = 0
имеет решение и е С°° (Rn) с supp и — HN.
Предположение о том, что порядок оператора Q не превос-
превосходит т, можно было бы опустить, однако это удлинило бы
и без того длинное доказательство. Перед тем как его привести,
мы отметим некоторые следствия.
Следствие 13.6.2. Пусть P(D) и Q(D) — dea дифференциальных
оператора с постоянными коэффициентами, причем порядок Q
не превосходит порядка Р, но оператор Q не слабее Р. Тогда
для всякого вектора N е R*\0 можно найти такие функции
иеПК"), suppa = #*, и а<=С°°(Кп), supp a cz HNf что вы-
выполнено равенство A3.6.3).
Доказательство. Пусть m — порядок оператора Р. Если Pm(N) —
==0, то по теореме 8.6.7 можно взять а=0. При Ртф)Ф0
утверждение вытекает из теоремы 13.6.1. В самом деле, если
Qn{IX CPn{Q, to |Q(?)|< С'Р(Ъ). Отсюда следует, что опе-
оператор Q слабее Р (теорема 10.4.3), что приводит к противо-
противоречию.

13.6. Неединственность решения задачи Коши 235
Теорема 13.6.1 дает также примеры операторов постоянной
силы:
Пример 13.6.3. Пусть Р {%) = %> + Ц — Ц и # = @, 1, 0). Тогда
Pn (?) ^ U?"" ?з I + 2 при 12 = 0- Если функция Q линейна и отно-
отношение \Q(l) \/PN{Q ограничено, то Q(gb 0, dbgi) = 0, и потому
Q является линейной функцией только переменной ?2. Если
функция Q(?) линейна и зависит от (Ejb g3), то из теоремы 13.6.1
следует, что можно найти такую функцию а с носителем в полу-
полупространстве {х\ х2^0}> что уравнение A3.6.3) имеет решение
с носителем, равным этому полупространству.
Следующее утверждение является лишь обобщением этого
примера:
Следствие 13.6.4. Если P(D) — однородный оператор степени пг
и ? ^ 0, то заключение теоремы 13.6.1 верно для некоторого
однородного оператора Q порядка m — k> если только не вы-
выполнено условие
Пример 13.6.5. Существуют такие функции а и а, принадлежа-
принадлежащие классу C°°(R2), что
D2u + aD{u = 0
и supp и = {х; х2 ^ 0} id supp a.
Здесь мы могли бы заменить D2 произвольным дифферен-
дифференциальным оператором, не содержащим D\9 в частности произ-
произвольной положительной степенью оператора D2. Этот пример
может быть представлен в более эффектной форме:
Следствие 13.6.6. Пусть Q(x, D) — дифференциальный оператор
порядка m с коэффициентами класса С°°(Х)У где X — открытое
множество в R", и пусть ф е С°°(Х) — вещественнозначная функ-
функция, удовлетворяющая характеристическому уравнению
A3.6.4) Qm(x, gradi|)) = 0.
Пусть функция <peC°°(X) также вещественнозначна, и пред-
предположим, что векторы grad ф и grad я|) линейно независимы в
точке х° е X. Тогда существуют открытое множество У, х° е У cz
аХ, и дифференциальный оператор Р(х, D) с коэффициентами
класса C°°(Y) и главной частью Pm(xy D), равной Qm(xy D) при
<p(*)Ss ф(а:°), тйкие что уравнение Р(х, D)u=0 имеет решение
u^Ccb(Y) с носителем, равным множеству
A3.6.5) {х; *<=У

286 13. Дифференциальные операторы постоянной силы
Доказательство. Утверждение инвариантно относительно заме-
замены координат, поэтому мы можем считать, что х0 = 0 и
Тогда из A3.6.4) следует, что имеет место представление
где qf— операторы порядка m— 1. Пусть теперь функции и(х)=*
= и(хи х2) и а(х) = а(х\, х2) выбраны в соответствии с при-
примером 13.6.6. Тогда
Qm {xy D)u = q2 (x, D) D2u = — q2 {x, D) aD^.
Следовательно, оператор
Р {х9 D) = Qm (*, D) + q2(xt D) aDx
обладает нужными свойствами.
Предыдущее следствие применимо всегда, когда оператор
Qm имеет постоянные коэффициенты и не эллиптичен.
Следствие 13.6.7. Предположим, что выполнены условия след-
следствия 13.6.6 и, кроме того,
A3.6.6) ? Q<? (x, grad $)дфх, — 0.
(Это означает, что функция ф постоянна на бихарактеристиках,
порождающих поверхности уровня функции г|э.) Тогда суще-
существуют открытое множество У, х° еУ cz X, и дифференциальный
оператор Р(х, D) с коэффициентами класса C°°(Y) и главной
частью, равной Qm(x,D) в Y, такие что уравнение P(x,D)u = 0
имеет решение меС°°(У), носитель которого есть множество
03,6.5).
Доказательство. Можно опять считать, что i|)(x) = jci, y(x) =
я=—х2. Тогда условия A3.6.4) и A3.6.6) означают, что коэф-
коэффициенты при D? и DT~XD2 в Qm(x, D) обращаются в нуль.
Поэтому справедливо представление
п
Qm (x9 D) = q2 (x9 D) D\ + ? q, (x9 D) Dj9
q% — оператор порядка m — 2, а операторы qf при />2
имеют порядок m—1. Воспользуемся замечанием после при-
примера 13.6.5 и выберем С°°-функции а и и переменных (х\, л:2),
равные нулю при х2 ^ 0 и такие, что supp и совпадает с полу-

13.6. Неединственность решения задачи Коши 237
пространством хч ^ 0 и
Тогда
Qm{x, D)u = -q2(x, D)aDlu.
Поэтому оператор P(xf D), задаваемый равенством
Р (х, D) = Qm (*, D) + q2 (x, D) aDx,
обладает всеми требуемыми свойствами.
Следствие 13.6.7 применимо, если оператор Qm имеет по-
постоянные коэффициенты, а поверхность ср (х) = Ф (*°) представ-
представляет собой цилиндр, образующими которого являются бихарак-
бихарактеристики сопряженные к характеристической плоскости, отлич-
отличной от касательной плоскости к поверхности ф(х) = ср(л:0) в
точке х°. В самом деле, чтобы в этом убедиться, достаточно
заменить <р на функцию, для которой поверхности уровня в
окрестности точки х° отличаются от поверхности ф(лг) = ф(л:0)
лишь сдвигом, а в качестве tf> взять линейную функцию, по-
постоянную на рассматриваемой характеристической плоскости.
Заметим, что поверхность ср(х) = у(х°) может быть выбрана
выпуклой во всех направлениях, за исключением направления
бихарактеристики — образующей.
После всех этих примеров применения теоремы 13.6.1 пе-
перейдем к ее доказательству. Сначала сформулируем условия
теоремы в более удобном для доказательства виде.
Лемма 13.6.8. Пусть операторы Р и Q удовлетворяют условиям
теоремы 13.6.1. Тогда можно найти ряд Лорана
сходящийся при больших .t, и положительное целое х, для ко-
которых при *->оо
P(t(t) + ztN)r>c(P)
° 3'6*7) Q (I (/) + z?N) Г*(Q) -* с (Q) z
где с{Р) и c(Q) — некоторые отличные от нуля постоянные, а
g(P)> g(Q)> d(P), d(Q)—такие целые числа, что 0 < g(P)<.
(Q)d(P)d(QH
Доказательство. Из неравенства PN{v\) ^ m\\Pm(N) \ > 0 сле-
следует, что функция Qm(л)/^л/(л) непрерывна. Применяя теорему
А.2.8 к множеству

238 13. Дифференциальные операторы постоянной силы
получаем, что максимум частного Qn(i\)/Pn{i\) при r)eRrt,
|^| = /? достигается в точке r\ = r\(R), где \\(R) является алге-
алгебраической функцией при больших R. Из представления функ-
функции r\(R) в виде ряда Пюизё вытекает, что функция l(t) =
— ri(/r) при некотором целом г >0 представима в виде нуж-
нужного нам ряда Лорана.
По формуле Тейлора имеем
A3.6.8) р (б @ + zfN) = ? Up F @) (iz
Здесь функция ?>#Р (?(/)) либо асимптотически равна умно-
умноженной на постоянную величине /^ для некоторого целого \х}9
либо тождественно равна нулю. В последнем случае мы пола-
полагаем \xj = —оо. Сумма растет как t в степени
gP (х) = max (х/ + \if (Р)), х > 0,
которая является конечной выпуклой возрастающей кусочно
линейной функцией. Функция Р#(?@)*~^Р@) имеет отличный
от нуля предел при /->оо. Поэтому, в силу A3.6.2), ?q@)>
> gP @), где функция gQ вводится аналогично. С другой сторо-
стороны, поскольку Рт(ЩФ0, то gp{yc)^ кт и, значит, ^q(x)^
^Cgp(x) при больших х. Поэтому можно найти такое рацио-
рациональное число х > 0, что
gP (и) < gQ (х)
и функции g>, gQ линейны в окрестности точки х, причем на-
наклоны dp и d,Q этих функций удовлетворяют неравенству dp >
> dQ. В самом деле, функция gP перед тем, как догнать по
величине функцию gQy должна некоторое время возрастать
быстрее, чем gQ. Далее находим, что
где равенство имеет место лишь при одном значении / = /о, по-
поэтому gP (о) = <т/0 + |i^ (P) в окрестности точки х. Следовательно,
jo = dP, а из A3.6.8) следует, что первое из предельных соотно-
соотношений в A3.6.7) справедливо при g>(x) = g(P) и d(P)= dP =
= /о. Второе получается аналогично. Заменяя t на целую сте-
степень tt мы можем сделать х целым. Доказательство завершено.
Доказательство теоремы 13.6.1. Мы будем определять функцию
а из дифференциального уравнения A3.6.3). Задача состоит
в том, чтобы построить такую функцию иу чтобы функция а =
= —P(D)u/Q(D)u была гладкой. Положим 6v = l/v, /V=2V и
A3.6.9) uv (x) = exp / «*, g (/v)> + cpv «*,
(x, A^)e/V = Fv+1, 6V-1).

13.6. Неединственность решения задачи Коши 239
Здесь функции cpv будут позднее выбраны так, чтобы функции
uv удовлетворяли нужному дифференциальному уравнению. Для
некоторого большого целого v0 мы положим тогда
A3.6.10) и (х) = Z Xv «х. W «v (х), х s R",
Vo
где xvsCo°°(/v), OCv^l в окрестности интервала (bVt b'v-\)i
b'v — (bv + 6v+1)/2. (Первый член суммы будет немного под-
подправлен.) Тогда и(х)= uv(x)-\- uv+\(x) для значений <*,#>,
близких к b'v. В случае когда скалярное произведение <*, N} на-
находится на некотором расстоянии левее (соотв. правее) точки
b'v, функция uv (соотв. uv+i) будет срезана. Для того чтобы функ-
функция а = —P(D)u/Q(D)u была гладкой, мы должны быть уве-
уверены, что тогда функция mv+i (соотв. uv) будет намного больше,
чем uv (соотв. Wv+i). Если значение <х, Af> близко к t/v, то оба
члена должны быть приблизительно одинаковы; мы сделаем
так, чтобы оба они удовлетворяли одному и тому же дифферен-
дифференциальному уравнению P(D)u + aQ(D)u =0, где а постоянна.
Этого можно добиться выбором линейных функций фу и cpv+1
с подходящими наклонами. Поскольку условия A3.6.7) дают
нам информацию об отношении функций Р и Q в точке 6@ +
+ zt*N, естественно взять наклон функции q>v равным по по-
порядку величине /*. '
Наметив схему доказательства, перейдем к подробному по-
построению. Положим
Мы определим функцию i|)v таким образом, чтобы вблизи точек
К и К-\ соответственно функция г|)у равнялась постоянным
<г~ и сг+, которые удовлетворяют соотношению
A3.6.11) (P/Q) (|(/v) + ?iayN) - (P/Q) (l(tv+l) +
В обозначениях леммы 13.6.8 левая часть равенства асимптоти-
асимптотически равна
(c(P)/c(Q))t*{P)-*iQ)MdiP)-d(Q).
Поэтому уравнение A3.6.11) аппроксимируется уравнением
2* «*>-*<*> (o;)d<P)-diQ) = (at+i)d{P)~diQ).
Если положить а7 = /, то уравнение A3.6.11) при больших, v
имеет решение ст++1, для которого
A3.6.12)

240 13. Дифференциальные операторы постоянной силы
Здесь y = (g(Q) — g(P))/{d(P) — d{Q))>0 и, значит, 2* > I.
Отсюда следует, что наклон ~Й+, 1та|+| функции —Irncpv+i
как функции от (х, N} намного меньше, чем наклон — (" 1т Оу
функции —1т qpv. Поэтому отношение \uv+i/ux\ быстро убы-
убывает при возрастании <х, Л/> в окрестности точки b'v.
Выберем число В, удовлетворяющее неравенству S^Ima^+i
при любом v. Тогда В > 1. Для каждого М >0 можно найти
Рис. 6. Re <фу, Im
и 8 ^ Im <фу ds/\ /у | при <rv+, == 0.2 + 21
такую функцию \f>v ^ C°°(/v), что при больших v для некоторых
постоянных С* > 0 и некоторого компактного множества /С с
с {ге.О, 2=7^=0, 1тг^ В} выполнены условия
A3.6.13)
я|\ E) = о~
при
при
при
•b'v\< l/4v2,
1/4 (v-IJ,
) E) I <CfcV2fe при
Im
ds<-
с помощью разбиения единицы
о\Г и ov вблизи точек bv и 6
В самом деле, достаточно
склеить заданные значения о\Г и ov вблизи точек v и 6vi
и значение 1—iA вблизи bVf где А выбирается большим. По-
Поскольку длина интервала /v равна 2/(v2—1), из A.4.2) следует,

13.6. Неединственность решения задачи Коши 241
что производные порядка к функций в разбиении единицы
(с тремя членами) можно сделать равными O(v2k),
Выбрав функции i|)v, зададим теперь функции (pv формулами
A3.6.14) Ф; = tfftv, фv (b'v) = q>v+1 Fv).
В силу предельного соотношения A3.6.12), для некоторых поло-
положительных постоянных С\ и С2 при больших v получаем
A3.6.15) Ct2xv < Im (q>v+l (s) - q>v
<C22XV, |s-ft'v|< l/4v2.
Это неравенство дает информацию об относительных величинах
функций щ и Mv+i, необходимую при доказательстве гладкости
функции а. Для доказательства гладкости самой функции и
нужна оценка для «v. Из последней части A3.6.13) вытекает,
что
Im (<pv (d) - cpv (&;)) < - M2*v/v2,
т. е.
Im cpv+1 (by) > Im q>v (Ci) + M2xv/v2.
Поэтому
(;)
если только мы обеспечим выполнение этого неравенства в на-
начале построения. Поскольку InKpv^2xvB, то
A3.6.16) lmq
при условии что
A12x(v-!)/v2 - 2*VB (ftC, - ftC) > 2xv/v2.
Последнее верно при больших v, если М >(В + 1JХ. Фикси-
Фиксируем число М так, чтобы это условие было выполнено. В силу
A3.6.15) оценка A3.6.16) верна и после замены в правой части v
на v + 1 или v — 1 при b'v—l/4v2 < 5 < by или Ьу_г < s<b'v+[ +
2
Возьмем теперь такую функцию %v e Co° (&C — l/4v2, 6v-i
+ 1/4(v - IJ), что Xv=l в интервале (^-l/82 '
и
A3.6.17) Ix^W
Это снова возможно в силу A.4.2). С некоторым vo, настолько
большим, что при v ^ vo выполнены предыдущие, а также не-
некоторые последующие оценки, мы определим функцию и фор-
формулой A3.6.10). (Первый член суммы будет позднее изменен.)
В силу A3.6.13), A3.6.16) и A3.6.17) производные порядка к

242 13. Дифференциальные операторы постоянной силы
общего члена суммы с номером v можно оценить величиной
которая при v->oo очень быстро сходится к нулю. Поскольку
в сумме A3.6.10) одновременно отличны от нуля не более двух
членов, то«е С°°.
Положим а=0 при <х, iV><0 и а = —P(D)u/Q(D)u при
<jc, N} > 0. В слое, где
построение было проведено так, что a = wv-f-tfv+ь а —а равно
постоянной A3.6.11), которая в силу A3.6.7), а также неравен-
неравенства g(P)<g(Q) стремится к нулю при v->oo. Все производ-
производные функции а равны в этом множестве нулю. Далее, пусть
К + */8v2 <<*>N)<K+ 1/4V2.
В этой полосе функция av является экспонентой и намного
больше, чем «v+i. Поэтому положим a = av(l+#v), где
/M*) = *v+i«*. N))expi((xt E(/v+i) —6(/v)>
Если а^к и Б(/)==О(/а), то из A3.6.15), A3.6.13) и A3.6.17)
вытекает неравенство
A3.6.18) |/)Х(^I<С„2|О1Оуехр(-с2^2),
где Са и с — некоторые положительные постоянные. Поскольку
функция wv является экспонентой, то
(Q (D) u)luv = Q(l (tv) + o;$N
где с некоторой постоянной С
A3.6.18)' | DaSv (х) | < Ca2'a'cv exp (Cv - c2xv/v2). '
В частности, |5v|<l/2 при больших v. Заменяя Q на Р9 по-
получаем
(P (D) u)luv = P (I (/v) + otfiN) A + 7\,),
где Tv также удовлетворяет оценкам вида A3.6.18)'. Таким
образом,
а = - (P/Q) (I (/v) + (Т7ЗД A + rv)/(l + 5V).
Поэтому из A3.6.7) и A3.6.18)' следует, что функция а и все
ее производные оцениваются величинами, стремящимися к нулю

13.6. Неединственность решения задачи Коши 243
при v->-oo. Аналогичное рассуждение применимо в случае, когда
Ci ~ 1/4 (v - IJ < (х, N) < b'v_t - 1/8 (v - IJ.
Остается рассмотреть множество, где
A3.6.19) *;+ l/4v2 < <*, N) < &;_! - 1/4 (v - IJ.
В нем и = uVi и соотношение A3.6.7) дает
где
Здесь qv(z) — zd{Q) есть полином с коэффициентами O(tvl)
Вспомнив, что <p^/* = i|>v, получим
где rQv(s)—- полином от i|)v, -ф^ и производных функции \j)v с
коэффициентами O(l//V). Поскольку последовательность U ра-
растет экспоненциально, из A3.6.13) следует, что функция rQV(s)
и каждая ее производная стремятся к нулю при v->oo. Если
таким же образом ввести функцию rPv, то в множестве, зада-
задаваемом неравенствами A3.6.19),
а = - Р (D) u/Q ф)и = - (с (Р)/с (Q)) /* {Р)~* (Q)< {P)~d iQ)
где аргументом в левой части служит х, а в правой s = (x, N}.
Поскольку g(P) < g(Q), то правая часть вместе со всеми произ-
производными экспоненциально стремится к нулю при v->oo. Co-
. гласно следствию 1.1.2, если v0 достаточно велико, то а^С°°
при (х, ло <&;_,.
Теперь изменим определение функций %v и ф^ при (х, N)>
>6^_jTaK, чтобы Xv^l» а функция ф^ была линейной
в Fvo-i— 1/4(v0— lJ,°oo). Тогда ясно, что u^C°°(Rn) и qe
е C°°(Rn), так как функция а постоянна при (я, N) > bfv_{ —
— 1/4 (v0— lJ. Тем самым доказательство теоремы 13.6.1 за-
завершено.
Замечание. Проведенное доказательство показывает, что sup | a |
является сколь угодно малой, если vG достаточно велико. Таким
образом, возмущение оператора Р в A3.6.3) можно сделать ма-
малым во всем пространстве. Для каждого компактного проме-

244 13. Дифференциальные операторы постоянной силы
жутка /cR, проводя такое же построение, как и выше, вблизи
обеих границ полосы, можно построить функции а и а, удовле-
удовлетворяющие уравнению A3.6.3), для которых
supp и = supp а = {х\ (х, N) е /}.
Пусть оператор Р гиперболичен относительно вектора /V, а
оператор Q слабее Р; тогда из теоремы 13.3.7 следует, что если
(Р -f- aQ)u = 0, supp и a HN и величина sup | а| достаточно мала,
то функция и равна нулю тождественно. Поэтому в случае ги-
гиперболического оператора Р следствие 13.6.2 нельзя улучшить.
С другой стороны, в случае эллиптического оператора Р теорема
13.6.1 полностью неприменима. Поэтому в этом случае при по-
построении примеров неединственности решения задачи Коши не-
необходимы более точные рассуждения. В доказательстве тео-
теоремы 13.6.1 функции A3.6.9) выбирались достаточно произвола
но. Было необходимо лишь, чтобы функции Im qpv и q/ имели
правильный порядок величины и чтобы разность Im cpv — Im cpv+1
меняла знак с минуса на плюс в точке b'v, в которой осуще«
ствлялся переход от функции mv+i к их. Экспоненциальный рост
последовательности U делал несущественными возникающие
погрешности. Однако в случае комплексных характеристик
нельзя пользоваться такими большими частотами. Вместо этого
нужно выбирать аналоги функций qpv таким образом, чтобы они
были приспособлены к начальному аналитическому возмуще-
возмущению оператора P(D). Для этого мы воспользуемся асимптоти-
асимптотическими разложениями, близкими к соответствующим разложе-
разложениям геометрической оптики. (См. § 12.2.)
Теорема 13.6.9. Пусть P(D) и Q(D) — дифференциальные опера-
операторы с постоянными коэффициентами и порядок оператора P(D)
не меньше порядка оператора Q(D). Предположим, что суще-
существуют последовательность ?v ^ Zn,
и последовательности положительных чисел Tv и Kv, для ко-
которых
A3620)
A3.6.21)
A3.6.22) /Cv (P (?v + TvzN)/P (U
- Q (?v + 7VA0/Q (Cv)) -* r (z), ге
A3.6.23) 7VKv->oo, 7\Av/(l+|Im?v|)->°o.

13.6. Неединственность решения задачи Коши 245
Здесь г — полином от одной переменной и предполагается, что
A3.6.24) 1тг'(г)<0 при некотором г.
Тогда можно найти такую функцию а е С°°(РЛ), имеющую нуль
заданного произвольно высокого порядка при <х, N} = 0, что
уравнение A3.6.3) имеет решение MGC°°(Rn), для которого
supp и = HN,
Заметим, что из условия A3.6.23) вытекает, что
A3.6.23)' ТЦA + \1т^\)-->оо и, значит, 7\,->оо.
Если утверждение теоремы 13.6.9 не является следствием тео-
теоремы 13.6.1, то это означает, что нарушено условие A3.6.2).
Поэтому в дальнейшем будем считать, что
По теореме 10.4.3 и лемме 10.4.2 отсюда получаем, что
t^ZN, T>\\mt\+\.
Таким образом, условия A3.6.20) и A3.6.21) обеспечивают нам
рост Im^v-^o°, а также условие
A3.6.25) 7У|1тЫ-*0.
Поэтому числа Tv должны быть расположены где-то между
llmCvl1/» и |ImCv|.
Условие A3.6.20) означает лишь, что величина Tv намного
меньше расстояния от точки ?v до нулей полиномов Р и Q в на-
направлении N. Условие A3.6.24), разумеется, выполнено, если
только функция г'(г) не является постоянной п, у которой
Imri ^ 0. Поскольку л@) = 0, это означает, что r(z)=nz. Та-
Таким образом, условие A3.6.24) эквивалентно условию
A3.6.24/ функция г {г) не имеет вида r\Z с Im rx ^ 0.
Выберем такую точку г0, что 1тг'(го)<О, и заменим ?v на
Ъ+TyZoN. Тогда условия A3.6.20), A3.6.21) остаются справед-
справедливыми и, в силу A3.6.25), ?v+ Tvz0N ^ZN при больших v. По-
Поскольку
Р (Cv + TvzN)/P (gv + Tvz0N) - Q (^ + TvzN)/Q (^
- (Q (Cv)/Q (Cv + T,z,N)) ((P (^ + TvzN)/P (gv
где
/CVMV=/CV (P (W Q (?v

246 13. Дифференциальные операторы постоянной силы
то условие A3.6.22) остается справедливым после замены г на
r{z-\-Zb)—r{z$). Поэтому мы можем всегда предполагать, что
Imr'@)<0. Если теперь TV заменить на ev7\>, a Kv на /Cv/ev,
где последовательность ev сходится к нулю настолько медленно,
что остается выполненным условие A3.6.23), то функцию г
можно заменить на zr'(O). Следовательно, при доказательстве
теоремы 13.6.9 можно считать, что
A3.6.24)" r(z) = rlzi где Imr,<0.
Перед тем как привести очень длинное доказательство тео-
теоремы 13.6.9, мы обсудим несколько примеров.
Пример 13.6.10. Пусть Р (?) = (Щ + Щ + Щ)а - Ц"/2 и Q (g) = gf,
где а>\ и 6<2а. Возьмем ?v = (?vl, gv2, —/v), где gvl, lv2
вещественны и 6vi "Ь ^== v2- Тогда ПРИ N = @, 0, 1)
Р (Су + TvzN) = {Т^ - 2lvTvz)a - |^/2, ' Q (gv + TvzN) =
Таким образом, если
то условия A3.6.20), A3.6.21) выполнены. При Kv = I™ {vTv)~a
получаем r(z) = —2(—2iz)a. Тогда условия A3.6.23) перейдут
в соотношения
Подводя итог, выводим условия
Поскольку | gvi | < v, из последнего условия следует второе. Все
эти условия выполняются при подходящем выборе последова-
последовательности Ту, тогда и только тогда, когда
Поэтому остальные наши условия имеют вид
Они совместимы тогда и только тогда, когда (За + 1)/2<6, т. е.
Ь>2а-(а-
При а = 2 мы можем взять 6 = 4, поэтому оператор Q имеет
тот же порядок, что и Р. Начиная с a =4 можно брать опера-

13.6. Неединственность решения задачи Коши 247
тор Q порядка меньше, чем Р. Случай а = 2, 6=4 содержится
также в следующем утверждении:
Следствие 13.6.11. Пусть Р — однородный полином и Р(?) = 0
для некоторого ^ФО с мнимой частью, пропорциональной N.
Если полином Р не имеет полиномиальной факторизации вида
Р = Р{Р2; DNP{ (Q Ф О, Р2 (?) Ф О,
то для каждого однородного полинома Q, для которого deg Q =
= deg P, Q (?) ф О и Q (g -f *N) =э Q (?), можно найти такие функ-
функции и е С°° (R*) w a e C°° (R*), что выполнено уравнение
A3.6.3), suppa = #jv м функция а обращается в нуль при
<jc, N} = 0 вместе со всеми производными до любого наперед
заданного порядка.
Доказательство. Выберем координаты так, чтобы N=@, ...
..., О, 1), и положим ? = (io> K)y So^R". В силу следствия
13.6.4 можно считать, что Im Яо ф 0 и, значит, Im Хо < 0, так как
5 можно заменить на —?. Поскольку Q(?) —Q(^) Ф 0, имеем
g^ =? 0. Пусть Хо — нуль кратности \х полинома P(?q>^) от Л.
Тогда уравнение Р^', ?i) = 0 имеет р, корней, а уравнение
dPd', Х)/^Х = 0 имеет (и— 1 корней, близких к Хо, если только
|' близко к |^. Если Р = 0 на всех таких нулях полинома
дР/д%у то этот корень может быть только один, поскольку нуль
полинома Р является нулем полинома дР/дХ на единицу мень-
меньшей кратности. Если мы рассмотрим разложение полинома Р
в произведение неприводимых полиномов, то легко получим от-
отсюда, что Р = Р?Р2 с Р2ф0 и DnP{ Ф 0 в точке (Й, Ао). В даль-
дальнейшем этот случай мы исключим из рассмотрения.
Таким образом, на некоторой последовательности (^, Х\
в ZN, сходящейся к (|'}, Ло), имеем 3P(g', X)/(9X = 0, но
^О. Положив Р^(ГД)=5/^(|/Д)М/, получим
- Zi р(/) (rv,
Если числа Sv достаточно малы, то
^ F;. Ч + S,Z)IP (^ Ч) - ' - О Evv"! (I * Р + . ¦. + I * П).
Далее положим gv=pv (|^, Xv), Tv = pv5v, где pv -> + oo. Тогда
Поскольку P(K\K)-^°* a Q^O^Q^o)^0' то теперь ясно,
что условия A3.6.20) и A3.6.21) выполнены. Условие A3.6.22)
верно для некоторой последовательности /Cv, для которой К\ ^
^ v/Sv, и некоторого полинома г степени ^ 2. Условия A3.6.23)

248 13. Дифференциальные операторы постоянной силы
можно записать в виде
pvS V//Cv -* °°» SVKV -> оо.
Первое из них верно, если последовательность pv достаточно
быстро возрастает, а второе вытекает из неравенства SxKv ^ v.
Доказательство завершено.
Пример 13.6.12. Положим Р(|) = (gj — /g2)a — gf", Q(?) = gf,
N = @, 1). Пусть ?>v = (v> — iv). Тогда
P (?v + TvzN) - (- /7»fl - v*-', Q (?v + TvzN) = v*.
Поэтому если TV*-* О, то условия A3.6.20) и A3.6.21) вы-
вы)
полнены. Отсюда получаем условие A3.6.22) с /Cv = v&~I7Tfl и
r(z)= — (—iz)a. Тогда условие A3.6.24) справедливо при а > 1.
Следовательно, все необходимые условия можно записать в виде
v, v> oo, rvv-<*-2Me-i>-*0.
Эти условия совместимы тогда и только тогда, когда
(Ь — l)/(a+l)<(b — 2)/(а — 1), т. е. а<26 —3, или
Ь>а — (а — 3)/2.
Заметим, что если порядок оператора Q (строго) меньше, чем
порядок Р, то кратность а должна быть на две единицы боль-
больше, чем в примере 13.6.10. Нетрудно обобщить этот пример на
общий исключительный случай в следствии 13.6.11. В случае
когда имеется факторизация с / > 3, получается пример неедин-
неединственности решения, который также содержит члены младшего
порядка, соответствующие оператору D\~x в последнем примере.
Перейдем теперь к доказательству теоремы 13.6.9. Первым
шагом является переформулировка условий теоремы с помощью
теоремы Тарского — Зайденберга.
Лемма 13.6.13. Предположим, что выполнены условия теоремы
13.6.9, но не выполнено условие A3.6.2). Тогда существуют та-
такие рациональные функции ?(е), ^(е), /С(е), 6(е), с(е), что
1(г)^г^у Г(е)>0, /С(е)>0 при малых е > 0, и при е->0
A3.6.20/ с (е) Р (I (е) + Т (г) zN) - 1 = О (е),
ft(e)Q(?(e) + Т(в)гМ) - 1 =0 (е),
A3.6.21)' Ь(е)/с(е) = О(е),
A3.6.22/ К (г) (с (г) Р (? (е) + Т (г) zN)
-b(e)Q (g (e) + Т (г) zN)) -r(z)=*O (e)f
П3 6 23/ *(вуГ(в)-О(в),
1 ' A + |1
A3.6.25/ A + Г (e))/| Im ; (в) | = О (е).

IS.6. Неединственность решения задачи Коши 240
Можно выбрать такие функции с (в) и 6(е), что отношение
Ь(г)/с(г) аналитично на R.
Доказательство. Пусть Е — множество .всех таких точек
A/е, С, Т, К, с, b)9 CesZtf, Т > О, К> О, 0<е<1, сеС\
ЬеС, что
1+Г2<е2Цт?|2, 1 +11т
а коэффициенты полиномов от г
сР (? + ГгЛО - 1, fcQ(? + ГгЛО - 1,
К (сР (? + TzN) - 6Q (? + ГгЛО) - г (z)
по модулю не превосходят е. Это полуалгебраическое множе-
множество, содержащее по условию точки, в которых величина 1/е
как угодно велика. Следовательно, по теореме А.2.8 существуют
ряды Пюизё ?(е), ..., 6(е), сходящиеся при малых е и такие,
что A/е, ..., 6(е))е?. Возьмем целое k настолько большим,
чтобы ряды ?(е*), ..., b(ek) стали рядами Лорана. Достаточно
длинные частичные суммы этих рядов будут тогда обладать
всеми требуемыми свойствами, за исключением того, что отно-
отношение Ь(е)/с(г) может иметь на R\0 конечное число полюсов.
Однако при достаточно большом v функцию с(е) можно заме-
заменить на c(e + /iev). Если h чисто мнимое, то ясно, что c(e+/iev)
не может иметь вещественных нулей е ф 0, за исключением ко-
конечного числа значений h. Этот факт позволяет нам выбрать
в качестве отношения b/с аналитическую функцию.
Чтобы не прерывать последующее доказательство, мы при-
приведем необходимый нам вариант разложения геометрической
оптики. (См. также § 7.7 и 12.2.)
Лемма 13.6.14. Пусть /cR — компактный промежуток и
Gb (S, Ds) = S gf E, 6) D'S9 Ds = - id/dS,
о
есть обыкновенный дифференциальный оператор с С30-коэффи-
С30-коэффициентами при Se/ и малых 6eR. Предположим, что суще-
существуют такие положительные целые числа т0 и ащ, что полином
от z
f z)
также имеет С°°-коэффициенты и Н0Ф0. Пусть далее
A3.6.26) H0(S, <z) = 0, дН0(S, г)/дг ф 0 при e = q>o(S),
где ф0: /->С есть С°°-функция. Тогда существуют такие
С°°-функции фE, б) и W(Sy б), определенные при S^I и ма-

250 13. Дифференциальные операторы постоянной силы
лых |6|, что
A3.6.27) <p(S, O) = <Po(S), IF(S, 0)^0; Se=/;
A3.6.28) exp(-up(S, 6N"m)Gfi(S, D5)(IF(S, 6)
¦exp(ftp(S, 6N-"-)) = /?(S, 6),
где /?(S, 6) ?CT& C°-функция, имеющая нуль бесконечного по-
рядка при 6" = 0. Если Т\ и Гг — две С°°-кривые в (S, ?>)-плоско-
?>)-плоскости, пересекающие отрезок IX {0} трансверсально в различных
точках, и функция gm(S, 6) не имеет нуля бесконечного порядка
ни в одной из них (при 6 = 0), то функцию W можно выбрать
так, что функция R имеет нуль бесконечного порядка также и
на кривых Гь Гг.
Доказательство, Поскольку функция H6(S, z) есть полином по
г и, значит, аналитична по г, то по теореме о неявной функции
и в силу A3.6.26) уравнение H6(S, \|)(S, 6)) = 0 имеет единствен-
единственное решение $ е С°° при Sg/ и малых б, удовлетворяющее
условию o|)(S, O) = qpo(S). Возьмем такую функцию ф, что
^(S6)/dS (S6)(SO) (S)
()/ |)p() p()
Уравнение A3.6.28) можно записать в виде
6mV, (S, Ds + y's (S, 6) 6-Wo) W (S, 6) = 6mi/? (S, 6),
или
A3.6.29) 6-m3(#,(S, 6moDs + 4>'s(S, 6))
-Hb(S9 9s(S, b)))W(S, &) = 6m*-mR(S, 6).
При 6 = 0 левая часть сводится к выражению вида LW(S, 0),
где
L = (дН0 (S, г)/дг) Ds + B, z = q^ (S),
с некоторой функцией В е С00. По условию коэффициент при
Ds не имеет нулей в /. Подставляя формальное разложение в
ряд Тейлора
оо
^E, б)- Е^(/)E, 0)б7//!
о
в A3.6.29), мы увидим, что равенство A3.6.29) тогда и только
тогда справедливо для некоторой функции R, имеющей нуль
бесконечного порядка при 6=0, когда выполнена следующая
последовательность уравнений:
LW(S, 0) = 0, ...
где Ej определяются по W, ..., WU~X\ Эти уравнения можно
решить последовательно; при этом функцию W(S, 0) можно
выбрать так, чтобы она не имела нулей в /. По теореме 1.2.6

13.6. Неединственность решения задачи Коши 251
существует С°°-функция W(S, б) е заданными производными,
при 6=0, что доказывает первую часть леммы.
Для доказательства последнего утверждения нужно найти
такую функцию V е С°°, имеющую нуль бесконечного порядка
при 8=0, чтобы равенство A3.6.28) было выполнено для V вме-
вместо W с точностью до членов, имеющих нуль бесконечного по-
порядка на кривых Г/ и /X {0}. Тогда разность W—V будет
обладать нужными свойствами. Условие на V состоит в том, что
функция
6m'G6(S, Ds + <v's(S, 6N-m°)K(S, 6)-R(S, 6N
mi
имеет нуль бесконечного порядка на кривых Г/. Здесь диффе-
дифференциальный оператор имеет С°°-коэффициенты, а коэффициент
при старшей производной, равный 6m'gm (S, б), имеет на Г/ при
6=0 нуль конечного порядка. Далее мы требуем, чтобы произ-
производные порядка <С т функции V по переменной S были равны
нулю на Г/. Пользуясь уравнением, мы можем тогда (см. § 12.1)
вычислить значение D™V на Г/, которое дает нам функцию,
имеющую нуль бесконечного порядка при 6->0. Повторяя это
рассуждение, мы находим, что функция V имеет нужные свой-
свойства, если производные по S на кривых Г/ являются некоторыми
С°°-функциями, имеющими нуль бесконечного порядка при
6->-0. Мы продолжаем их так, что они обращаются в нуль при
8<0. Применяя снова теорему 1.2.6, можно найти функцию V,
которая обращается в нуль при 6^0 и имеет нужные произ-
производные по S на трансверсальных кривых Г/. Доказательство
завершено.
Замечание. Очевидно, что утверждение леммы остается верным,
если коэффициенты gj имеют особенность при 6 = 0, но для
некоторого целого N > 0 справедливо включение 8Ngi e С°°. Мы
можем также заменить функцию 6mi на С°°-функцию от б,
имеющую нуль в точности порядка то при 6=0.
Доказательство теоремы 13.6.9. В обозначениях леммы 13.6.13
положим
Функция А рациональна, равна нулю в точке 0 и не имеет по-
полюсов на R. Возьмем коэффициент а в уравнении A3.6.3) рав-
равным —Л (<jc, N>p), где р — достаточно большое целое, с точ-
точностью до членов, равных нулю в CHN. При малых б > 0 мы
по аналогии с AЭ.6.9) положим
- о* (С*. JV» ехр * (х,

252 13. Дифференциальные операторы постоянной силы
Тогда дифференциальное уравнение (P(D)— Л «я, AT>p)Q(D))w6==
= 0 можно записать в виде
A3.6.30) (Р (С FР) + DSN) - А (*>) Q (С Fр) + DSN)) v6 (s) = 0,
и мы решим его приближенно с помощью леммы 13.6.14. Для
того чтобы можно было воспользоваться оценками A3.6.20)' и
A3.6.22)', умножим последнее равенство на сFр). Получим
эквивалентное уравнение
A3.6.30)' ((с F0) Р (I (бе) + DSN) - Ь F0) Q (С FР) + DSN))
+ A - A (so)!A FP)) Ь (fip) Q (С F0) + ЯЛ0) ов (в) = 0.
Разность 1—Л(«0)/Л(бр) равна нулю при s = d, а первый член
в разложении этой функции по формуле Тейлора в точке s =_6
равен
при условии что функция А имеет нуль порядка /0 в точке 0.
Для того чтобы уравновесить вклады двух членов в A3.6.30O,
мы хотим, чтобы (s — б)/б и 1//С(бр) имели одинаковый поря-
порядок. Поскольку функцию К {г) можно заменить главным членом
ее ряда Лорана в нуле, можно считать, что /((е) = е~х, где х —
некоторое положительное целое число. Таким образом, мы
хотим, чтобы разность 5 — б была порядка 61+хр. Для примени-
применимости леммы 13.6.14 в фиксированном промежутке мы должны
теперь ввести новую переменную S с помощью замены
Обозначим УбE)=УбE); уравнение ОЗ.б.ЗОO примет вид
A3.6.30)" (КFР)(сFР)Р-ЬFР)Q) (?FР) + б""*-WSN)
+ С E, 6) Ь FР) Q (g FP) +'6-*р-ВД0) V6 (S) = 0.
Здесь
С E, б) = К W A-А Eр)/Л Fр)) -> - p/oS, 6-^0.
Ясно, что функция C(S, б) аналитична при малых б.
Если умножить A3.6.30)" на некоторую степень переменной
б, то коэффициенты станут гладкими функциями. Если заменить
дифференцирование Ds на бкр+1Г(бР)г, то получится полином,
сходящийся к
A3.6.31) r(z)-p/0S
при б->-0. Заметим, что если р > 1 (как мы и будем предпола-
предполагать в дальнейшем), то в силу первой оценки A3.6.23)/
A3.6.32) 6*р + * Т FР) — 6Т (Ь*)/К FР) -> оо, 6 -> 0.

13.6. Неединственность решения задачи Коши 25S
Это позволяет применить лемму 13.6.14, а также замечание,
приведенное после ее доказательства. При этом можно считать,
что функция г задана равенством A3.6.24)//. Тогда полином
A3.6.31) имеет единственный нуль z(S) = pjoS/r\. Заметим, что
Im dz/dS = p/o Im (l/rx) > 0.
Пусть / = [2, —2]. Выберем функции фй У, применяя лем-
лемму 13.6.14 с фоE) = /о52/2а*ь Тогда при малых б получим
(ГЗ.6.33) д2 Im ф (S, 6)/dS2 >co>O, S е= /.
Вопрос о выборе кривых Г/ из леммы 13.6.14 пока оставим
открытым. Возвращаясь к исходным переменным, положим
, 6N«» + iT{b<>))W{S9 б),
E, 6)) = Ri(S, б),
где S=((x, N} — 6N-"t>-1 &I. Здесь R{ также есть С°°-функ-
ция, имеющая нуль бесконечного порядка при б = 0 и на кри-
кривых Г/. Имеем
A3.6.34) (Р (D) - А ((х, NY>) Q (D)) и6 = г6и6
при «х, N}— 8)8-*е-1 е /. Кроме того,
A3.6.35)
где
Мб (х) = т (S, й)/Ь FР); т<=С°° и т (S, 0) = 1.
Следуя доказательству теоремы 13.6.1, найдем теперь функцию
и, соединяя функции и6.
Положим 6V = 8iv~y, v = 1, 2, ..., где 6i > 0 и у > 0. Длина
|/v| промежутка
/v = {seR; (s-eje^^/}
равна 4Fiv~Y)xp+1, а расстояние 6V — 6v+i между центрами /v
и /v+i асимптотически равно 6i7v~Y~1. Выберем у так, что
) = Y+1, т.е. у=
а число 6i зададим равенством
Тогда при больших v концы промежутка /v близки к центрам
промежутков /v+i и /v-i. Мы переходим от одной функции иь
к другой тогда, когда значение <дг, N} близко к центру про-
промежутка, в котором обе эти функции определены. Центр левой
половины промежутка /v есть

254 13. Дифференциальные операторы постоянной силы
При больших v центр правой половины /v близок к точке Bv-i.
В самом деле, положим Bv_{ = 6V + S6vP + I. Тогда
5 = FV_, - 6V)/6?P +l - (б^/б.Г +1 = f FV),
где / — сходящийся степенной ряд по 1/v, а значит, и по б*р,
причем /@)=1. Выберем кривые Г/ из леммы 13.6.14 так, что
S = —1 и S = /(б). Это обеспечит нам обращение правой части
A3.6.34) в нуль бесконечного порядка в точках, в которых мы
переходим от одной функции щ к другой.
Если <х, Ю е /v, то положим
где Cv > О— постоянная, которую в обозначениях равенства
A3.6.35) мы последовательно находим из условия
A3.6.36) \Mbv(x)Uv(x)\^\M6^l(x)U^l(x)\ при <*, A0 = Bv-i.
Заметим, что обе части равенства постоянны на этой гиперпло-
гиперплоскости. Возьмем функцию % е СГ (—3/2, 3/2), х=1 в (—5/4, 5/4),
и положим
и(х)=? Uy (х)Xv(*), х,(х) = X(((х, N) - 6V) 6Г9~1).
При больших v0 после того, как мы подправим первый член
суммы подходящим образом, мы увидим, что u^C°°(Rn) и вы-
выполнено равенство A3.6.3) с С°°-функцией а, для которой сумма
а(х) + А((х, ЫУ) равна нулю вне HN.
Первым шагом является изучение /% = | Af6v (x) Uv(x)\ как
функции переменной s = <x, Л^>, С точностью до постоянной
функция logFv(s) равна
log | т E, 6V) W E, 6V) | + s | Im ? (б?) | - Im q> E, 6V) б^р+1Г (б?).
Здесь S = (s — в^в^. В силу ОЗ.б.гбO мы можем считать,
что
rFS)/|lmgFv)| = OFv),
а в силу A3.6.32) отсюда следует, что функция d(\ogFv(s))/ds
асимптотически равна | Im ? (б?) |. Более того, поскольку
К (е)/| Im ? (е) | = (К (г)/Т (е)) (Г (е)/| Im ? (е) |) = О (е2),
мы имеем
| Im ; (б?

13.6. Неединственность решения задачи Коши 286
При больших v отсюда вытекает неравенство
/Ч (Bv)/Fy (В^х) < Сехр (-
В силу A3.6.36), FvEv) = Fv+i(Bv). Поэтому
Следовательно, Fv(s) <
а полученные ниже неравенства A3.6.37) показывают, что та-
такая же оценка справедлива на suppxv- Отсюда легко получаем,
что все производные функции и оцениваются через функции,
стремящиеся к нулю при' <я, N>->0, поэтому ttGC°°(Rn).
Для доказательства включения а= — P(D) u/Q (D) u^C°° ({x;
(х, N)< Bvo-i}) мы сначала докажем, что с некоторыми новыми
постоянными С\у Съ справедливы неравенства
A3.6.37) схТ F5) < E - Bvr! log (Fv E)/Fv+1 (s)) < c2T (б?),
Поскольку Fv(s)/Fv+\(s)= 1 при s = Sv, нам нужно лишь рас-
рассмотреть производную логарифма. Положим 5/ = E — 6у)в/"*€р",
/ = v, v+ 1. Тогда
Sv+1-Sv-2-^0
равномерно при v->oo. Поэтому Sv+i >5V+1 при больших v.
Как уже было показано раньше, производная функции
\og(Fv(s)/Fv+\(s)) no s есть
A3.6.38) OF7xp |
Здесь, в силу A3.6.32), 6;"q-1/tF°)-+0. Так как
Г(е)е~7|1т?(в)|-»со при е-^0,
то из второй оценки A3.6.23)', а также поскольку функция
1(ё) имеет полюс при е = 0, мы получаем, что
r(e)e"x"V|ImC(e)|-^oo при в->О.
Далее, б;<н+1)р(б^6?+1)=б^рA--(ву+1/б,)Р)->рубГ1/у, поэтому
|Im?(б^ + 01 — 1 Im g FS)| = о (Г (б?)) при v->oo.
Значит, в A3.6.38) преобладают два последних члена. Если мы
вспомним условие A3.6.33), а также неравенство Sv+i — Sv > I,
то сможем заключить, что выражение A3.6.38) оценивается
снизу и сверху умноженной на некоторые постоянные величи-
величиной Т (б?)- Этим доказаны оценки A3.6.37).

13. Дифференциальные операторы постоянной силы
Рассмотрим теперь функцию а в окрестности точки Bv, где
и = Uy, + ?Л>+1. В этой окрестности
- а - (Р (Я) f/v + P (D) f/v+1)/(Q (D) f/v + Q (Я) C/v+1)
= A «*, Л'Л + Df/v + Ч + j ич+х)ЦМьи, + Mdv + it/v+1).
Функция GV доминирует при S = (s —SVN7KP" >0, поэтому
мы разделим на M6vUv. В силу A3.6.37), для некоторой по-
постоянной с > О
F?), 1),
поскольку 1 —ег* ^A —e-l)min(l, /),/>0. С другой стороны,
функции rdv и r5v + j можно оценить через любую степень 6V и
S. Отсюда следует, что в рассматриваемом множестве функцию
а(х) + А((х, Л0р)
можно оценить произвольной степенью величины 1/v. Посколь-
Поскольку для производных функции гь имеются оценки, аналогичные
Рис. 7
тем, которыми мы воспользовались для функции га , то же са-
самое верно и для всех производных функции а(х) + А((х, W>p).
В той части левой половины промежутка /v, в которой функ-
функция Xv+i срезает функцию f/y+ь как мы знаем из A3.6.37), отно-
отношение Fv+i(s)/Fv(s) экспоненциально мало. Поэтому в этой
части легко получить аналогичные оценки. Это рассуждение
даже проще, чем соответствующее рассуждение в доказатель-
доказательстве теоремы 13.6.1, поэтому мы опускаем подробности.
В середине промежутка /v, где и — UVy имеем

13.6. Неединственность решения задачи Коши 257
причем все производные второго слагаемого имеют верхние
грани, стремящиеся к нулю при v->oo. Это доказывает глад-
гладкость функции а при (х, iV) ^ fiv, - i- Мы можем продолжить а
как функцию переменной <jc, N} в область (ху N) > fiVo _ i и
задать функцию и в этой области, решив обыкновенное диффе-
дифференциальное уравнение. Доказательство завершено.
Видоизменяя предыдущее построение, приведем пример, ко-
который покажет, что предположение об инъективности в теореме
13.5.2 не всегда выполнено.
Теорема 13.6.15. Существует такой эллиптический дифференци-
дифференциальный оператор Р четвертого порядка в R3 с С°°-коэффициен-
С°°-коэффициентами, что уравнение Ри = 0 имеет нетривиальное решение и е
е Со00 (R3).
Доказательство. Пусть Р(Б) = (Б? + ?1 + УJ - tf/2, Q{l) = ll
N =@, 0, 1), что соответствует примеру 13.6.10 при а = 2, Ь =4.
Выберем функции ?(е), с(е), 6(е), /С(е), Г(е) согласно лемме
13.6.13 с r(z) — rxz. Тогда при а =5^0 имеем
A3.6.39) К (в) с (е) /><«> (с (е) + Г (е) 2уу) e 0 (е),
A3.6.40) К (г) Ь (е) Q<a> (? (е) + Г (е) 27V) = О (е).
В самом деле, дР/ЗБз = 4Бз (Б? + Бг + Бз), д2р/дй = 4 (Б? + Б1 +
+ 3||), поэтому из оценок A3.6.20)х, A3.6.22O следует, что
A3.6.41) Г (б) К (б) с (б) Ь (е) (Si (бJ + ?2 (еJ + & (еJ) -> г,/4,
Г (еJ /С F) с (в) (Ь (еJ + ?2 (еJ + 3g3 (еJ) -* 0.
В силу A3.6.21)х, Р(^(е)) = о(|^(8^) |4), следовательно, в силу
эллиптичности оператора Р, |?(е) (= ОAтЕ;з(е)). Из оценки
A3.6.23)' видно, что |?(е) \ = о(Т(е)К(г)), поэтому в силу
A3.6.41)
I С (в) Р (Si (еJ + ?2 (еJ + & (еJ) - о (| С (в) |4).
Таким образом,
С, (еL - 2 (Е, (еJ + S2 (еJ + ?з (еJJ - 2Р (? (в)) = о (U (в) I4),
откуда точно так же, как в примере 13.6.10, получаем, что
ti(e) = o(|b(e)|), |E2(e)|/|ta(e)Kl. Далее, из A3.6.23)' сле-
следует оценка t>(e) = o(T{?,J)f которая в силу A3.6.41) дает
/<(eMe)|Ue)|3->0. Поскольку Т(г) = о(\%(в)\) и 6(е) =
= о(с(е))у мы получаем оценки A3.6.39) и A3.6.40).
Из A3.6.39), A3.6.40) вытекает, что в доказательстве тео-
теоремы 13.6,9 вместо ?(б?) можно рассматривать вектор ?v, в ко-
9 Зак. 64

258 13. Дифференциальные операторы постоянной силы
гором первые две (вещественные) компоненты заменены бли-
ближайшими целыми числами. Это не влияет на решающее рас-
рассуждение о величине функции Fv. (Лемма 13.6.14 применяется
к уравнениям, зависимость которых от параметра v несуще-
несущественна.) Следовательно, мы получим функции и и а из тео-
теоремы 13.6.9, которые периодичны с периодом 2п по х\ и х2. Если
параметр v0 достаточно велик, то полином Р(?)+ Rea(#)Q(g)
эллиптичен и
где, например, уA)=1. Здесь \х и ?2 вещественны. Ясно, что
(Р (D) + aBN-x) Q (D))uBN-x) = 0,
и {2N -х) = е1 <*»* + *Д.) v B - *3). х3<1.
Пусть г|)<= С°°, ty = 1 на (—оо, 1), г|) убывает и г|) =0 в A +е,
оо), где число г настолько мало, что Rey(jc3)>l/2 при
| *з — 11 < е. Положим
и точно так же определим функцию А. Тогда
A{x)Q(D))U(x) = F
где |х3 — 11 ^ е на supp F. Следовательно, F = BU, где В е С°°,
и, значит, функция [/ удовлетворяет эллиптическому дифферен-
дифференциальному уравнению
(P(D)+A(x)Q(D)-B(x))U-*0.
На носителе функции U имеем 0 ^ х^ ^ 2.
Теперь будем представлять себе х как тороидальные коор-
координаты, т. е. рассмотрим отображение
sin *i> D + (^ + 1) cos *0 cos л:2,
D + (хг + 1) cos *j) sin л:2) = у,
которое в R3 по модулю 2я по переменным х\ и х2 является
диффеоморфизмом в некоторой окрестности множества supp и.
Пусть ?/(jt)s= v(y). Тогда мы получим дифференциальное урав-
уравнение четвертого порядка вида
R(y> D)v(y)=*0,
где оператор R имеет С°°-коэффициенты, а полином Re/?4(i/, I)
эллиптичен в некоторой окрестности множества supp v. Пусть
функция х» О^хеСо°> имеет носитель в этой окрестности и
X = 1 в некоторой окрестности множества supp v. Тогда опе-
оператор
x(v)R(y, ?>) + (!

Примечания 259
эллиптичен в R3 и аннулирует Со°-функцию v. Доказательство
завершено.
Пример 13.6.16. Пусть P(x,D) — оператор из теоремы 13.6.15;
положим
Р0(х9 у, Dx, Dy) = DyP(x, Dx) + Q(x, Dx)y
где шК3, jgR, а порядок оператора Q не превосходит 4.
Тогда оператор Ро имеет постоянную силу, такую же, как опе-
оператор Dy\l (следствие 10.4.8), а оператор Р(х, Dx) является
некоторой его локализацией на бесконечности и аннулирует
произведение функции и, построенной в теореме 13.6.15, и произ-
произвольной функции от у. Поэтому теорема 13.5.2 к этому опера-
оператору неприменима.
Примечания
Для изучения эллиптического оператора существуют клас-
классические методы, которые локально сводят его к возмущению
оператора с постоянными коэффициентами. Эти методы известны
под несколькими названиями: например, метод параметрикса
Леви или аппроксимация Корна. Точные результаты о регуляр-
регулярности, полученные в гл. 10, позволяют применить эти методы
к произвольным операторам постоянной силы. Впервые это сде-
сделано Петре (Peetre [1]) и несколько аккуратнее в книге —
предшественнице данной. Результаты о гипоэллиптичности, при-
приведенные в § 13.4, принадлежат Мальгранжу (Malgrange [2])
и Хёрмандеру (Hormander [4]), кроме теоремы 13.4.4, которая
принадлежит Тейлору (Taylor [1]), и усовершенствований, от-
относящихся к волновым фронтам. Параграф 13.5 взят из работы
Gudmundsdottir [1].
Неединственность решения задачи Коши для операторов с
С°°-коэффициентами вызвала большое удивление в 50-х гг. Пер-
Первые примеры, принадлежащие Плису (Plis [2]) и Де Джорджи
(De Giorgi [1]), уже содержали основную технику построения,
которая используется до сих пор. Эти примеры были значи-
значительно обобщены Коэном (Cohen [1]) и Хёрмандером (Horman-
(Hormander [33]), что привело к теореме 13.6.1. Существенно новая идея
была применена Плисом (Plis [1]) в его доказательстве утверж-
утверждения, представленного здесь как теорема 13.6.15. Общий ва-
вариант его построения, использованный в теореме 13.6.9, взят \:з
работы Hormander [33], где можно найти дополнительные
ссылки. Однако они ие охватывают важных недавних исследо-
исследований, по поводу которых мы отсылаем к работам Alinhac [lt2J*
.Alinhac, Zuily [1] и Zuily [1].

14
Теория рассеяния
Краткое содержание главы
Дифференциальный оператор в частных производных Po(D) в
R" с постоянными вещественными коэффициентами задает само-
самосопряженный оператор Но в пространстве L2(Rn), область опре-
определения которого состоит из всех функций «GL2(Rn), таких
что P0(D)u e U( Rn). В самом деле, если F — преобразование
Фурье «->#, то FH0F~l есть оператор умножения на функцию
Ро(?), определенный для всех таких функций U e L2, для кото-
которых Po(l)U(l)^ L2. Очевидно, что это самосопряженный опе-
оператор с абсолютно непрерывным спектром. Его спектральный
проектор Ех задается оператором умножения на характеристи-
характеристическую функцию множества {|, Ро(|)< А,}. (Заметим, что если
Лс R есть множество меры нуль, то мера множества Р~1Л
также равна нулю, поскольку вне множества меры нуль, на
котором dPo = 0, функция Ро локально может быть выбрана
в качестве координаты. Мы, конечно, предполагаем, что функ-
функция Ро отлична от постоянной.)
Целью теории рассеяния является изучение вопроса о том,
насколько изменится спектральное разложение оператора /Уо,
если рассмотреть его возмущение — оператор Н, в некотором
смысле близкий к Но на бесконечности. Для нахождения спек-
спектральной меры dE^ оператора Н полезно заметить, что в силу
примера 3.1.13 резольвента
R (г) = (Н - гГ1 = j (Я - z)~l dEx
формально задает меру dEx равенством
dEk = Bя/)-' (R (I + 10) - R (X - /0)).
Таким образом, естественно изучить поведение резольвенты
вблизи вещественной оси. В случае постоянных коэффициентов,
если точка X не является критическим значением полинома Ро»
т. е, ЛРоФО при Р0«Я, то оператор (/?(Х-И0)— R(k—Ю))/2ш

Краткое содержание главы 261
есть оператор свертки с F~l8{P0 — А,). Из теоремы 7.1.26 нам
известно, что если v — F~l(ud(P0 — А,)), йеС0°°, то
A4.1) sup/? ( \v(x)\2dx<oo,
а теорема 7.1.28 показывает, что это наилучшая возможная
оценка роста функции v на бесконечности. Это подсказывает
нам, что полезно ввести подпространство в ^oc(Rrt), состоящее
из функций, удовлетворяющих условию A4.1), дуальное к под-
подпространству В пространства L2, задаваемому с помощью не-
неравенства
оо
A4.2) ( \ \v{x)fdx\l2+YJBi \ \v{x)\*dx\l2<oo.
\\Х\<\ ) О V к|^|<2 '
Эти пространства, а также некоторые их обобщения, необходи-
необходимые нам по техническим соображениям, изучаются в § 14.1. За-
Затем в § 14.2 и 14.3 мы показываем, что резольвента оператора
Po(D) действительно является непрерывным оператором в этих
пространствах, при условии что полином Ро имеет в определен-
определенном смысле простые нули.
В § 14.4 мы начинаем изучение возмущений
Р(х, D) = P0(x9 D)+V(x, D)
в предположении, что V(xy D)—короткодействующее возмуще-
возмущение (грубо говоря, это означает, что дифференциальный опера-
оператор V строго слабее Pq(D) и убывает на бесконечности несколь-
несколько быстрее, чем 1/|л:|). В точном определении, которое мы
приводим, используется понятие компактности в пространствах,
тесно связанных с пространствами В и В*. Мы также предпо-
предполагаем, что оператор V(x, D) симметричен на области определе-
определения 9\ и показываем, что оператор Р(х, D), заданный на <?,
имеет самосопряженное замыкание Н. Так же как в квантовой
механике, мы затем доказываем, что волновые операторы
A4.3) W±= lim eitHe-itH>
f»±
существуют как сильные пределы. Они являются изометриче-
изометрическими операторами, сплетающими операторы Н и Но:
A4.4) HW± = W±H0.
В § 14.6 доказывается, что операторы W+ и W- имеют одну и
ту же область значений и что вне конечного числа критических
значений полинома Ро спектр оператора Н дискретен в ортого-
ортогональном дополнении к их общей области значений. Таким обра-
образом, оператор рассеяния S — W-W+ унитарен, а оператор И

262 14. Теория рассеяния
унитарно эквивалентен прямой сумме оператора Но и оператора
с полным набором собственных функций.
Ключевую роль в доказательстве приведенных выше утверж-
утверждений играют результаты о граничных значениях резольвенты
оператора Я, полученные в § 14.5. Существование таких гра-
граничных значений доказывается для точек, не являющихся кри-
критическими значениями полинома Ро или собственными числами
оператора Н. Главное — доказать, что некоторые собственные
функции оператора Р(ху D) из пространства В* содержатся в
L2 и в действительности быстро убывают. Это приводит в то же
время к свойствам компактности, из которых следует дискрет-
дискретность точечного спектра. Далее в § 14.6 мы довольно легко по-
получаем, что область значений оператора W+ (или W-) есть
ортогональное дополнение пространства, натянутого на соб-
собственные функции.
Оператор рассеяния S коммутирует с оператором НОу по-
поэтому оператор FSF~l коммутирует с оператором умножения на
функцию РоШ- В § 14.6 мы показываем, что оператор S инду-
индуцирует унитарный оператор S\ в пространстве L2F(P0 — X)),
где X не является критическим значением функции Ро, и что для
каждого х^[—1, 1] оператор Sx —/ компактен в L2 (\ Ро\*6(Ро-*
— Л)). Оператор SK — это так называемая матрица рассеяния
для энергии X. Наконец, в § 14.7 мы доказываем, что для случая
операторов второго порядка в непрерывном спектре нет соб-
собственных чисел.
14.1. Некоторые функциональные пространства
Как мы только что убедились, естественно ввести подпростран-
подпространство В пространства L2(Rn), определенное условием
где
A4.1.2) /?0 = 0, /?/ = 2/~1 при
x\<Rj].
Это банахово пространство с нормой A4.1.1). Пространство
СоЧК") является в нем плотным подпространством. Рассматри-
Рассматривая В как пространство Iх последовательностей со значениями
в гильбертовом пространстве, мы заключаем, что двойственное
к нему Пространство В*' есть соответствующее пространство /°°,

14.1. Некоторые функциональные пространства 263
т. е. множество всех функций и s L?oc (R")> таких что
A4.1.3) !М1в*= sup (rT1 [ \ufdx\l2< со.
/>0 V \ )
\ )
Заметим, что поскольку /?/ — геометрическая прогрессия, то
Таким образом, пространство В* можно определять формулой
A4.1), как это утверждалось выше. Следующий результат явля-
является простым, но важным следствием теоремы 7.1.26.
Теорема 14.1.1. Пусть М есть С1-гиперповерхность в Rn и К —
компактное подмножество в М. Тогда сужение на К преобра-
преобразования Фурье
2
продолжается по непрерывности до сюръективного отображения
Т пространства В на l\ (dS).
Доказательство. Если носитель плотности й = uodS содержится
в множестве /С, то по теореме 7.1.26
v\K)\ = Bn)n\(uy v)\^Bn)n\\u\\B-\\v\\B^C\\uo\\u\\v\\Bt
откуда следует непрерывность. Ввиду того что сопряженный к Т
оператор
L\ (dS) э щ -> F (uodS) е= В*
инъективен и по теореме 7.1.28 (с ф ^ 0, <р@)> 0) имеет замк-
замкнутую область значений1), оператор Т сюръективен.
Замечание. Отметим, что пространство В нерефлексивно. В са*
мом деле, замыкание В* пространства ^ в В* совпадает с за-
замыканием пространства Lcomp в В* и определяется условием
A4.1.8)' J \u\2dx/R-+0 при /?->оо.
о
Двойственным к В* пространством является В, поэтому двой-
двойственное пространство к В* содержит В в качестве подпростран-
подпространства бесконечной коразмерности.
*) Левая часть G.1.29) с к ¦» 1 оценивается через норму A4.1) для
v а« й, эквивалентную норме \\й\\в* ввиду замечания после A4.1.3), так что
II "оII 2 <с|'(«^Не-
<с|'(«^Неоткуда и следует замкнутость образа. — Прим. ред.

264 14. Теория рассеяния
Норма в пространстве В является мажорантой для смешан-
смешанной L1, /Лнормы в следующем смысле.
Теорема 14.1.2. Пусть х = {хи х'), где х' = (х2, ..., хп). Если
ue В и и рассматривается как функция от переменной хх со
значениями в L2(Rn-x), то
оо
A4.1.4) J IM*i)M*i<V2||«llB.
— оо
Доказательство. Положим и\ = и в Xj и и\ = 0 вне Xj. Тогда по
неравенству Коши — Шварца
оо / °°
\ II и, (дс,) \\L,dxx < BR,)llH J || и, (*,) \fLdxx
—оо >—оо
х,
Сложив эти неравенства и воспользовавшись определением
A4.1.1), получим A4.1.4).
По двойственности из теоремы 14.1.2 получаем, что
L°°(R, U(R*-{))czB* и
A4.1.4Г ||tt||B,<V2sup||a(jc,)||L.f и s L°° (R, L2(Rn~%
При изучении резольвенты нам понадобится несколько
свойств пространств В и В*, которые, в частности, позволят
локализовать преобразования Фурье элементов этих про-
пространств. Подобные результаты понадобятся нам и для более
общих пространств, аналогичных В и В* и определяемых сле-
следующим образом. Пусть а, Сг, ... — последовательность поло-
положительных чисел, такая что для некоторой постоянной М
A4.1.5) с//М<с/+1<Мс/, /=1,2,
Пространство Вс по определению состоит из всех таких функций
i>G=L,2oc(Rn), что
A4.1.1)' ^\\вс
Xf
Таким образом, пространство В соответствует случаю cf = R1/2^
Двойственное к нему пространство В] есть множество всех функ-
функций «GilocH» ДЛЯ КОТОРЫХ
A4.1.3)" \\u\\Bl = sup сТ1 (\\и\Ых\Ш< со.

14.1. Некоторые функциональные пространства 265
Следующая лемма позволит нам выразить норму в простран-
пространстве Вс через норму гильбертова пространства Lf, seR, со-
состоящего из всех таких функций и ^ L2OC, что
A4.1.6) ||и|Е= \{l + \x?)a\u(x)?dx< оо.
Лемма 14.1.3. Пусть N — наименьшее целое число, для которого
2N > М. Тогда существует такая постоянная См, что для любой
последовательности с, удовлетворяющей условию A4.1.5), и лю*
бого k = 1, 2, ...
A4.1.7) ||v \\вс<CMck (RSII v IU + RkN II vIU), v e= LL(Rn).
Доказательство. Ввиду того что
A4.1.8) R2j/4 < 1 + «?_! < 1 + \х |2 < 1 + R) < 2R2h x s Z/f
имеем
II v \\_N > BR,)-N || у |U» (X/), || v IU > (R,/2f || о Цу (Jf/).
Поэтому
Здесь
?(fc,) = 2Ncl+i/c, > 2"/M,
^ = 2-Ncl + l/c, < 2~NM.
Следовательно, мы можем оценить обе суммы через суммы гео-
геометрических прогрессий с одинаковым членом при / = k. Тогда
при CM = 2N/{\—M/2N) получаем оценку A4.1.7).
То что неравенство A4.1.7) дает точную информацию о
норме в пространстве Вс, объясняется тем, что при условии
supp v c= X] обе части неравенства в существенном эквивалентны.
Это обстоятельство будет использовано при доказательстве сле-
следующей интерполяционной теоремы.
Теорема 14.1.4. Пусть N — наименьшее целое, большее М. Тогда
существует такая постоянная См, что если Т — ограниченный
линейный оператор, действующий из L2-n в L2-nj сужение кото-
которого определяет ограниченный линейный оператор из L% в L2Nt
и нормы обоих операторов не превосходят числа А, то оператор
Т действует из Вс в Вс и его норма не превосходит См А для
A*Qr)ou последовательности с, удовлетворяющей условию A4.1.5).

266 14. Теория рассеяния
Доказательство. Так же как при доказательстве теоремы 14.1.2,
оо
представим функцию и в виде и = Z Uj, где supp tij с: Xj. Тогда
в силу A4.1.8)
IIи\\вс- Z ck||uk\Ь > 2-"~' Z ^ (Л* IIм*В_лг + R
Воспользовавшись неравенством A4.1.7), получаем
- \\Ти\\вс< Z \\Тик\\в€<См ? c*(/?if ||Г^|и+ Rh
< АСМ Z с*(Rk II^^H-w + R*"II^У < ACM2N+lIIa|b#.
Это доказывает теорему с См =
Следствие 14.1.5. /7#сг& геС^(К") w производные Dar ограни-
ограничены при \a\^N. Тогда оператор r(D)= F~lrF ограничен в
Вс и
A4.1.9) \\r(D)u\\Bc<C*M S
при условии что последовательность с удовлетворяет A4.1.5),
Доказательство. Ввиду того что норма ||u|U эквивалентна
I \\Dau\\L. •
по формуле Парсеваля (ср. G.9.2)), ясно, что оператор r(D)
непрерывен по этой норме, а его норма оценивается умножен-
умноженной на постоянную величиной
#= ^ sup|Der|.
Пространство LLn антидуально к L%9 поэтому оператор r(D)
в L% сопряжен к оператору r(D) bLIat- Значит, оператор r(D)
в LLN имеет такую же оценку нормы, что и в L2N, и тем самым
следствие доказано.
Следствие 14.1.6. Пусть Хх и Х2 — открытые множества в Rn, a
г|) есть CN+X-диффеоморфизм Xi-+X2. Выберем функцию xs
gCq (Хх) и положим
Тогда если последовательность с удовлетворяет условию
A4.1.5), то оператор Т ограничен в пространстве Вс и его норма
оценивается через максимум производных функции х порядка
^N и производных от ^ и \|?~1 порядка ^ N + I

14.1. Некоторые функциональные пространства 267
Доказательство. Сопряженным к Т является оператор
T*v = F~l (х о г|Г' | D^
который имеет тот же вид, что и Т. Поэтому так же, как и при
доказательстве следствия 14.1.5, ясно, что операторы Г и Г*
ограничены в L2N> и следствие доказано.
Следующий результат позволит нам локализовать преобра-
преобразования Фурье элементов пространства Вс. Для его доказатель-
доказательства требуется небольшая модификация доказательства тео-
теоремы 14.1.4.
Теорема 14.1.7. Пусть хе Со°° (R*) и %(D - ц)и = р-1%(- — r\)Fuf
u<el9>'. Тогда
A4.1.10)
для любой последовательности с, удовлетворяющей условию
A4.1.5).
Доказательство. Сначала докажем, что при фиксированном N
A4.1.11)
A4.1.12)
Как и при доказательстве следствия 14.1.5, ясно, что неравен-
неравенство A4.1.11) эквивалентно неравенству
\\
Эта оценка получится, если в левой части мы сначала проин-
проинтегрируем jto переменной к\ и далее заметим, что \| Dp%(? — ц) \2dr\
не зависит от g. Для доказательства неравенства A4.1.12) вы-
вычислим сопряженный к оператору Т вида - • ;
9>(Rn) 3u-
Если t)E^(R2rl) и 0(g, r\)—преобразование Фурье функции
v(x, r\) по. переменной х, то
(Ти, (у)

268 14. Теория рассеяния
Поэтому сопряженный оператор Т* задается равенством
Б. Л)ЛЬ
Таким образом,
\\\1 r\))dr\\*dt
\a\<N
|а|<ЛГ
+|*12Л<>(*> r\)\2dxd4,
что доказывает оценку A4.1.12) для оператора Т.
Доказательство теоремы 14.1.7 завершается теперь с по-
помощью разложения функции и аналогично тому, как это было
сделано в доказательстве теоремы 14.1.4. (В действительности
здесь имеется в виду векторнозначная версия этого результата.)
Положим u^ = %(D — r\)uk; тогда в силу леммы 14.1.3 и нера-
неравенств A4.1.11), A4.1.12) и A4.1.8) получаем
J |ul fBcdr\ < 2 {CMckf \ (RlN|
Поскольку % (D — t\) u= Yi u^ то> согласно неравенству Мин-
ковского,
к
Это завершает доказательство.
Если || X IIlj ¦= 11 то из неравенства A4.1.10) вытекает, что
К", v)\^\\(%(D-i\)u, %(D-r\)v)di\\
\\\x(D-4)u\\B.\\%(D-r])v\\Bcdr\
при условии что и е L\oc fl ^ и ti e С". Поэтому
A4.1.10)' \\uf.^CM,x[\\%(D-n)u\Ld4, ue

14.2. Деление на функции с простыми нулями 269
Для применения полученных результатов удобнее сформу-
сформулировать их в терминах пространств В и В*, чем каждый раз
вспоминать о пространствах Вс и В*с.
Следствие 14.1.8. Пусть |я^С1(К+, R+) и
A4.1.13) A+/)|^(/I<Л^(/), />0.
Если хе=С~, Их1||.«=1 и \i{x) = \i(\x\)9 то
A4.1.14)
A4.1.15)
Доказательство. В силу условия A4.1.13)
A4.1.16)
Поэтому числа с/ = /?1/2н> (/?у) удовлетворяют неравенствам
A4.1.5) с М = 2yv+1/2, а норма \\и\\в эквивалентна норме ||[ш||в.
Стало быть, оценка A4.1.14) эквивалентна оценке A4.1.10).
Если вместо этого взять cjx = RJm\i (/?,), то оценка A4.1.15)
будет вытекать из неравенства A4.1.10O.
14.2. Деление на функции с простыми нулями
Пусть р — вещественнозначная функция класса С2(Х), где X —
открытое множество в R". Если нули функции р простые, то
пределы
(р±ЮГ{= lim (p±ie)~l
0
существуют в 2)п(Х). Это вытекает из замечания, приведенного
после доказательства теоремы 6.1.2, поскольку log(/ ± /е)->-
->log(/±/0) в L\OC и, значит, (/ ± ie)-l-+(t ± Ю)-1 в 3)'{(R).
Так же как и мера Дирака бо, распределения (/±/0)-* на R
однородны степени —1, поэтому естественно ожидать, что рас-
распределение (pdtiO)-1 обладает свойствами, аналогичными свой-
свойствам простого слоя 8o(p) = dS/\p/\1 которые обсуждались в
теореме 7.1.26. При доказательстве этого факта мы сначала рас-
рассмотрим окрестность точки ^°gZ, в которой др/д?,\ >> 0. Тео-
Теорема об обратной функции, примененная к отображению
), Г), Г = «2, ..- 1п)>
показывает, что точка g° имеет окрестность XoczXy которая
диффеоморфно отображается на произведение Х\У(Х\ где Х^ —

270 14. Теория рассеяния
некоторая окрестность точки р(?°) в R, а X'— окрестность точки
I0' в R*. Обозначим обратное отображение через
(Я, Г) ->(S (Г, Я), Г).
Таким образом, p(S(g', Я), Ъ') = Ь.
Лемма 14.2.1. Пусть реС^+2A0), %^С™(Х0) и функция иг
определена равенством
A4.2.1) йг = (р-г-ЮГ
где \^9>. Тогда при imz^O
A4.2.2) ||M*i. OIKcJllffr •)\\L,(H(xl-f)+(l+\t--xl\rN)dt,
где постоянная С не зависит от f, а Н — функция Хевисайда.
При Х\ ->+оо
A4.2.3) \\uk(xu .)~e^s^%0O(^
где Uoo{x\ X) равно 0 при %фХХу а при Х^ХХ задается фор-
формулой
A4.2.4) й„ (Г, Я) = / Шдр/дЫ) (S (Г, Я), Ю-
Доказательство. Поскольку функция иг аналитична по перемен-
переменной z при ImzX) и \\uz(xu •)Н^, —> 0 при г->оо, то в силу
принципа максимума оценку A4.2.2) достаточно доказать в слу-
случае, когда 2 = 1eR. Если К^Хи то имеет место представ-
представление
— я) > о.
Поэтому из леммы 6.2.2 следует, что
i\ (I) = Fi - а (Г, я) - /о) ^ F) f F).
Чтобы найти обратное преобразование Фурье по переменной
заметим, что
g F)/(б, - а - /о) = $ (з, 60/№i - s - /о) +
Обратное преобразование Фурье первого члена есть ограничен-
ограниченная функция
C ?0"
Обратное преобразование Фурье распределения g(Q/(l\—-S —
— Ю) ограничено при |xi|< 1, поскольку носитель suppg ком-

14.2. Деление на функции с простыми нулями 271
пактен. Имеем G e CN, и функцию G можно представить в виде
суммы функции класса Со и функции, все производные которой
по переменной gi интегрируемы. Следовательно, для обратного
преобразования Фурье К(х\, ?') функции G имеет место оценка
Более того, по лемме Римана — Лебега A + \x\\)NK(xu %')-*Q
при *i->oo. Если U(xu I') и F(x\, gr) — преобразования Фурье
функций их и / по переменной *', то
U (*„ 50 - J F (U 10 (ig (S, Г) *'<*-<> 8<^ *Н (х{ - t)
-U 50) Л.
Оценка A4.2.2) при z = % следует из равенства Парсеваля. Если
р (I) ф % при I е supp х» то (Р "~ ^Г1 X е Со+2. Поэтому справед-
либа оценка A4.2.2), в которой функция Я заменена нулем,
число N заменено на Л^ + 2, а постоянная С стремится к нулю
при А,->оо. Это завершает доказательство оценки A4.2.2). По-
Поскольку
F {U 50 ig 0,50 e-"8(r-X)^ (*i - 0 Л -> 'f (a. 50 s (a. 50. *i -> «>,
мы доказали также и A4.2.3). Лемма доказана.
Уже в случае, когда N = 0, из неравенств A4.2.2), A4.1.4),
A4.1.4)/ следует, что
A4.2.5) 11*<ж11*.<СШв.
Несмотря на то что последняя оценка слабее, чем A4.2.2), она
более полезна в силу ее инвариантной формы. Если ср е Со (Rn),
то из A4.2.3) мы также получаем
A4.2.6) \\uK(x)\\(x/R)dx/R
J \%f?( \ 9(sp
6)-Л, \s>0
где dS — поверхностная мера на поверхности p(g) = X. В самом
деле, в силу A4.2.4), (e'XlS(Z>/* %те) (— х'9 Я) есть преобразование
Фурье функции <

272 14. Теория рассеяния
Согласно следствию 7.1.30 и A4.2.3),
Bп){~п J \uk(x)?<p(x/R)dx/R
*i>0
" ", I ЫКдрШ) B, Г) р Ф (/,-/ дЕ/дГ) dt dT.
В силу A4.2.2) при хх < 0 интеграл сходится к нулю. Поскольку
p(S, ?')= ^ имеем
(з, Г) ац/аг + <?р/<?Г = о,
поэтому, если мы положим t = sdp/d%\ и заметим, что
dg/{dp/dl\) = dS/\p'\9 то получим A4.2.6).
Теорема 14.2.2. Пусть р^С2(Х)у где X — открытое множество
в Rn, и функция р вещественнозначна и р'Ф0 в X. Если f e В
и %&С™ (X), то функция
; = F-l((p-zrlxf)9 Im z Ф 0,
может быть единственным образом продолжена на множества
.С.±={г; ±1ш2^0} как слабо*1) непрерывная функция со
значениями в В* и
A4.2.7) 11МБ*<С||Л15; /еВ, геС^
Для каждой функции феСЩР") при /?->оо
A4.2.8) [\ux±io(x)\2q>(x/R)dx/R
->BлI~п \\%f\2f \ q>(sp')ds\dS/\p'\9
А \±>0 /
\±s>0
A4.2.9) J uK+iQ (x) u^i0 (х) Ф (x/R) dx/R ->0.
Доказательство. Если носитель функции ^ достаточно мал и
f^9*y то оценка A4.2.7) при 2G.C+ вытекает из приведенного
выше доказательства неравенства A4.2.5) после подходящей
перенумерации и изменения знаков переменных. Мы всегда мо-
можем представить функцию % в виде X =!?%/> где сумма ко-
конечна, а каждый член имеет малый носитель, поэтому при
2GC+ и f^<? получаем A4.2.7). Поскольку С+эг->иг есть
непрерывная функция со значениями в 9", а пространство 9*
*) Напомним, что если В — банахово пространство и В* — двойственное
у нему пространство всех линейных непрерывных функционалов на В, то
функция г-+иг со значениями в В* называется слабо* непрерывной, если
для любого f е В непрерывна числовая функция z -*• <мг, />, где <«*, /> —
©лачение функционала иге5* на элементе /е5. — Прим. ред.

14.2. Деление на функции с простыми нулями 273
плотно в В, то отсюда следует, что функция С+ ^ z-+uz слабо*
непрерывна и удовлетворяет неравенству A4.2.7) для всякого
fe^7. Поэтому существует слабо* непрерывное продолжение
функции иг на С+, удовлетворяющее A4.2.7) для всякого /ей.
В силу неравенства A4.2.7) достаточно доказать A4.2.8) и
A4.2.9) при ф^Со° и f^9*. Мы уже доказали A4.2.8) в слу-
случае, когда носитель функции х достаточно мал. Если supp %/ Li
LJsuppXfe достаточно мало, то с помощью поляризации этого
результата1), полагая ufz = F~{ ((p — z)~lXjf)> получаем, что
A4.2.8/
XfXk\f\2(\ <p(sp')ds\dS/\i/\.
\0 /
Это верно также в случае, когда носители supp// и supp Xk не
пересекаются. В самом деле, преобразование Фурье функции
L(-/R) Равно
и стремится к нулю в С°° (С supp Х/)> поскольку фе^7. Поэтому
его скалярное произведение с функцией (р — X — Ю)-!хл/ стре-
стремится к нулю. Складывая предельные соотношения A4.2.8)', мы
получим A4.2.8) со знаком плюс, а заменяя р на —р, мы полу-
получим A4.2.7) и A4.2.8) с противоположным знаком. Далее, свой-
свойство A4.2.9) очевидно, если носитель функции % мал, так как
в предположениях леммы 14.2.1
u&±fo(*i» -)-*0 в L2(Rn~l) при ^->qFoo.
(Заметим, что по лемме Римана — Лебега член A +\t — xx\)-N
в неравенстве A4.2,2) можно заменить на о(A +1^ — *i!)""*).)
Переход к случаю, когда нет ограничений на носитель функции
X, делается точно так же, как при доказательстве A4.2.8). До-
Доказательство завершено.
Следствие 14.2.3. В обозначениях теоремы 14.2.2 следующие
условия равносильны:
(О
(Hi) xf = 0 при р =
4) То есть с помощью использования стандартного выражения эрмитовой
формы через соответствующую квадратичную форму. — Прим. ред.

274 14. Теория рассеяния
Доказательство, Условие (i) равносильно условию (Ш), по-
поскольку
A4.2.10) их+«, - Щ.-п = 2л//7-1 (хб (р - Я) f).
В силу A4.2.8) Сф>0 и ф@)>0 условия (ii)+ и (и)_ также
равносильны (iii).
Замечание. Воспользовавшись соотношением A4.2.10) и теоре-
теоремой 14.1.1, легко видеть, что равенство G.1.29) при k = \ выте-
вытекает из A4.2.8) и A4.2.9). Мы предоставляем это читателю в ка-
качестве упражнения.
Теперь докажем, что если выполнено условие (iii) следствия
14.2.3, то функция и(х) почти так же мала на бесконечности,
как функция |х|/(х).
Теорема 14.2.4. Пусть peC2+Af(X), где X— открытое множество
в Rn, и функция р вещественнозначнау р'Ф0 в X. Если [бВ,
% е СГ (X) и %f = 0 при р = К то функция
A4.2.11) u = F-l((
не зависит от выбора знака и
A4.2.12)
где jl(x)= ih(|jc|), fx — произвольная возрастающая функция из
С1 (?Х), для которой
A4.2.13) A+/)H'(O<W), />0.
Доказательство. Оценку A4.2.12) достаточно доказать в пред-
предположениях леммы 14.2.1. Из условия A4.2.13), в силу A4.1.16),
имеем
Поэтому
Поскольку |i(|jci|Xfi(|/|)-при /<^i<0, то из неравенства
A4.2.2) следует, что
l*(l*il)IIM*i. OIlL^cJiid/DH/tf, -)\\L,dt при д?,<0.
Пока мы использовали функцию A4.2.11) лишь с верхним зна-
знаком'. Использование нижнего знака эквивалентно изменению
знака переменной хи поэтому последняя оценка имеет место
также при х\ > 0. В силу A4.1.4) и A4.1.4)'
A4.2.14) 11И1*11)1**<2С||ДЛ1В.
Далее заметим, что условия на функцию р останутся выпол-
выполненными, если произвести замену переменных так, что х\ заме-

14.3. Резольвента невозмущенного оператора 275
няется на х\ + ех/ для достаточно малого е. Имеем
I V I ^""' Г** ТТЛ QV / I V 1 I V I о у I I V* I о V \ \
Поэтому неравенство A4.1.16) дает
Значит, оценка A4.2.12) является следствием оценки A4.2.14).
14.3. Резольвента невозмущенного оператора
Пусть Ро(?) — такой вещественнозначный полином переменной
?eERrt, что Л(Р0)= {0} (см. A0.2.8)). Множество Z(P0) крити-
критических значений полинома Ро
Z(po) = {x; k = PQ(l) и dP0(l) = 0 для некоторого 5gRb}
является конечным множеством. В самом деле, по теореме Мор-
Морса— Сарда оно имеет нулевую меру Лебега, а по теореме Тар-
ского — Зайденберга (теорема А.2.2) оно полуалгебраично. Пол-
Полное доказательство получается также из теоремы А.2.8, которая
показывает, что если множество Z(P0) содержит интервал /, то
существует такая полуалгебраическая кривая /э Я-> |(Х)', что
А, = Р0(|(А,)) и dPo(l(k)) = O. Ясно, что это невозможно. В слу-
случае когда X^Z(Po), множество уровня
есть С°°-подмногообразие в R". Для исследования его поведения
на бесконечности заметим, что, поскольку Р0A)-*оо при ?->«>
(предложение 10.2.9), локализации функции Pod)— X на беско-
бесконечности (см. определение 10.2.6) не зависят от к. Мы хотим,
чтобы они имели только простые нули. Поскольку множество
L(Po) локализаций на бесконечности инвариантно (с точностью
до нормировки) относительно сдвигов, это означает, что нам
нужно потребовать, чтобы при QeL(Po) из условия Q@)=0
вытекало условие dQ @)ф0. Ясно, что множество L(P0) ком-
компактно, поэтому наше условие означает, что
КС Z IQ(a)@)|, Qe
|о|<1
или, эквивалентно,
PQ(l)<C ? W6)| ПРИ больших
| a I ^ 1
| a I
В несколько измененной форме это совпадает с условием, со-
содержащимся в,следующем определении.

276 14. Теория рассеяния
Определение 14.3.1. Полином Яо называется характеристически
простым, если
A4.3.1) ^o
Примерами могут служить все гипоэллиптические операторы,
а также все операторы вещественного главного типа (опреде-
(определения 11.1.2 и 8.3.5). В более общем случае условие A4.3.1)
всегда выполнено, если локализации полинома Ро на бесконеч-
бесконечности имеют первый порядок, т. е.
Р(оа)(&)/РоA)->О при g-»oo, |а|>1.
В случае когда 1тг=^0, для /Арезольвенты обычно будет
применяться обозначение
R0(z) = (P0(D)-zirl.
Таким образом,
A4.3.2) Ro(z)f = F-l((Po(.)-zrlf) .
при /eL2. Если f^C™, то A4.3.2) можно продолжить
до непрерывной функции со значениями в пространстве 9",
определенной в C+\Z(Po) или C~\Z(Po). Такие функции
/ образуют плотное подмножество в i?7, а значит, и плотное под-
подмножество в В. Обозначение Ro(XdtiO) еще будет применяться
для предельных значений A4.3.2) при f^C™.
Теорема 14.3.2. Предположим, что Ро— характеристически про-
простой полином и К— компактное подмножество бС+ (или в С~),
не содержащее критических значений полинома Ро. Тогда если
оператор Q(D) слабее Ро(?>), то
A4.3.3) ||Q(D)/?0B)/||^<Csup-|||/||B; f<=CZ, z<=K.
Доказательство. Достаточно доказать, что если 0 не является
критическим значением, то неравенство A4.3.3) справедливо
для гб/(б={геС+; |Res| <б + Im г}, где б достаточно
мало. Полиномы Рол (S)= ^o(? + Г))/Л)(Г1) и их пределы
при rj->oo образуют компактное множество полиномов, кото-
которые либо удовлетворяют условиям, наложенным на функцию р
в теореме 14.2.2, скажем, на множестве X={g; |?|<p}, либо
равномерно ограничены снизу в X, Если %о^С™ (X), то, просле-
проследив за равномерностью в доказательстве оценки A4.2.7), можно
найти такие постоянные Сие, что для всех г\

14.3. Резольвента невозмущенного оператора 277
при \^9> и г/Ро(т|)е^е. Положим 6 = eminP0 и выберем та-
такие функции Хо> X е С~ (X), что хо = 1 в supp / и || % \\L2 = 1. Если
то, заменив функцию f(l) в последней оценке на
+ л)/(? + Л). получим
IIX (Д - Л) Q (D) /?0 B) / ||в. < С || Q (D) х (D - Л) / Ня/Ро (л)
MIX (?>
Здесь мы воспользовались обозначением из теоремы 14.1.7. По-
Последняя оценка вытекает из следствия 14.1.5, так как
а оценки производных этой функции не зависят от Q и г\. Если
мы возведем в квадрат и проинтегрируем по ц, то оценка
A4.3.3) будет следовать из неравенств A4.1.10) и A4.1.10)'.
Если f еСо°> то из A4.3,3) вытекает, что отображение
C±\Z(Po)=>z-+Q(D)Ro(z)f
является не только непрерывным отображением со значениями
в <?', но также слабо* непрерывным отображением со значе-
значениями в В*. Поскольку пространство Со° плотно в <?, а 9* плотно
в В, то оператор Q(D)R0(z) продолжается до непрерывного
отображения из В в В*, которое слабо* непрерывно по г. Мы
будем использовать то же обозначение для этого продолжения.
Заметим, что если 2 = ^gR\Z(P0), to нужно указать, какому
из множеств С+ или С~ принадлежит параметр X, поскольку
в силу A4.2.10)
A4.3.4) /?о (Я + /0) f — /?0 (^ — «О) f = F Bяйх (Ро) f).
Этим можно воспользоваться при обсуждении однородного урав-
уравнения P0(D)u ==0.
Теорема 14.3.3. Если и (=В*, А, е Km R\Z(P0) и (P0(D) — X)u=*
= 0, то u = vdS, где dS — поверхностная мера на Мк и не
&L2(dS). Обратно, отсюда следует, что и^В*} (P(D) — К)и=*
= 0 и
A4.3.5) С*11|и||],.< \\vfdS^CK\\u\\2B..
Далее,
A4.3.6) BяГя
Доказательство. f Из (P0(D) — X)u =0 следует, что (Ро(БУ—
— Я,) й = 0. Значит, supp й с: Мх, и по теореме 7.1.27 если и еВ*,
то # = t/dS, yeL2(Af^, d5) и справедливо второе неравенство

278 14. Теория рассеяния
^ 14.3.5). Как видно из доказательства теоремы 14.1.1, первое
неравенство A4.3.5) эквивалентно A4.3.6). Для доказательства
неравенства A4.3.6) заметим, что в силу A4.3.4) и A4.3.3)
имеет место оценка
A4.3.7) l/7(Q(-)ex(Po)f)L<Csup|-||/||fl> fsfl.
Следовательно, уже доказанное нами второе неравенство
A4.3.5) при Q = P[a) дает
\
Если теперь просуммировать эти оценки по всем а, |а|=1э то
получим оценку A4.3.6).
Замечание. Левое неравенство A4.3.5) можно было бы также
доказать с помощью теоремы 7.1.26 и локализации, основанной
на теореме 14.1.7.
Теперь легко описать асимптотическое поведение решений
уравнения {P(D)—%)и =f e Ву принадлежащих простран-
пространству В*.
Теорема 14.3.4. Пусть дифференциальные операторы Q{ и Q2
слабее Ро, и пусть fu f2e=B, A,e=R\Z(P0) и и<=В*у (PQ(D) —
— X) и = 0, так что й = vdSy где dS — поверхностная мера на
Мх. Тогда если ср е CS° (R")f то
A4.3.8) lim [ Q{ (D)R(X± 10) f,Q2(D)R(X± Ю) f2q>(-/R)dx/R
A4.3.9) lim [ Q, (D) R{X± /0) /,Q2 (D)R (k T Ю) /2q> (•//?) dx/R = 0,
R-+oo J
A4.3.10) Hm [ Q, {D)R(X±Ю) f,u<f(-/R)dx/R
A4 All) lim^ J |«Is ф (-//?) rfj

14.3. Резольвента невозмущенного оператора 279
Доказательство. Для функций /,, содержащихся в плотном под-
подмножестве F~lC™ пространства В, пределы A4.3.8), A4.3.9) по-
получены в теореме 14.2.2. Если уеС", то можно выбрать такую
функцию g, что geC0°° и v = 2nig/\p{)\ на Л1Ь и, значит, « =
= (Ro(h + iO) — R0(X — iO))g. Поэтому предельные соотношения
A4.3.10) и A4.3.11) являются следстзиями равенств A4.3.8) и
A4.3.9). (См. также теорему 7.1.28 и замечание, приведенное
после следствия 14.2.3.) По условию теоремы Р0<С|Ро| на М^
и, значит, функция Q//|^o| ограничена на М%,. Следовательно,
из A4.3.6) вытекает, что правые части в A4.3.8) — A4.3.11) мо-
могут быть оценены величинами ||/illfl||/2lk II//||в 11*41^ и \\vfL2. По-
Поскольку величины || Q/ (D) RQ (X ± /0) ff \\B* и || и \\в* могут быть
оценены через ||ff\\в и ||v\\L*,M у предельные соотношения
A4.3.8) — A4.3.11) справедливы для произвольных /у и v.
Интуитивно соотношения A4.3.8) — A4.3.11) показывают, что
вклады в Ro(Xzk iO)f, происходящие от точки l^Mx, главным
образом сосредоточены в соответствующем направлении± Pq(^),
тогда как вклады в и распределяются одинаково в обоих на-
направлениях ± ^о^)* Этот факт наводит на мысль о следующем
определении.
Определение 14.3.5. Функция и^В* называется А-уходящей
(Я-приходящей), если Хее R\Z(Po), (Po{D) — K)u = f^B и
R(l + iO)f (соотв. u = R(X — iO)f).
Равенство A4.3.4) показывает, что уходящее и приходящее
решения уравнения (P0(D)—'k)u = f<^B совпадают тогда и
только тогда, когда f = 0 на Мх. Такие решения и особенно
легко распознать по их асимптотическому поведению (см, след-
следствие 14.2.3):
Теорема 14.3.6. Пусть «gS*, ^eR\Z(P0) и (P0(D)—X)u=*
= / е В. Тогда следующие условия равносильны:
(a) функция и одновременно является уходящей и приходя*
щей, таким образом, f = 0 на М-к\
(b) и е= t\
о
(c) Q(D)u^ В* для каждого оператора Q, который слабее Ро.
Доказательство. Импликация (с)=^(Ь) очевидна, а (а)=>(с)
вытекает из равенства A4.3.9), в котором надо взять функцию
Ф ^ 0, такую что <р@);>0. Допустим теперь, что справедливо
условие (с). Возьмем функцию ^ е С?° (Rn), равную 1 в

280 14. Теория рассеяния
ном шаре, и положим
Тогда
(Po(D)-l)uR(x)=Mp(xiR)f(x)+
ФО
и в силу условия (с) сумма стремится к нулю в В при #-voo.
Поэтому правая часть сходится к f в В. Поскольку преобразо-
преобразование Фурье левой части обращается в нуль на М*,, то, исполь-
используя теорему 14.1.1, мы заключаем, что f = 0 на М^. Если до-
допустить справедливость лишь условия (Ь), то функция %(D)u
удовлетворяет условию (с) для каждой функции %ei?\ Это
опять дает нам равенство / —0 на М^. Таким образом, и=цо +
+ Ro(b±iO)f, где uot=B* и (PQ(D)— Х)и0 = 0. В силу A4.3.11)
отсюда следует, что ио = О, и, значит, (с)=^(Ь)=^(а).
Из условий, перечисленных в теореме 14.3.6, следует, что
функция и почти так же мала на бесконечности, как и функ-
функция \x\f(x):
Теорема 14.3.7. Пусть Xg/((S R\Z(Po), и пусть цееС1^) —
любая возрастающая функция, такая что
A4.3.12) (l + 0l*'M<W). t>0.
Тогда существует такая постоянная С, не зависящая от %у \х и /,
что если ji/eB, где |Г(х) = [х(|х|), и f = 0 на Mki то
A4.3.13) || ixQ (D) Ro (X ± /0) / 1b. < С sup -f~|| ДЛЬ-
"о
Доказательство. Нужно лишь повторить доказательство теоремы
14.3.2, заменив в нем ссылку на теорему 14.2.2 ссылкой на тео-
теорему 14.2.4. Подробности мы предоставляем читателю в каче-
качестве упражнения.
Следующий результат играет главную роль в доказатель-
доказательстве унитарности матрицы рассеяния (см. § 14.6).
Теорема 14.3.8. Пусть mgB*, Xs=R\Z(P0) и (P0(D)—X)u =
= f^B. Тогда справедливо представление
u = R0(X!P /0) / + u±t й± = v± dS,
где dS — элемент площади поверхности на М^, v± e L2(M%y dS) и
A4.3.14)

14.4. Короткодействующие возмущения 231
Включение Р(оа) (D) и^ В* имеет место при всех а тогда и только
тогда, когда | Р[ \ v± e= L2 (Л1Л, dS).
Доказательство. Из теорем 14.3.2 и 14.3.3 следует, что
v = (#0 (Я + Ю) + Rq (I — 10)) //2 + uQi Uq = v0 dS,
где y0 ^ L2(Mb). Тогда
Im («, f) = Im (u0> f) = Im
так как это верно при /еУ, и обе части равенства являются
непрерывными функциями от / g В. Поскольку
(Яо (Я + Ю) + Ло (Л - Ю)) //2 = /?0 (Л т /0) / ± mF'] (f dS/\ P'Q |),
мы получаем о± = v0 ± nif/\ P'Q\ и | v + |2 — | v_ |2 = 4я Im yj/| P^ j.
Отсюда вытекает A4.3.14), а также сходимость интеграла в этом
равенстве. Поскольку включение P(oa)(D)u^ В* выполнено при
всех а тогда и только тогда, когда оно верно для и±, последнее
утверждение следует из теоремы 14.3.3.
Следствие 14.3.9. Если скалярное произведение (и9 f) веществен-
вещественно, то функция и является Х-уходящей тогда и только тогда%
когда она является к-приходящей.
Доказательство. В случае когда правая часть равенства A4.3.14)
равна нулю, очевидно, что условие v+=0 равносильно условию
си —0.
Следствие 14.3.10. Если /еВ, AeR\Z(P0) и u = R0(X±i0)f,
то
A4.3.15) Bя)!-Л J |f |2dS/|P'0| = ±2Im(H, f).
Доказательство. В теореме 14.3.8 мы имеем 1^ = 0 и 0+ — 0_в
Поэтому
14.4. Короткодействующие возмущения
В § 14.3 довольно подробно изучена резольвента R0(z) характе-
характеристически простого оператора Po(D) с постоянными коэффи-
коэффициентами, для которого Л(Ро) = {О}. Посмотрим теперь, когда
эти результаты могут быть перенесены на возмущение
P = Po(D)+V(x,D)

282 14. Теория рассеяния
дифференциальным оператором V(x, D). Поскольку
P-z*=P0-z+V,
мы получаем уравнение для резольвенты
A4.4.1) /?0 {г) = R (г) + /?0 (z) VR (z) = R(z)+R (z) VR0 (г),
где R(z) — (P — z)~\ если только можно умножать оператор
Р — z слева и справа на R(z) и R0(z). Тогда должно выпол-
выполняться равенство
A4.4.1)' l
Для обоснования равенств A4.4.1) и A4.4.1)' нам необхо-
необходимо знать, что VRq(z)—компактный оператор в подходящем
пространстве. Теорема 14.3.2 утверждает, что для каждого
г? С+U C~\Z{Po) оператор R0(z) отображает В в множество
A4.4.2) {и; Q(D)u<=B* для всех Q<P0].
Поэтому естественно потребовать, чтобы V был компактным
оператором из этого пространства обратно в В, В качестве Q
нам нужны лишь производные от Ро> так что положим
В*Ро = {и; Р\,а)(D) и^В* для каждого а}, || и \\в* = ? ||/*«> (D) и \\в*.
Определение 14.4.1. Дифференциальный оператор V(xy D) с ко-
коэффициентами из L2\oc (Rn) называется короткодействующим воз-
возмущением оператора Я0(Ь), если V(xy D) переводит пересечение
пространства C°°(Rn) с единичным шаром пространства Вро
в предкомпактное подмножество пространства В.
Сужение на класс С°° служит лишь для того, чтобы опера-
оператор V(x9 D) был корректно определен. Это условие будет снято
в следующей теореме. В ней Q обозначает единичный шар в Rn.
Теорема 14.4.2. Оператор V является короткодействующим воа-
мущением оператора Pq(D) тогда и только тогда, когда
1) множество V(x+y, D) {и е= С~ (Q); || Ро (D) и ||L, < 1} пред-
компактно в L2 для каждой фиксированной точки j/eRft.
ii) В обозначениях A4.1.2)
A4.4.3) || V (• + у, D) и \\„ < М, || Ро (D) и flL,, и s Co°° (Q), у&Хп'
оо
A4.4.4) J Я/М, < оо.
Пересечение С°°(]В*Р плотно в В*Ро, так что замыкание опера-
оператора V(x, D) является компактным оператором V из В*Ро в В.

14.4. Короткодействующие возмущения 283
Доказательство. Необходимость условия i) очевидна, гак как,
например, по теореме 10.3.7
II РТ (D) и \и < С | Ро (D) и ||L2, и <= Со°° (О).
Пусть Mj — наименьшая постоянная, для которой выполнено
неравенство A4.4.3). Выберем функцию uf^C™(Q) с \\Po(D)uf\\Lt
= 1, для которой || V (• + уп D) tij \\Li > Му/2 при некотором
t/j e X/. Тогда члены рядов
" = Е «2, ( ' - »2/) *2?> * = I М2/+1 ( * ~ %И) ^Д1
имеют непересекающиеся носители. При этом и, v e В^, по-
поскольку носитель функции #/(•—t//) содержится в объединении
Х/-1U Xj U Х/+1. Если оператор V короткодействующий, то Vu>
Vv e В и, таким образом,
Это доказывает оценку A4.4.4).
При доказательстве обратного утверждения воспользуемся
теоремой 1.4.6 и растяжением координат, чтобы выбрать раз-
разбиение, единицы вида
1 = Z Ф (* - Ун)>
где феС0°°(й), а множество {-\/nyk} есть решетка целых точек
в Rn. Пусть иеГ и ||и||в* <1. В силу A4.4.3) при uk —
Ро
= Ф (• — tjk) и, если tjk e Xj, то
II Ки, 111, < М) | Z D\ (• - ^) Pbe) (D) Ц/а! f.
Поскольку | Vu |2 < 2rt Z I Vm^ |2, имеем неравенство
Следовательно,
||^||в<С/1/2 Z Я/(М/-1 + Af,+
Если f/y есть сумма всех функций иЛ с |^|>/?/+1, то мы
получаем также, что
оо
A4.4.6) || VUj\\B <С" ? /?/Afy->0 при /->оо.
Предположим* теперь, что имеется последовательность av e
еС°° с ||ttv||^ <1. Из условия i) теоремы 14.4.2 вытекает, что

284 14. Теория рассеяния
при помощи диагонального процесса мы можем заменить ее на
такую подпоследовательность, что последовательность V(x, D)u%,
где w? = <p(- — Ук)иУ*> сходится в L2 при каждом k. В силу
A4.4.5) функции УиУ образуют последовательность Коши в В.
Это завершает доказательство компактности.
Если «ЕЙр и е > 0, то для каждого k мы можем выбрать
такую регуляризацию vk еС0°°(й+ {yk}), что || uk — vk \\B* < е/2к.
Тогда v = 2 Vk е с°° и IIи — v Hff < е> откуда следует, что пе-
ресечение С°°(]В*Р9 плотно в В*р. Доказательство закончено.
В' дальнейшем мы всегда будем предполагать, что оператор
V является короткодействующим возмущением оператора Pq(D),
и пользоваться тем же обозначением для его замыкания как
отображения из В*Рл в В. Для дальнейших ссылок заметим, что
на самом деле мы Доказали, что
к
A4.4.5Г WVu^C'ERjMjWuWf при «ев;§ и
/ Ро
к
supptf с: М Xf.
Легко доказать следующую лемму:
Лемма 14.4.3. Если последовательность и? е В*р ограничена и
uv->u в 2)\ то «е ВРо и
Доказательство. Условие означает, что PW(
слабо в L2(Xj) при каждом /. Таким образом,
|| /*«> (D) и \\„ , ) < lim || Р<«) (D) и* \\L,X < CR)i\
откуда следует включение и е В*Ра. При доказательстве осталь-
остальной части утверждения мы можем поэтому считать, что и = 0.
В обозначениях доказательства теоремы 14.4.2 при каждом k
имеем
\\Vu%l^->0 при v->oo,
так как компактный оператор в гильбертовом пространстве пе-
переводит слабо сходящиеся последовательности в сильно сходя-
сходящиеся последовательности. В силу A4.4.5) тогда ||W||b-*0,
что и завершает доказательство.
Перед тем как закончить обсуждение вопроса о значении
короткодействующих возмущений, приведем в добавление к тео-

14.4. Короткодействующие возмущения 285
реме 14.4.2 некоторые достаточные условия. Из теорем 10.3.2 и
10.1.10 вытекает, что множество
{Q (D) и; || Ро (D) и || < 1, и е= Со°° (Q)}
предком па ктно в L2 тогда и только тогда, когда
Q(t)/Po(t)-+O при Б-оо в R".
Пусть Qi, ..., Qr — базис в векторном пространстве таких поли-
полиномов Q; тогда оператор
V(x,D)=ial(x)Q,(D)
является короткодействующим возмущением, если существует
убывающая функция M(t), для которой Л1@)< оо и
M(t)dt< оо.
В самом деле, мы получим тогда неравенства A4.4.3), A4.4.4)
сМ/ = СМ (/?/_2). Заметим, что из нашего предположения о том,
что Л(Р0) = {0}, вытекает, что Q(!)/Po(!)-*O при ?->оо по
крайней мере для Q(?)=l (предложение 10.2.9).
Можно также допустить достаточно слабые локальные осо-
особенности. Если Ро — эллиптический оператор порядка т или
оператор порядка т + 1 вещественного главного типа, то можно,
например, взять
V(x, D)= Z VA*)D\
|a]<m
где для каждого a
A4.4.6) J>/ sup
с р = п/(т-—\а\) при п>2(т — |а|), р>2 при п = 2(т —
— |а|) и р = 2 при п<.2(т — |а|). Для упрощения обозначе-
обозначений в доказательстве положим а=0; утверждение в общем
случае сразу же следует из этого частного случая. Тогда по
неравенству Гёльдера
\\V0(x + y)
при р>2 и 2/q = 1 — 2/р. Если л>2ш ир = п/т, то 1/с/
s=l/2 — m/nt и по теореме 4.5.8 (ср. с теоремой 4.5.13)
b we Co00(а).

286 И. Теория рассеяния
При п =2т и р >2 имеем
|aT<m
где \/r = l/q + m/n > m/л и, значит, г < я/m = 2; следова-
следовательно, в правой части можно заменить г на 2. Наконец, если
я <С 2т, то из теорем 4.5.9 и 4.5.11 вытекает, что
sup| и |<С ? \\Dau\\L2, us=C~(Q).
|a|<m
Во всех трех случаях мы заключаем, что неравенства A4.4.3) и
A4.4.4) следуют из A4.4.6). Мы также получаем условие О
теоремы 14.4.2 из представления VQ—W'S+ W{, где И^=Уопри
|К0|<5 и Ws = 0 при других 5. Компактность станет очевид-
очевидной, если Vq заменить на W'$9 а заменив VQ на W", мы получим
норму, сходящуюся к нулю при 5~>оо.
Далее мы будем также предполагать, что оператор V сим-
симметричен, т. е.
A4.4.7) (Vf> g) = (f, Vg); U gECo"
Отсюда следует более общее равенство
A4.4.7Г (Vf9g) = (f9Vg); f,g^B*Po.
При его доказательстве мы можем считать, что f, gG C°°. Вы-
Выберем хеСо°»х(О)= 1, и при е > 0 положим
/е W = X (в*) / (*), ^е (X) = X (ВХ) g (X).
Тогда /е, ge^C™; семейства функций /е и ge ограничены в В/>0
и сходятся соответственно к f и g в й)' при е->-0. Поэтому
лемма 14.4.3 показывает, что VfB-*- Vf в В, Vg^-^ Vg в В. По-
Поскольку
мы получим равенство A4.4.7O, устремив е к нулю, если заме-
заметим, что, например, (Vf, ge)-+(Vfy g) по теореме о мажорирован-
мажорированной сходимости и что \{Vfz—Vf9 gB) К Q\VfB— V7IIb-*0.
Докажем теперь, что оператор Р существенно самосопряжен.
Теорема 14.4.4. Предположим, что Ро — вещественный характе-
характеристически простой полином и Л(Р0)={0}. Пусть V — симме-
симметричное короткодействующее возмущение. Тогда оператор
Р{ху ?>)*= P0(D)+ V{xt D) с областью определения У суще-
существенно самосопряжен, т. е. его замыкание является самосопря-
самосопряженным оператором в L2(R").

14.4. Короткодействующие возмущения 287
Доказательство. Благодаря тому что оператор Р симметричен
в У у достаточно показать, что область значений оператора Р — z
плотна в L2 при некотором г в каждой из полуплоскостей
±Iiri2:>0, поскольку это означает, что индексы дефекта замы-
замыкания равны нулю. Ясно, что
(P-z)u = (I+VRo(z))(Po-z)ut u<=l9>>
и Ро — z является биекцией на 9> при 1гпгфО. Следовательно,
достаточно показать, что множество (/+ VRoiz))^ плотно в /А
Поскольку пространство 9* плотно в В, достаточна убедиться,
что при подходящем z оператор /+ VRq(z) является биекцией
на В, а это вытекает из следующей леммы:
Лемма 14.4.5. Если V — короткодействующее возмущение опе-
оператора Роу ТО
BiB)-^O при t-+oo в R.
Доказательство. Пусть //->оо — некоторая последовательность
в R; выберем такую функцию f/eB, что ||//||в = 1 и
Положим tij = R0(ilj)fi^B*Pit. Как показывает доказательство
теоремы 14.3.2, последовательность || и{ ||в* равномерно ограни-
огранило
чена. Поскольку
из леммы 14.4.3 заключаем, что ||Ки/||в->0. Это завершает до-
доказательство.
Теперь можно обосновать рассуждения, которые привели к
уравнению для резольвенты A4.4.1). Если f^^7, то
При Imz =5^=0 положим f=R0(z)u смбУи после умножения
на оператор R(z) получим
©бе части тождества представляют собой непрерывные опера-
операторы из В в L2, поэтому оно справедливо также при мей, От-
Отсюда вытекает, что оператор /+ VRo(z) имеет на В ядро {0}
и, значит, в соответствии с теорией Фредгольма обратим в
L(S, В). Следовательно,

?88 14. Теория рассеяний
В соотношении
(P-z)f = (P0-*)f+Ff, f^B\,
можно теперь заменить / на R(z)uy и^В, и получить
u = {PQ-z)R(z)u + VR(z)u.
Поскольку Im г^О, оператор Ro(z) (Ро — z) тождествен на
Поэтому
( () + Ro(z)VR(z)u> ие=В.
Докажем теперь существование волновых операторов, вве-
введенных в A4.3).
Теорема 14.4.6. Если оператор V симметричен и представляет
собой короткодействующее возмущение оператора Ро, то опе-
операторы
A4.4.8) W±u= lim eiiHe-itH>u, mgL2(R"),
существуют и являются изометрическими операторами, сплетаю-
сплетающими замыкания Н и Но операторов Р и Ро.
Доказательство. Поскольку оператор eithe-itH* унитарен, мы
убедимся в существовании и изометричности пределов W±, если
докажем их существование для функции и из плотного подмно-
подмножества в L2. Если и е 9*, то е~ини есть С°°-функция от t со
значениями в ^. Этим доказано существование производной
-iL (eitHe~itH и) = eitH (iH - Шо) e~itHm = ieitHVe~itH«u
в L2. Пределы A4.4.8) существуют, если интеграл нормы пра-
правой части конечен, что эквивалентно неравенству
A4.4.9) J \\Ve-itHu\\dt<oo.
Мы докажем этот факт в случае, когда
Л еСГ (О). Q = {l;dP0(l)?=0}.
Это условие обеспечивает существование положительных чисел
г и R, таких что
r<\P'Q{Q\<R При lEESUppu.
Оценим теперь функцию
J (I
с помощью теоремы 7.7.1. Для этого мы заметим, что у нас
имеются равномерные оценки производных по \ функции

14.4. Короткодействующие возмущения 289
«, g>E))/(|| + ||) в случае, когда точка ? находится
вблизи множества supp и. Если \x\<rt или \х\> Rt, то мы
также имеем фиксированную оценку снизу для дифференциала
в окрестности носителя supp и. Поэтому
A44 10) \еи(
iV=l, 2, ...; \x\<rt или \x\>Rt.
Выберем теперь функцию x^C™(Rn \0), %(х)=\ при г<
< \х\ < R и х(^) = 0 при \х\ < г/2 или |л;| > 2R. Положим
щ (х) = х (x/t) e-itff°u (x), vt(x) = (l-x Ш) e-itH>u (x).
Функцию vt(x) и ее производные можно оценить через произ-
произвольную отрицательную степень функции (|*| + |^|). Поэтому
Ftl\\4BitlB N
Ро
для всякого N. Для каждого оператора Q(D) имеем
Q(D)ut= 2 rlalDax(x/t)e-itH°Q{a)(D)u/a\t
а так как rt/2 ^\x\^.2Rt на носителе функции щ, то мы по-
получаем
\\Q(D)ut\\B.^CrU2\\Q(D)ut\\u<CTm.
(Наши постоянные, конечно, зависят от и.) Из неравенства
A4.4.5)' следует, что
tm II Vut \\L, < С, || Vut \\B < С2Гт Z RM
Поэтому
Это завершает доказательство неравенства A4.4.9) и существо-
существования волновых операторов.
Сплетающее свойство
A4.4.11) ei9ttW± = W±eisH\ sgR,
легко получить, если в определении операторов W± заменить /
на 5 + /. Тем самым доказательство теоремы закончено.
Равенство A4.4.11) означает, что оператор Н есть прямая
сумма оператора, унитарно эквивалентного оператору Но в об-
области значений W±, и некоторого самосопряженного оператора
в ортогональном дополнении. В § 14.6 мы докажем, что опера-
операторы W+ и W- имеют одинаковые области значений и что в
10 Зяк М

290 14. Теория рассеяния
ортогональном дополнении вне множества Z(Po) спектр опера-
оператора Н дискретен. Отсюда будет видно, что оператор рассеяния
является унитарным оператором, коммутирующим с Но. Урав-
Уравнение Su~ = u+ означает, что решение возмущенного нестацио-
нестационарного «уравнения Шредингера»
idv/dt = Hv
при v @) = W-.U- = W+u+ асимптотически близко к решению
е-инш_ невозмущенного уравнения на —оо и к решению e-itHiu+
на +°°- Таким образом, оператор 5 описывает асимптотические
эффекты возмущения.
В заключение этого параграфа мы приведем очень простой
пример, который показывает, почему столь важно условие ко-
роткодействия возмущения. Пусть P0(D) = D на R, и пусть V —
гладкая вещественнозначная функция. Тогда оператор D + V
с областью определения Со° существенно самосопряжен. Его
замыкание Н имеет вид
H = e-iFHoeiF,
где F — первообразная функция от V. Поэтому
еин = e-iPettHneiF9 еинЧ1 (А.) = и (JC + q#
Отсюда следует, что
e"He-ttH4l(x) = e-tF
Если функция V интегрируема, то
где F(x)—F(ztoo) есть первообразная функция от У, стремя-
стремящаяся к нулю на "±оо. Имеем S = exp| — / \ l/d#|. Ясно, что
V р /
волновые операторы не будут существовать при условиях, на-
намного более слабых, чем условие интегрируемости функции V.
Однако если V-+0 на оо, то
lim eitHe~itH
Это будет отправной точкой для определения модифицирован-
модифицированных волновых операторов в гл. 30.

14.5. Граничные значения резольвенты 291
14.5. Граничные значения резольвенты
и точечный спектр
На протяжении всего этого параграфа мы предполагаем, что
Ро— вещественный характеристически простой полином, Л(Р0) =
= {0}, a V(x, D) — симметричное короткодействующее возму-
возмущение оператора Ро. Через Ro(z) мы обозначаем резольвенту
оператора Ро, которая при z^ C±\Z(P0) действует непрерывно
из В в B*Pq. Она слабо* непрерывна как функция переменной г.
При \тгф 0 резольвента R(z) оператора Р выражается в виде
A4.4.1)' как оператор из В в В*р. Этот факт был проверен
после доказательства леммы 14.4.5. Теперь мы изучим предел
выражения A4.4.1)', когда переменная z приближается к ве-
вещественной оси.
Лемма 14.5.1. Если [еВ, то функция
непрерывна по z при zeC+\Z(P0) или z^ C~\Z(P0). Если
К — компактное подмножество в C±\Z(P0), то множество
{VRo(z)f;\\f\\B<l,z<=K}
предкомпактно в В.
Доказательство. Из теоремы 14.3.2 мы знаем, что множество
ограничено в В*Ро. Поэтому последнее утверждение очевидно.
Если C+^BZi->°z(?Z(P0) и /€=?, то R0(zj)f-+ R0(z)J в ?", и
эта последовательность ограничена в В*р. Поэтому в силу лем-
леммы 14.4.3
\WRo(zj)f-VRo(z)f\\B-+O,
что и требовалось доказать.
В частности, лемма 14.5.1 показывает, что если X^R\Z(P0),
то оператор VRq(X ± /0) компактен в В. В качестве первого
шага к обобщению формулы A4.4.1)' мы изучим теперь нуль-
пространство оператора / + W?0(X it Ю). Допустим, что |еВ
и что, например,
f+VR0(h + i0)f = 0.
Положим u = R0(X + l0)f\ тогда и<=В*р, (Po(D) — X)u = f =
= — Vu и, таким образом,
A4.5.1)
10»

292 14. Теория рассеяния
Из определения 14.3.5 нам известно, что решение и есть ^-ухо-
^-уходящая функция. Однако скалярное произведение (и, Vu) ве-
вещественно в силу свойства A4.4.7)г; значит, согласно след-
следствию 14.3.9, решение и есть также и А,-приходящая функция.
Поэтому / + W?o(A, — /0)/ = 0.
Теорема 14.5.2. Если 1gR\Z(P0) и и е В*Ро есть решение
уравнения A4.5.1), одновременно Х-приходящее и \-уходящее,
то решение и быстро убывает,
A4.5.2) \(l + \x\2)«\pW(D)u\2dx<oo при всех N и а
и (Н — Х)и=0. Множество Л всех таких A,G5R\Z(PO), для
которых уравнение A4.5.1) имеет отличное от нуля решение,
удовлетворяющее условию A4.5.2), дискретно в R\Z(P0), a
при ^gA размерность пространства решений уравнения
A4.5.1), удовлетворяющих условию A4.5.2), конечна.
Доказательство. Фиксируем положительное целое N и е?@, 1),
которое будет позже устремлено к нулю, и положим
M*)«(i+0"(i+e<r", t>o.
Это ограниченная функция, и так как
К @/1*. @ = N A/A + 0 - е/A + еО) = N A - е)/(A +0A+ в/)),
то
ПОЛОЖИМ (I, {X) = Ц? ( | X | ) И
Последняя величина конечна ввиду ограниченности функции {де.
По теореме 14.3.7
A4.6.3) Us^C\\Wu\\B.
В обозначениях теоремы 14.4.2, так же как при доказательстве
неравенства A4.4.5), находим, что
|| VU \\L2{Xf) «Л/еЯГИе (Я/Г* (Af,-i + M}+ Af/+1).
Для всякого б > 0
оо оо
Е Л, (Af,_, + ^ + Af/+1)< ? 4/?7Afy < б при />/(«).

14.5. Граничные значения резольвенты 293
Следовательно,
||*. и в^ и L1{Xj) ^
< ЬС'иг + ? но (Л/) ЯР II Vu 1Ь ,хЛ.
Если мы объединим эту оценку с неравенством A4.5.3) и вы-
выберем число б настолько малым, что 8СС < 1/2, то получим,
что
Устремляя е к нулю, находим, что С/о < °°. Отсюда следует
неравенство A4.5.2) с N—1 вместо N.
Если Poa)(D) v e L2npn каждом а, то v принадлежит области
определения оператора Я и Hv = (Роф) + V(xy D))vy так как
оператор Po(D)-\- V(x, D) симметричен на этой области опре-
определения. Следовательно, и принадлежит области определения
оператора Я и (Я — Х)и = 0.
Ввиду того что оператор Ro(K + iO)V компактен в В*Ро, для
фиксированного ^?Л пространство решенийи^В*Ро уравнения
конечномерно. Для доказательства дискретности множества Л
предположим, что при некотором X^Z(Pq) существует после-
последовательность i/бА, К/ФК Я/-* Я. Выберем такие Uj^BP§
с нормой 1, что Uf -\-Ro(kj zt Ю) Vuj = 0. Доказательство нера-
неравенства A4.5.2) дает равномерную оценку
A4.5.2)'
Если хеС то ||Р0Ф)(Х«/I1<Сх||ы/||в. = Сх. Поэтому из
теоремы 10.3.7 и предложения 10.2.9 вытекает, что последова-
последовательность yiij имеет подпоследовательность, сходящуюся в ZA
Значит, uf содержит подпоследовательность, которая имеет пре-
предел и в L2. Так как Нщ = Я/И/, то Ни = \и, поэтому и ортого-
ортогонально К Uj И
(ut u) = \im(ur u) = 0.
По лемме 14.4.3 отсюда следует, что ||Vuj\\b-+0, поэтому
что противоречит условию ||^||в* ==1. Доказательство завер-
шено.

294 14. Теория рассеяния
Рассмотрим теперь граничные значения оператора R(z)\ для
этого приведем следующий известный результат из теории Фред-
гол ьм а:
Лемма 14.5.3. Пусть К — произвольное компактное метризуемое
пространство, и пусть
K^z-+T(z)e=L(B, В),
где В — банахово пространство, есть сильно непрерывное равно-
равномерно компактное семейство операторов, т. е. предположим, что
множество
{Т(г)щ ||и||в<1, 2Е/(}
предкомпактно в В. Тогда множество /<0 ={г? К\ оператор
/+ T(z) необратим} компактно и отображение г->(/+ Т(г))
сильно непрерывно при z e K\Kq.
Доказательство. Допустим, что K=>Zj-+z и для некоторой по-
последовательности щ е В, ||а/|| = 1
Последовательность T(z})uj имеет сходящуюся подпоследова-
подпоследовательность, поэтому этим же свойством обладает и последова-
последовательность Uj. Если и — ее предел, то (I-\- T(z))u =0 и \\u\\ = 1,
значит, z ^ Л'о. Поэтому множество Ко замкнуто и оператор
(/ -f- T(z))~l имеет локально ограниченную норму в К\Ко-
Если 2\ ->¦ zф Ко и (/ + T(zj))uj = /, то последовательность
Uj ограничена. Тогда последовательность T(z})uj предкомпактна
и, значит, последовательность Uj также предкомпактна. Пусть
и — предел некоторой ее подпоследовательности; тогда
(/ -\-T(z))u = f и, таким образом, и =(/ + T(z))~lf. Поэтому
(/ + T(zj))~lf'-»(/ + T(z))~lf, что и доказывает лемму.
Теорема 14.5.4. Если /еВ, то отображение z-+(I+VR0(z))-lf&.
еВ является непрерывной функцией от z e C±\(Z(P0)UA)
(множество Л определено в теореме 14.5.2).
Доказательство. Этот результат является непосредственным
следствием лемм 14.5.1 и 14.5.3 и определения множества Л,
данного в теореме 14.5.2,
Отождествим теперь решения уравнения A4.5.1) с собствен-
собственными функциями оператора Н в L2.
Теорема 14.5.5. Пусть А, е R\Z(P0). Если fu ..., /, есть базис
решений в пространстве В уравнения (/ + VR0(k -f- Ю))/ =0,
то функции Uj*=z R0(X + iO)ff удовлетворяют условию A4.5.2)
и образуют базис 12-решений уравнения (//— 1)и — 0% Более

14.5. Граничные значения резольвенты 295
того, уравнение
A4.5.4) (/ + VRQ (Я, + Ю)) f = ge=B
имеет решение f e В тогда и только тогда, когда
A4.5.5) (?, а,) = 0, /=1, ..., г.
Доказательство. Тот факт, что функция а,- удовлетворяет усло-
условию A4.5.2), вытекает из теоремы 14.5.2. Далее мы докажем,
что если fsB и справедливо равенство A4.5.4), то
A4.5.5)' (?, и) = 0 при «Gt2 и (Н — Х)и = 0.
Для этого положим у = /?0 (^ + *'О) f e Вр, и получим
{Po(D)-b)v + Vv = g.
Пусть x^C~(Rn), х = 1 в множестве {х; |*|<1/2} и suppx
содержится в единичном шаре. Положим %v(x) = %(x/Rv), где
постоянные Rv определены в A4.1.2). Тогда произведение
vv(x) = %v(x)v(x)
имеет компактный носитель и Роа) (D)vv^ L2 при каждом а.
Как уже замечено в доказательстве теоремы 14.5.2, отсюда
вытекает, что vv содержится в области определения оператора
Н и
(Я - Я) vv = Xvg + [Ро (D), Xv] v + (VXv - XVV) v,
где
Поскольку v^Bp, и supp^c:^v, множители /?v гаранти-
гарантируют нам, что коммутатор стремится к нулю в L2 при v->oo.
Кроме того, V%vv -> Ku в L2 по лемме 14.4.3. Следовательно,
что доказывает A4.5.5)'. По теореме 14.5.2 элементы Uk при-
принадлежат области определения оператора Н и (Н — А,)и*=0,
поэтому элемент g, в частности, ортогонален к и\> ..., ar. В силу
альтернативы Фредгольма уравнение A4.5.4) может быть ре-
решено для всех элементов g.t принадлежащих пространству ко-
коразмерности г. Следовательно, отсюда вытекает, что элемент и
является линейной комбинацией элементов wb ..., иг и что
уравнение A4.5.4) может быть разрешено тогда и только тогда,
когда выполнено условие A4.5.5). Доказательство закончено.
Объединяя теоремы 14.5.2 и 14.5.5, получаем
Следствие 14.5.6. В множестве R\Z(Po) точечный спектр ди-
дискретен и имеет Конечную кратность. Собственные функции удов-
удовлетворяют неравенству A4.5.2),

296 14. Теория рассеяния
14.6. Искаженное преобразование Фурье1)
и непрерывный спектр
Теорема 14.5.4 позволяет нам определить спектр замыкания Н
оператора P0(D)+ V(x, D) вне замкнутого счетного множества
Л = Z(P0)U Л. Мы увидим, что этот спектр абсолютно непреры-
непрерывен и эквивалентен спектру невозмущенного оператора Но. Нач-
Начнем со следующего общего утверждения.
Лемма 14.6.1. Если j(gC0(R) и dE%— спектральная мера опе-
оператора Я, то
A4.6.1) \%(X)(dEj, f)
= lim ±^r[x(X)lm(R(X±te)fi f)dX, [gL2,
Доказательство. По спектральной теореме правая часть равен-
равенства является пределом выражения
± JL \\ %(X) im (/ - л т url (dEj, f) dx
= 5 (dEtf, /) J x (/ + es) ^/(л A + s2)).
Внутренний интеграл в правой части равномерно сходится к
функции x(t)y что и доказывает лемму.
В случае когда Af|suppx = 0 и /еВ, из теоремы 14.5.4 и
равенства A4.6.1) вытекает, что
A4.6.1)' \%(X)(dEj, f) = ±-l~\%(X)lm(R(X±iO)f, f)d%.
В силу соотношения A4.4.1O, которое было обосновано после
леммы 14.4.5, имеем
где
A4.6.2) /* = (/+ VRQ(z))-4
есть непрерывная функция от геС^Л со значениями в В.
Поскольку
из равенства A4.4.7)г и следствия 14.3.10 находим, что
2\m(R(X±iO)f, f) = 2lm(RQ(X±i0)h±i0, fk±i0)
= ±BлI-Л J \h±io(l)\2dS/\Po(l)l
l) В оригинале: distorted Fourier transform. — Прим. ред.

14.6. Искаженное преобразование Фурье 297
Здесь Мх = {?; Ро(?) = ^}- Следовательно,
A4.6.1)" $х (*)№/. f)
\ \h±io(l)\2dS/\Po(l)l f€EB.
Пусть функция х возрастает, стремясь к характеристической
функции множества R\A; равенство остается справедливым и
для предельной функции. Заметим, что dl = dliS/\p'0(l) |.
Доказательство соотношения A4.6.1)" показывает, что вну-
внутренний интеграл является непрерывной функцией от X. Но
функция /fetio определена лишь почти всюду в Мь, поэтому при
рассмотрении функции fpo(i)± toil) нужно проявлять осторож-
осторожность в отношении множеств меры нуль.
Лемма 14.6.2. Если feB, то существуют измеримые функции
F±f в Rnt такие что при каждом IgR\A равенства F±f(Q =
= /х±*оШ имеют место при почти всех |^МХ относительно по-
поверхностной меры. Функции F±f однозначно определены почти
всюду относительно меры Лебега в Rn.
Доказательство. Последнее утверждение следует из теоремы
Фубини (вспомним, что множество Рг1 (Л) имеет меру нуль).
Так как множество/^СГ плотно в б, то для каждого
можно выбрать функцию gl, для которой g"{ e СГ и
A4.6.3) l/x+w-ff(Ifl< 2"'.
Но fb+io — непрерывная функция от X, поэтому можно локально
взять функцию gl не зависящей от X. Соединяя функции gl
вместе с помощью подходящего разбиения единицы по X, можно
сделать функцию gl непрерывной по X. В силу A4.3.6) из
A4.6.3) вытекает, что
A4.6.3)' \
где функция С(Х) локально ограничена в R\A. Взяв функцию
Ро(?) в качестве локальной координаты, мы заключаем, что
если множество /( с Rrt\PjJA компактно, то
к,
Следовательно, предел F+f (Q= lim ёкц)A) существует почти
всюду в Rn. Положим F+/(g)=O, если Р0A)^А или предела

298 14. Теория рассеяния
не существует. Тогда функция F+/ измерима и неравенство
A4.6.3)' показывает, что /\+*о(Ю — F+f(%) почти всюду в М\.
Определение 14.6.3. Если f^B, то /Лфункции, задаваемые ра-
равенством
/V F) = F (/ + VR0 (X ± 10))'l f (I)
почти всюду в М\у называются искаженными преобразованиями
Фурье функции /.
В дальнейшем мы будем использовать обозначения
A4.6.4) ?d=Jd?\, Ес =
Л R\X
Пространство EdL2 порождается собственными ^-функциями
оператора Я, так как множество Л счетно. Из следствия 14.5.6
мы знаем, что сужение оператора Н на множество ECL2 имеет
непрерывный спектр. Докажем теперь, что этот спектр абсо-
абсолютно непрерывен.
Теорема 14.6.4. Для всех f^B имеем
A4.6.5)
Следовательно, отображения f-+F±f могут быть продолжены до
изометрических отображений из ECL2 в L2(dl/Bл)п), равных
нулю на EdL2. Они сплетают оператор Н и оператор P0=FH0F~lt
задаваемый умножением на полином Ро, т. е.
A4.6.6) F±eitH = eithF±y t €= R.
Доказательство. Равенство A4.6.5) есть предел A4.6.1)" при
Xf 1 в СЛ. Далее мы докажем, что
A4.6.7) F±Hf = P0F±f, /<=<?.
Для этого заметим, что (Н — А,)/ =(Н0 — k)f+ Vf e В. Таким
образом,
(Н - X) f = (I + VR0 (X ± 10)) (Но - Я) f, Хф1 (Ро),
((# - X) /К ± /о = (Яо - Я) /, X ф Л.
Выполнив преобразование Фурье, находим, что
= O при Р0A) = Х,
откуда получаем A4.6.7). Для произвольной функции f из об-
области определения оператора Н можно выбрать такую последо-

14.6. Искаженное преобразование Фурье 299
вательность fk ^ 9*, что /* ->¦ /, Щк ->¦ Я/ в /Я Тогда
и, значит, F±f принадлежат области определения оператора
Ро и P0F±f = F±Hf.
Рассмотрим теперь
где / принадлежит области определения оператора Я. Тогда
ettHj принадлежит области определения оператора Я, и, значит,
F±eitHf принадлежит области определения оператора Ро. Следо-
Следовательно, дифференцирование приводит к равенству
g' (i) = e~itP4 (F±H- P0F±) eitHf = 0.
Поэтому g(t) = g(O) = F±f. Отсюда следует A4.6.6).
Поскольку оператор Ро имеет абсолютно непрерывный
спектр, из теоремы 14.6.4 следует, что спектр сужения оператора
Я на ECL2 абсолютно непрерывен. Докажем теперь, что послед-
последний оператор унитарно эквивалентен оператору Яо, и в то же
время покажем, что область значений волновых операторов,
определенных в теореме 14.4.6, равна ECL2.
Теорема 14.6.5. Операторы W± и F± суть унитарные операторы
из L2(dx) в EcL2(dx) и из EcL2(dx) в L2 (rfg/Bл)п), композиция
которых равна преобразованию Фурье F. Таким образом, опе-
оператор рассеяния S = W+W_ является унитарным оператором
в L2(dx).
Доказательство. Запишем введенные нами изометрические опе-
операторы и самосопряженные операторы, которые они сплетают,
в виде диаграммы:
L2(dt;/Bn)n)
A4.6.8) у
ft /
EcL2{dx) < L2Gx)
(Тот факт, что область значений операторов W± содержится
в ECL2, вытекает из того, что оператор Яо не имеет собственных
функций с интегрируемым квадратом.) Оператор F сюръекти-
вен, поэтому если диаграмма коммутативна (что мы собираемся
доказать), то другие изометрические отображения также долж-
должны быть сюръективными. Возьмем такую функцию / е 9>, что
f&C™ и РоA)фО на носителе suppf. Тогда мы знаем из до-

800 14. Теория рассеяния
казательства теоремы 14.4.6, что, например,
где интеграл абсолютно сходится в L2. Поскольку отображение
F_ непрерывно, то, пользуясь сплетающим свойством A4.6.6),
получаем
о
_ WJ = FJ - J eitP°F_ (iVe"H°f) dl
= P f - litn
«->+0 Л
Если PqA) = K, to интеграл в правой части равен
о
F_ J ett + iaiVe-imfdt = -F_V(H0 + to - Я)/,
— оо
поскольку этот интеграл абсолютно сходится в В. Следователь-
Следовательно, по лемме 14.5.1
F_ WJ (I) = F_(I+ VR0 (Я - Ю)) f(t) = f F) при Ро F) = Я,
откуда вытекает коммутативность одной из диаграмм. Для дру-
другого знака доказательство, разумеется, такое же.
Мы можем резюмировать наши заключения следующим об-
образом: L2 = ECL2® EdL2, где пространство EdL2 натянуто на
собственные функции оператора Я, а сужение оператора Н на
ECL2 унитарно эквивалентно невозмущенному оператору Ио. На
самом деле каждый из операторов W+ и W- дает эту унитар-
унитарную экивалентность, поэтому оператор рассеяния S—W+W_
коммутирует с Яо. Мы и дальше будем изучать его свойства,
что естественно ввиду физической интерпретации, отмеченной
в § 14.4. Для этого лучше рассматривать преобразование Фурье
(представление в импульсном пространстве)
F SF = FW+1 W_F~X = F+FZ\
коммутирующее с Ро. Поэтому оно коммутирует с оператором
умножения на характеристическую функцию множеств {?; а <С
< Po(S) < Ь) и индуцирует унитарный оператор в соответствую-
соответствующих ^-пространствах. Но dl = dSdt/\p'0(l)\, где / = P0(g) и
dS — элемент площади на Mty поэтому естественно даже ожи-
дагь, что оператор FSF~] индуцирует унитарный оператор в
L2 (М^, rf*S/| Ро !)• Мы докажем этот факт, сравнивая Я-приходя-

14.6. Искаженное преобразование Фурье 301
щее и Алуходящее представления решений уравнения (Р— X)w=
= 0.
Лемма 14,6.6. Если и е=В*Ро> %ф! (Ро) и (Ро (D) + V — Я) и = 0,
то
u = u±-R0(X=Fi0)Vu,
A4.6.9) ., ,, 9
u± = v±6 (Ро - Я) = v±dS/\Pol v±s=L2(Mk, dS),
A4.6.10) J (\v+f-\v_f)dS/\Po\=O.
Если К ф Л, то
A4.6.11) (FJ, U+) = (FJ, й_) = Bя)Л(/, а) при /ей.
Доказательство. Поскольку (Яо(^)—'k)u = —Vu& В, разложе-
разложение A4.6.9) вытекает из теоремы 14.3.8, а равенство A4.6.10)
является следствием A4.3.14), так как в силу A4.4.7)'
Используя обозначение A4.6.2) и принимая во внимание равен-
равенство F±f = !к±ю на Мь, находим
(F±f, U±) = Bn)n(h±l0, u±).
Ввиду того что
получаем A4.6.11). (Этим вычислением объясняется выбор зна-
знаков в теореме 14.3.8.)
В силу A4.6.11) естественно ожидать, что оператор FSF~l =
— F+FZl индуцирует унитарное отображение t;_->-t/+ в про-
пространстве L2(Mk, dS/\Po\). Однако пока мы только доказали,
что это частичная изометрия. Для изучения области определе-
определения и области значений заметим, что равенство A4.6.9) может
рассматриваться как уравнение для и:
())
где /?0(XT/0) V — компактный оператор в Вр0; если (Ро—Л)и±=
= 0, то (Ро+ V — Ь)и=0.
Лемма 14.6.7. Для всякого X^R\Z(P0) ядро Ni оператора
(I + RoCk =F /О) V) в В*р0 состоит из всех функций и е В*р», удов-
удовлетворяющих уравнению (P0(D)— V — К)и=0, которые одно-
одновременно являются Х-уходящими и Х-приходящими. Область
значений этого оператора совпадает с ортогональным допол-
дополнением к пространству (Po{D)— X)Afo = VNi.cz В.

302 14, Теория рассеяния
Доказательство. Если и е Л^, to (Po(D)+ V — Х)и=0, в чем
можно убедиться, применив оператор P0(D) — X к уравнению
В обозначениях леммы 14.6.6 имеем а± = 0, поэтому в силу
A4.6.10) также и и+ = 0. Значит, решение и является одновре-
одновременно ^-уходящим и Х-приходящим. Обратно, если (Ро(?)) +
+ V—'k)u=0 и решение и является одновременно ^-уходя-
^-уходящим и h-приходящим, то и = Ro(X ± /О) (P0(D) — Х)и =
= —/?о(Я ± Ю) Vu при каждом из двух выборов знака. Заметим,
что, согласно этой формуле, оператор V инъективен на Л^.
В силу альтернативы Фредгольма остается лишь показать, что
((I + R0(h±i0)V)u, v) = 0 при и<=В*ро и v^VNk.
Так как v^B, это скалярное произведение равно (а, (/ +
+ W?o(A,=F /О))у), и если v = Vw, w Eft, то
Лемма доказана.
Теперь мы подготовлены к доказательству основного ре-
результата о структуре оператора рассеяния.
Теорема 14.6.8. Для каждого XgR\Z(P0) положим
где и е В*р0 удовлетворяет уравнению (Ро + V — Я) и = 0.
Тогда
й± = v±6 (Ро - Я), где v± e= L2.(M
есть непрерывная биекция пространства L2(Mk, dS), которая
продолжается по непрерывности до унитарного отображения 2я
пространства L2 (Мк, dS/\ Pq |) и может быть продолжена до
непрерывной биекции пространства L2{MXi dS/|Po|x) при лю-
любом х е [0, 2]. Во всех этих пространствах оператор I — 2^
компактен. Оператор рассеяния S задается с помощью 2я по
формуле
A4.6.12) (FSF-*) f Ц = S, f Ы,, f
(9ля /20<^га всех Я. Отображение 1>к называют матрицей рассея-
рассеяния для энергии X.

14.6. Искаженное преобразование Фурье 303
Доказательство. Задавая й+ = v+8(P0 — Я), где v+^ L2(M^ dS),
мы сначала докажем, что уравнение
* ¦
имеет решение и е Вр0. Так как и+^Вр0, то по лемме 14.6.7
достаточно проверить, что
A4.6.13) (и+у VU) = 0 при Kg4
Но (Po(D) — X)U = —VUy а функция U одновременно является
приходящей и уходящей, поэтому, как мы знаем, VU — 0 на
Мь (ср. с теоремой 14.3.6). Отсюда следует равенство A4.6.13).
Поскольку случай с а_ может быть рассмотрен точно так же,
мы установили, что отображение 2*: V--+V+ есть биекция на
L2(Mi, dS). Докажем теперь, что 2& — / является на этом про-
пространстве компактным оператором. Для этого заметим, что
BХ -I)v_ = v+-v_, й+ - й__ = {v+ - v_) б (Ро - Л),
где
и+ - и_ = (Яо (Я - /0) V - /?0 (Я +
Поскольку и- принадлежит области значений оператора / -{-
+ Ro(k + iO)V, который является оператором Фредгольма, мы
можем выбрать и как непрерывную линейную функцию от и-
по норме пространства^» так что отображение и^ ->а+ — и_ е
gBp0 компактно. Но Бр0-норма функции w_ (или w+—uJ)
эквивалентна L2~HopMe на М^ функции V- (или и+ —v-) (тео-
(теорема 14.3.3). Следовательно, оператор 2& — / компактен в
L2(Mi). Другое утверждение о непрерывности 2я будет следо-
следовать из доказываемой ниже леммы 14.6.9.
Для доказательства соотношения A4.6.12) представим
A4.6.11) в виде
), /sfl, кфА,
где скалярное произведение берется по мере dS/\p'o\ на
Благодаря тому, что оператор S^ унитарен относительно такого
скалярного произведения, из включения F±f ^ L2(M^) вытекает,
что
Таким образом, соотношение A4.6.12) доказано нами для плот-
плотного в L2 подмножества F-B, а следовательно, по непрерывности
и в общем случае.
Остается лишь доказать следующую лемму.

304 14. Теория рассеяния
Лемма 14.6.9. Пусть а — положительная ограниченная непре-
непрерывная функция на локально компактном пространстве М с по-
положительной мерой d\i. Предположим, что оператор Т компак-
компактен в L2(d\i) и
A4.6.1'4) $ I / + 77 padix = J | f \2ad\x, f e= L2(d[i).
Тогда оператор Т может быть продолжен до компактного опе-
оператора в пространстве L2(a*d\i) при 0^x^:2, а оператор
I+ T биективен во всех эти/ пространствах.
Доказательство. Из условия A4.6.14) вытекает, что f+Tf^O,
если только 0^=/^ L2(d\x). Поэтому оператор /+Г имеет об-
обратный I + S в L2(d\x), причем оператор S компактен в L2(d\x).
Поляризация равенства A4.6.14) приводит к тождеству
\ (/ + 77) (g + Tg) ad» = \ fgad\i; f9
Заменив g на (/ + S)g, мы сможем переписать его в виде
Tfgadix = J fSgadv f, g*=L2 (dpi).
Далее, ясно, что пространства L2(d\i) и L2(a2d\i) двойственны
относительно скалярного произведения \ fgad\i, а оператор,
сопряженный к S в U(a2d\\), является тогда расширением опе-
оператора Т. Таким образом, оператор Т продолжается до ком-
компактного оператора в L2(a2d\i). Если нормы оператора Т в про-
пространствах L2{d\i) и L2{a2d\i) обозначить через Л^ и Л^2, то его
норма в L2(a2xdjLi) не превосходит N^^N*. Это другой вариант
интерполяционной теоремы Рисса —Торина (см. теорему 7.1.12).
По предположению
A4.6.15)
при Rez = 0 или Rez=l,
при условии что функция / равна нулю при малых значениях
а и
В левой части неравенства A4.6.15) тогда имеется ограниченная
аналитическая функция от z при O^Rez ^ 1, поэтому ввиду
теоремы Фрагмена — Линделёфа неравенство A4.6.15) сохра-
сохраняет силу при O^Rez^l. При г = х мы получаем
| J TFGd\x | < Л/Ж"~к, если J | F fa*d\i < 1, $ | G fa~2yidyi < 1

14.6. Искаженное преобразование Фурье 305
и функции F и G сборащаются в нуль при малых а. Следова-
Следовательно, норма оператора Т в пространстве L2(a2*d\x) не превос-
ХОДИТ N2N0
Пусть х/—оператор умножения на характеристическую
функцию множества, на котором а > 1//. Тогда х/->1 в силь-
сильном смысле при /->оо. Поскольку оператор Т компактен, при
х = 0 или х = 2 находим, что \\xfT — Г ||L» (axrf|i) ->0, когда /->оо.
Переходя к сопряженным операторам, мы получим такую же
сходимость для оператора Г%/ — Г, а следовательно, и для опе-
оператора %/Т%/ — T = %j(T%j — rj + ^r — Г, Из доказанной выше
логарифмической выпуклости норм вытекает, что норма опера-
оператора %jT%j—Т в пространстве L2(axdjx) стремится к нулю при
/->оо для каждого xg[0, 2]. Но оператор х/^Х/ компактен в
L2(axrfjm) при 0 ^ х ^ 2, поскольку все L2(axdjm)-нормы экви-
эквивалентны на области значений оператора х/. Это завершает до-
доказательство леммы.
Пример 14.6.10. Поучительно рассмотреть теорему 14.6.8 на
очень простом примере дифференциального оператора второго
порядка
Ри = — и" +Vu = D2u + Vu,
где V ^ L2{]<?'. При Ime^O оператор R0{z) является в этом
случае оператором свертки с фундаментальным решением
Ez(x) = (i/2 д/z) ехр (/| х | ^/г) оператора D2 — г, где У г вы-
выбирается в верхней полуплоскости. Если теперь —u"-\-Vu —
_ Хи = 0 и к > 0, то
и (х) = СVxVF + C^e~ix^ х > 0,
и (х) = CteixVr + CZe~ix^ х < 0,
где выбрано положительное значение дА- Если z = A, + /e, то
/?0 (z) Vu = /?0 B) («" + Ял) = - и - №#о (z) ы,
При больших t/ > 0 подынтегральное выражение равно
Интеграл первбго слагаемого ограничен при е->+0, *ц по-
поскольку __ _ _
е//B Vz (V^ - V^)) - 1, е » + 0,

306 14. Теория рассеяния
мы, отметив справедливость аналогичного представления при
больших отрицательных значениях у, получим, что
/?о (Л + Ю) Vu = ~u
Таким образом,
Аналогичное вычисление дает
Поэтому матрица рассеяния отображает (С+, Cl) в (CI> С+).
Свойство унитарности эквивалентно равенству
\Г+\2 I/O- 12 I/O+I2 I/O- 12
|С+| — |С+| = |С_| — |С-|,
которое также вытекает прямо из того, что определитель Врон-
Вронского решений и и п постоянен. Если (С+, Ct) есть собствен-
собственный вектор матрицы рассеяния с собственным значением etQ,
т. е. С%=е1 Ci, CZ=el C+, то решение и имеет один и тот
же вид на +00 и —°°> отличающийся лишь тем, что переменная
х заменяется на х +б/д/Ти Таким образом, эффект возмущения
V на бесконечности проявляется лишь в сдвиге фазы на вели-
величину 0.
14.7. Отсутствие собственных значений
в непрерывном спектре
Теорема 14.6.5 показывает, что возмущенный оператор Н уни-
унитарно эквивалентен прямой сумме невозмущенного оператора
Но и оператора с чисто точечным спектром, накапливающимся
лишь к множеству Z(P0) критических значений многочлена Ро.
В этом параграфе мы дополним эту информацию, доказав, что
для операторов второго порядка точечный спектр должен ле-
лежать либо вне непрерывного спектра, либо в самом множестве
Z(P0). Начнем с эллиптического случая.
Предложение 14.7.1. Пусть Д= 2 д) — оператор Лапласа в Rn
и X > 0, х > 0; тогда
A47.1)
Доказательство. Введем полярные координаты г=|#| и со =
= х/\x\^Sn~l. Заметим, что д/dxj = a>jd/dr + r~lQh где Q/ —

14.7. Отсутствие собственных значений 307
векторное поле на Sn~l, и
? соД = 0, ? Qyco, = г ? daj/dxj = Л - Р).
Следовательно,
Д = Z К<Э/дг + '"ЧJ = д2/дг2 + (и - 1) r"ld/dr + Г2/Ь8,
где Л5 = ?О/ — оператор Лапласа — Бельтрами на единичной
сфере. Полагая г = е1, получаем д/дг = е~*д/д(, д2/дг2 =
= e~2i (&2/dt2 — д/dt), поэтому
д + А, = e~2t (d2/dt2 + (п - 2) д/dt + ks
Следовательно, интеграл в правой части A4.7.1) равен
М= [[ \(&/д12 + (п--2)д/д1 + /±3 + ке2г)и\2^
\J\ii
Для исключения экспоненты положим
V(u ®) = еа'и{е'<*>)9 2а = х + п — 29
и заметим, что
(д/dt - аJ + (п - 2) (d/dt - а) = д2/<Э/2 - xd/dt + (т2 - (п - 2J)/4.
Обозначим
L, = (Э2/д/2 + (т2 — (л — 2J)/4 + /±s + Xe2t, L2 = -
Тогда в L2-HopMax имеем
||L2o|p + ([L1> L2]t;, о),
поскольку оператор Li симметричен, a L2 кососимметричен. Не-
Неравенство A4.7.1) вытекает теперь из того, что
[Ll9 L2]*
и || e*v ||2 = \ j и |21 х |т dx. Доказательство завершено.
Перед тем как продолжать, заметим, что неравенство
A4.7.1) справедливо для каждого и G^f^R^XfO}), для кото-
которого (Д + ijuGL2. Мы сразу же получим этот результат, если
применим неравенство A4.7.1) к регуляризациям распределе-
распределения и.
Предложение 14.7.1 сразу приводит к теореме единствен-
единственности:
1) Здесь QjQDf обозначает производную функции со/ по направлению век-
векторного поля Q/. — Прим. ред.

308 14. Теория рассеяния
Теорема 14.7.2. Предположим, что и есть решение уравнения
(А + Л +У)а = 0,
где X > 0, а V — оператор умножения на функцию V(x)y для
которой
A4.7.2) \V(x)\^C/\x\.
Если A -\-\x\)xDau^ L2 для всех х при \а\ ^ 1, то и = 0.
Доказательство. Выберем такую функцию %еСо°> что х(х)=1
при |*| <1, %(х) = 0 ПРИ 1*1>2, и положим при малых г и
больших R
"г. * М = X (x/R) иг (*), иг(х) = A-% (х/г)) и (х).
Если 2г < R, то
и левая часть обращается в нуль при \х\ < R. Применим оценку
A4.7.1) к функции Mr, * и устремим /? к бесконечности; тогда
| (Д + Л) "г I21 * 12+т <**
7wr |21 x |2+T d* + С,
при 2г<1. Комбинируя эту оценку с неравенством A4.7.2),
мы получаем
2 (Ят - С2) J | мг |21 х
Устремляя т к бесконечности, мы заключаем, что и = 0 при
|д:|>>2г, а поскольку г — произвольное малое положительное
число, доказательство закончено.
Напомним, что по теоремам 14.5.2 и 14.5.5 условия на функ-
функцию и в теореме 14.7.2 выполнены, если оператор V является
короткодействующим возмущением оператора Л и «gL2,
(# + Я)ы=0, где Я —самосопряженное замыкание оператора
А + V. Таким образом, если оператор V является короткодей-
короткодействующим возмущением, удовлетворяющим условию A4.7.2), то
собственных чисел, в непрерывном спектре оператора Н нет.
Аналогичные выводы можно получить из описанных ниже ре-
результатов в неэллиптическом случае.
Как и в § 6.2, обозначим через В и А две дуальные квадра-
квадратичные формы и рассмотрим дифференциальный оператор
В(д) = —&{D) в конусе, определяемом условием А > 0. Пред-
Предположим теперь, что форма А индефинитна, так что этот конус
не пуст. Мы можем ввести полярные координаты, соответствую-

14.7. Отсутствие собственных значений 309
щие форме А:
г = А(хI/2у со = #/г; таким образом, Л (со) = 1.
Для простоты положим А(х)= 2 ctjX2j. Тогда
2Г dr/dxf = дА (х)/дх, = 2а}х}1
откуда следует, что
О/Ох,- = cijtoj д/дг + r~|!Q/,
где Q/ — векторное поле на гиперболоиде А(х)= 1. Имеем
S ^ А= °> Z Q/®/ = г S dfuf/dxj = п — 1,
так как ?а/ОJ=1 и X Xjd/dxi = гд/дг. Если b,= l/ah то мы
получаем
= S afiffildr2 + Г12 Z ь$ + (п-1)Гх д!дг.
Значит, как и раньше, имеем
В (д) = д2!дг2 + (п - 1) г-] д/дг + r~ 2AS,
где Д5=]Е*/^/"~ оператор Лапласа — Бельтрами на гипербо-
гиперболоиде Л (со) = 1. Он симметричен относительно естественной
плотности do), для которой dx = rn~ldrd(d. Теперь из доказатель-
доказательства неравенства A4.7.1) без каких-либо изменений получаем
следующее
Предложение 14.7.3. Если и^С7 ({#; А (х) > 0}), то
A4.7.3)
^ т >0, Я > 0.
Эта оценка приводит к теореме единственности.
Теорема 14.7.4. Пусть В — индефинитная невырожденная веще-
вещественная квадратичная форма с дуальной формой Л, и пусть
и — решение уравнения
где Я^К\{0}. Пусть V — оператор умножения на функцию
V(x)y такую что
A4.7.4) \V(x)\^C(\A(x)\+l + \x Г1'2.
Тогда если A +1 х |) xDau e L2 для всех % при \ а | ^ 1, то и = 0.
Доказательство. При необходимости меняя знаки у операторов
В и V, мы можем считать, что X > 0. Пусть \|)eCoo(R), \|) = 1

810 14. Теория рассеяния
в интервале B, оо) и г|э = О в (—оо, 1); положим
"г. * М = X (x/R) иг №> "г (х) = ¦ И (х)/г) и (х),
где г мало, R велико, а % е С~ ({#; | х \ < 2}), ^с(л:)=1 при
|jc|< 1. Как и в доказательстве теоремы 14.7.2, получаем
\{B(d) + X)ur.R-x(-IR)(B(d) + b)u,\^(C/R) S \D*ur\,
|O|<1
причем левая часть обращается в нуль при |л:|</?. Далее,
I D«u(х) |A + I x \J'^Уг29
и левая часть обращается в нуль всюду, за исключением множе-
множества, на котором г < А < 2г. Можно применить оценку A4.7.3)
к функции ur, r и устремляя R к бесконечности, убедиться, что
неравенство A4.7.3) справедливо также для функции иг. Таким
образом, при 2г < 1 имеем
2А,т J | ur \2A*'2 dx < 2 J | Vur \2A{^2 dx + С{ Bг)^-^2.
Из условия A4.7.4) вытекает, что | Л (л:) 11 V(л:) |2 ^ С2. Следо-
Следовательно,
2 (Ят - С2) J | ur \*
Так же как и раньше, заключаем, что и=*0 при А(х)>2г, по-
поэтому и = 0 при Л (#) > 0.
Для окончания доказательства теоремы достаточно заме-
заметить, что из условия A4.7.4) следует, что функция V(xJA(x — у)
ограничена при любом фиксированном у. Помещая начало ко-
координат в точку у, мы получим, что и(х) = 0 при А(х — у) > 0.
Значит, и = 0 всюду. Доказательство завершено.
Примечания
Тема этой главы берет начало в классической работе Г. Вейля
(Weyl [3]). В ней доказано, что если функция q интегрируема,
то для оператора Штурма — Лиувилля —d2/dx2 + q на @, оо)
с самосопряженными граничными условиями в нуле существует
разложение по собственным функциям, которые с точностью до
сдвига фазы асимптотически равны собственным функциям не-
невозмущенной задачи. Естественное расширение на случай не-
нескольких переменных стало возможным после введения Мёлле-
ром волновых операторов (см. Moller [I], Cook [I], Hack [I],
Hormander [34], Jauch, Zinnes [1], Jorgens, Weidmann [1], Ku-
roda [1], Veselic, Weidmann [1, 2]). Асимптотическая полнота
этих операторов, т. е. совпадение области значений с (абсо-
(абсолютно) непрерывным подпространством, была впервые уста-
установлена Икебе (Ikebe [1]) для уравнения Шрёдингера в R3 с

Примечания 811
потенциалом, для которого на бесконечности имеется оценка
О(|а|—2—е). Основная структура его доказательства восходит
к работе Повзнера [1J и все еще используется здесь, хотя тех-
технические подробности довольно сильно отличаются. (См. также
Friedrichs [4].) Сингулярные разложения но собственным функ-
функциям совершенно не рассматриваются здесь, поскольку они тре-
требуют, чтобы скорость убывания возмущения возрастала на бес-
бесконечности вместе с размерностью. Агмон (Agmon [2, 3]) впер-
впервые показал, как перенести теорию рассеяния на общие эллип-
эллиптические операторы с возмущениями О (| а: | —1—е) на бесконеч-
бесконечности. (Наличие препятствия создает ситуацию, сходную с той,
в которой потенциал возмущения имеет компактный носитель.
Однако этот случай здесь не рассматривается, поскольку нами
еще не развиты основы теории эллиптических краевых задач.)
В работе Agmon, Hormander [1] развит аппарат, необходимый
для изучения возмущений общих операторов, названных здесь
характеристически простыми. Эта глава представляет собой
полное развитие этих идей в сочетании с методами Агмона
(Agmon [3]). Дальнейшие ссылки на литературу и близкие ре-
результаты читатель может найти в книге Reed, Simon [lj. Тесно
связанные результаты принадлежат Дейчу, Коротаеву и Яфаеву
(П.
Теорема единственности из § 14.7, по существу, принадлежит
Като (Kato [1]). Разница лишь в том, что мы требуем убыва-
убывания потенциала как ОA/|х|), но быстрого убывания решения.
Это естественно в приложениях к теории рассеяния. Однако хо-
хорошо известен замечательный пример фон Неймана — Вигнера
(von Neumann, Wigner [1]) потенциала с оценкой O,A/|jk|),
для которого имеется собственное значение в непрерывном
спектре. Приведенное здесь доказательство следует доказа-
доказательству Ароншайна (Aronszajn [2]) и Кордеса (Cordes [1])
теоремы о единственности продолжения решений эллиптических
уравнений второго порядка. Мы вернемся к этому вопросу в
гл. 17. На самом деле это довольно близко к доказательству
единственности для некоторых длиннодействующих возмущений,
принадлежащему Агмону, Като и Саймону и изложенному в
книге Reed, Simon [1].
Здесь мы следуем так называемому стационарному методу
теории рассеяния. Существует также нестационарный метод,
при котором рассматривают оператор id/dt + H вместо опера-
оператора Н и его резольвенты; здесь мы поступаем так лишь в связи
с волновыми операторами. Недавно Энсс (Enss [1, 2]) сделал
нестационарный метод привлекательной альтернативой стацио-
стационарного. Тем не менее нестационарный метод как будто непри-
неприменим в случае, когда функция Ро(?) не стремится к бесконеч-
бесконечности на оо. Поэтому мы предпочли здесь стационарный подход.

15
Теория аналитических функций
и дифференциальные уравнения
Краткое содержание главы
Теорема Пэли — Винера — Шварца полностью описывает про-
пространство (включая его топологию) преобразований Фурье
функций из С™(К)> где Л' — компактное выпуклое множество
в Rft. Это позволяет перейти от изучения дифференциального
оператора P(D) с постоянными коэффициентами в С™ (К) к изу-
изучению оператора умножения на P(t>) в некотором пространстве
целых аналитических функций. Однако для того, чтобы восполь-
воспользоваться этим удобством, необходимо развить соответствующий
технический аппарат. В частности, мы хотим в дальнейшем
уметь «срезать» аналитическую функцию, имеющую нужные
оценки в некотором подмножестве пространства Ся, а затем
преобразовывать ее в аналитическую функцию, для которой
справедливы подходящие оценки во всем пространстве С". Для
этого требуется уметь находить решение системы Коши — Ри-
мана
A5.1) du/dzf = ff, /=1, ..., п,
в которой функции fj удовлетворяют необходимым условиям
совместности
A5.2) dfi/dzk-dfk/dzj = O.
Решение и должно иметь оценки того же типа, что и /. Подоб-
Подобная техника будет развита в § 15.1 в случае, когда условие
на и имеет вид
A5.3) Jlw|V-<ptfA< оо,
где dX — мера Лебега в С1, а ф — плюрисубгармоническая функ-
функция. Грубо говоря, это означает, что функция 21og|w| оцени-
оценивается через ф, так что предположение о плюрисубгармонич-
ности функции ф является естественным, поскольку функция
log|w| плюрисубгармонична для любой аналитической функ-
функции и.

15.1. Неоднородные уравнения Коши — Римана 313
В § 15.2 обсуждается топология индуктивного предела в про-
пространстве ВС2, k(X) = B2, k[\%>\X), дуальное пространство кото-
которого есть B{°\ifr{X). В случае когда X выпукло, мы доказываем,
что эта топология описывается полунормами вида A5.3), где
вместо и стоит преобразование Фурье — Лапласа функции из
В°2> k (X), а ф —плюрисубгармоническая функция. В § 15.4 дока-
доказывается аналогичный результат для пространства С™(Х). Мы
обсуждаем эти вопросы довольно подробно, поскольку они недо-
недостаточно освещены в литературе; более того, можно встретить
даже утверждения, будто в качестве ф, вообще говоря, невоз-
невозможно взять плюрисубгармоническую функцию. В § 15.3 мы
докажем теорему о представлении решений уравнения P(D)u =
= 0 посредством интегралов от экспоненциальных решений.
В качестве следствий мы получим некоторые теоремы о регу-
регулярности, уже доказанные в гл. 11 другими методами. Если
распространить теорию существования для систем уравнений
Коши — Римана на формы высших степеней и привлечь неко-
некоторые локальные результаты алгебраической геометрии, то мож-
можно доказать общие теоремы о существовании решений для пере-
переопределенных систем дифференциальных уравнений с постоян-
постоянными коэффициентами и о разложении решений по экспонен-
экспоненциальным решениям. Это, без сомнения, главное достижение,
полученное в этой области с помощью теории аналитических
функций. Однако несколько изложений этих вопросов уже
имеется в монографиях, поэтому мы ограничимся ссылками на
соответствующую литературу (см. примечания):
15.1. Неоднородные уравнения Коши — Римана
Главным результатом в этом параграфе является следующая
теорема существования. Мы пользуемся обозначением 2/ = Xj-\-
+ iyj для координат в С" и полагаем d/dz,- =(д/дх,- — 1д/ду,)/2\
dX = dxdy — мера Лебега в С".
Теорема 15.1.1. Пусть феС2(Сп) — строго плюрисубгармониче-
плюрисубгармоническая функция, т. е.
A5.1.1) «^^
Тогда для всякого набора функций f/EL2(Cn, е~^п~х(Щу удов-
удовлетворяющих условиям
A5.1.2) df,/dzk = dfb/dz,, /, А - 1, .... д,

314 15. Теория аналитических функций
можно найти такую функцию ugL2(C", e-^dX), что
A5.1.3) du/d2, = f,9 /=1, ...,/*;
A5.1.4) J | и
Доказательство. Введем обозначение
(и, 0)ф = J ttfe-^ dA; и, oetj = t2 (С\
Тогда уравнения A5.1.3) эквивалентны равенству
rt ( п \
(Л г)Ф = Z'(//. г/)Ф = -1 и. Z й/^/)» г/ е= С
I V i /ф
где
A5.1.5)
буку = ^ф d{e'^w)ldz( = dw/dz( — (Лр/дг,) ш, / = 1, ..., д.
Если бы теорема была доказана, то из неравенства A5.1.4) сле-
следовало бы, что
A5.1.6) КЛяХрК ?*/?/ ll/IUiogx, g/^Co00.
II 1 ||ф
Обратно, если мы докажем неравенство A5.1.6), то отобра-
отображение
?*/?/-*-(?. Лр. ff/SCT,
может быть продолжено до линейной формы на пространстве
Се, норма которой в пространстве L% не превосходит Ц/Цф+iog к.
Поэтому эта форма должна иметь вид v-+(v9u)9, где ||и||ф ^
^ Ц/Цф+iogK. Тем самым теорема будет доказана.
Ключевой идеей в доказательстве оценки A5.1.6) является
тождество
A5.1:7)
Чтобы получить его, преобразуем квадраты норм в левой части.
Поскольку
^ = ([6/f d/dzk] gt,
мы придем к A5.1.7), вычислив коммутатор
A5.1.8) [б

15.1. Неоднородные уравнения Кош и — Римана 815
Если опустить первую сумму в правой части тождества A5.1.7)
и оценить вторую сумму снизу с помощью условия A5.1.1), то
A5.1.9) \\g рхе-ф dX < | ? 6jgf [ + ? II dgf/d2k - dgk/d2l fi/2,
когда gj^C™ при всех /. Оценка остается справедливой для
всех функций gj e L%, для которых ? ^/?/е ^ф и dgj/d2k —
— dgk/dzj^Ll при любых / и 6. Если suppg— компакт, то
мы получим эту оценку, применяя A5.1.9) к функциям g/ —
= gj * 'Фе» где г|э е Со\ \ г|) djc = 1 и г|)е (*) = е~Л/ф (л:/е). Устрем-
Устремляя е к нулю, получаем следующие пределы в пространстве L\:
- dg\/dzj -+ dgtldzk - dgk/dzJ9
Отсюда неравенство A5.1.9) получается для функции g. Если
ее носитель не компактен, то мы применим A5.1.9) к
%{ex)g{x), где %^CS° и х@) = 1. Члены, в которые входят
производные функции х» содержат множитель е. Поэтому их
L^-HOpMa есть О (г). Устремляя е к нулю, мы получим A5.1.9)
в общем случае. В силу неравенства Коши — Шварца
A5.1.10) |(/, ?)ф|2
если gi e ^ф, 2 б/Я/ е^и dg//de* — 3fir*/a2/ e L%.
В предположении, что fj^L% при всех /, докажем теперь,
что неравенство A5.1.6) вытекает из A5.1.10). Для этого
обозначим через N множество всех таких g=(gb ..., gn)f что
gi^Ll и dgj/dzk — dgk/dz, =0. Тогда по условию A5.1.2)
имеем / <= N и (dty/dzu ..., дф/дгп) ^ Л^ при г|э е С*. Если
Я — элемент ортогонального дополнения N1 пространства N
в Ц0...©4, то
0 = 2 (Я/, (Эф/дгДр = (Z 6,-Я,, я|))Ф
и, значит, ]?д/Я/ = 0. Если g/^CS°, то имеется разложение
g==G+ H, G<=N и Ht=N±.
Из оценки A5.1.10) следует тогда, что

316 15. Теория аналитических функций
Это завершает доказательство теоремы в случае, когда /;е
Для того чтобы избавиться от условия //^/4, возьмем
такую положительную выпуклую С2-функцию Ф, что ф(г)^
^|z|l°g*(z). Тогда logK(z) — еФ(г)<0 при |ег|>1 и, зна-
значит,
^\'f\2vs<*>dl< оо
для каждого е > 0. Приведенное выше рассуждение с заменой
функции ф на ф + еф и функции ус на большую функцию дает
решение ие уравнений A5.1.3), для которого
| / \2е~*к-! dk.
Устремляя е к нулю, мы можем взять слабый предел и реше-
решений иг в пространстве L20C (Cn) и заключить, что функция и
удовлетворяет условиям A5.1.3), A5.1.4). Доказательство за-
завершено.
Часто бывает удобнее пользоваться следующим вариантом
теоремы 15.1.1, поскольку в нем не предполагается, что функ-
функция ф гладкая и строго плюрисубгармоническая:
Теорема 15.1.2. Пусть ф — плюрисубгармоническая функция в
Сп, и пусть f/EL2(Cn, e-vdX). При условии A5.1.2) можно
найти такое решение и уравнений A5.1.3), что
A5.1.1
Доказательство. Предположим сначала, что ф е С2. Тогда
можно применить теорему 15.1.1, заменив ф на ф+ 2 log(l-f-
+ |г|2). В самом деле,
Z <A<?2(log A + | z \2))/d2jdzk = A + | z |2)-2(| /12A + | z Р)Ч (/,z)
Отсюда следует, что k{z) ^ 2A + |z|2)~2. Таким образом, не-
неравенство A5.1.11) вытекает из неравенства A5.1.4).
Регуляризуя функцию ф так же, как в доказательстве тео-
теоремы 4.1.8, мы получим плюрисубгармонические функции фе ^
е С^, убывающие к ф при е->0. Поэтому из уже доказанного
следует, что уравнения A5.1.3) имеют решение не, для. ко-
которого
% \ Ф dl
{\+\г \T2dX < \\ f |2

15.1. Неоднородные уравнения Коши — Римана 317
Значит, можно найти такую последовательность е/->0, что
ие слабо сходится в пространстве L2 на каждом компактном
множестве. Отсюда вытекает, что предел и есть решение урав-
уравнений A5.1.3) и
2 [ I и |2?ГфеA + I z \2)~2dX < \ | / |%-фЛ
при каждом е > 0. Это завершает доказательство.
Замечание. Не удивительно, что 2-4og(l+|г|2)—плюрисуб-
2-4og(l+|г|2)—плюрисубгармоническая функция, так как это логарифм нормы вектор-
нозначной аналитической функции Cn^z-+(\> z)eC"+i.
В дальнейшем мы будем пользоваться стандартным обозна-
обозначением
ди = ? (ди/dZj) dzr
Тогда уравнения A5.1.3) примут вид du = f, где f=2f/^y
Положим
(где использованы обозначения из дифференциального исчис-
исчисления). Условие совместности A5.1.2) принимает тогда вид
df = O, и это лишь отражает тот факт, что дд = 0.
Следующая теорема о продолжении дает простой, но ти-
типичный пример того, как применяется теорема 15.1.2.
Теорема 15.1.3. Пусть ф — такая плюрисубгармоническая функ-
функция в Сп, что для некоторой постоянной С
| ф (z) — ф (z') | < С при \ z — z/ \< 1.
Пусть W — комплексное линейное подпространство в \Сп кораз-
коразмерности k. Тогда для каждой аналитической в W функции и,
для которой
Г \u\2e~*dS< оо,
где dS — элемент площади поверхности в W, существует такая
аналитическая в Сп функция U> что U = и в W и
A5.1.12) J | U \2е~* A + | z \2)~*kdl < {Qnec)k J | и \2е~* dS.
Доказательство. В силу приведенного выше замечания функ-
функция log(l+|z|2) плюрисубгармоническая. Поэтому достаточно
доказать теорему, в случае, когда W — гиперплоскость, а затем
применить этот частный случай k раз. Можно считать, что W
есть гиперплоскость z*=»0. Тогда и—аналитическая функция

818 15. Теория аналитических функций
от z' = (z\, ..., zn-\), которую можно рассматривать как ана-
аналитическую функцию в Сп, не зависящую от гп. Имеет место
неравенство
A5.1.13)
Однако при больших \zn\ нельзя не учитывать зависимость ф
от zn. Выберем срезающую функцию ty(zn) с носителем в еди-
единичном диске, такую что ty(zn)= 1 при |гл|< 1/2 и ity(zn) =
= 2A— \zn\) при 1/2<|гя|<1. Тогда Щ/д2п\^\. Пусть
В этом случае U(z) = u(z') при zn — 0 и функция U анали-
тична (т. е. dil =0) тогда и только тогда, когда функция v
удовлетворяет уравнению
A5.1.14) dv = znxu(/Mф (гп) = znxu (/) (d^/dzn)dzn = f.
Ясно, что d/ = 0, а из A5.1.13) мы находим, что
f \2e~* dX < 4лес \ \ и \2е^ dS.
Далее применение теоремы 15.1.2 дает решение v уравнения
A5.1.14), для которого
\г |2)-2 dX < 2пес \ \ и \2e~v dS.
w
Объединив эту оценку с оценкой A5.1.13), получим A5.1.12).
Следствие 15.1.4. Пусть функция ф и подпространство W удов-
удовлетворяют условиям теоремы 15.1.3, и пусть и — такая анали-
аналитическая функция в W, что
Тогда найдется аналитическая в Сп функция U, для которой
U = ue W и
I U (z) |<С2A + | z 0»+2*+1*фо, 2 e С".
Доказательство. По условию
*^dS{)< оо,
где \|)B) = 2фB) + (п — ft + I )log(l +|г|2). Поэтому суще-
ствует такая функция (У, что
\ IU {г) р A
оо.

15.1. Неоднородные уравнения Коши — Римана 319
Функция U гармонична в R2", поэтому U(z) равно среднему
значению функции U по единичному шару с центром в точке г.
Применение неравенства Коши — Шварца завершает доказа-
доказательство следствия.
Следствие 15.1.4 позволяет нам получить аналог теоремы
Пэли — Винера — Шварца для гиперфункций, о котором уже
упоминалось в конце § 9.1.
Теорема 15.1.5. Пусть К — выпуклое компактное множество в
Rn с опорной функцией //, и пусть и^А'(К) — аналитический
функционал с носителем в К. Тогда преобразование Фурье —
Лапласа
Л (9 = а (ехр (-/<.,?»), ?^СЛ,
есть целая аналитическая функция, такая что при всяком е > О
A5.1.15) |flE)|<Ceexp(//(Im0 + e|ei)f g e= С*.
Обратно, каждая целая функция, для которой справедлива та-
такая оценка, является преобразованием Фурье —Лапласа един-
единственного функционала и^А'(К).
Доказательство. Остается доказать лишь обратное утверждение.
Пусть Кг — множество точек в С* на расстоянии <е до мно-
множества К. Мы докажем теорему, если покажем, что существует
определяющее и распределение ие с носителем в множестве
К8 cz R2n. Последнее утверждение верно тогда и только тогда,
когда для каждого ? е С"
где z = x + iy. Это условие может быть записано в виде
A.5.1.16) й(Б) = МБ, *Б>. ?^СЛ.
По следствию 15.1.4 можно найти такую целую функцию U
в .С2я, что
A5.1.17) \Ufa, ?2)KCe(l + |?il + l?2lr+ lexp(//(Im5,) +
+ e|(ImCi, ImE2)|),
По теореме Пэли — Винера — Шварца (теорема 7.3.1) суще-
существует распределение ие с носителем в Ке> преобразование
Фурье —Лапласа которого есть U. Из A5.1.17) вытекает усло-
условие A5.1.16). Теорема доказана.
В § 15.3 мы докажем несколько дополнительных теорем о
продолжении с последующим их применением к дифференци-

320 15. Теория аналитических функций
альным операторам с постоянными коэффициентами. Однако
в заключение этого параграфа докажем результат, характери-
характеризующий класс плюрисубгармонических функций, о котором уже
упоминалось в § 4.1. (Этот результат не будет использоваться
в дальнейшем.)
Теорема 15.1.6. Пусть Ра—множество всех функций вида
ЛМ log|/B) |, где N — положительное целое число, a f — целая
функция, f Ф 0. Тогда замыкание множества РА в пространстве
^1ос(Сл) состоит из всех плюрисубгармонических функций.
При доказательстве этой теоремы нам понадобится
Лемма 15.1.7. Пусть ф — непрерывная субгармоническая функ-
функция в XczRnyu пусть ф/ — такая последовательность субгармо-
субгармонических функций, не превосходящих ф, что Ф/(а:)->ф(х) при
j ->¦ оо для всякого х из плотного множества Е а X. Тогда
Ф/-^Ф в пространстве L\0C(X).
Доказательство. По теореме 4.1.9 последовательность ф, пред-
компактна в Lice и каждый предел задается субгармонической
функцией \|). Ясно, что г|э ^ ф, а в силу D.1.8), г|э(х)^ ф(л:) при
х е Е. Поэтому
J j \ dyy r>0,
\у-х\<г \\у\<т
при хе?. Поскольку обе части неравенства являются непре-
непрерывными функциями от х, оно справедливо для всех х. Устрем-
Устремляя г к нулю, мы заключаем, что ф ^ if>. Следовательно, ф = г|),
что и завершает доказательство леммы.
Для того чтобы перейти от оценок в 1Анорме к опенкам
в sup-норме, нам потребуется следующая простая лемма.
Лемма 15.1.8. Пусть ме!2(Вг), Br={ze=C\ \z\<r} и дие=
е L°°(Br)\ тогда функция и .непрерывна в Вг и
A5.1.18) \()\^ (
V
Доказательство. Взяв г/г й качестве новой переменной, мы
сводим доказательство к случаю г = 1. Пусть %&Со* {Вх),
^(г)= 1 при |г|< 1/2. Если Е — фундаментальное решение опе-
оператора Лапласа в R2" (см. теорему 3.3.2), то
%и = Е * Ь (vi) = 4 ? dE!dzf * д (%u)ldzf9
д (xu)/dZj = х du/dZj + и

15.1. Неоднородные уравнения Коши — Римана 321
Поскольку d%/dzj = 0 в В1/2, отсюда сразу следует, что функция
и непрерывна в В1/2 и справедливо неравенство A5.1.18). Это
рассуждение может быть применено к шару В cz Br с центром
в произвольной точке из Вг, откуда следует нужное утверж-
утверждение.
Доказательство теоремы 15.1.6. Пусть ср — плюрисубгармониче-
ская функция и
0
Со°° (С). \ % dX = 1, х. (*) = е-2"* («/в).
Тогда Ф * Хе (^) + е | 2Г |2 —^ ф в Lioc(Crt) при е->0. Поэтому до-
достаточно доказать, что замыкание множества Ра содержит все
плюрисубгармонические функции q>e С°° (С*), для которых
функция и, определенная равенством A5.1.1), оценивается снизу
положительным числом. Пусть z\, 22, ••• — плотная последова-
последовательность в С/1. Достаточно построить такие последовательности
аналитических функций ff и целых чисел N/->oo, что
\ff(z)\<exp(Nfq(z)) при \z\<j,
A5.1.1У) |f(z)|>2-1exp(^B)) при v</,
поскольку в силу леммы 15.1.7 тогда NJl log| ff |->ф в Lioc.
Положим фА> = ду/dzk, <Ptk = d2y/dzjdzk. Тогда по формуле
Тейлора, а также в силу свойства строгой плюрисубгармонич-
ности функции ф получим при фиксированном v неравенство
Ф(г) - Re Pv(z)>xBv)| г - zv I2 -Cv|z - zv |3> cv| z - zv |2
в некоторой окрестности f/v точки zv. Здесь
Pv W = Ф (*v) + 2 Z Фй BV) B* — Zvk)
+ S Ф« («v) (Zfe - ^vfe) (^/ - Zv/).
Возьмем такие функции xve^o°(^v)» v=l, ..., /, что Xv =1
в некоторой окрестности точки zv и носители функций %v но
пересекаются. Положим
I
где функция v будет выбрана таким образом, чтобы / была
аналитической, т. е.
A5.1.20) dv = ?3xvexpO/Pv (*)) = ?.
1
Существуют такие положительные постоянные с и Сг> которые
могут зависеть от /, но не от Л^, что
I ge-"* | < Cxe-eii, откуда || g \у
U Зак. 64

322 15. Теория аналитических функций
По теореме 15.1.1 мы можем, следовательно, найти функцию v,
для которой справедливы равенство A5.1.20) и оценка
В силу леммы 15.1.8 при |г|</ справедлива оценка
| v (г)
Достаточно взять радиус г настолько малым, чтобы изменение
функции ф в шаре Br+{z) было меньше с/2 при |г|</. Вы-
Выберем такие целые числа Nf, что C^e~cNf^2 < 1/3, и положим
f/==3//4, где / — функция, построенная выше, при N = Л//.
Тогда справедливы неравенства A5.1.19), и доказательство за-
завершено.
15.2. Преобразование Фурье — Лапласа
пространства Bc2k{X) с выпуклым X
Пусть X — открытое множество в Rn, и пусть feeT (см. опре-
определение 10.1.1). Тогда в пространстве Вс2уk(X) = B2, * П &' Ш
можно ввести топологию индуктивного предела, после чего ду-
дуальное пространство равно В\°\ц(Х). Эта топология определя-
определяется всеми такими полунормами q в В? * (X)> что для каждого
компактного множества KczX сужение полунормы q на В2, k П
П^^^С) оценивается умноженной на постоянную нормой ||-1||2> *.
Пусть 1 = X X/ ~~ такое разбиение единицы в X, что X/ s С?" (Z)
и каждое компактное множество имеет непустое пересечение
лишь с конечным числом носителей функций %f. Тогда
S С, || Х/М It k9 us= Bc2, k (X)
для некоторых постоянных С/. С другой стороны, если pp
си К, то условие /(f|suppx/ = 0 имеет место для всех чисел /,
за исключением их конечного набора. Тогда по теореме 10.1.15
и, значит,
есть непрерывная полунорма в пространстве в! л № для всякой
последовательности положительных чисел С/. Эти полунормы
определяют топологию индуктивного предела в В2,к(Х).
Если L — непрерывная линейная форма на В2, k (X), то

15.2. Преобразование Фурье — Лапласа пространства Вс2 k(X) 323
где С/ — некоторые положительные постоянные. По теореме
Хана — Банаха отсюда следует, что отображение
продолжается до непрерывной линейной формы е нормой, не
превосходящей единицы, на пространстве всех последователь-
последовательностей // sfl2(fe( Rn) с нормой 2 Су || ff ||2, к < оо. По теореме
10.1.14 это означает, что
L (и) = ? <0У, %ju)t u&Bik (X),
где Vj&B2Ац и \vj\%\lb^cr Таким образом, L(u) = (v, и),
где
Обратно, если v^B^/tiV), то а->|(у, w)| по определению
топологии есть непрерывная полунорма в B?,k{X). Поэтому про-
пространство B^/t (X) на самом деле дуально к пространству
Btk(X). (Заметим, что приведенное рассуждение, по существу,
лишь повторяет соответствующее рассуждение из § 2.1.)
Пусть X — открытое выпуклое множество в R .С помощью
теоремы Пэли — Винера — Шварца можно распознать преобра-
преобразования Фурье — Лапласа элементов пространства В2, k Л <%'(X).
Следующая теорема, являющаяся главным результатом этого
параграфа, описывает топологию пространства Bltk(X) таким
образом, что это позволяет применить результаты § 15.1. (Имен-
(Именно по этой причине мы рассматриваем лишь пространства Вр>к
ср = 2.)
Теорема 15.2.1. Пусть X — открытое выпуклое множество в Rn,
и пусть k^X. Тогда каждая непрерывная полунорма в В\% * (X)
оценивается сверху полунормой вида
A5.2.1)
где функция ср удовлетворяет следующим условиям:
(i) если К — выпуклое компактное подмножество в X с
опорной функцией Нк, то
что
(Н) для каждого А > 0 существует такая постоянная СА,
k(Re0<CAe~»(i) при | Im?|< А;

824 15. Теория аналитических функций
(iii) функция ф локально липшицева,
(iv) функция ф плюрисубгармоническая; точнее, для каж-
каждого вектора w e Сп имеет место неравенство
с A + 11т ? |2)-3'41 w I2 < ? wfwkd\ (Q/dtfb
в смысле теории распределений. Здесь с > 0.
Начнем доказательство с того, что выразим норму в про-
пространстве В2, k в терминах весовой ?2-нормы преобразования
Фурье — Лапласа. Предположим, что 4е1 и N — постоянная
из неравенства A0.1.1)'. Через К обозначим выпуклое компакт-
компактное множество в R" с опорной функцией Я*.
Лемма 15.2.2. Для всякого u<^<gr(K){\B2,k имеет место нера-
неравенство
A5.2.2) \\йЦ)|V2"*(Imi}k(Reif (l +1 Im? f)-»-*dk@
Если феС(К), то для любых ие <§'f]B2, k и tjs R"
A5.2.3) || фи 111, * < Cfc ^(-ч) J IЛ (I + /Ч) I2 * (if rfi.
< 15.2.4) ||«||,*<С* \ \u(Qfk(ReQ2d\,
Доказательство. Для доказательства оценки A5.2.2) возьмем,
так же как в доказательстве теоремы 7.3.1, такую функцию
XfieCo\ что Ха = 1 в окрестности множества /С, Хл=О вне не-
некоторой б-окрестности множества К и
1Хба)(*)|<Са6На| при любом а.
Функция u(l + ir\) при фиксированном ц является преобразо-
преобразованием Фурье функции ие('щ1%А. Поэтому воспользуемся тео-
теоремой 10.1.15; получим
Из оценки

15.2. Преобразование Фурье — Лапласа пространства Вс2 k(X) 325
вытекает неравенство
если ввести б| в качестве новой переменной интегрирования.
При б = 1/(|т]|+1) получаем
\
Отсюда следует оценка A5.2.2).
В силу равенства i|>m = i|>e~'''n'e('i'l)«, а также по теореме
10.1.15
BяKп
Если оценить функцию ij> с помощью теоремы 7.3.1, то получим
A5.2.3).
Поскольку |#(?)|2— субгармоническая функция, имеем
ICKi /ICK1
\ л (О
CK1
С1<1
llmtKl
Отсюда следует неравенство (J5.2.4). Доказательство завершено.
В силу неравенства A5.2.2), а также условия (i) теоремы
15.2.1 в применении к некоторой окрестности компакта /С, полу-
полунорму A5.2.1) можно оценить через ||и||2, *, где и еЗ*'(/С)П ^2, k-
Поэтому, если выполнено условие (i), полунорма A5,2.1) не-
непрерывна в пространстве В% k (JQ. Из условия (ii) и неравенства
A5.2.4) вытекает, что сужение полунормы A5.2.1) на <?'{К)[\
[)В2, k на самом деле эквивалентно \\и\\2, *. Однако для того,
чтобы доказать теорему, необходимо также показать, каким
образом интегралы вида A5.2.2) можно заменить на интегралы
вида A5.2.1), в которых ф — плюрисубгармоническая функция.
Пусть 0^%^С™, носитель функции % содержится в единич-
единичном шаре и JxF)rfS-=l. Пусть- к^Ж, М(ц, /) =
Положим при больших постоянных t
A5.2.5) log kt (I, Л) = J X (в) log k (I + M (л, О 9) dB.

326 15. Теория аналитических функций
Из неравенств A0.1.1)' следует, что
A5.2.6) A + С\ Г |Г" <Ml + Г, ЧУ*,(I, ч) <A +.С| Г I)"
и
Hog MS, 4)
<gD, О-
Поэтому
A5.2.7) М (ч, (Г* < kt (I, r\)/k (I) < M (ч, /Г-
Преимущество такой регуляризации, конечно, в том, что kt 6E С°°,
поскольку
log Л, (|, ч) - $ X «в - DIM (ч, 0) log * (9) dQ/M (ч, /)*.
Пользуясь индукцией по |р|, получаем, что D^Dz logkt(l, ц)
есть линейная комбинация членов вида
А!(ч. О^П^'АКч. 0 J «Э —6)/Af (ч, 0)
Х((в-Б)/А1(ч, 0) log Л (в) Л,
где |х= SlV/l — « —1«1 — 1PI — ^- Так как $ вУ ° + v) F) rf9 = 0
при а =т^ 0, мы можем заменить log?@) на log&@) — g(g)
При a=0 это можно проделать перед дифференцированием,
заметив, что D^logk(l) = 0. В силу свойства однородности
Поскольку
при любом а, возвращаясь к исходным переменным интегриро-
интегрирования, получаем
A5.2.8) \DUlogkt(l y\)\<CaM(i\9 0~|a|logAfD> /)•
Воспользовавшись этой оценкой при |а|==2, покажем теперь,
что функцию —log kt можно сделать плюрисубгармонической,
добавляя к ней не играющую большой роли функцию от ц.
Если /e=C2(R) и ч = 1т?, то
ЧI2 + P)ldtfiik = Г (I ЧI2 + *2) | .w №
Здесь 0<|<ч, ш)\* ^ |ч121^12. Отсюда следует, что функция
- log A|.(Re 2, Im 0 + / (I Im; |2 + ^2)

15.2. Преобразование Фурье — Лапласа пространства В% k (X) 327
плюрисубгармоническая, если для достаточно большой постоян-
постоянной С при s ^ t2 выполнены неравенства
Y (s) > Cs~l log 5, Г is) + 2f" (s) (s — Z2) > Cs~l log s.
В самом деле, если s = М(ц,(Jу то 0^ |<т],а;>|2^ (s—/2) |ш|2.
Если /"(s)>0, то второе неравенство вытекает из первого, и
поэтому его можно заменить неравенством
f'(s)+2sf"(s)>Cs-4ogs.
Положим
Тогда
F (s) + 2sf" (s) = s-*4/8 > Cs~l log s + s-
при s ^ ^2 и больших /. Следовательно, нами доказана
Лемма 15.2.3. Если fteJif м функция kt определена формулой
A5.2.5), то справедливы неравенства A5.2.6) — A5.2.8) и при
больших t функция
A5.2.9) iKO*=-logA,(Re?f ImQ + t^M(lm^ t)
строго плюрисубгармоническая. Точнее,
A5.2.10) ? wfwkd2^(O/d^dlk>\w\2Afdrng, /)^2/18.
Доказательство теоремы 15.2.1. Пусть q — непрерывная полу-
полунорма в Вс2, k(X). Необходимо построить функцию ф, удовлетво-
удовлетворяющую условиям теоремы, для которой
A5.2.11) q(и)< ( J | й@ \2e~**il)dX(?))l/2, и&ВЦи(X).
Для этого выберем сначала последовательность выпуклых ком-
компактных подмножеств /С/ из X, таких что М Kf = X и К]Ш Kf+\.
Положим
Im?) + ///2МAт^ /,)
C, tf)u\
где значения t\ настолько велики, что применима лемма 15.2.3,
в силу которой
A5.2.12) 2 wtW^tiQ/dtidik^w? МAхпЪ *,)-*2/18,
и 2tJxn меньше расстояния от К, до C/C/+i. Докажем, что по-
последовательности Gj и Л/, стремящиеся к +оо при /->оо, могут

д(и)<11-Г J • «.-«-.«».. ~-.М/2
328 15. Теория аналитических функций
быть выбраны таким образом, что если
Ф,(?)= max №*(?) —
то ф/-ы E) = Ф/ E) при |1т?|<Л/ и
A5.2.13)
Функции ф/ удовлетворяют условиям (iii) и (iv) с постоянными,
не зависящими от /. Если ф= lim фу, то ф(?) = Ф/(?) при
/-»оо
|1т?|<Д/. Тогда оценка A5.2.11) вытекает из неравенства
A5.2.13). Условие (i) следует из того, что ф(?)^ Ф/E)—Gt при
любом /, а выполнение условий (И) — (iv) очевидно. Таким об-
образом, если будут найдены последовательности G/ и Л/ с нуж-
нужными свойствами, то теорема будет доказана.
Пусть функции / и g липшицевы; тогда функция max(/, g)
также липшицева и с той же постоянной. Если для функций f
и g, заданных в С, справедливы неравенства Af ^ га, Ag ^ га,
где га— непрерывная функция, то Amax(f, g)^m. В самом
деле, пусть v — решение уравнения Аи = га; тогда функции
f — v и g — v субгармонические и, значит, функция max(f — vy
g — i>) = max(/, g)— v тоже субгармоническая (следствие
16.1.5), откуда и следует нужное утверждение.
Выберем теперь такую постоянную С, что
Поскольку функции ф/ липшицевы в силу неравенства A5.2.8),
можно выбрать такое число Bh что
при \lmt\>Br
Аналогично, пользуясь неравенством A5.2.10) при подходящих
8/ и с > 0, получаем
S wtwt&b, (Q№tdlk > с\ w F A + | Im С Р)~3/4 при | Im СI > Вг
Мы выберем постоянную G\ несколько позже. Если разность
G/ — G\ достаточно велика, то
A5.2.14) ф, (С) - О, < ф, @ при | Im С |< В, + 1.
Так как Ф/(?) = ф/-1(?) при |Im?|<B/+l и для функций -ф/
выполнены условия (iii), (iv) при |ImE;| > Bf, то эти условия
справедливы и для функций ф/, заданных в С".

15.2. Преобразование Фурье — Лапласа пространства Вс, к (Ю 329
При / = 1 оценка A5.2.13) справедлива, если G\ велико и
А\ = 1, так как q(u) < CJIaHg, kt а для правой части неравенства
A5.2.13) имеется оценка снизу через CoeGl||и||2,k в силу A5.2.4).
Предположим, что оценка A5.2.13) уже доказана для некото-
некоторого /'. Выберем число G/+j так, чтобы выполнялось неравенство
A5.2.14) и
A5.2.14)' г|)/+1 (?) - G/+1 < Фу (?) при | Im ? |< А,.
Тогда мы должны доказать A5.2.13) с /+1 вместо /, если
Л/+1 достаточно велико. Для этого выберем вблизи Kj+a такое
разбиение единицы 1 =2Л*> что ХоеСо°(/С/+з) и ^/+2 П oh suppxv=
= 0 при v^=0. Получим
c,
(
Здесь мы сначала применили неравенство A5.2.13) к функции
Хрп, а затем воспользовались неравенством треугольника и оцен-
оценкой A5.2.2). При |Im?|</4/ получаем q>/=<p/+i. Таким обра-
образом, остается доказать, что если Л/+1 достаточно велико, то
A5.2.15) С
Вспомним, что число //+1 выбрано настолько большим, что
В силу A5.2.7) отсюда следует, что
A5.2.16) Ф/+1 (?)<Я/с/ + 2 (ImO - log k (ReС) + Ch
Теперь, если hv есть опорная функция множества c/isuppXv» не"
равенство A5.2.3) дает

330 15. Теория аналитических функций
Поскольку множества supp %v и /(/+2 могут быть отделены друг
от друга гиперплоскостью, для некоторого 8 получаем
inf (x9 8) > sup (x, 8).
Это означает, что ftv(—8) + #д/ + 2 F)< 0. Пусть |8|=1. Инте-
Интегрируя предыдущую оценку по всем х\9 для которых |у| —
— (Л/+1 —1)8|< 1, мы заключаем, что с некоторой постоянной
О 0
II Xv" 111 * < Cke-cA> +' J IЛ (С) |2 *-2ф>+1 ю Л ft).
Если число Л/+1 достаточно велико, то получим оценку A5.2.15).
Доказательство теоремы завершено.
Теорема 15.2.1 может быть переформулирована как теорема
о представлении пространства B2o(j/? ДО. В самом деле, если
v е В1?\/? (X), то отображение
Bc2.k(X)=3u-+(v, и)
есть непрерывная линейная форма на Bl%k{X). Таким образом,
где функция ф удовлетворяет условиям теоремы 15.2.1. Следо-
Следовательно, найдется такая измеримая функция V, что
A5.2.17)
и
A5.2.18) (v, u)=\v(-0йft)Л@, мейЬДО.
Введем определение преобразования Фурье — Лапласа от и\
формально получим
A5.2.18)' v
Из условия (i) теоремы 15.2.1 и оценки A5.2.17) следует, что
при k^L2 интеграл в A5.2.18)' абсолютно сходится в каждой
точке х^Х, и тогда A5.2.18)' вытекает из A5.2.18) при любом
x?l Заметим, что включение k e L2 есть в точности условие,
гарантирующее вложение В1™{/? (X) с С (X) (см. теорему 10.1.25).
Как принято в теории распределений, мы будем иногда исполь-
использовать наглядную запись A5.2.18)' даже в том случае, когда
она не имеет поточечного смысла. В этом случае она должна
интерпретироваться в смысле равенства A5.2.18).

15.2. Преобразование Фурье — Лапласа пространства Bc2k(X) 331
Для удобства дальнейших ссылок докажем теперь обратный
результат в несколько более общей форме (ср. с обсуждением
G.3.14)).
Теорема 15.2.4. Пусть функция ср удовлетворяет условиям (i)
и (iii) теоремы 15.2.1, и пусть \х — такая мера в Сп> что
A5.2.19)
Если функция V является измеримой и
A5.2.20) J | V ft) |2е2ф(~;) | dii ft) | < оо,
то существует единственный элемент v ^ В{°\/ь(Х), для которого
A5.2.21) (vt u)=\v№(-QdVL(Q, uezBik(X).
Мы пишем формально
A6.2.21/ v(x)
Доказательство. Пусть msB2ikft&'iK), где К — фиксированное
компактное подмножество в X. Утверждение теоремы состоит
в том, что правая часть A5.2.21) является сходящимся интегра-
интегралом, который оценивается умноженной на постоянную величиной
НИг, *. Поэтому достаточно доказать, что
Поскольку функция \й\2 субгармонична, имеем
|й(ОР<с1 J |u(? + e)pdMe),
|8|<1
где \/С\ — объем единичного шара в Сл. Следовательно,
i!
л@|ав"*<с>A +1imС1J^(в)Irfi*(в — о|.
Здесь мы воспользовались условием (iii) теоремы 15.2.1. Мера
в интеграле равна dl(?) |^(8 — %) |, что совершенно очевидно
в случае, когда d\k имеет гладкую плотность, а, следовательно,
по непрерывности верно и в общем случае. Теперь можно оце-

332 15. Теория аналитических функций
нить интеграл по 0 с помощью A5.2.19):
<СА\\и\&к9 мЕВиП
Здесь последняя оценка следует из неравенства A5.2.2) и усло-
условия (i) теоремы 15.2.1, где множество К заменено на некоторую
его компактную окрестность. Теорема доказана.
15.3. Представление Фурье — Лапласа решений
дифференциальных уравнений
Решения обыкновенных дифференциальных уравнений с посто-
постоянными коэффициентами могут быть представлены в виде сум-
суммы экспоненциальных решений. В этом параграфе мы доказы-
доказываем аналогичный результат для дифференциальных уравнений
с частными производными. Однако мы начнем с более слабого
утверждения, в котором допускаются все экспоненты, близкие
к экспоненциальным решениям, поскольку это позволяет полу-
получить более сильный результат с точки зрения свойств регуляр-
регулярности. Через P(D) обозначается дифференциальный оператор
с постоянными коэффициентами, а через N— множество корней
полинома Р(?) в Сп,
JV (г) = {?€=€"; |? —6|<г при некотором GgejV}.
Теорема 15.3.1. Пусть X— открытое выпуклое множество в Rn,
к^Ж, и пусть и е В^Д Ш является решением дифференциаль-
дифференциального уравнения P(D)u = 0 в X. Тогда найдутся функция ср, удов-
удовлетворяющая всем условиям теоремы 15.2.1, и при всяком г > О
измеримая функция Ur, для которых
и в смысле равенства A5.2.18)
A5.3.1) и(х)= J Ur(QeUx'l)dX(Qt x&X.
N(r)
Доказательство. Краткая схема доказательства такова. По-
Поскольку и е В^0,/^ (X), то для некоторой функции <р, удовлетво-
удовлетворяющей условиям теоремы 15.2.1, имеем
A5.3.2) \{и, 0>

15.3. Представление Фурье — Лапласа решений 333
В добавление к этому
(и, Р (-D) w) = 0, w e Bi kl (X),
где k\(l) = k(l)P(—l). Таким образом, если tiefi^ffl и
г)(?)/Р(—?) есть целая аналитическая функция, то <и, а>=0
(см. теоремы 7.3.2 и 10.3.2). Представим произвольное распре-
распределение v e в?, к (X) в виде суммы
где v2(l)/P(—?) есть целая функция, а функция v{ построена
с помощью сужения б на N(r). Этим теорема будет доказана.
Если регуляризировать характеристическую функцию мно-
множества NCr/4) так же, как при доказательстве теоремы 1.4.1,
то получим такую функцию ^^(С"), что % = 1 в N(r/2),
supp%c=yV(r) и функция Da% ограничена при любом а. Поло-
Положим />(—?)= Р(?) и
Vx=w — Pw, V2 = A - х) v + Pw.
Функции V\ и V2/P будут целыми аналитическими функциями
с суммой V\ + V2 = v при условии, что
A5.3.3) dw = f\ f = dp~ld%.
Для того чтобы оценить скалярное произведение <а, v\), в ко-
котором v\ есть обратное преобразование Фурье — Лапласа функ-
функции V\, можно воспользоваться неравенством A5.3.2), если
только мы сможем найти оценку для интеграла
Таким образом, необходимо оценить интеграл
Эту оценку мы получим из теоремы 15.1.1, используя вместо
функции ф в экспоненте плюрисубгармоническую миноранту
функции 2(ф(?) —log P (—?)).
Чтобы сохранить свойство плюрисубгармоничности функции
Ф, необходимо воспользоваться регуляризацией функции Р.
Можно было бы построить эту регуляризацию с помощью
A5.2.5), однако мы предпочитаем использовать функцию
РF, М), задаваемую равенством A0.4.2). Итак, положим
A5 3 4)

834 15. Теория аналитячмких функций
где t — большое положительное число. Тогда
A6.3.6) 1>@
?, t).
Из формулы Тейлора теперь вытекает, что колебание функции
21ogP(-i-n,, M(x[, /))
- log (Z p(a)(-i -
равномерно ограничено в комплексном шаре в С2п с веществен-
вещественным центром (|, г\) и радиусом cM(r\, t), где с — малое поло-
положительное число, зависящее только от п и т. Поэтому произ-
производные этой функции суть О(М(ц, /)~|а|). Если число t доста-
достаточно велико, то по условию (iv) теоремы 15.2.1
(с/2) A + | Im ? |2)-3'41 w Р < ? wjwkd2^ (Q/dZjdU.
Здесь важно, что 3/2 < 2.
Если бы выполнялось включение феС2(С"), то по теореме
16.1.1 уравнение A5.3.3) имело бы решение до, для которого
¦f \ I wft) fe-^dk (С) < J | /(О IV^O + I Ira С f)mdXft),
при условии что правая часть конечна. Это утверждение спра-
справедливо и тогда, когда г|) §? C2(Crt): достаточно заменить ф на
ее регуляризацию t|)e ^ ty и устремить е к нулю так же, как при
доказательстве теоремы 15.1.2, замечая, что регуляризация
функции A+| Im ^l2)-8/4 не меньше, чем A +|Im ?|2)-3/4(l —
-0(8)).
Из леммы 11.1.4 получаем, что P{t>)^ Cr\P(Q \ при
&N(r/2). В силу неравенства A6.3.6),
A6.3.6)
-N{r)
Если t достаточно велико, то, изменив постоянные, легко убе-
убедиться, что функция
Ф (»-(/»+1) log Af(Im?f t)
удовлетворяет условиям теоремы 15.2.1. Если бы функция V\
была преобразованием Фурье—Лапласа распределения vx e
€zBc2,k(X), то, воспользовавшись рассуждением, приведенным в

15.3. Представление Фурье — Лапласа решений 335
начале доказательства теоремы, мы получили бы, что
A5.3.7) \(ц, v)f~\(u9 vj
Отсюда следовало бы нужное утверждение с ф вместо ф.
Для того чтобы устранить неоправданное предположение
о функции V\y вспомним из доказательства теоремы 15.2.1, что
мы можем считать, что функция ср есть предел возрастающей
последовательности функций ф/, для которых
a) условия (iii) и (lv) теоремы 15.2.1 выполняются равно-
равномерно;
b) условие (i) выполнено для ср/ и всякого компактного
множества К в X, когда / больше некоторого целого числа, за-
зависящего от К;
c) для фиксированного целого / существуют компактное под-
подмножество К в X и некоторая постоянная с > О, такие что
ехр(-Ф/ ft)) > ck (Re g) exp (-HK (Im ?)).
Для заданного распределениям е В% k (X) можно применить при-
приведенную выше конструкцию с заменой функции ф на функцию
Ф/ при достаточно большом значении /. Это даст неравенство
A5.3.6) с фу вместо ф. Выбор V\ может, разумеется, зависеть от
/. По теореме Пэли — Винера — Шварца и условию с) заклю-
заключаем, что V\ является преобразованием Фурье — Лапласа не-
некоторого распределения из пространства ?2, k (X). Следовательно,
неравенство A5.3.7) будет справедливо, если вместо функции ф
подставить ф/. Постоянная С при этом не зависит от /. Устрем-
Устремляя / к бесконечности, получим
J
-N(r)
Теорема доказана.
Типичным примером теоремы о регулярности, которую мож-
можно вывести из теоремы 15.3.1, является
Следствие 15.3.2. Пусть k, k\ e Ж и для некоторых С и N
A5.3.8) fe(Re?)<CMReO(l+|ImEr при Р(С) = О.
Если X — открытое множество в Rn и распределение и е 5^?*, (X)
удовлетворяет уравнению Р(D)и = 0, то we Bl?%(X).
Доказательство. С некоторой другой постоянной неравенство
A5.3.8) остается справедливым, если ^g/VA), где N(\)—мно-
N(\)—множество точек на расстоянии ^ 1 до корней полинома Р. Можно
считать, что X выпукло. Тогда воспользуемся теоремой 15.3.1

336 15. Теория аналитических функций
и запишем решение и в виде
N(l)
где
Nil)
Здесь функция ср удовлетворяет условию (i) теоремы 15.2.1 с
функцией k, замененной на 1/?ь Из неравенства A5.3.8) выте-
вытекает, что
Nil)
где
вФ (-о = вФ<-с> A + | im g |Г" k (Re 1I kx (Re Q.
По условию (i) теоремы 15.2.1, в котором функция k заменена
на 1/#ь для произвольного компактного множества KczX по-
получаем
| Im ? \f/k (-ReQ.
Следовательно, ф удовлетворяет условию (i) теоремы 15.2.1
с \/й вместо k. Поскольку отношение \k'/k\ ограничено при
каждом k^Xy условие (iil) выполнено для функции ф очевид-
очевидным образом. По теореме 15.2.4 отсюда следует, что we Bl?%(X),
и доказательство завершено.
Мы предоставляем читателю в качестве упражнения прове-
проверить, что условие A5.3.8) эквивалентно условию A1.1.7). Таким
образом, следствие 15.3.2, по существу, эквивалентно теореме
11.1.7 при р = 2. Простым упражнением является также дока-
доказательство теоремы 11.4.1 на основании теорем 15.3.1 и 11.4.8.
Теперь мы докажем, что разложение A5.3.1) решений урав-
уравнения P(D)w=0 может быть улучшено таким образом, что
интегрирование происходит лишь по множеству нулей полинома
Р(?), а подынтегральное выражение состоит из решений урав-
уравнения. Однако в этом случае мы должны допустить экспонен-
экспоненциальные полиномиальные решения, и, вообще говоря, при этом
разложении произойдет некоторая потеря регулярности.
Представим полином Р в виде произведения взаимно про-
простых полиномов, являющихся степенями неприводимых поли-
полиномов

15.3. Представление Фурье — Лапласа решений 337
и обозначим через Л/у множество нулей полинома Р/ в ?Ln. Из
теорем 4.1.15 и 4.1.12 мы получим оценку
A5.3.9) J dSf (9) < г2П~2С2п_2 deg />,,
где dSj — элемент площади поверхности на Nj. В частности, для
соответствующей меры в Сп справедлива оценка A5.2.19). Так
же как при доказательстве того, что решение может быть аппро-
аппроксимировано экспоненциальными решениями (теорема 7.3.6 и
лемма 7.3.7), мы будем использовать лишь полиномы от одной
переменной <*, т>, где вектор tejCrt не характеристический
относительно Р.
Теорема 15.3.3. Пусть X — открытое выпуклое множество в Rn,
к^Ж и распределение ие В\^\^ (X)является решением диффе-
дифференциального уравнения Р (D) и = 0 в X. Тогда найдется функ-
функция ф, удовлетворяющая всем условиям теоремы 15.2.1, и
измеримые функции ill на Njt 0^.k < my, такие что
A5.3.10)
и в смысле равенства A5.2.21)'
r mj-l
A5.3.11) и<*)«? ?>, т>* J UlMe^dStiQ.
1 fc=C Nf
Здесь х зависит только от размерности п и степени полинома Р.
Грубо говоря, этот результат означает, что разложение по
экспоненциальным решениям приводит к потере к производных.
Теорема не очень точна, однако некоторые потери не всегда
можно устранить, поскольку на бесконечности полиномы Pt мо-
могут быть близки к тому, чтобы иметь кратные или общие сомно-
сомножители.
Доказательство теоремы 15.3.3 в значительной степени ана-
аналогично доказательству теоремы 15.3.1. Рассмотрим форму
Bc2,k(X) эо-*(и, v)
и покажем, что скалярное произведение <u, v} можно оценить
через одни только сужения производных <D, т>*# на —Nf при
k < ntf, / = 1, ..., г. Для этого нужно сначала преобразовать
v локально при помощи какой-нибудь интерполяционной фор-
формулы. Возьмем т = A, 0, ..., 0).

338 15. Теория аналитических функций
Лемма 15.3.4. Пусть /ь ..., U — комплексные числа из единич-
единичного диска, 6 = Ц11* ~- /; | Ф О, и пусть иь ..., \х^#— положи-
тельные целые числа с суммой \х и максимумом Д. Бели q — по-
полином степени \х — 1, то
v
A6.3.12) б2*-1 sf^P I?@KC^g ftE Wk)(t,)\.
Доказательство. Используя разложение на простейшие дроби,
получаем
Я О = ? It @ Pi @. Р, @ = П (i - №.
kbf
где qj(t)—полиномы степени < (i/. Разложение по формуле
Тейлора функции q/pf приводит к равенству
<7/@= Z (dkq(tf)/k\) 2 дГA/р,ЩЩ-{,)к+1/П.
Здесь dl(l/Pj)(t}) есть сумма членов вида Ц (ti — tj)~~di, где
A^№ + f^2ji—1. Следовательно, для произведения этой
производной на б20' имеется оценка сверху, что и доказывает
лемму.
Лемма 15.3.5. Пусть Qb ..., Qr — полиномы фиксированной сте-
степени в Сп и значения их главных частей в точке A, 0, ... 0)
равны 1. Пусть гп\у ..., гпг — фиксированные положительные
целые числа. Обозначим через m степень полинома Q =Q^1 • • •
•.. Q™r> и пусть m = max m/. Предположим, что с некоторой
фиксированной постоянной М
Q@)<M sup
ICKi
ICiK
и что дискриминант R (?') произведения Ц Qy (g), рассматривае-
рассматриваемый как полином от ?ь яе равен нулю тождественно. Тогда су-
существуют такие постоянные с, С, х, зависящие только от п, пг,
М, что для каждой аналитической функции f в {?; |?|<1}
справедливо представление
еде g и h — аналитические функции при |?|<с, А — полином
от %\ степени <т и
A5.3.13) R@f-1/2 sup | А @1
itl<

339
15.3. Представление Фурье — Лапласа решений
Здесь dSj —элемент площади на поверхности Qf1 @).
Доказательство. По существу, нам необходимо лишь усовершен-
усовершенствовать доказательства теорем 7.5.1 и 7.5.2. Поскольку поли-
полином Q(?i, 0)/<3@) принадлежит компактному множеству нену-
ненулевых полиномов степени /п, можно выбрать такое число рь за-
зависящее от Q, что 1/3 < pi < 2/3 и с некоторой постоянной С,
не зависящей от Q,
Возьмем такое число р' < 1/3, что
A5.3.14) Q@)<2C|Q(?,, f) | при ||Ь l~Pi К р' и If |< р'.
Отсюда следует, что уравнение Q/(?i, ?') = 0 имеет фиксирован-
фиксированное число корней %i = fv(?') с |?i| < рь если |?'| < р'. Положим
?,(&• о-Шь-мс». if i<p'.
где произведение берется по всем таким корням, и пусть q =
= Ш?*- Поскольку |dQ//dCi|/|Q/K(degQ,)/p' при |?,| =
= Рь то из доказательства теоремы 7.5.1 видно, что существуют
равномерные оценки для коэффициентов полиномов qf при
|?/|<р/ и эти коэффициенты являются аналитическими функ-
функциями от ?'.
Так же как при доказательстве теоремы 7.5.2, мы теперь
получим требуемое разложение для функции f, в котором
h @ - BяО"! J f (z> f) (Я fe f) -<t(ti, f ))/((* - Ь) ^7 fe f» Л.
Эта функция есть полином по переменной ?ь степень которого
меньше степени \х полинома q. Дискриминант /?(?') равен про-
произведению дискриминанта полинома XI Qj (С) и некоторых ква-
квадратов разностей нулей полинома Q(?i, ц)- Их все можно оце-
оценить через С<5@), поскольку коэффициент при ?,™ в Q равен 1,
а другие коэффициенты можно оценить через CQ@). Поэтому
если /?(?') =7^0, то выполнены условия леммы 15.3.4 и при не-
некотором к
Отсюда следует, что
sup | h @ 11 * (?') Г/2 < CQ @)и Z
I Cil<Pi /=
Проинтегрируем' эту оценку при |?'|<р/, вспоминая, что
^Mf )^ dSj (см. доказательство теоремы 4.1.12). В силу леммы
7.3.12, получим A5.3.13).

340 15. Теория аналитических функций
Доказательство теоремы 15.3.3. Поскольку и е Bx°\jk{X), мы
знаем, что для некоторой функции ср, удовлетворяющей усло-
условиям теоремы 15.2.1, имеет место неравенство
A5.3.15) |<и, v)f^
Наша задача — представить распределение v в виде суммы
v\-\-V2t где 02 делится на Р(?,)=Р(—?), a v\ можно оценить
через производные д*й/д??, суженные на #/, при k < гп\.
Для всякой точки 9еСп мы можем применить лемму 15.3.5
к полиному
где m — степень Р. В самом деле, коэффициент при ?Г в
равен коэффициенту при ?Г в Р(?), который можно считать
равным 1. Поэтому, в силу неравенства Коши,
sup IQfo, 0)|>max|d(Q@)|//!>l.
ICiKi
С другой стороны, при а'=7^0 для величины Q(a)@) имеется
равномерная оценка, так как в этом случае дифференцирование
дает множитель (l+leiI"- Определим полиномы Qy точно
так же с помощью полиномов Р/. Дискриминант R произведения
ПР/ не равен тождественно нулю, поскольку полиномы Р; не-
приводимы и взаимно просты. Поэтому для одного из коэффи-
коэффициентов дискриминанта R (8' + A +191) 1~т?/) произведения
XIQ/ имеется оценка снизу через некоторую степень A -Ь|9|)~1.
Чтобы возвратиться к исходным переменным, положим
Тогда по лемме 15.3.5 для всякого 0 имеем разложение
A5.3.16) Й(» = Р(-Ч)?в(О + ЛеE). S^S.F),
а для некоторых новых постоянных к и С — оценку
A5.3.17) sup |Ael<C(l+|e|)* ? ? J \dk6/dtf\dSf.
Заметим, что если #/Г|51F) = 0 при каждом /, то Л9 = 0.
Воспользовавшись леммой 1.4.9 и теоремой 1.4.10, можно
выбрать разбиение единицы 1 = ? %v(?)> гДе supp/v^ sc/2Fv),
таким образом, что пересекаться могут лишь конечное фикси-
фиксированное число шаров Bi@v) и
I A + IС II"" < С.

15.3. Представление Фурье — Лапласа решений 341
Положим
Vx = S Xv\ ~ Pw>
где w будет выбрано так, чтобы функция V\ была аналитиче-
аналитической, т. е.
A5.3.18) dw = h f
Здесь мы воспользовались тем, что Zdxv = O и
Из A5.3.16) мы знаем, что функция
аналитична в пересечении Bc(Qv)(]Bc(Qii.). Оценка для разности
А0 — А0 в этом множестве обеспечивается неравенством
A5.3.17). По лемме 7.3.12 деление наР(—?) увеличивает верх-
верхнюю грань в Вс/2 {%) П Вс/2 (9ц) не более чем на постоянный мно-
множитель. Следовательно,
A5.3.19)
Mv=с A +10v \Г
Здесь мы использовали неравенство Коши — Шварца, а также
тот факт, что dS/-Mepa множества f)j(]Bi(Q) конечна. (Постоян-
(Постоянные могут, разумеется, меняться.) Аналогично находим, что
A5.3.20)
Из доказательства теоремы 15.3.1 мы знаем, что уравнение
A5.3.18) имеет решение w, для которого
A5.3.21) J
J (— СУС! + I ImС p)m+1 dX @.
J I /(С)Pe-
при условии что правая часть неравенства конечна. Для ее
оценки воспользуемся неравенством
I Л2 < tf* ЕI х Д (Ч - Ч) W*v I2,
где N есть оценка сверху для числа множеств BiF/), которые
могут иметь общую точку. Из условия (ш) теоремы 15.2.1 вы-
вытекает, что под знак интеграла в A5.3.19) можно внести мно-
множитель Р(—?J?~<р( , если показатель степени х увеличить на

342 15. Теория аналитических функций
2. Для каждого \х (соответственно v) левая часть неравенства
A5.3.19) отлична от нуля не более чем для N значений пара-
параметра v (соответственно ц). Следовательно, правую часть
A5.3.21) можно оценить через
|2 е-*»м Р (- О2 A +1С I2L dS, (?),
где С и я — некоторые новые постоянные. В силу A5.3.20), ана-
аналогичная оценка верна для суммы ? %Jib . Поэтому
A5.3.22)
/-1 k<mf
Таким образом, мы получили разложение v = V\-\- l/2, где
функция
(t - Vx)/P = Z
имеет локально интегрируемый квадрат и потому аналитична.
Применим рассуждение, приведенное в конце доказательства
теоремы 15.3.1, чтобы перейти от неравенств A5.3.15) и A5.3.22)
к оценке
A5.3.23) \(и, »>P<CG.
Тогда
(и, о> =
где
Здесь функция дк6(?))/д?>\ есть преобразование Фурье — Лапла-
Лапласа от (—t'Jti)*0, поэтому в смысле A5.2.21)' имеет место ра-
равенство
которое с точностью до обозначений представляет собой утверж-
утверждение теоремы 15.3.3.

15.4. Преобразование Фурье — Лапласа пространства С™ (X) 343
15.4. Преобразование Фурье —Лапласа
пространства С^[Х) с выпуклым X
Пусть X — открытое множество в Rn. Как и в § 15.2, топология
индуктивного предела в Со° (X) определяется с помощью полу-
полунорм q в С™(Х), имеющих непрерывное сужение на простран-
пространство ФрешеС^°(/С) для всякого компактного множества КаХ.
Эквивалентно, выпуклое множество V с: Со° (X) есть окрестность
нуля тогда и только тогда, когда V()C™{K) есть окрестность
нуля в пространстве С? (К) для каждого компактного множе-
множества КаХ. Следующая теорема является лишь небольшим до-
добавлением к теореме 2.1.5.
Теорема 15.4.1. Пусть К\ а /С2 cz ... — компактные подмноже-
подмножества в X, такие что каждое множество Kj содержится в Int /(/+1
и [}Ki=X. Тогда следующие условия на выпуклое подмноже-
подмножество V пространства Со° (X) равносильны:
(i) Множество V есть окрестность нуля.
(И) Существуют такие целые Nj и вещественные 8/ > 0, что
множество V содержит в себе всякую конечную сумму ?и/, г&е
Uj^Cp(Kf) и sup|D4|<e/, |a|<W/.
(iii) Существуют такие функции раеС°(Х), что каждое
компактное в X множество имеет непустое пересечение лишь
с конечным числом носителей supppa и множество V содержит
каждую функцию и^С^ (X), для которой справедлива оценка
A5.4.1) Ssup|paDaH|<l.
(iv) Существуют такие целые Nj и вещественные е/ > 0, что
множество V содержит все функции и^С™ {X), для которых
A5.4.2) |?>аи|<е/ в С/С/ при |а|<ЛГ/, / = 0, 1, ... .
Здесь /Со — пустое множество.
Доказательство. (i)=^(ii) По предположению числа N}- и е/ мо-
могут быть выбраны таким образом, что окрестность V содержит
каждую функцию меС~(/С/), такую что sup|DaH| < 2'е/ при
| ос| ^ Nj. Поэтому если функции щ удовлетворяют условию (iiM
то 2iuj е V. Поскольку 2 2" ' < 1 и 0 е V, то
(iii) Пусть X/ ^ С~ (/(/), Х/=1 в Kj~\, и положим
*/ = Х/ — Х/-1 ПРИ / > L Tor^a и= Ии! ГФИ Щ —

344 15. Теория аналитических функций
сумма конечна. Если
2"'\д\\\эаи\<в,9 |а
то \Datij\ < е/ при |а| ^ Nf. Положим
В каждом компактном множестве сумма конечна и обращается
в нуль при больших | ос |. Из A5.4.1) вытекает, что функции щ
удовлетворяют условиям, наложенным на них в (и).
(iii)=>-(iv) Возьмем такие целые Nj, что |a|^yVy при
supp pa П ^0+1 Ф 0- Тогда если число в/ достаточно мало, то из
условия A5.4.2) вытекает, что |paDa#| < 2~'lHa| в множестве
Kj+i\Kf. Поэтому оценка A5.4.1) справедлива в Kj+i\Kj при
каждом /, а следовательно, ив!
(iv)=^(i) Это утверждение очевидно, поскольку на множе-
множестве всех функций аеСо°(/() условие A5.4.2) дает лишь оценки
на конечное число производных.
Приведем теперь описание окрестностей для выпуклых мно-
множеств в терминах преобразования Фурье. Этот результат слу-
служит топологическим дополнением описания преобразования
Фурье, данного в теореме 7.3.1.
Теорема 15.4.2. Пусть X — выпуклое множество, а его компакт-
компактные подмножества /С/ выбраны так же, как в теореме 15.4.1, и,
кроме того, выпуклы. Тогда условия (i)— (iv) равносильны
условию
(v) Существуют положительные числа б/ и Mj, такие что
множество V содержит все функции и^С™ (X), для которых
A5.4.3) | й (О I < ?б7 A + |С \ГМ1 exp HK} (Im Q.
Доказательство. (v)=^(i) Вывод G.3.3) из G.3.1) показывает,
что оценка A5.4.3) справедлива с одним-единственным членом
в правой части, если u^C^(Kf) и норма |/)ан||ь' достаточно
мала при |a|^Af/. Таким образом, пересечение C™(Kj) и мно-
множества функций, которое определяется с помощью неравенства
A5.4.3), является окрестностью нуля вС^(/Су).
(iv)=>(v) Мы должны показать, что из условия A5.4.3) для
подходящих в/ и Mj следуют оценки A5.4.2). Для этого восполь-
воспользуемся доказательством теоремы 7.3.8, в котором цикл Гп за-
заменен на

15.4. Преобразование Фурье — Лапласа пространства CjJ° (X) 345
так что мнимая часть всюду отлична от нуля. Если и^С™, то
для каждого т]
и (х) = BлГп J й (Q е' <*• О rfd л ... л ?/Ся.
Докажем, что если числа бь • ••> б/-ь Ми • ••> Af/_i уже вы-
выбраны, то из условия A5.4.3) вытекает .A5.4.2) с выбранным
номером / при условии, что числа б* достаточно малы, a Mk
достаточно велики при k ^ /. Это покажет нам, что числа 8k
и Mk могут быть последовательно выбраны так, что из условия
A5.4.3) следует A5.4.2), и тем самым доказательство будет
завершено.
Сначала заметим, что для некоторой постоянной с > О и
каждой точки хф.К\ найдется такая точка tigR", \ц\= 1, что
В качестве постоянной с можно взять расстояние от Kj-\ до
дополнения множества /С/. Отсюда следует, что
ехр (НК,_Х (Im С)"- (х, Im ») < B + I Б \Т°*> С е Г^.
Поэтому если |a|^N/ и x&Kj, то из неравенства A5.4.3) вы-
вытекает оценка
c(k, т1) = -^+^(л)~Я/(._1(л).
Члены с k < } экспоненциально убывают при /?-*оо, поскольку
c(k,i\)< 0. Фиксируем теперь R таким образом, чтобы их сумма
была меньше е//2. Если числа Mk и 1/бЛ достаточно велики при
k ^ /, то сумма членов, для которых k ^ /, также меньше е//2.
Таким образом, справедливы неравенства A5.4.2) и доказа-
доказательство завершено.
Условие (v) пока еще имеет не подходящий вид для приме-
применения оценок, полученных в § 15.1, поэтому мы должны сделать
еще некоторые изменения, подобные тем, которые встретились
при доказательстве теоремы 15.2.1.
Теорема 15.4.3. ( Пусть X — открытое выпуклое подмножество
в Rn и V— выпуклое подмножество в С~(Х). Тогда V есть
окрестность нуля в С~(Х) в том и только том случае, когда V

346 15. Теория аналитических функций
содержит все функции и gCJ° (X)y для которых
A5.4.4)
где ф — функция в С Л обладающая следующими свойствами:
(а) Для каждого выпуклого компактного множество К сг: X
существуют такие постоянные Ск и NK> что
где Нк — опорная функция для К.
(Ь) Функция ф локально липшицева и
(с) Функция ф плюрисубгармоническая; точнее, для каждого
w €Е С.п
с A + 11т с |2Г3/4 \w S
в смысле теории распределений. Здесь с — положительная по-
постоянная.
Доказательство. Если К — компактное подмножество в Л и
и<=С0°°(/а то
Поэтому из (а) следует, что A5.4.4) выполнено, если норма
|/)а^к' достаточно мала при |а| ^ Nk + n+ 1. Таким образом,
множество всех функций we Со°(Я),-для которых справедлива
оценка A5.4.4), является окрестностью нуля.
Предположим теперь, что V есть окрестность нуля в Со°(^)-
По теореме 15.4.2 можно выбрать такие числа /С/, б/ и М/, что из
условия A5.4.3) вытекает включение u&V. Построим функ-
функцию ф, для которой из условия A5.4.4) будет следовать
A5.4.3). Поскольку функция |#(?)|2 субгармоническая, из
A5.4.4) и условия (Ь) имеем
\г\<\
\г\<\
Следовательно, достаточно выбрать такую функцию ф, для ко*
торой в добавление к условиям (а), (Ь) и (с) выполнено
условие
(d)

15.4. Преобразование Фурье — Лапласа пространства С™ (X) 347
Положим
¦/ @ = НК{ (Im С) - 2-1 (M,+i + 1) log (//2 + | С Г)
Поскольку функция Я/^ плюрисубгармоническая и
Е ?* < I w Р/(/2 + IСI2),
мы получаем с помощью вычислений, которые привели к
A5.2.10), что
(Мж + 1) | ш Р/2 (/2 + IС I2) + I w I2 W + I Im ? |2Г3/4/16
если /}/2^ 16(M/+i + 1). Отсюда следует, что функция яр/ удов-
удовлетворяет условию (с) равномерно при |Im ?| >//. Если С/ —
постоянная Липшица для функции Н%., то мы получим, что
I rf*/ (О I < (М/ + 1)/// + С, + 2///2 < log /,,
если tj достаточно велико. Фиксируем теперь // таким образом,
чтобы были выполнены предыдущие условия и
и пусть Сь есть верхняя грань для |<ft|>i(E)l- Тогда для некото-
некоторой постоянной G/
+ HKf+l (Im 0 - Cb + Vt log Ff+lnn/n\) + Ot.
Выберем теперь постоянную G/ настолько большой, чтобы,
кроме того,
*/ @ — О, < 4>i (С) — Gi; | Im С К */ + 1.
и положим
max (** (С) — Ол).
Тогда ф/(t) = ф/—1 (Е) при |Im?|<*/4-1. Поскольку разность
'Ф/ ~ О/ удовлетворяет условиям (Ь) и (с) равномерно по ? при
|Im?|>f/, то по индукции получаем, что функция ф/ также
удовлетворяет этим условиям. Мы выбрали постоянные G/ та-
таким образом, что условие (d) выполнено для ф/ при каждом /.
Поэтому предел* <р(?) —lini<P/(E) удовлетворяет условиям (Ь),
(с), (d). Поскольку <р(?)^ф/(Е)—G/, условие (а) справедливо
для К ^ /Су. Доказательство завершено.

348 15. Теория аналитических функций
Формулы представления решений-распределений уравнения
P(D)u = 0 можно теперь доказать повторением доказательства
теоремы 15.3.3; мы можем также доказать аналог представле-
представления A5.2.18) для произвольного распределения. Все это мы
предоставляем читателю в качестве упражнения.
Примечания
Впервые /Лметоды для изучения переопределенных систем
уравнений Коши — Римана были развиты Морри (Моггеу [1])
и Коном (Kohn [2]). Эти методы применимы не только в про-
пространстве Сп, но также в произвольных псевдовыпуклых обла-
областях и даже на многообразиях Штейна. Материал § 15.1 в ос-
основном взят из книги Hormander [19], в которой читатель мо-
может найти систематическое изложение теории функций несколь-
нескольких комплексных переменных с помощью аналогичной техники,
а также дополнительные ссылки на литературу.
Для приложений к теории дифференциальных операторов,
обсуждаемых в § 15.3, необходимо, чтобы подходящая норма
преобразования Фурье пробных функций могла быть выражена
как /Лнорма в С1 с весом ?-2<р, где функция <р плюрисубгармо-
ническая. Эренпрейс (Ehrenpreis [3, 5, 6, 7]) систематически
исследовал вопрос о том, для каких пространств распределений
с компактным носителем преобразование Фурье — Лапласа мо-
может быть описано вместе с топологией лишь с помощью условий
на абсолютные значения. Однако он не рассматривал возмож-
возможность использования ?2-норм с весом e~2i», где функция ср плю-
рисубгармоническая. В своей монографии по дифференциаль-
дифференциальным операторам с постоянными коэффициентами Паламодов
[1, с. 468] отвергает возможность использования таких резуль-
результатов, как теорема 15.1.1, на том основании, что функция
которая появляется при описании преобразования Фурье функ-
функций из пространства С? (/С), не является плюрисубгармониче-
ской1). По этой причине мы посвятили § 15.2 и 15.4 обсужде-
обсуждению (быть может, слишком длинному) того, каким образом
можно строить эквивалентные строго плюрисубгармонические
функции. Главная идея состоит в том, что плюрисубгармонич-
ность функции #/((Im?;) довольно сильна при Im?; = 0 и мо-
может быть распространена таким образом, что преодолевает от-
*) В. П. Паламодов в [1, с. 468] не отвергает возможность использова-
использования таких результатов, как теорема 15.1.1, а лишь констатирует тот факт,
что функция —k log(l +|?|)+ a|Im?| не является плюрисубгармониче-
ской. — Прим. ред.

Примечания 349
сутствие плюрисубгармоничности первого члена. Если эти ре-
результаты объединить с теоремой 7.6.11 из книги Hormander
[19] таким же образом, как в доказательстве теоремы 7.6.13
из этой книги, а также с теоремой. 1.5 книги Bjork [1, гл. 8],
то получится полный фундаментальный принцип в том виде,
в котором он доказан Эренпрейсом (Ehrenpreis [6]), Мальгран-
жем (Malgrange [5]) и Паламодовым [1]. Однако для того,
чтобы избежать длинного экскурса в локальную алгебраиче-
алгебраическую геометрию и теорию когомологий с оценками для форм
высоких степеней, мы включили сюда лишь изучение скаляр-
скалярного дифференциального оператора.

16
Уравнения в свертках
Краткое содержание главы
Дифференциальный оператор с частными производными имеет
постоянные коэффициенты тогда и только тогда, когда он ин-
инвариантен относительно сдвигов. В гл. 4 мы видели, что каж-
каждый инвариантный относительно сдвигов оператор является
оператором свертки. Поэтому естественно изучить, до какой
степени результаты, полученные для дифференциальных опера-
операторов с постоянными коэффициентами, могут быть распростра-
распространены на операторы свертки. Это и является целью настоящей
главы. Естественно, мы вынуждены опустить тонкости и сосре-
сосредоточиться на вопросах существования и гладкости решений
в пространствах 3)\ 2Е>ь и С°°.
Преобразование Фурье — Лапласа переводит свертку рас-
распределений с компактными носителями в произведение анали-
аналитических функций экспоненциального типа. Чтобы воспользо-
воспользоваться этим обстоятельством, мы должны продолжить изучение
(плюри)субгармонических функций, начатое в § 4.1. В § 16.1
обсуждается представление субгармонических функций с по-
помощью ньютоновских потенциалов, или, точнее, с помощью по-
потенциалов Грина и ядер Пуассона. Главным здесь является
результат о том, что если субгармоническая функция ограни-
ограничена сверху линейной функцией от хп в полупространстве
Хп > О в Rn, то семейство функций
u(tx)/t
при *->+ сю сходится в Lioc к линейной функции от хп. В § 16.2
даются приложения к плюрисубгармоническим функциям: если
функция и, плюрисубгармоническая в Сп и
то существует наименьшая опорная функция Я, такая что

16.1. Субгармонические функции 351
а функция u(tz)/L при t-*oo приближается к #(Imz), если
г е СКЯ = {дох; ais.C, xgR"}. Это позволит нам в § 16.3
получить другое доказательство теоремы о носителях сверток.
Аналогичные, но существенно более сложные результаты дока-
доказываются также для сингулярных носителей сверток. В част-
частности, мы приводим несколько характеризаций распределений
\i e <8\ для которых справедливо условие
Такие распределения |и называются обратимыми. Если распре-
распределение (ы обратимо, то всегда
'
ch sing supp uczch sing supp (\x*u) — ch sing supp \x, и
Для обратимых распределений в § 16.5 по аналогии с § 10.6,
10.7 развита теория существования решений неоднородного
уравнения в свертках \х*и = /. Однако если функция f веще-
вещественно аналитична, то решение также существует для всякого
ц=#=0. Это доказывается в § 16.4, где приведена также общая
теорема об аппроксимации решений однородного уравнения
\i*u = 0 экспоненциальными решениями.
Наконец, в § 16.6 и 16.7 для уравнений в свертках строится
аналог теории гипоэллиптических и гиперболических дифферен-
дифференциальных уравнений е частными производными, изложенной
в гл. 11 и 12.
16.1. Субгармонические функции
Как уже говорилось в теореме 4.18, функция и0 называется суб-
субгармонической в открытом множестве X cr R", если она прини-
принимает значения в [—оо, оо), полунепрерывна сверху и ее среднее
значение
М(х, г)= \ Uo(x + №)d<o/ \ d<o
Icol-l U1-1
является возрастающей функцией от г при х& X н 0^г<
< d (х, СХ). В случае когда функция и0 не равна тождественно
—оо в компоненте множества X, мы доказали, что и0 ^ ?ioc
и Дио^О. Обратно, каждое распределение, лапласиан кото-
которого не отрицателен, определяется в точности одной субгармо-
субгармонической функцией.
Пусть Е(х)—фундаментальное решение оператора Лапласа,
определенное в теореме 3.3.2. Если ц— положительная мера
с компактным носителем, то выражение

352 16. Уравнения в свертках
определяет субгармоническую функцию, где правая часть пони-
понимается как свертка E*d\i в смысле теории распределений. В са-
самом деле, если г|)е определяется так же, как в доказательстве
теоремы 4.1.8, то <ф8*? = ?'е|? при е|0. Поэтому
х)\\Е(х- у) d\i (у) при е J, 0.
Таким образом, предел и является полунепрерывной сверху функ-
функцией. Поскольку E&*d\i->E*d[i в L\OCi отсюда также вытекает,
что и задает распределение E*d\i, для которого H(E*d\i) =
= d\k ^ 0.
Поскольку ZJeLfoc при p<Zn/(n— 2) (это неравенство при
ft = 2 понимается как р<оо), для указанных р имеет место
включение E*d\x е LP\OQ. Если f e 8' и функция /*? непре-
непрерывна, то /*(?Wji)e С. Эти наблюдения можно перенести на
произвольные субгармонические функции:
Предложение 16.1.1. Пусть функция v субгармонична в откры-
открытом множестве XczRn и не равна тождественно —оо ни в од-
одной его компоненте; тогда v e Lfoc при р < п/ (п — 2). Для каж-
каждого распределения /е<8", для которого свертка f*E непрерыв-
непрерывна, свёртка f*v также непрерывна в открытом множестве
{х\ {х}— supp f a X}, в котором она определена.
Доказательство. Положим d\x = At\ так что d\x — положитель-
положительная мера. Для каждого открытого множества УшХ можно
выбрать такую неотрицательную функцию %&С™(Х), что % =
= 1 в К, и тогда
где Ддо = A—%)d\i = 0 в К. Поэтому шеС°°(У). Поскольку
%d\i — положительная мера, утверждение следует из замечаний,
сделанных выше перед его формулировкой.
Предложение 16.1.2. Пусть vj и v — субгармонические функции
в открытом множестве X cz R", не равные тождественно —оо
ни в какой его компоненте, и Vf-+v в 2D'(X)\ тогда Vj-+v
в L\0C(X) при р<п/{п — 2). Для каждой точки х&Х
A6.1.1) Tim vf (*)<v(x).
Если dv — положительная мера с компактным носителем в Л,
для которой свертка dv*E непрерывна, то для v-почти всех
хе=Х
A6.1.2) Игл v,(x) = v(x)> ~oo.

16.1. Субгармонические функции 353
Доказательство. Положим d\ij = Да/ и d\i = Да. Тогда йщ ->¦ d\k
в iZ)', а следовательно, и в слабой топологии мер (теоре
ма 2.1.9). Представим vj и v в виде
Vf = ?*(% rfn-/) + wn v = E*(% d\i) + w,
где функция х выбрана так же, как в доказательстве предло-
предложения 16.1.1. Тогда Ддо/ = 0 в У и Wj-*w в 2)'(Y). По тео-
теореме 4.4.2 Wj-+w в С°°(У).Если функция ?8 определена так же,
как в рассуждении, приведшем к предложению 16.1.1, то
Ег(х) = Е(х) при |jt|>ce. Поэтому ?е — Е-+0 в Lp при е->0.
Поскольку при фиксированном в
локально равномерно, когда /->оо, и
E|0 при
то отсюда вытекает, что Vj->v в LfocOO при /->оо.
При хеУ имеем
^/ (л:) = Е*(% d\if) (х) + ш/ (х) < ?е*(х rffi/) (^) + wf (x)
w(x), /-> оо,
откуда получаем оценку A6.1.1) при е->-0. (Другим методом
этот факт был доказан в теореме 4.1.9.) В силу свойства сред-
среднего значения субгармонической функции последовательность
vj имеет равномерную оценку сверху на каждом компактном
подмножестве в X. Поэтому A6.1.1) вместе с леммой Фату дает
v (х) dv (х) > jj (Urn V; (х)) dv (x) > lim J vf (x) dv (jc).
Следовательно, последнее утверждение предложения будет до-
доказано, если мы покажем, что
Если мы выберем такое множество У, что supp dv cz У, то нуж-
нужный нам факт вытекает из того, что
(dv*E) (у) % (у) d\x, (у) -+ J (dv*E) (у) % (у) # (у).
Доказательство закончено.
Представление субгармонических функций в виде ньютонов-
ньютоновских потенциалов положительных мер может быть использовано
для дальнейшего изучения исключительного множества, на ко-
котором limvj(x)<. v(x). Однако мы не будем здесь применять
Val2 Зак. 64

354 16. Уравнения в свертках
такие уточнения, за исключением того простого следствия пред-
предложения 16.1.2, что это множество имеет меру нуль на каждой
С^-гиперповерхности. В самом деле, если dv— непрерывная
плотность с компактным носителем на ^-гиперповерхности, то
непрерывность свертки E*dv очевидна, когда поверхность явля-
является гиперплоскостью. В общем случае это утверждение полу-
получается с помощью замены переменных.
Теперь мы разработаем принцип максимума дальше и по-
покажем, что он характеризует субгармонические функции. Для
этого решим задачу Дирихле в единичном шаре, воспользовав-
воспользовавшись ядром Пуассона
Рх(х, у) = A-\х\2)\х-уГп/сп при х,уе=?>п, \х\<1=\у\9
где сп — площадь единичной сферы S"-1. Это гармоническая
функция от х, поскольку
Pi (х, У) = - B (у, z)\z\'n + \z Гп)/сп при х = у + z,
и оба слагаемых — гармонические функции от z. Представив
х = гсо, |о)|= 1, г < 1, в силу гармоничности Рх получаем
Р\ @, у) = \ Р{ (г©, у) da>/cn = ^ Рх (ту, со) da>/cn.
Здесь мы воспользовались тем, что |гсо — у\2 = 1 + г2 — 2г<со,
у>=|о) — п/|2. Полагая х = гу> получаем
A6.1.3) \Pi(x, co)do=l при |*|<1.
Теперь мы подготовлены к доказательству следующей леммы:
Лемма 16.1.3. Пусть h — непрерывная функция на сфере Sn~l\
тогда
!\ Р\ (х, <о) h (со) dco при | х |< 1,
| со|-1
h(x) при 1*1=1
есть непрерывная функция, гармоническая внутри единичного
шара.
Доказательство. Гармоничность Н выводится из гармоничности
Pi с помощью дифференцирования под знаком интеграла. Если
г < 1, то в силу A6.1.3) при |#|=1
(гу) - Л(у) |< $ Я, (гу, со) | h (со) - h {у)\фп
< sup |Л(©)-Л@)|+ \ Р{(гу, ю)|h(co)~h(y)\d®.

16.1. Субгармонические функции 355
Последний интеграл равномерно сходится к нулю при г->1,
а другой член в правой части сколь угодно мал при достаточно
малых е. Отсюда следует, что H(ry)-+h{y) равномерно по у
при г-> 1. Это доказывает лемму.
В силу принципа максимума, Н — единственная гармониче-
гармоническая функция, для которой значение на границе равно h\ она
называется решением задачи Дирихле в единичном шаре с дан-
данными Дирихле h.
Приведем теперь несколько эквивалентных определений суб-
субгармоничности:
Предложение 16.1.4. Пусть и — полунепрерывная сверху функ-
функция в открытом множестве XczRn со значениями в [—оо,оо)\
Тогда каждое из следующих условий необходимо и достаточно
для того, чтобы функция и была субгармонической:
(i) Если расстояние от точки х е X до дХ больше г, то
и(х)
|-1 |со|-1
(ii) Если расстояние от точки х е X до СХ больше г, то
на [0, г] существует положительная мера d\i со строго положи-
положительной массой на (О, г], такая что
и(х) JJ rfcorfji(r)< JJ u(x + ra>)d(i>d\i(r).
(iii) Если К — компактное подмножество в X, функция h
непрерывна на К и гармонична в Int/C, причем u^h на дК,
то и ^h в К.
(iv) Если В — замкнутый шар, ВаХ, h — гармоническая
функция в Rn и u^h на дВ, то u^h в В.
Доказательство. Теорема 4.1.8 показывает, что свойство субгар-
субгармоничности равносильно условию (i). Интегрирование по d\x{r)
показывает, что (i)=^(ii) для каждой меры ц. Чтобы доказать
импликацию (ii)=^(iii), усовершенствуем доказательство прин-
принципа максимума в теореме 4.1.8. Предположим, что М =
= sup(a — Л) > 0. Верхняя грань достигается в замкнутом под-
к
множестве F множества /С, поскольку функция и полунепре-
полунепрерывна сверху. По предположению расстояние б от F до дК
положительно. Пусть x^F и расстояние от х до дК равно б.
Тогда каждая сфера {х\ \х — у\= г}, 0 < г ^ б, должна содер-
содержать точку у, расстояние от которой до дК есть б — г < б, и,
следовательно, v = и — h <C M в некоторой окрестности точки у.
V2 12*

356 16. Уравнения в свертках
Поэтому
jj jj v (х + rco) d® d\k (г)< М J J dco rfjx (г) = о (л:) J jj da> tf ц (г).
Поскольку
[ h (х + гсо) dco = Л (*) ^ rfco
при г < б, а значит, и при г = б, получаем противоречие с усло-
условием (и). Импликация (iii)=^(iv) очевидна. Для доказатель-
доказательства (iv)=^(i) возьмем непрерывную функцию U, которая
определена и строго больше и на границе содержащегося в X
замкнутого шара В с центром в х. По лемме 16.1.3 существует
непрерывная функция Я в В с граничными значениями [У, гар-
гармоническая внутри шара. Функция Н является равномерным
пределом функций H(x-\-t(- —х)) в В при t / 1, а последние
гармоничны в окрестности шара В. Поэтому в силу теоре-
теоремы 4.4.5 функция Н есть равномерный предел в В последова-
последовательности функций Я/, гармонических в Rn. При больших / на
дВ имеем Я/ > и. Поэтому из условия (iv) вытекает, что Н
в В. Следовательно,
[
\
о 1 — 1
U (X + ГЮ) Жв/ J d(O.
| со 1 — 1 |со| = 1
Так как функция и полунепрерывна сверху, тб, взяв нижнюю
грань правой части по всем допустимым функциям [У, получим
свойство (i). Доказательство завершено.
Следствие 16.1.5. Пусть uly ie/, есть семейство субгармониче-
субгармонических функций в X и функция и = sup ul полунепрерывна сверху
и <-foo; тогда и субгармонична.
Доказательство. Пусть К — компактное подмножество в X и
h — непрерывная функция в К, гармоническая в Int/C, причем
и ^ h на дК. Тогда wv ^ h на дК и потому иь ^ h в /С в силу
субгармоничности wt. Следовательно, w < ft в /(, и по условию
(iii) предложения 16.1.4 функция и субгармонична.
Если множество / конечно, то функция и автоматически по-
полунепрерывна. Единственная причина, заставившая нас дока-
доказать предложение 16.1.4, — это следствие 16.1.5, уже использо-
использованное в § 15.2.
Основной темой этого параграфа является изучение таких
субгармонических функций v в полупространстве
Rn+ = {x<=Rn, xn>0},

16.1. Субгармонические функции 357
что для некоторых постоянных Со и С\
A6.1.4) И^)<Со + Сл, хп>0.
Заметим, что по теореме Пэли — Винера — Шварца функция
v(z)=log\u(z)\ удовлетворяет этим условиям, если и есть мера
с компактным носителем на R, а С отождествлено с R2. Именно
в этом причина интереса к функциям, удовлетворяющим усло-
условию A6.1.4). Они понадобятся нам лишь при /2 = 2, однако
в случае п > 2 не возникает никаких дополнительных труд-
трудностей.
Лемма 16.1.6. Если v — субгармоническая функция eR+, удов-
удовлетворяющая условию A6.1.4), то
M(xn) = supv(x', хп)
есть выпуклая функция от хп.
Доказательство. Пусть 0<fl <ft,' и пусть L(xn) — линейная
)
функция, для которой М(а)^: L(a) и M(b)^ L(b). Тогда суб-
субгармоническая функция
^ 0 на границе полосы {х\ а ^ хп ^ Ь) и стремится к —оо при
|л:|->оо. Применив принцип максимума к достаточно большому
компактному подмножеству, убедимся, что v&(x)^0 в этой по-
полосе. При е->0 получаем v(x)^ L(xn) для а < хп < Ъ. По-
Поэтому М (.*:„) ^ L(xn) при а < хп < Ъу что и доказывает лемму.
Поскольку М(хп)^. Со + С\Хп и функция {М(хп) —
— МA))/(хп—1) возрастает, предел
A6.1.5) Y= Ит М(хп)/хп
п
существует и —оо < у ^ С\. Из выпуклости М следует, что
М (хп + уп)^М (хп) + ууп, хп > 0, уп > 0.
Это число у появится в формуле представления Рисса для функ-
функции о, которую мы теперь выведем.
Пусть Е — то же, что и раньше, фундаментальное решение
оператора Лапласа. Положим
G(x, y) = E(x-y)-E(x-y*) = E(x-y)-E(x*-y) при
JC, у €=•&%.
Здесь у* —(у\ — уп) есть отражение точки у={у\уп) относи-
относительно граничной плоскости. Функция G называется функцией
Грина полупространства R!}. Если к — фиксированная точка в
R+, то &yG = 6x, G<0 и G стремится к нулю, когда у стре-
12 Зак. 64

358 16. Уравнения в свертках
мится к границе. Положим
Уп^ = 2хп\ х - уГп/сп\уп-о9
где Сп — площадь сферы Sn-\ Функцию Р называют ядром
Пуассона полупространства R+. Если и е С~ (Rrt), то по фор-
формуле Грина
A6.1.6) и{х)= J Q(x9 y)Au(y)dy+ J P(x, у')и{у\ O)dy'f
Уп>°
хп>0.
Первый интеграл сходится к нулю при л:п—>¦ 0 (так как после
замены переменных в каждом члене применима теорема Лебега
о мажорированной сходимости). Если л:' = 0, то второй инте-
интеграл равен
=-^$(i + l/ITn/2«(*„/
Отсюда следует, что последний интеграл должен равняться 1,
т. е.
A6Л.ЗГ \p(Xi y)'dy'=\, xn>0.
Если г|> е= Со00 (R+) и ф eClR"'1), то функция
v (х) = J G (ху у) г|) (у) dy + J Р (*, у') Ф (/) dy'
удовлетворяет уравнению Ду = г|) в R+ и v(-> xn) — ф->0 рав-
равномерно при хл->0. Для доказательства первого утверждения
достаточно заметить, что Е{х — у*) — гармоническая функция
от х в R+ при у е R+ и Р (х, у') — также гармоническая функ-
функция, а это дает нам в R+
Ввиду того что функция G обращается в нуль при хл = 0, вто-
второе утверждение получается повторением доказательства лем-
леммы 16.1.3:
|
-1 \ Р @, 1, /) (Ф (*' + хпу') - Ф (*')) dtf | < Cxf.
Последнее неравенство следует из того, что величина ^( +
+ хпу')—ф(^)| оценивается как через 2 sup |cp|, так и через

16.1. Субгармонические функции 359
jrn|{/'|sup|grad <p|, а следовательно, и через среднее геометри-
геометрическое этих величин.
Наконец, заметим, что если х-*-оо, а \у\ остается ограни-
ограниченным, то
A6.1.7) G(x, y) = -\x\l-nP(x/\x\, 0)уп + О(у1хп\хГп-1)
Это вытекает из свойства однородности
G(x, y) = t2-nG(x/tt y\t\ />0,
если взять / = |лс|, а затем воспользоваться формулой Тейлора.
Теперь мы подготовлены к доказательству теоремы о пред-
представлении для субгармонических функций, удовлетворяющих
условию A6.1.4).
Теорема 16.1.7. Пусть v — не равная тождественно —оо субгар-
субгармоническая функция в R+, для которой выполнено условие
A6.1.4). Тогда мера v{x\xn)dx' слабо сходится к некоторой
мере da в Rn~l при л:Л->0. Если d^i==Avt то
A6.1.8) $A + |/1Гя|Лт(/)|<оо, \yn(l+\y\rnd\i(y)<oo,
A6.1.9) v(x)= J P(x, y')do(y')+ J G(x,
>
где постоянная у определена формулой A6.1.5).
Доказательство. Можно считать, что Со = у = 0, поскольку
иначе достаточно вычесть Со + У*п из v. Таким образом, v ^ 0.
Если 0 < х ^ 1 и X е= СГ (R+), то
где vx — субгармоническая функция, vx^.0. В самом деле, ин-
интеграл является ньютоновским потенциалом меры %{y)d\i{y) —
— %{y*)d\i(y*), поэтому Avx =A — %)d\i ^ 0. Для всякого е>0
найдется такое компактное множество /(ciR+, что интеграл
^ — е в R+\/C. Поэтому их< е в С/С и, значит, по принципу
максимума vx ^ e в К. Отсюда следует, что vx ^ 0. Выберем
теперь возрастающую последовательность функций X/ ^ С~ (R+)»
Х/^0, Х/=1 в каждом компактном множестве в R+ при до-
достаточно большом /. Тогда последовательность vx возрастает,
а ее элементы являются гармоническими функциями в каждом
12*

360 16. Уравнения в свертках
компактном множестве при достаточно больших /. Поэтому по-
последовательность vx. сходится к гармонической функции ^1^0,
такой что
v (х) = v{ (х) + щ (х), v2 {х) = ^ G (х, у) d\i (у).
Если мы выберем такую точку ху что v(x)> — оо, то получим
второе условие A6.1.8).
Докажем теперь, что v2(-> хп)-+0 в смысле слабой сходимо-
сходимости мер при Хп-+0. Так как у2 ^ 0, то по теореме 2.1.9 доста-
достаточно доказать сходимость в пространстве 2)'. Возьмем qpe
^ Со° (КЛ~*1) и рассмотрим интеграл
*'» *п> У'> Уп)у{х')<1х'.
Этот интеграл сходится к нулю при хп-+0 для каждого фик-
фиксированного ^/gR", а из A6.1.7) следует, что вне некоторого
компактного множества этот интеграл имеет мажоранту
Суп\у\~п- Далее, интеграл
F (у) = jj Е (у' — х\ уп) ф (х') dx'
является непрерывной функцией от у вместе со всеми производ-
производными по у\ так как производные можно заставить действовать
на ф. Поскольку Д/7 = 0 при упФ0у в этом случае для произ-
производных второго порядка по уп также имеется локальная оценка
и, значит, функция F локально липшицева. (См. также теоре-
теорему 4.4.8.) Таким образом,
*'. хп> У'> yn)<V(x')dx'
= F (y\ xn -yn)-F (у', хп + уп) = О (уп).
Поэтому интеграл равномерно ограничен величиной Суп/(\ +
')" и стремится к нулю при *„->(). Следовательно,
г (х\ хПУ у'
Пусть е>0 и 0<^<l, i|)^C~(Rrt~1); тогда функция
гармоническая при хп > 0 и принадлежит классу С°° при п^
Ее граничные^значения v\(x'> е) A — ф(*')) при хп «= 0 неполо-
неположительны и lim Н^(х)<^0ш Так же как и выше, принцип мак-

16.1. Субгармонические функции 361
симума позволяет получить неравенство Лф ^ 0. Если мы про-
продолжим функцию Лф в R", полагая Аф (х'у хп) = — h^ (х\ — хп)
при хп < 0, то
Ah^ = 2v{(x\ e)(l-^(x')N'(xn).
Поэтому, когда -ф = 1 в окрестности точки х\ функция Н^ гар-
гармонична в (л/, 0) (по принципу симметрии Шварца). Выберем
теперь возрастающую последовательность неотрицательных
функций ^eCiR"), равных 1 на каждом компактном мно-
множестве в Rn~l для больших /; тогда последовательность функ-
функций Лц>. возрастает (убывает) к гармонической в Rn функции Л,
которая неположительна (неотрицательна) в верхнем (нижнем)
полупространстве. Имеем
о, (*', хп + е) = h (х) + \ Р (х, у') о, (/, е) dt/, ха > 0.
Функция h должна быть линейной функцией переменной хп.
Для доказательства этого факта применим лемму 16,1.3 к функ-
функции x-+h(Rx)> где R велико. Это дает
h (х) = J (Л Ш, У) - Pi (хЖ У)) h (Ry) dS (у), \x\<R
\v\-uyn>o
где dS — элемент площади поверхности на единичной сфере.
Поскольку
1*7* ~ У I2 - I x/R - у |2 = 4xnyjR
и производная функции t~n/2 равна —п/2 при /== 1, для фикси-
фиксированного х получаем
Pi (*/*, у) - Pi (хЖ У) - 2пхпУпA + O(l/R))/Rcn.
Следовательно,
h (x)» 2пхп A + 0 (l/R)) J Л (/ty) r/^ dy.
IСГ1 — 1- Уя>0
При /?->оо отсюда следует, что h(x) = axn, где а — некоторая
постоянная.
Из неравенств у(х/, хЛ + е)^ ахп и а<0в силу предполо-
предположения у = 0 получаем, что а = 0. Таким образом,
A6.1.10) »,(*', *n)
Так как y = 0»<to Д^я всякого б>0 можно найти точку х со
столь большим хП9 что
^ (*', хп) > — б^Л.

362 16. Уравнения в свертках
Таким образом,
Это означает, что при достаточно большом М6 для всех ма-
малых е
\у'\>м6
Следовательно, можно выбрать слабый предел do мер
V\{y\z)dy' при е-*-0 и далее перейти к пределу в интеграле
A6.1 Л0), несмотря на некомпактность области интегрирования.
Мера do удовлетворяет A6.1.8), и мы получаем
A6.1.10/ vx(x\ хп)=\р(ху y^dotf), xn>0.
Из A6.1.10)' следует, что плотность v\{x'9xn)dx' слабо схо-
сходится к do при л:л-*0. В самом деле, если ф? СоЧК"")» то
\ vi (х\ хп) Ф (xf) dx' = \ do (/) J Р (х, у') Ф (л:') d^.
Внутренний интеграл равномерно сходится к у (у') при хп-*0
и равномерно оценивается через' С/A + |#'|)п. Поэтому при
хп-+0 предел двойного интеграла равен \ У {у') do (у'), что за-
завершает доказательство.
Теперь покажем, что функция v(x) близка в среднем к функ-
функции ухп при *->oo. Следующая теорема является главным ре-
результатом этого параграфа:
Теорема 16.1.8. Пусть v — субгармоническая функция в R+,
удовлетворяющая условию A6.1.4), и пусть у определено фор-
формулой A6.1.5). Тогда
A6.1.11) ^\v(tx)/t — yxn\dx-+O при /->оо,
к
где К —любое компактное подмножество замыкания полупро-
полупространства R+.
Доказательство. Если v = const, то утверждение очевидно. Сле-
Следовательно, можно считать, что Со = 0 и, значит, do ^ 0. Тогда
v(tx)/t—ухп ^ 0, и поэтому достаточно доказать сходимость
к 0 интеграла A6.1.11), в котором опущены знаки абсолютной
величины. В силу A6.1.9)
\ (v (tx)/t - ухп) dx=[Ki {U У') do {у') - [ К2 (U

16.1. Субгармонические функции 363
где
О </ti (*, у') = Г1 J P (tx, у') dx = ГП\Р (х, у'It) dx
к к
G(tx, y)\dx = tl-n\\G(xyy/t)\dx
к к
<Ctl-n(yn/t)(l+\y/t\rn.
Последняя оценка вытекает из A6.1.7), когда отношение y/t
велико, и очевидна, когда отношение y/t принадлежит ограни-
ограниченному множеству. В силу A6.1.8) мы получаем теперь
A6.1.11) по теореме о мажорированной сходимости.
В заключение этого параграфа приведем два примера при-
применения теоремы 16.1.8, которые не понадобятся в дальнейшем,
но дадут хорошее представление о важности этой теоремы.
Теорема 16.1.9. Пусть и — мера на R, для которой chsuppu =
= [а,6]. Тогда
Если N(R) есть число нулей функции й при |г|<7? с учетом
кратностейу то N(R)/R-**(b — а)/п при R-+oo.
Доказательство. По теореме 7.3.1 имеем
и число Ь нельзя заменить здесь какой-то меньшей постоянной.
Аналогично,
log | Й (?) |< С + a Im ?, Im?<0,
и здесь а является наилучшей постоянной. Поэтому из теоремы
16.1.8 вытекает, что
в Z,!oc, где h(t) = bt при f >0 и h(t) = at при /<. Применим
к обеим частям предельного соотношения оператор Лапласа.
Пусть 2/ — нули функции йу причем кратные нули повторяются
столько раз, какова их кратность. Из примера 4.1.10 следует,
что
в смысле теории распределений, а значит, и в смысле слабой
сходимости мер.
Если положительные меры ц/ слабо сходятся к ji, то по опре-
определению для всякой функции феС0
A6.1.12) Мф)-

364 16. Уравнения в Свертках
Однако A6.1.12) остается справедливым для каждой измери-
измеримой по Борелю функции ф, которая интегрируема но Риману
по отношению к ц. В самом деле, если функция ср вещественно-
значна и е > 0, то можно найти такие функции фьфг^Со, что
ф1 ^ ф ^ Фг и \ (ф2 — ф,) d\i < е. Поэтому
lim \ ф d\if < lim \ ф2 d\if = \ ф2 d\i ^ \ ф d\i + в,
lim \ <pd\if^ Пт \ ф! d\if— \ ф, rfjx> \ Ф^ — в,
что и доказывает нужное утверждение. Взяв в качестве ф ха-
характеристическую функцию единичного диска, мы завершим до-
доказательство теоремы.
Теперь приведем несколько более слабую форму теоремы
1.3.8.
Теорема 16.1.10. Пусть «eC*(R), и пусть
..M*, k=lt 2, ...,
где Mk — некоторая возрастающая последовательность. Если
функция и не равна нулю тождественно^ то
? MMk<oo.
Доказательство. Применение теоремы 16.1.7 к функции log|#|
в верхней полуплоскости, при условии что функция и не равна
нулю тождественно, дает
\
Из предположений следует, что
> * = Ь 2
Эта оценка удобна на интервале Mk < |?|< Mk+i. Используя
ее, получаем
00
М1
log | Л F) I dl/l2 < (log C)/Mx + J] \ log (МЛ) dW
1 1 Mk
ОО ОО
= (log О/Л1, - ? м? \ log i d$J\\
откуда и следует утверждение теоремы.

16.2. Плюрисубгармонические функции 365
16.2. Плюрисубгармонические функции
Понятие плюрисубгармонической функции было введено в тео-
теореме 4.1.11. Поскольку конус плюрисубгармонических функций
содержится в конусе субгармонических функций и замкнут в
топологии распределений, то все, что мы доказали о пределах
последовательностей субгармонических функций, остается спра-
справедливым и для последовательностей плюрисубгармонических
функций. Докажем теперь аналог леммы 16.1.6.
Лемма 16.2.1. Пусть v — такая плюрисубгармоническая функ-
функция в Сп, что для некоторых постоянных Со и С\
A6.2.1) v(x + iyXCQ + Cx\y\; ху y*=Rn.
Если v Ф — оо, то функция от у е R", заданная равенством
A6.2.2) М (у) = sup v(x + iy),
х
выпукла. Предел
A6.2.3) Н(у)= lim M(ly)/t
t
существует и является опорной функцией1). Для всех xt
имеем М(х + у)^М(х)+Н(у).
Доказательство. Так как
(x+ i(y + ty{)) = sup sup v(x + iy +
x Im w =*t
и точная верхняя грань семейства выпуклых функций является
выпуклой функцией, из леммы 16.1.6 следует, что M(y-\-tyx) —
выпуклая функция от /, а значит, и /VI — выпуклая функция.
Здесь мы воспользовались тем, что М(у) ^ Со + С\ \у\ < оо и
М ф _ оо. В силу выпуклости предел
Н(у)= lim M(ly)!t= lim (M(ty) - M@))/t
t ^
существует и с очевидностью является выпуклой положительно
однородной функцией, для которой Н (у) ^ С\ \у\. Из монотон-
монотонности последнего выражения под знаком предела вытекает, что
М(у)^М@)-\- Н(у). Следовательно,
М\х + у)-М{х)^ lim (M(x + iy)-M(x))/t
t -> + 00
< lim (M @) + И (х + ty) - M(x))/t
f-> 4-00
< lim
Лемма доказана.
*) Определение см. в § 4.3. — Приме, ред.

366 16. Уравнения в свертках
Назовем Н опорной функцией для функции v. (При v шв О
положим // = — оо; это опорная функция пустого множества.)
В § 16.3, используя теорему Пэли — Винера — Шварца, мы уста-
установим совпадение опорной функции множества chsuppu с
опорной функцией для log|w|, где w —мера с компактным но-
носителем (см. также доказательство теоремы 16.1.9). Это послу-
послужит оправданием введенной здесь терминологии. Однако сейчас
мы продолжим изучение плюрисубгармонических функций, удов-
удовлетворяющих условию A6.2.1), для того чтобы определить, на-
насколько хорошо они могут быть аппроксимированы функцией
#(Im?;) на бесконечности.
Лемма 16.2.2. Пусть v — плюрисубгармоническая ограниченная
сверху функция в С". Тогда v постоянна.
Доказательство. Достаточно доказать это утверждение при
п= 1. Пусть v(z)^C при каждом г, и пусть го — точка, в ко-
которой, например, v(zo)<.a. Тогда можно найти такое е > О,
что v(z) < а при \z — го| ^ е. Отсюда следует, что
+ (C-a)(log(|z - z0 |/e))/log(R/e)
в кольце е^|г — zo|^/?, так как это верно на его границе.
Устремив У? к оо, получим, что v(z)^a и, значит, и(г)^ и(го).
Меняя местами z и г0, убедимся, что v(z) = v(Zq). Тем самым
лемма доказана.
Лемма 16.2.3. Пусть Vk — последовательность плюрисубгармо-
плюрисубгармонических функций в С\ равномерно ограниченных, сверху на
каждом компактном множестве. Если предел v = lim Vk огра-
ограничен сверху во всем пространстве Сп, то v(г) = sup v для
почти всех z.
Доказательство. Если sup v = —оо, то доказывать нечего.
С другой стороны, если sup v > A > — оо, то из теоремы 4.1.9
вытекает, что существует такая подпоследовательность Vjk, что
lin\Vfk(z) > А при некотором z и последовательность vjk схо-
сходится в LJ0C. Предел определяется плюрисубгармонической
функцией К, для которой V(z)> А при некотором г. Ввиду того
что V постоянна по лемме 16.2.2, это неравенство справедливо
при всех г, а тогда по теореме 4.1.9
v (z) ^ lim vJk (z) = V (z) > А для почти всех z.
Лемма доказана.
Заметим, что точно такое же доказательство проходит в слу*
чае, когда k — вещественный параметр. Мы воспользуемся этим
обстоятельством для обобщения теоремы 16.1.8,

16.2. Плюрисубгармонические функции 367
Теорема 16.2.4. Пусть v удовлетворяет условию леммы 16.2.1,
и пусть функция Н определена равенствами A6.2.2), A6.2.3).
Если у ^йп,то для почти всех ^gC"
П6.2.4) lim \\v& + twy)/t - Н (lmwy)\dl(w) = Ol),
К — компактное подмножество в С
Доказательство. Можно считать, что Itnw ^ 0 в К. Если иеС°°,
то ясно, что функция
плюрисубгармоническая, так как оператор Лапласа вдоль каж-
каждой комплексной прямой можно внести под знак интеграла, и
потому после его применения мы получим неотрицательное рас-
распределение. Такое же заключение справедливо для произволь-
произвольной плюрисубгармонической функции v, ибо v является преде-
пределом убывающей последовательности плюрисубгармонических
функций класса С°°. По условию теоремы а(?;)^ #(Im ?) + Со.
Поэтому
vt(t>)<m(K)C0/t + \H(rllml+lmwy)dl(w)-+ \н (Im wy)dX(w)
к . к
при *-*оо. В силу леммы 16.2.3 существует такая постоянная Л,
что
Л^Н(у) J lmwdl(w), Пгп1;,(?)<Л,
к
причем для почти всех ? имеет место равенство. Когда функция
w-+v(t>-\-wy), 1тдо>0, не равна тождественно —оо, из тео-
теоремы 16.1.8 следует, что
\\mvt(l) = y(l)\ ImwdX(w),
к
где y(?) определяется в соответствии с A6.1.5). Положим
Im wdl(w);
к
тогда у^Н(у) и y(?)^Y пРи все* ? (с равенством для почти
всех ?). Следовательно,
v (? + wy) < М (Im I) -f у @ Im w < M (Im Q + ylmw, Im w
*) Здесь d\ обозначает обычную меру Лебега, мера Лебега компакта
ниже обозначена через т{К). — Прим. ред.

368 16. Уравнения в свертках
Поэтому M(ty)^: M@)-f yt. Отсюда вытекает, что уу
а значит, Н(у)=у. Теперь свойство A6.2.4) следует из A6.1.11),
если у(?)=Н(у), что и завершает доказательство.
Следствие 16.2.5. Если выполнены условия теоремы 16.2.4 и
В — шар в С пу то
A6.2.5) lim [[ \v& + twy)/t -- H {lmwy)\dk(w)d\(t) = O.
Доказательство. Мы можем заменить В на больший шар с цен-
центром в точке ?о, для которого справедливо A6.2.4). Поскольку
v (? + twy)/t — Н (Im wy) < М (Im g + Пт ад)// — Я (Im wy)
достаточно доказать, что
A6.2.6) Hm J J (о (S + toy)// — Н Aт ад)) Л (ш) dl (Q > 0.
Но функция v субгармоническая, поэтому частное от деления
двойного интеграла на объем шара В не меньше, чем
\ (v (go + twy)lt - Н (Im my)) dX (w).
к
Таким образом, A6.2.6) вытекает из A6.2.4).
Следствие 16.2.6. Если выполнены условия теоремы 16.2.4 и
В* — шары в С", центры которых фиксированы, а радиусы огра-
ограничены снизу положительной постоянной, то
A6.2.7) Hm m (ВТ
A6.2.8) lim т(В')~1Л\ \v& +twy)/1 — H(lmwy)\dk{w)db(Q
KXB*
< Tim 2m(В*)~{ \\ \ НAт?) \rxdX(w)dl(l).
Доказательство. Ввиду того что левая часть неравенства A6.2.7)
возрастает при возрастании радиуса шара В', оно вытекает из
следствия 16.2.5. Для того чтобы доказать A6.2.8), нужно лишь
снова заметить, что
v (? + /ад)// ~ Н(Im ад) < AJ (Im ?)//<C/t + H (Im?)//, -

16.3. Носитель и сингулярный носитель свертки 369
и, значит,
\v{?+ twy)/t — Н (lmwy)\
< 2( |С |// + | Я (Im С) 1/0 - (о (С + 'о*)/* - Я (Im
Поэтому неравенство A6.2.8) является следствием неравенства
A6.2.7).
Замечание. Если радиус шара В1 есть о(/), то правая часть
неравенства A6.2.8) равна нулю. Таким образом, функция v(t)
близка к ЯAт?;) в среднем, когда ? принадлежит малой кони-
конической окрестности множества
CRn = {Wy\ шеС, j/gR"}.
Однако вне такой окрестности это верно не всегда, как видно
на примере
i>ff) = |lm«?, ®U2)\,
или, если угодно, t; (S) = log | cos «?, С>1/2) I-
Приведем теперь утверждение, которое вытекает из след-
следствия 16.2.5 и окажется очень важным в § 16.3.
Теорема 16.2.7. Пусть и/, /=1,2,3, — такие плюрисубгармони-
ческие функции в Сп> что vz = v\ + V2 и
где Cf и А\— некоторые постоянные. Если Я/ являются опор-
опорными функциями для Vj, определенными согласно лемме 16.2.1,
то
Нъ = Hi + Н2.
Доказательство, Если i/gR", Б е LC\ w е С, Im w ^ 0, то
Im w (Я3 (у) - Н{ (у) - Н2 (у)) = Я3 (Im wy) - о8 (? + ^)/*
+ »! (? + twy)/t - Я! (Im wy)
+ v2 (S + /ад)// - Я2 (Im ад),
и нужное утверждение сразу вытекает из следствия 16.2.5.
16.3. Носитель и сингулярный носитель
свертки
Если и\ и U2 — произвольные распределения в Rn, одно из кото-
которых имеет компактный носитель, то выполнено довольно оче-
очевидное включение
A6.3.1) supp^ *и2)

370 16. Уравнения в свертках
(см. D.2.2)). В § 4.3 мы доказали значительно менее очевид-
очевидную теорему о носителях, которая утверждает, что если оба
распределения и\ и и2 имеют компактные носители, то
A6.3.2) ch supp (щ * и2) = ch supp щ + ch supp и2,
где ch обозначает выпуклую оболочку множества. Начнем этот
параграф с того, что приведем другое доказательство методами,
развитыми в § 16.2.
Лемма 16.3Л. Если и —мера с компактным носителем, то
где Со и С\— некоторые постоянные. Опорная функция множе-
множества supp и равна опорной функции плюрисубгармонической
функции log|#|, определенной в лемме 16.2.1.
Доказательство. По теореме 7.3.1
если еСо—полная масса меры иу а Н — опорная функция носи-
носителя supp и. Обратно, если такая оценка справедлива с опорной
функцией Н некоторого выпуклого множества К, то supp и а /С,
что и доказывает наше утверждение.
Теперь можно доказать равенство A6.3.2) следующим обра-
образом. Предположим сначала, что и/— меры, и положим иэ =
= ui*u2. Если Hj — опорная функция носителя и)у то, по лем-
лемме 16.3.1, Hj является опорной функцией для log|#/|. Но
3l = logi3, 14
поэтому из теоремы 16.2.7 вытекает, что /У3 = Н\ + И2у и тем
самым A6.3.2) доказано.
Для того чтобы перейти к общему случаю, возьмем функцию
феСо°°Р) с носителем в малой выпуклой окрестности К точ-
точки 0. Тогда ^/*феСо°» поэтому мы доказали, что
ch supp (u{ * <р) + ch supp (u2 * ф) = ch supp (u} * ф * u2 * ф)
= ch supp (щ * ф * ф) с ch supp Us + 2/C»
где включение следует из A6.3.1). Когда множество К сжима-
сжимается к началу координат, а ф->8, мы получаем отсюда
ch supp щ + ch supp u2 a ch supp иг.
Обратное включение вытекает из A6.3.1).
Аналог включения A6.3.1) справедлив и для сингулярных
носителей:
A6.3.3) sing supp {ux * и2) a sing supp ux + sing supp Wj

16.3. Носитель и сингулярный носитель свертки 371
(см. D.2.3)). В оставшейся части этого параграфа мы изучим
аналоги равенства A6.3.2). Это оказывается намного более
сложным. Причина в том, что особенности распределения u^.t§r
характеризуются поведением преобразования Фурье й на бес-
бесконечности в Rn, а оно сильно зависит от того, каким обра-
образом мы приближаемся к бесконечности.
Пусть и е <?' и \ вещественно. Введем плюрисубгармониче-
скую функцию от г:
A6.3.4) Lu(z, 6)-(log|a<6 + *logHDD/log|g|f Ш>2.
Если N — порядок распределения и, то по теореме 7.3.1 для
некоторых постоянных С, N и А имеет место неравенство
Это приводит к оценке
Поэтому функция Lu(z, I) ограничена сверху, когда ?->оо, a z
принадлежит произвольному компактному множеству и, кроме
того,
A6.3.5) fim Lu B, |) < А | Im z | + N.
По теореме 4.1.9 мы можем, следовательно, из каждой последо-
последовательности ?/->оо в Rn извлечь такую подпоследовательность
lik> что функции Lu(z, |/A) сходятся при А-^оо к плюрисубгар-
монической функции v, для которой имеется оценка v(z)^N -f-
+ А|1тг|. Если v конечна, то сходимость имеет место в про-
пространстве Lioc» а если v = — <х> тождественно, то сходимость
к —оо локально равномерна. Предел зависит только от класса
смежности распределения и в &' (Rn)/CT (R")> т. е. от особенно-
особенностей и. В самом деле, если а > v(z0), то
для всех г из некоторой окрестности точки г0 и всех больших k.
Если их е С~, то
для таких же г и достаточно больших k, откуда следует, что
lim
в окрестности точки 2о. Это доказывает утверждение.
Согласно лемме 16.2.1, с каждым пределом v ассоциирован
некоторый элемент множества 3@, состоящего из опорных функ-

372 16. Уравнения в свертках
ций компактных выпуклых множеств, включая пустое множе-
множество с опорной функцией —оо. Эта конструкция формализуется
в следующем определении, в котором мы одновременно рас-
рассматриваем несколько распределений, поскольку намереваемся
изучать распределения, удовлетворяющие соотношению и\*
*и2 = Из-
Определение 16.3.2. Пусть и\9 ..., uk^<?'. Обозначим через
Ж(ии ..., tik) множество таких элементов (Ль ..., hk)^3^kt
что существует последовательность |v-^o° в Rn, для которой
функция LUi(zy ?v) сходится к плюрисубгармонической функции
с опорной функцией А/ при /= 1, ..., k.
Мы увидим, что множество Ж (и) дает довольно точную ин-
информацию о singsuppw. Можно было бы определить и множе-
множество Ж\(и)у дающее информацию о WF(u), добавив в опреде-
определение 16.3.2 условие gv/|?v|-^?. Однако, чтобы не удлинять этот
параграф, мы оставим в стороне эти простые изменения.
Если / < kt то ясно, что множество Ж(и\, ..., uk) при от-
отбрасывании k — / последних компонент проектируется в множе-
множество <3^(«ь ..., Uj). Эта проекция сюрьективна:
Лемма 16.3.3. Если ии •••> uk^S' и (hu ..., hj)(=M(u\, ...
..., Uj) для некоторого j < ky то можно найти такие функции
hi+u •••> hki что (hu ..., hk)<=Ze{uu ..., uk).
Доказательство. Пусть ?v—такая последовательность, что ?v-^°o
и функции Lu.{zy |v) сходятся при v->oo к плюрисубгармони-
плюрисубгармонической функции с опорной функцией Ы для каждого / ^ /. Пе-
Переходя, если потребуется, к подпоследовательности, можно счи-
считать, что последовательности LU{(z, gv) сходятся и при / = / +
+ 1, ..., k. Если мы для этих индексов возьмем в качестве hi
опорные функции соответствующих пределов, то лемма будет
доказана.
Замечание. При работе с ультрафильтрами вместо последова-
последовательностей не нужно было бы брать k конечным. Так можно
определить множество Щ&') а Ж*, обладающее тем свой-
свойством, что его проекция, соответствующая координатам
мь ..., uk, совпадает с Ж(ии ..., uk). Можно рассматривать
множество Ж($') как компактификацию пространства R" на оо,
однако развитие этой темы увело бы нас слишком далеко в сто-
сторону.
Теорема 16.3.4. Если и^&' и Н обозначает опорную функцию
множества ch sing supp и, то
{16,3.6) И {%) = sup {h (|); h e= Ж (и)}.

16.3 Носитель и сингулярный носитель свертки 373
Доказательство. Если множество singsuppw пусто, т.е. и^С™9
то, как следует из G.3.3), Lu(z, |)->— °° ПРИ S"^°° равно-
равномерно на каждом компактном подмножестве в Сп. Поэтому
множество Ж {и) состоит лишь из функции —оо. Следовательно,
в этом случае теорема справедлива. Предположим теперь, что
множество singsuppw не пусто. Из G.3.9), а также из доказа-
доказательства неравенства A6.3.5) находим, что
A6.3.5)' Ш Lu(*> IXN+ НЦгпг).
Значит, h^H для любой функции Н^Ж(и). С другой сторо-
стороны, пусть —оофН'<=:Ж и H'^h для любой функции As
^Ж(и). Тогда мы утверждаем, что неравенство G.3.9) справед-
справедливо с заменой Н на Н\ a iV на Л^+ 1 (где N — порядок рас-
распределения и) и с подходящими постоянными Ст. Если это не
так, то для некоторого фиксированного т можно найти такую
последовательность ?v->-oo, что |ImE;v| ^ m log(|?v| + 1) и
Переходя к подпоследовательности, можно также предполагать,
что Lu(zt Re?v) сходится к плюрисубгармоническому пределу V.
Поскольку V ^ N в R", а опорная функция для V не превосхо-
превосходит Н\ мы получаем (см. лемму 16.2.1)
для всех z. Для больших значений v имеем оценку
|Irn?v|^(w + l)log|Re?v|i а из теоремы 4.1.9 вытекает, что
<W+l + tf'Umz) при |z|<m + l.
Если взять 2 = /Imgv/log|Regv|, то это даст нам оценку
что противоречит предположению. Следовательно, выполнено
неравенство G.3.9), в котором Н заменено на //'. Поэтому
Н ^ Н' и, значит, справедливо A6.3.6).
Вторую часть доказательства можно немного изменить и по
Ж {и) получить дополнительную информацию о singsuppw.
Этот результат, за исключением некоторых усовершенствова-
усовершенствований, в этой главе более не пригодится, однако мы приводим его
здесь ради полноты изложения.
Теорема 16.3.5. <Если и^&\ то singsuppw содержится в замы-
кании объединения всех выпуклых компактных множеств, опор»
ные функции которых; содержатся в Ж(\

374 16. Уравнения в свертках
Доказательство. Докажем сначала, что для каждого фиксиро-
фиксированного m найдется такая функция А^е <?#(«), что
A6.3.7) |u(| + ^<l?l"+IexpMIm?), ICKmloglU
при достаточно больших |g|. Докажем этот результат опять от
противного. Если утверждение не верно, то можно найти такую
последовательность ?/->оо, что для каждой функции Ae^()
A6.3.8) sup |й(Б/ + 0ПВ/ГЛГехр(-АAт0)>1.
|tl<mlog|6|
Это означает, что для каждой функции
sup Lu(z,li)
\z\ <m
Переходя к подпоследовательности, можно предполагать, что
Lu(Zylj) имеет плюрисубгармонический предел V. Если h —
опорная функция для I/, то, как и выше, получаем, что
По теореме 4.1.9 отсюда следует, что для больших значений /
), \z\<m,
а поскольку Ag^(m), это противоречие доказывает A6.3.7).
Для упрощения обозначений предположим теперь, что точ-
точка 0 находится на расстоянии ^ г > 0 от любого из выпуклых
множеств с опорной функцией из Ж {и), и докажем, что тогда
и ^ С°° в некоторой окрестности нуля. Сформулированное усло-
условие означает, что для каждой функции h^2f6(u) можно найти
такой вектор 8е R", |0|= 1, что Л@)^ — г, так как непересе-
непересекающиеся выпуклые множества могут быть разделены гипер-
гиперплоскостью. Чтобы завершить доказательство, мы должны лока-
локализовать вторую часть доказательства теоремы 7.3.8 таким об-
образом, чтобы вблизи I выйти в комплексную область в направ-
направлении 0, соответствующем опорной функции Л$ из A6.3.7).
Фиксируем малое е > 0. Метрика
медленно меняется в смысле определения 1.4.7. Из теоремы
1.4.10 следует, что можно найти соответствующее разбиение
единицы 1 = 2 <Pv B R"> Для которого
(i) существует фиксированная граница числа перекрываю-
перекрывающихся носителей;
(ii) II — Iv \l < * на suppqpv для подходящей точки ?v;
(ill) | D\41 < (СеI °', | a | < log C +1 |v |).

16.3. Носитель и сингулярный носитель свертки 375
Здесь мы воспользовались замечанием, сделанным после до-
доказательства теоремы 1.4.10, и выбрали d}-= A/2)logC + |?|)
при j <C logB -f |?|). При больших v выберем Av^<9^(w) таким
образом, чтобы неравенство A6.3.7) выполнялось при ? = ?v и
т = 2/е. Далее выберем 9vgR", |6v| = 1, так, что Av(Bv)^ —г.
Тогда и = X «v
wv (x) = Bn)"n \ el <*- *>cpv (l) й (I) d\.
Оценим функцию uv> сдвинув интегрирование в комплексную
область в направлении 6V. Для этого необходимо продолжить
функцию cpv в пространство С".
Так же как при доказательстве теоремы 8.4.8, положим
где kv есть наибольшее целое число, меньшее logC-j-|?v|)—1.
Напомним, что отсюда вытекает равенство
= У
или, если воспользоваться свойством (ш), неравенство
A6.3.9) | (ЭФ, (?)/<??, | < (С,в | Im ? | )*v/ftv!.
По формуле Стокса (или так же, как при доказательстве
(8.1.15))
иу (х) = BяГ" J е1 <*¦ 5+'*v9v/8> (<pvu) (I + ikjje) d\
Во втором интеграле оценим экспоненту величиной e]xv, а функ-
функцию u(l + itQv) величиной |gv|^+1 ехр(—/г), что возможно при
больших v в силу неравенства A6.3.7) с A = AV, поскольку
Av(8v)^—г. Из оценок A6.3.9) вытекает, что интеграл по /
ограничен умноженной на ||у|^+1 величиной
e~rtn dl/kyl = C2 BС{г/г)\
при условии что |x| < г/2, как мы и будем теперь предполагать.
В первом интеграле оценим функцию |cpv| величиной

376 16. Уравнения в свертках
Тогда для подынтегрального выражения получится оценка
если е достаточно мало. Собирая воедино полученные оценки,
находим, что при |дг| < г/2
I Hv W К Cs I gv Г+I fev fcr'V* + BC,e/rL
Если число е настолько мало, что г/Зе > М и 2С\г/г < ^~Л1, то
Поэтому ряд 2ttvW равномерно сходится при |х|<г/2. Диф-
Дифференцирование функции иУ приводит лишь к появлению мно-
множителя ?, поэтому для любого М
I Hatj (г\\<ГГ I * i^+l-^
Следовательно, при \x\<r/2 имеем wgC°°, что и завершает
доказательство.
Ясно, что множества опорных функций, введенные в опреде-
определении 16.3.2, содержат намного больше информации, чем только
информация о сингулярном носителе, поскольку они учитывают,
какие частоты приводят к особенностям. (Таким образом, дело
обстоит примерно так же, как с волновыми фронтами, и связь
между ними можно было бы развить дальше.) Поэтому в тер-
терминах величин, введенных в определении 16.3.2, можно дока-
доказать довольно точную теорему о сингулярных носителях свер-
сверток, из которой в дальнейшем будут получены более явные
частные случаи.
Теорема 16.3.6. Пусть и'р и"^<$\ /=1> •••> k. Тогда
(л;, л;', ..., л;, к^^ж^ <,..., <, <)}.
Доказательство. Пусть gv — такая последовательность в Rn, что
gv->oo и функции LUj{z, I) сходятся при /=1, ..., k, где
ut = u'j * и"% Обозначим пределы через Vj. Переходя к подпосле-
подпоследовательности, мы можем считать, что функции Lu'(z, ?v) и
Lu» (z, gv) также сходятся. Обозначим пределы через V] и V"\
тогда
Из теоремы 16.2.7 следует, что левая часть доказываемого ра-
равенства содержится в правой. Обратное включение устанавли-
устанавливается точно так же и предоставляется читателю.

16.3. Носитель и сингулярный носитель свертки 377
Прежде чем привести более слабые, но более полезные ва-
варианты теоремы 16.3.6, изучим сходимость функций Lu более
внимательно. Заметим сначала, что если ?, -> оо и Lu(zy ?/)-* К,
то каждый предел последовательности функций Lu(z, r\,) при
Л/ —• |;-= О (log | Е/1) и /->со отличается от V лишь сдвигом.
В самом деле, если (л/—?/)/log|E/|->9, то предел равен
V(z + Q). Чуть менее очевидный результат приведен в следую-
следующей лемме:
Лемма 16.3.7. Пусть и<=&', ?,->оо и Lu(-, ?/)-> 1/, где К —
плюрисубгармоническая функция с опорной функцией h\ тогда
существуют такие числа /?у-*оо и С, «/то если E={l^Rn',
11 —• I, \ < /?/ log | g/1 (Зля некоторого /}, го
Шп Lu(z,
Доказательство. Предположим, что Л# — оо; случай h =—оо
может быть рассмотрен точно так же. Пусть W — порядок рас-
распределения а. Тогда V(z)^. N-\-fi(lmz), а из теоремы 4.1.9
следует, что для каждого k можно найти такое целое /*, что.
Lu(z, lf)<N+l+h(lmz) при \z\<2k и / > jh.
Последовательность /* можно взять возрастающей. Если ввести
функцию, обратную к функции &->/*, то это означает, что
можно найти такую последовательность /?/, что /?;-^оо при
|->оо и
М*. lf)<N+l+h(lmz) при |г|<2Л,.
Последовательность R, можно выбрать так, что /?/log|?/| =
= о(||/|) при /->оо. При |E — ?/|</?/log|6/| положим 1 +
+ l|?| = li + Wj log\lj\ и для фиксированного г получим
при больших /. Отсюда вытекает наше утверждение с C=
Лемма 16.3.8. Пусть последовательности g/ a /?/ стремятся к оо
б R" и R+ соответственно, и положим Е ={l^Rn; |g — ?/|<
< Л/bgll/l (Эля некоторого /}. ГогсЭа существует такая функция
ае^Г'ПС0, «/го singsuppa= {0}, ифО и
A6.3.10) LM(z, g)-> — оо мри ?=гН->оо
равномерно на каждом компакте в Сп, в то время как некото-
некоторая подпоследовательность последовательности Lu(z,lj) сходит-
ся к нулю.
Доказательство. Пусть $Г — пространство Фреше всех таких
функций mgCq с носителем в единичном шаре, что и е

378 16. Уравнения в свертках
€=С°°(С{0}) и
для всех положительных целых Num. Ясно, что из последнего
условия вытекает A6.3.10). Пусть // — такая положительная по-
последовательность, что log ///log|li\->-0, но tj/(\og\lj\)n-+ оо
при /->оо. Положим
Докажем, что STq Ф ЗГ. Каждая функция и ^&~\STq удовлетво-
удовлетворяет необходимым требованиям. Ясно, что и&С1, поскольку из
условия и е С1 вытекало бы, что последовательность |g/| |й(?/) |
ограничена, и поэтому /у|й(|/) |-*0. Более того, условие
и ф #~\# влечет lim Lu @, ?/) ^ 0, и, значит, последователь-
последовательность Lu(z,lj) содержит подпоследовательность, предел кото-
которой — плюрисубгармоническая функция I/, такая что 1/@)^0.
Так как wgC°h sing supp и ={0}, то V ^ 0 всюду и, значит,
V = 0 по лемме 16.2.2.
Если бы пространство ЗГ^ совпадало с ST, мы бы имели зам-
замкнутое отображение
По теореме о замкнутом графике это отображение должно быть
непрерывным. Поэтому
A6.3.11) sup/,| Л(Б7)|<С (sup|а|+ Z sup|Daa|
с некоторыми постоянными N, m, N\9 С и для некоторого ком-
компактного множества /Сс:С{0}. Пусть X — такая выпуклая ок-
окрестность нуля, содержащаяся в единичном шаре, что X П К = 0,
и пусть феСГСДГ), Ф>0, [tydx—l. Определим функции щ е
&СТ(Х) равенством
Л/ @ — (¦ ((С — В/У*/))*'^
где kf — наибольшее целое число, меньшее log|?/|t а / велико.
(По существу, это та же конструкция, что и в доказательстве
теоремы 1.3.5.) Тогда
Левая часть неравенства A6.3.11) не меньше // при и = щ. По-
Поэтому лемма будет доказана, если мы покажем, что последова-
последовательность pN, т(и,) ограничена.

16.3. Носитель и сингулярный носитель свертки 379
Пусть |<??, ?€=?» и |С —?|<mlog|E|. Тогда |6 —g/|>
^ Ri 'og|gy| по определению множества Е. Если z =(? — ?/
то
где С, а также последующие постоянные зависят от т. Следо-
Следовательно,
111< С,е*/ A + k, | г |)< (С2 A + I г |))\
откуда вытекает, что |2|>/?;/2, если / велико. Так как
| Im z | = | Im ? ^>, < m (log ШР,,
то мы получаем еще неравенство
A6.3.12)
В целом мы нашли, чго
где z удовлетворяет неравенству A6.3.12) и |г|>/?//2. По-
Поскольку функция -ф быстро убывает в множестве, задаваемом
неравенством A6.3.12), мы заключаем, что pNf w(«/)-*0. Лемма
доказана.
Рассмотрим теперь ситуацию, когда свертка двух распреде-
распределений, не принадлежащих классу С°°, может дать С°°-функцию.
Теорема 16.3.9. Пусть и е &'. Следующие условия равносильны:
(i) -ooe^(w);
(ii) для каждой точки x^Rn можно найти такую функцию
w &&' (](С°\С1), что singsuppw ={*} и w*u& C°°;
(iii) существует такое распределение w e<S\ что ш«ие С00,
но w ф С°°.
Доказательство. (i)=^(ii) Можно считать, что д: = 0. Возьмем
такую последовательность |/->оо, что LU(-,S/)-^—оо, а затем
так же, как в лемме 16.3.7, выберем такое множество ?, что
Ьи(-Л)-+-—оо, если ?э^->оо. По лемме 16.3.8 можно найти
такую функцию w e С°\С1 с компактным носителем, что
sing supp w — {0} и Lw (•, Б)-* —оо при I ->¦ оо в СЕ. Следова-
Следовательно,
l) L( ) + Lw(-t |)->— со при |->оо,

380 16. Уравнения в свертках
и поэтому tt*aiGC°°. Импликация (ii)=>(iii) очевидна. Дока-
Докажем, что (iii)=^(i). Можно выбрать функцию Лда =т*= — <*> из
3fS(w) (теорема 16.3.4), а затем функцию hu гаким образом, что
(hUyhw)^2e(utw) (лемма 16.3.3). По теореме 16.3.6, hu + hw e
^2/6{u*w). Поэтому hu + hw = —oo и, значит, hu = — оо, от-
откуда вытекает свойство (i).
Условия, которые являются отрицанием условий теоремы
16.3.9, будут очень важны для дальнейшего:
Теорема 16.3.10. Пусть и е 8\ Следующие условия равно-
равносильны:
A) —оо<?Ж{и)\
(п) существует такая постоянная А > 0, что
sup{|fl(OI; ^Ctt, \Z-l\<
(iii) для каждого а > 0 существует такая постоянная А > 0,
зир{|Л(Б+т!)|; л^К*> 1лК
(iv) для каждого а > 0 существует такая постоянная А > 0,
(v) если w &:&' и отношение w/й есть аналитическая функ-
функция, то это отношение является преобразованием Фурье некото-
некоторого распределения из пространства <$'.
Доказательство. Очевидно, что (iii) =^(ii)=^(i). Импликация
(i)=Miv) вытекает из теоремы 4.1.9 а). Для доказательства
импликации (iv)=^(iii) предположим, что условие (iii) не вы-
выполнено. Это означает, что существует такая последовательность
|/->оо, что Lu(x, ?/)-*•—оо при |x|<Ca и вещественном х. Если
i/gR", to отсюда следует, что Lu{x + wy, ?/)-*¦—оо для всех
комплексных w, поскольку иначе, в силу предложения 16.1.2,
нашлась бы подпоследовательность, имеющая конечный верхний
предел для почти всех вещественных w. Следовательно,
Lu(z, ?/)->— оо при |г|<а, и, значит, условие (iv) не выпол-
выполнено.
Докажем теперь, что (iv)=^(v). Пусть F — целая функция,
равная w/й. Докажем следующие оценки:
A6.3.13) \F(Q\<CeAW9 ?е=Сл,
A6.3.14) \F($)\<C(l+\l\)N, ^eR",
AG.3.15) | F (l) \< С A + 1^ | )N eA'Im 11, g s C\

16.3. Носитель и сингулярный носитель свертки 381
По теореме 7.3.1 последняя оценка означает, что F есть пре-
преобразование Фурье — Лапласа распределения из <?>'.
Для доказательства оценки A6.3.13) воспользуемся тем, что
\й(Ъ) | <С ехр(Л |?| + С) для некоторых постоянных А и С. Мы
можем предположить, что й@)=7^=0. Среднее значение функции
log|tf| по шару |?| </? не меньше log|tf@)|, поэтому среднее
значение неотрицательной функции Л|?|-|-С — log|w(J;)| не
превосходит AR -f С—- log|w@) |. Отсюда следует, что среднее
значение функции |log|u(?)|| не превосходит 2(AR + C)—
— Iog|w@)|. Поэтому
sup log | F (S) I = О (/?),
так как функция log|/7(^)| ограничена средним значением
функции log|t&|— log|«| по шару радиуса R/2 с центром в точ-
точке ?. (Мы уже доказали классическую теорему Линделёфа, ко-
которая не зависит от условия (iv).)
Для доказательства оценки A6.3.14) воспользуемся усло-
условием (iv). Поскольку функция log|/^| субгармонична, для ее
оценки можно использовать свойство среднего значения. Если
т — объем шара радиуса а в О, то
m log |/Ч?) |< $ log\F(l+\\oe\lf)\dX(Q
\t\<a
ICKe
Поэтому log] F(|) | < N log| g| при некотором N, что и доказы-
доказывает A6.3.14). Для доказательства неравенства A6.3.15) необ-
необходим классический вариант принципа Фрагмена — Линделёфа.
Лемма 16.3.11. Пусть v — такая субгармоническая функция в С,
что v ^0 на R, v ^ С на положительной части мнимой оси и
0B)< С+ А\г\ при imz^zO. Тогда у(г)<0 при imz^zO.
Доказательство. Если г > 0, то субгармоническая функция
v (г) - е Re (г**
неположительна на положительной части вещественной оси1),
С на положительной части мнимой оси и стремится к —оо
') Ветв*> квадратного корня надо выбирать так, чтобы Re (ге
> 0 при г > 0. — Прим. ред.

382 16. Уравнения в свертках
при 2->оо в первом квадранте. Следовательно, в силу принципа
максимума эта функция ^С+ во всем первом квадранте, где
С+ = max (С, 0). При е -> 0 получаем, что v ^ C+ в первом квад-
квадранте. То же самое верно и во втором квадранте. Таким обра-
образом, субгармоническая функция
v (z) — е log | z + i\
стремится к —оо при г-^-оо в верхней полуплоскости и неполо-
неположительна на границе; поэтому она неположительна всюду в
верхней полуплоскости. Устремляя е к нулю, получаем, что
v <0.
Окончание доказательства теоремы 16.3.10. Для того чтобы вы-
вывести неравенство A6.3.5) из оценок A6.3.13) и A6.3.14), рас-
рассмотрим при. |, i]gR" субгармоническую в верхней полупло-
полуплоскости функцию
Для вещественных z из A6.3.14) следует, что у(г)^0, а на по-
положительной части мнимой оси в силу A6.3.13) имеем с/(г)^
^ Л|?|. Из A6.3.13) мы также получаем оценку общего харак-
характера, которая требуется в лемме 16.3.11, и тогда заключаем, что
v @^0- С точностью до постоянной это есть оценка A6.3.15).
Предположим, наконец, что справедливо условие (v). Пусть
Н — опорная функция носителя supp и, а В обозначает банахово
пространство целых функций F, таких что
Положим
По предположению [JEN — B. Поскольку каждое множество
EN замкнуто, выпукло и симметрично, по теореме Бэра EN при
некотором N является окрестностью нуля. Следовательно,
Если носитель распределения w g^ содержится в единичном
шаре и w*u^C, то по теореме Пэли — Винера — Шварца
|ri>(t)d(t)|<Ciexp(|Im?| + //(ImE)). Поэтому можно взять
Р = w и получить, что w (i) = О (|||v) при I ->¦ оо. Если w * и s
е С°°, то можно применить это рассуждение к производным
функции w и убедиться, что функция w быстро убывает и, сле-
следовательно, w^C™' Таким образом, условие (И) теоремы 16.3.9
не выполняется и, значит, в силу этой теоремы —оо^Ж{и).
Итак, мы установили, что (v)=^(i), а это завершает доказатель-
доказательство теоремы.

16.3. Носитель и сингулярный носитель свертки 383
Определение 16.3.12. Распределение и называется обратимым,
а функция п называется медленно убывающей, если выполнены
эквивалентные условия теоремы 16.3.10.
В § 16.5 мы увидим, что это свойство весьма существенно
при изучении неоднородных уравнений в свертках u*w = f.
Первым примером является условие (v) теоремы 16.3.10. Заме-
Заметим, что свойство обратимости распределения и зависит лишь
от класса смежности и в <$ /Со°. Вообще, если распределение и
обратимо, то существует такое Л/, что сумма и + v обратима для
каждого ugCo^ Последнее легко вытекает, например, из усло-
условия (и) теоремы 16.3.10.
Обсудим теперь включение, обратное к A6.3.3). В свете при-
применений к уравнениям в свертках естественно фиксировать одно
из распределений и\ или и*.
Теорема 16.3.13. Если и s g\ то для каждой функции ()
можно найти такое распределение w е <§' с singsupp w ={0},
что h является опорной функцией множества ch singsupp и * w.
Если К и К' — компактные выпуклые непустые множества с
опорными функциями Н и #', то импликация
A6.3.16) w^ <S\ sing supp a *w с:/Casing supple: /С'
имеет место тогда и только тогда, когда для любых
и Jce'R"
A6.3.17) h&) + (x, 6><//(?) при всех l<=Rn=>x<= К'.
В частности, отсюда следует, что —оо
Доказательство. Если Н^Ж(и), то можно выбрать такую по-
последовательность |/->-оо, что последовательность Lu(•,?/) имеет
предел с опорной функцией h. Тогда по леммам 16.3.7 и 16.3.8
можно выбрать окрестность Е последовательности ?/, такую что
llm Ltt(z, ?)<C + /i(Imz),
а также функцию w eff' (]С°9 такую что sing supp w ={0} и
fim ?ш(., |) = — оо,
но при этом некоторая подпоследовательность последователь-
последовательности Lw(»,g/) сходится к нулю. Отсюда вытекает, что множе-
множество 2H0(u*w) содержит наряду с h только опорные функции,
ограниченные функцией Л. Поэтому (теорема 16.3.4) множество
ch sing supp и * w имеет опорную функцию Л. Этим доказано пер-
первое утверждение. Если h(Q + <*, ?> ^ НЦ), то
¦;¦ " sing supp « *(w *бЛ) с:/С,

384 16. Уравнения в свертках
Поэтому A6.3.16) влечет A6.3.17). С другой стороны, предпо-
предположим, что условие A6.3.17) выполнено. Если hw^26{w), то
можно найти такую функцию h^2%(u), что (hWy h)^3$(w,u).
Следовательно, Иш + h e Ж(т * и) и, значит, hw + h ^ Я, если
sing supp и» w а К. Пусть hw — опорная функция компактного
выпуклого множества HjcgA; тогда
Л F) + <*. 6><ЛF) + Л
Поэтому условие A6.3.17) дает лее /С', и, значит, по теореме
16.3.4, sing supp w си К'.
Замечание. Пользуясь теоремой 16.3.5, мы получаем более силь-
сильный результат о том, что если sing supp и * w cz /С, то множество
sing supply содержится в замыкании множества таких точек
X, ЧТО
ЛF)+ (*.©< Я (Б). BeR",
для некоторой функции Л
Следствие 16.3.14. tff/сть и е <§Г7. Для того чтобы каждое рас*
пределение уе^' удовлетворяло условию
A6.3.18) ch sing supp (и * v) = ch sing supp и + eft sing supp о,
необходимо и достаточно, чтобы множество 9/6 (и) состояло лишь
из опорной функции множества sing supp и.
Доказательство. Можно выбрать такое распределение и, что
sing supp v ={0}, а опорной функцией левой части A6.3.18) яв-
является произвольная функция h^2@(u). Отсюда вытекает не-
необходимость. Достаточность является непосредственным след-
следствием теорем 16.3.6 и 16.3.4, а также леммы 16.3.3.
Следствие 16.3.15. Пусть распределение «е^' обратимо. Тогда
A6.3.19) ch sing supp v с: ch sing supp (и * v) — ch sing supp a,
Доказательство. Если h — опорная функция, отличная от —оо,и
то, поскольку Л (I) + h (—?) ^ А @) = 0, имеем
(?) +Л (_g).
Следовательно, если К' = К — ch sing supp a, то выполнено усло-
условие A6.3.17), и тем самым A6.3.19) доказано.
Приведем теперь несколько примеров.
Пример 16.3.16. Пусть дано распределение ифО и suppu «{О},
Тогда пределами функций LM(-,?) при ?-*оо могут быть лишь

16.3. Носитель и сингулярный носитель свертки 385
постоянные из промежутка [О, N], где N — порядок распределе-
распределения и. Таким образом, все опорные функции из множества 3@(и)
равны нулю.
Доказательство. Ввиду того что й — полином степени N, по фор-
формуле Тейлора
ut \t\)
где рь — такой полином степени Л/, что ? | Dap^ @) | = 1, и
Очевидно, что (log|p^|)/log|g|-^0 при ?-><х>, откуда и следует
наше утверждение.
Заметим, что «локализации на бесконечности», используемые
в этом параграфе, настолько грубее введенных в § 10.2, что вся
информация о полиноме, за исключением его степени, стирается.
Следующий результат позволяет нам изучать более общие
примеры.
Предложение 16.3.17. Пусть распределения и\, ..., и* е <§Г
имеют непересекающиеся сингулярные носители и u
Тогда из включения
(ft, Alf ..., hk)^Ze(u, щ, ..., uk)
вытекает, что ft = supft/. Кроме того,
A6.3.20) Ж (и) = {sup ft,; (hlt ..., hk)<=Z6{uu ..., uk)}.
Доказательство. Выберем такую последовательность ?v -> оо, что
функции LUj('> Ы и Lu(-j Ы сходятся к плюрисубгармониче-
ским функциям ft, и h соответственно. По леммам 16.3.7 и 16.3.8
можно тогда найти такое распределение ше<§Г, что
sing supp&y={0}, а множества ch sing supp Uj*w и
ch sing supp и * w имеют опорные функции ft/ и ft. (См. первую
часть доказательства теоремы 16.3.13.) Поскольку u*w =
= X Uj * w и множества sing supp «/*шс sing supp щ попарно
не пересекаются, то множество ch sing supp (u*w) является вы-
выпуклой оболочкой множеств ch sing supp Uf * w. Следовательно,
ft = sup ft/. Это доказывает первую часть утверждения, а ра-
венство A6.3.20) вытекает из леммы 16.3.3.
Следствие 16.3.18. Если Н —опорная функция замкнутой вы-
выпуклой оболочки множества изолированных точек, принадлежа-
принадлежащих носителю supp и, то Н ^ h для каждой функции А е^(и).

386 16. Уравнения в свертках
Доказательство. Если х — изолированная точка носителя и, то
и = Ul -(- и2у где и\% «2 ^ <?' и supp и\ ={а}, в то время как мно-
множество singsupp«2 не содержит точку х. Из предложения 16.3.17
и примера 16.3.16 следует, что <*, ?> ^ /г(Eh поэтому Н ^ Л.
Следствие 16.3.18, в частности, показывает, что множество
Ж {и) содержит лишь опорную функцию множества ей supp и,
при условии что носитель распределения и конечен.
Пример 16.3.19. Для каждого выпуклого компактного множе-
множества К можно найти гакую меру и, что supp и с: К и опорная
функция множества К является единственным элементом в
Ж{и). В самом деле, пусть я — наименьшая аффинная гипер-
гиперплоскость, содержащая К\ выберем такую последовательность
точек X], лежащих во внутренности компакта К относительно
я, что множество предельных точек этой последовательности в
точности совпадает с множеством точек границы компакта К
относительно я. Тогда в силу следствия 16.3.18 распределение
u=Ya 2~/8jC/ обладает необходимым свойством.
С другой стороны, следующая теорема показывает, что
A6.3.18) не выполнено для некоторых распределений, имеющих
очень простую структуру особенностей.
Теорема 16.3.20. Пусть X — ограниченное открытое выпуклое
множество с С°°-границей дХ, имеющей строго положительную
кривизну. Для I e Sn~l обозначим через D% отрезок прямой,
соединяющий две точки границы дХ, в которых вектор | нор-
нормален к дХ. Если и = adS, где а — положительная С°°-функция,
a dS — элемент площади на дХ, то Ж (и) состоит из опорных
функций интервалов D%.
Доказательство. Рассмотрим сначала часть поверхности, кото-
которую можно представить в виде
и предположим, что v есть С^-плотность a{x')dx' на этой по-
поверхности Тогда
и предполо,
верхности. Тогда
= \
Если z ограничено, то
\ои (х') 15 г' <<*'¦ *'>+*1х>) *«> I <; са 11Г Ira *'>+im''Im г» dogj ИI e'.

16.3. Носитель и сингулярный носитель свертки 3&7
Поэтому из теоремы 7.7.1 следует, что функцию t)(| + z '°g|?l)
можно оценить через любую степень 1/|?|, если |?,z|sup|\|/| <
<|?'|/2. Предположим теперь, что
Ввиду того что функция г|э строго выпукла, уравнение для на-
нахождения критической точки
имеет не более одного решения Jt'esupp а и это решение должно
быть однородной функцией от | степени 0. Пусть Г — открытый
конус, такой что существует решение, для которого |а(*')|>
> с> 0 при |еГ. Тогда по теореме 7.7.6
t (g + z log 111) = | det (lnV (х')/2л) fU2e± ni{n~m
где x' — x'(Q. При ^оо в конусе Г и Б/|Е|-*6о имеем
log I v (I + z log | \ |) |/log 111 + (n - 1 )/2 -^ (x' (lo), Im ^)
где Л — опорная функция точки, в которой вектор ?0 является
нормалью к поверхности.
Для доказательства теоремы нужно вычислить предел функ-
функции Lu(z, I) при ?->оо и ?/|||-*Бо. Для этого разобьем плот-
плотность и в сумму^м = и\ + и2 + иг, где «i и и2 имеют непересекаю-
непересекающиеся носители и могут быть представлены точно так же, как
это сделано выше для плотности v, а вектор ?0 не является нор-
нормалью к dX в точках носителя supp иъ. Тогда функция г2з(Е +
+ 2log|?|) быстро убывает при ?->оо в конической окрестно-
окрестности точки ?о, так что функции Lu(z, I) и LMl+M,(z, I) имеют оди-
одинаковые пределы. В силу предложения 16.3.17 каждая опорная
функция предела функции Lu при g-^oo в направлении ?0 имеет,
следовательно, вид тах(АьЛ2), где А/ — опорные функции, соот-
соответствующие пределам LU/(z, |). Таким образом, h, есть опор-
опорная функция точки, в которой go есть нормаль к поверхности
дХ, что и доказывает теорему.
Замечание. Используя аналогичное разбиение произвольного
распределения и е &\ легко видеть, что для каждой опорной
функции ЛбЖ'(м) существует такой вектор ^eRrt\{0}, что
к ^ #?, если И% — опорная функция выпуклой оболочки множе-

38$ IB Уравнения в свертках
ства
Это было бы также совсем очевидно, если бы мы ввели микро-
микролокальную форму множеств Ж (и).
16.4. Аппроксимационная теорема
Пусть 0=т*= \х €= <§f'(Rn), и пусть X —открытое выпуклое множе-
множество в R". Если mgC°°(X), to свертка pi*w определена в от-
открытом множестве
A6.4.1) Х11 = {х\х — у^Х при /yesuppM-}.
Мы будем изучать множество N^(X) = {u е С°°(Х); ц*ц =
= 0 в Х,л}. Оно является замкнутым линейным подпростран-
подпространством пространства СЭО(А') и совпадает с С°°(Х) в случае, когда
Хц пусто.
Через ?ц обозначим множество всех линейных комбинаций
экспоненциальных решений уравнения |а*и = 0в Rn, т. е. ре-
решений вида
где ? е Сп, а / — полином. Поскольку
уравнение \i*(feu*•t>) = 0 эквивалентно уравнению
Обозначим fa) — daf; тогда по формуле Лейбница
/(а) (?>)?(?) = 0 для всех а.
В частности, точка Е; должна быть нулем функции ft.
Главным результатом этого параграфа является следующая
Теорема 16.4.1. Если X — открытое выпуклое множество, то су-
сужения на X элементов из Еп плотны в Nu(X) в топологии, ин-
индуцированной топологией пространства С°°(Х).
Частным случаем этой теоремы является теорема 7.3.6, и ме-
метод доказательства в основном тот же. По теореме Хана — Ба-
Банаха утверждение теоремы эквивалентно тому, что каждый эле-
элемент vg^(I), ортогональный к Е^, ортогонален также и к
Nn(X). Первым шагом доказательства является следующая
Лемма 16.4.2. Распределение v ^ &' ортогонально к ?ц тогда и
только тогда, когда v(?)= F(X>)V> (— ?), где F—-целая аналити-
аналитическая функция.

16.4. Аппроксимационная теорема 389
Доказательство. Здесь проходит то же доказательство, что и
в случае леммы 7.3.7, за исключением того, что возможно, по-
потребуется изменять вектор 0. Он выбирается так, чтобы доказа-
доказательство проводилось, как и раньше, в окрестности данной точ-
точки. Мы предоставляем читателю пересмотреть доказательство.
Доказательство теоремы 16.4.1, при условии что распределение
fi обратимо. В этом случае с небольшими изменениями еще при-
применимо доказательство теоремы 7.3.6. В самом деле, из усло-
условия (v) теоремы 16.3.10 следует, что F = d, гдеае^'. По тео-
теореме о носителях
ch supp v = ch supp a — ch supp \i.
Поэтому ch supp а с: Х^. Поскольку v = a * p,, имеем
v (и) = v * и @) = 6 * \i * и @) = о (|х * и)
при ueC°°(Rrt) и, следовательно, при wgC°°(I), ибо играют
роль лишь сужения функций и на компактные подмножества
в X. Если ц*ц = 0 в Хц, то v(u) = 0, и теорема доказана.
Для доказательства теоремы в общем случае мы сначала
должны изучить оценки для функции F> которые вытекают из
результатов § 16.2, хотя функция F и слишком быстро растет
в йпУ чтобы быть преобразованием Фурье какого-нибудь рас-
распределения.
Лемма 16.4.3. Пусть vj, j = 1, 2, 3, — плюрисубгармонические
функции в С", не равные тождественно —оо, и пусть из = v\ +
+ ^2. Предположим, что функции v\ и из удовлетворяют усло-
условию A6.2.1), и обозначим их опорные функции через Hi и Я3.
Тогда их разность Я2 = Н3 — Н\ является опорной функцией
и для каждого е > 0 существует такая постоянная Се, что
A6.4.2) v2 (z) < #2 (Im z) + e | z \ + C8.
Доказательство. Если jg'R", to из неравенства A6.2.8), при-
примененного к функциям v\ и Уз, следует, что
"Шп/лф'Г1 [\ \v2(t + twy)ft-H2(lmwy)\dk(w)db®9
t->00 J J 4.
кхв*
JJ (If
KXB*
Здесь в качестве К может быть взято произвольное компактное
множество в С;, ? в качестве Bf мы выбираем шар |?| < 26/, где
б > 0. В этом случае в правой части неравенства среднее зна-
значение не зависит от t Для всякого наперед заданного w0 с

390 16. Уравнения в свертках
|шо|=1 в качестве К можно взять диск с центром в точке wq
и малым положительным радиусом е. По свойству среднего
значения
Щ (? + woty)/t — #2 (Im woy)
<\\(v2(?' + wty)/t- Я2(Im woy))dX&')dX(w)/M>
где интеграл берется по множеству, в котором |?'— ?|<б/,
до е К, а М есть мера этого множества. Обозначим через А по-
постоянную Липшица функции Н2\ тогда
#2 (Im woy)> #2(Im wy) — Аг\у\,
и можно оценить сумму |//i(Im g) | + |//3(Im S) | через В\%\. Это
приведет к оценке
A6.4.3) lim sup
Поскольку параметр г не входит в левую часть, мы можем в
правой части устремить е к нулю. Если в A6.4.3) взять ? = tzy
то
с некоторыми постоянными С\ и С2. Еще проще вытекает это не-
неравенство из доказательства неравенства A6.3.13). Таким об-
образом, v2(tz)/t ^ Ci\z\+ С2 при / > 1.
Пусть tf — такая последовательность, что tf ->¦ +°° при / -> с»
и последовательность
имеет плюрисубгармонический предел V. Тогда из оценки
A6.4.3) следует, что
A6.4.4) sup
|6
Поэтому
V(z)^Cl\zl esC1; V(wy)<H2(lmwy), y^Rn, w<=C.
В частности, V ^ 0 в Rn, а из неравенства A6.4.4) вытекает
оценка V(x + ity)^H2(ty)+ C\x\ для вещественных х, у и t.
Применив теперь лемму 16.3.11 к субгармонической функции
С э w -> V (х + ад) — Im ш#2 (У)*
получим, что V(x + wy)—1тшЯ2((/Х0. Значит,
A6.4.5) V (z) < Я2 (Im z), г е Сп.
Из неравенства A6.4.5) находим, что опорная функция А функ-
функции V определена и не превосходит Я2. Пусть ЯбЖ — точная

16.4. Аппроксимационная теорема 391
верхняя грань опорных функций всех пределов, полученных та-
таким образом. Тогда Я ^ Я2 и
A6.4.5/ K(z)<#(Imz).
Если е > 0, то для достаточно больших значений t
A6.4.6) v2 (tz)/t < Я (Im z) + e, | z | < 1,
поскольку иначе неравенство A6.4.6) было бы неверно для не-
некоторой последовательности tj-+oo. Переходя к подпоследова-
подпоследовательности, можно считать, что последовательность v2(tjz)/tj
имеет плюрисубгармонический предел V. По теореме 4.1.9, а
также ввиду того, что функция V удовлетворяет неравенству
A6.4.5) ^, мы приходим к противоречию.
Неравенство A6.4.6) можно записать в эквивалентной форме
A6.4.6/ v2 (z)< Я (Im z) + е | z |, \г\> Се.
Поэтому i>3(z)<#i(Imz)+Ci + #(Imz)+e|z|, |z|>Ce. По-
Поскольку Vz(x)^: С3 при #е Rn, применение леммы 16.3.11 к суб-
субгармонической функции
С =э ш-> vz (х + ту) — Im оу (Нх {у) + Н (у) + е | у \)
дает
для каждого г > 0. Таким образом, Я3 ^ Н\ + Я, т. е. Н ^ Я2.
Значит, функция Н2 = Н является опорной функцией. Доказа-
Доказательство завершено.
Доказательство теоремы 16.4.1 в общем случае. Предположим
снова, что распределение vg^(Z) ортогонально к ?ц. Тогда
по лемме 16.4.2
Возьмем ф ^ Со° и умножим обе части равенства на ф(?). Тогда
можно применить лемму 16.4.3, в которой
vi @ = log | ф (Q Д (- 0 I, v2 @ = log\F @ |,
»s @ = log | Ф (С) ^ (С) I-
Если Яь Я3 и Я — опорные функции множеств c/isuppji,
c/isuppv и ch Биррф, то из теоремы о носителях и леммы 16.3.1
следует, что Н-\-Нъ и Н-\-Н\ являются опорными функциями
для и3 и v\. Поэтому
Н2 = Нз~{- Н — (Я! + Я) = Яз — Я)
есть опорная функция, и для каждого е > 0 существует такая
постоянная Се, что
A6.4.7) | F (?) | < Се ехр (Я2 (Im 0 + в | g |).

392 16. Уравнения в свертках
Как и при доказательстве теоремы 16.4.1 в случае обратимого
распределения ц, мы видим, что #2 является опорной функцией
компактного множества /Сг с= Х^
A6.4.8) К2 + ch supp ji = cfi supp vcl
Из теоремы 15.1.5 вытекает, что F есть преобразование
Фурье — Лапласа аналитического функционала а с носителем
в /С2. Если и — целая аналитическая функция, то
A6.4.9) v(u) = o(\x*u).
Достаточно проверить это равенство аналитических функциона-
функционалов в случае, когда и = е-Нх& . Тогда левая часть равна v(?),
а ]х*и ==Д(—t)u, поэтому правая часть равна Д (-—?)^(?)> от-
откуда следует равенство A6.4.9). Мы утверждаем, что оно ос-
остается справедливым, когда и е Со\ а свертка \i*u аналитична
в окрестности множества /С2. Для доказательства этого факта
положим tij = и*?"/, где
Тогда tif-+u в С°° при /->оо, щ — целые аналитические функ-
функции и, как видно из доказательства предложения 9.1.2, последо-
последовательность
\х * Uj = Ef * (\х * и)
равномерно сходится к jx * и в комплексной окрестности множе-
множества /С2. Так как A6.4.9) справедливо для функций щ, то,
устремляя / к оо, получаем, что оно справедливо и для и.
Предположим теперь, что и е С°°(Х) и |ы * и = 0 в Х^. Выбе-
Выберем функцию х^СоЧХ), равную 1 в окрестности множества
/Сг — supp A, и положим v = %u. Тогда v е Со° и |ц * t; = 0 в ок-
окрестности множества /С2. Следовательно, можно применить
A6.4.9) к функции у, что дает
v (и) = v (о) = 0.
Это завершает доказательство теоремы.
Следствие 16.4.4. Если X — открытое выпуклое множество в Rn9
а \х — такое распределение с компактным носителем, что множе-
множество {х}—suppji не содержится в X ни для какого х> то экспо-
экспоненциальные решения уравнения \х * и = 0 плотны в С°° (X).
Методы, развитые в этом параграфе, позволяют также дока-
доказать теорему существования для произвольного распределения
Теорема 16.4.6. Если множество X выпукло и О^^еЙ", то
уравнение \i*u = f имеет решение и^С°°(X) для каждой ве-
вещественно аналитической в Х^ функции /.

16.4. Аппроксимационная теорема 393
Доказательство, Выберем последовательность открытых выпук-
выпуклых множеств Xх <ш X2 <ш ..., объединение которых равно X,
и положим xl = {x\ {х} — supp \ха Xf). Тогда
Утверждение теоремы 16.4.5 будет доказано, если для каждого
/ мы найдем такую функцию щ е С°°(РЛ), что \i*uf = f в xl*
В самом деле, поскольку |ы * (и] — и^х) = 0 в Xl~~\ по теореме
16.4.1 можно из функции U] вычесть элемент множества ?и, сде-
сделав разность щ — iij-\ малой в Х!~2У скажем
\Da(uj-uJ_l)\<2-1 в X1 при |а|</.
Это гарантирует нам существование предела lim и\ = и е С°°(Х).
Ясно, что [i*u = / в Х^. (Ср. с доказательством теоремы 10.6.7.)
Уравнение ji* и = / в х(х означает, что
/(ф) = О* • м)(ф) = и(Д *ф) для фЕ С~(Xi),
поэтому для построения решения и по теореме Хана — Банаха
достаточно доказать непрерывность отображения
ft * ф -> / (ф)
в топологии пространства $', Выберем функцию ф ^ Сс°> не рав-
равную тождественно нулю. Докажем, что
A6.4.10)
Временно допуская справедливость этой оценки, мы заключаем
по теореме Хана — Банаха, что существует такая функция v e
€ L°°(Rn), что
f (ф) = J v(jx *ф*ф)rfjc, феСГ D)•
Если a = y*ijj» то f = [i*u в ^, а поскольку и^С°°, суще-
существование решения и/ доказано. (Заметим, что
поэтому нетрудно было бы найти решение и во всяком неквази-
аналитическом классе С°°-функций.)
Чтобы доказать неравенство A6.4.10), положим М =
= || ji * ф * *ф ||L, и при Ф = ф получим
A6.4.11) 1А(-5)Ф(?)*@1<А1ехр(ЯAте) + Я/AтС)),
где Н и Hf — опорные функции множеств ch supp ji*\|) и Xl со-
соответственно. По лемме 16.4.3 для каждой целой функции Ф,
13 Зак. 64

894 16. Уравнения в свертках
удовлетворяющей неравенству A6.4.11), и произвольного е>0
имеем
A6.4.12) |Ф@КСф,еехр(Я/Aта) + е|а).
Пусть К — выпуклая компактная окрестность множества Х^ в
С", содержащаяся в множестве, в котором функция / анали-
тична. По предложению 9.1.2 компакт К можно выбрать таким,
что функция / есть равномерный предел целых функций на К.
Из неравенства A6.4.12) и теоремы 15.1.5 теперь вытекает, что
функция Ф является преобразованием Фурье — Лапласа анали-
аналитического функционала v, для которого supp v c= X^. Таким об-
образом, с некоторой постоянной С, зависящей от Ф,
A6.4.13) |0(F)j<Csup|F(«)|
к
для каждой целой аналитической функции F.
Пусть В — банахово пространство целых функций Ф, удовлет-
удовлетворяющих неравенству A6.4.11), в котором норма функции Ф
определяется как наименьшая постоянная М, которая может
быть использована в неравенстве A6.4.11). Множество Вс всех
таких ФеВ, что Ф (?)=#(?), где и есть некоторый аналити-
аналитический функционал, удовлетворяющий неравенству A6.4.13),
для каждого С является замкнутым выпуклым и симметричным
подмножеством. Ввиду того что объединение множеств Вс равно
В, получаем, что 0 — внутренняя точка множества Вс при неко-
некотором С. Поэтому если F — целая функция, то из неравенства
A6.4.11) следует, что
A6.4.13/ | v (F) |< CM sup | F (г) |,
к
где й = Ф, а С— постоянная, не зависящая от Ф. В частности,
| Ф (F) |<С'М sup Ш
к
когда F — целая функция, а значит, и когда F = f, поскольку
функция / может быть аппроксимирована целыми функциями
равномерно на /С. Это завершает доказательство неравенства
A6.4.10), а с ним и георемы.
Если взята функция \х из некоторого неквазианалитического
класса С°°-функций, инвариантного относительно дифференци-
дифференцирования, то уравнение \i*u = f может иметь решение лишь в
том случае, когда функция f принадлежит тому же классу. Пе-
Пересечение всех таких классов есть класс аналитических функ-
функций (Bang [1]; см. также Boman [1]), поэтому в теореме 16.4.5
условие аналитичности функции f нельзя опустить, если нет
никаких условий на \х. Как уже отмечалось в процессе доказа-

16.5. Неоднородное уравнение в свертках 395
тельства, можно было бы получить решение в неквазианалити-
ческом классе функций, однако даже для дифференциальных
операторов не всегда возможно найти аналитическое решение
(см. примечания).
16.5. Неоднородное уравнение в свертках
Пусть |л e<?T(Rn), и пусть Хи Х2— такие два непустых откры-
открытых подмножества в R", что
A6.5.1) Х2 - supp \i с Хх.
Тогда если u^2D'(X\), то свертка \i*u корректно определена
как распределение из <Ю'(Х2). Мы будем изучать задачу о суще-
существовании решений неоднородного уравнения в свертках
A6.5.2) |а*м = /
с заданным распределением f^3)'(X2). Приводимые здесь ре-
результаты обобщают соответствующие результаты § 10.6 и 10.7,
касающиеся дифференциальных уравнений. В тех случаях, когда
доказательства будут почти одинаковыми, мы предоставим их
читателю. Вместе с тем первое приведенное ниже необходимое
условие не возникло для дифференциальных операторов:
Теорема 16.5.1. Если уравнение A6.5.2) имеет решение и^
eiZ)'(Xi) для каждой функции /^Co°(Z2)> то М< обратимо (оп-
(определение 16.3.12).
Доказательство. Если v eCo°(Z2), to в силу A6.5.2)
A6.5.3)
Мы утверждаем, что для каждого компактного подмножества
К2 в Х2 существуют такие постоянные С и N, что
A6.5.4)
Для доказательства A6.5.4) обозначим через F множество
Со°(^2) с топологией, определяемой полунормами /->•
-> sup|Z)af|, а через V — множество С™ (К2) с топологией, опре-
определяемой полунормами c;->sup|Z)P(i* v\. Оба этих простран-
пространства метризуемы, а F полно. Более того, билинейная форма
\ fv dx на F X V очевидным образом непрерывна по f, когда
функция v фиксирована. Поскольку уравнение A6.5.2) по пред-
13*

396 16. Уравнения в свертках
положению имеет решение для каждой функции /, из неравен-
неравенства A6.5.3) следует, что билинейная форма непрерывна также
и по v при фиксированной функции Д Следовательно, эта би-
билинейная форма непрерывна1), что в точности означает спра-
справедливость неравенства A6.5.4).
Пусть Хо — внутренняя точка множества К2- По теореме
16.3.9 достаточно доказать, что если ше^Г/(Рл), sing supp w =
= {xo} и ji *w e C°°, то w e C°°. Для этого мы можем предпо-
предположить, что supp w содержится во внутренности множества К2.
Пусть функция % е С~ (R") неотрицательна, \ % dx = 1 и %6 (х) =
= б-лх(*/б). Для малых б имеем vt = w * Xe e Co° (/С2) и
sup | z/ji * уб | ^ sup | ?>3 (|х * w) 1 < оо.
Пусть у — произвольный мультииндекс. Применяя неравенство
A6.5.4) к функции D^v6i при малых б получаем
|а|<ЛГ
где последняя оценка вытекает из леммы 7.6.3 (см. определение
7.9.1). Поэтому
| (/, Dyw) | < С; || f \\{N+ny f e С (К2).
Заменяя / на -ф/, где ty^C™(K2) и -ф = 1 в окрестности носи-
носителя w, мы заключаем, что эта оценка верна для всех функций
/е^. Поэтому D^w ^ Н(-ы-.П) для каждого мультииндекса у.
Следовательно, w e С°° по лемме 10.7.7. Доказательство завер-
завершено.
Если носитель функции / в правой части уравнения в сверт-
свертках не компактен, причем / может быстро расти вблизи гра-
границы, то требуются дополнительные условия.
Теорема 16.5.2. Предположим, что уравнение A6.5.2) имеет ре-
решение и eiZ)'(Xi) для каждой функции /е С°°(Х2). Тогда для
каждого компактного множества KiCzXi можно найти такое
компактное множество /(гс:^, что если v^C™(X2) и supp jl *
* v cz /Сь то supp v с /С2.
Доказательство. Можно воспользоваться в сущности таким же
рассуждением, как в начале доказательства теоремы 16.5.1. Од-
*) Если Z7, V — метризуемые топологические векторные пространства,
причем F полно, и G—произвольное топологическое векторное пространство,
то всякое раздельно непрерывное билинейное отображение fX V-*G непре-
непрерывно (см. Schaefer [1], гл. III, § 5). — Прим. ред.

16.5. Неоднородное уравнение в свертках 397
нако теперь в качестве F мы возьмем пространство Фреше
С°°(Х2) с топологией, задаваемой полунормами /—>sup |/)а/|,
Кг
где К2— компактное подмножество в Х2у а в качестве V рас-
рассмотрим множество функций tiGCo°(Jf2)» Для которых supp (i *
* v cz K\; полунормы те же, что и раньше. Дальнейшее рассуж-
рассуждение параллельно доказательству теоремы 10.6.6, и мы предо-
предоставляем его читателю.
Предложение 16-5.3. Необходимое условие в теореме 16.5.2 рав-
равносильно условию
.A6.5.5) d (supp v, СХ2) = d (supp (x * v, CX{), v<=8' (X2).
Здесь d(A,B)= ini{\x — y\\ xg^i/gB}.
Доказательство. Достаточно повторить доказательство теоремы
10.6.3, в котором ссылку на теорему 7.3.2 нужно заменить ссыл-
ссылкой на теорему о носителях.
Определение 16.5.4. Пара открытых множеств (ХиХ2), удовлет-
удовлетворяющая условию A6.5.1), называется (i-выпуклой для носи-
носителей, если выполняется условие A6.5.5), или, что эквивалентно,
необходимое условие разрешимости из теоремы 16.5.2.
С помощью регуляризации легко получить, что нет разницы
между выполнением A6.5.5) для всех v^& (Х2) или для всех
dgC (Х2).
Пример 16.5.5. Если множество Х{ выпукло и Х2={х\{х)—
—suppiiCiXi}, то Х2 выпукло, и из теоремы о носителях выте-
вытекает, что пара (Хи Х2) является (х-выпуклой для носителей. Ока-
Оказывается, множество Х2 должно обязательно быть именно та-
таким:
Предложение 16.5.6. Если пара множеств (Х\,Х2) является
^-выпуклой для носителей, то Х2 есть объединение связных
компонент множеств Y ={х\ {х}— supp jx а Х\}.
Доказательство. Множество Х2 замкнуто в У, поскольку если
^э^^хеУ, то supp ji * 6^ при всех k содержится в ком-
компактном подмножестве множества Х\. Поэтому точка xk =
= supp6^^ принадлежит компактному подмножеству множества
Х2 для всех k. Значит, оно должно содержать и точку х.
Теорема 10.6.4 и следствие 10.6.5 имеют очевидные аналоги
для уравнений в свертках, формулировку и доказательство ко-
которых мы предоставляем читателю. Следующее утверждение яв-
является усиленным вариантом результата, обратного к теоремам
16.5.1 и 16.5.2.

398 16. Уравнения в свертках
Теорема 16.5.7. Следующие условия на распределение |i е <!Г'('РЛ)
и открытые множества Х\, Х2, для которых справедливо вклю-
включение A6.5.1), равносильны:
(i) Уравнение A6.5.2) имеет решение we С°°(Х\) для каж-
каждой функции f е С°° (Х2).
(ii) Уравнение A6.5.2) имеет решение и е ?)'(Х}) для каж-
каждой функции f e С°°(Х2).
(iii) Распределение \i обратимо, а пара (Х\>Х2) является
\х-выпуклой для носителей.
Доказательство. Импликация (i)=^(ii) очевидна, a ()()
вытекает из теорем 16.5.1 и 16.5.2. Доказательство импликации
(iii)=^(i) не будет основано на том же методе, что и доказа-
доказательство следствия 10.6.8. Вместо этого мы воспользуемся сле-
следующими основными фактами теории двойственности про-
пространств Фреше.
Лемма 16.5.8. Пусть Е и F — пространства Фреше, Т — непре-
непрерывное линейное отображение Е в F. Отображение Т сюръек-
тивно тогда и только тогда, когда сопряженное отображение
Г* из F' в Ег инъективно и его образ слабо* замкнут в Ег.
Лемма 16.5.9. Пусть Е — пространство Фреше и Ef — дуальное
пространство-, линейное подмножество М пространства Е'
слабо* замкнуто тогда и только тогда, когда пересечение MflU0
слабо* замкнуто для любой окрестности U нуля в Е. Здесь 0° —
поляра множества U, т. е.
U° = {у; у<=Е', \ (х, у)|< 1 для любого х е ?/},
где (-, •}— каноническая билинейная форма в ЕУ^Е'.
По поводу доказательства см., например, Schaefer [1, гл. IV,
6.4 и 7.7].
Окончание доказательства теоремы 16.5.7. Применим лемму
16.5.8, положив Е = СОО{Х\), F = С°°(Х2) и 7* = ц#. Тогда ото-
отображение Т*\ &'(Х2)-+<? (Хх) является сверткой с ji и потому
инъективно. Пусть U — окрестность нуля в С°°(Х\). Мы можем
предполагать, что она имеет вид
еС°°№); С ? sup|DaX|<l),
1а|<ЛГ *' j
где С, N — постоянные, а К\ — компактное подмножество мно-
множества Х\. Тогда Ц° есть множество всех ^<=&'(Х\), для ко-
которых
A6.5.6) Жх)КС Z supf?>ax|, xeC

16.5. Неоднородное уравнение в свертках 399
Таким образом, supp г|) cz /(ь когда \|) е Ц°. Если г|)е(У°П
П(м< **?'№)), то \15 = |1*ф для некоторого cp^S>/(X2)i а из
условия |д-выпуклости для носителей вытекает, что supp qp cz К2
для некоторого фиксированного компактного множества K2czX2,
Более того, из A6.5.6) следует, что
A6.5.7) ^(OKC^l+Urexp^.dm^); ф е= ?/°, ?e=Cft.
Далее, как видно из доказательства импликации (iv)=^(v)
в теореме 16.3.10 (или начала доказательства (v)=^(i)), суще-
существует такая постоянная М, что для целой аналитической функ-
функции F
Отсюда следует, что множество
ограничено в 2)'м+п+\^ а поскольку supp ф cz:/С2 при фбФ, то
множество Ф относительно слабо* компактно в &"(Х2).
Но отображение
слабо* непрерывно, а множество U° слабо* замкнуто. Поэтому
множество Ф слабо* замкнуто и, значит, слабо* компактно. От-
Отсюда вытекает, что множество ji *ф = Ц° (](jl *&*'(Х2)) слабо*
компактно. Доказательство завершается ссылкой на лемму
16.5.9.
Далее рассмотрим уравнение A6.5.2) в случае, когда / — рас-
распределение. Так как теоремы существования уже доказаны в
С°°-случае, мы достигнем общности и ясности, работая так же,
как в § 10.7, по модулю С°°-функций. Сначала заметим, что если
|ie^T/(R/l) и Хи Х2 — открытые множества в Rn> для которых
A6.5.1O Х2 — sing supp \i cz X{,
то свертка с \х индуцирует линейное отображение
&>'{Xi)/C0O(Xi)-+-&)'(X2)/C0O(X2). В самом деле, для всякой
компактной окрестности К множества sing supp jli можно найти
распределение v е &' (К), для которого \i — v e C°°. Если
u^SD'(X\), то свертка v*a определена в множестве {х\ {х} —
— /CczXi}, которое содержит всякое компактное подмножество
из Х2, когда К близко к sing supp |ы. Если и^З)'(Х\),то свертка
v#u может быть определена на всяком относительно компакт-
компактном открытом подмножестве в Х2, и по модулю С°° она не за-
зависит от выбора распределения v. Если и е С00, то свертка при-
принадлежит классу С°° и, следовательно, зависит лишь от a mod С00,

400 16. Уравнения в свертках
Мы будем обозначать ее через (л*. Если «g2)'(X/), to через
обозначается класс смежности и в факторпространстве
Теорема 16.5.10. Если уравнение
A6.5.2)' [i*slu
имеет решение «еФ'^) для каждого распределения fe
е 2D'(X2), то \i обратимо.
Доказательство. Если ц не обратимо, то можно найти распреде-
распределение v^.8', для которого singsupp v = {0} и |л*иеС°°.
В силу свойства ассоциативности обычной свертки и уравнения
A6.5.2)' получаем
я * s2f = (v * \х) * SiU = 0.
Следовательно, уравнение A6.5.2)' не может быть решено, если
не выполнено равенство v*s2f = 0; последнее не верно, напри-
например, когда /—мера Дирака в некоторой точке множества Х2.
Теорема 16.5.11. Предположим, что
[х * (ЗУ (ХХ)/(Г (Х{)) = 2У (Х2)/С°° (Х2).
Тогда для каждого компактного множества К\ а Х\ найдется
такое компактное множество К2 с: Х2, что если v e &' (Х2) и
sing supp pi * v cz /Сь то sing supp v cz K2.
Доказательство этого факта настолько близко к доказатель-
доказательству теоремы 10.7.6, чго мы предоставляем его читателю.
Предложение 16.5.12. Из необходимого условия, указанного
в теореме 16.5.11, вытекает, что распределение \х обратимо. Это
условие для обратимого \i равносильно тому, что
16.5.5)' d (sing supp v, CX2) = d (sing supp \i * v,
Доказательство. Первое утверждение следует из теоремы 16.3.9.
С другой стороны, если распределение |ы обратимо, то по след-
следствию 16.3.15 множество sing supp v содержится в некотором
фиксированном компактном подмножестве в R", если только
этим свойством обладает множество singsupp ji*v. Далее без
всяких изменений проходит доказательство теоремы 10.7.3.
Определение 16.5.13. Пара открытых множеств (Х\,Х2), удов-
удовлетворяющая условию A6.5.1O, называется |ы-выпуклой для син-
сингулярных носителей, если выполнено условие A6.5.5)' или, что
эквивалентно, необходимое условие, указанное в теореме 16.5.11.

16.5. Неоднородное уравнение в свертках 401
Теорема 10.7.4 и следствие 10.7.5 имеют очевидные аналоги
для уравнений в свертках, формулировку и доказательство ко-
которых мы предоставляем читателю Аналог примера 16.5.5 не-
несколько сложнее:
Предложение 16.5.14. Если Х\ и Х2— выпуклые множества,удов-
множества,удовлетворяющие условию A6.5.1)', и распределение ц обратимого
пара множеств (Х\, Х2) является \х-выпуклой для сингулярных
носителей тогда и только тогда, когда множество Х2 содержит
каждую такую точку xeRn, что {х}—KczX{ для некоторого
компактного выпуклого множества К с опорной функцией
Ц«)
Доказательство, а) Необходимость. Пусть К\ — настолько боль-
большое выпуклое компактное подмножество в Х\, что включение,
{а:}—singsupp [ic /Ci имеет место для некоторой точки х^Х2.
В силу ц-выпуклости для сингулярных носителей существует
такое компактное множество К2аХ2у что
singsupp v cz /B при ое^Щ и singsupp ji * v cz /Ct.
Тогда из первой части теоремы 16.3.13 вытекает, что множество
К2 должно содержать каждую точку х^Х2у такую что {х} —
— /Ccz/Ci, поскольку гогда можно найти распределение v, для
которого sing supp v = {а:} и sing supp ji # v cz{x}—К. Следова-
Следовательно, выпуклое компактное множество
{х е R"; {*}-/(<= Кх)
содержится в /С2, так как в него входят некоторые точки из Х2.
В случае когда компакт К\ возрастает к Х\9 включение {а:} —
— К cz Х\ влечет х е Х2.
Ъ) Достаточность. Если К\ — компактное выпуклое подмно-
подмножество в Х\у то
К2 = ch {x\ {х} — К с: К\ для некоторого выпуклого компакт-
компактного К с опорной функцией Нк^Ж(\х)}
есть ограниченное выпуклое множество и d(K2i CX2) ^ d(K\9
СХ\). Из теоремы 16.3.13 следует, что
v^<8' (X2)y sing supp [i * v cz K{ =>- sing supp v cz fB.
Это завершает доказательство.
Следствие 16.5.15. Если Х{ и Х% — открытые выпуклые множе-
множества, удовлетворяющие условию A6.5.1)', и множество 36 (\х) со-
состоит лишь из опорной функции множества ch sing supp \i, то
пара (Х[у Х2) тогда и только тогда ^-выпукла для сингулярных
носителей, когда Х2={х; {х}—sing supp jn cz X{}.
Здесь и ниже молчаливо предполагается, что ju ф С°°. В ча-
частности, можно взять Х\ = X2 — ch sing supp fx для всякого от-

402 16. Уравнения в свертках
крытого выпуклого множества Х2. Если множество М(\л) содер-
содержит несколько элементов, то это невозможно:
Предложение 16.5.16. Если Х\ и Х2 — открытые выпуклые мно-
множества, удовлетворяющие условию A6.5.1)', причем пара
(Х\, X2) является \х-выпуклой для сингулярных носителей, и если
g — вектор внешней нормали для Х2 в дифференцируемой точке,
то h(—I) не зависит от h 3@()
Доказательство. Пусть Н — опорная функция множества К =
= ch sing supp \i. Утверждение состоит в том, что h(—?) =
= Н(—?) для каждой функции /ig^([i). Пусть х^дХ2 —
дифференцируемая точка границы с вектором внешней нормали
?, так что
(х' — х, ^)<0 для каждого xr e Х2-
Тогда {а:}—КаХи но множество {х}—К не содержится в Х\.
Пусть у — такая точка компакта /С, что х — у^дХ\, Если ц —
вектор внешней нормали к опорной плоскости множества дХ\
в точке х — у, то
(х' — у', Ч><<* — У* Ч> при /еХ2 и */'<=/(.
Взяв у' = у, мы заключаем, что <#', ц} ^ (х, т)> при х' ее Х2, а
поскольку граница дХ2 дифференцируема в точке х, отсюда сле-
следует, что вектор т] отличается от g лишь положительным мно-
множителем. Поэтому можно считать, что т] = ?. При х' = х мы по-
получаем </,Ч><<^-5> »ри l/'e/С, т. е. //(—?)=<#,—?>.
Пусть & — произвольное выпуклое компактное множество с
опорной функцией Hk = h s 2ё(\х).Тогда из предложения 16.5.14
вытекает, что множество {х}—k не содержится целиком в Хи
поскольку тогда точка х не была бы граничной точкой множе-
множества Х2. Но ka К, так что в силу только что доказанного мно-
множество k должно содержать точку у, для которой (у, —?> =
= Н(—1). Следовательно, А(_|) = //(—?), откуда следует
наше утверждение.
Предложение 16.5.17. Пусть Х2 — открытое выпуклое множество,
не равное Rn, a \x e S'. Предположим, что h(—|) не зависит от
h^3@([i), если I — вектор внешней нормали множества Х2
в произвольной дифференцируемой точке границы. Положим
Хх = Х2 — ch sing supp |л. Тогда пара множеств (Хи Х2) яв-
является \х-выпуклой для сингулярных носителей.
Доказательство. Поскольку множество дифференцируемых точек
плотно в дХ2, из условий вытекает, что Х2 является внутрен-
внутренностью пересечения таких полупространств Х= {х; <х, ?> < с},
что h(—Ъ) не зависит от к^Ж(\к). Согласно аналогу теоремы

16.5.* Неоднородное уравнение в свертках 403
10.7.4, в таком случае достаточно доказать предложение при
Х2 = X. Но тогда оно является непосредственным следствием
предложения 16.5.14.
Следующий результат является обращением теорем 16.5.10
и 16.5.11:
Теорема 16.5.18. Предположим, что \i^ S>/(Rn) обратимо, a Xi»
Х2 — открытые множества в Rn> удовлетворяющие условию
A6-.5.1)', причем пара (Х\, Х2) является ^.-выпуклой для сингу-
сингулярных носителей. Тогда
\х * (g/ (ХХ)/(Г (X,)) = Я/ (Х2)/С~ (Х2).
Доказательство. Здесь применимо доказательство теоремы
10.7.8 с незначительными изменениями. Пусть сначала /С/ — воз-
возрастающая последовательность компактных множеств в Хи
\\ f(l = Х{ я Ко = 0- Определим для каждого / такое компакт-
компактное множество /C^cz Xr что
ug^' (X2)t sing supp ji * v cr K i =>¦ sing supp v cz /f/
и К!} лежит во внутренности компакта /C/+1. Если Х2 — supp fi с:
cz X\t то можно повторить доказательство теоремы 10.7.8, заме-
заменив всюду оператор Р(—D) на \х*. В противном случае пусть
1 = Zx/ — разбиение единицы в Х2. Для каждого / можно
найти такое распределение \ij, что \ij — \i^C™ и носитель
supp \ij настолько близок к sing supp §х, что supp х/ — supp ji/ cz X\.
Тогда определено отображение
Т: С (Х2) =>v->Zfri* Ш е СГ №),
а его сопряженное
& (Х{) =>и-+%%; (lif *и)<=®' (Х2)
индуцирует отображение 2)'{Xx)/C°°(Xx)-+g)'(X2)/С°°(Х2), ко-
которое мы обозначили через \л*. Теперь может быть повторено
доказательство теоремы 10.7.8 с заменой оператора Р(—D) на
Т. Мы предоставляем читателю восполнить детали.
Следствие 16.5.19. Пусть Хх и Х2 — такие открытые множества в
Rn, что выполнено условие A6.5.1). Тогда ii*3)'(Xi) = 3)'(X2)
в том и только том случае, когда (распределение \х обратимо и)
пара множеств (Хи Х2) является \х-выпуклой как для носите-
носителей, так и для сингулярных носителей.
В заключение рассмотрим уравнение A6.5.2) в случае, когда
f — распределение конечного порядка. Как обычно, будем писать

404 16. Уравнения в свертках
Лемма 16.5.20. Если f^2)'m(X2), то найдется такое распределе-
распределение g<=±2)'^{Rn)y что f — gt=C°°{X2).
Доказательство. С помощью разбиения единицы можно запи-
записать /=Z//> где \l^<$/m(X2), а носители распределений //
локально конечны в Х2. Выберем xeCo°(Rft), \%dx=l, и по-
положим Хя{х) = 6~п%(х/д). Тогда //* %б ^ С~ (Аг2) для малых 6, и
если фЕСо"!^), то
(// - // * Хб) (Ф) = ff (Ф - Хб * ф)>
Z 8ир|?а(<р-?б*фI<С6 Z sup | ?)аф |-
| а|<т | а| < т-И
В самом деле, достаточно проверить это при а=0, а в этом
случае это простое следствие теоремы о среднем значении (см.
доказательство теоремы 1.3.2). Отсюда вытекает, что
? sup|Da<p|.
Выберем такую последовательность чисел 6/-^0, что ?)С fit < °°
и носители сверток f} * %6. локально конечны в Х2. Тогда суммы
Yj fj> * Хб и 2 (// — f/ * Хв/) сходятся соответственно в простран-
пространствах С°°(Х2) и 2>/т+1(Рл), что и доказывает лемму.
Теорема 16.5.21. Если распределение \х обратимо и пара мно-
множеств (Xi, X2) является \у-выпуклой для носителей, то уравнение
jx*w = / имеет решение и^@)г{Х\) для каждого элемента /е
Доказательство. Это утверждение является простым следствием
леммы 16.5.20, теоремы 16.5.7 и теоремы 16.5.18, которая при-
применима в Rn в силу предложения 16.5.14.
Решение, полученное в теореме 16.5.21, имеет конечный по-
порядок во всяком ограниченном подмножестве из Хх. Следова-
Следовательно, если множество Хх ограничено, то решение принадле-
принадлежит 2D'F(X^. Однако в общем случае вопрос о том, можно ли
найти распределение и конечного порядка, требует дальнейшего
изучения. Рассмотрим теперь наиболее ограничительный случай,
когда Хх = Х2 = Rn.
Теорема 16.5.22. Пусть уравнение jx*a = S имеет решение и&
е 3)'m(Rn). Тогда если А > т и е > 0, то
A6.5.8) Hm|g
где Б, ч е R^ °°

16.5. Неоднородное уравнение в свертках 405
Доказательство. Поскольку и(|5,*ф) = ф@) присреС^0, по усло-
условию теоремы для каждого компактного множества К имеем
A6.5.9) |<р@)|<Ск ? sup|Da?*cp|
|a|<m
Воспользуемся теперь построением, приведенным в доказатель-
доказательстве леммы 16.3.8. Выберем четную неотрицательную функцию
ф G Со°°, ф@)=1, и положим
Когда отношение N/t ограничено, носитель функции ф лежит в
фиксированном компактном множестве и
Bя)" Ф @) = \ ф (x\lt)N dx\ = tn J ф (л)" tf Л > с (t/VN)n
при больших Л^, поскольку функция ф вещественна и при доста-
достаточно малых т] имеет место неравенство ф(т])^ехр(—Ci|t]|2).
Для того чтобы оценить правую часть неравенства A6.5.9), вос-
воспользуемся тем, что
где М — порядок распределения ц, а также неравенством
(|?1Х(|11ШA1). Так как
где 0 < у = inf — log | ф (ц) |, то
|Л|>1
A6.5.10) (//л/АО" < С/л+да {A + I Б I )m sup |A(ч-S)l
Выберем t = elog|?| и N = [y~l(M + m+ l)log|g|]. Тогда отно-
отношение N/t ограничено при ?->оо, и левая часть неравенства
A6.5.10) стремится к бесконечности, тогда как последнее сла-
слагаемое в правой части стремится к нулю. Поэтому при больших |
-gH |T|l<elog|g|}f
и доказательство завершено.

406 16. Уравнения в свертках
Перед тем как доказывать обратное утверждение, придадим
неравенству A6.5.8) другой вид, сходный с условием (iv) в тео-
теореме 16.3.10.
Лемма 16.5.23. Если неравенство A6.5.8) выполнено для каж-
каждого 8>0«М — порядок распределения jn, то
A6.5.11) Шпг(В6Г{ \
<2М + Л + 2С6,
где В6= {? ^ Сл; | ? | < 6} и |а:|^С при
Доказательство. При больших значениях |?| в шаре {?} +
+ (\og\l\)B6 имеет место оценка log|jlx| < Со + Щ + ^Jlogl^j,
Поэтому в таком шаре
Поскольку
отсюда следует, что
I + Ce)log|E|)-loglAF)|.
Для каждого большого | можно найти такое |', что
| и \Ш\>с\1'ГЛ-
Если мы возьмем е<6 и применим предыдущий результат, за-
заменив б на е + S, a g на g', то увидим, что левая часть неравен-
неравенства A6.5.11) оценивается величиной
Устремляя е к нулю, получим A6.5.11).
Лемма 16.5.24. Пусть неравенство A6.5.8) выполнено для каж-
каждого е > 0, К — компактное множество, a k — целое число,
k ^ 0; тогда
A6.5.12) 1<р1*<С|**Ф1*+т. феСгЧ*).
где пг>-п + 2М-\- А, М — порядок распределения ц. Здесь
Е зир|/>вф|.

16.5. Неоднородное уравнение в свертках 407
Доказательство. Если ||l*(p|fc+m = l, то с некоторыми постоян-
постоянными Со, С\, зависящими от множества /С, при г|) = |1*ф имеем
В обозначениях леммы 16.5.23 получаем отсюда
< (d6 — Л — /n) log (| g | + 2) + С2.
3 силу A6.5.11) заключаем, что
log| ф(Е) | < m (ВЛ)-! J log| фF + С log A6 | + 2)) |?/Л ft)
й — т + 2М + Л + 2С6) log (| ? | + 2) + С3.
Поскольку —k — га + 2М + ^ < —Л — я, то для некоторого
В < —& — п, выбрав б достаточно малым, получим
Следовательно, |cpU^ С, что и доказывает лемму.
Определение 16.5.25. Функция ji называется очень медленно убы-
убывающей, если неравенство A6.5.8) справедливо для некоторого
числа А при всех е > 0, или, что эквивалентно, неравенство
A6.5.11) справедливо для всех б > 0.
Замечание. Как легко видеть, это определение означает, что все
плюрисубгармонические пределы функций L^z, g) при g->oo
имеют общую нижнюю грань в Rn.
Теорема 16.5.26. Если \л^&\ \л — очень медленно убывающая
функция, а пара множеств (Хи Х2) является ^-выпуклой для
носителей, то уравнение \i*u = f имеет решение и г ЗУР{Х^)для
каждого f e ЗУр (Х2).
Доказательство. В силу леммы 16.5.20 и теоремы 16.5.7 доста-
достаточно доказать теорему при Х\ = Х2 = Rn. Пусть К/ — возра-
возрастающая последовательность компактных множеств, объедине-
объединение которых равно Rn, и пусть множества К] выбраны так, что
v e <Sr, supp ft * v a Kj => supp v cz K'r
Можно считать, что каждое множество К\ содержится во внут-
внутренности компакта K'f+r Пусть число m выбрано так же, как
в лемме 16.6.24/ и / &3)'k\ мы докажем, что
A6.5.13) ()

408 16. Уравнения в свертках
где q имеет вид
A6.5.14) <7(<р)= ? supaa(x)\Da<v(x)\
||< +k+l
m+k+l
с подходящими положительными липшицевыми функциями аа.
Применяя теорему Хана — Банаха к отображению ft *ф->/(ф),
мы убедимся, что существует линейная форма и на Co°(Rrt), для
которой
0)
и
Это означает, что mg2)' «+*+i и ц * и = /.
Для того чтобы доказать неравенство A6.5.13), достаточно
показать, что оценка A6.5.13) справедлива для всехф^С^ (/С/),
а при е > 0 остается справедливой и для всех функций ф ^
^Co°(/e/+i)> если функции аа умножить на A + е) и доста-
достаточно сильно увеличить вне /C/_i. Если бы это было не так, то
нашлась бы такая последовательность функций фл, ^ С^° (/C/+i)>
что
A6.5.25) |/(<pv)|=l+e, <7№*<pv)<l, ji*<Vv-+O
в Cm+fc+1(C*,_i).
Из леммы 16.5.24 вытекает, что последовательность фv ограни-
ограничена в Со + 1 (/С/-ы)- Поэтому по теореме Асколи она относи-
относительно компактна в С§ (/С/+0- Пусть она сходится и ф0 — ее
предел в Со {K'j+i)- Тогда ft * ф0 = 0 в С/Cy-i и, значит, supp ф0 cz
cz/Cy-i. Поскольку f е ^)/Аг, мы получаем |/(ф0) | = Нт|/(фу) | =
= 1+е.
Возьмем такую функцию х s Co° (R1*) с носителем в единич-
единичном шаре, что х^О и \%dx=l. Пусть %ъ(х)=6-п%(х/6).
Тогда ф0 * Хб — Со° (/С/) при малых 6 и
/ (Фо * 5Сб) -> / (Фо) при 6->0,
поскольку фо^Со и f ^ 2) . Если точка а: принадлежит неко-
некоторому компактному множеству, то аа(х + у)/аа(х) ^ 1 + Сб,
| у | < б. Следовательно, q (ft * фу * Хв) ^ 1 + Сб и
Q (ft * Фо * 5Сб)
так кaкft*фo*Xб есть предел последовательности м>*фУ*Хв в
Со°. Для достаточно малых значений б отсюда вытекает, что не-
неравенство A6.5.13) не выполнено при ф = фо *Хб е С~ (/С/)- Это
противоречит нашему предположению и завершает доказатель-
доказательство теоремы.

16.6. Гипоэллиптические уравнения в свертках 409
16.6. Гипоэллиптические уравнения в свертках
В этом параграфе будут получены результаты о гладкости ре-
решений уравнений в свертках, аналогичные соответствующим ре-
результатам, доказанным для дифференциальных операторов в
гл. И.
Теорема 16.6.1. Если каждое распределение u^3)f(Rn)y удов-
удовлетворяющее уравнению в свертках \х * и = 0, принадлежит про-
пространству C°°(Rn)t то
A6.6.1) | Im? |/log |?|->оо при ?-><х>
на поверхности jx(?;) = O.
Доказательство. Допустим, что существует последовательность
?/->оо, для которой |Ct(ь/) = 0 и |Im ?/| ^ M log|?/|. Тогда если
? |Я/1< °°> то ряд
5>у <'>
сходится в 2D'(Rn) и \х*и = 0. Сходимость в Ж)' вытекает из
того, что для ф е СГ последовательность ф(—?/) ограничена.
(См. теорему 7.3.1, а также обсуждение равенства G.3.14).)
Отображение а-+и непрерывно как отображение из Iх в про-
пространство 3)\ рассматриваемое со слабой топологией. Если все
такие решения принадлежат классу С°°, то отсюда следует, что
имеется замкнутое, а потому непрерывное отображение /1->С°°.
Поэтому
X |а|?
что равносильно ограниченности последовательности |5/|. Это
противоречит предположению о том, что ?/->-оо. Теорема до-
доказана.
Следствие 16.6.2. Пусть Хи Х2> X — непустые открытые подмно-
подмножества в Rnt для которых
Х2 ~ sing supp \x cz X{, X c= Xu
и предположим, что из условий и^З)'{Х{) и \i*s\u=0 в
2)'(Х2)/СОО(Х2) вытекает включение uz=C°°(X). Тогда распре-
распределение \х обратимо и справедливо условие A6.6.1).
Доказательство. Это утверждение следует из теорем 16.3.9 и
16.6.1.
В случае когда выполнено условие A6.6.1), плюрисубгармо-
ническая функция Lu(zt ?), заданная равенством A6.3.4), плю-
ригармонична в каждом компактном подмножестве простран-

410 16. Уравнения в свертках
ства Сп при достаточно больших ?. Ввиду того что функция
Ьц{',1) ограничена в ?}ОС(СП) в случае обратимого распреде-
распределения ц, мы получаем равномерную оценку для величины
iLp,@,1) |. Если Н — опорная функция множества c/i sing supp \x
и N — порядок распределения ц, то пределами функций ?д(-,?)
являются такие плюригармонические функции V, что
где А — некоторая постоянная. Применим теорему Лиувилля к
гармонической функции ш->- V(?> + wr\)\ получим, что функция
V линейна, т. е.
V (z) = Im <а, г) + Ь.
Здесь а ^ sing supp \i по теореме 16.3.13, а множество singsupp \i
совпадает с замыканием множества точек а, которые встреча-
встречаются в каких-либо пределах V (теорема 16.3.5). Так как
—А < b < N, то
- V (г) = Im (а, - z) - Ь < И (- Im z) + A,
а поскольку функция —^w(-, l) (суб)гармонична, из теоремы
4.1.9 следует, что в каждом компактном множестве из Сл при
достаточно большом |?| имеет место оценка
Поэтому нами доказана следующая
Лемма 16.6.3. Пусть распределение \х обратимо и удовлетворяет
условию A6.6.1), Н—опорная функция множества ch singsupp \i.
Тогда существуют постоянная В и последовательность постоян-
постоянных Cm, m = 1, 2, ..., такие что для каждого пг
A6.6.2) |1/?(?Ж№я<-1т?> при |Im?|<mloglU |?|>Cm.
Очевидно, что и обратно, если выполнено условие A6.6.2),
то распределение \х обратимо и удовлетворяет A6.6.1).
Определение 16.6.4. Будем говорить, что распределение \х гипо-
эллиптическое, если оно обратимо и удовлетворяет условию
A6.6.1), или, что эквивалентно, если выполнено условие A6.6.2).
Теорема 16.6.5. Следующие условия на распределение \i^&'( Rn)
равносильны:
(i) «g2)'(Rb), ii*u<=C°°{Rn) влекут */<=O(R'1);
(ii) jx гипоэллиптическое;
(iii) существует такое распределение F {параметрикс), что
\i*F — 6gC°° и
ch sing supp F a — ch sing supp \i;

16.6. Гипоэллиптические уравнения в свертках 411
(iv) существует параметрикс F&&"\
(v) существует параметрикс F е <?\ для которого
sing supp F = —sing supp \i;
(vi) существует фундаментальное решение Е (т. е. Е ^
^2)'(Rn) и jn*? = 8), такое что sing supp ? = — sing supp \i\
(vii) если X — открытое множество в Rn9 X-\- sing supp \i a
a X2 и X2 — sing supp \i cz X\, где множества Хи Х2 также от-
открыты в Rn, и если распределение и^2)'(Х{) имеет образ s\u
в S>/{Xl)/Coo(Xi)9 для которого [L*SiU=Q в ?>'(Х2) / С°° (Х2), то
CI)
Доказательство. Согласно следствию 16.6.2, (i)=^(ii). Для до-
доказательства того, что (ii)=^(iii), применим лемму 16.6.3 и по-
положим
F (Ф) = Bп)~п . J (ф ( - у/А (Б)) dt, Ф е Со00.
I
Тогда Fe^ и преобразование Фурье от F равно 1/ji при
|||>Ci и нулю при Ш^Сь Поэтому
И • /? _ 6 = - Bя) ~п J
\1\<Сх
Если ф^Со00, то
J F) в'<*
Как и при доказательстве теоремы 7.3.8 (с заменой G.3.9) на
A6.6.2)), область интегрирования вне некоторого компактного
множества можно деформировать в цикл
Гч: l-+W = l + Wog(l+\lf).
Поскольку интеграл по компактному множеству дает лишь
С°°-член, мы, как и при доказательстве теоремы 7.3.8, заклю-
заключаем, что множество sing supp F содержится в множестве с опор-
опорной функцией Я, т. е. в множестве —ch sing supp \i. Чтобы полу-
получить (iii)=^(iv), достаточно заменить параметрикс F в условии
(ш) на %/% где % е Со°, % = 1 в окрестности множества
sing supp F. Очевидно, что (iv)=>(i), поскольку u = F*[i*u-\-
+ (б — F*|i)* ae C°°. Таким образом, условия (i) — (iv) равно-
равносильны.
(iv)=>-(v) Так как F* \х = б + ф, г|? е С?, из теоремы 16.3.6
и леммы 16.3.3 следует, что для каждой функции h^3@(F) най-
найдется такая функция h'e3№([i), что А + Л'=О. ?ак было по-
показано выше, А/(т]) = <а, rj> для некоторого а е sing supp ji. По-
Поэтому А(г]) = <—а, т]>, и по теореме 16.3.5 sing supp Fez
cz—sing supp [i. Обратное включение доказывается аналогично.

412 16. Уравнения в свертках
Вместо этого можно заметить, что \i можно рассматривать как
параметрикс распределения F, поэтому F также гипоэллиптично.
(v)=^(vi) Воспользуемся только что введенными обозначе-
обозначениями. Тогда по теореме 16.5.7 (i*cp =г|) для некоторой функции
феС°°(Ра). Таким образом, E = F— <р является фундаменталь-
фундаментальным решением с нужным свойством.
Импликация (vi)=^(iii) очевидна, как и (vii)=^(i). Для до-
доказательства импликации (v)=^(vii) нужно лишь заметить, что
если sxu — образ и в 2D'(X)/C°°(X), a F — параметрикс из усло-
условия (v), то
sxu = F * ((i * s{u) = 0.
Доказательство завершено.
Замечания. 1) Все параметриксы отличаются друг от друга
лишь на С°°-функции. 2) Из условия (iv) вытекает, что распре-
распределение ц остается гипоэллиптическим при добавлении к нему
С°°-функции. Если \i е 2)', то либо все распределения [ло ^ <&'%
для которых |ы — (io ^ С°°, гипоэллиптические, либо все они не-
гипоэллиптические. В первом случае назовем распределение \х
гипоэллиптическим. 3) Примером гипоэллиптического распреде-
распределения служит |i=(l—\х\2—Ю)-1. В одномерном случае это
сразу вытекает из того, что его преобразование Фурье равно
ше"**1*!. Для произвольного п аналогичный результат может
быть получен из теоремы 7.7.14.
16.7. Гиперболические уравнения в свертках
В этом параграфе мы распространим на операторы свертки об-
обсуждение гиперболических дифференциальных операторов из
гл. 12. Итак, предположим, что jie^, ?е2)г и
A6.7.1) |i*? = 6, supp?c=/(,
где К — замкнутое выпуклое множество. Множество К не мо-
может быть компактным, если не считать того случая, когда ц
есть б-функция, поскольку из равенства \лё = 1 вытекает тогда,
что функция (i не имеет нулей, а значит, log p, — линейная
функция.
Опорная функция Нк множества К
является выпуклой, положительно однородной и полунепрерыв-
полунепрерывной снизу, а ее значения лежат В' (—оо, +оо] (см. § 7.4). Как
и в § 12.5, мы хотим, чтобы множество К содержалось в соб-
собственном выпуклом конусе. Это условие можно выразить в тер-
терминах опорной функции;

16.7. Гиперболические уравнения в свертках 413
Лемма 16.7.1. Следующие условия на замкнутое выпуклое мно-
множество К и вектор 9 <= R"\{0} равносильны:
(i) ##(?)< оо для всех g из некоторой окрестности век-
вектора 9;
(ii) множество Кс= {х& К; (х, 9> ^ с} компактно при каж-
каждом с;
(Hi) для некоторой точки хоеК" и постоянной С >0
I х — х0 |< С (х0 — х, 9), а: <= /С.
Доказательство. (i)=^(ii) Если х^Кс, то <*, |> ^ HK(Q < оо
для всех векторов | из некоторой окрестности вектора 9 и, кро-
кроме того, (х, —9> ^ —с. Поскольку выпуклая оболочка вектора
—9 и окрестности вектора 9 является окрестностью нуля, от-
отсюда следует, что множество Кс ограничено и, значит, ком-
компактно. (ii)=^(iii) Для упрощения обозначений можно считать,
что 0е)(. Если ^е/(\Кч, то можно найти такое /е@, 1),
что tx(==k= {у^К\ {у, 9> = — 1}. Если C = sup | x |, то |*|<
^ —С(х, 9> при х е К\К-\. Поскольку множество К-\ ком-
компактно, (iii) выполнено для подходящей точки а:0. Импликация
(iii)=^(i) очевидна.
Определение 16.7.2. Распределение и называется гиперболиче-
гиперболическим относительно вектора 9 е Rrt\{0}, если существуют выпук-
выпуклое множество /С, для которого //#(?)< оо при всех | из неко-
некоторой окрестности вектора —9, и фундаментальное решение Е
оператора |i* с носителем в К (т. е. распределение, удовлетво-
удовлетворяющее условию A6.7.1)).
Теорема 16.7.3. Пусть .\ла8'{^п)у E<=Sfr'{Rn)\ предположим,
что \х * Е = б. Обозначим через Яц и НЕ опорные функции соот-
соответственно множества ch supp (i и замыкания К множества
ch supp E. Допустим, что внутренность Г множества, в котором
Не < оо, не пуста. Тогда Г есть открытый выпуклый конус, и
существует такой вектор йе1?п, что
Hil(l) = -HE® = (a,t)> 5^ Г.
Если Г° есть отрицательный двойственный конус, задаваемый
формулой
f ° = {х е= R»; (х, I) < 0 при g e Г},
го /( = ГО—{a} w supp цеп Г° + {а}. Для каждого замкнутого
конуса Гь содержащегося в Щ {0}, существуют такие постоян-
постоянные С и М, что
A6.7.2) (|1/А(гI<СA+|^|)^е-<а'1тЬ>
яра ImCer,, |Im ?| > Clog(|t| + 2),

414 16. Уравнения в свертках
Доказательство. Очевидно, что Г — выпуклый конус. Если ^еГ,
то множество
{х<=К\ <*,&>>-#,(&)-1}
компактно по лемме 16.7.1 с заменой 0 на ?. Поэтому можно
выбрать функцию %еСо° равной 1 на этом множестве. Пусть
Е = Е\+ Е2, Ei = %E. Тогда
<*. IXn^D-H^Q-1*^-1 при
Поскольку |i*?'i=6 — \i*E2, получаем
sup {(х, g); x €= supp м- *Ex) = О, ^еГ.
По теореме о носителях это означает, что
sup {<*, 1)\ х €= supp ?\} + Н^ (I) = О, g €= Г.
Следовательно, НЕ(Ъ)+ #u(g) = 0, т. е.
Н
(Ъ)+ u(g) (Б) Д(Б), ?
Но функция, которая одновременно выпукла и вогнута, должна
быть линейной, поэтому
Включение х е /С имеет место тогда и только тогда, когда
Это неравенство очевидным образом выполнено, если ?^Г, так
как в этом случае #?(|) = +оо. Если неравенство справедливо
при ?^Г, то оно имеет место и для g e Г, поскольку функция
Ял выпукла. Таким образом, х^ К тогда и только тогда, когда
(х -\- а, |> ^ 0, | е Г, а это означает, что х + л е Г°. Включение
supp |ы с: Г° + {а} очевидно.
Возьмем такую функцию ф е Со° (R")». что ф = 1 в окрест-
окрестности точки —а, и положим F = \рЕ ^<?'. Тогда
где /?=|ы*((г|)— 1)?), supp R с: Г°, 0 ^ supp/?. Поэтому <, )>^
^—c|ti| с некоторым с > 0 при tjeTi и х е supp /?. В силу
теоремы 7.3.1
при
\F@\<C(l+\Z\)Me-<a-lml> при
Но 1+/?а) = |1а)/?а), поэтому если |Л(«|<1/2, то
| 1 /? (g) | ^ 2|^(g) |. Это доказывает утверждение.
Теорема 16.7.4. Пусть це^' ц Г — такой открытый выпуклый
конус, что для каждого замкнутого конуса Г\ с Г U {0} суще-

16.7. Гиперболические уравнения в свертках 415
ствуют постоянные С, М и Л, для которых
A6.7.3) I 1/А(С)|<СA +|C|)AieA|ImCl
при 1т?еГь |1т?| > С log(|?| + 2). Тогда существует фунда-
фундаментальное решение ?е2); (так что \х*Е = 6)у для которого
опорная функция замкнутой выпуклой оболочки его носителя
конечна на множестве Г.
Доказательство. Рассмотрим цикл уп:
Если T)GTi и величина |г|| достаточно велика, то ясно, что уп
расположен в множестве, в котором применима оценка A6.7.3).
На основе обсуждения формулы G.3.14), приведенного в § 7.3,
можно, следовательно, определить распределение Ец равенством
A6.7.4) Ец (Ф) = BлГп \ (ф (- О/А ft)) dlx А ... л (%п> Ф е Со°° (R").
Поскольку подынтегральное выражение очень мало на бесконеч-
бесконечности, мы по формуле Стокса получаем, что E>t] = Etr]1 t> 1, и
распределение Е^ не зависит от т] ^ Fi при достаточно больших
|т||. Но ?;л(ф)->0 при ?->+оо, если
Я(-т1) + Л|т|1<0,
где Н — опорная функция множества сйэиррф. Таким образом,
распределение Е равно нулю в окрестности точки х, если
О, — Ti> + ^hl<0, Т< е. <*, ri>^ Л|т|| при х<= supp Е и ц е= Ги
Теорема доказана.
Замечание. Ясно, что из условия A6.7.3) вытекает, что распре-
распределение \х обратимо и A(^)=т^0, если Im^eTi и |Im?|>
> Clog(|^| +2). Обратно, если эти условия выполнены для
каждого замкнутого конуса Fi с: FIJ {0}, то легко доказать с по-
помощью теоремы 4.1.9, что справедливо условие A6.7.3).
Единственной важной характерной чертой распределения ^
является его поведение вблизи точки а, указанной в теореме
16.7.3. Даже предположение о компактности носителя избыточ-
избыточно. (Заметим, что свертка двух распределений, носители кото-
которых лежат в собственном выпуклом конусе, определена.) В са-
самом деле, имеет место следующая
Теорему 16.7.5. Пусть распределение |хе^ имеет носитель в
{а} + Г°, где Г° — собственный выпуклый конус, и \i * Е = б для
некоторого распределения Е с supp?c:fo—{а}. Если vg2)'
имеет носитель в {а)-\-Г° и a^supp(v — jm), то можно найти
такое распределение F с носителем в Г°—{а}, что v*F=6.

416 16. Уравнения в свертках
Доказательство. Имеем
(v — |i) * ? = 6 —
где supp R cz f° и О ф supp /?. Отсюда следует, что носители ите-
итерированных сверток R, R*R, R*R*R, ... локально конечны.
Поэтому сумма
существует и (б — /?)*? = 8. Следовательно, v*?*S = 8 и
распределение F = E*S обладает требуемым свойством.
Легко показать, что заключение остается справедливым, если
предположить лишь, что разность v — (i — достаточно гладкая
функция вблизи точки а, не обязательно равная нулю. Это
предоставит нам изобилие примеров гиперболических операто-
операторов в свертках, которые не являются дифференциальными опе-
операторами. Случай, когда [х = б, а разность ц— v есть непрерыв-
непрерывная функция с носителем в R+, является классическим. Он опи-
описывает простой класс интегральных уравнений типа Вольтерры.
В связи со смешанной задачей мы также столкнулись с менее
очевидным оператором свертки в § 12.9.
Примечания
Все результаты о субгармонических функциях, содержащихся
в § 16.1, являются классическими, за исключением асимптотики,
приведенной в теореме 16.1.8. Последней мы обязаны устному
сообщению, полученному от Арнэ Бёрлинга, который также
отметил, что это удобный путь доказательства теоремы 16.1.9
(принадлежащей Титчмаршу (Titchmarsh [1])). Более точные
результаты получены Альфорсом и Хейнсом (Ahlfors, Heins [1J),
однако мы уклонились от них, работая в духе теории распреде-
распределений. (Дальнейшие ссылки на литературу можно найти в книге
Hayman, Kennedy [1].) Для изученного в § 16.2 класса плюри-
субгармонических функций простое асимптотическое поведение
имеется лишь в пространстве .CRrt (см. Vauthier [1]), однако
этого достаточно для наших целей.
Изучению уравнений в свертках в Rn положил начало Маль-
гранж (Malgrange [1]). Он доказал в случае X=Rn теорему
об аппроксимации, приведенную в § 16.4, а также показал, ка-
каким образом фундаментальные решения могут быть использо-
использованы при изучении неоднородных уравнений. Однако понятие
обратимого распределения p^S" (и медленного убывания
функции A) было введено Эренпрейсом (Ehrenpreis-[3]); он по-
показал, что это условие эквивалентно равенству [i*3)'(Rn) =
= 3)'{Rn). Его условие для класса ЗУР было немного неточным;
оно исправлено в работе Hormander [14], в которой также изу-

Примечания 417
чалось уравнение в свертках в открытых подмножествах про-
пространства Rn. Все это было упрощено путем введения локали-
локализаций на бесконечности в работе Hormander [15]. С некоторыми
улучшениями, полученными позже, эти результаты воспроизво-
воспроизводятся в § 16.3. Пример, приведенный в теореме 16.3.20, принад-
принадлежит, по существу, Беренштейну и Досталу (Berenstein, Dostal
[1]). Полное доказательство теоремы об аппроксимации из
§ 16.4 впервые дано Хёрмандером (Hormander [23]). Представ-
Представленное здесь доказательство упрощено с помощью использова-
использования аналитических функционалов. Гипоэллиптические и гипер-
гиперболические уравнения в свертках были впервые охарактеризо-
охарактеризованы Эренпрейсом (Ehrenpreis [3,8]). Гипоэллиптический случай
разъясняется здесь с помощью общего обсуждения особенностей
в § 16.3, что приводит также к оптимальным оценкам для осо-
особенностей.
В одномерном случае теория периодических в среднем функ-
функций Шварца (Schwartz [6]) и есть изучение переопределенных
систем однородных уравнений в свертках. Однако в случае пе-
переопределенных систем с несколькими переменными аналог тео-
теоремы 16.4.1 не всегда справедлив: Гуревич [1] указал систему
уравнений в свертках р|/*и = 0, / = 1, ..., 6, в R", п>1, ко-
которая имеет нетривиальные решения, но не имеет ни одного
экспоненциального решения.
Как уже упоминалось в конце § 16.4, обычно даже диффе-
дифференциальное уравнение P{D)u=f с вещественно аналитической
функцией / не имеет вещественно аналитического решения в Rrt.
Этот факт впервые был доказан Де Джорджи (De Giorgi [2])
и Пиччинини (Piccinini [1]) в случае, когда P(D) является опе-
оператором теплопроводности или эллиптическим оператором по
части переменных 1). Класс всех операторов P(D), для которых
это имеет место, определен Хёрмандером (Hormander [31]).
*) Не зависящим от дифференцирований по остальным переменным. Про-
Простейший пример такой ситуации: уравнение кХи Х2и (хр х2, х3) = г (х{, х0, *3),
где Д^ X2 = d2jdx\ + д°~/дх1, имеет вещественно аналитическое в R3 реше-
решение и не для любой вещественно аналитической в R3 функции f. — Прим. ред.

Добавление А
Некоторые алгебраические леммы
Целью этого добавления является формулировка (со ссылками
или с доказательствами) относящихся к полиномам фактов, не-
необходимых в основном тексте.
АЛ. Нули аналитических функций
Первая лемма — это просто теорема о неявной функции для
аналитических функций.
Лемма АЛЛ Пусть P(t, z)—полином от п+\ переменных t и
z=(zu ..., гп). Если P(t, z) = О, но dP(t, z)/dt ФО при z = z0,
/ = /0) то существует одна и только одна аналитическая в окрест-
окрестности точки 20 функция t(z), которая равна t0 в г0 и удовлетво-
удовлетворяет уравнению P(t(z), г) = 0.
Доказательство. Выберем такое е > 0, что Р(/, zo)=?O при
О < | / — *о| ^ в. Тогда найдется такое б > 0, что если \z—2о| <
<б, то P(tyz)?=O при | / — /о| = е. Поэтому
является единственным нулем полинома Р при \t — ^о|<8,
\z — Zq\<. б. Ясно, что t(z) аналитично по z. (См. также § 7.5.)
Чтобы исследовать, когда выполняются условия леммы, вве-
введем дискриминант, задаваемый формулой
(АЛЛ) Д-а^-2П,(<,-ЬJ.
где tu ..., tm — нули полинома
(А. 1.2) Р (/, г) = am (z) Г + ат_х (z) Г + ... + a, (z),

A. 1. Нули аналитических функций 410
и предположим, что атф0. Дискриминант есть полином от г.
Если он тождественно равен нулю, то алгоритм Евклида и лем-
лемма Гаусса показывают, что полиномы Р и dP(t,z)/dt имеют
общий делитель, являющийся кратным делителем полинома Р.
(См. van der Waerden [2, § 26, 31].) Поэтому справедлива сле-
следующая
Лемма АЛ.2. Если P(ty z) не имеет кратных полиномиальных
делителей, то дискриминант Д, заданный формулой (АЛЛ),'есть
полином от z, не равный тождественно нулю. Каждая точка, где
атД ф 0, имеет окрестность V, в которой существуют m анали-
аналитических функций t\(z), ..., tm (z), таких что
(А. 1.3) Р (t, z) = am (z) fl (/ - /у (г)), z<=V.
Предположим теперь, что п = 1, и изучим нули вблизи точки
0 в случае, когда атД=0 в этой точке. Заметим, что не суще1-
ствует близких к 0 нулей полинома атД. Положив tam(z) = w,
получим уравнение
(АЛ .4) wm + am_x (z) wm'1 + am^2(z) am (z) wm~2 + ...
которое удобнее, поскольку в нем старший коэффициент равен
1. При г = 0 уравнение (АЛ.4) имеет корни w\9 ..., wk с крат-
ностями т\у ..., mk, причем пг\ + ... + mk = m. Для упроще-
упрощения обозначений мы предполагаем, что w =0 есть корень крат-
кратности \i. Тогда уравнение (АЛ.4) при малых z имеет \\ корней,
близких к нулю, и они локально являются аналитическими функ-
функциями от z при z Ф0. Начав с некоторого определенного зна-
значения корня w(z) при 0 < z < 2е, мы можем аналитически про-
продолжить его вдоль окружности |г| = е вокруг начала коорди-
координат. Мы вернемся снова к некоторому корню. Если он совпадает
с исходным, то w(z) — ограниченная аналитическая функция при
0<|г|<2е. Поэтому особенность в нуле устранима. Если это
не так, то мы продолжим обход начала координат до тех пор,
пока после р ^ ц обходов не вернемся к исходному значению.
Тогда w(zp) — аналитическая функция, ограниченная при 0<
< \zp\ < 2e. Следовательно,
В общем случаемы могли бы получить также постоянный член,
а возвращение к переменной t может внести конечное число
отрицательных степеней г. Таким образом, нами доказана

420 Добавление А. Некоторые алгебраические леммы
Лемма А. 1.3. Пусть P(t, z)— полином от двух переменных t и z
вида (А.1.2) с гп^\ и атф0. Тогда при 0<|г|<8 имеет
место представление (А. 1.3), в котором каждая функция // для
некоторого положительного целого р является аналитической
функцией от zl/p при 0 < \zl/p\ < б1/р, имеющей в нуле не более
чем полюс, т. е.
(А. 1.5) '/(*)
Здесь N может быть положительным или отрицательным целым
числом, а также нулем.
Обычно вместо (А. 1.5) пишут
но правильная интерпретация этого ряда дается равенством
(А.1.5). Разложение (АЛ.5) называется рядом Пюизё. Анало-
Аналогичные разложения, содержащие отрицательные дробные сте-
степени г, имеют место в окрестности бесконечности. Это полу-
получается простой заменой переменной z новой переменной 1/г.
Важным следствием разложения (А.1.5) является следующее
утверждение. Если выбрать такое N, что Cn?=0 (это всегда воз-
возможно при tj(z)z?O), то
(АЛ.6) /,(^ = ^2^A+0A)), 2-0,
и аналогично при г-> оо. Мы вернемся к этому в § А.2.
А.2. Асимптотические свойства алгебраических
функций нескольких переменных
Лемма АЛ.З не имеет аналогов в случае нескольких перемен-
переменных. Однако часто можно получить ее удовлетворительную за-
замену с помощью теоремы Тарского —Зайденберга. Предвари-
Предварительно введем следующее
Определение А.2Л. Подмножество в Rn называют полуалгебраи-
полуалгебраическим, если оно является конечным объединением конечных
пересечений множеств, задаваемых алгебраическим уравнением
или неравенством.
Таким образом, берутся множества вида
(А.2.1) {х; Р(*) = 0}, {х\Р(х)>0} или {х\ Р(*)>0},
где Р — полином, и сначала образуются их конечные пересече-
пересечения, а затем конечные объединения. По определению объедине-
объединение двух полуалгебраических множеств полуалгебраично. Пе-

Л. 2. Асимптотические свойства алгебраических функций 421
ресечение также полуалгебраично, поскольку если А = [jAj и
В = [}Bkt то А П В = \J(Aj[)Bk). Следовательно, и дополнение
полуалгебраического множества полуалгебраично.
Теорема А.2.2 (Тарского — Зайденберга). Если А есть полуалге-
полуалгебраическое подмножество в Rn+m = Rn ф Rm, то его проекция
А' в Rm также полуалгебраична.
В большинстве приложений т = 2, поэтому множество Аг
можно изучать с помощью рядов Пюизё из § АЛ. При доказа-
доказательстве теоремы можно считать, что я = 1. Общее утверждение
получается повторным применением этого частного случая.
Обозначим переменную в R через х, а переменную в Rw через у.
Без ограничения общности всегда можно считать, что А — пере-
пересечение множеств вида (А.2.1), задаваемых, например, соотно-
соотношениями .
Р\(х> У)>0> •> Рг(х> У)>0> •••> Ps(*> У) = 0-
Мы хотим доказать теорему А.2.2 индукцией по максимальной
степени встречающихся здесь полиномов. Оказывается, это тре-
требует обобщения задачи посредством рассмотрения всех возмож-
возможных комбинаций знаков. Введем функцию sgn*/ = 0 при у = 0,
sgnf/ = +1 при ±у>0.
Пусть pi, ..., ps — полиномы от одной переменной х сте-
степени ^ т. Пусть х\ < х2 < ... < Хы — точки на R, в которых
по крайней мере один из них равен нулю, не обращаясь в нуль
тождественно. Положим xq = —оо, xn+\ =+оо и Ik ==(a:^, x*+i),
6=0, ..., N. Тогда значение sgnpi(x) не зависит от к при
^e/fe, и мы обозначим его через sgnpi(h). Объединим теперь
всю информацию о нулях и изменениях знака:
SGN (р{9 ..., ps) = {sgn pi (xt), sgn Pi (Ik)},
/=1, ..., 5, /=1, ..., N, fe = 0, ..., N.
Это есть элемент следующего объединения непересекающихся
множеств:
ms
w= U Ы,о, iy{2N+1\
Разумеется, не все точки w ^W могут встретиться. Например,
если sgnpi(xj)Ф0, то
sgn Pi (xt) = sgn Pi (/,_!) = sgn pi (/,).
Ясно, что, зная SGN(/?i, ..., ps), мы можем определить, выпол-
выполняется ли система уравнений и неравенств р\{х)>0, ...
».,, Pj(x\^ 0, ..,, ps(x)z=z о при каком-нибудь х. В самом деле,

422 Добавление А. Некоторые алгебраические леммы
разрешимость этой системы эквивалентна тому, что
/)= 1, ..., sgnpr(/) ф — 1, ..., sgnps(/) =
при t=Xj для некоторого /=1, ..., N, или при t = h для не-
некоторого &=0, ..., N. Поэтому теорема А.2.2 вытекает из сле-
следующей теоремы:
Теорема А.2,2'. Если Р\(х, у), ..., Ps{xy у)—полиномы степени
не выше m no х, то множество
E = {y<=Rn; SGN(Px{-,y), ..., P8{-,y)) = w}
полуалгебраично при каждом w ell^.
Следующая элементарная лемма позволяет нам доказать
теорему А.2.2' по индукции.
Лемма А.2.3. Пусть ри ..., Ps — полиномы от одной переменной
степени не выше т. Предположим, что степень полинома ps в
точности равна m > 0 и ни один из полиномов не равен нулю
тождественно. Если g\ gs— остатки, полученные при деле-
делении ps на ри ..., ps-u p's, то SGN(pj, ..., ps_v p's, g{9 ...
..., gs) = w определяет SGN (pu ..., ps).
Доказательство. Пусть х\ < ... < Xn — точки на R, в которых
какие-то из полиномов р[9 ..., ps_v p's, g[t ..., gs равны нулю,
не обращаясь в нуль тождественно. Зная w, мы можем отобрать
нули х. < ... < х. полиномов рх ps_j, p's. Поскольку
ps(x) равно g\(x), . ..,или gs(x) при р{(х) = 0, ...,или p's(x) =
= 0, можем найти sgn ps(xt \ Знак старшего коэффициента по-
полинома ps равен sgn/7^(/^). В открытых интервалах, ограни-
ограниченных точками — оо, xit, ...., xik, + оо, полином ps изменя-
изменяется монотонно и потому обращается в них в нуль тогда и
только тогда, когда имеет противоположные знаки на концах.
(Знак в бесконечно удаленных точках определяется знаком
старшего коэффициента.) Таким образом, мы можем проконтро-
проконтролировать, какие интервалы содержат нули полинома ps. Эти
нули вместе с нулями xix, ..., xik, которые являются нулями не
только полинома pfs> дают все относящиеся к делу нули поли-
полиномов р\, ..., ps. Поэтому мы можем узнать всю информацию
о знаках, необходимую для получения SQN(pi, ..., ps). Дока-
Доказательство завершено.
Заметим, что мы нигде не использовали самих значений
х\} ,.•, Xn> которые неизвестны. Нам нужен лишь их порядок.

A. 2. Асимптотические свойства алгебраических функций 423
Заменяя р{, ..., ps на pv ..., ps_v pfs, gv ..., gs, мы умень-
уменьшаем число полиномов максимальной степени т.
Доказательство теоремы А.2.2'. По индукции можно считать, что
теорема уже доказана для меньших значений m и для тех же
m в случае, когда число полиномов степени m уменьшено. Для
фиксированных пг\у ..., ms множество тех t/, для которых сте-
степени полиномов Р\(х, у), ..., Ps{x, у) по х в точности равны
т\, ..., mSi очевидным образом является полуалгебраическим.
Достаточно доказать, что его пересечение с Е всегда полуал-
гебраично. При этом можно считать, что ть ..., ms являются
степенями полиномов Рь ..., Ps no x для точек у общего поло-
положения, поскольку иначе члены высшего порядка могут быть
отброшены. Таким образом,
Pj (х> У) = Ц\ (У) *W/ + члены меньшего порядка по х,
причем рассматриваются лишь такие зйачения у, что
при каждом /. (Полиномы, равные нулю тождественно, опущены
после проверки того, что в w все их знаки числятся нулями.)
Пусть ms = m = max m/. Обозначим через g\, ..., gs остатки
от деления полинома Ps на Р{, ..., Ps_{* Pfs, освобожденные
от знаменателей с помощью умножения на четные степени по-
полиномов q\, ..., qs. Тогда множество
{У е= Е\ qx (у) ... qs {у) ф 0}
есть конечное объединение множеств вида
{У, Ях (У) ••• й,(У)Ф0, SGN(P, Ps_ltP's, gv..., gs) = w'}.
Это вытекает из леммы А.2.3. По индуктивному предположению
это множество полуалгебраично. Доказательство завершено.
Замечание. Теорема А.2.2 может быть также сформулирована
следующим образом: если множество Е cz Rrt+m полуалгебраич-
полуалгебраично, то
[//eRm; э*е=Ря, (х,у)*=Е)
полуалгебраично. Поскольку дополнение полуалгебраического
множества полуалгебраично, можно заменить здесь символ Э
на V. Если х={х\, х2), мы можем также заключить, например,
что множество
{у е Rm; V^. e Rrt' 3^2 е Rn\ (хи х2, у) е Е)
полуалгебраично. Ниже мы будем свободно пользоваться по-
подобными выражениями общего вида.
Предположим теперь, что Е — полуалгебраическое множе-
множество в R2+n, где координаты обозначаются через {х, у, г); х, t/e

424 Добавление А. Некоторые алгебраические леммы
е R. Зададим функцию
(А .2.2) f (х) = sup {у; 3 *> (х, у, z) e= E)
и примем соглашение, что f(x) = —оо, когда таких точек (уу z)
не существует.
Следствие А.2.4. Если Е — полуалгебраическое множество в
R2+", то функция /, заданная формулой (А.2.2), полуалгебраи-
ческая, т. е. ее подграфик
F = {(x,y); у </(*)}
есть полуалгебраическое множество.
Доказательство. Это утверждение следует из теоремы А.2.2, по-
поскольку
F=*{(x9 y)\ Ve>03/>y —езг, (*, /, г) е= Е).
Полуалгебраическая функция на R имеет очень простую струк-
структуру:
Теорема А.2.5. Если f — полуалгебраическая функция на R, то
R можно разложить в объединение конечного числа интервалов
(которые могут сводиться к точкам), на которых функция f
равна либо +оо, либо —оо, либо непрерывной алгебраической
функции. Если функция f конечна при больших положительных
х и не равна нулю тождественно, то
(А 2.3) f(x) = Axa A+оA)), *->+оо,
где А ФО и а — рациональное число.
Доказательство. Проекция подграфика F функции / на R есть
полуалгебраическое множество, т. е. конечное объединение ин-
интервалов. Дополнение к этой проекции есть множество, на кото-
котором f = —оо, так что это множество того же типа. Аналогично
дополнение к проекции дополнения множества F на R есть мно-
множество, на котором / = -foo. Рассмотрим теперь открытый ин-
интервал /, в котором функция f конечна. Мы знаем, что мно-
множество F можно задать, скажем, соотношениями
(А.2.4) Р, (*, у) > 0, ..., Рг (*, у) = 0.
Мы можем убрать из / конечное число нулей х старшего коэф-
коэффициента любого из полиномов Pj(xy у), дискриминанта любого
из неприводимых делителей или результанта двух таких делите-
делителей, которые непропорциональны. Пусть V — один из оставшихся
интервалов. Уравнения Р/(я, у) = 0 при вещественном у опре-
определяют в V конечное число функций y—fk(x)yf\(x) <t2(x) < ...
Тогда условия (А.2.4) либо выполняются всюду в множестве
(А.2.5) {(*, у); х б /', U (х)<у< /,+1 (ж)},

A. 2. Асимптотические свойства алгебраических функций 425
либо не выполняются ни для какой такой точки (х9 у), посколь-
поскольку множество (А.2.5) связно и ни один из полиномов Р/ не
имеет в нем нулей. Аналогично множества
{(*, /, (х)); *€=/'} и {(*, у); х е /', у < fx (x)}
либо целиком содержатся в F, либо не пересекаются с F. От-
Отсюда следует, что f(x) = fi(x) при фиксированном /, хе/;.
В частности, если функция /(*) конечна при больших положи-
положительных х, то это верно в правом полубесконечном интервале.
Поэтому равенство (А.2.3) вытекает из (А. 1.6).
Следствие А.2.6. Если Е — полуалгебраическое множество в
R2+n и функция (А.2.2) определена и конечна при больших по-
положительных х, то либо f = О при больших х, либо справедливо
равенство (А.2.3), где АФО и а — рациональное число.
В определении (А.2.2), мы, разумеется, можем заменить sup
на inf и далее сделать те же заключения.
Пример А.2.7. Если Р— такой полином, что P(g)> 0 при ?eRnt
то для некоторых постоянных с > 0 и N
(А.2.6)
В самом деле, множество
полуалгебраично в R2+n и
f (x) = inf P [I) = inf {уу (X, У, I) €E E).
i + lgl'i
В силу неравенства Р > 0 функция / положительна и непре-
непрерывна. Поэтому из следствия А.2.6 вытекает равенство (А.2.3)
при х->оо, что доказывает (А.2.6). Заметим, что, как показы-
показывает пример РF) = (|^2 — 1J + 6р это неравенство может не
выполняться ни для какого N ^ 0, поскольку Р(%) = Ц= l/Ц на
гиперболе ^^2= 1.
Иногда важно знать не только то, что точная верхняя грань
(А.2.2) полуалгебраична, но также и то, что она достигается на
полуалгебраической кривой.
Теорема А.2.8. Пусть Е — такое полу алгебраическое множество
в R2+nt что проекция Е^(х, yt z)-*x^R содержит все боль-
большие положительные х. Тогда можно найти такие сходящиеся
при больших положительных х ряды Пюизё у(х), z(x)y что
(х, у(х),г(х)) <= Е. Если функция f (х) = sup{у\ 3г, {х, у, г) g=
е Е} конечна и supremum достигается при большом положи-
положительном х, то можно взять y(x) = f(x).
14 Зак. 64

426 Добавление А. Некоторые алгебраические леммы
Доказательство. Проекция F множества Е на R2:
F = {(х, у) е R2; (х, у у г) е Е при некотором г)
по теореме А.2.2 есть полуалгебраическое множество. Доказа-
Доказательство теоремы А.2.5 показывает, что можно найти конечное
число алгебраических функций /i (х) < /2 (х) < ..., заданных
при х ^ *о, таких что при х ^ х0 множество F есть объединение
конечного числа кривых {(х, fi(x))} и ограниченных ими полос.
Поэтому можно выбрать алгебраическую функцию у(х), кото-
которая либо произвольна, либо равна fi(x) + cx~N с некоторым ма-
малым с и большим AM) и для которой (х, y(x))^F при х ^ х0.
Если supf(x) конечен и достигается, то можно взять у(х) = f(x).
Далее, множество
Е] = {(х9 у, z)t=E\ х>х0, y = y(x)}
полуалгебраично. Его проекция на ось х содержит [хо, оо). Сле-
Следовательно, к множеству Ех можно применить те же рассужде-
рассуждения с z\ в качестве переменной у. Таким способом мы последо-
последовательно найдем Z\, ..., zn, составляющие вектор-функцию z(x),
для которой (х, у(х), z(x))^E. Доказательство завершено.
Наконец, в § 12.8 нам понадобился тот факт, что график
аналитического продолжения алгебраической функции полуал-
гебраичен.
Теорема А.2.9. Пусть P(t, г) — полином вида (А.1.2) с
А(г)пт(г)Ф0. Пусть Е а С1+пX С{+п есть множество всех та-
таких точек (to, г0, t\t Z\), что
a) P(to,z0) = P(tuzl) = 0-
b) Д(г)ат(г)#0 при z = z{s) = sz{ +A — s)z0, 0<s<l;
c) можно найти такую аналитическую при 0 ^ s ^ 1 функ-
функцию t(s), что t{O)=to, t{l)=t\ и P(t(s), z(s)) = 0.
Тогда множество Е полуалгебраическое.
Доказательство. Условия а) и Ь) уже имеют алгебраическую
форму. (Заметим, что если w^C, то условие шфО эквива-
эквивалентно вещественному неравенству |ш|2=й=0.) Нашей единствен-
единственной задачей является изучение условия с). Сначала рассмотрим
множество ЕОу задаваемое условиями а), Ь) и более ограничи-
ограничительным, чем с), условием
с0) можно найти такое шеС, что
i) Im (/ - Т) w Ф 0, если Р (и z (s)) = P(T, z (s)) = О,
0<5<1 и (Ф Т\
4) Число с может иметь любой знак или быть равным нулю, а # сле-
следует взять положительным и рациональным. — Прим. ред.

A. 2. Асимптотические свойства алгебраических функций 427
И) 3'/. •••» '/*¦ / = 0, 1, такие что Р(//, z/) = 0, / = 0, 1,
?=1, ...,ш, и Im (//+1 - /*) w > 0, / = 0, 1, A=l, ...,/и — 1;
ш) 3v, //=//, / = 0, 1.
Если выполнены условия а) и Ь), то, как легко видеть, из
с0) следует с). В самом деле, по условию Ь) имеются корректно
определенные аналитические нули tk(s) функции P(t, z(s))
с/*(О) = /о- Из условия i) следует, что lm(tk+l(s)—tk(s))w >0
при 0 ^ s ^ 1, поскольку это верно при s =0 и в этом проме-
промежутке у рассматриваемой функции нет нулей. Но последнее не-
неравенство определяет упорядочение нулей, поэтому в силу
ii) tk{\) = t\. Значит, из ш) вытекает с). Далее, по теореме
А.2.2 множество Ео полуалгебраическое. Ясно, что если (to, г0,
tuZ\)^E и точка z\ достаточно близка к г0, то (tofzOft\tZ\)^Eo.
Остается показать, что всегда можно выбрать ограниченное
число шагов, на каждом из которых множества Е и Ео согла-
согласованы в только что указанном смысле.
Пусть
q (/, s) = ат (z (s)f Гт П Р (t + lj (s), z (s))
l
есть полином с нулями tk(s)—t}(s), j ф k. Если Л^ достаточно
велико, то по основной теореме о симметрических полиномах
его коэффициентами являются полиномы от коэффициентов по-
полинома Р. (Достаточно взять N = m(tn—1).) Таким образом,
q есть полином от sr и мы имеем оценку для его степени. Далее,
условие Ь) гарантирует, что можно выбрать w, для которого
(А.2.7) (t[ ~ ti) w Ф (/Г - //') w при \фк% f Фк\ / = 0, 1.
В самом деле, это условие исключает лишь конечное число на-
направлений для w. Оно означает, что функции q(t/w, i) и
q(J/w, i) не имеют общих нулей, / = 0, 1. Таким образом, резуль-
результант R полиномов q(t/w,s) и q(t/w,s) не равен тождественно
нулю. Это есть полином по s степени ^ к. Поэтому он имеет в
интервале @, 1) не более k нулей. Предполагая, что справед-
справедливы условия а) и Ь), мы можем, следовательно, найти такие
2k точек 0 < 5i < s2 < ... < s2*-i < s2* < 1, что R?=0 вне
интервалов E2/—ь $2/), которые надо взять настолько малыми,
что
(/(S2/_i), 2E2/в1), t(s2J), Z(S2J))&EO.
Для всех остальных интервалов условие с0) справедливо с вы-
выбранным значением w. Значит, Е есть множество всех таких
точек (<о, zq, tu z\)t удовлетворяющих условиям а) и Ь), что

428 Добавление А. Некоторые алгебраические леммы
можно найти so, ..., $2*+ь 7'<ь • •., T2k+i, для которых
О = 50 < 5j < ... < S2k < ^2А:+1 = 1» То = to, T2k+\ = t\,
(Тп zE/), Г/+1, 2(s/+1))g?0) / = 0, ..., 2k.
По теореме А.2.2 отсюда следует, что множество Е полуалге-
полуалгебраическое.
Примечания
Теорема Тарского — Зайденберга была впервые доказана Тар-
ским (Tarski [1]), но он не публиковал ее в математических
журналах. Вскоре после этого Зайденберг (Seidenberg [1]) дал
другое доказательство в более алгебраическом духе. Здесь мы
в основном следовали короткой рукописи Коэна (Cohen [3]).
Он не опубликовал ее, поскольку его доказательство оказалось
близким к исходному доказательству Тарского! В теории диф-
дифференциальных уравнений с частными производными теорема
Тарского — Зайденберга, по-видимому, впервые была использо-
использована в работе Hormander [1] в связи с характеризацией гипоэл-
липтических операторов. Совершенно аналогичный вопрос для
гиперболических операторов Гординг (Garding [1]) ранее вы-
вынужден был решать прямыми и более сложными алгебраиче-
алгебраическими методами. (См. примечания к гл. 12.) Обсуждение теоре-
теоремы Тарского — Зайденберга и ее приложений можно также
найти в работе Горина [1]. Приведенная здесь теорема А.2.9
принадлежит Полю Коэну. Она была включена в работу Hor-
Hormander [21].

Литература
Агранович М. С. [1] Об уравнениях в частных производных с постоянными
коэффициентами. — УМН, 1961, т. 16, № 2, с. 27—93.
Арнольд В. И. [1] О характеристическом классе, входяшем в условия кван-
квантования.— Функц. анализ и прил., 1967, т. 1, № 1, с. 1—14.
Аткинсон Ф. В. [1] Нормальная разрешимость линейных уравнений в норми-
нормированных пространствах. — Матем. сб., 1951, т. 28 G0), с. 3—14.
Бернштейн И. Н. [1] Модули над кольцом дифференциальных операторов.
Исследование фундаментальных решений с постоянными коэффициента-
коэффициентами.— Функц. анализ и прил., 1971, т. 5, № 2, с. 1—16.
Бернштейн И. Н., Гельфанд С. И. [1] Мероморфность функции РК — Функц.
анализ и прил., 1969, т. 3, № 1, с. 84—85.
Буслаев В. С, Матвеев В. В. [1] Волновые операторы для уравнения Шрё-
дингера с медленно убывающим потенциалом. — ЖЭТФ, 1970, т. 2,
с. 266—274.
Векуа И. Н. [1] Systeme von Differentialgleichungen erster Ordnung vom
elliptischen Typus und Randwertaufgaben mit die Anwendungen in der The-
orie der Blatten. — Berlin 1956. [Перевод статьи: Системы дифференциаль-
дифференциальных уравнений первого порядка эллиптического типа и граничные задачи
с применением к теории оболочек. — Матем. сб. 31G3) A952), 217—314.]
Вишик М. И. [1] Об общих краевых задачах для эллиптических дифферен-
дифференциальных уравнений. — Труды ММО, 1952, т. 1, с. 187—246.
Вишик М. И., Эскин Г. И. [1] Уравнения в свертках в ограниченной обла-
области.—УМН, 1965, т. 20, No. 3, с. 89—152.
[2] Уравнения в свертках в ограниченной области в пространствах с ве-
весовыми нормами. — Матем. сб., 1966, т. 69, № 1, с. 65—110.
[3] Эллиптические уравнения в свертках в ограниченной области и их
приложения. — УМН, 1967, т. 22, № 1, с. 15—76.
[4] Уравнения в свертках переменного порядка. — Труды ММО, 1967,
т. 16, с. 25—50.
[5] Нормально разрешимые задачи для эллиптических систем уравнений
в свертках. — Матем. сб., 1967, т. 74, № 3, с. 326—356.
Габриэлов А. М. [1] Об одной теореме Хёрмандера. — Функц. анализ и прил.,
1970, т. 4, № 2, с. 18-22.
Гельфанд И. М., Шилов Г. Е. [1] Преобразование Фурье быстро растущих
функций и вопросы единственности решения задачи Коши. — УМН, 1953,
т. 8, № 6, с. 3—54.
[2] Обобщенные функции. Вып. 1. Обобщенные функции и действия над
ними. 2-е изд. — М.: Физматгиз, 1959. Вып. 2. Пространства основных и
обобщенных функций. — М.: Физматгиз, 1958.
Горин Е. А. [1] Об асимптотических свойствах многочленов и алгебраических
функций от нескольких переменных. — УМН, 1961, т. 16, № 1, с. 91—118.
Грушин В. В. [11 Распространение гладкости решений дифференциальных
уравнений главного типа. —ДАН СССР, 1963, т. 148, Кв 6, с. 1241—1244.

430 Литература
[2] Об одном классе гииоэллиптических операторов. — Матем. сб, 1970,
т. 83, ,№ 3, с. 456—473.
Гуревич Д. И. [1] Контрпримеры к проблеме Л. Шварца. — Функц. анализ и
прил., 1975, т. 9, № 2, с. 29—35.
Дейч В. Г., Коротаев Е. Л., Яфаев Д. Р. [1] Теория потенциального рассея-
рассеяния при учете пространственной анизотропии. — Записки научн. сем.
ЛОМИ, 1977, т. 73, с. 35—51.
Егоров Ю. В. [1] О канонических преобразованиях псевдодифференциальных
операторов. — УМН, 1969, т. 24, № 5, с. 235—236.
[21 О субэллиптических псевдодифференциальных операторах. — ДАН
СССР, 1969, т. 188, № 1, с. 20—22.
[3] О субэллиптических операторах. — УМН, 1975, т. 30, № 2, с. 57—114:
№ 3, с. 57-104.
Иврий В. Я. [1] Достаточные условия регулярной и вполне регулярной ги-
гиперболичности. — Труды МАЮ, 1976, т. 33, с. 3—65.
[2] Волновые фронты решений краевых задач для одного класса симмет-
симметрических гиперболических систем. — Сиб. матем. ж., 1980, т. 21, № 4,
с. 62—71.
[3] О втором члене спектральной асимптотики для оператора Лапласа —
Бельтрами на многообразиях с краем. — Функц. анализ и прил., 1980,
т. 14, № 2, с. 25—34.
Иврий В. Я., Петков В. [1] Необходимые условия корректности задачи Коши
для нестрого гиперболических уравнений.— УМН, 1974, т. 29, № 5, с. 3—70.
Колмогоров А. Н. [1] Zufallige Bewegungen. — Ann. of Math. 35 A934),
116-117.
Левитан Б. М. [1] Об асимптотическом поведении спектральной функции
самосопряженного дифференциального уравнения второго порядка. — ИАН
СССР, сер. матем., 1952, т. 16, с. 325—352.
[2] Об асимптотическом поведении спектральной функции и о разложении
по собственным функциям самосопряженного дифферециального уравнения
второго порядка. II —ИАН СССР, сер. матем., 1955, т. 19, с. 33—58.
Лопатинский Я. Б. [1] Об одном способе приведения граничных задач для
системы дифференциальных уравнений эллиптического типа к регулярным
интегральным уравнениям. — Укр. матем. ж., 1953, т. 5, с. 123—151.
Маслов В. П. [1] Теория возмущений и асимпотические методы.—М.: МГУ, 1965.
Михлин С. Г. [1] О мультипликаторах интегралов Фурье.— ДАН СССР, 1956,
т. 109, с. 701—703.
Олейник О. А. [1] On the Cauchy problem for weakly hyperbolic equations.—
Comm. Pure Appl. Math. 23 A970), 569—586.
Олейник О. А., Радкевич Е. В. [1] Уравнения второго порядка с неотрица-
неотрицательной характеристической формой. В сб.: Матем. анализ 1969 (Итоги
науки). — М.: ВИНИТИ, 1971, с. 7—20.
Паламодов В. П. [1] Линейные дифференциальные операторы с постоянными
коэффициентами. — М.: Наука, 1967.
Петровский И. Г. [1] Ober das Cauchysche Problem fur Systeme von partiellen
Differentialgleichungen. — Матем. сб., 1937, т. 2 D4), с. 815—870.
[2] О проблеме Cauchy для системы линейных дифференциальных урав-
уравнений с частными производными в области неаналитических функций. —
Бюлл. Моск. ун-та (А), 1938, т. 1, № 7, с. 1—72.
[31 Sur l'analyticite des solutions des systemes d'equations differentielles. —
Матем. сб., 1937, т. 5 D7), с. 3—70.
[4] On the diffusion of waves and the lacunas for hyperbolic equations.—
Матем. сб., 1945, т. 17 E9), с. 289—370.
[51 Некоторые замечания к моим работам о задаче Коши. — Матем. сб.,
1956, т. 39(81), с. 267—272.
Повзнер А. Я. [1] О разложении произвольных функций по собственным ха-
характеристическим функциям оператора — Ди + си. —- Матем, сб., 1953,
т. 37 G4), с. 109-156,

Литература 431
Радкевич Н. В. [1] Априорные оценки и гипоэллиптические операторы с крат-
кратными характеристиками.— ДАН СССР, 1969, т. 187, с. 27'4—277.
Соболев С. Л. [1] Methode nouvelle a resoudre le probleme de Cauchy pour
les equations lineaires hyperboliques normales. — Матем. сб., 1936, т. 1 D3),
с. 39-72.
[2] Об одной теореме функционального анализа. — Матем. сб., 1938,
т. 4 D6), с. 471—498.
Федосов Б. В. [1] Непосредственное доказательство формуы для индекса
эллиптической системы в евклидовом пространстве. — Функц. анализ и
прил., 1970, т. 4, № 4, с. 83—84.
Agmon S. [1] The coerciveness problem for integro-differential forms. — J. Ana-
Analyse Math. 6 A958), 183—223.
[2] Spectral properties of Schrodinger operators. — Actes Congr. Int. Math.
Nice 2 A970), 679—683.
[3] Spectral properties of Schrodinger operators and scattering theory. —
Ann. Scuola Norm. Sup. Pisa D) 2, A975), 151—218.
[4] Unicite et convexite dans les problemes differentiels. — Sem. Math. Sup.
No. 13, Les Presses de l'Univ. de Montreal, 1966.
[5] Lectures on elliptic boundary value problems. — Van Nostrand Math.
Studies 2, Princeton, N. J., 1965.
[б] Problemes mixtes pour les equations hyperboliques d'ordre superieur. —
Coll. Int. CNRS 117, Paris 1962, pp. 13—18.
[7] Some new results in spectral and scattering theory of differential ope-
operators on R". — Sem. Goulaouic-Schwartz 1978—1979. Exp. II, 1—11.
Agmpn S., Douglis A., Nirenberg L. [1] Estimates near the boundary for solu-
solutions of elliptic partial differential equations satisfying general boundary
conditions. I. —Comm. Pure Appl. Math. 12 A959), 623—727; II —Comm.
Pure Appl. Math. 17 A964), 35—92. [Имеется перевод части I: Агмон С,
Дуглис А., Ниренберг Л. Оценки решений эллиптических уравнений вблизи
границы. — М.: ИЛ, 1962.]
Agmon S., Hormander L. [1] Asymptotic properties of solutions of differential
equations with simple characteristics.— J. Analyse Math. 30 A976), 1—38.
Ahlforms L., Heins M. [1] Questions of regularity connected with the Phrag-
men —Lindelof principle,— Ann. of Math. 50 A949), 341—346.
Airy G. B. [1] On the intensity of light in a neighborhood of a caustic.—
Trans. Cambr. Phil. Soc. 6 A838), 379—402.
Alinhac S. [1] Non-unicite du probleme de Cauchy. Ann. of Math. 117 A983),
77—108.
[2] Non-unicite pour des operateurs differentiels a caracteristiques comple-
complexes simples. — Ann. Sci. Ecole Norm. Sup. 13 A980), 385—393.
[3] Uniqueness and non-uniqueness in the Cauchy problem. — Contemporary
Mathematics (to appear).
Alinhac S., Baouendi M. S. [1] Uniqueness for the characteristic Cauchy pro-
problem and strong unique continuation for higher order partial differential
inequalities. — Amer J. Math. 102 A980), 179—217
Alinhac S., Zuily С [1] Uriicite et non-unicite du probleme de Cauchy pour
des operateurs hyperboliques a caracteristiques doubles. — Comm. Partial
Differential Equations 6 A981), 799—828.
Alsholm P. K. [1] Wave operators for long range scattering. — Mimeographed
report, Danmarks Tekniske H0Jskole 1975.
Alsholm P. K., Kato T. [1] Scattering with long range potentials. In: Partial
Diff. Eq. — Proc. of Symp. in Pure Math. 23, pp. 393—399. Amer. Math.
Soc. Providence, R. I., 1973.
Amrein W. O., Martin Ph. A., Misra P. [1] On the asymptotic conditions of
scattering theory. — Helv. Phys. Acta 43 A970), 313—344.

432 Литература
Andersson К. G. [1] Propagation of analyticity of solutions of partial differen-
differential equations with constant coefficients. — Ark. Math. 8 A971), 277—302.
Andersson K. G., Melrose R. B. [1] The propagation of singularities along
gliding rays. — Invent. Math. 41 A977), 197—232.
Aronszajn N. [1] Boundary values of functions with a finite Dirichlet inte-
integral.— Conference on Partial Differential Equations 1954, University of
Kansas, pp. 77—94.
[2] A unique continuation theorem for solutions of elliptic partial differen-
differential equations or inequalities of second order. — J. Math. Pures Appl. 36
A957), 235—249.
Aronszajn N., Krzywcki A., Szarski J. [1] A unique continuation theorem for
exterior differential forms on Riemannian manifolds. — Ark. Mat. 4 A962),.
417—453.
Asgeirsson L. [1] Ober eine Mittelwerteigenschaft von Losungen homogener
linearer partieller Differentialgleichungen 2. Ordnung mit konstanten Koeffi-
zienten. — Math. Ann. 113 A937), 321—346.
Atiyah M. F. [1] Resolution of singularities and division of distributions.—
Comm. Pure Appl. Math. 23 A970), 145—150.
Atiyah M. F., Bott R. [1] The index theorem for manifolds with boundary.—
Proc. Symp. on Differential Analysis, Oxford, 1964, pp. 175—186.
[2] A Lefschetz fixed point formula for elliptic complexes. I. — Ann. of
Math. 86 A967), 374—407.
Atiyah M. F., Bott R., Garding L. [1] Lacunas for hyperbolic differential opera-
operators with constant coefficients. I. — Acta Math. 124 A970), 109—189. [Име-
[Имеется перевод: Атья М., Ботт Р., Гординг Л. Лакуны для гиперболических
дифферециальных операторов с постоянными коэффициентами. I. — УМН,
1971, т. 26, № 2, с. 25—100.]
[2] Lacunas for hyperbolic differential operators with constant coefficients.
II. —Acta Math. 131 A973), 145—206. [Имеется перевод: Атья М., Ботт Р.,
Гординг Л. Лакуны для гиперболических дифференциальных операторов с
постоянными коэффициентами. II. —УМН, 1984, т. 39, № 3, с. 171—224.]
Atiyah M. F., Bott R., Patodi V. К. [1] On the heat equation and the index
theorem — Invent. Math. 19 A973), 279—330. [Имеется перевод: Атья М.,
Ботт Р., Патоди Б. Уравнение теплопроводности и теорема об индексе. —
Математика, 1973, т. 17, № 6, с. 3—48.]
Atiyah M. F., Singer I. M. [1] The index of elliptic operators on compact mani-
manifolds. — Bull. Amer. Math. Soc. 69 A963), 422—433. [Имеется перевод:
Атья М., Зингер И. Индекс эллиптических операторов на компактных мно-
многообразиях. — Математика, 1966, т. 10, № 3, с. 29—38.]
[2] The index of elliptic operators. I, III. —Ann. of Math. 87 A968), 484—
530, 546—604. [Имеется перевод: Атья М., Зингер И. Индекс эллиптиче-
эллиптических операторов. I, III. —УМН, 1968, т. 23, JSfe б, с. 99—142; 1969, т. 24,
No 1, с. 127—182.]
Avakumovic' V. G. [1] Ober die Eigenfunktionen auf_ geschlossenen Riemann-
nigfaltiffkeiten. — A"
schen Mannigfaltigkeiten. — Math. 1. 65 A956), 327—344.
ngT. [1] Om quasi-analytiske funktioner. Thesis, Cope^haL
Baouendi M. S., Goulaouic Ch. [1] Nonanalytic-hypoellipticity for some degene-
Bang Т. [1] От quasi-analytiske funktioner. Thesis, Copenhagen 1946.
louendi M. S., Goulaouic Ch. [1] Nonanalytic-hypoellipticity for some
rate elliptic operators. — Bull. Amer. Math. Soc. 78 A972), 483—486.
Deals R. [1] A general calculus of pseudo-differential operators. — Duke Math.
J. 42 A975), 1—42.
Beals R., Fefferman C. [1] On local solvability of linear partial differential
equations. — Ann. of Math. 97 A973), 482—498.
J2] Spatially inhomogeneous pseudo-differential operators. 1. — Comm. Pure
lPP1. Math. 27 A974), 1—24.
Beckner W. [1] Inequalities in Fourier analysis.— Ann. of Math. 102 A975),
159—182.

Литература 433
Berenstein С. A., Dostal М. А. [1] On convolution equations. I. In: L'anal.
harm, dans le domain complexe. — Springer Lecture Notes in Math. 336
A973), 79—94.
Bernstein S. [1] Sur la nature analytique des solutions des equations aux
derivees partielles du second ordre. — Math. Ann. 59 A904), 20—76.
Beurling A. [1] Quasi-analyticity and general distributions. Lectures 4 and 5,
Amer. Math. Soc. Summer Inst. Stanford 1961 (Mimeographed).
[2] Sur les spectres des fonctions. — Anal. Harm. Nancy 1947, Coll. Int. XV,
pp. 9—29.
[3] Analytic continuation across a linear boundary. — Acta Math. 128
A972), 153—182.
Bjorck G. [1] Linear partial differential operators and generalized distribu-
distributions. - Ark. Mat. 6 A966), 351—407.
Bjork J. E. [1] Rings of differential operators. — North-Holland Publ. Co.
Math. Library series 21 A979).
Bochner S. [1] Vorlesungen tiber Fouriersche Integrale. — Leipzig 1932. [Име-
[Имеется перевод: Бохнер С. Лекции об интегралах Фурье. — М.: Физматгиз,
1962.]
Boman J. [1] On the intersection of classes of infinitely differentiable func-
functions.—Ark. Mat. 5 A963), 301—309.
Bonnesen Т., Fenchel W. [1] Theorie der konvexen Korper. — Erg. der Math,
und ihrer Grenzgeb. 3, Springer-Verlag, 1934.
Bony J. M. [1] Une extension du theoreme de Holmgren sur l'unicite du
probleme de Cauchy. — С R. Acad. Sci. Paris 268 A969), 1103—1106.
[2] Extensions du theoreme de Holmgren. — Sem. Goulaouic — Schwartz
1975—1976, Expose no. XVII.
[3] Equivalence des diverses notions de spectre singulier analytique. — Sem.
Goulaouic — Schwartz 1976—1977, Expose no. III.
Bony J. M., Schapira P. [1] Existence et prolongement des solutions holo-
morphes des equations aux derivees partielles. — Invent. Math. 17 A972),
95—105. [Имеется перевод: Бонн Ж.-М., Шапира П. Существование и
продолжение голоморфных решений уравнений с частными производны-
производными.—Математика, 1973, т. 17, № 1, с. 162—171.]
Borel Е. [1] Sur quelques points de la theorie des fonctions. — Ann. Sci. Ecoh
Norm. Sup. 12 C) A895), 9—55.
Boutet de Monvel L. [1] Comportement d'un operateur pseudo-differentiel sur
une variete a bord. — J. Analyse Math. 17 A966), 241—304.
!2] Boundary problems for pseudo-differential operators. — Acta Math. 126
1971), 11—51.
3] On the index of Toeplitz operators of several complex variables. —
nvent. Math. 50 A979), 249—272.
[4] Hypoelliptic operators with double characteristics and related pseudo-
differential operators. — Comm. Pure Appl. Math. 27 A974), 585—639.
Boutet de Monvel L., Grigis A., Hellfer B. [1] Parametrixes d'operateurs
pseudo-differentiels a caracteristiques multiples. — Asterisque 34—35 A976),
93—121.
Boutet de Monvel L., Guillemin V. [1] The spectral theory of Toeplitz opera-
operators. - Ann. of Math. Studies 99 A981).
Brezis H. [1] On a characterization of flow-invariant sets. — Comm. Pure Appl.
Math. 23 A970), 261—263.
Brodda B. [1] On uniqueness theorems for differential equations with constant
coefficients. — Math. Scand. 9 A961), 55—68.
Browder F. [1] Estimates and existence theorems for elliptic boundary value
problems. — Proc. Nat. Acad. Sci. 45 A959), 365—372.
Calderon A. P. [1] Uniqueness in the Cauchy problem for partial differential
equations. — Amer J. Math. 80 A958), 16—36.

434 Литература
[2] Existence and uniqueness theorems for systems of partial differential
equations. Fluid Dynamics and Applied Mathematics (Proc. Symp. Univ. of
Maryland 1961). —New York 1962, pp. 147—195.
[3] Boundary value problems for elliptic equations. Outlines of the joint
Soviet-Ameican Symposium on partial differential equations. — Novosibirsk
1963, pp. 303—304. •
Calderon A. P., Vaillancourt R. [1] On the boundedness of pseudo-differential
operators. — J. Math. Soc. Japan 23 A972), 374—378.
[2] A class of bounded pseudo-differential operators. — Proc. Nat. Acad.
Sci. USA 69 A972), 1185—1187.
Calderon A. P., Zygmund A. [1] On the existence of certain singular inte-
integrals. — Acta Math. 88 A952), 85—139.
Caratheodory C. [1] Variationsrechnung und partielle Differentialgleichungen
Erster Ordnung. — Berlin: Teubner, 1935.
Carleman T. [1] Sur un probleme d'unicite pour les systemes d'equations aux
derivees partielles a deux variables independentes. — Ark. Mat. Astr. Fys.
26B No 17 A939), 1—9.
[2] L'integrale de Fourier et les questions qui s'y rattachent. — Publ. Sci.
Inst. Mittag-Leffler, Uppsala 1944.
[3] Proprietes asymptotiques des fonctions fondamentales des membranes
vibrantes. — С R. Congr. des Math. Scand. Stockholm 1934 (Lund 1935),
pp. 34—44.
Catlin D. [1] Necessary conditions for subellipticity and hypoellipticity for
the д Neumann problem on pseudoconvex domains. — In: Recent develop-
developments in several complex variables. — Ann. of Math. Studies 100 A981),
93—100.
Cauchy A. [1] Memoire sur 1'integration des equations lineaires.— С R. Acad.
Sci. Paris 8 A839). In CEuvres IV, pp. 369—426. — Paris: Gauthier-Villars,
1884.
Cerezo A., Chazarain J., Piriou A. fl] Introduction aux hyperfonctions.—
Springer Lecture Notes in Math. 449 A975), 1—53.
Chaillou J. [1] Hyperbolic differential polynomials and their singular pertur-
perturbations. — D. Reidel Publ. Co. Dordrecht, Boston, London 1979.
Chazarain J. [1] Construction de la parametrix du probleme mixte hyperbolique
pour l'equation des ondes. — С R. Acad. Sci. Paris 276 A973), 1213—1215.
[2] Formules de Poisson pour les varietes riemanniennes. — Invent. Math.
24 A974),' 65—82.
Chazarain J., Piriou A. [1] Introduction a la theorie des equations aux derivees
partielles lineaires. — Gauthier-Villars, 1981.
Chester C, Friedman В., Ursell F. [1] An extension of the method of steepest
descent. — Proc. Cambr. Phil. Soc. 53 A957), 599—611.
Cohen P. [11 The non-uniqueness of the Cauchy problem. — O. N. R. Tech. Re-
Report 93, Stanford 1960.
[2] A simple proof of the Denjoy —Carleman theorem. — Amer. Math.
Monthly 75 A968), 26—31.
[3] A simple proof of Tarski's theorem on elementary algebra. Mimeo-
Mimeographed manuscript. — Stanford University 1967.
Colin de Verdiere Y. [1] Sur le spectre des operateurs elliptiques a bicharacte-
ristiques toutes periodiques. — Comment. Math. Helv. 54 A979), 508—522.
Cook J. [1] Convergence to the Moller wave matrix.— J. Mathematical Physics
36 A957), 82—87.
Cordes H. O. [1] Uber die eindeutige Bestimmtheit der Losungen elliptischer
Differentialgleichungen durch Anfangsvorgaben. — Nachr. Akad. Wiss. Got-
tingen Math.-Phys. Kl. Ha, No. 11 A956), 239—258.
Cotlar M. [1] A combinatorial inequality and its application to L2 spaces.—
Rev. Math. Cuyana 1 A955), 41—55.

Литература 435
Courant R., Hilbert D. [1] Methoden der Mathematischen Physik 11. — Berlin,
1937. [Имеется перевод: Курант Р., Гильберт Д. Методы математической
физики. Т. 2. —М.: ОНТИ, 1951.]
Courant R., Lax P. D. [1] The propagation of discontinuities in wave motion.—
Proc. Nat. Acad. Sci., 42 A956), 872—876.
De Giorgi E. [1] Un esempio di non-unicita della soluzione del problema di
Cauchy relativo ad una equazione differenziale lineare a derivate parziali
ti tipo parabolico. — Rend. Mat. 14 A955), 382—387.
[2] Solutions analytiques des equations aux derivees partielles constants. —
Sem. Goulaouic— Schwartz 1971—1972, Expose 29.
Dencker N. [1] On the propagation of singularities for pseudo-differential ope-
operators of principal type. — Ark. Nat. 20 A982), 23—60.
[2] The Weyl calculus with locally themperate metrics and weights (to
appear).
Dieudonne J. [1] Sur les fonctions continus numeriques definies dans un pro*
duit de deux espaces compacts. C. R. Acad. Sci. Paris 205 A937), 593—595.
Dieudonne J., Schwartz L. [1] La dualite dans les espaces (P) et E^").—
Ann. Inst. Fourier (Grenoble), 1 A949), 61—101. [Имеется перевод: Дьё-
донне Ж., Шварц Л. Двойственность в пространствах (У) и (Sfg').—
Математика, 1958, т. 2, № 2, с. 77—117.]
Dollard J. D. [1] Asymptotic convergence and the Coulomb interaction. — J.
Math. Phys. 5 A964), 729—738.
[2] Quantum mechanical scattering theory for short-range and Coulomb
interactions. — Rocky Mountain J. Math. 1 A971), 5—88.
Douglis A., Nirenberg L. [1] Interior estimates for elliptic systems of partial
differential equations. — Comm. Pure Appl. Math. 8 A955), 503—538.
Duistermaat J. J. [1] Oscillatory integrals, Lagrange immersions and unfolding
of singularities. — Comm. Pure Appl. Math. 27 A974), 207—281.
Duistermaat J. J., Guillemin V. W. [1] The spectrum of positive elliptic opera-
operators and periodic bicharacteristica. — Invent. Math. 29 A975), 39—79.
Duistermaat J. J., Hdrmander L. [1] Fourier integral operators II. — Acta
Math. 128 A972), 183—269.
Duistermaat J. J., Sjostrand J. [1] A global construction for pseudo-differential
operators with non-involutive characteristics. — Invent. Math. 20 A973),
209—225.
DuPlessis N. [1] Some theorems about the Riesz fractional integral. — Trans.
Amer. Math. Soc. 80 A955), 124—134.
Ehrenpreis L. [1] Solutions of some problems of division I. — Amer. J. Math.
76 A954)-, 883—903.
[2] Solutions of some problems of division III.— Amer. J. Math. 78 A956),
685—715.
[3] Solutions of some problems of division IV. — Amer. J. Math. 82 A960),
522—588.
[4] On the theory of kernels of Schwartz. — Proc. Amer. Math. Soc. 7
A956), 713—718.
[5] A fundamental principle for systems of linear differential equations with
constant coefficients, and some of its applications. — Proc. Intern. Symp. on
Linear Spaces, Jerusalem 1961, pp. 161 — 174.
[6] Fourier analysis in several complex variables. — Weiley-Interscience
. Publ., New York, London, Sydney, Toronto 1970.
[7] Analytically uniform spaces and some applications. — Trans. Amer.
Math. Soc. 101 A961), 52-74.
[8] Solutions of some problems of division V. Hyperbolic operators.—
Amer. J. Math. 84 A962), 324—348.
Enqvist Z. [1] On fundamental solutions supported by a convex cone. — Ark.
Mat. 12 A974), 1—40.
Enss V. [1] Asymptotic completeness for quantum-mechanical potential scatter-
scattering. I. Short range potentials. — Comm. Math. Phys. 61 A978), 285—291.

436 Литература
[2] Geometric methods in spectral and scattering theory of Schrodinger
operators. In: Rigorous Atomic and Molecular Physics, G. Velo and
A. Wightman ed. — Plenum, New York, 1980—1981 (Proc. Erice School of
Mathematical Physics 1980).
Eskin G. I. (Эскин Г. И.) [1] Краевые задачи для эллиптических псевдодиф-
псевдодифференциальных уравнений. — М.: Наука, 1973.
[2] Parametrix and propagation of singularities for the interior mixed
hyperbolic problem. — J. Analyse Math. 32 A977), 17—62.
[3] General initial-boundary problems for second order hyperbolic equations.
In: Sing, in Boundary Value Problems. — D. Reidel Publ. Co., Dordrecht,
Boston, London 1981, pp. 19—54.
[4] Initial boundary value problem for second order hyperbolic equations
with general boundary conditions. I. — J. Analyse Math. 40 A981), 43—89.
Fefferman С L. [1] The uncertainty principle. — Bull. Amer. Math. Soc. 9
A983), 129—206.
Fefferman C, Phong D. H. [1] On positivity of pseudo-differential operators.—
Proc. Nat. Acad. Sci. 75 A978), 4673—4674.
i2] The uncertainty principle and sharp Garding inequalities. — Comm. Pure
.ppl. Math. 34 A981), 285—331.
Fredholm I. [1] Sur l'integrale fondamentale d'une equation differentielle ellip-
tique a coefficients constants. — Rend. Circ. Mat. Palermo 25 A908), 346—
351.
Friedlander F. G. [1] The wave front set of the solution of a simple initial-
boundary value problem with glancing rays. — Math. Proc. Cambridge Phi-
los. Soc. 79 A976), 145—159.
Friedlander F. G., Melrose R. B. [1] The wave front set of the solution of
a simple initial-boundary value problem with glancing rays. II.—Math.
Proc. Cambridge Philos. Soc. 81 A977), 97—120.
Friedrichs K. [1] On differential operators in Hilbert spaces. — Amer. J. Math.
61 A939), 523—544.
[2] The identity of weak and strong extensions of differential operators.—
Trans. Amer. Math. Soc. 55 A944), 132—151.
[3] On the differentiability of the solutions of linear elliptic differential
equations. — Comm. Pure Appl. Math. 6 A953), 299—326.
[4] On the perturbation of continuous spectra. — Comm. Pure Appl. Math.
1 A948), 361—406.
Friedrichs K., Lewy H. [1] Ober die Eindeutigkeit und des Abhangigkeitsgebiet
der Losungen beim Anfangswertproblem linearer hyperbolischer pifferential-
gleichungen. — Math. Ann. 98 A928), 192—204.
Froman N., Froman P. O. [1] JWKJB approximation. Contributions to the
theory. — North-Holland. Publ. Co. Amsterdam, 1965.
Fuglede B. [1] A priori inequalities connected with systems of partial diffe-
differential equations. — Acta Math. 105 A961), 177—195.
Garding L. [1] Linear hyperbolic partial differential equations with constant
coefficients. - Acta Math. 85 A951), 1—62.
[2] Dirichlet's problem for linear elliptic partial differential equations.—
Math. Stand. 1 A953), 55—72.
[3] Solution directe du probleme de Cauchy pour les equations hyperboli-
ques. — Coll. Int. CNRS, Nancy 1956, pp. 71—90. [Имеется перевод: Гор-
динг Л. Прямое решение задачи Коши для гиперболических уравнений. —
Математика, 1958, т. 2, № 1, с. 81—96.]
[4] Transformation de Fourier des distributions homogenes. — Bull. Soc.
Math. France 89 A961), 381—428.
Г5] Local hyperbolicity. — Israel J. Math. 13 A972), 65—81.
[6] Le probleme de la derivee oblique pour l'equation des ondes. — C. R.
Acad. Sci. Paris 285 A977), 773—775. Rectification C. R. Acad. Sci. Paris
286 A978), 1199.

Литература 437
[7] On the asymptotic distribution of the eigenvalues and eigenfunctions
of elliptic differential operators.—Math. Scand. 1 A953), 237—255.
Garding L., Lions J. L. [1] Functional analysis. — Nuovo Cimento N. 1 del
Suppl. al Vol. A0) 14 A959), 9—66.
Garding L., Malgrange B. [1] Operateurs differentiels partiellement hypoellipti-
ques et partiellement elliptiques. — Math. Scand. 9 A961), 5—21.
Gask H. [1] A proof of Schwartz' kernel theorem. — Math. Scand. 8 (I960),
327—332.
Gevrey M. [1] Demonstration du theoreme de Picard — Bernstein par la me-
thode des contours successifs; prolongement analytique. — Bull. Sci. Math.
50 A926), 113—128.
Glaeser G. [1] Etude de quelques algebres Tayloriennes. — J. Analyse Math. 6
A958), 1—124.
Godin P. [1] Propagation des singularites pour les operateurs pseudo-differen-
tiels de type principal a partie principal analytique verifiant la condition (Я),
en dimension 2. — С R. Acad. Sci. Paris 284 A977), 1137—1138.
Grubb G. [1] Boundary problems for systems of partial differential operators
of mixed order.— J. Functional Analysis 26 A977), 131—165.
[2] Problemes aux limites pseudo-differentiels dependant d'une parametre. —
С R. Acad. Sci. Paris 292 A981), 581—583.
Gudmundsdottir G. [1] Global properties of differential operators of constant
strength. — Ark. Mat. 15 A977), 169—198.
Guillemin V. [1] The Radon transform on Zoll surfaces. — Adv. in Math. 22
A976), 85—119.
[2] Some classical theorems in spectral theory revisited. Sem. on sing, of
sol. of diff. eq. — Princeton University Press, Princeton N. J., 1979,
pp. 219—259.
[3] Some spectral results for the Laplace operator with potential on the
tt-sphere. — Adv. in Math. 27 A978), 273—286.
Guillemin V., Schaeffer D. [1] Remarks on a paper of D. Ludwig. — Bull.
Amer. Math. Soc. 79 A973), 382—385.
Guillemin V., Sternberg S. [1] Geometrical asymptotics. — Amer. Math. Soc.
Surveys 14, Providence, R. I. 1977. [Имеется перевод: Гийемин В., Стерн-
берг С. Геометрические асимптотики. — М.: Мир, 1980.]
Hack M. N. [1] On covergence to the Moller wave operators. — Nuovo Cimento
A0) 13 A959), 231—236.
Hadamard J. [1] Le probleme de Cauchy et les equations aux derivees par-
tielles lineaires hyperboliques. — Paris 1932.
Haefliger A. [1] Varietes feuilletees. — Ann. Scuola Norm. Sup. Pisa 16
A962), 367—397.
Hanges N. [1] Propagation of singularities for a class of operators with double
characteristics. Sem. on sing, of sol. of linear partial diff. eq. — Princeton
Univ. Press, Princeton, N. J., 1979, pp. 113—126.
Hardy G. H., Littlewood J. E. [11 Some properties of fractional integrals (I)
Math Z. 27 A928), 565—606; (II) Math., Z. 34 A931—32), 403—439.
Hausdorff F. [1] Eine Ausdehnung des Parsevalschen Satzes uber Fourierrei-
hen.— Math. Z. 16 A923), 163—169.
Hayman W. K-, Kennedy P. B. [1] Subharmonic functions I. — Academic Press,
London, New York, San Francisco 1976. [Имеется перевод: Хейман У.,
Кеннеди П. Субгармонические функции. — М.: Мир, 1980.]
Hedberg L. I. [1] On certain convolution inequalities. — Proc. Amer. Math. Soc.
36 A972), 505—510.
Heinz E. [1] Uber die Eindeutigkeit beim Cauchyschen Anfangswert problem
einer elliptischen Differentialgleichung zweiter Ordnung. — Nachr. Acad.
Wiss. Gottingert Math.-Phys. Kl. ПА No. 1 A955), 1 — 12.
Helffer B. [1] Addition de variables et applications a la regularite. — Ann.
Inst. Fourier (Grenoble) 28:2 A978), 221—231.

438 Литература
Helffer В., Nourrigat J. fl] Characterisation des operateurs hypoelHptlques ho-
mogenes invariants a gauche sur un groupe de Lie nilpotent gradue. —
Comm. Partial Differential Equations 4 : 8 A979), 899—985.
Herglotz G. [1] Uber die Integration linearer partieller Differentialgleichungen
mit konstanten Koeffizienten I—III. — Berichte Sachs. Akad. d. Wiss. 78
A926), 93—126, 287—318; 80 A928), 69—114.
Hersch R. [1] Boundary conditions for equations of evolution. — Arch. Rational
Mech. Anal. 16 A964), 242—264.
[2] On surface waves with finite and infinite speed of propagation. — Arch.
Rational Mech. Anal. 19 A965), 308—316.
Hirzebruch F. [1] Neue Topologische Methoden in der algebraischen Geomet-
rie. — Springer-Verlag, Berlin. Gottingen, Heidelberg, 1956. [Имеется пере-
перевод англ. изд. 1966 г.: Хирцебрух Ф. Топологические методы в алгебраи-
алгебраической геометрии. — М.: Мир, 1973.]
Hlawka Е. [1] Uber Integrale auf convexen Korpern. I. — Monatsh. Math. 64
A950), 1—36.
Holmgren E. [1] Uber Systeme von linearen partiellen Differentialgleichun-
gen. — Ofversigt at Kongl. Vetenskaps-Akad. Forh. 58 A901), 91—103.
[2] Sur l'extension de la methode d'integration de Riemann. — Ark. Mat.
Astr. Fys. 1, No. 22 A904), 317—326.
Hormander L. [1] On the theory of general partial differential operators.—
Acta Math. 94 A955), 161—248. [Имеется перевод: Хёрмандер Л. К теории
общих дифференциальных операторов в частных производных. — М.: ИЛ,
1959.]
[2] Local and global properties of fundamental solutions. — Math. Scad. 5
A957), 27—39.
[3] On the regularity of the solutions of boundary problems. — Acta Math.
99 A958), 225—264. [Имеется перевод: Хёрмандер Л. О регулярности ре-
решений граничных задач. — Математика, 1960, т. 4, № 4, с. 37—73.]
[4] On interior regularity of the solutions of partial differential equations.—
Comm. Pure Appl Math. 11 A958), 197—218.
[5] On the division of distributions by polynomials. — Ark. Mat. 3 A958),
555—568. [Имеется перевод: Хёрмандер Л. О делении обобщенных функ-
функций на полиномы. — Математика, 1959, т. 3, № 5, с. 117—130.1
[6] Differentiability properties of solutions of systems of differential equa-
equations.—Ark. Math. 3 A958), 527—535.
[7] Definitions of maximal differential operators. — Ark. Mat. 3 A958),
501—504.
[8] On the uniqueness of the Cauchy problem I, II.—Math. Scand. 6 A958),
213—225; 7 A959), 177—190.
[9] Null solutions of partial differential equations. — Arch. Rational Mech.
Anal. 4 A960), 255—261.
[10] Differential operators of principal type.— Math. Ann: 140 A960),
124—146. [Имеется перевод: Хёрмандер Л. Дифференциальные операторы
главного типа. — Математика, 1961, в. 5, № 5, с. 89—114.]
[11] Differential equations without solutions.— Math. Ann. 140 A960),
169—173. [Имеется перевод: Хёрмандер Л. Дифференциальные уравнения
без решений. — Математика, 1961, т. 5, № 5, с. 115—120.]
[12] Hypoelliptic differential operators. — Ann. Inst. Fourier (Grenoble) 11
A961), 477—492. [Имеется перевод: Хёрмандер Л. Гипоэллиптические
дифференциальные операторы. — Математика, 1963, т. 7, № 1, с. 66—78,]
[13] Estimates for translation invariant operators in IP spaces. — Acta
Math. 104 A960), 93—140. [Имеется перевод: Хёрмандер Л. Оценка для
операторов, инвариантных относительно сдвига. — М.: ИЛ, 1962.]
[14] On the range of convolution operators. — Ann. of Math. 76 A962),
148—170. [Имеется перевод: Хёрмандер Л. Об области значений диффе-
дифференциальных операторов и операторов свертки. — Математика, 1962, т. б,
№ 3, с. 37—66.]

Литература 439
[15] Supports and singular supports of convolutions. — Acta Math. 110
A963), 279—302.
[16] Pseudo-differential operators. — Comm. Pure Appl. Math. 18 A965),
501—517. [Имеется перевод: Хёрмандер Л. Псевдодифференциальные опе-
операторы. В сб.: Псевдодифференциальные операторы. — М.: Мир, 1967,
с. 63—87.]
[17] Pseudo-differential operators and non-elliptic boundary problems.—
Ann. of Math. 83 A966), 129—209. [Имеется перевод: Хёрмандер Л. Псев-
Псевдодифференциальные операторы и неэллиптические краевые задачи. В том
же сб., с. 166—296.]
[18] Pseudo-differential operators and hypoelliptic equations. — Amer. math.
Soc. Symp. on Singular Integrals, 1966, pp. 138—183. [Имеется перевод:
Хёрмандер Л. Псевдодифференциальные операторы и гипоэллиптические
уравнения. В том же сб., с. 297—367.]
[19] An introduction to complex analysis in several variables. — D. van
Nostrand Publ. Co., Princeton. N. J. 1966. [Имеется перевод: Хёрмандер Л.
Введение в теорию функций нескольких комплексных переменных. — М.:
Мир, 1968.]
[20] Hypoelliptic second order differential equations. — Acta Math. 119
A967), 147—171. [Имеется перевод: Хёрмандер Л. Гипоэллиптические диф-
дифференциальные уравнения второго порядка. — Математика, 1968, т. 12, №2,
с. 88—109.]
[21] On the characteristic Cauchy problem. — Ann. of Math. 88 A968),
341—370. [Имеется перевод: Хёрмандер Л. О характеристической задаче
Коши. — Математика, 1969, т. 13, № 1, с. 83—110.]
[22] The spectral function of an elliptic operator. — Acta Math. 121 A968),
193—218. [Имеется перевод: Хёрмандер Л. Спектральная функция эллип-
эллиптического оператора. — Математика, 1969, т. 13, № 6, с. 114—137.]
[23] Convolution equations in convex domains.— Invent. Math. 4 A968),
306—317.
B4] On the singularities of solutions of partial differential equations. —
:omm. Pure Appl. Math. 23 A970), 329—358. [Имеется перевод: Хёрман-
Хёрмандер Л. Об особенностях решений дифференциальных уравнений в частных
производных. — Математика, 1972, т. 16, № 6, с. 33—59.]
[25] Linear differential operators. — Actes Congr. Int. Math. Nice 1970, 1,
pp. 121—133.
[26a] The calculus of Fourier integral operators. — Prospects in math. Ann.
of Math. Studies 70 A971), 33—57.
[26] Fourier integral operators I. —Acta Math. 127 A971), 79—183. [Име-
[Имеется перевод: Хёрмандер Л. Интегральные операторы Фурье. I. — Матема-
Математика. 1972, т. 16, № 1, с. 17—61.]
!27] Uniqueness theorems and wave front sets for solutions of linear dif-
erential equations with analytic coefficients. — Comm, Pure Appl. Math. 24
A971), 671—704. [Имеется перевод: Хёрмандер Л. Теоремы единственно-
единственности и волновые фронты для решений линейных дифференциальных уравне-
уравнений с аналитическими коэффициентами. — Математика, 1973, т. 17, № 6,
с. 82—110.]
[28] A remark on Holmgren's uniqueness theorem. — J. Diff. Geom. 6
A971), 129—134.
[29] On the existence and the regularity of solutions o* linear psedo-diffe-
rential equations. —Eas. Math. 17 A971), 99—163. [И\ зется перевод: Хёр-
Хёрмандер Л. О существовании и регулярности решений линейных псевдо-
псевдодифференциальных уравнений. — УМН, 1973, т. 28, № 6, с. 109—164.]
[30] On the singularities of solutions of partial differential equations with
constant coefficients. — Israel Math. J. 13 A972), 82—105.
[31] On the existence of real analytic solutions of partial differential equa-
equations with constant coefficients. — Invent. Math. 21 A973), 151 — 182.

440 Литература
[32] Lower bounds at infinity for solutions of differential equations with
constant coefficients. — Israel J. Math. 16 A973), 103—116.
'33] Non-uniqueness for the Cauchy problem.— Springer Lecture Notes in
^ath. 459 A975), 36—72.
34] The existence of wave operators in scattering theory. — Math. Z. 146
1976), 69—91.
'35] A class of hypoelliptic pseudo-differential operators with double cha-
characteristics. — Math. Ann. 217 A975), 165—188.
[36] The Cauchy problem for differential equations with double characteris-
characteristics.—J. Analyse Math. 32 A977), 118—196.
[37] Propagation of singularities and semiglobal existence theorems for
(pseudo-) differential operators of principal type. — Ann. of Math. 108
A978), 569—609.
[38] Subelliptic operators. Seminar on sing, of sol. of diff. eq. — Princeton
Univ. Press, Princeton, N. J., 1979, pp. 27—208.
[39] The Weyl calculus of pseudo-differential operators.— Comm. Pure Appl.
Math. 32 A979), 359—443.
[40] Pseudo-differential operators of principal type. Nato Adv. Study Inst.
on Sing, in Bound. Value Problems. — Reidel Publ. Co. Dordrecht. 1981,
pp. 69—96.
[41] Uniqueness theorems for second order elliptic differential equations.—»
Comm. Partial Differential Equations 8 A983), 21—64.
[42] On the index of pseudo-differential operators. In: Elliptische Differen-
tialgleichungen, Band II. — Akademie-Verlag, Berlin, 1971, S. 127—146.
[Имеется перевод: Хёрмандер Л. Об индексе псевдодифференциальных
операторов. — Математика, 1970, т. 14, № 4, с. 78—97.]
[43] L2 estimates for Fourier integral operators with complex phase. — Ark.
Mat. 21 A983), 294—313.
[44] On the subelliptic test estimates. — Comm. Pure Appl. Math. 33 A980),
339—363.
Hurwitz A. [1] Ober die Nullstellen der Bessel'schen Function. — Math. Ann,
33 A889), 246—266.
lagolnitzer D. [1] Microlocal essential support of a distribution and decompo-
decomposition theorems. — an introduction. In: Hyperfunctions and theoretical phy-
physics. _ Springer Lecture Notes in Math. 449 A975), 121—132.
Ikebe T. [1] Eigenfunction expansions associated with the Schrodinger opera-
operator and their applications to scattering theory. — Arch. Rational Mech. Anal.
5 A960), 1—34.
Ikebe Т., Saito Y. [1] Limiting absorption method and absolute continuity for
the Schrodinger operator. —J. Math. Kyoto Univ. 12 A972), 513—542.
Iwasaki N. [1] Cauchy problems for effectively hyperbolic operators (to
appear).
Jauch J. M., Zinnes 1. 1. [1] The asymptotic condition for simple scattering
systems. —Nuovo Cimento A0) 11 A959), 553—567.
Jerison D., Kenig С. Е. [1] Unique continuation and absence of positive
eigenvalues for Schrodinger operators. — Univ. of Minnesota Math. Report
83—160.
John F. [1] On linear differential equations with analytic coefficients. Unique
continuation of data. —Comm. Pure Appl. Math. 2 A949), 209—253.
[2] Plane waves and spherical means applied to partial differential equa-
equations. — New York 1955. [Имеется перевод: Ион Ф. Плоские волны и сфе-
сферические средние в применении к дифференциальным уравнениям с част*
ными производными. — М.: ИЛ, 1958.]
[31 Non-admissible data for differential equations with constant coeffi-
coefficients. — Comm. Pure Appl. Math. 10 A957), 391—398.
[4] Continuous dependence on data for solutions of partial differential
equations with a prescribed bound.— Comm. Pure Appl. Math. 13 (I960),
551—585,

IS
Литература 441
[5] Linear partial differential equations with analytic coefficients. — Proc.
Wat. Acad. Sci. 29 A943), 98-104.
Jorgens K., Weidmann J. [1] Zur Existenz der Wellenoperatoren. — Math. Z.
131 A973), 141—151.
Kashiwara M. [1] Introduction to the theory of hyperfunctions. In: Sem. on
microlocal analysis. — Princeton Univ. Press, Princeton, N. J.t 1979, pp. 3—
38.
Kashiwara M., Kawai T. [1] Microhyperbolic pseudo-differential operators. I.—
J. Math. Soc. Japan. 27 A975), 359—404.
Kato T. [1] Growth properties of the reduced wave equation with a variable
coefficient. — Comm. Pure Appl. Math. 12 A959), 403—425.
Keller J. B. [1] Corrected Bohr — Sommerfeld quantum conditions for non-
separable systems. — Ann. Phys. 4 A958), 180—188.
Kitada H. [1] Scattering theory for Schrodinger operators with longrange po-
potentials. I: Abstract theory. —J. Math. Soc. Japan 29 A977), 665—691;
II: Spectral and scattering theory. —J. Math. Soc. Japan 30 A978), 603—
632.
Knapp A. W., Stein E. M. [1] Singular integrals and the principal series.—
Proc. Nat. Acad. Sci. USA 63 A969), 281—284.
Kohn J. J. [1] Harmonic integrals on strongly pseudo-convex manifolds 1, II.—
Ann. of Math. 78 A963), 112—148; 79 A964), 450—472.
[2] Pseudo-differential operators CIME conference, Stresa 1968. — Edizione
Cremonese, Roma 1969, pp. 157—165.
Kohn J. J., Nirenberg L. [1] On the algebra of pseudo-differential operators.—
Comm. Pure Appl. Math 18 A965), 269—305. [Имеется перевод: Кон Дж„
Ниренберг Л. Алгебра псевдодифференциальных операторов. В сб.: Псев-
Псевдодифференциальные операторы. — М.: Мир, 1967, с. 9—62.]
[2] Non-coercive boundary value problems. — Comm. Pure Appl. Math. 18
A965), 443—492.
Komatsu H. [1] A local version of Bochner's tube theorem. — J. Fac. Sci. Tokyo
Sect. I-A Math. 19 A972), 201—214.
[2] Boundary values for solutions of elliptic equations. Proc. Int. Conf.
Fund. Anal. Rel. Topics —Univ. of Tokyo Press, Tokyo 1970, pp. 107—121.
Kreiss H. O. [1] Initial boundary value problems for hyperbolic systems.—
Comm. Pure Appl. Math. 23 A970), 277—298. [Имеется перевод:
Крайс Х.-О. Смешанная задача для гиперболических систем. — Матема-
Математика, 1970, т. 14, № 4, с. 98—111.]
Krzyzanski М., Schauder J. [1] Quasilineare Differentialgleichungen zweiter
Ordnung vom hyperbolischen Ту pus. Gemischte Randwertaufgaben. — Studia
Math 6 A936), 162-189.
Kumano-go H. [11 Factorizations and fundamental solutions for differential
operators of elliptic-hyperbolic type. — Proc. Japan Acad. 52 A976), 480—
483.
Kuroda S. T. [1] On the existence and the unitary property of the scattering
operator. — Nuovo Cimento A0) 12 A959), 431—454.
Lascar В., Lascar R. [1] Propagation des singularites pour des equations
hyperboliques a caracteristiques de multiplicite au plus double et singularites
Masloviennes II.— J. Analyse Math. 41 A982), 1—38.
Lax P. D [1] On Cauchy's problem for partial differential equations with
multiple characteristics. — Comm. Pure Appl. Math. 9 A956), 135—169.
[2] On Cauchy's problem for hyperbolic equations and the differentiability
of solutions of elliptic equations. — Comm. Pure Appl. Math. 8 A955),
615—633.
S3] Asymptotic solutions of oscillatory initial value problems.— Duke Math.
. 24 A957), 627—646.
Lax P. D. Nirenberg L. [1] On stability for difference schemes: a sharp form
of Garding's inequality. —Comm. Pure Appl. Math. 19 A966), 473-492.

442 Литература
[Имеется перевод: Лаке П., Ниренберг Л. Об устойчивости разностных
схем; точная форма неравенства Гординга. — Математика, 1967, т. 11, № 6,
с. 3—20.]
Lebeau G. [1] Fonctions harmoniques et spectre singulier. — Ann. Sci. Ecole
Norm. Sup. D) 13 A980), 269—291.
Lelong P. [1] Plurisubharmonic functions and positive differential forms.—
Gordon and Breach, New York, London, Paris 1969.
[2] Proprietes metriques des varietes definies par une equation. — Ann. Sci.
Ecole Norm. Sup. 67 A950), 22—40.
Leray J. [1] Hyperbolic differential equations. — The Institute for Advanced
Study, Princeton, N. J., 1953. [Имеется перевод: Лере Ж. Гиперболические
дифференциальные уравнения. — М.: Наука, 1984.]
[2] Uniformisation de la solution du probleme lineaire analytique de Cauchy
pres de la variete qui porte les donnees de Cauchy.— Bull. Soc. Math.
France 85 A957), 389—429. [Имеется перевод: Лере Ж. Униформизация
решений линейной аналитической задачи Коши в окрестности многообра-
многообразия, несущего начальные данные. — Математика, 1959, т. 3, № 5, с. 57—89.]
Lerner N. [1] Unicite de Cauchy pour des operateurs differentiels faiblement
principalement normaux (to appear).
Lerner N., Robbiano L [1] Unicite de Cauchy pour des operateurs de type prin-
principal.—J. Analyse Math, (to appear).
Levi E. E. [1] Caratterische multiple e problema di Cauchy. — Ann. Mat. Рига
Appl. C) 16 A909), 161-201.
Levinson N. [1] Transformation of analytic function of several variables to
a canonical form. — Duke Math. J. 28 A961), 345—353.
Lewy H. [1] An example of a smooth linear partial differential equation
without solution.— Ann. of Math. 66 A957), 155—158.
S2] Extension of Huyghen's principle to the ultrahyperbolic equation. —
inn. Mat. Рига Appl. D) 39 A955), 63—64.
Lions J. L. [1] Supports dans la transformation de Laplace. — J. Analyse Math."
2 A952—53), 369—380.
Lions J. L., Magenes E. [1] Problemes aux limites non homogenes et applica-
applications I—III. — Dunod. Paris, 1968—1970. [Имеется перевод: Лион Ж.-Л.,
Мадженес Э. Неоднородные граничные задачи и их приложения. — М.:
Мир, 1971.]
Lojasiewicz S. [1] Sur le probleme de division. — Studia Math. 18 A959),
87—136.
Luke G. [1] Pseudodifferential operators on Hilbert bundles. — J. Differential
Equations 12 A972), 566-589.
Ludwig D. [1] Exact and asymptotic solutions of the Cauchy problem. — Comm.
Pure Appl. Math. 13 A960), 473—508.
[2] Uniform asymptotic expansions at a caustic. — Comm. Pure Appl. Math.
19 A966), 215—250.
Malgrange B. [1] Existence et approximation des solutions des equations aux
derivees partielles et des equations de convolution. — Ann. Inst. Fourier
(Grenoble) 6 A955—56), 271—355.
[2] Sur une class d'operateurs differentiels hypoelliptiques. — Bull. Math.
France 85 A957), 283—306.
[3] Sur la propagation de la regularite des solutions des equations a coeffi-
coefficients constants. — Bull. Math. Soc. Sci. Math. Phys. R. P. Roumanie 3 E3)
A959), 433—440.
[4] Sur les ouverts convexes par rapport a une operateur differentiel. —
С R. Acad. Sci. Paris 254 A962), 614—615.
[5] Sur les systemes differentiels a coefficients constants. — Coll. CNRS,
Paris 1963, pp. 113—122.
[6] Ideals of differentiable Functions. — Tata Institute, Bombay, and Oxford
University Press 1966. [Имеется перевод: Мальгранж Б. Идеалы диффе-
дифференцируемых функций. — М.: Мир, 1968.]

Литература 443
Mandelbrojt S. [1] Analytic functions and classes of infinitely differentiable
functions. — Rice Inst. Pamphlet 29 A942), 1—142.
[2] Series adherentes, regularisations des suites, applications. — Coll. Borel,
Gauthier-Villars, Paris, 1952.
Martineau A. [1] Les hyperfonctions de M. Sato. — Sem. Bourbaki 1960—1961,
Expose No. 214.
[2] Le «edge of the wedge theorem» et theorie des hyperfonctions de Sato.
Proc. Int. Conf. Funct. Anal. Rel. Topics. — Univ. of Tokyo Press, Tokyo
1970, pp. 95—106.
Mather J. [1] Stability of C°° mappings: I. The division theorem. — Ann. of
Math. 87 A968), 89-404.
Melin A. [1] Lower bounds for pseudo-differential operators. — Ark. Nat. 9
A971), 117—140.
[2] Parametrix constructions for right invariant differential operators on
nilpotent groups.— Ann. Global Analysis and Geometry 1 A983), 79—130.
Melin A., Sjostrand J. [1] Fourier integral operators with complex-valued
phase functions. — Springer Lecture Notes in Math. 459 A974), 120—223.
[2] Fourier integral operators with complex phase functions and parametrix
for an interior boundary value problem. — Comm. Partial Differential
Equations 1 :4 A976), 313—400.
Melrose R. B. [11 Transformation of boundary problems. — Acta Math. 147
A981), 149—236.
[2] Equivalence of glancing hypersurfaces. — Invent. Math. 37 A976), 165—
191.
[3] Microlocal parametrices for diffractive boundary value problems. — Duke
Math. J. 42 A975), 605—635.
[4] Local Fourier —Airy integral operators. — Duke Math. J. 42 A975),
583-604.
[5] Airy operators. —- Comm. Partial Differential Equations 3:1 A978),
1—76.
[6] The Cauchy problem for effectively hyperbolic operators. — Hokkaido
Math. J. (to appear).
[7] The trace of the wave group. — Symp. Amer. Math. Soc. (to appear).
Melrose R. В., Sjostrand J. [1] Singularities of boundary value problems I,
II. — Comm. Pure AppL Math. 31 A978), 593—617; 35 A982), 129—168.
Mikusinski J. [1] Une simple demonstration du theoreme de Titchmarsh sur
la convolution. — Bull. Acad. Pol. Sci. 7 A959), 715—717.
[2] The Bochner integral. — Birkhauser-Verlag, Basel, Stuttgart 1978.
Minakshisundaram S., Pleijel A. [1] Some properties of the eigenfunctions of
the Laplace operator on Riemannian manifold. — Canad. J. Math. 1 A949),
242—256.
Mizohata S. [1] Unicite du prolongement des solutions des equations ellippti-
ques du quatrieme ordre. — Proc. Jap. Acad. 34 A958), 687—692.
[21 St hbli J Mth S J 11 A959) 205
q q p (),
[21 Systemes hyperboliques. — J. Math. Soc. Japan 11 A959), 205—233.
3] Nt l titt l t d'itl ili
qu
[2 y yp p (),
[3] Note sur le traitement par les operateurs d'integrale singuliere du
probleme de Cauchy.— J. Math. Soc. Japan 11 A959), 234—240.
[4] Solutions nulles et solutions non analytiques. — J. Math. Kyoto Univ.
1 A962), 271—302.
[5] Some remarks on the Cauchy problem. — J. Math. Kyoto Univ. 1
A961), 109—127.
Moller S. [1] General properties of the characteristic matrix in the theory of
elementary particles. I. — Kongl. Dansk/ Vidensk. Selsk. Mat.-Fys. Medd. 23
A945), 2-48.
Morrey С. В. [1] The analytic embedding of abstract real-analytic manifolds.—
Ann. of Math. 68 (J958), 159—201.
Morrey С. В., Nirenberg L. [11 On the analyticity of the solutions of linear
elliptic systems of partial differential equations. — Comm. Pure Appl. Math.
10 A957), 271—290.

444 Литература
Моуег R. D. [1] Local solvability in two dimensions: Necessary conditions
for the principal-type case. Mimeographed manuscript. — Univ. of Kansas
1978.
Muller C. [1] On the behaviour of the solutions of the differential equation
Д1/ = F(x, U) in the neighborhood of a point. — Comm. Pure Appl. Math.
7 A954), 505—515.
Munster M. [1] On A. Lax's condition of hyperbolicity. — Rosky Mountain
J. Math. 8 A978), 443—446.
[2] On hyperbolic polynomials with constant coefficients. — Rocky Moun-
Mountain J. Math. 8 A978), 653—673.
von Neumann J., Wigner E. [1] Ober merkwurdige diskrete Eigenwerte.—
Phys. Z. 30 A929), 465—467.
Nirenberg L. [1] Remarks on strongly elliptic partial differential equations.—
Comm. Pure Appl. Math. 8 A955), 648—675.
[2] Uniqueness in Cauchy problems for differential equations with constant
coefficients. — Comm. Pure Appl. Math. 10 A957), 89—105.
[3] A proof of the Malgrange preparation theorem. Liverpool singulari-
singularities I. — Springer Lecture Notes in Math. 192 A971), 97—105.
[4] On elliptic partial differential equations. — Ann. Scuola Norm. Sup.
Pisa C) 13 A959), 115—162.
[5] Lectures on linear partial differential equations. — Amer. Math. Soc.
Regional Conf. in Math. 17 A972), 1—58. [Имеется перевод: Ниренберг Л.
Лекции о линейных дифференциальных уравнениях в частных производ-
производных. — УМН, 1975, т. 30, № 4, с. 147—204.]
Nirenberg L., Treves F. [1] Solvability of a first order linear partial diffe-
differential equation.—Comm. Pure Appl. Math. 16 A963), 331—351.
[2] On local solvability of linear partial, differential equations. I. Necessary
conditions. II. Sufficient conditions. Correction. — Comm. Pure Appl. Math.
23 A970), 1—38, 459—509; 24 A971), 279—288. [Имеется перевод: Нирен-
Ниренберг Л., Трев Ф. О локальной разрешимости линейных дифференциальных
уравнений в частных производных. I. Необходимые условия, II. Достаточ-
Достаточные условия. Поправка к статье «О локальной разрешимости...». — Мате-
Математика, 1971, т. 15, № 3, с. 142—172; № 4, с. 68—110; 1972, т. 16, № 4,
с. 149—152.1
Nishitani I. [I] Local energy integrals for effectively hyperbolic operators I.
(to appear).
Noether F. [1] Ober eine Klasse singularer Integralgleichungen. — Math. Ann.
82 A921), 42—63.
Oshima T. [1] On analytic equivalence of glancing hypersurfaces. — Sci. Papers
Colege Gen. Ed. Univ. Tokyo 28 A978), 51—57.
Paley R. E. A. C, Wiener N. [1] Fourier transforms in the complex domain.—
Amer. Math. Soc. Coll. Publ. XIX, New York, 1934. [Имеется перевод:
Винер Н., Пэли Р. Преобразование Фурье в комплексной области. — М.:
Наука, 1964.]
Pederson R. [1] On the unique continuation theorem for certain second and
forth order elliptic equations. — Comm. Pure Appl. Math. 11, A958), 67—80.
[2] Uniqueness in the Cauchy problem for elliptic equations with double
characteristics. — Ark. Mat. 6 A966), 535—549.
Peetre J. [1] Theoremes de regularite pour quelques classes d'operateurs diffe-
rentiels. Thesis. — Lund 1959.
[21 Rectification к Particle «Une caracterisation abstraite des operateurs
differentiels». — Math. Scand. 8 A960), 116-120,
13] Another approach to elliptic boundary problems. — Comm. Pure Appl.
lath. 14 A961), 711—731.
[4] New thoughts on Besov spaces. Duke Univ. Math. Series I. — Durham.
N. C, 1976.
Persson J. [11 The wave operator and P-convexity. — Boll. Un. Mat. Hal. E)
18-B A981), 591—604.

Литература 445
Pham The Lai [1] Meilleurs estimations asymptotiques des restes de la fonc-
tion spectrale et des valeurs propres relatifs au laplacien. — Math. Scand.
48 A981), 5—31.
Piccinini L. C. [1] Non surjectivity of the Cauchy — Riemann operator on the
space of the analytic functions of Rn. Generalization to the parabolic opera-
operators. - Bull. Un. Mat. Ital. D) 7 A973), 12—28.
Plis A. [1] A smooth linear elliptic differential equation without any solution
in a sphere. — Conn. Pure Appl. Math. 14 A961), 599—617.
[2] The problem of uniqueness for the solution of a system of partial
differential equations. — Bull. Acad. Pol. Sci. 2A954), 55—57.
[3] On non-uniqueness in Cauchy problem for an elliptic second order diffe-
differential equation. — Bull. Acad. Pol. Sci. 11 A963), 95—100.
Poincare H. [1] Sur les proprietes du potentiel et les fonctions abeliennes.—
Acta Math. 22 A899), 89—178.
Ralston J. [1] Solutions of the wave equation with localized energy. — Comm.
Pure Appl. Math. 22 A969), 807—823.
[2] Gaussian beams and the propagation of singularities. — MAA Studies in
Math. 23 A983), 206—248.
Reed M., Simon В. П] Methods of modern mathematical physics. III. Scatter-
Scattering theory. — Academic Press 1979. [Имеется перевод: Рид М., Саймон Б.
Методы современной математической физики. Т. 3. Теория рассеяния.—М.:
Мир, 1982.]
Rempel S., Schulze B.-W. [1] Index theory of elliptic boundary problems. —
Akademie-Verlag, Berlin, 1982. [Имеется перевод: Ремпель С, Шуль-
це Б.-В. Теория индекса эллиптических краевых задач. — М.: Мир, 1986.]
de Rham G. [1] Varietes differentiables.— Hermann, Paris 1955. [Имеется пе-
перевод: Де Рам Ж. Дифференцируемые многообразия. — М.: ИЛ, 1956.]
Riesz F. [1] Sur ^existence de la derivee des fonctions d'une variable reelle
et des fonctions d'intervalle. — Verh. Int. Math. Congr. Zurich 1932, I,
S. 258—269.
Riesz M. [1] L'integrale de Riemann — Liouville et le probleme de Cauchy.—
Acta Math. 81 A949), 1—223.
[2] Sur les maxima des formes bilineaires et sur les fonctionnelles line-
aires. —Acta Math. 49 A926), 465—497.
[31 Sur les fonctions conjuguees. — Math. Z. 27 A928), 218—244.
[4] Problems related to characteristic surfaces. — Proc. Conf. Diff. Eq. Univ.
Maryland 1955, pp. 57—71.
.thschild L. P. [1] A criter ._ ,t . t , .t
from vector fields.—Comm. Partial Diff. Equations 4:6 A979), 645—699.
Rothschild L. P. [1] A criterion for hypoellipticity of operators constructed
Saito Y. [1] On the asymptotic behavior of the solutions of the Schrodinger
equation (—A + Q(y)— k2)V = F. — Osaka J. Math. 14 A977), 11—35.
[2] Eigenfunction expansions for the Schrodinger operators with long-range
potentials Q (у) = О (| у |~e), e > 0. - Osaka J. Math. 14 A977), 37—53.
Sakamoto R. [1] E-well posedness for hyperbolic mixed problems with constant
coefficients. — J. Math. Kyoto Univ. 14 A974), 93—118.
[2] Mid bl f hbli ti I J M
y (),
[2] Mixed problems for hyperbolic equations I. — J. Math. Kyoto Univ. 10
A970), 375—401; II ibid. 403—417.
Sato M. [1] Theory of hyperfunctions 1. — J. Fac. Sci. Univ. Tokyo I, 8 A959),
139—193.
[2] Theory of hyperfunctions II.— J. Fac. Sci. Univ. Tokyo I, 8 A960),
387—437.
[3] Hyperfunctions and partial differential equations. — Proc. Int. Conf. on
Funct. Anal, and Rel. Topics, Tokyo Univ. Press, Tokyo 1969, pp. 91—94.
[4] Regularity of,hyperfunction solutions of partial differential equations.—
Actes Congr. Int. Math. Nice 1970, 2, pp. 785—794.
ito M., Kawai Т., Kashiwara M. [1] Hyperfunction
equations. — Springer Lecture Notes in Math. 287 A973), 265—529.
Sato M., Kawai Т., Kashiwara M. [1] Hyperfunctions and pseudodifferential

446 Литература
Schaefer H. H. [1] Topological vector spaces. — Springer-Verlag, New York,
Heidelberg, Berlin 1970. [Имеется перевод: Шефер X. Топологические век-
векторные пространства. — М.: Мир, 1971.]
Schapira P. [1] Hyperfonctions et problemes aux limites elliptiques. — Bull.
Soc. Math. France 99 A971), 113—141.
[2] Propagation at the boundary of analytic singularities. — Nato Adv.
Study Inst. on Sing, in Bound. Value Problems. Reidel Publ. Co., Dordrecht
1981, pp. 185—212a.
[3] Propagation at the boundary and reflection of analytic singularities of
solutions of linear partial differential equations. — Publ. RIMS, Kyoto Univ.,
12 Suppl. 1977, pp. 441—453.
Schechter M. [I] Various types of boundary conditions for elliptic equations.—
Comm. Pure Appl. Math. 13 A960), 407—425.
[2] A generalization of the problem of transmission. — Ann. Scuola Norm.
Sup. Pisa 14 A960), 207-И6.
Schwartz L. [1] Theorie des distributions I, II. — Hermann, Paris, 1950—51.
[2] Theorie des noyaux. — Proc. Int. Congr. Math. Cambridge 1950, I,
pp. 220—230.
[3] Sur l'impossibilite de la multiplication des distributions. — С R. Acad.
Sci. Paris 239 A954), 847—848.
[4] Theorie des distributions a valeurs vectorielles I. — Ann. Inst. Fourier
(Grenoble) 7 A957), 1 — 141.
[5] Transformation de Laplace des distributions. — Comm. Sem. Math. Univ.
Lund, Tome suppl. dedie a Marcel Riesz, 1952, pp. 196—206.
[6] Theorie generate des fonctions moyenne-periodiques. — Ann. of Math. 48
A947), 857—929.
Seeley R. T. [1] Singular integrals and boundary problems. — Amer. J. Math
88 A966), 781—809.
[2] Extensions of C°° functions defined in a half space. — Proc. Amer. Math.
Soc. 15 A964), 625-626.
[3] A sharp asymptotic remainder estimate for the eigenvalues of the Lap-
lacian in a domain of R3. — Advances in Math. 29 A978), 244—269.
[4] An estimate near the boundary for the spectral function of the Laplace
operator. — Amer. J. Math. 102 A980), 869—902.
[5] Elliptic singular integral equations. — Amer. Math. Soc. Symp. on Sin-
Singular Integrals, 1966, pp. 308—315.
Seidenberg A. [1] A new decision method for elementary algebra.— Ann of
Math. 60 A954), 365—374.
Shibata Y. [1] ?-well posedness of mixed initial-boundary value problems with
constant coefficients in a quarter space. — J. Analyse Math. 37 A980), 32—
45.
Siegel С L. [1] Zu den Beweisen des Vorbereitungssatzes von Weierstrass. In:
Abhandl. aus Zahlenth. u. Anal. — Plenum Press, New York 1968, pp. 299—
306.
Sjostrand J. [1] Singularites analytiques microlocales. — Prepublications Uni-
versite de Paris-Sud 82—03.
[2] Analytic singularities of solutions of boundary value problems. Nato
Adv. Study Inst. on Sing, in Bound. Value Prob., Reidel Publ. Co. Dor-
Dordrecht 1981, pp. 235—269.
[3] Parametricies for pseudodifferential operators with multiple characte-
characteristics. Ark. Mat. 12 A974), 85—130.
[4] Propagation of analytic singularities for second order Dirichlet problems
I, II, III. —Comm. Partial Differential Equations 5: 1 A980), 41—94- 5-2
A980), 187—207; 6:5 A981), 499—567.
[5] Operators of principal type with interior boundary conditions. — Acta
Math. 130 A973), 1—51.

Литература 447
Sommerfeld A. [1] Optics. Lectures on theoretical physics IV. — Academic
Press, New York 1969. [Имеется перевод: Зоммерфельд А. Оптика. — M.:
ИЛ, 1953.]
Stein Е. М. [1] Singular integrals and differentiability properties of func-
functions.— Princeton Univ. Press 1970. [Имеется перевод: Стейн И. Сингу-
Сингулярные интегралы и дифференциальные свойства функций. — М.: Мир,
1973.]
Sternberg S. [1] Lectures on differential geometry. — Prentice-Hall Inc., Engle-
wood Cliffs. N. J., 1964. [Имеется перевод: Стернберг С. Лекции по диф-
дифференциальной геометрии. — М.: Мир, 1964.]
Stokes G. В. [1] On the numerical calculation of a class of definite integrals
and infinite series. — Trans. Cambridge Philos. Soc. 9 A850), 166—187.
Svensson L. [1] Necessary and sufficient conditions for the hyperbolicity of
polynomials with hyperbolic principal part. — Ark. Mat. 8 A968), 145—162.
Sweeney W. J. [1] The D-Neumann problem. — Acta Math. 120 A968), 223—
• 277.
Szego G. [1] Beitrage zur Theorie der Toeplitzschen Formen. — Math. Z. 6
A920), 167—202.
Tacklind S. [1] Sur les classes quasianalytiques des solutions des equations
aux derivees partielles du type parabolique. — Nova Acta Soc. Sci. Upsa-
Hensis D) 10 A936), 1—57.
Tarski A. [1] A decision method for elementary algebra and geometry. Ma-
Manuscript, Berkeley 1951, 63 pp.
Taylor M. [1] Gelfand theory of pseudodifferential operators and hypoelliptic
operators. — Trans. Amer. Math. Soc. 153 A971), 495—510.
[2] Grazing rays and reflection of singularities of solutions to wave equa-
equations. — Comm. Pure Appl. Math. 29 A976), 1—38.
[3] Diffraction effects in the scattering of waves. In: Sing, in Bound. Value
Problems. — Reidel Publ. Co., Dordrecht 1981, pp. 271—316.
[4] Pseudodifferential operators. — Princeton Univ. Press, Princeton, N. J.,
1981. [Имеется перевод: Тейлор М. Псевдодифференциальные операторы.—
М.: Мир, 1985.]
Thorin О. [1] An extension of a convexity theorem due to M. Riesz. — Kungl.
Fys. Sallsk. Lund. Forh. S A939), No 14.
Titchmarsh E. С [1] The zeros of certain integral functions. — Proc. London
Math. Soc. 25 A926), 283—302.
Treves F. [1] Solution elementaire d'equations aux derivees partielles depen-
dependant d'un parametre. — G. R. Acad. Sci. Paris 242 A956), 1250—1252.
[21 These d'Hormander II. — Sem. Bourbaki 135, 2e ed. (Mai 1956).
[3] Relations de domination entre operateurs differentiels. — Acta Math.
101 A959), 1—139.
[4] Operateurs differentiels hypoelliptiques. — Ann. Inst. Fourier (Grenoble)
9 A959), 1—73.
[5] Local solvability in L2 of first order linear PDEs. — Amer. J. Math. 92
A970), 369—380.
[6] Fundamental solutions of linear partial differential equations with con-
constant coefficients depending on parameters.— Amer. J. Math. $4 A962),
561—577.
[7] Un theoreme sur les equations aux derivees partielles a coefficients con-
constants dependant de parametres. — Bull. Soc. Math. France 90 A962), 473—
486.
[8] A new method of proof of the subelliptic estimates. — Comm. Pure Appl.
Math. 24 A971), 71 — 115.
[9] Introduction to pseudodifferential and Fourier integral operators. Vo-
Volume 1: Pseudodifferential operators. Volume 2: Fourier integral operators.—
Plenum Press, New York and London 1980. [Имеется перевод: Трев Ф.
Введение в теорию псевдодифференциальных операторов и интегральных
операторов Фурье, В 2-х томах. — М.: Мир, 1984.]

448 Литература
Tsuji M. [1] Singularities of elementary solutions of hyperbolic equations
with constant coefficients. —- Nato Adv. Study Inst. on Sing, in Bound.
Value Probleme. Reidel Publ. Co., Dordrecht 1981, pp. 317—326.
Vauthier J. [1] Comportement asymptotique des fonctions entieres de type
exponentiel dans Cn et bornees dans le domaine reel. — J. Funct. Analysis
12 A973), 290—306.
Veselic K., Weidmann J. [1] Existenz der Wellenoperatoren fur eine allgemeine
Klasse von Operatoren. — Math. Z. 134 A973), 255—274.
[2] Asymptotic estimates of wave functions and the existence of wave ope-
operators.—J. Funct. Analysis 17 (9174), 61—77.
van der Waerden B. L [1] Einfuhrung in die algebraische Geometrie.—
Berlin 1939.
[2] Algebra I—II. 4. Aufl. — Springer Verlag, Berlin-Gottingen-Heidelberg
1959. [Имеется перевод: Ван дер Варден Б. Алгебра. 2-е изд. — М.: Нау-
Наука, 1979.]
Wang Rou-hwai, Tsui Chih-yung [1] Generalized Leray formula on positive
complex Lagrange — Grassmann manifolds. — Res. Report. Inst. of Math.,
Jilin Univ. 8209, 1982.
Warner F. W. [1] Foundations of differentiable manifolds and Lie Groups.—
Scott Foresman and Co., Glenview, 111., London 1971.
Weinstein A. [1] The order and symbol of a distribution. — Trans. Amer. Math.
Soc, 241 A978), 1—54.
[2] Asymptotics of eigenvalue clusters for the Laplacian plus a potential.—
Duke Math. J. 44 A977), 883-^892.
[3] On Maslov's quantization condition. In: Fourier integral operators and
partial differential equations. — Springer Lecture Notes in Math. 459 A974),
341__372.
Weyl H. [I] The method of orthogonal projection in potential theory. — Duke
Math. J. 7 A940), 411—444. [Имеется перевод: Вейль Г. Метод ортогональ-
ортогональной проекции в теории потенциала. В кн.: Вейль Г. Избранные труды.
Математика. Теоретическая физика. — М.: Наука, 1984, с. 275—307.]
[2] Die Idee der Riemannschen Flache. 3. Aufl. — Teubner, Stuttgart 1955.
[3] Uber gewohnliche Differentialgleichungen mit Singularitaten und die
zugehorigen Entwicklungen willkiirlicher Funktionen. — Math. Ann. 68
A910), 220—269.
[4] Das asymptotische Verteilungsgesetz der Eigenwerte linearer partieller
Differentialgleichungen (mit einer Anwendung auf die Theorie Hohlraum-
strahlung). — Math. Ann. 71 A912), 441—479.
Whitney H. [1] Analytic extensions of differentiable functions defined in closed
sets.— Trans. Amer. Math. Soc. 36 A934), 63—89.
Widom H. [I] Eigenvalue distribution in certain homogeneous spaces. — J.
Funct. Analysis 32 A979), 139—147.
Yamamoto K. [1] On the reduction of certain pseudo-differential operators with
non-involution characteristics. — J. Differential Equations 26 A977), 435—
442.
Zeilon N. [1] Das Fundamentalintegral der allgemeinen linearen Differential-
gleichung mit konstanten Koeffizienten. — Ark. Mat. Astr. Fys. 6 A911),
No 38, 1—32.
Zerner M. [1] Solutions de l'equation des ondes presentant des singularites
sur une droite. C. R. Acad. Sci. Paris 250 A960), 2980—2982.
[2] Solutions singulieres d'equations aux derivees partielles. — Bull. Soc.
Math. France 91 A963), 203—226.
[3] Domaine d'holomorphie des fonctions verifiant une equation aux deri-
derivees partielles. —С R. Acad. Sci. Paris. 171 A971), 1646—1648.
Zuily C. [1] Uniqueness and non-uniqueness in the Cauchy problem. — Pro-
Progress in Math. 33. Birkhauser, Boston, Basel, Stuttgart, 1983.
Zygmund A. [1] On a theorem of Marcinkiewicz concerning interpolation of
operators. — J. Math. Pures Appl. 35 A956), 223—248.

Именной указатель
(См. также именной указатель к т. 1)
Агмон (S. Agmon) 311
Адамар (J. Hadamard) 209
Алинак (S. Alinhac) 259
Альфорс (L. Ahlfors) 416
Ароншайн (N. Aronszajn) 311
Атья (М. F. Atiyah) 71, 210
Беренштейн (С. A. Berenstein) 417
Бернштейн И. Н. 71
Бернштейн (S. Bernstein) 109
Бёрлинг (A. Beurling) 416
Боман (J. Boman) 394
Ботт (R. Bott) 210
Бродда (В. Brodda) 210
Бьёрк (J. E. Bjork) 71, 349
Бэнг (Т. Bang) 394
Де Джорджи (Е. De Giorgi) 259,417
Дейч В. Г. 311
Дёйстермаат (J. J. Duistermaat) 209
Джон ( = Ион) (F. John) ПО, 210
Достал (М. A. Dostal) 417
Жеврей (М. Gevrey) 110
Зайденберг (A. Seidenberg) 428
Зоммерфельд (A. Sommerield) 209
Зуили (С. Zuily) 259
Икебе (Т. Ikebe) 310
Ван дер Варден (В. L. van der Waer-
den) 419
Вейдман (J. Weidmann) 310
Вейль (Н. Weyl) 109, 310
Веселич (К. Veseli6) 310
Вигнер (Е. Wigner) 311
Вотье (J. Vauthier) 416
Габриэлов А. М. 71
Гельфанд И. М. 71, 211
Герглотц (G. Herglotz) 210
Гийемин (V. W. Guillemin) 209
Гординг (L. Girding) ПО, 210, 211,
428
Горин Е. А. 428
Гудмундсдоттир (G.' Gudmundsdottir)
259
Гуревич Д. И. 417
Йоргенс (К. Jorgens) 310
Като (Т. Kato) 311
Кеннеди (Р. В. Kennedy) 416
Кокхольм (N. J. Kokholm) 6
Кон (J. J. Kohn) 348
Кордес (Н. О. Cbrdes) 311
Коротаев Е. Л. 311
Коши (A. Cauchy) 210
Коэн (P. Cohen) 259, 428
Кук (J. Cook) 310
Курода (S. Т. Kuroda) 310
Лаке (P. D. Lax) ПО, 210
Леви (Е. Е. Levi) 210
Лоясевич (S. Lojasiewicz) 71
Людвиг (D. Ludwig) 209

450 Именной указатель
Мальгранж (В. Malgrange) 49, 70,
71, ПО, 210, 259, 349, 416
Мёллер (С. Moller) 310
Морри (С. В. Моггеу) 348
Мюнстер (М. Munster) 210
Нейман фон (J. von Neumann) 311
Ниренберг (L. Nirenberg) 110
Паламодов В. П. 6, 338, 349
Перссон (J. Persson) 72
Петре (J. Peetre) 110, 259
Петровский И. Г. 82, 109, 110,209,210
Пиччинини (L. С. Piccinini) 417
Плис (A. Plis) 259
Повзнер А. Я. 311
Рид (М. Reed) 311
Рисе М. (М. Riesz) 117, 122, 209
Саймон (В. Simon) 311
Сакамото (R. Sakamoto) 211
Свенссон (L. Svensson) 210
Сибата (Y. Shibata) 211
Стернберг (S. Sternberg) 209
Тарский (A. Tarski) 428
Тейлор (М. Taylor) 259
Титчмарш (Е. С. Titchmarsh)
Трев (F. Treves) 71
Тэклинд (S. Tacklind) 211
416
Фридрихе (К. Friedrichs) НО, ЗИ
Фуледе (В. Fuglede) 71
Хейман (W. К. Hayman) 416
Хейнс (М. Heins) 416
Херш (R. Hersh) 211
Хёрмандер (L. Hormander) 70—72
87, ПО, 259, 310, 311, 348, 349,
416, 417, 428
Хиронака (Hironaka) 71
Хольмгрен (Е. Holmgren) 110
Хэк (М. N. Hack) 310
Циннес (I. I. Zinnes) 310
Цудзи (М. Tsuji) 210
Шайю (J. Chaillou) 210
Шварц (L Schwartz) НО, 417
Шефер (Н. Н. Schaefer) 396
Шилов Г. Е. 211
Шубин М. А. 5
Эйри (G. В. Airy) 209
Энквист (Z. Enqvist) 70, 210
Энсс (V. Enss) 311
Эренпрейс (L. Ehrenpreis) 6, 70, 71,
ПО, 348, 349, 416, 417
Яух (J. M. Jauch) 310
Яфаев Д. Р. 311

Предметный указатель
(См. также предметный указатель к т. 1)
Волновой оператор 113, 288
Выпуклость для носителей 50, 397
сингулярных носителей 55, 400
Герглотца — Петровского формула
150—151
Гиперболическая смешанная задача
203
Гиперболический полином 131
— по Петровскому полином см. Стро-
Строго гиперболический полином
Гиперболическое распределение 413
Гипоэллиптический оператор 75, 223
— полином 75
Гипоэллиптическое распределение 410
Главного типа оператор 48
Главный символ смешанной задачи
199
Грина функция 357
Дирихле задача 355
Дискриминант 418
Доминирование 43
Жеврея кллсс 159
Индуктивный предел 322
Каустическое множество (каустика)
124
Когерентные начальные данные 159
Короткодействующее возмущение 282
Критические значения 124, 260, 275
Лакуна см. Петровского лакуна
Локализация на бесконечности 29,
225
Локальное пространство 20
Лопатинского матрица 194
— определитель 192
Медленно убывающая функция 383,
407
Микроэллиптический оператор 223
Минимума принцип 61
Миттаг-Леффлера процедура 54
Морса —Сарда теорема 124
Обратимое распределение 383
Одинаковой силы операторы 39
Опорная функция 366
Очень медленно убывающая функция
407
Петровского лакуна 154
— условие 153, 166
Полуалгебраическое множество 420
Полулокальное пространство 19
Постоянной силы оператор 213
Приходящая функция 279
Пространственно-подобная поверх-
поверхность 116, 145
Пуассона ядро 354, 358
Пюизё ряд 420
Рассеяния матрица 302
— оператор 290
Регулярное фундаментальное реше-
решение 25
Резольвента 260, 282
Семиэллиптический оператор 81
Смешанная задача 189
Сопряженный (транспонированный)
оператор 213
Сравнение операторов 39
Стилтьеса — Витали теорема 78
Строго гиперболический полином 138
Тарского — Зайденберга теорема 421
Теорема о носителях 370
Умеренного роста весовая функция
10
Уходящая функция 279
Фурье преобразование искаженное
298
Характеристически простой полином
276
Частично гипоэллиптический оператор
86
Эволюционный оператор 186

Указатель обозначений
(См. также указатель обозначений к т. 1)
Пространства функций и рас-
распределений
Ж 10
fiP.ft 13
Il-Lft 13
$F oc 20
9го 20
я!?,с 56
L\ 265
Г«» 108
YF) 159
Yg" 159
В 262
В* 262
О
В* 263
Вс 264
В; 264
Вр 282
L?° 314
5# 372
Я?(и„ ..., «ft) 372
Pol (m, n) 25
Pol°(/n, «) 25
Специальные символы
D, 16
d/дг/ 313
д 317
P(D) 16
r(D) 266
P(|) 11
P(i, t) 41
P'(i) 79
Pw(i) 234
Pv F, 0 88
<. > 39
«, > 43
T(P, N) 133
<TP(K) 88
Л(Р) 27
Л'(Р) 27
Z(P) 275
F преобразование Фурье
F± 298
С* 272
R5. 356

Оглавление
Предисловие редактора перевода 5
Предисловие 6
Введение , . « 7
10. Существование и аппроксимация решений дифференци-
дифференциальных уравнений 9
Краткое содержание главы 9
10.1. Пространства BPyk 10
10.2. Фундаментальные решения 23
10.3. Уравнение P(D)u = f при /е=Й" 38
10.4. Сравнение дифференциальных операторов . . . 41
10.5. Аппроксимация решений однородных дифференци-
дифференциальных уравнений 48
10.6. Уравнение P(D)u = f, где f — элемент локального
подпространства пространства 3)'F 50
10.7. Уравнение P(D)u = f при f<=S>'(X) 55
10.8 Геометрический смысл условий выпуклости ... 61
Примечания 70
П. Регулярность решений дифференциальных уравнений
внутри области 73
Краткое содержание главы 73
11.1. Гипоэллиптические операторы 74
11.2. Частично гипоэллиптические операторы .... 83
11.3. Продолжение дифференцируемости 87
11.4. Оценки для производных высшего порядка ... 101
Примечания 109
12. Задача Коши и смешанные задачи Ш
Краткое содержание главы 111
12,1. Задача Коши для волнового уравнения 113

454 Оглавление
12.2. Осцилляторная задача Коши для волнового урав-
уравнения 122
12.3. Необходимые условия существования и единствен-
единственности решения задачи Коши 129
12.4. Свойства гиперболических полиномов 131
12.5. Задача Коши для гиперболического уравнения . . 139
12.6. Особенности фундаментального решения .... 145
12.7. Глобальная теорема единственности 155
12.8. Характеристическая задача Коши 166
12.9. Смешанные задачи 188
Примечания 209
13. Дифференциальные операторы постоянной силы . . . .212
Краткое содержание главы 212
13.1. Определения и основные свойства 212
13.2. Теоремы существования в случаях, когда коэффи-
коэффициенты тольке непрерывны 214
13.3. Теоремы существования в случае, когда коэффи-
коэффициенты принадлежат С°° 216
13.4. Гипоэллиптичность 222
13.5. Глобальные теоремы существования 225
13.6. Неединственность решения задачи Коши .... 233
Примечания . . 259
14. Теория рассеяния 260
Краткое содержание главы 260
14.1. Некоторые функциональные пространства .... 262
14.2. Деление на функции с простыми нулями .... 269
14.3. Резольвента невозмущенного оператора .... 275
14.4. Короткодействующие возмущения 281
14.5. Граничные значения резольвенты и точечный спектр 291
14.6. Искаженное преобразование Фурье и непрерыв-
непрерывный спектр 296
14.7. Отсутствие собственных значений в непрерывном
спектре 306
Примечания 310
15. Теория аналитических функций и дифференциальные
уравнения 312
Краткое содержание главы 312
15.1. Неоднородные уравнения Коши — Римана . . . 313
15.2. Преобразование Фурье — Лапласа пространства
В%к(Х) с выпуклым X 322
15.3. Преобразование Фурье — Лапласа решений диффе*
ренциальных уравнений 332

Оглавление 455
15.4. Преобразование Фурье — Лапласа пространства
С (X) с выпуклым X 343
Примечания 348
16. Уравнения в свертках 350
Краткое содержание главы 350
16.1. Субгармонические функции 351
16.2. Плюрисубгармонические функции 365
16.3. Носитель и сингулярный носитель свертки .... 369
16.4. Аппроксимационная теорема 388
16.5. Неоднородное уравнение в свертках 395
16.6. Гипоэллиптические уравнения в свертках .... 409
16.7. Гиперболические уравнения в свертках 412
Примечания 416
Добавление А. Некоторые алгебраические леммы . . . .418
АЛ. Нули аналитических функций 418
А.2. Асимптотические свойства алгебраических функций
нескольких переменных 420
Примечания 428
Литература 429
Именной указатель 449
Предметный указатель 451
Указатель обозначений , 452

УВАЖАЕМЫЙ ЧИТАТЕЛЬ!
Ваши замечания о содержании книги, ее оформле-
оформлении, качестве перевода и другие просим присылать
по адресу: 129820, Москва, И-110, ГСП, 1-й Риж-
Рижский пер., 2, издательство «Мир».
Монография
Ларе Хёрмандер
АНАЛИЗ ЛИНЕЙНЫХ ДИФФЕРЕНЦИАЛЬНЫХ
ОПЕРАТОРОВ С ЧАСТНЫМИ ПРОИЗВОДНЫМИ
ТОМ 2. ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
С ПОСТОЯННЫМИ КОЭФФИЦИЕНТАМИ
Ст. научный редактор Н. И. Плужникова
Мл. научный редактор Т. А. Денисова
Художник В. А. Медников
Художественный редактор В. И. Шаповалов
Технический редактор В. П. Сизова
Корректор Н. А. Гиря
ИБ № 5483
Сдано в набор 05.02.86. Подписано к печати 11.09.86. Формат 60Х90'Да. Бумага
кн.-журн. сыкт. Печать высокая. Гарнитура литературная. Объем 14,25.
бум. л. Усл. печ. л. 28.50. Усл. кр.-отт. 28.50. Уч.-изд. л. 24,73. Изд. № 1/3957.
Тираж 7300 экз. Зак. № 64. Цена 3 р. 20 к.
ИЗДАТЕЛЬСТВО «МИР» 129820, ГСП, Москва, И-110, 1-й Рижский пер., 2
Отпечатано со стереотипа Ленинградской типографии № 2 головного пред-
орнятия ордена Трудового Красного Знамени Ленинградского объедине-
объединения «Техническая книга» им. Евгении Соколовой Союзполиграфпрома при
Государственном комитете СССР по делам издательств, полиграфии и
книжной торговли. 198052, г. Ленинград, Л-52, Измайловский проспект, 29,
в Ленинградской типографии № 4 ордена Трудового Красного Знамени
Ленинградского объединения «Техническая книга» им. Евгении Соколовой
Союзполиграфпрома при Государственном комитете СССР по делам из-
издательств, полиграфии и книжной торговли 191126, Ленинград, Социа-
Социалистическая ул.. 14