Автор: Нарасимхан   Р.  

Теги: анализ   математика  

Год: 1971

Текст
                    

ADVANCED STUDIES IN PURE MATHEMATICS volume I ANALYSIS ON REAL AND COMPLEX MANIFOLDS RAGHAVAN NARASIMHAN Universite de Geneve, Switzerland 1968 MASSON & CIE, EDITELIR — PARIS NORTH-HOLLAND PUBLISHING COMPANY AMSTERDAM
Р. НАРАСИМХАН Анализ на действительных и комплексных многообразиях Перевод с английского Е. М. ЧИРКИ Под редакцией Б. В. ШАБАТА ИЗДАТЕЛЬСТВО «МИР» Москва 1971
УДК 517. 55 В этой небольшой по объему книге автору удалось собрать и из- ложить богатый материал, разбросанный по различным источникам. Компактное изложение предполагает определенную математическую подготовку читателя, однако для чтения книги достаточно знаком- ства с традиционными курсами анализа и высшей алгебры. Книгу можно использовать как учебное пособие при изучении современ- ного анализа. Книга представляет интерес для математиков различных спе- циальностей. Она будет полезна преподавателям, аспирантам и сту- дентам университетов и пединститутов. Редакция литературы по математическим наукам Р. НАРАСИМХАН Анализ на действительных и комплексных многообразиях Редакторы Н. И. Плужникова и В. Ф. Пахомов. Художник А. А. Бессонов. Художественный редактор В. И. Шаповалов. Технический редактор В. П. Сизова. Сдано в набор 20/VIII 1970 г. Подписано к печати 25/11 1971 г. Бумага ки.-журн. 60х90’/1в 7,25 бум. л. 14,50 печ. л. Уч.-изд. л. 12,68 Изд. № 1/5766 Цеиа 1 р. 08 к. Зак. 751. ИЗДАТЕЛЬСТВО «МИР» Москва, 1-й Рижский пер., 2. 2-2-3 Ордена Трудового Красного Знамени Ленинградская типография № 2 имени Евгении Соколовой Главполиграфпрома Комитета по печати при Совете Министров СССР. Измайловский проспект, 29 30-71
ПРЕДИСЛОВИЕ РЕДАКТОРА ПЕРЕВОДА Эта книга, написанная одним из выдающихся аналитиков — индийским математиком Рагхаваном Нарасимханом, ныне рабо- тающим в Швейцарии, — несколько необычна. Как утверждает автор, она рассчитана на читателей, которые прилично владеют линейной алгеброй, знакомы с топологией, но не знают анализа и только начинают им интересоваться. Пожалуй, несколько лет назад множество таких читателей было пустым, но теперь, в ре- зультате происходящей в математике алгебраико-топологической экспансии, его мощность постоянно увеличивается. Кроме того, круг читателей заведомо не исчерпывается этим множеством — отлично написанная крупным ученым книга, несомненно, заинте- ресует как начинающих, так и маститых математиков. Изложение в ней очень тщательно продумано. Материал ото- бран так, чтобы читатель без особенно больших усилий мог войти в круг обсуждаемых проблем и овладел основными приемами. Многое из того, что не входит в очерченный автором минимум, сообщается без доказательства с коротко комментированными от- сылками к специальной литературе. Например, теорема Бореля о том, что для любого задания постоянных са, зависящих от все- возможных наборов а = (аь ..., ал) неотрицательных целых чисел, существует бесконечно дифференцируемая во всем пространстве функция f, которая имеет са своими тейлоровскими коэффициен- тами в какой-либо точке (или иначе, о том, что отображение из C°°(Rn) в кольцо формальных степенных рядов сюръективно), приводится с доказательством, и притом весьма красивым. Но теорема Уитни, утверждающая, что заданные на замкнутом мно- жестве A’cR"' функции /аеС°°(Х) при некоторых условиях слу- жат последовательными производными (в каждой точке X) какой- либо функции f gC(A’), уже не доказывается.
ПРЕДИСЛОВИЕ РЕДАКТОРА ПЕРЕВОДА Но именно отбор материала книги и необычен более всего. Книга не является курсом ни теории многообразий, ни какой-либо части анализа. Ее содержание составляют лишь несколько тем — приближения, вложения, линейные дифференциальные операторы. Однако эти темы поданы в таком блестящем окружении идей, наиболее популярных в современной математике, и поданы так хорошо, что книгу можно рекомендовать всем, кто учит матема- тику и занимается ею. Б. В. Шабат
ПРЕДИСЛОВИЕ Эта книга возникла из лекций, читанных мною в Тата-инсти- туте фундаментальных исследований в Бомбее зимой 1964/65 гг. В этих лекциях я хотел изложить различные вопросы анализа на многообразиях, действительных или комплексных. Можно было бы и не говорить, что выбор материала целиком определился лич- ными вкусами автора. Записи лекций были изданы Тата-инсти- тутом, и настоящая книга основана на этом издании. Книга рассчитана на читателей, которые интересуются анали- зом, но имеют по нему еще небольшую подготовку. Предпола- гаются известными только элементы теории функций действительных переменных (дифференциальное и интегральное исчисление и тео- рия меры), а также некоторые факты теории функций комплекс- ного переменного. Элементарные свойства функций нескольких ком- плексных переменных, которые мы используем, четко формули" руются и даются необходимые ссылки. Однако мы предполагаем, что читатель хорошо знаком с линейной и мультилинейной алгеброй (свойства сопряженности, тензорных произведений, внешних про- изведений векторных пространств и т. п.), а также с теоретико- множественной топологией (свойства связных и локально ком- пактных пространств). Необходимый материал содержится в книгах Бурбаки: «Алгебра» и «Общая топология», главы I и II. Книга состоит из трех глав. В первой изучаются свойства диф- ференцируемых функций в Rra. Задача этой главы — изложение с полными доказательствами некоторых часто используемых в диф- ференциальной топологии теорем о дифференцируемых функциях (таких, как теорема о неявной функции, теорема Сарда и теорема Уитни о приближении). Вторую главу можно рассматривать как введение в теорию действительных и комплексных многообразий. Кроме обычных определений (дифференциальные формы и векторные поля), в этой
8 ПРЕДИСЛОВИЕ главе излагаются теорема Фробениуса, леммы Пуанкаре и Гро- тендика (с приложением леммы Гротендика к комплексному ана- лизу), теорема Уитни о вложении и теорема Тома о трансвер- сальности. В последней главе изучаются свойства линейных эллиптических дифференциальных операторов. Приводятся принадлежащие Петре и Хёрмандеру критерии линейных дифференциальных операторов. Доказываются неравенства Гординга и Фридрихса об эллиптиче- ских операторах, которые затем используются для доказательства регулярности слабых решений эллиптических уравнений. Глава заканчивается теоремой Мальгранжа — Лакса о приближении и ее применением к доказательству теоремы Рунге на открытых ри- мановых поверхностях, принадлежащей Бенке и Штейну. Мы не рассматриваем вопросы, связанные с римановыми мет- риками и элементарной дифференциальной геометрией. Мы ничего не говорим также о таких важных и интересных объектах, как эллиптические комплексы. Впрочем, такие теоремы, как теоремы конечности из главы 3, нетрудно распространить на эти комплексы. Мне остается поблагодарить всех лиц, помогавших мне при подготовке этой книги. Я благодарен миссис М. Нарликар, сде- лавшей записи лекций, изданные Тата-институтом; особенно я рбя- зан X. Г. Дайемонду, который очень внимательно прочитал боль- шую часть этих записей, исправил ошибки и предложил ряд улуч- шений и вариантов доказательств. Наконец, я весьма признателен Н. X. Кюиперу за предложение переиздать записи Тата-института в виде книги, за его полезные замечания о главах 1 и 2 и за помощь при подготовке рукописи к печати. Женева, июль 1968 Рагхаван Нарасимхан
ГЛАВА 1 ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Rra Обозначения. Мы будем пользоваться следующими обозначе- ниями. Символами R, С, Q, Z соответственно будем обозначать поле действительных чисел, поле комплексных чисел, поле рацио- нальных и кольцо целых чисел и при этом будем считать, что первые два из них снабжены обычной топологией. Символы Rra, С4,... будут обозначать декартовы произведения соответственно прост- ранств R, С, ..., так что, например, Rra=={(M, •••> хпУ- xi eR, / = 1....п). Обозначения R+, Q+, Z+ мы примем для множеств неотрицатель- ных элементов R, Q, Z соответственно. Большей частью а, р обозначают упорядоченные наборы п не- отрицательных целых чисел, а = (аь .... ап), р = (рь ..., 0„), ау, Ру е Z+. Введем обозначения | а | = И] + ... + ап, (а\ _ а! \₽/ “ ₽1(а-₽)! ’ а! = О]! ... ал!, если Р/^ау. Мы пишем р^а, если все Р/^ct/, и р<а, если р^а и р #= а. Для точек пространства R” (соответственно С") мы используем обозначение х = (х{....хп) (соответственно z=(z1( ..., z„)). Тогда | х | = max|xy |, |z| = max|z;|, ||х||Н1м|2+ •••Ч-К!2)72, ||z|| = (|z1|2+ + К|2)‘/2, ха = х“> ... х“'г, za = ... з“'г. Если X — (хаусдорфово) топологическое пространство и S — под- множество X, то символом S мы будем обозначать внутрен- ность S, т. е. максимальное открытое множество, содержащееся в S. Если S] и S2 — два подмножества X, то мы пишем Sj <^S2, когда S] — относительно компактное подмножество S2, т. е. когда замыкание Sy в S2 является компактом.
10 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Пусть f — отображение открытого множества йс R" в R’ и Л — неотрицательная функция в Q; мы будем писать f (х) = О (X (х)) (или f = О (А)), если существует константа С > 0, такая, что |/(х)| ^СЛ(х) для всех xg Q. Кроме того, если a s й, мы пишем f(x) = о (А (х)) при х—>а (или при |х —а|—>0), если существует отображение е: Q->R+, такое, что е(х)->0 при х->а и |f(х) | е (х) Л (х). Это же обозначение используется, когда точка а заменена «бес- конечной» точкой. $ 1.1. Формула Тейлора Пусть Q — открытое множество в Rra и k — целое неотрицатель- ное число. Мы обозначаем через Cfe(Q) множество действительных функций f в Q, обладающих непрерывными частными производ- ными порядков т. е. множество функций, для которых про- изводные dai+ ••• +anf dx"i ... дха" 1 п существуют и непрерывны в Q для всех а с | а | = + ... + ап k. Символом С°° (Q) мы обозначаем множество функций, принадле- жащих Ск (Q) для всех k 0. Функции из Ск (Q) называются ^-функ- циями в Q (или функциями класса Ck в Q). Для частной произ- водной аа,+ ... +anf . <Эх“« 1 п функции /еС'4(й), |а|^&, мы используем сокращенное обозна- чение Порядок, в котором выполняются дифференцирования, на ре- зультат не влияет. Для любой функции f (не обязательно не- прерывной), определенной в Q, мы обозначаем через supp f за- мыкание в Q множества {,v ей: f (х) #= 0}; supp f называется носителем f. Символ Со(й) применяется для обозначения множества функций /eCft(Q), носители которых яв- ляются компактами в Q.
§ 1.1. ФОРМУЛА ТЕЙЛОРА И Если Е — конечномерное векторное пространство над полем R, мы обозначаем через Ck (Q, Е),Со (Q, Е), ... множество всех ото- бражений f: таких,что для любого (непрерывного) линей- ного функционала I на Е мы имеем Co(Q), .... Если ..., eq есть R = базис Е и f: Q->E, то для каждой точки xsQ найдутся действительные Числа Л(х), ..., fq (х), та- кие, что <? f(x) = ^fl(x)el. Легко проверить, что fe=Ck(Q, Е), Coft(Q, Е), ... тогда и только тогда, когда (;еС*(Й), Co(Q), ... для / = 1, ..., q. Элементы множества Ck (Q, Е) называются ^-отображениями Q в Е. Если E = R4, то для Cfe(Q, Е), Со (□,£), ... мы используем обозначения Cfe(Q, <7), Со (Q, <7), .... Для feC*(Q, Е) можно опре- делить производные Daf при | а | k. Очевидно, £>7eCfe-la'(Q, Е). Функцию f е Со (Q) мы будем отождествлять с элементом g е Со (R")> равным f на Q и нулю на R" \ Q. Мы часто будем иметь дело с комплексными функциями в Q (или отображениями Q в С7). В этом случае мы тоже будем использовать обозначения Cfe(Q), Cfe(Q, <7), ... для Cfe(Q, С), Cfe(Q, С7), ..., если при этом не возникнут недоразумения. Действительная функция /, определенная в Q, называется (^аналитической, если для всякой точки a = (ab ..., а„)ей существует степенной ряд Ра (х) = 5 са (х - а)а = 5 Са ... a (Xj - tZif1... (хп - a„)“rt, а ау>0 1 п который сходится к f(x) для всех х из некоторой окрестности U точки а. Этот ряд сходится тогда равномерно к f на компактных подмножествах U (так что f непрерывна), и, значит, его можно почленно дифференцировать. Следовательно, f^C°° (Q), и для любого P = (Pi....р„) имеем £>₽/ (х) = D^Pa (х) = 2 caD₽ (х - а)а. a Более того, этот ряд однозначно определен функцией f-, действи- тельно,
12 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R« Аналитические отображения множества Q в конечномерное вектор- ное пространство определяются так же, как и выше. Если U, V — открытые множества в R" и f: U -»• V — такой гомеоморфизм, что и f и f~l являются (^-отображениями, мы будем говорить, что f есть (^-диффеоморфизм (или просто диф- феоморфизм) U на V. Если U = V, то f называется (^-авто- морфизмом. Если f и f~' являются R-аналитическими, то мы имеем ана- литический изоморфизм (или автоморфизм, если U = V). Пусть U — открытое множество в С" и f — комплексная функ- ция в U; f называется голоморфной, если для всякой точки as U найдется степенной ряд 2са(г-а)“, который сходится к /(г) для всех z из некоторой окрестности а. Пусть Е — конечномерное векторное пространство над полем С; отображение f: U-+E называется голоморфным, если для всякой С-линейной функции I на Е функция l°f голоморфна. Отобра- жение f: Q—>С7 голоморфно тогда и только тогда, когда в коор- динатной записи / = (/], ..., fq) каждая f/ является голоморфной функцией. Отображение f: U -»• V (открытые множества в С") называется С-аналитическим изоморфизмом (или просто аналитическим изо- морфизмом, когда не возникает недоразумений), если f и f-1 голо- морфны. Теорема Осгуда (см., например, Эрве [1]), которую мы в этой книге доказывать не будем, утверждает, что всякое вза- имно однозначное голоморфное отображение U на V является С-аналитическим изоморфизмом. Аналогичное утверждение для (^-отображений и R-аналитических отображений неверно. Сформулируем некоторые элементарные свойства голоморфных функций. Они доказаны в большинстве книг по нескольким ком- плексным переменным; см., например, Эрве [1] и Хёрмандер [4]. 1.1.1. Уравнения Коши —Римана. Функция, определенная в открытом множестве U a Crt, голоморфна тогда и только тогда, когда она непрерывна и для всех j, 1 ^j^n, существуют и равны нулю частные производные <?( .. i (JL 4-; dzj 2 \ dxj dyj }' Здесь Zj = Xj + iy,; Xj и У] — действительные числа и г = ]/ — 1 . Положим также по определению = 1 (Л. _ i df \ dzj 2 \ dxj dyj) ' Для голоморфной функции f мы пишем
§ 1.1. ФОРМУЛА ТЕЙЛОРА 13 Принимая во внимание равенство нулю всех dfldzj, получаем Основная теорема Хартогса (см. Хёрмандер [4]) утверждает, что условие непрерывности в утверждении 1.1.1 излишне; мы не будем доказывать здесь этот факт. 1.1.2. Теорема единственности. Если f — голоморфная (^.-анали- тическая) функция на связном открытом множестве U сС" (Йс R") и Daf(a) = Q для всех а = (а1; ..., а„) и некоторой точки a^U (а е й), то f^O. В частности, если f равна нулю на непустом открытом подмножестве U (соответственно й), то f = 0. 1.1.3. Теорема Вейерштрасса. Если последовательность голо- морфных в U функций {fv} сходится равномерно на компактных подмножествах U к некоторой функции f, то f голоморфна в U. Более того, для любого а последовательность (Daf J сходится к Daf равномерно на компактах из U. 1.1.3' . Теорема Монтеля. Если о = {f} —некоторое семейство голоморфных в U функций, равномерно ограниченных на каждом компактном подмножестве , I f (2) КМк для всех z^K, f^o, то во всякой последовательности элементов семейства а содер- жится подпоследовательность, равномерно сходящаяся на компакт- ных подмножествах U. 1.1.3" . Принцип максимума. Пусть f голоморфна на связном открытом множестве U <^Сп. Тогда отображение f: U ->С либо постоянно, либо открыто. В частности, если U ограничено и М = sup lim I f (z) I, z-»£, zstl то I f (z) I< M для всех z^U, если f не является константой. 1.1.4. Неравенства Коши. Если f голоморфна в U и | f (z) | М. когда z^U, то для любого компакта K.cU и любого а |£>7(?)|<Ма! б-|а| для zg=K, где б — расстояние от К до границы U. 1.1.5. Лемма. Пусть функция f является ^-аналитической в QcR®. Рассмотрим Rra как замкнутое подпространство в С". Тогда сущест- вуют открытое множество U с:Сп, С7ПКП = Й, и голоморфная функция F в U, такие, что F\Q = f.
14 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В 41) Пусть аей и Ра (х) = 2са(х — а)“ — степенной ряд, схо- дящийся к fix) при \ х — а\<га, га>0. Положим Ua = {z<^Cn: |z-a|<rj. Тогда для степенной ряд Ра (z) = 2са (z — а)а сходится и его сумма голоморфна в Uа. Пусть U = (J Ua. Мы утверждаем, что если Ua Q Ub = UаЛ =/=0, то Ра~Рь в Ua,b- Действительно, множество Uа,ь выпукло и потому связно. Далее, если то иаЛ Г) =/= 0, для любой точки с е UаЛ П R" D“Pe(C) = Daf(c) = DaPft(c), и потому применима теорема единственности 1.1.2. Следова- тельно, мы можем определить голоморфную в U функцию Р, полагая F\Ua = Pa. Очевидно, p|Q = f.> Вернемся к действительным функциям. Пусть N — окрестность замкнутого единичного отрезка O^/^l в R, и пусть k^l. Тогда верна 1.1.6. Лемма. Существует g, O^g^l, такое, что fe-i V“0 где 4 Для непрерывной на N функции g положим Io(g, *) = g(t), Ir(g,f)= $)ds, г>1. О Если g^Ck(N) и g(v)(0) = 0 при — 1, то, очевидно, g(t) = Ik(g{k\t)- Применив это к функции v=0 >) Знаки 4 и ► соответственно указывают начало и конец доказательства.— Прим, перев.
§1.1. ФОРМУЛА ТЕЙЛОРА 15 мы получим fe-l (и.?) i). v=0 Если tn и M обозначают соответственно нижнюю и верхнюю грани f(ft) на [0, 1], то, очевидно, 1) м ki • Так как непрерывна и потому принимает все значения между т и М, то существует £, 0 1, для которого H(R 1) = J!^U). ► Легко показать по индукции, что Ik V = (fe-i)i J S(s) (t - s)ft“‘ ds. 0 Следовательно, (1.1.7) можно переписать в виде ft-i м 1 (1.1.8) hd = S-4r-+irhyr I(1" (0 dt- v=0 0 1.1.9. Теорема (формула Тейлора). Пусть Q —открытое множество в S'1 и f g (Q) - действительная функция. Пусть точки к, у и соединяющий их замкнутый отрезок [х, у\ принадлежат Q. Тогда f(x)~ S ^-Daf(y)(x-y)a+ 2 ~Daf^(x~y)a, |a|<fe-1 |a|=ft где g — некоторая точка из [х, у]. Это сразу же следует из леммы 1.1.6, примененной к функции g(t) = f(y + t(x-y)), которая принадлежит Ck (N) для некоторой окрестности N от- резка [0, 1]. Если /еСт(Й) и S — подмножество Q, мы полагаем те- S I a|</п Отметим, что если f, g^Cm(Q,), то (i.i.io) ||«<НЛУЛ 11/ + ^<11Л"+1№
16 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R" Топологию в Ск (Q) для конечного k мы определим следующим образом. Фундаментальная система окрестностей точки geC'^Q) состоит из множеств B(g, К, = ||f-g||K<8); здесь е пробегает все положительные действительные числа, а /С — все компактные подмножества Q. Соответствующая топо- логия в С°°(й) получится, если в качестве фундаментальной си- стемы окрестностей взять множества |[f -Я11£<е}> где е, К такие, как и прежде, а 0 — любое целое число. Ясно, что аналогичные топологии можно ввести в Ck (й, Е), оо, для любого конечномерного векторного пространства Е (размерности </); эти пространства функций изоморфны, алге- браически и топологически, декартову произведению (Сй(й))9. Указанный изоморфизм зависит от выбора базиса в Е. Однако С*(й, Е) канонически изоморфно Ск(О.)®Е. Легко видеть, что введенная выше топология в Ск (й) имеет счетную базу. Последовательность -{Д.} сходится к нулю тогда и только тогда, когда Dafv-+Q равномерно на компактных подмно- жествах й для всех а с | а | СС k (для всех а, если k = оо). Далее, эта топология метризуема: если й<оо, то в качестве метрики можно взять функцию где {7<Д} — последовательность компактных подмножеств й, таких, что /Д,<шйД,+1 (внутренности K.v+\) и U Kv = й. Если k = <x>, то вместо этой функции можно взять функцию у 2-v —!!2— v=0 l + ll/-gllvV' 1.1.11. Теорема. Метрическое пространство Ck (й) является полным при любом k, О^Й^оо. 4 Достаточно показать, что если последовательность {gv} с: Ck (й) такова, что II Sv - И£ -* 0 при ц, V—>°о для всех целых чисел m^.k и всех компактов /(ей, то существует £еС*(й), такая, что II Sv - s Н£-* о
§1.1 ФОРМУЛА ТЕЙЛОРА 17 для m^.k и всех компактов К- Для всякого а, | а | k, суще- ствует непрерывная функция ga, такая, что 1|ДаЯу-Яа^->0 ПРИ v->oo. (Это следует из того, что Da (gv — g,,} -> 0 равномерно на ком- пактных подмножествах и что пространство непрерывных функ- ций в Q с топологией равномерной сходимости на компактах полно.) Нужно только доказать, что g = g0 е Ск (Q) и Dag = ga. Для этого достаточно показать, что если | а |k — 1 и р = (рь ..., рп) таково, что |р|=1, то ga е= С1 (Q) и D$ga = ga+?>. Если а е Q и х близко к а, то по формуле Тейлора (1.1.12) Dagv(x) — Dagv (а) = У Da+&gv^)(x-af, ip“i где ^ — некоторая точка отрезка [а, х]. Мы можем выбрать под- последовательность {vp}, такую, что -+1<=[а, х]. р Если заменить в (1.1.12) v на ур и устремить р->оо, то ga W “ ga (Я) = 5 jga + p (£) (х ~ а)& = ga+p («) (x-af + О(| Х~а |), где о (| х — а |) — функция, стремящаяся к нулю быстрее, чем | х — а |, когда х->а. Последнее равенство вытекает из непрерыв- ности ga+P- Из него следует, что ga е С1 (□) и EE‘ga = ga+a, если 1₽1 = 1. ► 1.1.13. Замечание. Это утверждение, очевидно, справедливо и и для Ck (Q, Е). Приведем еще одно следствие из формулы Тейлора. 1.1.14. Предложение. Если feC°°(Q), то f является R-аналитиче- ской тогда и только тогда, когда для любого компакта Дей существует М > 0, такое, что (1.1.15) \Daf (х) | < M|a|+Ia! для всех x s К и всех а. 4 Если f R-аналитична, то эти неравенства следуют из леммы 1.1.5 и неравенств Коши 1.1.4. Обратно, если выполнены неравенства (1.1.15), х принадлежит компактной выпуклой окрест- ности К точки as Q и £ е [а, х], то £ -L-tff^x-aT I a]~k ^knMk+'\x~a\k.
18 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R« Если [х — а\<М то из формулы Тейлора следует, что ряд S>7(a) u-«)“ сходится к f(x). ► 1.1.16. Замечание. Легко проверить, что (1.1.15) эквивалентно существованию такой константы М' > 0, что |П7(х)|<Л1/,а1+1(|а|)! для всех .геК и всех а. $ 1.2. Разбиения единицы Прежде чем сформулировать основной результат, введем не- сколько определений. Семейство {Е,}/е/ подмножеств топологического пространства X называется локально конечным, если у каждой точки а е X най- дется такая окрестность U, что множество {ZeZ: 0} конечно. Семейство называется измельчением семей- ства если существует отображение г: J-+I (называемое измельчающим отображением), такое, что Е/сЕгЦ) для всех / е I. Мы будем использовать следующее утверждение, принадле- жащее Дьедонне [1]. Доказательства можно найти в стандартных курсах по общей топологии (см., например, Бурбаки [2, 3]). 1.2.1. Предложение. Если X —локально компактное хаусдорфово пространство, являющееся счетным объединением компактов, то X — паракомпактное пространство, т. е. всякое открытое по- крытие X допускает локально конечное измельчение, также являющееся открытым покрытием. Далее, для всякого локально конечного покрытия пространства X существует открытое покрытие (с тем же множеством индексов), такое, что Vt с: U i для всех i е I. 1.2.2. Определение. Пусть Q — открытое множество в R" и — его открытое покрытие. Семейство С°°-функций {qpJZe/ называется разбиением единицы, подчиненным покрытию {1Д}ге5/, если 0<Ф( <1, suppфг с: Ut, семейство {supp <рг) локально конечно и 2 Ф/ (х) — 1 для всех .V ей.
§ 1.2. РАЗБИЕНИЯ ЕДИНИЦЫ 19 1.2.3. Теорема. Пусть Q — открытое множество в R" и {{7Де/ — его открытое покрытие. Тогда существует разбиение единицы, под- чиненное {U J. Для доказательства нам понадобятся две леммы. 1.2.4. Лемма. Существует С^-функция т] в R", такая, что т]^0, т] (0) > 0 и supp т] {х: ||х||< 1}. •< Пусть 0< с< 1 и s— функция класса С°° на R, определен- ная следующим образом: [ ехр(— 1/(с —г)), если г < с, s (г) = 1 I 0, если г с. Мы можем взять т](х) = $(х2+ ... +л£). ► 1.2.5. Лемма. Пусть К — компакт в R" и U — открытое множе- ство, содержащее К- Тогда существует С™-функция <р в R", такая, что ф (х) 0 для всех х, ф(х)>0 для хе К и suppф с U. 4 Пусть 6 — расстояние от К до Rn \ U. Если а положим , , I х — а \ Фа W = где функция т] определена в лемме 1.2.4. Пусть l'a = {.feRft: Фа(х)>0}. Тогда a U. Так как /С —компакт, то найдется конечное число точек alt ..., аре/С, таких, что /<сЕЯ1и ... UVap. р Теперь можно взять Ф = 2 Фя • ► /=1 i Доказательство теоремы 1.2.3. Пусть {ЕД. — локально конечное измельчение {17 J. s/ относительно компактными откры- тыми подмножествами Q (оно существует в силу предложе- ния 1.2.1). Пусть {1ЕДе 7 — открытое покрытие й, такое, что Wj cz V} (предложение 1.2.1). По лемме 1.2.5 существуют С°°-функ- ции ф/^0 в й, такие, что ф;(х)>0 для х е МД и supp фу с V/. Положим "Ф/ ф' 2 ' i'&J
20 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ B'R'» ^Поскольку покрытие {1^} локально конечно, 2 определена, принадлежит С°°(й) и всюду положительна, так как ф7 > 0 на W/, a U W j — Очевидно, > 0, supp <р'с JZ и 2ф- = 1- 7 7 7 j е / 7 Пусть г: /->7 —такое отображение, что Обозначим через /.с/ множество г-1 (Z). Положим ф, = 2 ф', где справа 1 стоит 0, если /г пусто. Так как множества 7г попарно не пере- секаются и покрывают I, то 2 Фг= 2 <Р/'= 1. ie/ /е/ 7 Очевидно, supp фг cz U t. Поскольку семейство [supp ф'} локально конечно, то таким является и (supp фг}. ► 1.2.6. Следствие. Пусть й — открытое множество в Rre, X — замк- нутое подмножество й и U — открытое подмножество Q, содержа- щее X. Тогда существует С^-функция фей, такая, что ф(х)=1, если х<^Х, ф(х) = 0, если x^Q\U, и 0^ф^1 всюду в й. ◄ По теореме 1.2.3 существуют С°°-функции фь ф2^0, такие, что supp ф] ст U, supp ф2 ст й \ X и ф1+ф2 = 1 в й. Мы можем взять ф = фр ► 1.2.7. Лемма. Если {UJtе— открытое покрытие й, то суще- ствуют С°°-функции фг, такие, что виррф^Т/;, 0^ф(^1 и 2ф?= 1 6 i ◄ Если {фг} — разбиение единицы, подчиненное {7/J, то можно взять Ф, Ф/=(2фП,/1' k § 1.3. Обратные функции, неявные функции и теорема о ранге Пусть й — открытое множество в R" и /еС’(й, т)~ отобра- жение Q в Rm класса С1. Пусть а е й. 1.3.1. Определение. Дифференциалом f в точке а называется R-линейное отображение {df)(ay. Rre->Rm, такое, что (df)(a)(ob ..., о„) = (ю1, ..., wm), V д'! ( где w,- = 2j (a) vk. k
§ 1.3. ОБРАТНЫЕ ФУНКЦИИ 21 Дифференциал (df) (а) голоморфного отображения f открытого подмножества С" в Ст мы определяем аналогично: ” df (df) (а) (о1; ..., о„) = (йуь ..., wm), ws = 2 (a) vk. k=i k Очевидно, это есть С-линейное отображение Сп в Ст. Оно со- впадает с определенным выше отображением (df)(a), если есте- ственным образом отождествить С с R2 и воспользоваться урав- нениями Коши — Римана. 1.3.2. Теорема. Если f есть С'-отображение й в R" и для точки аей дифференциал (df) (а) является изоморфизмом Rre на себя, то существуют окрестности U ^>а и У э f (а), такие, что суже- ние f | U является гомеоморфизмом на V. ◄ Не теряя общности, мы можем считать, что а = 0 и f (а) = 0. Так как (df)(a) = A есть изоморфизм Rre на себя, то можно за- менить f на X-1°f и считать, что (df) (а) — тождественное отобра- жение. Пусть g определена в Q равенством g(x) = f (х) - х. Тогда, очевидно, (dg)(a) = 0. Из этого следует, что существует окрестность УэО, tcQ, F = {x: |x|<r), такая, что для любых х, у W \g(x)-g(y)\<~\x-y{. Если х, у W, то, очевидно, I f (х) - f (у) I > у । х ~ У I’ так что отображение f взаимно однозначно в W. Пусть V = = {х: | х | < г/2} и U = W П f~' (У). Определим <р0: У -» W, полагая Фо(г/)^О и далее по индукции Tv (y) = y-g(<pv-i(y) )• Легко проверить индукцией по v, что Ф,(У)сЦ7, v>0, и далее, что IФ? (У) ~ <Pv-i (У) I = I g (<Pv-i (У)) ~ g (<Pv-2 (У)) К r2~v (v 2), причем это верно и для v —1. Значит, последовательность {<pv} сходится равномерно к отображению <р: У -> Rn. Так как <pv (У) cz W, то <р (У) cz W и Ф(z/) = z/~ g(q>(y))-
22 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Rn Так как | г/1 < г/2 на V и | g (<р (у)) | г/2, то ф(Р)с:1У; более того, f (ф(г/)) = <p(f/) + g(<P(у)) = У- Так как f | W взаимно одно- значно, то отображение ф является обратным к f. Очевидно, Ф непрерывно, так как непрерывны все ф„. ► Позже мы увидим, что на самом деле ф ^С1 (У, п). 1.3.3. Замечание. У этой теоремы есть аналог для голоморфных отображений. Если Q —открытое множество в С" и f: Й->СП — голоморфное отображение, такое, что (df)(a) для некоторой точки аей есть изоморфизм, то найдутся окрестности U э а и V э f (а), такие, что f | U есть гомеоморфизм U на V и отображение, обрат- ное к f | U, тоже голоморфно. Доказательство совпадает с при- веденным выше. Мы определяем U, V и ф7 так же, как и выше; последовательность {фД сходится равномерно к отображению ф, обратному к f\U. Так как каждое фу голоморфно, то по тео- реме 1.1.3 ф тоже голоморфно. 1.3.4. Определение. Пусть йь й2 — открытые подмножества Rre‘, R"2 соответственно, f есть С'-отображение Qj X й2 в Rp и точка (a, 6)eQ,XQ2. Определим отображение g: Q2—>Fx/’, полагая g (у) = f (а, у). Частным дифференциалом (d2f)(a, b) называется линейное отображение (dg)(b) пространства R"2 в Rp. Частный дифференциал (dj)(a, b) определяется аналогично. 1.3.5. Теорема. Пусть Йь О2 —открытые множества в Rre', Rre’ соответственно и f есть С?-отображение Q, X й2 в КПг- Предполо- жим, что f(a, Ь) = 0 в некоторой точке (a, b) е Q, X й2 11 rank (d2f) (а, b) = п2. Тогда найдется окрестность U{XU2 точки (а, Ь), такая, что для любого х^1Ц существует единственное у = = г/(х)еД2, такое, что f(x, г/(х)) = 0. Отображение х*->у(х) не- прерывно. ◄ Рассмотрим отображение F: Й! X Q2->Rn,+re2, определяемое соотношением F(x, i/) = (x, f(x, у)). Тогда (d2f)(a, b) имеет ранг п2 в том и только в том случае, если (dF)(a, b) — изоморфизм. Значит, по теореме 1.3.2, найдутся окрестности U X [/2э(а, Ь) и W э (а, 0), такие, что отображение F | U X U2 -> W является гомеоморфизмом. Пусть ф: W -> U X U2 — непрерывное отображение, обратное к f\U X U2. Точка а обла- дает такой окрестностью 17ь что если хе1/ь то (х, 0)е W. Пусть у(х) для x<^U, означает проекцию ф(х, 0) на U2. Очевидно, если y<=U2 удовлетворяет условию fix, у) = 0, то у = у(х). Далее, х ь-э- у (х) — непрерывное отображение и f(x, г/(х)) = 0. ►
§ 1.3. ОБРАТНЫЕ ФУНКЦИИ 23 1.3.6. Замечание. Эта теорема имеет очевидный аналог для голо- морфных отображений f: X Q2->Cn2 (с очевидными изменениями обозначений); в этом случае отображение у(х) голоморфно. 1.3.7. Лемма. В предположениях и обозначениях теоремы 1.3.5 пусть А(х) = (d2f)(x, у(х)) и В (х) = (d{f) (х, у(х)). Тогда если U — достаточно малая окрестность точки а, то А (х) — изоморфизм для всех x^U, отображение y^Cl(U, п2) и (1.3.8) (dy) (х) = - А (х)-1 о В (х). •4 Так как у непрерывно, то х>—»А(х) является непрерывным отображением U\ в пространство линейных отображений R"2 в себя (пространство n2 X п2"матриц). Далее, А (а) — изоморфизм. Значит, если U — достаточно малая окрестность точки а, то А(х) при х е U — тоже изоморфизм. Мы можем предположить, что U выпукла. Пусть х, х + ^еУ и t] = у(х +g) — у(х). Тогда f(x + g, г/(х) + л) = 0, так что по формуле Тейлора 0 = f(x, г/(х)) + В(х)£ +A(x)t] + o(|g| + |t]|) при |g|, 11]|->0. Но t] —> 0 при g —> 0 и f (х, у (х)) = 0, поэтому A(x)t]= - В (x)g + o(|g| + |t1|) при |g|->0. Если /( — компактное подмножество U, то отображение А(х)~', будучи непрерывным в U, ограничено на К (в очевидном смысле), и мы получаем, что Л = - А (х)-1 ° В (х) g + о (| g | + 11] |). Значит, если |g| достаточно мал, то найдется константа С>0, такая, что InKClg откуда | т] | 2С | g |. Следовательно, у(х + Ъ,)-у(х) = - А(х)~‘ ° В (x)g + о (| g |) при |g|->0, а это как раз и означает, что г/еС*(/7,п2) и что выполняется равенство (1.3.8). ► 1.3.9. Следствие. В предположениях и обозначениях теоремы 1.3.5 пусть U — окрестность точки а, в которой (df)(x, у(х)) является изоморфизмом для всех x^U. Тогда если f <=Ck (Qj X й2, n2), k > 1, то у е Cfe(Qb п2).
24 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Рге ◄ При k = \ утверждение совпадает с леммой 1.3.7. Для k>\ мы воспользуемся индукцией. Если f ^Ck (Q] X й2, «2)> у G=C(U, п2), r<k, то, по определению, х >—> А (х), В (х) суть (/-отображения U в соот- ветствующее конечномерное векторное пространство. Но тогда из (1.3.8) следует, что у е Cr+1 (U, п2). ► 1.3.10. Замечание. В обозначениях следствия 1.3.9, если f есть R-аналитическое отображение, то таково же и отображение у. Это сразу следует из леммы 1.1.5 и замечания 1.3.6. 1.3.11. Замечание. В предположениях теоремы 1.3.2 и с теми же обозначениями, если отображение f^Ck(Q, п) (или R-аналитично), то таково же и Это вытекает сразу из следствия 1.3.9 и замечания 1.3.10, примененных к отображению g: R" X й->Кга, где g(x, y) = x-f(y). 1.3.12. Замечание. Теорема 1.3.2 вместе с замечанием 1.3.11 из- вестна как теорема об обратной функции. Утверждения 1.3.5, 1.3.9 и 1.3.10 составляют теорему о неявной функции. 1.3.13. Определение. Брус в Rre — это множество вида {х: |х;- —а;-|< </•;•). Поликруг в Сге есть множество вида (г: |z, — aj |<Г/}. 1.3.14. Теорема о ранге. Пусть Q — открытое множество в Rn и feCfe(Q, m), k^l, т.е. f: Q ->Rm — отображение класса Ck. Пред- положим, что ранг есть целое число г, не зависящее от точки xgQ. Тогда существуют открытые окрестности U эа и V b = f (а), брусы Q, Q' в R", Rm соответственно и (^-диффео- морфизмы и: Q->U, и': V -» Q', такие, что отображение (р = и' ° f ° и имеет вид <p(xb х2, ..., хге) = (Х[, х2, ..., хг, 0, ..., 0). Далее, если f является R-аналитическим, то и, и' вместе с обрат- ными к ним отображениями можно взять R-аналитическими. ◄ После выполнения подходящих автоморфизмов в R" и Rm мы можем предполагать, что а = 0, & = 0 и что совпадает с линейным отображением (up ..., о„) t->(oi, ..., vr, 0, ..., 0). Рассмотрим отображение w: Q—>Rrt, определяемое равенством 0У (x) = (/t (x), ..., fr(x), Xr+I, ..., x„), где fU) = (fiW, .... fr(x), ..., fm(x)).
§ 1.4. ТЕОРЕМА САРДА И ФУНКЦИОНАЛЬНАЯ ЗАВИСИМОСТЬ 25 Тогда (dw) (0) — тождественное отображение; следовательно, по теореме об обратной функции (см. замечание 1.3.12), существуют окрестность U эО и брус Q, такие, что w. U -+Q есть (^-диффео- морфизм. Пусть u = (w\U)~l. Очевидно, f° и (у) = (yi, ..., уг, ц>г+Лу), Фт («/)). где ф/ принадлежат Cft(Q). Если теперь ty = f<>u, то rank (с/ф) (у) = г для у е Q, и потому дф, -5—L = 0, если i,k>r. dyk Таким образом, ф,- не зависят от уг+х, ут. Пусть теперь Q = Qr X Qn~r, где Qr, Q"-r — брусы соответственно в Rr, Rn-r. Пусть отображение о: QrX Rm~r-»QrX Rm’r определяется равенством п(г/1, ..., уг, ут) = = (У\, Уг, Уг+l -Фг+1(«/1> • • •> Уг), , Ут-Чт{У\, , Уг))- Очевидно, что и есть Сй-диффеоморфизм. Пусть Q' — брус в Rm, такой, что v о ф (Q) a: Q' с Qr X Rm-r, и пусть E = o '1(Q/). Если мы положим u' = v\V, то получим, что и' ° f ° U (х^, ..., Хге) = п'°ф(х1, ..., Х„) = (%[.хг, 0, 0). ► Отметим, что (^-отображения можно заменить R-аналитическими, если f аналитическое. 1.3.15. Замечание. Ясно, что теорема о ранге имеет аналог для голоморфных отображений. Мы не формулируем его явно, так как и утверждение и доказательство практически те же, что и в теореме 1.3.14. § 1.4. Теорема Сарда и функциональная зависимость 1.4.1. Лемма. Пусть Q —открытое множество в R" и f: Q->Rn — отображение, удовлетворяющее условию Липшица на компактных подмножествах Q, т. е. для любого компакта «сс Q существует такое М > 0, что | f (х) — f (у) | М | х — у | для всех х, у^К- Тогда для любого множества ScQ меры нуль множество f(S) имеет меру нуль.
26 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Еге Это следует из определения множества меры нуль. 1.4.2. Лемма. Если Q открыто в Rre и f е С1 (Q, п), то f переводит множества меры нуль в множества меры нуль. 1.4.3. Лемма. Если m и п —целые числа, tn>n, Q — открытое множество в Rre и f: Q -> Rm есть (^-отображение, то f(Q) имеет меру нуль в Rm. ◄ Если мы определим отображение g: Q X Rm~re->Rm, полагая g(*i> ..., xm) = f (х„ ..., хп), то f(Q) = g'(Q X 0) имеет меру нуль в Rm по лемме 1.4.2. ► 1.4.4. Определение. Пусть Q — открытое множество в Rre и f: Q -> Rm есть С'-отображение. Точка aeQ называется критической точ- кой f, если rank (df) (а) < m. 1.4.5. Замечания, (а) Если т>п, то всякая точка в Q является критической. (Ь) Множество критических точек отображения f замкнуто в Q. Основная цель этого параграфа— доказательство следующей теоремы. 1.4.6. Теорема Сарда. Если Q — открытое множество в Rre, f: Q -> Rm есть С°°-отображение и А — множество критических точек f, то f(A) имеет меру нуль в Rm. Эта теорема верна даже в предположении feCf(Q, т), где г = max(n — m + 1, 1). Доказательство этого более сильного ва- рианта требует, однако, и несколько более тонкого анализа: см. Сард [1] и Морс [1], а также Мальгранж [2]. Уитни [3] показал, что требование дифференцируемости шах(и —/и+1, 1) раз —луч- шее из возможных, и привел пример Сге“т-отображения f (n>m) из Rre в Rm, для которого образ множества критических точек содержит непустое открытое множество. Прежде всего мы докажем теорему Сарда в случае, когда т = п, но в более слабом предположении относительно дифферен- цируемости. 1.4.7. Предложение. Пусть Q — открытое множество в Rre и f: Q—>Rre есть СА-отображение. Если А — множество критических точек f, то f(A) имеет меру нуль в Rre. ◄ Пусть а^А. По предположению, rank(df)(a)<n; следова- тельно, f (а) + (df) (a) (Rre) есть аффинное подпространство 7aczRn размерности < п. Пусть щ, ..., ип — ортонормированный базис в R" с центром f(a), такой, что Va лежит в пространстве, натя- нутом на ..., нл-1. Пусть Q — замкнутый куб в Q; нам доста-
§ 1.4. ТЕОРЕМА САРДА И ФУНКЦИОНАЛЬНАЯ ЗАВИСИМОСТЬ 27 точно показать, что f (Q П А) имеет меру нуль. Когда х, y^Q, мы имеем f W - f (у) = (df) (у) (х~у) + г (х, у), ГДе г(х, t/) = o(||x-i/||) равномерно на Q X Q при || х — у ||-> 0; следовательно, найдется функция X: R+->R+, такая, что к(/)->0 при t->Q и ||г(х, у) ||<k(||x-f/||) -ll-v-f/ll. Если е>0 достаточно мало и х лежит в кубе Qe с ребром е, со- держащем точку а е А, то f (х) лежит в слое между гиперпло- скостями ип — 2k (е) • е и ип — — 2k (е) • е. Более того, из формулы Тейлора следует, что f(x) лежит в кубе с ребром Me и центром f (а) (ребра куба параллельны осям коор- динат мг), где М — константа, не зависящая от а, х е Q и от вы- бора координат {«J. Объем пересечения куба с ребром Me и слоя между гиперплоскостями ип = ± 2k (е) е не превышает 4Мп~‘епХ (е). Так как мера в Rn инвариантна относительно ортонормированной замены координат, то f(Qe) имеет меру ^.4Мп~,епК(е). Пусть Z — длина ребра куба Q. Разобьем Q на (1/е)п кубов Qz с ребром е, i = 1, ..., (lfe)n. Мы показали, что если Qi(~l А 0, то mesf(Qi)^4Mn~Ien^ (в), где mes — мера в Rrt. Следовательно, mesHAflQX S mesf (A fl Q.) </n4Mn-1k(e). i, ЛЛ<?,-¥>0 Так как к(в)->0 при в—>0, то mesf(Af)Q) = 0. ► Для доказательства теоремы 1.4.6 нам понадобится одно под- готовительное предложение. 1.4.8. Предложение. Если f-. Q->R* — функция класса С°° и А — множество ее критических точек, то f(A) имеет меру нуль. ◄ Положим Afe = (aeQ: Daf(d)~0 для всех а, 0<|а|^й]. Очевидно, Afe+1 с: Ak и (1.4.9) A = A1=(A1\A2)U(A2\A3)U ... U(A„-!\/ln)UArt. Если а е Ап и Q — замкнутый куб в Q, содержащий a, TQ
28 ГЛ. I. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Rn так что образ куба с ребром е, содержащего точку а, имеет меру <Л'18,г+1 в R1 (Л4 = A4(Q) > 0 — фиксированная константа). Значит, разбивая Q на (//е)п кубов с ребром е, мы получим, что f (Ап П Q) имеет меру < 1пМе, а поскольку 8 произвольно, f (А„) имеет меру нуль. Если га=1, то А = А, = Ап, так что в этом случае предло- жение доказано. Предположим теперь по индукции, что если й' —открытое множество в Rn-1, g есть С°°-отображение й' в R1 и Ag — множество критических точек g, то g(Ag) имеет меру нуль. Как видно из разложения (1.4.9) для отображения f: Q-*R*, достаточно показать, что f (Ak \ Afe+1) имеет меру нуль при 1 < п. Для этого достаточно показать, что для любой точки a^Ak\ Ak+1 = = Bk найдется окрестность U в Rre, такая, что f(U[\Bk) имеет меру нуль. Так как а ф Ak+{, то найдется мультииндекс а = (аь ..., а„), | а | = k + 1, для которого Daf(a)^0. Если а;- 0, пусть Р = а —(0, ..., 1..0) (1 на /-м месте и 0 на остальных местах), и пусть h = Dzf. Тогда (dh)(a) имеет в точке а максимальный ранг (равный 1); значит, по теореме о ранге 1.3.14, найдутся окрестность С'эа, куб Q в Rn и С°°-диффеоморфизм и: U ->Q, такие, что и({х: h (х) = 0}) = {(хь ..., x„)eQ: х1 = 0} = Н. По построению, u(Bk6\U) cz Н, и мы положим Й' = {(х2, .... хп) е Rn-1: (0, х2, .... хп) е Н}. Пусть g есть С°°-функция в й', определяемая условием g(x2.....r„) = f(0, х2, ..., х„), где F = f°u~1. Если S = u(Bk(\U), то, очевидно, F{S)czg(Ag), где Ag — множество критических точек g. По индуктивному предпо- ложению, g(Ag), а значит и F(S) = f(U ОВД имеет меру нуль. ► 1.4.10. Следствие. Если f: Q-»Rm есть С^-отображение и В = = {х: (df) (х) = 0}, то f(B) имеет меру нуль в R"1. ◄ Если f = ..., fm), то BczBl—{x: (df^tx) = 0). Следова- тельно, Согласно предложению 1.4.8, Л(В1) имеет меру нуль в R, по- этому fi(Bi) X Rm“1 имеет меру нуль в R"1. ►
§ 1.4. ТЕОРЕМА САРДА И ФУНКЦИОНАЛЬНАЯ ЗАВИСИМОСТЬ 29 Наконец, нам понадобится еще один результат, который прямо следует из теоремы Фубини о представлении кратных интегралов повторными. 1.4.11. Лемма. Пусть S — измеримое множество в Rp = RrxRp-r (0<г<р). Обозначим точку в Rp через (х, у), xgR", i/eRp-r. Для с е Rr пусть Sc = {y gF': (с, у) е= S], Тогда S имеет меру нуль в Rp в том и только в том случае, когда Sc имеет меру нуль в Rp~r для почти всех с е Rr. ◄ Достаточно применить теорему Фубини к характеристической функции S (которая, по определению, равна 1 на S и 0 вне S). ► Доказательство теоремы 1.4.6. Пусть Ek = {x^Q: rank(df) (х) = k}, где /: Q-*Rm —заданное С°°-отображение. Если т>п, то теорема следует непосредственно из леммы 1.4.3, и потому мы можем счи- тать, что п~^т. Тогда А= (J Ек. 0< k < т Нам надо показать, что у любой точки a^Ek найдется окрест- ность U в Rn, такая, что f (U ПД^) имеет меру нуль. Множество {xgQ: rank(df)(x) (J Ег 0<r< fe замкнуто для любого k‘, значит, Ek локально замкнуто, т. е. для любой точки а е Ek и всех достаточно малых окрестностей U э а в R” множество U {\Ek замкнуто в U и потому является счетным объединением компактов. Так как образ компакта при отобра- жении f есть компакт и потому измеримое множество, то Sk = = f(U[\Ek) измеримо в Rm. Если k = 0, то So имеет меру нуль, согласно следствию 1.4.10. Пусть 0<k<m и a<^Ek. Ecnnf = (fi, ..., fm), то мы можем счи- тать, переставляя fj, что rank(diz) (а) = k, где u = (flt ..., fk). В Q найдутся С°°-функции uk+l, ..., ип (на самом деле — линейные функции в Rre), такие, что rank (eta) (а) = п, где W = (fli • • •» fkt ^й + b • • • >
30 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Рп По теореме об обратной функции 1.3.11, существуют сколь угодно малые окрестности U =>а и V э w (а), такие, что w: U -> V есть С°°-диффеоморфизм. Отображение F = f°w~l: имеет вид F(vlt ..., о„) = (ць .... vk, Fk+i(v).Fm(o)); если Ek = (v^V: (dF)(v) имеет ранг k}, то Sk = t(y(\Ek) = F{E!k\ Для определим отображение Fc'. Vc-> Rm \ полагая Fc (у) = (Fft+I (с, у), .... Fm (с, у)). Здесь V’c = {;/е R"4: (с, г/)еу). Ясно, что (с, г/)е^от(г/) = 0. Значит, согласно следствию 1.4.10, если Ek,c — {y^-Vc' (c,y)~Ek\, то Fc(.Ek,^ имеет меру нуль в Rm-\ Далее, Sk, С={ус= Rm-ft: (с, у) е Sk = F (£*)} = Fc Д Следовательно, так как Sk измеримо, то, по лемме 1.4.11, Sk имеет меру нуль в R"1. Как мы уже отмечали, этим завершается дока- зательство теоремы 1.4.6. ► Эта теорема, в ее общей формулировке, принадлежит М. Морсу, А. Морсу и Сарду. Приведем одно применение теоремы Сарда. 1.4.12. Применение. Пусть flt ..., Набор функций (fj) называется функционально зависимым на подмножестве 5 с: Q, если существуют открытое множество Q'=>f(S), где f —(fj...fm): Q—>Rm, и С°”-функция g в Q', такая, что g-1 (0) нигде не плотно в О' и g (f (х)) = 0 для всех х е S. Если g можно взять R-аналитической, то набор {fy} называется аналитически зависимым. Соответствую- щее определение формулируется и для голоморфных функций. 1.4.13. Лемма. Для произвольного замкнутого множества X в R" найдется функция <peC°°(Rn), такая, что X = {xeRn: <р(х) = 0}.
§ 1.4. ТЕОРЕМА САРДА И ФУНКЦИОНАЛЬНАЯ ЗАВИСИМОСТЬ 31 ◄ Возьмем в Rn открытые множества Up, р^1, такие, что X = Q Up. Пусть {Кпй — последовательность компактных подмно- р>1 жеств Rn, такая, что U^ = R\ Кт<=Кт+1. т—\ Согласно следствию 1.2.6, найдутся <pp е С°° (R"), такие, что 0<фр<1, фр = 0 на X и Фр = 1 на R"\£7p. Пусть сР = 11ФР Ир₽= 2 sup lpa<PpWl- |a|<p ’ Х^КР Подберем ер>0 так, чтобы 00 2 ерср< оо. Положим т Ф/п = 2 Зрфр’ р=1 Тогда для любого компакта К cz Rn найдется такое г, что К <= Кг, поэтому если р>0 задано и т'^т>г,р, то || фт — фт'11^ < 2 2 8?Иф?Ирпри т->оо. Следовательно, {фт} q>m q>tn 4 является фундаментальной последовательностью в C°°(R") и ее предел ф, очевидно, обладает требуемыми свойствами. ► 1.4.14. Теорема. Если f; Q -» Rm есть С°°-отображение f = (fb .... fm), то набор {/;} функционально зависим на каждом компактном под- множестве Q в том и только в том случае, когда rank (df) (х) < m для всех х е Q. ◄ Предположим, что rank (df) (а) = m в некоторой точке asQ. Тогда rank (df) (х) = tn для всех х, достаточно близких к а, так что, по теореме о ранге, найдется относительно компактная окре- стность U точки а, такая, что f (U) открыто в Rm, а потому f(U) не является нигде не плотным. Очевидно, что в этом случае набор {//} функционально независим на U. Обратно, если rank (df)(x)<m для всех х е Q, то, по теореме Сарда 1.4.6, f(Q) имеет меру нуль в Rm. Если Д с: Q — компакт, то f (К) — компакт меры нуль и, значит, нигде не плотное множе- ство. По лемме 1.4.13, найдется функция geC°°(R"1), такая, что g~l (0) = f(K). Очевидно, g°f(x) = Q для всех Несколько более слабое утверждение справедливо для анали- тической зависимости.
32 ГЛ. I. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В 1.4.15. Теорема. Пусть f: Q -> Rm — аналитическое отображение, f = (fi, ..., fm). Тогда rank(df) (x)<m для всех xgQ в том и только в том случае, когда существует нигде не плотное замкну- тое множество ScQ, такое, что у любой точки aeQ\S най- дется окрестность U czQ, где fj\U аналитически зависимы. Отметим, что если Q связно, то по теореме единственности rank(df) (х)<пг для всех х е Q, если он < пг для всех х из не- которого непустого открытого подмножества Q. 4 Мы можем считать, что Q связно. Если множество S с ука- занными выше свойствами существует, то, очевидно, rank (df) (х) < m для xgQ\S (теорема 1.4.14), а тогда и всюду на Q, так как множество {х: rank (df) (х) = tn} открыто. Обратно, пусть р = max rank (df) (х) < m; возьмем точку b е Q, в которой rank (df) (b) = р. Тогда найдутся индексы /ь ..., /р, и ..., kp, 1 kp п, такие, что h (b) 0, где / dh \ h(x) = det I g^-(x)j. ' ks ' Пусть S = {xeQ: h(x) = Q}. Так как функция h аналитична в Q и ^0, то S не содержит никакого открытого множества и потому нигде не плотно. Очевидно, rank (df) (х) = р, х е Q\S. По теореме о ранге 1.3.15, существуют окрестности U эa, V^f(a), брусы Q, Q' в Rn, Rm соответственно и аналитические изоморфизмы и: Q-+U, и': V->Q', такие, что и'° f°u совпадает с отображе- нием (хь ..., xn)i—>(х1( ..., хр, 0, ..., 0). Если u' = (u'v ..., н';) и мы положим g = и'тг то получим, что g °f = 0 на U. ► 1.4.16. Пример. Пусть ф (г) —целая функция комплексного пере- менного z, которая не является многочленом и действительна на действительной оси (например, q>(z) = ez). Рассмотрим отображе- ние f: R2-»R3, задаваемое равенством f (м, х2) = (хь Xfy, х^ (х2)). Можно показать, что не существует аналитической функции g 0 в окрестности 0 е R3, такой, что g °f = 0 в окрестности
§ 1.5. ТЕОРЕМА БОРЕЛЯ О РЯДАХ ТЕЙЛОРА 33 OeR2. Этот пример показывает, что наличие множества S в тео- реме 1.4.15 необходимо. 1.4.17. Замечание. Теорема 1.4.15 и пример 1.4.16 с очевидными изменениями применимы и к голоморфным функциям. § 1.5. Теорема Бореля о рядах Тейлора Пусть Q — открытое множество в R”, такое, что 0 е Q, и пусть feC°°(Q). Обозначим через Т (/) формальный степенной ряд а если m > 0 — целое число, положим 7’m(f)= 2 ^(£>7)(0)ха; |а|<т Tm(f), конечно, является многочленом. 1.5.1. Определение. Пусть Л' —замкнутое подмножество Q. Функ- ция f^Ck(Q) называется m-плоской на X, m^k, если Daf(x) = 0 для всех х е X и всех а с | а | т. Если f е С°° (□) и Daf (х) = О для х^Х п всех а, мы будем говорить, что f — плоская на X. 1.5.2. Лемма. Пусть является m-плоской в начале координат. Тогда для всякого е>0 существует функция geC0o(R't), равная нулю в окрестности 0 и такая, что р/1 U-/I& <е. По следствию 1.2.6 найдется функция ц е С00 (R”), такая, что ц (х) О для всех х и ц (х) = О, если | х | 72, ц (х) = 1, если | х | 1. Для 6 > 0 положим ёб W = Л (у) f (х). Очевидно, g6 е С°° (Rn) и равна нулю вблизи 0; поэтому доста- точно доказать, что sup | (Dag&)(x) - (Daf) (х) | ->0 при 6 ->0, если |a|s^m. Так как g&(x) — f (х), если |х|^6, то sup | Dag6 (х) - Daf (х) | = sup | Dagb (x) - Daf (x) [. xe=Rn 1*1<S 2 Зак. 751
34 ГЛ. I. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Так как f является «-плоской в 0, то Daf (0) = 0, и потому sup |£>7W| —> 0 при 6->0, если |а|^«. |х|<« Далее, мы имеем Dag6W= 2 (;)6"'vl(nvn)(f)(D7)(x). li+v=a Поскольку т] (х) = 1, если | х | 1, то sup | Д'т] (х) | = Afv< оо. xeR" Следовательно, IDag6 WI<М J} d“,v||D7(x)|, где М = max( “Wv. g+v»a Функция D^f является (т — | ц | )-плоской в 0, так что sup (х)| = o(d'"~,|i|) при 6-»0; IX । <«з значит, sup |Dag6(х) | = о [ 2 v|\ = о(1), если | а | т. ► |х|<« \H+v=a / 1.5.3. Замечание. На самом деле достаточно предполагать, что fsCm(Rn) и является .m-плоской в 0. Функция g из леммы 1.5.2, в частности, является плоской в 0. 1.5.4. Теорема Бореля. Для любых наперед заданных действитель- ных констант са, где а пробегает все наборы a = (a,, ..., a„) из п неотрицательных целых чисел, существует такая функция f^C°° (R"), что -L. Daf (Q) = са. a! Другими словами, отображение пространства С°°(РП) в кольцо формальных степенных рядов от п переменных, при котором f t—> Т (f), является сюръективным, т. е. отображением на. ◄ Пусть Тт(х)= 2 caxa. |a|<m Очевидно, функция Тт+} — Тт является «-плоской в 0; значит, по лемме 1.5.2, существует gm е С°° (Rre), равная нулю в окрест- ности 0 и такая, что \\Tm+l-Tm-gmf*<2~m.
§ 1.5. ТЕОРЕМА БОРЕ ЛЯ О РЯДАХ ТЕЙЛОРА 35 Очевидно, что функция f = TQ + 2 (Tm+i -Тт~ gm) е С°° (Rn). Далее, для любого k>0 сумма ^m>k(Tm+l — Tm — gm) является fe-плоской в 0. Следовательно, / fe-i \ Tk(f) = Tk т0 + 2(Tm+1 -Tm-gm)]~Tk. ► Эта теорема Бореля является весьма частным случаем теорем Уитни [1] о дифференцируемых функциях на замкнутых множе- ствах. Мы сформулируем без доказательства одну из главных теорем Уитни в этом направлении. Элегантное ее доказательство, основанное на предложенных Глезером [1] упрощениях, приведено в книге Мальгранжа [2]. 1.5.5. Теорема Уитни о продолжении. Часть 1. Пусть k — целое положительное число, Q — открытое множество в Rre и X — замкну- тое подмножество Q. Предположим, что для каждого набора а — (аь ..., а„) из п неотрицательных целых чисел, | а | k, задана непрерывная функция fa на X. Тогда для существования функции f ^Ck (Q), такой, что Daf | X = fa, | а необходимо и достаточно, чтобы для любого а, | а | k, выполнялось равенство равномерно на компактных подмножествах X при | х — у | -> 0. 1.5.6. Теорема Уитни о продолжении. Часть 2. Для заданных при всех а непрерывных функций fa на X продолжение f ^С°° (Q), такое, что Daf\ X = fa для всех а, существует в том и только в том случае, когда для любого целого m>Q и любого компакта 1(СХ выполняется равенство fa(x) = 2 уг/а+|з(#)(*-^+о(1*-г/Г) IPKm равномерно при | х — у | -> 0, х, у^К- Теорема Бореля является частным случаем теоремы 1.5.6, когда X = {0} состоит из одной точки. 2*
36 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R" § 1.6. Теорема Уитни о приближении Начнем с леммы. 1.6.1. Лемма. Пусть feCo(R”), 0^&<оо. Для Z>0 положим IK(f)(x) = gK (*) = = сКп/2 j f (у) exp {— X [(xj - ytf + ... + (x„ - г/га)2]} dy s Rre = c?.nl2 J f (y) exp {— % IIX - у IP} dy, Rrt где c = ix~n/2, так что c J exp (—1| x II2) dx = 1. Rrt Тогда кх-Л* “>0 nPu Отметим, что gK^ C°° (R"). < Имеем gK (x) = c7n’2 J f (x - y} exp (— XII у IP) dy, r" так что для | a | k DagK(x) = cKnl2 / (Daf)(x-y)exp(-M\y\?)dy = Rn = cV/2 J (D“f)(^)exp(— K\\x-y]?)dy. Rn Отсюда получаем DagK (x) - Daf (x) = cKnl2 / [Daf (y) - Daf (x)} exp (- X|| x - у IP) dy. r" Для данного e>0 найдется 6>0, такое, что |Daf (у) - Daf (x)| < у, когда ||x-^||<S и | a | <k, так как f е Со (R"). Более того, существует М > 0, такое, что для всех у, | а | k.
§ 1.6. ТЕОРЕМА УИТНИ О ПРИБЛИЖЕНИИ 37 Следовательно, = c7.n'2 ( f + ^ec%nl2 [ ехр(— Х||х—y\F)dy+2Mcknl2 f exp ( — Z||x — y||2) dy. Rn llx-i/ll>e Далее, сКп/2 c7.n''2 J exp (— X || x — у |p) dy = 1, ' Rn J exp(—%||x~y|p)dy< »ll>e e~M‘l2cKnl2 J exp (— -j- %|| x — у Ipjdy = 2 Rn Это дает нам оценку | DagK (x) - Daf (x) J 8 + M2'+n'2 exP (“ f 1 Так как для фиксированного 6>0 можно подобрать % столь большим, что последний член справа станет < е, то sup | DagK (х) — Daf (х) | -+ 0 при Z-»oo. ► 1.6.2. Теорема Вейерштрасса о приближении. Пусть Q — открытое множество в Rre. Тогда для любой функции f^Ck(Q), Q^.k<oo, любого е>0 и любого компакта cz Q найдется многочлен Р (х) от хь ..., хп, такой, что \\f-P$<e. 4 Заменяя f на qtf, где <peC“(Q), supptpczQ и <р — 1 в окре- стности К (такая функция <р существует, согласно следствию 1.2.6), мы можем считать, что feCo(Rre). Тогда, по лемме 1.6.1, для данного 8>0 можно подобрать столь большое %, что если IK (f) W ё>. W = cV/2 J f (у) exp (— % || х - у IP) dy, то
38 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Рп Далее, оо ехр (— Х|| х - у II2) = -Т- (— Х)р || х - у F. р=0 Поэтому если положить <2Ж р=0 то DaQN(x, г/)->Даехр(—Z||x —г/Ц2) при N -> оо равномерно для х, у из любого компактного множества. Если мы положим PN (х) = сГ/2 j f (у) Qn (х, у) dy, то PN будет многочленом и -> 0 при jV->oo. ► 1.6.3. Следствие. Если Q; — открытые множества и Xj — точки в Rni (/ = 1, 2), то конечные линейные комбинации 2ф№)<р‘2)(*2). где фр' eC°°(R"/), плотны в Cft (Q] X Q2) пРи O^fe^oo. Так как топология на С*(Й!ХЙ2) определяется сходимостью на компактных подмножествах, то, домножая ф^ на подходящие С°°-функции с компактным носителем, мы получаем 1.6.4. Следствие. В обозначениях следствия 1.6.3 конечные линей- ные комбинации 2 (*i) Фр2' (*2)> где фУ’еС”^), плотны в С’ДС^ХОг) для всех k, O^fe^oo. Теперь мы займемся теоремой Уитни о приближении [1], играющей большую роль при детальном изучении дифференци- руемых и аналитических многообразий. 1.6.Б. Теорема Уитни о приближении. Пусть Q — открытое множе- ство в Rre и f^Ck(Q), О^й^оо. Пусть т] — непрерывная функция в Q, г](х)>0 для всех xeQ. Тогда существует ^-аналитическая функция g в Q, такая, что \Daf (х) — Dag (х)\<ц(х) при 0<|aKmin(fc, (естественно, min(oo, а)— а, если aeR), Начнем с небольшой переформулировки результата.
§ 1.6. ТЕОРЕМА УИТНИ О ПРИБЛИЖЕНИИ 39 1.6.6. Замечание. Пусть {Кр} — последовательность компактных подмножеств Q, такая, что Ко = 0, Кр^Кр+\ и (J КР = Q. Если {ер}—последовательность (строго) положительных чисел, то суще- ствует такая непрерывная функция ц, что ц (х) > 0 для всех х и T](x)<8p, когда х (= Kp+i \КР, Поэтому теорему 1.6.5. можно сформулировать следующим образом. 1.6.7. Теорема. Пусть Q открыто в R" и f^Ck(Q}, 0<fe^oo. Пусть [Кр} —последовательность компактных подмножеств Q, такая, что Ко = 0, Kp^Kp+i и Uftp = &- Пусть {пр} - произвольная последовательность положительных целых чисел и mp = m\n(k, пр). Наконец, пусть {ьр} — произвольная последовательность положи- тельных чисел. Тогда существует R-аналитическая функция g в Q, такая, что для всякого р^О \\f-gCpp+^Kp<^p. 4 Мы можем считать, что mp+l'^mp для всех р^О. Напи- шем неравенство (1.1.10): если <р, феСтр(й) и S cz Q, то || Н1^<11ф Срн и^. Пусть Lp = Кр+\ \ КР(р^ 0). Пусть фреС”(0) таковы, что supp фр — компакты из й, фр(х) = 0, если х лежит в окрестности Кр-1, и фр (х) = 1, если х лежит в некоторой окрестности Lp. (Такие фр существуют согласно следствию 1.2.6.) Положим = 1+11 Фр Ср- Пусть 6Р > 0 подобраны так, что (1.6.8) 26р+1 <6р, JJmVh <Т8р пРи Р>°- Я>Р Как и в лемме 1.6.1, определим IK{f) при feCo(Rre) равенством 4(f) W = cXn/2 j f (у)ехр(- M\x-y\?)dy, ап где с J ехр (— || х II2) dx = 1. Rn По лемме 1.6.1, можно подобрать Х0>0 так, чтобы функция So = 40(ф(/) Удовлетворяла неравенству II go ~ 4>of l£ ^о-
40 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Определим теперь по индукции числа Aq, ..Ар, .,. и функции got git •••, gpt ••• следующим образом. Предположим, что g0, ... ..., gp~i, Ао, Ар-! уже заданы. По лемме 1.6.1, существует функция gj), j^p-1, такая, что если Ap>Zp и gp = =hp [<Рр (7 - go ~ -gp-i)L то (1.6.9) II gp - <РР (f - go - ... -gp-i)£'+1<6p. Так как gp зависит только от Ар и g0, ..., gp-lt то мы видим, что 1р зависит только от Ао, ..., Ap_j. Так как <рр = 0 в окрестности Kp-lt то из (1.6.9) вытекает, в частности, что (1.6.Ю) UPC7‘<6P; Поскольку <рр = 1 в окрестности Lp, то, кроме того, (1.6.11) ||f-go- ... ~gptPp<bpt Lp = K,+1\Kp. Таким образом, если в (1.6.9) заменить р на р +1, то мы полу- чим г || / р X ||Ар |1 / р \ ||lp llgp+iifr < <pP+i(f-2 gj + gp+i-<Pp+i(f-2gj < P II \ 0 / II \ 0 / \\mp <nv»+1 e„ -|f- 2 s. + 6P+I < Mp+l6p + 6p+1, кроме того, мы имеем неравенство (1.6.10), откуда llgp+i |£'<SP+1; поэтому II gp+1 < Я>+Л + 26р+1 < А1р+А + 6р <2дрМр+1. В частности, Ч>Р Ч>Р Отсюда следует, что 00 g = 5 gq е Стр (Q) для всех р. q-0
§ 1.6. ТЕОРЕМА УИТНИ О ПРИБЛИЖЕНИИ 41 Далее, согласно (1.6.11), Таким образом, если последовательность {Ар} такова, что Ар > >/р(Ао, ..., Ap-j), последовательность {gp} определена описанным выше индуктивным процессом и g = ^gp, то llf-gCPp+14^<ep. Теперь нам надо показать, что если Ap>Zp(A0..........Ар-!) выби- рать подходящим образом, то функция g будет аналитической. По определению, / Р-1 X gp(x) = cAp/2 J Фр(у) /(#)-]£ (у) I exp (- Ар||х-y\^}dy = \ <7 = 0 / = Clf J .... supp <fp Так как интегрирование ведется по компактному множеству и ехр( — А|| х — у II2) аналитична по х, то gp аналитична в R™ при любом р. Пусть теперь 2рр равно расстоянию от Кр до Q\7<p+1. Очевидно, рр>0. Пусть Up — открытое множество в Сп R", Up Кр, причем если zeUp, а у gQ\Kp+1, то Re {Ui - г/i)2 + ... +(zn-«/n)2}>Pp. Ясно, что gp является сужением на R” целой функции hp (z) = сАр/2 J <рр («/) X supp Фр х (f (у) - У gq (у)'j exp (- Ар [(Zj - у})2 + ... + (z„ - z/„)2]) dy. \ <7=0 / Далее, так как supp<p? cz Q\ Kp+i, если q > p + 1, то интеграл, определяющий gq, q > p + 1, можно заменить интегралом по Q\/Cp+I. Это показывает, что для геУ, (1.6.12) |A?(z)|<cA"/2exp(-А7рр)Я,(^0, ..., ^_() = = сА^2Я9ехр(-А?рр),
42 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R" где Нд зависит только от Ло, A?_j, поскольку gk зависит только от X] с j^k. Мы можем по индукции подобрать числа Лд>/д(Х0, X?-i) так, чтобы 2 Х^/2Я1?ехр( — Х9р) < оо для любого р>0. (Для этого достаточно брать такими, что Z,^/277?exp(—X4/q)<q~2.) При таком выборе последовательности {A.J из (1.6.12) следует, что ряд A(z) = 2 hg(z) сходится равномерно на Up для любого р; очевидно, U = U^P — открытое множество в С" и <7riR" = Q; функция h голоморфна в U по теореме Вейерштрасса 1.1.3. Ее сужение на Q, равное g, является поэтому R-аналитической функцией в Q. ► § 1.7. Теорема о приближении для голоморфных функций Вопросы приближения голоморфными функциями намного сложнее тех, с которыми мы имели дело в § 1.6. Прежде всего, так как равномерный предел голоморфных функций также является голоморфной функцией, то самое большее, на что мы можем надеяться, — это приближение голоморфных функций многочле- нами от комплексных переменных zb ..., zn. Однако имеется ряд геометрических и аналитических условий на открытые множества U cz С", необходимых для того, чтобы любая голоморфная в U функция приближалась многочленами. Простейший пример области, где приближение невозможно,— это область С* = (2еС: z =#= 0}: функцию z~x нельзя приблизить в С* многочленами от z. В случае одного переменного упомяну- тые ограничения являются чисто топологическими (см. теоремы 1.7.2 и 3.10.11), однако при п>1 это уже не так. 1.7.1. Определение. Открытое множество U cz С" называется областью Рунге, если всякую голоморфную в U функцию можно приближать многочленами отгь ..., гп равномерно на компакт- ных подмножествах U. Следующая теорема содержится в более общей теореме, дока- зываемой в гл. 3 (см. § 3.10). Простое прямое доказательство, основанное на интегральной формуле Коши, можно найти, напри- мер, в книге Хёрмандера [4]. 1.7.2. Теорема Рунге. Открытое связное множество U а: С является областью Рунге тогда и только тогда, когда всякая связная ком- понента U односвязна. Пусть теперь U — открытое множество в С" и Z: (7 ->R+—не- прерывная функция (Z(z)>0 для всех z^.U). Пусть dv=dv2
$ 1.7. ТЕОРЕМА О ПРИБЛИЖЕНИИ ДЛЯ ГОЛОМОРФНЫХ ФУНКЦИЙ 43 обозначает меру Лебега в С" (с переменными zb z„) и Ж (X) — множество голоморфных в U функций, для которых J \f(z) |2Х (z)dv < оо. и 1.7.3. Лемма. Для f, g е Ж (X) положим if, g)x = (f, g) = J f (z) g(z)A (z) dv. и Тогда $>{Д} является гильбертовым пространством со скалярным произведением (f, g). Так как пространство L2(Xdv) квадратично интегрируемых функций по мере }.(z)dv2 полно, то достаточно показать, что Ж (X) замкнуто в L2(Adu). Этот результат сразу вытекает из следующего предложения. 1.7.4. Предложение. Если {fp} — последовательность элементов из Ж (X) и J I fp (2) - f4 (z) |2 X (z) dvz -> 0 при р, q-+oo, и то {fp} сходится равномерно на компактных подмножествах из U. ◄ Поскольку X ограничена снизу на каждом компактном под- множестве из U положительной константой, мы можем считать, что на заданном компакте Х^1. Если g голоморфна в окрестности замкнутого круга {г е Е С: \z — а|^р}, то из формулы Коши следует, что §(а) = (яр2)-1 j g(a + z)dv. 1г| <р Применяя эту формулу/г раз, мы получим, что если /г(гь ..., z„) голоморфна в окрестности поликруга \z} — aj^p, ..., | zn — ап |^р, то h (а) = (яр2)-" J h (а + z) dv. |z 1<Р Пусть К — компакт в U и р > 0 столь мало, что множество Кр = (геСл: существует це/(, такая, что |г —а|^р} является компактом в U. Если f голоморфна в U иаеК, то I f (а) К (яр2)-" J | / (а + г) | du < (яр2)’" j \f (z)\dv. |г|<р кр
44 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В Rrt Если мы применим это неравенство к квадрату разности (Jp—fq)2, то получим наше предложение. ► Пусть {<pv} — полная ортонормированная система в ^(А). Тогда если f Е 36 (А), то f = 5 cv<pv, cv = (f, tpv), где ряд сходится в (А). Из предложения 1.7.4 вытекает 1.7.5. Лемма. Если {<pv} — полная ортонормированная система в 36 (А), то любую функцию f ^36 (А) можно приблизить равно- мерно на компактных подмножествах U конечными линейными комбинациями N ^4 V=1 1.7.6. Предложение. Пусть Uj —открытые множества в Сп1 и Кj —строго положительные функции в U} (j=l, 2). Определим Z-! X А2 в UiX U2, полагая (A) X А2) (Z[, z2) = A.] (zj) • А2 (z2). Пусть [ф^'} — полная ортонормированная система в 36 Тогда функции (z^ • ф® (z2)} образуют полную ортонормированную систему в X А2). ◄ Достаточно показать, что если f е 36 (А[ X А2) и J *2) < (21) <р£* (22) *1 (г1) ^2 (Л) = 0 ДЛЯ Всех Vl> v2 U1 XI'. (где do — мера Лебега в <СЛ|+Лг), то f s=0. Пусть dv/ —мера Лебега в СЛЛ Сначала покажем, что если а^и^ то функция г21 > f (а1( z2) в U2 принадлежит 36 (А2). В самом деле, из доказательства пред- ложения 1.7.4 вытекает, что если г2е[/2 и р>0 достаточно мало, то I/(«1, Z2)l2<c-1(np2)‘n‘ J If(Z1, z2) I2 |z,-ai l<p где c = inf Xi (zi) для | Zi — ai |<p, и потому J If (al} z2)l2A2(z2)do2^ u, < С"1 (лр2Гп' J If (zb Z2) I2 %! (Zj) A2 (z2) dv < oo . Ui X <7!
§ 1.7. ТЕОРЕМА О ПРИБЛИЖЕНИИ ДЛЯ ГОЛОМОРФНЫХ ФУНКЦИЙ 45 Мы утверждаем теперь, что для любого v2 функция Я (zi) = g™ (zj) = J f (z,, z2) <p£> (z2) X2 (z2) dv2 Ui (которая, как мы показали выше, определена корректно) принад- лежит Ж Ui). Прежде всего, g(z{) голоморфна в Ult так как если {/Ср} — последовательность компактов, исчерпывающих U2, то последовательность f f (2i> z2) Т® (2г) 'Ч (2г) ^v2 кр сходится к g(Z]) равномерно на компактных подмножествах Ult как в предложении 1.7.4. Далее, по неравенству Шварца, I g tel) I2 < / I f (zi, z2) |2 X2 (z2) dv2 • j | <p® (z2) |2 A2 (z2) dv2, U1 U1 откуда J I ST (Zl) f2 Я,! (Zj) rft>1 ]7 J If (zI, Z2)|2^2(Z2)rfV2Vl(Zl)dw1<0O, Ut U1 \U2 / поскольку X X2). Таким образом, g (zj) e Ж (A,j). По пред- ложению, g (zt) ортогональна всем cp^^z^ в Ж (Xj); следовательно, g(zi) = 0. Значит, для каждого фиксированного Z] функция f(zb z2) ортогональна в <%?(Z2) всем <р® (z2), откуда следует, что Hzj, z2) = 0. ► 1.7.7. Теорема. Если Uj — открытые множества в Сп1 (}=1, 2), то конечные линейные комбинации 2 «> (*,)»№). где голоморфны в U,, плотны в пространстве голоморфных в U\XU2 функций относительно топологии сходимости на ком- пактах. ◄ Пусть f(zIt z2) голоморфна в Ut X 1/2. Тогда существует (строго) положительная непрерывная функция тр U1Xl/2->R+, такая, что f е (т]), т. е. J | f |2 t]dv < оо. l/i х щ Пусть {/С^} — компактные множества в Uf, такие, что КТ с l)E^ = Uh
46 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R" Тогда (J ХК.Т = U( X U2. р Пусть 0 < Ер < 1 таковы, что т] (zIt z2)^ep, когда (zb z2) <= е/Ср1'X/Ср'. Пусть Ху —(строго) положительная непрерывная в Ut функция, такая, что Z.;(z/Xep, если Zj е /Ср' \/Ср—i (о существо- вании таких функций см. замечание 1.6.6). Так как X /с(Р2)) \ (4% X <i) = /С<° X \ /<^1) и (/(£’ \ 1) X С, то отсюда тривиально следует, что если (г„ г2) е= (4° X К₽')\ (Кр1-1 X /С₽-1), ТО M(«l)^2(22Xep<T](Zi, z2). Поэтому мы имеем Л] (Zy) A2(z2Xt)(z1; z2) в X U2, следовательно, f е Ж (Z] X Л2). Если теперь — полная ортонормированная система в ^(Х/), то произведения ф^г^ф® (г2) образуют полную ортонормирован- ную систему в Ж(?.,Х Х2). Так как f X Л2), то по лемме 1.7.5 существуют комплексные константы cV1V!, такие, что конеч- ные линейные комбинации вида S cViV^(z,)V®(z2) приближают f равномерно на компактных подмножествах из Uy X С72. ► 1.7.8. Следствие. Если Uj — области Рунге eCnI(j=l, 2), то U1 X U2 — область Рунге в Сп'+пг. В частности, если Ult ..., Un— односвязные открытые множества в С, то Ut X ... X Un — область Рунге в С". В дальнейшем мы изучим более глубокие свойства областей Рунге в С". $ 1.8. Обыкновенные дифференциальные уравнения 1.8.1. Лемма. Пусть I —интервал в IR, содержащий 0, и пусть w. I —>R+ — непрерывная функция. Пусть М, rjeR, М > 0, т]>0 и для t еI t (1.8.2) w (/) М J w (s) ds + т). о Т огда w (t) цем Iz 1 для всех t 1.
§ 1.8. ОБЫКНОВЕННЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ 47 ◄ Пусть сначала Мы имеем ( ‘ * eMi 41 е~Ш J w(s)ds ~ w(t) — M J w (s) ds T), I о о откуда t t e-Mt J (s)ds ^T) J e~Ms ds = -^-(1 — e~Mt). о о Комбинируя это соотношение с (1.8.2), мы получаем неравенство w(t)^.r\eMt (так как Л1>0). Если ^<0, положим т= — />0. Тогда о т w ( — т) — М j sy (s) ds + т] = М J пу (— s) ds + г] —г 0 и, как мы уже видели, ш (— т) т]еМг, т. е. w (/) также и при /<0. ► 1.8.3. Определение. Пусть Й, й' — подмножества R", Rm соответ- ственно и f: Й X й' -> Rp — некоторое отображение. Мы говорим, что f удовлетворяет условию Липшица по х = Й на множестве S X S' cz й X Й' (3 с й, S' а: Й') равномерно по х' е S', если суще- ствует число М > 0, такое, что ИН*. x')-f(y, х') || < М|| х - у || для всех (х, х'), (у, /) s S X S'. 1.8.4. Теорема. Пусть Й, Й' — открытые множества в Rn, R"1 соот- ветственно и I — открытый интервал в R, содержащий 0. Пусть f: Й X I X Й'->₽" — непрерывное отображение-, обозначим точку в й X I X Й' через (х, t, а). Предположим, что для любых компактов /(ей, К'сй' функция f удовлетворяет условию Липшица по х на К. X / X К.' равномерно по t, а. Тогда для любого данного х3ейи компакта К' е й' суще- ствует интервал I0 = {t: 111 < е) и для любого а е К' существует единственное (Л-отображение /0->Й, /и->х(/, а), такое, что (1-8.5) f{x[t, а), t, а) =-^-(/, а), х(0, а) = х0. Кроме того, отображение 10 X К' -> й, при котором (t, а) н—> х (t, а), непрерывно.
48 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В ◄ Пусть М. > 0 таково, что при х, у^К, ае/С мы имеем Ilf (х, t, a) — f(y, t, а) || < M|| х - у ||. Пусть х0 — внутренняя точка К и г>0 столь мало, что Й0 = {х: ||х-х0||<г}с/(. Пусть ||f||<C на Йо XIX К,'. Подберем е'>0 таким, чтобы {/: 111 е'} <= I, и положим /0 = {/: |/|<е), где e = min(e', r/С). Положим х0(/, а) = х0, а отображение х„: /охГ^” для и>0 определим по формуле t (1.8.6) xn(t, а) = х0 + J f (xn—! (s, а), s, a) ds. о Мы утверждаем, что xn(t, а)ей0, если (/, а) е/0 X/С.. Действи- тельно, для п = 0 этот факт тривиален. Если он уже доказан для х„_ь то i II J f(x„_i(s, a), s, a)ds ^С|/|<Св^г, о II откуда ||х„(/, а) — х0||<г. Кроме того, мы имеем llx„+1 (t, a) — xn(t, a}\\<±MnC\t\n при nJ>0. В самом деле, и это совпадает с нашим неравенством при п = 0. Если это не- равенство справедливо при п = т, то 11хт+2(Л a)-xm+i(t, a) 11 = = / {f(xm+i(s, a), s, a)-f(xm(s, a), s, a)} ds < 0 Ul f smds = -7—^—Mm+iC\t\m+\ tn\ J (m +1)! ii» о а это как раз то, что нам надо. Значит, при п-*оо отображе- ния хп(Л а) равномерно стремятся к непрерывной функции х(/, aj.
§ 1.8. ОБЫКНОВЕННЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ 49 Более того, устремляя п—> оо в (1.8.6), мы получаем t x(t, а) = х0 + J f (х (s, а), s, а) ds, о откуда следует, что при любом фиксированном а отображение tb-^x(t,a) принадлежит классу С1. Наконец, если и: для некоторого а0 <= К.' есть (^-ото- бражение, такое, что f(M(O,/,ao) = -f-(/), и(О) = хо, то мы положим w (0 = х (t, а0) — и (/). Тогда для t 0 имеем t t IIw (/) IK j II f (x (s, a0), s, a0) -f(u (s), s, a0) || ds < M J || w (s) || ds, о 0 а отсюда по лемме 1.8.1 с т] = 0 следует, что w (/) = 0 при /1>0. Аналогичные рассуждения применимы и при (<0; утверждение о единственности доказано. ► 1.8.7. Замечание. Если Q = R" и f удовлетворяет оценке ||f(x, t, аЖСЛхИ + Сг, С„ С2>0, в R" X / X Q', то отображение х определено (и единственно) всюду в I X Действительно, если мы определим хп по формуле (1.8.6) для любого фиксированного а и t е I, то для t 0 t II хп (t, a) IK Ml J II xn-i (s) IIds + М2, о где М2 взято таким, что все еще || х0 |К М2еМ|<. По индукции получаем, что || х„ (t, a) II < M2eM,t, и, значит, последовательность {х„(/, а)}„>0 равномерно ограничена (при t^I, /^0; аналогичные рассуждения показывают, что это верно и для /<0). Применяя условие Липшица для f, мы можем показать, что || х„ (f, a) - xft+1 (t, а) |К 4г см" I Л", п > 0,
50 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R" а затем повторить доказательство теоремы 1.8.4. В частности, если f линейно по х, то решение уравнения (1.8.5) существует в / X Q'. ► 1.8.8. Теорема. Пусть обозначения остаются теми же, что в тео- реме 1.8.4, и пусть J —открытый интервал, содержащий замыка- ние I. Предположим, что f ^Ck (Q X / X й'), й 1 (в частности, f удовлетворяет условию Липшица, как в теореме 1.8.4). Тогда реше- ние х уравнения (1.8.5) принадлежит Ck К'). ◄ Пусть U' = К'• Покажем сначала, что если f е С1 (Q X / X Й')> то .reC'(/0X U'). Если а = (аь ..., ат), то достаточно показать, что частные производные существуют и непрерывны в /0 X U', так как, согласно (1.8.5), dxjdt существует и непрерывна. Будем считать, что /^0. При фиксированных/, а пусть а: Q—>Р”есть отображение хь->/(х, t, а), и пусть A (t, а) = (dh) (х (/, а)) = (dj) (х (/, а), t, а); A(t, а) — линейное преобразование Rn в себя. Пусть В (Л = В — непрерывное отображение /0 X U' в R". Согласно замечанию 1.8.7, существует непрерывное отображение у. I0XU'^Rn (которое при каждом фиксированном а принадлежит С1), такое, что (1.8.9) -^- = Л(/, а)«/ + В(/,а), z/(0,a) = 0. Для фиксированного а = (аь ..., ат) е U' и достаточно малого действительного числа h =?= 0 аЛ = (щ, . .., а/-!, а/ + h, а/+1, ..., ат), положим, по определению, /,х х (t, аЛ) —х (t, а) По формуле Тейлора при имеем f (х (s, аЛ), s, ай) — f (х (s, a), s, а) = hA (s, a) uh (s) + hB (s, a) + 8 (s, h), где e(s, Л) = о(|Л|||иА(«)|| + |Л|)
§ 1.8. ОБЫКНОВЕННЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ 51 равномерно по s при /г->0. (Заметим, что | h | • || uh (s) || +1 h | = = ||x(s, ал) — x(s, а)|| + ||ай — а||.) Учитывая уравнение (1.8.5), мы получаем отсюда, что t uh = J {Л (s> a) uh (s) + В (s, a) + 6 (s, /г)} ds, о где 6 (s, h) = e (s, h) = о (|| uh (s) || + 1). Из этого следует существование константы Ci > 0, такой, что t II uh (О II £1 J II uh (s) II ds + Су о поэтому, по лемме 1.8.1, ||иА(011 ограничены равномерно по t (интервал I ограничен) при й->0. Значит, б($, /г)->0 равномерно по s при /г->0. Пусть теперь гЛ (/) = uh (/) — у (t, а). Тогда, поскольку t у (t, a) = J {Л (s, а) у (s, a) + В (s, a)} ds, о мы имеем Так как т) = t t zh (О = J А («, а) zh (s) ds + j 6 (s, h) ds. о 0 О при /г-»0, то из леммы 1.8.1 видно, что гЛ(/)-»0 О II Э при /г->0. Это означает в точности, что (dx/daj) (a) существует и равна у (t, а). Следовательно х е С1 (/0 X U'), как и утверждалось. Окончание доказательства теоремы 1.8.8 мы проведем индук- цией по k. Если f X J X k>l, и если хе ck~l(joxu'\ то очевидно, что А (/, a), B(t, а) суть Ck ‘-отображения. Так как у удовлетворяет уравнению -^- = Л(Л a)y + B(t, a), то из предположения индукции вытекает, что y^Ck 1 (/0 X и'\ Поскольку выполнены соотношения a) = y{t, a), = f (х (t, a), t, a), все первые производные x принадлежат так что х принад- лежит Ск (/0 X U'). ►
52 ГЛ. I. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R™ Аналогичные результаты справедливы и для голоморфных функций. 1.8.10. Теорема. Пусть U, U' —открытые множества в С", С” соответственно и D = {z: | z | < р} — круг в комплексной плоскости. Если f: U X D X U' —>СП — голоморфное отображение, то для любого x0<^U и любого компакта К' с U' найдется б > 0, такое, что для всех а е К.'существует единственное голоморфное ото- бражение х: z*—>x(z, a), D&-+U, где D& = {z‘. | z | < 6}, для которого -|| = f (х (z, а), z, а), х (0, а) = х0. Кроме того, отображение (z, а) i—> х (z, а) из D6XK' в U голо- морфно. 4 Доказательство такое же, как в теореме 1.8.4: мы определяем хп (г, а) = х0 + р (х„_! (£, а), £, а) d^, о где интегрирование ведется по отрезку, соединяющему 0 и г. Замечая, что условие Липшица автоматически выполняется, мы доказываем, что || xn+l (z, а) - хп (z, а) || < МпС | z |"; очевидно, всякое хп голоморфно; следовательно, таково и предель- ное отображение lim хп. Единственность доказывается, как и п->оо раньше. ► 1.8.11. Следствие. Если в теореме 1.8.4 отображение f является ^-аналитическим, то решение х уравнения (1.8.5) тоже R-анали- тично в JQX U', где JQ — некоторый открытый интервал, содержа- щий 0. 4 Мы можем выбрать открытые множества W, D, W' в С", С, Ст соответственно, такие, что W f) R" = Q, D f| R = I, W' f| Rm = Q.' и f допускает продолжение в W X D X УК' до голоморфного ото- бражения (которое мы опять обозначим через f). Тогда решение w уравнения = f (г, «), г, а), w (0) = х0, определено и голоморфно в окрестности /0 X U', где 70 — некоторый интервал действительной оси, содержащий 0. Кроме того, ото-
§ 1.8. ОБЫКНОВЕННЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ 53 бражение w есть предел wn, определяемых по индукции соотно- шениями Z w0 = x0, wn(z, а) = А0+ J a), g, a)d£, о и потому, очевидно, действительное при действительных г, а. Значит, его сужение на /0 X U' аналитично в /0 X U' и является тем решением, о котором идет речь. ► 1.8.12. Теорема. Пусть й, I, Q' — те же, что в теореме 1.8.4, и f: Q X I X Q' -> R" есть (^-(соответственно ^-аналитическое) ото- бражение, l^^^oo. Тогда для любой точки (и0, и0, а0, £0) е е / X / X Q' X Q найдутся окрестность W = J X / X U' X U и (^-(соответственно R-аналитическое) отображение х: W -* R", такое, что х (и, и, а, £) = ~ (t, и, a,g) = f (х (t, и, a, fc), t, а) при t, u^J, a^U', Другими словами, в окрестности данной точки (и0, и0, a0, g0) решение уравнения (1.8.5), которое принимает значение £ в точке и, зависит дифференцируемым (соответственно аналитическим) обра- зом от t, и, как и от всех параметров, входящих в ото- бражение f. < Рассмотрим окрестность Д точки (0, 0, и0, a0, g0) е R“ X R X X / X й' X й и (^-(соответственно аналитическое) отображение g: A->R", определяемое равенством g (у, t, u,a,l) = f(l + y,t + и, a). Если у (t, и, а, |) — решение уравнения 4/- = 8 (У> “> В). У (°> «> “> В) = °> то х (t, и, а, £) = £ + y(t — и, и, а, £), и наш результат вытекает из теоремы 1.8.8 и следствия 1.8.11. ► 1.8.13. Замечание. Изложенная выше теорема имеет аналог для голоморфных отображений, который мы здесь не формулируем. Наконец, отметим, что теоремы 1.8.8 и 1.8.12 можно усилить следующим образом. 1.8.14. Теорема. Пусть Й, I, Й' те же, что в теореме 1.8.4, f: й X I X й' -> R" есть (^-(соответственно аналитическое) отображе- ние и hal, Й1 с: й —связные открытые множества. Тогда если
54 ГЛ. 1. ДИФФЕРЕНЦИРУЕМЫЕ ФУНКЦИИ В R" х: h X QiQ—непрерывное отображение, принадлежащее классу С1 по t при фиксированном а, ^^- = f(x(t,a), t,a) и х (t0, а) принадлежит Ck (соответственно является аналитическим) для некоторого io^h, то х: h X й{ -*й есть отображение класса Ck (соответственно аналитическое). При доказательстве используется теорема 1.8.12. Детали мы опускаем.
ГЛАВА 2 МНОГООБРАЗИЯ § 2.1. Основные определения 2.1.1. Определение. Пусть V — хаусдорфово топологическое про- странство. Мы говорим, что V есть многообразие (или (^-много- образие или локально евклидово пространство) размерности п, если у каждой точки найдется открытая окрестность, гомео- морфная открытому множеству в R”. 2.1.2. Определение. Пусть V то же, что и выше, и O^fes^oo. Мы говорим, что V является (^-многообразием или (дифференци- руемым) многообразием класса Ск и размерности п, если задано семейство пар (U t, фг), где I пробегает множество индексов 3, Ut — открытые подмножества V и <рг — гомеоморфизмы Ut на открытые множества в R", причем выполняются следующие условия: (a) (J Ut=V’, i s sr (b) для любых i, j е 3, таких, что C7zAt7/=# 0, отображение ФуОфр1: фг(С/г А (7/)->ф/(С//А С/у) принадлежит классу Ск. Если {((/;, Ф/)}/е5- можно выбрать так, что, когда C/f A U i 0, отображения фуОф^1: ф/ (U. A t/y)->-Rn являются R-аналитическими, то мы говорим, что V есть ^-аналитическое многообразие. Символом dim V = dimR V мы обозначаем размерность многообразия (см. замечание 2.1.4). 2.1.3. Определение. Две системы пар, (С/р ф;) и (С7у, фу), удовле- творяющие условиям (а) и (Ь), называются эквивалентными, если их объединение тоже удовлетворяет этим условиям; легко про- верить, что это есть отношение эквивалентности. Множество экви- валентных систем частично упорядочено по вложению и, значит, для любой указанной системы (U {, ф() найдется —и притом един- ственная — максимальная система, которая содержит все системы, эквивалентные ((/,-, фг). Такие максимальные системы пар, удо- влетворяющие условиям (а), (Ь) определения 2.1.2, называются Ск-структурами многообразия V. Элементы СА-структуры назы- ваются системами координат. Если (U, ф) — система координат,
56 ГЛ. 2. МНОГООБРАЗИЯ то U называется координатной окрестностью, а ф = (ф1; <рп) (часто записывается как хь ..хп) называются координатами в U. Указанные выше отображения ф;. офт1 называются преобразова- ниями координат. Так как любую систему пар из определения 2.1.2 можно попол- нить до единственной (/-структуры, то мы можем говорить о си- стемах координат и т. п. на (/-многообразии, не описывая пол- ностью его Сй-структуру. Открытое подмножество Сй-многообразия естественным образом снабжается индуцированной (/-структурой. 2.1.4. Замечание. Размерность многообразия — это его инвариант (не зависящий от используемых локальных гомеоморфизмов). Это следует из теоремы Брауэра, которая утверждает, что непустое открытое множество в R" гомеоморфно открытому множеству в Rm только в том случае, когда пг = п. Доказательство можно найти, например, в книге Гуревича и Волмэна [1]. Соответствующее утверждение об инвариантности для (/-многообразий, k~^]t намного проще и будет доказано ниже. Заметим, что из одной теоремы Дьедонне [1] (см. также Бур- баки [2]) вытекает эквивалентность для многообразия V следую- щих утверждений: 1) V паракомпактно, т. е. всякое открытое покрытие V имеет локально конечное измельчение; 2) всякая связная компонента V является счетным объедине- нием компактов; 3) всякая связная компонента V имеет счетную базу открытых подмножеств. 2.1.5. Определение. Хаусдорфово топологическое пространство V называется комплексным многообразием комплексной размер- ности п, если задано семейство {(U{, <рг)}/е=^, где <рг — гомеомор- физм U( на открытое множество в С” и ф;°ф/ голоморфны в ф, (U t П U j) для всех i, j. Комплексно аналитическую (или просто комплексную) структуру определяем, как в 2.1.3. Мы обозначаем через n = dim У = dimcV (комплексную) размерность V. 2.1.6. Определение. Если V есть (/-многообразие, U — открытое подмножество V, то отображение f: U ->R называется Ст-функцией в U, если для любой системы координат (1F, ф) на V, такой, что W cz U, функция ф(Ц7)->₽ принадлежит классу Сг (0=Сг=С&). Множество (/-функций на V обозначается символом СГ(У). Носитель (обозначается suppf) (/-функции f на V — это замыкание в V множества {х е V: f (х) 0}.
§ 2.1. ОСНОВНЫЕ ОПРЕДЕЛЕНИЯ 57 Множество всех feCr(V), для которых supp/ есть компакт, обо- значается символом Co(V). Пусть V, V' суть (^-многообразия, фг)}.е{(£/', <р')} — определяющие их С^-структуры. Непрерывное отображение f: V -+V' называется (^-отображением (0=Сг=С&), если для любой пары систем координат (t/p ф;) на V ф,) на V', такой, что f (i/z) cz U'h отображение ф' °f ° ф"1: фДС/^-э-фДС/') принадлежит классу С. Множество Сг-отображений V в V' обозначается символом С {у, V'). Голоморфные и R-аналитические функции и отображения на голоморфных и R-аналитических многообразиях определяются аналогично. Пусть V, V' суть Cfe-(R- или С-аналитические) многообразия. Непрерывное отображение f: V->V' принадлежит классу Ck (R-аналитично, голоморфно) в том ихтолько в том случае, когда выполняется следующее условие: Для любого открытого подмножества U' cz V' и любой (^-^-аналитической, голоморфной) функции g' на U' функция g' ° f является Сй-(Р-аналитической, голоморфной) функцией в Если V, V'— некоторые (^-многообразия и /: V -> V' — гомео- морфизм на V', такой, что f и /-1 суть ^-отображения, то f назы- вается Сй-диффеоморфизмом (или диффеоморфизмом или ^-изо- морфизмом) многообразий V и V'. Многообразия V, V' называются диффеоморфными (Сй-диффеоморфными, Сй-изоморфными), если существует (^-диффеоморфизм f; V->V' на V'. Голоморфные (= комплексно аналитические) и R-аналитические изоморфизмы между соответствующими многообразиями определяются ана- логично. 2.1.7. Примеры, (a) S1 = {x s R2: || х ||= 1} — одномерное многообразие класса С°°. (Ь) Пусть V — некоторое (^-многообразие и V — хаусдорфово пространство. Пусть р: V -> V — локальный гомеоморфизм, т. е. у каждой точки це V существует такая окрестность U, что p(U) открыто в V и р: U ->p(U) — гомеоморфизм. Тогда на V имеется единственная Сй-структура, в которой р является локальным Сй-диффеоморфизмом (т. е. для любой точки а е V найдется такая окрестность U, что р | U: U -* р ((/) есть Ck-диффеоморфизм; заметим, что p(U) открыто в V). Аналогичное замечание приме- нимо к R-аналитическим и комплексным многообразиям. (с) Если V, W — некоторые многообразия, то V X 1F наделяется естественной структурой (^-многообразия, для которой проекции являются (^-отображениями.
58' ГЛ. 2. МНОГООБРАЗИЯ Ясно, что на любом комплексно аналитическом многообразии есть естественная R-аналитическая структура, на R-аналитическом многообразии — С°°-структура и на (^-многообразии (О^й^оо)— (У-структура, если Обратно, из результатов Уитни [3] следует, что любое паракомпактное (У-многообразие, 1, можно наделить R-аналитической структурой, совместной с заданной (У-структурой. Далее, из теоремы Грауэрта [1] о вложении (см. § 2.15) и теоремы Уитни 1.6.5 о приближении вытекает, что эта структура единственна (с точностью до изоморфизмов; тожде- ственное отображение не обязано быть изоморфизмом). Может случиться, что С°-многообразие нельзя снабдить С'-структурой (Кервер [1]), а если это удается сделать, то такая структура может быть не единственной. Например, Милнор [1] показал, что на сфере S7 (см. пример 2.5.6) можно определить, помимо ее естественной структуры, такую С°°-структуру, что между ними нет ни одного (У-диффеоморфизма (заметим только, что тожде- ственное отображение не является диффеоморфизмом различных структур). Проблема существования и единственности комплексных струк- тур — это проблема совсем другой природы; с ней связана обшир- ная литература (см., в частности, Хопф [1], Кодаира и Спен- сер [1]). После результатов Милнора и Кервера было получено значи- тельно больше информации относительно существования и един- ственности дифференциальных структур на топологических много- образиях. Несколько статей, посвященных этой проблеме, можно найти в Трудах международных математических конгрессов 1962 и 1966 гг. Пусть V есть ^-многообразие и а g 7, Рассмотрим все пары (/, U), где U — открытое множество, содержащее а, и f^Ck (U). Мы назовем две такие пары эквивалентными, (J, U) ~ (f', U'), если найдется открытое множество W cz U f| U', a^W, такое, что W = f'\W. Очевидно, что это — отношение эквивалентности. Класс эквивалентности называется ростком (У-функций в точке а. Мы будем отождествлять росток с определяющей его (У-функ- цией, если не возникает недоразумений. 2.1.8. Определение. Функция f класса Ck определенная в окрестности W точки а, называется стационарной в а, если существует система координат (U, ср), U с: W, а е U, такая, что все первые частные производные функции в точке ср (а) равны нулю. Росток (У-функций стационарен в точке а, если в этом ростке найдется представитель (f, 1F), такой, что f ста- ционарна в а.
§ 2.1. ОСНОВНЫЕ ОПРЕДЕЛЕНИЯ 59 Заметим, что если росток С^-функций стационарен в точке а, то любая определяющая его Сй-функция тоже стационарна в а. Мы обозначаем через Са, k множество всех ростков Сй-функций в точке а, а через Sa, k — подмножество ростков, стационарных в а. Пусть k — множество всех Сй-ростков, равных нулю в точке а. Очевидно, Ca,k — алгебра над R; Sa,k и matk — ее под- алгебры и maik — идеал в Ca,fe. Это единственный максимальный идеал в Ca-k, так как любой элемент из Ca,k\m.a,k обратим. Кроме того, если f, g^ma,k> то fg^Sa,k, и Sa,k содержит все константы. Когда нужно указывать зависимость этих множеств от много- образия V, мы обозначаем их соответственно Ca>fe(V), Sa>fe(V), ma,k(V). Ростки С -функций в точке а мы иногда называем просто Сй-ростками в а; С^-ростки в а можно складывать, перемножать и комбинировать с Сй-отображениями в очевидном смысле. Далее, для (Аростка g в точке а корректно определяется его значе- ние g (а) в этой точке. 2.1.9. Определение. Пусть V есть (^-многообразие, k~^\. Век- торное пространство Са, k/Sa, k = Та (V) называется пространством дифференциалов (или кокасательных векторов или ковекторов) в точке а. Если f ^Ca<k, то его образ в Ta(V) обозначается сим- волом (df)a. Пространство Ta(V), сопряженное к Ta(V), которое можно отождествить с множеством R-линейных отображений X: Ca,k~^R, равных нулю на Sa, к, называется касательным пространством к многообразию V в точке а. Элементы Та(У) называются каса- тельными векторами в точке а. Линейная над R функция L: Ca,k~>R называется производной, если для любых f, g е Са, ь имеем L(fg) = Ltf)g(a) + f(a)L(g). 2.1.10. Предложение. Любой касательный вектор X^Ta(V) является производной на Са, k- < Если f, g^ Са, k, то 4 = fg-f(a)g-fg(d)(=Sa.k (так как, очевидно, <р = (f — f(a) )(g — g (a)) — f (a) g(a)), и потому X (qp) = 0. Но это в точности означает, что X(fg) = f(a)X(g) + X(f)g(a). ► Пусть a<=V и (U, ф) —некоторая система координат, а е U. Если Ф = (фь ..., фп) и х е U, положим ц>1(х) = х], / = !,..., п.
60 ГЛ. 2. МНОГООБРАЗИЯ Определим для каждого / касательный вектор (d/dXj)a е Та (V), полагая (Очевидно, что (д]дХ])а — касательные векторы.) 2.1.11. Предложение. Векторы (dldxt)a, z = l, ..., п, образуют базис пространства Та (V); в частности Та (V) и Та (V) суть п-мерные век- торные пространства и Ta(V) является сопряженным к Ta(V). Более того, если X^Ta(V), f<^Ca,k, то (df)a(X) = X (f). (Послед- нее замечание оправдывает используемые нами обозначения.) < Для f ^Ca,k определим g е Са, k по формуле п g(x)=f(x)-f(a)-^xl{~-} f. i=i к lla Ясно, что g е Sa> k", значит, если X ^Ta(V), мы имеем X(g) — 0. Отсюда получаем, что т. е. а это и означает, что векторы (д/дх/)а, 1^/^п, поро- ждают Ta(V). Если X = V X/ (-J—} =0, то Kj = X (х/) = 0, так как(д/дху)а Xk=6lk \ ох 1 /а (символ Кронекера бд = 0, если j^=k, и =1, если j = k). Следо- вательно, векторы (dldXj)a линейно независимы. Последнее утвер- ждение из 2.1.11 следует непосредственно из определения и из конечномерности Тв(У). ► Двойственным к этому результату является следующий. Как и прежде, мы полагаем <p(x) = (xb ..., х„), если аеУ и (U, <р)— система координат, причем а е U. Тогда Xj^.Catk, и потому определены ковекторы (dx^)a е Г* (У). 2.1.11'. Предложение. Дифференциалы (dxj)a, 1^/^п, образуют базис пространства Ta(V). Этот базис является двойственным к базису, указанному в предложении 2.1.11. Хроме того, если f ^Ca.k, то Это следует из того очевидного факта, что (djdxj)a, приме- ненное к (dxk)a (т. е. (d!dxj)axk), равно йд.
§ 2.1. ОСНОВНЫЕ ОПРЕДЕЛЕНИЯ 61 2.1.12. Замечание. Дифференциал (df)a можно определить и для комплексной Сй-функции f; в этом случае он является элементом пространства Т*а(У) ®р<С. Далее, для любого X^Ta(V) и любой комплексной функции f значение (df)a(X) есть комплексное число; более того, если мы запишем f в виде /=Л + г/2> где fi> ^-Действи- тельные Сй-функции, то (df)a(X) = (dfx)a(X) + i(df2)a(X). Очень полезно для некоторых целей заменять Ta(V), Ta(V) на 7’а(У)®кС, Тв(У)®|?С и оперировать с комплекснозначными объектами. Когда мы будем поступать таким образом, эти ком- плексные пространства будут обозначаться символами £0(V) и (V) соответственно. 2.1.13. Замечание. Если V есть ^-многообразие, &>1, то оно, естественно, и С’-многообразие. Поэтому мы можем рассматривать множество Са, 1 = {ростки С'-функций в точке а}. Заметим, что любой касательный вектор X^Ta(V) продолжается до произ- водной на Са_1, равной нулю на Sa, t; это сразу следует из пред- ложения 2.1.11. Заметим также, что если 1 г k, то суще- ствует естественное включение Са< k cz Са, г; Ca,k, конечно, — под- алгебра Са,г. Для любого ростка f eCa>r, 1 снова можно определить его образ (df)a в Г* (У). 2.1.14. Лемма. Всякий росток f^Sa,k можно представить в виде где g/, hj принадлежат Catk^x и равны нулю в точке а, т. е. gj, hj е /Па, fe-i (&i>l), < Очевидно, мы можем считать, что V — выпуклая окрест- ность нуля в R" и что а = 0. Тогда 1 п 1 (0) = J -^f(tx)dt = '^ixlgl(x), gj(x) = J -^-(fx)dt. 0 /-1 О / Ясно, что Xj^.matk и ^еСв,ь1. Кроме того, 6,(0) = А(0)_0. так как f стационарна по предположению. ► 2.1.15. Предложение. Пусть X — производная в Ca^k-\ (&^1). Тогда ее сужение на Ca<k есть касательный вектор. (X может и не быть касательным вектором на Ca>k-.x, см. Папи [1].)
62 ГЛ. 2. МНОГООБРАЗИЯ ◄ Нам нужно показать, что X(f) = O, если Заметим сначала, что Х(1)=Х(1 • 1) =х(1). 1 + 1 • АГ (1), откуда следует, что X (с) = 0 для любой константы с. Далее, из леммы 2.1.14 вытекает, что если f^Satk, то f - f(a) = 2 gj^h /=1 где gj, hj^mafk-^ Так как X — касательная в Ca,k-b то х ю = з (X (gj) Л/ (а) + g, (а) X (Л,)) = 0. ► /=1 2.1.16. Предложение. Если V есть С°°-многообразие и а е V, то росток f^Ca, ю стационарен в точке а тогда и только тогда, когда f — f(a)^ (ma< го)2 (квадрат идеала та, ао). В частности, Та^ = та,^т2а.Х- ’ Это сразу следует из леммы 2.1.14. Другой способ описания касательных векторов состоит в сле- дующем. Пусть / — единичный отрезок [0, 1] в R и у: /^►У —неко- торая Сй-кривая (т. е. ^-отображение, определенное в некоторой окрестности / в У). Касательная к кривой у в точке а = у(0) —это элемент X = XY е Та (V), определяемый формулой x(/) = 4/°y(o|<=_o. f^catl. Непосредственно видно, что этим равенством определяется каса- тельный вектор. Далее, мы имеем 2.1.17. Предложение. Любой элемент X<=Ta(V') является каса- тельной в точке а к некоторой Ск-кривой у, такой, что у (0) = а. 4 Пусть (U, <р) — некоторая система координат, а е U, <р(а) = 0 и <р (U) = {х е R": | X/1< 1, / = 1, ..., п}. п Пусть X = 2 а} ai е Пусть у' есть Сй-функция в окрест- ности /, такая, что | yj (/) | < 1 на / и y'(Z) = а} t для t из некоторой окрестности нуля. В качестве у мы можем взять кривую ср-1 ° у', где у' — отображение у'(t) = (y[(t), ..., N'n(ty- ► J 2.2. Касательное и кокасательное расслоения В этом параграфе через V обозначается ^-многообразие раз- мерности п с £Г>1. Пусть W — другое ^-многообразие размер- ности п и f: V -> W — некоторое Сй-отображение. Пусть b=f(a).
§ 2.2. КАСАТЕЛЬНОЕ И КОКАСАТЕЛЬНОЕ РАССЛОЕНИЯ 63 Определим два R-линейных отображения (первое из них назы- вается дифференциалом f или касательным отображением к f в точке а) К a- Ta(V)->Tb(W), Га: rb(W)^ra(V) следующим образом. Если Х&Та(У) и g<^Cbtk(W), положим f,a(X)g = X(gof). (Так как g ° f е Sa> k (V), если g е Sbt k (IF), то это равенство опре- деляет элемент из Tb(W).) Если ф е Cfti & (IF) имеет образ dq> = (dq)b е Т'ь (W), положим /’ (б/ф) = d (ф ° f )а. (Этим определяется отображение f*a: T'b(W)->T*a(V), так как фо/ <= Se, ь(Ю> если Ф е $ь, k (Ю-) Операторы ft и f*, как легко проверить, являются транспонированными (или сопряженными) друг к другу. 2.2.1. Замечание. Если Vi} V2, Уз суть Ck-многообразия и /р VI->V2, f2. F2->F3 суть ^-отображения, то F1-^-V3— тоже Сй-отображение, и мы имеем f = f of f ’ = f* о f a '2*. f,(a) 11*. a’ 'a ' 1, a ' 2, f, (a)1 Отсюда следует, что если f: V -+W есть Сй-диффеоморфизм, то /* —изоморфизм ?’*(1F) на T*a(V), b=f(a). Применим эту фор- мулу к idv = f~'°f и idw = f °f~l. Так как, согласно предло- жению 2.1.11, dim У — dimR Т*а (V), мы получаем 2.2.2. Следствие. Ск-диффеоморфные многообразия (k^l) имеют одинаковую размерность. (См. также замечание 2.1.4.) Если V есть (^-многообразие, dim У = п, пусть Т(У)= (J Та(У) a^V — топологическая сумма множеств Та(У). Имеется естественное отображение р: Т (V) —> V, переводящее вектор g <= Та (V) в точку а, т. е. р — такое отображение, для которого р-1 (a) = Та (V). Докажем следующее утверждение. 2.2.3 Теорема. Множество Т (V) обладает естественной струк- турой Ск~1-многообразия, относительно которой р является Ск~х-ото- бражением. Эта структура однозначно определяется следующим требованием'. Лля любой точки а^У найдутся окрестность U и ^-'-диф- феоморфизм h: р~} (U)-> U X R", такой, что если л2 — проекции
64 ГЛ. 2. МНОГООБРАЗИЯ U X R” соответственно на первый и второй сомножители, то h = p и л2 ° h\Tn(V) — изоморфизм Та (7) на R" (как векторных- пространств над полем R) для любой точки a^.U. ◄ Пусть {(U h qp/)}i (=^ есть Сй-структура на V, и пусть <pz(х) = (х1; хл)еР", где X/ суть С*-функции в С/.. Мы уже видели, что любой вектор X <= Та (V) однозначно определяется набором чисел av = X(xv), v = l, п (доказательство предло- жения 2.1.11), и X = 2av(d/dxv)e. Пусть {(£//, <р/)}/е5г - другая система координат, такая, что a^Uj. Для x^Uj положим ф/ W = (Уь • • • > Уп)- Далее, а е U{ Л Uf и хь ..., хп суть ^-функ- ции на UjftUj. Если g^Ca,k, мы имеем (4г)в ё=4г ° ч>г1) и=4г°4710 ° фг') (ф/и= = 24? S ° ФГ1 (фг («)) ~ )v (ф/ И> = 2 (4?)а (а)’ ' V—l V=1 где ф^ф-1 = ((фгеф~1)1, ...) и pgv = (д/ду^а xv, так как сразу видно, что Таким образом, мы имеем (2‘2,4) (^г)а"2Р^(^(йДг)а’ Pnv(«) = (^)exv V=*l Заметим, что p^vеCk~' (U{Л Uf). Если Мц(а) означает матрицу (Pgv(a))> т0 Мц(а) — 1 (единичная п X га-матрица) для всех ae Ut, М11(а)М!1(а)^1 для ае[/, ЛД/ и Mkj (а) Мц(а) = Mkl (а), если а Ui(] Uj []Uk. Кроме того, если * = Savhr~) =2PuGr4 > МяА \ dxv /а ** \ ду^ )а ТО (2.2.5) (ab ..., a„) = (Pi, ..., р„) Мп (а). Рассмотрим теперь покрытие {p~l (Ut)}lesr множества Т (V). Для каждого i определим отображение hp p-^U^UjX^ следующим образом. Пусть qp( = (xb ..., хп) — координаты, соот- ветствующие U h и Х^Та(У}, a^Ut. Пусть X = S av (д[дхфа и
§ 2.2. КАСАТЕЛЬНОЕ И КОКАСАТЕЛЬНОЕ РАССЛОЕНИЯ 65 а = (<*!, а„)ек". Тогда мы положим ht (X) = (а, а). Ясно, что р = л1°й; на р~1 (£/>•) и что л2 ° ht | Та (V) — изоморфизм векторных пространств Та (V) и R". Следовательно, ht — биектив- ное отображение (взаимно однозначное отображение на). Более того, если 0, то отображение й/ойГ1: (UinUj)xRn->(UinUi)xRn задается равенством hj ° ЙГ1 (х, а) = (х, аМц (х)) (согласно (2.2.5)) и потому является (^-'-отображением; в част- ности, оно непрерывно. Следовательно, существует единственная топология на Т (V), в которой р~' (UJ — открытые1 множества и ht — гомеоморфизмы; тогда отображение р: Г(У)->У непрерывно. Далее, очевидно, что Т (V) — хаусдорфово пространство (так как р непрерывно и каждое топологическое пространство p~l (Ut) хаус- дорфово). Поскольку, кроме того, отображения hj°h7' принадлежат классу Сй“’, ясно, что семейство пар {(р-1(С7г), й,)} задает на T(V) структуру (^-’-многообразия. По построению видно, что осталь- ные свойства, указанные в теореме 2.2.3, также выполняются. > Замечание. Многообразие Т (V) является примером действи- тельного векторного расслоения (см. § 3.1). Таким же способом доказывается следующий результат. 2.2.6. Теорема. Множество Г(Ю= (J T'a(V) af=- V обладает естественной структурой Ck~x-многообразия. Размерность Т (V) и Т*(У) равна 2п. Далее, у каждой точки из V есть окрестность U, такая, что (J Ta(V) диффеоморфно а s U произведению U X R”, причем выполняются все свойства, указан- ные в теореме 2.2.3. 2.2.7. Определение. Тройка (Т’(К), V, р), где р — естественная проекция, называется касательным расслоением многообразия V. Если р*: T(V)-+V означает естественную проекцию (которая переводит Т*(У) в {а}), то тройка (7* (V), V, р*) называется кокаса- тельным расслоением V. Касательным и кокасательным расслоением мы будем часто называть соответственно сами Т (V) и T*(V), подразумевая под этим как само пространство, так и всю тройку. 3 Зак. 751
66 ГЛ. 2 МНОГООБРАЗИЯ Заметим, что если V является R-аналитическим многообра- зием, то Т (V), Т* (V) — тоже R-аналитические многообразия, а проекции на V и локальные изоморфизмы с U X R" можно брать в классе аналитических отображений. Еще одно «расслоение», которое нам понадобится в дальней- шем, получается следующим образом. Пусть О^р^п. Рассмо- трим р-ю внешнюю степень векторного пространства T*a(V), обо- значаемую, как обычно, ЛР7'а(1/). Пусть (£/, <р) —система координат, a^U, <р(%) = (%!, ..., хп). Тогда дифференциалы (dx{)a, ..., (dxn)a образуют R-базис пространства Та(У) (см. предложение 2.1.1 Г). Следовательно, базис пространства Лр Ta (У) задается элементами (dXii)a Д ... Д (dxip)a, Положим и /\РТ* (V) леи Элементы множества Др Т* (V) называются р-ковекторами в точке а. Аналогично теоремам 2.2.3 и 2.2.6 имеет место следующая 2.2.8. Теорема. Множество /\р Т* (V) обладает естественной струк- турой Ck~x-многообразия размерности и + Это есть так называемое расслоение р-форм на V. Расслоение ДР£*(У) комплекснозначных р-форм на V определяется анало- гично. 2.2.9. Определение. Пусть V и W — многообразия класса Ck, k~^> 1. Отображение f: V -* W класса Ck имеет ранг г в точке aeV, если ranker Ta(V)->Tf(a)(W)}=r. Выразим отображение ft а в терминах локальных координат. Пусть b=f(a) и (U, <р) — система координат на V, a^U; пусть (U', ф') —система координат на W, такая, что b^U' и f(U) = U'. Обозначим ф(х) = (х1, ..., хп), если хеУ, и ф'(у) = (У1, •••> Ут), если y^U'. В 7^ (У) и Tb(W) появляются базисы соответственно {dldx^a, l<v<n, и {д/ду^ь, 1<р<т. Пусть V=1 m и пусть Ц = 1 Тогда для ростка g^Cbtk мы получаем m п m g-1 v=l |Х=1
§ 2.2. КАСАТЕЛЬНОЕ И КОКАСАТЕЛЬНОЕ РАССЛОЕНИЯ 67 где /ц = Уц,0 f- Это равенство показывает, что в локальных коор- динатах f а представляется линейным преобразованием («ь .... а„)н-*(₽ь .... рт), где п Pjx = (-0Xv )a fn- V«=l Если через F обозначить отображение ф'о^оф-1 множества ф(£7) в <р'(С/'), то наше преобразование в точности совпадает (см. (1.3.1)) с отображением (dF)(q(a)). Учитывая это представление и результаты гл. 1, мы получаем следующие теоремы. 2.2.10. Теорема об обратной функции. Пусть V, W — многообразия размерности п класса Ck (^-аналитические), и пусть f'. V W — ото- бражение класса Ck (^-аналитическое). Если для некоторой точки a^V отображение ft а: Ta(V)->Tf{a}(W) является изоморфизмом, то существуют окрестности U э а и U' (а), такие, что отобра- жение f | U является Ck- (^.-аналитическим) изоморфизмом на U'. 2.2.11. Теорема о ранге. Пусть V, W — многообразия класса Ск размерностей соответственно п и т, и пусть ранг отображения f в каждой точке а е V есть целое число г, не зависящее от а. Тогда существуют системы координат (U, ф), (£/', ф') в точках а и f(a) соответственно, такие, что ф'о/оф-1 |ф([/) совпадает с ото- бражением (х,, ..., x„)i-*(xi...хг, 0, ..., 0). 2.2.12. Определение. Пусть V есть С-многообразие размерности п со счетной базой, и пусть SczJZ. Говорят, что множество S имеет меру нуль, если для любой системы координат (U, ф) множество Ф (.S Г] £7) имеет меру нуль в R". Критические точки мы определим, как в гл. 1. Именно, пусть V, W суть (^-многообразия размерностей соответственно п и т, k"^A, и пусть f: V -+ W есть (^-отображение. Точка назы- вается критической для f, если ранг f в этой точке меньше т. Следующая теорема вытекает непосредственно из теоремы 1.4.6. 2.2.13. Теорема Сарда. Если V, W суть С°°-многообразия со счет- ными базами и f: V ->W некоторое С°°-отображение, то образ f(A) множества А критических точек f имеет меру нуль в W. Наконец, можно доказать (как в § 1.2) существование разбие- ния единицы. Если (U, ф) —система координат на С*-многообра- 3*
68 ГЛ. 2 МНОГООБРАЗИЯ зии V, то из леммы 1.2.5 сразу вытекает, что для любого ком- пакта Е cz U существует С*-функция ц 0 на V, такая, что ц (х) > О для хеЕ и supprjczf/. Затем точно так же, как мы доказывали теорему 1.2.3, мы можем доказать следующее утверждение. 2.2.14. Теорема. Предположим, что Ck-многообразие V, 0 ^.k ^оо, имеет счетную базу и что задано его открытое покрытие {Vi}ieES-. Тогда существует семейство Ск-функций {тр}; е &, т]г J>0, supp ijfCVp такое, что семейство {supp t)z} локально конечно и 2 Пг W = 1 для любой точки х е V. 2.2.15. Следствие. Если X — замкнутое подмножество V и U zd X — открытое подмножество, то существует Ск-функция т\ на V, такая, что т] (х) = 1, если х е X, и ц (х) = 0, если х е V \ U. § 2.3. Многообразия Грассмана В этом параграфе мы рассмотрим один класс R- (или <С)-ана- литических многообразий, важных со многих точек зрения, хотя эти многообразия и не будут использоваться в остальной части книги. Пусть Е — векторное пространство размерности п над полем R. Пусть г — целое число, 0<г<п. Обозначим через Gr(E) множе- ство r-мерных линейных подпространств Е. Мы покажем, что Gr(E) обладает естественной структурой R-аналитического много- образия. Пусть F — произвольное подпространство размерности г. Тогда можно найти подпространство Е'аЕ размерности п — г, такое, что Е' fl F = {0} и E = F + E'. Если для подпространства E'czE размерности п — г мы положим U(E') = (F: F имеет размерность г, FczE, F f| Е' = {0}}, то получим, что Gr(E) = и £/(£'). Е' Теперь мы утверждаем, что U (Е') можно отождествить с множе- ством L(E') всех R-линейных отображений К: Е/Е'->Е, таких, что т]£, ° Л — тождественное отображение, где ц£,: Е-> Е/Е'— есте- ственная проекция. В самом деле, если Zg/.I’E'i, то очевидно, что А,(Е/Е') = Е — подпространство Е размерности г, такое, что Ef)E' = {0}. Обратно, если Е задано, то Е = F + Е'.
§ 2.3 МНОГООБРАЗИЯ ГРАССМАНА 69 Обозначим через проекцию на F, задаваемую разложением E = F + Е'. Тогда л/?(Д') = 0 и, следовательно, пР индуцирует R-линейное отображение EIE'->F, а значит, и отображение кр'. Е]Е'->Е. Очевидно, т]£, ° kF — тождественное отображение и Кр (Е/Е') = F. Мы показали, что U (Е') и L (Д') можно естественным образом отождествить. Далее, мы утверждаем, что L (Е') — конечномерное аффинное пространство, т. е. что для любого /.oeL(£') множество {X — Хо: k^L(E')} является конечномерным векторным простран- ством. В самом деле, если Л,о, (Д'), то т]£, ° (X — Хо) = 0; поэтому (Х-Л0)(Д/Д')скег(т1£,) = Д' и Z —Хо есть R-линейное отображение Е/Е' в Е', т. е. - /,о = Нотр (Е/Е', Е'). Далее, если р, е HoniR (Е/Е', Е'), то А.о + ц е L (Д'). Это показывает, что {Z-^: Z e £ (Д')} естественно изоморфно Нотр (Д/Д', Д'), и этим доказывается наше утверждение. Если мы теперь выберем базис в Д' и пополним его до базиса в Д, то мы получим возможность отождествить Ношр(Д/Д/, д') с множеством Нотр(Х , R”~r) = = М (г, п — г), т. е. с множеством г X (п — г)-матриц, изоморф- ным R'("“r). Таким образом, при заданном А,0^С7(Д') и подходящих бази- сах в Д' и Е существует биективное отображение hE' множества U(E') на Rr{n~r\ Далее, совсем легко показать, что для двух подпространств Д', Д" размерности п — г отображение hE" ° множества hE'(U (Д^П П£/(Д")) в Rr(ra г) задается рациональными функциями (в част- ности, R-аналитическими функциями). Отсюда следует существова- ние единственной топологии на Gr (Д), относительно которой U (Д') являются открытыми множествами, а отображения hB' — гомео- морфизмами. Мы утверждаем, что эта топология хаусдорфова. Прежде всего, U (Е') — хаусдорфово пространство, открытое в Д для любого Д'. Кроме того, для любых заданных подпространств Д1( Д2 <= Д раз-
70 ГЛ. 2 МНОГООБРАЗИЯ мерности г мы можем найти подпространство Е' размерности п — г, такое, что F2p\E' оба равны {0}, т. е. F{, F2^ U (Е'). От- сюда сразу следует, что если F, F2, то у них есть непересе- кающиеся окрестности в U (Е'), а значит, и в Gr(E). Итак, мы показали, что Gr(E) обладает структурой R-анали- тического многообразия. Теперь мы покажем, что оно компактно. Пусть в,, ..., еп — базис в Е, и пусть О (п) — ортонормирован- ная группа в R", т. е. множество действительных (п X га)-матриц, таких, что А • {А — 1, где ‘А — матрица, транспонированная к А, а / — единичная (п X га)-матрица. Имеет место изоморфизм <р: £-*R", задаваемый равенством п ф(х) = (хь ..., хп), если х = 2 xiej- i=i Таким образом, О(п) действует на Е: если АеО(п) и хе£, мы полагаем Д(х) = <р-1 Дф (х), где Дф(х) —обычное действие О (га) в R”. Значит, эта группа дей- ствует и на Gr(E). Мы утверждаем, что для любых Flt F2<= Gr(E) найдется /1е0(п), такое, что AF\ = F2. Но это утверждение до- статочно доказать для £ = R", где оно очевидно (так как можно выбрать ортонормированные базисы («1; .... ип), (оь ..., и„) в R", такие, что Ft натянуто на (Mt. ur), a F2 — на (ob ..., цг)). Далее, отображение О (га) X Gr(E)-+ Gr(E), при котором (Д, F)*—*AF, не- прерывно. Кроме того, О (п) — компакт. Значит, если Fa^Gr(E) фиксировано, то Gr(E} является образом О(п) при непрерывном отображении Дн* AF0 и потому есть компакт. Итак, нами дока- зана 2.3.1. Теорема. Многообразие Грассмана Gr(E) является компакт- ным ^-аналитическим многообразием размерности г (п — г). 2.3.2. Замечание. Если r= 1, то Сг(Е) называется проективным пространством Р(Е), ассоциированным с Е; Р(£) имеет размер- ность га — 1. Если, в частности, £ = R", то соответствующее проек- тивное пространство P(R") мы будем обозначать RP”-1. 2.3.3. Замечание. Если Е есть га-мерное комплексное векторное пространство, 0<г<га и 9Г(Е) — множество комплексных г-мер- ных подпространств Е (размерность комплексная), то, как и выше, мы можем показать, что $r (Е) — компактное комплексное много- образие комплексной размерности г (га —г). При г=1 оно назы- вается проективным пространством Р(£) и, если Е = Сп, обозна- чается символом СР"-1.
$ 2.4. ВЕКТОРНЫЕ ПОЛЯ И ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ 71 £ 2.4. Векторные поля и дифференциальные формы Пусть V есть (^-многообразие и Т (У) — его касательное рас- слоение. Имеется естественная проекция р: T(V)->V, которая переводит Ta(V) в точку а. 2.4.1. Определение. Векторным полем на V называется отображе- ние X: У —> Г (У), такое, что р ° X — тождественное отображение на У. Если X есть С'-отображение (O^r^fe—1), то мы назо- вем X векторным полем класса С или Сг-векторным полем. Если У — аналитическое многообразие, то аналогично определяется ана- литическое векторное поле. В общем случае, если р: В -> А — некоторое отображение мно- жества В на множество А, то отображение X: А-+В, такое, что р°Х тождественно на А, называется сечением р. Векторные поля являются, таким образом, сечениями проекции касательного рас- слоения на многообразие. Если X — векторное поле и (U, <р) —система координат, <р(х) = = (хь ..., хп), то мы можем написать п V=1 Легко проверить, что X является (У-векторным полем в том и только в том случае, если все суть Сг-функции на U для лю- бой системы координат (U, <р). Векторное поле а > (д/дхфа (опре- деленное на U) мы будем обозначать через d/dxv. Пусть р — целое число, О^рО, и Ap7”(У)—расслоение р-форм на У. 2.4.2. Определение. просто р-формой) такое, что Дифференциальной формой степени р (или называется отображение co; V->/\р Т* (V), ®(д)е АРГ’(У) для любой точки ае У. Мы говорим, что р-форма принадлежит классу Сг (аналитична), если этим свойством обладает отображе- ние со. Итак, дифференциальные формы —это сечения естествен- ной проекции /\рТ*(у) на У. Если (U, <р) —система координат и <р(х) = (хь ..., хп), то эле- менты (dx^a, ..., (dxn)0 образуют базис в Та (У), а базис в /\рТа(У) задается элементами (dx,^ А • • • A (dx/^a, 1 < ... <jp п. Поэтому р-форму со можно единственным образом представить в виде <о (а) = 2 Ц ... («) (dXli)a А ... А (rfx/Д. /j < /р
72 ГЛ. 2 МНОГООБРАЗИЯ Снова © принадлежит классу Сг (аналитична) тогда и только тогда, когда таковыми являются все ... / для всех систем коор- динат (U, <р). Символ dXj означает 1-форму а (dxf)a, a dx!} Д ... Л dxjp означает р-форму ••• A(dx/p)a. Заметим, что для целых р, q^O определено естественное ли- нейное отображение ЛрТа(у)® hqTa (У)-^ Ар+г7т”й(Ю; образ элемента со, (а) ® <а2(а) при этом отображении мы обозначим через ©Да) Д ©2 (а). Теперь для двух данных дифференциальных форм ©ь и2 степени соответственно р, q мы можем определить (р 4-<?)-форму ©] Д ©2, называемую внешним произведением ©] и ©2, полагая (©! Д ©2) (а) = ©] (а) Д ©2 (а). Непосредственно видно, что если ©н ©2 суть Ст- (аналитические) формы, то такова и форма ©t Д ©2. Множество всех р-форм на V (класса Ск~') обозначим симво- лом Xp(y). Мы будем также рассматривать прямую сумму Л(У)= 2 ^(у). Определенное выше внешнее умножение превращает Л (У) в ал- гебру над полем R. Элементы этой алгебры мы будем называть просто дифференциальными формами. Они состоят из компонент, которые являются р-формами, и все компоненты, за исключением конечного числа, суть нули. Из наших формул в локальных координатах вытекает, кроме того, что если V С*-диффеоморфно открытому множеству в R", то А (У) как алгебра порождена элементами вида f, dg, где f^Ck-l(V) и gc=Ck(V). Отметим еще, что векторное пространство X — X (У) всех Сй-1-векторных полей на У является к тому же Д-модулем, где R — кольцо (^“'-функций на У. Далее, между ДРТ1(У) и ЛРТЙ(У) имеется двойственность, относительно которой они являются сопряженными пространствами. Следовательно, если © есть р-форма класса Ск~1 на У, то ею определяется мультилинейное отображение Хр в R по формуле ©(X], ..., Хр)(а) = ©(а)(Х,(а), ..., Хр(а)). Это отображение, очевидно, альтернирующее и Д-мультилинейное.
§ 2.4. ВЕКТОРНЫЕ ПОЛЯ И ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ 73 2.4.3. Предложение. Обратно, всякое альтернирующее R-мульти- линейное отображение <р пространства Хр в R определяет некото- рую р-форму со класса Ck~l. ◄ Для доказательства рассмотрим векторы Xi<a, ..., XpiU<^Ta(V), а е V, и покажем сначала, что существуют С4~’-векторные поля Xt, ..., Хр, такие, что Xj (а) = Xjt а. Для этого предположим, что X/, а= 2 av (d/dxv)a в системе координат (U, ср) и что г) есть СЛфункция с компактным носителем supp -q cz U, т] (х) = 1 для х из некоторой окрестности точки а (следствие 2.2.15). Мы можем определить векторное поле X/ V -> Т (У), полагая Xj (х) = 0, х ф U, А'/(х) = 2п (x)av[^-^( xeU. Мы утверждаем, что если X/(d) = Q для некоторого /, то <р(Х1; ..., Х„)(а) = 0. Ввиду /?-мультилинейности ср для этого К N достаточно показать, что если Xj(a) = Q, то = где u=i T]g eC'^'ll7) обращаются в точке а в нуль и ДеХ. Пусть (Д, ф) —система координат, as [7, и пусть п Xj (х) = 2 av (х) > x<=U. V=1 Так как Xj(a) = 0, то мы имеем av(a) — 0, Пусть T]eCfc_|(IZ) такова, что т](а)=1, 0 С7г) <7 1 и supp-q — компактное подмножество U (см. следствие 2.2.15). Определим векторные поля Zv, l<v<n, полагая Zv(x) = 0, если x^U, Zv (х) = 6V (х) (, если хеД, \ ОХ у / х где 1 r](x)av(x), xg U, Pv^)=( 0 Х0Д, так что p^.eC^’l'V) и pv(a) = 0. Определим векторные поля Yv, полагая Kv(x) = 0, если хфи, УДх) = -п (х) , если х е U. Тогда мы имеем ^7 = 2 {Pv^v + (1 - n) AJ + (I - п) *Р V=1
74 ГЛ. 2 МНОГООБРАЗИЯ Так как ц(а)= 1 и pv(a) = 0, то это и есть требуемое представле- ние. Зададим теперь р-ковектор со (а) в каждой точке а е V формулой со(аЖ.й, •••. Хр>а) = ф(Хь Хр)(а). Учитывая вышеизложенное, мы видим, что это выражение равно нулю, если какое-нибудь X/ равно нулю в точке а, и потому со (а) определен независимо от выбора векторных полей Хр, единственное, что от них требуется — это выполнение условий X/ (а) = Xft а. Простые выкладки в локальных координатах показы- вают, что таким образом определенные элементы оз (а) е /\рТ*а(у) задают р-форму со класса Ck~l. ► Наконец, заметим, что (Cfe-, аналитическая) 0-форма —это просто (Cfe-, аналитическая) функция на V. Пусть теперь V, 17 —два (^-многообразия и f: V —> 17 есть (^-отображение. Пусть ае7 и f(a) = b. Нами было определено отображение fa: rb(W)^ra(V). Для каждого р>0 оно порождает линейное отображение Кр fb(W) кр та(у\ Эти отображения в совокупности определяют гомоморфизм алгебр (который мы снова обозначим f*a~) fa: /\T*b(W)-> ЛГ(У). 2.4.4. Определение. Пусть со есть р-форма класса Ck~l на 17 и f: V -> 17 — отображение класса Ск. Прообразом f* (со) формы со называется р-форма класса Cfe-1 на 7, которая определяется так: при р = 0, когда co = g есть Сй-1-функция, f* (со) = g°f; при р>0 мы полагаем Г (со) (а) = fa (со (F(a))). Заметим, что индуцированное отображение Г: Д(17)->Л(7) пространства всех дифференциальных форм будет гомоморфизмом алгебр. Если, в частности, U — открытое множество в (^-многообра- зии 7, со есть р-форма на 7 и i: U -> 7 — естественное вложение, то мы пишем Г (со) = со | U и называем эту форму сужением формы со на U.
§ 2.4. ВЕКТОРНЫЕ ПОЛЯ И ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ 75 2.4.5. Замечание. Для каждой точки а е V определено также отображение Д,а: Ta(V)->Tb(W), b =f(a). Однако его, вообще говоря, нельзя «продолжить» до отображения Х(7)~>Х(1У), напри- мер, если X е X (У) и а, а' — точки из V, для которых f (а) — = f(a') = b, но Д а(Х (а)) =£ f* а,(Х (а')). Однако, если, например, f: V -> W является СА-диффеоморфизмом, то отображение &-*Д.а(Х(а)), а = Г\Ь), очевидно, определяет, Сй-1-векторное поле Д(Х) на 1У. Пусть теперь V — многообразие класса Ck, fe 2. Пусть X и У —два Сй-1-векторных поля на V. Для любой функции f^Ck(V) функция X (f) принадлежит классу Cfe-1(7). Так как k—1^1, то мы можем применить У к X (f) (см. замеча- ние 2.1.13). Таким образом, мы можем определить отображение Ск (V)-> Ск~2 (V) по формуле [X, Y](f)~X(Y(f))-Y(X(f)). Опишем его в терминах локальных координат. Если (U, <р) —си- стема координат, <р (х) = (xj.х„) и * W = 2 “v W ’ r W = S ₽v (*) (ддг )х > где av, ₽veCbl((/), то легко проверить, что (хим-ЗмДД),. где CvW = 2{al*(X) дх^}' Отсюда видно, между прочим, что [X, У] — векторное поле класса Ск~2. Векторное поле [X, У] называется скобкой Пуассона (или просто скобкой) векторных полей X, У. Заметим, что вектор [X, У] (а) зависит от значений X и У в полной окрестности точки а, а не только от векторов X (а) и У (а). Очевидно, выполняются тождества [X, X] = О, [X, У] = — [У, X]. Если /?J>3 и X, У, Z —векторные поля класса Ск~1, то легко проверить, что [X, [У, /]] + [У, [Z, Z]] + [Z, [X, У] ] = 0.
76 ГЛ. 2 МНОГООБРАЗИЯ Это соотношение называется тождеством Якоби. Наконец, заме- тим, что если векторные поля Xv в координатной системе ({/, <р) определены условием то [Xv, Л’ц] = 0 в U для любых пар ц, v. 2.4.6. Перейдем теперь к рассмотрению касательных пространств и тому подобных понятий на комплексных многообразиях. Пусть V — комплексное многообразие комплексной размерности п и aeV. Пусть (U, <р) — система координат, a^U; тогда <р есть комплексно аналитический изоморфизм U на некоторое открытое множество в Сге. Мы пишем <р(2) = (гь ..., г„), где z^U, Zj = Xj + 1у/, Xj, yt — действительные функции класса С°°. Касательное про- странство Ta(V), где V рассматривается как действительное С°°-многообразие размерности 2и, обладает естественной структу- рой комплексного векторного пространства, которая определяется следующим образом: Мы полагаем C"^R2" относительно изоморфизма (Zl, ..., Zn) । > (Xj, У\, ..., хп, уп), где Zj = Xj + iy^ Тогда отображение Та (У) -> R2n, при котором X^((dx,)a(X), (^,)а(Х)....(dx„)a(X), (dyn)a(X)), является R-изоморфизмом. Следовательно, отображение Х^(МЛХ), .... fe)a(X)) является R-изоморфизмом Та(у) на С" и этот изоморфизм есте- ственно определяет на Та (У) структуру С-векторного пространства (замечание 2.1.12). Эта комплексная структура на Га(У) не зависит от выбора системы координат ([/, <р). Фактически она характери- зуется следующим свойством. Если f — росток голоморфных функ- ций в точке а е У, то №У) = £«(Х) :еС, А'е7а(У), где ^Х означает операцию умножения на комплексное число, опре- деляемую указанной комплексной структурой на Ta(V), а в правой части стоит произведение двух комплексных чисел. Пусть <p(z) = (z1( ..., zn) — комплексные координаты в U и, как выше, Zj = Xj + iyj; тогда (хи z/1; ..., хп, уп) образуют координаты в U, если У рассматривать как действительное С°°-многообразие. Таким образом, заданы векторы > (тг-) ^Та(У). \ dxv Ja \дуч /а '
§ 2.4. ВЕКТОРНЫЕ ПОЛЯ И ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ 77 Легко проверить, что по отношению к определенной выше ком- плексной структуре на Ta(V) мы имеем \ dyv /а \ dxv /а Кроме того, (d/dxJaZ^ = 6gv, и потому векторы (d/dxv)a, 1 образуют С-базис в Ta(V). Пусть теперь ([/', <р') — другая система координат, a^.U' и <р'(г) = (ш>1, ..., ш>п), z^U'. Напишем Wj = Uj + iv,, где Uj, Vj — действительные С°°-функции. Пусть X е Та (V) и av> V=l |1 = 1 Легко проверить, что п Vй! Далее, (d/dxv)a — голоморфные функции точки а для а е U f] U'. Поэтому можно повторить доказательство теоремы 2.2.3 и полу- чить следующий результат. 2.4.7. Теорема. Если V — комплексное многообразие размерности п, то Т (У) = U Та (У) обладает естественной структурой комплексного многообразия размерности 2п. Проекция р: 7’(У)->У является голоморфным отображением и Т (У) локально тривиально, т. е. у любой точки а е У имеется окрестность U и комплексно ана- литический изоморфизм h: р"1 (U)U X Cn, такой, что если h(g) = (a, v), £ер-1([7), то р(£) = а. Кроме того, отображение TAV) —><С", задаваемое условием есть С-изоморфизм. 2.4.8. Замечание. Если У, W — комплексные многообразия и f: У -> W — голоморфное отображение, то Д>а: Ta(V)-> Tf (а) (1У) является С-линейным отображением. Учитывая вышеизложенное, мы можем применить теорему о ранге для голоморфных функций (см. замечание 1.3.15) и полу- чить следующее утверждение. 2.4.9. Теорема о ранге для голоморфных отображений. Пусть У, 1У — комплексные многообразия размерностей соответственно п, m и f: У -> 1У — голоморфное отображение. Пусть г — такое целое число, что гапМ*,й = г для любой точки аеУ. Тогда существуют комплексные коорди- наты (U, <р) в точке a, (U', ф') в точке f (а), такие, что <$' ° f ° ф-1 ] ф (Л7) совпадает с отображением (zlt .... zn)*—>(zj.zr, 0 0).
78 ГЛ. 2 МНОГООБРАЗИЯ 2.4.10. Замечания. Несколько замечаний о комплексных С°°-диф- ференциальных формах на комплексном многообразии V. Мы отождествили С" и R2" с помощью отображения (г1( ..., уъ ..., хп, уп), где zt = Xj + iyj. Пусть Е — векторное пространство над полем С размерности п. Рассмотрим С-векторное пространство ^’ = HomR(E, С) всех R-линейных отображений Е в С. Пусть F = {f е S*: f (iv) = if (v) для всех v <= Е), F = {f f (iv) = — if (v) для всех v e E}. Очевидно, что F и F суть С-подпространства в S* и что s* = f®f. В самом деле, F П F = (0), а если g е S* и f' (и) = | (g (t>) - ig (iv)), f" (v) = у (g (^) + ig (if)), to f' e F, f"^F и g = f' + f". Мы обозначаем F = ^i,o и F = <Fo, ь Отображение z i—> z поля С на себя продолжается до R-линейного отображения S’* на себя, которое переводит F в F. Образ элемента g^&* при этом отображении мы тоже обозначим через g. Если (еь ..., еп) — некоторый С-базис в F, то (et, ..., ёп) — тоже С-базис в F. Рассмотрим теперь внешнее произведение Д'”S* комплексных векторных пространств <S*. Пусть р, q — целые числа, р + q = г, и пусть <SP, q — подпространство Дг & , порожденное элементами вида «/( А ... А А А ... A где и. е F, vb е F. Базис в F задается элементами !v Q e!l A • • • A А A • • А = е} А где /1 < ... </p, kt < ... <kq (и между j и k нет никакой зави- симости). Очевидно, д^*= 2 грч, р + Ч=г Р'4 где справа стоит прямая сумма. Пусть теперь V — комплексное многообразие размерности п и а е V. В качестве Е возьмем E = Ta(V) с определенной выше
§ 2.4. ВЕКТОРНЫЕ ПОЛЯ И ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ 79 комплексной структурой Ta(V). Положим г;(Ю = НотР(7’а(П C) = 7’-(7)®rC; это есть С-векторное пространство размерности 2п. Как и раньше, если (Z), ..., zn) — координаты в открытом множестве U, Zj = = Xj + it/j, то и мы можем определить элементы (cfey)0 = (dxj)a 4- i (dyj)a Ja (У). (см. также замечание 2.1.12); кроме того, положим (dzt)a = (dXj)a - i (dy})a. Легко проверить, что элементы (dzj)a, (dZj)a, / = 1, ..., п, обра- зуют С-базис в £а(У) (так как (dXj)a, (dyj)a образуют R-базис в Ta(V). Положим, по определению, га(Ю = га(ю®1?с = нот|?(г‘а, С). Это пространство является сопряженным к Za(V), поэтому в Ja(У) есть базис, двойственный к указанному выше. Если мы положим / д \ _ 1 [/ д \ .( д \ 1 \ dZy /д 2 { \ дху /а \ дуу )a J * / д \ 1 (/ д \ . . / а \ 1 \ дёу /д 2 1 \ Эху /д \ дуу /а) (умножение на i — это умножение в 7^(7) ®rС, а не в Ta(V), т. е. i(dldyy)a = (dldy,l')a® I), то этот двойственный базис задается как раз векторами (d/dzv)a, (dldzv)a (1 <л). Как и раньше, легко показать, что 2(У) = U £*(Ю= (J ^(V) a^V a=V суть С°°-многообразия действительной размерности 6п. Внешние произведения Др J (У), Др J* (К) определяются, как выше, а ком- плексная С°°-дифференциальная р-форма со на V — это С°°-отобра- жение ©: V -> /\р £* (У), такое, что со (а) е /\р £а(У) для каждой точки аеУ. Для Е=7'д(У) рассмотрим, как и выше, дг^*= s ^;,д. Р + 9 =Г Когда надо указывать зависимость от У на, мы будем писать S (У, а), ^р, Ч(У, а), .... Сразу видно, что й?1>0 натянуто на ко-
80 ГЛ. 2 МНОГООБРАЗИЯ векторы (dz^a, (dzn)a, а ^о, i — на (с/г,)а, (dzn)a. Следова- тельно, SPi ц порождено ковекторами dz, Д dz„ = dz. Л • • • Л dz, f\dz. Д ... Д dzb . J А '1 Элементы пространства <¥р, ? называются ковекторами типа (р, q). 2.4.11. Определение. Комплекснозначная дифференциальная форма co: V -> ДГ£*(К) называется формой типа (р, q), если со (а) е SPt „(V, а) для любой точки а е V. В терминах локальных координат со есть форма типа (р, q) в том и только том случае, когда со(а)= 2 атк dzj Д dzK, J = (/b ..., jp), К = (^i> • •, k4). Если V, IF — комплексные многообразия и f: V -> IF — голо- морфное отображение, то опять получается отображение Га: rb(IF)->J-(F), b=f{a), и мы можем определить прообраз f* (со) комплекснозначной р-формы на IF, как это делалось в определении 2.4.4. 2.4.12. Предложение. Если f — голоморфное отображение, a^V и f (а) = Ь, то ra^P.^w’ «)• В частности f* (со) имеет тип (р, q), если со — форма типа (р, q) на IF. ◄ Достаточно показать, что fo(V- ty^fi(V,a). Но это очевидно: если g—росток голоморфных функций в точке Ь, то ra((dg)b) = d(gaha^^V, а), так как g ° f — голоморфный росток. ► 2.4.13. Замечание. Мы можем определить голоморфные векторные поля X на комплексном многообразии V как голоморфные ото- бражения X: V —> T(V') (см. теорему 2.4.7), такие, что X (а) е Ta(V) для любой точки a. eV. Далее, для любой точки а е V простран- ство Ta(V) является в очевидном смысле подпространством Ja(F). Векторное поле X: F->T(F) мы назовем голоморфным, если X (а) е Та (F) для любой точки а и X является голоморфным отображением в Т (F). Это поле голоморфно в том и только в том
§ 2.5. ПОДМНОГООБРАЗИЯ 81 случае, когда для каждой точки а е V найдется система коорди- нат (U, <р), а е U, такая, что в выражении v=l все а' (Ь) — нули, а все av (b) — голоморфные функции точки Ь. Заметим, между прочим, что если X, Y — голоморфные век- торные поля, то поле [X, У] тоже голоморфно. § 2.5. Подмногообразия Пусть V — многообразие класса Ck, k~^\. Рассмотрим множе- ство ^-многообразий W и инъективных (т. е. взаимно однознач- ных) (^-отображений /: W -> V, таких, что отображение к a: Ta(W)-*TiM(V) инъективно для любой точки а е W. Две такие пары (1У),/Д и (W2, г2) называются эквивалентными, если существует (^-диффео- морфизм h: Wi~>-W2, такой, что i{~i2°h. Это есть отношение эквивалентности. 2.5.1. Определение. Подмногообразием V называется класс экви- валентности пар (№\ Z) относительно определенной выше эквива- лентности. Мы будем часто отождествлять подмногообразие с одним из его представителей, когда это не вызовет недоразумений. Если т = dim W = dim Ta(W), a^.W и n = dim V = dim Тца) (У), то, очевидно, т^.п. 2.5.2 Замечание. Пусть dimiy = m и a^W. Тогда, по теореме о ранге 2.2.11, найдутся системы координат (U, ф) в точке а и ((/', ф') в /(а), такие, что ф'о/оф-11 (£/) совпадает с отображением Ui, ..., ....хт, 0, ..., 0). Отсюда следует, что если ({/ь ф1) — произвольная система коор- динат в точке а е W, фДх) = (//(, ..., ут), то существует система координат (U2, ф2) в точке г (а), ф2(н) = (щ, ..., ип) для ие[/2, такая, что Щи^У! в некоторой окрестности точки а в 1У. 2.5.3. Предложение. Пусть W — замкнутое подмножество ^-мно- гообразия V размерности п. Предположим, что у каждой точки a^W существует система координат (U, ф) на V, ф(х) = (Х1, ... ..., хп), такая, что ' Г f| U = {х е U: хг+1 = ... = х„ = 0};
82 ГЛ. 2 МНОГООБРАЗИЯ здесь г — фиксированное целое число, О^г^п. Тогда W обла- дает естественной структурой ^-многообразия и отображение вло- жения W в V превращает W в подмногообразие V. Тривиальное доказательство этого факта мы опускаем. 2.5.4. Замечание. Определения и замечания, относящиеся к п. 2.5.1—2.5.3, применимы к действительным и комплексным многообразиям. 2.5.5. Следствие. Пусть V — некоторое Cfe-(R-, С-аналитическое) многообразие и flt ..., fp (1^/)<л| суть (^-(^-аналитические, голоморфные) функции на V. Пусть w={x^v. h(x)= ... =fp(x) = O}, причем дифференциалы. (dfi)a, ..., (dfp)a линейно независимы для всех Тогда (W,i), где i —обычное вложение, есть Cfe-(R-, С-аналитическое) подмногообразие V размерности п — р. Это следует непосредственно из замечания 2.5.2 и теоремы о ранге 2.2.11, 2.4.9. 2.5.6. Пример. Множество Sn = {x = (x0, ..., x„)eR"+': *о+ ... + х*п = 1} называется n-мерной сферой. Положим f(x) = x^ + ... +х„—1; тогда (df)a=/=O при а е S", и, значит, согласно следствию 2.5.5, S" обладает естественной /^-аналитической структурой. Если (1У,1) — подмногообразие V, то I, вообще говоря, не является гомеоморфизмом W на множество i(W) (наделенное топологией, индуцируемой из V). Сейчас .мы рассмотрим условия на i, при которых это все-таки имеет место. 2.5.7. Определение. Пусть V и W — локально компактные хаус- дорфовы пространства. Непрерывное отображение f: V -+W на- зывается локально собственным, если для каждой точки w^f(V) можно подобрать компактную окрестность К. этой точки в W, такую, что f~l(K) — компакт. Отображение / называется собствен- ным, если для любого компакта 7<с:1У множество f"1 (К Of (W)) — тоже компакт. Известно, что собственное отображение переводит замкнутые подмножества из У в замкнутые подмножества из 1У (см. Бур- баки [2]). Отсюда следует, что локально собственное отображение f: V -+W является собственным в том и только в том случае, когда множество f (У) замкнуто в 1У. (Всякое собственное отобра- жение, очевидно, локально собственное.) 2.5.8. Предложение. Пусть У — многообразие класса Ck и (W,i) — eeo подмногообразие. Отображение i: 1У->1’(1У) является
§ 2.5. ПОДМНОГООБРАЗИЯ 83 гомеоморфизмом W на множество i(W) с топологией, индуцируе- мой из V, в том и только в том случае, когда i — локально соб- ственное отображение. ◄ Предположим сначала, что I локально собственное. Тогда для заданной точки йе W существует компактная окрестность К, точки 1(a) в V, такая, что Г1 (К) — компакт и, следовательно,— компактная окрестность а. Итак, г. — непрерывное взаимно однозначное отображение компактного хаусдорфова пространства на хаусдорфово пространство, а по- тому — гомеоморфизм. Отсюда, очевидно, следует, что отображе- ние Г1 непрерывно всюду на i(W). Предположим теперь, что/: IF—>i(W) — гомеоморфизм. Тогда если а е W и С — некоторая компактная окрестность а в W, то i (С) — компактная окрестность i (а) в i (W). Значит, найдется от- крытое подмножество D cz V, такое, что i (a)^.D{\ i (W) c= i (C). Пусть К — компактная окрестность i(a), KczD. Очевидно, Так как i инъективно, отсюда следует, что С1 (Д’) с= С, и потому г-1 (К) — компакт. ► 2.5.9. Определение. Подмногообразие {(W, г)} многообразия V на- зывается замкнутым, если для некоторой представляющей его пары (W, i) отображение i: W-+V собственное. Заметим, что если пара (W', i') эквивалентна (II?, i), где г —соб- ственное отображение, то if тоже собственное. Приведем теперь пример подмногообразия, которое не сохра- няет топологию. Этот пример основан на следующей принадле- жащей Кронекеру теореме, которую мы не будем доказывать. Красивое и простое доказательство намного более сильного утверждения дано Г. Вейлем [1]. 2.5.10. Теорема Кронекера. Пусть ..., — действительные чи- сла, линейно независимые над кольцом Z целых чисел. Пусть Tn = S'x ... X S* = {(ег9>, ..., ef0«): 0; «= R}, и пусть х: R -> Тп — отображение .... Тогда множество x(R) плотно в Тп.
84 ГЛ. 2 МНОГООБРАЗИЯ 2.5.11. Пример. Рассмотрим тор Тп = S1 X ... X S1, п>1, —ана- литическое многообразие размерности п. Определенное выше отображение х: R-+Tn является инъективным. В самом деле, если х (/О = х (/2), то = Л у/2 4- 2л Шу, tn j се Z, / = 1, ..., п\ если t\¥=t2 и если k{, ..., kn — целые числа, не все равные 0 и такие, что п S kjtnj = о (они существуют при и>1), то мы получаем (^i — ^>) = 0 в противоречие нашему предположению о независимости Лу над Z. Далее, (rfx)a =#= 0 для каждой точки а е R. Отсюда следует, что пара (R, х) определяет подмногообразие в Тп. Но х не является локально собственным. Если бы это было так, то у любой точки xoex(R) = S была бы замкнутая окрестность U в Т’г, такая, что S f| U замкнуто в U (так как собственное отображение переводит замкнутые множества в замкнутые). Но по теореме 2.5.10, мно- жество S плотно в Тп, так что S Q U = U', поэтому отсюда следо- вало бы, что S также открыто в Тп. Но S не может содер- жать никакого открытого подмножества из Тп, так как п>1 (например, это противоречило бы лемме 1.4.3). Следующие три предложения устанавливают связь структуры (А-подмногообразия со структурой объемлющего многообразия. 2.5.12. Предложение. Пусть V — многообразие класса Ck и (й?, i) — его подмногообразие. Пусть М — произвольное (^-много- образие и f: М—> W — непрерывное отображение. Тогда f принад- лежит классу Са в том и только в том случае, когда i ° f: М -> V принадлежит Ck. ◄ Пусть а е W; выберем системы координат (U, <р) в точке а, (U', ср') в i (а), <р(х) = (хь ..., хт), ф'(«) = («!,-••, ип), такие, что <р' ° i ° <р~* | <р (U) совпадает с отображением (хь ..., xm)t->(xb ..., хт, 0, .... 0). Тогда если <P°f (*/) = 0/1, •••> Ут)
§ 2.Б. ПОДМНОГООБРАЗИЯ 85 (y^f 1 ((7) — открытому множеству, ввиду непрерывности f), то (p'°i°f(y) = (yh ..., ут, 0, 0). Наше предложение утверждает просто, что отображение у^->{у{, ут, 0, ..., 0) принадлежит классу Ск тогда и только тогда, когда классу Ск принадлежит У^(У1......Ут)- ► 2.5.13. Предложение. Пусть V есть Ск-многообразие и (W, I) — его Ск-подмногообразие. Росток ga непрерывных функций в точке a^W принадлежит Ск тогда и только тогда, когда существует росток Gb функций класса Ск в точке b = i(a), такой, что Gb°i = ga. Обратно, если i — непрерывное вложение Ск-многообразия W в Ск-многообразие V, обладающее этим свойством, то пара (II?, Z) является Ск-подмногообразием V. ◄ Предположим, что (IF, i) — подмногообразие класса Ск. Выберем координаты (U, <р) в точке а е W, (U', <р') в b = Ца), такие, что <р (U), <р' (U') — кубы в Rm, Rrt соответственно и ф' о i о ф-1 |<р ([/) есть отображение (хь ..., хт)^{хх, ..., хт, О, ..., 0). Тогда если g^Ck(U), a GeCs(U') определяется условием О°ф'-1(х1, ..., х„) = ^оф-1 (хь ..., хт), то, очевидно, G°i = g. Отсюда следует первая часть предло- жения. Обратно, предположим, что i: WV — непрерывное вложение, такое, что Сй-ростки в точке а е W — это в точности ростки вида G ° I, где G пробегает множество всех Сй-ростков в точке b = i (а). Прежде всего мы утверждаем, что i — отображение класса Ск. Пусть а е W и b = i (а), и пусть (U', ф') — система координат в точке Ь, ф'(и) = (и1, ..., ип). Тогда ф' ° i | ([/') есть отобра- жение хь->(х1; ..., хп), где Xj = Uj°i. Так как все Uj Ск (U'), то по предположению х} е Ск (ф'-1 ([/')); это означает, что i есть ^-отображение. Затем мы утверждаем, что если а е W, i(a) = b, то суще- ствуют окрестности D э a, D' э b и (^-отображение р: D' ->D, такое, что р °i — тождественное в D отображение. Пусть (U, ф) — система координат в точке а, ф(х) = (х1..хт). По предполо-
86 ГЛ. 2 МНОГООБРАЗИЯ жению, если U достаточно мала и i(U)c:U', то существуют (^-функции pj в окрестности U' точки Ь, такие, что pj°i = Xj. Предположим, что U' настолько мала, что на ней есть коорди- наты <р'. Очевидно, если q = (p{, ..., pm), то окрестность D' точки а можно выбрать так, что p(D')a:tj, где р = <р~'°д. Ясно, что р ° i — тождественное отображение в окрестности а; в част- ности, если D' достаточно мала, то множество p(D') = D открыто в W и р ° I — тождественное отображение D. Отсюда мы получаем, что р* ь ° г* а — тождественное отобра- жение Ta(W) (согласно замечанию 2.2.1), в частности, 4,а —инъек- тивное отображение. ► 2.5.14. Предложение. Пусть V есть Ск-многообразие со счетной базой и (W, i) — замкнутое Ск-под многообразие (т. е. i: W —> V — собственное отображение). Тогда для любой Ск-функции g на W найдется Ск-функция G на V, такая, что g = G °i. ◄ Пусть W'=i(W)-, W' замкнуто в V. Для каждой точки agF существуют окрестность на многообразии V и Ск- функция Ga в Uа, такие, что Gaoi — g в Г] (Ua)‘, это следует из предложения 2.5.13 и того факта, что i: W -> W' — гомеоморфизм. Рассмотрим открытое покрытие {Ua, V \ W'}asw, многообразия V. По теореме 2.2.14 существует разбиение единицы {г]а, г]}, связан- ное с этим покрытием, т. е. набор Сй-функций т]а, г) на V, таких, что -qa, г, 0, supp т)а а: Uа, supp ц с= V \ W, носители которых образуют локально конечное семейство и Л(*) + S T)aW = l- as W' Определим функцию ha<^Ck (У), полагая , , . / Ла (-*-) (•*")> X £= U а хфи., тогда семейство {supp ha} локально конечно и потому G= 2 ha^Ck(V). Если w е 1У и A = {a^W': i(w)^Ua}, то 2 Ла(»(®)) = лШ) + 2 Ла(«(а»))= 1. Отсюда G°i{w)= 2 Ga{i(w))v\a(i(w)) = g(w) 2 Ла(«(о»)) = ?(“») ► as А а^А
§ 2.6. ВНЕШНЕЕ ДИФФЕРЕНЦИРОВАНИЕ 87 2.5.15. Замечания. Предложения 2.5.12, 2.5.13 и их доказатель- ства переносятся на R- и С-аналитические многообразия и соот- ветствующие отображения и функции. Предложение 2.5.14 спра- ведливо для R-аналитических многообразий (со счетной базой) и аналитических функций. Однако доказать это очень трудно; см. Картан [2] и Грауэрт[1]. Соответственное утверждение для комплексных многообразий (и голоморфных функций), вообще говоря, неверно. Очень важный частный случай, в котором оно все же выполняется (результат Ока[1]), будет разобран позже (см. теорему 2.14.9). 2.5.16. Замечание. Если V есть ^-многообразие, (1У, z’) —ег0 замкнутое подмногообразие и и р-форма на V, то символом со | W мы будем обозначать форму г” (со) на многообразии W. § 2.6. Внешнее дифференцирование Пусть V — многообразие класса Ck, k^2 и Ap(V,r), р>0, О<fe — множество всех Сг-дифференциальных форм степени р на V. Если р = 0, то Л°(7, г), где 0^ r^fe, означает множество всех Сг-функций на V. Результаты, которые мы будем сейчас обсуждать, справедливы как для действительных, так и для комплексных функций и форм. 2.6.1. Определение. Внешней производной d = dv называется опре- деленное для каждой пары (р, г) (где l^r<fe, если р>0, и l^r^fe, если р = 0) отображение d: Av(V, г)->Лр+1(У, г—1), удовлетворяющее следующим условиям: (a) d является R- (или С-) линейным для всех р и г; (Ь) если f^A°(V, г), l^r^fe, то df — это 1-форма со, такая, что со (а) — (df)a, т. е. образ f в T*a(V) для всех a(=V; (с) если f еЛ°(У, г), 2<r<fe, то d(df) = O; (d) если со1еЛр(У, г), со2еЛ?(У, г), то d (со! Д со2) = dcoj А со2 + (— 1 )р ©[ А с/со2. Прежде чем приступить к доказательству существования и единственности внешней производной, мы выведем несколько следствий из условий (а) — (d). 2.6.2. Предложение. Внешняя производная d — локальный опера- тор. Это означает, что если со е Ар (У, г) и со | U = 0 в некотором открытом множестве U с У, то da | U = 0. ◄ Пусть «6 U, и пусть f—функция класса Ck на V, равная 0 в окрестности а и равная 1 в окрестности V \ U (следствие 2.2.15). Тогда co = fco. Следовательно, da = (df) А + f A (da).
88 ГЛ. 2 МНОГООБРАЗИЯ Так как f = 0 в окрестности а и о(а) = 0, то (d©)(a) = 0. Ввиду произвольности а е U предложение доказано. ► Заметим, что для существования указанной выше функции f вовсе не обязательно, чтобы у многообразия V была счетная база (хотя это предполагается в следствии 2.2.15). В самом деле, если U' — относительно компактная окрестность а, то (ввиду след- ствия 2.2.15) существует С^-функция, равная 0 вблизи а и 1 в окрестности границы dU' множества [/'; мы можем просто доопределить f единицей на V \ U'. 2.6.3. Предложение. Пусть fe^3, г J>2. Тогда d2 = Q на AP(V, г). 4 Мы можем считать, что р^1. Пусть а е V. Заметим, что если и е Ар (7, г), то найдется р-форма о/, которая является конечной линейной комбинацией форм вида (2.6.4) g-dgi Д ... Ndgp, g^Cr(V), gi^Ck(V) и для которой со —©' = 0 в окрестности а. В самом деле, если (U, ср) —система координат в точке а, <р(х) = (Х|, ..., хп) и о (х) = S fj (*) dx!l A • • • A dxjp, J = • • •, /₽)> /i < ... </p, x e U, то в качестве ©' мы можем взять форму, полученную заменой fj на i}fj и Xj на т]Х/, где iigCs(V), г| = 1 в окрестности а и имеет компактный носитель, принадлежащий U. Значит, по предложе- нию 2.6.2, достаточно доказать, что d2a = 0 для форм а>, пред- ставимых в виде (2.6.4). Используя индукцию по р и условия 2.6.1 (с), (d), мы имеем d(dgi А ... ArfgP) = 0. Значит, из условия 2.6.1 (d) получается, что d2 (g dgl A ... A dgp) = d2 (g) A dgl A ... A dgp = 0 (на последнем шаге используется свойство 2.6.1 (с)). ► 2.6.5. Теорема. Если V — многообразие класса Ck, fe 2, то внешняя производная существует и единственна. ◄ Единственность. Пусть с/ь d2 — две внешние производные. По условию 2.6.1 (b), dj = d2f, если /еСг(У); кроме того, обе они являются локальными операторами. Поэтому достаточно показать, что = d2© в окрестности произвольной точки а е V. Но в окрестности а форма и является конечной линейной комби- нацией форм типа (2.6.4). Значит, по предложению 2.6.2 доста- точно доказать, что dJgrfgiA ... A dgp) = d2(gdgl A ... /\dgp).
§ 2.6. ВНЕШНЕЕ ДИФФЕРЕНЦИРОВАНИЕ 89 Снова индукцией по р, учитывая условия 2.6.1 (с) и (d), мы получаем dj(gdgx/\ ... Adgp) = dg /\dgi Л ... /\dgP, j=l, 2, и единственность доказана. Существование. Так как единственность доказана, то ввиду предложения 2.6.2 достаточно доказать существование внешней производной на многообразии V, С^-диффеоморфном некоторому открытому множеству Q в R". Пусть <р: V -> Q — этот (^-диффео- морфизм и <р(х) = (х...., хп). Любую форму г) можно единственным образом записать в виде ® (x) = Sb(x)dx/1 Л ... Л dxjp, J = (jb ..., jp), h<-..<jP, fj^Cr(V). Положим da> = 2 dfj A dxI} A ... Adxlp, где dfj определено в соответствии с условием 2.6.1 (b). Проверка условий 2.6.1 (а), (Ь) тривиальна. Что касается условия 2.6.1 (с), то по предложению 2.1.11' мы имеем п (df) (х) = f • dxv, V=1 (d2f)(x)=^ у}jЛrfXv== V=1 |1 = 1 J = Zj [( Л^г)’ ' dX^ Л rfxv = 0» Ц < V так как скобки Пуассона для векторных полей (д/дхр), (d/dxv) равны нулю. Для проверки условия 2.6.1 (d) мы можем предположить, что co^fidx^A ... Adxjp, ti>2 = f2dxki/\ ... Л dxkq, или в сокращенной записи &[=fidxJ и &2~f2dxK. Имеем ®i Л ®2 = (fif2) dxj Л dxK. Очевидно, по определению d (coj Л ш2) = d (ftf2) Л dxj Л dxK = {(df j) f2 + (df2)} dxj A dxK - = dfi A dxj A f2 dxK + (- 1 )p fidxj A (df2) A dxK; мы пользуемся тем, что d(ftf2)^(dfl)f2 + fl(df2)
90 ГЛ. 2 МНОГООБРАЗИЯ и что для всякого векторного пространства Е имеют место тождества е0 А б| А ... А еР = (-lfei А ... А ер А е0, е, е= Е, Это, очевидно, доказывает условие 2.6.1 (d), а с ним и тео- рему 2.6.5. ► Мы уже отмечали, что пространство Т* (У) двойственно к Ta(V) (предложение 2.1.11). Поэтому /\р T*a(V) является сопряженным к пространству /\pTa(V), и, значит, любой элемент (£>а е /\р Т’а (У) можно рассматривать как альтернирующую мультилинейную р функцию на ф 7\ (У), а любая р-форма © порождает альтерни- V=1 рующее мультилинейное отображение пространства Хр = ф эе, V=1 где X — пространство С’-векторных полей на У (см. предложе- ние 2.4.3), мультилинейное над кольцом С^'-функций. 2.6.6. Предложение. Если со — некоторая р-форма класса Ck 1 и Xt, ..., Хр+1еХ, то отображение den: Жр+1 ->Rk-ч (где Rk-i~ кольцо С6'2 (У)) задается равенством (</<о)(Х1; ..., Хр+1) = 3(-l)v+1 Xv(© (Х„ ..., Xv, ..., Хр+1)) + V=1 + s (-ir^dXp, Xv], Xx, ..., X», ..., Xv, ..., Xp+1); |1 < V здесь знак - над X означает, что этот член надо опустить. Так как вычисления при доказательстве этого предложения очень громоздки, мы докажем его для случая р= 1; доказатель- ство в общем случае получено Кошулем [1] совсем с другой точки зрения; по существу эта формула бралась им как опре- деление внешней производной. ◄ Доказательство предложения 2.6.6 в случае р = 1. Эту фор- мулу достаточно доказать в окрестности произвольной точки, поэтому мы можем считать, что ©=f|Jf2, где fiе Ck~' (У), /2еСй(У). Далее, мы имеем da> = (df^ A (df2) и (df^dh^, X2) = det = XI(fi)X2(f2)-X1(f2)X2(f1) = = Xi [ftX2 (f2)] - X2 [ЛХ, (f2)] - hXi (X2(f2)) + f{X2 (X! (f2)) = = X, (to (X2)) - X2 (© (X.)) - © ([X„ X2]). Это и есть требуемая формула. ► Ш(ХЛ Ш(Х2)\ (df2)(Xd (df2)(X2))
§ 2.6. ВНЕШНЕЕ ДИФФЕРЕНЦИРОВАНИЕ 91 2.6.7. Предложение. Пусть V, 17 — многообразия класса Ск и f: V -> W — некоторое Ск-отображение. Тогда для любой р-формы и на W мы имеем (2.6.8) йгГ(<В) = Г(^<В); здесь dv, dw означают соответственно внешние производные наУ и W. ◄ Этот результат достаточно доказать для случая, когда W Сй-диффеоморфно открытому множеству в Rm. Кроме того, так как f: Л(17)->Л(7) (Л означает пространства всех дифференциальных форм) — алге- браический гомоморфизм, то, ввиду условия 2.6.1 (d), равен- ство (2.6.8) достаточно доказать для системы элементов Л (17), порождающих ее как алгебру. Так как W диффеоморфно откры- тому множеству в Rm, то такая система задается элементами {h, dg}, где h е Ск~' (17) и g^Ck(W). По определению f*a) f'a(dh)f(a) = d(hof)a, что дает (2.6.8), если a = h. Если a = dg, то Г (d^o) = 0 и dvf (<в) = dv (dv (g ° f)) = 0. > 2.6.9. Определение. Дифференциальная форма со на (^-многообра- зии 7 называется замкнутой, если da = 0. Форма со называется точной, если существует дифференциальная форма со', такая, что dco' = co; здесь coeCfe-1, & ^Ск. Если 7 — многообразие класса С°°, то множество всех замк- нутых р-форм класса С°° мы будем обозначать символом ZP(V), а множество всех точных р-форм — Вр (7). Ввиду предложе- ния 2.6.3 имеет место включение Вр (7) с Zp (7). Факторгруппы Ир (7) = Zp (У)/Вр (7) называются группами когомологий де Рама многообразия 7. Основная теорема, принадлежащая де Раму, утверждает, что эти группы являются топологическими инвариантами V, т. е. что го- меоморфные С°°-многообразия имеют изоморфные группы де Рама. Доказательство можно найти, например у А. Вейля [1]. Рассмотрим теперь внешнее дифференцирование на комплекс- ном многообразии. Пусть 7 — комплексное многообразие, йе7 и <S'p q (7, а) — пространство ковекторов типа (р, q) в точке а. Обозначим через ^/р’р(7) пространство всех С“-форм на 7 типа (р, р); тогда ^(7)= 2 ^Р’"(7) р, <?>о
92 ГЛ. 2 МНОГООБРАЗИЯ есть пространство всех комплекснозначных дифференциальных форм на V. Как и раньше, мы можем определить внешнюю про- изводную d: ^-(V)->s^(V) со свойствами 2.6.1 (a) —(d). В самом деле, &(V) = A(V) ®RC, и поэтому определенный ранее оператор d продолжается на s£(V). Если f е С°° (К, С) и а е V, то (#)ае£’а(Ю=ХоФ^,1. Отсюда _ (df)a = (df)a + (df)a, где (<3/)ae^*0(K, a), (df)a<=Z*0l(V, а). Значит, внешняя производная равна df = df + df, ГАе df = ^'-°(V), df^^'(V). Теперь мы утверждаем, что (2.6.10) d^p’ 4 (К) с ^р+1> 4 (К) + ^р’<7+I (V). Этот вопрос локальный, поэтому мы можем считать, что V совпа- дает с координатной окрестностью U. Пусть ф(г) = (гь ..., z„) — комплексные координаты в U. Тогда каждый элемент из s4'p,q(U) является конечной линейной комбинацией элементов вида a^fdzj^ ... f\dzjp/\dzkx/\ ... /\dzk=f dzj A dzK, но das' = (df) A dzj Д dzK = df Д dzj Л dzK + (-1/ dzj Д df t\dzK, а эта сумма, очевидно, принадлежит пространству ^p+1’p(t/) + ^p’ 9+1 (U). Итак, если а s&p’q (V), мы определим da, da условиями (2.6.11) da = da + da, da 6= ^p+1> ’(И), Йо e (V). Ясно, что операторы d и d продолжаются до С-линейных опера- торов на ^(V). Так как ^(V) есть прямая сумма У s&p' 4 (И), р. мы сразу видим, что равенство d2 = 0 эквивалентно следующим: (2.6.12) <Э2 = 0, d2 = 0, dd + dd = 0. Кроме того, если отображение е н-> ё означает сопряжение «’о, 1, определенное в § 4, мы имеем df = И), f g= С” (И, С). Пусть V, V' — комплексные многообразия и /: V -> V' — голо- морфное отображение. Пусть а' — форма типа (р, q) на V'. По
§ 2.7. ОРИЕНТАЦИЯ 93 предложению 2.6.7 имеем (<»') = Г (^®'). Отсюда df* (o') + df* (со') = f* (dco') + f* (да'). По предложению 2.4.12, прообраз формы типа (р, q) при голо- морфном отображении тоже имеет тип (р, q). Отсюда из напи- санного выше уравнения следует, что (2.6.13) df* = f*d, df* = f*d, если отображение f: V -> V голоморфно. 2.6.14. Определение. Дифференциальная форма со степени р на комплексном многообразии называется голоморфной, если она типа (р, 0) и дсо = 0. 2.6.15. Замечание. Функция f е С°° (7, С) представляет голоморф- ную форму степени 0 тогда и только тогда, когда f — голоморф- ная функция. Форма со типа (р, 0) голоморфна в том и только в том случае, когда в любой системе комплексных координат (U, <р), ф(г) = (2], ..., zn), она представляется в виде ^ = 'SifJdzli Л ... Л dz!p, J = (jh ..., jp), где все fj — голоморфные функции. Это вытекает непосредственно из следующего замечания. 2.6.16. Замечание. При доказательстве включения (2.6.10) мы получили, что форма со типа (р, q) в локальных координатах имеет вид ® = S f jk dzj Л dzK, J = (jh ..., jp), К = (kr, ..., kq), J, к kx<...<kq, dzj = dzix A • • f\dzJp, dzK = dz^ /\ ... A dzkq, а потому da = S S fjK dzv Л dzJ Л J. К v d® = 2 S (зУ fJK dzj A dzv Д dzK. J, К v V § 2.7. Ориентация 2.7.1. Определение. Пусть V — многообразие класса Ck, k^l, раз- мерности п. Тогда V называется ориентируемым, если на V су- ществует непрерывная n-форма со, нигде не равная нулю.
94 ГЛ. 2 МНОГООБРАЗИЯ Если V связно и coj, со2—две n-формы, нигде не обращающиеся в О, то существует непрерывная функция f, такая, что a>i=fco2; более того, f либо всюду положительна, либо всюду отрицательна. Если f(x)>0 для всех х, мы назовем формы с^ и со2 эквивалентными; ориентация на V — это выбор одного из классов эквивалентных n-форм. На связном ориентируемом многообразии возможны только две ориентации. Пусть V — многообразие класса Ck и (Ui, ф/), (Up Ф/)—две системы координат на V. Тогда Ф,оф->: есть (^-отображение, и мы положим d{/ (х) = det [d (ф; ° ф~>)(фу (х))}. 2.7.2. Предложение. Многообразие V ориентируемо тогда и только тогда, когда можно подобрать системы координат {(U t, Ф/)}гег7 так, что V = U £/ i и dij(x)>0 для всех i, j, x^Ut[\Up 4 Мы можем считать, что V связно. Пусть со — непрерывная n-форма, нигде не равная нулю. Если (Ua, фв) — система координат, Фа (х) = (xi, • • •, хп), то пусть соа = dx. А ... A dxn-, это есть п-форма на Uа, нигде не равная нулю. Для каждой точки а е V мы можем найти систему координат (U а, фа), такую, что а е Ua и со = ga<&a, где ga — непрерывная функция и ga (х) > 0 для всех х е Uа (если надо, мы заменяем фа(х) = (хь ..., x„_b х„) на (хь ..., хп_ь —хп)). Кроме того, на Ua(]Ub мы имеем СОд — dab^b- Поэтому dab = gb!ga > 0 на Ua П Ub. Обратно, предположим, что {(Ub фг)} — семейство систем коор- динат, такое, что V = \}Ui и dz/>0 на Ut П Up Положим, как выше, coz = dxi Д ... Д dxn, если ф, (х) = (хь ..., х„). Пусть {tjJ — разбиение единицы, класса Ck, подчиненное покрытию {U J, и со = 2л/®г- Очевидно, что со —форма класса Ck~l. Кроме того, если aeV и / — множество индексов i, таких, что а е supp т]с (это конечное непустое множество), то мы имеем со (а) = 2 (а) (а) =( 3 П/ (а) du, (а) 1со/о (а), isl ( if=I J где lQ<= I фиксировано. Так как 2 n<(«) = U ie/ a du, (а) > 0 для всех I и т]г 0, мы заключаем, что со (а) =/= 0. ►
§ 2.7. ОРИЕНТАЦИЯ 95 2.7.3. Замечание. Из доказательства видно, что на ориентируе- мом (^-многообразии существует С*-1-форма, нигде не равная нулю. Теперь рассмотрим расслоение A"T*(V)= □ Anfa(V) а е V n-форм на V и в нем открытое множество Я = {^А"Г’(У): geA'lT*(V) и £#=0 в Л'17’а(У)}. Пусть p'.H-^V — отображение, такое, что р(|) = а, еслиЛпТа(V). Определим на Н отношение эквивалентности, полагая gi~g2> если p(gi) = p(g2) и ^1 = ^2, гДе Л.>0. Пусть V — факторпространство Н по этому отношению. Нетрудно видеть, что V — хаусдорфово про- странство. Кроме того, отображение р: H->V индуцирует непре- рывное отображение л: V->V. 2.7.4. Предложение. Отображение л: V -> V является двулистным накрытием V, т. е. л — локальный гомеоморфизм V на V и л”1 (а) состоит из двух точек для каждой точки а е V. 4 Пусть а eV и (U, <р) — система координат, такая, что а е U и множество U связно. Пусть и — нигде не равная нулю п-форма на U, определяемая условием со = dxx А ... A dxn, если <р (х) = (хь ..., хп). Пусть йх (соответственно С/2) есть множество точек x^V, таких, что л (х) = х е U и со (х) Е х (соответственно — со (х) е х). Очевидно, л-1 (U) = Ux U U2 и л | Uf — гомеоморфизмы на множество U. ► 2.7.5. Предложение. Пусть V — связное Ck-многообразие. Тогда V ориентируемо в том и только в том случае, когда V несвязно. -< Пусть V ориентируемо и со — нигде не равная нулю п-форма на V. Форма со является непрерывным отображением V->H, ко- торое индуцирует непрерывное отображение со: V V. Ясно, что л ° со — тождественное отображение, со (V) #= V и, таким образом, V несвязно. Если V несвязно, обозначим через W связную компоненту V. Ясно, что л: W -> V — накрытие. Кроме того, на V есть точка х0 W. Поэтому множество {х-е1Г: л (х) = л (х0)} состоит в точности из одного элемента. Так как л | W — накрытие и V связно, то отсюда следует, что л: —> V — гомеоморфизм.
96 . ГЛ. 2 МНОГООБРАЗИЯ Пусть теперь (Uь <р;) — семейство систем координат, такое, что V = U Ui и (о; = t/xj Д .. . Л dxn W для всех х<=(7г (здесь (хь хп) = ф;(х)). Такое семейство существует: если сог(х0)^^ для некоторого х0, то мы заменим (х1( .. ., хп_ь хп) на (xt.х„_1; — х„). Если теперь сог = dц®j на (/гП Up то, по определению от- ношения эквивалентности на Н, мы получаем, что dtj > 0 на U t П Uf. Значит, по предложению 2.7.2, многообразие V ориентируемо. ► 2.7.6. Следствие. Связное односвязное многообразие ориентируемо- Это следует непосредственно из предложения 2.7.5. Очевидно, что V обладает естественной (^-структурой (см. при- мер 2.1.7b). Можно доказать, что на V всегда (даже когда V не- ориентируемо) существует n-форма й, такая, что й (х) = Ал* (£), где х = л(х) и А>0 для всех Отсюда следует, что мно- гообразие V всегда ориентируемо. § 2.8. Многообразия с границей Пусть R" = {(х,, ..., х„) е R": х1 О], и пусть й—(относительно) открытое подмножество R". Мы будем говорить, что функция f в й принадлежит классу Ck, если существуют открытое множе- ство й' в R" и функция ЕеСй(йЛ), такие, что й'ПК+^й и F | й = f. Аналогично определяются (^-отображения й в Rm. 2.8.1. Определение. Пусть V — хаусдорфово пространство. Пред- положим, что задано семейство пар {((/,, Ф,)}, где (7г —открытые множества из V, а фг — гомеоморфизм на открытое подмноже- ство пространства R", причем отображения ф(. °фг1 |ф;.(^Ui П U принадлежат Ck для всех /, /. Тогда мы будем говорить, что это семейство определяет на V структуру Ск-многообразия с границей. Сама (^-структура на V — это максимальное по вложению семей- ство пар {((/h ф()} с указанными выше свойствами. На (^-многообразии V с границей (k 1) можно определить С-функции и ростки, касательные векторы, дифференциальные формы, ориентацию и т. д. тем же способом, что и для обычных (^-многообразий. Для элемента f е Са, ь, а. е V, мы будем писать если f (х) 0 для всех х, достаточно близких к а (и для некоторой функции, представляющей росток f). 2.8.2. Определение. Пусть V есть (^-многообразие с границей. Мы будем говорить, что a — внутренняя точка, если найдется си- стема координат (U, ф), такая, что аеУ и ф ((7) — открытое мно-
§ 2.8. МНОГООБРАЗИЯ С ГРАНИЦЕЙ 97 жество в R" (т. е. q>(U) не пересекается с множеством {/1=0} в ₽+ ={(/], /„)eRn: 0}). Точка а называется граничной точкой, если она не является внутренней; множество граничных точек V мы обозначим символом dV. Заметим, что точка а принадлежит dV тогда и только тогда, когда существует система координат (U, qp), а е U, такая, что qp(C/)azR" и ф(а) = 0. В этих координатах мы имеем dV П U = {х е U: X] = 0, где <р (х) = (хь ..., х„)}. Отображение (хь ..., хп) i—> (х2, ..., х„) пространства R" в R"-1, очевидно, индуцирует гомеоморфизм dV П U на открытое подмно- жество из Rn-1; мы его обозначим через ф. Кроме того, если (£7, qp), (£/', ф')~ две системы координат на V (такие, что U П U' П П dV =Д 0) и если ф, ф' — соответствующие гомеоморфизмы <37 f| U, dV П U', то очевидно, что отображение ф'°ф-1|ф(С/П£/'П5У) является сужением (^-отображения ф'°ф-Чф(£7 Л U') на множество = 0 и потому само принадлежит классу Ck. Итак, мы получаем 2.8.3. Предложение. Граница dV любого (^-многообразия с гра- ницей V обладает естественной структурой Ck-многообразия (без границы). Более того, сразу видно, что dV — замкнутое ^-подмно- гообразие V (с естественным вложением dV ->V) и что касатель- ное пространство Та (dV) к dV в точке а е dV есть подпростран- ство Ta(V). 2.8.4. Определение. Пусть V есть (^-многообразие с границей и a^V. Касательный вектор X е Та (И) называется положительным- (или внутренней нормалью к дИ), если для любого роста f^ma,k, такого, что мы имеем X(f)^O и если существует по край- ней мере один росток f е ma, k, f 0, Для которого X (f) > 0. 2.8.5. Замечание. Пусть а — внутренняя точка V. Тогда мы утвер- ждаем, что в точке а не существует ни одного положительного касательного вектора. В самом деле, если f ^matk, f^0, то пред- ставляющая f функция имеет в точке а локальный минимум. По- скольку первые частные производные С’-функции в открытом под- множестве R" в точках локального минимума равны нулю, мы заключаем, что Х(/) = 0 для любого X^Ta(V). 4 Зак. 751
98 ГЛ. 2 МНОГООБРАЗИЯ 2.8.6. Предложение. Пусть а ё dV и (U, <р) — система координат в точке а, такая, что ф(£/)cz R", ф(а) = 0. Пусть <р(х) = (хь ..., х„) и вектор X ^Та (V) имеет разложение Тогда X положителен в том и только в том случае, когда <^>0. 4 Если f Z>0, то росток Т е m0, fe(R"-1), определяемый условием g(x2, ..., xn) = f(O, х2, ..., х„), где (хь ..., х„) = ф(х), имеет локальный минимум в 0 и, значит, (dg/dxv)o — O При v^2. Отсюда следует, что X if) — сг (д/дх^а f. Более того, 0, ..., 0) —/=(0, 0)Н = lira h~'f{h, 0, ..., 0)>0 л->+о и Ш *i=i- \ dxi /а 1 Отсюда сразу следует наше предложение. ► 2.8.7. Предложение. Если а е dV и Xt, Х2 — положительные ка- сательные векторы в точке а, то существует Л>0, такое, что Xx-KX2^Ta(dV). 4 Пусть (С/, ф) — система координат в точке а, ф(а) = 0 и Х! = S • / £4 v \дх^ )а v=l Подберем Х>0 так, чтобы С(П - = о (это возможно ввиду предложения 2.8.6). Тогда Х{ — kX2^Ta(dV). ► 2.8.8. Определение. Элемент оеТа(7), a^dV, называется поло- жительным, если со(Л')>0 для всех положительных X е Та (У). Очевидно, что в локальных координатах {U, ф), ф(а) = 0, ф(х) = *= (хь ..., х„) такой ковектор со имеет вид c(dX])a, с>0. 2.8.9. Предложение. Ориентация на V индуцирует естественную ориентацию на dV.
§ 2.9. ИНТЕГРИРОВАНИЕ 99 4 Пусть со — некоторая n-форма на V, нигде не равная нулю. Покроем dV системами координат (Щ, <р') так, чтобы для любой точки y^Ui и любого положительного ковектора ее Ту(У) (см. определение 2.8.8) мы имели е Л coj (у) = - Л-со (у), где co< = dx2A ... Л dxn (ф;(х) = (хр ..., хп)) и Х>0 (мы рассма- триваем /\п~'Ту(дУ) как подпространство в А"-1 ЛДУ)). Сразу видно, что coz = dt/co/, причем <Л;>0 в Из доказательства предложения 2.7.2 следует существование (п — 1)-формы со' на dV, такой, что < = ^со', где £^>0 в U'r ► 2.8.10. Замечание. Если D — открытое множество на (^-много- образии V, причем для любой точки а е D \ D имеются окрест- ность U в V и (^-функция g в U, такие, что (dg}a^Q, D(]U ={x^U: g(x)>0), то D является (^-многообразием с границей и 6D совпадает с топо- логической границей dD = D \ D множества D. Это следует непо- средственно из теоремы о ранге. 2.8.11. Замечание. Если ориентировать R" при помощи обычной n-формы dx{ Л ... /\dxn, a R"-1 — при помощи формы dx2 Л ... ... /\dxn, то ориентация на dR", индуцируемая на ней в соот- ветствии с предложением 2.8.9, противоположна этой обычной ориентации. § 2.9. Интегрирование Прежде чем вводить интегрирование на произвольном ориенти- руемом многообразии, мы должны доказать формулу замены пере- менных в кратном интеграле. Приводимое ниже доказательство принадлежит Дж. Шварцу [1]. 2. 9.1. Теорема. Пусть й, й' — открытые множества в R" и h: й' -* й — диффеоморфизм класса С1. Тогда если f — непрерывная функция с компактным носителем в й, то (2 .9.2) р (х) dxx ... dxn = § f °h (у) | det dh (y)\dy ... dyn. a a' (Здесь | det dh (у) | — абсолютная величина определителя для диф- ференциала dh (у) в точке у.) 4 Сначала мы докажем этот результат для случая, когда /г —линейное преобразование. Пусть Л —матрица этого преобра- зования относительно канонического базиса в R", По теореме 4*
100 ГЛ. 2 МНОГООБРАЗИЯ об элементарных делителях (см., например, Бурбаки [1]) А можно записать в виде произведения конечного числа матриц Лч, каж- дая из которых либо диагональная (в нашем случае — без нулей на диагонали), либо является элементарной матрицей, т. е. ма- трицей, соответствующей одному из линейных преобразований (a) (х,....x„)>-^(xh ..., x/_i, хк, х/+1, .... xft_b Xj, xk+x, хп) (перестановка х, и хк, j<k) или (b) (xb ..., xji->(x1 + x2, x2, ..., x„). Очевидно, достаточно доказать (2.9.2) для каждого из этих пре- образований в отдельности. Для диагональных матриц и преобра- зований (а) это тривиально следует из теоремы Фубини. Для пре- образования (Ь) мы имеем / f 0 h (у) | det dh (у) | dyr ... dyn = Й' = J f (Xi + x2, x2, .... x„) dXi ... dxn = r" = J dx2 ... dxn J f (X[ + x2, ..., x„) dxt — Rrt—1 R = J dx2 .. • dxn J f (xb ..., x„) dxt = p/i — 1 R = J f (x) dX[ ... dxn = J f (x) dxi ... dxn. r” a Доказательство теоремы в общем случае мы продолжим следую- щим образом. Достаточно доказать, что для любой непрерывной неотрицательной f с компактным носителем выполняется нера- венство (2.9.3) J f (х) dxi ... dxn < J (f ° h) | det h (y) \dy{ ... dyn. Й Q'j В самом деле, если в (2.9.3) поменять местами Q и Q'h вместо h, f рассматривать соответственно /г-1 и f ° h на й', то мы получим равенство (2.9.2) для неотрицательных f. Так как всякая непре- рывная функция с компактным носителем является разностью двух неотрицательных непрерывных функций с компактными носи- телями, то это даст (2.9.2) в общем случае. Далее, для доказательства неравенства (2.9.3) достаточно доказать следующее утверждение: если Q — замкнутый куб в й', то (2.9.4) m (h (Q)) С J | det dh (y) \dy{ ... dyn, Q
§ 2.9. ИНТЕГРИРОВАНИЕ 101 где m{S) — мера Лебега измеримого множества S в R". В самом деле, отсюда следовало бы (2.9.3), так как неотрицательная не- прерывная функция f ° h с компактным носителем является равно- мерным пределом конечных линейных комбинаций Sc/XQy, где константы С/^0, Qj — замкнутые кубы и Xs— характеристиче- ская функция множества S (равная 1 на S и 0 вне 5). Доказательство неравенства (2.9.4). Пусть Д — замкнутый куб в Q' с ребрами, равными б. Для (п X п)-матрицы М — (ац) мы определим норму IIМ || = max2l «//1 • i i Если / — единичная матрица, то, очевидно, ||/||=1. Если I: -> R" — линейное отображение с матрицей М, то мы будем писать 11/11 = 11 Л4 11- Отображение h: Q'—>Q задается п функциями, h = (hb ..., Л„). По формуле Тейлора 1.1.9 для любых точек х, у^Д мы имеем hj (х) - hj (г/) = S (-Xk ~ k k где Следовательно, | hj (х) - hj (у) К б || (d/г) (/,) || < б sup || dh (а) ||. а^К Отсюда сразу следует, что (2.9.5) m {h (Д)) < б” {sup || dh (а) ||}n = m (Д) sup || dh (а) ||п. а^К а^К Пусть ое Д и / — линейное преобразование пространства R", определяемое условием /-I = {dh) (а). Пусть g = I h. Тогда лп (g (Ю) = I det Z | m (/г (Ю), так как равенство (2.9.2) для линейных преобразований доказано. Если мы применим к g неравенства (2.9.5), то получим (2.9-.6) tn (h {Д)) «С1 det dh {а) | m {Д) sup || dh (а)--1 ° dh {у) ||”. Очевидно, dh{a)~l ° dh(y) стремится к / при б—>0 (т. е. при || г/— а || —»0) равномерно по а из любого компактного подмно- жества Q'. Поэтому найдется функция к: R+->R+, такая, что Z.(6)~>0 при б —> 0 и sup ||d/z(a)-1 с d/г (у) |Г < 1 + Х(б), a<=Q
102 ГЛ. 2 МНОГООБРАЗИЯ (Q — некоторый замкнутый куб в Q')- Разобьем Q на Nn кубов /С, с ребром д, в N раз меньшим, чем ребро Q. Тогда, учитывая (2.9.6), мы получим для aj^Kf т(Л(<?))<2т(ЛК/)Х(1+Мй))2| detd/z(a;) \т(К{). При N -> оо выражение справа стремится к J | det dh (у) \dyi ... dyn, Q что доказывает неравенство (2.9.4), а вместе с ним и всю тео- рему. ► Перейдем теперь к изучению интегрирования на ориентируе- мых многообразиях. Пусть V — ориентируемое (^-многообразие размерности п (k~^ 1) с границей или без. Пусть со — непрерывная n-форма на V с компактным носителем. Мы предполагаем, что V имеет счетную базу и ориентировано, т. е. что на V задана не- которая n-форма <й0, нигде не равная нулю. Пусть (С/, ср), (С/, ф) — две системы координат (с одним и тем же U). Напишем ф (х) = (хь .... хп), Ф (х) = (z/1.уп) и положим 01 = dxx Л ... Л dxn, 02 = dy, Л ... Л dyn. Тогда 9/=^, fi^C0(U), /==1,2. Мы будем предполагать, что координаты выбраны так, что fj>0. (Заменим хп или уп на — хп или уп, если это необходимо.) Такие системы координат мы будем называть положительными относительно <оо. В U, очевидно, имеем ® = £i0i=£202, gf^C°(U), /=1, 2. 2.9.7. Замечание- Мы утверждаем, что если (и, значит, £2) имеет компактный носитель в U, то / £i0 <Г1 dx{ ... dxn = | £3 о ф“' dyx ... dyn. Ф(С7) Ф(С7) В самом деле, если мы положим и(х) = det с? (ф оф-’)(ф (х)), то получим, что Q|(x)==w(x) 02(х),
§ 2.9. ИНТЕГРИРОВАНИЕ 103 а потому и (х) = (x)/f2(x)> 0. Теперь можно применить теорему 2.9.1 и тот факт, что [gi о ф-1 о (ф о ф-i)] (ф (х)) • d (ф ° ф~‘) (ф (х)) == g2 0 Ф~’ (ф U)); это даст нам утверждение 2.9.7. Теперь мы можем определить интеграл от формы о по мно- гообразию V. Пусть {(UI, ф;)} — семейство систем координат на V = U Ui, положительное относительно со0, т. е. такое, что если 0, есть форма dxx Д ... Д dxn, связанная с фДх) = (х1, ..., х„), то = на UI, где fi>0. Пусть {гр} — разбиение единицы, под- чиненное {C/J и (й = £Д на U t. Мы полагаем (2.9.8) = S J • • • dxn. V i <PZ (Ui) Из замечания 2.9.7 непосредственно вытекает, что эта величина не зависит от выбора систем координат {(U {, ф;)} и разбиения единицы {тр}. Если заменить м0 другой формой сд), определяющей ту же ориентацию, то интеграл тоже не меняется. 2.9.9. Теорема Стокса. Пусть V — ориентируемое (^-многообра- зие размерности п со счетной базой, и пусть (п-1)-форма ® класса С1 на V имеет компактный носитель. Тогда р = р<о. dV V В частности, эта формула справедлива для всех С'-форм о, если V — компакт. (Если dV = 0, то слева стоит 0.) 4 Пусть {(Uj, ф,)} — семейство систем координат, такое, что U Ui = V, d{ = dxl Д ... Д dxn = fi<i>0, фДх) = (Х1, ..., хп) и fi>0- Пусть {гр} —разбиение единицы, подчиненное покры- тию {I7J. Достаточно доказать, что J трю = J d (грсо). dV V Рассмотрим два случая. Случай I. Предположим, что С/,П<ЗЕ = 0; тогда ф,-(С//) — от- крытое множество в R" и J гр® = 0. dV
104 ГЛ. 2 МНОГООБРАЗИЯ Мы можем считать, что само Ut — открытое множество в R" (согласно замечанию 2.9.7). Пусть Пг® = S Si dxt A ... AdXj A ... A dxn, i-i где знак над dxj означает, что этот множитель надо опустить. Тогда мы имеем " д = S dx{ А ... Arfx„, /-i I откуда / d (т]/®) = / (- 1)/-1 dxl А ... A dxn = v i=i ut 1 = 2 (- I)'-' J dxi ... dxn = 0, / = ! R* ' Г dSt так как dXj=0, поскольку все gj имеют компактные носители. r 1 Случай II. Ui^dV^Q. В этом случае <р; (С/() — (относительно) открытое множество в R" и <рЖ) П {х е R": х,=О)=#0. Снова мы можем предположить, что Ut — открытое множество в R+. Как и в случае I, если гр® = 2 Si’ dx{ /\ ... AdXj A ... A dxn, i-i d(r]i<i>) = ^i(-iy~1-~-dx1 Л ... Adxn, i-i 1 TO ! Г dgt J ~дхХ1 •.. dxn = o, когда /=#1. r« 1 Более того, если /=И=1, то gs dx{ A ... AdXj A ... A dxn | dV = 0
§ 2.10. ОДНОПАРАМЕТРИЧЕСКИЕ ГРУППЫ 105 (см. определение 2.5.16) и, кроме того, ОО ОО оо J ifrdXi dXn = J dXn J dxn-\ • • • j" = r>tl —oo — 00 0 K+ = - J gt (o, x2, ..., x„) dx2 ... dxn, Rn-1 откуда следует, что = - J g-ДО, x2, ..., xn)dx2 ... dxn — J V dV (см. замечание 2.8.11). ► J 2.10. Однопараметрические группы В этом параграфе V будет обозначать (/-многообразие раз- мерности п со счетной базой; предполагается, что /?^3. 2.10.1. Определение. Пусть g: R X V -> V — отображение класса Сг и gt’. V -> V — отображение x*-^g(t, х), feR. Мы назовем g одно- параметрической группой (^-преобразований V, если gt для каждого t является Сг-диффеоморфизмом V на себя и для любых /, seR выполняется соотношение gs+t ~ gs ° gt‘> в частности, g0 — тождественное отображение. Пусть (/ — открытое множество на многообразии V, е>0 и /={(eR: 111 < е}. Пусть g: I X U -> V — отображение класса Cr, a gt: U->V, как и выше, — отображение х i—> g (/, х). Тогда g называется локальной однопараметрической группой (/-преобра- зований, если gt для каждого t^I является (/-диффеоморфиз- мом U на открытое подмножество V, g0 — тождественное отобра- жение и всякий раз, когда s, t, s + t I, a x, gt(x)^U, мы имеем gs+t W = gs 0 gt W- Пусть g: I X U -+ V — локальная однопараметрическая группа (/-преобразований. Определим (/”'-векторное поле X = Xg на U следующим образом. Пусть a^U и f^Ca,k. Мы полагаем заметим, что точки g<(a) близки к а при достаточно малых /, так как gp — тождественное отображение. Обратно, имеем
106 ГЛ. 2 МНОГООБРАЗИЯ 2.10.2. Предложение. Пусть X — векторное поле класса Ck~l на V и a^V. Тогда найдется окрестность U точки а и локальная одно- параметрическая группа g преобразований U в V, такая, что X индуцируется группой g на U, т. е. Х — Х„ на U. ◄ Достаточно доказать предложение для случая, когда V — от- крытое множество в R". Пусть векторное поле X имеет разложение п Х(х) = ^ av (х) , х <= V. v=l По теореме 1.8.14 существуют б > 0, окрестность Uo точки а и Cfc-i-отображение g-.I0XUQ->V (70 = {/eR: |/|<б}), такие, что (f, х) = a (g (t, х)), g(0, х) = х, хе(/, где а (х) = («] (х), ..., а„(х)). Мы утверждаем, что g — локальная однопараметрическая группа. Чтобы доказать это, положим (х) = g (/, х) и подберем интервал I = {t: 111 < е}, е > 0, и окрестность U точки а столь малыми, что gs+< (£7) сд С70 Для всех s, t^I. Фиксируем хе / и положим ht = gt°gs на U. Мы сразу видим, что ht и gt+s удовлетворяют дифференциальному уравнению = а (и (/, х)), и (0, х) = gs (х), х е U, t^I. Отсюда, ввиду единственности решения такого уравнения (см. теорему 1.8.4), мы имеем ht = gt+s, т. е. gt+s = gt°gs- В частности, gt ° g-t = gQ — тождественное отображение, откуда следует, что все gt — диффеоморфизмы класса Ck при t е I. Если f е С6, k, b U, то d(f°gtW) I yi df dgtv(b) yi df vftA(tx di— Lo=1 ^^av(b)^(b)=x (St — (gt,i> •••> т- e- эта однопараметрическая группа g индуцирует наше векторное поле X на U. ► 2.10.3. Замечание. Как следует из утверждения о единственности в теореме 1.8.4, эта локальная однопараметрическая группа g в очевидном смысле единственная.
§ 2.10. ОДНОПАРАМЕТРИЧЁСКИЁ ГРУППЫ 107 2.10.4. Теорема. Пусть X — векторное поле класса Ck~x с компакт- ным носителем на V. Тогда существует единственная однопара- метрическая группа g (^-'-преобразований V, которая индуцирует это поле X на V; кроме того, g(t, х) = х для всех t, если х лежит вне некоторого компактного подмножества V. ◄ Пусть К — компакт, такой, что Х(а) = 0, если афК. По предложению 2.10.2 для любой точки а^.К найдется окрест- ность Uа и локальная однопараметрическая группа g^’. Ua~+V, 111 <e(а), индуцирующая X на Ua. Подберем точки av, IC^Cp, так, чтобы u= (J и^к, I < v<p и положим e — mine(av). Если U ay/(\U <Z), to g\av> индуцируют на Uav П U одно и то же векторное поле и поэтому совпадают при 111 < е. Значит, мы можем определить gt на U, полагая gt(x) = gfr) (х), если х е Ua . Кроме того, если х е U, хфК, то X (х) = 0, и поэтому для всех f^CXik мы имеем df°gt(x) dt f-o Из утверждения о единственности в теореме 1.8.4 следует, что gt(x)==x. Поэтому мы можем продолжить g: /X U—>V до ото- бражения g: I X V -* V, полагая g(t,x) = x, если х0К; здесь I ={/: 111 <е}. Кроме того, если 1, s, f + se/, то для любого хе У мы имеем gt+s (х) = gt ° gs (х). Если теперь t е R произвольно, то мы подберем целое число р>0 так, чтобы t' = t/p е I, и положим gt = gt,° ... °gf/ (р-кратная композиция gz,). Непосредственно видно, что этим определено Сй-1-отображение g: RxV->V, которое является однопараметрической группой и продолжает наше отображение g: /ХУ->У; в частности, g индуцирует векторное поле X. ► 2.10.5. Замечание. Пусть U — открытое подмножество V и о: U -> V — диффеоморфизм класса Ck множества U на открытое подмножество V. Пусть X — векторное поле на U. Тогда а инду- цирует векторное поле а, (X) на U' = o(U), где а.(Х)(а(а)) = а„в(Х(а))
108 ГЛ. 2 МНОГООБРАЗИЯ (см. замечание 2.4.5). Если f^.Ck(U'), то мы имеем Значит, если X, У —два векторных поля на U и f ^Ck(U'), то [а. (X), а. (У)] (f) = а, (X) {У (/ о а) о ст->} - о, (У) {X (/ > а) □ а"1} = = (Х(У(/оО))-у(Х(/оа)))оа-> = а.([Х, У])(/=), откуда получаем, что (2.Ю.6) <т.([Х, У]) = [а.(Х), а.(У)]. Пусть теперь о = U -+ U' — указанный выше (/-диффеоморфизм. Пусть W <^U, W' = a (W) и g: I X U -> V — локальная однопара- метрическая группа, индуцирующая векторное поле X на U. Тогда если интервал I достаточно мал, то g(I X W\czU', и по- этому отображение t*—° gt° определяет локдльную одно- параметрическую группу g': IXW' ->V. Если f^Ck(W') и a^W', то мы имеем d(f°a°g.°а-1 (а)\ о. (X) (f) (а) = X (f о О) о а-1 (а) = -V--L22. , и, значит, g' индуцирует на W' векторное поле оДХ). Таким образом, мы получаем 2.10.7. Следствие. Если o(IF) = W', так же как и W, относительно компактно в U, то равенство °0 gt W = gt0 о W для х е IF и всех малых t выполняется в том и только в том случае, когда для всех a^W мы имеем о„в(Х(а)) = Х(о(а)). 2.10.8. Определение. Пусть g: I X U -> V — локальная однопара- метрическая группа (/-преобразований, г >2, и X — векторное поле на U. Мы скажем, что поле X инвариантно относительно g, если для любой точки a^U и всех достаточно малых t имеет место равенство (а)) = *(£;(«))• Пусть теперь gx I X U ->V, как и выше, — локальная одно- параметрическая группа (/-преобразований, и пусть U'— открытое множество, U' U. Пусть У — векторное поле класса С на U, г ^2. Для всех достаточно малых t определим векторное поле Yt на U', полагая и векторное поле dYJdt, полагая (dYt/df)(f) = dY
§ 2.10. ОДНОПАРАМЁТРИЧЕСКЙЁ группы 109 2.10.9. Предложение. Для всех достаточно малых t на U' выпол- няется равенство dYJdt = [Yt, X], где X — векторное поле на U, индуцируемое группой g (и потому инвариантное относительно g ввиду следствия 2.10.7). •< Положим Z = dYt!dt. При f^Ck(U) мы имеем t->o — Г1 {Y (f ° gt)— Y (f) — Y (f) ° gt + Y (f)} ° g_t = t->o = lim t~'Y (f° gt-f)- lim Г1 (У (/) о gt - Y (f)), t —> 0 t 0 если эти последние два предела существуют равномерно на U', так как lim я.— тождественное отображение. По определению t+o поля X мы имеем X(Y(f)) = \imr'{Y(f)ogt-Y(f)-} <->о равномерно на U'. Пусть теперь h(t, x) = f ° gt(x). Очевидно, h е С2 (/ X и'), если / е R — достаточно малый интервал, содер- жащий 0. Следовательно, функция Z-1(f 0 gt~f) = x) — h(Q, x)) при /=#0, ^-(0, x) при / = 0, принадлежит С1 (/ X U'), и потому lim t~'Y (f о gt - f) = Y (lim Г1 (f □ gt - f)) = Y (X (/))• <->o f->0 Отсюда для f ^Ck (U) мы получаем равенство Z0(f) = [r, X](f) = [r0, X](f). Это означает, очевидно, что Zo = t^o, ^1 на U'. Если теперь t0 достаточно мало, то чем и завершается доказательство. ► 2.10.10. Предложение. Пусть g, h: I X U —— локальные одно- параметрические группы, индуцирующие на U векторные поля X и Y класса С, r^2. Тогда равенство gt ° hs (х) = hs<> gt (х) выпол- няется для любого множества U' U, х^О' и всех достаточно малых t, s в том и только в том случае, когда [X, У] = 0 на U.
ПО ГЛ. 2 МНОГООБРАЗИЯ •4 Если gt, hs коммутируют на U' при малых t, s, то сразу видно, что Y инвариантно относительно gt (определение 2.10.8) и поэтому на U' (по предложению 2.10.9) fl- Так как U'<^U произвольно, то всюду на U [X, У] = — [У, Х] = 0. Обратно, если [X, У] = 0, мы имеем dYtldt = {gt\ [У, Х] = 0 (по предложению 2.10,9) и, значит, У инвариантно относительно g. Остается применить следствие 2.10.7. ► 2.10.11. Замечание. Все результаты этого параграфа имеют ана- логи для комплексно-аналитических многообразий V и голоморф- ных векторных полей. Вводятся голоморфные (локальные) одно- параметрические группы, которые являются голоморфными отоб- ражениями g\ (I X U)C X V ->V с очевидными свойствами. Тогда голоморфные векторные поля и голоморфные локальные одно- параметрические группы, как и выше, соответствуют друг другу. Коммутирование элементов различных групп опять соответствует обращению в нуль скобок Пуассона. Доказательства этих фактов совпадают с приведенными выше, и поэтому мы их опускаем. По поводу затронутых здесь вопросов см. Номидзу [1]. $ 2.11. Теорема Фробениуса Пусть V — многообразие класса Ск размерности п со счетной базой и 2.11.1. Определение. Говорят, что на V задана дифференциальная система 2) ранга р, если в каждой точке a^V выделено некото- рое подпространство 'S)(a)czTa(V) размерности р. Система 2) на- зывается дифференцируемой класса Cr (0<> <k), если у каждой точки a^V имеется окрестность U и в ней Сг-векторные поля ..., Хр, такие, что векторы ХД&), ..., ХР(Ь) образуют базис пространства 2) (Ь) для каждой точки b^U. В этом случае го- ворят, что поля Х} порождают систему 2) на множестве U. 2.11.2. Определение. Пусть 2)— дифференциальная система ранга р. Подмногообразие i: 1F-* V называется интегралом (или интеграль- ным многообразием) системы 2), если в любой точке a^W имеет место включение it, a (7’e(IF))<=2) (/(а)).
§ 2.11. ТЕОРЕМА ФРОБЕНИУСА 111 Мы будем говорить также, что (/-отображение f; V -> V является интегралом ©, если для всех а е V' La (Га(Г)) С ©(/(«))• Заметим, что подмногообразие интеграла — тоже интеграл. 2.11.3. Определение. Система 2) называется вполне интегрируемой, если для любой точки a^V найдется система координат (U, <р), ае1/, <р(х) = (хь ..., хп), такая, что для всех с;-, p<j^.n, много- образия Uc = {x^U: Xj = Cj, p<j^n) являются интегралами ©. Пусть 2) — вполне интегрируемая система и аеУ. Выберем си- стему координат (U, <р), a^U, для которой выполняется условие определения 2.11.3. Тогда мы имеем 2.11.4. Предложение. Если I: W -> U — интеграл и многообразие W связно, то i(W)<^Uc для некоторого c = (cp+i, ..., сп). •4 Пусть <р(х) = (хь ..хп). Ясно, что пространство Tb(Uc) для любой точки b^U, b = (bl, ..., bp, ср+1, ..., с„), имеет раз- мерность р и принадлежит ©(6); поэтому Ть (Uс) = 5) (6). Далее, Tb(Uc) состоит из тех векторов в Tb(V), которые аннулируются ковекторами (dxj)b, p<j^.n. Следовательно, если г: IT —> V — интеграл 2), то i’(dx/) = 0, p<j^.n. Так как W связно, то отсюда следует, что функции Xj°i постоянны на W, чем и доказывается наше утверждение. ► В частности, интегральные подмногообразия {(7J при достаточно малых с не зависят от выбора системы координат (U, ср), в кото- рой ф(а) = 0. 2.11.5. Определение. Пусть © — произвольная Сг-дифференциаль- ная система. Мы скажем, что © инволютивна, если для любой точки a^V существуют окрестность U и (/-векторные поля Х{, ..., Хр, порождающие © на U, таковы, что для всех точек b^U Xv](6)e©(6), 1<щ v<p. 2.11.6. Замечание. Это эквивалентно следующему условию: для любого открытого множества UaV и любых двух (/-векторных полей X, Y на U, таких, что X (a), Y (а) е= © (а), когда a^U, мы имеем [X, У] (a) е= © (a), aeU. 2.11.7. Предложение. Если Ч£) — инволютивная Сг-дифференциаль- ная система ранга р, то у любой точки а е V существуют окрест-
112 ГЛ. 2 МНОГООБРАЗИЯ ность U и в этой окрестности векторные поля Xv, 1 v р, та- кие, что Xv(b) порождают 2) (6) для всех b^U и [Xv, Хц] = 0на U. •< Пусть a^V и (U, ф) — система координат, аеС/, ф(х) = = (хь хп). Если U мала, то найдутся Сг-векторные поля Уь ..., Ур, такие, что Уг (х) порождают 2)(х) и [yv, Уц] (х) е е=®(х) для всех x^U. Пусть п . Л,W = S )х ’ е с' № ц = 1 “ Так как {yv (а)} порождают векторное пространство размерности р, то матрица (щ,ц(а)), 1 v С Р, имеет ранг р. Не те- ряя общности, мы можем предположить, что ранг р имеет ма- трица А (а), где А (х) = (aV|1 (х)), 1 О=Ср, l^p^p. Отсюда следует, что если U достаточно мала, то матрица Л(х) обратима для всех x^U. Пусть В (х) = (Z>V(X (х)) = А (х)-1; тогда b..^C (U), 1 <v, р^р. Пусть р = 2 (1 = 1 Тогда поле Xv имеет вид = Зх? S Cvn 3x7’ и>р кроме того, (XJ — базис © в U. Так как система 2) инволютивна, то р [Xv, XJ = 2 ^т^СГ (U). m=*l Так как , —1 = 0 L dxv Зхц J ’ то сразу видно, что в разложении п [^V. = S U -д^ т=1 £т = 0, когда Очевидно, = при т^.р и поэтому все Кт — нули. Таким образом [Xv, XJ = 0. ► 2.11.8. Теорема. Пусть Xj..Хр — векторные поля на V класса С', г^2, линейно независимые в каждой точке V и такие, что [Xv, XJ = — 0. Тогда для любой точки a^V найдется система координат
§ 2.11. ТЕОРЕМА ФРОБЕНИУСА ИЗ (U, ф) класса Cr,aeU, такая, что если ф(х) = (хь хп) и д/дхь д/дхп — соответствующие векторные поля на U, то Ху = = dldxv, v = 1, ..., р. •4 Пусть (U', <р') — система координат в точке а, такая, что векторы линейно независимы; здесь <р' (х) = (x'v х£) и д/дх'— соответ- ствующие векторные поля на U'. (Ясно, что такая система суще- ствует; максимум, что надо сделать для ее получения — это под- вергнуть R" линейному преобразованию.) Будем считать, что <р' (а) = 0. Пусть g(v): / х и' у — локальные однопарамстрические группы (Х-преобразований, индуцирующие Xv на U' (здесь / = | <е}); эти группы оп- ределены однозначно, если U' достаточно мала (предложение 2.10.2 и замечание 2.10.3). Пусть ..., t , х'р+1, ..., х'п — действительные числа, по мо- дулю меньшие S, гдеб>0. Определим отображение h: Q = {xsRn: |x|<d) равенством Л(^р tp, <+Р •••> <) = = g(l’o ... О£<Р)оф'-1(0, ..., 0, x'p + l, ..., x'). Это определение корректно, если д достаточно мало. По опре- делению, для f^Ca,k мы имеем ^-(fo/l)(0) = X1(a)(f) (ибо £(1> индуцирует XJ. Так как по условию [Xv, XJ = 0, то, согласно предложению 2.10.10, отображения «коммутируют» и поэтому -^-(foft)(0) = Xv(a)(f), v = 1, ..., р, т. е. /г„ а (= Xv (а). Более того, в очевидных обозначениях , / ( д \\ / д \ Л,.о Нт = Н > когДа Р<1^П, \\дх1 0 \дх//д
114 ГЛ. 2. МНОГООБРАЗИЯ Это показывает, в частности, что отображение h„0 имеет рангп. Значит, по теореме об обратной функции 2,2.10, отображение h является (/-изоморфизмом Q на открытое множество U<rV, если 6 достаточно мало. Снова по определению, и, ввиду коммутирования g<v\ мы получаем, что h*’u (( = Система координат (U, hr1) класса Сг обладает требуемыми свойствами. ► 2.11.9. Теорема Фробениуса (первая форма). Дифференциальная система 2) класса Ст на V, где г ^2, вполне интегрируема тогда и только тогда, когда она инволютивна. •4 Инволютивная система вполне интегрируема по предложе- нию 2.11.7 и теореме 2.11.8. Обратно, если система 2) вполне интегрируема и (U, <р) — система координат класса Сг, такая, что <р(х) = (хь ..., хп), а множества Uc = {x^U: x! = cl,p<j^n} — интегралы системы 2), то векторы (d/dxv)a, l^v^p, a<rUc, порождают касательное пространство Ta(Uc\ а следовательно, и 2) (а) для всех аеС/; отсюда, очевидно, следует, что 2) инво- лютивна (только здесь система 2) имеет базис класса Сг~1). ► 2.11.10. Замечание. Мы существенно использовали тот факт, что рассматриваемые векторные поля принадлежали Сг, где ri>2 (в доказательстве предложения 2.10.9). Однако инволютивные С*-системы тоже (/-вполне интегрируемы. Это можно доказать, используя методы, аналогичные изложенным выше. При этом по- надобятся теоремы из § 1.8 и тот факт, что для системы уравне- ний dxjdt = f (х, t) решение x имеет на единицу больше производных по t, чем по всем остальным переменным. Рассмотрим теперь другой способ определения дифференци- альных систем. Пусть ир+1, ..., — линейно независимые в каж- дой точке 1-формы на V. Определим дифференциальную систему 2), полагая 2)(а) = {ХеТа(Р): ©v (а) (X) = 0, p<v<n}. Если все <вг — дифференцируемые класса Сг, то 2) — тоже класса Сг. В самом деле, мы можем предполагать, что в подходящих ко- ординатах формы cov имеют вид (0 = dxv + 2 a^dXfi, V>p, a..^Cr(U).
§ 2.11. ТЕОРЁМА ФРОБЕНИУСА 115 Тогда 2) —дифференциальная система, натянутая на векторные поля X =-^----- р <Эх„ АЛ 3xv r v>p так как, очевидно, <ov(Xц) = 0 и линейно независимы. Более того, локально всякая дифференциальная система получается та- ким способом. 2.11.11. Теорема Фробениуса (вторая форма). Пусть сор+1, •••> линейно независимые в каждой точке {-формы класса Сг и 5) — определяемая ими дифференциальная система. Тогда 2) вполне интегрируема в том и только в том случае, когда выполняется сле- дующее условие: У каждой точки aeV существует окрестность U и в ней {-формы a]lv, такие, что п, (2.Н.12) dov= 2 ®цЛарл>’’ ц=р+1 т. е. day принадлежат идеалу, порожденному формами соц. •4 Заметим, что условие (2.11.12) инвариантно относительно замены базиса. Другими, словами, если (со'}—другое множество из п — р 1-форм, порождающее ту же систему 2), то найдутся (/-функции а^, такие, что (0-v = /Ty.vGJv. И Отсюда следует, что если (2.11.12) имеет место, то do' принад- лежат идеалу, порожденному о'. Если система 2) вполне интегрируема и (U, <р) — система ко- ординат, указанная в определении 2.11.3, то касательное прост- ранство Ta(Uc), ae.Uc, является пространством, ортогональным к (dxp+l)a, ..., (dxn)a. Следовательно, 2)|U определяется 1-фор- мами dxp+i, ..., dxn. Эти формы замкнуты, и поэтому условие (2.11.12) для них выполняется тривиально. Обратно, предположим, что имеет место (2.11.12). Пусть Х1; ..., Хр — векторные поля в окрестности а, порождающие 2). Тогда по предложению 2.6.6 мы имеем (<М (Хи, Хи) = ХЛ (Хц) - Хцо, (Хх) - ЦХИ, XJ). Далее, по условию, «Ч (2(ц) = av (Хх) = 0, а ввиду (2.11.12) (da)v)(Xx, Xg) = 0.
па ГЛ. 2. МНОГООБРАЗИЯ Отсюда мы получаем, что cov ([Хи, XJ) = О, v = р + 1, ..., п, и поэтому [Л*, для всех b^U. Следовательно, система 2) инволютивна и, значит, по теореме 2.11.9, вполне интегрируема. ► Следующая теорема утверждает существование максимальных интегралов у вполне интегрируемых дифференциальных систем. 2.11.13. Теорема. Пусть ЧЬ —вполне интегрируемая ^-дифферен- циальная система ранга р на V. Тогда для любой точки a^V найдется связное интегральное Сг-подмногообразие (И7, i)aV раз- мерности р, такое, что a^i(W) и для любого связного интеграль- ного С-подмногообразия j: W'-+V, такого, что a^j(W'), суще- ствует Сг-отображение тр W' -> W, превращающее W' в ^-под- многообразие W, для которого j = i° т]. Пусть / — замкнутый единичный интервал в R. Набор (/-отображений yv: I -> V, 0^v^2V, таких, что уо(О) = а, yN (1) = х, Yv+i (0) = Yv (1), 0=^v<Af, называется интегральной цепочкой, со- единяющей а с х, если каждое yv является интегралом системы 5) (определение 2.11.2). Пусть W — множество точек x^V, для ко- торых существует интегральная цепочка, соединяющая а с х. Пусть xoelF и (U, <р) — система координат, такая, что хое(7 и множества Uc = [x<^U; Xj = Cj, p<j^.n}, где xit ..., xn = <p (x) являются интегралами 2); мы будем еще пред- полагать, что <р(С/) — куб, так что Uc связно, и что ф(хо) = О. Тогда, очевидно, Uoc.W. Снабдим IF топологией, потребовав, чтобы полученные так множества (70 образовывали фундаменталь- ную систему окрестностей точки х0 в W. Очевидно, что W — хаус- дорфово пространство и что вложение r. W -> V непрерывно. Если опять U, <р, Uq — те же, что и выше, а лг — проекция R” на R₽, л, (xj.... х„) = (х1, ..., хр), то отображение <р0 = iq ° <р| Uo является гомеоморфизмом UQ на открытое множество в Rp. Пары (Uo, фо) определяют на IF структуру (/-многообразия, а вложение i: IF->F превращает IF в подмногообразие V. Очевидно, что i: IF -» V — интегральное подмногообразие 2). Пусть теперь j: IF' ->V — произвольное связное интегральное (/-подмногообразие и точка a'elF' такова, что j(a') = a. Пусть w'^W' и y'Q, ..., у^ —цепочка (/-отображений у': /->IF', та- ких, что Yq(0) = а\ у^(1) = ш/, yv+1 (0) = у'(1), 0<КЛ''. Пусть yv = /°y^. Тогда yv образуют интегральную цепочку, соединяю- щую а с j(tt>'), и поэтому /(tw')elF. Положим т](ауЛ) = i~''j (w'). Этим определяется отображение ip IF' -> IF. Очевидно, i = /. Из
§ 2.11. Теорема фробениуса 117 предложения 2.11.4 сразу следует, что отображение г) непрерывно. Значит, по предложению 2.5.12, т] принадлежит классу Сг. Так как для w'^W' мы имеем и отображение Д , инъективно, то rp w, тоже инъективно, и, значит, отображение ц превращает W' в Сг-подмногообразие IF. ► А сейчас мы рассмотрим третью форму теоремы Фробениуса, в которой она выступает как прямое обобщение теоремы суще- ствования для обыкновенных дифференциальных уравнений (§ 1.8). 2.11.14. Теорема Фробениуса (третья форма). Пусть Q —открытое множество в R", Q' —открытое множество в R"1. Точки R" мы будем обозначать х = (х1г ..., хп), а точки — символом t = = (fb ..., Zm). Пусть fv: Q X Q'->R" — отображения класса Ck, k^2, v = l, ..., m. Тогда чтобы для каждых t0 е Q' и х0 е Q существовали окрестность U^>t0 и единственное Ck отображение х: U—>Q, такое, что (2.11.15) х(/0) = х0, = /), t<=U, v = l, ..., m, необходимо и достаточно, чтобы (2.11.16) dfv df,, t) + (difv)(x, 1)^(х, t) = -g^(x,t) + (dlfv)(x,t)fv(x, t), при (x, f) e Q X Q', 1 ц, v tn. [Здесь (djv) {a, b) — линейное отображение R" в себя, определяемое равенством (djv)(a, b) = = (dg)(a), где g: Q-> Rra — отображение x^fv(x, b); см. опреде- ление 1.3.4.] ◄ Единственность решения, если оно существует, следует из соответствующего утверждения о единственности для обыкно- венных дифференциальных уравнений (теорема 1.8.4). Если (2.11.15) всегда имеет решение, то имеет место и (2.11.16), так как тогда обе части этих уравнений в точке (х0, /0) равны д2х (t) I dt^dtv |£—10 Для доказательства обратного утверждения мы поступим следую- щим образом. Систему (2.11.15) можно записать в виде (2.11.17) = x = (rb ..., хп), .....U, н = 1.....п, v = 1, ..., т.
118 ГЛ. 2. МНОГООБРАЗИЯ Рассмотрим дифференциальные формы (2.11.18) dxK — 'Zt fw(x, % = 1...............n, v=l на Qx Q' и обозначим через 2) дифференциальную систему ранга т, определяемую этими формами. Очевидно, что если 2) имеет интегральное многообразие вида х - | (Г) = 0, g (/0) = х0, где | есть ^-отображение окрестности /0 в х = £ является ре- шением системы (2.11.15). Если 3) вполне интегрируема, то в ЙХЙ' найдется Сг под- многообразие размерности т в окрестности (х0, /0), скажем W, которое является интегралом системы 2). Затем мы можем найти (/-функции в окрестности (х0, /0), такие, что вблизи (^о> ^о) 1Г = {(х, t); «j (х, /)= ... = ип(х, /) = 0}, причем dii^ixo, t0), ц = 1..п, линейно независимы. Тогда формы du^ixo, to), р. = 1, . • п, порождают, очевидно, то же пространство Г* что и Ф°РМЫ (2.11.18). Отсюда следует, что ко- векторы (d^)^, /0)> Р=1, •••> п, линейно независимы. После этого из теоремы 1.3.5 о неявной функции и из следствия 1.3.9 получается, что в окрестности (х0, /0) многообразие W опреде- ляется уравнениями вида х — £ (/) = 0; как уже отмечалось, отсюда следует разрешимость системы уравнений (2.11.15), если система 3) вполне интегрируема. Далее, мы знаем, что 2) порождается векторными полями п, = + v = l, ...,т (см. рассуждения перед теоремой 2.11.11). Поэтому, как и в до- казательстве предложения 2.11.7, система 2) вполне интегрируема в том и только в том случае, когда [Xv> = 0, V, р = 1, ..., т. Но это и есть в точности условия (2.11.16). ► 2.11.19. Замечание. Теорема справедлива также и в случае, когда fv являются С’-отображениями. Это можно доказать, используя замечание 2.11.10. Если в изложенной выше теореме мы возьмем п=1, а в ка- честве —функции, не зависящие от х, то получим следующее утверждение:
§ 2.12. ПОЧТИ КОМПЛЕКСНЫЕ МНОГООБРАЗИЯ 119 Для существования Ск-функции x(t{......tm) в окрестности t = t0, удовлетворяющей системе уравнений v = l,...,m, необходимо и достаточно, чтобы dfjdt^ = df^dt^. Это можно также сформулировать следующим образом: пусть m ® = 2 fv (0 dtv-, V=1 тогда условие da ~ 0 является необходимым и достаточным для существования в окрестности каждой точки Q' функции f, такой, что df = «. Это частный случай леммы Пуанкаре, которая будет доказана в § 2.13. Другую трактовку теоремы Фробениуса в форме теоремы 2.11.9 можно найти у Шевалле [1]. 2.11.20. Замечание. Все результаты этого параграфа имеют ана- логи для голоморфных векторных полей и т. п. на комплексных многообразиях. Так, голоморфные дифференциальные системы 2) определяются условием локальной порождаемости голоморфными векторными полями. Вполне интегрируемые системы определяются, как и в 2.11.3, с помощью комплексных координат. Теоремы 2.11.8, 9, 11, 13, 14 все имеют аналоги для голоморфных систем. Естественно, в (2.11.12) требуется, чтобы ацч, были голоморфными 1-формами. $ 2.12. Почти комплексные многообразия Мы уже видели (замечание 2.4.6), что касательное пространство Ta(V) комплексного многообразия V в точке ае V обладает есте- ственной структурой комплексного векторного пространства. Иногда полезно рассматривать только эту структуру Ta(V) вместо комплексной структуры самого V. Это приводит к более общему классу многообразий. Пусть дано С“-многообразие V четной размерности п — 2т. Предположим, что для каждой точки а е V на Ta{V) задана структура С-векторного пространства (размерности щ). Мы будем говорить, что эта структура зависит от а дифференцируемым образом, если выполняется следующее условие: у любой точки а е V имеется окрестность U и в ней т комплекснозначных С°°-дифференциальных 1-форм (замечание 2.1.12) ьу,, ..., со^, та- ких, что отображение T,(V)->Cm, x^U,
120 ГЛ. 2. МНОГООБРАЗИЯ задаваемое условием Xh->(ffll(x)(X), .... ffl/n(x)(A)), является С-изоморфизмом (относительно заданной комплексной структуры на Тх (V)). 2.12.1. Определение. Почти комплексной структурой на V назы- вается комплексная структура на каждом Ta(V), дифференци- руемым образом зависящая от а. Формы со,, ..., сот, существование которых требуется, назы- ваются структурными формами. Вообще говоря, эти формы не замкнуты. Обозначим через Ja, а е V, линейное над полем R отображе- ние пространства Та (7) в себя, задаваемое условием X н-> ]/ — 1 X (умножение относительно заданной на Ta(V) структуры С-век- торного пространства); для векторного поля X определим вектор- ное поле JX, полагая (JX)(d) = JaX (а). Почти комплексное многообразие мы будем обозначать также символом (V, 7), так как отображение Ja пространства Ta(V) однозначно определяет на нем структуру С-векторного простран- ства. Очевидно, что — J2a совпадает на Т (V) с тождественным отображением. Теперь можно применить замечания 2.4.10 к пространству £ = ^(7). У нас есть пространства Г = Ношр(£, С), ^* , ... . В частности, 0 = [<i) е a (JX) = /о (X) для всех X е Та.(У)}. Если (св], ..., шт) — множество структурных форм, то а>1(а),... . .., мт(а) принадлежат <S\>0 и образуют С-базис этого простран- ства. Следовательно, базис в S*p q задается ковекторами <»/, (а) А ... А ®/р(а) А й^ (а) А ... А й^(а), 1 <£ < ••• <ip<;tn, l<6i < ... <kq^m, и поэтому мы можем, как и в случае комплексных многообразий, говорить о дифференциальных формах типа (р, q) (определе- ние 2.4.11). Если на комплексном многообразии форма о имеет тип (р, q), то da является суммой двух форм типа (p+l,q), (p,q+l) соответственно. Однако для почти комплексных много- образий в общем случае это неверно. Если (<о1( ..., om) — множе- ство структурных форм, то дифференциалы dav являются 2-фор- мами и, значит, (2,12.2) d&y = t]v + т)' + п"»
§ 2.12. ПОЧТИ КОМПЛЕКСНЫЕ МНОГООБРАЗИЯ 121 где riv имеет тип (2, 0), т]' — тип (1,1) и ц" — тип (0, 2). Мы сразу получаем 2.12.3. Следствие. Если со — форма типа (р, q), то da является суммой четырех форм типов соответственно (р — 1, q + 2), (р, q + 1), (р + 1, q), (р + 2, q — 1). Кроме того, компоненты типа (р — 1, q + 2) и (р + 2, q — 1) равны нулю в том и только в том случае, когда все формы ц" типа (0, 2) в разложении (2.12.2) равны нулю. 2.12.4. Определение. Почти комплексная структура на многообра- зии V называется интегрируемой, если для любого множества (со,, ..., сот) структурных форм их дифференциалы cZcov не содер- жат компонент типа (0, 2). Пусть теперь ц — некоторая 2-форма и X, Y — векторные поля. Пусть Sn(X, У) = ад У) + /г](7Х, У)-МпП. JX)-^(JX, JY), Легко проверяется следующее утверждение: 2.12.5. Следствие. Если ц — форма типа (2, 0) или (1, 1), то Sn (X, У) = 0 для всех X, У, тогда как для формы ц типа (0, 2) мы имеем S^X, У) = 2ц(Х, У). Используя формулу из предложения 2.6.6 для 1-формы со: (da) (X, У) = Хсо (У) - Усо (X) - со ([X, У]), и тот факт, что av(JX) = iav(X) для любой структурной формы cov, мы легко получаем такой ре- зультат: 2.12.6. Следствие. Почти комплексная структура на V интегри- руема в том и только в том случае, когда для любых двух век- торных полей X, Y на V выполняется равенство И, у] + j[jx, у] + ад, /У] -ад /У] = о. 2.12.7. Замечание. Мы уже видели, что любой комплексно-ана- литической структуре на V соответствует некоторая почти комплекс- ная структура (замечание 2.4.6), которая интегрируема (2.6.10). В этом случае локально существует множество замкнутых струк- турных форм. Пусть J — соответствующее структуре отображение векторных полей. Росток С°°-функций в точке а е V голоморфен в том и только в том случае, когда (df)х е 0(х) для любого х из окрестности а, так как это просто означает, что df = 0 вблизи а.
122 ГЛ. 2. МНОГООБРАЗИЯ Поэтому функция f голоморфна в том и только в том случае, когда (df)x(JxX) = i(df)x(X), Ха=тх(у), т. е. тогда и только тогда, когда (2.12.8) (JxX)(f) = IX (f), X^Tx(V). Пусть теперь V, V' — комплексные многообразия и (V, J), (V', J') — соответствующие почти комплексные структуры. Предположим, что С°°-отображение f: V-+V' удовлетворяет условию = ДЛЯ ВСеХ a^V‘ Тогда отображение f голоморфно. В самом деле, как мы только что показали, если g — росток голоморфной функции в точке f (а), то росток g°f голоморфен в точке а. Но если X е Ta(V), то ввиду голоморфности g (V) (W) = L, а (/Л) (£) = (/; a R & = В частности, мы получаем 2.12.9. Предложение. Комплексная структура однозначно опреде- ляется почти комплексной структурой. Важная теорема Ньюлендера и Ниренберга [1] утверждает, что всякая интегрируемая почти комплексная структура индуци- руется некоторой комплексной структурой. Позднейшие доказа- тельства принадлежат Кону [1] и Хёрмандеру [2]. Мальгранж недавно получил очень простое доказательство этого результата, применимое в гораздо более общих ситуациях. Мы не будем до- казывать этот результат. Мы только покажем, что если данные R-аналитичны, то результат можно вывести из теоремы Фробе- ниуса 2.11.11 для голоморфных форм (см. замечание 2.11.20). 2.12.10. Теорема. Пусть дано ^-аналитическое многообразие V раз- мерности п = 2m. Предположим, что V обладает интегрируемой почти комплексной структурой, которая в окрестности каждой точки имеет множество (со1( ..., сот) ^-аналитических структурных форм. Тогда на V существует структура комплексного многообра- зия, согласованная как с ^.-аналитической, так и с почти ком- плексной структурами многообразия V. ◄ Так как теорема локальная, мы можем считать, что И — открытая окрестность точки 0 в Rn, n = 2m. Напишем п ®v= 3 ауц(м.......Xnjdx^, Ц=1
§ 2.12. ПОЧТИ КОМПЛЕКСНЫЕ МНОГООБРАЗИЯ 123 где aVii — комплекснозначные R-аналитические функция на V. По лемме 1.1.5. существует открытое множество U в Cn zd R" и голоморфные в U функции, которые мы снова обозначим aV|X, продолжающие из V. Более того, если мы предположим, что U — поликруг (это возможно ввиду локальности рассматриваемого вопроса), то в U существуют однозначно определенные голоморф- ные функции такие, что bVfl (х) = aV|i (х), х е= V = U П Rn, в самом деле, надо взять (^) (^)* Положим Ъ= 2 ..., z^dz^, v = l......т, |*=1 и продолжим cov в U по формуле <0v= 2 «Vg(2i> • • •, zn}dz^, v==l, ..., tn. H=1 По условию, (©!, ..., com) — множество структурных форм для почти комплексной структуры на V. Поэтому векторы «1 (0), .... СОт(0), ®1(0)=щ(0), ..., ®m(0)=Tlm(0) образуют базис пространства r = HomR (T'o(V), С). Значит, cov, т]и, С-независимы в 0, и поэтому, если U достаточно мала, они С-независимы и в U. Следовательно, дифференциалы dZp, р, = 1, ..., п, являются в U линейными комбинациями с голоморфными коэф- фициентами форм cov, riz (1 Значит, голоморфные 2-формы da>v можно записать в виде <К = 2 A <os + 2 g^s®r А щ + 2 h^sщ A ns, r<s r, s r <s где все коэффициенты голоморфны. По условию, наша почти комплексная структура интегрируема; следовательно, dcov | V не имеет компонент типа (0, 2), и поэтому | £7 Л R" = 0. Так как h™s голоморфны, то они равны 0 и в U, откуда следует, что dcov принадлежит идеалу, порожденному формами {соц} с коэф- фициентами—голоморфными {-формами. По теореме Фробениуса во второй форме (см. замечание 2.11.20), существуют голоморф- ные функции Fi, ..., Fm, такие, что dF{...... dFm порождают
124 ГЛ. 2. МНОГООБРАЗИЯ в окрестности U' э 0 ту же дифференциальную систему, что и со1; сот, и для всех z е U' дифференциалы dF{, dFm по- рождают то же подпространство Г* (С"), что и (сор сот). Зна- чит, (dFi, ..., dFm) являются структурными формами почти ком- плексной структуры на U' П Rn. Кроме того, если = Fv | R" f| U', то очевидно, что ковекторы (dgv)(O), (dgv)(O) R-независимы и об- разуют базис в HomR(7'0(Rn), С). Значит, отображение g: •—*(^](х), gm(x)) имеет в 0 дифференциал, являющийся изо- морфизмом Rn на Ст, так что по теореме об обратной функции (см. замечание 1.3.11) £ является С°°-диффеоморфизмом некоторой окрестности W начала координат из Rn на открытое множество W' <= Ст. Ясно, что g переводит почти комплексную структуру на W в структуру, индуцированную на W' комплексной структу- рой пространства Ст. После этого теорема следует непосредственно из предложе- ния 2.12.9. ► Сделаем одно заключительное замечание. 2.12.11. Замечание. Всякое почти комплексное многообразие V обладает естественной ориентацией; в частности, всякое комплекс- ное многообразие ориентируемо. ◄ Выберем покрытие {t/Д многообразия V так, чтобы в каж- дой Uj имелась система структурных форм (со^, ..., со^Д, п~2т. Положим Щ Ш(/) д «(/) д ... Л и») Л Ю(/). Это n-форма класса С°° без нулей на U j. Заметим, что если (сор ..., сот), (оф, ..., со ^) —два множества структурных форм на открытом подмножестве V, то существуют комплексные функ- ции а^, 1 < ц, v < т, такие, что т «V = 2, |Л = 1 Пусть D = det (а^). Тогда со Л со Д ... Л со Л со = | D |2 со' Д Л ... Л со' Л со' 1 1 lit lib 4 1 [fl ffl a | D |2> 0. Значит, co(/) = f/7'Co(/,) на U. f| l^,, где >0, Отсюда непосредственно следует наш результат. ►
§ 2.13. ЛЕММЫ ПУАНКАРЕ И ГРОТЕНДИКА 125 $ 2.13. Леммы Пуанкаре и Гротендика Мы определили замкнутые и точные формы (определение 2.6.9) и группы де Рама Нр (У) на С°°-многообразии V. А теперь мы докажем лемму, принадлежащую Пуанкаре, которая оказывается чрезвычайно важной при изучении этих групп. 2.13.1. Лемма Пуанкаре. Пусть D — выпуклое открытое множе- ство в R" и на D определена Ск-форма со (£i>l) степени р^1, которая является замкнутой, т. е. da — O. Тогда существует Ск-форма со' степени р — 1 на D, такая, что d<&' = со. Более того, для каждого целого числа р 1 существует R-линейное отобра- жение А: Ар (D, r)-+Ap~l (D, г), такое, что для любой формы со е Ар (D, г) мы имеем A (dco) + dA (со) = со. Отображение А называется оператором гомотопии. Этот ре- зультат применим к любому многообразию, диффеоморфному D. ◄ Без ограничения общности можно считать, что начало ко- ординат 0 пространства R" принадлежит D. Пусть I = (0, 1)— открытый единичный интервал в R и h: D X/—> D — отображение (х, /) —> tx. Пусть J пробегает все наборы из р целых чисел /1( ..., jp, такие, что 1 ^j!< ... <jp^n, и пусть dxj = с/х^Д ... Д dxjp, если J — (/!, .. ., !Р). Всякую р-форму со на D класса Ск един- ственным образом можно записать в виде ® = 2 aj (х) dxj, а} <= Ck (D). j Далее, /г’(co) = cot + dt Д co0, где cob co0 — формы степени p, p — 1 соответственно, и ни та ни другая не содержат dt, т. е. пред- ставляются в виде coi = 2 bj (х, t) dxj, J = ..., jp), 1<Л< ... <jp^n, C00 = 2 CK (x, t) dxK, к = (fe].kp-i), 1 < ki < ... < kp_i < n. к Определим (p—1)-форму A (co) класса Ck на D по формуле 1 / 1 \ A (co) = J co0 dt = I J cK (x, t) dt j dxK. о К \o / Отображение А, очевидно, R-линейно. Рассмотрим теперь A(cZco). Мы имеем /г* f/Zco) = dli (со) = dco, — dt /\ da>a = d'®! + dt /\ —d'coo),
126 ГЛ. 2. МНОГООБРАЗИЯ где для р-формы х на D X /, не содержащей dt, мы обозначаем через d'% форму степени р +1 на D, не содержащую dt и такую, что . дуг да,(х, О VT d% = d% + dt -^- = 2j---at--dxJ> % = ZiaAx, t)dxj. Отсюда i i A (da) = J dt — J (cf co0) dt. о о Непосредственно видно (по определению h), что i Г <?®i л —^r-dt = со. J dt О Это дает нам формулу (2.13.2) со = dA (со) + A (da). ► В частности, если со замкнута, то A(da) = 0 и co = dco', где со' = Л (со). Как показал впервые Гротендик (не опубликовано), соответ- ствующий результат имеет место и для оператора д. Однако здесь надо рассматривать другой класс областей. Мы начнем со следующей леммы. 2.13.3. Лемма. Пусть К, L, L'— компакты в С, С", Rm соответ- ственно. Точки множества S = К Х L X L' будем обозначать (z, w, t). Пусть g — функция класса С°° в окрестности S, голоморфная по w при фиксированных z, t. Тогда существует С°°-функция f в окрест- ности S, голоморфная по w при фиксированных z, t и такая, что df/dz = g в окрестности S. ◄ Мы можем считать, что g при фиксированных w, t имеет компактный носитель в С; для этого достаточно умножить g на С°°-функцию с компактным носителем в подходящей окрест- ности К, равную 1 в меньшей окрестности К. Пусть £ —произвольная точка в С, £ = £ + гт), где £, т] —дей- ствительные числа. Положим f (г, w, t) = ~ J -g ° dt, Adx\ . С Так как функция 1/£ интегрируема в окрестности 0 в С, то это равно - [ r’g W, t) dl Д dt], c
§ 2.13. ЛЕММЫ ПУАНКАРЕ Й ГРОТЕНДИКА 127 и поэтому f является функцией класса С°°, голоморфной по w при фиксированных z, t. Более того, #(z, w, /)=-^ + W, /МАЛ] = С = / #(2 + g, = |?1>г = limisT / d(g(£ + z, w, e->0 i:i>e а это по теореме Стокса 2.9.9 равно Iim 2^7 j" g(£ + z, w, t)Z~'dt^g{z). E->0 R 1=8 Утверждение доказано. ► Мы будем пользоваться следующими обозначениями. Любую С°° форму со типа (р, q) в открытом множестве Q <= С" можно един- ственным образом записать в виде <о=2 aJK dzj Л dzK, cijk s C (Q), j, к J=(h, • /р)> ..., kq}, i ... <jp^n, 1 < ... < kq Мы назовем aJK коэффициентами формы co. Положим и аналогично определим d^ldzv. Тогда мы имеем п dco = S dzvA^. V=*l 2.13.4. Лемма Гротендика. Пусть К\, .... Кп — компакты в С, S = /(] х ... X Кп <= С" ц_е окрестности S дана С°° форма со типа (р, q), q~^l, такая, что дсо_=0. Тогда существует форма со' типа (р, q — 1) в С”, такая, что да' = а> в окрестности S. ◄ Если v — целое число, v^l, то обозначим через Л?-?= Л?,<7(5) пространство С°°-форм со типа (р, q), определенных в окрестности U = U (со) компакта S и не содержащих dzv, ..., dzn, т. е. имею- щих ВИД со — 2 aJK dzj Л dzK, ajK C (V)t
128 ГЛ. 2. МНОГООПРАЗИЯ где 7 = (/ь /р), A = .... kq) и 1<л< ... < /р<п, ... <fc9^v—1. (Если v>п, то это пространство всех форм типа (р, q).) Очевидно, если со <= Ар’ q, a q^l, то со = 0, так что утверждение леммы 2.13.4 в этом случае тривиально. Предположим по индукции, что этот результат доказан для всех форм из Ар’q, где и возьмем шеЛн’. Мы можем написать со = dzy А со! + со2, где сог е Ay q, с^еЛ?’’"1. Если дсо = О, то мы имеем — dZy A cJcoj + дсо2 = 0. Так как со, и со2 не содержат dZy, ..., dzn, то отсюда следует, что >-=0, 4^ = 0 dz; ’ dzj рля j v + 1 и, таким образом, коэффициенты форм соь со2 голо- морфны по zv+1, ..., zn. По лемме 2.13.3 в окрестности S суще- ствует форма %' типа (р, q — 1), все коэффициенты которой голо- морфны по Zy+i, ..., гп, такая, что dy'IdZy = (£>,. Умножая х' на подходящую С°°-функцию с компактным носителем, равную 1 в окрестности S, мы видим, что существует С°°-форма х в Сга, все коэффициенты которой голоморфны по zv+1, ..., zn в окрест- ности S и для которой djjdZy = «ц в некоторой окрестности S. Отсюда следует, что со - д% е Ay q. По предположению индукции, существует (р, q — 1)-форма ф в Сп, такая, что со — дх = <?Ф в окрестности S. Это доказывает наш ре- зультат. ► 2.13.5. Теорема. Пусть Dx, ..., Dn —открытые множества в С, D = X ... X Dn и на D дана С°°-форма со типа (р, q), такая, что q~^\ и дсо = О. Тогда существует С°°-форма со' типа (р, q— 1) на D, такая, что да' = со. ◄ Пусть {Ку,т}, m = 0, 1, 2, ..., v = l, ..., щ — последователь- ность компактных подмножеств Dv, таких, что Kv, m *— Kv, m+Ь (J Ку, m ~ Dy, гп^О и пусть Sm = K\,mX ... X Kn,m- Рассмотрим два случая. Случай I. 9^2. По лемме 2.13.4 для любого суще- ствует форма сот типа (р, q — 1) в С", такая, что дат — а в окре- стности Sm. Тогда com+| — сот есть форма типа (р, q — 1), q — 1 1,
§ 2.13. ЛЁММЫ ПУАНКАРЕ И ГРОТЕНДИКА 129 причем d(com+1 — сот) = 0 в окрестности Sm. Опять применяя лемму 2.13.4, мы найдем форму %т типа (Р> Я — 2) в Сп, такую, что dXm = ®m+i-®m на sm- Определим С°°-форму со' типа (p,q-\) на D, полагая [ со0 на So, со' = ( _ — 1 ... -дХо на Sm, т>0; заметим, что (®m+i - &х,т - • • • - Зхо) - (com - dxm-i - ... - 5хо) =_ = ®m+i - сот - д%т = 0 на Sm> и, значит, это определение корректно. Очевидно, дсо' = со на D. Случай II. <7 = 1. Предположим теперь, что последовательность {/<v, т} обладает тем свойством, что всякую функцию, голоморф- ную в окрестности можно аппроксимировать равномерно на Kv,m функциями, голоморфными в Dv. Такая последователь- ность компактов {Kv, т} существует в любом открытом подмно- жестве С — это известная классическая теорема Рунге (это следует также из результатов § 3.10). Тогда из теоремы 1.7.7 вытекает, что всякую функцию, голоморфную в окрестности Sm = Kltm X ... ... х Кп,т> можно аппроксимировать равномерно на Sm функ- циями, голоморфными в D. Если форма хвО имеет разложение 2 ctJK dzj Д dzK и S — подмножество D, то мы будем писать IIX lls = 2 sup |a7K(z)|. J.Kz^S Пусть на D задана (р, 1)-форма со, такая, что дсо = 0. По лемме 2.13.4 существует форма со„ типа (р, 0) в Сп, такая, что д<йт = ® в окрестности Sm. Тогда д (com+I — com) = 0, и поэтому все коэф- фициенты формы com+1 — сот голоморфны в окрестности Sm (см. за- мечание 2.6.15). Согласно сделанному выше замечанию о воз- можности аппроксимации, существует голоморфная (р, 0)-форма на D, скажем %т, такая, что II ®m+l - - Xm lls <2~т, т = 0, 1, 2. т Положим 00 Со' = С00 + 2 — 7т). т=>0 Тогда со' — форма типа (р, 0) на D, а на Sm+I мы имеем = <от+1 - Хо - ••• -Хт~ 3 (®й+1 -Иц-Хц)- ц. > т Последний ряд представляет форму типа (р, 0), все коэффициенты которой голоморфны в окрестности Sm, и поэтому ввиду голо- 5 Зак. 751
130 ГЛ. 2. МНОГООБРАЗИЯ морфности Хо> Хт мы получаем, что да/= да>тИ = а> на Sm. Так как это верно для любого т, то теорема доказана. ► В приведенном здесь доказательстве леммы Гротендика мы следовали изложению Серра [1] первоначального доказательства Гротендика. Отметим, что аналогичную индукцию можно исполь- зовать при доказательстве леммы Пуанкаре для кубов. Это было сделано Картаном [1]. $ 2.14. Применения: теорема Хартогса о продолжении и теорема Ока — Вейля В этом параграфе мы покажем, как можно применять леммы Пуанкаре и Гротендика в комплексном анализе. 2.14.1. Предложение. Пусть й — выпуклое открытое множество в Сп и ф — действительная функция класса С2 в й. Для суще- ствования голоморфной функции f в й, такой, что Ref = ср, необ- ходимо и достаточно, чтобы д2ф/дг¥ дги = 0 в й для всех р. и у, 1 М-, V п. ◄ Если ф = Re f = (f + f)/2, то _^L = o = 0 dz^ ’ dzv dzv ’ и поэтому d2(p/dzvдги = 0. Обратно, предположим, что последние уравнения удовлетворяются; это просто означает, что д дф = 0. Далее, d дф = (д + д) дф = д дф — 0 (так как д2 = 0) и, значит, по лемме Пуанкаре 2.13.1 существует комплекснозначная С'-функция g, такая, что dg = дф. Далее, дф есть форма типа (1, 0); поэтому dg = dtp и dg = 0, так что функ- ция g голоморфна. Затем, d (g + g) = дф + дф = дф (так как ф действительная), и поэтому g + g — ф есть константа. Предложение доказано. ► Из него получается 2.14.2. Следствие. Пусть ф — действительная С2-функция на ком- плексном многообразии V. Тогда ф локально является действи- тельной частью голоморфной функции в том и только в том слу- чае, когда д дф = 0. 2.14.3. Лемма. Пусть P = {(zl, ..., 2„)eCn: |zv|<Rv, v = l, п}
§ 2.14. ПРИМЕНЕНИЯ 131 есть поликруг в Сп, п^2. Пусть U — окрестность дР и функция f голоморфна в U. Тогда существуют голоморфная в Р функция F и окрестность V =>дР, такие, что = 4 Пусть е>0 и Ui = ((zlt zn): Rl-e<\zl\<Rl, | zv | < Rv, v>2), ^2 = {(zi...zn): IzjK/?!, R2-h<\z2\<R2, |zv|<7?v, v>3}. Тогда, если e достаточно мало, мы имеем U U2 cz U. Для всякой функции f, голоморфной в Uсуществуют голоморфные функции ар (z') = ар (z2, ..., zn) в поликруге {(z2, z^eC"-1: |zv|</?v, v = 2.....n}, такие, что f(z)= 2 ap(z')zf, z = (z1, /), причем ряд сходится равномерно на компактных подмноже- ствах t/j. Возьмем произвольную точку z' — (z2, ..., zn), для которой R2 - г < | z21 < R2, I zv | < Rv, v > 3. Если f голоморфна в U, то f(zit z') голоморфна при IziKPp Значит, в разложении Лорана для f(zb z') отсутствуют члены с отрицательными степенями zb Отсюда следует, что ap(z') = O при р<0, если z' удовлетворяет указанному выше условию. По теореме единственности имеем ар (z') == 0 при р < 0. Следовательно, оо f (z) = 2 «„ (*') Zf на иI и UT р=0 Этот ряд сходится равномерно на компактных подмножествах Р по лемме Абеля. Если оо F(z)= 2 a (z')zp р=0 р на Р, то F = f в связной компоненте U(]P, содержащей Ясно, что эта компонента имеет вид V П Р, где V — некоторая окрестность дР. ► 2.14.4. Лемма. Пусть в ^У1, п~^2, дана С°°-дифференциальная форма со типа (О, 1) с компактным носителем. Если 5со = 0, то существует С°°-функция <р с компактным носителем, такая, что д<р = со. ◄ Выберем /?>0 так, чтобы supp со с Р = {(zj, ..., г„) = Cn; | zJ <
132 ГЛ. 2. МНОГООБРАЗИЯ По лемме Гротендика 2.13.4, существует С°°-функция ф в С", такая, что дф = со. Так как дф = со = 0 в некоторой окрестности U границы поликруга дР, то ф голоморфна в окрестности дР. По лемме 2.14.3 существует голоморфная в Р функция F, продол- жающая ф | U f| Р (если U выбрано подходящим образом). Пусть 1 ф (z) — F (г), если z е Р, ( 0, если z ф Р. Тогда ф — функция класса С°° с компактным носителем, и дф = со. ► А теперь докажем следующую важную теорему, принадле- жащую Хартогсу. 2.14.5. Теорема. Пусть D — ограниченное открытое множество в Сп, п'^2, со связным дополнением. Пусть U — окрестность dD и функция f голоморфна в U. Тогда существуют окрестность Vz^dD и голоморфная в D функция F, такие, что F|Vf|£) = -fivnn. ◄ Пусть а—функция класса С°° с компактным носителем в U и а = 1 в окрестности dD. Пусть f' = af в U, f' = 0 в D\U. Тогда f' еС” (D). Пусть co = df' в D и со = 0 в Cn\D. Так как f'=f в окрестности dD и f голоморфна, то со = 0 в окрестности dD; в частности, со — форма класса С°° с компактным носителем в Сп (D — ограниченное множество). По лемме 2.14.4 существует С°°- функция ф с компактным носителем в С", такая, что дф = со. Очевидно, ф голоморфна на всяком открытом множестве, где со = 0; в частности, ф голоморфна в окрестности Cn\D. Далее, Ф = 0 вне некоторого компакта КсС". Так как по условию мно- жество Cn\D связно и D ограничено, то существует связная окрестность W множества Cn\D, которая пересекается с Сп\К. По теореме единственности ф = 0 в W. Пусть F = f' — ф в D. Так как ф = 0 в W и, в частности, ф = 0 в окрестности V ndD, в которой a = 1, мы имеем F = f на V П D. Далее, d/7 = df'— дф = со — дф = 0 в D, и поэтому F голоморфна в D. ► 2.14.6. Определение. Пусть й —открытое множество в Сп. Мы будем говорить, что й д-ациклично, если для любой С°°-формы со типа (р, q) на й, для которой р 0, q 1 и дсо = 0, существует С°°-форма со' типа (р, q — 1), такая, что дсо'= со. 2.14.7. Теорема (Ока). Пусть О = {геС: | z | < 1} — единичный круг в С и Q — открытое множество в С", такое, что множество QXD д-ациклично. Тогда если функция f голоморфна в й, то множество Ц = (хей: If(х)1< 1}
§ 2.14. ПРИМЕНЕНИЯ 133 тоже д-ациклично. Кроме того, для любой С°°-формы со типа (р, q) на й?, р 0, q 0, дсо — 0, существует С°°-форма со' типа (р, q) на й X D, такая, что дсо' = О и н* (со') = со, где ш Й^-»ЙХО — отображение х с—> (х, f (х)). 4 Мы начнем с последнего утверждения. Пусть на й дана С°°-форма со типа (р, q), р, q 0, такая, что дсо = 0. Очевидно, отображение и — голоморфное, собственное и инъективное, поэтому касательное отображение и* инъективно в каждой точке. Значит, V = «(Qf) — замкнутое комплексное подмногообразие в й X D. Пусть л: Q X D-> Q — проекция (х, z)i—>х, и пусть (7 = = л-1 (Qf) = Qf X D. Очевидно, U является окрестностью подмно- гообразия V в й X D. _ Пусть {/'—окрестность V в й X D, такая, что t/'-o: {/. Пусть С°°-функция а в й X D такова, что ( 0, если (х, z) ф U', а(х, z) | j, если лежит в некоторой окрестности V. Форма со0 = л* (со) имеет тип (р, q) на U. Более того, и* (со0) — — (л ° и)* (со) = со, так как л ° и — тождественное отображение й;. Определим форму coj на й X D, полагая ( асо0 в U, W1 I 0 вне U. со2 (х, z) = Тогда со! есть С°°-форма типа (р, q) на й X D и «*(<»!) = со. Пусть 0, если (х, z) е V, (z — f (х))-’ (дсо,) (х, г), если (х, z) е й X D — V. Тогда со2 является С°°-формой типа (р, q_ + 1) на й X D и дсо2 = 0 (со2 принадлежит классу С00, так как dcoj=0 в окрестности V). Так как й X D по условию — d-ацикличное множество, то най- дется форма со3 типа (р, q) на й X D, такая, что дсо3 = со2. Пусть со' = со1 - (z - f (х)) со3; тогда со' является С”-формой типа (р, q) на й X D. Кроме того, дсо' = дсо] — (z — f (х)) со2 == Q и и (со') = и* (coj (так как z — f (х) = 0, если (х, z) е V), и поэтому и* (со') = со. Утверждение о д-ацикличности- множества, й? сразу следует ИЗ доказанного выше и из того, что, О X D д-ациклично. ►
134 ГЛ. 2. МНОГООБРАЗИЯ 2.14.8. Следствие. В обозначениях теоремы 2.14.7, если й X D* является д-ацикличным множеством для любого k 0, то таким же является и множество й^ X Dk для всех ◄ Это следует из того, что QfXDk = Qg, где й' = Й X Dk и g (х, z) = f (х). > 2.14.9. Теорема (Ока). Пусть fb ..., fk —голоморфные функции в С" и U={xeCn: |fv(x)|<l, v = 1, .... k}. Пусть ut U —>Cn X Dk — голоморфное отображение х*-+(х, h(x), ..., fk(x)). Тогда для всякой голоморфной в U функции g найдется голо- морфная в Сп X Dk функция G, такая, что G°u — g. 4 Пусть ЙО = СП, Йр={х®Йр_1: IfpWlCl}, 1<р<£. Обозначим через ир-. Й*_р X Dp-+Qk-.p-i X Dp+i отображение (x, z)e->(x, z, fk-p(x)). По теореме 2.13.5 и следствию 2.14.8 множества йг X Ds <Э-аци- кличны для всех s^O, Более того, по теореме 2.14.7, для любой ^-замкнутой (р, реформы со на ЙА_Р X Dp найдется ^-замкнутая (р, <?)-форма со' на Qk-p-i X Dp+l, такая, что ир (©') = со. Далее, у нас ЙА — U и и: U^CnXDk есть отображение и = Uk-i ° ... ° щ°щ. Отсюда следует, что для всякой формы со типа (р, q) на U, для которой дсо = 0, найдется форма со' типа (р, q) на й0 X Dk = С" X Dk, такая, что дсо' = 0 и и' (со') = со; теорема 2.14.9 получается отсюда как частный случай, когда р = q = 0. ► 2.14.10. Аппроксимационная теорема Ока —Вейля. Если функциц fi, ..., fk голоморфны в С", то множество C/=(xeC": IfvWKl, v = l, .... k\
§ 2.14. ПРИМЕНЕНИЯ 135 является областью Рунге (см. определение 1.7.1), т. е. всякую го- ломорфную на U функцию можно аппроксимировать многочленами от Z[, ..., zn равномерно на компактных подмножествах U. 4 Пусть и: У->С" X = й есть отображение х (х, (х), ... • ••> Если функция g голоморфна в U, то по теореме 2.14.9 существует голоморфная в й функция G, такая, что G°u = g. Функцию G можно разложить в ряд Тейлора G (х, z) = ... х^^ ... zfy, который сходится равномерно на компактных подмножествах й; в частности, G есть предел последовательности многочленов PN, сходящейся равномерно на компактных подмножествах й. Следо- вательно, целые функции gjv (х) = (хь ..., хп, f((x), ..., /=*(х)) равномерно стремятся к функции G°u = g на компактных под- множествах U. Так как целые функции являются пределами мно- гочленов, то отсюда следует наше утверждение. ► 2.14.11. Предложение. Всякое выпуклое открытое множество в Сп является областью Рунге. 4 Достаточно показать, что всякое ограниченное выпуклое от- крытое множество й в С" есть область Рунге. Пусть К — компакт- ное подмножество й. Если xt.........хп — координатные функции в С", то для любой граничной точки а^.дО. найдется линейная функция 1а W = 2 CVXV + Со, V = 1 такая, что /й(а) = 0 и Re/a(x) <0 для всех хей. Значит, для любой точки ае йй существует линейная функция L в С", такая, что Re L (х) < 0, хе Д', Re L (а) > 0 (надо заменить 1а на L = 1а + б, где б > 0 достаточно мало). Тогда ReL(x)>0 для всех х, близких к а. Так как дй — компакт, то существует конечное число линейных функций Д, ..., LT, таких, что [ > 0, если х е дй, max Re (хи v ( < 0, если х е Д. Следовательно, множество У ={х Е й: Re Lv (х) < 0, v = 1, ..., г} содержит К и относительно компактно в U. Далее, множество V = {х еС": Re Lv (х) < 0, v = l, .... г} выпукло в С", а значит,
136 ГЛ. 2. МНОГООБРАЗИЯ связно, и V П й — U относительно компактно в й. Поэтому V = U. Таким образом, t/ = (.reC": |Ц.г)|<1, fv = exp(Lv), v = l, ..., г}. По теореме 2.14.10, U есть область Рунге, и поэтому голоморф- ные в U функции равномерно на К аппроксимируются многочле- нами. Так как Д'— произвольный компакт из й и U cz й, то пред- ложение доказано . ► Приведенное здесь доказательство теоремы Хартогса подска- зано доказательством аппроксимационной теоремы Мальгранжа — Лакса (см. § 3.10, а также Мальгранж [1]). Что касается нашего доказательства теоремы Ока — Вейля, то оно по существу — пере- вод доказательства самого Ока [1] на язык дифференциальных форм. Эти теоремы приведены также в книге Хёрмандера [4]. § 2.15. Погружения и вложения: теоремы Уитни Мы будем рассматривать только (^-многообразия V, V', ..., счетные в бесконечности. 2.15.1. Определение. Пусть даны (^-многообразия V, V' и (^-ото- бражение /: VОтображение f называется регулярным в точке a eV, если касательное в этой точке отображение /,,а: Та (V) -> Tf (а) (р") инъективно; f называется регулярным на множестве S <= V, если оно регулярно в каждой точке S; f назы- вается регулярным отображением, или погружением, если оно ре- гулярно на V. Отображение f: V-+V' класса Ck называется вложением, если f — инъективное погружение. Если, кроме того, f — гомеомор- физм V на множество f(V) с топологией, индуцируемой из V', то отображение f называется локально собственным вложением (см. предложение 2.5.8). Вложение (погружение) f: V -> V' назы- вается замкнутым, если / — собственное отображение (см. опреде- ление 2.5.7). Аналогичные определения можно дать для R- и С-аналитических многообразий и отображений. Рассмотрим теперь случай, когда V/ = R9. Пусть Ck(V, q) — множество всех (^-отображений V в R"7. Введем в этом прост- ранстве топологию. Пусть U — семейство систем координат, « = {((/,-, Ф/)}/^, такое, что семейство {(/J образует локально конечное покрытие V. Мы будем предполагать, что Ut (ё V. Пусть Kt - компактные под- множества UI, такие, что = Рассмотрим семейство е= — {eih^sr положительных действительных чисел и семейство т = положительных целых чисел с теми же мно- жествами индексов, что и у семейства U. Для произвольной С^-функ-
§ 2.15. ПОГРУЖЕНИЯ И ВЛОЖЕНИЯ: ТЕОРЕМЫ УИТНИ 137 ции ф на Ut и набора из п целых чисел а = (аь ап), avi>0, где | а | = + ... + an k, положим где векторные поля d/dxv, соответствующие системе координат (Ult фг), определены естественным образом, как в § 2.4. Для f0^Ck(V, q) обозначим через ^ = ^(U, m, е, f0) множество ^=--(feC4v, q)' |Da(f-fo)WI <ег для х <= Kb \a\<mb it=Sf}. Определим топологию в Ck (V, q), потребовав, чтобы множества для которых U фиксировано, a m и е пробегают все семейства с перечисленными выше свойствами, образовывали фундаменталь- ную систему окрестностей f0. Если ®=(г,. —другое семейство систем координат, такое же, как выше и е' — (е/}, m' = {т/} соответствуют 53, то сразу видно, что для любого множества $(53, in', е', f0) = $/ найдется множество $(U, m, е, f0), содержащееся в ЗУ, и обратно. Следовательно, введенная топология в Ck(y, q) не зависит от вы- бора семейства U (и системы компактов Ki cz Дг). Пространство Ck(V, q) с этой топологией мы будем обозначать символом (V, q) либо просто или (V), когда не возникает недоразумений. Заметим, что эта топология совпадает с топологией равномер- ной сходимости на компактных подмножествах вместе с произ- водными порядка /г (см. § 2.16) только в случае, когда V — ком- пакт. Пространство 6*(Е, <?), вообще говоря, не имеет счетной базы и не метризуемо. Следующее предложение легко получается из определений. 2.15.2. Предложение. Множество Ck-погружений f: V —>R'7 открыто в SA’(V, q) при 1. Фиксируем покрытие U = {(£//, <рг)} с ранее перечисленными свойствами. Если L — произвольный компакт из V и f е Ck (V, q), то положим для 0 г k HMr.L = S 2 sup |£)af(x)|. i |a|<r x^Lfi.Ki
138 ГЛ. 2. МНОГООБРАЗИЯ 2.15.3. Лемма. Пусть К —компактное подмножество V и L —ком- пактная окрестность К- Тогда для любого Ск-вложения f: 7^-R'7 существует 6 > 0, такое, что для всех g^Ck(V, q), для которых Wf-ShL<^ отображение g\K инъективно. ◄ Пусть (U, ф) — система координат на V, такая, что мно- жество U относительно компактно, и пусть С aU — компакт. Если a, b е U, то положим d(a, b) = || ф(а) -ф(&) ||. Тогда найдется е > 0, такое, что If (a) ~f (Ь) | ed(a, b), а, Ь^С, так как f —вложение. Если g^Ck(V, q) и ||f — gH, достаточно мала, то для h — f — g мы имеем | h (а) — h (b) | ed (а, Ь)/2 для всех а, Ь^С. Отсюда следует, что g| С — инъективное отображение; в самом деле, | g (а) — g (b) | ed (а, Ь)/2 для всех а, b С. Так как К — компакт, мы можем выбрать конечное число си- стем координат (Уь ф(), ..., (Уд,, ф^), таких, что К cz U cz L. Если ||f —g||j L достаточно мала, то g | lzv инъективно. Поэтому существует окрестность W диагонали А произведения К, X К., такая, что если {а, Ь) = №7\А, то g(а) =И= g (b) для любой g, та- кой, что полунорма ||f —я111 l мала- Далее, существует 0 > 0, такое, что |f (а) — f (&) | ^ 0, если (а, &)е(/Сх/С)\Г. Если ||f - g||0>K < 0/2, то | g(a) - g (&)|>0/2 для всех (а, b) (/С X К) \ W. Отсюда сразу следует утвержде- ние леммы. ► 2.15.4. Предложение. Множество замкнутых вложений V в К1 от- крыто в (£&(V, q), если k^l. 4 Пусть {/<т} — последовательность компактных подмножеств V, таких, что /Со = 0, Km^Km+i и UKm = V. Пусть Lm есть замыкание Тогда LmT\Lmr= 0, если т' ^т + 2, и семейство {Lm} локально конечно. Если f: I/—> S'7 — замкнутое вложение, то множества f (Lm) cz R9 обладают такими же свойст- вами. Поэтому существуют открытые множества Um в R"7, такие, что f(Am)czt/m и Um[]Umr= 0, если m'>m + 2. Мы можем вы- брать i>m > 0 так, что если g<=Ck(V, q) и Hf-gllIL
5 2.1Б. ПОГРУЖЕНИЯ И ВЛОЖЕНИЯ: ТЕОРЕМЫ УИТНИ 139 для всех т > 0, то g(Lm) с Um и g | Lm U Lm+l — инъективное ото- бражение (по лемме 2.15.3). Мы утверждаем, что все такие g инъективны. В самом деле, если a, b е V, а Ь, то пусть а е Lm, b е Lmr (и, скажем, т' т). Если т' т + 2, то g (а) е Um, g(b) е Um,nU„(] Um' = 0, поэтому g(a)^= g(b). Если tn' = m + 1 или m' = m, to g(a)^g(b), так как g\ Lm(] Lm+i инъективно. Из определения топологии в Ck (И, q) следует теперь существование окрестности & э f, такой, что всякое отображение g & является вложением. Ясно, что если f: 7 ^►R'7 — собственное отображение и |f(x)-g(x)|<l Для всех х е V, то g тоже собственное. Пред- ложение 2.15.4 доказано. ► 2.15.5. Замечание. Легко показать, как в приведенном выше до- казательстве, что любое отображение g из подходящей окрест- ности локально собственного вложения тоже является вложением. Без предположения о том, что вложение локально собственное, это утверждение неверно. Даже на компактных множествах ото- бражение, близкое к (нерегулярному) инъективному, не обязано быть инъективным. 2.15.6. Лемма. Пусть й — ограниченное открытое множество в Rra и f: Q->R? — отображение класса Ck, 1, q^2n. Пусть г— про- извольное целое число, r^k. Тогда для любого е>0 существует Ck-отображение g: £2->R’, такое, что ||g —Л1,<е и векторы dg]dxlt ..., dgldxn линейно независимы в каждой точке Й. 4 Согласно теореме 1.6.5, мы можем считать, что k^2. Пусть fo = f. Достаточно показать, что если f'— отображение класса Ck, для которого df'/dxi, ..., df'ldxs линейно независимы в каждой точке й, то существует §еС4(й), такое, что ||g — /'ll, < 8 и dgldx{, ..., dg/dxs+i независимы во всех точках й; здесь 0 $ < п. Пусть есть С4-1-отображение й в R?. Рассмотрим отображение <р: R5 X й -> R?, определяемое равенством S Ф (Аь . • •, A.S, х) = Z/ vs+i (х). Так как dim (R5 X й) = $ + п < 2п q и <р е С1 (ибо k 2), то по лемме Г.4.3 для любого б > 0 найдется a eF’, ||а|| < б, такое, что a^ip(RsXfi). Если теперь df'/dx^, ..., dj'/dxs R-независимы в й и a^<p(R's X й), то, полагая g(x) = f (х) + а • х<+1,
140 ГЛ. 2. МНОГООБРАЗИЯ мы заключаем, что dgldxx, ..., dgldxs+x R-независимы во всех точ- ках х Й. Если б достаточно мало, мы получаем требуемый ре- зультат. ► Заметим, что отображение g в лемме 2.15.6 является погру- жением й. 2.15.7. Теорема Уитни о погружениях. Для любого многообразия V класса Ck, k^\, размерности п и любого q^2n, множество Ск-погружений V в R"7 является открытым плотным подмножеством в &k(V, q). ◄ Пусть U = {(UV, <pv)}, v = 0, 1, ... — последовательность систем координат, такая, что семейство {{7V} локально конечно, <pv (Uv)= = QV — ограниченные открытые подмножества R", Uv относительно компактны в V и V = U Uv. Пусть компакты Kv cz Uv таковы, что = и пусть заданы ev > 0 и целые числа nv^0, nv^.k. Пусть f Ck (V, q) и f0 — f- Предположим, что мы уже построили отображения f0, ..., fm: V—> R?, удовлетворяющие следующим условиям: (i, m) | Dafm (x) - Daf (x) | < ev для xeKv, | a | < nv; (ii, m) fm регулярно на Uv-oAvi (iii, m) supp(fp+I-fp)c=t/p+I, p = 0, 1, ..., m-1. Пусть (Лфункция am на V равна 1 в окрестности /(m+t и supp am az cz Um+X. По лемме 2.15.6 для любого б>0 и любого целого числа N 0^N^.k, существует (^-отображение hm' Um+X регулярное в Um+l и такое, что на Um+l, |а|<У. Рассмотрим отображение . ( fmd~Qm(hm fm) на Um + X, Тогда fm+l<=Ck(V, q) и в q) при 6->0, N-+k. Поэтому если б достаточно мало и (V^l, то отображение fm+1 регулярно на (J А\. Далее, fm+1 = hm на Кт+Х и потому регулярно и на Дт+Х. Значит, если б достаточно мало, а достаточно ве- лико, то отображения (f0, ..., fm+i) удовлетворяют условиям (1, т + 1), (ii, т + 1), (iii, m+1). Итак, мы по индукции построили отображения У-^-R'7, m^O, удовлетворяющие (i, m), (ii, m), (iii, m) для всех m 0. Полагая S= 4m fm, m->oo
§ 2.15. ПОГРУЖЕНИЯ И ВЛОЖЕНИЯ: ТЕОРЕМЫ УИТНИ 141 мы получаем регулярное отображение g: такое, что I Daf U) — Dag U) I < ev, | a | ^ nv, для x e ► 2.15.8. Теорема Уитни о вложениях. Для любого (^-многообразия (fe^l) V размерности пи любого q~^2n + 1 множество вложений V в R9 всюду плотно в (У, q). 4 Пусть/ —произвольное погружение V bR17. Пусть U = {(t/V, qpv)}— последовательность координатных окрестностей, такая, что {U„} есть локально конечное покрытие V, Uv<^V и f | Uv — инъективные отображения (такая последовательность существует). Пусть ком- пакты таковы, что и пусть еще заданы ev>0 и целые числа nv>0, nv^.k. Положим f0 — f и построим по ин- дукции отображения /0, ..., fm многообразия V в R9 со следую- щими свойствами: (i, m) fm | Uv инъективно для всех v; fm | U v<m^Cv инъективно; (ii, m) supp(fp+I-fp)c=Up+i для p = 0,l...m-1; (iii, tri) | D“fm(x) — Daf (x) |<ev для xeKv и |al<nv, v>l. Предположим, что f0, fm уже заданы. Возьмем С^-функцию am на V с компактным носителем в Um+i> равную 1 в окрестно- сти Km+i, и рассмотрим множество & = {(*, У)е V X V: ат(х)У=ат (у)}; Q — многообразие класса Ск размерности 2п. Пусть qp: Q-*R?— отображение Так как q^2n+ 1, то qp (Q) имеет меру нуль; значит, для любого б>0 найдется v gR?, || и ||<б, v^qp(Q). Положим fm+1 ~ fm~t~ ат&- Мы утверждаем, что fm+1 обладает свойствами (i, т + 1) и (ii, т + 1). Последнее очевидно. Если fm + l W = fm+1 (l/)> ТО fm (х) -fm(y)=-v (am (х) -am (у)), откуда, поскольку v 9^qp(Q), мы должны получить, что am(x) — — ат (у) = 0 и fm (х) — fm (у) = 0. Из последнего вытекает инъектив- ность отображений fm+11 Uv для всех v и fm+11 (J v<mKv- Предполо- жим, ЧТО fm+l (x) = fm+1 (у) ДЛЯ НекОТОрЫХ XS/(ffl+l И 1/6= (J v<m + lKv- Тогда из равенства am(x)=am(y) вытекает, что y^Um+i (ибо «т(х)=1 для хеКт+1 и ат = 0 на У\С/т+1). Но так как ото- бражение fm | Um+i инъективно, то отсюда следует, что х = у.
142 ГЛ. 2. МНОГООБРАЗИЯ Кроме того, в (У, q) при 6->0, и отсюда уже легко следует существование последовательности отображений fm, удовлетворяющих (i, tri), (ii, tri), (iii, т) для всех т^О. Отображение g = Hm fm инъективно на всем V и | Da(f — g) |^ev при |a|^nv на для всех v. Отсюда видно, что для произвольного погружения су- ществует сколь угодно близкие к нему С^-вложения V в R9. Наша теорема следует теперь из теоремы 2.15.7. ► Из этих теорем и предложения 2.15.4 мы сразу получаем следующее утверждение. 2.15.9. Теорема. Для любого Ск-многообразия V размерности п и любого q^2n множество замкнутых погружений V в R9 есть открытое плотное подмножество открытого множества ф всех соб- ственных (^-отображений V в R9. Если q^2n+\, то множество замкнутых вложений V в R? открыто и плотно в ф. 2.15.10. Замечание. Множество ф собственных (^-отображений V в R9 (q^l) непусто. 4 Так как существуют собственные Сй-отображения R в R? (q^ 1), то мы можем считать, что q=\. Пусть {Uv} — последовательность относительно компактных подмножеств У, U Uv = V, и предполо- жим, что семейство {t/v} локально конечно. Пусть — компактное подмножество Uv и U = V. Пусть r|v — функция класса Ск на V с компактным носителем в Uv, такая, что 0^i]v(x)^l для всех х, t]v(x) = 1 для xgAR Тогда отображение qp: V->R, задаваемое формулой ф (х) = 2 viqv (х), v> 1 есть собственное отображение класса Ск. ► 2.15.11. Следствие. Для любого Ск-многообразия V размерности п существует замкнутое погружение V в R2rt и замкнутое вложение V в R2n+1. 2.15.12. Замечания. Сделаем несколько дополнительных замечаний о теоремах Уитни. Прежде всего то, что мы отображаем V в евкли- дово пространство, совсем не существенно. Можно доказать сле- дующую теорему (см., например, Картан [3]):
§ 2.15. ПОГРУЖЕНИЯ И ВЛОЖЕНИЯ: ТЕОРЕМЫ УИТНИ 143 Пусть даны два Ск-многообразия V и V' (со счетной базой), причем V' связно. Предположим, что dim V'^2dim V + 1. Тогда существует замкнутое Ск-вложение V в V', за исключением случая, когда многообразие V некомпактно, а V' компактно. [В последнем случае, конечно, вообще не существует ни одного собственного отображения V в V'.] Далее, если R-аналитическое многообразие V допускает R-ана- литическое замкнутое вложение в R17 для некоторого q, то из предложения 2.5.14 и теоремы 1.6.5 следует, что ^-аналитические функции на V плотны в (V, 1). Поэтому из доказанных выше результатов Уитни и предложения 2.15.4 следует, что такое многообразие имеет R-аналитическое замкнутое погружение в R2" и замкнутое аналитическое вложение в R2n+1. Эти результаты были дополнены Грауэртом [1], который показал, что любое R-аналитическое многообразие со счетной базой (размерности п) можно аналитически вложить в некоторое R17 как замкнутое подмногообразие. Вернемся к (^-многообразиям. Уитни [5] уточнил теорему о погружениях, показав, что любое (^-многообразие размерно- сти п^2 допускает замкнутое (^-погружение в R2rt~'. [Для п=1 это, очевидно, неверно: окружность нельзя погрузить в R1.] Он доказал, кроме того, что всякое (^-многообразие размерности п можно вложить в R2"; в частности, компактные (^-многообразия размерности п допускают замкнутые вложения в R2". (Уитни [4]). Эти результаты были дополнены Хиршем [1], который показал, что всякое некомпактное многообразие размерности п допускает вложение в R2'5-1 и, значит, замкнутое вложение в R2n *)• Объединяя эти замечания, можно, в частности, утверждать следующее: Теорема. Для любого Ск-{^.-аналитического) многообразия размерности п существует замкнутое Ск- (^-аналитическое) погру- жение V в R2'1-1 (если п~^2) и замкнутое Ск- {^.-аналитическое) вложение V в R2rt. Известно немало очень интересных более тонких теорем вло- жения для более узких классов многообразий. Эти теоремы о вложимости и невложимости породили обширную литературу. Мы остановимся только на двух из этих теорем; дальнейшие ссылки можно найти в статьях Атья [1] и Хефлигера [1]. Теорема Уолла [1]. Всякое замкнутое компактное ориенти- руемое многообразие размерности 3 можно вложить в R5. *) Заметим, что проективное пространство RPrt (компактное многообразие размерности п) нельзя замкнуто вложить в R2n~1.— Прим. ред.
144 ГЛ. 2. МНОГООБРАЗИЯ Многообразие V называется fe-связным, если для любого т, 0^т<;/г, и любого непрерывного отображения f сферы S = {(%1....xm+i)eRm+1: xi + ... + x2m+i = 1} в V существует отображение F шара £)"»+1 _ , xm+I)eRm+1: х2 + ... + xl;+i^ 1} в V, такое, что F | Sm = f. Теорема Хефлигера [1]. Любое компактное k-связное многообразие V можно вложить в R2rt-fe, если п— dim V 2k + 3. Проблема голоморфного вложения комплексных многообразий в некоторое С? имеет совсем другую природу. Многообразия, которые можно вложить в С’ в виде замкнутых подмногообразий, — это так называемые многообразия Штейна. Для них имеет место утверждение, аналогичное следствию 2.15.11; см. Бишоп [1] и Р. Нарасимхан [1]. Замечание. Приведенные здесь доказательства теорем 2.15.7, 8 по существу принадлежат Уитни [1]. $ 2.16. Теорема Тома о трансверсальности В этом параграфе мы докажем один частный случай теоремы Тома [1]. Приводимое нами доказательство совпадает по существу с доказательством Абрахама [1]. Для подробного изучения теоремы и некоторых ее приложений см. Картан [3]. Пусть V — многообразие класса Ck, l^fe^oo, размерности п со счетной базой. В пространстве Ck(V) всех С^-функций (с дей- ствительными значениями) на V определим топологию следующим образом. Пусть К — произвольное компактное подмножество V, Хь ..., Хт (О^т^Зг, meZ)—векторные поля на V и е >0. Мно- жества $ = {f^Ck(V): | Xi ... Xm(/)(x)|<e для всех .re К} образуют фундаментальную систему окрестностей функции 0<=Cfe(|/). (Эта топология сходимости на компактныхподмножествах вместе с производными порядка слабее, чем топология 6й, вве- денная в § 2.15.) Пусть V' — еще одно (^-многообразие размерности т со счетной базой и Ck(V, V')—множество (^-отображений V в V'. Введем в Ck (V, V') следующую топологию: Фильтр {/а} (^-отображений fa: V-+V' сходится к (^-отображе- нию f : V—>l/Z в том и только в том случае, когда для всякой Сй-фун-
§ 2.16. ТЕОРЕМА ТОМА О ТРАНСВЕРСАЛЬНОСТИ 145 кции qp на V' фильтр {ф ° fa} (Лфункций на V сходится в Ск (F) к функции ф°/. Легко проверить, что Ck (И, V') — полное метрическое простран- ство со счетной базой. Пусть теперь V, V' — два (^-многообразия, счетных в беско- нечности, и пусть (W, I) — замкнутое подмногообразие V'. Отож- дествим W с i(W) и касательное пространство Ta(W) в точке а = W с подпространством а (Та (IF)) cz Tt (а) (V'). 2.16.1. Определение. Отображение f: V ->V' класса Ск называется трансверсальным к W в точке a^V, если либо /(a)^lF, либо ft.a(Ta(V))+Tf(a)(W) = Tf{a) (П т.е. если /.,a(Ta(F)) и TfW (W4 * * 7) порождают Тца) (V'). Отображение f называется трансверсальным к W, если оно трансверсально к W в каждой точке V. Всюду в дальнейшем dim V = п, dim V = m и dimIF = m — q, <7^1, так что W имеет коразмерность q. 2.16.2. Предложение. Если f: V ->V' — некоторое (^-отображение и f (а) е W, а е V, то f трансверсально к W в точке а тогда и только тогда, когда в Ta(V) имеется подпространство Е размерности q, такое, что ft, а | Е инъективно и La(£)nrf(a)m = {0}. -< Если это условие выполняется, то из равенства dim/4,a(£') + + dim Tf(a)(ТС7) = dim Tf(a).(V') мы получаем, что f„a(E) + TfM(W) = = Tf(a) (V'), в частности, f трансверсально к IF в точке а. Обратно, если f трансверсально к IF в а, то в ft,a(Ta(F)) имеется подпро- странство Е' размерности q, такое, что Е' П Tf (а) (1F) = {0}. А тогда в Ta(V) имеется подпространство Е размерности q, такое, что /.,«(£) = Г. ► 2.16.3. Предложение. Если Ck-отображение f: V-+V' трансверсально к IF, то множество f-1 (IF) либо пусто, либо является подмного- образием V коразмерности q, т. е. размерности п — q (естественное вложение / “'(IF) в V превращает его в подмногообразие). 4 Пусть aef“’(IF) и & = /(a)elF. Пусть Е есть (/-мерное подпространство Та (F), такое, что отображение /*, а | Е инъективно и Е'(] rft(TC7)=={0}, где E' = ft,а(Е). Пусть gh .. ., ^-функции класса Ck в окрестности U' точки b на V', такие, что dgx.dgq R-независимы и U'(\W = {y^U': gx(y) = ... =gq(y) = Q}. Так как (dgt)b I Tb (IF) = 0, то отсюда следует, что (dgx)b\Er, ... ..., (dg^b I ... R-независимы. Так как f„a- E-+E' — изомор-
146 ГЛ. 2. МНОГООБРАЗИЯ физм, то ковекторы d (gt ° f)a| Е, ..d(gq °f)e| E R-независимы, в частности, независимы и rf(gi°f)a, ..., d(gqofa). Так как gi°fU)= ...=g9°fW = 0], то из следствия 2.5.5 вытекает, что f -1 (IF) — подмногообразие V коразмерности q. ► 2.16.4. Лемма. Пусть К — компакт из V. Тогда множество ^-ото- бражений V в V', трансверсальных к W в каждой точке К, открыто в Ck(V, V'). Это следует непосредственно из определения. Пусть теперь V, V', W — многообразия класса С°° и К с V — ком- пакт. 2.16.5. Предложение. Множество С°°-отображений V в V', транс- версальных к W в каждой точке компакта К, всюду плотно в С°°(У, V) {и даже в 6“ (У, У')). < Пусть f: V->V'~произвольное С°°-отображение. Ввиду леммы 2.16.4 достаточно доказать, что у любой точки аеУ есть окрест- ность U, такая, что множество С°°-отображений У в У', трансвер- сальных к W в каждой точке U, содержит f в своем замыкании. [Пересечение конечного числа открытых плотных подмножеств есть плотное подмножество.] Пусть (Uo, Фо) — система координат а е Uo, U0<^V, f (а) = b <= IF, и пусть ф', ф') — система координат на V', такая, что f(U0) от- носительно компактно в U'. Пусть £71 — относительножомпактное подмножество Uo и А, —функция класса С°° на V, такая, что supp А се (70 и А(х) = 1, когда х лежит в окрестности Ut. Предпо- ложим, что ОефЧУ')- Если щ, ..., ир — произвольные (^-отобра- жения У в R"1, а gb ..., gp — действительные числа, |g/|<6, то для достаточно малых б выражение Ь (х) (%)+...+ 1рир (х)) для X <= Uo, О для xq£U0 определяет (^-отображение У в ф' (U'), а по нему мы построим отображение F%: У-*У', полагая ф'-10 (g(х; £i, .... gp) + Ф' ° f (х)) для хе Uа, f(x) для x^U0. Это отображение определено и принадлежит классу С°° на У, если б достаточно мало. Пусть Q = {|eRp: |g/|<6}. Мы получили отображение F: QXV^V', F(g, x) = Fi(x). g(*; I...... U = l F6(x) = !
$ 2.16. ТЕОРЕМА ТОМА О ТРАНСВЕРСАЛЬНОСТИ 147 Легко проверить, что если векторы щ (а), ..., ир(а) порождают Rm, то отображение T(0,a)(QXV)->Tb(V') сюръективно. Значит, если б достаточно мало и (/ — достаточно малая окрестность точки а, то отображение Л. (5, а')’ Т$, а>) (Q X V) Tf (5, а/) (Г) сюръективно для всех I.eQ и a'eU. В частности, отображение F: Q X U-> V трансверсально к W. Следовательно (см. предло- жение 2.16.3), F~\W) = W0 есть подмногообразие Q X U кораз- мерности q (заметим, что 170 непусто, так как F(0, а) = b^W). Пусть л — сужение на Wo естественной проекции Q X U на Q. Пусть Ая — множество критических точек л (т. е. множество точек (£, х)е!70, таких, что rank л*,(|, Xi<p = dimQ). Тогда, по теореме Сарда 2.2.13, множество л(Ля) нигде не плотно в Q. Теперь пред- ложение 2.16.5 является прямым следствием такого утверждения: 2.16.6. Предложение. Для любого |«£л(Ля) отображение F%: V->V' трансверсально к W во всех точках V. -< Пусть хек. Если (£, х)«£170, то F%(x)<£W, так что нам нечего доказывать. Поэтому предположим, что (£, х)е170. Тогда отображение л„, g, х): Тц, Х)(17о) -> ТДО) сюръективно, так как ^л(Ля). Отождествим T(g, x)(QX V) с T&(Q)®7\(V) и Тл, х) (170) с подпространством То с (Q)® Тх (7). Тогда проекция То на первое слагаемое /^(Q) сюръективна. Так как F трансверсально к W в точке (£, х), то существует (предложение 2.16.2) (/-мерное подпространство EodTi(Q)®Tx(V), такое, что F*, (5, х) (Ео) = Е' есть (/-мерное подпространство ТР ($г (V'), для которого е'птр (Umo}. Мы утверждаем, что если Ф = Л,(5.х)> то Ф-1 (7>(5, Х)(17)) с: cz Г(5, х) (170). В самом деле, если Ф(п)еГр (j,X) (17), мы можем написать п = ш0 + и0, Г(|, х) (170), с0е£0, и тогда ясно, что Ф(и0) е ТР (g, Х) (17). Ясно также, что Ф(с0)е£', и поэтому Ф(ио) = О. Так как Ф |Ео — инъективное отображение, то о0 = 0 и цеГа,х)(170). Отсюда сразу следует, что проекция Е множества Ео на TX(V) имеет размерность q и что Ф(Е) является (/-мерным подпростран- ством ТР$,Х), так что Ф(Е) Л ТР х) (17) = {0}. Снова по предло- жению 2.16.2 мы получаем, что трансверсально к 17 в точке х. ►
148 ГЛ. 2. МНОГООБРАЗИЯ 2.16.7. Теорема Тома о трансверсальности. Пусть V, ^' — мно- гообразия класса С°° со счетной базой и W — замкнутое подмного- образие V'. Тогда множество С°°-отображений V в V', трансвер- сальных к W, всюду плотно в C°°(V, V'). ◄ Многообразие V является счетным объединением компактов. Следовательно, по лемме 2.16.4 и предложению 2.16.5, множество всех С°°-отображений V в V', трансверсальных к W, является пересечением счетного числа открытых плотных подмножеств С" (У, V'). Так как С°°(У, У') — полное метрическое пространство, то наше утверждение следует из теоремы Бэра о том, что пере- сечение счетного числа открытых плотных подмножеств полного метрического пространства всюду плотно; см. Бурбаки [3]. ► 2.16.8. Замечание. На самом деле С°°-отображения, трансверсаль- ные к W, образуют подмножество С°°(У, V'), плотное в топологии 6°°(У, V'). Это следует из доказательства предложения 2.16.5 и из того факта, что теорема Бэра верна и в 6°°(У, У'), несмотря на то, что оно не является полным метрическим пространством; см. Картан [3].
ГЛАВА 3 ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ §3.1 . Векторные расслоения 3.1.1. Определение. Пусть X и Е — хаусдорфовы пространства и р: Е->Х — непрерывное отображение. Тройка $,=(Е, р, X) на- зывается комплексным векторным расслоением ранга q над про- странством X (или просто расслоением над X), если выполнены следующие два условия: (а) для каждой точки а^Х множество р~'(а) = Еа снабжено структурой комплексного векторного пространства размерности q-, (b) для каждой точки а^Х существуют окрестность U за и гомеоморфизм h = hv множества p~l(U) = Ev на U X С7, такой, что p = n°h в EUt где л — проекция U X С7 на U (т. е. л (h (у)) — х, если у^Ех, x^U), и h\Ex есть С-изоморфизм пространства Ех на {х}хС? для всех x^U. Множество Еа = р~'(а) называется слоем расслоения g в точке а. Расслоение ранга 1 называется линейным расслоением. Мы можем заменить комплексные векторные пространства Ех действитель- ными векторными пространствами и таким же способом опреде- лить действительные векторные расслоения. ЕслиЕ и X являются (^-многообразиями (l^fe^oo), проекция р есть отображение класса Ck, а гомеоморфизмы hv'. Еи—>и X С7 являются (^-диффеоморфизмами, то тройку (Е, р, ЙГ) мы назовем (Лвекторным расслоением (или векторным расслоением класса Ск). Если X есть R- или С-аналитическое многообразие, то совер- шенно аналогично можно определить R- и С-аналитические век- торные расслоения. Комплексно-аналитические векторные расслое- ния называются также голоморфными векторными расслоениями. 3.1.2. Определение. Пусть £ = (Е, р, X) и £' = (Е', р', X) —два ком- плексных векторных расслоения над X. Отображением расслое- ний (или морфизмом) и: £->£' называется непрерывное отобра- жение и: Е^-Е', такое, что р'°и = р и для любой точки аеХ отображение и\Еа является С-линейным отображением Еа в Еа
150 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Обозначение и' мы будем использовать также для лю- бого (не обязательно непрерывного) отображения ы: £—>£', такого, что р' ° и = р. Аналогично можно определить Ck- (R- и С-аналитические) ото- бражения расслоений. Векторные расслоения и называются изоморфными, если существуют морфизмы «:£->£' и и'- £'->£, такие, что отобра- жение и' ° и тождественно на Е, а. и ° и' — на Е'-, здесь g = (£, р, X), Ь'-(Е',р',Х). В качестве примера векторного расслоения ранга q возьмем Е = ХХС?, и пусть р; Е X — естественная проекция. Тройка •&q = (E, р, X) представляет собой векторное расслоение (X), которое называется тривиальным расслоением ранга q над X. Тривиальными называются также расслоения, изоморфные &9. По определению, всякое векторное расслоение g = (Е, р, X) ранга q локально изоморфно тривиальному расслоению ранга q. Поэтому существуют открытое покрытие U = {GJ пространства X и гомеоморфизмы ф«: E^p-^U^UjXC1, такие, что если и{1 = и^и^0, то отображение <Р/°ФГ1: U.xC^U^xC* является гомеоморфизмом и имеет вид Ф^ср-Цх, n) = (x, gsi(x, о)), где gH(x, о) при каждом фиксированном х есть С-линейный авто- морфизм С. Следовательно, Ф'Оф-Цх, о) = (х, gyz(x)u), где для всех xef7z/ g/z(x)eGL(<7, С). Для хе Ut f) Uj П Uk непосредственно проверяется равенство gij (*) gjk (x) = g(k (х). Из него, в частности, следует, что gn(x) = I (/ — единичная матрица из GL (q, С)) и что gii W-1 =gji(x). Очевидно, gii- X^gtj(x) есть непрерывное отображение U ц в GL(q, С).
§ 3.1. ВЕКТОРНЫЕ РАССЛОЕНИЯ 151 Эти gn называются функциями перехода (а также отображе- ниями или матрицами перехода) расслоения g. Если £ есть Ck- (или R- или С-аналитическое) расслоение, то gij являются Ck- (или R- или С-аналитическими) отображениями. 3.1.3. Замечания. Обратно, пусть X — топологическое хаусдор- фово пространство и U = {£7J — открытое покрытие X. Пусть gii- Uа GL kb С) — непрерывные отображения, такие, что gt! W gjk (х) = gik (х) для всех x^Ui[\Uj[\Uk. Обозначим через S топологическую сумму X С9 X И). Определим на S отношение эквивалент- ности ~, полагая (х, v, Г) ~ (х/, v', j), если х'= х и v' = gl{ (х) v. Легко проверить, что это отношение открыто, а его график замкнут; поэтому факторпространство E = Sj~ хаусдорфово. Пусть р': S -+Х — отображение (х, v, i)y-^x. Эквивалентные точки при отображении р' имеют одинаковые об- разы, и поэтому р' определяет непрерывное отображение р: Е-+Х. Если ц: S—>E —естественное отображение факторпространства, то Р~‘ (Ut) = {ц(х, v, i): x^U{, v еС9}, и, следовательно, отображение ц | Ut X С9 X {/} является гомео- морфизмом на р-1 ([/,). Отсюда сразу следует существование гомеоморфизма фр p-^u^u^c4 со свойствами, которые требуются в определении 3.1.1. Таким образом, £ = (£, р, X) — векторное расслоение. Из сказанного не- посредственно следует, что функциями перехода расслоения g (относительно покрытия U) являются как раз отображения g^. Если X является Ск- (R-, С-аналитическим) многообразием, то приведенная выше конструкция задает Ck- (R-, С-аналитиче- ское) расслоение. 3.1.4. Замечание. Пусть g = (E, р, X) — векторное расслоение и gii: U^U^GLlq, С) — матрицы перехода расслоения g относительно покрытия U = {[/J пространства X. Пусть {Уа}а!=л — измельчение покрытия U и т:
152 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ — «измельчающее отображение», т. е. такое отображение, что Va<=Ux(a) для всех aerf. Пусть /гар- сужение gT(a)t(p) на Va Л а = (Е', р', X) — векторное расслоение, построенное, как в замечании 3.1.3, с функциями перехода {/гар}. Тогда Е' является факторпространством пространства 5'= (J (V„XC?X{a}). а<^Л Пусть и'’. S' —>Е — отображение, определяемое условием и' (х, v, a) = <pi“1(x, v), где г = т(а) и <рг: р-1 (/7;)-> X С? —изоморфизмы, индуцирующие функции перехода Тогда отображение и' индуцирует изомор- физм и- | 3.1.5. Предложение. Пусть | = (£, р, X), %'=(Е', р', X) — два вектор- ных расслоения и U = {[/J, lT = {[/a} — два открытых покрытия X. Пусть {g'a$} — матрицы перехода для £, соответственно, определяемые покрытиями U, U' соответственно. Векторные рас- слоения g и g изоморфны в том и только в том случае, когда выполнено следующее условие’. Существуют общее измельчение « = {^SA покрытий U и U' и измельчающие отображения т- Л—>5^, т': Л—>j7, такие, что V\czU%(X)(]U кроме того, существуют непрерывные отображения hK’ VK-+GL(q, С), такие, что для всех хеУ?._ПУц W Sr (А.) т (и) (х) W = Sr' (X) х' (н) W- ◄ Согласно замечанию 3.1.4, мы можем считать, что U = U' и что эти покрытия имеют одно и то же множество индексов Л. Это общее покрытие мы обозначим через 53. Предположим, что существует изоморфизм и: £->£'. Пусть Фг P-’(V^^XC’, ф': p'-\v^v^ — изоморфизмы, индуцирующие матрицы перехода , g'^ соот- ветственно. Тогда отображения мл = Ф^м°Фл1
§ 3.1. ВЕКТОРНЫЕ РАССЛОЕНИЯ 153 являются изоморфизмами X С? на себя. Поэтому существуют непрерывные отображения hK-. VK->GIAq, С), такие, что ик(х, v) = (x, hK(x)v), x(=VK, oeC’. Далее, ^Фх0Ф;Х, = фИ’ а так как фх°ф^1и, ») = (х, £1(1(Ф) и аналогичная формула справедлива для ф^°ф'- , то мы получаем равенство Обратно, предположим, что существуют непрерывные отображения hK: VK^GL(q, С), такие, что и определим отображения Фг Р~' (Ук) X С", ф': (Ух) -> VK X С9 так же, как выше. Положим ик(х, v) = (x, hK(x)v) и рассмотрим отображение фГ'оМх°Фг Очевидно, оно является изоморфизмом. Непосредственно прове- ряется, что на р~' Г) Р~’ (Ии) имеет место равенство Ф?1 ° ик ° Фх = Фц“‘ ° “и 0 Фи- Этим определяется изоморфизм и: £->£'. ► 3.1.6. Замечание. Пусть = (£b р,, X), l2 = (E2, р2, X) —два векторных расслоения. Пусть а^Х и Еа = Еьа@Е21 а. Обозначим через Е дизъюнктное объединение множеств Еа: £= и£* ае х и обозначим через р: Е—>Х отображение е>—>а, если е^Еа. Если [/ — открытое подмножество X, для которого существуют изоморфизмы Ф1: р"1 ([/)->[/ X С91, <р2: р;1 ([/)->[/ X С’\
154 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ то возникает биективное отображение ср: р~' ([/)-> U хС’,+”, определяемое условием е1фе2н->(х, t>i, t>2), где <Pi(ei) = (x, гц), ср2(е2) = (х, °г)- Ясно, что на Е имеется единственная топология, относительно которой множества p~l(U) открыты в Е, а все определенные выше отображения ср являются гомеоморфизмами. Векторное расслоение £ = (£, р, X) с этой топологией называется прямой суммой (или суммой Уитни) расслоений g, и g2; ее мы будем обозначать символом В = В1Ф Вг- Если расслоения |2 задаются матрицами перехода gty, gff относительно покрытия {U,} пространства X, то матрицы пере- хода для полученные из указанных выше изоморфизмов, за- даются равенством / g<E (х) 0 \ 3.1.7. Замечание. Если £1( £2 —векторные расслоения над X, то аналогичным образом можно определить векторные расслоения Bi®B2» Homfeb |2) и ^P(Bi), такие, Что Для любого а^Х мы соответственно имеем Ea = Elia<8>E2,at Еа = Ноше(£],e, Е2<а), Ea=/\pEita, гДе (£, р, X) обозначает соответствующее расслоение. Если g2 = '&1 — тривиальное расслоение ранга 1, то расслоение нош&, ^)=в; йазываётся сопряженным к слой этого расслоения в точке а^Х является пространством, сопряженным к слою g, в точке а. Векторное расслоение gj ® g2 называется тензорным произведе- нием расслоений g2, а ^Р(В1) называется р-й внешней степенью расслоения Если {J/J — открытое покрытие X, а расслоения gb g2 поро- ждаются матрицами перехода g<fl, g^ соответственно, то £=fej®B2 имеет матрицы перехода gi}, определяемые равенством ёц W = (х) <8> g<2> (х),
§ 3.1. ВЕКТОРНЫЕ РАССЛОЕНИЯ 155 где последний член означает кронекерово ’) (или тензорное) про- изведение матриц gV и g®. Далее, расслоение g* имеет матрицы перехода g*ijt определяемые равенством где ‘А — матрица, транспонированная к А. Изоморфизм L ® М* с* Hom (М, L) для конечномерных векторных пространств L, М, где М* — сопря- женное к М, порождает изоморфизм ®g^Hom(g2, gj), где g]; g2 —векторные расслоения. В частности, для любого век- торного расслоения £ имеется естественный изоморфизм g®g‘i-Hom(g, g). Пусть g2, g[, g2 — векторные расслоения над X, и пусть и.‘- & = 1, 2, — отображения расслоений. Тогда для каждой точки а^Х опре- делены С-линейные отображения Uk, a' ^k, a~^Ek а (£k = (Ek, pk, X), %'k==(E'k, p'k, Х)у Они индуцируют С-линейные отображения U\, а ® и2, а- а® Е2_ а~^ Е? а, которые в свою очередь определяют морфизм «1®и2: gj ® g2->g( ®g'. Аналогично, для любого расслоения g морфизмы Ир инду- цируют отображения расслоений Hom(g, g1)->Hom(g, gQ, Hom(g(, g)->Hom(gp g). В частности, мы имеем морфизмы -> &) -> &)• ’) Если А и В —квадратные (п X м)-матрицы, то их кронекеровым произ- ведением А&)В называется матрица размера п2 X п2, которая получается, если вместо каждого элемента в матрице А поставить (n X «)-матрицу а^В-, ко- роче, А 0 В = (а(.В). Эта матрица определяет линейный оператор в тензорном произведении двух n-мерных векторных пространств, действующий по формуле- (А($)В) (х^у) = (Ах)^(Ву).-Прим. перев.
156 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 3.1.8. Замечание. Соответствующие определения можно приме- нить к действительным векторным расслоениям, а также к Ск-, R- и С-аналитическим векторным расслоениям. 3.1.9. Пример. Если V есть Ск- (R-аналитическое) многообразие размерности п, то касательное расслоение Т(Ю= U ТаП a^V введенное в § 2.2, является действительным Ск~1- (R-аналитиче- ским) расслоением ранга п; таким же является и кокасательпое расслоение Г(П= U Га(у). a^V Расслоение р-форм А₽Т’(У), определенное в теореме 2.2.8, пред- ставляет собой р-ю внешнюю степень (Т* (V)) расслоения Т* (V). Если V — комплексно аналитическое многообразие, то все эти расслоения являются голоморфными векторными расслоениями. Кроме того, на комплексном многообразии V мы можем опреде- лить расслоение форм типа (р, q): a^V (см. замечание 2.4.10). Это есть R-аналитическое комплексное векторное расслоение над V. 3.1.10. Определение. Пусть V есть (^-многообразие и £ = (£, р, К) — любое Сй-векторное расслоение над V. Пусть U — открытое под- множество V. Назовем Ск-сечением s расслоения g над U всякое (^-отображение з: U-+E, такое, что отображение р~з тожде- ственно на U. Множество таких сечений мы будем обозначать символом Ск (U, £). Нам придется рассматривать не только непрерывные сечения g; тогда это будут отображения s: U -+Е, для которых р ° з — тожде- ственное отображение. Если « — произвольное сечение £ над (/, то носителем s (в U) называется замыкание в U множества {а е U: s (а) =# 0а}; здесь 0а — нулевой элемент векторного пространства Еа = р~1 (а). Обычно мы будем опускать индекс а и вместо 0а писать просто 0. Множество (Асечений расслоения g над U, имеющих компакт- ные носители, обозначается символом Ck(U, £). Заметим, что если g = — тривиальное расслоение рангам, то множество Ск (К, О?) можно канонически отождествить с мно- жеством наборов из q функций класса Ск на U. Как и в гл. 1, мы будем употреблять для него, обозначение Ck(U, q). Анало-
§ 3.1. ВЕКТОРНЫЕ РАССЛОЕНИЯ 157 гично, Со (U, •&q) — Co(U, q) есть множество наборов из q функций класса Ск с компактными носителями. Пусть % — (Е, р, X) — векторное расслоение с матрицами пере- хода g{j относительно открытого покрытия {[/,} и Фр p-'lU^UtXC* — соответствующие изоморфизмы. Если s — сечение g над X, то отображения s; = cpzos: Uf+Ui X С? определяют отображения J7Z->C9. Так как ° st = s, то si ~ Ф« ° Ф/”1 ° si> откуда следует, что ^W = g0(x)ff/(x) для всех хе[/; (][//. Обратно, отображения <т(: связанные условиями <тг(х) = =gn (х)<Т/ (х), x^UidUj, определяют сечение s расслоения | по формуле s = срт1 ° st на Ut, s. (х) = (х, (х)). Это сечение принадлежит классу Cft(R- или С-аналитично) в том и только в том случае’, когда такими являются все стг. 3.1.11. Предложение. Пусть 5 — расслоение ранга 1 (т. е. линейное расслоение). Тогда g изоморфно О] (т. е. тривиально) в том и только в том случае, когда g имеет непрерывное сечение s, такое, что s (а) #= 0 для всех а. ◄ Если Е = Х X С — тривиальное расслоение, то всякое ото- бражение хь->(х, с), где сеС\{0) и не зависит от х, предста- вляет собой непрерывное сечение, всюду отличное от нуля. Обратно, пусть такое сечение $ существует. Определим ото- бражение £1 ->•&!, при котором еь->(a, Z), где е — произвольный элемент из р~' (а) и XsC таково, что e = Zs(a) (мы пользуемся тем, что s(a)#=0 для всех а^Х). Оче- видно, это отображение является изоморфизмом g на Ор ► Из этого предложения следует, что если g — линейное расслое- ние, то расслоение g ® g* тривиально. В самом деле, g®g’^Hom(g, g), а сечение s расслоения Нот (g, g), для которого s (а) есть тожде- ственное отображение р'1 (а), нигде не равно нулю.
158 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Это замечание применимо к Ск-, R- и С-аналитическим линей- ным расслоениям. 3.1.12. Замечание. Если g = (E, р, V) —векторное расслоение, то для любого открытого множества U с: V тройка (р-1 (£7), р, U) тоже является векторным расслоением; мы будем обозначать его 11U. Это обозначение будет использоваться также для замкну- тых подмножеств V. § 3.2. Преобразования Фурье Пусть Q —открытое множество в R" и р — действительное число, pZ>l. Множество комплексных измеримых по Лебегу функций f на Q, для которых функция | f |₽ интегрируема по мере Лебега, образует векторное пространство. Факторпространство этого пространства по подпространству функций, равных нулю почти всюду, есть банахово пространство относительно нормы / г \1/р llfllL, = f JlfWI'dx) \£2 / Мы обозначим это банахово пространство символом LP = LP(£1). Часто мы будем отождествлять элементы этого пространства с представляющими их функциями. Если р = 2 и f, gGi2(Q), положим (Л / f W FU) dx. Q Относительно этого скалярного произведения L2(Q) является гильбертовым пространством. Пусть f е Ll (R"). Преобразование Фурье f функции f опреде- ляется формулой f (g) = (2n)“n/2 J f(x)e~i<x- bdx, где I = (b и <x, I) = Xjgi + ... + xncn. Пусть 9* — множество всех С°°-функций f в R", таких, что для любого целого и любого а = (а1; ..., ап) функция (1+|х|2)^7 (X) ограничена в R". Множество 9? называется пространством Шварца или пространством быстро убывающих функций в R". Для любого действительного р, 1^р<оо, множество 9? содержится в Lp и является его плотным подмножеством. Более того, для любого q = (eq...ап) и любой f s 9? функция тоже принадлежит 9Р.
§ 3.2. ПРЕОБРАЗОВАНИЯ ФУРЬЕ 159 В частности, все производные f ограничены. Для любой функ- ции f е мы имеем (D7)® = i,a|gaH|), (^af)U) = ((-^fW). Далее, если f е L1 (R"), то If ®1 <11 flip для любой точки g е Rre. Из этих замечаний получается 3.2.1. Следствие. Если то ufe^. В дальнейшем все интегралы, в которых область интегриро- вания явно не указана, берутся по всему R". 3.2.2. Формула обращения. Если f е £?, то f(x) = (^rn!2 / f x^Rn. ◄ Пусть <pE^. Тогда, ввиду ограниченности f, функция <p(l)f(l) интегрируема. По теореме Фубини мы получаем (3.2.3) / <pG)f(g)e,u’ ^ = (2л)"п/2 /ф(^«. *>{Jf (</)£-'<*• ^dy]d^ = (2л)-ге/2 / f (у) dy J ф (I) е-чу-*' 5> dl = = (2л)-п/2 / f (x + 0 dt J ф (g) e~l 5>d| = / f (x+0 ф (/) dt. Теперь фиксируем gel? и положим ф(£) = £(е£), е>0. Тогда ф (0 = e~ng (t/e), и потому J ё (<£) f (£)ei dl = J f U + 0 6~n ё Ш di = = J f (x + 8/) g (0 dt. Так как функции fug ограничены, a f и интегрируемы (они принадлежат согласно следствию 3.2.1), то мы можем перейти к пределу при е->0 под знаком интеграла и получить g(0) J ^dl = f(x) j g(f)dt. Полагая g(g) = exp(4(l?+ ••• +£2)).
160 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ МЫ ВИДИМ, ЧТО £ (0 = ё (О, и потому g(0) = (2n)-"/2J g(t)dt=l. Используя это соотношение в приведенной выше формуле, мы получаем нужный результат: Цх) = (2лГ"'2 j ► 3.2.4. Следствие. Если f, (реУ, то J Это следует из (3.2.3), если там положить х = 0. 3.2.5. Следствие. Если f eL1 (Rre) и ё ^9\ го J gm^ \f(x + t)g(t)dt. Это следует из равенства (3.2.3), в доказательстве которого используется только ограниченность f и которое поэтому спра- ведливо для всех f е A1 (R"). 3.2.6. Следствие. Если f, g^^, то if, В частности, для любой функции f ^9> мы имеем || f ||£2 = || f || t. Пусть ср е 9> определяется равенством <р (0 = ^(0- Тогда, по формуле 3.2.2, g(x) = (2n)-n/2J^fe)eHx^>^. Взяв сопряженное выражение, получим, что ё (х) = (2л)_”/2 J <р (£) е~г«- d% = ф (х). Теперь наше предложение вытекает из следствия 3.2.4. ► 3.2.7. Замечание. Если f е Lp (Rra) для некоторого р>1, то для любой функции g е 9? произведение fg интегрируемо. Каждая функция f^Lp(Rn) определяет поэтому линейный функционал / на 9? по формуле (А ф) = / f (0 Ф (0 dt, ф е Я
§ 3.2. ПРЕОБРАЗОВАНИЯ ФУРЬЕ 161 Этот функционал f мы назовем преобразованием Фурье для функции f. Если при некотором q, I^q^oo, существует функ- ция g L9 (Rra) (L°° (Rn) — это множество измеримых функций, равномерно ограниченных вне множества меры нуль), такая, что (Л <р)= J g(x)<p(x)dx, ср6= 9>, то мы скажем, что f принадлежит L4(R"), будем отождествлять} с g и писать f = g. Заметим, что функция g, если она суще- ствует, определена однозначно с точностью до значений на мно- жестве меры нуль. Кроме того для f е Ll (Rn) это определение согласуется с данным ранее, ввиду следствия 3.2.5. 3.2.8. Теорема Планшереля. Если f е L2 (R"), то }eL2(Rra) и ИЛЬ = НЛ£г. ◄ Пусть f <=L2(Rre). Тогда существует последовательность {Д,} элементов У, такая, что || f — fv ||д2 —> 0. Согласно следствию 3.2.6, nFv—1^=11 Л-Л it» а отсюда следует, что НЛ-М£2->о при v, р,—>оо. Ввиду полноты A2 (R") существует функция gеL2(R"), такая, что llg-fvll£! не- очевидно, || g ||р = lim || fv || 2 = lim || fv ||д2 = || f ||L2. V->oo V->oo Кроме того, для любой феУ мы имеем f g(O<P(O^ = lim [ lim f fv(t)^(t)dt * *V->oo * V->oo J ввиду следствия 3.2.4. Так как fv->f в L2 и ф е L2, то из не- равенства Шварца следует, что для всех ф^У / = J f (0ф(/)dt = (f, ф). ► 3.2.9. Предложение. Формулу обращения 3.2.2 можно записать в виде h—x) = f (х), f €= 9>. Из теоремы Планшереля следует, что это соотношение спра- ведливо также для любой функции f L2 (здесь, конечно, равен- ство выполняется почти всюду). 6 Зак, 751
t62 ГЛ- 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Если теперь f е Ll (R"), то по следствию 3.2.5 для любой <р е мы имеем / Ф (Ф f (g) el <* dl = p (x + st) ф (0 dt. Если, кроме того, f^L1, то левая часть при е—>0 стремится к Ф(0) / для любого х е R". Кроме того, так как f е L1, то правая часть стремится в Ll (R") к f (х) J q(t)dt. Отсюда следует, что если f и f е Lx (Rn), то f(-x) = f(x) почти всюду. В частности, f совпадает (почти всюду) с ограни- ченной непрерывной функцией. 3.2.10. Предложение. Если f, g^L!(Rn), то / \f(x-y)g(y)\dy<<x> почти для всех х. Далее, если мы положим (f * g) (х) = J f(x- у) g (у) dy, то IlMgllpCIlfMIgllp- ◄ Достаточно доказать это неравенство для случая 0, Тогда по теореме Фубини J dx j* f (х - у) g (у) dy= \ g(y)dy J f(x-y)dx = = (J g(y)dy)($ f(x)dx}<co. > 3.2.11. Замечание. Если f, geL2(IRra), to f \f(x-y)g(y)\dy<oo почти для всех x и | J f(x-y)g(y)dy^\\f ||i2-||g||iS. Это тривиальное следствие неравенства Шварца. 3.2.12. Предложение. Если f, g^^, то f * g е и (f^g) = (.2n)n/2f.g.
§ 3.2. ПРЕОБРАЗОВАНИЯ ФУРЬЕ 163 ◄ Из очевидного неравенства I X |2 = | X - у + у |2 < 21 х - у |2 + 21 у |2 следует, что 1 +| х|2<2 (1 +| х- у |2)(1 +| у |2). Поэтому, согласно замечанию 3.2.11, для любого а = (аь ..., ап) и любого х е R" мы имеем (1 +1 х IT | Da (f *g) (х) | < 2n I f' )|д21|/||£2, где f(x) = (1 + |х |2)"Да/ (х), ^(x) = (l+|x|Tg(x). Отсюда следует, что Далее, (J * g) (I) = (2л)-п/2 J е~1 <*• dx J f (х - у) g (у) dy = = (2n)“"/2 J g (у) dy J f (x - y) e~l « & dx = = (2n)“n/2 J g(y)e~l^dy J f(x)e~“x’b dx^ 3.2.13. Следствие. Если f, g^&, to (fg)^(2nr,2f-g. Это вытекает из предложения 3.2.12 и формулы 3.2.2. 3.2.14. Замечание. Если f^Ll(Rn) или feL2(Rn) и g^SP, то функция f*g тоже определена (по предложению 3.2.10 и заме- чанию 3.2.11). Кроме того, если fv<^^ и fv->f в L1 или L2 в зависимости от того, принадлежит ли f к L1 или L2, то fv * g равномерно стремятся к f * g (если f е L2, то согласно замеча- нию 3.2.11, а если f^L1, то ввиду оценки |fv(g) — f(£)l< <||fv — f Нд.^О). Легко видеть также, что в любом случае произ- ведения fvg стремятся к f£ в L1. Отсюда следует, что (ft) = (2nr/2/g, если g е 9> и f е L1 (Rn) или f е L2 (R"). Аналогично, в этих пред- положениях, мы имеем (fe) = (2nrn/2jM. 3.2.15. Замечание. Все изложенные здесь результаты распростра- няются на функции со значениями в конечномерном С-векторном пространстве. Мы будем ими пользоваться и в этом более общем случае, не упоминая об этом явно. Va6*
164 ГЛ- з. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ $ 3.3. Линейные дифференциальные операторы Пусть V — произвольное С°°-многообразие размерности п и ^ = (Е, р, V), т| = (F, q, V) —два С°°-векторных расслоения над V. Будем считать, что rankg = r и rank т] = s. 3.3.1. Определение. Линейным дифференциальным оператором (или просто дифференциальным оператором) Р из расслоения | в 1] называется С-линейное отображение Р: C°°(V, £)->C°°(V, т]), такое, что для любого сечения seC“(V, 5) supp Ps cz supp s. Здесь C°°(V, £), C°°(V, г]) обозначают соответственно простран- ства С°°-сечений £ и т). Заметим, что это отображение порождает С-линейное отобра- жение Ру. C°°(U, £)->С“(С/, л) для любого открытого множества U cz V, которое тоже является линейным дифференциальным оператором. В самом деле, если a^U, то пусть ср —функция класса С°° с носителем в U, рав- ная 1 в окрестности а. Для любого seC°°(C, £) определим сече- ние <р$ е С°° (У, £), полагая f cp(x)s(x), если хеУ, (cps) (х) = 1 _ , г, 10, если х фи. А теперь мы можем взять (Pvs) (а) = Р (<ps) (а). 3.3.2. Предложение. Пусть Q — открытое множество в R" и Р— линейный дифференциальный оператор из в Тогда для лю- бой точки а е Q найдутся окрестность U э а, целое число /и > 0 и константа ОО, такие, что для любого и е= С“ (U \ {а}, г). (Напомним, что полунормы в Со* (U, г) определяются равенствами ◄ Предположим, что это утверждение неверно для некоторой точки а еО. Пусть Uo — относительно компактная окрестность а
§ 3.3. ЛИНЕЙНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 165 в Q. Тогда найдется открытое множество Д,<=Д0\{а} и сечение щ Со (U1, г), такое, что || Pih || 0>22|| ui Ik. Далее, множество U0\U[ является окрестностью а. По предпо- ложению, найдется открытое множество U2t=(U0\Ui)\{a} и сечение u2(=Co(U2, г), такое, что II Ри2 II о > 2 II «2 1Ь- Так по индукции мы можем построить последовательность открытых множеств, Uk a Uo \ {a}, UkQUl = 0, если &#=/, и последовательность сечений таких, что ||РМД|0>ЛК11*- Пусть ОО h й II «л На Очевидно, этот ряд сходится в С°° и, таким образом, и<=Со(и', г), где U' — относительно компактная окрестность UQ в Q. Кроме того, = 2“*|| uk ||“‘ • uk\Uk. Отсюда и из условия supp Pf cz supp f для всех f следует, что Pu\Uk = 2~k\\ uk\\^(Puk)\Uk. Так как || Puk || 0 > 22&|| uk ||ft, то существует точка xk^Uk, такая, что I Ри-k (xk) | > 22& || uk Ik, откуда | Pu (xk) | > 2*. С другой стороны, так как и еС” (Q, г), то сечение Ри непрерывно в Q (поскольку Pu е С°° (Q, $)) и потому 6 Зак. 751
166 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ ограничено в Uo. Это противоречие доказывает наше предложе- ние. ► 3.3.3. Теорема Петре. Пусть £1 —открытое множество в R" и Р — линейный дифференциальный оператор из $г в Тогда для любого относительно компактного подмножества Q' ёй найдутся целое число m 0 и С10-отображения аа множества Q,' в пространство линейных отображений Rr в R5 (т. е. (s X г)-матриц), такие, что для любых и^С°° (Q', г), хей' (3.3.4) (Рн)(х)= S aa(x)(Dau)(x). | <х| ◄ Пусть U — произвольное открытое подмножество Q. Предпо- ложим, что существуют константы О О, т>0, такие, что (3.3.5) ||Ри ||0<С||и 11^ для всех иеСо“([/, г). Докажем сначала следующее: 3.3.6. Если сечение (U, г) является m-плоским в точке а^ U (см. определение 1.5.1), то (Ри) (а) — 0. По лемме 1.5.2 существует последовательность {z/J элементов из Со° (U, г), равных нулю в окрестности а и таких, что || uv—и \\т —> О при v->oo. Согласно (3.3.5), Puv равномерно на U стремятся к Ри. Далее, так как supp Puv cz supp uv, a uv — Q в окрестности а, то (Puv) (а) = О и потому (Ри) (а) = lim (Puv) (а) = 0. Пусть еь ..., еГ — базис в Rr. Если иеС”Д, г), то « = И/еС°°([/, 1). Пусть ца, а, aet/, —моном Ра,а W = (X - af. Тогда Г U ~ а । Ца. а & Uj (б/) + f, I а К m j = 1 где f является m-плоской в точке а. Поэтому ввиду (3.3.6) г (Ри)(а)= 2 р(^.ае/На)£аМа)- |а| / = 1
§ 3.3. ЛИНЕЙНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 167 Отображение а*—>Р (ца, ав/) (а) является С°°-отображением й (а не только U) в R'’, так как На,а= J] О- Р<а а по условию Р (цр, ов/) есть С°°-отображение й в R5. Итак, мы получаем: 3.3.7. Если выполнена оценка (3.3.5), то существуют СП-отобра- жения аа множества й в пространство (s X г)-матриц, такие, что для всех u^C°°(U, г) (Ри) (х) = 2 аа W Ф“«) (х), х е U. I а| Теперь мы можем доказать теорему. Из предложения 3.3.2 следует, что если й' й, то существует конечное число точек х1} ..., xN^&' и константы С, пг>0, такие, что || РН||0<С||Н||т для всех и еС? (й' \ |J {xv}, г). Согласно утверждению 3.3.7, существуют С°°-отображения аа множества й' в пространство (s X г)-матриц, такие, что (Ри)(х) = 2 aa(x)(Dau)(x), xefl'\(J{xv). I a I < m Так как обе части этого равенства непрерывны в й', то мы полу- чаем уравнение (3.3.4). ► Следующая теорема представляет собой теорему Петре в более общей ситуации. 3.3.8. Теорема. Пусть V — многообразие класса С°°, £ и ц — вектор- ные расслоения класса С°° соответственно ранга г и s. Пусть Р — линейный дифференциальный оператор из £ в тр Тогда у каждой точки а V найдется окрестность U, диффеоморфная открытому множеству йсК", такая, что расслоения £ и ц тривиальны над U, а индуцируемый оператор из в над U имеет вид 2 аа (х) Da, |al где аа — некоторые (s X г)-матрицы класса С°°. Пусть V — многообразие класса С°°, aeF и та — кольцо ро- стков С°°-функций, равных нулю в точке а (см. определение, следующее за определением 2.1.8). Пусть £, ц — векторные рас- слоения класса С°° над V и Р — линейный дифференциальный опе- 6*
168 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ ратор из | в т]. Слои т) в точке а е V обозначим соответст- венно 1а, Т)а. 3.3.9. Определение. Порядком оР(а) оператора Р в точке a^V называется наибольшее целое число т, такое, что Р (fms) (а) #= О для некоторого ростка f е та и некоторого сечения s е С°° (У, g). Порядок Р определяется как шахоР(а). a<=V 3.3.10. Замечание. Легко проверить, что порядок оператора, зада- ваемого равенством (3.3.4), есть наибольшее целое число т, для которого существует мультииндекс а, | а | = т, такой, что аа #= 0. Следующее предложение принадлежит Хёрмандеру [2] и имеет большое значение для дальнейшего развития теории, так как оно приводит к теории псевдодифференциальных операторов. Так как локально всякое векторное расслоение изоморфно тривиальному, то мы можем говорить о локальной равномерной сходимости вместе со всеми частными производными последова- тельности элементов sv е С°° (V, £). Линейное над полем С ото- бражение L: С°°(У, £)->С°°(У, 1]) будем называть слабо непрерыв- ным, если для любой последовательности {sv} сечений из С°° (V, g), локально равномерно сходящейся вместе со всеми частными про- изводными к сечению sgC“(1'’, £), последовательность {Lsv} схо- дится равномерно на компактных подмножествах V к Ls. 3.3.11. Теорема. Слабо непрерывное С-линейное отображение L: C°°(V, g)->C°°(V, р) является линейным дифференциальным оператором порядка m в том и только в том случае, когда выполнено следующее усло- вие: Для любых seC°°(lz, с), a^V и любой действительной С°°-функции f на V функция х (Z) (а) — e~iKf(a> {L (seaf) (а)) является многочленом по Z степени ^.пг со значениями в т]а. ◄ Тот факт, что х(Z) — многочлен степени для любого линейного дифференциального оператора порядка ^т, непосред- ственно проверяется вычислениями в локальных координатах. Для доказательства обратного мы поступим следующим обра- зом. Пусть тп х(А,) = 2 МА s)(a)V. v = 0 Тогда отображение а>—>xv(f, $)(а)
§ 3.3. ЛИНЕЙНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 169 определяет элемент nv(f, п). Если теперь ..., ^ — действительные числа и fh fk — дей- ствительные функции, то мы положим e-»(V1+-+WL(se‘-4M1+-+W)= sXv(Zj f, S)t\ V = 0 где X = (Zb .... Xft), f = fk)- Мы видим, что xv(A, f, s)<=C°°(V, n) и для фиксированного Л и любого числа о>0 xv(uZ, f, s) = »vxv(X, f, s). Отсюда следует (например, по формуле Тейлора), что xv (Л, f, s) (а) — однородный по Ло ..., Ъь многочлен степени v. Пусть теперь а, b е V, a^b, U — окрестность {а, Ь} и <р: U -> Q — некоторый С°°-диффеоморфизм U на открытое множе- ство Q в R" (не обязательно связное). По формуле обращения 3.2.2 для любой р е Со° (Q) мы имеем р (у) = (2л)-га/2 j р(Л)ег<»> ?->dX, где р —преобразование Фурье функции р. Следовательно, если seC°°(V, |) и з0(х) = з(х)р(<р(х)), то s0 (х) = (2n)"n/2 J р(Л) е‘№ м+ +ЛА(Х)) s(х)... dln. Rn Так как отображение L слабо непрерывно, то отсюда следует, L (з0) (а) = 2л“п/2 / р (Л) L {зе* + - +Л«Я (a) dX = = (2n)~”/2^ | p(Z)xv(Z, q>, s) (a)e‘rt-tp(a)>dZ = V = 0g« = i S <Ta,v(a)(2n)-n/2 J v=0 j al=v где n),
170 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ поскольку, как уже отмечалось, xv(X, ср, s) (а) — однородный мно- гочлен по X степени v со значениями в т]а. По формуле обраще- ния получаем, следовательно, равенство т (3.3.12) L(s0)(a)=S S <ra,v(«)/-'“'(£»“Р)(<р(п)). v=01a 1=v Отсюда непосредственно делаем вывод, что если сечение sgC“(V, £) имеет носитель в достаточно малой окрестности а, то supp Ls с supp s; в самом деле, если b ф supp s, то достаточно применить (3.3.12) с функцией р, такой, что р(ф(х)) = 0 в окрестности b и = 1 в окре- стности supps, чтобы убедиться, что Ls = 0 в окрестности Ь. Та- ким образом, L —линейный дифференциальный оператор. То, что L имеет порядок ^т, тоже легко получается из (3.3.12). ► Пусть V — некоторое С°°-многообразие и g, г] — два С°°-вектор- ных расслоения над V. Пусть Р — линейный дифференциальный оператор из g в т] порядка т. Пусть Т* (V) — действительное кокаса- тельное расслоение V (§ 2.2) и р*: Т* (У) -> V — естественная про- екция. Пусть £ = (£, р, V), т] = (F, q, V) и Е X v Г (V) = {(е, и) е= Е X Г (V): р (е) = р* (и)} (другими словами, это множество состоит из троек вида: точка а е V, кокасательный вектор в точке а и элемент слоя Еа над а). Определим отображение ст: EXvT*(V)-+F следующим образом. Пусть а е V и соеТа(У). Обозначим через/ функцию класса С°° из пга, индуцирующую ковектор и, т. е. такую, что со — (df) (а). Пусть е е Еа и сечение s е Со° (У, g) таково, что s(a) — e (такое s всегда существует). Положим ст(е, со) = Р (fms) (а). Заметим, что если s(a) = 0, то сечение fms имеет в точке а нуль порядка > пг и, значит, в этом случае Р (fms) (а) = 0. Таким обра- зом, ст(е, со) зависит только от е, а не от выбора сечения s, удо- влетворяющего условию s(a) = e. Кроме того, если g<^ma и d(f — g)(a) = 0, то f = gmodm2 и потому fm — gm е m™+l. Следо- вательно, для любого сечения seC(V, £) мы имеем Р (fms) (а) = Р (gms)(a). 3.3.13. Определение. Определенное выше отображение о = оР: Е XvT(V)^F называется символом оператора Р.
§ 3.3. ЛИНЕЙНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 171 3.3.14. Определение. Линейный дифференциальный оператор Риз | в т| называется эллиптическим, если для всякого сое Ta(V), со=^0, С-линейное отображение ста(со): Ea-+Fa, е^о(е, со) инъективно. В этом случае мы будем называть Р просто эллип- тическим оператором из | в т]. 3.3.15. Примеры, (а) Пусть V — некоторое С°°-многообразие размер- ности п и Лр = :ЛР (У) — множество С°°-дифференциальных р-форм на V (с комплексными значениями). Если = А (С) — расслое- ние комплексных р-форм на V, то Лр — С°° (У, <§ГР). Внешняя про- изводная d: &Р-+£ФР^ является дифференциальным оператором порядка 1 из <ор в <§Г₽+1- Символ оператора d: задается равенством <У (в, Со) = £?С0, в С= (Sа, (£> tEi Та (У) (заметим, что <о°а канонически изоморфно С, и, значит, произве- дение есо имеет смысл). Отсюда мы сразу получаем, что оператор d: эллиптический. (b) Пусть У — комплексное многообразие комплексной размер- ности п, и пусть ^₽’9 — пространство С°°-дифференциальных форм типа (р, q) на У. Если ^р'4 — расслоение форм типа (р, </), то Г/А’ ч _ Q°° ^>р. (см. § 2.4). Оператор д: зФр' 4 Л!>' 9+1 является дифференциальным оператором порядка 1 из <ор' 4 в &р'9+1. Если <7 = 0, то символ д определяется равенством о (е, со) = соэ Д е, ее °, со е Т*а (У), где со0 — проекция со на <§Г0,1 (У, а) с20(У). Заметим, что если со — действительный ковектор, то отображение со—>со0 инъективно. Так как е имеет тип (р, 0), а со0 —тип (0, 1), то со0 А е = 0 в том и только в том случае, когда со0 = 0, е = 0. Отсюда следует, что оператор д: Л':'п —>1 эллиптический. (с) Тривиально проверяется, что оператор из Оу в на откры- том множестве в Rre, который задается условием (и1; ..., ur)i—>(Aub ..., Аиг), эллиптический. Он называется оператором Лапласа. Мы будем обозначать его тоже через А.
172 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Пусть V — ориентируемое С°°-многообразие, счетное в беско- нечности, 2* (К) — расслоение комплексных ковекторов и = д"£’(У). Если 1> = (Е, р, У) — произвольное векторное расслоение над V и g* — сопряженное ему расслоение, то мы положим В' = Г®с<Г и назовем расслоение g' транспонированным к g. Естественная, двойственность между векторным пространством и ему сопряжен- ным определяет для каждой а е V отображение Ва: Е'аХЕа-+%Па, l' = (E', р', V). Это дает отображение В: С°°(У, g')XC°°(y, g)->C°°(y, <Г), определяемое следующим образом: если s' е С°° (У, g'), seC°° (7, g), то В (s', s)(a) = Ba(s' (a), s(a)). Если supp s fl supp s'— компакт, то В (s', s) есть n-форма класса C°° на У с компактным носителем, и мы положим {s', s)E = (s', s) = J В (s', s). V Определено также скалярное произведение (s, s')>, (замечание 3.3.16 (а)), причем (s, s')?, = (s', s)^. 3.3.16. Замечания, (а) Очевидно, (I'Y = ft')’ ® «Г = g ® (&y ® Sn, а это канонически изоморфно g, так как бэ"г — линейное расслое- ние и мы можем применить замечание в конце § 3.1 (о том, что т] ® rf канонически тривиально, если расслоение ц линейно). (Ь) Если g — тривиальное расслоение, g = (E, р, У) и /г: g->y X С? — изоморфизм, то мы имеем изоморфизм /г’: |*^У ХС?, определяемый как обратный транспонированному к h (т. е. /za = ^a' для каждой точки a s Уj. Кроме того, если х <= Еа, У^Еа, ТО ? / U) = 2 Х!Уь
§ 3.3. ЛИНЕЙНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 173 где ft(x) = aX(xb xq), h'in^aXiih........... yq). Мы будем отождествлять точку h(x) с ее проекцией (xlt xq) в С?. 3.3.17. Предложение. Пусть Р — линейный дифференциальный опе- ратор из в fl's на открытом множестве й с: R", задаваемый равенством (Ри)(х) = S aa(x)Dau(x). |Ct Тогда существует единственный линейный дифференциальный опе- ратор Р* из в ft,-, называемый формально сопряженным к Р, такой, что j (Ри (х), v(x))dx = | (« (x), P*v (х)) dx Q Q для всех и е Со° (й, г), цеСо°(й, s). Более того, Р* задается фор- мулой (p*»)W = 2 (-i)|a|Da(4W»W). |aKm [Здесь скалярное произведение (w1; «2) векторов в Сг определено равенством Г (.Щ, Щ>) ~ ' (^/Ь • • • > ^/г)> v=l ZA —матрица, транспонированная к А, и А—матрица, элементы которой комплексно сопряжены соответствующим элементам А.] Это легко получается из формулы | ф(х) Daty(x)dx = ( — l)|a| | (х) "ф (х) dx, <> Q где ф, ф е С” (й). 3.3.18. Теорема. Пусть Р — линейный дифференциальный оператор из | в т|, где т\ — векторные расслоения над V. Тогда существует единственный линейный дифференциальный оператор Р' из х( в такой, что (3.3.19) (s, P't'\ = (Ps,t'\, для всех (7, £), t' е СГ (V, ц')- 4 Очевидно, если t' <= С” (у, т/Х то сечение p7eCo°°(V, g'). удовлетворяющее (3.3.19) для всех «еС"(7,Й, определено одно- значно. Более того, если сечение t' равно нулю на открытом
174 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ множестве U с: V, то (Ps, t') , = 0 для всех s с supp s cz U, так что если выполняется (3.3.19), то (s, P't')^, = Q для всех s с supp s с U, а отсюда следует, что P't' равно нулю на U. Следовательно, до- статочно доказать существование Р' для случая, когда V — откры- тое множество йсК", а £ и ц тривиальны над й. Пусть hi: >->Й X Cr, h^: ц -> Й X С5 — изоморфизмы и hi и ^ — соответствующие изоморфизмы сопря- женных расслоений (замечание 3.3.16(b)). В терминах этих изо- морфизмов пусть Р задается равенством (Р«)(х) = У аа (х) Dau (х). | а| Ст Если dx\ А • • • A dxn означает стандартную n-форму на й, то любой элемент t'a (= Fa = Fa ® можно единственным образом записать в виде < = §2 ® (dxx Л ... Л dx^a, ga е= Fa. Если t' е Со° (й, т/), t' = g ® (</X] Л ••• Л dxn), положим P't' = f ® (dx! Л ... Л dxn). Здесь f определяется равенством л;а)=р-(л;(я)), /’“ — оператор, формально сопряженный к Р, как в предложении 3.3.17, и для любого оператора А = 3са(х)£»% по определению Если s е Со° (й, %) и t' то же, что и выше, то (Ps, t'\, = j (Рй£ (s), /г* (g)) dxx /\ ... A dxn = = f (Ms)- P’^W^ A •. A dxn = (s, P't'\,. ► 3.3.20. Определение. Оператор P', определенный выше, называется (формально) транспонированным к Р. 3.3.21. Замечание. Если дано R-аналитическое многообразие V и над ним R-аналитические расслоения £ и ц, то говорят, что опе- ратор Р: C°°(V, l)^-C°°(V, т|) имеет аналитические коэффициенты,
§ 3.4. ПРОСТРАНСТВА СОБОЛЕВА • 175 если сечение Ps аналитично всякий раз, когда сечение s анали- тично. Легко видеть, что в терминах локальных координат на V и (аналитических) изоморфизмов между |, т| и тривиальными рас- слоениями, это имеет место в том и только в том случае, когда Р задается равенством (Ри) (х) = 2 аа W ^аи (х), | а | т где все аа являются R-аналитическими отображениями в простран- ство (s X г)-матриц. Кроме того, тогда и транспонированный опе- ратор Р' имеет аналитические коэффициенты. 3.3.22. Замечание. Если Р — эллиптический оператор из £ в т| и rank £ = rank т|, то оператор Р' тоже эллиптический. Заметим, что условие на ранг необходимо, так как если существует эллипти- ческий оператор из расслоения £ в расслоение т], то rank g rank т|. Теорема 3.3.3 принадлежит Петре [1], теорема 3.3.11—Хёр- мандеру [3]. § 3.4. Пространства Соболева Пусть й—открытое множество в R", р — действительное число, р^1 и q, m — целые числа, q 1, т^О. Пусть f = ..., fq): Й^С’ — отображение класса С°°. Рассмотрим пространство С°°-отобра- жений f: й С’, для которых <7 | а К т /=1 О В этом пространстве мы определим норму \f\n,p, полагая | а| /=| Q (заметим, что неравенство треугольника следует из неравенства Минковского). Когда надо указывать зависимость от й, мы будем обозначать эту норму через | f р. 3.4.1. Определение. Пополнение вышеуказанного пространства по норме |f|m,p называется пространством Соболева Попол- нение относительно нормы |f|m, р пространства С“ (й, q) всех С°°-отображений множества й в С’ с компактными носителями обозначается символом Нт>р(й).
176 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Пусть »i, v2 е С’, Vj = (0д, Vjq). Положим, как обычно, Q («Ь V2)= 2 VivV2v. v»l Если f = (f,, ..fq): Й-^С" и g = (gb ..gq): Q-»C® — измеримые отображения, мы положим q {f, g> = ^i J fv W gv (*) dx = J (f (x), g (x)) dx v=! Й Q в предположении, что все произведения fv(x)gv(x) суммируемы. 3.4.2. Замечания. Если f — , fq) и все fv^Lp(Q), то мы это будем записывать так: f^Lp(Q,q) или f е Lp. Если существуют функции /га е Z? (й, <?), |а|^т, такие, что J (f (х), Dag(x))dx = (-!)'al J (ha(x), g(x))dx Q Q для всех g e Co° (Й, q), мы будем говорить что f имеет в Lk сла- бые производные до порядка т включительно. Отображения ha называются слабыми производными f. Заметим, что ha, если они существуют, определены однозначно (с точностью до значений на множествах меры нуль). Если теперь {/J — последовательность элементов из С°° (й, q), сходящаяся в Нт, р(й), то {£)afv} сходится в Lp (й) при | а | т. Пусть fa — предел этой последовательности в Lp. Тогда {fv, Dag> = (- l)|al <Dafv, g>^(~l)|a| <f, g> для любого отображения g <= С™ (Й, q). Отсюда следует, что fa — слабые производные отображения f = fo = limfv. В частности, если {fv}, {gv} —две последовательности, определяю- щие один и тот же элемент из Нт. р (й), то lim£*"fv = lim Dagv при |a|^m. Таким образом, если р(й), мы можем определить Daf, полагая Daf = lim Dafv, если fv-+f в Ят>р(Й), fv е С00 (Й, g). Пусть теперь и f е Нт< р (й). Тогда существует после- довательность {Д,}, q), фундаментальная относительно
§ 3.4. ПРОСТРАНСТВА СОБОЛЕВА 177 нормы | g |m, р и определяющая элемент/. Так как | g |m,_ р <| g р; то последовательность {fv} фундаментальна и относительно нормы |g|m, р. Поэтому она определяет некоторый элемент р(й), не зависящий, очевидно, от выбора последовательности {/v}, опре- деляющей f. Положим f' — i (/) = г'т, т' (/)• 3.4.3. Предложение. Линейное отображением Нт, р (Q)Нm’t р (Q) является вложением. 4 Если 1(f) = 0 и {/^ — последовательность в С°°(й, q), опре- деляющая /, то /v—>0 в Lp (й). Если §еС0“(Й, q), то 0 = lim </v, Dag) = (- 1У а 1 lim (Dafv, g) = (- 1)'a 1 </a, g) при | a | /и, откуда fa = 0 при | a | т и, значит, / = 0 в Hm, р (й). ► Очевидно, (3.4.4) i(Wra,p(Q))cHm;p(Q). Далее, если <р <= Со° (й) = С™ (й, 1), то ф/ е Нт, р (й) для любого / е Ят, р (й), и тогда £>“(ф/) = 2 (р • Da~^f при |а|<т. Кроме того, очевидное включение С“ (й) с: Со° (R”) порождает ото- бражение сохраняющее норму. Поэтому мы будем часто отождествлять Нт, Р(й) с подпространством в Нт, P(R"). 3.4.5. Неравенство Пуанкаре. Пусть й — ограниченное открытое множество в R” и / е (й). Тогда если число М (зависящее только от й) достаточно велико, то Х2’ -м и по неравенству Шварца
178 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Отсюда следует, что для любой функции f е Нт, р (й) имеет место неравенство 1Лт.₽<С(й, m) 2 |D7lo,P- | a |=m 3.4.6. Замечание. Для наших целей наиболее интересен случай р = 2. В этом случае мы пишем Ят.2(Й) = Ят(Й) и Дт.2(Й) = Дт(Й), I f Im, 2 — I f Im- Норма |f |m, очевидно, индуцируется скалярным произведением <7 ______ [f, g]m = [f,g]= S S / Daf, (x) Dagj (X) dx. | a К m j = \ Q Таким образом, Ят(Н) и Hm (й) — гильбертовы пространства. Ра- ботать с этими пространствами несколько легче, чем с общими пространствами Дт,р(й) по той причине, что в них действует теорема Планшереля. Если m = 0, то H0(Q) = A2(Q) и вместо [f, g]0 мы будем писать (f, g}. 3.4.7. Предложение. Пусть и f— преобразование Фурье для f. Тогда существуют не зависящие от f константы ch с2>0, такие, что с, J(i+omimm<i/x<c2 /(i+i^irrmi2^. R" R" 4 Неравенство достаточно доказать для Co°(Rre, q), так как это пространство плотно в Hm (Rre). Легко видеть, что существуют кон- станты с2>0, такие, что (3.4.8) оа+штс 2 1Г1Чс2(1 -Ш1Т, | а К т Если теперь f = fq), то по теореме 3.2.8 Я Я S S SJID<M)I4= I a /-1 I aj /я1 Я = S X/iri2if/(B)M, |a|<m /=1 и наше предложение следует из неравенств (3.4.8). ► 3.4.9. Теорема. Имеет место равенство Hm (R") = нт (Rre) = р е L2 (R\ q): / (1 +11 |2)m | /W ^ < °° I • I R" J
§ 3.4. ПРОСТРАНСТВА СОБОЛЕВА 179 4 Пусть функция 1) равна 1 при | х\ I и всюду О <р (х) 1. Пусть f е Нт (R'1) и д,(*) = ф(аЛ(*)- Тогда fv имеет компактный носитель. Кроме того, Dafv = S (J) D^vDa~^f, Tv (х) = Ф (v) • а Очевидно, все DRpv равномерно по v ограничены, Z)3(pv->0 при v->оо в каждой точке R", если |р|^1, и £)°tv = tv->1. Следо- вательно, D"fv->Daf в L2(Rre, q\ |a|^m, и, значит, fv-+f в Hm(R"). Так как все Hm(Rn), мы сразу получаем, что Hm(Rn) = Далее, по предложению 3.4.7, Hm(Rn)cz:h^L^n,q): j (1 Wfl? ft) I2 <ft < °° !• i r" J Обратно, если pi+imfft) m<°° R" для некоторой f e L2 (Rre, <?), to (i + ц l2)m/2fft) e £2(Rn, q). Поэтому найдется последовательность вектор-функций {gj в д’, такая, что ^vft)-*(l +^lT/2fft) в L2(Rn, q). Далее, £v-(1+IBI2)-'"/2^. так что, по формуле обращения 3.2.2, найдется hv^.9!’, преобра- зование Фурье которой есть gv(l -I-1£ |2)-т/2. Тогда /iv е 7/m(Rrt), а так как / (1 +1В IT I йv ft) - & I2 di = /1 ё. (I) - ft) I2 <ft -> о при ц, v->oo, то из предложения 3.4.7 следует, что hv сходятся в Очевидно, hv-+f в L2(Rre, q), и отсюда следует наша теорема. ► 3.4.10. Определение. Мы уже видели, что Дт>р(й) вкладывается в Н0,р (й) = Lp (Q, q). Мы будем говорить, что отображение f е Lp (й, q) строго дифференцируемо в Lp до порядка т (вклю- чительно), если для любого подмножества й' е й сужение f | й'
180 ГЛ. 3. линейные эллиптические дифференциальные операторы принадлежит образу Нт. р(й') в LP(Q', q). При р = 2 мы будем просто говорить, что f строго дифференцируемо. 3.4.11. Теорема. Пусть <р — функция класса С°° с компактным но- сителем в R'1, qp^O, 8иррфс:{х; |х|<1) и | ф(х)dx = 1. Пусть R" фЕ (х) = е~пф (х/е) и О, — открытое множество в R". Для f е Lp (й) И ,Г Е R" положим (Фе * f) = J Фе (х - у) f (у) dy. а Тогда: (a) в Lp (й) при е—>0 для любой f <= Lp (й); (Ь) если f е Нт, р (й), то Da (фе * f) = Фе * Daf, I а К пг. 4 Продолжим f в Rrt, полагая f(x) = 0, если х0й. Тогда (фе *f - f) (х) = J фе (х - у) (f (у) - f (х)) dy = = J Фе(-y)(f(y + X)— f(x))dy. ! У 1<е По неравенству Гёльдера при р>1 мы имеем J |фе(г/)Г' dy) j \f(y + x)-f(x)\pdy, / 1р|<е где р' определяется из равенства 1/р+ 1/р' = 1. (Если р— 1, то пер- вый множитель справа надо заменить на sup| фЕ(у) | = e-rasup| q>(y) |.) Интегрируя по R'1 относительно х и извлекая корень степени р, мы получаем 11фе*/~Л1дР<е-п/Р||ф||//р'1 j dy J\f(x + y)-f(x)\pdx\ (где || ф ||Lp' = sup | ф (г/) |, если р = 1). Отсюда f <tyVlML0' sup ( f\f(x + y)-f(x)\p dx) = , J / lz/l<e ' / i- Л/Р = СИФ||Lp- sup I \f(x + y)_f(x)\p dx) . Последний член стремится к нулю при е -»0; это очевидно, если f непрерывна и имеет компактный носитель, а для произвольной f е Lp (й) это следует из того, что непрерывные функции с ком- пактными носителями плотны в Lp (й). Этим доказано утвержде- ние (а). II Фе * f - f V < ВП/Р1
§ 3.5. ЛЕММЫ РЕЛЛИХА И СОБОЛЕВА 181 Чтобы доказать (Ь), рассмотрим последовательность {/%} эле- ментов из С~ (й, q), сходящуюся в Нт, р (й) к данному элементу /е=Ят>р(Й). Тогда £>а(фе */)(-*)= f D\(x-y)f(y)dy= lim f (£)афе)(х — y)fv(y)dy = a '”>OOR« = lim f <pe (x - y) Dafv(y) dy = v’>°° = / Фе U - У) (y) dy = (фе * (т>7)) (x). > <2 3.4.12. Теорема. Если f^Hm,p(Q) и все D'lf строго дифференци- руемы при |а|^т до порядка пг' в Lp, то f строго дифференци- руема в Ьр до порядка пг + пг' включительно. 4 Домножая f на подходящую С^-функцию с компактным носителем, мы можем считать, что f имеет компактный носитель. Если функция фе определена, как в теореме 3.4.11, то фе*/ при- надлежит классу С°°. Далее, по теореме 3.4.11(b), Т>а(фе*/:) = ф8*(Т>7)> |а|</п. Так как Daf<=.Hm’, р(й), то для любых а, р, | а |<пг, |р | <пг', мы имеем Да+(3 (ф8*/) = О3 (фе * ^7)=Фе* (£>7) (теорема 3.4.11 (Ь)). Далее, при е->0 это сходится в Lp (£1, q) (по теореме 3.4.11(a)), а отсюда следует, что f е Нт+т'. р (й). ► § 3.5. Леммы Реллиха и Соболева 3.5.1. Предложение. Пусть й — ограниченное открытое множество в R'1, у —функция класса С°° с носителем в шаре {х: | х |< 1}, ф(х)^0, | ф(х) dx = 1; ₽'г положим фе (х) = 8-«ф(х/е). Пусть р~^ 1 up' определяется из равенства \/р + l/p' = 1, если р > 1. Тогда при ml>l для любой мы имеем I Фе * W 11, Р < Ле II Ф V р, где А — константа, зависящая только от й, пг и р; при р = 1 под || ф ||др' надо понимать sup | ф (х) |.
182 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 4 Пусть / — функция класса С00 в Rre и supp/сзй. Для любых х, у е R” мы имеем п, 1 f(x + у) - f (х) = 2 У! J ~ (х + ty) dt. /~1 о > Значит, если gy(x) = f(x + y)-f(x), то по неравенству Гёльдера р dt, /-1 п 1 /=1 Следовательно, при | у | е мы имеем (3.5.2) UAp<n8|fl1>p. Далее, (<Pe*f)W-fW= / Фе (у) (ZU-г/WWW r" а так как supp фе с {х: | х | е), то отсюда при р>1 мы получаем, что Кфе*/)^)-/ WI<(J |фе(г/)1р,^г/)'/₽ ( / \f (х + y)~f (х)\р dy\Vt’ = \1г/|<е / = е~п/р || ф ||Lр’ / j | gy (х) Г dy\,P , \|»1<8 / причем это неравенство, очевидно, имеет место, даже если р=1. Поэтому, согласно (3.5.2), = ЛеЦф||^|/|1> р.
§ 3.5. ЛЕММЫ РЕЛЛИХА И СОБОЛЕВА 183 Применяя это к производным Daf, 1, и используя плот- ность Со (й, q) в Нт, Р(й), мы получаем требуемое неравенство. ► 3.5.3. Предложение. Пусть й — ограниченное открытое множество в и k — непрерывная функция с компактным носителем в Тогда для любой f е Lp (й) функция Kf, определяемая по формуле (Kf) (х) = J k (х - у) f (у) dy, а принадлежит Lp (Rn) и оператор К: Lp (й) Lp (Rn) вполне непрерывен (pj>l). 4 Первое утверждение очевидно, так как для f <= Lp (й) функ- ция Kf непрерывна и ее носитель содержится в компакте S = {х + у: хей, ye supp k}. Поэтому достаточно показать, что для любой последователь- ности {/J элементов из Lp (й) с || fv ||дР 1 найдется подпоследова- тельность индексов [vj, такая, что {K/v } сходится равномерно на S. По теореме Асколи, для этой цели достаточно показать, что семейство [Kf'. || f ||дР 1} ограничено и равностепенно непре- рывно. Для б>0 положим т| (б) = sup | k (а) — k (b) Ia-Ь | Тогда, по неравенству Гёльдера, Itff(x) l<IIMLP'liniLP \Kf(x)~Kf (у) I <n(l x-y I) J If (0 [dt (| x-г/|)||f V (так как й ограничено). ► 3.5.4. Лемма Реллиха. Пусть й — ограниченное открытое множество в и 0 m' < m. Тогда естественное вложение i: Hm, P(Q)-+Hm', Р(й) вполне непрерывно. •4 Для произвольного непрерывного оператора Т: Hm,p(Q)-^Hm,,p(Rn) положим (pfl I f Im, р
184 ГЛ. 3. линейные эллиптические дифференциальные операторы и обозначим через / композицию вложения i и изометрии Нт', р (й) -> Нт’, р (R"). Пусть Те - оператор где функ- ция фЕ та же, что в предложении 3.5.1. Тогда, по этому пред- ложению, II Д>-/||—>0 при е—>0. Далее, каждый оператор Те является вполне непрерывным по предложению 3.5.3. Так как равномерный предел вполне непре- рывных операторов тоже вполне непрерывен (легко доказываемый факт), то теорема доказана. ► 3.5.5. Предложение. При р = 2 это утверждение доказывается более просто с помощью теоремы Планшереля. 4 Пусть | f \m 1. Рассмотрим в С” функцию f (В) = (2лГ'1/2 j f (х) е~1 Р1^1+ +хЛ) dx, где £ = (|1, ..., УеС". Если | лежит в компактном множестве SczCn, то по неравенству Шварца 1Ш |<C(S)|f \m, и, таким образом, f ограничена на S равномерно при |f|m^l. Далее, функция f, очевидно, голоморфна в С”. Следовательно, по теореме 1.1.3 из любой такой последовательности {Д} можно извлечь подпоследовательность (ДД, сходящуюся равномерно на компактных подмножествах в Сге. Мы утверждаем, что соответ- ствующая последовательность [Д ] сходится в Hm_|(Q). Пусть дано е > 0 и М > 0 выбрано так, что 1 + | £ |2 > 1/е при | £ | М. Тогда, по предложению 3.4.7, 1 I?.,< <с2е J (1 +1В1Г |ДГ ~?vsR + Л(8) / |Дг-^рУ Jg|>Af I5KM где константа А(е) зависит только от е и т. Так как [ДД схо- дится равномерно на компактных подмножествах Rre, то последний интеграл стремится к нулю при г, s->-oo, откуда Йт |Д -Д5|2 <с2е Йт f (1+1У2)т| fvr-?vj2^<cse. ► г Я->ОО 1 ' 'т * Г, s->oo Кп 3.5.6. Предложение. Пусть Q — ограниченное открытое множество в R'1 и т — целое неотрицательное число. Тогда для всякого М > 0
§ 3.5. ЛЕММЫ РЕЛЛИХА И СОБОЛЕВА 185 найдется константа А>0, зависящая только от М, й и tn, такая, что для всех f е Нт (й) выполняется неравенство /(1+1£12Г1шт<а / (i+iBi2)mifa)i2^. |5|>АГ 4 Если это утверждение неверно, то существует последова- тельность С°°-функций с компактными носителями в й, такая, что J (1+1тшм=1. Rn / (1+imf,(m-*o при v-*oo. 151 >м Если снова считать g = (g1( £л) комплексным, то голоморфные функции К £) = (2п)~п12 J fv (х) е~1 - +х^п) dx а будут равномерно ограниченными на компактных подмноже- ствах С", и потому можно считать, что fv сходятся равномерно на компактных подмножествах С" (в частности, на таких под- множествах R") к голоморфной функции g (см. теорему 1.1.3'). Далее, / (i+m2ma)M= м<нкм+1 = lim f (l+|g|2)m|Fvft)l2^ = O, V'*°°M<| 51 <М+1 согласно сделанному предположению. Следовательно, g(&) = 0 для всех действительных таких, что М | £, | М + 1. Так как g голоморфна в С", то отсюда следует, что g = 0, и потому fv стре- мятся к нулю равномерно на компактных подмножествах С". В частности, / (l+lglTlWM^O при v —> оо. 151 <М Так как, по предположению, / (1 151 >м
186 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ то отсюда следует, что j(i+mU)M^o. Р,г Мы получили противоречие. ► 3.5.7. Замечания. Используя теорему Планшереля, мы можем следующим образом записать неравенство Пуанкаре: существует константа С (й, tri), такая, что для всех f е Нт (й) /(i+i'sir 1нют) р'г Таким образом, предложение 3.5.6 можно рассматривать как уси- ленную форму неравенства Пуанкаре. Далее, для неравенства 3.5.6 можно получить наилучшую из возможных констант. Это связано с очень интересными вопросами анализа Фурье; см. Фукс [1]. 3.5.8. Предложение. (Полярные координаты в Rre.) Пусть R+ = {t <= R: t > 0} « Sn~x — сфера размерности п— 1 в R" (см. при- мер 2.5.6). Пусть th R+ X S"-1->R"\ {0} — отображение (t,x)^-^-tx. Тогда существует (п-1)-форма и на 8п~\ такая, что ® (dy, Д ... A dyn) = tn~' dt A ®. Кроме того, J <°*o- s"-* 4 Если X], ..., xn— сужения на S"-1 координатных функций в R'\ то мы можем взять и = 2 xk dxt A ... A dxk A ... A dxn, k^\ где знак А над dxk означает, что этот множитель надо опустить. Тот факт, что J ®¥=0, sn-l следует из условия j dyi A ... A dyn>Q, u где S'1-1), I = {t: 1/2</<!}. ►
§ 3.5. ЛЕММЫ РЕЛЛИХА И СОБОЛЕВА 187 3.5.9. Лемма Соболева. Пусть й — открытое множество в R" и m~>nlp. Тогда для всякого компакта /С<=й найдется константа С>0, такая, что sup If (х) I < С I f Im, Р x^K для любой f е С°° (й), у которой supp f czK. 4 Можно считать, что й = R'1. Далее, для заданного К найдется компакт LczRn, такой, что функция g = gy: х f (х + у) имеет носитель в L для любого у <= К. Таким образом, доста- точно показать, что для любой f <= С°° с supp f cz L 1/(0) 1«ЖР. Пусть ft: R+ X S'1-1 ->Rre \ {0} — отображение, определенное в предложении 3.5.8. Если f еС°° (Rre), положим g = f°ft. Тогда частные производ- ные dmg (t, x)ldtm можно получить следующим образом. В R'1 существуют однородные многочлены qa степени т, такие, что (3.5.10) y = -&(t,x) = tx-, I а \=т в частности, функции qa (у/\\ у ||) ограничены. Если М — достаточно большая константа и х е S'1-1, то м м о о Домножая на со и интегрируя по S'1”1, мы получаем м f(0) / со = Cm J / S'1-! Sn~l 0 откуда м (3.5.11) f(O) = C'm j J A<o = 0 = c'm J tm~n g„t{y)dy, / = ||y|| II У II (по предложению 3.5.8), ввиду того, что J ®^°; s«-i
188 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ здесь gm(у) задается формулой (3.5.10). Если р> 1, из неравенства Гёльдера получается, что I ИО) |<с' ( J t^p'dy\Up'( j \gm(y)\Pdy}1,P , / кинем / где 1 Ip + 1 Ip' = 1. Так как m > n/p, to (m — ri) p' + n — 1 > — 1, и потому м J t{m~n} p'dy = 1(т-п}р'+п-'dt j o=c"<oo. о sn-l Кроме того, ввиду (3.5.10), / \gm(y)\P dy<, const-\f\pm> p, 11 У II <M откуда IHO) KC|f |m,p> что и требовалось. Если р=1, т~^п, то требуемое неравенство следует непо- средственно из (3.5.11). ► 3.5.12. Следствие. Если й — открытое множество в R" и К —ком- пактное подмножество й, то sup |f(x) | |m р при m>nlp для х^К любой f е С°° (й, q). Для доказательства достаточно применить лемму 3.5.9 к ком- понентам ф/, где фЕСДй) и ф(х) = 1, когда хе К. 3.5.13. Предложение. Пусть й — открытое множество в R" и ш>п/р. Тогда всякая функция f еЯ,„1П(й) почти всюду совпадает с функ- цией, обладающей непрерывными производными порядков ^.т — ~\п/р] — 1; здесь [X] — наибольшее целое число, не превосходящее X. 4 Домножая f на подходящую функцию с компактным носи- телем, мы можем считать, что /е//к,р(й) и что множество й ограничено. Пусть Л,<=со°°(й, q), |A,-fkP-*Or Согласно следствию 3.5.12, для любого компакта Ксй найдется С>0, такое, что sup | D° (И - И) (х) I < СI Dа (fv - /ц) I а р < х^К при v, Ц->оо, \а\<т —(п/р). Следовательно, при \а\<т — (п/р) производные Dafv сходятся равномерно на компактных подмножествах й. ►
§ 3.5. ЛЕММЫ РЕЛЛИХА И СОБОЛЕВА 189 3.5.14. Предложение. При р = 1 или р = 2 лемма 3.5.9 доказывается более просто. 4 Случай р=\. Если М достаточно велико, то *1 хп f U) = j . . . j dtn> -м ~м и потому из неравенства Гёльдера получается, что при т~^-п и Р> 1 (3.5.15) \f(x) | <C|f |m, р. Отсюда следует наше неравенство. Случай р = 2. Ввиду того, что / (х) = (2я)~'г/2 / /W<JC’ = = (2ri)~nl2 f ei<х'£>(1 + IB \Tml2Т(В)(1 +1В 12Г4, Rn из неравенства Шварца следует, что Н(х)12<с/(1 +^|2)-m^J|fft)|2(l+lBl2)m^<C/|f|^ Р,г к" (по предложению 3.4.7), так как при т>п/2 / (1 + IB \Tmdl< оо. ► к" О Полезно сделать следующее замечание о нормах в 17m(Q): 3.5.16. Предложение. Для любого 8>0 найдется константа С(е)>0, такая, что lfl^_I<8|H^ + C(8)|f|2 для всех 4 Доказательство достаточно провести для feCo°(Rra). По предложению 3.4.7, IHL1 /(1+|в|2Г“'IHB) 14. к" Для данного е>0 найдется константа С(е)>0, такая, что (1 + I В IT"1 < ес2-' (1 + | £ |2)т + С (в)
190 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ для всех g <= R". Поэтому / (i + ig +с(8) / ihM Rn ₽'г и доказательство завершено ввиду предложения 3.4.7. ► 3.5.17. Замечание. Это предложение эквивалентно следующему: для любого е>0 найдется константа С(е)>0, такая, что для всех Лемма Реллиха останется верной, если мы заменим Нт, р(й) на //т.р(й), в случае, когда граница й достаточно гладкая (см. Реллих [1]). Имеется несколько доказательств леммы Соболева. Сам Соболев [1] получил несколько весьма точных неравенств. Однако большинство из этих доказательств намного сложнее, чем при- веденное выше. § 3.6. Неравенства Гординга и Фридрихса В этом разделе мы будем рассматривать дифференциальные операторы из в на открытом множестве йсРп. Предполо- жим, что, оператор задан в виде (Ри) (х) = 2 аа W Dau (х), и е С“ (й, г). | а К т Непосредственно видно, что Р (Г») (*о) = т\ 2 • С”аа (*о) |а|=/п где п = (У1, ..., »f)eCr, хоей, f е тХа и ^1== ~дх^х°)" Положим Рр (X, 1) = р (х, g) = р (х, g) = 2 1ааа (х), х е= Й, g е= Rre; |а |=m тогда из нашего замечания и определения 3.3.14 следует, что оператор Р является эллиптическим в том и только в том случае, когда для любых g =# 0, ge Rre, хеЙ отображение р(х, g): C'->CS инъективно. Функция р называется характеристическим много- членом оператора Р.
§ 3.6. НЕРАВЕНСТВА ГОРДИНГА И ФРИДРИХСА 191 В случае г = s полезно рассмотреть более частный вид таких операторов. 3.6.1. Определение. Линейный дифференциальный оператор порядка т из расслоения бу над Q в себя называется {равно- мерно} строго эллиптическим, если существует константа О О, такая, что для всех g е R", xeQ и v е Сг мы имеем Re(p(x, l)v, v) > С | £ Г | v |2. Если п>1, то любой строго эллиптический оператор имеет четный порядок. В самом деле, если xeQ и v #= 0, то функция Q (I) = Re (р (х, I) v, о) является однородным многочленом степени m (равной порядку Р}. Ясно, что для почти всех a, многочлен Q(а + Х6) от дей- ствительной переменной X имеет по X степень т. Если т нечетное, то этот многочлен имеет действительные корни. С другой сто- роны, если п>1, то а и b можно подобрать так, что a + X6#=0 для всех /.eR и, ввиду строгой эллиптичности, Q в этих точках отличен от нуля. Пусть Р{ — линейный дифференциальный оператор порядка т{ из в #s и Р2 — оператор порядка т2 из в &t. Тогда Р2°Рр C°°(Q, r)->C“(Q, t) — линейный дифференциальный оператор. Легко проверить, что этот оператор имеет порядок + т2. Если Pl(x,& Cr^Cs, p2(x,g): — характеристические многочлены соответственно операторов Рь Р2 и если Р2 ° Р] имеет порядок mi + т2, то характеристический многочлен этого оператора равен p2°pt. Это верно в том и только в том случае, когда р2 ° рх 0. В частности, если операторы Рь Р2 эллиптические, то отображение р2° рр СГ->С‘, очевидно, инъек- тивно для £ 0, а отсюда следует, что оператор Р2 о Pt тоже эллиптический. Далее, если Р* — формально сопряженный к Р оператор (предложение 3.3.17), то его характеристический много- член задается равенством рЦх, g) = (-irwTl)> где р — характеристический многочлен Р. Из этих замечаний непосредственно вытекает 3.6.2. Следствие. Если Р — эллиптический оператор из в на Q, то для любого Q'<sQ оператор ( — \)тР*°Р есть равномерно строго эллиптический оператор на Q' четного порядка из $г в себя.
192 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ ◄ Если £ = (—I)"1 Р*°Р и pL~ характеристический многочлен оператора L, то поэтому для любого о еСг имеем (Pl(x, $v, v) = (p(x, £)v, p(x, ^)») = ||p(x, |) v |p. Если теперь x e Q' e Q и 111 = 1, | v | = 1, то функция || p (x, |) v |p ограничена снизу, так как р(х, |) о #= О ввиду эллиптичности Р. Из однородности следует, что (pt(x, £)», «)>С|||2т| и |2. ► 3.6.3. Неравенство Гординга. Пусть Р —равномерно строго эллип- тический оператор (четного) порядка 2m из расслоения $г над Q в себя. Тогда для любого относительно компактного открытого подмножества Q.' cz Q найдутся константы С > 0 и В>0, такие, что (~V)mRe{Pu, «)>С|и|^-В|«|2 для всех и е Со° (Q , г). ◄ Теорема доказывается в три шага. Шаг I. Пусть Р имеет вид Pu (х) = S aaDau (х), | а К 2пг где аа — постоянные матрицы (т. е. Р — оператор с постоянными коэффициентами). По теореме Планшереля, {Ри, и) = {Ри, й}. Далее, Л = , 2 aaD*u (£) = (—1)т 2 аа1ай®+ 2 aai'“'|^ (|) = |а|<2т |а|-2т |а|<2т-1 =(-1)тр^)йа)+<7®йй), где р — характеристический многочлен Р и q — многочлен степени <2m—1 (коэффициенты которого — комплексные (гХг)-матрицы). Таким образом, (-l)m Re {Ри, и) = -Re j (р(|)й(|), d(£))^ + (-l)mRe / (q(l)u(^), й(1))д^ J J (1 + || I)2'"--) u(lY?db Rn R"
§ 3.6. НЕРАВЕНСТВА ГОРДИНГА И ФРИДРИХСА 193 где С], с2">0; мы использовали тот факт, что, поскольку Р равно- мерно строго эллиптичен, существует константа ct > 0, для которой Re (?(£)», v)> с, | £ П о |2, и что многочлен q имеет степень ^2m—1. Пусть число М на- столько велико, что при I £ | > М. Тогда (полагая c3 = Ci/2) мы получаем, что (—l)mRe(P«, и)> >с3 / (1+Н12)т|й(^)12^-с2 J (l+ISl)2'n"IIWl4> 111>м |51<м >с3 J(1-ш12Г1«Ш^-с4 где с4 = sup {сз(1+ШТ + с2(1 + 1£1)2т_1}- I5KM По предложению 3.4.7 найдется константа с>0, такая, что (—l)mRe(Pu, и)^с\и\2т-щ\и\2. Шаг II состоит в следующем: 3.6.4. Предложение. Для любой точки x(JsQ найдется окрестность U э ха, такая, что (-\)mRt{Pu, и)^ с\и\2т-В\и\20 для всех u^Cq(U, г)-, здесь с, В — положительные константы, зависящие только от х0. 4 Можно найти линейные дифференциальные операторы Qi, • ••, Qn> Ri> •••> Rn порядков «С m из &г на Q в себя, такие, что r = Sr;°qv, v*=l где Rv — оператор, формально сопряженный к Rv. Далее, можно написать qv=q°v+q; rv=r°v+r'v, где Q°, R° — операторы с постоянными коэффициентами порядка т, а все коэффициенты Q'v, R'v равны нулю в точке х0. Тогда {Ри, и) = (Р°и, и) + 5 R'^u) + (Q'h, /?»),
194 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ где N p°=2(r“)‘°q°v. V=1 Так как коэффициенты Q', R' равны нулю в точке tqeQ и эти операторы имеют порядок ^.т, то для любого е>0 найдется окрестность иэха, такая, что последняя сумма в написанном выше выражении по модулю не превосходит е,\и\2т для всех ueCj°(t7, г). Применяя к Р° результат первого шага, получаем (-l)mRe(P«, u)>(Co-e)l«l^-B|«lo> г), если (- 1Г Re (P°u, и) > с01 и |2т - В | и |02. ► Шаг III —это общий случай. Если Q' <£= Q, то по предложению 3.6.4 найдутся константы с>0, В>0 и конечное покрытие U..., Uh множества Q', для которых (3.6.5) (- l)mRe(P«, «>>с| и\2т-В\и]2 при ue=C~(U}, г), / = 1, ..., h. Пусть 1), 0<ny < 1 и 2 т]2 (х) = 1 для всех х из не- которой окрестности Q' (такие т|/ существуют по лемме 1.2.7). Заметим, что для подходящего ОО, зависящего лишь от {q;}, |h/wl«- 2 Ь/О“«1о|<с|«!,„_!I«U I I a | < tn I {P (r];-u), f\jU) — (i\jPu, T\jU) = (Lu, u), где L — дифференциальный оператор порядка ^2m —1. Следова- тельно (записывая L в виде 2 Рц ° Дх, где А^ — операторы по- рядка ^т, В^ — порядка 1), мы видим, что найдется О0, такое, что | {Р (т^-и), r\jU)—{г}/Ри, т^и) |^С| и\т\и |m_p Отсюда для любого ueCo°(Q/, г) мы получаем: С1 «11 = с 2 |даи12=с2 2 |а|<т1г/ м1о с/ = 1|а|</п 2 I \2т + сС\и |J и Im_1 < /=1 < 2 (- 1Г Re (Р (т]/«), Л/») + В' | и I2 + С' | и \т | и |т_, = < 2 ( - 1Г Re {x\tPu, + В'\ « |02 + С"\и\т\ и |т_, = = (- l)m Re {Ри, и) + В' | и |2 + С' | и \т | и |от_г
§ 3.6. НЕРАВЕНСТВА ГОРДИНГА И ФРИДРИХСА 195 Далее, для любого б>0 и любых комплексных чисел w2 2| wxw21 S | и;, |2 + у | иъ I2- Следовательно, 2C"I “I-I <2«|0^ + C(e)|ug по предложению 3.5.16. Если 6^с/2, это дает нам неравенство у с| и |^<(- l)m Re(P«, и) + Во| и |02, справедливое для подходящего В0>0 и всех и е С”(б/, г). ► 3.6.6. Предложение. Если Р — равномерно строго эллиптический оператор порядка 2m, однородный и с постоянными коэффициен- тами, т. е. Ри(х) = 2 aaDau(x), 1 а\-2rn то это неравенство можно несколько усилить. В этом случае в любом открытом множестве Q Rn для всех и^Сй (Q, г) (- l)mRe<P«, < Так как (-1)т<Р«, «) = /(pft)u(g), A{l))d^c / |||2m[uO2< к" Rn то наше утверждение следует из неравенства 3.4.5 и замеча- ния 3.5.7. ► 3.6.7. Предложение. Пусть Q — открытое множество е Rre, фЕСо°(й) и целое число. Тогда для любого е>0 найдется С(е)>0, такое, что 2 |<Р*О71о<е 2 |фЬ+'В7|о + С(е) 2 |а|=* |a| = fe+l |a|=fe-1 и для всех feC°°(Q), где qP —функция, тождественно равная 1. ◄ Достаточно доказать, что при 1 и | р | = 6 найдется С(е), такое, что |фЭДо<е 2 |ф*+1ВсН2+С(е) 2 |ф^^71о- |a|=4+l |c|=fe—1 Положим Р = Р' + у, где | р' | = & — 1 и | у | = 1. Тогда I ф\С^ |02 = (&f, = - <ПР'Д = = - {tf'f, 2kyk~'D\ D^f) - = = - 2k{D'/q-qk~,Dfyf, qD^f) -
19S ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Пользуясь тем, что 2| (м, v) |<S I и |2 + | v |2, если 6>0, мы получаем для любого 6 > О I 1* < МI № I’ +1 ф‘* I» I + с. w I 1«. и требуемое неравенство легко получается отсюда. ► 3.6.8. Неравенство Фридрихса. Пусть Q — ограниченное открытое множество в R" и Р — линейный эллиптический дифференциаль- ный оператор из Оу в fl's порядка т, задаваемый формулой (Рн) (х) = 2 аа U) 0ан) (х), и е С°° (Q, г). | а | < т Пусть k — целое неотрицательное число. Тогда 3.6.9. Если Р имеет постоянные коэффициенты аа, то существует константа С > 0, такая, что для всех и е Со° (Q, г) \u\m+k^C\Pu\k. 3.6.10. Для любой точки х0 е Q найдутся окрестность U э х0 и константа С[>0, такие, что I М + ^1 I 1/г для всех неСо° (U, г) (здесь уже коэффициенты Р не обязательно постоянны). 3.6.11. Если Q,' относительно компактно в Q, то существует кон- станта С2>0, такая, что для всех и^С°° (Q, г). В частности, для всех и^СД (Q', г) I + ^2 {I U Т-1 П- |0}. ^Доказательство 3.6.9. Пусть р (х, £) = р (£) —характе- ристический многочлен Р. Так как Р — эллиптический оператор, то р (Е) v =£ 0 для |£|=1, аеСг, |»|=1. Значит, в силу одно! родности, найдется щ > 0, такое, что ||р(£)а|1>Р11ШН 'осеСД Для любого /И>0 мы имеем + / (i + Hi2/i^a)i2^. R« Ч|>М Далее, Ри (£) = Р (^) «(£) + <? (|) й
§ 3.6. НЕРАВЕНСТВА ГОРДИНГА И ФРИДРИХСА 197 где <7 — многочлен степени — 1. Так как для любых комплекс- ных чисел а, b \а + Ь?^^\а?-\Ь\\ то отсюда следует существование константы Д>0, такой, что I (£) I2 > у । Р ® й ® I2 - А (1 +1 £ I2)""' । й fe) I2 > l£l2ml й(£) |2-Л(1+|№'|й(Ю 12> >Рг(1+1£12Н й(£)12, если | % |> М, где М и р2 > 0 выбраны подходящим образом. При таком вы- боре М, р2 |р«12>с'Р2 j (i+ui2)m+*m)m, 151>м и 3.6.9 следует из предложений 3.4.7 и 3.5.6. Доказательство 3.6.10. Запишем Р в виде Р = Р° + Р', где Р° имеет постоянные коэффициенты, а все коэффициенты Р' равны нулю в точке х0 (Р° и Р' имеют порядок т). Достаточно показать, что для заданного е>0 найдется окрестность Usxq, такая, что I Р Ч- Ife 81 U для всех u^Co'iU, г). Рассмотрим D*(bDaf), |a|<m, |₽|<й, Z>eC°°(Q), Ь(хо) = О. Имеем £>й (bDaf) = J] ( Р ) Dyb • Z)“+₽-Yf. Интегрируя по частям, получаем | Д Y&. Z)a+p-Yf |2< const-||&Ik- f |&(х)| 2 |nV(x)|2rfx, J |A,l<m+fe где II Як = 2 sup|D^(x)|. IM < 2k U Так как k(xo) = O, отсюда следует, что |^(&Z)7)|02<e|f для всех f еС“(£/), |a|^m, | 0] k, если U достаточно мала. Следовательно, I Р 81 U ]т+k для всех неСо°(17, г), если U — достаточно малая окрестность х0.
198 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Доказательство 3.6.11. Сначала заметим, что I« \m+k < С' (I Р» |ft +1 и |0} для всех неСо’(й/, г). В самом деле, пусть {t/b Пл} — конечное покрытие Q', такое, что I и \m+k | Ри |ft для всех u^C^(Uj, г). Пусть П/есов(^), осп/CL = i для всех х из некоторой окрестности Q'. Тогда 11И lzn+Л S I "П/W lm+k | Const • | U |т+Л—1, ||Д« Ife - Si P(t\jU) I* | < const • I U lm+fe-1. Так как I Л/« \m+k < const • I P (y\iU) |ft, то отсюда получается неравенство K+*<const' [lPu Ч + I u и наше замечание следует из предложения 3.5.16. Пусть теперь Ф^Со°(й), 1, ф (х) = 1 для всех х из некоторой окрестности Q', и пусть и е С°° (Q, г) и m' = m + k. Для |а| мы имеем г>а/ m' \ ( а \ г>₽ ₽ т'г.а , V* т'- 18|т-.а-в £) (jp н)= 0 J/Тф -D vu—q> D и+ 2j срФ В и> ₽<а (5<а, ?=/=!> где CpSC“(Q). Возводя обе части в квадрат, применяя неравен- ство Шварца и суммируя по всем а, | а | т' = т + k, мы полу- чаем, что 2 «const- 2 | la|<m+fe | $<m+k Согласно установленным выше результатам, отсюда I const • {|Р (фт+йн) || + | q>m+ku gj. Кроме того, из предложения 3.6.7 следует, что 2 |ф'31Д₽«]02<е 2 |фт+^«|02 + С(е)(|Н|0а)г. |₽l<zn+fe U l₽l=m+fe ° V °'
§ 3.7. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ С С°°.КОЭФФИЦИЕНТАМИ 190 Подставляя эти неравенства и подбирая е достаточно малым, мы получаем, что 2 I qm+kDau |g < const • {| q>m+kPu |2 + (| н |q Y]. I a |< m+k ’ Так как ф(х)=1 для xeQ' и supp <р ей, то 3.6.11 следует из этого неравенства. ► Прямым следствием 3.6.11 является 3.6.12. Теорема. Пусть Р — эллиптический дифференциальный опе- ратор из в на открытом множестве Q с R", и пусть ^ = {ueC°°(Q, г): Рн = 0). Тогда последовательность {hv} элементов & сходится в топологии С°° (Q, г) в том и только в том случае, когда для любого ком- пакта /С с Q J | hv —иц |2с?х->0 при v, р->оо. к Более общо, если последовательность {и„}аС“(й, г) такова, что [Риф сходится в С°° (й, з) и J | «V — Ир I2 -> О к для любого компакта К cz й, то {uv} сходится в С°° (й, г). Приведенные в этом параграфе доказательства по существу совпадают с доказательствами Гординга [1] и Фридрихса [1]. § 3.7. Эллиптические операторы с (^-коэффициентами: теорема о регулярности Пусть й —открытое множество в Rn и Р —линейный дифферен- циальный оператор из fy. в на й. Пусть цеЯ0(й). Определим Ри как линейный функционал на Со° (й, s), задаваемый равенст- вом (Ри)(о) = (и, P*v\ vf=Co(Q, s). Если для некоторого р, l^p^oo, существует вектор-функция §еРр(й, з), такая, что (P«)(o) = <g, v) для всех оеСГ (й, з), то мы отождествим линейный функционал Ри с g и будем писать Pu — g, Pu^Lp(£l, з). Заметим, что это согласуется с обычным обозначением, если иеС“(й, г). Далее, если Р имеет порядок тине Нт (И), то Ри е Но (й). Если g
200 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ принадлежит некоторому подпространству L2 (Q, s) — На (Q), то мы будем говорить также, что Ри лежит в этом подпространстве. Пусть Р — равномерно строго эллиптический оператор из в себя порядка 2m и N 7* = 2 Rv ° Qv, v=l где Qv, ^ — операторы порядка s^m из fy. в себя. Для и, оеСо°(Q, г) мы положим N Н (и, ») = s (Qvu, Rvv). V=1 Очевидно, это определение распространяется на элементы и, v е Пусть /г— действительное число, отличное от нуля, и х = (хь ..., xJgS', Мы пишем х + h = (xj + h, х2, ..., хга) и считаем, что х + Л ей, если х е Q'. Если g е Нт (Q), мы пола- гаем „Й / и - 8(x + h)-g(x) g w~ h Все эти соглашения считаются выполненными в предложениях 3.7.1-3.7.4. 3.7.1. Предложение. Если г]еС(Г(О, 1), то найдется константа О 0, такая, что для всех feHrjIQ}. Далее, найдется с>0, такое, что | uh |m_] О с|м|т для любой usесли h достаточно мало. ◄ Имеем (nf)* (х) - ц (Г) (х) = я* (х) f (х + К), откуда следует первое неравенство. Что касается второго, то у нас 1 Uh W = j* (хх + th, х2, ..., xn)dt, о если и е Со° (Q, г), так что требуемое неравенство выполняется для всех и е Со° (Q, г); общее неравенство получается предельным переходом. ► 3.7.2. Теорема. Пусть mj>l, имеет компактный носи- тель в Q. Предположим, что существует константа С>0, такая, что \Htf, и) |<С|« для всех и е С™ (Q, г). Тогда f £= Hm+l(Q).
§ 3.7. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ С С00.КОЭФФИЦИЕНТАМИ 201 4 Пусть h ф 0 достаточно мало. Мы будем использовать обо- значение О (| и |т) для всякой комплексной функции G от и, h, удовлетворяющей неравенству | G К const • | и |т, где константа может зависеть от G, но не от и или h. Имеем н {fh, u) = £ (Qvf, Ryu). V=1 Так как Da(fh') = (Daf)h, то из предложения 3.7.1 следует, что величина | Qvfh — (Qvf )h Io, рассматриваемая как функция от h, ограничена. Следовательно, С другой стороны, <(Qvf)h, = - Ш <M~h} = - (Qyf, Ry»-*) + о (\U u так что H(fh, u}= — H(f, u~h) + О (\u\m). Далее, no условию, (предложение 3.7.1). Поэтому найдется константа Ci>0, такая, что | Н (fh, и) | Gj | и \т для всех « g С“ (Q, г). Пусть {iiy} — последовательность элементов Со° (Q, г), сходящаяся в Hm(Q) к fh. Тогда |Д(Л lim| uv \т = С,|/=Л |т. По неравенству Гординга 3.6.3 найдется константа С2>0, такая, что I «V \2т < С2 { I (Puv, Uy) | + I Uy |2} = C2 {IH {uv, uv) | + |uvlo); устремляя v—>oo, мы получаем If l2m<c2{|//<f, f)i + if i2]<c3[|f |m + if I2}. Так как m^l, то, по предложению 3.7.1, |f |0 ограничена при /г —> 0. Значит, при /г->0 мы имеем l/4<c3|f lm + c4, откуда следует, что \fh \т ограничена при /г->0. Таким образом, множество {f} ограничено в гильбертовом пространстве Ят(О). 7 Зак. 751
202 ГЛ- 3- ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Поэтому найдется последовательность {ЯД, /ги~>0, такая, что слабо стремятся к некоторому элементу g<=Hm(Q.), т. е. v\m -+ [g, t>]m Для всех v^Hm(Q) (см. определение 3.4.6). Более того, так как т 1, то 1 dxi в Но (Q). Отсюда следует, что df/dx{ = ge Нт (Q). Совершенно аналогично мы покажем, что все df/dxj /=1, ..., п. Значит, по теореме 3.4.12 вектор-функция f строго дифференци- руема т + 1 раз. Так как f имеет компактный носитель, то feHB+1(Q). ► 3.7.3. Предложение. Пусть f е Hk (Q) и L — линейный дифферен- циальный оператор в окрестности Q из в себя. Если порядок L не превосходит р, p^k, то для всех u^Co’tQ, г) I {f, Lu) К const • \u\p_k. 4 Если мы напишем L = Bv ° Av, где порядок Xv не превос- ходит р - k, а порядок Bv не выше k, то получим (ф, Lu) = ^{Bvf, Avu), откуда следует наш результат, так как Bvf е Но (Q). ► 3.7.4. Предложение. Пусть f е Hm (Q). Предположим, что для некоторого целого ц, 0<р^т, существует константа С>0, такая, что \Н (f, и)|С|и |т_ц для всех иеС”(й, г). Тогда f строго дифференцируема пг + р раз. 4 Доказательство проведем индукцией по ц. Случай р=1. Предположим, что \H{f, u)\^C\u\m_{. Пусть цеСо°(П, 1). Как и выше, считая что P = S#v°Qv, мы имеем S - 2 (Qv Onf), = L'u), где порядок L' не превосходит 2m—l (так как r\Qvf — Qv(r)f) = Qf — линейный дифференциальный оператор порядка не выше пг— 1). Далее, 2<T)QJ, /?v«)-S(QvA = L"u),
§ 3.7. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ С С°°.КОЭФФИЦИЕНТАМИ 203 где L" тоже имеет порядок ^2m—1. Следовательно, u) — H{f, T\u) = {f, Lu), где L имеет порядок ^2m—1. Так как то из предло- жения 3.7.3 вытекает, что IW> u)-H{f, г\и) К const Так как по предположению, \Н (f, const • | Ци |m_t, это дает «)|<COnst • | U О откуда, по предложению 3.7.2, rtf <= Так как функция т] произвольна, то отсюда следует, что f строго дифференцируема т + 1 раз. Общий случай. Предположим теперь, что результат доказан для р = ц0 — 1, 0 < ц0 “С т, и что |Я<Л и)|< const • | и|т-цо. По индукции, f строго дифференцируема т + ц0 — 1 раз. Так как предложение достаточно доказать для любого открытого множе- ства Q'isQ, то мы можем считать, что j е (Q). Пусть а = (а1; ..., а,,) —набор из и неотрицательных целых чисел, |а| = 1. Очевидно, H(Daf, u) + H(f, Dau) = (f, Lu), где L — дифференциальный оператор порядка ^2/п. Снова по теореме 3.7.2 и ввиду того, что f е (Q), отсюда следует неравенство \H(Daf, u) + H(J, Dau)\^. const • | и | m—1 Так как | H (J, Dau) | < const • | Dau |m_|Xo < const • | и 1т_Цо+1, то IH {Daf, и) I < const • I и lm_llo+1 = const • I и |т_ц. По индуктивному предположению отсюда следует, что Daf строго дифференцируема т + ц0 — 1 раз, и нам остается применить тео- рему 3.4.12. ► 3.7.5. Предложение. Если f е Нт (Q) и Pf строго дифференци- руема ц раз, ц 0, то f строго дифференцируема 2m+ р раз. 4 Сначала докажем теорему для р = 0. Если Р^еЯ0(й), то существует вектор-функция такая, что (f, Р*и) = (g, и) Для всех и Со (Q, г). Так как отсюда следует, что u) = {g, и), Г
204 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ и потому | Н {f, и) | const • | и Io- По предложению 3.7.4, f строго дифференцируема 2m раз. Предположим теперь, что мы уже доказали (2m + р — 1)-крат- ную строгую дифференцируемость f. Заменяя Q его относительно компактным открытым подмножеством, мы можем считать, что f е (Q) и что существует §еЯц(й), такая, что (f, P’u} = (g, и), ueC”(Q, г). Рассмотрим оператор L = P°Da-Da°P, где | а | ц и Da — обычный оператор дифференцирования из &г в себя, задаваемый условием («!, ..., Цг)н-^(ра«1, ..., Daur). Очевидно, L имеет порядок ^2m + p—1. Следовательно, P(Daf) = Dag + Lf, где g = Pf е Яц(й). Так как f е ffom+n-i Ф) п0 предположению индукции, то отсюда следует, что P(Daf)<=H0(O). Ввиду доказанного выше частного случая это означает, что Daf строго дифференцируема 2m раз, а а, | а | ц, произвольно. ► 3.7.6. Предложение. Пусть А — оператор Лапласа из Оу в на R" {пример 3.3.15 (с)). Если f е Но (R") и р 1 — целое число, то суще- ствует (Rn), такая, что {I — А)р F = f; здесь {I — А) — оператор и*-^ и — А« и (I - А)р = (7 - А) о ... о (/ - А) (р раз). 4 По теореме Планшереля 3.2.8, f ei2(R"). Пусть Ш = Ш(1+.^+ +^)_₽. Так как i|)gL2(R"), то существует 7eL2(R"), такая, что Р = ф. Более того, / (1+ш2)2р|р(£) т<оо. ₽п Поэтому, ввиду (3.4.9), F е 772p(Rn). Непосредственно проверяется, что (7 — А)р F = f. ► Теперь рассмотрим произвольный эллиптический оператор Р из бг в бу на открытом множестве Q cz Rn,
§ 3.7. ЭЛЛИПТИЧЕСКИЕ ОПЕРАТОРЫ С С00-КОЭФФИЦИЕНТАМИ 205 3.7.7. Теорема о регулярности. Пусть Р — эллиптический дифферен- циальный оператор из в на открытом множестве Q cz R". Предположим, что f еЯ0 (Q) и Pf ^С°° (Q, s). Тогда f ее С00 (Q, г). 4 Рассмотрим оператор L = Р* о Р, пг — порядок Р. Тогда L — эллиптический оператор из в равномерно строго эллиптический на любом Q'tsQ (следствие 3.6.2). Далее, ^ = (-DmP>, g = Pf, так что если PfeC°°(Q, s), то г). Следовательно, мы можем считать, что Р — равномерно строго эллиптический оператор из в порядка 2m. Если /еЯо(й), определим /осЯо(к"), полагая ( f (х), если гей, 1 0, если х ф Q. По предложению 3.7.6 существует вектор-функция Fo е H2m (Rn), такая, что (/-A)mF0 = f0. Пусть P0 = (-l)mPo(Z-A)m. Тогда Ро — тоже равномерно строго эллиптический оператор порядка 4m. Кроме того, если /70|й = /7, то F<=H2m(Q), P()F = (~V)mPfeC^(Q, г). Значит, по предложению 3.7.5, F строго дифференцируема 4m + ц раз для любого ц^О, а тогда, по предложению 3.15.13, ЁеС°°(й, г). Поэтому f = (-[)m(I-b)mFt=C°°(Q, г). ► Приведенное здесь доказательство теоремы о регулярности по существу совпадает с доказательством Ниренберга [1]. Сейчас известно несколько других доказательств этой теоремы. Самое старое из них, оперирующее фундаментальными решениями, было предложено Л. Шварцем [1]. Сильные теоремы, которые можно получить этим методом, можно найти у Хёрмандера [1]. Первое доказательство, использующее только априорные оценки (типа неравенств Гординга и Фридрихса), принадлежит Фридрихсу [1] (который, однако, доказал несколько более слабый результат). Другие доказательства принадлежат Йону [1] и Лаксу [1]. Доказа- тельство Лакса кратко и элегантно, но в нем используются про- странства, сопряженные к /7т(й). Другое весьма общее и эле- гантное доказательство, использующее так называемые сингу-
206 ГЛ- 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ лярные интегральные операторы, можно найти у Л. Шварца [2]. Имеется обширная литература, посвященная этой теореме и ее обобщениям, например, в связи с проблемой регулярности на границе или в связи с соответствующими результатами для пара- болических и других операторов. § 3.8. Эллиптические операторы с аналитическими коэффициентами 3. 8.1. Предложение. Если К —компакт в R" и K6 = {xeR": d(x, К)<б), то существует функция такая, что 0 < Ф6 < 1, <рв (х) = 1 для х К, supp фв сп TR, и |£>"фв(х)|<са6“|а| для всех а —(аь . .., а„); константы Са не зависят от К и б. 4 Пусть ф — функция класса С°° в Rn. ^ф(х)^х=1, ф>0 и supp ф с {х: ||х ||< 1}. ₽п Пусть Хб— характеристическая функция т. е. J 1, если х е /<6, Хб(х) I q, если х Положим ф6(х) = б-" <[ф(^р'-)%6(,/)^. r" Тогда ф6(х)=1, если х^К, и supp ф6 с К26. Кроме того, Оаф6 (х) = б-"4 а 1 j (£>аф) Хе (у) dy, откуда 10аФв WI < б-1 а 1 j | £>аф (у) | dy; r" нам остается взять фб = ф6/2. ► 3. 8,2. Замечание. В дальнейшем Я и р будут обозначать действи- тельные числа, такие, что 0<p<min(l, и й0 = {х: ||х||</?},
§ 3.8. ОПЕРАТОРЫ С АНАЛИТИЧЕСКИМИ КОЭФФИЦИЕНТАМИ 207 Для f е L2 (Q, г) положим М)2 = / \f(x)\2dx. Wl < Д-Р Пусть 6 > 0 и Q = [х: || х || < Р + 6}. 3. 8.3. Предложение. Пусть Р — эллиптический оператор на Q порядка пг из$г в себя. Тогда найдется константа С>0, такая, что pmMp+p'(Dazz)<C Jpm^(Pa) + 3 pl₽lAfp'CDW при |а| = щ I ||3|<т J для всех u^C°°(Q, г) и любых положительных р, р', р + р'<7?. 4 Пусть функция <peCo°(R”) такова, что <р (х) = 1 при ||х||< Р — р — р', 0 <р 1 и supp <р с: {х: || х || </? — р'}; подберем еще ф так, чтобы |оаФ| <саР-|а|, где константа Са зависит только от а и и (предложение 3.8.1). Согласно (3.6.11), найдется константа Л>0, такая, что I Da (ф«) |0 < А {| Р (ф«) |0 +1 Ф« 1о). Пусть Ри(х) = S ак(х) DKu(x), | X К m где а^ принадлежит классу С°° в Q. Мы имеем Р (фц) - ф (Ри) = 2] ак (| р < X, | К | Очевидно, существуют константы ск, g, не зависящие от р, такие, что рх(х)(|)дх~%(х)| pP~|X^1, при ||х||</?. Следовательно, I Da (ф«) |0 < const • J М? (Ри) + 2 р’т+| ₽ 1 Af(&и) I . > I I ₽ I < m ) 3. 8.4. Теорема. Пусть Р — эллиптический оператор порядка m из Ъг в себя на открытом множестве U в К". Предположим, что Р имеет аналитические коэффициенты и что ОеС/. Тогда если числа Р>0 и 6>0 достаточно малы, то существует константа А^1, такая, что ( k 1 (3 .8.5) p|a|M|a|P(Dau)< A,a|+I 3p(v“I)mM(Pvu) + M(u)} I V=1 J для\а\^Пгпг, 6 = 1,2,..., для всех р, 0<р<min{1, /?}, и всех и<=С°° (й, г).
208 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Здесь мы положили Pv = Р° ... ° Р(v раз) и M(f)2 = M~6(f)2 = j \f(x)\2dx. WK Я+ 6 < Если (Рм)(х) = 3 ак(х)Dlu(x), 11|<т ак все R-аналитичны на U, и если Rt>0 достаточно мало, то ак являются сужениями на || х || Р, голоморфных отображений мно- жества (ге С": || z || PJ в пространство комплексных (г X г)-ма- триц; эти отображения мы будем обозначать тоже через ак. Пусть В= 2 sup |aA(z)|. |ЛК'« llzIKRi По неравенствам Коши 1.1.4, (3 .8.6) 2 I DaaK (х) I < Ва\ р-1 “', если HxlKPj-p. Пусть 0<Р<Рь б = Р] — R и Sfe(«) = Sfe(u, р)= ip,v-,)mM(pvu) + M(u). v=l Тогда (3 .8.7) pmSUPM)<^+1(U). Неравенство (3.8.5) мы докажем индукцией по k. При й=1, т. е. когда | а | т, M0(Dau) < С2 {.М (Pu) + М (и)} ввиду (3.6.11), и неравенства (3.8.5) выполняются (при р< 1), как только А>С2- Предположим теперь, что km < | а | (k + 1) т и что (3.8.5) доказано для всех [3 с | Р | < | <х |. Пусть а = а0 + а', где | а01 = т. Применим предложение 3.8.3 с р' = (|а|— 1)р, а0 вместо а и Da и вместо и. Это даст нам неравенство (3 .8.8) р1 “ Ца।р(Пан)< С (р1 а'М(|а(_ир(РОа«) + + 3 р)₽'+'“'(Л1(|«(_1)р(Г>(?+а«)1. I ₽ I < т J Далее, DaPu - PDa’и = £ (“J ] А. К т V < а' Теперь, если || х || R — mkp, то |£)а ~уак(х) | В (а' — у)! (т^р)-|а “vl (см. (3.8.6))
§ 3.8. ОПЕРАТОРЫ С АНАЛИТИЧЕСКИМИ КОЭФФИЦИЕНТАМИ 209 И / а' \ (д' —у)! < / I а'1 У a'-vi < \ у / (mfe)la,-v 1 ~ \ mk I ’ так как | а' | = [ a | — т km. Значит, при || к || /? — mkp, а сле- довательно, и при || х ||^7? — (| a | — 1) р мы имеем (3.8.8') | Da'Pu (х) - PDau (х) I < В 2 2 p-la'~vl | Dv+M*) I- | А. | < т у < а' Вместе с (3.8.8) это дает следующее утверждение: При km < | а | (k + 1) т имеет место оценка Р1 ° ’AfI a, Р (Dau)<C J Р1 a X a', Р (Da'P«)+ 2 P1 N + l Ц p+a' I p (Z)9+a'«) + I |₽ I <m + B s 2 Pm+lYXn+iyi)PCoY+V)l. 111 < m V < a' J Теперь мы можем применить предположение индукции к каждому из трех членов в фигурных скобках. Первый член не превосходит рт/1|а'|+1ЗДРм)<Л|а'|+13/г+1(Ы) (см. (3.8.7)). Второй не больше, чем 2 Л1Р+а'|+,5,+1(и). I Р | < т а третий не превосходит в' 2 лт+ы+1з,+1(д). у<а' Отсюда pla|M|a| ₽(£>“«)< 4|a,+,Sfe+1(u)fcX-m + C J} 4 + СВ'Х Л~'а,’¥11 I 1 ₽ I < т у < a' J (так как |а | = т + | а' |). Далее, S 4~'a~Yl^/l~1 S А~||3|~>0 при Л—>оо. у < а' I 31 > о Поэтому мы можем подобрать А^С2 настолько большим, что СА~т + С J} -j + CB' Л-|а'-у|<1, I 31 < т у < а’ а это нам даст (3.8.5). ► 3.8.9. Теорема. (Котаке, М. Нарасимхан [1].) Пусть Р — эллиптиче- ский оператор порядка тиз$г в себя на открытом множестве U cz R" с аналитическими коэффициентами и u^C°°(U, г). Предположим, что для всякого множества U' <= U найдется Л4 > 0, такое, что |?МГ<Л1*+1(/гт)!> /г = 1, 2, .... Тогда вектор-функция и аналитична в 2.
210 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ 4 Мы можем считать, что 0е(7, и нам достаточно доказать, что и аналитична в окрестности 0. Подберем R, б так, чтобы выполнялось (3.8.5). Тогда M(Pvu)<Mv+I (vm)l, v = l, 2, .... так что для любого р>0 k Sk(u) < 3 .'Wv+'p(v-I)m(vm)! + М. V=1 Если мы возьмем p = clkm, где с мало, то получим, что (vm)! p(v-I) т «С (km)m при и потому найдется константа Д>0, такая, что Sk{u)^.B\+i при k^l. Следовательно, ввиду (3.8.5), Mc(Dau) B%+lkk при |а |^/г. Если К — компактное подмножество шара (х: || х || < R — с}, то из предложения 3.5.12 мы получаем неравенство sup | Dau(x) | ^Вз+п+1 (k + ri)k+n при |а|^/г. хек По формуле Стирлинга отсюда следует, что sup |Оа«(х)|<в|+1/г! при|а|^й, хек и вектор-функция и аналитична ввиду 1.1.15, 16. ► 3.8.10. Теорема. Пусть Р — линейный дифференциальный оператор порядка m из в &,- с коэффициентами, голоморфными в поликруге D = {z<=Cn-. |2/|<rz<l}. Пусть и — ограниченное голоморфное отображение D—>Cr. Тогда найдется константа Л>0 (зависящая от D), такая, что I PI 11 * * Vu (z) | < -4^—.(m^' v для всех z(=D. 11 (ri~ \zi\) i Докажем сначала следующее утверждение. 3.8.11. Предложение. Если функция h голоморфна в круге {®еС: | w | < /?} и | h(w) |<М(R — | w |)-|i, | w | < R, то \h'(w)\<3(p + 1)М(/?-| ®1Г(и+1), |®|<В, где h' (w) — производная h.
§ 3.8. ОПЕРАТОРЫ С АНАЛИТИЧЕСКИМИ КОЭФФИЦИЕНТАМИ 211 4 Пусть |да0|<7? и 0 <е< R — | ш0|. По неравенству Коши, | h' (ш0) е-1 sup | h (w) | Ale-1 (R — | w01 — е)~ц. | w—wo 1=е Если мы возьмем _ J?— | аРр ] ц+1 ’ то получим, что | h' (w0) I < М (и + 1) (R - I w01 )"(ll+1) (i±lf. Так как (1 + 1/ц)р'<е<3, то отсюда следует наше неравенство. ► ◄ Доказательство теоремы 3.8.10. Предположим по индукции, что где Л > 2 I аа (г) |, I а| <т Ри (г) = 2 Яа (z) Dau (z). | а |<zn Тогда, по предложению 3.8.11, мы имеем I napv~'.( (-Л I 3 (ЗА) (ту)! и наш результат следует из того, что S I аа (г) | А. ► | а | С т 3.8.12. Теорема Петровского. Если Р — эллиптический оператор порядка пг с аналитическими коэффициентами из в на откры- том множестве QczR" и если u^C°°(Q, г) такова, что Ри —ана- литическая вектор-функция, то сама и тоже аналитична. ◄ Заменяя, если надо, Р на Р* ° Р, мы можем считать, что Р — оператор из Оу в себя. Пусть f = Ри — аналитическая вектор- функция. Из теоремы 3.8.10 следует существование константы М > 0, такой, что |Pvf (х) | ^Afv+1 (v/n)!, если xgQ'<sQ, и наше утверждение вытекает из теоремы 3.8.9. ► 3.8.13. Замечания. Укажем вкратце, как упростить доказательство теоремы 3.8.9 в частном случае, необходимом для доказательства теоремы 3.8.12. Воспользуемся опять оценками (3.8.8) и (3.8.8').
212 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Применяя неравенства Коши к голоморфному продолжению f = Ри в комплексную область, мы получим, что | DaPu | const • а! (т£р)-1 а| при — mkp, откуда Р1 °' ^(lal-OpCD^Pw^COnst для р > 0 и всех а. Это приводит к оценке p,a|M|a|P(Z)aU)< Л|а|+1, Л = Л(м), и доказательство завершается, как выше. Основная теорема 3.8.12 является частным случаем результа- тов И. Г. Петровского [1], который рассматривал также нелиней- ные системы дифференциальных уравнений. Однако его доказа- тельство очень трудно. Главная идея приведенного здесь доказа- тельства содержится в работе Морри и Ниренберга [1]. Изложение основано на работе Хёрмандера [1]. £ 3.9. Теорема конечности Пусть V — ориентированное С°°-многообразие, g и г] — векторные расслоения класса С°° над V, S, = (Е, р, У), ц = (F, q, У). Пусть Р — линейный дифференциальный оператор из g в ц порядка т. Мы будем рассматривать не только непрерывные сечения рас- слоений g, т], ... (напомним, что сечением расслоения g мы усло- вились называть отображение s: У—>Е, такое, что р ° s — тожде- ственное отображение). Будем называть сечение s измеримым, если у каждой точки а е У есть окрестность U и изоморфизм т: g | U —> U X Сг, такие, что сечение т ° s тривиального расслое- ния U X Сг, рассматриваемое как набор из г функций, измеримо. Мы скажем, что s локально принадлежит Нт, если указанную окрестность U можно взять диффеоморфной некоторому откры- тому множеству Q в R" и сечение т ° s, рассматриваемое как набор из г функций на Q, принадлежит Нт(О,). Аналогично мы будем понимать локальную интегрируемость сечений и т. д. Если Р — дифференциальный оператор из g в ц и s — локально интегрируемое сечение g, то мы определим Ps как линейный функ- ционал Л на Со°(у, т/) равенством1) Z (/) = («, Р'П^ ’) Заметим, что если «—локально квадратично интегрируемое сечение g, то s' — локально квадратично интегрируемое сечение У, а если одно из них равно нулю вне компактного подмножества V, то мы можем определить (s', s)j = = J В {s', s), как в § 3.3. г
§ 3.9. ТЕОРЕМА КОНЕЧНОСТИ 213 где Р' — транспонированный к Р оператор. Будем говорить, что Ps локально интегрируем (класса С°°, ...), если найдется ло- кально интегрируемое (класса С°°, ...) сечение t расслоения т), такое, что = P't'\' = (t, t'\’ для всех /еСо°(7, т|Э- Элемент t, если он существует, определен однозначно (с точностью до значений на множествах меры нуль), и тогда мы можем ото- ждествить Ps и t. Непосредственно из теорем 3.7.7 и 3.8.12 получаются следую- щие два утверждения. 3.9.1. Теорема о регулярности. Пусть %, т\ — произвольные (^-рас- слоения на ориентируемом С°°-многообразии V и Р — эллиптический оператор из £ в т). Если s — локально квадратично интегрируемое сечение такое, что Ps есть С^-сечение ц, то s (почти всюду) совпадает с С°°-сечением £. 3.9.2. Теорема об аналитичности. Пусть V — произвольное R-анали- тическое многообразие, т] — аналитические векторные расслоения над V. Пусть Р — эллиптический оператор из g в ц с аналитиче- скими коэффициентами. Тогда если s — локально квадратично инте- грируемое сечение £, для которого Ps — аналитическое сечение т], то s равно (почти всюду) аналитическому сечению £. Если s —сечение расслоения £, то мы определим носитель supp s как замыкание в V множества (хе V: s(x) =#= 0J, где 0х — нулевой элемент векторного пространства Ех. Пусть /( — компактное подмножество V. Обозначим через Hm(K., z) множество сечений s расслоения g, локально принадле- жащих Нт, носители которых suppsc:/(. Пусть U\, ..., Un — конечное число координатных окрестностей, покрывающих К, К c:\JUf, на каждой из которых расслоение g | U/ тривиально. Пусть Uj^U'i и Kcz\JUj. Пусть т,: g | U'j -> и'/ X Сг — изомор- физм класса С°° и <р/ е С“ (U]), 2ф/(х) = 1 для всех х из некото- рой окрестности К- Тогда если s^Hm(K, g), то т;(ф/«) можно рассматривать как набор из г функций на UПредположим, что Uj изоморфна открытому множеству Q/ в R". Если ф,: — изоморфизм, мы положим фу (Uj) = Q/. Тогда Tj(q>jS) можно рас- сматривать как наборы = т;. (q>ys) ° ф~* из г функций на Qjt причем Sj 6= Нт (Qj). Положим U = {(7i, ..., Un} и K,u = 3|sy \2т.
214 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Относительно этой нормы Нт(Д, £) является гильбертовым про- странством. Пусть ^ = ®ЯВ(2/). Отображение п: Нт(Д, задаваемое условием i](s) = ®s/-, будет изометрией Нт(Д, g) на замкнутое подпространство в Зв. Кроме того, Т/ (s \Uj)° Фу-1 =-s'j^Hm (Q/). Если МЫ ПОЛОЖИМ то Нт(Д, £) тоже будет гильбертовым пространством относительно нормы || s ||т> п. Легко видеть, что | s | п и || s ||m n — эквивалентные нормы на Нт (Д, I) и что различные покрытия U и различные разбиения единицы {фу} с перечисленными выше свойствами поро- ждают эквивалентные нормы | \т п . Как и в предложении 3.4.3, определено вложение im- Нт(Д,1)-^Нт^(Д,^, т>1. Далее, из леммы 3.5.4 вытекает 3.9.3. Лемма Реллиха. Вложение im-. Нт(Д, 1)-+Нт_ДД, $ вполне непрерывно. 3.9.4. Предложение. Для любого непрерывного линейного функ- ционала I на Но (Д, £) найдется единственное сечение s' е Но (Д, £')> такое, что I (s) = (s', для всех se Нй (Д, £). 4 Ясно, что если сечение s' существует, то оно единственно. Поэтому достаточно доказать следующее: Пусть U — координатная окрестность, такая, что расслоение g | U тривиально, и пусть /. — компактное подмножество U. Тогда най- дется сечение s' еНД, ^'), такое, что I (s) = (s', s\ для всех s е Но (L, £). Пусть h: g | (7 -> U X Cr — изоморфизм и h*: \U -+U XC — соот- ветствующий изоморфизм сопряженных расслоений. Пусть ф: U-> Q — изоморфизм U на открытое множество Q сг R" и ($1, .. ., 5г) = /г(5).ф“‘, s<=H0(L, g).
§ 3.9. ТЕОРЕМА КОНЕЧНОСТИ 215 Тогда все S;GA2(Q) и равны нулю вне ty(L). По известной тео- реме Рисса существуют элементы ....../геР(й), равные нулю вне ф(£) и такие, что Г l(s) = j 2 Sjtj dxt Л ... Л dxn, s<=H0 (L, g). a /=i Если мы положим s' = (AT‘ (/i0 ф, • • • > Ь ° Ф) ® Ф* (dxi A ... A dxn), то получим, что s' e H0(L, g') и l(s) = {s', s)j для всех s^H0(L, g). ► 3.9.5. Замечание. Если P — линейный дифференциальный опера- тор порядка т из g в ц, то Р определяет непрерывное линейное отображение РК'. нт(к, п); здесь К. — компактное подмножество V. 3.9.6. Предложение. Пусть Р — эллиптический дифференциальный оператор из g в ц и & = {s «= С°° (V, g): Ps = 0). Последовательность {sv} элементов ST сходится вместе со всеми частными производными равномерно на компактных подмноже- ствах V (см. замечания после 3.3.10) тогда и только тогда, когда {sv} сходится в Но (К., %) для любого компактного множества /С с: У, т. е. когда последовательность {s'}, определяемая условием sv (х), если х^К, 0, если хфК, сходится в Н0(К, g). Это следует из теоремы 3.6.12. 3.9.7. Предложение. Пусть Ж2 — гильбертовы пространства, Aj и А2 — непрерывные линейные отображения $в\->3$2, причем (а) А[ инъективно и At (Ж) замкнуто в Зв2, (Ь) А2 вполне непрерывно. Тогда ядро ker (Ai + А2) имеет конечную размерность и подпро- странство (A] + A2)(^i) замкнуто в ◄ По теореме о замкнутом графике, отображение = А( (Ж1) ->Ж|
216 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ непрерывно. Предположим, что кег (Л] + Л2) бесконечномерно. Тогда существует бесконечная ортонормированная последователь- ность {xv}, х,еД, такая, что ^1 (-^v) ~ ^2 (^v)' Так как ||xv||=l и Л2 вполне непрерывно, мы можем считать, переходя к подпоследовательности, что элементы A2(xv) стремятся к некоторому у0. Поэтому Ai (xv) - у0 и, значит, хл, = В(Л1(хл,))-> - В(у0) при V—>оо, что противоречит нашему предположению об ортонормирован- ности {xv}. Следовательно, кег(Л] + Л2) имеет конечную размер- ность. Пусть N = кег (Л! + Л2) и М — ортогональное дополнение N в Пусть Г —сужение Л1 + Л2 на М. Тогда Т — непрерывное инъек- тивное отображение и T Ш) = (Л, + Л2) (<3^i). Для доказательства замкнутости этого пространства достаточно доказать, что отобра- жение Т~11 Т (М) непрерывно. Пусть yv^T(M), yv-+0, xv^M, Т (xv) = yv. Если {xv} не сходится к 0, то можно считать, что || xv || р > 0. Тогда если х' = xv/|]xv||, то (xv) = Л (Xv) + A (Xv) и потому, опять ввиду вполне непрерывности Л2, мы можем счи- тать, что Л2(х'), а значит, и Л1 (х'), образуют сходящиеся после- довательности. Так как В непрерывно, то х' = ВЛ^х') стремится, скажем, к х'о. Тогда, очевидно, ||xq||= 1. С другой стороны, Т (х') = lim Т (х') = 0 и, значит, x'0^N. Так как х' е Л4, то и x'eAf. Отсюда следует, что Xq = 0, и мы получили противоречие. ► 3.9.8. Теорема конечности. Пусть V — ориентированное (^-много- образие и £, г] — два С°°-векторных расслоения на V. Пусть Р — эллиптический оператор из g в т| порядка m 1 и К - ком- пактное подмножество V. Тогда отображение Рк- Hm(K, £)-+Н0(К, Т]) цмеет конечномерное ядро и замкнутый образ.
§ 3.9. ТЕОРЕМА КОНЕЧНОСТИ 217 4 Пусть im-. Нт(К, I) — естественное вложение. Пусть = нт (К, g), ж = н0 (К, п)Фнт_у (К, ю- Определим отображения Л1( А2: 5^i->5^2 следующим образом: Л1(в) = РЛ-5ф/т(в), Л2(«) = ОФ - im(s). Очевидно, At — вложение и отображение А2 вполне непрерывно (лемма 3.9.3). Кроме того, если U — координатная окрестность на V и <peCo°(C7), то из (3.6.11) следует, что IФ5 k n < const • {।р (Ф5) к u + IФ51о. и} <const • (| qPs Io „ +1 s |m_, u) относительно любого фиксированного покрытия U компакта К. Отсюда I s к 11 < const • {I Ps Io. 11+ lSk-l, «} и, значит, const • II Л, (s) 11^ > II s 11^, Soffit, так что At замкнутое подпространство Ув2. По предложе- нию 3.9.7, ядро ker (Л! + Л2) = ker Рк имеет конечную размерность и + Л2) (<^]) = Р^-(Нт (К, £))ф{0} замкнуто. ► 3.9.9. Предложение. Пусть V — ориентированное Сх-многообразие g, т] — векторные расслоения и Р — эллиптический оператор по- рядка m из £ в тр Пусть К — компактное подмножество V. Тогда если сечение tQ е Но (К, г]) таково, что {t', /0)л = 0 для всех t' е е Но (К, т/)> для которых P't' = 0 на Й, то существует сечение sQ^Hm(K, £), такое, что Ps0 = t0. 4 Пусть N = {t е Но (К, л): (/', От)= 0 для всех е770(К, г)'), таких, что P't' = 0 на Й}- У равнение P't' = 0 на К означает, что (Ps, t') , = 0 для всех оо ° seCo (К, £)• Пусть / — непрерывный линейный функционал на Н0(К, т]), равный нулю на PK(Hm(H, ^)). Так как подпростран- ство Рк{Нт(К, £)) замкнуто, нам надо показать, что /(/о) = 0. По предложению 3.9.4, найдется сечение /'е//0(К, ц'), такое, что /(/) = </о,
218 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ для всех г]). Так как I равен нулю на Рк(Нт(К, £)), то I (Ps) = (to, Ps\ = О для всех seC” (Д’, £), и потому Р t0 = 0 на К- А по определе- нию N (to, = l(i) = 0 для feJV. ► 3.9.10. Предложение. Если, кроме того, V —компактное много- образие и К = V, то Pv(Hm(V, l))^{t^Ho(V, т]): </', /\=0 для всех t' е Нй (У, т/), таких, что P't' = 0}. 4 Пространство справа обозначим через А; из теоремы 3.9.9 следует, что Pv(Hm(V, l))^N. С другой стороны, {Ps, t') , = 0 всякий раз, когда P't' = 0, и, зна- чит, N => Pv (Нт (У, £)). ► 3.9.11. Предложение. Пусть V — компактное ориентированное (^-многообразие, £, rj — два С^-векторных расслоения над У, при- чем rank £ = rank тр Пусть Р — эллиптический оператор из £ в т>. Тогда факторпространство С°° (У, т])/Р (С°° (У, £)) имеет конечную размерность. 4 Рассмотрим оператор Ру. Hm(V, 1)->HO(V, л); пусть М — его образ. По предложению 3.9.10, M = [t^H0(V, Л): (t', 0ч = 0 для всех t' е Д0(У, лЭ- таких, что P't' = 0}. Поэтому, если Р'у. Hm(V, n')->H0(V, и — оператор, соответствующий формально транспонированному к Р оператору Р' из т/ в то coker Pv ~ ker Ру. Так как rank £ = rank л, то Р'— тоже эллиптический оператор (замечание 3.3.22), так что, по предложению 3.9.8, coker Pv имеет конечную размерность. Далее, МП с00 (У, л) = Р(Ят(У, Ю)ПС°°(У, л) = Р(С°°(У, £)) по теореме 3.9.1. Так как М имеет конечную коразмерность в H0(V, л), т0 отсюда следует, что P(C°°'(V, |)) имеет конечную коразмерность в С00 (У, л)- ►
§ 3.10. ТЕОРЕМА О ПРИБЛИЖЕНИИ 219 § 3.10. Теорема о приближении и ее применение к открытым римановым поверхностям 3.10.1. Обозначение. Пусть V — произвольное С°°-многообразие со счетной базой и 3—подмножество V. Обозначим через / (3) объеди- нение 3 и всех относительно компактных связных компонент мно- жества У\3. Нам понадобятся некоторые свойства множеств f (3). 3.10.2. Предложение. Если SlczS2, то (32); кроме того, Z(Z(S)) = Z(S). 4 Если С — относительно компактная связная компонента 7X3!, то множество С\32 является объединением связных ком- понент У \32. В самом деле, если С' — связная компонента У\32, не содержащаяся в С, и СПС' =# 0, то С U С' — связное подмно- жество У\31; содержащее С и не совпадающее с ним, а это не- возможно, так как С — компонента. Значит, С \ 32 есть объеди- нение компонент У\32; так как С — относительно компактное множество, то отсюда следует, что С cz / (32) ► 3.10.3. Предложение. Если множество 3 замкнуто, то / (3) тоже замкнуто. Если Д’ — компакт, то / (К) — тоже компакт. 4 Если 3 замкнуто, то любая компонента множества У\3 открыта. Поэтому У\/(3), будучи объединением компонент У\3, не являющихся относительно компактными, есть открытое множество. Пусть [/ — относительно компактное открытое множество, со- держащее Д, и UI, ..., [/„ — связные открытые множества, по- крывающие dU и такие, что Uj П К = 0. Очевидно, любая связная компонента 7\Д, не принадлежащая U, должна содержать по крайней мере одну из U }. Поэтому имеется не более конечного числа относительно компактных компонент 7\Д, не содержа- щихся в U, а отсюда следует, что $ (К) — относительно компакт- ное множество. ► В дальнейшем нам понадобится 3.10.4. Предложение. Пусть X — локально компактное хаусдорфово топологическое пространство и Ко~ связная компактная компо- нента X. Тогда Ко имеет фундаментальную систему окрестностей, одновременно открытых и замкнутых в X. 4 Заменяя X некоторой компактной окрестностью Ко, если это необходимо, мы можем считать, что X — компакт.
220 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ Пусть SF — семейство окрестностей N гэ До, одновременно от- крытых и замкнутых 0, так как Хе^). Пусть А- Г) Н. N Очевидно, К — замкнутое, а значит, и компактное множество. Так как замкнуто относительно конечных пересечений, то К обладает фундаментальной системой окрестностей, состоящей из элементов , и нам достаточно показать, что Д = До. Так как До с: Д и До — связная компонента X, то достаточно показать, что множество Д связно. Предположим, что Д несвязно. Тогда д = лоиль где Ло, At — замкнутые подмножества Д (и значит, компакты), ЛоП Л] = 0, но ни Ло, ни Л] не пусто. Так как компакты Ло и At не пересекаются, то существуют открытые множества (/0, та- кие, что AjdUj, {7оП^1 = 0- Пусть U = t70 U U\. Так как П (ДЛ(Х\С/)) = 0 № и так как X \ U — компакт, а семейство У замкнуто относительно конечных пересечений, то отсюда следует, что существует Уейг, ДП(Х\(7) = 0, т. е. NczU. Очевидно, До содержится либо в t/0, либо в U{, скажем До с Uo. Но тогда множество ДЛ *70 = ДЛ(Х\*71) одновременно открыто и замкнуто, откуда Д cz N Л Uo с Uo, вопреки тому, что ДЛ Л,^0. > 3.10.5. Предложение. Если S — открытое подмножество V, то f (S) тоже открыто. 4 Пусть До — относительно компактная компонента 7\S. Тогда До —компакт. Пусть N — окрестность До, компактная и от- крытая в V\S. Тогда множество (У \5)\Д замкнуто в V \S, а значит, и в V, так что SUN открыто в V. Очевидно, N cz f (S), а отсюда следует, что f (S) открыто. ► 3.10.6. Предложение. Пусть К,— компакт и X = Z(Д). Тогда К. обладает фундаментальной системой открытых (и компактных) окрестностей S, таких, что S = / (S).
§ 3.16. Теорема о приближений 221 ◄ Мы можем считать, что многообразие V связно. Легко по- казать, что Д обладает фундаментальной системой открытых окрестностей U, таких, что имеет не более конечного числа связных компонент. Пусть [/' = /((/) и Со — компактная компо- нента 7\[/. Тогда Сое 1;'\Хи, таким образом, Со cz Uo, где Uo— (открытая) связная компонента 7\Д. Так как Д = / (Д), то UQ не является относительно компактной, и потому dll' f| Uo ф 0. Пусть у0 — кривая, соединяющая точку из Со с точкой из dU' и целиком принадлежащая Uo. Построим такую кривую у, для каждой ком- поненты С, множества V \ U. Тогда очевидно, что множество I открыто и S = X (S). Если S —открытая окрестность К, такая, что S = / (S), a L — компактная окрестность Д и L с S, то, по предложению 3.10.2, L' = (L) сл S, а по предложению 3.10.3,. L' — компактная окрестность Д. ► 3.10.7. Теорема Мальгранжа — Лакса о приближении. Пусть V— ориентированное ^.-аналитическое многообразие, g и т] — dea R-ана- литических векторных расслоения Had V, таких, что rank g = rank ц. Пусть Р — эллиптический оператор порядка пг из g в т] с аналити- ческими коэффициентами. Пусть U — открытое подмножество V, такое, что у V \ U нет компактных связных компонент. Тогда всякое сечение u^C°°(U, £), удовлетворяющее на U уравнению Ри = 0, приближается вместе со всеми частными производными равномерно на компактных подмножествах U глобальными сече- ниями щ е С°° (7, £), такими, что Puv = 0 на всем V. •4 Пусть К — компактное подмножество U. Заменяя Д' на Z(Д'), мы можем считать, что Д = /(Д), так как, по предложениям 3.10.2, 3, / (Д) — компакт, принадлежащий U. Пусть L — компакт в V, такой, что Д с L, и пусть (L) = {s ё= Но (L, I): Ps = 0 на L}. Обозначим через & (К) множество сужений на Д' сечений s е С°° (N, £), таких, что Ps = 0 на N, где N — окрестность Д', во- обще говоря, зависящая от s; ^(Д) мы будем рассматривать как подмножество Н0(К, £). Пусть отображение р: ^(Д)->/7о(Д, I) задается равенством ( s (х), если х е Д', р ($) (х) = { , (0, если х ф. К,
222 гл. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ и пусть М = p(fP(L)). Очевидно, М cz (К). Сначала мы докажем такой факт: 3.10.8. Теорема. Подмножество М плотно в У (К). ◄ Пусть / — непрерывный линейный функционал на Н0(К, £), такой, что 11 М = 0. Нам надо показать, что 11 (К) = 0. По пред- ложению 3.9.4, существует сечение s'o^Ho(K, %'), такое, что /(s) = <so, s)5, «еЯ0(К, I). Определим сечение s' е На(Ь, g'), полагая f «о (х), х е= К, S (%) “ I 0, х ф К. Мы утверждаем, что (s', ы)5 = 0, если и е Но (L, £) и Ри = 0 на L. В самом деле, так как 11 М = 0, то (s', m)j = (so, р(«)>5 = /(р(и)) = 0. По предложению 3.9.9 существует сечение ц'), та- кое, что P't' = s'. Так как s' (х) = 0, если х ф К, то P't' = 0 на V \ К- Так как Р' — эллиптический оператор с аналитическими коэффи- циентами (замечание 3.3.22), то из теоремы 3.9.2 следует, что /' аналитично на 7 \/(. Далее, /'(х) = 0, если х ф L, и, кроме того, никакая связная компонента V \ К не содержится в L, так как K = f(K)- Следовательно, /' равно нулю на непустом открытом подмножестве любой компоненты V \ К, откуда ввиду аналитич- ности /' на V \ К мы получаем, что /' (х) = 0 для любого х е V \ К- Если seS’f/O и N — окрестность К, в которой s определено и Ps — 0, то Z(s) = (s5, s)s = (P'/', s)6= J В (P't', s)= J B(t', Ps) N N (так как P't' = 0 на N \ К и supp t' — компакт в N), а это равно нулю, так как Ps = 0. Таким образом, /|^ (К) = 0. ► Продолжим доказательство теоремы 3.10.7. По теореме 3.9.1 существует последовательность сечений uv s С°° (L, g), таких, что P«v = 0 и в Н<ЛК., £). По предложению 3.9.6, щ, стремятся к и равномерно на К вместе со всеми производными. Пусть {2(v} — последовательность компактных подмножеств V, такая, что К с= Кь Kv+l, = f (4) (легко показать, что такая последовательность существует). Если е>0 задано и то из теоремы 3.10.8 следует суще-
§ 3.10. ТЕОРЕМА О ПРИБЛИЖЕНИИ 223 ствование сечений sv е С°° (Л\, и, |), таких, что Psv = 0, |s1-s|/<<p K+1-MKv<^; здесь |...|Kv означает норму, определяющую топологию в прост- ранстве HO(KV, |), и |s|Kv<|s|Xv+1, если se/70(/Cv+1> g). ряд со U = sv+ 2 (SH — SH-1) U-v+1 сходится в Но (Kv, g), и его сумма не зависит от v. Более того, по предложению 3.9.6, и е С°° (7, g) и Ри = 0. Очевидно, | и — s 1к < е. Таким образом, мы можем найти последовательность {mw} в С°° (7, g), PuN = 0, сходящуюся к s в Нп(К, g). Остальное следует из пред- ложения 3.9.6. ► Из этой теоремы и предложения 3.10.6 мы получаем 3.10.9. Следствие. Пусть К —компактное подмножество V и К = — В обозначениях теоремы 3.10.7 всякое решение и уравне- ния Ри = 0 в окрестности К можно равномерно на К вместе со всеми производными аппроксимировать решениями уравнения Ps=0 на всем V. 3.10.10. Замечание. Можно доказать, что условие U = X ([/) в тео- реме 3.10.7 также и необходимо для того, чтобы выполнялась эта теорема о приближении. Однако в доказательстве этого факта используется теория существования решений уравнения Pu = f, которой мы не касались: см. Мальгранж [1]. Пусть теперь V — комплексное многообразие размерности п и —расслоение форм типа (р, q) на V. Мы уже отмечали в при- мере 3.3.15 (Ь), что дифференциальный оператор д из <^р’0 в с?р’1 эллиптический; в частности, оператор д из &! в 1 эллиптиче- ский. Далее, rank,&1 = l, a rank^°’ 1 = п. Поэтому при и=1 мы можем применить теорему 3.10.7 и тогда получим следующее утверждение. 3.10.11. Теорема Рунге для открытых римановых поверхностей. (Бенке — Штейн.) Пусть V — связное комплексное многообразие размерности 1 со счетной базой, т. е. открытая риманова поверх- ность. Пусть U — открытое подмножество V, такое, что в V \ U нет компактных связных компонент. Тогда любая голоморфная на U функция равномерно на компактных подмножествах U при- ближается функциями, голоморфными на V. Одним из следствий этой теоремы, имеющим далеко идущие применения, является приводимая ниже теорема 3.10.13. Она до-
224 ГЛ. 3. ЛИНЕЙНЫЕ ЭЛЛИПТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ называет, в частности, гипотезу Каратеодори о том, что на любой открытой римановой поверхности существуют непостоянные голо- морфные функции. 3.10.12. Определение. Пусть V — комплексное многообразие раз- мерности п и = <№> (7) — кольцо голоморфных на V функций. Говорят, что V — многообразие Штейна, если выполнены следу- ющие три условия: (а) разделяет точки V, т. е. для любых a, b е V, а=£= Ь, найдется f <= №>, такая, что /(а) =#/(&); (Ь) если a s V, то существуют функции fj.fп е Зв, такие, что отображение f: V -»<Сга, определяемое функциями f\, ..., fn, является изоморфизмом некоторой окрестности а на открытое подмножество С”, т. е. ft.....fn задают локальные координаты в окрестности а; (с) для любого компакта К cz V множество К = Кэе = {х е V: | f (х) |< sup | f (у) | для всех f е Зв} У^К — тоже компакт. 3.10.13. Теорема. (Бенке — Штейн.) Всякая открытая риманова поверхность является многообразием Штейна. •< Пусть V — открытая риманова поверхность и а, а' еУ. Пусть (U, qp), (U', ср')-системы координат, U f) U' = 0 и ср (И) = {z е С: |z|<l} = ср'([/'), ср (а) = <р (</) = 0. Если D = {xeU: | ср (х) | < г < 1}, й' = {.t g U': | <р' (х) | < г < 1}, то сразу видно, что V \ D, V\D' и (V \ D) \ D' — связные мно- жества, и потому множество 7\Q, где Q = Z?UH', не имеет компактных связных компонент. По теореме 3.10.11, функция и на Q, такая, что ( 0, хе D, и (х) = ( , ' ( 1, хе D , равномерно на компакте К.' = {a} U (а'} приближается элементами }еЗв. В частности, существует }еЗв, такая, что |f (а) | < 1/2, Ща')1>1/2. Следовательно, Зв разделяет точки V. Если а е V, (U, <р) — координатная окрестность, указанная выше, и D = {xeU: | ср (х) | < г < 1}, K = {xeU: |<р(х)| <г'<г}, то множество V \ D связно. Опять по теореме 3.10.11, существует функция $еЗв, такая, что sup |/(у) - Ф(у) | <е. у^к,
§ 3.10. ТЕОРЕМА О ПРИБЛИЖЕНИИ 225 Если е достаточно мало, то (df)(d) =£ 0, откуда следует, что f — локальный гомеоморфизм в окрестности а, т. е. функция f задает локальные координаты в точке а. Что касается условия (с) в опре- делении 3.10.12, то нам достаточно доказать равенство Кет = ЛЮ- Прежде всего, если U — относительно компактная компонента V \ К, то Поэтому из принципа максимума следует, что U cz Кж, откуда ЛК)<=Кет. Пусть теперь а ф X (К) и L = {a} U f (Д). Непосредственно видно, что L = ‘?(L). Поэтому мы применим следствие 3.10.9 к оператору д из в 1 и получим функцию f е Ж, такую, что sup \f (у) — и(у)\<1/2, y^L где ( 1, если у из окрестности а, I 0, если у из окрестности / (К). Тогда |/(а) |> sup |f (г/)| У=К и, значит, а ф Кзс- Следовательно, Кэс с /(Д'). > Основной результат этого раздела — теорема 3.10.7, принадле- жащая Мальгранжу [1] и Лаксу [2]. Применение к открытым римановым поверхностям дано, как у Мальгранжа [1]. Первона- чальная трактовка Бенке —Штейна [1] совсем иная, чем эта. Ме- тод Бенке — Штейна намного труднее и существенно использует теорию компактных римановых поверхностей. Однако он имеет то преимущество, что одновременно дает решения так называе- мых первой и второй проблем Кузена (теорем Миттаг-Леффлера и Вейерштрасса).
ЛИТЕРАТУРА Абрахам (Abranam R.) 1. Transversality in manifolds of mappings, Bull. Am. Math. Soc., 69 (1963), 470—474. Атья (A t i у a h M. F.) 1. Immersions and imbeddings of manifolds, Topology, 1 (1962), 125—132. Бенке, Штейн (Behnke H., Stein K-) 1. Entwicklung analytischer Funktionen auf Riemannschen Flachen, Math. Ann., 120 (1948), 430—461. Бишоп (Bishop E.) 1. Mappings of partially analytic spaces, Am. J. Math., 83 (1961), 209—242. Бурбаки (Bourbaki N.) 1. Алгебра. Модули, кольца, формы, М., 1966. [Гл. VII. Модули над коль- цами главных идеалов.] 2. Общая топология. Основные структуры, М., 1958. [Гл. I. Топологические структуры.] 3. Topologie generale, Ch. IX, Utilisation des nombres reels en topologie ge- nerale, Hermann, Paris, 1958. Вейль A. (Weil A.) 1. Sur les theoremes de deRham, Comment. Math. Helv., 26 (1952), 119—145. Вейль Г. (W e у 1 H.) 1. Ober die Gleichverteilung von Zahlen mod Eins, Math. Ann., 77 (1916), 313—352. Глезер (Glaeser G.) 1. Etudes de quelques algebres Tayloriennes, J. d’Analyse (Jerusalem), 6 (1958), 1—124. Гординг (Garding L.) 1. Dirichlet’s problem for linear elliptic partial differential equations, Math. Scand., 1 (1953), 55—72. Грауэрт (GrauertH.) 1. On Levi’s problem and the imbedding of real analytic manifolds, Ann. Math., 68 (1958), 460—472. [IlepeBod в сб. Математика, 4:3 (1960), 29-40.] Гуревич В., Вол мэн Г. (Hurewicz W., W а 11 m a n Н.) 1. Теория размерности, М., 1948. Дьедонне Ж. (Dieudonne J.) 1. Une generalisation des espaces compacts, J. Math. Pure Appl., 23 (1944), 65—76.
ЛИТЕРАТУРА 227 Йон (J о h n F.) 1. Плоские волны и сферические средние в применении к дифференциаль- ным уравнениям с частными производными, М., 1958. Картан A. (Cartan Н.) 1. Varietes analytiques reelles et varietes analytiques complexes, Bull. Soc Math. France, 85 (1957), 77—79. 2. Seminaire E. N. S.: Topologie differentielle, 1961—1962. К a p т а н Э. (С a r t a n E.) 1. Lefons sur les invariants integraux, Hermann, Paris, 1958. Кервер (Kervaire M.) 1. A manifold which does not admit any differentiable structure, Comment Math. Helv., 34 (1960), 257—270. Кодаир а, Спенсер (Kodaira K-, Spencer D. C.) 1. On deformations of complex analytic structures, Part I and II, Ann. Math., 67 (1958), 328—466. Кон (К о h n J. J.) 1. Harmonic integrals on strongly pseudo-convex manifolds, I, Ann. Math., 78 (1963), 206—213. Котаке, Нарасимхан M. (К о t a k ё T., Narasimhan M. S.) 1. Regularity theorems for fractional powers of a linear elliptic operator, Bull. Soc. Math. France, 90 (1962), 449—471. К о ш у л ь (К о s z u 1 J. L.) 1. Lectures on fibre bundles and differential geometry, Tata Institute of Fun- damental Research, Bombay, 1960. Лакс (L a x P.) 1. On Cauchy’s problem for hyperbolic equations and the differentiability of solutions of elliptic equations, Commun. Pure Appl. Math, 8 (1955), 615—633. 2. A stability theorem for abstract differential equations and its application to the study of the local behaviour of solutions of elliptic equations, Com- mun. Pure Appl. Math., 9 (1956), 747—766. Мальгранж (MalgrangeB.) 1. Existence et approximation des solutions des equations aux derivees par- tielles et des equations de convolution, Ann. Inst. Fourier, 6 (1955—1956), 271—355. 2. Идеалы дифференцируемых функций, M., 1968. Милнор (Milnor J.) 1. On manifolds which are homeomorphic to the 7-sphere, Ann. Math., 64 (1956), 399—405. [Перевод в сб. Математика, 1:3 (1957), 35—42.] Морри, Ниренберг (Morrey С. В., Nirenberg L.) 1. On the analyticity of the solutions of linear elliptic systems of partial dif- ferential equations, Commun. Pure Appl. Math., 10 (1957), 271—290. Mope (Morse A. P.) 1. The behaviour of a function on its critical set, Ann. Math., 40 (1939), 62—70. Нарасимхан P. (Narasimhan R.) 1. Imbedding of holomorphically complete complex spaces, Amer. J. Math., 82 (1960), 917—934. [Перевод в сб. Математика, 8:6 (1964), 141—156.] Ниренберг (Nirenberg L.) 1. Remarks on strongly elliptic partial differential equations, Commun. Pure Appl.'Math., 8 (1955), 648—674.
228 ЛИТЕРАТУРА Номидзу (Nomizu К) 1. Группы Ли и дифференциальная геометрия, М., 1960. Ньюленде р, Ниренберг (Newlander A., Nirenberg L.) 1. Complex analytic co-ordinates in almost complex manifolds, Ann. Math., 65 (1957), 391—404. [Перевод в сб. Математика, 3 : 6 (1959), 131—144.] Ока (О к а К ) 1. Sur les fonctions analytiques de plusieurs variables, I. Domaines convexes par rapport aux fonctions rationelles, J. Sci., Hiroshima Univ., 6 (1936), 245—255. П а п и (P a p у G.) 1. Sur la definition intrinseque des vecteurs tangents a une variete de classe Cr lorsque 1 r < оо, C. R. Acad. Sci. Paris, 242 (1956), 1573—1575. Петре (PeetreJ.) 1. Rectifications a Particle «Une caracterisation abstraite des operateurs diffe- rentiels», Math. Scand., 8 (1960), 116—120. Петровский И. Г. 1. Sur I’analyticite des solutions des systemes d’equations differentielles, Матем. сб., 5, № 1 (1939), 3—70. P ел л и x (R el I i с h F.) 1. Ein Safz fiber mittlere Konvergenz, Gottingen Nachr., (1930), 30—35. Сард (S a r d A.) 1. The measure of critical values of differentiable maps, Bull. Am. Math. Soc., 45 (1942), 883—890. C e p p (S e r r e J. P.) 1. Expose 18 in Seminaire H. Cartan, 1953—1954. Соболев С. Л. 1. Об одной теореме функционального анализа, Матем. сб., н. с. 4, № 3 (1938), 471—497. Том (Thom R.) 1. Un lemme sur les applications differentiables, Bol. Soc. Mat. Mexicana (1956), 59—71. Уитни (Whitney H.) 1. Analytic extensions of differentiable functions defined in closed sets, Trans. Am. Math. Soc., 36 (1934), 63—89. 2. A function not constant on a connected set of critical points, Duke Math. J., 1 (1935), 514—517. 3. Differentiable manifolds, Ann. Math., 37 (1936), 645—680. 4. The self-intersections of a smooth n-manifold in 2n-space, Ann. Math., 45 (1944), 220—246. 5. The singularities of a smooth n-manifold in (2n—IJ-space, Ann. Math., 45 (1944), 247—293. 6. Геометрическая теория интегрирования, M., 1960. Уолл (Wall С. Т. С.) 1. All 3-manifoIds imbed in 5-space, Bull. Amer. Soc., 71 (1965), 564—567. Фридрихе (F r i e d r i c h s К. О.) 1. On the differentiability of the solutions of linear elliptic differential equa- tions, Commun. Pure Appl. Math,, 6 (1953), 299—325. Фукс (Fuchs W. H. J.) 1. On the eigenvalues of an integral equation arising in the theory of band limitgd signals, J. Math. Anal. Appl., 9 (1964), 317—330.
литература 229 Хёрмандер (HormanderL.) 1. Линейные дифференциальные операторы, М., 1965. 2. The Frobenius Nirenberg theorem, Arkiv Math., 5 (1964), 425—432. 3. Псевдодифференциальные операторы, в сб. Псевдодифференциальные опе- раторы, М., 1967. 4. Введение в теорию функций нескольких комплексных переменных, М., 1968. Хефлигер (HaefligerA.) 1. Plongements differentiables de varietes dans varietes, Comment. Math. Hetv., 36 (1961), 47—82. Хирш (HirschM. W.) 1. On imbedding differentiable manifolds in Euclidean space, Ann. Math., 73 (1961), 566—571. Хопф (Hopf H.) 1. Zur Topologie der komplexen Mannigfaltigkeiten, Studies and Essays pre- sented to R. Courant (Interscience N. Y.), 1948, pp. 167—185. Шевалле (ChevalleyC.) 1. Теория групп Ли, т. 1—3, М., 1948. Шварц Дж. (Schwartz J.) 1. The formula for change in variables in a multiple integral, Am. Math. Month., 61 (1954), 81—85. Ш в a p ц Л. (S c h w a r t z L.) 1. Theorie des distributions, vol. 1, 2, Hermann, Paris, 1950—1951. 2. Les travaux de Seeley sur les operateurs integraux singuliers sur une va- riete, Seminaire Bourbaki, 1963—1964, Expose 269. Эрве (Herve M.) 1. Функции многих комплексных переменных, М., 1965.
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Аналитическая функция И, 57 Аналитически зависимые функции 30 Бореля теорема 34 Вейерштрасса теорема 13 ----о приближении 37 Векторное поле 71 — расслоение 149 Вложение 136 — замкнутое 136 — локально собственное 136 Внешняя производная 87 — степень векторного расслоения 154 Внутренняя точка 96 Вполне интегрируемая дифференциаль- ная система 111 Голоморфная функция 12, 57 Голоморфное векторное поле 80 — отображение 57 Гординга неравенство 192 Граница многообразия 97 Граничная точка 97 Грассмана многообразия 70 Гротендика лемма 127 Де Рама группы когомологий 91 Диффеоморфизм 12, 57 Дифференциал 59 — отображения 63 — функции 20 Дифференциальная система 111 ---- вполне интегральная 111 ----инволютивная 111 — форма 71 ----голоморфная 93 ---- замкнутая 91 ---- комплекснозначная 78 ---- степени р 71 ----типа (р, q) 80 — — точная 91 Дифференциальный оператор 164 ---с аналитическими коэффициен- тами 174 ---эллиптический 171 Дифференцируемое многообразие 55 Инвариантное векторное поле 108 Интеграл дифференциальной системы 100 Интегрирование дифференциальных форм 103 Касательное пространство 59 — расслоение 65 Касательный вектор 59 Ковектор 59 Касательное пространство 59 — расслоение 65 Комплексно аналитический изомор- физм 57 Комплексное многообразие 56 Координатная окрестность 56 Критическая точка 26, 67 Локальная однопараметрическая груп- па 105 Локально конечное семейство 18 — собственное отображение 82 Локальный оператор 87 Мальгранжа — Лакса теорема о при- ближении 221 Многообразие 55 — класса Ск 55 — с границей 96 Морфизм 149 Носитель сечения 156 — функции 10, 56 Ньюлендера — Ниренберга теорема 122
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 231 Однопараметрическая группа 105 Ока — Вейля теорема 134 Ориентация 94 Ориентируемое многообразие 93 Отображение расслоений 149 Планшереля теорема 161 Погружение 136 Подмногообразие 81 Положительный касательный вектор 97 — ковектор 98 Порядок линейного дифференциально- го оператора 168 Почти комплексная структура 120 -------интегрируемая 121 Преобразование координат 56 Проективное пространство 70 Производная 59 Прообраз дифференциальной формы 74 Прямая сумма векторных расслоений 154 Пуанкаре лемма 125 Равномерно строго эллиптический опе- ратор 191 Разбиение единицы 18 Размерность 55, 56 Ранг отображения 66 Расслоение р-форм 66 — форм типа (р, р) 156 Регулярное отображение 136 Реллиха лемма 183, 214 Рунге область 42 — теорема 42, 223 Сарда теорема 26, 27 Сечение векторного расслоения 156 Символ линейного дифференциального оператора 170 Система координат 55 Скобка векторных полей 75 Соболева лемма 187 — пространства 175 Собственное отображение 82 Сопряженное векторное расслоение 154 Стационарная функция 58 Стокса теорема 103 Строгая дифференцируемость в L? 179 Структурные формы 120 Тензорное произведение векторных расслоений 154 F Теорема конечности об аналитичности 211, 213 -----обратной функции 24, 67 — о неявной функции 24 -----ранге 24, 67, 77 — регулярности 205, 213 Тома теорема о трансверсальности 148 Трансверсальное отображение 145 Уитни сумма 154 — теорема о вложении 141 -------погружении 140 -------приближении 38, 39 ----— продолжении 35 Формально сопряженный оператор 173 — транспонированный оператор 174 Фридрихса неравенство 196 Фробениуса теорема 114, 115, 117 Функции перехода 151 Функции перехода 151 Функциональная зависимость 30 Фурье преобразования 158, 161 Хартогса теорема о продолжении 132 Частный дифференциал 22 Штейна многообразие 224 Якоби тождество 75 С^-многообразие 55 С^-отображение 57 С^-структура 55 Ск-функция 57 d-ациклическое открытое множество 132 А-связное многообразие 144 /n-плоская функция 33 R -аналитическая функция 4, 57 R -аналитический изоморфизм 57 R-аналитическое многообразие 55
ОГЛАВЛЕНИЕ Предисловие редактора перевода ..................................... 5 Предисловие ........................................................ 1 Глава 1. Дифференцируемые функции в R".............................. 9 § 1.1. Формула Тейлора........................................ 10 § 1.2. Разбиения единицы...................................... 18 § 1.3. Обратные функции, неявные функции и теорема о ранге . . , 20 § 1.4. Теорема Сарда и функциональная зависимость........... 25 § 1.5. Теорема Бореля о рядах Тейлора....................... 33 § 1.6. Теорема Уитни о приближении.......................... 36 § 1.7. Теорема о приближении для голоморфных функций .... 42 § 1.8. Обыкновенные дифференциальные уравнения............... 46 Глава 2. Многообразия.............................................. 55 § 2.1. Основные определения................................. 55 § 2.2. Касательное и кокасательное расслоения............... 62 § 2.3. Многообразия Грассмана............................... 68 § 2.4. Векторные поля и дифференциальные формы.............. 71 § 2.5. Подмногообразия...................................... 81 § 2.6. Внешнее дифференцирование............................ 87 § 2.7. Ориентация........................................... 93 § 2.8. Многообразия с границей.............................. 96 § 2.9. Интегрирование....................................... 99 § 2.10. Однопараметрические группы..........................105 § 2.11. Теорема Фробениуса..................................110 § 2.12. Почти комплексные многообразия......................119 § 2.13. Леммы Пуанкаре и Гротендика.........................125 § 2.14. Применения: теорема Хартогса о продолжении и теорема Ока —Вейля..................................................130 § 2.15. Погружения и вложения: теоремы Уитни.................136 § 2.16. Теорема Тома о трансверсальности.....................144 Глава 3. Линейные эллиптические дифференциальные операторы. . . 149 § 3.1. Векторные расслоения.................................149 § 3.2. Преобразования Фурье.................................158 § 3.3. Линейные дифференциальные операторы..................164 § 3.4. Пространства Соболева................................175 § 3.5. Леммы Реллиха и Соболева.............................181 § 3.6. Неравенства Гординга и Фридрихса.....................190 § 3.7. Эллиптические операторы с С°°-коэффициентами: теорема о регулярности..............................................199 § 3.8. Эллиптические операторы с аналитическими коэффициентами 206 § 3.9. Теорема конечности...................................212 § 3.10. Теорема о приближении и ее применение к открытым рима- новым поверхностям..........................................219 Литература.........................................................226 Предметный указатель...............................................230