Обложка
Титульный лист
Аннотация
ОГЛАВЛЕНИЕ
Ко второму изданию
Глава I. Голоморфные функции нескольких переменных
2. Простейшие области
§ 2. Голоморфные функции
4. Плюригармонические функции
5. Простейшие свойства голоморфных функций
6. Основная теорема Хартогса
§ 3. Разложения в ряды
8. Другие ряды
§ 4. Голоморфные отображения
10. Биголоморфные отображения
11. Пример Фату
Задачи
Глава II. Основные геометрические понятия
13. Формула Стокса
§ 6. Интегральные представления
15. Формулы Мартинелли — Бохнера и Лерэ
16. Формула Вейля
§ 7. Накрытия
18. Фундаментальные группы и накрытия
19. Римановы области
§ 8. Аналитические множества
21. Свойства аналитических множеств
§ 9. Расслоения и пучки
23. Касательное и кокасательное расслоения
24. Понятие пучка
Задачи
Глава III. Аналитическое продолжение
26. Теорема Хартогса и устранение особенностей
§ 11. Области голоморфности
28. Голоморфная выпуклость
29. Свойства областей голоморфности
§ 12. Псевдовыпуклость
31. Выпуклость в смысле Леви
32. Плюрисубгармонические функции
33. Псевдовыпуклые области
§ 13. Оболочки голоморфности
35 Многолистные оболочки
36. Аналитичность множества особенностей
Задачи
Глава IV. Мероморфные функции и вычеты
38. Первая проблема Кузена
39. Решение первой проблемы
§ 15. Методы теории пучков
41. Точные последовательности пучков
42. Локализованная первая проблема Кузена
43. Вторая проблема Кузена
§ 16. Применения
45. Решение проблемы Леви
§ 17. Многомерные вычеты
47. Теория Лере
48. Логарифмический вычет
49. Локальное обращение отображений
Задачи
Глава V. Некоторые вопросы геометрической теории
51 Метрика Каратеодори
52. Метрика Кобаяси
§ 19. Гиперболические многообразия
54. Обобщения теоремы Пикара
§ 20. Граничные свойства
56 Соответствие границ
57. Векторные поля
58. Граничные свойства функций
59. Порождающие многообразия
Задачи
Добавление. Обзор теории распределения значений
Предметный указатель

Автор: Шабат Б.В.  

Теги: анализ   математика  

Год: 1976

Текст
                    Б. В. ШАБАТ
ВВЕДЕНИЕ
В КОМПЛЕКСНЫЙ АНАЛИЗ
ЧАСТЬ II
ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ
ИЗДАНИЕ ВТОРОЕ,
ПЕРЕРАБОТАННОЕ И ДОПОЛНЕННОЕ
Допущено Министерством высшего
и среднего специального образования СССР
в качестве учебного пособия для студентов
механико-математических факультетов университетов
ИЗДАТЕЛЬСТВО «НАУКА*
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
Москва 1976


517.2 Ш12 УДК 517.5 Введение в комплексный анализ, ч. II, изд. 2-е, Ш а б а т Б. В., Главная редакция физико-математической литературы издательства «Наука», 1976. Вторая часть книги содержит материал основного спецкурса, в течение ряда лет читанного автором в Московском университете, и может служить первоначальным введением в предмет. Принятое в книге единое изложение теории функций одного и нескольких переменных значительно облегчает усвоение материала. Этому способствуют также задачи, приведенные в конце глав. Вторая часть книги является учебным пособием для студентов, желающих ознакомиться с этой новой и активно развивающейся ветвью комплексного анализа. Илл. _54. Борис Владимирович Шабаш ВВЕДЕНИЕ В КОМПЛЕКСНЫЙ АНАЛИЗ часть II ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ М., 1976 г., 400 сгр. с илл. Редактор Е. М. Чирка Техн. редактор В. Н. Кондакова Корректор О. А. Сигал Сдано в набор 5/1V 1976 г. Подписано к печати 3/VIH 1976 г. Бумага 84xl08Vs2 № 3. Физ. печ. л. 12,5^ Условн. пе*ч. л. 21; Уч.-изд. л. 21,84 Тираж 20 000 экз. Цена книги 92 к.-Заказ № 564, Издательство «Наука» Главная редакция физико-математической литературы 117071, Москва, В-71, Ленинский проспект, 15 Ордена Трудового Красного Знамени Ленинградское производственно-техническое объединение «Печатный Двор» имени А. М. Горького Союзполиграфпрома при Государственном комитете Совета Министров СССР по делам издательств, полиграфии и Книжной торговли. 197136, Ленинград, П-136, Гатчинская ул., 26 Отпечатано во 2-й типографии изд-ва «Наука». Москва, Шубин- ский пер., дом 10. Зак. 926 20-03-000 (g) Главная редакция физико-математической 053(02V76 ***"•. литературы издательства «Наука», 1976, * '. с изменениями
ОГЛАВЛЕНИЕ Ко второму изданию •••••••••« 5 Глава I. Голоморфные функции нескольких переменных ... 7 § 1. Комплексное пространство 7 1. Пространство Сл 7 2. Простейшие области . . , 13 § 2. Голоморфные функции 20 3. Понятие голоморфности , . . 20 4. Плюригармонические функции 24 5. Простейшие свойства голоморфных функций ... 25 6. Основная теорема Хартогса 36 § 3. Разложения в ряды , . 42 7. Степенные ряды 42 8. Другие ряды 47 § 4. Голоморфные отображения 53 9. Свойства голоморфных отображений 53 10. Биголоморфные отображения 56 11. Пример Фату 62 Задачи ' 67 Глава П. Основные геометрические понятия 70 § 5. Многообразия и формула Стокса 70 12. Понятие многообразия 70 13. Формула Стокса 74 § 6. Интегральные представления 81 14. Теорема Коши —Пуанкаре * 81 15. Формулы Мартинелли — Бохнера и Лерэ 85 16. Формула Вейля 92 § 7. Накрытия 98 17. Понятие накрытия 98 18. Фундаментальные группы и накрытия 102 19. Римановы области 109 § 8. Аналитические множества 112 20 Подготовительная теорема Вейерппрасеа 113 21. Свойства аналитических множеств 116 § 9. Расслоения и пучки 125 22. Понятие расслоения . . . > 125 23. Касательное и кокасательное расслоения .... 128 24. Понятие пучка 135 Задачи 139 Глава III. Аналитическое продолжение 143 § 10. Теоремы о продолжении 143 25. Теорема Севери 143 26. Теорема Хартогса и устранение особенностей . . 149 1*
4 ОГЛАВЛЕНИЕ §11. Области голоморфности 153 27. Понятие области голоморфности 153 28. Голоморфная выпуклость 158 29. Свойства областей голоморфности 165 § 12. Псевдовыпуклость 170 30 Принцип непрерывности 170 31. Выпуклость в смысле Леви 174 32. Плюрисубгармонические функции 180 33. Псевдовыпуклые области 189 § 13. Оболочки голоморфности 195 34 Однолистные оболочки 195 35 Многолистные оболочки 201 36. Аналитичность множества особенностей 210 Задачи 218 Гл а в а IV. Мероморфные функции и вычеты , , 221 § 14. Мероморфные функции 221 37. Понятие мероморфной функции 221 38. Первая проблема Кузена 226 -39. Решение первой проблемы . . 230 § 15. Методы теории пучков 236 40 Группы когомологий ; . , 236 41. Точные последовательности пучков 241 42. Локализованная первая проблема Кузена .... 246 43. Вторая проблема Кузена 251 § 16. Применения , . . 258 44. Применения проблем Кузена 258 45. Решение проблемы Леви 262 § 17. Многомерные вычеты , , , 265 46 Теория Мартинелли 265 47. Теория Лере 273 48. Логарифмический вычет 283 49. Локальное обращение отображений 288 Задачи 294 Глава V. Некоторые вопросы геометрической теории .... 297 § 18. Инвариантные метрики 297 50. Метрика Бергмана 297 51 Метрика Каратеодори 306 52. Метрика Кобаяси 310 § 19. Гиперболические многообразия 314 53. Признаки гиперболичности ............ 314 54. Обобщения теоремы Пик ар а . . , 326 § 20. Граничные свойства 340 55. Строго псевдовыпуклые области 340 56 Соответствие границ , 348 57. Векторные поля , , 353 58. Граничные свойства функций 367 59. Порождающие многообразия 373 Задачи . „ 380 Добавление. Обзор теории распределения значений .... 383 Предметный указатель 396
КО ВТОРОМУ ИЗДАНИЮ Эта вторая книга предназначена для начального изучения многомерного комплексного анализа, т. е. теории голоморфных функций нескольких переменных и голоморфных отображений комплексных многообразий. Она является продолжением первой книги; некоторые идеи, лишь намеченные там, находят в ней свое естественное зазершение. Многомерный комплексный анализ находится в стадии интенсивного развития, и со времени написания первого издания книги в нем произошли перемены, которые коснулись даже основ теории. В соответствии с этим первое издание подверглось значительной переработке. В первую главу включен параграф, посвященный голоморфным отображениям, которые в многомерном случае являются столь же основным понятием, как и функции. Здесь, в частности, рассмотрены и биголоморфные*отображения простейших областей комплексного пространства (шара и поликруга)— многомерный аналог дробно-линейных отображений. Вторая глава практически написана, заново. В основном она посвящена понятиям из алгебры и топологии, необходимым для дальнейшего изложения (многообразия, дифференциальные формы, накрытия, расслоения и пучки), но содержит и такие важные разделы комплексного анализа, как интегральные представления и аналитические множества. Третья и четвертая главы подверглись лишь локальным изменениям, правда, довольно большим. В новой пятой
6 КО ВТОРОМУ ИЗДАНИЮ главе излагаются результаты геометрической теории функций нескольких комплексных переменных, многие из которых получены лишь недавно. Наряду с фактами, входящими, по мнению автора, в необходимый минимум сведений по комплексному анализу, сюда включены и некоторые более специальные факты, рассчитанные на тех, кто собирается заниматься геометрической теорией функций. При подготовке второго издания неоценимую помощь мне оказал Е. М. Чирка, которому принадлежат многочисленные улучшения старых доказательств, а также ряд предложений по изложению нового материала. Я приношу ему свою глубокую благодарность. Декабрь 1975
Глава I ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ Пожалуй, главную трудность для начинающего при переходе к изучению функций нескольких комплексных переменных представляет отсутствие простых, наглядных геометрических представлений. Поэтому мы с самого начала отметим особенности комплексного пространства и подробно опишем ряд простейших областей в нем. § 1. Комплексное пространство 1. Пространство С". Рассмотрим четномерное евклидово пространство R2/l, точками которого являются упорядоченные наборы 2/2 действительных чисел (хх, ..., хгп). Мы введем в нем комплексную структуру, положив zv == = xv + ixn+v (v = 1, ..., n). Часто мы будем обозначать xn+v = ух, так что zv = xv + iyv (v = 1» • • • > я)« Пространство, точками которого являются упорядоченные наборы п комплексных чисел * = (гь ..., гл) = {М» (1) мы будем называть я-мерным комплексным пространством и обозначать его символом С". В частности, при п=\ мы получаем С1 = С — плоскость комплексных чисел. Пространство €п является декартовым произведением п плоскостей ©* = €х ... хС (2) п раз Таким образом, точки /г-мерного комплексного пространства С" —это точки 2/2-мерного действительного пространства R2/I. Однако введение комплексной структуры в R2n сразу вводит в этом пространстве асимметрию — не все координаты в нем равноправны (например, хх и #д+1мы объединяем в комплекс гь а хх и хг не объединяем).
8 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ I В С" естественно вводится структура векторного пространства: под суммой векторов г = {zv} и до = {oyv} понимается вектор г + до = {zv-\-wv}, и под произведением вектора г = {zv} на число ^g(D-вектор Xz = {A,3V}. Можно рассматривать также эрмитово скалярное произведение п (г, до) = 2 г^ (3) с очевидными свойствами (до, z) = (zy до), (Xz, до) = А,(г, до) (4) для любого isC. Полагая 2V = a:v + ixn+Vi wv — uv-\-iuri+yJ> мы можем переписать (3) в виде 2n п (г, до) = 2 *vhv + / 2 (**4*"v~ *Wi+v)f v=I v=l откуда ясно, что действительное скалярное произведение г и до, рассматриваемых как векторы из R2/l, равно Re (г, до). Всякую гиперплоскость из R2n можно, следовательно, задать уравнением Re (г, а) = Р, (5) где аФО — вектор из Сл и р —действительное число, а действительную г-мерную плоскость — системой таких уравнений Re (г, ^) = р^ (|х=1, .... 2п-г), (6) где векторы а^ линейно независимы над полем R и р^ е R. Среди всех плоскостей особо выделяются так называемые комплексные плоскости, которые задаются системой комплексных линейных уравнений (г, а») = \ (fi = l, ...* А), (7) где векторы а*А линейно независимы над полем (D и ^gO, Число & называется комплексной коразмерностью плоскости, a r = n — k — ee комплексной размерностью. Разделяя в (7) действительные и мнимые части, эту систему можно переписать в виде Re (г, ам) = Re Ь^ Re (г, ia») = Im b^ (\х = 1, ..., k)
§ и КОМПЛЕКСНОЕ ПРОСТРАНСТВО 9 (мы воспользовались тем, что Im (г, w) = Re (г, lw) — это видно из (4)), причем очевидно, что векторы а1, ..., ak, ial, ..., id* линейно независимы над полем R. Следовательно, действительная размерность r-мерной комплексной плоскости равна 2г. Однако не каждая четномерная действительная плоскость из R2n является комплексной плоскостью (это отражает асимметрию, возникающую при введении комплексной структуры, о которой говорилось выше). Легко видеть, что плоскость ПсСя проходящая через начало координат, будет комплексной тогда и только тогда, когда для любого геП вектор /геП. В самом деле, необходимость условия очевидна, ибо из уравнения (г, сР) = 0 следует, что (/г, а>х) = 0. Для доказательства достаточности этого условия заметим, что при его- выполнении вместе с каждым вектором z плоскости П принадлежит и %г для любого X е (D, т. е. П является комплексным линейным подпространством С*. Если в ортогональном дополнении к П (относительно эрмитова скалярного произведения в ©л) выбрать базис а1,..., о*, то П = {ге(С'1: (г, а»*) = 0, и-= 1.'•••» *} и, значит, является комплексной плоскостью. Особо отметим комплексные гиперплоскости в ©л как плоскости комплексной коразмерности 1; они описываются одним уравнением вида (г, а) = 6, афО. (8) Каждая комплексная гиперплоскость (8) содержится в действительной гиперплоскости (5), где p = Refr, причем действительная размерность (5) на 1 больше действительной размерности (8). Одномерные комплексные плоскости называют также комплексными прямыми (их действительная размерность равна 2). Комплексную прямую в С", проходящую через точку 2° = (г?, ..., г£), можно записать уравнениями где cov — комплексные постоянные, не все равные нулю. Обозначая общую величину этих отношений через £, уравнение комплексной прямой можно переписать в параметрическом виде г = г° + со£, (9)
10 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I где со = (сох, ,.., (оп) — направляющий вектор прямой и £ — комплексный параметр. В С" можно ввести структуру метрического пространства. Обычно рассматривают две метрики: евклидову метрику e(z\ г"), или ^ /п Г In 2i*v-*;ia=i/ S(4-4)a, v = l ' У v = l (10) и еще одну метрику р(г\ г"), или |]г'-г"| = тах|г;-г;|, (11) V которую мы будем называть р-метрикой. Очевидно, что р-метрика, как и евклидова, удовлетворяет обычным аксиомам: а) р(г', г") = р(г", г') —аксиома симметрии; б) р(г', z")>0 при г'фг\ р(г, г) = 0; в) р(г', z'")^p(z', z") + p(z", z"') — аксиома треугольника. В соответствии с этими метриками в (С* вводятся и топологии. Это делается указанием системы окрестностей: в евклидовой метрике под е-окрестностью точки z° понимается шар: B{z\ 8) = {2gC«: |г-г°|<е}, а в р-метрике — поликруг (или полицилиндр): U{z\ 8) = J2G^ ||г--г0||<е}. В соответствии с этим р-метрику мы будем еще называть поликруговой. Очевидное двойное неравенство |г'-аГ||<|г'-^КУ^||г'-^| ' (12) показывает, что метрики (10) и (11) вводят в ©я эквивалентные топологии. В заключение этого пункта опишем компактификацию пространства С", т. е. пополнение его бесконечными элементами. Наиболее простой способ компактификации при-
§ п КОМПЛЕКСНОЕ ПРОСТРАНСТВО 11 водит к так называемому пространству теории функций С" — произведению п замкнутых плоскостей (сфер): ©* = € х ... х С. (13) п раз Таким образом, по определению точками С" являются упорядоченные наборы из п точек, принадлежащих замкнутым плоскостям С. Бесконечными (несобственными) точками будут те точки, хотя бы одна координата которых является бесконечной. Множество всех бесконечных точек Сл естественным образом разбивается на п множеств Mv= {ге Сл: 2v = oo, г^е С, \1ф\}. Точки из Mv имеют, следовательно, вид (гь ..., zv_i, со, zv+1, ..., г„), где z^ (|х ф v) — конечные или бесконечные комплексные числа. Каждое A4V, а значит и множество всех бесконечных точек С", имеет комплексную размерность /г—1. Все 7WV пересекаются в точке (со, ..., со). Топология в ©л вводится, как в произведении пространств: под окрестностью точки г° == {г%\ е ©л понимается произведение окрестностей точек г$ в замкнутых плоскостях переменных zv. В этой топологии пространство С* оказывается компактным: из каждой последовательности точек ^lG(Cn (|х=1, 2, ...) можно выбрать подпоследовательность, сходящуюся к некоторой точке г° е gC"1). Другой способ компактификации С* приводит к так называемому комплексному проективному пространству (DP71. Введем в пространстве ©л однородные координаты (со0, ... ..., (D„), положив *v = -sj(v=l, ...f л, соо^о). (14) 1) Компактность СЛ доказывается совсем просто Можно также воспользоваться тем, что С71 является произведением компактных множеств —замкнутых сфер
12 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Однородные координаты точки 2еСл определяются с точностью до множителя пропорциональности (т. е. наряду с (со0, ..., соп) координатами точки г будут и (Ясо0, ..., tao„), где Х=^=0 — любое комплексное число). Обратно, любому набору однородных координат (со0, ..., co„), где соо^О, по формулам (14) соответствует точка 2еСл (причем координатам с разными отношениями (14) соответствуют различные точки). Чтобы устранить особое положение однородной координаты со0, мы пополним Сл несобственными (бесконечными) точками, и тогда любым наборам однородных координат со = (со0, ..., сол), | со | Ф О, будут соответствовать точки некоторого пространства (DP*, которое и называется комплексным проективным пространством. Точкам (СРЛ, для которых со0=£0, по формулам (14) соответствуют точки z с= ©л, поэтому СР" действительно пополняет ©л. Точкам со, для которых со0 = 0, отвечают бесконечные (несобственные) точки; их совокупность есть ер*-*. Точнее, точками ©Р" служат не сами наборы со = = (со0, ..., сол), а их классы эквивалентности по следующему отношению: со'^со", если их координаты пропорциональны, т. е. со" = Хсо' для некоторого комплексного числа ХфО; класс эквивалентности, содержащий набор со, мы обозначим [со]. Такие классы эквивалентности можно наглядно представить при помощи комплексных прямых в пространстве €п+1. Действительно, эквивалентные наборы со = = (со0, ..., сол), |со|^=0, характеризуют комплексную прямую в Сл+1: проходящую через начало координат (замена со любым Хсо, ХфО, не меняет прямой; неэквивалентные со определяют различные прямые). Поэтому и точки из СРП лучше представлять как такие прямые. В частности, любая комплексная прямая (15), для которой со0 = 0, представляет бесконечную точку. Хорошо известна модель проективной плоскости Р2, которая получается из сферы в R3 отождествлением диаметрально противоположных точек (пересечения сферы с прямыми из R3, изображающими точки проективной
in КОМПЛЕКСНОЕ ПРОСТРАНСТВО 13 плоскости). Точно так же можно представлять при помощи сферы из Rn+1 и действительное я-мерное проективное пространство. Мы опишем вкратце соответствующую модель для ©Ря. Так как каждая комплексная прямая из Сл+1, проходящая через начало, вполне характеризуется единичным вектором co°==-j—г, то СРП можно представлять как множество точек сферы S = {| z | = 1} из (D"+1. При этом, однако, следует отождествить точки пересечения S с комплексной прямой, изображающей точку СР". Пусть такая прямая L задается параметрическими уравнениями zv = cov £ (v = 0,... ..., п, | со01 = 1); так как уравнением сферы S служит п 2 zvzv=l, то для точек пересечения L и S будем иметь v=o п |£|2 2 |cov°|2=l, или |£| = 1. Отсюда видно, что L и S пересекаются по одномерному множеству—-окружности {|£| = 1}, лежащей на комплексной прямой и на (2п+ ^-мерной сфере. Таким образом, точки СРЛ можно еще представлять как окружности на единичной сфере S а Сл+1 (это находится в соответствии с тем, что СРЛ имеет действительную размерность 2п), В частности, окружности, которые получаются в пересечении S с прямыми L, для которых со0 = 0, представляют бесконечные точки. В пространстве СРЛ можно ввести топологию, объявляя «близкими» те прямые L, которые определяются «близкими» единичными векторами оз° (или те окружности на S, которые получаются при ее пересечении с «близкими» прямыми). В этой топологии (DP* оказывается компактным пространством. 2. Простейшие области. Здесь мы опишем некоторые простейшие примеры областей в пространстве (D*. Под областью, как всегда, понимается открытое связное множество, причем открытость множества означает, что каждая 'точка принадлежит ему вместе с некоторой окрестностью, а связность открытого множества D означает, что для любых точек г', г" еD существует непрерывный путь у: [О, 1 ]->£>, для которого y(0) = z', Т(1) = Л
14 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I 1. Шар радиуса г с центром в точке аеСя определяется как множество точек В(а9 г) = {г€=№:\г-а\<г]. (1) Это —обычный евклидов шар; его границей дВ служит (2я — 1)-мерная сфера 82п-г = {г<=$п\\г-а\ = г}. 2. Поликруг (или полицилиндр) радиуса г с центром йеСя определяется как множество точек 1/(А,г) = {геС»:1г-А1<г}. (2) Это —шар с центром а в поликруговой метрике р. Он представляет собой произведение п плоских кругов радиуса г с центрами в точках av. Можно рассматривать и более общий случай поликруга с центром а и векторным радиусом r = (rlt ..., гп)\ U (а, г) = {г <= С": |ev-av|<rv, v=l, ..., п). (3) Границей dU поликруга является множество всех точек, у которых хотя бы одна координата zv принадлежит границе v-ro круга, образующего U, а остальные координаты г^ (\i^v) произвольно меняются в замкнутых кругах. Эта граница естественным образом разбивается на п множеств Г*={г: |zv — av| = rv, |г^ — Оц|<Гц, \i=£v}, каждое из которых (2п—1)-мерно (ибо 2п координат точки z связаны одним действительным соотношением | zv — 0V | = rv). Поэтому и вся граница поликруга dU =з п = (J Tv является (2л—1)-мернол. Все множества Tv пе- v = l ресекаются по л-мерному множеству Г = {г: |2v-av| = rv, v=l, ..., я}, которое называется остовом поликруга и представляет собой произведение п окружностей. Опишем подробнее бикруг радиуса 1 с центром в начале: гУ = {ге=©2; [гг\<19 |г,|<1}.
§ 1] КОМПЛЕКСНОЕ ПРОСТРАНСТВО 15 Зто четырехмерное тело является пересечением двух цилиндров: *;+*!< 1 и xi+xi<\. Граница его — трехмерное тело 3U = Г1 [) Г2, где Г1 = {| гА | = = 1» |г2|^ 1} —также трехмерное тело, которое расслаивается в однопараметрическое семейство кругов: Г1 = 2Я и ) = 0 ^ (J {z1 = 8iQJ |г2|^1}, и Г2 — аналогичное тело. Остов Рис. 1. бикруга Г = Г1 П Г2 двумерен. Это —тор r = {|2i| = l, |22|==1}; в самом деле, отображение z1=eiQi9 z2 = e'0a го- меоморфно преобразует на Г квадрат {0^б1^2я, 0^ <с02^2л} с отождествленными, как указано на рис. 1, противоположными сторонами (ибо e'(8v + 2j0 = £tev), а такое отождествление дает тор. Тор Г расслаивается на од- нопараметрические семейства окружностей {z1 = eiQ\ 1г2| = = 1} и {12x1=1, 22 = £'е*}, 0<6Ь 62<2л (на рис. 1 изображено по одному представителю каждого семейства). Он служит пересечением двух трехмерных цилиндров {*i + *!= 1} и {*1 + *4= 1} и» очевидно, лежит в R4 на (трехмерной) сфере {х\ + х\ + х\ + xl = 2}. Таким образом, бикруг геометрически следует представлять так. Нужно взять в С2 (трехмерную) сферу {121=^2} и на ней выбрать тор Г={| гх\ = 1, |za|=l}. На этот тор нужно натянуть два трехмерных тела
16 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I П = {| гх | = 1, | *21 ^ 1} и Г2 = [_\ zx | ^ 1, | г21 = 1}, лежащих в шаровом слое {1^|г|^|/2}; их совокупность ГхиГ3 и будет ограничивать бикруг. 3. Поликруговые (или полицилиндрические) области в Сл определяются как произведения п плоских областей: D=DX х ...xDn (4) (поликруги являются частными случаями таких областей). Если все Dv —односвязные области, то D гомеоморфна шару. Граница 3D поликруговой области D разбивается на п множеств размерности (2м — 1): Tv = {z: zvs=dDy„ z^zeD^ m^v}. Общей частью всех Tv является я-мерное множество Г = {г: zv^dDv\ v=l, ..., n}f которое называется остовом поликруговой области D. 4. Области Рейнхарта (или п-к р у г о вые области) с центром в точке а ^ С" определяются как области, обладающие следующим свойством: вместе с каждой точкой z°~{z$\ области принадлежит и любая точка г = {av + (4 — av) А}, 0 < 6V < 2л. Область Рейнхарта с центром в а называется полной, если вместе с каждой точкой г° ей принадлежат и все точки г = {zv}, для которых | zv — av \ ^ | г£ — av |, v = 1, ... ..., п. Очевидно, что шары и поликруги являются полными областями Рейнхарта. При п—\ неполными областями Рейнхарта будут кольца {г<|г — а\ </?}, а полными областями — круги {|г — a\<.R}. Без ограничения общности можно считать, что центр области Рейнхарта а = 0 (это достигается сдвигом). Такая область вместе с каждой точкой {zv} содержит все точки с теми же \zv\, v=l, ..., п, и всевозможными аргументами. Учитывая это замечание, мы можем рассмотреть отображение г-+а(г) = (\гг\9 ..., \гя\) (5) 2/г-мерного пространства С* в n-мерное пространство iR", точнее, в так называемый абсолютный октант IRj =;
§ 1] КОМПЛЕКСНОЕ ПРОСТРАНСТВО 1' = R+X...xR+, где R+ = [0, со) —полуось неотрицатель- п раз ш ных чисел. Это отображение а: (Сл->1к£ преобразует область Рейнхарта D во множество точек D+ с: Rj, которое мы будем называть изображением (или диаграммой) Рейнхарта области D. Если D —полная область Рейнхарта, то D+ вместе с каждой точкой {| z°v \} содержит весь прямоугольный параллелепипед {|zv|^l2v|i v = l, ..., п). Рис. 3. Описанная диаграмма полностью характеризует области Рейнхарта, а понижение размерности на п единиц для /2 = 2 и /2 = 3 делает это изображение наглядным. На рис. 2 и 3 изображены соответственно диаграммы Рейн^ харта шара {|г|<1} и поликруга {|ev|<l} для /2 = 2 и 3; на втором из них показаны множества Tv и остов Г.
18 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I 5. Области Хартогса с плоскостью симметрии {гя = ая} определяются как области, обладающие следующим свойством: вместе с каждой точкой z° = {zy} области принадлежит и любая точка z = (z°u ..., 2я_ь ап + + (г% — аЛетп), 0<6я<2я. Область Хартогса называется полной, если вместе с каждой точкой z° ей принадлежат и все точки г, для которых zv = z$ (v=l, ..., п— 1), а I Zn — ая|^| z°n~-ап\. NОчевидно, что области Хартогса составляют более широкий класс, чем области Рейнхарта. Области Хартогса с плоскостью симметрии {zn = 0} можно изображать в пространстве размерности (2я— 1), если воспользоваться преобразованием |3: С* «-> С*-1 х R+, определяемым формулой Z->P(Z) = {21> ..., 2Я_Ь |2Я|}. (6) Для краткости письма обозначим через ,г = (г1, ..., zn^) проекцию точки z в пространство С"-1 и через 'D проекцию D в С*-1 (т. е. совокупность всех 'г для z е D). Изображение полной области Хартогса вместе с каждой точкой ('г0, | гл |) содержит весь отрезок {('Л |2?я1): |гя|<|2„!}. Диаграмма Хартогса понижает размерность на 1 и при п = 2 является вполне наглядной. На рис. 4 изображена неполная область Хартогса; следует иметь в виду, что точка на этой диаграмме изобр ажает ок ру жность, а вертикальный отрезок, опирающийся на 'Ь, — круг. На рис. 5 изображены шар из €2 и бикруг; на рисунке хорошо видны трехмерные куски границы Г1 и Г2 и остов Г бикруга. 6. Круговые области с центром в точке agC'1 — это области, которые вместе с каждой точкой z содержат и все точки a-\-(z — a)ei%% 0<8<2л, т. е. окружность на комплексной прямой, проходящей через г и а, с центром а и радиусом |г — а\. Полные круговые области вместе с z содержат весь круг {a-\-(z — я)£, |£|<1}. Кольцо Окружность Ъ^Круг Рис 4.
§1] КОМПЛЕКСНОЕ ПРОСТРАНСТВО 19 Если-0 = 0, то простое преобразование (гь ..., zn)-* *-> (ir > • • • у —» zn) переводит круговую область в область Хартогса (это преобразование имеет особенность при 2я = 0и определено лишь на О\{г„ = 0}). Рис. 5 7. Трубчатые (или цилиндрические) области определяются как области, обладающие следующим свойством: вместе с каждой точкой г° = {г£} области принадлежит и любая точка z = {г£ + Ч/v}» — °° < f/v < °°» v = 1, ..., п. Любую трубчатую область можно представить в виде произведения BxRn(y), где В —так называемое основание области —некоторая область я-мерного действительного пространства Rn(x), х=(х1у ..., хп), a Rn(y) — действительное пространство точек у=(уи ..., уп). Таким образом, трубчатая область полностью характеризуется ее основанием В —областью я-мерного действительного пространства. Положив z = x + iy, где х и у — действительные n-мерные векторы, трубчатую область можно символически записать в виде T = B + iUn(y) или, подробнее, Т = = {x+iy: xgB, y^Un}. При п=1 трубчатыми областями будут, очевидно, полосы {а<лг<Р, — оо<г/<оо}, а также полуплоскости {х>а} или {х<.а}. Заметим, что отображение ср: ev->ezv (v=l, ..., п) преобразует трубчатую область Т в некоторую область Рейнхарта D. При этом основанию области В соответствует D+ —изображение D на диаграмме Рейнхарта.
20 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I § 2. Голоморфные функции 3. Понятие голоморфности для функций нескольких 'переменных обобщает соответствующее понятие из ч. I. Определение 1. Функция /: СД->С называется R-линейной (соотв. €-линейной), если: а) l(z' + z") = l(z') + l(z") для всех г\ г"еСя, б) /(Кг) = il(z) для всех гЕ<Сл и всех ^gR (соотв. всех IgC). Любая R-линейная функция в (Dn имеет вид п Ч*)= 2>vZv + Mv) (Ov, fev^C), (1) v=l а (С-линейная — вид /(г)= £avzv (OveC). (2) R-линейная функция / является ©-линейной в том и только том случае, если l(iz) = il(z) (3) (ср. с соответствующими утверждениями в п. 6 ч. I). Определение 2. Функция /: [/->©, где U — окрестность точки z е С", называется ^.-дифференцируемой (соотв. ^-дифференцируемой) в этой точке, если f(z + h) = f(z) + l(h) + o(h), (4) где / — некоторая R-линейная (соотв. С-линейная) функция, а 211 _>0 при /i-^0. Функция / называется дифференциалом функции f в точке г и обозначается символом df. Полагая h — dz~ — dx + idy, где dz = (dzu ..., dz„) — комплексный вектор, a d*= (d*t, ..., d*„) и dy = (dyly .. •, df/л) — действительные, мы можем в общем случае R-дифференцируемое™ записать дифференциал в виде V= 1
§ 21 ГОЛОМОРФНЫЕ ФУНКЦИИ 21 или, после перехода к комплексным координатам, в виде d/=i(i^+j-vd4 (5) v = 1 где введены обозначения dzv 2\dxv ldyJ' dzv 2\dxv^ldyJ' v (6) Первая сумма в (5) обозначается символом д/, вторая—символом д/, так что v= 1 v= 1 Теорема 1. Для того чтобы ^-дифференцируемая в точке z <= С" функция f была ^-дифференцируемой в этой точке, необходимо и достаточно выполнение условий Коти — Римана df = 0. (8) « Из (5) видно, что df(ih) = idf(h)-tdf(h) и idf (h) = = i df (h) + i df (h). Поэтому условие (D-дифференцируемости df (ih) = idf(h) равносильно условию df(h) = 0 для всех Условия Коши—• Римана (8) равносильны системе из п комплексных уравнений cv Определение 3. Функция / называется голоморфной в точке z ^ ©л, если она ©-дифференцируема в некоторой окрестности этой точки. На открытом множестве понятия (D-дифференцируемости и голоморфности совпадают. Заметим, что при определении голоморфности на произвольном (не обязательно открытом) множестве М имеется тонкость, которая видна из следующего примера. Пример. Пусть множество iMcC2 состоит из двух замкнутых шаров £1== j|z-(0, 1)| ^Ц и Я2 = [|г + (0, 1)1** -J-j,
22 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I соединенных отрезком L = jz1 = О, z2 = x2, |*2|^~оТ* Определим на М функцию /(г) = | 0, zeL, Она, очевидно, непрерывна на М, и для каждой точки z° е= М можно построить окрестность Uz01 в которую / продолжается, как голоморфная функция. В самом деле, для точек Si, включая точку (0, -^ ) пересечения В± и L, в качестве таких окрестностей можно взять шары, не пересекающиеся_ с В2, и продолжить в них /,. положив ее равной гх. Для точек В2 сделаем аналогичное построение, только положим /(z) ——гг. Наконец, для внутренних точек L возьмем шары, не содержащие концов этого отрезка, и положим в них /=0. Однако из теоремы единственности, которую мы докажем в п. 5, следует, что / нельзя продолжить до голоморфной функции ни в какую связную окрестность Q всего множества М. В самом деле, из этой теоремы следует, что не существует голоморфной ц Q функции, которая на одном шаре из Q равна гъ а в другом — zv Из этого примера видно, что необходимо различать локально голоморфные на множестве функции, которые в каждой точке множества можно локально продолжить до голоморфной функции, и функции глобально голоморф- ные> которые продолжаются до функций, голоморфных в окрестности всего множества. В дальнейшем, говоря о голоморфности функции на множестве, мы, как правило, будем иметь в виду глобальную голоморфность. Сумма и произведение функций, голоморфных в точке z ^ Сл, также голоморфны в этой точке, поэтому совокупность всех функций, голоморфных в точке г, образует кольцо, которое обозначается символом 0г. Кольцо функций, голоморфных в области D а ©л, обозначается символом ^(£>). Определение 4. Пусть U — окрестность точки z ^ Сп; отображение /=(/ъ ..., fm): t/->(Dm называется голоморфным в точке г, если все компоненты Дг(^— 1, ... ..., т) этого отображения голоморфны в точке г. Из правила дифференцирования сложных функций следует, что если отображение / = (/ь ..., fm) голоморфно в точке z ^ С", a g-=(gb ..., g,) голоморфно в точке / (z) е Ст, то композиция g°f также голоморфна в точке z.
§2] ГОЛОМОРФНЫЕ ФУНКЦИИ 23 В частности, если функция / голоморфна в области ОсСя и L — комплексная прямая, пересекающая D (т. е. линейное отображение L (£) = г° + <о£*. © -> ©" такое, что L (£) е eD хотя бы для одной точки -JgC!), то сужение / на эту прямую (т. е. композиция f°L) будет голоморфной функцией одного комплексного переменного на том открытом множестве плоскости £, которое попадает в D при отображении L. Еще более частный случай мы получим, если рассмотрим комплексные прямые, «параллельные v-й оси», т. е. прямые zv = £, 2^ = 2^ (jx^=v). Для этого случая сделанное только что утверждение означает, что если / голоморфна в области D a fl>, то функция f (г\, ..., Zv-b St 2v+i. •••> *п) будет голоморфной, как функция одного комплексного переменного, на соответствующем открытом множестве плоскости £. Иными словами, функция, голоморфная в области D а С", является голоморфной функцией каждой координаты zv в отдельности 1). Оказывается, что справедливо и обратное утверждение: если функция / в некоторой области D а С* голоморфна по каждому переменному zv в отдельности, то она автоматически будет R-дифференцируемой, а тогда в силу теоремы 1 и уравнений (9) — голоморфной в D. Этот факт составляет содержание так называемой основной теоремы Хартогса и является далеко не тривиальным. Например, ее действительный аналог неверен: функция /(*. y)~trjfe. /(<>.о)=о дифференцируема по переменному х при любом фиксированном у и по у при любом фиксированном х, но не является даже непрерывной в точке (0, 0) с: R2. Теорему Хартогса мы докажем в п. 6. В заключение остановимся на понятии голоморфности в точках компактифицированных пространств С* и СР". В случае С" надо лишь определить голоморфность в бесконечных точках, а это делается так же, как для функций одного переменного: функция / называется голоморфной L) Этот вывод следует также непосредственно из условий (9).
24 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ (ГЛ. ! в бесконечной точке z° = (oo, ..., оо , z°m+i, ...» 4), если функция / (р-, ...» р— , £m+l> • • • » £л ) =* Ф (£l> ...» £л) голоморфна в точке (0, ..., О, *m+i, ..., 4)еСя. Функции точек комплексного проективного пространства СРЛ с однородными координатами £ = (£0, ..., £л) — это функции /(£), которые не меняются при замене £ на А£, где ^gC\{0},t. е. зависят не от С, а от класса эквивалентности [£]. Голоморфность / в точке [С] означает голоморфность / (£) в какой-нибудь (а значит, и в любой) точке £ ^ К] (здесь £ рассматривается как точка ©л+1\{0}). В частности, если [£] — конечная точка (DP*, т. е. £>0ф0, то это условие равносильно голоморфности функции /(1, г) в точке z=^(~, ..., р). 4. Плюригармонические функции. Начнем с простого замечания: если функция f = u + iv голоморфна в точке геС", то функция f = u — iv в окрестности этой точки R-дифференцируема и там для любого v=l, ..., п dzv 2\dxv ldyv) \dzv/ V' <1; Такие функции / мы будем называть антиголоморфными в точке г. Пусть / голоморфна в точке г е ©л, тогда в силу этого замечания для ее действительной части u = -^-{f-\-f) ди 1 df г, в окрестности точки z имеем j~ — Yd Воспользуемся еще тем, что голоморфная функция имеет частные производные всех порядков, непрерывные до совокупности переменных (этр будет доказано в п. 5). На этом сенсам вании можно утверждать, что существует -^г-^— = = 2- д2 L и что можно менять порядок дифференцирования, т. е. д_ 'dz = Qf\-^\ =0. Таким образом, для любых ц, v=l, ..., п мы имеем
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 25 Разделив действительные и мнимые части оператора в левой части (2): _ _д _ _1. ( д* л- ^ \ л- -' (— d2 \ _а__а (9г.. дг мы получим, что условие (2) распадается на п2 уравнений с частными производными второго порядка: (jut, v = l,..., п\ уравнения второй группы при \i = v тривиальны). Определение. Функция и(х, у) класса С2 в области D с: К2*, удовлетворяющая в каждой точке (х, у) ^ D уравнениям (2) или (3), называется плюригармонической в этой области. Плюригармонические функции связаны с голоморфными функциями нескольких переменных так же, как гармонические (в R2) с голоморфными функциями одного переменного. Именно, справедливы следующие две теоремы: Теорема 1. Действительная и мнимая части функции /, голоморфной в области D а С", являются плюри- гармоническими в этой области. < Для действительной части w = Re/ теорема уже доказана. Так как вместе с / и функция — if^.0(D), а Im/: = Re(—if), то теорема справедлива и для мнимой части ► Обратная теорема справедлива, вообще говоря, лишь локально. Теорема 2. Для любой функции и, плюригармонической в окрестности U точки (дг°, у0) е R2", существует голоморфная в точке z° = x0 + iy° функция f, действительная (или мнимая) часть которой равна и. < Дифференциальная форма со= 2 pvdxv называется замкнутойх) в некоторой области из К2пу если в этой 1) Читателям, не янакомым с дифференциальными формами, рекомендуется обратиться к п. 13 гл II.
26 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I области все pv е С1 и ее (внешний) дифференциал dco =: = 0, т. е. выполняются условия !K=1K (^v = l,..., 2/1). (4) Рассмотрим в U дифференциальную форму w=2(-|;d^+<t;^); (5) v= 1 так как и е С2, то ее коэффициенты принадлежат классу С1; условия замкнутости этой формы имеют вид д2и __ Фи д2и __ д2и , , , дх^дуч" дх^ду^ dy[Xdyv^dxiXdxv W> v-b---»^ и совпадают с условиями плюригармоничности (3). Таким образом, форма (5) замкнута в У, Но в действительном анализе доказывается, что каждая замкнутая 2п форма со== 2 Pvdxv локально точна, т. е. существует функ- v = l ция v^C1 такая, что (o = dv, или P* = WV (v==1> ••" 2пУ> (6) эта функция выражается интегралом х V (х) = \ со, X» который не зависит от пути и при фиксированной точке х° является функцией от х. В случае формы (5) мы имеем (х, у) п v(*,y)= 5 2 (-J^v + g-^v) (7) (*0,*/°)V=l и уравнения (6) совпадают с условиями комплексной дифференцируемое™ функции f = u + iv. Так как еще f^C1 в некоторой окрестности точки г°=х° + 1у°, то / голоморфна в этой точке и w = Re/,
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 27 Голоморфная в точке г° функция г/ = ш — v имеет и своей мнимой частью ► Первая группа уравнений (3) при jx = v дает Складывая эти уравнения для v = l, ..., я, найдем, что оператор Лапласа от функции и по переменным хъ ylf ... *-2®+S)-* Следовательно, плюригармонические функции составляют подкласс класса гармонических функций в пространстве U2n (очевидно, правильный при п> 1). Естественно возникает вопрос об определении плюри- гармонической в некоторой области D a R2" функции по заданным граничным значениям (задача Дирихле). Этот вопрос решается не так просто, как в случае гармонических функций. Мы проиллюстрируем возникающие трудности на примере одной из простейших областей — поликруга U = {z^fcn: |zv|<l}. Так как, согласно (8), плюригармоническая функция является гармонической по каждому переменному 2v = A;v + a/v в круге {|zv|<l}, то мы можем последовательно применять интеграл Пуассона из п. 2 Доб. к ч. I. Мы получим для любого z^U "(г)= j Р(Ь, гх) <#!... $ «(£)/>(£», zn)dtn, О О где Ь = е\ £={W и "2я l£v-*vl2 — ядра Пуассона. Обозначая через л. к. *)=пр(ь„ *v) (9) v = l n-мерное ядро Пуассона, через Qw = [0, 2л]х...Х[0, 2я] л раз л-мерный куб и через dt = dtlt..dtn элемент объема,
28 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ (ГЛ I перепишем формулу Пуассона в следующем сокращенном виде: и(г)=\ и&)Рп& z)dt. (10; В правую часть этой формулы входят лишь значения и на остове поликруга Г, т. е. на я-мерной части границы dU (вся граница .(2я —1)-мерна). Отсюда ясно, что нельзя произвольно задавать значения плюригармо- нической функции и на всей границе поликруга. Если подставить в правую часть (10) значения какой-либо непрерывной на Г функции и (£), то функция и (г), определяемая в U этой формулой, как нетрудно проверить, будет для всех v = 1, ..., п удовлетворять уравнениям (8). Однако эта функция, вообще говоря, не будет удовлетворять другим уравнениям (3), т. е. не будет плюригар- монической в U. Для плюригармоничности и (г) на значения и (£) нужно наложить дополнительные условия, на которых мы не останавливаемся. 5. Простейшие свойства голоморфных функций. Здесь мы установим ряд элементарных свойств голоморфных функций нескольких переменных, аналогичных свойствам функций одного переменного. Для краткости будем обозначать через U = {г е Сл: | zv — av | < rv, v = 1, ..., п\ поликруг с центром а и векторным радиусом /=(/*ь ... ..., гд). Через &{U)f]C(U) будем обозначать совокупность функций, голоморфных в (У и непрерывных в U. Теорема 1. Любая функция f ^0 (U)()C (U) в любой точке z^U представляется кратным интегралом Коти Ш =_!_ [ ШЧЬ-db» (1) г где Г — остов U> т. е, произведение граничных окружностей Yv = {|zv — av\ = rv}, v=l, ..., п. 4 Пусть 'z и '(/—проекции z и U в пространство 0я-1; так как при любом 'z^'U функция f{z)~f('z, zn) голоморфна по zn в круге {\гп — ап\<гп} и непрерывна в его замыкании^ то по интегральной формуле Коши из ч. I '«-iS^*-
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 29 При любом 1п^уп и любом fz е 'U функцию, стоящую под знаком интеграла, можно представить интегралом Коши по переменному гп-Ъ причем в силу непрерывности / по совокупности переменных повторный интеграл можно представить как кратный по произведению Vn-iXVn- Продолжая это рассуждение, мы и придем к (1) ► В дальнейшем мы будем записывать формулу (1) в сокращенном виде: Hz) = -±-[f-®£ (2) ](Z) (2ш')« J t-г" W г где положено d£ = d&... d£„ и f—- = -———7F -г. Замечание. Как видно из доказательства теоремы 1, для представимости функции f кратным интегралом Коши (1) достаточна голоморфность / по каждому переменному zv в круге {| zv — av\ <. rv} и непрерывность по совокупности переменных в f7. Так же как в ч. I, из представления функции интегралом Коши выводится возможность разложения ее в степенной ряд. Для этого разложим ядро интеграла (2) в кратную геометрическую прогрессию: 11- 1 1 С —г 1 — а . / гх — аЛ ( zn — an\ Ъ — а У (z^z±\k ( zl-a1\ ( zn — an\ l-a Ll \t — a) ' где k — (klt ..., kn) — целочисленный вектор, \k\ = k1-\-... ... + *„ и (z-ay fz1-a1Yi fzn-an\kn \t-a) \b-aj ••ЛЬ»-*»/ ' Разложение это можно переписать в виде оо 1 _ Y (z — a)k t-г ~~ Zi (С-а)*4"1' l*l=o где &+l = (&i+l, ..., й/1+1); при любом 2е(/ оно сходится абсолютно и равномерно по £ на Г. Умножая его на непрерывную (и, следовательно, ограниченную) / (L) на Г функцию ' vs'■ и интегрируя по Г почленно, мы получаем нужное утверждение:
30 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. Г Теорема 2. Если f ^©(U)(]C(U)y то в каждой точке z^U она представляется кратным степенным рядом /(г) = 2 Ъ(г-а)* (3) |Л|=0 с коэффициентами г - 1 { ШЪ (4) Ck (2яОл 3 й-а)*+1' [ } г Замечание. Любую функцию f^0(U) в каждой точке zg(/ можно представить как сумму ряда (3). Для доказательства достаточно заметить, что точка z принадлежит некоторому поликругу U' ш U и применить к U' теорему 2. Лемма (Абель). Если члены кратного степенного со ряда 2 ck (z — a)fe ограничены в какой-либо точке £ е С71, |*|=0 mo оя сходится абсолютно и равномерно на любом компактном подмножестве К поликруга U (а, р) с центром а и векторным радиусом р = (рь ..., ря), где pv = | £v — av |. 4 Пусть |сл(£ —a)*| = |-c*|p*<Af, где р* = pj*... р*л, причем можно считать, что все pv>0 (иначе К пусто). Из условия КшИ(а, р) следует, что <7v = rnax — \zv — av |< 1 (v=l, ..., п), и поэтому в любой точке z ^ К имеем | cft (z — я)/г I < ^\ck\pkqk^Mqk, где <7ft = 7?1 • • • tf*'1- Остается заметить, что кратная геометрическая прогрессия ^Mqk сходится, ибо все <7v < 1 ► Теорема 3. Если f ^.©(U), то в любой точке г ^U эта функция имеет частные производные всех порядков, также принадлежащие © ([/). 4 По теореме 2 в любой точке z ^ U функция / представляется как сумма степенного ряда (3). Пользуясь возможностью перестановки членов ряда, которая следует из леммы Абеля, а также результатами ч. Г, мы докажем, что / имеет частные производные всех порядков, пред-
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 21 ставимые рядами, которые получаются соответствующим почленным дифференцированием ряда (3). Так как эти ряды по лемме Абеля сходятся равномерно на компактных подмножествах U, а их члены непрерывны по совокупности переменных, то любая из производных R-дифференцируема в U и поэтому из голоморфности этой производной по каждому переменному следует ее голоморфность в U ► Замечание. Пусть функция / непрерывна в U и голоморфна по каждому переменному. Тогда она пред- ставима интегралом Коши (см. замечание вслед за теоремой 1), а тогда по теореме 2 и степенным рядом. Из доказательства теоремы 3 видно, что функция / является ©-дифференцируемой, а значит, и голоморфной в U. Таким образом, для доказательства основной теоремы Хартогса, о которой говорилось в п. 3, достаточно доказать, что из_голоморфности функции / по_каждому переменному в U следует ее непрерывность в U. Обычным образом доказывается теорема единственности разложения функции в [степенной ряд с данным центром: Теорема 4. Если голоморфная в точке а функция f разложена в степенной ряд вида (3), то коэффициенты этого ряда определяются по формулам Тейлора: 1 0*1 + .-. +*л* k*-k"X &?*... дг! ' k\ dzk (5) где A!=fti! ... kn\ Пользуясь формулами (4) для тех же коэффициентов и оценивая входящие в них интегралы, получим Неравенства Коши: если функция f^@{U){) C\C(U) и \f\^M на остове Г, то коэффициенты тейлоровского разложения f в точке а удовлетворяют неравенствам Ы^%, (6) где rk = rki...rkn. 1 П Теорема единственности в формулировке п. 22 ч. I на пространственный случай не распространяется: функция ггг2, голоморфная в (С2 и не равная тождественно нулю, обращается в нуль на множестве с предельными
32 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I точками (на комплексных прямых {zi = 0} и {г2=:0}). Верна такая Теорема 5 (единственности). Если функция f g6?(D) в некоторой точке а области D а€п обращается в нуль вместе со всеми частными производными, то / = 0 в D. * Все коэффициенты тейлоровского разложения / в точке а равны 0, следовательно, / = 0 в некоторой окрестности этой точки. Обозначим E = {z^D: f(z) = 0} и £ —открытое ядро Е (совокупность внутренних точек этого множества). Множество Е открыто и непусто (оно содержит а)\ как и в ч. I, доказывается, что оно замкнуто в D; поэтому Е = D ► В доказанной теореме, по существу, требуется, чтобы / обращалась в нуль в 2/2-мерной окрестности точки а. Даже из обращения в нуль в (2п — 2)-мерной окрестности точки, вообще говоря, не следует тождественного обращения функции в нуль (пример: f(z) = zn обращается в нуль на (2п —2)-мер ном множестве {ге(Сл: ел = 0}). Имеются, однако, случаи, когда обращение функции в нуль в я-мерной окрестности точки влечет за собой тождественное ее равенство нулю: Если функция f ^0(D) обращается в нуль в действительной окрестности точки a^D, т. е. на множестве {z = x + iys=€n: \x-xQ\<r, у = у0}, mo / = 0 в D. А В некотором поликруге с центром г° функция f разлагается в ряд !{г)= 2 ck(z-z*)K 1*1 = 0 Полагая здесь у = у°, найдем, что оо 1*1 = 0 для всех х е {| х — х° | < г}. Дифференцируя это тождество по xk = xkl1...xknn, а затем полагая х = х?, найдем, что все ck = 0. По теореме 5 тогда f = 0 bD ► Теорема 6 (принцип максимума модуля). Если функция f ^0 (D) и \f\ достигает максимума в некоторой точке a^D, то /== const в D.
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 33 4 Рассмотрим любую комплексную прямую / (£) = = я + со£, проходящую через точку а. Сужение / на эту прямую —функция Ф©(£)=/•/(£) — голоморфно в некотором круге {|£|<р}, a Icpcol достигает максимума при £ = 0. По принципу максимума модуля для функций одного переменного cpw (£) =с (со) — постоянная, зависящая от со. Но фи (0) = f (а) не зависит от со, поэтому с (со) = = const и f = const в окрестности точки а. По теореме 5 f = const в D ► Если / голоморфна в области D cz С" и непрерывна в D, то максимум |/| достигается на границе 3D. Однако в €>" при п>\ существуют такие области, в которых max|/| для любой f^0(D), непрерывной вб, фактически достигается не на всей dDt а лишь на некотором ее подмножестве. Наименьшее такое замкнутое подмножество называется границей Шилова области D. Точнее, границей Шилова области D называется такое замкнутое множество SczdD, что: 1) для любой f^0(D), непрерывной в D, тах|/(г)| = тах|/(г)| (7) и 2) любое замкнутое множество S, обладающее свойством 1), содержит S. Примеры. 1. Шар В = {геСл: |г|<1}. Покажем, что здесь граница Шилова совпадает с топологической границей. Для этого возьмем произвольную точку £j= дВ и построим функцию /, голоморфную в Bt непрерывную в В и такую, что | f (Q | > | / (г) | для всех г е е#\£. Для эрмитова скалярного произведения (г, £) по неравенству Буняковского —Шварца имеем Re (2, О^К*. 01^1*1, ибо |g| = l, причем равенство Re (2, £) = | г | = 1 достигается в В лишь при z = £ Поэтому функция /(г)=е(г'^ обладает нужным свойством 2. Поликруг U = {z е С71: || г || < 1}. Здесь граница Шилова составляет лишь «-мерную часть (2л —1)-мерной топологической границы, именно, она совпадает с остовом поликруга. Для доказательства рассмотрим любую функцию f, голоморфную в (У и непрерывную в U. Прежде всего заметим, что функция /('г, £п) для любого фиксированного £п, | %п | = 1, является голоморфной функцией 'г в поликруге 'U е Сп~1. В самом деле, ее можно представить как предел последовательности функций ср^, ('г)=/('г, z^\ где 2 Б, В. Шабат, ч, И - 56*
34 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I г^ —какая-либо последовательность точек круга {|гл|<1}, еходя- щаяся к точке £„. Так как ('г, г*^) е V то все ф^ голоморфны в 'U, а в силу равномерной непрерывности / в U последовательность ф^ сходится равномерно в 'U. По теореме Вейерштрасса (см. ниже, теорема 8) отсюда и следует сделалное утверждение. Точно так же доказывается, что все функции /t>i гт, £т+ь ..., £„), где//г = 1, ... ..., л —1 при фиксированных £m+i» ..., £л, по модулю равных 1, голоморфны по (zlt ..., гт) в соответствующих поликругах. Пусть М=тах|/(г)| достигается в некоторой точке £ е dUt которая принадлежит одному из множеств rv = { | £v | == 1, [ £д | ^ 1, ji Ф v}; перенумеровывая в случае надобности переменные, можно считать, что оно совпадает с Тп. Либо \Zn~i 1 = 1» либо по принципу максимума модуля (он применим по доказанному выше) / постоянна по переменному z^i, и тогда значение М достигается в некоторой точке, две последние координагы которой по модулю равны 1 Продолжая это рассуждение, мы получим, что значение М достигается на остове поликруга r = {|zv| = l, v —1 п}. Таким образом, граница Шилова поликруга U принадлежит Г. Но для любой точки £ е Г найдется функция /, голоморфная в U и непрерывная в U, для которой | / (£) | > | / (г) | для всех г£[/\^: в качестве такой функции можно взять произведение п Д O+Sv^v)- Таким образом, здесь граница Шилова совпадает с Г. v = l Теорема 7 (Лиувилль). Если функция f голоморфна в С* и ограничена, то она постоянна, А Воспользуемся индукцией по п. При п=\ теорема доказана в первой части, пусть она верна для функций (лг — 1)-го переменного. Возьмем произвольные точки а, b & Сп; так как функция / ('г, ап) по индуктивному предположению постоянна, то f(a) = f('b, ап). Но функция f('b, zn) также постоянна, следовательно, /('&, an) = f(b). Таким образом, f(a) = f(b), т. е. теорема верна для функций п переменных ► Теорема 8 (Вейерштрасс). Пусть последовательность функций fn^0 (D) сходится к функции f равномерно на каждом компактном подмножестве D\ тогда f^@(D) и для любого k = (ku ..., kn) —--+—- (8) dzk dzk v ' на любом K<mD. Л По теореме п. 23 ч. I функция / голоморфна по каждому переменному в любой точке г е Dt а так как
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 35 она, очевидно, непрерывна в D по совокупности переменных, то по замечанию вслед за теоремой 3 она принадлежит 0(D). Вторую часть теоремы достаточно доказать для окрестности произвольной точки 2°gD и производной по одному переменному zv. Возьмем поликруг U =* = (/(z°, r)mD и воспользуемся формулой Коши, по которой в любой точке ?e(/ dzv dzv (2ш")я J (£-e)(£v-zv)a*' W Г где Г —остов U. Так как f^-^f равномерно на Г, то для любого 8>0 найдется ju0 такое, что |/\t — /|г<8 для всех |х^|х0- Если КшИ, то из (9) будем иметь для всех z е К и а ^ |х0 dzv dzv _J (2я)я/-1...гя <(2я)« min ig — 2г 11 C-v- отсюда следует, что аГ^^— равномерно на /С ► В заключение этого пункта докажем лемму о голоморфной зависимости интегралов от параметра. Лемма. Пусть у^\ ^ — ^(t) —спрямляемая кривая в плоскости £м, (и-=1. ..., m), Y = ViX...XVm и D — область в Сп; пусть £ = (&, ..., £т) и 2 = (zb .... гп). Если функция g(£, z) непрерывна на yxD, голоморфна по z в D при любом ?G7 « имеет на yxD непрерывные частные производные ^р-, то интеграл G(z)=Jdb... Jerff, «)«« = Sfif(C, *)« (Ю) голоморфен в D и Y 4 Для любого z^D выберем г>0 так, чтобы поликруг U (г, г) czD; пусть \hw\<r и ft = (0, ...t /iv, ...t 0) е 2*
36 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I е€л —вектор, у которого все координаты, кроме v-й, равны 0. Имеем ljG(z + h)-G(z)} = ^{g(l z + h)-g(t, z)}dt = У у 0 и, следовательно, ^ .j^pe^a.afcV (12) v о В силу того, что /—- при фиксированном z равномерно непрерывна на компактном множестве у х [0, 1], то для любого е>0 можно вьГбрать 6>0 столь малым, что для всех (£, б)^7Х[0, 1] при |А|<6 будет |0gg, *+Щ dgq, г)\ I dzv dzv J Поэтому, оценивая последовательно интегралы в правой части (12), мы найдем, что левая часть этого равенства при |А|<8 не превосходит по модулю е| Yil---I Ут !• Таким образом, в каждой точке геД все частные производные J- существуют и выражаются формулами (11) ► 6. Основная теорема Хартогса. Здесь мы докажем теорему о том, что из голоморфности функции по каждому переменному следует ее голоморфность по совокупности переменных, —об этой теореме уже шла речь в п. 3. В п. 5 было установлено, что для доказательства этой теоремы достаточно доказать, что всякая функция, голоморфная по каждому переменному, является непрерывной по совокупности переменных. Доказательству мы предпошлем ряд лемм. Первая из них утверждает, что достаточно установить лишь ограниченность рассматриваемой функции. При этом нам пона-
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 37 добится лемма Шварца в виде несколько более общем, чем в п. 36 ч. I. Пусть функция ф голоморфна в круге Ur = {| z |< r\ cz С, причем ф = 0 в некоторой точке zQ^Ur и | ф | ^ М всюду в Uг; тогда всюду в Ur |Ф(г)1<Л<г '^ (1) (при г = Л1 = 1 иг0 = 0 получаем обычную формулировку). Для доказательства возьмем дробно-линейное отображение Ur на единичный круг U: X: r2 — ZoZ обозначим через Ат1 обратное отображение U-*Ur и рассмотрим функцию г|з = тт-фо^-1. Она удовлетворяет условиям обычной леммы Шварца, и по этой лемме | г|) (г) | ^ <;|г| всюду в £/. Заменяя здесь г на А (г), получим неравенство (1). Лемма 1. Если функция f голоморфна по каждому переменному zv ву поликруге U = £/ (а, г)г) и ограничена в U, то она непрерывна в каждой точке U по совокупности переменных. 4 Пусть г°, z^lU — произвольные точки; распишем приращение / как сумму приращений по отдельным координатам /(г)-/(г°)= 2 {/«, .... 4-ь *vt .... гп)- V = l — I \ZU •••» ^Vi ^v + l» •••? *л)} (2) и рассмотрим v-e слагаемое как функцию фv переменного гу при. фиксированных остальных значениях аргументов. М Если \f\^~Y в U, то функция ф^, удовлетворяет условиям леммы Шварца в только что приведенной форме, и, х) Это означает, что для любой a^U и любого v = l, ..., п функция f (alf ..., Ov_i, Zv, av+i, ..., an) переменного zv голоморфна в круге { \zv\ <M с: С.
38 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I применяя неравенство (1) к каждому слагаемому суммы (2), мы найдем, что п \!{г)-!(г*)\^М^г V = l V | 2 "О /"V Z\Zy Отсюда и следует утверждение ► Итак, для доказательства теоремы Хартогса остается доказать ограниченность в некотором поликруге с центром в а функции, голоморфной по каждому переменному. Заметим, что ограниченность в каком-то поликруге, не обязательно с центром в а> следует из одной лишь непрерывности / по отдельным переменным. Этот факт составляет содержание так называемой леммы Осг уда: Лемма 2. Представим поликруг U = J2gC'1: || z || <СR} как произведение '(/ = {'геС«-1: Г^КЯ}1) на круг Un = {znZE$: |гл|</?}. Если функция f('z, zn) непрерывна по 'z в 'U для любой_гп ^Un и не- Рис. 6. прерывна по zn в Uп для любой '2G'i7, то существует поликруг W ='WxUnczU, в котором f ограничена (см. диаграмму Хартогса на рис. 6). < Для фиксированного 'z^TJ обозначим M('z) = max)f('z, zn)\ и рассмотрим множества Em = {'z^'l7: M('z) множества замкнуты, ибо если fz^ е Ет (jx = и 'z(ji)->-'z, то и 'z^Em (в самом деле, \f('z^\ гп)\^т для любого zn е Un, в силу непрерывности f по 'z тогда и \f('z, zn)\^m для любого zn^Un, т. е. M('z)^m). Очевидно, Ет образуют возрастающую последовательность .т}. Эти 1, 2, ...) 1) Напомним, что через 'z = (zlt ..., гп_г) мы условились обозначать проекцию в точки г < ■О».
§21 ГОЛОМОРФНЫЕ ФУНКЦИИ 39 и любая точка !z ^7/ принадлежит всем Ет, начиная с некоторого. Существует Ем, содержащее некоторую область 'Gcz't/. В самом деле, в противном случае все Ет былибы нигде не плотными, но тогда в 'U существовал бы шар В1 cz ©л~\ свободный от точек Еъ в В1 —шар В2, свободный от точек £2, и т. д.— мы построили бы последовательность шаров Bk cz С"-1, которые имеют общую точку 'z° ^.'U', и эта точка не принадлежала бы никакому Ет. Таким образом, существует область 'G, в которой \f('z, zn)\^M для любого zn е Un. Остается выбрать в 'G поликруг 'W={'z: 'г-^К^.и тогда в W = 'WxUn будет \f\^M > Чтобы доказать ограниченность / в поликруге с центром в а, придется использовать голоморфность по отдельным переменным. При этом нам потребуется лемма Хартогса, существенно опирающаяся на свойства субгармонических функций. Для ее формулировки введем еле- Рис. 7. дующие обозначения: 'V~U('a, R), >W==U('a, г) (г и Я-скаляры, г<Д), 1/в = {|гя|<Д}, V = 'VxUn, W = 'WxUn (рис. 7). Лемма 3. Если функция f(rz, zn) голоморфна по 'г в'V для любого zn^Un и голоморфна по г в W, то она голоморфна во всем поликруге V. 4 Без ограничения общности считаем !а = '0. Для любого фиксированного zn^Un и любого 'zgT функция / представляется (в силу голоморфности по lz) сходящимся степенным рядом /(*)= 2 ск(гя)('г)\ 1*1 = 0 (3) где £ = (&ь ..., kn-i). Коэффициенты этого ряда 1 d|fe|/('Q, гп) ск{гп) =
40 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ (ГЛ Г голоморфны в круге Un как производные голоморфной по zn функции (точка ('0, zn) е W). Поэтому функции т-т-г In | ck (гп) | субгармоничны в Un. Выберем произвольно число р<^/?; так как для любого Zn^Un \ск(гп)\9^-+0 при |&|->оо, то для любого zn^Un найдется |А|, начиная с которого будет уг\ In | ck (zn) \ + In р ^ 0, т. е. Шп ^rln\ck(zn)\^ln-. (4) Теперь_воспользуемся голоморфностью f в?: / ограничена в W (пусть \f\^M), и справедливы неравенства Коши \ck{zn)\r\*\^M лля любого zn^Un. Поэтому для любого zn^Un и любого \k\ 1 ^\п\скЫ\^1п^^А. (5) Таким образом, рассматриваемые субгармонические функции удовлетворяют условиям теоремы о верхнем пределе (п. 3 Доб. к ч. I). По этой теореме для любого сг<Р можно найти номер k0 такой, что для всех \k\^>k0 и всех гЯ9 | zn | ^ сг, имеем щ In | ck (zn) | ^ In —, т. е. \ck(zn)\&k\^L Отсюда следует, что ряд (3) сходится равномерно в любом поликруге U (0, сг'), о' <^а, но члены этого ряда непрерывны по г, поэтому и его сумма / непрерывна, а следовательно, ограничена в [/(0, сг'). Этот поликруг можно считать сколь угодно близким к К, а так как V с самого начала можно было немного увеличить1), то / ограничена *) В условия леммы входит голоморфность в замкну i ы х поликругах^
§21 / ГОЛОМОРФНЫЕ ФУНКЦИИ 41 и, значит, по лемме 1 и замечанию из п. 5 (стр. 31) голоморфна в V ► Теперь все готово для доказательства основной теоремы. Теорема Хартогса. Если функция f голоморфна в любой точке области D а€п по каждому из переменных zv, то она голоморфна в D. < Достаточно доказать голоморфность f в произвольной точке z° ^D, причем без ограничения общности можно считать, что г° = 0. Итак, пусть / голоморфна по каждому переменному в поликруге U (О, /?); требуется доказать, что она голоморфна в некотором поликруге с центром в 0. Это утверждение будем доказывать индукцией по числу комплексных переменных. Для одного переменного оно тривиально; предположим, что оно верно для функций (я—1)-го переменного, и обозначим 'U = = Ur09 -у). Из предположения следует, что функция£('г, zn) непрерывна по 'г в ЧУ для любого г_п е Un = {| zn | < Щ и по zn в Uп для любого 'z ^'U. По лемме Осгуда / ограничена, а значит, и_ голоморфна в некотором поликруге W = 'Wx&n, где 'W = U('a, r)a'U (рис. 8). Рассмотрим теперь поликруг V = 'VxUn, где 'V = — lira, -oR)- Очевидно, К с (У (0, /?), следовательно, / голоморфна по 'z в 'V для любого zn^Uni_a по только что доказанному она голоморфна по г в W. По лемме Хартогса отсюда следует, что она голоморфна по г и в поликруге V, который уже содержит точку г = 0. Таким образом, утверждение доказано и для функций п переменных > Приведем еще одну формулировку теоремы Хартогса. Будем говорить, что функция / голоморфна в точке ае(Сл в смысле Римана, если (R) / голоморфна по каждому переменному 2V в некотором поликруге U (а, г). Рис 8.
42 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Будем говорить, что f голоморфна в этой точке в смысле Вейерштрасса, если (W) / разлагается в некотором поликруге U (а, г) в степенной ряд 1*1 = 0 Импликация (W) =>(R) очевидна, импликация (R)=>(W) составляет содержание основной теоремы Хартогса. Эту теорему можно, следовательно, сформулировать так: Понятия голоморфности в смысле Римана и в смысле Вейерштрасса эквивалентны. § 3, Разложения в ряды Здесь мы рассмотрим основные вопросы, связанные с разложением голоморфных функций в ряды. 7. Степенные ряды. В п. 5 мы доказали, что любую функцию, голоморфную в поликруге U (а, г), можно в этом поликруге разложить в кратный степенной ряд с центром в а. Возникает вопрос о множестве точек сходимости такого ряда. По аналогии с функциями одного переменного хочется ожидать, что таким множеством будет поликруг, дополненный некоторой совокупностью точек его границы. Однако самые простые примеры показывают, что дело обстоит иначе. Примеры. Множество сходимости степенного ряда (ц —скалярный индекс) в <J> представляет собой полную область Рейнхарта { \ztz2 | < 1}, Для ряда 00 множеством сходимости в С2 является бикруг { | г* [ < 1, | г21 < 1}, дополненный комплексной прямой {zt — 0}. Вопрос упрощается, если вместо множества сходимости рассматривать его открытое ядро, т. е. совокупность внутренних точек этого множества.
§3] РАЗЛОЖЕНИЯ В РЯДЫ 43 Определение. Областью сходимости степенного ряда 00 2 **(*-*)* (3) 1*1 = 0 называется открытое ядро S множества S точек z ^ С*, в которых этот ряд сходится при каком-либо порядке следования его членов. Из леммы Абеля (п. 5) выводится Теорема 1. Если точка z° принадлежит области сходимости S ряда (3), то замкнутый поликруг П = = {г ^ €л: | ev — av | ^ | z$ — av \} также принадлежит S и ряд (3) сходится в П абсолютно и равномерно1). ч Так как z° е S и S открыто, существует точка £^S такая, что |£v — ^v |> |*v — «vU v=l, ..., л и ряд (3) сходится в этой точке. Так как U е {г е Cn: 1zv — av | < <Cj_Sv — flvlb то по цитированной лемме ряд (3) сходится в U абсолютно и равномерно ► Теорему 1, можно сформулировать еще и так: область сходимости S ряда (3) является полной областью Рейн- харта с центром в а. Таким образом, полные области Рейнхарта в случае функций нескольких переменных играют ту же роль, что круги в случае одного переменного. Эту аналогию подчеркивает и следующая Теорема 2. Любая функция /, голоморфная в полной области Рейнхарта Dafcnc центром в ау представляется в этой области тейлоровским разложением f(*)= S ch(z-QY. (4) 1*1=0 А Пусть 2° —произвольная точка D, тогда поликруг U = {| zv — av | ^ | z5 — av |} e D и по теореме 2 п. 5 функция f представляется в U тейлоровским разложением с центром в а. Коэффициенты последнего вычисляются х) Из теоремы 1 следует, что множество «S связно: любые две его точки 2^ и z" можно соединить с центром (а значит, и друг с дру« гом) ломаной, принадлежащей S. Так как «S еще и открыто, то оно в самом деле является областью.
ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I через производные / в точке а и, значит, совпадают с ck, т. е. это разложение совпадает с (4) ► Естественно возникает вопрос: всякая ли полная область Рейнхарта является областью сходимости какого- либо степенного ряда? Ответ на него отрицателен, ибо, как мы сейчас докажем, области сходимости обладают некоторым дополнительным свойством. Определение. Обозначим через Ink z-+X(z) = (\n\z1\, .. I) (5) отображение множества (ге(Сл: 2i...Z/i=#=0} в пространство Rn; логарифмическим образом множества М а €п мы будем называть множество М* = X (М0), где М0 = {г ^ М: Zx ... zn =7^=0}. Множество М называется логарифмически выпуклым, если его логарифмический образ М*- является выпуклым множеством в Rn. Пример. Множество М с: С2, диаграмма Рейнхарта а (М) которого изображена на рис. 9, а, не является логарифмически выпуклым; ЩЫ-rR а) Рис. 9. его логарифмический образ Я(М)1) приведен на рис. 9,6. Логарифмически выпуклую оболочку М (т. е. пересечение всех логарифмически выпуклых множеств, содержащих М) мы получим, если рассмотрим прообраз выпуклой оболочки множества X (М). Диаграмма Рейнхарта такой оболочки МL отличается от а (М) сегментом, ограниченным отрезком гиперболы | zx \ \z2\=rR (изображена пунктиром на рис. 9). 1) Для простоты мы пишем К (М) вместо л (М0),
§3] РАЗЛОЖЕНИЯ В РЯДЫ 45 Теорема 3. Область сходимости S степенного ряда (3) логарифмически выпукла. А Без ограничения общности считаем а = 0. Нам нужно доказать, что S* = X(S) —выпуклое множество. Пусть ln|z'|, ln|z"|^S* и точка г^С* такова, что 1п|г| = = Пп|г'| + (1-01п|гЯГ|,0</<1| т.е. |г| = \г' П г"!1"'. Так как г', г" ^ S, то ряд (3) сходится в этих точках и, следовательно, его члены ограничены: пусть \ck(z')k\^ <Aflf Ыг*)*\<>М2. Но тогда |^*|HM*TI'MO* lw< ^М\М\ \ т. е. члены ряда (3) ограничены в точке е. В силу открытости S то же рассуждение справедливо для точек, близких к г' и г", значит, члены ряда (3) ограничены во всех точках, близких к г. По лемме Абеля отсюда следует, что 2g5 ► В дальнейшем мы докажем, что это дополнительное свойство уже характеризует области сходимости: любая логарифмически выпуклая полная область Рейнхарта является областью сходимости некоторого степенного ряда (см. п. 34). А сейчас отметим одно важное обстоятельство. Рассмотрим полную, но не логарифмически выпуклую область Рейнхарта (скажем, из приведенного выше примера). По теореме 2 любую функцию / ^ & (D) можно представить в D степенным рядом. Но по теореме 3 область сходимости этого ряда логарифмически выпукла, следовательно, он сходится по крайней мере в логарифмически выпуклой оболочке DL в области D. Сумма нашего ряда осуществляет аналитическое продолжение / из D в DL. Мы наблюдаем эффект, принципиально отличающий пространственный случай от плоского: в то время как в (D1 любая область являетдя областью голоморфности некоторой функции (см. п. 44 ч. I), в €п (п>1) существуют области, из которых каждая голоморфная функция непременно аналитически продолжается в более широкую область. Этот эффект обязательного аналитического продолжения мы подробно рассмотрим в гл. III. Приведем теперь более конструктивный метод описания области сходимости S данного степенного ряда (3). Эта область исчерпывается поликругами, которые называются поликругами сходимости.^ Например, для ряда (1),
46 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I областью сходимости которого служит 5 = {ге С2: \гхгг\ <^ <1}, такими поликругами будут {|zi|</-b |z2|<—}, 0<Гх<оо (рис. 10). Приведем точное Определение. Поликруг U (а, г) называется поли* кругом сходимости ряда (3), если £/czS, но в любом поликруге {2еСй: \zv — Ov|</v}, где r^rv (v= 1,..., п) и по крайней мере одно неравенство строгое, имеются точ* ки, в которых ряд (3) расходится. Радиусы rv этого поликруга называются со- пряженными радиусами сходимости. Теорема 4. Сопряженные радиусы сходимости ряда (3) удовлетворяют соотношению i^'T^k^i (б) Рис. 10. (пространственный аналог формулы Коши — Адамара). а Положим г = а + & (т. е. zv = av + lrvyt при |£|<1 точка z принадлежит поликругу сходимости Uy ряд (3) сходится в U абсолютно, и после перегруппировки членов 2 |<ы(*~а)*-;Е iftW-sf 2 Ыг*)& 1*11=10 1*1 — 0 ц = 0\|*| = ц / Йа получим ряд по степеням £, сходящийся при |£|<1. ри |£|>.1 этот ряд расходится, ибо в противном случае по лемме Абеля п. 5 ряд сходился бы в некотором поликруге, содержащем (/. Поэтому по формуле Коши — Адамара для рядов с одним переменным = 1. (7) В группе членов ^ряда (3) с данными | k | = fx выберем максимальный член | ст \ rm = max | ск \ г". Пользуясь очевидной оценкой \ст\гт-~ Z \сы\г*< 1*|=и ;(|*+1)"|ся|/"
§31 РАЗЛОЖЕНИЯ В РЯДЫ 47 и тем, что (|х+ 1)п'»~+ 1 при (л-^ноо, мы можем переписать (7) в виде соотношения lim j/|£k|r*-lt равносильного (6) ► Соотношение (6), которое можно записать в виде уравнения Ф(ги ..., г*)-О, (8) связывающего сопряженные радиусы сходимости ряда (3), определяет границу области а(«§), которая изображает область сходимости S на диаграмме Рейнхарта. Подставив в (8) rv = e^v, получим уравнение *йь .... W-0 (9) границы Я, (S) — логарифмического образа S°, некоторой выпуклой области в пространстве R*. 8. Другие ряды. Кроме степенных рядов, в теории функций нескольких комплексных переменных рассматривают и ряды других типов. Важнейшими из них являются так называемые ряды Хартогса. Рассмотрим степенной ряд S с*(г-а)» (1) и в произвольной точке г его области сходимости 5 перегруппируем члены этого ряда, расположив их по степеням одной из разностей zv —av, скажем п-и (это законно в силу абсолютной сходимости). Мы получим ряд S &('*)(*■-<*,)■* (2) |А = 0 (^ — скалярный индекс), коэффициенты которого^ голоморфны в 'S —проекции области S в пространство С*-1. Заметим, что такая перегруппировка членов ряда может привести к расширению области сходимости. Например, степенной ряд <1-10(1-г.) L **** l*j=o
48 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ.1 сходится в бикруге { | а* | <1, |г2|<1}. После перегруппировки членов получаем ряд ОО / ОО i ОО ц д = 0 \/fi=0 / Ц, = 0 сходящийся в области {гг Ф 1, |г21 < 1}. Определение. Ряд вида (2), коэффициенты g^ которого — голоморфные функции 'z = (zi,..., 2,1-1) > называется рядом Хартогса с плоскостью центров {zn = an}. Областью сходимости этого ряда называется открытое ядро Н множества точек ('г, гл) таких, что ряд (2) с коэффициентами й*('г) сходится в точке гп и коэффициенты голоморфны в точке 'z. Так как вместе с каждой точкой г° области сходимости Н ряда Хартогса принадлежат и все точки г = ('г°, г„)» где |гя —ал|^|г£ —ал|, то Я всегда является полной областью Хартогса с плоскостью симметрии {zn = an}9 т. е. областью вида {('г, гп): 'z^'D, | z„ — ап\ <.R ('г)}\ функция R ('z) называется радиусом Хартогса1). Области этого типа играют для рядов Хартогса такую же роль, как области Рейнхарта для степенных рядов. В частности, справедлива Теорема 1. Любая функция /, голоморфная в полной области Хартогса D с плоскостью симметрии {гп = ап}9 представляется в D разложением f(z)=^g[l{fz){zn-anY (3) ц = 0 1) Рздиус Хартогса R ('г) может не совпадать с радиусом сходимости г ('г) ряда (2), рассматриваемого как степенной ряд по гп — ап, ибо мы перешли от множества сходимости Н к его открытому ядру Н Функция г ('г) определяется по формуле Коши — Адамара она может не быть полунепрерывной снизу, и тогда множество {'ze'D: | zrt — ап | < г ('г)} не будет открытым. Нетрудно видеть, что/? является полунепрерывной снизу регуляризацией г: *('«)=- lim г ('£).
§3} РАЗЛОЖЕНИЯ В РЯДЫ 49 о коэффициентами, голоморфными в проекции 'D этой области в €л""1. < Вместе с Каждой точкой г области D принадлежит и поликруг U = 'UxUn, где 'U с С"-1 — достаточно малый поликруг с центром в проекции 'г точки г, а (/йсС- круг с центром апу содержащий точку zn. В U функция / голоморфна по гп при любом 'z ^!V и, следовательно, разлагается в ряд (3) с коэффициентами „ _ 1 Щ('г, ап) ^ Эти коэффициенты, однако, определены и голоморфны не только в '(/, но и во всей проекции 'D области D, поэтому и разложение (3) действует во всей области D ► Далее, не каждая полная область Хартогса оказывается областью сходимости некоторого ряда Хартогса: в п. 33 мы покажем, что области сходимости характеризуются дополнительным свойством, которым должен обладать радиус R('z) + Опишем теперь вкратце пространственнее аналоги р ядов Лор а на. , - Теорема 2. Всякую функцию /, голоморфную в произведении круговых колец П = )ге ©*': rv < | zv — av \ <; Rv\, можно представить в П в виде кратного ряда Лорана оо f(fe)= 2 ch(z-a)\ (4) J /е j = — оо в котором суммирование распространяется ~на все целочисленные векторы & = (&ь ..., kn), а коэффициенты <V !_ Г /(CMC (5) (2ш)" jj ff-fl> где Г —- произведение окружностей yv: t>v = av + pveit (v = = 1, ..., л; rv<pv</?v;"0<^<2n). «« Разложение (4) получается обычным образом: мы выбираем р± так, чтобы (р^, p£)<s(rv, #v)» и функцию f в произведении колец {pv ^|zv'— av|^Pvj представляем интегральной формулой Коши е рв
50 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Здесь 8 = (еь ..., е„) — набор, состоящий из + и —, Г8 = TJ1 х... X 7*л, где у^ = {| £v - av| = p*v} - окружность, ориентированная положительно, если ev = +, и отрицательно, если ev = —; суммирование распространяется на все наборы г из п знаков. Далее мы разлагаем -= в соответствующие геометрические прогрессии, интегрируем почленно и заменяем интегралы по Yvv интегралами по Yv (с изменением знака, если ev = —) ► Особенно интересны лорановские разложения в окрестности бесконечных точек пространства Сл Они характеризуются тем, что радиусы Rv с индексами, соответствующими бесконечным координатам точки, равны бесконечности. Такими разложениями, в частности, представляются функции, голоморфные в бесконечных точках €п. Напишем для примера разложение функции /, голоморфной в точке (аъ со) e(D2, где агФсо. По определению п. 3 функция f ш, -р-) = = Ф (£i> £2) голоморфна в точке (аъ 0) и, значит, представляется рядом Тейлора сходящимся в некотором бикруге {|£i — ai|</i, (ЫОг}- Подставляя сюда Z>i = zlt £2 =—, получим нужное разложение Лорана 22 функции /: оно сходится в окрестности -{12ГХ—ai | -< г*, |z2[>—f точки (fli, 00). Области сходимости рядов Лорана (4) являются, очевидно, областями Рейнхарта. Кроме того, если область сходимости содержит какую-либо точку z° с координатой 2v = Ov, то в разложении (4) не может быть отрицательных степеней разности zv — яу, т. е. относительно этой разности (4) является тейлоровским разложением. Поэтому области сходимости рядов Лорана являются таи называемыми относительно полнымиобластями Рейнхарта. Область Рейнхарта называют относительно полной, если она при фиксированном v либо не пересекается с пло-
§31 РАЗЛОЖЕНИЯ В РЯДЫ 51 скостью {zv = Ov}, либо вместе с каждой точкой z° содержит и все точки г, для которых | zv — av | ^ | z$ — av |, а остальные координаты те же, что г° (это условие выполняется для всех v). Таким образом, если область Рейнхарта не пересекается ни с одной из плоскостей {zv — av}, то условие относительной полноты не накладывает никаких ограничений, пересечение же с каждой из таких плоскостей влечет за собой дополнительное условие. Так же как в случае рядов Тейлора, доказывается, что области сходимости рядов Лорана являются еще логарифмически выпуклыми. Всякая функция /, голоморфная в относительно полной области Рейнхарта D, представляется в D рядом Лорана (4) (и такое представление осуществляет аналитическое продолжение / в логарифмически выпуклую оболочку D, если D не логарифмически выпукла). Можно рассматривать и другой аналог рядов Лорана. Именно, всякую функцию /, голоморфную в области Хартогса вида (zgC^'zg'D, r(z) <|гл — ап \<:R ('г)}, где 'D — область* из Сл_1, можно представить в этой области рядом Хартогса —Лорана f(*)= S &('*)(*!.-а»)11, (7) [X——оо где gv,^@(D). Области сходимости таких рядов характеризуются дополнительными свойствами радиусов г (г) и R('z), которые мы укажем в п. 33. В заключение остановимся на рядах по однородным полиномам. Полином pv(z) называется однородным степени v, если pv(Xz) = kvpv(z) для всех Я^С и zgC". Ряды по таким полиномам получаются из степенных рядов перегруппировкой членов: (v —скалярный индекс). Как и в случае рядов Хартогса, такая перегруппировка может привести к расширению области сходимости — мы увидим сейчас, что ряды по однородным полиномам сходятся в областях более общего класса, чем степенные ряды:
62 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ I Теорема 3. Любую функцию f, голоморфную в полной круговой области D с центром г = 0, в этой области можно разложить в ряд по однородным полиномам f(*)=f]M*), (9) v = 0 где pv составлен из членов ckzk тейлоровского разложения f в О, для которых |£| = v, и ряд сходится равномерно на компактных подмножествах D. 4 Пусть г^£>\{0} и со = —j. Комплексная прямая £ = Хсо, Я^С, проходит через точку z и пересекает D по кругу {X: | Я |</?(©)}. Так как O^D, то ряд со со I/г ! = 0 v=0 сходится в некоторой окрестности начала и сужение на комплексную прямую {£=Хсо} дает со со ф (%)=/ (Ы) = 2 Pv (М = 2 Pv И г. (10) v=y0 v = 0 Так как /^^(D), то ф голоморфна в круге {|-А,| </? (со)} и (10)— ее тейлоровское разложение; оно сходится в этом круге, а так как у нас |г|<#(со) и г = |г|со, то ряд (9) сходится в точке г. Если теперь K^D, то существуют функция г (со), 0</*(со)</? (со), и число 9, 0<<7<1, такие, что для всех z^K имеем \z\^qr (со), где со = ттт- Поэтому для всех 2Е/С IPv (^) | = I Pv (СО) | - U Г^ I Pv (СО) | TV (СО) ^. (П) Но по интегральной формуле для коэффициентов тейло* ровского разложения / \ 1 С /(Ь>) .* откуда, пользуясь тем, что множество {Ы: |Я| = г(со)}е <^D, и, значит, на нем |/(Хсо)|^М, мы находим |pv(co)| ^ V( \ (неравенства Коши для коэффициентов
§41 ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 53 ряда Тейлора). Подставляя это в (11), получим, что \Pv(z) \^Mqv для всех г^/С. Так как 0<<7<1, то это доказывает равномерную сходимость ряда (9) на К ► Заметим, что не всякая полная круговая область является областью сходимости какого-либо ряда по однородным полиномам —ситуация здесь такая же, как в случае областей и рядов Хартогса. Это видно из того, что преобразование ('г, zn) >(w, zn)t где oyv = — (v=l, ... ..., ft—l), переводящее круговую область в область Хартогса, преобразует разложение (9) в оо g('W, Zn) = f(wZn, Zn) = 2 М'«>, 1)*я, v = 0 т. е. разложение Хартогса для образа функции /. § 4. Голоморфные отображения 9. Свойства голоморфных отображений. Мы назвали отображение /: D->(DW области DcC" голоморфным, если все компоненты ^(ц, = 1, ..., т) этого отображения голоморфны в D. В частности, при п=1 такое отображение называют голоморфной кривой, определенной в плоской области D. . Если U — окрестность точки геСА и /: U ->■ €т — голоморфное отображение, то для вектора h е Сл с достаточно малым \h\ справедливо разложение f(z + h) = f(z) + df(h) + o(hy, (1) (D-линейное отображение df(h) = f{z)h, (2) где f (г) = f-g^-J — матрица Якоби называется дифференциалом отображения f в точке г. Точка z называется некритической, если ранг f (z) максимален, т. е. равен min(m, я). В частности, при т = я можно рассматривать определитель detf(*) = '/(*). (3) который называется якобианом отображения f в точке z; в некритических точках и только в них Jf{z)^0.
54 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Воспользуемся внешним умножением дифференциалов dz^^dz^ которое обладает свойством антикоммутативности (dzv/\dzVL =— dz^^dz^, в частности, dzv/\dzv = 0)y ассоциативности и дистрибутивности, а также позволяет выносить скалярные (комплексные) множители за знак произведения1). Из этих свойств следует, что для голоморфного отображения /: (/->©*, где Ucz€n = {%*>*+•••+%; dzn)A...A(^dz1+...+^dzn)^ = Jf{z)dz1^.../\dzn (4) и аналогично для комплексно-сопряженного отображения d~f1/\.../\d~fn=Jf(z)dz1/\.../\dzn. (5) Далее по тем же свойствам dzv Д dzv = (dxv + i dyv) Д (dxv — i dyv) = — 2i dxv Д dyv и аналогично dfvf\d]v = — 2iduv/\dvVi где fv = uv-\-ivv. Поэтому, перемножая (4) и (5) и делая одинаковые перестановки в правой и левой частях, мы получим du1/\.../\dun/\dv1h...hdvn=*' = \Jf(z)\?dx1/\.../\dxn/\dy1h...Adyn. Но отношение произведений всех 2п действительных дифференциалов ^хД...Дс(ул и dxxA-^A^yn есть отношение элементов объема в образе и прообразе, т. е. равно якобиану отображения f, рассматриваемого как действительное отображение. Доказана Теорема 1. Если f: V ->©* — голоморфное отображение окрестности точки z е €*, то якобиан f, рассматриваемого как отображение окрестности из U2n в R2/l, равен квадрату модуля комплексного якобиана: o*h,...,vn) <j , )[а (6) д(*1> -., Уп) ' ; V " 7 х) Мы предполагаем, что читатель знаком с внешним произведением: см., например, У. Рудин, Основы математического ана-» лиза, «Мир», М., 1966, стр. 251, см. также ниже, п. 13.
§41 ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 55 Отсюда по теореме о неявной функции из действительного анализа легко выводится, что если г—-некритическая точка отображения f, то в некоторой окрестности точки w = f(z) существует обратное к f отображение g; оно голоморфно и матрица g" (до) = (f (г))-1. Далее, для голоморфных отображений справедлив принцип максимума. Чтобы получить его в достаточно общей форме, назовем С -однородной нормой в €* отображение ||.||: СЛ~^К+ такое, что: 1) ||г + а>||^||г| + ||а>|| для всех г, до е С", 2) ||%z|| = | X|• ||z|| для всех IgC и всех г^С" и 3) ||^|| = 0 в том и только том случае, если 2 = 0. Основными примерами ©-однородных норм служат евклидова и поликруговая нормы (см. п. 1). Теорема 2 (принцип максимума). Пусть D — область в С", /: D->fcm —голоморфное отображение и \\-\\ —некоторая ^-однородная норма в С"1. Если \f(z)\ достигает максимума в точке a^D, то: 1) компоненты /^ отображения f линейно зависимы в D и 2) \\f(z)l = = const в D. 4 Пусть b = f(a) и 5 = {дое=Ст: ||до||<||Ь||}-шар в рассматриваемой норме; в силу свойств нормы —это выпуклое открытое множество. При ||Ь|| = 0 утверждение тривиально, поэтому мы считаем ||Ь|>0. Точка Ь^дВ; в силу выпуклости В в ней существует опорная к В действительная гиперплоскость, которую можно записать Re/H = p, (7) m где / (до) = 2 av> wv>~~ комплексно линейная функция и Р = = Re 1(b). Функцию I мы выберем так, чтобы для всех до е В было Re / (до) < р. Рассмотрим теперь голоморфную в D функцию elof; всюду в D мы имеем \elof& \ = eRelofW ^е&, а в точке а ее модуль равен ер. По принципу максимума модуля (теорема 6 из п. 5) l°f (z) = const в D. Отсюда мы заключаем, что компоненты /^ отображения f линейно зависимы т v они удовлетворяют соотношению 2 avfv>(z) — const) и что f(z) для всех z ^D принадлежит пересечению опорной гиперплоскости (7) и границы dBt т. е. ||/(z)|| = ||&| для всех геГ ►
56 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Замечание. Если шар В в рассматриваемой норме — строго выпуклое множество, то пересечение опорной гиперплоскости (7) с дВ является точкой, и тогда в условиях теоремы f (z) = const (такова, например, евклидова норма). В общем случае C-однородной нормы это заключение неверно .(например, в случае поликруговой нормы). Из принципа максимума вытекает одно из возможных обобщений леммы Шварца: Теорема 3. Пусть Вгс С" и В2 cz Ст — единичные шары в ^-однородных нормах ||-||i и || - Цв соответственно и f: В1->В2 — голоморфное отображение такое, что /(0) = 0. Тогда для любого z^Bt '|/(z)b<|zk - (8) < Через точку OgC" проведем комплексную прямую /: г = £г°, где г*<=дВг (т. е. ||20|i=l) и £<==©; ее пересечению с Вг в плоскости £, очевидно, соответствует круг U = {| £ | < 1}. Рассмотрим голоморфную кривую g (£) = = f : £7->€m и фиксируем любое г, 0<г<1. £ 1 В круге {|£|^r} по теореме 2 имеем ||g(£)|t^ — и, переходя к пределу при г->1, получим, что ||g(£)|2^1, т. е. ||/(£г0) ||2^|£| в любой точке £е!Л Пусть теперь гфО — произвольная точка Въ тогда 2° = Ti—„-s^Bi, и, полагая в последнем неравенстве £ = II2 ill = || г ||ь мы получим (8) ► Другие обобщения леммы Шварца мы рассмотрим в гл. V. 10. Биголоморфные отображения. Определение. Отображение / области Ос<Сп называется биголоморф- ным, если оно голоморфно в D и имеет обратное отображение gr = f~1, голоморфное в области G = f(D) (отсюда из топологических соображений следует, что / сохраняет размерность). В предыдущем пункте мы видели, что если якобиан Jj (г)ф0, то / локально биголоморфно в точке г. В гл. IV будет доказана теорема Осгуда, по которой из голоморфности и локальной взаимной однозначности отображения / в точке z следует, что Jf(z)=/=0.. В силу этой теоремы любое голоморфное взаимно однозначное отображение
§41 ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 57 /: D-+f(D) биголоморфно 1). При п>\ свойство биголо- морфности не совпадает с конформностью. Например, в С2 отображение (zlt г2) -> (гх, 2г2) биголоморфно, но не конформно, а конформное отображение г-*--.—$■ не явля- ется ни голоморфным, ни антиголоморфным. Биголоморфное отображение f: D -+G = f(D) называют также (голоморфным) изоморфизмом, а области D и G, для которых такое отображение существует, биголоморфно эквизйлентными. Голоморфный изоморфизм области D на себя называется (голоморфным) автоморфизмом. Совокупность голоморфных автоморфизмов области D образует, очевидно, группу относительно композиции, которая обозначается символом AutD. Как и в п. 37 ч. I, доказывается, что любое биголоморфное отображение f: D->G = f(D) устанавливает групповой изоморфизм f#: AutD->AutG по формуле /*: ф->/офо/-1 («pesAutD). .(1) Таким образом, изоморфность групп AutD и AutG необходима для биголоморфной эквивалентности областей D и G. Это условие, однако, не является достаточным, как показывает пример различных плоских колец D = {1< < | г\ < /*i}, G= {1 < | z | < r2}, /*! Ф r2, которые конформно не эквивалентны, но их группы автоморфизмов изоморфны (см. задачу 15 к гл. IV ч. I). Вычислим группы автоморфизмов шара и поликруга. а) Автоморфизмы шара Bn = {z^€n: |г|<1}. Здесь действует подгруппа группы проективных преобразований, которые в однородных координатах записываются в виде со = Л£, где Л = (а^) — невырожденная матрица, а С = (Со, ..., £„)' и со = (со0, ..., сол)' — векторы столбцы. В аффинных (неоднородных) координатах эти преобразования имеют, следовательно, вид л ацо+ 2j a^v2v ^ , |1=1, ..., П. (2) аоо+ 2j aov2v v=l *) При Jj(z)^0 голоморфность f~l в точке w—f(z) следует из теоремы об обратной функции. ' av со0
58 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I В пространстве &п+1 однородных координат £ сфере п {| z | = 1} о Сл соответствует конус 2 I См-12 ~~ I £о I2 = 0. При автоморфизмах £->Л£ шара Вп этот конус должен " П |2 / J ^VbV I v = 0 n 12 ИЛИ переходить в себя, следовательно конус 2 М-=1 /j a0vfev v = 0 2 (2] a/na/v - «o^aov) ^Cv=o, H,v = l \/ = 0 / должен совпадать с исходным конусом. Это будет в том и только в том случае, когда выполняются условия п . ,=' . © 2|aM|2-|a0J2 = -2|a/ol2 + |aob|2#0, /=i /=i При этом шар В* переходит в себя, если образ точки п (1, 0, ..., 0) е= (D"+1 лежит внутри конуса ^ | £ц I* < I £о |, т. е. если 2 |a/p|2<| а00|2 (в последнем условии (3) /=i вместо знака Ф надо написать >). Отсюда следует, что а0о=7^0, и мы можем положить a00=l, ибо числитель и знаменатель каждого из уравнений (2) можно разделить на одно и то же число. Подсчитаем число параметров, от которых зависит выделенная группа Г автоморфизмов шара. Если а00=1, то мы имеем (п+ I)2— 1 ==п2 + 2п комплексных параметров a^v, связанных условиями (3), которые состоят из ■ 2 комплексных и п действительных уравнений. Можно показать, что эти уравнения независимы, так что число независимых действительных параметров равно 2(п2 + 2п)-п(п+1)-п = п2 + 2п
§41 ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 69 (при п=1 получаем три действительных параметра, как и должно быть). Особо отметим подгруппу Г0 а Г, которая состоит из преобразований, сохраняющих центр шара z = 0. Как видно из (2), здесь а^0 = 0 при |г=1, ..., п; полагая fi = 0 в первом условии (3), мы найдем) что aov = 0 при п v=l, ..., п, и это условие примет вид 2 0^6^ = 0 при п (x=7^=v, а второе условие (З)--вид 2 а/^/> —1- Таким образом, подгруппа Г0 состоит из преобразований вида п wm = 2] <Wv. (4) v = i п для которых 2 a/na/v = e^Vf т. е. из унитарных пре- образований. Она зависит от п2 действительных параметров. Пример. Выпишем формулы для автоморфизмов В2, содержащие лишь независимые параметры. Если a = (alf a2)~-точка, переходящая в центр, а (2, а) = г1й1 + г2й2 — эрмитово скалярное произведение, то при а Ф 0 эти формулы имеют вид ш eiQ* (г - а, а) + \ У\ - \ а |2 (ад - а^) 1 \a\Vl + \W 1-(г, a) х ' е*'°2 Я (г — а, а) — К1 — \а\2 (ад — ад) ^■"lalKl + lXlS" 1-(г, а) где Я—произвольный комплексный, a 6i и в2 —действительные параметры. Преобразование (5) можно представить как композицию двух преобразований: автоморфизма ы *\-^Х ((г~а> а) т/1—rr^^i-fli^V {Zl^^W\V-(z. ay yi.-|fl| l-(z, a)]' переводящего a в центр шара, и унитарного преобразования (гь г2)-^ ) „(^fa + ^i). ^02fe-22)). /1 + |Я|2 Теорема 1. Группа голоморфных автоморфизмов шара Autfi* совпадает с группой Г дробно-линейных отображений (2), удовлетворяющих условиям (3). -^wr— -
60 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I ^ Очевидно, что Г с Aut Вп, значит, остается доказать, что Aut ВлсГ. Пусть f е Aut Вп и f (0) = а\ по формуле (2) построим автоморфизм £^Г, переводящий а в 0, и обозначим g° f = F.' Ясно, что F и F'1 — голоморфные отображения Вп в себя, сохраняющие центр. Применяя к каждому из них лемму Шварца из предыдущего пункта в евклидовой метрике, получим, что всюду в Вп имеем \F(z)\<:\z\ и IF-^HKM, т. е. \z\^\F{z)\. Таким образом, для всех z е Вп \F(z)\^\z\. (6) Фиксируем теперь точку со ^дВп и рассмотрим в круге U = {| £ | < 1} вектор-функцию Ф (£) = т F (£со); так как £со е В" при £el/ и F (0) = 0, то Ф: Ъ ->- С* — голоморфная кривая. Но в силу (6) ' |O(0l=™J = !^l^l для всех Est/ и по принципу максимума из предыдущего пункта с учетом строгой выпуклости сферы дВп мы заключаем, что Ф (£) = = const (см. замечание вслед за теоремой 2 из п. 9). Таким образом, координаты Фм, = у/гМ/(£со) =.с^(со) не зависят от £, и для всех со е дБ* и £ е (/ мы имеем ^n(fr»). = &4iH. И- = 1, —, я; Отсюда для любого г g Вя\{0}, полагая со = |~т, мы находим F[i(z) — \z\с^(со) и затем для любого Я, | %| <; 1, F[i(Xz)=F[i(X\z\<») = X\z\c[i(<D) = 'kFVL(z). (7) Голоморфные в шаре Вп функции F^ можно разложить оо в ряд/^г) = 2 Pniv(^) по однородным полиномам, и в v=o силу (7) J 2, v = 0 откуда в силу единственности разложения в степенной ряд по А, мы заключаем, что все р^, за исключением p^i,
§ 41 ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 61 тождественно равны 0, т. е. что F^ (\i = 1, ..., п) — линейные функции. Итак, F —линейное, а в силу (6) — унитарное преобразование. Поэтому F^ Г, а значит, nf=g-1-F^ Г1) ► б) Автоморфизмы поликруга Уя = {ге(Сй: ||г||<1}. В £/я действует, очевидно, группа дробно-линейных автоморфизмов w^e%r^; (v=1....,n), (8) зависящая от Зп действительных параметров (0V —действительные, av — комплексные постоянные). При п>\ к ним можно добавить еще преобразования wv->w0{v) перестановки переменных, где о — взаимно однозначное отображение множества (1, ..., п) на себя. Таким образом, мы нашли группу автоморфизмов 0п, которая расслаивается на п\ множеств, зависящих от Зп действительных параметров 2). Оказывается, это и есть группа автоморфизмов Un: Теорема 2. Группа AutUn состоит из преобразований вида jq_ W-aacv, (v = 1, ... , я), (9) -£ CT(V> I —flc(V)2afV> где a — произвольная перестановка множества (1, ..., n). 4 Пусть / е Aut £7" и a = f (0); выбирая g по формуле (8), мы получим, что F = g°f — биголоморфное отображение Un на себя такое, что F(0) = 0. Применяя к F и к F~l лемму Шварца в поликруговой метрике мы, как & в предыдущей теореме, получим, что 4 l^)INN • (Ю) для всех z^Un. Рассмотрим произвольную координату Fv отображения F; так как |F|==max окрестность, где \\F (г) Fp, | и F (Un) = Un, то в Un найдется Fv(z) |. Пусть в соответствующей окрестности прообраза при отображении F будет ||z || = | z^ |. Применяя к Fv как функции от г^ лемму Шварца для функций одного переменного, мы получим из равенства IFv (г) I = | г^ |, которое следует из (10), что Fv (z) = eiQ{z)z^ 1) Это доказательство нам сообщил.Е. М. Чирка. 2) Из этих множеств группой будет лишь то, которое содержит тождественное преобразование, т, е. множество преобразований (8).
62 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Здесь б может зависеть от гу(/^=|х), но так как е'е(гг) — голоморфная функция постоянного модуля, то она постоянна (см. замечание в предыдущем пункте вслед за теоремой 2), и на самом деле б (г) = 6^ = const. Таким образом, Fv (г) = = e'Vzp, в некоторой окрестности, а по теореме единственности и во всем Un. Наконец, из гомеоморфности F следует, что jx = jx (v) — перестановка индексов (1, ..., п). Мы доказали, что / = =-g-ioF — преобразование вида (9) ► Труппа kvABn и AutUn совпадают при п = 1, а при п>1 они, очевидно, неизоморфны. Из сказанного в начале пункта отсюда следует, что при п>\ шар Вп и поликруг Un не эквивалентны биголоморфно. Приведем и прямое доказательство этого утверждения. Теорема 3. При п>\ не существует биголоморфноео отображения шара Вп на поликруг Un, <4 Пусть, от противного, такое отображение f: Bn->Un существует. Выполняя, если надо, автоморфизм из Aut Un, можно считать, что /(0) = 0. Применяя к / и f~x лемму Шварца из п. 9, мы получим, как и в предыдущих доказательствах, что | / (г) || = | z | для всех z е В". Отсюда следует, что евклидова сфера 4| з | = -^"V при отображении f переходит в негладкую поверхность ||| г | ==-g-}» а это невозможно, ибо / — диффеоморфизм ► Мы видим, что теорема Римана о биголоморфной эквивалентности плоских односвязных областей на пространственные области не распространяется. Это связано с переопределенностью условий голоморфности при п > 1: для отображений f = (fly ...,/«) областей Сл условия Коши—Римана з^ = 0 состоят из п2 комплексных дифференциальных уравнений относительно п неизвестных комплексных функций. 11. Пример Фату,: В ч. I было доказано, что любой голоморфный автоморфизм комплексной плоскости С, как и круга {|z|</?} любого радиуса R, дробно-линеен (точнее, даже линеен). Из результатов предыдущего пункта сразу следует, что при п>\ автоморфизмы шаров {|г|<</?} и поликругов {||г||</?} любого радиуса R также дробно- линейны.
§41 ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 63 Однако для п > 1, в отличие от плоского случая, переход к пределу при /?->оо невозможен: легко видеть, что в ©* при п> 1 существуют нелинейные автоморфизмы. Например, в С2 голоморфным автоморфизмом будет любое отображение /: (гь z2)->(*i + <p(32), г2), (1) где ф — произвольная целая функция одного переменного. В самом деле, оно голоморфно в (D2 и его обратное /~х: (а>ь W2J^-(w1 — ф(^2)» шг) также голоморфно в С2. Заметим, что для компактифицированных пространств (D* и €Рп голоморфные автоморфизмы снова дробно-линейны (см. задачу 22 к гл. IV). Далее, любое биголоморфное отображение С в себя сюръективно, т. е. явлйется отображением на С (и следовательно, линейно). При п>\ это утверждение также становится неверным, как видно из примера, построенного П. Фату. Мы предлагаем упрощенный вариант этого примера. Рассмотрим два автоморфизма С2— линейный А: (гъ г^^(—агъ az2), 0<а<1, (2) и нелинейный ц: (*i, г2) -± (г2, а*гх + (1 - я2) zl). (3) Автоморфизм т] имеет две неподвижные точки (0, 0) и (1, 1). В первой из них — матрица с собственными значениями % = ± а, по модулю меньшими 1, так что эта точка является притягивающей для семейства итераций ц* = ц°r\*-i ^1 = rj; v = 2, 3,...)*). Рассмотрим еще функциональное уравнение П-/ = М, (4) которое, если положить f = (fi, f2), переписывается в виде h(z) = h(Лг), а%(г) + (1-а2)П(г) = /2(Аг) (5) *) Во второй неподвижной точке (1, 1) одно из собственных значений по модулю меньше 1, а другое больше 1,
b4 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I и, следовательно, сводится к уравнению для функции /х: #к(*) + (1-а*)П(А*)Чг(А%г) (6) (мы подставили во второе уравнение (5) выражение f2 из первого). Докажем, что уравнение (6) имеет голоморфное в начале решение вида h(z) = Zi + z2 + 2 bkzk = z1 + z2 + y(z), k = (kl9 k2). (7) Для этого заметим, что функция ф удовлетворяет уравнению а\ (г) - Ф (Ah) = {а2-\)(а (г2 -гг) + Ф (Лг))2, (8) а при исследовании последнего воспользуемся следующим приемом. Будем писать £akzk<^^bkzkJ если |а*|^|&*| для всех &, и обозначим HS^^I — SI0*!2*- Так как A2z = (a2zly а%), то а2ф (г) - ф (Л2г) = £ bk(a2—a2^)zk и, следовательно, ||«2Ф«-ф(Я2г)||>а20-а2)||ф(г)|. С другой стороны, - II (а (г2 - гх) + <р (Лг))21| < а2 (гх + г2 + а \\ Ф (г) ||)2, поэтому из (8) мы получаем 1ф(*)К(*1 + М-*11ф(*)Г (9) Рассмотрим теперь вместо (9) соответствующее уравнение Ф(0 = (/ + яФ(0)2; оно имеет решение Ф (t) = 2~2(l — 2at — "|/"l —4a/) = 2 Я^, где ^>0и ряд сходится в окрестности t = 0. Нетрудно видеть, что ф (г) << Ф (г* + г2)х), поэтому ряд для ф, а значит, и для /х сходится'в окрестности точки г = 0. Таким образом, уравнение (4) имеет голоморфное в начале решение /. 1) Для доказательства можно воспользоваться индукцией, по | к \ = ц, заметив, что (9) оценивает коэффициент разложения ||ф (г)|| = = 2 I ^k \ гк с данным | k | через коэффициенты с меньшими |&|.
§4] ГОЛОМОРФНЫЕ ОТОБРАЖЕНИЯ 65 Вернемся к описанию примера. Из уравнения (4) вытекает, что f = ^rlof° Л, откуда итерациями мы получаем / = г)-1о(т]-1о/оУ4)о^4 = т]-2./о,42 и вообще /(*) = 4-v-Mv(*) (v=l, 2,...). (Ю) В силу сжимаемости А из этого соотношения следует, что / продолжается до голоморфного отображения С2-^С2 (в самом деле, для любого z ^ С2 точка Av (z) при достаточно больших v попадает в окрестность 0, где / определена и голоморфна, так что правая часть (10), а значит и левая, определена и голоморфна во всем С2). Продолженное так отображение мы снова обозначим через f. Далее, так как у нас якобианы Jr](z) = JA(z) = — я2, а по правилу дифференцирования сложных функций из (4) следует, что Jn (/) • Jf (z) = Jf (Az) • JA (г), то для всех z ^ С2 мы имеем Jf (г) = Jf (Az). Отсюда итерированием получаем, что Jf (z) = Jf(Avz) для v=l, 2, ..., а так как Avz->0, то в силу непоерывности' Jf заключаем, что Jf (г) = Jf (0) для всех z е С2. Так как в окрестности начала fx (г) = = zi + z2 + ...f f2(z) = f1(Az) = — агг + аг2 + ..., то Jf (0) =» = 2а ^= 0, следовательно, отображение / локально биголо- морфно. Из соотношения (10) мы заключаем, что оно и глобально биголоморфно. Покажем, что образ С2 при построенном отображении совпадает с областью притяжения неподвижной точки (0,0) автоморфизма г\: G = /(C2) = {z(ee€2: limr)v(*) = 0}. (Ц) v-*oo В самом деле, если г g G, то найдется точка z' е С2 такая, что г = /(г'), а тогда из (10) мы заключаем, что if (z) = = v\v°f (z') = f(Avz)-**f (0) = 0 при v-^oo. Обратно, если T]v(z)->0, то в силу того, что значения / покрывают некоторую окрестность начала, при достаточно больших v найдется точка z'gC2 такая, что r)v (г) = /(г'), и тогда в силу (10) 2 = rrv°/(2')=/44-V), т. е. ге=С Для более детального описания1) области G удобно обозначить (p0(z)—zu <Pi(z)=22 и затем последовательно положить ^v+i(z) = a\^1(z) + (l-a2)^(z) (v=l, 2, ...). (12) 1) Это описание принадлежит Э. Удовичичу. 3 Б. В. Шабат, ч. II
66 ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I Тогда, согласно (3), мы получим, что t)v(z) = (cpv (г), cpv+1 (г)) и, следовательно, образ /(С2) опишется как множество G={z<=€2: lim q)v(z)=0}. (13) v-*oo Заметим, что если в точке г ^ С2 для каких-либо двух последовательных номеров |q>v-i(z)|^/\ |фу(г)|^/', ГДе г<;1, то, согласно (12) в этой точке и | cpv+i (z) | <; а2г + + (1 — а2) г = г. Тогда в этой точке | <р^ (z) | ^ г и для всех последующих номеров [г, а значит, и lim |cpv(г) | = /<;/". v->oo Выбирая подпоследовательность номеров, по которой |<pv.+i(z)|-W, мы получим из (12), что /^/(я2 + (1 — а2) I). Если /=£(), то из последнего неравенства мы получим я2 + (1 —а2) /^ 1, откуда /^1, а это противоречит тому, что /^г. Таким образом, / = 0, а значит, lim (pv(z) = 0, V—*00 т. е. рассматриваемая точка z е G. Из этого замечания следует, что множество Dx = = {| 2i | < 1, | z21 <; 1} cr G, ибо для любой точки Z ^D1 имеем | ф2 (г) | < а2 + (1 — а2) = 1 и аналогично | <р3 (z) | < 1. Точно так же D2 = {а21 гх | + (1 - а2) | г212 < 1, | г21< 1} cz G, ибо для точек этого множества | <р3 (г) | < 1 и | <р4 (г) | < 1. Точка г = (1, 1) —неподвижная для автоморфизма т], и из (11) видно, что она не принадлежит G; из предыдущего ясно, что (1, 1) является граничной точкой G1). Самой интересной особенностью построенного примера является то, что область G далеко не заполняет всего пространства С2. Чтобы в этом убедиться, обозначим bt = а и для 0</^1 рассмотрим множество £, = {z<=C2: |||^, |г2|^Ц. (14) Нетрудно видеть, что если ге^, то иг] (г) е Et (в самом деле, согласно (3) координаты точки r\(z) равны г]1(г) = = г2 и г]2 (г) = а2гх + (1 —а2) г|, поэтому из (14) мы получаем ЛгСг) T]l(2) :(1-а2)|22|-а2 1) Можно показать, что на торе Г = { | zx | = 1, | г2 | = 1} есть еще две граничные точки G—это точки (е2ш/3, е~~2ш"/3) и (е—2я*/з^ е2ш/3), которые переставляются при автоморфизме tj; остальные точки Г принадлежат G.
ЗАДАЧИ 67 и далее | % (z) | ^ | rji (2) | = | г21 ^ &/). Отсюда следует, что для точек z^.Et величина rjv (г) не может стремиться к О при, v->-oo и, значит, £, c~(D2\G при любом f е (0, 1]. Но тогда C2\G принадлежит и множество £ = (J £,, *е<о, 1] изображение которого на диаграмме Рейнхарта ограничено отрезком {0 <| 2Х|^6, |г2| = Ь} и куском параболы К|г1| = (1-а2)|г2|2-|22|, |zi|3*&}, rAe6 = fci = Yi^> >1. Результаты нашего исследования изображены на рис. 11, где наклонной штриховкой отмечена часть, заведомо принадлежащая G, и вертикальной штриховкой — часть, заведомо G не принадлежащая. Заметим, что чем меньше значение .параметра я, тем наша оценка точнее (при а->0 область D1[)D2 {|*i|S*Of I 22 Рис. 11. стремится к полуполосе 1}, а £ —к ее дополнению). Итак, построен пример невырожденного голоморфного (и даже биголоморфного) отображения f: ©2->С2, для которого множество (D2\J (С-2) непринимаемых значений содержит непустое открытое множество. Этот пример показывает, что на голоморфные отображения С* при п > 1 нельзя распространить в прямой форме ни теорему Пикара, ни даже теорему Сохоцкого. О формах, в которых эти теоремы обобщаются на многомерный случай, мы будем говорить в последней главе. ЗАДАЧИ 1. Построить пространственный аналог стереографической проекции и ввести с ее помощью сферическую метрику в"Сл 2. Доказать, что сферическая метрика в С в однородных координатах £ = (£о» £i) определяется формой ds2 = 1 (С о {«. Е)№ *»-«. dQ(dl, Ш, 3*
ГОЛОМОРФНЫЕ ФУНКЦИИ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ [ГЛ. I где круглые скобки обозначают эрмитово скалярное произведение. (Метрика, определяемая такой же формой в €Рп с однородными координатами £ = {£0> •••» ЕлЬ называется метрикой Фубини — Штуди.) 3. Доказать, что каждая комплексная прямая из Сп имеет в СР" одну бесконечную точку. 4. Доказать, что преобразование Рейнхарта а(2) = (|г11, ..., \гп[) переводит любую область D a C/l не пересекающуюся с множеством \гг ... 2Л = 0}, в область пространства R*. 5. Доказать, что полная область Хартогса DczCn выпукла тогда и только тогда, когда ее образ (3 (D) при преобразовании |3 (г) = = ('*! I *п I ) является выпуклой областью в (R2/I_1. 6. Доказать, что непрерывная в области D с: С" функция является плюригармонической тогда и только тогда, когда ее сужение на любую комплексную прямую / гармонично в l[)D. 7. Доказать, что целая функция / для которой | f (г) | ^ ^с(1 + |г|т) для всех геСл, где с и т —постоянные, является многочленом степени не выше т. 8. Границей Бергмана области D называется минимальное замкнутое множество В с: 3D такое, что sup | / (гг) | = sup |/(г)| для всех функций, голоморфных в D. Очевидно, что В содержится в границе Шилова 5 области D. Доказать, что для области D = {0< <|zil<l> |г21 < 1г1 р1п'21'} с= С2 эти границы различны: S = = {|*il^l, |z2Mzirln,2l,b a S = {|2l| = l, |г2| = 1}. 9. Множество М называется множеством единственности для функций класса ^, если любая функция / е ^, равная 0 на М, тождественно равна 0. Доказать, что следующие множества являются множествами единственности для функций из 0 (С2): а) действительная гиперплоскость из С2, б) действительно двумерная плоскость {Zi — z2}, в) Дуга {га = *1, у1=х1 sin— }. 10. Привести пример последовательности точек, сходящейся к центру поликруга Un и являющейся множеством единственности для функций из (д (Un). 11. Доказать, что любое непустое открытое подмножество остова поликруга Un является множеством единственности для функций класса 0(Un)(]C(Un). 12. Доказать, что если при каждом фиксированном (2°? ..., г°_ь *v + u •••» гп), v=1 «. функция f(zu ..., zn): а) является многочленом относительно zv, то она —многочлен; б) является рациональной функцией от 2V, то она —рациональная функция. 13. Привести пример функции f(zit 22), голоморфной по гх в { I 2i I < Н Для любого 22, | г2 | < 1, непрерывной по г2 в { | г21 < < 1} для любого zlt \zi\<.\, и не являющейся непрерывной по 2 = (2i, 22) В бикруге { [Zi|< 1, |22|< 1}. 14. Пусть Un — поликруг и Г —его остов; доказать, что если для функции / е 0 (Un)[)C (Un) имеем |/]=const на Г, то/—рациональ- ная функция.
ЗАДАЧИ 69 15. Построить степенные ряды, для которых областью сходимости являются: а) шар {г <= С2: | гг |2+| г2 ,2 < 1}; б) область {г е С2: l*i | + ;га|<1}. 16. Доказать, что любая выпуклая область Рейнхарта язляется логарифмически выпуклой. 17. Для голоморфной кривой f: D -> (D71, где D — плоская область, сформулировать и доказать принцип максимума модуля: а) в евклидовой метрике |/|, б) в поликруговой метрике ||/||. 18. Пусть / — голоморфное отображение единичного шара В сг С* в €п такое, что /(0) = 0. Тогда для любого числа р^\ имеет место следующее обобщение неравенства Шварца: 2lM«)lP^MPSUP2l/vl'. 2Efi. V В V 19 (В. В. Р а б от и н). Обозначим через © (Ся, Ст) пространство всех голоморфных отображений /: О -> С"1 с топологией равномерной сходимости на компактах (последовательность точек /№ €= 0 (С*1, Ст) называется сходящейся к точке /, если рх -> f равномерно на любом /( с С"). Пусть Q—множество квазисюръективных отображений /е£?(Сл, О), т. е. таких, что /(С71) плотно в (О, a F — его дополнение (в частности, F принадлежат отображения типа Фату —• гомеоморфизмы, для которых / (С*) не плотно в О71). Доказать, что: а) множество F плотно в 0 (С71, €п) и, в частности, в любой окрестности произвольной точки f^0(€n, С") найдется отображение типа Фату; б) множества F и Q линейно связны. 20. Привести пример голоморфной кривой /: С -> С", для которой множество предельных значений по всевозможным последовательностям £М- е О, сходящимся к бесконечности, совпадает с Сл. (У к а- з а н и е. Воспользоваться задачей 1 к гл. V ч. I.) 21. Доказать, что множество голоморфных отображений С -> Ся, обладающих свойством, указанным к задаче 20, всюду плотно в пространстве 0(С, С71). 22. Доказать, что шар В = { \ г | <1} сг С2 биголоморфно эквивалентен области {#2<l2il2} (рассмотреть отображение (zj, г2) -> 23. Доказать, что если в лемме Шварца из п. 9 || • ||i и || • ||2 — нормы со строго выпуклыми шарами, то равенство ||/(z) ||2 = || г Hi достигается на комплексном подпространстве V сг Вг и/| v — линейное отображение. Привести пример, когда V отлично от точки'и не совпадает с Bv
Глава II ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ Эта глава имеет в основном вспомогательный характер. В ней излагаются определения и факты из других областей математики, необходимые для дальнейшего построения теории. При желании читатель может пропустить эту главу и возвращаться к ней по мере дальнейшего чтения, если в том возникнет необходимость. Исключением являются §§ 6 и 8, относящиеся непосредственно к комплекс* ному анализу. § 5, Многообразия и формула Стокса 12. Понятие многообразия. Мы считаем, что читатель знаком с этим понятием1) и ограничиваемся напоминаниями и описанием особенностей комплексной структуры. Пусть дано связное х&усдорфово пространство М со счетной базой открытых множеств. Предположим, что М допускает покрытие #={t/a}a€=A (А — произвольное множество индексов) областями Ua а М, гомеоморфными шарам Ва евклидова пространства IR*. Пару (Ua, cpa), где q)a:Ua->Ba — гомеоморфизм, называют картой, а набор карт <27^ = {((/а, сра)}ае=А — атласом покрытия 21% Окрестности Ua называются координатными, а векторные переменные х? = (лу, ..., jtjj) = <ра (р), где pG(/a,- локальными координатами, действующими в Ua. Если t/ap = иа(]и$Фф, то возникает гомеоморфизм ФаЗ = ФрвФа1: фа (tAxiO-^ ВЭ (1) (рис. 12); такие гомеоморфизмы называются соотношениями соседства атласа ©^. Так как соотношения соседства —- 1) См., например, М. С п и в а к, Математический анализ на мно» гообразиях, «Мир», 1968.
§ 5] МНОГООБРАЗИЯ И ФОРМУЛА СТОКСА 71 отображения открытых множеств из Rn, то можно говорить об их гладкости. Если все соотношения соседства атласа && являются отображениями класса Ck, то говорят, что (27^ — атлас гладкости k. При k^l все фа — диффеоморфизмы, и, следовательно, det фар ^О1). Чтобы прийти к понятию многообразия, остается сделать последний шаг — освободиться от выбора конкретного атласа. Для этого условимся считать два атласа &* = {(Ua, фа)}ае А Ие/' = = {(^р, Фр)Ьев гладкости k, соответствующих покрытиям {Ua}a<=A И {t/p}3GB пространства - М, эквивалентными, если их объединение orf U orf' = {([/а, фа), (Ур, ФзНаеА, рев также является атласом гладкости k. Смысл последнего требования состоит в том, что соотношения соседства при переходах от карт одного атласа к картам другого имеют ту же гладкость, что и соотношения соседства каждого атласа в отдельности. Многообразием гладкости k называется пространство М вместе с определенным на нем классом эквивалентности атласов гладкости k\ при & = 0 многообразие называется топологическим. Размерность шаров, которым гомеоморфны области покрытия 21, называется (действительной) размерностью многообразия (n = dim^Al). На многообразии М гладкости k можно говорить о функциях класса Cz,1 ^ 6, — это такие функции f: М -> R, что в любой локальной координате х? = (ра(р) композиция /«ФЙ1 является функцией класса С1 на открытом множестве фа (Ua). a Rn. Очевидно, что это определение корректно, т. е. не зависит от выбора атласа из рассматриваемого класса эквивалентности и от выбора карты в атласе. х) Заметим, что (фар) 1 = фра» поэтому для "атласа класса Ck вместе с фар этому классу принадлежит и (фар)-1- Рис- 12.
72 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Понятие комплексного многообразия определяется по той же схеме. Пусть пространство М (с теми же предположениями) покрывается областями Ua, гомеоморфными 2/2-мерным шарам, и <ра: [/а-^Сл — эти гомеоморфизмы (га = фа(р) называются локальными координатами). Назовем атлас os£ = {(Ua, фа)|аеА, комплексным, если все соотношения соседства фаР = срр • фа (а, р ^ А) — б и г о- ломорфные отображения соответствующих открытых множеств в С*. Два таких атласа называются эквивалентными, если их объединение —тоже комплексный атлас. Пространство М вместе с классом эквивалентности по этому отношению называется комплексным многообразием. Число n = d\m^M называется (комплексной) размерностью многообразия. Примеры. 1) Тривиальными примерами /г-мерного комплексного многообразия являются пространство С" и области в нем Для С'1 можно взять атлас из одной карты: самого Ол с тождественным отображением ср. Область D сг Ол можно покрыть семейством шаров Ва = {\г — а\<е(а, dD)}, a^D (здесь е(а, dD)— евклидово расстояние точки а от dD)\ все отображения фа и соотношения соседства— тождественные отображения. 2) Комплексное проективное пространство €Рп допускает конечное покрытие областями £//={[£о, .... £л] <= СРЛ : £/ Ф 0}, / = 0, ... ..., п (ясно, что условие Ъ/фО не зависит от выбора представителя класса [£J). В качестве локальной координаты в U/ мы выберем яу<га>-(£. .7...^>^с символ / обозначает, что частное ~ = 1 пропускается); очевидно, С/ / <Pf(Uj) = €n. Нетрудно убедиться, что атлас {(£/. фЛI? 0 —- комплексный, т. е что все его соотношения соседства биголоморфны1). Атласы, эквивалентные этому, определяют €Рп как комплексно- многообразие размерности п. Пусть М и М — два комплексных многообразия; отображение f: M-+N называется голоморфным, если для 1) Выпишем для примера соотношение ф01. У нас £/01 = {[£]: £ot Ci Ф 0}, ф0 (И) = (jj, ... , У) = * и ф0((/о1) = ^\{21 = 0} Да. лее, Ф^1 (г) = [ 1, г], фх ([1, *]) = (-- v~t ... , ~) и, значит, ф01: \2i г\ г\1 (* -ны !)■
§ 5) МНОГООБРАЗИЯ И ФОРМУЛА СТОКСА 73 любой точки р^М голоморфно отображение ф-^-qr1, где ф и if — локальные координаты, действующие соответственно в окрестностях точек р и q = f(p). Это определение, очевидно, корректно, т. е. не зависит от выбора локальных координат. Совокупность всех голоморфных отображений комплексного многообразия М в такое же многообразие N будем обозначать символом @ (М, N)y а & (М) по-прежнему будет совокупность голоморфных на М функций. Отметим два простых свойства функций, голоморфных на комплексных многообразиях. Теорема 1 (единственности). Если М — комплексное многообразие и функции /, g ^0 (М) совпадают на непустом открытом (в топологии М) подмножестве М, то они совпадают всюду на М. < Обозначим через Е открытое ядро совокупности всех точек реМ, в которых f(p)=g(p)\ оно по условию непусто. Покажем, что Е является и замкнутым множеством. В самом деле, пусть точка р0 ^ М является предельной точкой £. В окрестности U cz М этой точки действует локальный параметр £ = Ф(р), и функции /-qr1, g° qr1 голоморфны в точке £° == <р (р0) шара В а €л. В любой окрестности УсВ точки £° найдется точка £х такая, что рг = ф-1 (g1) е Е, а так как f = g в некоторой окрестности рь то /оф-^—^оф-1 в некоторой окрестности £*. По теореме единственности из п. 5 последнее тождество справедливо всюду в V, поэтому р0 е Е. Итак, Е непусто и одновременно замкнуто и открыто. Так как М по определению связно, то отсюда следует, что £ = М, т. е. / = g всюду на М ► Теорема 2 (принцип максимума). Если функция f^0(M) и |/| достигает максимума во внутренней точке М, то f постоянна всюду на М. 4 Пусть |/| достигает максимума в точке р0 е М; рассмотрим локальный параметр £ = ф(р), действующий в окрестности этой точки. Модуль функции /°ф-1(£), голоморфной в точке £° = ф(Ро)> достигает максимума в этой точке; следовательно, по принципу максимума из п. 5 функция /°Ф-1 постоянна в некоторой окрестности £°, и, значит, / постоянна в некоторой окрестности точки /V По предыдущей теореме / постоянна на всем М >
74 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Следствие. На компактном комплексном многообразии все голоморфные функции постоянны. ^Многообразие М называется компактным, если оно компактно как топологическое пространство. На таком многообразии модуль всякой непрерывной функции достигает максимума в некоторой точке, и утверждение следствия сразу вытекает из теоремы 2.) 13. Формула Стокса. Рассмотрим сначала действительное я-мерное многообразие М\ оно предполагается гладким, как и все другие рассматриваемые здесь объекты. Дифференциальной формой степени г^п на М называют выражение, которое: 1) в локальных координатах х = = (х0, ..., хп), действующих в окрестности UaM, представляется в виде <*> = %'fidxr, (1) где / = (j'x, ..., ir) — мультииндекс, штрих у суммы обозначает упорядоченное суммирование (по всем индексам / таким, что 1 ^ti<t2<...<*'r^tt), а // — функции определённые в U, и dxi = dxit Д ... Д dxi ; 2) при замене координат х-*у принимает вид 21 укг\1 ОХ, gjdyj с gj = ^f'W> <2> dxj д (х, (x.t ..., х{\ где -т— = —^ \ ~ функциональный определитель*). oyJ °{yf1 yir) Совокупность форм степени г на многообразии М обозначается через аГг(Л4). На комплексном многообразии понятие степени можно уточнить. Формы здесь локально представляются в виде ^=^fi,jd21/\dzj, (3) х) Закон (2) изменения дифференциальных форм естествен, ибо по правилам дифференцирования сложных функций и законам внеш- него умножения dx,— у -=—dyy, подставляя это в (1) и меняя j J порядок суммирования, получим (2).
§ 5] МНОГООБРАЗИЯ И ФОРМУЛА СТОКСА 75 где / = (1#ь ..., 'V), J = (lu ..., /*) — упорядоченные муль- тииндексы, dzi = dzi Д ... Д d*i » dzy = dZ/ Д ... Д dZ/ и /л у —локально заданные гладкие комплексные функции. Так как замены локальных координат z -> w на комплексном многообразии — голоморфные отображения, то при ^—doy^, dzj= > -^=-dwL и, слете * l * довательно, в новых координатах <*=2igKldwKhdwL с ^I=2//,/357aS7- (4) Мы видим, что число дифференциалов dzj и dzA в выражении формы (3) не зависит от выбора локальных координат. Мы будем говорить, что со —форма бистепени г, s, или короче (г, s)-(popMa, если в ее локальном выражении г дифференциалов dzj и s дифференциалов dzk. Совокупность (г, sj-форм с гладкими коэффициентами на комплексном многообразии М обозначается символом <fr>s (М); эту же совокупность можно обозначить сУг+*(М). Формы 2'//^г/ бистепени (г, 0) с голоморфными коэффициентами // называются голоморфными. Оператор дифференцирования форм на гладкомх) многообразии локально определяется как преобразование d: оГг-+о?~г+1, сопоставляющее форме <*> = 2' U&xi Ф°РМУ d(o- Vi 2^// Д dxh где dfi= 2 Wvdx^ $) Он обладает следующими свойствами: а) d (сох -f о)2) = dfi>i + dco2 (линейность); б) d (©1 Д <о2) = d©i Д со2 + (—l)deg0)l ©1 Д d(x>2 (лейбни- цевость); в) d2u) = d(d(d) = 0 (идемпотентность) (degco обозначает степень формы со). Оператор дифференцирования определен корректно, т. е. не зависит от выбора локальных координат (инвариантность дифференциала). х) Здесь и далее под гладким понимается действительное многообразие.
76 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II На комплексном многообразии оператор дифференцирования форм d: oFr+s ->- oF^s*1 расщепляется в сумму двух операторов d = d + d так, что д: оГ<г» ^-^оГс+ь <о и <Э: eF(r. s)->eF('"'s+1) (см. выше, п. 3). Из свойства идемпотентности оператора d мы имеем 0 = й2со = (а + а)(да) + аш) = а2ш + (^ + ^)со + а2со; так как справа каждое из трех слагаемых состоит из форм различной бистепени, то их сумма может равняться нулю лишь в том случае, если каждое из них равно нулю. Поэтому д* = дд + дд=д2 = 0. (6) Совокупность JFr форм степени г на гладком многообразии М можно рассматривать как абелеву группу с операцией покоэффициентного сложения форм. В ней есть подгруппа Zr, состоящая из замкнутых форм со (для которых dco = 0). В силу идемпотентности оператора d совокупность Вг точных форм степени г (которые являются дифференциалами форм из of7"-1) является подгруппой Zr. Фактор-группа группы замкнутых форм по группе точных Hr{M) = ZrIBr, (7) называется r-й группой когомологий многообразия М относительно оператора d. Эти группы обозначаются также через Hr(M, R) и называются группами де Рама многообразия М (с действительными коэффициентами); если в формах допускаются комплексные коэффициенты, то применяется обозначение НГ(МУ С). На комплексном многообразии аналогичные группы можно построить также для операторов д и д. Интеграл от формы сое of* на гладком многообразии М определяется для k-мерных клеток у, т. е. гладких отображений й-мерного куба Qfe = /x...X/ a Rk в М (многомерных аналогов пути; здесь / = [0, 1] —единичный отрезок). Если образ у (Qk) лежит в пределах одной координатной окрестности, где форма со = 2'fjdxj(dxj=^
§ 5J МНОГООБРАЗИЯ И ФОРМУЛА СТОКСА 77 = dxj Л ••• Л ***/*)» то интеграл от со по клетке у определяется по формуле В общем случае клетки у: Qk-+M надо воспользоваться разбиением единицы1), соответствующим покрытию # = {[/а}а€=А атласа М, т. е. семейством гладких функций еа: Л1->[0, 1] таких, что носитель каждой еа (замыкание множества точек реМ, где еа(р)фО) компактно принадлежит Ua и 2 *а(Р) —1 для всех реЛ1. Поль- а£А зуясь разбиением единицы, мы определяем $С0 = 2 $«*а, (9) Y аеА y — так как форма соеа отлична от нуля лишь в пределах координатной окрестности, то интеграл от нее определен формулой (8). По свойствам интегралов и форм наше определение корректно, т. е. не зависит от выбора атласа и разбиения единицы. Понятие интеграла, естественно, распространяется на k-мерные цепи, т. е. формальные линейные комбинации ^-мерных клеток Yv: Qk -+ М с целочисленными коэффициентами nv. Именно, интеграл от формы со степени k по N ^-мерной цепи <*= 2 rtvYv определяется как v=l N $со= 2 nv $со. (10) о v=l yv Определим, наконец, граничный оператор д> который 6-мерной клетке у: Qk-+M сопоставляет (& — 1)-мерную 1) Разбиение единицы на гладком многообразии М существует для каждого локально конечного покрытия {^а}аед' т- е- такого, что у каждой точки р е М есть окрестность, покрываемая конечным числом Ua. Требование локальной конечности не нарушает общности, ибо на рассматриваемых нами многообразиях любое покрытие можно измельчить дс локально конечного. Заметим, что для локально конечных покрытий число отличных от нуля слагаемых в правой части (9) конечно.
78 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II цепь ду по следующему правилу: обозначим t = (ti,..., tk), для каждого /=1, ..., k рассмотрим две (k— 1)-мерные грани куба Q/,11 = {/e=Q*: tf = 0] и Q/Л1 = {'^0*: t,= \) и положим "-^-n'ki'-tki'V о» где через y\Qk—1 обозначено сужение отображения v на Г/, а грань Qk~a (см. рис. 13, на котором указаны знаки, приписываемые граням двумерного куба). Границу цепи а = N — 2 nvYv определим по линейности, v=l N полагая до = ]У] nvdyv. Граничный v=l оператор д, как й оператор дифференцирования dt идемпотентен — его квадрат д2 = д°д = 01). Совокупность ^-мерных цепей на Рис- 13, гладком многообразии М можно рассматривать как абелеву группу оГл с операцией покоэффициентного сложения цепей. В ней есть подгруппа Zk, состоящая из циклов, т. е. цепей а, граница которых дсг = 0. Подгруппу ZA, которую мы обозначим через Bki составляют границы, т. е. 6-мерные цепи, являющиеся границами некоторых (й+1)-мерных цепей. Фактор-группа группы циклов по группе границ Hk(M, Z) = Zk/Bk (12) называется k-й группой гомологии многообразия М (символ Z в ее обозначении указывает на то, что цепи рассматриваются с целыми коэффициентами). Формула Стокса связывает аналитическую операцию дифференцирования форм с геометрической операцией взятия границ цепей: для любой формы со степени k — 1 на n-мерном многообразии М (k^ri) интеграл по х) Граничный оператор обозначается тем же символом, что и оператор дифференцирования по г, но это не приводит к недоразу* мениям, ибо их легко различить по смыслу.
§ 5] МНОГООБРАЗИЯ И ФОРМУЛА СТОКСА 79 k-мерной цепи о: Qk-+M от dco равен интегралу от со по границе до $</©=$©. (13) о до Отметим два важнейших следствия из формулы Стокса: 1) Интеграл от замкнутой формы co(dco = 0) по границе о = до' равен нулю: $со= $ ^ $ Ж*> = 0. (14) о до' о' 2) Интеграл от точной формы co = dco' по циклу а(да = 0) равен нулю: $co=$dco' = S©' = 0. (15) о о до Эти следствия показывают, что интеграл от замкнутой формы со по циклу а на самом деле зависит лишь от класса когомологий форм и класса гомологии цепей: $ (co + dco') = $co. (16) о+до' о Укажем еще один вид формулы Стокса, связанный с понятием ориентации. На гладком я-мерном многообразии формы степени п локально имеют вид со = /<!*;, где dx = dx! Д ... Л ^л, причем говорят, что такая форма не обращается в нуль, если не обращается в 0 коэффициент / (это не зависит от выбора локальных координат, ибо при замене координат f умножается на якобиан замены, а по определению гладкого многообразия такие якобианы не обращаются в нуль). Многообразие М называется ориентируемым, если на нем существует форма степени п = = dimM, не обращающаяся в нуль; эквивалентное определение: на М существует атлас, все соотношения соседства которого имеют положительные якобианы. Заметим, что любое комплексное многообразие ориентируемо, ибо действительные якобианы его соотношений соседства положительны (см. теорему 1 п. 9). Любые две формы сох и со2 степени п на п-мерном многообразии М пропорциональны, т. е. существует функция X: M-+R такая, что со! = Ясо2 (здесь и далее мы рассматриваем формы с действительными коэффициентами).
вО ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ ГГЛ II Если обе формы не обращаются в нуль, то и Я^=0, а значит, X всюду на М имеет определенный знак. Поэтому на ориентируемом n-мерном многообразии все не обращающиеся в нуль формы степени п делятся на два класса так, что формы одного класса отличаются положительным множителем, а формы разных классов —отрицательным. В соответствии с этим на ориентируемом многообразии можно ввести две ориентации: при одной ориентации формы одного класса считаются положительными, а второго отрицательными, при другой —наоборот. Областью с ориентированной границей на ориентируемом многообразии М называется область D cz М такая, что для любой точки Po^D либо а) существует окрестность U с D — тогда ро называется внутренней точкой D, либо б) в атласе М существует карта (£7, х), для которой D П U = {р е U: хп (р) ^ 0} — тогда pQ называется граничной точкой D (#„ —последняя координата х). Совокупность граничных точек D называется границей этой области и обозначается dD. Граница 3D оказывается ориентируемым многообразием размерности (я — 1). Пусть ((/, jc) —карта атласа М такая, что V(]дЬфф и М ориентировано так, что форма dx = dxx Д ... Д dxn>>0. Если D локально описывается как множество {p^U: хп(р)<0}, то индуцированной ориентацией 3D считается такая, для которой на dD[\U форма dxx Д ... Д d*n-i имеет знак (— I)"-1 (см. рис. 14, где при я = 2 форма djcx<0 на <3D, а при я = 3 форма dxx Дбк2>0). При помощи локальных координат и разбиения единицы вводится понятие интеграла по области с ориентируемой границей, и тогда формула Стокса принимает
§6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 81 такой вид: для любой формы со степени п-~\ на п-мерном многообразии и облаети D на нем с ориентированной границей dD $co=$dco, (17) dD D где ориентация dD — индуцированная. В заключение отметим, что формулу Стокса во второй трактовке можно писать и для форм меньшей степени. Для этого напомним, что множество N а М называется k-мерным подмногообразием . М, если на М существует атлас, для любой карты ((/, х) которого такой, что и()Ыфф, пересечение U(]N = {p^U: xk+1(p) = ..,= = *п(Р) = 0}; здесь k<.n = dimМ их = (хь ..,, хп). Если многообразие М ориентируемо, то подмногообразие N также ориентируемо, причем если ориентация М выбрана так, что dxi Д ... Д йд:л>0, то индуцированной ориентацией N считается та, в которой &хх Д ... Д dxk>0. Для формы со степени k— 1 на ориентируемом многообразии М размерности n>k формулу Стокса в виде (17) можно писать для областей с ориентированной границей на &-мер- ных подмногообразиях М. Формулу Стокса на комплексных многообразиях мы рассмотрим в следующем пункте. § 6. Интегральные представления 14. Теорема Коши — Пуанкаре. Любое n-мерное комплексное многообразие М можно рассматривать как 2я-мерное действительное. В качестве локальных координат комплексной карты ((/, г) тогда естественно рассматривать набор из 2п действительных функций xv=*Rezv(p), #v=. ImZv(p). Однако мы можем вместо него рассматривать и набор из 2п комплексных функций zv(p), 2v(p)y которые связаны с функциями первого набора невырожденными линейными соотношениями zv = xv + *f/v> zv = xv iyv ). *) To, что коэффициенты в этих соотношениях комплексные, не имеет значения, ибо на М естественно рассматривать комплексные функции и формы с комплексными коэффициентами.
82 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Формула Стокса останется, конечно, справедливой и на комплексных многообразиях, если оператор дифференцирования d выражать в этих локальных координатах г, z. Понятие (действительно) ^-мерной цепи переносится на комплексные многообразия без изменений. По таким цепям можно интегрировать (г, $)-формы общей степени r + s = k с комплексными коэффициентами, и формула Стокса в виде (13) сохраняется. Для подмногообразий (не обязательно комплексных) комплексного многообразия формула Стокса в виде (17) также сохраняется, если общая степень формы на 1 меньше действительной размерности подмногообразия, и индуцированная ориентация границы определяется в действительной структуре. После этих разъяснений легко доказывается теорема, которая распространяет на многомерный случай основную теорему Коши: Теорема 1 (Коши — Пуанкаре). Пусть М — комплексное многообразие (комплексной) размерности п и со— голоморфная форма степени п на этом многообразии. Тогда интеграл от со по границе любой (п+1)-мерной цепи о аМ равен нулю: $со = 0. (1) до 4 В локальных координатах (г, г), действующих в окрестности UczM, голоморфная форма имеет вид со = / (z) dzx Д ... Д dzn, где / — голоморфная в U функция. В силу голоморфности д/ = 0 и, значит, df = df = п = У j)dzv\ по свойствам внешнего произведения полу- v=l чаем, следовательно, что dco.= df Д dz\ Д ... Д dzn = 0, т. е. что форма со замкнута. По следствию 1) формулы Стокса из предыдущего пункта заключаем, что интеграл (1) равен нулю > Замечание. Если воспользоваться формулой Стокса в виде (17) предыдущего пункта, то^в теореме Коши — Пуанкаре цепь а можно заменить областью с ориентированной границей на действительно (я+1)-мерном подмногообразии М. В частности, если М принадлежит С", то теорема будет выглядеть так:
§ 6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 83 Для любой функции f ^l® (D) и любой области G с ориентированной границей на действительно (п-\-1)-мер- ном подмногообразии М czD $ /dz = Of dz = dz1f\.../\dzn (2) dG (здесь координаты действуют во всей области D и форма со имеет вид f dz). Отметим принципиальное отличие пространственного случая от плоского, относящееся к этой теореме: при п= 1 области D и G имеют одинаковую размерность, а при п> 1 размерность G ниже размерности D, ибо я+1<2п. Укажем еще более частный случай теоремы. Пусть f^0(D) и G = GiX...xG„ — поликруговая область (Gv— плоские односвязные области с гладкими границами dGv), компактно принадлежащая D. Остов этой области Г = = dG1x...xdGn является границей (п+ 1)-мерных замкнутых областей Sv = dG1x...xGvx...xdGn<^D. Поэтому для любой такой области G интеграл по ее остову lfdz = 0 (3) г (ср. с интегральной формулой Коши для поликруговых областей). Теперь мы приведем пространственный аналог теоремы Мореры, обратной к теореме Коши. В плоском случае для утверждения о голоморфности функции / в области D достаточно требовать равенства нулю интеграла по границам областей специального вида (треугольников A (sD), но на функцию надо наложить дополнительное условие непрерывности (см. п. 21 ч. I). Аналогично обстоит дело и в пространственном случае. Роль треугольников здесь играют (п+1)-мерные «призмы» Tv, которые являются произведением треугольника Av, лежащего в плоскости С1 (zv), на произведение Av прямолинейных отрезков [Ах, 2Ц], лежащих в остальныхя — 1 плоскостях C1(2M},^^=v: rv = AvXAv (Av=nKt> 2j\ (4) V n^v J Av A $v Hf Рис. 15.
t*4 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ (ГЛ. II (см. рис. 15, где выделена плоскость ev, а пространство остальных переменных z^ изображено схематически). Теорема 2. Если функция f непрерывна в области DcC" и для любой призмы Tv вида (4), компактно принадлежащей D, J fdz = 0, (5) mof<=z0{D). < Достаточно доказать голоморфность / в окрестности произвольной точки a^D. Фиксируем а и рассмотрим функцию F{z) = J db... $ f(QdU (6) Jar2il [V*/i] она определена и непрерывна в некоторой окрестности точки а. Для любого v (v=l, ..., п) ее можно представить в виде F(z) = $ FvdU [Оу, 2VJ где /\ — интеграл от / по Av (произведению отрезков [flu» ^]» |x=t^=v). Функция Fv, очевидно, непрерывна по £v в окрестности Uv точки aVl и по условию (5) для любого треугольника Aveilv $ Fvdlv = 0. (7) В самом деле, этот интеграл лишь знаком может отличаться от интеграла $ fdl= \ /«, где 7\, = AvxAv и dt> = dt)1 Д ... Д d£,n (мы воспользовались тем, что на части дТ\,, отличной от dAvxAv, т. е. на части AvxdAv — совокупности «оснований» призмы 7%, см. рис. 15,— координата £v = const, следовательно, d£v = 0» и интеграл от fdt, по этой части границы исчезает). По теореме Мореры для функций одного переменного отсюда вытекает, что F голоморфна по переменному zv.
§63 ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 85 Так как рассуждение применимо для любого zv, то F голоморфна по каждому переменному в некоторой окрестности U точки а. По теореме Хартогса F голоморфна в этой окрестности, а значит, там голоморфна и функция */ \ дпр ~ dzx... dzn 15. Формулы Мартинелли—Бохнера и Лере. Перейдем к изучению интегральных представлений голоморфных функций в областях Сп. Одно из таких представлений для поликруговой области D = Dx х ... X Dn мы уже имеем —это интегральная формула Коши К'Н^Ш* (1) г (г = ^х...ха^-остов, a^^^A.-.Ag.J. Здесь мы получим общие представления, справедливые для произвольных областей с гладкой границей. Для вывода первого из них рассмотрим в Сп форму бистепени (п, л— 1) * (*) = 2 (- l)v~% d*i Д . • - • • Л dzn Л &, (2) где ~ обозначает, что дифференциал dlv пропускается, a dz = dzi Д ... Л ^гЛ. Дифференциал этой формы da = 2 (- l)v-x^v Д dzx Д .. ^ . Д dz„ Д dz- v= 1 = я dz Д ^z, где dz = d2x Д ..-. Д dzn, а так как dzv Д dzv = 2t dxv Д d*„+v и, следовательно, dz /\ dz = (2i)n dxx Д ... Д d#2/i *), то da = л (20я d*f (3) где dx = dxx Д ... Д сЬс2п — форма евклидова объема. Если Sp = {| г| = р} — сфера в СЛ, а Вр = {|г|<р} —шар, ею *) Для применения этого приема надо сделать одинаковые перестановки множителей в левой и правой частях.
86 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II ограниченный, то с учетом (3) по формуле Стокса мы получаем «Sp Бр Бр (мы воспользовались известной формулой, по которой * т/2 объем шара радиуса р в кт равен —-f- rpm,- где Г — r(|+i) гамма-функция, Т (п-\-1) = п\). Рассмотрим еще форму в точках ©2 = (СЛ\{0} ее дифференциал day- $1щШлЛ* = 0' (6) (2л/ v= 1 ибо, подставляя \ z \2 = (^zvzv)2, мы находим п п 2д ( zv \ VI / 1 nzvzv \ _ 0 dzv[\Zi2nJ L \|z|2* \z?»+2J V' V = 1 v= 1 Пусть функция / голоморфна в замкнутой области D cz сСга с гладкой границей dD, предположим еще, что точка OgD. Для всех z eD\{0} имеем d(/со) = df /\ со + -f /dco = 0, ибо в силу голоморфности df выражается лишь через дифференциалы dzv, а со содержит произведение всех dzVi и значит, df Д со = 0, второе же слагаемое / dco = = 0 в силу (6). Применяя к области Dp = D\{|z|^p} формулу Стокса, мы получим, следовательно, J/©- 5/©= 5 /«>=S d(/©)=о, * Sp 5Dp Dp а так как на Sp форма со^^".1^1^ в силу (5), то
§ 61 ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 87 Пользуясь непрерывностью функции / и соотношением (4), мы получим отсюда, что во sp где а (р) -v 0 при р -*- 0. Так как левая часть последнего равенства не зависит от р, мы заключаем, что а (р) = 0 и dD 3D а (г) Остается переменить обозначения: вместо г = 0 мы возьмем произвольную фиксированную точку zeD, а точку интегрирования на 3D обозначим через £•• Кроме того, можно ослабить ограничения на функцию, потребовав ее голоморфности в D и лишь непрерывности в D. Будет доказана Теорема 1. Для любой области D с: С* с гладкой границей 3D и любой функции f ^0(D){]C(D) в каждой точке г е D dD dD (интегральная формула Мартинелли — Бохнера). В отличие от интегральной формулы Коши (1), применимой при п>\ лишь для поликруговых областей, формула (7) применима для любых областей с гладкой (или кусочно-гладкой) границей и интегрирование в ней ведется по всей границе dD, а не по остову. При п = 1 имеем а(С —z) = (£ —z)dC, |£-г|2 = (£-г)(С-г), и формула (7) переходит в интегральную формулу Коши; поэтому (7) также можно рассматривать как обобщение последней. Отметим еще одно свойство формулы Мартинелли— Бохнера, которое роднит ее с формулой Коши: если / е ^0{р\ то правая часть формулы (7) обращается в нуль вне D —это следует непосредственно из формулы Стокса (шар из D здесь выбрасывать не нужно, ибо со(£ — г)
83 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ 1ГЛ. II не имеет особенности в D). В частности, применяя это к функции f(z)==lt мы получим, что $а>(С-г) = х(*), (8) dD где х — характеристическая функция области D, равная 1 при геОи равная 0 в дополнении к D. Укажем, наконец, что дифференциал формы Мартинелли —Бох- нера (5) обладает свойствами 6-функции. В самом деле, с1ю(г)Ф0 при г^Ои, применяя формально к (8) и любой области ОэО теорему Стокса, мы получим j co = j <2со=1, dD D причем D здесь можно заменить на (О, ибо dco = 0 при гФО Формулу Мартинелли —Бохнера при 2 = 0 также формально можно переписать в виде /(0) = $d(/©) = \ fda D C7i (мы воспользовались тем, что d(/co) = /dco в силу голоморфности /). Таким образом, формула Мартинелли —Бохнера выражает известное воспроизводящее свойство 6-функции1); при /г=1 это же относится к интегральной формуле Коши Перейдем к выводу более общей интегральной формулы, найденной Ж. Л ере и названной им формулой Коши — Фантапье2). Для этого рассмотрим формы п в И = 2 (— W~l wvdWt/\ Л dwn, v-i - v (9) ы (z, w) - (2д.)я <г> w)n , где, как всегда, dz — dz1f\...f\dzn и п <*, w) = 2 ^v^v = (г, @). - (10) При w = 2 форма Q совпадает, очевидно, с ^формой Мартинелли — Бохнера: Q (г, г) = со(г). Эта форма имеет !) Случай произвольной точки 2 сводится к замене со (г) на со(£ — г). 2) Эгот вывод нам сообщил Г. М. X е н к и н.
§6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 89 особенности на поверхности второго порядка (квадрике) Qo = {(г, до) <= С2л: <г, до) = 0}, а в точках Cai\Q0 она замкнута, ибо там (2т)я (г, ш)" (г, ш)л+1 iL. v v /х v v= l * Непосредственно проверяется, что б (до) = w\d(—) Д ... ... Л d(lr) и в°обще а отсюда видно, что Q (г, адо) = Q (г, до) для любого а ^ С, (11) т. е. что форма Q имеет проективный характер по до: она определена на С* (г) х ©Р*""1 (до). Пусть функция f голоморфна в замыкании области DcC" с гладкой границей dD. Если OgD, то по формуле Мартинелли — Бохнера /(0)= J/(г) Q (г, 2). .(12) Можно считать, что здесь форма /(z)Q(z, до) интегрируется по (2/2 — 1)-мерному циклу у0 = {(г, до) е С2л: г е dD, до = г}, не пересекающемуся с квадрикой Q0, ибо (г, г) = = | г |2 =И= 0 при г ^ dD. Наш вывод основан на утверждении, что в этой формуле 70 можно заменить любым другим циклом ух = {(г, до) е С2/г: z^dDy до = Х(г)}, где 'Л: dD-*-©* — гладкая вектор-функция такая, что (г, %{г))Ф Ф0 при z^dD (т. е. yi не пересекается с Q0). Для доказательства этого утверждения воспользуемся свойством (11), по которому, не меняя величины интеграла, циклы 7о и Yi можно заменить соответственно циклами уо = {г е= 3D, до = ^ и yj = Ц5D, до = ^щу}» лежащими на квадрике Qx = {(г, до) е С2л: (г, до) = 1}.
90 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Возьмем 2/г-мерную область G = i(z, да) <= €2n: z<=dD, w^d-^^ + t^., *е[0.1]}: при любом /^[0, 1] для точек G имеем <г, ш>=1, так что GczQi и, значит, не пересекается с квадрикой Q0 особенностей формы Q. В силу замкнутости формы Q и голоморфности функции / для всех (г, w) ^Q0, z^D, мы имеем d(fQ) = d/ Д Q + /dQ = 0 и по формуле Стокса $/Q- $/Q = $/Q=$d(fQ) = 0. V[ y'Q dG G Таким образом, (12) можно заменить формулой f(0)=\f(z)Q(z,X(z)). dD Меняя в ней обозначения так же, как выше при выводе формулы (7), мы получим следующий результат. Теорема 2. Для любой области D а€п с гладкой границей dD, гладкой вектор-функции X: dD->-€n такой, что <£ — г, Х(£))ф0 при всех z^D и £edD, и любой функции f ^l@ (D)[)C(b), в любой точке z^D /(*)= $/<QQ(C. М0) = <^ $ш^й&т. (13) dD dp (интегральная формула Л ере). Возможность различного выбора функции X (этот выбор может зависеть даже от точки г) придает формуле Лере особенно общий характер. Рассмотрим, например, область D = {z(=€n: <p(z)<0}, (14) где ф — действительная функция класса С1 в окрестности dD такая, что комплексный градиент V^ = f-^|-,..., JS-j ф Ф0 для £edD. Граница dD, следовательно, гладкая и в каждой точке £edD уравнение действительной касательной плоскости к ней имеет вид п I п 2Й с-ы+2: v=l 5 v=l (zv-£v) = o.
§ 6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 91 Так как ср — действительная функция, то —- = g~ и последнее уравнение можно переписать в виде Re<Vt<pf*-£> = 0. (15) В этой плоскости лежит так называемая комплексная касательная плоскость 7|, определяемая уравнением <^Ф,г-0 = 0 (16) (так как (16) —комплексное равенство, то действительная размерность 1\ равна 2/г — 2 и на 1 меньше размерности действительной касательной плоскости). Если в каждой точке £ е <3D комплексная касательная плоскость Т{ лежит вне D (так заведомо будет в случае выпуклых областей), то вектор-функция У^ф = Х(С) будет удовлетворять условию Лере, ибо (V^q), £ — г)фб для всех £e<3D, z^Dy и можно написать формулу (13) с таким выбором функции Я. Для этого обозначим ср/ = -^г; тогда по формуле (9) п а так как d£> содержит произведение всех дифференциалов d£v, то в произведении б(Я)Дй£ можно заменить все dcpv на dcpv. Но по свойствам внешнего умножения d<PiA ••?■• Л^Ф« = -2 £,*(&...-..&.) и, следовательно, в произведении б (Я) Д d£ коэффициент при dt,! Л Л <*£/> Л «£ равен V
92 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ ГГЛ. II Это выражение, очевидно, можно переписать в виде определителя Ov = Ф1 ••• Ф« d<Pl д<Рп % '" аёх дфг д<Рп din '" din — строка с производивши по £v пропущена. (17) Таким образом, для областей рассматриваемого типа (и, в частности, выпуклых областей) — формулу Лере можно записать в виде dD v = 1 (18) Полезной особенностью этой формулы является голоморфная зависимость ее ядра от параметра г, чего нет в формуле Мартинелли — Бохнера х). п Пример. Для шара Вп = {| z \ < 1} функция ф (г) = 2 *v2v — 1 • v = l следовательно, V^=£ и (У^ф, £ —г> = 1 — (г, £)• Далее фу = ( — 1 )v-1Cv и формула (18) принимает вид п дВп v == 1 (19) 16. Формула Вейля. Здесь мы приведем еще одну формулу с ядром, голоморфно зависящим от параметра, которая применима для некоторого специального класса областей. Определение 1. Пусть дана область DczС", а также конечное число функций Wt е © (D) и плоских областей х) Заметим, что ядро в формуле (13) будет голоморфно зависеть от 2 всякий раз, когда вектор-функция % не зависит от z или зависит от него голоморфна
§6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 93 Df(S Wi(D), i=l, ..., N. Будем называть полиэдрическим множеством множество n = (2GD: Wi(2)t=Di9 i' = l, ..., N}9 (1) если оно компактно в D. Такое множество не обязательно связно; связное множество вида (1) мы будем называть полиэдрической областью. Часто рассматривается случай, "когда все области Dv являются кругами; соответствующее множество П = {ееО: \Wi(z)\<rh /=1, ..., N} (2) будем называть аналитическим полиэдром. Если все функции Wi являются полиномами, то (2) называется полиномиальным полиэдром. В частном случае, когда N = n и все Wi(z)~zh полиэдрическая область является поликруговой, а полиэдр — поликругом. Определение 2. Полиэдрическое множество (1) называется множеством Вейля, если N^n и 1) все его грани а, = {**=£>.' Wu(2)edDh Wf(z)e=Dh j^i} (3) являются (2п— 1)-мерными многообразиями; 2) пересечение любых k различных граней (2 <; k ^ п) — ребро множества Вейля — имеет размерность не выше2п —&. Совокупность n-мерных ребер <V..'« = a'in ... П% (4) множества Вейля называется его остовом. Связные множества Вейля называются областями Вейля. Для получения интегрального представления функций, голоморфных в областях Вейля, нам понадобится специальное разложение функций Wh определяющих эти области. Возможность такого разложения гарантирует Теорема Хефера. Для любой функции Wtcz0(D), где D —область голоморфности в С", существуют п функций Plv (£, г) е © (D xD) (v = 1, ..., п) таких, что для всех точек £, z ^ D имеет место тождество Wi (0 - Wt (г) = J] (Sv - *v) Р; (С, г). (5)
94 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II В общем случае теорема Хефера неэлементарна1), мы приведем ее доказательство в гл. IV. Здесь мы лишь заметим, что для колиномов тождество (5) получается простой перегруппировкой тейлоровского разложения функции Wi в точке г, причем коэффициенты Хефера Plv также оказываются полиномами. Теорема 1 (А. Вейль). ПустьП —область Вейля (I), определяемая областями Dt с гладкими границами. Тогда любую функцию fe0(U)(]C(U) в любой точке г ^П можно представить формулой 1 V с ш 'i- *п%...ыЛ {Wh®-whV} v = l п...РЬп «. (6) где суммирование распространяется на все упорядоченные наборы индексов (1 ^ ix < ... < in ^ N)9 определяющие ребра остова области, Plv — коэффициенты Хефера для Wt и dl = dCi Л • • • Л dZ>n\ ребра ориентированы условием, что все dDi проходятся в положительном направлении. В случае, когда П представляет собой поликруговую область (N = n, Wi = ziy t=l, ..., N) остов Г состоит из одного ребра аг... п (и совпадает с остовом в смысле п. 2) и сумма в (6) состоит из одного слагаемого. Коэффициенты Хефера Plv в этом случае равны 1 при i = v и О при i=£v, т. е. определитель в формуле Вейля равен 1, и эта формула принимает вид Г П ttv-*v> v=l Таким образом, формула Вейля обобщает интегральную формулу Коши для поликруговых областей на случай областей Вейля. Как и формула Коши, она имеет ядро, голоморфноэ по переменным £ и г. Для упрощения 1) Теорема Хефера была доказана в 1942 г.
§6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 95 формальных выкладок мы приведем доказательство теоремы Вейля в случае я = 2 и /^^(П)1). А Будем исходить из формулы Мартинелли —Бохнера, которая в случае областей Вейля из (D2 имеет вид n *W-№5)5"2i j'(£) ^^ Л ^ ( ' 1=1 о. где af —грань области П. Идея получения формулы Вейля следующая: мы постараемся применить к (8) формулу Стокса так, чтобы исчезли неголоморфные дифференциалы d£v и вместо граней af интегрирование велось по ребрам остова oif; при этом окажется,_ что исчезнет и неголоморфность ядра (переменные £v — ^v и |£ — г|). Весьма существенную роль в этом преобразовании будет играть разложение Хефера (5). Заметим прежде всего, что форма со (£, г), стоящая под знаком интеграла (8), точная; она является дифференциалом любой из N форм Qi(^ Z)= 1С-г|М^/(С)-^(г)} Подтвердим это прямой выкладкой, полагая для простоты письма г = 0 и Wl=Wi(t) — Wi(Q): dat = -i;{- lxdl\^^ (П.-*&) + + (il + Ш (Pi €2 - Pi dlt)} л di = = WT^F & С -1 dQ &p\ + 5,pj) Л « = " что и требовалось доказать. 1) Полный вывод см. в книге: В. С. Владимиров, Методы теории функций многих комплексных переменных, «Наука», 1964, стр 248 — 252. П1 Dt £l — ^1 £г — *2 d£. (9)
96 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Заметим еще, что при z е П и £ е at лишь разность №*(£) - Wt(z) отлична от нуля (ибо ТР,(£) e=dD,, ^-(г)еД), а все остальные разности в некоторых точках обращаются в нуль. Поэтому при геП,?Е^ лишь форма Qt неособая, а все остальные формы Q/, \Ф1, особые, и при интегрировании по грани Gt формулу Стокса можно применять лишь так: \ f (0со(S, г)= \ dtf (E)Q,(E, z)}= 2 \ /(0Qitt. ^ (мы воспользовались тем, что голоморфную функцию / можно вносить под знак дифференциала формы Й,). Если складывать эти интегралы, как требует формула (8), то каждое ребро aif будет встречаться дважды, с противоположной ориентацией (со стороны граней ot и а,). Поэтому мы будем иметь 2 \ f (?) ю (Б, г) = 2' 5 / (О {Я* (С ^) - О/ (С 2)}. где суммирование ведется по всем упорядоченным парам индексов (l^i<j^N). Остается заметить, что при вычитании неаналитические части ядер (9) сокращаются: v « (мы снова воспользовались принятыми выше упрощениями в обозначениях и разложением Хефера). Мы приходим, таким образом, к формуле 1У НО {W,<Q-W,(z)\iW,<X,)-W,(z)} Р[ Р[ Pi Pi (10) которая совпадает с формулой Вейля при я = 2 ► Замечание. Если множество Вейля (1) несвязно, то оно распадается на не более чем счетное число связных компонент (областей Вейля). Теорема 1, очевидно, остается в силе и в том случае, если П — несвязное множество
§61 ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 97 Вейля. При этом для г, принадлежащих какой-либо компоненте, в формуле Вейля (6) отличен от нуля лишь интеграл по остову этой компоненты, а интегралы по остовам других компонент обращаются в нуль. Это следует из того, что интеграл Мартинелли — Бохнера, из которого выводится интеграл Вейля, равен нулю вне области. Голоморфность ядра формулы Вейля используется, например, в вопросах приближения голоморфными функциями из некоторого класса. Приведем основные факты, относящиеся к этому. Теорема 2. Любую функцию f, голоморфную в аналитическом полиэдре (2) и непрерывную в его замыкании, в этом полиэдре можно разложить в ряд со /(*)= 2 2'ЛЦИМг)]\ (11) \k 1=0 (О где k= (&ь ..., kn) и i = (iu ••., in) — векторные индексы, [Wi (z)]k = [ Wit (г)]** ... [Win (z)fn, внутреннее суммирование производится no упорядоченным наборам 1 ^ ix < ... ...<.in^N и коэффициенты выражаются по формулам Р1п р1п 1 " п dl. Л' _!_ С Ш (12) Ряд (11) сходится равномерно на любом компактном подмножестве полиэдра П. «« Разложение (11) получается из формулы Вейля точно так же, как разложение Тейлора из интегральной формулы Коши. Для любой точки 2£П и любой точки С на остове П можно написать разложение в сходящуюся геометрическую прогрессию: 1 U.[Wiv(a-Wh(z)] v=l у [W{l(z)f ...[Win(z)]k* = у Б8 В, Шабат, ч. II
98 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ " [ГЛ. II При фиксированном гбП это разложение сходится на ai|.../„ равномерно по £, и, подставляя его в формулу Вей л я (6), мы получаем разложение (11) с коэффициентами (12). Равномерная сходимость ряда (И) на компактных подмножествах полиэдра П доказывается обычным образом ► Следствие 1. Любую функцию /, голоморфную в аналитическом полиэдре П, на любом множестве К <Ш П можно сколь угодно точно приблизить функциями, голоморфными в области D, которая участвует в определении полиэдра. Коротко это следствие можно сформулировать так: семейство функций © (D) плотно в семействе © (Щ. 4 Частичные суммы ряда (11), очевидно, принадлежат ® (D) — они и приближают функции / е ® (П). Чтобы избежать условия непрерывности / в П, нужно заменить П полиэдром П' = {гЕП: | Wi(z) | </\'}, где все г,'<Г;И достаточно близки к последним (/ — скалярный индекс) ► В частности, когда П — полиномиальный полиэдр (т. е. все функции ИР*— полиномы), частичные суммы ряда (11) являются полиномами. Мы получаем Следствие 2. Любую функцию/, голоморфную в полиномиальном полиэдре П, на любом множестве К Ш П можно сколь угодно точно приблизить полиномами. Области из ©п, на компактных подмножествах которых каждая голоморфная функция сколь угодно точно приближается полиномами, называются областями Рунге (ср. теорему Рунге в п. 23 ч. I). Следствие 2 можно сформулировать так: любой полиномиальный полиэдр является областью Рунге. § 7. Накрытия 17. Понятие накрытия. Это понятие появилось в результате топологического обобщения понятия римановой поверхности (см. п. 33 ч. I) и играет важную роль при изучении не взаимно однозначных отображений. Определение. Тройка объектов X, М и л, где X и М — линейно связные хаусдорфовы топологические пространства, а л: Х-+М — непрерывное отображение, называется накрытием, если для любой точки р е М существует окрестность U аМ такая, что л-1 (U) гомеоморфно произведению U на некоторое дискретное пространство £",
§71 НАКРЫТИЯ 99 причем если h: я-1 {U) ->• U х Е — этот гомеоморфизм, а я': (р, г)-+р — обычная проекция, то диаграмма, изображенная на рис. 16, коммутативна, т. е. для любого х е я-1 (U) я' <> h (х) = я (х). (1) Пространство X называется накрывающим пространством или просто накрытием, М — базой, а л — проекцией, прообразы я_1(р) точек р е М называются стеблями. Коммутативность диаграммы означает, что гомеоморфизм /г Рис 16 сохраняет стебли: для любого л;ел-1(р) имеем nf °h{x) = p, т. е. для всех таких х первая координата h (х) = (р, е) одинакова и равна р (см. рис. 16). Из определения накрытия следует, что открытое множество я-1([/) распадается в объединение непересекающихся открытых множеств #е —/гх(1/хе), е е£, которые называются поднятиями окрестности V. Сужения я|^ — гомеоморфизмы, и для любого накрытия проекция я: Х-*М локально гомеоморфна. Если X и М — комплексные многообразия, а Я! Х-*М — голоморфное отображение, то накрытие называется голоморфным. Простые примеры голоморфных накрытий плоских областей дают элементарные функции одного комплексного переменного. Так, f(z)=zm при натуральном т определяет накрытие fi Xr-+Mr кольца Mr = {r<\w\<z \Jr} кольцом Xr«\^<|*|<l/>/7}; стебли f"l(m) этого накрытия состоят из т точек — корней т-й степени из до. Ана-» логично функция f(z) = ez определяет накрытие того же кольца Мг полосой {In г < Re до < In I/г}, стебли f~l (до) которЪго состоят из ечет* ного множества значений Ln до = In до + 2&л£ (6 = 0„ ±1, ...). 4*
100 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Рис. 17. На рис. 17 показано, как можно геометрически представлять эти накрытия при помощи римановых поверхностей. В случае функции f (z) = zm нужно еще отождествить концы ленты на римановой поверхности (они изображены пунктиром), а в случае f(z) = ez представить, что лента накручивается неограниченно в обе стороны. При таком представлении отображение f сводится к обычному проектированию. При г->0 первый пример дает накрытие /: С*-*(С*, где С#=С\{0}, а второй С-)-С*, причем стебли первого из них —конечные множества, а второго —счетные. Примеры накрытий, связанных с голоморфными функциями нескольких комплексных переменных, мы рассмотрим в следующей главе. Займемся теперь вопросом о поднимаемое™ путей в накрытия, причем условимся для простоты, что все пути параметризованы отрезком / = [0, 1]. Путь у: /->М называется поднимаемым в накрытие л: X->Af, если существует путь у: /->Х такой, что л°7 = Т (тогда говорят, что у —поднятие у, ъ у —проекция у). Теорема 1. Для любого накрытия л: Х-*М любой путь у: I-+M поднимаем до пути у: 1-*Х и притом единственным образом при заданном начале v(0)- « Единственность: два поднятия Yi и у2 одного пути у либо не пересекаются, либо совпадают. В самом деле, множество & = {t^I: YiW^TaC)} открыто в /, ибо л »Yx (/) = л о 7г (0» а п ~~ локальный гомеоморфизм. Но оно и замкнуто, ибо Ш-==1\Ш открыто: для t0^%' точка yi(to)=£y2(to), и в силу хаусдорфовости X существуют непересекающиеся окрестности £/'э yi(t0) и 0"^ ^7г(^о)» которые проектируются в одну окрестность U и, следовательно, уг^)фу2(1) в некоторой окрестности t0. Таким образом, Ш либо совпадает с /, либо пусто. Существование. Локально поднимаемость у обеспечивается определением накрытия, ибо для каждой точки y(t0) существует окрестность U такая, что л-1(£/) распадается на открытые множества, на которых л гомео- морфна. В силу компактности у (/) можно покрыть конеч-
§71 НАКРЫТИЯ 101 ным числом окрестностей на М, в каждой из которых поднятие возможно, и остается лишь склеить конечное число отрезков путей ► Следствие. Все стебли я_1(р), р^М, накрытия л: X ->• М равномощны. А Пусть р, q ^ М и у: / ->■ М — путь из р в g (он существует в силу линейной связности М). Построим отображение ф: я-1(р) -^я-1 (q), которое относит каждой точке лг^я-1(р) конец у — ух(\) поднятия у с началом л; (это поднятие однозначно определено по теореме 1). Отображение ф инъективно (взаимно однозначно) по теореме 1. Но оно и сюръективно, (на я-1^)), ибо для любой точки y0^n-1(q) по той же теореме можно построить единственное поднятие пути 7-1(0 =7(1-"0 (из q в р) с началом у0; если х — конец этого поднятия, то ух(1) = у0. Таким образом, множества я-1 (р) и я-1 (q) равномощны ► Мощность любого стебля я-1 (р) называется кратностью накрытия я: Х-+М. Напомним, что два пути у0 и уъ I-+М с общими концами р, q называются гомотопными в М, если существует непрерывное отображение у: 1x1 -+■ М такое, что Y(0, t) = y0(t), v(l, /) = 7i(0 Для всех t <= / и y(s, 0) = р, 7(s, 1) = <7 для всех s^/ (см. п. 17 ч. I). Теорема 2 (о монодромии). Если пути yQ и ух с общими концами р и q гомотопны в /И, то их поднятия 7о и Yi в накрытие я: X -+ М с общим началом х имеют общий конец и гомотопны в X. « Пусть у: 1x1 -> М осуществляет гомотопию 7о и уг. При фиксированном s^I путь ys = y(s, /): /->М по теореме 1 единственным образом поднимается до пути 75 = 7(s» 0 с началом х. Отображение у: (s, t) -*у (s, /) непрерывно в /х/, ибо локально y{s,t)=n~1-y(s,t), а я-1 и 7 непрерывны. Функция y(s, 1) постоянна на / как непрерывная функция, принимающая дискретные значения (из множества я~1(^)), следовательно, все 7* имеют общий конец. Наконец, 7(0» l) = Yo(0 и 7(1» ') = Yi(0i т. е. 7 осуществляет гомотопию путей 7о и Yi в X *> Следствие. Если пространство М односвязно (т. е. любые два пути в М с общими концами гомотопны), то кратность любого накрытия я: Х-+-М равна 1.
102 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ " [ГЛ. II < Пусть какой-нибудь стебель n~l(q) содержит две различные точки у' и у". Возьмем точку хеХ и, пользуясь линейной связностью X, соединим ее путями у0 и у г соответственно с у1 и у" (рис. 18). Пусть 7о = я°7о и уг = я о ух — это п ути, соеди- няющие на М точку р = я (х) с <7 = л(*/') = я(#"), a vo и Vi — их поднятия с началом х. В силу односвязности М пути Vo и Yi гомотопны, а тогда по теореме 2 концы их поднятий у'=у0 (1) и / = yi(1) совпадают. Противоречие, ибо у нас у' Ф у" ► Если образ М = п(Х) накрытия я: Х-+М одиосвя- зен, то, согласно этому следствию, в М определена обратная функция я-х(/?). Оно, следовательно, обобщает классическую теорему о моно- дромии (ч. I, п. 29). 18. Фундаментальные группы и накрытия. Символом ~ мы будем здесь обозначать гомотопию путей, а М— линейно связное хаусдорфово пространство. Напомним некоторые определения: произведением путей а и (5: I-+M, для которых а(1) = Р(0), называется путь Рис 18. оф(0 = а (2/), Р(2/-1), [о, 1]. [И. (1) точечным путем — путь е(/) = const и обратным к пути а— путь а"1(/) = а(1—/). Фиксируем точку р&М и рассмотрим совокупность всех замкнутых путей (петель) на Af, начало и конец которых совпадают с р. Гомотопия петель — отношение эквивалентности, и мы можем разбить рассматриваемые петли на классы эквивалентности по этому отношению, которые называются гомотопическими классами. Класс эквивалентности, содержащий петлю а, мы обозначим через а.
§71 НАКРЫТИЯ 103 Назовем произведением классов ос и Р класс ар, содержащий произведение.1) ар каких-либо представителей этих классов (а^ос, р е Р). Определение корректно, т. е. не зависит от выбора представителей, ибо если петли a0^ai и Ро^Рь то aoPo^aiPx: гомотопию петель а0р0 и а$х осуществляет, очевидно, функция (P(s, 2<-1), *€=[у, lj, see/, где a(s, /) и p (s, /) —функции, осуществляющие гомото- пии сходах и po~Pi. Теорема 1. Совокупность Ях(Л1, р) гомотопических классов петель на М с началом и концом в точке р образует группу с операцией умножения классов. « Обозначим через е класс петель, гомотопных нулю (т. е. гомотопных точечной петле е(/) = р). Для любого класса осе пх(М, Р) произведение осе = ос, ибо если петля aea, то произведение аг~а. В самом деле, по определению произведения путей (1) аг (t) = а гомотопию этого пути и пути а осуществляет функция V(s, /) = a[s/ + (l-s)T(0], где. %(t)=2t при t е= [о, у] и т (t) = 1 при / е у, 1 . Таким образом, е является нейтральным элементом Ях(Л1, р). Далее, для класса aGJt^AJ, р) обозначим через or1 класс петель, гомотопных какой-либо петле а-1, где а Ga; обозначение корректно, ибо а ~ р => а-1 ~ Р-1 (если у (s, /) осуществляет первую гомотопию, то y(s, \—t) будет осуществлять вторую). Тогда aor1 = e для любого as еях(М, р), ибо для aeano определению (1) («(20, 'е[°'т1. 1а-Ч2/-1) = а[2(1-0], ^[i.l], х) Любые петли с началом и концом в р можно перемножать.
104 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II а функция o[2(l-s)/], a[2(l-s)(l- ■Щ, [о, ft [т- ■]• ll осуществляет гомотопию aa_1 точечному пути a (/) = a (0). Наконец, умножение классов ассоциативно (a-Pv=; ?=ар«7), ибо произведения петель а-Рт(/)=- [а (20, Р(«-2), Т(«-3), а (40, «P-v(04 Р(«-1), 1 ' Y(2/-l), <е[°.т]. <е[т-т]. '«&■']• "Фт]. 's[t-t]' ЧМ гомотопны: если обозначить a • Ру (/) = б (/), то ар • у (t) =* = б°т(/), где т(/) равна 2t при /s 0, -у , равна / + -|- при /е -j-, у и -у- при /е у, 1 и, следовательно, гомотопию этих петель осуществляет функция б [(1 — s) t + + sx(t)] ► Определение. Группа ni(M9 р) называется фундаментальной группой топологического пространства М с отмеченной точкой р. Теорема 2. Фундаментальные группы ni(M, р) для различных точек р&М изоморфны. « Пусть р и ^ — произвольные точки М\ в силу линейной связности М существует путь у: /->М из р в q. Каждому классу aeni(AJ, р) поставим в соответствие класс Petti(M, q), содержащий петлю p = Y~laY» где аеа. Предоставляем читателю доказать, что отображение ф: а->р является изоморфизмом группы пх(М, р) на лх(Л1, q) ►
§71 НАКРЫТИЯ 105 Таким образом, для пространства М с точностью до изоморфизма определена фундаментальная группа щ (М). Примеры 1) Вычислим фундаментальную группу окружности Si = {|z[ = l} с отмеченной точкой 1. На S1 есть набор петель ат: t-+e23limtt где t е / и т — целое число; при различных т эти петли негомотопны. Произвольная петля а (с точностью до умножения на точечную петлю) имеет вид t-^elf{t)t где / — непрерывная действительная функция, /(0) = 0, /(1) = 2ят (т —целое), и гомотопна петле ат: гомотопию осуществляет функция у (s, 0 = ==^L(i-s)f(0 + 2wfis/]# наконец, ата„~ат+Л, поэтому щ (Si) изоморфна группе Z целых чисел. Ту же фундаментальную группу имеет любое кольцо {/* < | г | <#} и плоскость с выколотой точкой С«=С\{0}. 2) Для "сфер Sn размерности я>1 фундаментальная группа л1(5Л) = 0, ибо эти сферы односвязны (любая петля на них гомотопна нулю) Пусть /: М -*N — непрерывное отображение топологических пространств. Тогда любому пути у: /->М соответствует путь f(y)=foy; /->Af, причем петли переходят в петли и сохраняется гомотопия: у0 ~ Vi ^/ (Vo) ~ / (Vi) (гомотопию последних путей осуществляет функция /°V(S» 0> гДе V осуществляет гомотопию Yo~Yi)- Таким образом, / индуцирует отображение фундаментальных групп fm: лх(М, p)-+n1(Ny f(p)), (2) которое является гомоморфизмом, ибо / (оф) = / (а) / (Р). Если /: М -> N — гомеоморфизм на N, то /# — изоморфизм, поэтому изоморфность фундаментальных групп необходима для гомеоморфности пространств. Это условие, очевидно, не является достаточным: у плоского кольца та же фундаментальная группа Z, что и у окружности, а они не гомеоморфны. Пусть пространства X и М локально односвязны (т. е. у каждой их точки есть односвязная окрестность) и л: X ->■ М — накрытие. Индуцированный гомоморфизм фундаментальных групп я#: п1(Х)^п1(М) (3) переводит гомотопический класс а е щ (X) в класс, содержащий проекцию а = л • а петли а е а. Гомоморфизм л^ является мономорфизмом (т. е. переводит различные элементы пх(Х) в различные}: в самом деле, достаточно
106 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II доказать, что прообраз нейтрального элемента е е пх (М) есть нейтральный элемент лг (X), а это следует из теоремы о монодромии предыдущего пункта. Отсюда вытекает, что образ пг(Х) при отображении (3), im л^ = G является подгруппой Ях(М), изоморфной пг(Х). По подгруппе G^imn^ можно образовать классы смежности петель на М: петли аир входят в один класс, если сф-1 е G. Класс смежности, содержащий петлю а, мы будем обозначать символом fa]; число таких классов называется индексом подгруппы G. Пример. Отображение /: С* ->- С*, определяемое по формуле f(z) = z2, является двулистным накрытием. Здесь Х = М = €^ и n1(X) = n1(M) — Z (см. предыдущий пример). Представим элементы ni(M) петлями ут: t-+e2nimt {t^I, wgZ). При т нечетном поднятия ут с началом г=1 (прообразы при отображении./1, т. е. пути Ут'- t-+enimi) заканчиваются в точке 2 = — 1 и не являются петлями. Поэтому образами петель, представляющих элементы щ (X), будут лишь петли ут с четным т. Следовательно, группа G = imf# изоморфна подгруппе четных чисел. Она определяет два класса смежности, представляемых соответственно петлями ут с четным и нечетным т — индекс G равен 2. Теорема 3. Индекс подгруппы G = im я* равен кратности накрытия я: Х-+М. < Фиксируем точки реМ, х^п~1(р) и класс смежности [а] петель с началом и концом р. Выберем петлю а е [а], обозначим через а поднятие а с началом х и сопоставим [а] точку а(1)£я4(р). Теорема вытекает из следующих свойств отображения ср: fa]->a(l): а) ф определено корректно, т. е. не зависит от выбора представителя класса смежности. В самом деле, если а, Р е [а], то ар-1 е G, т. е. ар-1 является проекцией некоторой петли на X, именно петли ар-1. Отсюда следует, что а(1) = Р(1) (рис. 19). б) ср инъективно. В самом деле, если ф([а]) = ф([Р]), то а и Р имеют общий конец, тогда ap_1 —петля и «p-VesG, т. е. [а] = [р]. Р Рис. 19
§71 НАКРЫТИЯ 107 в) ср сюръективно. В самом деле, пусть у е я-1 (р) — произвольная точка. Соединим хну путем а; его проекция а является петлей, для которой а(\) = уу т. е. <P(M) = f/ ► В качестве следствия можно вновь получить результат из предыдущего пункта: над односвязной базой М накрытия однократны. В самом деле, здесь группа ях (М) тривиальна и, следовательно, индекс imn# равен 1. Заметим, что во всех рассматриваемых в книге случаях фундаментальная группа базы пх (М) не более чем счетна, а по теореме 3 тогда и мощность стеблей накрытий также не более'чем счетна (ср. с теоремой Пуанкаре — Вол ь- терры из п. 29 ч. I). Теорема 3 интересна тем, что она связывает геометрический вопрос о кратности накрытия я: Х->М с алгебраическим вопросом об индексе подгруппы im л'%. Наиболее полно связь между накрытиями и подгруппами фундаментальной группы выражает Теорема 4. Любой подгруппе Gа ях(М) соответствует накрытие я: X-wVf, для которого \mn^ = G. < Конструкция накрытия. Фиксируем точку ро^М и рассмотрим произвольный путь а: /->М, а (0) = р0. Такие пути разобьем на классы по следующему отношению эквивалентности: a<~P(modG), если гомотопический класс петли ap_1, т. е. «р-1 е G (эквивалентность по модулю G). Класс, содержащий путь а, обозначим символом [а] и эти классы для всевозможных путей а, а(0) = р0» будем считать точками пространства X. Проекцию я: X -> М определим условием я ([а]) = а (1), где а — любой представитель класса [а] (очевидно, проекция не зависит от выбора представителя). Топология в X. Окрестность £?[а] точки [а] е X определим так: возьмем точку р = я([а]), односвязную окрестность UpczM и в ней путь Р: /->£/р, р (0) = р (рис. 20). Точками (7[а] будем считать классы [у] путей 7 = ар при фиксированном а и всевозможных р. Топология в X, вводимая этими окрестностями, хаус- дорфова. В самом деле, пусть [а] и [а'] — различные точки X. Если проекции р и р' этих точек различны, мы возьмем непересекающиеся окрестности Up и Up>, и тогда 0[а] и (7[cc'j также не пересекаются (соответствующие пути
Ю8 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II даже не образуют петель). Если же р = р\ тоа'а_1^6, и тогда не пересекаются окрестности £/[«] и с/[а^, проектирующиеся в одну односвязную окрестность Up: в противном случае найдутся пути у = оф и Y' = ap' такие, ^ что y'y-1 ^ G; но Р и Р' имеют /' я \ общие концы и принадле- ^JL^^ I г~° \ жат Up, следовательно, р ~ $' / ^L^Jp ) и уV1 = с/ (Р'р-1) а-1 ~ а'ог1 <f \ J (здесь ~ обозначает гомо- ро \^ Уру топию), т.е. a'a_1eG — про- "* ~^ тиворечие. Рис. 20. Пространство X линейно связно. Пусть [a], [Р] g X; выберем из этих классоз по представителю (а и (3), соединим концы а(1) = р и Р(1) = <7 путем б: /->М и обозначим через Y; пУть на М, соединяющий р0 с б(/) (см. рис. 21; у нас М линейно связно). Отображение ^->[yJ определяет путь на X, соединяющий fa] и [Р]. Очевидно, пространство X локально односвязно, ибо его окрестности U[a] гомеоморф- ны Up. Накрытие л: Х-+М — искомое. Прежде всего, это —накрытие, ибо по построению для каждой точки реМ существует окрестность U такая, что n~x(U) разбивается на непересекающиеся области, на которых я гомеоморфна. Остается показать, что imttst. = G. Возьмем точечный путь е: /->р0, обозначим лг0 = [е] и рассмотрим фундаментальную группу ях(Х, х0). Пусть а —произвольный ее элемент (т. е. гомотопический класс петель на X с началом и концом х0), а a е ос — представитель этого класса. Для каждого фиксированного / е /, согласно нашей конструкции, точка а(/) представляет собой класс [at] путей, эквивалентных по модулю G пути at (s) = a (st): I ->- М, at (0) = р0, а проекция л ([a,]) = а (/). Поэтому л°а = а — петля на М с началом и концом р0, определенная с точностью до эквивалентности по модулю G, а значит, л* (a) е G. Рис 21.
§71 НАКРЫТИЯ 109 Обратно, для любого элемента agG (т. е. гомотопического класса петель на М) мы выбираем петлю a е a и поднимаем ее на X с началом лг0, полагая a, = [a/J. Очевидно, я:{{(а)=а ► Теорема 4 позволяет классифицировать все накрытия с данной базой М: она сводит этот вопрос к изучению подгрупп фундаментальной группы щ (М). Из этой теоремы, в частности, следует существование двух «крайних» накрытий. Одно из них соответствует самой фундаментальной группе G = tti(M), оно тривиально (глобально гомео- морфно), ибо индекс G равен 1. Другое соответствует подгруппе G= {е}, состоящей из одного нейтрального элемента, и называется универсальным накрытием. Так как для него группа im л* тривиальна, а я* —мономорфизм, то его фундаментальная группа tti (X) также тривиальна, т. е. универсальное накрытие всегда односвязно. Его число листов (быть может бесконечное) равно числу элементов группы Лх(Л1). Примеры. 1) Для плоскости с выколотой точкой С* =С\{0} фундаментальная группа совпадает с фундаментальной группой окружности и изоморфна группе целых чисел Z. Подгруппе четных чисел (индекс которой равен 2) соответствует двулистное накрытие — это риманова поверхность функции до = )/гс выколотыми точками ветвления г = 0, г = оо (см. предыдущий пример). Вообще, подгруппе сравнений по модулю т соответствует m-листное накрыгие С# —риманова поверхность функции w = у/~г с выколотыми точками ветвления. Тривиальной подгруппе {0} соответствует односвязное беско- нечнолистное накрытие —риманова поверхность функции w — Lnz. Конечнолистное накрывающее пространство представляет собой С*, а универсальное накрывающее —плоскость С. 2) Универсальное накрытие плоскости с двумя выколотыми точками М=С\{0, 1} —риманова поверхность функции, обратной к модулярной (см. п. 42 ч. I). Накрывающим пространством X здесь служит единичный круг. 19. Римановы области. Это понятие близко к понятию накрытия над областями Ос(Ся и является многомерным аналогом понятия римановой поверхности. Определение. Римановой областью, или областью над Сл называется пара (D, л), где D —линейно связное хаусдорфово пространство, ал: D -> С" — локально гомео- морфное отображение, называемое проекцией. Риманова область D может и не накрывать область D = n(D), ибо над некоторыми точками D могут лежать
ПО ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ " " [ГЛ. II граничные точки D, и для таких точек нет окрестности £/, в которой я-1 (U) гомеоморфно произведению U на дискретное множество (рис. 22). Иногда, однако, римановы области называют накрытиями, а накрытия в принятом нами смысле —безграничными накрытиями. При помощи проекции я в пространстве Ь вводится структура многообразия, и притом комплексного. Для этого достаточно рассмотреть покрытие D столь мелкими областями 0а, что я на них гомеоморфно, и ввести га=я(р), р^0а как локальную координату в 0а. Соотношения соседства атласа (0а, га) — тождественные (а значит, биголоморфные) отображения, т. е. это — комплексный атлас. Заметим, что на римановых областях корректно определяются Рис. 22. не только голоморфные функции (как и на любом комплексном многообразии), но и их производные. Именно, для любой голоморфной в точке р е£) функции / ее производной порядка & = (&!, ..., kn) в этой точке называется dZj1 ...dznn где (/ — окрестность точки р, в которой сужение я|р биго- ломорфно, я l^1— обратное к нему отображение и в правой части стоит производная в точке г = я(р). Далее, на римановой области (D, я) естественно вводится понятие поликруга с центром в точке pgD и радиуса г, как множества 0(р, г)^р, которое я гомеоморфно проектирует в поликруг U(z, г) с: ©л, где г = = я(р). Объединение всех поликругов на D с данным центром р называется максимальным поликругом, а радиус этого поликруга (конечный или бесконечный) называется расстояниям р до границы Ь и обозначается через р(р, дЬ). Под расстоянием до границы множества N с:Ь понимается inf р(р, dD).
§71 НАКРЫТИЯ 111 Римановы области естественно возникают в процессе аналитического продолжения. Поскольку в случае нескольких переменных этот процесс проводится так же, как и в случае одного переменного, мы ограничимся его кратким описанием. Будем исходить из элемента (£/, /) с центром в точке а е €", т. е. пары, составленной из поликруга U = U(a, г) и голоморфной в ней функции со /(г)= 2 ck(z — a)k. Как и в ч. I, определяется непосред- Jfe = 0 ственное аналитическое продолжение и продолжение вдоль пути у: I ->- СЛ, у (0) = а, и также доказывается, что результат продолжения вдоль пути у не меняется при гомото- пии с неподвижными концами, если вдоль любого пути yS9 осуществляющего гомотопию, продолжение возможно. Аналитической функцией п комплексных переменных, как и в ч. I называется совокупность элементов {(£/а, /а)}аел» каждый из которых получается из любого другого аналитическим продолжением вдоль какого-либо пути в С*. Аналитическая функция, вообще говоря, не является функцией в области D, где она строится, ибо точкам zgD она может относить несколько значений. Однако, как мы сейчас покажем, она является функцией в некоторой римановой области над D. Предположим, что аналитическая функция sf в области D а€п определяется элементом (U, /). Так как радиус поликруга U нас не интересует, мы можем вместо элемента (£/, /) рассматривать росток fa, представляемый этим элементом (точка аеЬ — его центр; см. п. 29 ч. I). Снабдим параметром аеАг ростки f* в точке 2бД которые представляются элементами, получающимися из (U, f) продолжениями вдоль всевозможных путей у: 1-+-D из точки а в г, и рассмотрим множество D пар Z = (z, /?), где zgD и а£Аг, Введем в D топологию следующим образом. Под окрестностью точки Z = (z, Й)е6 условимся понимать совокупность всех точек W*=(w, Й)е6 таких, что: 1) |]м> —г||<е, где е>0 — фиксированное число1) и 1) Напомним, что для точки zeCn мы обозначаем через | г || =■ = max 12V | ее поликруговую норму v
112 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II 2) росток f& представляется элементом (VW9 /р), который является непосредственным аналитическим продолжением элемента (UZJ /*) е f?. Очевидно, что при достаточно малых е такая окрестность не пуста. Мы предоставляем читателю доказать, что в этой топологии D —связное хаусдорфово пространство. Проекцию л: D-+D мы определим как отрбражение (г, fz)-^2; очевидно, что это —непрерывное и локально гомеоморфное отображение. Таким образом, мы построили многообразие, которое- называется римановой областью аналитической функции <sF (по аналогии с римановыми поверхностями аналитических функций одного переменного см. п. 33 ч. I). Если элемент ((/, /) продолжается вдоль всех путей у: /->/), то риманова область я: D-+D будет, очевидно, накрытием. По доказанному в п. 17 мощность всех стеблей я-1 (г) этого накрытия одинакова для всех точек z е D и не более чем счетна. Не более чем счетной будет также мощность множеств л-1 (г), z^D, и в общем случае, * когда элемент вдоль одних путей в D продолжается, а вдоль других нет (только теперь эти мощности могут быть различными для разных точек). Мощность л-1 (г) —это число значений «многозначной функции» qF в точке z^D. Правильнее, однако, рассматривать qF как (однозначную) функцию на Z), а именно, как функцию, относящую точке (г, f%)^D значение /а(г), где (UZi /а) —любой представитель ростка f". Эта функция, очевидно, голоморфна на D. Вопросами аналитического продолжения функций нескольких переменных, показывающими принципиальное отличие последних от функций одного переменного, мы займемся в следующей главе. § 8. Аналитические множества Здесь мы рассмотрим один из основных объектов комплексного анализа, естественно возникающий при геометрическом изучении голоморфных функций — множества, на которых такие функции обращаются в нуль
§8] АНАЛИТИЧЕСКИЕ МНОЖЕСТВА 113 20. Подготовительная теорема Вей ерштрасса. Эта теорема (Vorbereitungsatz) лежит в основе связей между комплексным анализом и алгеброй. Она обобщает известное свойство голоморфных функций одного переменного обращаться в нуль как целые степени г —а: если f(a) — 0 (но /^ё0), то в некоторой окрестности точки а f(z) = (z-a)k<p(z)y (1) где ф голоморфна и не обращается в нуль. В многомерном случае место степени г — а занимает многочлен по одной из переменных, скажем zn, с коэффициентами, голоморфно зависящими от остальных переменных 'z = (2i, ..., zn-i). Теорема 1. Пусть ^функция f голоморфна в некоторой окрестности U точки а^ьп и f(a) = 0, но /('а, г^^ЁО; тогда в некоторой окрестности V этой точки f (г) = {(г„ - anf + Cl (fz) (zn - an)^ +... + ck ('г)} v (г), (2) где k^l — порядок нуля f fa, zn) в точке zn = ап, функции cv голоморфны в 'V, cv('a) = 0, а ф голоморфна в V и не обращается там в нуль. < Без ограничения общности считаем, что а = 0. По теореме единственности для функций одного переменного можно выбрать гп>0 так, чтобы /('0, гп)ф0 при 0 < | zn | ^ гп, а в силу непрерывности / найдется пола- круг 'V= ('0, г) такой, что /('г, гп)Ф0 при 'ге7, \zn\ = rn. Для любого фиксированного 'z°^'V число нулей функции /('г°, zn) в круге Vn = {\zn\<,rn} равно .%■.*) *»■"*■ (3) п ибо левая часть (3) •— целочисленная и непрерывная функция точки 'г° в 'К1) и, следовательно, постоянная, а при 'z° = '0 она равна порядку нуля функции f ('0, zn) в точке г„ = 0, т. е. k. Фиксируем 'zgT, обозначим через гМ = z%) ('г), v=l, ..., k, нули функции /('г, г„) в круге Vn и 1 2л/ L) См. лемму в конце п. 5.
И4 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II построим многочлен относительно гп Р(г)=П(гп-г}?)) = гкп + с1('г)гкп-1+... + ск('г)1 (4) v = l имеющий эти нули своими корнями. Его коэффициенты голоморфны в 'V. В самом деле, для любой голоморфной в Vn функции со (zn) по обобщенному принципу аргумента (см. задачу 1 к гл. IV ч. I) v-l dVn откуда видно, что суммы в левой части — голоморфные функции переменного !г в 'V (мы учитываем, что $Ф0 при 'ze'V и zn^dVn). Полагая здесь (o(zn) = Zn, (a= 1» ••• ..., k, найдем, что суммы \х-х степеней корней многочлена (4) голоморфны в '1/, а через эти суммы (как известно из алгебры) рационально выражаются его коэффициенты, следовательно, cv<^0('V). При 'г = '0 все k корней многочлена равны нулю, поэтому и все cv ('0) = 0. Функция при любом фиксированном 7гЕ7 является голоморфной функцией zn в круге Vn и не обращается в нуль, ибо Р обращается в нуль того же порядка лишь в точках г^}('г), в которых и / = 0. Поэтому ф при любом ;геТ представляется интегралом Коши по переменному гп: ф^ 2ш \ В ('г. Utn-zn> dVn и тем самым доопределяется в тех точках V = 'VxVny в которых Р = 0. Так как РфО на dVn (ибо там ?Ф0), то правая чисть, а значит и ф, голоморфно зависит от /г1). По теореме Хартогса <р голоморфна в поликруге V ► *) См. лемму в конце п. 5.
§8] АНАЛИТИЧЕСКИЕ МНОЖЕСТВА 115 Подготовительная теорема Вейерштрасса показывает, что голоморфная функция обращается в нуль как многочлен относительно переменного гп с коэффициентами из кольца 0<а функций от 'г, голоморфных в точке 'а. Точнее, все коэффициенты этого многочлена, кроме старшего, принадлежат идеалу1), который образуют в 0>а функции, обращающиеся в нуль в точке 'а; многочлен с такими свойствами называют многочленом Вейерштрасса. Таким образом, эта теорема позволяет привлечь для исследования множества нулей голоморфных функций алгебраические методы. Замечание. Если /^0 и выполняются все условия теоремы Вейерштрасса, кроме условия f('a, гл)^=0, то существует линейная замена переменных z — a = Aw, detA=£0, или, в подробной записи, п zv-av= 2 °W*V (v=l, ..., л), (5) после которой / переходит в функцию g(w) такую, что £('0, ag=£0. Для доказательства выпишем группу членов S cki...kn{z1-a1)kK..{zn-an)kn тейлоровского разложения / в точке а наименьшего порядка | k | = х, при котором не все коэффициенты группы равны 0. Сделаем в ней замену переменных (5), причем матрицу А подберем так, чтобы det АфО и чтобы коэффициент при w* Лол- 2 ^...ь *%••-<№• После такой замены f(z) перейдет в функцию g(w), для которой g('0, дол) = Лоха# + ...^ЁО, что и требуется. *) Напомним, что идеалом кольца R называется множество / его элементов, которое: 1) является подгруппой аддитивной группы Кольца (для этого разность любых двух элементов из / должна снова при* надлежать /) и 2) для любого элемента / € / и любого г е Я про* изведение ]г е /. Множество всех функций из 0,аХ равщх пулю в 'а, удовлетворяет обоим этим условиям,
116 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Заметим еще, что при п = 2 разложению Вейерштрасса функции /^0 можно придать вид /(2, w) = (z-a)k{(w-b)l+c1(z)(w-b)l-i + ...+ck(z)}(p(zt w), (6) для которого условие /(а, ш)=£0 не требуется (здесь cv—голоморфные в точке аеС функции, cv(a) = 0, k и / — целые числа, ф—голоморфная в точке (a, b) е С2 функция, не обращающаяся в нуль). В самом деле, если /(а, до)=£0, то мы имеем разложение (6) с & = 0; если же / (а, до) = 0, то из тейлоровского разложения мы получим, что /(г, до) = (2 — a)kg(z, до), где уже g(at хю)ф0, и, применяя теорему к функции g, придем к разложению (6). 21. Свойства аналитических множеств. Определение 1. Аналитическое множество А в области D с С* локально определяется как множество общих нулей конечного числа голоморфных функций. Иными словами, для любой точки a^D найдутся окрестность U с: D и конечный набор функций fi е 0 (U) (из которых не все тождественно равны нулю) такие, что A(]U = {z€=U: fl{2) = ... = fr(z)=0}. (1) Если эти функции в какой-нибудь U^a можно выбрать так, что ранг матрицы Якоби fg^-j равен г, то а называется регулярной точкой множества Л, а число (п — г) — комплексной размерностью А в точке а и обозначается dimaA. Совокупность регулярных точек множества А мы будем обозначать Л°, а точки из А \ А0 называть критическими точками Л. Пример. Для множества Л = )гЕС3: z1z2z3 = 0}, состоящего из трех гиперплоскостей tfv = {zv = 0}, матрица Якоби функции f(z) = z1z2z3 имеет вид Vf=(z2z3, zxzz, ztz2). Ее ранг равен 1 всюду на Л, кроме комплексных прямых li = H2f\H3, l2 = Hif\H3, k=H1(]H2t на которых V/ = 0. Следовательно, множество критических точек А совпадает с объединением L = l1[)l2[)l3, а множество регулярных точек А° = А \ L. Теорема 1. Аналитическое в области D множество А замкнуто, нигде не плотно в D и не разбивает этой области. 4 Пусть a^D — предельная точка последовательности а^ЕЛ; в окрестности U ^а множество А (] U определяется формулой (1). В силу непрерывности функций fj точка AGil-первое утверждение доказано. Если А имеет внутреннюю точку в D, то его открытое ядро Е непусто. Но £ и замкнуто в D, ибо предель-
§ 8] АНАЛИТИЧЕСКИЕ МНОЖЕСТВА 117 ная точка z°^D множества Е в силу замкнутости Л и теоремы единственности для голоморфных функций принадлежит Е. В силу связности D тогда E = D, что невозможно,—доказано второе утверждение. Для доказательства последнего утверждения достаточно доказать, что каждая точка а е Л имеет связную окрестность U такую, что U\A связно. Пусть а е Л — любая точка и t/czD — ее выпуклая окрестность, г° и г1 — произвольные точки U\A. Обозначим G={£^C: £г° + + (1 — Qz1 е U\ — это выпуклая плоская область. Среди функций ff, определяющих Л в окрестности U, найдется такая, что б)(£)=//(&г° + (1 — фг^^ЁО, и, следовательно, множество Я = {?еС: £г° + (1 — t)?1 ^ Л} дискретно. Множество G\H поэтому связно, и так как оно содержит точки Со = 0 и £i=l> то найдется путь у: /->G\#, соединяющий £0 и £х; тогда функция £->7(/)г° + (1 — y{t))zl определит путь в (У\Л, связывающий г° и г1 ► Множество Л \ Л° критических точек Л является аналитическим подмножеством Л, иба понижение ранга [•£-) выражается условием обращения в 0 некоторых голоморфных функций (миноров матрицы Якоби). Повторяя доказательство теоремы 1, можно доказать, что множество Л\.Л° замкнуто и нигде не плотно в Л; однако это множество, может разбивать Л —см. предыдущий пример *). Для любой точки а^А положим по'Определению dimaA= lim dim* Л; (2) z-+a геЛ° размерностью множества А назовем число dim Л = = supdim^; число п — dim Л называется коразмер- ностью Л. Множество Л называется однородно г-мерным, если dim<^ = r для всех а^А. Для каждого k, O^k^ ^г=^тЛ, множество A{k) = {a^A: dimaA = k} является однородно й-мерным аналитическим множеством. Таким образом, каждое аналитическое множество представляется в виде конечного объединения аналитических 1) Так бывает лишь в случае приводимых множеств — см. ниже, стр. 119
П8 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II множеств, однородных по размерности: А = (J A{k). Если а —критическая точка Л, то d\ma(A \ Л°)<сИтаЛ, следовательно, размерность множества критических точек однородного г-мерного аналитического множества А строго меньше г. Теорема 2. Связные компоненты множества Л° регулярных точек аналитического множества А являются комплексными многообразиями. 4 Пусть г —размерность такой компоненты; так как в окрестности любой ее точки а . rank (j^-j = п — г, то в достаточно малой окрестности а систему уравнений (1) можно разрешить относительно п — г переменных. Пусть это будут переменные гг+1, ..., zn, тогда Л в этой окрестности определится при помощи голоморфных функций z/ = g;(*i, ..., *г) (/ = г+1, ..., л). (3) Отображение комплексно г-мерного шара в окрестность на Л точки а, осуществляемое этими функциями, голоморфно и взаимно однозначно, а соотношения соседства, возникающие в пересечениях различных окрестностей, биголоморфны ► Замечание. В окрестности критических точек аналитическое множество может не быть даже топологическим многообразием. Рассмотрим, например, аналитическое множество А = {г1г2 — z| = 0} в С?. Его матрица Якоби имеет вид (г2, zlf — 2г3)^0, следовательно оно двумерно, а 0 е С3-—его критическая точка. Если бы в окрестности 0 это множество было многообразием, то Л\{0} было бы.локально гомеоморфно шару действительной размерности 4 с выколотой точкой, т. е. Л\{0} было бы односвязным множеством. Но отображение g: (£i> £2)->(£?, & tiEJ определяет C2\{0} как двулистное накрытие Л\{0} и по теореме о [монодромии п. 17 множество ^4\{0} не может быть односвязным. Так как теорема 2 применима и к аналитическому множеству Л\Л°, то мы получаем разложение аналитического множества на комплексные многообразия: А = = Л°и(Л\Л0)°и • • . Более удобно разложение на многообразия, размерности которых строго убывают: A =Atr)[)(A\Alr))lr -i,U... (г = dim Л). (4)
§ 8] АНАЛИТИЧЕСКИЕ МНОЖЕСТВА 119 Такое разложение называется стратификацией аналитического множества, а его множители — стратами соответствующей размерности. Пример Для множества Л = {2еС3: 2x2223 = 0} из примера на стр. 116 двумерный страт A?2l = A\L, одномерный— £\{0} и нульмерный—точка {0}. Определение 2. Аналитическое множество Л называется неприводимым в области D, если его нельзя представить в виде объединения отличных от него аналитических множеств в D. Множество А называется неприводимым в точке а^А, если в любой достаточно малой окрестности U этой точки множество А П V не- приводимо. Примеры Аналитическое множество А = {г\г\ — г\—Щ приводимо в С3, ибо оно разбивается на два множества A1 = {zlz2—- — 23 = 0} и /42 = 12x22 + 23 = 0} Оно приводимо и во всех точках пересечения ЛхПЛ2, т. е. на прямых (2х, 0, 0) и (0, 22, 0); в остальных точках оно неприводимо. Множество {г^ — 2§ = 0} неприводимо в точке 2 = 0, но приводимо во всех точках- (аъ 0, 0), ах^О (оно представляется в виде объединения множеств {V^Zi г2±23 = 0}, где Vzx обозначает одну из ветвей корня). Множество {ZjZg—г| = 0} неприводимо во всех своих точках (в том числе и в критической точке 2 = 0). Понятие неприводимости аналитических множеств связано с понятием неприводимости функций. Голоморфная в точке а е €п функция / называется неприводимой в точке а, если ее нельзя представить в виде произведения двух функций, голоморфных в а, каждая из которых равна нулю в этой точке1). Отметим простой факт, относящийся к разложению функций на неприводимые множители. Лемма. Любую функцию, голоморфную в точке а и равную там нулю, можно разложить в произведение неприводимых голоморфных в а функций, причем такое раз- ложение единственно с точностью до множителей, отличных от нуля в точке а. г) Напомним, что в алгебре элемент кольца называется приводимым, если его можно представить в виде произведения двух множителей, не являющихся делителями единицы. В кольце функций, голоморфных в точке а, делителями единицы являются» оче« видно, функции, отличные от нуля в этой точке.
120 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II < Подгото3 4тельная теорема Вейерштрасса сводит задачу к разложению многочленов (по одному из переменных), а любой многочлен, как известно из алгебры, можно единственным способом (с точностью до делителя единицы) представить в виде произведения неприводимых многочленов. Для этого достаточно воспользоваться алгоритмом Евклида нахождения наибольшего общего делителя ► Объединяя одинаковые множители в найденном разложении, мы получаем однозначно определяемое (с точностью до множителей, отличных от нуля в а) представление f = fni fnm где /\, голо'морфны и неприводимы в точке а, Дх^/v при \i -ф v и пх — положительные целые числа.^ Вернемся к аналитическим множествам. Очевидно, что всякое неприводимое в области D аналитическое множество связно и однородно по размерности. Можно доказать, что множество A czD неприводимо тогда и только тогда, когда множество А0 его регулярных точек связно, а также что замыкание в D каждой связной компоненты Л° является неприводимым аналитическим множеством, которое называется неприводимой компонентой1) Л. Теорема 3. Любое аналитическое множество в области D является локально конечным объединением неприводимых аналитических множеств. < Разложение А на неприводимые компоненты мы получим, если разложим множество Л° регулярных точек А на компоненты связности и возьмем замыкания в D этих компонент. Локальная конечность полученного разложения следует из того, что локально А представляется в виде (1), а функции ff по лемме можно разложить в конечное произведение неприводимых множителей ► Как мы видели, в окрестности регулярных точек аналитическое множество является комплексным многообразием (и, в частности, все такие точки являются точ- L) См. М. Э р в е, Функции многих комплексных переменных, «Мир», М., 1965, стр, 122 и 123.
§8] АНАЛИТИЧЕСКИЕ МНОЖЕСТВА 121 ками неприводимости). Выясним строение аналитических множеств в окрестности критических точек, причем для простоты ограничимся множествами коразмерности 1, которые локально задаются условием А(\и = {г<=и: /(г)=0}, (5) где /^ 0 —голоморфная в U функция. Критические точки —это точки оеД,в которых комплексный градиент ■'J-& 1-).=° <б> (пусть Уа;фО на неприводимых компонентах Л). Если а —критическая точка Л, то без ограничения общности можно считать, что /('я, гп)=£0, где 'а = = (аъ ..., ал_х) (этого можно добиться линейной заменой переменных). Подготовительная теорема Вейер- штрасса позволяет локально задать Л уравнением P(z) = (Zn-an)k + c1('z)(zn-anri+...+ck('z) = 0, (7) где функции сх голоморфны в окрестности 'U э 'а, равны нулю в точке 'а и k^2, ибо при k=l точка была бы регулярной. Уравнение (7) имеет k корней причем функции g^ локально голоморфны в 'U всюду, кроме точек множества 'Д, в которых это уравнение имеет хотя бы один кратный корень1). Множество 'Д называется дискриминантным и, как известно из алгебры, определяется уравнением №)=0, (9/ где R — результант многочленов Р и его производной (по переменному гп). Результант выражается при помощи определителя, элементами которого * являются х) Локальная голоморфность g^ в '£/\'Д следует из теоремы о не* дР явных функциях, ибо там ^— =^0. OZn
122 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II коэффициенты многочленов Р и ^— или нули1), и поэтому представляет собой функцию, голоморфную в 'U (и не равную тождественно нулю). Следовательно, дискрими- нантное множество 'Д является аналитическим множеством коразмерности 1 в области 'U. Легко видеть, что дискриминантное множество содержит проекцию в пространство (D71-1 ('г) совокупности критических точек множества А2). В самом деле, в достаточно малой окрестности любой точки 'Ь е 'U\'A множество А задается уравнениями (8), где g^ — голоморфные в этой окрестности функции, поэтому каждая из k точек &М = ('ft, g^('&)) g4, проектирующихся в 'fc, является регулярной точкой М. Этот анализ показывает, что в окрестности критических точек неприводимые компоненты аналитических множеств устроены так же, как римановы поверхности голоморфных функций одного переменного в окрестности точек ветвления —в таких точках каждая компонента разветвляется на несколько комплексных многообразий коразмерности 1. Аналогичный факт справедлив и для г) Результантом многочленов P—c0t>k+c1Z>k~1+ ... +Ck и Q = = do^ + di£/~1+ ••• +^/ называется определитель (& + /)-го порядка с0 сг ck 0 .... О О с0 Ci ........ Ck 0 ... О R(P,Q)- о о d0 di dt где коэффициенты cv занимают I строк, a dv занимают к строк. Если cQd0^£0, то R(Pt Q) = 0 в том и только том случае, если Р и Q имеют хотя бы один общий корень. 2) Обратное, вообще говоря, неверно: например, для множества {21 —гА = 0} в С2 начало координат является регулярной точкой, хотя ее проекция 2Х = 0 принадлежит дискриминантному множеству (уравнение г!=0 имеет кратный корень),
§ 8] АНАЛИТИЧЕСКИЕ МНОЖЕСТВА 123 множеств высшей коразмерности. Чтобы сформулировать его, будем говорить, что множество Лс=Д где D — область в Сл, является разветвленным голоморфным накрытием (или аналитическим накрытием) над областью GczCm, если найдется линейное отображение а: (Сл->€т (проекция) и аналитическое множество В czG такие, что сужение а на Л есть собственное отображение Л -> G (т. е. прообраз каждого компактного множества из G при отображении о\А является компактным подмножеством Л), а сужение а на Л\а-1 (В)— конеч- нократное голоморфное накрытие над G\B. Теорема 4. Для каждой точки неприводимости аналитического множества А найдется окрестность U такая, что A{\U устроено как разветвленное голоморфное накрытие. Доказательство мы опускаем1). Приведем в заключение две теоремы, которые можно рассматривать как обобщение теоремы единственности для функций одного переменного. Теорема 5. Если аналитическое в области D с: О множество А нульмерно, т. е. не имеет связных компонент, отличных от точки, то оно не может иметь предельных точек внутри D. < Будем доказывать теорему индукцией по п. Для п=1 она верна, ибо совпадает с теоремой единственности для функций одного переменного. Предположим, что она верна для множеств из С11-1, но неверна для множеств из €я. Тогда вОс(Сл найдется множество Л, удовлетворяющее условиям теоремы и имеющее предельную точку a^D. Согласно подготовительной теореме Вейер- штрасса (для ее применения, возможно, придется совершить линейное преобразование переменных г) в некоторой окрестности а множество Л задается уравнениями P\i('*i zn) = 0, |х=1, ..., т, где Р^ — многочлены от zn с коэффициентами, голоморфно зависящими от 'г. Можно считать, что Л содержит последовательность точек (V, afy, где все V, / = 1, 2,..., различны. 1) См. Р. Ганнинг и X. Росой, Аналитические функции многих комплексных переменных, «Мир», М., 1969, стр, 131 и след.
124 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Рассмотрим результанты многочленов Р^ и Рт: £и = Я(Лг, Pm), Н.= 1, .., т-1, — голоморфные функции 'z в окрестности проекции 'а точки а (в силу дискретности А очевидно, что прип>1 у нас и т> 1). Так как R{P^ Рт) обращается в нуль в тех и только тех точках 'г, где Р^ и Рт имеют общий нуль гл, а при 'г, близких к 'а, все нули Р^ лежат вблизи ап, то'в окрестности 'а множество 'А = {'г: g1('z)=...=grnJ1('z) = 0} совпадает с проекцией А на эту окрестность. Это множество удовлетворяет условиям теоремы и имеет 'а своей предельной точкой. Мы пришли к противоречию с индуктивным предположением ► Теорема 6. Аналитическое в области D cz Сп множество либо имеет точки, сколь угодно близкие к гра? нице 3D, либо состоит из конечного числа точек. А Нам надо доказать, что любое аналитическое в области D множество А конечно, если оно компактно принадлежит D. Множество А компактно принадлежит- некоторому поликругу Un = {||г||</?}; его конечность мы снова будем доказывать индукцией по п. Для п=*=1 утверждение следует из теоремы единственности, и мы предположим, что оно верно для размерности я—1. Обозначим через я: г->'г проекцию ©" в С71"1; пусть 'А=п(А) и 'г° — произвольная точка 'А. Множество А имеет конечное число точек с проекцией 'г°, ибо A(]{rz — 'z°\ — компактное аналитическое множество на комплексной прямой и, следовательно, конечное. Обозначим эти точки через г' = ('г°, гЛ и возьмем их непересекающиеся окрестности Uh проектирующиеся в одну окрестность '£/э'г°. Окрестности можно считать столь малыми, чтобы в каждой из них A()Uf={ze=Uf: М*)= ... =/т(г) = 0}, (Ю) где все f^^0(Uf). Функции Дг('г°, г„) переменного zn не все тождественно равны нулю: пусть ДьСг0, гя)=£0 при (г=1, ... , / и Дг('г°, гп)==0 при |х = /+1> ...» яг. Заменяя (10) эквивалентной ей системой уравнений F[l(z) = 0, где F[l = f[X при (х<;/ и Fp^fa + fx при [i>/, мы добьемся того,
§ 91 РАССЛОЕНИЯ И ПУЧКИ 125 что все F[i(fz°J гп)фО. Применяя подготовительную теорему Вейерштрасса, запишем А П Uf системой уравнений P\x('zi 2'/i) = 0. где Рц — многочлен от zn с голоморфными коэффициентами. Теперь, как и в предыдущей теореме, проекция n(A(]Uf) в 'U будет описываться системой уравнений gn('z) = 0» гАе &i —результант многочленов Р^ и Рт (fx= 1, ..., т— 1), и, следовательно, эта проекция — аналитическое множество в '(У1). Проекция в '[/ всего множества А является конечным объединением я (А [\ V)) при различных / и, значит, также представляет собой аналитическое множество. Мы доказали, что 'А = п(А) — аналитическое множество, а так как из условия A<^Un следует, что rAmn(Un), то по индуктивному предположению М. конечно. Но тогда и Л — конечное множество ► § 9. Расслоения и пучки Мы закончим главу описанием еще двух геометрических понятий, играющих важную роль в анализе. 22. Понятие расслоения. Это понятие является обобщением понятия накрытия, в котором вместо дискретного пространства Е (см. определение в п. 17) рассматривается произвольное топологическое пространство. Определение 1. Рассмотрим систему объектов, состоящую из трех топологических пространств2): X (расслоенного пространства), М (базы), Е (пространства слоя) и непрерывного отображения я: X -> М (проекции). Эта система называется расслоением, если для каждой точки р^М существует окрестность V и гомеоморфизм А: я~г (U) -> U х Е такой, что диаграмма на рис. 23 коммутативна, т. е. для любого х^я~г(1/) я'«А (*) = л (*)» (1) где я': U х Е -> U — обычная проекция (я' (р, е) = р). Часто для краткости мы будем называть расслоением само пространство X. 2) Здесь мы предполагаем, что т> 1; в случае т=1, очевидно, л (А П Vj) = '(/ — аналитическое множество коразмерности 0. 2) Как всегда, хаусдорфовых и со счетной базой открытых множеств.
126 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ II (Ру р; Прообраз л~1(р) = Ер называется слоем (или стеблем) расслоения л: Х->М; отображение h (при фиксированной р) устанавливает гомеоморфизм Ер на пространство £. Коммутативность диаграммы означает, что гомеоморфизм h: лг1 (U)-> UxE — поел ой ный, т.е. что он сохраняет слои (см. рис. 23 и аналогичное рассуждение в п. 17). Кроме того, из нашего определения следует, что расслоение X локально тривиально— в пределах окрестности U (с точностью до гомеоморфизма) оно устроено как произведение UxE; в целом расслоение не обязательно тривиально, т. е. гомеоморфно произведению МхЕ. Определение 2. Сечением расслоения л: М называется непрерывное отобра- что <7Г rt\ М- U Рис. 2з: жение (2) X в области D s: D-+X такое, n°s(p) = p в D. Локально сечения всегда существуют: возьмем окрестность U, над которой расслоение X тривиально, фиксируем элемент бе£ и каждой точке р ^U сопоставим элемент se(p) = h~1(p, г). Отображение s8: U- является сечением X в [/, ибо ji°s8(p) = ji'°/i(s8 (р)) для всех p^U. Как будет видно из примеров, глобальные сечения s: М -> X существуют не у всякого расслоения. Примеры. 1) Совокупность касательных векторов длины 1 к двумерной сфере S2 образует расслоение с базой S2 и слоями из окружностей (концов касательных векторов в точке р е S2). Проекция л ставит в соответствие каждой точке х окружности центр р этой окружности. Сечения этого расслоения— векторные поля единичных касательных векторов, т. е. непрерывные функции, которые каждой точке области DcS2 сопоставляют некоторый единичный вектор. Они существуют в областях сферы, отличных от самой S2, а глобальных сечений на всей 52 нет в силу известной теоремы (по которой нельзя гладко причесать ежа). 2) Лист Мёбиуса X — прямоугольник, две противоположные стороны которого отождествлены после перевертывания (рис, 24).
§91 РАССЛОЕНИЯ И ПУЧКИ 127 Это —расслоение, базой которого является окружность S1 (средняя линия прямоугольника со склеенными концами), а слоями — отрезки, скажем, / = [—1, 1]. Проекция я ставит в соответствие каждой точке х отрезка р х / середину р этого отрезка. Глобальные сечения расслоения —непрерывные функции s: Sl-*X. Расслоение глобально не является тривиальным: оно не гомеоморфно цилиндру S1 X /• 3) Комплексное проективное пространство СРЛ можно рассматривать как базу расслоения я: С2+1-^СРя; проекция я сопоставляет точкам г е=€%+{ =Сл+1\{0} классы эквивалентности [г] по отноше- Рис- 24. нию г' ~г\ если z' = kz", где аеС*. Слоями этого расслоения являются множества я-1 ([z]) = {Яг}, где г — какой-либо представитель класса [г], а X пробегает 0#; эти множества гомеоморфны С* (комплексной прямой без точки). Над областями U/={[z] е €Рп: гуФО} стандартного покрытия €Рп расслоение тривиально: я-1 (Uj) гомеоморфно ЮлхС*> однако в целом оно нетривиально Как говорилось в п. 1, вместо (DJ+1 можно брать единичные сферы S2n+1; слоями расслоения я: S2n+l-*-€Pn будут тогда окружности {|Х| = 1}с=С». Важнейший класс расслоений составляют гладкие векторные расслоения, которые характеризуются следующими дополнительными условиями: 1) база М расслоения является гладким многообразием, пусть dim M = m,a пространством слоя —конечномерное векторное пространство Rn; 2) расслоение тривиально над областями карт Ua атласа М, причем диффеоморфизм ha: я"1 (£/а)-* (/а х R" при любой фиксированной точке p^Ua является изоморфизмом линейных пространств Vp = 7rr1(p) на R". Если л: V ->Af — векторное расслоение, то для карт (Ua, Фа), (^э» Фр) с непустым пересечением Ua^ = Ua(]U^ помимо соотношения соседства фар = фР° фа1 многообразия М (диффеоморфизма областей пространства Rm) возникает еще отображение Лар = йр°Ла\ (3) которое при фиксированной р е Ua$ является изоморфизмом пространства R", т. е. невырожденным линейным преобразованием (рис. 25). Для фиксированной p^Ua$ и любого вектора уеУр преобразование (3) можно записать в виде Z? = haz(p)Z«, (4)
128 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II где |а = /1а(у) и 1$ = h$ (v) — векторы столбцы, a Лар(р) — невырожденная пхп матрица. Такие матрицы называются матрицами перехода векторного расслоения V, они являются матричными функциями, определенными в пересечениях £/ар, и характер и- ■ j зуют расслоение. При п = 1 i векторные расслоения назы- \haa ваются линейными, роль мат- .« риц перехода здесь играют функции перехода /iap —гладкие функции в (7ар, не обращающиеся в нуль. п Произвольное векторное расслоение V с я-мерным слоем над m-мерным многообразием М само является многообразием размерности т-\-п. Локальными коорди- Рис. 25 натами на V над областью Ua с: М могут служить (хау 1а), где ха = (ра(р) и la = ha(v) (p<=Uai иеЦ а соотношениями соседства — отображения (фар, Аар) областей из Rm+". Понятие векторного расслоения без изменений распространяется на комплексные многообразия М, причем пространством слоя здесь естественно считать С". В этом случае можно выделить класс голоморфных расслоений как расслоений с матрицами перехода, составленными из голоморфных ' функций.- Для голоморфных расслоений наряду с непрерывными и гладкими можно рассматривать и голоморфные сечения. 23. Касательное и кокасательное расслоения. Мы уже писали уравнения касательных плоскостей (действительных и комплексных) к гладкой гиперповерхности в ©я. Однако полезно иметь общее абстрактное определение касательного пространства к произвольному многообразию. Рассмотрим сначала случай действительных многообразий М. Фиксируем точку реМ и обозначим через qFp совокупность ростков гладких действительных функций з этой точке (т. е. классов эквивалентности по отношению f\~f2% если fi=f2 в некоторой окрестности р). Обозначим через / отрезок [0, l]clR и на множестве глад-
§91 РАССЛОЕНИЯ И ПУЧКИ 129 ких путей у: I ->- М с началом у (0) = р введем отношение эквивалентности: Yi^Y2> если -^-foVi(OI/=o = -^-fo72(OI/=o Для всех /о^р; класс эквивалентности по этому отношению обозначим у. Его можно представлять геометрически как касательный вектор (рис. 26), но удобнее отождествить у с его действием на ростки, т. е. с производной ростка в направлении у. Поэтому дается - Определение 1. Касательным вектором Рис 26 к многообразию М в точке р называется функционал v: efp-+R, действующий на росток / е <УР по правилу v(f)=*-dff*y(t)\t-o Для всех уеу. (1) Совокупность ТР(М) всех касательных векторов к М в точке р называется касательным пространством к М в точке р. Пространство ТР(М) можно рассматривать как линейное пространство над IR с операциями (v + w){f) = v{f) + w{f), Xv(f) = v(kf) (2) (здесь vy w ^Тр (М), f ^^р и leR), а любой касательный вектор v ^Тр (М): а) линеен, т. е. v(af + $g) = av(f) + $v(g) для всех a, P<=K и /, g<=fp; б) Лейбницев, т. е. v(fg) = v(f)g (р) + f(p)v (g) для всех /, g^^p. При фиксированных локальных координатах * = ср на М в окрестности р, в пространстве Тр (М) можна указать специальные касательные векторы ^- (v=l, ..., п = = dim М), которые действуют на ростки f е <^р по правилу ^--^•«r^p) (3) (как и раньше у нас х = у(р), и ^ — координаты х). 5 Б. В. Шабат, ч. II.
130 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II Теорема 1. Векторы ^— (v = 1, ..., п) образуют базу линейного пространства ТР(М). < а) Любой вектор og7p(М) представляется в виде п д v v = 0 -2^-k (4) с некоторыми постоянными av. Для доказательства будем писать р0 вместо р и предположим, не нарушая общности, что ф(р0) = 0. Воспользуемся тем, что для любой гладкой в шаре В = {х е Un: | х | < 1} функции F существуют гладкие в В 3F функции gv такие, что gv(0)=-^—(0) и для всех х^В ОХу F(x)-F{0)=j]xvgv(x)'). (5) V = l В самом деле, по правилу дифференцирования сложных функций 1 л 1 F(x)-F(0) = $ ±-F(tx)dt = 2 *v$ ^-dt, 0 v=l о , ч С dF (tx) .. и можно положить gv (х) = ^ - at. о Применяя (5) к функции F (х) =/°ф-1М, мы получим п ftf1W-f°f1(0)=2«v(4 или v = l f(p)-f(Po)=21vAp)gw(p), (6) v = l где ■gv(0) = -^fo(r)-1(0)=^-(f). В силу свойств а) и б) касательного вектора из (6) следует, что »(/)-o(/(Po))=S v(<Pv)gv(0)+it<Pv(PQ)v(gv<p)t г) Ср. с теоремой Хефера, цит. в п. 16.
§9] РАССЛОЕНИЯ И ПУЧКИ 131 причем так как значение касательного вектора на постоянной равно нулю, то v(f(p0))r=0 и, кроме того, все фу (Ро) = 0» ибо ср (ро) = 0. Таким* образом, a(/)=|>(<Pv)l^(f) . (7) V = l для всех fe^p —мы получили (4) с постоянными av = = V (фу). б) Векторы g^- (v=l, ..., /г) линейно независимы. В самом деле, из (3) следует, что ^—(ф^) = 6^ (символ Кроыекера, равный 0 при fx=^=v и 1 при fx = v). Поэтому, п если 2 Cv ~дх~ W ~ ® для всех f е ^Р' то' полагая» в частности, / = ф!и1, мы получим, ЧТО ^ = 0 (|Х=1, ..., п) > Следствие, dim Тр (М) = dimM. Кокасательным пространством к многообразию М в точке р называется пространство ТР(М), сопряженное к ТР(М), т. е. совокупность всех линейных функций на ТР(М). Из (2) видно, что v(f) при фиксированном ростке / является К-линейной функцией от v. Эта функция v(f) = df(v) (8) называется дифференциалом ростка f е oFp, кокасатель- ное пространство Т%(М) и состоит из таких дифференциалов. Формула (7) в новых обозначениях переписывается в виде п v=l откуда видно, что при фиксированных локальных координатах функции dxv (v = 1,..., п) составляют базу Т$ (М); так как d^ (§£-) = 6^, то эта база двойственна базе (3). Очевидно, dim Г J (М) = dim Тр (М). Рассмотрим теперь случай комплексного n-мерного многообразия М. Рассматривая его как 2/г-мерное действительное и на нем— ростки действительных 5*
132 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II функций, мы можем в касательном пространстве Тр (М) формально ввести вместо базисных векторов -^-, -д— . д 1/0 . д \ v д их линейные комбинации g—= y((5j—1д~1* дГ ^ = у (-3—+ i-ъ—), v= 1, ..., п. Тогда каждый касательный вектор v ^Тр (М) можно представить в виде dzv +PV dzv)> цельная размерность (10) ТР(М) где все pv = av; действительная равна 2п. Если же на М рассматривать ростки гладких комплексных функций f, определив для них касательные векторы по той же формуле (1), то вместо ТР(М) мы получим линейное пространство £р (М) над полем С, комплексная размерность которого равна 2я. Базой S» (М) будут касательные векторы rjF-(v=l п),ав фор- муле (10) av и pv — произвольные комплексные числа. Сопряженное к £Р(М) пространство £р (М) состоит из комплексных функций - d/=i(^r^+^^) (id v = l на Sp(M), его база dzv, dzv двойственна к базе^—, -р-. На комплексном многообразии М естественнее рассматривать ростки голоморфных функций /g^p; тогда базой касательного пространства, которое мы обозначим через Т°р(М), будут векторы ^- (v=l, ..., п), а базой сопряженного пространства (состоящего из ©-линейных функций) —дифференциалы dzv. Комплексная размерность обоих этих пространств совпадает с<Ит$М = п. Нам придется рассматривать также действительные подмногообразия комплексных многообразий. Ограничимся для простоты случаем действительной коразмерности 1 и предположим, что в окрестности U точки р е М подмногообразие N локально задается уравнением ф(г) = 0,
§ 9] РАССЛОЕНИЯ И ПУЧКИ 133 где г —локальные координаты на £/, а ф —гладкая действительная функция с отличным от нуля градиентом ^ = (di » •'" ' dz ) * Тогда действительное касательное \дгг9 "", <tej пространство Тр (N) будет состоять из-векторов уеГр (/VI) таких, что у(ф)=0, т. е. из векторов av dzv +av dzv где av^ + «v2) = 2Re2«v-g- = 0. (12) V=l V=l Действительная размерность TP(N) равна 2д—1 (т. е. dim^yV), ибо п комплексных координат av вектора v связаны одним действительным соотношением. Можно рассматривать также комплексное касательное пространство TCP(N), которое состоит из векторов п п v==2a*ik> где 2а*жг=0- , (13) v=l v=l Его действительная размерность на единицу меньше размерности TP(N) и равна 2п — 2, ибо теперь числа av связаны комплексным соотношением. Если рассматривать ТР(М) как л-мерное комплексное пространство с координатами a = (ab ..., a„)f то TP(N) будет образовывать в нем действительную гиперплоскость п с уравнением Re У av-j2-==0 (производные берутся в v = l фиксированной точке р и являются комплексными числами). п Пространство TCP(N) описывается уравнением У av~^- =0 v = l и, значит, представляет собой комплексную гиперплоскость, которая лежит в той действительной (ср. п. 1). До сих пор мы рассматривали касательное и кокаса- тельное пространства к многообразию М в фиксированной точке. Теперь перейдем к расслоениям, ограничиваясь для определенности действительными многообразиями.
134 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ (ГЛ. II Определение 2. Касательным расслоением к многообразию М называется векторное расслоение, пространством которого является дизъюнктное объединение касательных пространств в точках р е М Т(М)= [J ТР(М), (14) nG М проекция п: Т(М)-+М относит каждому касательному вектору tiETp(M) его точку касания р, а матрицы перехода мы сейчас определим. Если для атласа {(£/а, ха)) на М в качестве базы в слоях ТР(М)> ре£/а, выбрать касательные векторы —_ (v=l, ..., n = dimM), то в пересечениях £/ар будем иметь или в матричной записи *=ga*l)J' (15) столбцы (^ обозначает транспонирование), a gap = ( —^!~ матрица Якоби преобразования координат л^-э-л'Р. А1ат- рицы g-ap- и являются матрицами перехода касательного расслоения Т (М). Сечения расслоения Т (М) в области D cz М называются векторными полями — это непрерывные функции, которые каждой точке р <= D ставят в соответствие некоторый касательный вектор v ^ТР(М). Совершенно аналогично определяется кокасателъное расслоение Т* (М). Его матрицами перехода в двойственной базе являются матрицы, транспонированные к матрицам Якоби gap, ибо dx%=2dSdx» (v=1 "}- (16)
§91 РАССЛОЕНИЯ И ПУЧКИ 135 Гладкими сечениями Т* (М) являются дифференциальные формы первой степени, которые локально, в координат- п ных окрестностях Ua имеют вид со= *]>]f*dx%, где /*— v = 1 гладкие функции точки p^Ua. Условие гладкости сечения в объединении пересекающихся координатных окрестностей приводит, очевидно, к обычному правилу изменения форм при замене координат. 24. Понятие пучка. Это понятие является алгебраической модификацией понятия накрытия, когда в слоях введена некоторая алгебраическая структура — группы, кольца или поля. Рассмотрим для определенности случай групп. Определение 1. Будем говорить, что над топологическим пространством М (базой) задан пучок групп, если задано еще одно топологическое пространство ©?*, (пространство пучка) и локально гомеоморфное отображение а: £*-+М (проекция), причем каждый слой S?р = = о~1(р)у /?gM, является группой и групповая операция непрерывна в топологии S?. Последнее требование понимается так: пусть f,g,h^.S"p и h = f-\-g; тогда для любой окрестности 0ha3* точки h на S? найдутся окрестности Vf и Vg точек / и g, гомеоморфно проектирующиеся в одну окрестность Vp точки рдМ и такие, что для любой точки q ^VpHfg^G^qft Vf, gq^£*q[\ Vg сумма fq-\-gqe=Qh; Определение 2. Сечением пучка о: S*-*М в области D а М называется непрерывное отображение /: D -> -+S? такое, что композиция o°f является в D тождественным отображением. Совокупность всех сечений пучка S? в области D мы будем обозначать символом Г(D, &) или просто e7*(D). В силу локальной гомеоморфности проекции в достаточно малой окрестности каждой точки р gM сечения всегда существуют. Далее, если два сечения / и g из S?(D) совпадают в какой-либо точке peD, то они совпадают тождественно (в самом деле, множество E = {p^D: f(p) = g(p)} замкнуто в D в силу непрерывности f и g9 но оно и открыто, ибо локально / и g являются обращениями проекции а; в силу связности области D либо Е
136 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ (ГЛ. II пусто, либо совпадает с D). Это свойство вместе со свойством непрерывности алгебраических операций в топологии S? из определения 1, позволяет распространить на сечения в данной области операции, определенные в слоях1). Примеры. 1) Важнейшим примером пучка колец является пучок ©' (М) ростков голоморфных функций на комплексном многообразии М. Пространством этого пучка является объединение ростков 0{М)= у 0„ (1) рем а топология в нем определяется так: фиксируем произвольный росток fp^©(М) и возьмем какой-либо элемент (U, /), его представляющий. Для каждой точки q^U обозначим через f^ росток выбранной функции / в точке q и окрестностью точки tp будем считать 0= (J fg. Как и раньше (см., например, п. 33 ч. I) проверяется, что топология, определенная такими окрестностями, хаусдор- фова; пространство это, конечно, несвязно. Проекция определяется как отображение л: © (М) -> ->М, которое каждому ростку \^©р ставит в соответствие точку р. В силу нашего выбора топологии в © (М) это отображение локально гомеоморфно в каждой точке \^©(М). Наконец, как нетрудно видеть, операции сложения и умножения ростков непрерывны в топологии ©(М). .Сечения пучка ©(М) в области DcM-это голоморфные в D функции. Их совокупность мы будем обозначать символом T(D, ©), или просто ©(D), если нет опасности смешать совокупность сечений пучка с самим пучком. В частности, пучок росткрв голоморфных функций над пространством Сл, мы обозначим через ЭК Открытые связные компоненты Ып будут, очевидно, римановыми областями над Сл, о которых говорилось в п. 19. *) Пусть даны два сечения fyg^S^ (D). Фиксируем точку peD и найдем элемент f(p)+g (р) е d?V Обращение проекции а в окрестности 0 точки / (p)+g(p) является сечением S? в °(&)> и нетрудно видеть,, что оно продолжается, до сечения h е S? (D). Мы полагаем f-\-g=h\ можно доказать, что определение корректно, т. е. не зависит от выбора точки р.
§91 РАССЛОЕНИЯ И ПУЧКИ 137 2) Пучок eF<r» s) (М) ростков гладких (г, $)-форм на комплексном многообразии М определяется аналогично. Ростком такой формы в точке ре М называется класс эквивалентности по отношению: со~о/, если соответствующие коэффициенты этих форм совпадают в какой-либо окрестности точки р. Совокупность <У^* s> ростков в данной точке р образует абелеву группу относительно операции покоэффициентного сложения форм. Пространство пучка определяется как J-(r.s){M)=s (J jr%.s)f (2) рем топология и проекция вводятся точно так же, как и для пучка 0. Сечениями пучка aFc. s> (М) в области D а М являются формы бистепени г, s с гладкими в D коэффициентами. При r = s = 0 мы получаем, в частности, пучок eF(Af) ростков гладких функций на М. Заметим, что топология пространства eF(r»s), в отличие от &Л не хаусдорфова. В самом деле, возьмем, например, гладкую на М функцию / с компактным носителем и рассмотрим ее росток fp в граничной точке носителя. Росток fp отличен от ростка 0Р функции, тождественно равной нулю, но их окрестности непременно пересекаются: в любой окрестности ip есть росток функции, тождественно равной нулю. 3) Постоянные пучки Z, R, С. Пусть каждой точке р gM соответствует один и тот же объект, скажем, кольцо целых чисел Z. Тогда будем говорить, что над М задан постоянный пучок и будем обозначать его тем же символом, что и этот объект (в нашем случае Z). Сечения такого пучка в области D а М — постоянные (в нашем случае —целочисленные). Пучок ростков голоморфных функций, как и другие рассматриваемые в анализе пучки, естественно возникают в процессе предельного перехода яз так называемых пред- пучков. Определение 3. Говорят, что над топологическим пространством М задан предпучок некоторых алгебраиче^ ских структур, если задана база {U} открытых подмножеств М (т. е. любое открытое множество из М является объединением множеств базы), в каждом множестве U базы определена структура S?и (группа, кольцо или поле)
138 ОСНОВНЫЕ ГЕдМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II и с каждой парой U', V множеств базы такой, что V cz £/, ассоциирован гомоморфизм Puv- <^u-*^vi (3) причем, если W cz V cz £/, то восполняется условие транзитивности Puw~Pvw°PuV' (4) Основным примером предпучка колец является набор функций, голоморфных в открытых подмножествах комплексного многообразия. Гомоморфизмомpuvздесь является естественный гомоморфизм вложения кольца ® (U) в ® {V), который относит каждой функции f ^0(U) ее сужение f\v на множество VczU. Предельный переход от предпучка к пучку в общем случае напоминает переход от голоморфных функций к их росткам и построение пучка 0(М). Пусть над топологическим пространством М задан предпучок {^и\ некоторых алгебраических структур. Фиксируем точку р^М и рассмотрим базу 21р окрестностей точки р. Назовем элементы fa е S^v и^е &v, где (/, Уе Up, эквивалентными в точке р, если существует окрестность W cz U (] V точки р такая, что Puw(fu) = Pvw(gv), (5) Множество классов эквивалентности по этому отношению называется прямым пределом \ef\j\ и обозначается символом <£% = lim £><;. (6) v^Up В множестве S?p естественно вводится алгебраическая структура, которой наделены S^v (ср. определение действий над ростками голоморфных функций на стр. 173 ч. I). Покажем теперь, что ^= U ^р (п можно рассматривать как пучок над пространством М. Чтобы ввести в £? топологию заметим, что для каждой окрестности U е 21 р можно построить отображение р^: S^u ->- <£?ру сопоставляющее элементу / е S?v класс эквивалентности ip е ^р> его содержащий (нетрудно видеть.
ЗАДАЧИ 139 что pup — гомоморфизм рассматриваемых алгебраических структур). Теперь для каждого элемента fE^p и окрестности U ^ Up определим множество Набор й таких множеств для всех fG^ и всех U из базы открытых множеств пространства М можно принять за базу открытых множеств в топологии S". Чтобы убедиться в этом, достаточно доказать, что для любых £/, ^g^ с непустым пересечением и для любого элемента hp е О П V в й найдется Wh а О П К. По построению P^U[\V и hp = pUp(f) = pVp(g), где соответственно / е <з^ HgG e?V. По определению прямого предела существует открытое множество W с U О V, содержащее точку р и такое, что puw(f) = Pvw(g)', полагая h = puw(f), мы получаем элемент из e?V> и тогда искомой окрестностью будет Wb = (J p\jp&(ft)- Наконец, проекция о: е^-ь-М определяется как отображение, сопоставляющее элементу f е &\ точку р. Очевидно, что в построенной топологии £? проекция локально гомеоморфна, а алгебраические операции непрерывны. ЗАДАЧИ 1. Для сферы Sn = {x е= Rn+1: |jc| = 1} построить гладкий атлас из двух карт. (Указание. Воспользоваться стереографической проекцией *->•; из полюсов сферы.) 1 ± хп 2. Пусть а1 а2п — (действительно) линейно независимые 2л векторы в СЛ и Г— группа преобразований вида z-+z + 2 ^v0^ v= 1 где #v—целые числа. Точки z, z'e= СЛ назовем эквивалентными, если существует перенос ^еГ такой, что %(z)=z'. Доказать, что в множестве С^/Г классов эквивалентности по этому отношению можно ввести структуру «-мерного комплексного многообразия (О/Г называется «-мерным комплексным тором). п 3. Даны дифференциальные формы w'=2]a*^z* и ©' = *=1 я в= ^ bkd*k бистепени (1, 0) такие, что соответствующие им векторы А=1
140 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ \ГЛ TI a=(ai, ... , ап) и Ь = {ЬЪ ..., Ьп) ортогональны в смысле евклидова скалярного произведения Доказать, что со' Д со" = 0 лишь в случае, когда со' = 0 или со" = 0. 4. Для областей ОсСл с гладкой границей 3D и функций f^Cl(D) вывести обобщение формулы Коши — Грина из п. 19 ч. I: ая (я D v = l (здесь а —форма (2) из п. 15) 5.. Для выпуклых областей 0 = {ге=СЛ: ф(г)<0} с гладкой границей и функций f е= С1 (D) вывести формулу Лере—-Грина; п ас v = i (2я/)" L4, vacv<vc9. £-«>•* где d>v определены формулой (17) из п. 15. 6. Мероморфной кривой в области D с О назовем отображение /: D -*- Сй, компонентами которого являются мероморфные в D функции. Нулем / называется точка £0 е= D, в которой все /v(Co) = 0; младший из порядков нулей /v (v=l, ..., п) в этой точке называется порядком нуля /. Полюсом кривой / называется точка t0ED, в ко< торой хотя бы одна /v(£0) = oo; порядком полюса f называется старший из порядков полюсов /v в этой точке. Доказать для мероморф- ных кривых следующий аналог принципа аргумента: P~2ni J (f, f) ^+2ш )) dl (f, f)dl Л d£ (здесь предполагается, что dD — гладкая кривая, / голоморфно про* должается на dD и там f=£0\ N и Я— число нулей и полюсов f в D с учетом их порядков; (zf w)—эрмитово скалярное произведение). При этом второе слагаемое справа —неотрицательная величина и обращается в 0. в том и только том случае, когда кривая / лежит на прямой, проходящей через 0 е= (X 7. Пусть П = {г еСл; |Аг(г)|^1, |*==1. ..., я} —полиноми- (дРи\ альный полиэдр в/ О1 такой, что det (5-^) =5^0 на его остове Г. Доказать, что всякая функция /е= 0(-Г)ПС(П11Г) равномерно приближается полиномами (и потому, в частности, продолжается до функции из С (II)).
ЗАДАЧИ 141 _8. Доказать, что универсальное накрывающее области D = = С\{2!, ..., 2р}у где все zv различны и р^З, конформно эквивалентно единичному кругу. 9. Доказать, что универсальное накрывающее произведения топологических пространств Мг х М2 гомеоморфно произведению Mi X М2 универсальных накрывающих этих пространств. 10. Доказать следующий комплексный аналог теоремы 1 п. 17: если п: М->М — голоморфное накрытие, а /: D->M—голоморфная кривая (отображение ^плоской области D в М), то / поднимается до голоморфной кривой /: D-+M и притом единственным образом при задании / (£0) е М. 11. Пусть 1Ъ ..., /4 —комплексные прямые из СР2 в общем положении, /б—комплексная прямая, проходящая через точки. /ХПk 5 и k(\U> а М=СР2\ (J //. Доказать, что: а) универсальное накры- /=1 вающее М биголоморфно эквивалентно ограниченной области; б) любое голоморфное отображение /: C~»-M постоянно. 12. Вычислить фундаментальную группу аналитического множества Ш = {г е С2: ег2 = {гг — а)(гг — Ь)}у аФЬ (Указание. Рассмотреть проекцию на первую координату.) 13. Доказать, что неприводимое аналитическое множество М: 2f=z?+zi в С3 не является комплексным многообразием; точнее, не существует голоморфного взаимно однозначного отображения /: В-+ -+Mf[Ut где Б —единичный шар в С2 и U — окрестность 0 в С3. 14. Одномерное аналитическое множество в Сл, неприводимое в 0, с точностью до линейной замены координат' локально задается системой уравнений где т — некоторое целое положительное число. 15. Если одномерное аналитическое множество МсС" является топологическим многообразием, то оно обладает структурой комплексного многообразия. 16 (У. Рудин). Пусть f<=0 (С*) — целая функция и для всех точек г = ('2, гп) аналитического множества >4 = {/(г) = 0} справедливо неравенство | zn | < с (1 + \Ча \т), где с и т —постоянные. Доказать, что тогда А — множество нулей некоторого многочлена. 1 с Wi%® (Указание. Рассмотреть интегралы а^'г) = д—г V ^ . * ^ d£, |£|=r('z) где r('z)=c(l + \'z \т) и ц = 0, 1-, 2, ..., и воспользоваться методом доказательства подготовительной теоремы Вейерштрасса.) 17. Доказать следующую теорему Вейерштрасса о делении. Пусть Р (г) —- многочлен Вейерштрасса степени k по переменной zn. Тогда любую функцию /, голоморфную в окрестности ОеС", можно единственным образом представить в виде f—q>P+Q>
142 ОСНОВНЫЕ ГЕОМЕТРИЧЕСКИЕ ПОНЯТИЯ [ГЛ. II где ф голоморфна в 0, a Q — многочлен по гп степени меньше k с голоморфными по 'г коэффициентами. (Указание. Для доказательства возможности представления следует взять ф(г)==_1_ [ /с*, о -"с, ltl=e при подходящем выборе б, проверить, что Q — f — Рф обладает нужными свойствами, а затем доказать единственность представления.) 18 (В. Я. Лин), Рассмотрим расслоение над плоскостью с выколотой точкой (D* = C\ {0}, пространством слоя которого слу-i жит Е = {(и, о)бС2: еи — ёХ}фО), а проекцией п(и, v) = eu — ev. Доказать, что это расслоение имеет непрерывные, но не имеет голоморфных глобальных сечений. (Указание. Тождество eulZ) —e°{Z)^ ~z в С# с голоморфными и и v невозможно по теореме Пикара.) 19. Если существует т глобальных сечений векторного расслоения я: Х-+-М с размерностью слоя dim£=m, линейно независимых над каждой точкой реМ, то это расслоение тривиально. 20. Пусть М— действительное многообразие класса Ck и размерности п; доказать, что касательное расслоение Т (М)— многообразие класса Ck~l и размерности 2п-
Глава III АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ Любая плоская область D служит естественной областью существования голоморфнойфункции: существует функция, голоморфная в D и не продолжаемая аналитически за пределы этой области (см. п. 44 ч. I). В отличие от этого, в пространстве &п (п> 1) существуют области, из которых любая голоморфная функция непременно продолжается в более широкую область. Примерами таких областей служат не логарифмически выпуклые области Рейнхарта (см. п. 7). Эта глава посвящена в основном описанию пространственных областей, которые служат областями существования голоморфных функций. § 10. Теоремы о продолжении Здесь мы рассмотрим еще несколько теорем о принудительном аналитическом продолжении голоморфных функций. 25. Теорема Севери. Первая из этих теорем утверждает, что в С" при п^2 всякая функция, голоморфная в некотором смысле на границе области, непременно продолжается голоморфно и во всю область. Уточним прежде всего смысл, в котором пон1М1ется голоморфность на границе. Пусть S — гладкая гиперповерхность в(Спи /г- заданная на S комплексная функция класса С1; будем говорить, что / удовлетворяет на S касательным уравнениям Коши — Римана, если в каждой точке £^S dft\dl\s = Qf (1) где d£ = d£i Д ... Д dZ,n. Здесь df вычисляется в 'локальных координатах, действующих на S, a d£j5 означает сужение формы dt> на S, вычисленное в тех же координатах. Теорема 1 (Севери). Пусть в ©я, п>\, задана ограниченная область D со связным дополнением и с гладкой
144 х АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III границей dD = S, а на S пусть задана комплексная функция f е С1 (S). Для существования функции f ^0 (D) f| С1 (В), граничные значения которой совпадают с f, необходимо и достаточно, чтобы f удовлетворяла на S касательным условиям Коши — Римана (1). ^ Необходимость условия (1) доказывается просто. В силу того, что / е С1 (D), и теоремы об инвариантности дифференциала df = df\s. Но тогда df h dZ\s = df \s h dt\s = df /\ dt\s = 0, ибо df= \ gp^Sv B D, a dt, содержит все d£v. v=l . Для доказательства достаточности этого условия построим при помощи формулы Мартинелли —Бохнера (п. 15) по заданным значениям / функцию />) = $/(£)<*(£-*), ' (2) где п л °>&-г)- w 2 (- d^tIeS^x л ..г. л ««.л* v = l ib ' (3) а) Покажем прежде всего, что при выполнении условия (1) функция f голоморфна всюду на S. Для этого заметим, что форма со точна: прямой подсчетг) показывает, 1) Проделаем этот подсчет (для сокращения письма полагаем 2 = 0): ** <в -w 2 тсР^1 Л dl* л - "А dln л rfC+ v=2 ^ (2я1)я Zi Ь \ |£i2* ,tvl Ч£|*»-*У bvM b2M ? v = 2 n » v = l
§ 101 ТЕОРЕМЫ О ПРОДОЛЖЕНИИ 145 что при 1>\фгх дифференциал формы v = 2 по переменным £, £ равен со(£ — г). Заметим еще, что, в то время как форма сох (£ — z) имеет особенность на комплексной плоскости £i = Zi, ее частная производная 4? = ^ 2lfcSre.-«J*A..f..A«tA« , v = 2 имеет лишь точечную особенность £ = г. При г^ёЯ формулу Мартинелли —Бохнера (2) можно продифференцировать по 2г под знаком интеграла §£) = f/(0^|=£l. (5) dzx J . azi Теперь заметим, что в силу условия (1) при £ е S, ХиФгх имеем (HfGti^dfhab + fa^f®, ^ (6) ибо щ содержит множитель dt, и в силу (1) первое слагаемое равно нулю. Беря от обеих частей (6) частную производную по 2и найдем, что при ^gS, £iФгх d\$®*^}-f®*$=*. (7) По сделанному выше замечанию форма ~ имеет особенность лишь в точке £ = г и, следовательно, правильна при £^S и г <^S, такова же и форма ^. Поэтому, переходя в (7) к пределу при £i-*Zi, мы получим в силу непрерывности, что это равенство справедливо при всех Из этих.замечаний видно, что формулу (5) при z^S можно переписать в виде М^\^(оЩ=2.},
146 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III • где под знаком дифференциала стоит правильная форма. Так как 5 —цикл (имеем OS = d2D = Q), то по формуле Стокса правая часть равна нулкЬ. Выделяя вместо переменного 2i другие переменные zVy мы совершенно аналогично построим формы cov (£ — г), правильные при £v Ф zv и такие, что day, — ®, и точно так же докажем, что ~- = О при всех z ф S. Таким образом, функция / действительно голоморфна всюду вне S. б^ Теперь покажем, что эта функция равна нулю всюду BHeD. В самом деле, в той части €л\5, где |гх|> >тах|^!|, форма (4) неособая, поэтому мы мож^м воспользоваться соотношением (6). Мы получим, что для г, принадлежащих этой части, f(*) = $f(D = $d(H)==0 5 5 (мы снова воспользовались формулой Стокса и тем, что S —цикл). Но упомянутая часть дополнения к D содержит внутренние точки, а так как само дополнение по условию связно, то в силу теоремы единственности /==е0 во всем дополнении. в) Докажем, наконец, что граничные значения функции / совпадают с заданными значениями f. Учитывая свойство ядра Мартинелли —Бохнера (формула (8) п. 15), мы можем написать для любой J°g5h любой z ф S f (г)-Х(г)/ (Б°) = №(Э-П№<С-г), (8) S где х —характеристическая функция области D. Утверждение будет доказано, если доказать, что правая часть (8) непрерывна в точке £°: в самом деле, предельное значение правой части при z -> £° извне D, очевидно, равно нулю; в силу непрерывности будет равно нулю и предельное значение при г->£° изнутри D, т. е. / (г) ->- / (£°) при г->£°, z€=D. Итак, остается доказать непрерывность функции
§ 10] ТЕОРЕМЫ О ПРОДОЛЖЕНИИ 147 в точке £°. Для этого заметим сначала, что существует интеграл Ф(£°) = $[/(9-/(£°)]<»(е-Е0). О) S В самом деле, интеграл берется по (2/г — 1)-мерной поверхности и произведения дифференциалов, входящих в форму со: имеют размерность (2п— 1)-мерного элемента объема. Множители же при этих произведениях |/(0-/«°)1/У ?оч is—e°j2/i ltv ^ имеют порядок не выше . * »0 2^-2 * и^о f ^ С1, и, следовательно, /(£) —/(С0), как и £v — £$, имеет порядок не ниже |£ —£°|. Таким образом, порядок бесконечности подинте- гральной функции в (9) по крайней мере на единицу ниже размерности, и, значит, интеграл (9) сходитсях). Дальнейшее доказательство проводится обычным для анализа способом, и мы лишь наметим его ход. Разность Ф (г) — Ф (S0) = ^ ^ (D — / (С0)] [со (g — г) -со (£ — £0)] мы разобьем на две части, соответствующие интегрированию по достаточно малой (относительной) окрестности а точки £° и остальной части S\cr границы. В силу доказанной сходимости интеграла (9) первую часть можно считать малой; в интеграле по S\cr ядро непрерывно, и, следовательно, этот интеграл сколь угодно мал, если точка z достаточно близка к £°. Доказательство того, что / еС1^), мы опускаем ► Замечание. Теорема Севери неверна при л= 1: в самом деле, функция /=— на границе единичного круга U=-{\ г | < 1} удовлетворяет условию (1), однако ее нельзя голоморфно продолжить в U. Приведенное доказательство при /1=1 не проходит, ибо форма Коши х) В этом проще всего убедиться, переходя на S к полярным координатам с полюсом в точке £°.
148 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III ■«.__ , в отличие от формы Мартинелли—Бохнера, не является точной на dD, если z^D (построить щ по формуле (4) при /z=l нельзя). Интеграл конечно, голоморфен при г ф dD, но / не обязательно равна нулю вне D1). В качестве примера применения теоремы Севери мы приведем доказательство одной из основных теорем многомерного комплексного анализа — теоремы о стирании компактных особенностей. Теорема 2 (Осгуд — Браун). Если функция f голоморфна всюду в области D cz (D* (п>1) за исключением, быть может, множества К ^D, не разбивающего область (т. е. такого, что D\K связно), то f голоморфно продолжается на всю область D. < Выберем в D\K гладкие (2я — 1)-мерные поверхности Si и S2 так, чтобы они ограничивали соответственно области Gx и G2 со связными дополне- Рис. 27. ниями, чтобы /C(^Gi^G2 и чтобы слой G = G2\Gi&D (рис. 27). Так как / голоморфна в б, то по формуле Мартинелли — Бохнера для zgG f(z) = $/(£)cd(£-z)- \f{t)<*{Z-z). (10) По той же причине на S± и S2 выполняются касательные условия Коши —Римана dff\dZ\Sl = dfhdZ\s2 = 0. Так как z лежит вне поверхности Sb то по теореме Севери второй интеграл в формуле (10) равен нулю, и, следовательно, для всех z е G s? х) См. задачи 1 и 3 к гл. II ч. I.
* 101 ТЕОРЕМЫ О ПРОДОЛЖЕНИИ НО Но по той же теореме Севери интеграл в правой части (11) представляет функцию, голоморфную всюду в G2, и совпадающую с f в G2\K. Так как по условию D\K связно, то эта функция дает голоморфное продолжение f во всю область D ► Замечание. Условие, что К не разбивает область в теореме Осгуда —Брауна существенно: пусть К = = /| а | = -g-V — сфера, a D = {| z |< 1} — шар в ©л, /г>1; тогда функция/, равная 0 в 1|г|<-2-} и 1 в'|у <|г|<1|, голоморфна в D\K, но не продолжается голоморфно в D. Из этой теоремы видно, что голоморфные функции п^2 переменных не могут иметь изолированных особых точек,— особенности таких функций (если они не разбивают область) обязаны выходить на границу области или простираться в бесконечность1). Из этой же теоремы получается такое усиление теоремы Лиувилля из п. 5: если функция п^2 переменных голоморфна вне шара {|г|<</?} и ограничена, то она постоянна. (В самом деле, по теореме Осгуда— Брауна эта функция голоморфно продолжается в шар, т. е. является целой; но онаюграничена: в {|г|>/?} по~ условию, а в {| z \ <;/?} — как непрерывная на компакте функция.) 26. Теорема Хартогса и устранение особенностей. Следующая теорема о принудительном продолжении является простым следствием интегральной формулы Кош и. Теорема Г(Хартогс). Пусть даны области Gа С©"1 (г), G0c=G и поликруг Ucz(Dn(w) с остовом Г; обозначим еще U' = £/ U Г и М = (G х Г) (J (G0 X £/'). Если функция f: М->© 1) непрерывна в-G х Г и при любом сое Г голоморфна в G, 2) при любом гЕб0 голоморфна eU и непрерывна в U', то она голоморфно продолжается в область G х U (см. рис. 28, где т = п=1). 1) Сравните: функция f=— на плоскости г имеет особую точку {0}, а в пространстве (z, до)—особую комплексную прямую {г = 0}, простирающуюся в бесконечность.
150 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. Ш dco. (1) < Рассмотрим функцию, определяемую кратным интегралом Коши г {Z> W) (2ш)" J coir Его подинтегральная функция "г'^*' непрерывна наТ при любых фиксированных значениях параметров (г, до) е Gx£/ и при любом со голоморфно зависит от этих параметров; по лемме из п. 5 функция F также голоморфна в произведении G х U. Но при фиксированном геС0 в силу условия 2) функция / представляется в U своим интегралом Коши, следовательно, в G0 X U Рис. 28. ' v ' ' (2ш) J со — w = F(z,w). (2) Таким образом, функция F толоморфно продолжает f в область G х 0 ► В качестве примеров применения теоремы Хартогса рассмотрим еще несколько теорем об устранении особенностей голоморфных функций. В первой из них принимается дополнительное предположение о непрерывности функции. * Т е о ре м а 2. Если функция f непрерывна в области D а$ип и голоморфна в D всюду, за исключением множе-> ства Еу лежащего на гладкой поверхности S действительной коразмерности 1, то она голоморфна во всей D., « Достаточно доказать голоморфность f в произвольной точке z° е £, которую без ограничения общности можно считать равной нулю. Предположим, что в окрестности точки z = 0 поверхность S задается уравнением уг == <р(лгь w)9 где до = (г2, ..., г„)иф~гладкая действительная функция (по теореме о неявных функциях это также не ограничивает общности). Так как ф(0, 0) = 0, то в силу непрерывности ф для любого р > 0 найдутся такое а > 0 и поликруг Uс С*-1 (до), 0е(/, что |ф(хъ до) | < Р для всех |#i|<а и дое£/. Выбирая Р достаточно малым
§ 101 ТЕОРЕМЫ О ПРОДОЛЖЕНИИ 151 и достаточно близкое к нему 7>Р, мы получим, что область G0 х U, где G0={2ieC:|x1|<a, p<|z/i|<vb принадлежит D и в ней нет точек S, т. е. что f ^& (G0 X U). С другой стороны, при фиксированном w^U функция /(гь w) голоморфна в прямоугольнике G={|xi|<a, \у\\<у\ всюду, за исключением гладкой кривой #1 = ф(*ь w), и непрерывна в G. Отсюда следует (см. задачу 8 к гл. III ч. I), что / (гь w) голоморфна в G при фиксированном w е (/. По теореме Хартогса мы заключаем, что / голоморфна в области G х О а Сл, содержащей точку 2 = 0 ► Bv следующей теореме мы ослабим ограничение на функцию /, но зато усилим ограничение на особое множество Е. Именно, мы предположим, что функция / не непрерывна, а лишь локально ограниченах) на множестве Е9 но зато потребуем, чтобы это множество лежало на аналитическом множестве комплексной коразмерности 1. При п = 1 аналитическое множество состоит из изолированных точек, и следующая теорема является обобщением теоремы об устранимости особой точки, в окрестности которой голоморфная функция ограничена (иногда ее называют теоремой Римана). Теорема 3. Если f голоморфна в области Ос(Сл всюду, кроме множества £, принадлежащего аналитическому множеству А комплексной коразмерности 1, и локально ограничена во всех точках Е, то она единственным образом продолжается до функции f, голоморфной в D. < Единственность продолжения очевидна, ибо множество D\E связно. Достаточно доказать голоморфную продолжимость f в произвольную точку г°е£, которую без ограничения общности можно принять равной нулю. Выполняя, если надо, линейную замену переменных, можно считать, что функция ф, определяющая А в окрестности 0, удовлетворяет условию ф('0, гл)^Ё0, где, как всегда 'г = (гь ..., z„_i). При достаточно малом р>0 функция ф ('0, гп)фЬ на окружности dUn = {\zn\ = р}, поэтому можно выбрать столь малую окрестность 'U э '0, что ф('г, гп)ф0 при всех 'z^'U, zn^dUn. Отсюда следует, что множество 'U х dUn не пересекается с Е, т. е. / голоморфна на нем. *) Это означает, что для каждой точки ze£ найдется окрест* ность иг такая, что / ограничена е (D\E) f\ Uz.
152 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III С другой стороны, при любом фиксированном 'z° е 'U функция ф ('г°, гл), согласно подготовительной теореме Вейерштрасса, имеет конечное число нулей в круге Un = — {| zn I < рЬ т- е- / ('г°> zn) имеет в £/„ конечное число особых точек. Так как она по условию ограничена, то эти особенности устранимы и /('г°, zn) продолжается до голоморфной в Un функции. Продолженная функция / удовлетворяет условиям теоремы Хартогса с G = G0 = 'U и, следовательно, голоморфна в поликруге £/ = V х Un ^ 0 ► В последней теореме мы вовсе снимем дополнительные ограничения на функцию /, но зато предположим, что особое множество Е принадлежит аналитическому множеству комплексной коразмерности 2. Теорема 4. Если функция f голоморфна в области Da (Dn(n> 1) всюду, кроме множества £, принадлежащего аналитическому множеству sA комплексной коразмерности 2, то она единственным образом продолжается до функции, голоморфной в D. < Единственность продолжения по-прежнему очевидна.. Возможность продолжения докажем индукцией по комплексной размерности множества Л, которую предположим равной г^п — 2. Если А нульмерно (г = 0), то оно состоит из изолированных точек (по теореме 5 п. 21) и продолжимость / в каждую из них следует из теоремы Осгуда — Брауна. Пусть утверждение верно для размерностей, меньших г^п — 2, и пусть dim А = г. Докажем продолжимость f в любую регулярную точку а^А, которую'без ограничения общности мы считаем равной нулю. В некоторой окрестности U ^ О. множество А по теореме о неявных функциях удовлетворяет системе уравнений гл-1=тф1("г), *„ = <p2fz)f (3) где "г — (гъ ..., г„_2) и функции yv (v=l, 2) голоморфны и не равны тождественно нулю в окрестности "U ^ "О, фу("0) = 0. Так как f голоморфна в U\A, то найдется бикруг U2 с центром в начале С2(ш), где ш = (гя_г, гп) такой, что / голоморфна на множестве "UxT (это доказывается как в предыдущих теоремах; Г —остов U2). С другой стороны, при каждом фиксированном "г° е ff функция / ("г0, w) голоморфно продолжается в U2 по теореме Осгуда —Брауна, ибо сечение множества A[\U каж-
§ 111 ОБЛАСТИ ГОЛОМОРФНОСТИ 153 дой плоскостью "z = const состоит из одной точки. По теореме Хартогса с G==G0 = "t/ функция f голоморфно продолжается в точку 0. Доказана продолжимость / во множество Л° регулярных точек Л, а так как критические точки образуют аналитическое множество размерности, меньшей г, то в такие точки f продолжается согласно индуктивному предположению ► Несколько более общих теорем о продолжении мы приведем в следующем параграфе. Они связаны с понятием области голоморфности, к изучению которого мы и переходим. §11. Области голоморфности Так называются области, в которых существуют голоморфные функции, не продолжаемые аналитически за пределы этих областей. Теоремы предыдущего параграфа показывают, что в пространстве (С* при п > 1 не всякая область является областью голоморфности, и мы займемся здесь характеризацией и свойствами таких областей. 27. Понятие области голоморфности. Эффект принудительного аналитического продолжения естественно приводит к следующему определению. Определение 1. Область G, содержащая областьD, называется голоморфным расширением последней, если любая функция f^@(D) продолжается до функции, голоморфной в G. Ясно, что это определение содержательно лишь в пространственном случае. Интересную особенность этого случая выражает следующая простая Теорема 1. Если G является голоморфным расширением области D, то продолжение, любой функции f е е ® (D) может принимать в G\D лишь те значения, которые f принимает в D. « Пусть, от противного, некоторая функция f^0(D) принимает какое-либо значение w0 в G\D, но не принимает его в D. Тогда функция ^(г)^-^— , очевидно, / \Ч — ^о голоморфна в D, но непродолжаема аналитически в G, ибо в некоторой точке G\D она обращается в бесконечность. Это противоречит определению 1 ►
154 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Следствие. Голоморфное расширение G ограниченной области D cz С" также является ограниченной областью. < По теореме 1 функции fv (г) =2V (координаты точки г) принимают в G те же значения, что и в D, т. е. sup zv | = sup I l, n. (1) Но так как D ограничена, то правые части (1) конечны, следовательно, конечны и левые, т. е. G ограничена ► Области голоморфности нельзя понимать просто как области, совпадающие со своими голоморфными расширениями в ©я. Дело в том, что аналитическое продолжение функции из области в С" может привести к многолист- ным римановым областям, которые мы рассмотрели в п. 19. Пример. Пусть D сг С2 —односвязная область, диаграмма Хартогса которой изображена на рис. 29, это цилиндр {х\-\-у\ < 1, | 221 < 2} с выброшенными квадратами I == = {0^л:1<1, г/1==0, |г2|^1}, Н = {0^ ^г/х<1, хг = 0, 1^|г2|<2} и сектором 5 = {|г1|<1, л^О, У1^0, |г2| = 1}. По теореме Хартогса каждая функция / е 0 (D) аналитически продолжается через сектор S как сверху вниз, так и снизу вверх1)- В самом деле, рассмотрим, например, первый способ продолжения (сверху вниз): функция / голоморфна в окрестности полукруга Е = {|21|^1—8, х1^е% |г2| = 2 — е} и отрезка {г1 = г?, |г2|==^2 —е}, где | z\ | < 1, х\ > 0, у\ < 0, и, следовательно, продолжается на ЕХ{| г21 <2 — г}. При таком продолжении мы снова попадем в область D, но функция не обязана принимать те же значения, которые она имела. В самом деле, рассмотрим, например, функцию /o(2i> 2,2) = |/Л21, где рассматривается непрерывная в D ветвь корня, которая принимает положительные значения на полуоси Xi > 0. Она, очевидно, голоморфна в D и в точках А и В диаграммы, которые проектируются в одну точку Р плоскости zlt но расположены по разные стороны S, принимает различные по знаку значения (переходя из А в В по D, мы должны изменить arg гх на 2я). С другой стороны, продолжая f0 через S по теореме Хар- Рис 29. г) Мы для простоты говорим о множествах, изображенных на диаграмме Хартогса, понимая под ними соответствующие множества из С2.
§ И] ОБЛАСТИ ГОЛОМОРФНОСТИ 155 тогса (как описано выше), мы получим, что значения /0, скажем, в точке В и ее продолжения в точке Л должны быть одинаковыми. Таким образом, продолжение /0 привело нас к неоднозначной функции; не желая рассматривать такие функции, мы должны относить продолженные значения ко второму экземпляру области D, склеенному с первым по множеству S. Область D из этого примера не является областью голоморфности, хотя голоморфных расширений среди областей из С2 у нее нет. Чтобы избежать подобных явлений, мы должны при определении области голоморфности исключить возможность аналитического продолжения за пределы области не только самой функции, но и ее сужений на части области, скажем, на принадлежащие области поликруги. Определение '2. Область ОсСл называется областью голоморфности функции f, если f ^&{D) и для любой точки г°еО сужение / на поликруг U (г°, р), где р —расстояние qt z° до 3D в поликруговой метрике, не продолжается голоморфно в поликруг U(z°, pi), где рх>р. Область называется областью голоморфности, если она является областью голоморфности какой-либо функции. Приступая к изучению условий, характеризующие области голоморфности, начнем с простых достаточных условий. Будем говорить, что в граничной точке £ области ЬсСл существует барьер, если для любого множества КшИ и любого е>0 найдется функция g^@(D) такая, 4X0 llg|k = iriax \S(Z) 1^ 1» н0 1я(г)1>1 в некоторой точке гЕ(/& е). Очевидно, что если существует функция f^0(D), неограниченная в точке £,^dD (т. е. такая, что f(zv)-+oQ по некоторой последовательности zvgD, гу-> ->£), то в этой точке существует и барьер. В самом деле, для любых K^D и е>0 можно взять g(z) =-14н » II / Наг Обратное утверждение также справедливо, причем в следующей усиленной форме: Теорема 2. Для любого множества Е czdD точек, в которых существует барьер, найдется функция f ^0 (D), неограниченная во всех точках Е. < Прежде всего заметим, что существует не более чем счетное множество точек dD, всюду плотное на Е, и что функция, неограниченная на таком множестве,
lob АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ (ГЛ. HI будет неограниченной и на Е. Поэтому Е можно считать не более чем счетным множеством. В этом предположении мы построим последовательность £v е Е так, чтобы каждая точка Е встречалась в ней бесконечно часто1). Теперь для доказательства теоремы достаточно найти функцию f^@(D) и последовательность точек zv^D так, чтобы |zv-£v|->0 и f(zv)^oo. Построим по индукции: 1) возрастающую последовательность компактов /CV(^D, исчерпывающих D, т. е. оо таких, что (J /(V = D, 2) точек zvgD таких, что \zv — v = l — £v |<~ и 3) функций fv^@ (D) таких, что I/V|kv^i; но |M*V)1>1. (2) Для этого возьмем в качестве К\ произвольный компакт из D и по определению барьера" в точке £* найдем функцию ^g^ (D) и точку z1 ^ D так, что | гл — £* | < 1 и 1Мг1М> 1 ^ll/ilki- Теперь предположим, что построение сделано для всех |x^v—1, возьмем Kv = Kv-i{){zt=D: р(г, <9D)^1, |e|<v}u{^1f ..., г*"1} и по определению барьера в точке £v найдем функцию /\,e^(D) и точку zv^D так, чтобы \zv — £v|<— и выполнялись условия (2). Возможность нашего построения доказана. Наконец, учитывая, что |fv(zv) j> 1, мы подбираем последовательность натуральных чисел pv (начиная с рг = = 1) так, чтобы выполнялось неравенство v= 1 и рассматриваем ряд 00 /(г)=2^<Мг)}'У- (4) г) Пусть точки множества Е как-то занумерованы; для построен ния последовательности tv мы возьмем точки в таком порядке: 1; 1, 2; 1, 2, 3; ...
§ 11] ОБЛАСТИ ГОЛОМОРФНОСТИ 157 Для любого ге/Сц мы имеем \fv(z)\^l при v^jx, следовательно, ряд (4) равномерно сходится на /Сц. Так как K[i компактно исчерпывают D, то отсюда, следует, что ряд (4) сходится всюду bD-и что его сумма f^0(D) (см. теорему Вейерштрасса из п. 5). Наконец, для любого \i= 1, 2, ... мы имеем ц-. 1 оо v=l оо оо 1 v = M-+l v=*n+l откуда видно, что /(гм)->оо ► Из доказанной теоремы непосредственно вытекает достаточное условие для областей голоморфности: Следствие. Если на всюду плотном множестве точек границы D существует барьер, то D является областью голоморфности. Например, в каждой точке £ границы шара В = = {| z | <.R} а $п существует барьер, ибо существует функция Ж = 7^717^^' неограниченная в точке £. Следовательно, шар является областью голоморфности. Этот пример обобщает Теорема 3. Всякая выпуклая область ОсСл является областью голоморфности. 4 В силу выпуклости D для любой точки Z^dD можно построить опорную гиперплоскость Re (z — £, а) = О, проходящую через £ и такую, что D лежит с одной ее стороны, а в ней взять комплексную плоскость (г — £, а) = = 0, которая также проходит через £ и не содержит точек D. Тогда функция f(z) = -r-—=—г голоморфна в D и не ограничена в £, т. е. в £ существует барьер. По следствию D является областью голоморфности ► Однако условие выпуклости не является необходимым для области голоморфности. Это видно, например, из следующей теоремы.
158 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Теорема 4. Если Dz является областью голоморфности в пространстве Сл(г), a Dw — аналогичной областью в пространстве €т(ш), то произведение DzxDw является областью голоморфности в пространстве €п+т(г, w). < Возьмем функцию /\ для которой Dz является областью голоморфности, и такую же функцию g для Dw. Тогда / (z)g(w) ^(8 (DzxDw) и D2xDw является ее областью голоморфности ► Так как в С1 любая область является областью голоморфности, а поликруговые области —это произведения плоских областей, то мы имеем Следствие. Любая поликруговая область из Сл является областью голоморфности. В частности, произведение D двух плоских областей Dx и D2, из которых по крайней мере одна, скажем Db не выпукла, является областью голоморфности, хотя D и не выпукла. В следующем пункте мы введем обобщенное понятие выпуклости, которое менее наглядно, чем обычное, но зато дает необходимое и достаточное условие для областей голоморфности. 28. Голоморфная выпуклость. Так как линейные функции принимают постоянные значения на плоскостях, то выпуклую оболочку множества МсСл можно описать как множество ЛГ={г°е=С»: |/(z0)Ksup |/(г)|}, /п где неравенство справедливо для всех (С- или R-) линейных функций /. Мы хотим обобщить понятие выпуклой оболочки, распространив его на произвольное семейство F функций (действительных или комплексных), определенных в области D а С". Определение 1. F-выпуклой оболочкой множества М a D называется совокупность точек ^={e°sD: |/(г°)|<8ир|/(г)|Ь (2) где неравенство справедливо для вс.ех функций f ef. Определение 2. Область D называется F-выпуклой, если для любого множества /С, компактно принадлежа-
§ И] ОБЛАСТИ ГОЛОМОРФНОСТИ 159 щего D, его ^-выпуклая оболочка также компактно принадлежит D: KeD=$KFeD. (3) Форма, в которой принято определение 2, позволяет устанавливать F-выпуклость области, не выходя за ее пределы. Это существенно, когда F состоит из функций, определенных лишь в области D. Ясно, что в случае, когда F состоит из линейных функций, /^-выпуклость совпадает с обычной (геометрической) выпуклостью (см. рис. 30, где показано, как невыпуклость области влечет за собой нарушение условия (3)). В теории функций особо важную роль играет голоморфная выпуклость, когда F = 0(D), а также полиномиальная выпуклость, когда F представляет собой совокупность всех полиномов Р (г). Рис 30, Полиномиально выпуклую оболочку множества М мы будем обозначать через MPi а голоморфно выпуклую —через м^. Рассматривается и понятие выпуклости, связанное с другими классами F, например совокупностью всех рациональных функций или всех мономов (т. е. кратных степеней zk = zkl1 ...гМ. Очевидно, чем шире класс F, тем для большего множества функций требуется выполнение неравенства (2) и поэтому тем уже F-выпуклая оболочка множества и, следовательно, тем шире класс ^-выпуклых областей. В частности, всегда М cz М@ с: Мр а М, т. е. все выпуклые области являются полиномиально выпуклыми, все полиномиально выпуклые — голоморфно выпуклыми. Примеры. 1. Проиллюстрируем описанное включение в плоском случае. Любая область D сг С1 является голоморфно выпуклой, а полиномиально выпуклыми будут лишь области со связным дополнением в С1 (докажите!). Класс геометрически выпуклых областей уже класса полиномиально выпуклых. Образно говоря, переход к полиномиальной оболочке плоской области сводится к заклеиванию в ней «дыр», а к (геометрически) выпуклой оболочке—еще и к заклеиванию «выемок» вблизи границы.
160 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III 2. Любой аналитический полиэдр n«{Z€=D: |lFv(z)|<lf v=l, ...,#} (см. п. 16), где функции Wv ^0 (D), является выпуклым относительно класса 0(D). В самом деле, если К (§ П, то для любого v=l, ..., N имеем l|^v||/<-^/* < 1- По определению ^-выпуклой оболочки sup | Wv (г) | ^ sup I Wv(z) | ^ r, а отсюда следуют, что и ^ (g П Условие выпуклости относительно, любого семейства функций Fa 0(D) оказывается достаточным для того,, чтобы D была областью голоморфности. Теорема 1 (Картан и Туллен). Если область ОсСл выпукла относительно какого-либо класса F а © (D), то она является областью голоморфности1). < Доказывается вполне аналогично теореме о барьере из предыдущего пункта. В качестве Е надо взять счетное всюду плотное на 3D множество и занумеровать его указанным там способом. Компакты Kv строятся также по индукции, только точки zv и функции Д, выбираются из других соображений: в силу F-выпуклости области D оболочка (^v)f^D, поэтому найдется точка 2'vgD, |2V — £V|< —, и функция gve=F так, что | gv (zv) | ^ || gv_||/cv, и мы полагаем /v (г) = = ппг (v=l> 2, ...). Конец, доказательства сохраняется, II Sv I! и функция оо v = l голоморфна в D и неограниченно возрастает при приближении ко всем точкам" Я, т. е. D является ее областью голоморфности ► Самое сильное утверждение мы получим, если выберем в этой теореме F = 0(D): г) Выбирая в качестве F совокупность линейных функций, полу-» чим теорему 3 предыдущего пункта,
§ 11] ОБЛАСТИ ГОЛОМОРФНОСТИ 161 Следствие. Всякая голоморфно, выпуклая область является областью голоморфности. Ясно, что для получения необходимых условий для области голоморфности на класс F надо наложить дополнительные условия (например, если F —совокупность всех линейных функций, то F-выпуклость сводится к обычной выпуклости, а она, как мы видели, не является необхо* димой). Мы предположим, что класс F является устойчивым по отношению к дифференцированию, короче, d- устойчивым, т. е. вместе с Любой функцией f содержит и любую производную Dkf = -^-. Минимальным d-устойчивым классом, содержащим функцию /, является, очевидно, {Dkf\ £i^0, ..., kn^0}, максимальным —все множество 0 (D). Для оболочки относительно таких классов справедлива следующая важная теорема об одновременном продолжении. Теорема 2 (Картан'и Ту л лен). Пусть К <^D и р = р (/С, dD) — расстояние в поликруговой метрике от К до границы D. Какова бы ни была точка а, принадлежащая выпуклой оболочке множества К относительно d-устойчивого класса F, любая функция f ^F голоморфно продолжается в поликруг U (а, р). Существенно, что U (а, р) может выходить за пределы области D (см. схематический рис. 31); радиус этого поликруга не зависит от индивидуальной функции f gF и определяется лишь расстоянием множества К до dD. А Так как agD, то любая функция fgF в окрестности а представляется рядом Тейлора Рис. 31. где ck = T\Dkf\a. Но так как ае то 6 Б, В. Шабат, ч. 11 -а)\ (4) Кр и класс d-устойчив, Ю*/1а<Р*/|к. (5)
162 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III т. е. оценка производных в точке а сводится к их оценке на К. Выберем число г<ри через Кг обозначим г-раздутие множества К (т. е. объединение всех поликругов £/(г, г), ге/Q. Так как Kr(^D, то / ограничена на нем, мы обозначим Mf(r) = \fUr. (6) Если ге/С, то U (г, г) с:/С, и для оценки производных в правой части (5) мы можем воспользоваться неравенствами Коши (п. 5) Теперь выберем любое гг<Сг; для произвольной точки г^U(а, гг) умеем \С1г(г-а)ь\^М((г)(^у\ (7) откуда видно, что ряд (4) сходится в поликруге U (а, гг). Так как числа г и гг можно выбрать сколь угодно близкими к р, то (4) сходится всюду в (/(а, р). Этот ряд и дает нужное голоморфное продолжение функции / ► Доказанная теорема сразу приводит к необходимости F-выпуклости для областей голоморфности в следующей форме. Теорема 3. Пусть D — область в €л и Fa:0(D) — класс, содержащий координаты гь ..., zn и d-устойчивый. Если D является областью голоморфности функции f eF, то она F-выпукла. < Возьмем произвольное множество К ^D и обозначим р = р(/С, dD). Так как на KF все координаты zv принимают значения, не превосходящие по модулю их значений на /С, то Kf — ограниченное множество. По теореме 2 функция f продолжается в р-раздутие множества /(V, а так как f по условию не продолжаема за пределы D, то это раздутие принадлежит D и, значит, Kf<^D ► Замечание. Если область D ограничена, то для справедливости теоремы достаточна лишь d-устойчивость класса F. В общем случае это не так: пусть D = {ee(D2: |2i|<l}, / — модулярная функция переменного г& (см. п. 42 ч. I), a F состоит из / и всех ее произвол
§ и] ОБЛАСТИ ГОЛОМОРФНОСТИ 163 ных. Область D является областью голоморфности функции /, но она не ^-выпукла (например, для бикруга АГ = 4 | 2Х | ^ -—-, | г2 | ^ ^ I оболочка kF= \г е О2: | гх | ^ ~Л не принадлежит компактно D). Выбирая в теореме 3 класс F = 0(D) и объединяя ее со следствием теоремы 1, получим окончательный результат: Теорема 4. Условие голоморфной выпуклости области необходимо и достаточно для того, чтобы она была областью голоморфности. К сожалению, это условие не является столь наглядным и эффективно проверяемым, как условие геометрической выпуклости. В следующем параграфе мы дадим другую его трактовку, основанную на теории субгармонических функций. Эта трактовка, пожалуй, более геометрична, и, кроме того, она приведет к некоторым эффективным критериям для областей голоморфности. Сейчас мы приведем еще одну формулировку условия .Р-выпуклости, наложив на рассматриваемые классы дополнительное ограничение. Именно, мы будем считать, что класс F устойчив по отношению к возведению в степень, короче, р-устойчив, т. е. вместе с каждой функцией / содержит и любую ее натуральную степень fm (примерами являются ®(D), класс полиномов и др.). Для таких классов теорему об одновременном продолжении можно несколько усилить: Лемма. Пусть К ш D, р = р (/С, dD), af~ произвольный класс, одновременно р- и d-устойчивый. Тогда для любой функции f gF и любой точки a^I(F lfh{a.r)^lf\Kr9 (8) где г < р — произвольное число и Кг — раздутие множества К. 4 Пусть гг<г и точка z^U(a, г{); тогда ряд Тейлора (4) функции / с центром в точке а сходится в точке г и для каждого его члена' справедлива оценка (7): 6*
164 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Из нее следует, что \f(z)\<Mt(r) | (й)\..(а)*-влМг)(^)*. (9) 1*1 = 0 Применяя это неравенство к функциям fm (m=l, 2, ...), принадлежащим классу F в силу его р-устойчиво- сти, получим \f{Z)r^{Mf{r)}rn[-^\ Теперь извлечем корень m-й степени и устремим т->оо; будем иметь \f(z)\^.Mf(r). Но здесь z можно считать произвольной точкой из U (а, г), a Mf(r), согласно (6), совпадает с правой частью (8) ► Следствие. В условиях и обозначениях предыдущей леммы (KFy[)Dcz(i?)F. (10) « Любая точка г, принадлежащая левой части (10), принадлежит и поликругу U (а, г) с центром ае/(ь поэтому, согласно (8), для любой /sf имеем |/(г)|^ «^Ц/Цдг; это и означает, что z принадлежит F-выпуклой оболочке множества /С ► Критерий F-выпуклости в сделанных предположениях о классе можно сформулировать так: Теорема 5. Для того чтобы область D а (С* была выпуклой относительно некоторого класса F, одновременно р- и d-устойчивого, а также содержащего все координаты zv, необходимо и достаточно, чтобы для любого множества КшЭ р(*л dD) = p(K,dD). (11) « Достаточность условия (И) очевидна. Для доказательства необходимости обозначим левую часть (11) через г, а правую через г. Очевидно, г ^г; если бы было г < <С г, то мы имели бы lO <gD. В силу компактности множества Kf (см. доказательство теоремы 3) оно содержит точку а, для которой р(а, dD) = r. Поэтому поликруг U (а, г) касается границы dD и не может компактно при-
§ 11] ОБЛАСТИ ГОЛОМОРФНОСТИ 165 надлежать D. Но U (а, г), согласно лемме, содержится в (Kr)F' Таким образом, оболочка Кг некомпактна в D, а это противоречит F-выпуклости области ► Мы получили новую характеристику областей, выпуклых относительно одновременно р- и d-устойчивых классов (в частности, голоморфно выпуклых). Это такие области, в которых переход от компактных подмножеств к их F- выпуклым оболочкам происходит без уменьшения расстояний до границы. Образно говоря, такой переход состоит в заклеивании «дырок» и «впадин», имеющихся в подмножествах. 29. Свойство областей голоморфности. Области голоморфности в €* — это голоморфно выпуклые области. Мы приведем несколько их свойств, обобщающих известные свойства выпуклых областей. Теорема 1. Пусть Da, а е А, — произвольное семейство областей голоморфности в С* и G= |"| Da — ux пе- ресечение. Каждая связная компонента D открытого ядра G является областью голоморфности. < Пусть i(<eD; так как каждая функция из © (Da) голоморфна и в D, то © (D) :э © (Da) и, следовательно, К@т <= K0(Da) для всех аеА Поэтому р (K^(D)» dDa)^ ^P(K0(Da)> dDa), и, значит, в силу голоморфной выпуклости Z)a, для всех aG/4 имеем p(/C^(D), dDa) ^ ^ р (Ку dDa) ^р(/С, dD). Если бы D не была областью голоморфности, то для некоторого К было бы p(/C^(D), dD)< <р(/С, dD), и тогда нашлась бы Da, для которой Р(К©Ф)> dDa)<:p(K, dD), вопреки доказанному ► В отличие от пересечения, объединение областей голоморфности не обязано быть такой же областью (ср. соответствующие свойства выпуклых областей). Это видно из простого примера: {| гг | < 1, | z2 | < 2} и {| гг \ < <2, |г2|<1} являются областями голоморфности в С2, а их объединение— нет (это доказано в п. 7). Однако для объединения возрастающей последовательности областей голоморфности (как и для выпуклых областей) утверждение справедливо. Для его доказательства нам понадобится теорема, имеющая и независимый
166 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ ^ , [ГЛ. III интерес,— она является обобщением теоремы Рунге из п. 23 ч. I. Теорема 2 (Ока — Вейль). Пусть D — произвольная область из С* и K^D — компакт, совпадающий со своей выпуклой оболочкой относительно класса (8 (D): *=>W (1) Тогда любая функция /, голоморфная на К (т. е. в некоторой его окрестности) приближается равномерно на К функциями из 0(D). < Пусть / голоморфна в окрестности U aD компакта К и V <mU — другая окрестность /О По определению оболочки для любой точки t,^dV найдется функция Wt(z)<=0(D) такая, что \Wl(Z)\>l>\Wl\\K. Так как dV — компакт, то существует конечное число функций Wij^Wj (/=1, ..., N) таких, что max | Wf(Q |> 1 для всех iz-dV, а \\Wf\\K<L Рассмотрим теперь аналитический полиэдр П = |геУ: |№,.(г)|<1, /=1, ..., N], (2) содержащий К и компактно содержащийся в V. Функция / голоморфна в окрестности П и, следовательно, по теореме Вейля (п. 16) равномерно на К приближается функциями из © (D) ► Замечание. При п=\ условие (1) означает, что компакт К не разбивает области D, если она односвязна. Отсюда видно, во-первых, что это условие существенно и, во-вторых, что теорема 2 действительно обобщает теорему Рунге. Следствие. Любая связная компонента оболочки K@,D) произвольного компакта КшЭ имеет с К непустое пересечение. < Пусть Я —связная компонента K@{D) и Е(]К==ф. Тогда найдутся непересекающиеся открытые множества UzdK и VzdE такие, что k@{D) a U[) К. Рассмотрим голоморфную на U [) V функцию /, которая равна 0 на U и равна 1 на V. По теореме 2 найдется g^@(D) такая,
§ 1Ц ОБЛАСТИ ГОЛОМОРФНОСТИ 167 что И/ — gift ал <"2"' В частности, для любой точки г° е е£ мы имеем 1*(*°)1>т>11*к. а это противоречит тому, что Е а К@ф) ► Перейдем к доказательству теоремы, о которой говорили выше. Теорема 3 (Бенке —Штейн). Объединение D возрастающей последовательности Die£>ae...sDve... (3) областей голоморфности также является областью голоморфности. 4 Сначала заменим Dv ограниченными областями. Для этого фиксируем точку аЕ^ и обозначим через Dv связную компоненту открытого множества Dv П {| z — а | << v}, содержащую а, — по теореме 1 Dv — области голоморфно- ности и, очевидно, по-прежнему Dv<^Dv+i nD=[)Dy. Далее, из последовательности Dv выберем подпоследовательность DfPv = Gv так, чтобы для всех v=l, 2, ... удовлетворялось условие sup р(г, dGv+1)<Р(Gv-ь <5GV+1). (4) Возможность такого выбора докажем по индукции. Положим Gx = Di и выберем р2 столь большим, чтобы для G2 =; = Dp2 было sup р (г, dD) << р (Gb dD); после этого выби- z<=dG2 раем р3 так, чтобы граница области G3 = DPs была столь близкой к dD, что в последнем неравенстве dD можно заменить на dG3: sup р(г, dG3)<p(Gx, dG3). Пусть выбор сделан для всех натуральных чисел, меньших v; выберем pv так, чтобы для GV = D'P было sup р(г, dD)<p(Gv_b 3D), (5) *edGv а затем выберем pv+1 так, чтобы D^v+1 = Gv+i была столь близкой к dD, что в последнем неравенстве 3D можно заменить dGv+i, — мы получаем (4).
168 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Так как Gv_i(^Gv+i и Gv+1 (как область голоморфности) выпукла относительно класса ^(Gv+i), то по теореме 5 предыдущего пункта для оболочки G^_i = (Gv-i)^(Gv+i) имеем p(GJ_i, dGv+i) = p(Gv_i, dGv+1). (6) Но из (4) следует, что для любой точки а е dGv р(а, (9Gv+i)<р(Gv_i, dGv+1), т. е. dGv не пересекается с G*-i. Согласно следствию теоремы 2 отсюда вытекает, что G*_i <s=Gv, v=l, 2, .... (7) Нам нужно доказать голоморфную выпуклость области D. Для этого фиксируем произвольный компакт К ^ <cD, обозначим г = р(/С, dD) и покажем, что k^{D)cz CJ2GD: р(г, dD)^= г} = Dr — этим все будет доказано. Пусть a^D\Dr — произвольная точка и гх = р (а, dD) < <r. Тогда найдется |х>1 такое, что К {) {a} cz G^ и р(а, 3G^)<p(/C, dG^). По теореме 5 п. 28 отсюда следует, что а не принадлежит Кр= k@(G )» и> зна™т, найдется функция /о^^(Сц) такая, что |fo(a) | >||/ок- Домножая ее на подходящую постоянную, мы можем считать, что |Ма)|>с+1, а |/о|к<*-1, (8) где с>1. Согласно (7) функция /0 голоморфна в окрестности GJI_-i = (GM/_i)(^(G +lj и по теореме 2 ее можно равномерно на GjUi приблизить функциями из ^(G^i), т. е. найдется функция fa е 0 (G^i) такая, что Ц/i —/0||с* < 1 ^_1 <у. Далее будем действовать по индукции: предположим, что построены функции fj^0 (G^+j), 1^/^й, для которых Так как, согласно (7), функция fk голоморфна в окрестности GJt+л—it то по теореме 2 найдется функция /wg ^0 (Gfl+k+i), для которой выполняется условие (9) с / = ^= k+1 — существование последовательности /у доказано.
§ И] ОБЛАСТИ ГОЛОМОРФНОСТИ 169 По построению для любого k^O ряд ' оо /*+ S tf/-//-!> (1°) состоит из функций, голоморфных в G^, а на G1+k-\ он сходится равномерно. Так как его сумма /, очевидно, не зависит от &, а множества G^+fc-i исчерпывают область D, то f^@(D). Кроме того, в силу (8) оо \f(a)\^\fo(a)\"Z\ff-ff-i\>^ /=i 00 1/к<1/ок+2 /=1 I//-//-1I следовательно, афК@фу Так как а —произвольная точка из D \.£>г, то К@ф) a Dr ► В заключение докажем простой, но важный факт, устанавливающий инвариантность областей голоморфности относительно биголоморфных отображений. Теорема 4. Если D cz €п — область голоморфности и D* — ee образ при биголоморфном отображении ф, то D* также является областью голоморфности. 4 Пусть /C*(^D*, тогда в силу гомеоморфности <р и множество /С = ф-1(/(*) c=D, а так как D —область голоморфности, то K0{D)<^D. Легко видеть, что . <P(£0(D))=3#!b<DT О1) В самом деле, если некоторая точка w еО*\ф(^(£))), тоz = ф"1 (о;)eD\К и найдется функция f ^0(D) такая, что |/(г) |>||/||/с; обозначим g = f • ф-1 очевидно, gG^(D*) и |g(^)l>llg|W*> а эт0 означает, что weD*\Rfe{D,)9 Из K0{D)<^D заключаем, что ф (K<@{D)) eD*, и по (11) ^^(D+)(sD*. Таким образом, D* голоморфно выпукла и, следовательно, является областью голоморфности ►
170 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III § 12. Псевдовыпуклость Здесь мы познакомимся с другой трактовкой понятия голоморфной выпуклости, которая имеет два существенных достоинства: во-первых, это понятие можно сформулировать локально (и в таком виде оно легче проверяется), и, во-вторых, оно естественно выражается в геометрических терминах. 30. Принцип непрерывности. Начнем еще с одной теоремы о принудительном аналитическом продолжении. Для ее формулировки условимся называть m-мерной голоморфной поверхностью S в пространстве Сл образ некоторой области Д си Ст (/я < я) при невырожденном голоморфном отображении <р: Д->С* (1) (при т=1 это — голоморфная кривая). Напомним, что отображение (1) называется невырожденным, если во всех точках А ранг матрицы Якоби (-^Ч равен т. Поверхность (1) называется ограниченной, если множество S = = ср (А) ограничено в С". Для ограниченных голоморфных поверхностей справедлив следующий принцип максимума модуля. Если функции f голоморфна в некотором открытом множестве U с Ся, содержащем ограниченную голоморфу ную поверхность S, и непрерывна в ее замыкании S (в топологии Сл), то sup |/|^ sup |/|, (2) £ dS где dS = 5\S. В самом деле, если в какой-либо точке 6eS достигается sup |/|>sup |/|, то найдется точка as 3" dS е Ф"1^) с£ А, в которой модуль голоморфной в А функции /оф достигает максимума. Но тогда / = const на 5, а это противоречит выбору точки Ъ. Далее назовем последовательность [множеств Му сходящейся к множеству М (обозначение: MV->M), если для любого е]>0 найдется номер v0 такой, что при всех v ^ v0 MvczM{e) и MczMf, (3)
§ 121 ПСЕВДОВЫПУКЛОСТЬ 171 где через М(8) и М^е) обозначены е-раздутия соответствующих множеств (т. е. объединение всех поликругов U (г, 8) с центрами в точках множеств). Теорема (Бенке — Зоммер). Пусть Sv — последовательность ограниченных голоморфных поверхностей, принадлежащих вместе с границами dSv области D с: С". Если Sv сходится к некоторому множеству S, a dSv — к множеству Г и T<^D (рис. 32), то любая фукщия f е ® (D) голоморфно продолжается в некоторую окрестность множества S. Л Так как Г^О, то существует область G<mD такая, что Рис. 32. TmG; обозначим p(G, dD) = r. В силу сходимости dSv->T найдется такое v0, что при dSvaG. . (4) Для любой f ^0(D) и любой точки zeSv по принципу максимума модуля имеем 1/(2) KI/K. а отсюда в силу (4) при v^v0 получаем Но это означает, что z, а следовательно и вся поверхность Sv при v^v0, принадлежит выпуклой оболочке GtfiD). По теореме об одновременном продолжении (п. 28) отсюда следует, что любая функция f ^0(D) голоморфно продолжается в г-раздутие Sy} всех поверхностей Sv с номерами v^=v0. Наконец, в силу сходимости Sv-+S найдется такое Vi^v0, что SczSv/2) при всех v^vb и, следовательно, любая f^0(D) голоморфно продолжается в у-раздутие множества S ► Замечание. Как видно из доказательства, в теореме Бенке —Зоммера класс 0(D) можно заменить
172 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. Щ классом функций, голоморфных лишь в пересечении D о некоторой окрестностью предельного множества 5 (J Г. _ Теорему Бенке —Зоммера называют принципом непрерывности1). Описательно говоря, она состоит в том, что свойство функции быть голоморфной в окрестности голоморфных поверхностей Sv сохраняется и для предельного множества S этих поверхностей. В качестве примера применения принципа непрерывности приведем доказательство одной леммы, которая понадобится нам в следующем параграфе при изучении продолжения функций, голоморфных в трубчатых областях. Лемма. Пусть х°, х1, х2 — три точки пространства Un(x), не лежащие на одной прямой, 1Х = [л;0, л:1] и /2 = = [л;0, х2] — замкнутые отрезки, а А = А1*2 — замкну- тый треугольник. Если функция f голоморфна в окрестности множества {h (J /2) X xRn(y), то она голоморфно продолжается в окрестность множества ДхКя(#). Иными словами, всякая функция /, голоморфная в окрестности объединения двух граней трехгранной призмы (рис. 33), непременно продолжается голоморфно в окрестность всей призмы. < Без ограничения общности можно считать, что я0 = = (0,0 0), ^ = (1, 1,0,..., 0), х2 = (-1, 1, 0, ...,0), ибо этого можно достичь линейным преобразованием пространства Сл(г) с действительными коэффициентами2). Достаточно доказать, что / голоморфно продолжается в любую точку а множества M = AxRn(y). Можно считать, что а лежит в пересечении М с действительным под- Рио. 33 1) Частный случай теоремы Бенке —Зоммера, когда Sv являются замкнутыми подмножествами комплексных прямых 'г — 'а^ и S— таким же подмножеством прямой 'z = 'a= lim 'ov> был доказан еще V-*-00 Хартогсом и называется теоремой Хартогса о непрерывности 2) Такое преобразование переводит Rn (х) в себя и не нарушает ни условий, ни утверждения леммы.
121 ПСЕВДОВЫПУКЛОСТЬ 173 пространством {у = 0}, т. е. в треугольнике А (этого можно достичь сдвигом на вектор с чисто мнимыми координатами). Итак, нужно доказать, что / продолжается голоморфно в любую точку а={аъ а2, О, ..., 0), где al9 а2 — действительные числа, удовлетворяющие условию | ^ |<а2 ^ 1 (при нашем расположении осей это условие того, что а е е A\(/i U к)> при а е lx U k голоморфность f уже предположена). Для доказательства проведем через точки х1, а я х2 параболу х2 = ах\ + р (5) для этого надо взять а = 1—02 1-af и р = 1—а; при а2=1 парабола выродится в прямую х2=\\ и для любого /, 0<^^р, рассмотрим голоморфную кривую A=|zeM: z2 = az\ + t, г3 = ... = гл = 0}. (6) Переменное z± мы рассматриваем как параметр на St. Чтобы доказать ограниченность S,, достаточно показать, что при z е St значения z1 меняются в ограниченной области плоскости г±. Но проекция St на плоскость zi определяется условием (Reziy Rez2, 0, ...,0)е= (Г е Д, которое записывается в виде \хг\<а(4-у1)'+ + '<1 (7) и выделяет ограниченную область, заключенную между гиперболами j_ а -~jcroc(xf-yt2)H \М *пФН№ [Х1±ш -У1-А&— У/ Рис. 34. (заштрихована на рис. 34). Заметим еще, что кривые St при 0<^^р пересекают Rn(x) по принадлежащему А отрезку параболы x2 = ax\ + t, (8) параллельной параболе (5) (изображена пунктиром на рис. 33).
174 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Обозначим через Е множество t е (0, р] таких, что / голоморфно продолжается в окрестность St; это, очевидно, открытое множество. Оно непусто, ибо при достаточно малых / > О область (7) изменения гь как видно из рис. 34, лежит в сколь угодно малой окрестности точки гг = 0 и, следовательно, S^ —в сколь угодно малой окрестности точки 2 = 0, где / по условию голоморфна. Но множе- жество £ в то же время и замкнуто. В самом деле, если /0^(0, р] —предельная точка Е, то существует последовательность S^v->5^o, tv^E, при этом dStv-*dSto и/ голоморфна в окрестности всех S*v и dStQ (заметим, что dSt при любом / е (0, р]# принадлежит множеству {1Х U /2) X хКл(#), где / голоморфна по условию). Мы можем, следовательно, применить принцип непрерывности (см. замечание после его доказательства) и заключить, что t0^E. Таким образом, Е = (0, р], и, значит, / голоморфно продолжается в окрестность 5р, но Sp содержит точку #► 31. Выпуклость в смысле Леви. Принцип непрерывности гарантирует возможность голоморфного продолжения функции из области D в окрестность множества 5, которое можно приблизить голоморфными поверхностями SvczD. Мы придем к новому аспекту выпуклости, если потребуем невозможности применения этого принципа: Определение. Область DcC* называется выпуклой в смысле Леви (короче, L-выпуклой) в граничной точке £, если, какова бы ни была поверхность 5, содержащая £ и такая, что dSczDj то для любой последовательности ограниченных голоморфных поверхностей 5V: SV-*S, dSv-+dS, (1) найдется номер v0, начиная с которого все 5V содержат точки, не принадлежащие D. Область D называется L- выпуклой, если она L-выпукла в каждой своей граничной точке. Из принципа непрерывности следует, что L-выпуклость является необходимым условием для областей голоморфности. (В самом деле, если D не является L-выпуклой, то найдется точка £ &dD и поверхность Ss £, dS с D, а также последовательность ограниченных голоморфных поверхностей Sv такая, что 5v->5, dSv-+dS, а тогда по принципу непрерывности любая / <=@ (D) голоморфно
§ 121 ПСЕВДОВЫПУКЛОСТЬ 175 продолжается в окрестность точки £.) В дальнейшем будет доказано, что L-выпуклость и достаточна для областей голоморфности, так что она характеризует эти области подобно голоморфной выпуклости. Однако L-выпуклость обладает существенным преимуществом перед голоморфной выпуклостью, ибо она допускает эффективную проверку. Это связано с тем, что понятие L-выпуклости является локальным —его можно формулировать для окрестностей граничных точек области. В соответствии с этим можно локализовать и понятие области голоморфности. Определение. Область D называется не расширяемой голоморфно в граничной точке £, если существует окрестность U% этой точки и функция fy голоморфная на открытом множестве U^(]D и не продолжаемая голоморфно в точку £. Каждая область D, не расширяемая голоморфно в граничной точке £, будет, конечно, и L-выпуклой в этой точке. Ясно, что любая область голоморфности не расширяема голоморфно ни в одной точке dD. Еще в 1911 г. Э. Леви поставил обратную задачу: Проблема Леви. Является ли область D, не расширяемая голоморфно ни в одной точке границы, областью голоморфности? Главная трудность в этой проблеме состоит в переходе от локального свойства к глобальному. Если D не расширяема голоморфно в точке £ е AD, то существует локальный барьер—функция fi(z), голоморфная в Uif]D и не продолжаемая голоморфно в точку £. Но как из таких локальных барьеров построить глобальный барьер, т. е. функцию, голоморфную во всей области D и не продолжаемую в £? Эта трудность была преодолена лишь в 1954 г. К. Ока, который доказал, что проблема Леви решается положительно для любой области Da€n. О решении этой проблемы будет говориться в следующей главе. Приведем простое достаточное условие голоморфной нерасширяемости, а следовательно, и L-выпуклости. Теорема 1. Если области D в некоторой граничной точке £ можно коснуться извне1) аналитическим множе- х) Это означает, что £ е Ах но A(\D.= 0*
176 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III ством Л = {г£U^i f (z) = 0}, то D голоморфно нерасши* ряема в точке £. < Достаточно заметить, что / голоморфна и не обращается в нуль в U^OD, следовательно, 1// голоморфна в U^(]D и не продолжается голоморфно в точку £ ► Заметим, что если в этой теореме заменить / функцией R-линейной, то А будет опорной гиперплоскостью, и мы получим признак геометрической выпуклости. Чтобы сформулировать критерий L-выпуклости области D в граничной точке £, предположим, что в окрестности U% эта область задается условием D()Ui = {2<=Ut: Ф(г)<0}, (2) где ФеС»(1/с) и V^ = (-gL, ..., ^\ф0. Тейлоровское разложение ф в точке £ имеет вид V(z) = 2ReLz(z) + 1ReKl(z) + -jHz(z) + o(\z--Z\2), (3) где дер v=l п И, v = н^= 2 ^L^-w^-w (4) (все производные берутся в точке £, свободный член Ф (£) = 0, и о (1£ — г.)2) обозначает малую выше второго порядка при z->•£). Для получения (3) достаточно написать обычное тейлоровское разложение по переменным zlf zb ..., z„, zn и заметить, что так как функция ф действительна, то ^s я »7Твт» . поэтому группы членов разло- ctev Vctey/ ctev \ ozv j жения по переменным 2V комплексно сопряжены соответствующим группам по zv и в сумме дают удвоенные действительные части (это замечание относится к первому и второму слагаемым формулы).
§ 121 ПСЕВДОВЫПУКЛОСТЬ 177 Особую роль играет эрмитова форма Н^ (г), которая называется формой Леей или комплексным гессианом функции ср в точке £х). Как видно из следующей теоремы, эта форма —точнее ее сужение на комплексную касательную плоскость T{(dD) = {L^(z) = 0} — характеризует выпуклость в ^смысле Леви подобно тому, как второй дифференциал характеризует геометрическую выпуклость. Теорема 2. (Леви —Кшоска). Пусть область DaQun в окрестности U^ точки £ е dD задается условием (2), где феС2((/^) и V^=^=0. Если сужение формы Леви Hi(z) функции ф на комплексную касательную плоскость T = Tl(dD) положительно для всех гф£>: Яс(*)|г>0, . (5) то D является L-выпуклой в точке £. Обратно, если D является L-выпуклой в точке £, то это сужение неотрицательно: Яс(г)|г^0. . (6) < Без нарушения общности можно считать, что £ = 0 и Li(z)=~- (к этому случаю общий приводится невырожденным аффинным отображением); тогда тейлоровское разложение (3) примет вид Ф (z) = Re (Zn + K(z))+± H(z) + o(\z |2). (7) Рассмотрим аналитическое множество Л = {гЕ Сл: zn+K(z)=0}; так как Н состоит из членов второго порядка, то оно касается плоскости T = {zn = 0} в точке z = 0. Если геЛ,то г' = (гь ..., гл_4, 0)еГи |г — г'\ = = о(|г|) при 2G/1 и г->0. Так как, согласно (5), для некоторого А,>0, то H(z)^k\z' \2 — \H(z) -//(г') | = = А,|г'|2 + о(|г|2) при геЛ и г-*■(). Поэтому из (7) *) Эрмитовость формы (4) следует из того, что -г—S—=3з— для всех ц и v, ибо ф—действительная функция.
178 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III следует, что ф|а^0 для всех достаточно малых |г|, т. е. А лежит вне D. Таким образом, области D в точке г = 0 можно коснуться извне аналитическим множеством, и по теореме 1 эта область L-выпукла в г = 0. Пусть теперь не выполняется условие (6), т. е. существует вектор а^Т (с последней координатой ап = 0) такой, что Н (а) < 0. Рассмотрим голоморфную кривую S0, которая получается в сечении поверхности \zn-\-K (г) = 0} комплексно двумерной плоскостью, проходящей через ось гп и вектор а. Эту кривую можно задать при помощи комплексного параметра £ уравнениями z^lav (v-=l, ..., n-1), zn = g{l) = at? + o(\l\*) (8) (мы учли, что S0 касается вектора а в точке г = 0). Как и в первой части доказательства, получаем, что ф \s0 = = у Я (а) | £ |2 + о(|£|2). Так как у нас Я (а) <0, то теперь при достаточно малых |£|, пусть при |£|<;6, все точки кривой S0 кроме г = 0 лежат в области D. Ясно, что при достаточно малых t>0 ограниченные голоморфные кривые S/ = {'e = 'a£, zn = g(£) —tf: |£|^6} целиком принадлежат области D, a S,-^S0 и dSt-+dSQ при /->0. Согласно принципу непрерывности отсюда следует, что D не является L-выпуклой в точке 2 = 0 > Для случая /г = 2 существует еще более эффективный критерий L-выпуклости. Назовем определителем Леей дер дер | д2ф д2ф # /д\ дгг дгг dz1 dz2 ' а2ф д2у dz2 дгг dz2 дгг \ тогда имеет место Теорема 3. Пусть область D с €2 в окрестности точки t,^dD задается условием (2), где у ^С2 и Vs<p ^ 0. Если D является L-выпуклой в точке £, то в этой точке X (ф) ^> 0. Если X (ф) > 0 в точке £, /по область L-выпукла в этой точке. *(Ф) = - 0 дф дф
§ 121 ПСЕВДОВЫПУКЛОСТЬ 179 4 Заметим, что в частном случае L(z) = y, к которому общий приводится невырожденным аффинным преобразованием (как в предыдущей теореме), имеем #(Ф)=- ФГ1 ФГ2 Ч>21 Я>28 = ТФп [^ ~ dj/dtJ и теорема сводится к предыдущей, ибо здесь Н \т = Ф^ | z112. Для доказательства в общем случае достаточно заметить, что при биголоморфном отображении z-*Z определитель Леви преобразуется по следующему закону: #(Ф) = ,3?(Ф) д(гъ г2) d(Zlt Z2) (10) где <D(Z) = (p(z) (тождество (10) проверяется прямой выкладкой) ► Примеры. 1. Пусть основание В трубчатой области D = Bx X R2 (й из С2 ограничено кривой ф = jc2—ij? (а;1)=0. Заменяя х2 — *2 + Ч „ *! + *! *x = - J?(q>) = - -t вычисляем определитель Леви: 1 г|/ -у*' —у** 2 0 0 — И*'- Отсюда видно, что L-выпуклость таких областей сводится к обычной выпуклости. 2. Для областей Рейнхарта из С2 с границей qp = | z2|— г|э (j 2ГХ |) = 0 <S?(q>) = - ф rf2 In ф 16/"? (rflnrx)2 (мы положили г1—\г1\). L-выпуклость таких областей сводится, следовательно, к логарифмической выпуклости, так как г|э = |г2|^0. 3. Для областей Хартогса из О2 с границей <р = | z21— ^(2i) = 0 где А — оператор Лапласа. Условие L-выпуклости сводится к субгармоничности функции — In if (см. задачу 8 из Добавления к ч. I).
180 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III 32. Плюрисубгармонические функции. Как видно из последнего примера, L-выпуклость областей Хартогса из С2 сводится к субгармоничности функций, их определяющих. Оказывается, что вообще существует глубокая связь L- выпуклости областей при я = 2 с субгармоническими, а при п>2 с их обобщениями, так называемыми плю- рисубгармоническими функциями. Приведем их определение и простейшие свойства. Определение 1. Действительная функция ф, —оо^ ^ Ф << оо, определенная в окрестности точки г° е Сл, называется полунепрерывной сверху в этой точке, если для любого е>0 найдется 6>0 такое, что Ф(г) — ф(г°)<е, если <р(г°)Ф — оо, (Ф(2) 11 ■*°|<6zz>{ i (1) ф(2)<—7"» если ф(г°) = —оо, или, иначе, если Нт<р(г)<ф(г°). (2) 2-*»Z° Функция ф называется полунепрерывной сверху в области D с ©л, если она полунепрерывна сверху в каждой точке z°^D (для этого необходимо и достаточно, чтобы для любого ае(—оо, оо) множество меньших значений (zgD: ф(г)<а} было открытым). Полунепрерывные функции со стороны больших значений ведут себя как непрерывные. В частности, на компактах KmD такие функции ограничены сверху и достигают своих наибольших значений (ограниченность снизу и достижение наименьших значений не обязательны). Совершенно аналогично вводятся полунепрерывные снизу функции, которые ведут себя как непрерывные, так сказать, со стороны меньших значений. Определение 2. Функция ф: D->[—оо, оо) называется плюрисубгармонической в области D с Ся, если: 1) она полунепрерывна сверху в D и 2) для любой точки г°еОи для любой комплексной прямой г = / (£) = z°-f со£, где со е Сл, £ е С, сужение ф на эту прямую* т. е. функция фо/(£), является субгармонической на открытом множестве {£е=€: /(£)e=D}. Плюрисубгармонические функции связаны с голоморфными функциями нескольких переменных так же, как
§121 ПСЕВДОВЫПУКЛОСТЬ 181 субгармонические с функциями одного переменного: для любой функции /, голоморфной в области D а €п, функция Ф (г) = In |/(z)| (3) является плюрисубгармонической в этой области. В самом деле, ф, очевидно, полунепрерывна сверху в D, а так как сужение/ на любую комплексную прямую г = / (£) является голоморфной функцией от £, то сужение ф на эту прямую ф • I (0 = In | / • / (£) | — субгармоническая функция. В частности, если f=£Q в D, то функция (3) плюригармонична. Из определения видно, что свойства плюрисубгармо- нических функций просто сводятся к свойствам функций субгармонических. В частности, из теорем, доказанных в Добавлении к ч. I, непосредственно получаются следующие утверждения: Г. Если плюрисубгармоническая в области D функция ф достигает локального максимума в некоторой точке 2°eD, то она постоянна в D. 2°. Функция, плюрисубгармоническая в некоторой окрестности каждой точки, z° е D, является плюрисубгармонической в области D. 3°. Если верхняя огибающая Ф (z) = sup фа (г) аеЛ семейства функций фа, аеЛ, плюрисубгармонических в области D, полунепрерывна сверху в D, ;го она является плюрисубгармонической в этой области. 4Q. Для того чтобы функция ф, полунепрерывная сверху, была плюрисубгармонической в области D, необходимо и достаточно существование для каждой точки 2gD и каждого вектора (о£(Ся такого числа r0 = r0(z9 со), что 2л ■ф(*)~<^$Ф(* + <^0# (4) о для всех г<г0 (критерий плюрисубгармонич- ности). Для функций класса С2 можно дать более легко проверяемый критерий. Вспомним, что для субгармоничности
182 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III функции и(£), принадлежащей классу С2 в окрестности точки g0 ^ С, необходимо и достаточно, чтобы в этой окрестности был неотрицателен ее оператор Лапласа: at 0С Пользуясь правилом дифференцирования сложной функции, мы найдем, что для сужения функции ф^С2(0), DcC", на комплексную прямую г = / (0 = г° + (0?» т- е- для сложной функции и (£) = ф о / (£), д2и ' _ \ а2ф в 2 a^a^v (0^v- H,v = l Отсюда получается такой критерий: Теорема 1. Для плюрисубгармоничности функции ф, принадлежащей классу С2 в некоторой области D а С", необходимо и достаточно, чтобы в каждой точке a^D для любого вектора со е С" выполнялось неравенство п На (Ф, со) = 2 -affc L 4lSv ^ °- (5) Заметим, что эрмитова форма Яа(ф, со)— это форма Леви из предыдущего пункта. Определение 3. Действительная функция ф называется строго плюрисубгармоничной в точке а е С", если в некоторой окрестности (/эа она дважды гладкая и На(Ч>> со) > 0 для всех со=^=0. Из теоремы Леви —Кшоски сразу получается следующий результат, указывающий связь плюрисубгармониче- ских функций с выпуклостью в смысле Леви. Теорема 2. Пусть область ОсСл в некоторой окрестности U$ точки £ е dD задается условием D{\Ul = {z^Ul: Ф(г)<0}, (6) где ф — строго плюрисубгармоническая в U% функция такая, что Vф=^=0 на dD. Тогда D выпукла в смысле Леви в точке £. Перейдем к дальнейшему изучению свойств плюрисуб- гармонических функций. Умножая обе части неравенства
§ 121 ПСЕВДОВЫПУКЛОСТЬ 183 (4) на элемент площади сферы {|со| = 1} и интегрируя по этой сфере, мы найдем 2л Ф(г)а(1)^§^ [ dt I <r>(z + <Dre»)do = О {|сй| = 1}] = J у (г + иг) da, (7) {|0)| = 1} где о(\)=, ... — площадь поверхности сферы (внутренний интеграл не зависит от t). Простой заменой переменного мы получим отсюда, что для всех достаточно малых г Ф(*)<-^ К Ф(0*У, (8) {1С-г|<г> где а (г) = а (1) г2"-1 —площадь сферы радиуса г. Отсюда точно так же, как в плоском случае (см. ч. I, Доб., п. 3), выводится, что любая плюрисубгармоншеская функция в области D cz С" является субгармонической функцией 2п действительных переменных. Это означает, что для всех точек zgDh всех достаточно малых г, для любой функции А, гармоническойх) в шаре В = {£ ев Сп: | £ — z | < г\ и непрерывной в В, Ф |аа < А |д* => Ф |в < А |в. (9) Теорема 3. Среднее значение {!S-z| = r} плюрисубгармонической в окрестности точки z е С" $#я/с- t(a« ф является возрастающей функцией от г. х) Напомним, что гармонической в шаре В с: Сп называется функ« ция Л: В~>IR класса С2, которая в каждой точке 2ЕЙ удовлетвсн 2п ряет уравнению Лапласа Ah= / —- = 0.
184 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III < Согласно (7) 2л S (г) а (1) = \ dG^\v (* +fi^O dt; {|со| = 1} О следовательно, достаточно доказать возрастание среднего значения субгармонической в окрестности точки £ = О функции,«(£) = ф(г+ (о£), т. е. величины 2л О Пусть г2 > /*! и А (£) — наилучшая гармоническая мажоранта функции и в круге {|£|<г2} (см. ч. I, Доб., п. 3). По свойствам субгармонических и гармонических функций имеем тогда 2л 2л - 8 (г,) ^ — $ Л (/**) dt = ~\h (r2e«) dt = s (r2) ► О о Теперь докажем, что произвольную плюрисубгармони- ческую функцию можно аппроксимировать такими же, но бесконечно дифференцируемыми функциями. Теорема 4. Для любой функции ф, плюрисубгармо* нической в области D с С", можно построить возрастающую последовательность открытых множеств G^ (\i = 1, оо 2, ...), [J G^ — D, и убывающую последовательность функ* ц = 1 ций фм,еС00(СМ/), плюрисубгармонических в G^ сходящуюся к ф в каждой точке zgD: 4V(*)\<P(z). 4 Если ф== — оо, то в качестве ф^ можно взять последовательность ф^ (г) = — |х. В -общем случае последовательность фц строится при помощи усреднений. Возьмем функцию K{z) = lce-*=w, \г\<1, (10) I 0, |z|S*l, выбрав постоянную с так, чтобы интеграл от К по всему пространству С" равнялся 1 (фактически интеграл по
§ 121 ПСЕВДОВЫПУКЛОСТЬ 185 шару {|Е|<1}, ибо вне шара /С = 0). Эту функцию мы используем в качестве усредняющего ядра, положив ^(z)=^{z + f)K(t,)dV, (11) где dV — элемент 2п-мерного объема и интеграл берется по всему €* (фактически по единичному шару). Ясно, что каждая функция ф^ определена в —сжатии области D, т. е. открытом множестве G^ = {*€=£: е(г, dD)>±], где £ —евклидово расстояние. Ясно также, что G^dG^+i 00 для любого |х и что (J G^ — D. После замены переменных г + — ->£ интеграл (И) примет вид из которого ясно, что ф^ е С°° (G^) (в самом деле, подин- тегральная функция, а следовательно, и интеграл зависят от z бесконечно дифференцируемым образом). Пользуясь критерием, который выражается неравенством (4), легко установить плюрисубгармоничность функций ф^: для всех z е G^, со е Сп и всех достаточно малых г 2л 12л > >J/C(09(2 + ^)dK = qv(Z) (мы использовали плюрисубгармоничность ф и неотрицательность ядра К).
186 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Заменяя dV = dordr, где doy — элемент поверхности сферы {|£| = г}, а затем делая замену переменных г+ г + -ц-->£» мы преобразуем (11) к виду 1 <M*)=$tf(r)dr J <p(* + £)dar = 1 ' {..-4} * 1 ^a(l)\K(r)r^s{£jdr, (12) где S (г/fx) — среднее значение функции ф на сфере {£: | £ — z | = r/fx}. Теперь из теоремы 3 видно, что функции ф^ убывают с ростом [г. В силу субгармоничности функции ф ее среднее значение S(r/[i) ^ф(г), а так как 1 1 а (1) [К (г) г2»-Ыг = \ K(r)o(r)dr = \KdV=l, о « о то из (12) следует, что ф^ (г) ^= ф (г) в любой точке г eD для всех \х, начиная с некоторого. С другой стороны, в силу полунепрерывности функции ф для любого е>0 будет ф (£) — ф (г) < е для всех £, достаточно близких к г, т. е. S (г/(х) ^ ф (г) + е для всех (х, начиная с некоторого, и для таких [х из (12) мы получим, что ф^ (г) < ф (г) + е. Таким образом, для всех zeD lim ф^(г) = ф(г) ► Замечания. 1) Предел убывающей последовательности субгармонических функций является функцией субгармонической (см. задачу 0 из Доб. к ч. I), и это утверждение сразу переносится на плюрисубгармонические функции. Поэтому теорему 4 можно обратить. 2) В теореме 4 приближающие функции можно считать строго плюрисубгармоническими — для этого достаточно заменить ф^(г) на ф^ (г) + — | z [2.
§ 121 ПСЕВДОВЫПУКЛОСТЬ 187 Теорема 5. Если функция ф плюрисубгармоншна в области DczCn, а яр: ф (D)->R — возрастающая выпуклая функция класса С2, то ^°ф плюрисубгармонична вD. < Пусть сначала ф£С2(0). Прямой подсчет показывает, что форма Леви #г(я|)оф, со) = «ф"оф(г) 2£- V=l + Ч>'вФ(г)#*(ф. (о), а так как у нас i|/, ty"^0, то для этого случая утверждение доказано. В общем случае мы воспользуемся теоремой 4 и обратной к ней: аппроксимируем ф последовательностью гладких плюрисубгармонических функций ф^ \ ф; по доказанному функции *ф°фц плюрисубгармоничны, а так как i|)— возрастающая непрерывная функция, то г^Фр.Х'фоф и, значит, *ф°ф плюрисубгармонична ► В определении плюрисубгармонической функции требуется, чтобы ее сужения на комплексные прямые были функциями субгармоническими. Это свойство допускает следующее усиление: Теорема 6. Сужение функции ф, плюрисубгармонической в области D а С", на любую т-мерную голоморф- ную поверхность f: А -> (Dn, Ac Ст, также является плюрисубгармонической функцией на открытом множестве Q = {CeA: f(0sD}. А Для простоты формальных выкладок ограничимся случаем т=1, т. е. покажем, что' сужение <р на голоморфную кривую z = /(£) является субгармонической функцией. Пусть сначала <p^C2(D). Тогда для и = <р*{ по правилу дифференцирования сложных функций в любой точке £е=Д Ц, V = 1 Так как ф плюрисубгармонична, то по теореме 1 форма в правой части неотрицательна, а это и означает, что и (£) — субгармоническая функция.
188 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ ГГЛ. III Общий случай сводится к рассмотренному при помощи теоремы.4 и замечания вслед за ней ► Следствие. Для суженая на голоморфную поверхность S функции ф, плюрисубгармонической в окрестности S, справедлив принцип максимума. В частности, для ограниченной голоморфной поверхности S (см. п. 30) этот принцип можно сформулировать так: 1Ф lis = IIФ \\es. (13) Сформулируем еще без доказательстваг) теорему о продолжении плюрисубгармонических функций, аналогичную теореме Римана о продолжении голоморфных функций (теорема 3 п. 26): Теорема (Грауэрт — Реммерт). Любую функцию, плюрисубгармоническую в области D сС" всюду, за исключением аналитического множества, и ограниченную, можно продолжить до плюрисубгармонической в D функции. В заключение проведем сравнение понятий плюрисуб- гармоничности и выпуклости функций нескольких (действительных) переменных. Мы уже отмечали (в Добавлении к ч. I), что субгармонические функции являются плоским аналогом выпуклых функций одного переменного. Последние можно определить так: функция f: [a, bj-^R1 называется выпуклой (вниз) на отрезке [а, Ь] с: 1К1, если для любых двух точек х', х"&[а, Ь] и любого /е(0, 1) f {tx> + (l -1) х") ^ // (х') + (l-t)f (х"). (14) Чтобы подчеркнуть аналогию с субгармоническими функциями, обозначим через х =tx' + (l — t) х" и через h(x) = tf(xr) + (1 — О/СО — линейную функцию2), принимающую на концах отрезка [х', х?] те же значения, что и f. Тогда условие выпуклости (14) примет вид: f(x)^ ^h(x) для всех х^[х\ хГ\. !) Н. G г а и е г t, R. Remmert, Plurisubharmonische Funktio- nen in Komplexen Raumen, Math. Zeitschr. 65: 2 (1956), 175—194. 2) Функция h является наилучшей линейной мажорантой функции f на концах отрезка [*', *"] —аналогом наилучшей гармоничен ской мажоранты функции на границе области (ср. ч. I, Доб., п. 3)«
§ 121 ПСЕВДОВЫПУКЛОСТЬ 189 Распространим понятие выпуклости на функции нескольких действительных переменных. Функция/: D-^R1 называется выпуклой в области D с Rrt, если ее сужение на любую прямую x=l(t) = x° + (ut, где д^, weR", является выпуклой функцией на открытом множестве Q = ^{/eR1: /(/)eD). Условием выпуклости дважды гладкой функции f одного переменного / является, очевидно, неравенство f" (t) ^ 0 для всех / е [а, Ь]. По правилу дифференцирования сложных функций отсюда получается условие выпуклости функции нескольких переменных / е C2(D): квадратичная форма п Н*Ц- ^ 2 а^Ц0^, (15) |Л, v=l неотрицательна для всех ^°еОи всех шеКл. Таким образом, плюрисубгармоничность является, так сказать, комплексным аналогом выпуклости. Иными словами, плюрисубгармонические функции получаются из выпуклых заменой действительной структуры комплексной: вместо сужений на действительные (одномерные) прямые x = l(t) надо рассматривать сужения на комплексные (двумерные) прямые z = l(Q и вместо выпуклых функций от / — субгармонические функции от £. Для функций класса С2 такой переход состоит в замене квадратичной формы,(15) эрмитовой формой Леви (5). 33. Псевдовыпуклые области. Выпуклыми называются такие области D с Rn, которые вместе с любыми точками х' и х" содержат также и все точки х = tx' + (1 — t) хп, где /е(0, 1). Существует и эквивалентное определение: область D cz Rn называется выпуклой, если в ней существует выпуклая функция, которая стремится к + оо при приближении к 3D. Мы придем к понятию псевдовыпуклой области, если вместо действительной структуры будем рассматривать комплексную: Определение. Область DczC" называется псевдо- выпуклой, если в ней существует плюрисубгармоническая функция ф такая, что ф(г)-> + оо ^при z->dD, или, иными словами, такая, что (гей ф(г)<а}<^£> для всех йеК. (1)
190 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Приведем достаточное условие псевдовыпуклости: Теорема 1. Область D с С псевдовыпукла, если она описывается как множество {ф (г) < 0} отрицательных значений плюрисубгармонической в D функции ф, стремящейся к 0 при приближении к dD. А Так как функция — In (— и) возрастает и выпукла на отрицательной полуоси и, то по теореме 5 предыдущего пункта Ф(г) = — 1п(—ф(г)) плюрисубгармонична в D. Очевидно, Ф(г)-> + оо при z-+dD, так что Ф удовлетворяет условиям определения псевдовыпуклости ► Это условие не является необходимым, простой пример — пространство €п. Заметим, что на плоскости © любая область псевдо- выпукла. В самом деле, для ©\{£} в качестве функции ф из определения можно взять ц>(г)==~, рр, если 1>ф<ю, и ф(г) = |г|, если £ = оо. В общем случае условиям определения удовлетворяет функция ?(г)=|г|+3^'|2|+ет (е обозначает евклидово расстояние), ибо она непрерывна*) и является верхней огибающей семейства субгармонических функций. При п>\ не всякая область псевдовыпукла: как мы сейчас убедимся, псевдовыпуклость оказывается эквивалентной выпуклости в смысле Леви. Условимся называть радиусом Хартогса области Dc©" в точке a gD радиус R (а) наибольшего круга с центром а, лежащего в пересечении D с комплексной прямой / = {'г=='а, гл = £}, параллельной оси гп: R(a)=e(a, dD[\l). (2) Лемма. Для любой L-выпуклой области D cz€n функция ф (г) = — InR (г), где R (г) — радиус Хартогса D в точке г, плюрисубгармонична в D. < Для произвольной области D с ©п радиус Хартогса R полунепрерывен снизу, а функция ф = — In/? (г) полу- х) В силу неравенства треугольника функция е (г, dD) удовлет* воряет условию Липшица и е (г, dD) Ф 0 при геО,
§ 121 ПСЕВДОВЫПУКЛОСТЬ 191 Рис. 35. непрерывна сверху в D. В самом деле, пусть kgR1 и R{a)>a\ тогда круг /С=={г^Сп: 'г = 'а, \гп — ап\<.а}ш <^D, и мы обозначим г = р(дК, д£>)>0. Ясно, что для любой точки z ^U (а, г) имеем R (г)>а (рис. 35). Таким образом, множество верхних значений {z^D: /?(г)>а} открыто для ~ любого а е R1. Остается доказать, что для L-вы- пуклых областей сужение функции Ф = — In # на любую комплексную прямую /,= {^СП: г = /(£) = а + ©£Ь (3) где a^Dy а>&С\ является субгармонической функцией в окрестности точки £ = 0. Если 'со = '0, т. е. /ю параллельна оси г„, то мы имеем ситуацию плоского случая: /?|; = inf \гп — г'п\, и, следовательно, функция ф|/со = —1п/? Ьш= SUP , {—1П12ГЯ —2ГА|} субгармонична как полунепрерьгеная сверху верхняя огибающая субгармонических функций. В случае 'со Ф '0 проведем доказательство от противного. Если функция Ф||Ш=-1п/г./(о=и«) (4) не субгармонична в окрестности £ = 0, то существует круг 1/ = {|£|<г} и функция А, непрерывная в £/ и гармоническая в U, такая, что и(£)^А(£) на dU, но в некоторой точке lo^U A(W-«(W = inf{A(0-"(0}=-e<0 с/ (мы воспользовались тем, что полунепрерывная снизу функция А — и достигает своей нижней грани на компакте). Обозначим через #(£) = — Aj£) —е функцию, гармоническую в У и непрерывную в U\ имеем £(£)<-"(£) на Я/, Sf(W = -«(W- (5)
192 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Пусть еще в (3) функция /(£) = ('/(£), А,(£)), так что '/ (£) = 'а + '<о£ и X (£) = ап-\-(o„£. По определению радиуса Хартогса существует точка fc = ('fc, bn)^dD такая, что 'Ь = 7 (£<>) и 1&л — X (£0) | = /? * / (So). Построим голоморфную в (/ функцию 6 = ^ + ^ так, чтобы G(£0) совпадало с каким-нибудь значением In (bn— A, (So)) — это можно сделать, ибо в силу (4) и (5) у нас In | Ьп — К (So) | = — и (So) = = g(So). Рассмотрим теперь семейство ограниченных голоморфных кривых St = {z(=€n: 'г = 7(Е), гя = *(0 + '*0(0. S е Z7}. (6) Для любой точки г£^, O^fs^l, имеем 'г = '/(£) и в силу второго неравенства (5) I *я - MS) | = fe*(t) < ^~" (t) = <#°' (£)• По определению радиуса Хартогса отсюда следует, что при / < 1 все Stc:D. В силу первого неравенства (5) аналогично получаем, что dSfCiD при всех /, 0^/^1. Кривые St-*Si при / —>• 1, а кривая Sx содержит точку be=dD, ибо при S = So имеем'z = T(So) ='& и гя = Я (So) + 4- eG <Ь>> = 6Я (у нас In G (So) = b0 — X (So)). Мы пришли к противоречию с L-выпуклостью области D ► Замечание. В п. 8 мы ввели область сходимости ряда Хартогса /(*)=2&('*)*к го м.=о как открытое ядро D = {('z, г„): 'г е'D, |гл| <#('*)} множества сходимости этого ряда (предполагается, что g^ голоморфны в 'D). Величина # ('г) является, очевидно, радиусом Хартогса области D. Повторяя с небольшими изменениямиг) доказательство леммы в случае 'со Ф '0, г) Эти изменения состоят в следующем: 1) надо взять сужение — In R на прямую 'г = / (S); 2) положив 'b = l (£0), надо выбрать Ьп так, чтобы \bn\=*R l'b) и точка h = ('b, Ьп) была особой для / — это можно сделать, ибо на каждой окружности {'z, | гп \ = г ('г)}, где г ('г) — радиус сходимости ряда (7) при фиксированном 'г, есть хотя бы одна особая точка /, a R ('fr) = lim г ('г) (см сноску на стр. 48) и зна- z-*'b
§ 121 ПСЕВДОВЫПУКЛОСТЬ 193 можно доказать, что функция — In/? ('г) плюрисубгармо- нична в 'D. Теорема 2. Любая выпуклая в смысле Леей область D а С" является псевдовыпуклой, 4 Функция ф (г) = —\пе (г, dD) непрерывна в области D (кроме тривиального случая D = €") и стремится к + оо при z-+dD. Остается показать, что она плюрисубгармо- нична в D. Обозначим через /ш комплексную прямую £->г + со£, проходящую через точку zgD в направлении вектора со, и через Ra (г) = е (г, dD f| /ш). Очевидно, для всех z е D е(г, 3D) = inf/?a)(e)l (О где нижняя грань берется по всем векторам со е ©л, l©i = i. Комплексным поворотом г -> Сг, где С = (с^) — унитарная пхя-матрица, направление, со можно перевести в направление оси zn так, что /?ю перейдет в радиус Хартогса области D. Так как такой поворот сохраняет и евклидовы расстояния, и L-зыпуклость и псевдовыпуклость, то по лемме можно утверждать, что функция — In R^ (z) плюри- субгармонична в области D. Но тогда и q>(z) = —lne(z, dD) = sup (— In R^(z)), со как непрерывная верхняя огибающая плюрисубгармони- ческих функций, также плюрисубгармонична в D ► Теорема 3. Любая псевдовыпуклая область D с: С" выпукла в смысле Леей. < Пусть от противного D не является L-выпуклой. Тогда найдется такая последовательность ограниченных голоморфных поверхностей Sv, что Sv->-S, dSv-+dS, причем 5VI dSczD, a S содержит точку £edD. В силу псевдовыпуклости D существует плюрисубгармоническая в D функция ф(г), стремящаяся к + оо при z-*-dD. По чит, на окружности {'b, \bn\ = R ('b)\ есть предельная точка особых точек; 3) функцию G = g + ig* надо выбрать так, чтобы G (£0) = \пЬп (это можно сделать, ибо g(£0) = ln| bn |) и вместо (6) взять семейство кривых 5/ = {'г = / (£), zn = teG&\ £ е £/}. Утверждение доказывается противоречием, которое состоит в том, что по принципу непрерывности / продолжается в точку Ь, а она особая 7 Б. В. Шабат, ч. II
194 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III принципу максимума для плюрисубгармонических функций (следствие теоремы 6 предыдущего пункта) sup ф ^ sup ф < с < оо, (8) Sv dsv где постоянная с не зависит от v, ибо объединение dSv компактно принадлежит D. Но, с другой стороны, существует последовательность точек zv е Sv, сходящаяся к точке £ е dD, и по ней ф(г*)->оо в противоречии с (8) ► Теоремы 2 и 3 в совокупности показывают, что понятия L-выпуклости и псевдовыпуклости действительно оказались эквивалентными. Отметим еще Следствие. Область D а С" псевдовыпукла в том и только том случае, когда функция — In е (г, 3D) плюрисуб- гармонична в D. < Достаточность условия плюрисубгармоничности функции — lne(zt dD) следует из определения псевдовыпуклости. Это условие и необходимо: пусть D псевдовыпукла; по теореме 2 она является L-выпуклой, а тогда из доказательства теорема 2 видно, что функция — In е (г, 3D) плюри- субгармонична в D ► В заключение этого параграфа приведем сводку условий, характеризующих области голоморфности в Ся. Теорема 4. Эквивалентны следующие пять условий: (I) D — область голоморфности (т. е. существует функция / е ® (D), не продолжаемая голоморфно в более широкую область, см. п. 27); (II) D голоморфно выпукла (т. е. для любого множества голоморфно выпуклая оболочка К@ = {z^D: \f (z) |^||/|]^ для всех /e^(D)}^D, см. п. 28); (III) D не расширяема голоморфно в каждой граничной точке (т. е. для любой точки £ е dD существует окрестность U и функция f ^@(D[\U), не продолжаемая голоморфно в точку £, см. п. 31); (IV) D выпукла в смысле Леей (т. е. не существует последовательности ограниченных голоморфных поверхностей Sv-+S, dSx-+dS таких, что *SV, dS czDt a S содержит точку £edD, см. п. 31); (V) D псевдовыпукла (т. е. существует плюрисубгармо- пическая в D функция, стремящаяся к + оо при приближении к dD см. п. 33).
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 195 4 Выше были доказаны следующие импликации: I о II U III=>IVoV (эквивалентность 1<=>Н составляет содержание теоремы 4 п. 28, IV <=> V-—теорем 2 и 3 этого пункта, импликация III => IV — принципа непрерывности п. 30, I => III — тривиальна). В следующей главе будет доказано (п. 45), что всякая псевдовыпуклая область в Сп является областью голоморфности, т. е. доказана импликация V=>I. Это, замкнет нашу цепочку эквивалентностей ► § 13. Оболочки голоморфности Если D не является областью голоморфности, то любая функция f^0(D) голоморфно продолжается в более широкую область. Возникает вопрос об отыскании так называемой оболочки голоморфности области D —наименьшей области, в которую продолжаются все функции из @{D). Этот вопрос важен как с принципиальной точки зрения, так и с точки зрения приложений, например, в квантовой физике1). 34. Однолистные оболочки. В п. 27 мы привели пример области D, из которой каждая голоморфная функция продолжается в более широкую область, причем некоторые функции при продолжении оказываются многозначными, так что оболочка голоморфности этой области является римановой (многолистной) областью. Такие области мы будем рассматривать в следующем пункте, а здесь ограничимся случаями, когда подобные явления не возникают. Однако определение сформулируем так, чтобы его можно было обобщить и на многолистный случай. Определение. Область D с: Ся называется (однолистной) оболочкой голоморфности области D с С", если: 1) DaD и любая функция f^0(D) продолжается до функции, голоморфной в D; 2) для любой точки z°^D существует функция fo^0 (D), сужение которой на поли- 1) См Дж. Иост, Теория квантованных полей, «Мир», М., 1967. 7*
196 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III круг £/(г°, г), где г = р(г°, dD), не продолжается голоморфно ни в какой поликруг U(z°y R), где R>r. Из сказанного выше следует, что однолистные оболочки голоморфности есть не у всех областей из Ся. В этом пункте мы рассмотрим основные свойства однолистных оболочек голоморфности, а также вопросы построения оболочек для областей простейших классов. Прежде всего отметим, что оболочки голоморфности являются голоморфными расширениями областей в смысле п. 27. Поэтому по теореме 1 п. 27 любая функция,-голоморфная в области Z), принимает в оболочке D этой области лишь те значения, которые она принимает в D. В частности, оболочка голоморфности ограниченной области всегда является ограниченной областью (это утверждение получается из предыдущего, если применить его к координатам zy, v=l, ..., п). Далее условие максимальности 2) в определении оболочки голоморфности можно существенно усилить. Это условие является условием локальной непродолжаемости некоторой функции из 0(D), но можно утверждать, что в 0 ф) существует и глобально непродолжаемая функция. Иными словами, имеет место Теорема 1. Однолистная оболочка голоморфности, D области D а Ся является областью голоморфности. < На основании результатов п. 28 достаточно доказать, что D голоморфно выпукла. Пусть K^D и р (/С, дЬ) = г; по теореме об одновременном продолжении (п. 28) любая функция f ^0(D) голоморфно продолжается в поликруг U (г, г) с центром в любой точке z^K@(%y Из условия 2) в определении оболочки голоморфности отсюда следует, что р(г, dD)^r и, значит, р{К^^у дЬ)^г. Но так как это расстояние не может быть больше г, то P^W)> д£)) = р(К,дб), и D голоморфно выпукла ► Следствие. Если область D cz €" имеет однолистную оболочку голоморфности D, то последняя является наименьшей областью голоморфности, содержащей D (т. е. пересечением всех областей голоморфности, содержащих D).
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 197 4 Если G —область голоморфности, содержащая D, то GidD (так как 0(G) с: 0(D), то любая f(=0(G) голоморфно продолжается в D). Но D по теореме 1—область голоморфности, следовательно, D — наименьшая область голоморфности, содержащая D ► Замечание На первый взгляд может показаться, что подобно теореме 1 из локальной нерасширяемости области выводится ее глобальная нерасширяемость, т. е. импликация (Hl)rz^(I) в теореме 4 предыдущего пункта. Однако- в условии (III) рассматриваются функции, голоморфные не во всей области, а лишь в окрестности граничной точки, и поэтому доказательство теоремы 1 здесь не проходит Как мы уже говорили, импликация (III)z=>(I) составляет содержание весьма тонкой теоремы Ока. Для доказательства следующей теоремы нам нужна Лемма. Если D —область голоморфности, то любая связная компонента Д ее r-сжатияDr = {2ED:p (z, dD)>r} также является областью голоморфности. < Пусть К О Д и р (/(, <ЭД) = р; для любых точек г ^К и £ е дЬ на отрезке [г, Q найдется точка г' е <ЭД такая, что р(г, 0=р(г, г') + р(г', Q^p + r. Поэтому р(/С, dD)^p + rf а так как D — область голоморфности, то по теореме 5 п. 28 и p(K0{DV dD)^p + r. (1) Нам нужно доказать, что p(/Q?(A), <ЭД)^р, т. е. что р(г°, z')^=P для любых точек г°е%(Д) и г'едД. Но так как AczD, то К@^ d/C^(D), следовательно г° е ^K&iD) и, согласно (1), р + г^р(г°, 3D) ^р(г°, г') + + р(г\ й)) = р(г°, г') + г (у нас р (г', dD) = r, ибог'е=<ЭД). Отсюда и следует, что р (г°, г') }>= р ► Теорема 2. Если D czG и эти области имеют однолистные оболочки D и соответственно G, то D aG и p(dbtdG)^p(dD, dG). (2) < Так как 0(G) с 0(D), то любая функция f&0(G) голоморфно продолжается в D, следовательно, D czG. Пусть p(0D, dG) = r>0 (для г = 0 теорема тривиальна),
198 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ -— [ГЛ. III тогда D aGrcz((j)r. Очевидно, D принадлежит некоторой связной компоненте множества (й)г, которая по доказанной лемме является областью голоморфности. Но тогда и D принадлежит этой компоненте, а значит, и множеству (G)/, поэтому р(дЬ, dG)^r ► Следствие. Если D — ограниченная область, имеющая однолистную оболочку D, то пересечение дЭ{\дб непусто. < Применим к областям D и G = D теорему 2: p(dD, дб)^р(дб, дб)=0 (мы воспользовались тем, что оболочка области голоморфности совпадает с этой областью). Так как dD — компакт (ибо D ограничена), то из равенства^ (3D, дб) = 0 следует, что множества 3D и дб пересекаются ► Перейдем к описанию оболочек голоморфности областей простейших классов. 1. Трубчатые области. Напомним, что трубчатой областью с основанием В cz.Rn называется область Т =* = BxUn(y), т. е. T = {z = x + iye=$n: $е=В} (см. п. 2). Теорема 3. Оболочкой голоморфности трубчатой области Т является ее выпуклая оболочка Т. < Очевидно, Т = Вх^п(у), где В —выпуклая оболочка основания В в пространстве Un(x). Покажем, что любая функция f^@(T) голоморфно продолжается в Т. Область В представляет собой совокупность точек отрезков [х1, х2], где х1, х2 е В. Если х1 и х2 можно соединить в В дву- звенной ломаной [х1, х°] [) [х°9 х2], то продолжаемость / в окрестность множества [х1, х2]х^п(у) следует непосредственно из леммы о призме (п. 30). рис 36. В общем случае точки х1, х2 е В можно соединить в В конечно- звенной ломаной (рис. 36). При помощи той же леммы индукцией по числу звеньев мы снова докажем, что f голоморфно продолжается в окрестность множества [х\ х2]х^п(у). Та же лемма показывает, что функция |
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 199 при описанном продолжении остается однозначной. В самом деле, пусть л;-—точка пересечения двух отрезков [л:1, х2] и [х\ х2] с концами в В и в окрестности точки z = х + iy мы получили два значения f и f. Рассмотрим призму [а:1, х, хг]х^п(у)\ функции / и f по цитированной лемме голоморфны в ней, а так как они совпадают в окрестности точек xx-{-iy и x1Jriy, то по теореме единственности они совпадают во всей призме. Таким образом, любая функция f ^@ (Т) голоморфно продолжается в Т. Но Т —выпуклая область и поэтому является областью голоморфности (п. 27). Следовательно, Т служит оболочкой области Т ► 2. Области Рейнхарта. В п. 7 мы доказали, что любая функция f, голоморфная в полной области Рейнхарта *) D с центром в точке а, голоморфно продолжается в логарифмически выпуклую оболочку DL этой области. Такое продолжение осуществляется при помощи разложения / в ряд Тейлора со /(*)= 2 ск{г-а)\ (3) область сходимости которого представляет собой логарифмически выпуклую область (теорема 3 п, 7), « Теорема 4. Оболочкой голоморфности полной области Рейнхарта D является ее логарифмически выпуклая оболочка DL. « Так как любая функция f ^@ (D) голоморфно продолжается в DL, то остается лишь доказать, что DL — область голоморфности. Но нетрудно видеть, что DL выпукла относительно класса мономов гк = г*1 ... zknn, где kv — целые неотрицательные числа. В самом деле, логарифмическая выпуклость области означает геометрическую выпуклость ее образа при отображении X: г-> —>- (In 12гх |, ..., 1п|гя|), см. п. 7. При этом отображении мономы перейдут в линейные функции k± In | гх | + ... ... + kn In ! zv |, а из геометрической выпуклости X (bL) следует выпуклость DL относительно мономов. Так как 1) Определение полной области Рейнхарта см. в п. 2.
200 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III при kv^0 мономы zk^0(DLy то по теореме 1 п. 28 D/. — область голоморфности ► Следствие. Любая логарифмически выпуклая полная область Рейнхарта является областью сходимости некоторого степенного ряда. А Такая область D по только что доказанному является областью голоморфности, и, следовательно, существует функция f ^ 0 (D), не продолжаемая за пределы D. Тейлоровское разложение / имеет D своей областью сходимости ► Замечание. Если мы будем рассматривать вместо тейлоровских разложений разложения Лорана, то получим более общий результат: оболочкой голоморфности любой относительно полной области Рейнхарта (см. п. 8) является ее логарифмически выпуклая оболочка. 3. Области Хартогса1). Для простоты письма ограничимся областями с плоскостью симметрии ап = 0 — это не уменьшает общности. Теорема 5. Оболочкой голоморфности полной области Хартогса D = {z = ('z, zn): 'z^'D, |гя|<г ('*)}. проекцией которой 'D служит область голоморфности в пространстве С"-1, является область Хартогса D={z = ('z, za): 'ze='D, |г„|<^ <'*>}, (4) где V (z) — наилучшая плюрисупергармоническая мажоранта функции In г ('z) в области 'D. А В самом деле, по доказанному в п. 8 любая функция f^@(D) представляется в D своим рядом Хартогса f(*)= 21 е»('*)% (5) и, следовательно, голоморфно продолжается в область сходимости этого ряда Gf = j'^gD, | zn | < Rf (z)}. Величина Rf является, очевидно, радиусом Хартогса области Gf. По лемме из п. 33 (см. замечание вслед за ней) функция In Rf плюрисупергармонична в 'D, т. е. Gf является областью вида (4), где V = In/?/ — некоторая плюрисупергармоническая мажоранта функции In г. Та- 1) Определение области Хартогса см в п. 2.
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 20Г ким образом, для любой /g=^(D) область GfzDDy где D —область, определенная в (4), а так как оболочка голоморфности области D есть пересечение всех таких Gf, то эта оболочка содержит D, Остается доказать, что D —область голоморфности. Так как по условию 'D — область голоморфности, то она псевдовцпукла, т. е. существует плюрисубгармоническая в 'D функция <Pi('£), стремящаяся к -\-оо при приближении к границе. Далее в силу плюрисупергармонич- I Z I ности V функция In ' у = In 1 zn 1 — V, а по теореме 5 ev ev п. 32 и функция -ф2 (г) = — In In-:—г плюрисубгармонич- кы в D. Но тогда и функция ф(г) = тах (фх ('г), ф2(г)) плюрисубгармонична в D, а при приближении к дб она стремится к +°°- Поэтому D псевдовыпукла и по теореме 4 п. 33 она является областью голоморфности ► Замечание. Если рассматривать разложения Хар- тогса —Лорана, то можно получить более общий результат: оболочкой голоморфности области D = {('z, zn): 'zg е 'D, rx ('z) < | zn | < r2 ('г)}, проекцией которой D служит область голоморфности в пространстве С"-1, является область вида D ={('*. *»)•' 'гЕ'О, е"«<'*><|гл|<^ <'*>}, (6) где vx — наилучшая плюрисубгармоническая миноранта функции 1пг1э а V2— наилучшая плюрисупергармониче- ская мажоранта lnra1). В теореме 5 (и ее обобщении) существенно, что проекция 'D области D является областью голоморфности, — иначе области (4) и (6) будут не оболочками, а лишь голоморфными расширениями D. Заметим, что и не всякая^ область Хартогса имеет однолистную оболочку. Чтобы в этом убедиться, достаточно взять в (D3 область Хартогса, проекцией которой в С2 является область из примера в п. 27 с неоднолистной оболочкой. 35. Многолистные оболочки. Мы хотим сейчас заняться вопросами расширения римановых областей (см. п. 19) 1) См. В С Владимиров, Методы теории функций многих комплексных переменных, «Наука», М., 1964, стр 217.
202 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III и продолжения голоморфных в них функций. Для этого прежде всего надо распространить на такие области понятие вложения. Определение 1. Пусть даны две римановы области (£>ь я1) и (D2, я2) над €"; гесли существует такое непрерывное отображение ср: D1-+D2, что на Dt л^я^ф, (1) то говорят, что первая область слабо ср-вложена во вторую и пишут: (Di, я1) d (D2, я2). Если при этом ф яв- ф ляется взаимно однозначным отображением Dx в D2, то говорят, что (Di, я1) ц-вложена в (Ь2, я2). Если еще ф —гомеоморфизм D± на D2, то (Db я1) и (D2, я2) называют эквивалентными. Это определение обобщает обычное понятие вложения: если DicDo в обычном смысле, то я1 = я2|о1 является сужением функции я2 на Db и в качестве ф можно принять естественное отображение вложения ф: D1-*D2i где Ф переводит каждую точку p^Dx в ту же точку р, рассматриваемую как точка Da1). Очевидно, что эквивалентные области (Di, я1) и (D2, я2) вложены друг в друга (одно — посредством ф, другое —ф-1). В случае слабого вложения (Di, я1) с: (Ь2, я2) первая область может ока- ф заться «более разветвленной», чем вторая. Так, риманова поверхность функции w = j/rz над С1 оказывается слабо вложенной в риманову поверхность w = ]^z (в качестве Ф надо принять отображение, склеивающее пары точек первой поверхности, в которых ]/г принимает одинаковые значения). Всякая риманова область я: D-^C" является слабо я-вложенной в (Dn. Отметим, что отображение (даже слабого) вложения ф: DX->D2 римановых областей (Db я1) и (D2, я2) над Сл непременно является голоморфным. В самом деле, в «илу гомеоморфности я1 в окрестности U точки /?0gDi и условия (1) мы имеем я2°ф°я1 \l/ (z) = г, где я1 ^ — сужение я1 и z = я1 (р) (см. определение голоморфного отображения многообразий в п. 12). Эквивалентность рима- 1) Так как отображение ф(/?)=р взаимно однозначно, го обьы* ное вложение является ф-вложением.
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 203 новых областей означает их биголоморфную эквивалентность. Определение 2. Пусть (Db я1) и (D2, я2) —две римановы области над (Dn, причем Di с: Ь2, и f2: D2-*(D— функция во второй области. Функцию Д: Di->(L мы будем называть ^сужением /2 на £>i (обозначение: /х = = /2|gJ, если для всех p^D± Ыр)=/2°ф(р); (2) *Ч*/1 функцию /2 тогда будем называть ^-продолжением Д. Если DidD2, а ф — естественное отображение вложения, то мы имеем обычное сужение /1 = /:2|Dl. Чтобы сформулировать определение. многолистной оболочки голоморфности, условимся называть комплексное многообразие М голоморфно отделимым, если для любых двух различных точек р, q ^М найдется функция f^@(M)9 разделяющая эти точки, т. е. такая, что f (р) Ф^ (q). Если М представляет собой подмногообразие ©я (в частности, является однолистной областью), то условие голоморфной отделимости выполняется автоматически, ибо в качестве разделяющей функции можно взять одну из координат. Но в общем случае это не так: рассмотрим, например, двулистное накрытие D над областью D = С2\Г, где Г = {| 2i | = 1, | z21 = 1} — тор, диаграмма Рейнхарта которого изображена на рис. 37 (это кусок двулистной римановой поверхности с точками ветвления (1, 1) и со). Рассмотрим произвольную функцию /, голоморфную на D. Ее значения на любом из двух «листов» D голоморфны над { | z | > У~2~\, ибо многообразие ветвления (тор Г) лежит на сфере {| z | = Y% } и вне шара накрытие не разветвлено. По теореме Осгуда — Брауна (п. 25) эти значения продолжаются до целых функций, а так как на Г они должны совпадать, то они совпадают Рис. 37.
204 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III тождественно (см. задачу 11 к гл. I). Таким образом, значения / в точках различных листов области D, лежащих над одной точкой 2g(C2, должны совпадать: точки D с одинаковой проекцией неотделимы голоморфно. Определение 3. Голоморфно отделимая риманова область (D, я) называется оболочкой голоморфности ри- мановой области (D, л), если: 1) существует ф-вложение DczD такое, что любЬя функция f^0(D) допускает ф-расширение до функции / е ® (D); 2) для любой точки peD найдется функция fo^0(b), для которой сужение f0° я-1 на поликруг U (г°, р), где z° = n(p) и р = = р(р, д£>), не продолжается голоморфно ни в какой поликруг U (2°, R) радиуса R >р (ср. определение из п. 34). Как мы видели, задача построения оболочки голоморфности в классе (однолистных) областей из С* разрешима не всегда. Здесь будет доказано, что эта задача всегда разрешима в классе римановых областей. В основу доказательства мы положим процесс одновременного аналитического продолжения семейств голоморфных функций и оболочки будем строить из ростков таких семейств. Рассмотрим пару (U, F), составленную из поликруга Uafc" и некоторого семейства функций Fa@(U)\ это семейство сбудем считать индексированным при помощи некоторого параметра: F—{fa}a<=A. Фиксируем произвольную точку z^U и вторую такую же пару (Vy G) назовем эквивалентной первой в точке г, если поликруг ^эг и семейство G можно индексировать тем же параметром (G={ga}a<BA) так, что fa(z) = ga(z) для всех аеАи всех z^ V{] V. Класс эквивалентности по этому отношению будем называть ростком семейства F в точке z и обозначать символом F2 (в частности, если F состоит из одной функции / мы получаем обычный росток f,). В пространстве Шп всех ростков всевозможных семейств голоморфных функций обычным образом вводится топология: пусть Fa —некоторый росток и ([/, Z7) —его представитель; окрестностью точки Fa называется множество тех ростков GZf z^U, которые имеют представителей, эквивалентных (U, F) в точке г. Нетрудно видеть, что пространство д\п вместе с проекцией л: Щп-^€п является пучком над Сп (если рассматривать лишь се-
§ 133 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 205 мейства, состоящие из одной функции, получится пучок ростков голоморфных функций; см. п. 24). Связные и открытые подмножества Ып являются, очевидно, римановыми областями. Особую роль играют компоненты Шп, т. е. его максимальные связные подмножества; так как Шп локально связно, то они являются открытыми множествами, т. е. областями. Эти компоненты являются максимальными не только по связности, но и в отношении одновременного аналитического продолжения. Именно, справедлива Теорема 1. Любая компонента D пространства 91л совпадает со своей оболочкой голоморфности. М В качестве отображения ф из определения 3 возьмем тождественное отображение; тогда условие 1) из этого определения выполняется автоматически и остается проверить условие 2). Пусть оно не выполняется, т. е. существует точка p°^D такая, что для всех функций f^0(D) сужения }°я~г на поликруг U (а, г), где а = = я(р°) и г = р(р°, 3D), продолжаются в поликруг U (a, R) радиуса R > г. По построению Шп точка р° представляет собой росток в точке а ^ я (D) некоторого индексированного семейства F= {fa} голоморфных функций. Так как при любом фиксированном а значение fa(z) одинаково для всех представителей ростка Р2==р, то fa°n(p) можно рассматривать как функцию на D, очевидно, голоморфную. По нашему предположению, все fao^on~1 = fa голоморфно продолжаются в поликруг U (а, /?), следовательно, ростки семейства F в точках этого поликруга образуют на Ып поликруг 0 с центром р° и радиусом /?. В силу максимальности компоненты D она содержит 0, а это противоречит тому, что р (р°, дЬ) = = r<R ► Пространство Ып является универсальным: каждую риманову область можно слабо ф-вложить (в смысле определения 1) в некоторую компоненту Шп так, что голоморфные в области функции ф-продолжаются (в смысле определения 2) в эту компоненту. Это устанавливает Теорема 2. Для любой римановой области (D, л) и любого семейства Fа@(D) найдутся компонента Dр
206 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III пространства 91" и отображение ср: D-^D? так, что D a Dp и любая fa^F является ^-сужением некоторой ф функции fa^0(bF). Л Для любой точки p^D обозначим через ф(р) — F2 росток в точке г = я(р) семейства /^лг1; отображение ср: D->3fl/l, которое мы определили, очевидно, непрерывно. По определению проекции на Ып имеем я: F^-^г, так что я • ф (р) = п(р) и ф — слабое вложение. Образ ф (D) связен и, следовательно, принадлежит некоторой компоненте Dp пространства Ып. Для любой точки peD и функции fa^F обозначим через fa функцию, которая сопоставляет ростку ф (р) = F^ значение /а(р)-~эта функция, очевидно, голоморфно продолжается в Dp. По построению /a(p)=fa°<p(p), так что условие из определения 2 выполняется и /a = fa Id ► Перейдем к доказательству основной в этом параграфе теоремы существования оболочки голоморфности и ее единственности с точностью до эквивалентности в смысле определения 1. Теорема 3. Пусть (D, я) — произвольная голоморфно отделимая риманова область и © = © (D) — семейство всех функций, голоморфных в D. Тогда компонента D @, соот* ветствующая D по теореме 2, является оболочкой голоморфности области D и любая оболочка голоморфности этой области эквивалентна Ь@. 4 Пусть ф: D-> D@ — отображение, описанное в доказательстве теоремы 2. Так как D голоморфно отделима, то для любых различных точек р, q^D найдется функция fa^© (D) такая, что fa (p)=£fa (q), и, следовательно, ростки семейства ® в этих точках различны, т. е. у(р)Ф z9bcp(q). Таким образом, отображение ф взаимнооднозначно, т.е. является вложением, — условие 1) из определения оболочки голоморфности выполняется. Условие 2) из этого определения выполняется по теореме 1, и первая часть теоремы доказана. Для доказательства второй части предположим, что (G, я) —другая оболочка голоморфности области D и -ф: D -> G — соответствующее ей вложение. В области ф (D) а
§ 13] ОБОЛОЧКИ ГОЛОМОРФНОСТИ 207 czD0 определено биголоморфное отображение х^^ф"1 в G, причем, согласно определению 1, всюду в <p(D) имеем я-х(р) = я(р). (3) Так как Ь^> — оболочка голоморфности D, то х продолжается до голоморфного отображения D^-^G. В самом деле, из (3) видно, что локально % = л~1°пи препятствие к продолжению этого отображения может встретиться лишь в случае, если существует точка peD^, при приближении к которой х (р) стремится к dG. Но так как G локально нерасширяема в своих граничных точках, то найдется функция g^0(G) такая, что f = go% не продолжается голоморфно в точку р, а это невозможно, ибо в D у нас f°(p = go||) и по определению области голоморфности f должна продолжаться до голоморфной в Ь^ функции. Итак, х голоморфно отображает Ъ@ в G, а так как предыдущее рассуждение можно провести и для отображения, равного х-1 = ф°г|г1 в-ф (D), то% — биголоморфное отображение Ь@ на G. Так как оно, очевидно, сохраняет проекцию, то G эквивалентна Ь@ ► В заключение поговорим о римановых областях голоморфности. Определение 4. Риманова область (D, я) называется областью голоморфности, если существует функция f^<0(D), обладающая следующим свойством: из того, что некоторая область (Db я1) =э (D, я) и функция ф /i ^ & (Di) является ф-продолжением функции /, следует, что (Di, я1) эквивалентна (D, я) (т. е. что ф взаимно однозначно отображает D на Di). Из теоремы 3 видно, что областями голоморфности являются все оболочки голоморфности голоморфно отделимых римановых областей. Необходимый и достаточный признак областей голоморфности дает Теорема 4 (Картан —Туллен). Риманова область (D, я) тогда и только тогда является областью
^08 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ \ГЛ. III голоморфности, когда она голоморфно выпуклаг) и голо- морфно отделима. Мы не будем подробно излагать доказательство, опишем лишь изменения, которые нужно внести в много- листном случае. <* Необходимость. Доказательство теоремы об одновременном продолжении (п. 28) без существенных изменений переносится на римановы области, а из этой теоремы вытекает голоморфная выпуклость области голоморфности D. Для доказательства голоморфной отделимости область D с семейством F, состоящим из одной функции / из определения 4, по теореме 2 мы ф-вложим в пространство SRn9 причем, согласно тому же определению, отображение ср взаимно однозначно. Пусть р и q — различные точки D, тогда Ф(р)=^ф(<7) и» следовательно, по построению функции ф ростки /°я-1 в точках к(р) и я (q) различны, а это означает, что в точках р и q различны значения функции / или какой-либо ее производной. Достаточность. Пусть Kv (v= 1, 2, ..^ — компактное исчерпывание области D. Пользуясь голоморфной выпуклостью D, мы можем считать, что /Cv = CKv)^(D)- Покроем dKv конечным числом поликругов и в пересечении каждого из них с D\Kv возьмем по Точке pv. (/=1, ..., kv); через fVf обозначим функцию из 0(D) такую, что ЧЫ-v, |/V/|kv<2-v-/ и fV/K) = 0, 1Фк. Функция f = ]ZfV/e=0(D)t и l/WI^*-1- (4) Пользуясь голоморфной отделимостью, можно исправить функцию / так, чтобы она, оставаясь голоморфной 1) Определение голоморфной выпуклости переносится на римановы области без изменений. Например, его можно сформулировать в виде условия р(/(, dD) = p(K0t dD), где К — произвольное компактное подмножество D, а К0*— его оболочка относительно класса функций, голоморфных на D
§ 13] ОБОЛОЧКИ ГОЛОМОРФНОСТИ 209 в D и удовлетворяя неравенству (4), имела в любых двух различных точках р, q^D с одинаковой проекцией n(p) = n(q) различные элементы (о том, как осуществить-такое исправление, см. книгу Б. А. Фукса1)), стр. 193). Покажем, что (D, я) является областью голоморфности (исправленной) функции /. Лусть имеется ф-продолжение функции f в область (Db я1); требуется доказать, что <р взаимно однозначно отображает D на Dx. Если ср (р) = = ф(<7), то по определениям 1 и 2 я (р) = я (q) и f(p) = = f (q). Отсюда по построению f вытекает, что p = q. Кроме того, ф(0) = Оь ибо в противном случае область Ф (D) имела бы в Ог граничную точку, а в этой точке функция /1 = /оф в силу неравенств (4) не может быть голоморфной ► Замечание. К, Ока доказал в 1953 г., что всякая голоморфно выпуклая риманова область над С" голоморфно отделима. Поэтому условия в теореме 4 не являются независимыми. Римановы области, которые являются областями голоморфности, принадлежат важному классу многообразий Штейна. Так называется n-мерное комплексное многообразие М, обладающее свойствами: 1) голоморфной выпуклости, 2) голоморфной отделимости, 3) для любой точки р^М существует п функций fv^0(M), которые образуют локальные координаты в окрестности р. Приведем без доказательства2) свойства многообразий Штейна, которые показывают, что эти многообразия являются естественным обобщением областей голоморфности. I) Комплексное многообразие М тогда и только тогда является многообразием Штейна, когда на нем существует гладкая строго плюрисубгармоническая функция ф, неограниченно возрастающая на его границе, т. е. такая, что множества {р е М: ф(р)<а)^М при любом а ^ R. II) Если многообразие Штейна М является открытым подмножеством комплексного многообразия М (с индуци- 1) Б. А. Фукс, Введение в теорию аналитических функций многих комплексных переменных, Физматгиз, М., 1962. 2) Доказательство этих утверждений можно найти в книге: Л. Хёрмандер, Введение в теорию функций нескольких комплексных переменных, «Мир», М., 1968; см. там теоремы 5.2.10, 5.4.2 и 5.3.9.
210 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III рованчой комплексной структурой), то существует функция f^0(M)t не продолжаемая голоморфно в точки М\М. Отметим еще, что я-мерное многообразие Штейна можно вложить в С2/г+1 как замкнутое подмногообразие, или, иными словами, III) Для любого многообразия Штейна М существует собственное голоморфное вложение1) f: М-+€2п+1, где n = dim(r,M. 36. Аналитичность множества особенностей. В заключение этой главы мы рассмотрим некоторые вопросы, связанные с особыми точками аналитических функций в общей их трактовке. Трактовка эта такова: каждую функцию ft голоморфную в некоторой области из С", можно аналитически продолжить в (однолистную или риманову) область ее голоморфности; граничные точки последней и называются особыми точками функции f. В общем случае множество особых точек имеет действительную размерность 2п— 1 и не обязано обладать какими-либо свойствами гладкости. Однако если дополнительно предположить, что это множество пересекается с каждой комплексной прямой, параллельной некоторому направлению, скажем, оси zn, не более чем в одной точке (и, следовательно, имеет меньшую размерность), то можно доказать аналитичность этого множества. Теорема 1 (Хартогс). Пусть а— особая точка функции f и для каждой точки 'г, ||'г — 'а||<е в поли- круге U (а, е) имеется не более одной точки ('г, zn), особой для этой функции. Тогда найдется поликруг 'V (а, 6) такой, что каждой 'z^'V соответствует точно одно число znt для которого ('г, zn) является особой точкой f в U, причем функция гл = ф('г) голоморфна в 'V. < а) Непрерывность функции ф. Без ограничения общности считаем а = 0. Так как 0 —единственная особая точка f с проекцией '0, то окружность у0={'г = = '0, | zn | = ц}, 0 < т] < е, принадлежит области голоморфности /. Семейство кругов Kb = {'z = 'b, \гп\^ч\ х) Напомним, что отображение /: М-> N называется собственным, если прообраз каждого компактного подмножества N является ком-» пактным подмножеством М. Отображение / называется вложением, если оно является диффеоморфизмом М на f (М),
§ 13] ОБОЛОЧКИ ГОЛОМОРФНОСТИ 211 при 'Ь-+'0 стремится к /С0={'г = '0, |гп|^г)}, причем д/(&->д/(о = 7о. Так как К0 содержит особую точку О, то по принципу непрерывности (п. 30) найдется б>0 такое, что при ||'6||<б в круге Кь есть хотя бы одна особая точка f. По условию больше одной такой точки быть не может, следовательно, функция г„ = ф('г) однозначно определена в '1/ = {р('г, '0)<6}. Это же рассуждение доказывает непрерывность ф в точке '0: у нас ф('0) = 0 и для любого г)>0 существует такое б >0, что |ф('2)|<01 при || rz || < б. Так как за '0 можно принять любую точку из 'V, то ф непрерывна во всем 'V. б) Голоморфность функции ф. Число б можно считать столь малым, что | ф ('z) | < у при 'ге7, и тогда f будет голоморфной в области |'ге'У, у£< 2 ) 12 <1гл1<"з"8г Выберем число р, -g-8<p<-g-e, и точку г% = ре*в\ тогда f будет голоморфной в поликруге у г ^ 'V, \гп — &\ <Р """§!• ^° нашему построению для любой fz^'V точка ('г, ф ('г))—особая для /, а все точки ('г, гя), для которых \zn — z°n\ <|ф('г) —2*1,— правильные. Так как функция ф непрерывна, то /?('г)Чф('*)-Й| . (1) является радиусом Хартогса (см. п. 33). Так как у нас |<р('г)|<!, а |г°|=р>|-, то # ('г) ^|г° |-| Ф('г) |> >0, и, значит, \nR('z) непрерывен в 'V. Голоморфность ф мы выведем из доказанной в п. 33 плюрисубгармоничности функции — In/? ('г). По основной теореме Хартогса достаточно доказать голоморфность ф по каждому переменному zv, v = 1, ... , п— 1, в некотором круге \zv\<.r при фиксированных zll = aliy |ац|</\ \х,ф\. Для простоты обозначений будем писать R (zv) вместо R(al9 ..., zVy ..., an_i) и аналогично ф(^). Так как — ln/?(2v) субгармонична в круге {|2v|<r} и непрерывна в {|zv|^r}, то 2л \nR(0)^~ § \nR{reP)dt о
212 аналитической продолжение [ГЛ. III или, согласно (1), In ! Ф (0) - peiQ | s* --L С In | ср {геЩ - ре* I dtг). (2) о Это неравенство справедливо для всех 8 ^ [0, 2я]; интегрируя его по 6 и меняя в правой части порядок интегрирования (что, очевидно, законно), будем иметь 2л 2л 2л ^ 1п | ф (0) — peiQ \db^-^idt \ in | ср (re") - peie \ dS. (3) б '00 По теореме о вычетах для любого w, ! w \ < р, $ lni=i.f.O, откуда видно, что интеграл 2Я J ln\peiQ-w\dB = Re [ in(C-a;)^ = Re J ln£^ не зависит от w, т. е. постоянен в круге {|до|<<р}. Так как у нас |ср('г)|<р при всех 'зеТ, то мы можем, следовательно, заменить в правой части (3) ср (relt) значением ф(0). Но отсюда видно, что (3), а значит и (2), для всех б обращается в равенство, т. е. субгармоническая функция — In | ф (3V) — р^/01 в точке zv = 0 совпадает со своей гармонической мажорантой. Отсюда следует (см. ч. I. Доб., п. 3), что функция In | ф (zv) — peiQ | гармонична в круге {|2v|<r} при любом 8 с^ [0, 2я]. Из (1) мы имеем #2 = (ф _ pg/в) (^ __ р^-/е) = ф~ __ р (^-/е ф _j_ eiQ ср) + Р2» (4) причем в силу гармоничности InR эта функция принадлежит классу С°° (по переменным zv и zv) при любом б. Составляя разность значений (4) при 8 = 80 и 8 = 80-frc, мы увидим, что ^-^оф + ^'8оф е С°°, а полагая здесь 80 = 0 *) В этой формуле Ф(0) = ф(%, ... , 0 ап_{) не обязательно равно 0,
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 213 и у, найдем, что ф + ф, ф — ф е С°°, а значит, и ф ^ С°°. Остается доказать, что ^-==0. Для этого воспользуемся тем, что вместе с InR и lruR2 является гармонической функцией от zn при любом 1 1 2 \ pel-^-e, ye) и любом б^[0, 2я]. Уравнение Лапласа для In/?2 имеет вид dzv dzyj dzv dzv ' и функция (4) должна удовлетворять ему при любых р и б из указанных отрезков. Подставляя сюда выражение (4) и приравнивая нулю коэффициент при р3, мы найдем, что OZv OZv ' OZx OZyj при любом 9, откуда ^—^г- = 0 при \zv\<.r. Прирав- OZ\ UZy нивая (с учетом этого) нулю коэффициент при р2, получим, что при любом б, следовательно, -^-^?-==0 при \zv\<~r. Таким образом, в каждой точке круга {| zv | < г} либо —2. = 0, либо -~^- = 0. Нтобы исключить первую возможность, заменим f(zv, г„) функцией f(zyi zn + zv) (зависимость гот других переменных г^, |Jt#v, фп> мы не выписываем). Она удовлетворяет всем условиям теоремы, а уравнением особой поверхности для нее вместо zn = = ф (zv) будет г„ = ф (zv) — zv. Поэтому, повторяя наши рассуждения, мы найдем, что для ф в окрестности zv = 0 будет выполняться также одно из условий ^- = 0, -Л—1=0. Учитывая полученный ранее вывод, найдем, что ^-==0 в окрестности zv = 0 >
214 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III Справедлива и более общая Теорема 2 (Хартогс). Пусть a gC"- особая точка функции f и для каждой 'г, ||'г— 'а||<е, в поликруге О (а, е) существует конечное число точек ('г, г^), особых для этой функции. Тогда в некоторой окрестности а особые точки f составляют аналитическое множество с уравнением {гп-апу + + c1('z)(zn-an)k-i+ ... ...+ck('z) = 0, (5) где функции cv голоморфны в точке 'а. Приведем вариант теоремы об аналитичности множе- который основан на следующей по- приложениях теореме о вложен* 38). ства особых точек, лезной и в других ном ребре (рис. Теорема 3 (Кнезер). Пусть две гиперповерхности 0}, /=1, 2, класса С2 пересекаются по Теорем 2y={q>yfc) = _Jf , -, -. ._ (2п — 2)-мерному ребру Г так, что во всех точках Г rank / &i \dz± dzn dzx дф2 дф2 dzn dzx dzn dzn 21). (6) Тогда, если существует функция f, голоморфная в тех точках окрестности Г, где min (<рь ф2) < 0, но не продолжаемая голоморфно ни в одну точку Г, то Г —голоморфная поверхность. М а) Предположим сначала, что в какой-либо точке г°<ЕЕГ дф!\ rank dz. п \. dzn ■2, (7) !) Это условие, очевидно, можно переписать так: йщ/\йщ \тФ 0.
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 215 и примем г° = 0. Рассмотрим голоморфную кривую So = {*<=«>: z = at + bt?}, где а, бе С", а С ^ С — параметр. По формуле Тейлора для /=1, 2 будем иметь 9/|5o=2Re<aC+^2, ^^)+Re^Kf(a) + l-^Hf(a)+o(\^)} (8) /дфу дф/ \ где, как и в п. 31, Уф7 = ^, ... , -^-), |U, v=l ц, v=l (а, Ь) = (а, В) и все производные берутся в точке 2 = 0. По условию (7) векторы Уфх и Vcp2 не коллинеарны, следовательно, можно выбрать векторы а и Ь так, чтобы было <а, Уф1> = 1, <а, Уф2> = -1, 2(6, Уф/> = -/(/(а) + 1я/(а) + 1, /=1, 2. Тогда формулы (3) примут вид Ф1|5о=2? + ^_Г)2 + |2Я1(а) + о(|?|2)^ Ф2 U0 = — 2g + g2 - л2 + ?2//2 (а) +о (| ? |2) (мы положили £ = £ + /г)), откуда следует, что при|£|<;р, где р достаточно мало, вся кривая S0, кроме точки £ = О, лежит в области min (фь ф2) < 0. В самом деле, при достаточно малых |£| и 1Ф0 у нас либо <Pi|s0, либо ф2 |s0 отрицательна, а при £ = 0, но цфО отрицательны обе Ф/ls,- Теперь, оставив прежние а и Ь и пользуясь тем, что ни один из Уф/^О, мы выберем вектор сое С* так, чтобы было (со, Vq>,> = -1, /=Г, 2, (9) и рассмотрим семейство голоморфных кривых
216 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. Ш где t — положительный параметр. Имеем, очевидно, Ф/ Is, = ф/ |s0 + 2/ Re (со, Vcp, |So) + о (/), откуда в силу условия (9) и непрерывности Vcp/ следует, что при 0<^<т, где т достаточно мало, куски S,, для которых | СI < Р (число р мы можем в случае надобности уменьшить), компактно принадлежат области min (фь <р2) < 0. Семейство S^ 0^/^т, удовлетворяет, очевидно, условиям принципа непрерывности из п. 30. Так как по условию доказываемой теоремы существует функция /. голоморфная в той части окрестности точки г = 0, где min (фь фг)<0, и не продолжаемая в эту точку, то мы пришли к противоречию с этим принципом. Значит, мы доказали, что во всех точках Г ранг матрицы (7) не превосходит 1. Но этот ранг ни в одной точке Г не может равняться нулю, ибо тогда в этой точке все производные--—=0, дф/ v=l, ..., д, следовательно, и все -р—=0, т.е. не выполняется условие (6). Таким образом, во всех точках Г /frPi ### rank J1 \дг, ••• Условия (6) и (10) означают соответственно, что в каждой точке геГ действительные касательные плоскости Tg(2f) различны, а комплексные касательные плоскости 7l(S/) = {»:<V9/f с> = 0}, /=1, 2, . (11) совпадают. б) Покажем теперь, что Г — голоморфная поверхность. В каждой точке г е Г действительная касательная плоскость Г(Г) = Т(211)П7,(212). Так как Тс (Si) = Тс (22) и их действительная размерность 2/г — 2 совпадает с такой же размерностью Т (Г), то Г (Г) = ТС(2;). Отсюда и из (11) следует, что если вектор ибТ(Г), то и вектор iv €= Т (Г). (Ю)
§ 131 ОБОЛОЧКИ ГОЛОМОРФНОСТИ 217 В силу условия (6) поверхность Г можно локально представить комплексным уравнением, разрешенным относительно одной из переменных, скажем, гп = Ф('г) с R-дифференцируемой функцией Ф. Тогда любой касательный вектор v = (vu ..., vn) к Г должен удовлетворять уравнению п—1 п—1 v=l v=l а так как по доказанному вектор iv также является касательным к Г, то п—\ п—\ V дФ V <?Ф _ А v=1 v=1 п-\ Отсюда следует, что У -^yv = 0, но координаты vv v=l (v==l, ..., п— 1) могут принимать любые значения, ибо сНггиГ(Г) = я — 1, и значит, -^j- = 0 для всех v=l, ... ..., л—1, т.е. Ф — голоморфная функция ► Пример. Flycib фх = | 2x1 — 1, q>2 ===== | з2 I — 1 в С2. Поверхности £/ = { 12у |== 1}, /=1,2, пересекаются по тору Г=={|г1| = 1, |г2|=1}. Так как это не голоморфная поверхность, то из теоремы Кнезера следует, что всякая функция f, голоморфная в той части окрестности Г, где либо | гх | < 1, либо [г21 < 1 непременно голоморфно продолжается на Г. Из теоремы во вложенном ребре просто следует вариант теоремы об аналитичности множества особенностей, в котором заранее предполагается гладкость этого множества, но вместо условия конечности числа точек пересечения с комплексными прямыми вводится более общее условие о размерности множества: Теорема 4. Если функция f голоморфна в некоторой 2п-мерной окрестности (2п — 2)-мерной поверхности Г класса С2 и не продолжается голоморфно на Г, то Г — голоморфная поверхность. « Пусть г° ^ Г — произвольная точка. Так как ГсС2 и является (2п —2)-мерной поверхностью, то в окрест-
218 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III ности z° она задается двумя действительными уравнениями ф1 = 0, ф2 = 0, где ф/^С2, и ранг матрицы (6) в этой окрестности равен 2. Так как / заведомо голоморфна в той части окрестности Г, где min (фЬ ф2) < О, и не продолжается на Г, то Г — голоморфная поверхность ►■ ЗАДАЧИ 1. Пусть/ голоморфна в поликруге U czGn и непрерывна на множестве U[)Г, где Г —остов U. Доказать, что/ продолжается до функции из С (и). 2. Функция. / непрерывна на границе dU единичного поликруга ^сС"ив каждом круге AVta=={g: J^ = e\ H^v, |£v|<l}cr czdU голоморфна no £v» v=l, 2, ... , n Доказать, что f продолжается до функции из 0(U)f\C (и). 3. Функция / непрерывна на остове Г единичного поликруга U czCn. Доказать, что f продолжается до функции из 0 (U)f\C (и) тогда и только тогда, когда $/(£)£ftd£ = 0 для всех k — (klt ... , kn), г kv — целые и хотя бы одно из них ^0. 4. Пусть U — бикруг { | Zx | < 1, |z2[ < 1} и Е — подмножество единичного круга в С, имеющее 0 своей предельной точкой Предположим, что функция f(zlt г2) ограничена в U, голоморфна по гх при каждом г2, |г2|<1, и голоморфна по г2 при каждом гг^.Е. Доказать, что / голоморфна в U. 5. Пусть функция / аналитична в области D clR2n по каждой координате хг х2п ив некотором -шаре V cz D голоморфна по комплексным координатам Zv = Xv-{-ixv+n, v=l, ... , п. Доказать, что f голоморфна в D (относительно координат zv). 6. Доказать, что полиномиально выпуклая оболочка связного компакта также связна. 7. Доказать, что следующие множества являются полиномиально выпуклыми: а) полиномиальный полиэдр Вейля; б) любой компакт, лежащий в действительном подпространстве С"; , в) образ G=/(C2) при отображении , из примера Фату (п. 11). 8. Доказать, что область сходимости ряда из полиномов (соответственно рациональных функций) является полиномиально (соответственно рационально) выпуклой. 9. Доказать, что рационально выпуклая оболочка Кп компакта К с: С" совпадает' с множеством {z е Сп: р (z) е р (К) для всех полиномов р]. ^ 10. Доказать, что полиномиально выпуклая оболочка множества МсС2, состоящего из окружности без малой дуги {г1=е**, 6^^^ ^2л; г2 = 0} и из цилиндра {z1 = eitt 0^/^б; |г2| = 1}, содержит круг {|гх|^1, г2 = 0}.
ЗАДАЧИ 219 11. Доказать, что область D = {zeC2: | zt j2 + x*| ^р2} не является областью голоморфности. 12. Пусть D —область голоморфности, М — относительно замкнутое аналитическое множество в Ь; тогда для любого компакта К cz М его оболочка относительно 0 (D) принадлежит М. 13. Пусть К—компакт на замкнутом одномерном аналитическом множестве М cz СЛ. Тогда: 1) множество К рационально выпукло; 2) если аналитическое множество М\К неприводимо, то К полиномиально выпукло. Привести пример полиномиально выпуклого компакта К cz М такого, что множество М\К несвязно. 14. Доказать, что компакт /С= { | гг | ^ 1, | z2 | ^ | гЛ } нельзя представить как предел убывающей последовательности областей голоморфности. 15. Пусть М—дважды гладкое многообразие в СЛ, не имеющее комплексных касательных плоскостей (отсюда вытекает, что действительная размерность М не выше п). Доказать, что М является пределом некоторой убывающей последовательности областей голоморфности. 16. Пусть Di и D2 — ограниченные области на плоскости, звездные относительно начала координат, и K = {tz: O^t^l, z^dD±X XdD2\. Доказать, что всякая функция, голоморфная в окрестности/С, продолжается до функции, голоморфной в окрестности Dx X D2. 17. Функция и: D->U класса С2 тогда и только тогда, когда плюригармонична в области D cz Сл, когда для всех геЬи всех сое=С* И, V=l 18. Определение субгармоничности без всяких изменений пере» носится на случай пространства (Rm, если мажорантой считать гармоническую функцию т действительных переменных. Показать, что плюрисубгармонические функции в области D cz czCn( — U2n) составляют подкласс функций, субгармонических в D. 19. Доказать, что всякая функция, аналитическая по действительным координатам в области D с: О и плюригармоническая в некотором шаре V cz D, плюригармонична во всей D. 20. Доказать, что всякая функция, гармоническая в области D czGn и плюрисубгармоничеекая в некотором шаре V cz Dt плюригармонична в D. , 21. Пусть К — компакт в С", г° — произвольная точка из его полиномиальной оболочки Кр, U — окрестность г° в Сл и S = (U()K)\J [)(dU f\KP). Тогда для любого многочлена р выполняется неравенство | р (г°) | ^ max | р (г) | (локальный принцип максимума Росси). 22. В обозначениях предыдущей задачи пусть функция и плюри- субгармонична в U. Доказать, что и (г°) ^ sup и (г).
220 АНАЛИТИЧЕСКОЕ ПРОДОЛЖЕНИЕ [ГЛ. III 23. Полиномиально выпуклая оболочка компакта /С cz С* совпадает с множеством {г е Сл: и (z) ^sup и и для всех функций и, К плюрисубгармонических в С"}. 24. Если р—многочлен или целая функция, то все связные компоненты множества {х е IRn: p(x + iy)^0 для Vy е Rn\ выпуклы 25. Пусть М — действительное многообразие, определяемое в области D cz 0я системой фх = ф2 = 0, где фу е СЦй). Доказать, что если dq>i Д дфг = 0, a dq>t Д dy2 Ф 0 во всех точках М, то М — комплексное многообразие.
Глава IV МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ В этой главе мы рассмотрим класс функций с особенностями простейшего типа — мероморфных функций. Особое внимание будет уделено решению проблем Кузена, которые состоят в построении мероморфных функций по заданным главным частям и нулям. Сначала мы рассмотрим элементарное решение этих проблем в простейшем случае, затем познакомим читателей с методами, которые приводят к общему их решению. Последний параграф посвящен многомерной теории вычетов и связанным с ней задачам анализа. § 14. Мероморфные функции 37. Понятие мероморфной функции. Функция / называется мероморфной в области ОсСл, если она: 1) голоморфна всюду в D, за исключением некоторого множества Р, 2) не продолжаема аналитически ни в одну точку Р и 3) для любой точки z° ^Р существуют окрестность U и голоморфная в ней функция "ф^О такие, что голоморфная в Df]{U\P} функция <p = /i|) голоморфно продолжается в U. Очевидно, что -ф (г°) = 0 в каждой точке z° ^ Р f| U (иначе вместе с /г|) и функция / продолжалась бы в некоторую окрестность точки г°). Если предположить, что для любой г° ^ Р функции <р и я|? не имеют общих множителей, голоморфных в некоторой окрестности г° и равных нулю в этой точке (на такие множители всегда можно сократить ф и ij)), то г|) будет обращаться в нуль лишь на множестве Р. Таким образом, Р является аналитическим множеством —в окрестности Uz<> своей произвольной точки оно определяется условием Р={г^и*: ф(г) = 0} (1)
222 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV где г|3 ^ & (Uz<>). Множество Р называется полярным множеством функции /. Однако не во всех точках полярного множества Р поведение мероморфной функции / одинаково. Точки г° ^ Р делятся на полюсы, в которых функция ф = /^ отлична от нуля, и точки неопределенности, в которых ф = 0 (мы по-прежнему считаем, что ф и ^ не имеют общих множителей, голоморфных в точке г° и равных там нулю). При приближении к полюсу функция /=?■ неограниченно возрастает, а в окрестности точки неопределенности она принимает любое комплексное значение (именно значение w0 на аналитическом множестве {z ^ U2<>: ф (г) — — w0ty(z) = 0}, очевидно, содержащем точку неопределенности г°). Комплексная размерность множества точек неопределенности по меньшей мере на единицу ниже размерности множества полюсов, ибо точки неопределенности характеризуются дополнительным условием ф(г) = 0, независимым от г|) (г) = 0. Пример. Для функции f= —, мероморфной в С2, полярным множеством служит комплексная прямая {Zi = 0}. Все точки этой прямой являются полюсами, кроме {г1 = 0, г2 = 0}, которая есть точка неопределенности. Приведем теперь общее определение мероморфной функции на произвольном комплексном многообразии М\ его удобно сформулировать при помощи понятия пучка (п. 24). Для фиксированной точки р е М определим стебель <Мр как поле отношений в кольце & р ростков голоморфных функций в точке р. Под этим понимается следующее: пары (ф, if) и (фь ifi) ростков из (дрл где if и ^ не являются ростком функции, тождественно равной нулю, называют эквивалентными, если фяр1 = 1|эф1 (проверка выполнения аксиом эквивалентности элементарна). Классы эквивалентности по этому отношению объявляют ростками мероморфных функций в точке р\ росток, содержащий пару (ф, if), мы будем обозначать символом f = ?-. В совокупности <Мр всех таких ростков вводятся операции 514- — = Ц^+Ф2^1 У±.Фк= Ф&* (2)
§ HI МЕРОМОРФНЫЕ ФУНКЦИИ 223 где справа используются операции над ростками голоморфных функций (см. стр. 173 ч. I), нетрудно видеть, что определения (2) корректны (во-первых, классы эквивалентности пар в правой части принадлежат оМрл ибо ij^ifa^O, если г|?1=т^0 и г|?2 Ф 0 и, во-вторых, они не зависят от выбора представителей классов.) Относительно этих операций <Мр является коммутативным полем, которое и называется полем отношений в кольце 0р. Нейтральным элементом аддитивной группы поля <з^р является элемент 0 = у, где if> =^= 0; его можно отождествить с ростком голоморфной функции, тождественно равной нулю. Совокупность о/М* = оМр\0 ростков мероморф- ных функций, не равных тождественно нулю, образует мультипликативную группу поля оМр. Ее нейтральным элементом служит 1= — , где уФО, а обратным к элементу f = y является -у = — (он принадлежит <^р, ибо Теперь можно ввести пучок ростков мероморфных функций на комплексном многообразии М как пучок полей, пространством которого является а проекция и топология вводятся, как в пучке ® (М)\ операции (2) непрерывны в этой топологии. Сечения пучка &% (М) в области D cz М называются мероморфными функциями в этой области; их совокупность обозначается символом Y(D, <М) или просто <M(D). По отношению к мероморфной функции /еэ^(0) точки области D можно разбить на два типа. Будем говорить, что функция / определена в точке p^D, если / сопоставляет р росток f е о^р, у которого есть представитель (ф, ty)> где ф, if ^0р и не обращаются одновременно в 0 в точке р1). Каждой точке р, где мероморфная функция / определена, она относит комплексное значение / (р) = ~-%rf\—конечное, если ^(р)ф0, и бесконечное, если 1) Под значением ростка голоморфной функции в точке пони* мается значение в этой точке представляющих его функций.
224 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV гр(р) = 0 (это значение, очевидно, не зависит от выбора представителя (<р, if) ростка f). Точки D, в которых ме- роморфная функция / ^2/Н (D) не определена, образуют множество неопределенности этой функции. Это —точки.р, которым соответствует росток f е ®^р, для всех представителей (ф, if) которого одновременно ф (р) — г|э (р) = 0. Точки D, в которых функция /^Q^(D) определена, образуют открытое и плотное в D множество, ибо его дополнение — множество точек неопределенности / — аналитическое множество. Точно так же открыто и плотно множество точек D, в которых / определена и принимает конечные значения. Точкам этого множества соответствуют ростки fso^, которые можно представить в виде у- и отождествить с ростками (j)G^, поэтому это множество называется множеством голоморфности функции f. Его дополнение в области D называется полярным множеством f (оно состоит из точек неопределенности / и тех точек, где /.определена и принимает бесконечные значения). В качестве примера рассмотрим мероморфные функции на С* и ©Р". В €п мероморфными являются все многочлены и рациональные функции от г = (гь ..., zn). Пример. Для функции ггг2 совокупность бесконечных точек С2 является полярным множеством, на котором (0, оо) и (оо, 0) — точки неопределенности. Для функции —\^- полярным множеством яв- ляется прямая {г2 = —гх}, точками неопределенности —(0, 0) и (оо, со), остальные бесконечные точки —точки голоморфности В (DP* многочлены от г = (г0, ..., гп) не являются функциями (если они не постоянны), а из рациональных допускаются лишь однородные функции, которые не меняются при замене z на Хг, Х^€# (т. е. отношения однородных многочленов); последние мероморфны в (DP*. Оказывается, рациональными функциями и исчерпывается запас мероморфных функций в этих пространствах. Теорема 1. Любая функция /, мероморфная в СР" или Юл, рациональна. < Аффинной частью обоих этих пространств является С", и если z = (zly ..., z) — координаты в Ся, то сужение / на любую комплексную прямую С = {zv} при фиксированных остальных координатах представляет собой ме-
§Н1 МЕРОМОРФНЫЕ ФУНКЦИИ 225 роморфную функцию одного переменного zv, имеющую в точке zv = оо полюс или устранимую точку (v = 1,..., п). По теореме из п. 25 ч. I это сужение является рациональной функцией от zv. Но функция, рациональная по каждому переменному при фиксированных остальных, является рациональной и по совокупности переменных (см. задачу 12 к гл. I). По теореме единственности f рациональна и во всем пространстве (DP* или (ПЛ ► Остановимся на понятии дивизора мероморфной функции. Для функций одного переменного дивизор —это совокупность нулей и полюсов функции вместе с их порядками, причем порядки нулей считаются положительными, а полюсов отрицательными. Переходя к общему случаю, предположим, что на «-мерном комплексном многообразии М задана мероморфная функция /. Пусть локально, в окрестности U точки р0^М, она представляется как отношение голоморфных в U функций: ■ Ж=^, (4) где ф и \|) не имеют общих голоморфных множителей, одновременно обращающихся в нуль (такое представление мы будем называть приведенным). Обозначим через А объединение множества N нулей этой функции и ее полярного множества Р —это, очевидно, аналитическое множество коразмерности 1 (или пустое). Точки неопределенности, т. е. пересечения /V (}Р, являются критическими точками Л, так что любая регулярная точка а е Л° принадлежит либо /V, либо Р (см. п. 21). Такая точка, далее, может принадлежать лишь одной неприводимой компоненте /V или Р (ибо точки пересечения нескольких компонент —критические), и, значит, ей соответствует вполне определенное натуральное число — показатель степени соответствующего множителя в разложении функции ф или г|) на неприводимые множители (см. п. 21). Это число мы условимся брать со знаком +, если а е N, и со знаком —, если ogP, и называть порядком компоненты. Оно, очевидно, не зависит от выбора приведенного локального представления (4). Дивизором мероморфной функции f называется пара Л/ = (А, k), (5) 8 Б. В. Шабат, ч. И
226 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV составленная из аналитического множества A=N\jP коразмерности 1 и целочисленной функции k = k(p), которая определена на множестве Л° регулярных точек А и на каждой его неприводимой компоненте принимает постоянное значение, равное порядку этой компоненты; функция k непрерывна на А0. 38. Первая проблема Кузена. Начнем с перефразировки задачи о построении мероморфной функции одного переменного по ее полюсам и главным частям (п. 43 ч. I). Пусть в области DcC задана последовательность точек av, не имеющая предельных точек в D, и последователь- ность функций gv(z)— У ^ \k - Рассмотрим покры- k = \ тие U = {Ua}aE=A области D областями UaczD, каждая из которых содержит конечное число точек av, и обозначим через fa сумму gv по всем точкам av ^ Ua; если Ua не содержит точек av, мы положим fa = 0. Все /а — меро- морфные функции, причем, если иа[\и§Ф ф, то в этом пересечении /а — f$ = lia$ является голоморфной функцией. Задача сводится к построению мероморфной во всей области D функции / такой, что разности f — fa голоморфны в Ua для всех аЕА. По теореме Миттаг-Леффлера (п. 43 ч. I) эта задача разрешима для любой плоской области D. В таком виде задачу можно поставить для произвольного комплексного многообразия Af, и она называется первой или аддитивной проблемой Кузена для покрытия. Постановка этой проблемы такова: Дано открытое покрытие 2l = {Ua}a<=A комплексного многообразия М и в каждой Ua задана мероморфная функция/а, причем выполняется следующее условие согласованности: в любом непустом пересечении ^ар = ^аП^Р раЗНОСТЬ fa-h = ha»^0(Ua»), (1) т. е. является голоморфной функцией. Требуется построить мероморфную на всем многообразии М функцию / такую, что f — fa^0(Ua) для всех а^А. Для размерностей выше 1 эта проблема разрешима не всегда.
§ HI МЕРОМОРФНЫЕ ФУНКЦИИ 227 Пример. Пусть область С| = С2\{0} покрыта двумя областями £// = С2\ {г7==0}, / = 1, 2. Функцию —, мероморфную в Uv 2122 мы выберем в качестве flt а в U2 положим /2=0; так как U12~ = С2\ {21z2 = 0}, то эти данные Кузена согласованы. Допустим, что поставленная проблема Кузена разрешима, т. е. существует ме- роморфная в С| функция / такая, что f — fi — gi^0(Ui) и fe ^0(U2) Так как 22/i = —^0(иг), то и z2f е 0 {иг), а значит, функция zj голоморфна в Ui\jU2 = G%, По теореме Осгуда — Брауна 2о/ продолжается до целой функции, а — = (z2f)— г^ в Ub в част- i ности, — = (z%f) в проколотой плоскости {z2 = 0}\0. Но функция 21 zrf непрерывна в 0, а — не ограничена — противоречие zi Приведем необходимое и достаточное условие разрешимости проблемы Кузена, которое, впрочем, столь близко к самой проблеме, что его можно рассматривать как изменение формулировки. Функции Лар = /а — /р. очевидно, кососимметричны по индексам, т. е. /ipa = — ha$, а в каждом тройном пересечении f/apY = Uа П U$ П Uy Ф Ф °ни удовлетворяют условию ftaP + V + V = 0- (2) Любой набор функций ha$^0(Ua$), кососимметричных по индексам и удовлетворяющих условию (2) во всех тройных пересечениях f7apY, мы будем называть голоморфным коциклом для данного покрытия U = {Ua} многообразия. Если эти функции связаны с данными Кузена соотношениями (1), то коцикл {ftap} будем называть соответствующим проблеме Кузена {/а}. Наконец, голоморфный коцикл {ha$} мы назовем кограницей, если для всех asA существуют функции ha^0 (Ua) такие, что в каждом пересечении Лар = Аэ —fta- (3) Введенные термины и позволяют сформулировать условие разрешимости, о котором мы говорили: Теорема 1. Для разрешимости проблемы Кузена {fa} для данного покрытия U многообразия М необходимо и достаточно, чтобы соответствующий этой проблеме голоморфный коцикл {/zap} был кограницей* 8*
228 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV < Если проблема Кузена {/а} разрешима, то существует функция f, мероморфная на М и такая, что все разности f — fa = ha голоморфны в Ua(a^A). Отсюда для соответствующего голоморфного коцикла Лар имеем ^аЭ = /а — fa = Н "" ^а» а это означает, что {ha$} когомологичен нулю.' Пусть, обратно, голоморфный коцикл {/zapb соответствующий проблеме Кузена {/а}, является кограницей. Тогда существуют функции ha^0 (Ua) такие, что h$ — ha = ha$ в каждом пересечении t/ap, т. е. в каждом i/aij имеем fa — h = h$ — ha или для любых а, Р е А. Таким образом, функции /a + Aa, мероморфные в l/a, не зависят от выбора окрестности t/a и на всем Л1 глобально определена мероморфная функция /, равная fa + ha в каждом Ua. Она и решает рассматриваемую проблему Кузена ► Перефразируем доказанную теорему. Для данного покрытия {Ua} многообразия М голоморфные коциклы Лар можно складывать (поточечно в каждом пересечении (/ар), и относительно этой операции они образуют группу, которую мы обозначим Z1(22, 0) и будем называть группой голоморфных коциклов для данного покрытия 21. В этой группе есть подгруппа В1 (21, 0) кограниц. Фактор-группу ZX{U% 0)1ВЦ21, 0) = Н1(22, 0) (4) мы будем называть (первой) группой когомологий для покрытия U многообразия М (с голоморфными коэффициентами). Элементами #*(#, 0) служат классы когомологичных друг другу голоморфных коциклов. Тривиальность этой группы означает, что для рассматриваемого покрытия все голоморфные коциклы являются кограницами. Поэтому из теоремы 1 вытекает такое достаточное условие разрешимости первой проблемы Кузена. Следствие. Если для некоторого покрытия 21 многообразия М НЦ22,0) = О, (5) то для этого покрытия разрешима любая первая проблема Кузена.
§ HI МЕРОМОРФНЫЕ ФУНКЦИИ 229 Введенные выше понятия допускают прямую аналогию в классе гладких (бесконечно дифференцируемых) функций и многообразий. Пусть гладкое многообразие М покрыто системой # = {£/а}ае=А открытых множеств и каждому непустому пересечению Ua$ сопоставлена функция АаРе/((/ар), т. е. гладкая в J7aP, так, что /г$а = — 1га$. Если в каждом тройном пересечении выполняется условие (2), то {Лар} мы будем называть гладким коциклом для покрытия 21. Если еще выполняется гладкий аналог условия (3), т. е. для любого a ^ А существует функция ha^<^(Ua) такая, что ha^ = h^ — ha в Ua$ для всех a, PgA, то коцикл {ha$\ называется кограницей. Точно так же, как в голоморфном случае, определяется и первая группа когомологий Н1 (21, &) с гладкими коэффициентами. Оказывается, однако, что эта группа всегда тривиальна: Теорема 2. Для любого открытого покрытия U гладкого многообразия М ;#!(#, ^) = 0, (6) т. е. любой гладкий коцикл {ha$\ является кограницей. <4 Построим для {Ua} разбиение единицы, т. е. семейство функций еа е С°° (М) таких, что: 1) 2 еа (Р) = ' 0CGA для всех точек р ^ М, 2) носитель каждой еа компактно принадлежит Ua и 3) каждая точка р ^М имеет окрестность, пересекающуюся лишь с конечным числом носителей еа. Для этого построим сначала локально конечное покрытие Vt, is/, такое, что для каждого /е/ задано a (i) е А, при котором Vt a Ua {i) (существование такого покрытия следует из того, что М является объединением возрастающего семейства компактов; покрытие V = {Vi} называют подчиненным покрытию 21). Построим разбиение единицы £/^С°°, is/, для покрытия V и положим еа = 0, если аФa(i) ни для какого /, а еа^=^е), сумма по всем уе/, для которых a(y')=a(i). Семейство {еа}> очевидно, удовлетворяет указанным условиям. При помощи этого разбиения единицы мы сгладим функции /гар, заменив их функциями ( eihia в Uia>
230 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV При этом мы продолжили hia во всю окрестность Ua, но отличной от нуля она оказывается лишь в пересечении Uia. Теперь в каждой Ua мы можем определить функцию />«=£/&; (7) I здесь суммирование распространяется на все множество индексов, но в каждой точке p^Ua отлично от нуля лишь конечное число слагаемых. Очевидно, все ha ^ С°° и в любой точке каждого пересечения £/ар Ч - К = £ {Щ - Л/а) = S *' (Л0 - W. (8) t i Но так как {Лар} — коцикл, то в каждой точке пересечения иа& в силу (2) имеем А/р — Л/а = Ла/ + А/э = ЛаР, поэтому согласно (8) в каждом иа$ t Таким образом, семейство {Ла} и есть искомое, т. е. {ha$\ — кограница ► Читатель, несомненно, заметил, что введенные здесь термины аналогичны тем, которые были введены в п. 13 при изучении дифференциальных форм. В следующем пункте мы убедимся в том, что связь дифференциальных форм с проблемой Кузена достаточно глубока и не исчерпывается сходством терминологии. 39. Решение первой проблемы. Здесь будет доказана разрешимость первой проблемы Кузена в простейшем случае поликруга, или общее —произведения плоских одно- связных областей. Решение будет осуществлено в два этапа, первый из которых уже подготовлен, а для подготовки второго нам понадобится Лемма. В любой односвязной области D сС для любой функции g"^C°° неоднородная система Коши — Ри- мана разрешима в классе ^(D). Если при этом g является голоморфной (или гладкой) функцией некоторого пара-
§ HI МЕРОМОРФНЫЕ ФУНКЦИИ 231 метра, то и решение f голоморфно (или гладко) зависит от него. 4 Пусть сначала функция g финитна, т. е. равна нулю вне некоторого компакта из D. По формуле Коши — Грина (п. 19 ч. I) имеем тогда где da —элемент площади. Рассмотрим теперь функцию D мы можем продолжить g на всю плоскость, полагая ее равной нулю в ©\£>, и тогда считать, что интегрирование распространяется на С Сделаем еще замену переменного интегрирования £->£ + г; тогда будем иметь С Дифференцированием под знаком интеграла (которое, очевидно, законно) находим dz я л 1J дг I С или, возвращаясь к старому переменному интегрирования, dg do dz л VJ Сравнивая это с (2), мы * убеждаемся, что f удовлетворяет системе (1). Дифференцировать интеграл (4) по г можно любое число раз, следовательно, feC°°(D). Если g голоморфно зависит от параметра, то и интеграл так же от него зависит. Для финитных g лемма доказана. В общем случае мы возьмем компактное исчерпывание D односвязными областями Gv(Gv<mGv+l9 \JGV=*D) и построим функции gv^C°°(D) так, чтобы gv = g в Gv и gv = 0 в D\GV+1. По доказанному каждая система
232 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV разрешима в классе 0е0 (D); мы покажем сейчас, что решения /v можно выбрать так, чтобы в каждой Gv было 1/vfi-ZvKgv (v==1> 2,...). (5) В самом деле, выберем решение f± по формуле _ (3), в которой g заменена функцией gu потом возьмем f2 по той же формуле с заменой g = g2 я заметим, что. разность /2 — fL голоморфна в бЛибо там^ (/2 — Л) = ft — gi = 0J. По теореме Рунге (п. 23 ч. I) для любой области G0 е Gx можно подобрать многочлен Рг так, чтобы в G0 было \h-h-Pi\<Y' теперь видно, что f2 = /2 — -Pi удовлетворяет системе ^ = = й и условию (5) при v=l. Точно такой же прием можно применить и для v = 2, 3, Построенная последовательность /v на каждом компакте KsD равномерно сходится к функции /=/i+2!tt*i-/v). v=l В любой G^ функция / представляется как конечная сумма функций класса С°° и суммы равномерно сходящегося ряда из голоморфных функций /v+i — Д,, где v^\i (при v^|n на G^ имеем Д~г = -^- = gj. Следовательно, f^C°°(D) и ~= lim 4^=g всюду в D; голоморфная а2 V-юо а2 зависимость / от параметра, от которого зависит g, следует из теоремы Вейерштрасса (п; 23 ч. I), а гладкая доказывается элементарно ► В основе второго этапа решения проблемы Кузена лежит так называемая теорема о разрешимости д-проблемы. Для ее формулировки напомним, что всякая точная относительно оператора д форма со (т. е. форма, которая представляется в виде g) = <?g)i) непременно является замкнутой, т. е. для нее дсо = 0, — это следует из соотношения д2 = 0 (см. п. 13). Таким образом, условие замкнутости
§ 141 МЕРОМОРФНЫЕ ФУНКЦИИ 233 необходимо для того, чтобы форма была точной. Теорема о разрешимости d-проблемы выражает, что для некоторых областей это условие и достаточно. Теорема 1. Если область D с: С* является поликругом, или общее — произведением" плоских односвязных областей DiX...xD„, mi в ней каждая замкнутая относительно оператора д форма со бистепени (0, 1) с гладкими коэффициентами точна, т. е. любое уравнение 3/ = ю, (6) п где (о= 2 a\dzv, tfv^C°°(D) и дю = 0, разрешимо в классе v= 1 функций /eC°°(D). 4 Перепишем (6) в виде системы dz. V = av, v=l, ..., п, (7) и ее разрешимость в классе C^iD) будем доказывать индукцией по п. При п=1 утверждение доказано леммой; предположим, что оно справедливо, когда число переменных не превосходит я—1, и докажем его справедливость для системы (7) с п переменными. Рассмотрим последнее уравнение этой системы и обозначим через g его решение в области Dn —функцию от гп, зависящую от 'г = (гь ..., гп^г) как от параметра. Решение системы (7) мы будем искать в виде / = = £ + ф; тогда ср должна быть голоморфной по гп в D„, а по остальным переменным в области 'D = йг х ... х Drt_x удовлетворять системе ^Ф _ а -* = ^ = flv-^- = *v, v=l, ..., д-1 (8) да^ dav №g Так как форма со замкнута, т. е. щ = ^ и g-^ = то зг^Р" Для всех ц, v = 1, ..., я — 1. Следо^ a — 1 вательно, форма 2 &vdzv также замкнута и, по индуктив-
234 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV ному предположению, существует решение (peC°°('D) системы (8), зависящее от гп как от параметра. Остается проверить, что ф зависит от гп голоморфно, а для этого достаточно убедиться в том, что правые части системы (8) голоморфно зависят от гп *). Но мы имеем dby, dav d2g да v дап ~ dzn ~~ ~dzn "" dzn dzv ~~ дТп ~~ Wv ~~ для всех v=l, ..., /z — 1 в силу замкнутости формы со ► Обозначим символом H1(D) = Z^/B(,'i (9) фактор-группу группы Z0,1 замкнутых относительно оператора д форм бистепени (0, 1) с гладкими в D коэффициентами по ее подгруппе В01 точных (0, 1)-форм (ср. с п. 13, где аналогичная группа определяется для оператора d). Тогда теорему 1 можно сформулировать так: Теорема Г. Для произведения D плоских односвязных областей фактор-группа (9) тривиальна. Теперь все готово для доказательства разрешимости проблемы Кузена. Теорема 2. Если область D cz Сл является произведением плоских односвязных областей, то для любого ее открытого покрытия {Ua} любая аддитивная проблема Кузена {fa} разрешима. < Как уже говорилось, доказательство проводится в два этапа. Пусть ha$ = fa — f$ — соответствующий проблеме голоморфный коцикл (т. е. набор функций, голоморфных в пересечениях f/ap = Ua f| t/p областей покрытия). Сначала, пользуясь теоремой 2 предыдущего пункта, мы разрешим этот коцикл в гладких функциях, т. е. найдем функции ga е С°° (Ua) такие, что hafi = gfi-ga В t/ap. (10) На втором этапе мы подправим это решение, заменив ga голоморфными функциями. Для этого заметим, что в силу голоморфности функций /iap в каждом пересечении Ua$ мы имеем dftap = dg$ — dga = 0. Отсюда видно, что форма со бистепени (0, 1), которая в каждой Ua *) Это утверждение доказывается индукцией по п при помощи леммы.
§ HI МЕРОМОРФНЫЕ ФУНКЦИИ 235 равна dgat на самом деле определена глобально, во всей области D (в каждом пересечении у нас dga = ~dg$). Эта форма, очевидно, замкнута в D (ибо каждая точка z^D вместе с некоторой окрестностью принадлежит какой-либо Uа, а там G) = dg-a и, значит, д(о = 0) и имеет гладкие коэффициенты. По теореме 1 найдется гладкая в D функция g такая, что dg = (o. Тогда для всех а функция ha = ga — g будет голоморфной в IJa, ибо там dha=^dga~(o = 0. Остается вместо (10) написать haz = (gfi-g)-(ga-g) = ht-ha. (11) Мы разрешили коцикл {ha$} в голоморфных функциях, а по теореме 1 предыдущего пункта этого достаточно для разрешимости соответствующей проблемы Кузена ► Замечание. Первый из двух фактов, на которых основано наше решение первой проблемы Кузена —тривиальность группы Н1 (#, gF) когомологий с гладкими коэффициентами —справедлив для любого открытого покрытия произвольного гладкого многообразия (см. теорему 2 п. 38). Второй факт —разрешимость д-проблемы на многообразии М, или, что то же самое, тривиальность фактор-группы Нг(М) замкнутых (0, 1)-форм поточным— значительно более тонок и справедлив не всегда. Мы доказали его для произведения плоских односвязных областей, но на самом деле он имеет место для любых областей голоморфности вСяи вообще для многообразий Штейна (см. п. 35): На любом многообразии Штейна М H1(M) = Z°'1/B°'l = 0, (12) т. е. уравнение df = (o разрешимо в классе С°° (М) для любой формы со с гладкими коэффициентами, для которой ~д(д = 0. Доказательство этой теоремы существования теории уравнений с частными производными требует привлечения достаточно трудных методов, и мы его опускаем (на стр. 247 мы процитируем более общее утверждение и там приведем литературную ссылку). Основываясь на приведенных фактах, мы можем повторить доказательство теоремы 2, и тогда получим
236 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV общую теорему о разрешимости первой проблемы Кузена для покрытий: Теорема 3. Для любого открытого покрытия {Ua\ многообразия Штейна М любая первая проблема Кузена {fa\ разрешима. § 15. Методы теории пучков В этом параграфе мы хотим познакомить читателя с методами, которые возникли при сочетании идей комплексного анализа с идеями алгебры и топологии. Главная заслуга в создании этих методов принадлежит французской математической школе, в первую очередь А. К ар- тану и Ж. П. Серру. Нашей целью являются не сами методы, а их применения. Поэтому мы опускаем доказательства некоторых утверждений. Начнем с обобщения терминов, введенных в п. 38, распространив, их с мероморфных функций на сечения произвольного пучка каких-либо алгебраических структур. Для определенности будем иметь в виду пучки абелевых групп со сложением в качестве операции. 40. Группы когомологий. Рассмотрим открытое покрытие %={Ua}a^A пространства М, над которым задан пучок абелевых групп ©^..Фиксируем целое число г^>0 и для произвольного мультииндекса а = (ос0, ..., аг)еАг+1 обозначим Ua = Uao[)...nUar (1) пересечение г+1 множеств покрытия. Коцепью порядка г для данного покрытия U пространства М с коэффициентами в пучке of называется функция ft, сопоставляющая каждому мультииндексу а е Ar+1 некоторое сечение ha е Г (Uat S*) (см. п. 24) и кососимметрическая по индексам, т. е. сохраняющая значение при четной перестановке индексов и меняющая знак при нечетной перестановке (напомним, что на сечения пучка распространяются операции в слоях). Если Ua пусто, будем считать, что fta==0. Множество всех коцепей порядка г для покрытия U с коэффициентами в пучке £? мы обозначим через Cr{2l, S?)\ это— группа относительно операции, действующей в слоях.
§ 15] МЕТОДЫ ТЕОРИИ ПУЧКОВ 237 Определим теперь пограничный оператор 6, который каждой коцепи h порядка г относит коцепь bh порядка г +1 по правилу (б/1)а0...аг+1=2(-1ГЧ-.-^ (2) v = 0 v (справа индекс av опускается). Отображение б: C(U, ^)-^С'+1(#, ^), (3) очевидно, является гомоморфизмом соответствующих групп коцепей. Оператор б аналогичен граничному оператору д (п. 13), как и последний, он идемпотентен, т. е. его квадрат равен нулю: 62 = б-б = 0. (4) Коцепь h^Cr (#, S?) называется коциклом, если его кограница 6Л = 0; совокупность Zr(U, S*) = {hzEC'{U, S*)\ 6Л = 0} (5) называется г-й группой коциклов (с коэффициентами в S*). Коцикл /г^Сг называется когомологичным нулю или кограницей, если существует коцепь g е С1"1 (М% <£?) такая, что 8g = h\ группу таких коциклов мы будем обозначать символом Вг (%, &). Она является подгруппой группы (5), и факторгруппа H'(U, £*) = Zr{U, S*)lBr{U, £*) (6) называется г-й группой когомологий (с коэффициентами в S^) для покрытия 21. В частном случае г=1 коцепи {hao(X/i} определены на пересечениях Ua&i множеств покрытия так, что /iaoai + 4-/iai<Xo = 0 (кососимметричность по индексам). Когранич- ный оператор переводит их в коцепи порядка 2 такие, ЧТО (8h)a0ala2=haia2 — ha0a2+ha0al В t/aoCCia2. Поэтому КОЦИК- лами будут такие коцепи, для которых еще ftaia2 + Aa2a0+ + ft06oa1 = 0. Кограницей коцепи {ha} порядка 0 является коцепь (6/i)aoai = hai — Аово. следовательно, кограницами первого порядка будут те коциклы, для которых haoat~ = Aai — /i«0. Мы видим, что введенная здесь терминология при г=1 совпадает с той, которую мы рассматривали в п. 38, а определенная там группа когомологий есть группа №(«, &).
238 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Рассмотрим еще группу когомологий нулевого порядка. Коциклами здесь будут коцепи {Ла}, для которых hat — — haQ = 0 в каждом пересечении t/aoCCl. Следовательно, каждый коцикл h нулевого порядка определяет сечение пучка S? над всем пространством М, т. е. глобальное сечение — элемент группы Г(УИ, £*), сужение которого на каждое Ua совпадает с ha. Коцепью—1-го порядка по определению считается пустое множество, и, значит, кограницей нулевого порядка является лишь нулевой коцикл. Факторизация по нему тривиальна, следовательно, справедлива Теорема 1. Нулевая группа когомологий с коэффициентами в пучке о? над пространством М для любого покрытия U совпадает с группой глобальных сечений этого пучка: H*(U% £")ъГ(Му £*}. (7) Отметим еще, что теорема 2 п. 38 о тривиальности группы Н1 (21, <iF) почти без изменений переносится на высшие когомологий. Именно, справедлива Теорема 2. Для любого открытого покрытия U комплексного многообразия М группы когомологий с коэффициентами в пучке qF°>s ростков гладких (0, эУформ тривиальны: Hr(U% cfo, s)==o для всех гз*1 и s3*0. (8) 4 Требуется доказать, что любой коцикл со = {соао...а^ av е А} является кограницей. Возьмем разбиение единицы {еао\, подчиненное покрытию U и удовлетворяющее условию, которое указано в доказательстве теоремы 2 п. 38, и для a = (a0, ..., ar_x) ^ Аг и PgA, положим pa~ О В U \u* a)a=2j ®Р«- Мы получили коцепь со' порядка г—1; ее кограница v = 0 = 2 ^S(-i)v»k-v-v
§ 15] МЕТОДЫ ТЕОРИИ ПУЧКОВ 239 НО <Оа0...аг— 2 (_ 1)Va)3a0-v-ar = 0> Иб° Ш "" К01*ИКЛ' v = 0 следовательно, (6co')a,ar=2 ^P®a0...ar = ©a0...ar 2 вр = ©« a РеА Pga т. е. бес' = со ► * Теперь мы хотим перейти от групп когомологий для покрытий к группам когомологий самого пространства. Для этого нужно построить процесс локализации, аналогичный переходу от предпучков к пучкам в п. 24. Именно, мы частично упорядочим множество покрытий по отношению включения, определим гомоморфизмы, связывающие группы для двух покрытий, из которых одно мельче другого, и при помощи таких гомоморфизмов перейдем к прямому пределу. Пусть даны два открытых покрытия # = {£/a}a<=A и 6У° = {^р}р€=в; будем говорить, что второе покрытие мельче первого (обозначение: б*#э—<#), если существует отображение р: В-^А (9) такое, что V^cfUp^ для любого р е В. При заданном р каждой коцепи h^Cr (Щ можно сопоставить коцепь ph^Cr CV)y полагая для каждого мультииндекса |5eBr+1 значение (pft)p равным сужению /ip(P) на Vp1). Так как у нас б (рА) = р (б/i) для любой коцепи h (здесь б — когра- ничный оператор), то р индуцирует отображение р*: №{Ц% £*)-*НгО?, Я"), (10) которое, очевидно, является гомоморфизмом групп. Лемма. Если *1P-^U, то гомоморфизм р* не зависит от выбора отображения (9). Л Для г = 0 утверждение очевидно в силу теоремы 1, поэтому можно считать, что г 5^1. Пусть наряду с р г) В соответствии с принятыми выше обозначениями у нас Р=(Ро. ....Рг). p(W=(p(Po). ....р(М и Vp=vPon...nvv символ пучка S? в обозначениях группы Сг и других мы опускаем.
240 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV задано еще отображение р': В-+А такое, что Урс£/р'(Э) для всех р gB. Определим отображение а: Сг+1(^)->Сг(^1/э), положив для каждого р е Br+1 с упорядоченными индексами Po<Pi<...<Pr и каждой коцепи А е Cr+1 (^) г И)Р= I] (-i)v/ip(po)...p(pv)p'(pv)...p'(3r). (И) v = 0 Прямой подсчет1) показывает, что для всех ЛеСг+1(#) о(вй) + б(аА) = р'А —pft. В частности, если h — коцикл (6А = 0), то р'А —рА = б((тА), а значит, рА и р'А принадлежат одному классу эквивалентности при факторизации по кограницам. Отсюда и видно, что р и р' соответствует один и тот же гомоморфизм группы НГ(Щ в Я^(Т) ► По этой лемме р* = р#^ зависит лишь от покрытий (при заданных А и ^). Из нее видно также, что он удовлетворяет условию транзитивности: если №г^*1Р~<#, то Риу} = ^6Т?у/ • Р#Т. (*2) Таким образом, мы действительно имеем ту же ситуацию, что и в п. 24 (с той лишь разницей, что вместо множеств здесь рассматриваются системы множеств — покрытия), и можем осуществить желаемую локализацию. Для этого рассмотрим всевозможные открытые покрытия пространства М и условимся считать элементы f е g№(^) и g^Hr(*Vz) эквивалентными, если существует покрытие Ш такое, что W-<U, Ш —< ^Ь° и притом !) Проведем этот подсчет для /=1. Пусть Р = (Р0» Pi). P(Pv) = av» p'(Pv) = a^; имеем С другой стороны, (6/i)aoaia2=/iaiai-ACCoa„+/iaoai и, значит, по (И) 1°(Ш£ = №%ага,-(Щала, = /ia,a, + *a0aj ~(\a; +\ai). Но по формуле, соответствующей (11) при л = 0, получаем (oh)o — ==/la0aJ» откУД3 f^(a/i)]p = (a/i)Pi — (оЛ^^/Цд/—A^/. Таким образом, [а(аЛ) + б(аЛ)]р=Ла,аГЛаоа).
§ 15] МЕТОДЫ ТЕОРИИ ПУЧКОВ* 241 Quyj (/)= Р^Ц} (g)- Множество классов эквивалентности по этому отношению, т. е. прямой предел limH'(U, ^) = Н'(М, ^), (13) и называется r-й группой когомологий пространства М (с коэффициентами в пучке S*). Замечание. Из этого определения видно, что если для пространства М существуют сколь угодно мелкие покрытия U, для которых Яг(#, ^) = 0, то для этого пространства и НГ(М, е??) = 0. Отметим, что при г=1 справедливо и обратное: если Я1 (М, о?) = 0, то и Я1 (21, о?) = 0 для любого покрытия 21. Это следует из того, что при г=1 гомоморфизм р*: Я1 (Щ •->■ Я1 (*V) инъективен, т. е. прообраз кограницы также является кограницей. Для доказательства этого факта рассмотрим коцикл h^Zl(U), для которого р*Я = б/г', где К еС°(К). Тогда для любых р0, Pi е В в пересечении KpePl (а оно принадлежит t/ao06l> где ау = р(ру)) мы имеем haoOLl = /& — ftp,. Так как й —коцикл, то для любого kgAb пересечении ^а П VpoPt справедливо соотношение hao(Xl — ftaoCC + haiCL = О или, с учетом предыдущего, Это означает, что определено сечение Г (t/a), которое для любого р ^ В задается в 0а П Ур равенством ha = /13 + Vp)a- Но тогда в пересечениях t/aoai П ^р мы получим Л»1 "~ ^а0 = Лр + Ар<Р)а, — Лр — ftp (з)ао = Лр (p)ai — /lp (р)а0 = hao(xt (мы снова воспользовались тем, что А — коцикл), т. е. /г является кограницей. 41. Точные последовательности пучков. Начнем с понятия отображения пучков, которое вполне аналогично понятию отображения римановых областей (см. п. 19). Пусть даны два пучка (е?% а) и (ef, т) над одним и тем же пространством М. Отображением пучков <р: <^->^ (1) мы назовем такое непрерывное отображение топологического пространства <£г в gF\ для которого всюду в £? т*ф = а. (2)
242 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Понятие отображения пучков введено так, что оно сохраняет слои: для любой точки р^М имеем ф (S?р) cz <&~р. Оно сохраняет также и сечения: если /—произвольное сечение пучка S*v над открытым множеством UczM, то отображение cp°f непрерывно в U и т ° (ф ° f) = a °f тождественно (по определению сечения £^ц)> но это означает, что фо/^еГ^. Отображение ф: £?-><£Г называется гомоморфизмом пучков, если оно является отображением этих пучков и, кроме того, сохраняет алгебраические операции во всех слоях. Гомоморфизм пучков называется их изоморфизмом, если ф является взаимно однозначным отображением на е^\ Далее, пусть (^, а) — пучок абелевых групп над М и множество е^~ с: S?\ будем говорить, что (<^, а) является подпучком пучка {£? % ст), если: 1) #" открыто в е^\ 2) ст (^~) = М и 3) для любой точки р ^М слой е^"р является подгруппой группы ^р. Если е^~ является подпучком пучка абелевых групп S*% то для каждой точки р е М можно образовать факторгруппу е^р = ^?р/^р; объединение таких фактор-групп *7«r= (J *>г„ (3) наделенное фактор-топологией1), называется фактор-пучком на М. Примеры. 1. Пусть 0 —тривиальный пучок над комплексным многообразием М (в каждой точке р е М стебель этого пучка состоит из одного нуля), С —постоянный пучок, 0 — пучок ростков голоморфных, a j^"—пучок ростков бесконечно дифференцируемых функций над тем же ЛЬ Здесь каждый предыдущий пучок является подпучком следующего (проверьте условие открытости из определения подпучка). 2. Пучок © над комплексным многообразием М является подпучком пучка <Ж ростков мероморфных функций на М. Будем рассматривать © и *М как пучки аддитивных групп (относительно сложения); тогда для любой р е М слой ©р является подгруппой eSpt и можно образовать фактор-пучок аЛ10= U <Лр1©р. (4) pGM Элементами этого фактор-пучка являются классы ростков мероморфных в точке р е М функций, разность между которыми является г) Под фактор-топологией понимается топология в £?!&'» в которой открытыми объявляются множества классов эквивалентности открытых множеств пространства S?•
§ 15] МЕТОДЫ ТЕОРИИ ПУЧКОВ 243 ростком голоморфной функции. (Иными словами, элементами aS/0 являются классы эквивалентных ростков \р е оМр, где \р и \р считаются эквивалентными, если \р— \р е 0р.) Как мы скоро увидим, этот пучок связан с первой проблемой Кузена. 3. Удалим из пучка <Jt ростки, соответствующие нулевому сечению (т. е. функции, тождественно равной нулю на М); тогда еМ* = = оМ \ {0} можно рассматривать как пучок мультипликативных групп с умножением как групповой операцией. Пучок 0* пусть состоит из обратимых элементов колец 0р, р^М, т. е. элементов, соответствующих функциям, которые не обращаются в 0 в точке р Очевидно, 0* является подпучком oS*t и можно образовать фактор-пучок aS*l0*= (J <Л*р10*р. (5) Элементами его служат классы ростков мероморфных функций, не равных тождественно нулю, частное которых является ростком голоморфной функции, не обращающейся в нуль (иными словами, это классы эквивалентных ростков f Ge^*, где V и \" считаются эквивалентными, если V (f")"1 е 0*). Как мы скоро увидим, этот пучок связан с так называемой второй проблемой Кузена. Переходим к определению основного в этом пункте понятия точной последовательности пучков. Пусть даны два гомоморфизма пучков абе- левых групп: ^„JEU^JEL^; (6) будем говорить, что последовательность (6) точна в члене e^i, если im<pi = kerq)2. (7) *Q *i &1 Напомним, что символом im cpi = Рис- 39. = Ф1 (^о) обозначается * подгруппа элементов 4У1у которые являются образами элементов в^0 (образ гомоморфизма фх), а символом кегф2~ подгруппа из <^ь образованная элементами, которые ф2 переводит в нуль группы £?г (ядро гомоморфизма ф2). Таким образом, точность последовательности (6) означает, что ф2 переводит в 0 те и только те элементы, которые ф! приносит из в^о (рис. 39). Последовательность из любого числа пучков абелевых групп ...-»&>M*Ljrt*bL&>M-+... (8) называется точной, если она точна в каждом S?i%
244 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ IV Примеры 1. Точность последовательности О —^-^^,-^0, (9) где крайние элементы —тривиальные пучки (все слои которых — группы, состоящие из одного нуля), а / — отображение вложения, означает, что ф является изоморфизмом ©гх на <s?V В самом деле, так как ker(p = im/ = 0, то отображение ф инъективно, а так как imq>=ker/ = ^2> то оно сюръективно 2 Последовательность 0->^ —сег-^сег/^->0, (10) где S^—подпучок ЗГ, i—отображение вложения, а ф —естественный гомоморфизм, который каждому элементу из & сопоставляет класс эквивалентности, его содержащий, точна В самом деле, точность (10) в £Р следует из того, что i инъективно, в члене & — из того, что Ф°/' преобразует S? в нуль, в члене iTlS? — из того, что ф сюръективно. 3. Вообще, точность последовательности пучков абелевых групп ^Зи^Зи&^О (И) означает, что ф2 сюръективно и ^a^«£V<M^i) (12) образ 1тф2 = <2^3 группы е?% изоморфен ее фактор-группе по ядру кегф2 = ф1(^?1)). В заключение приведем идею доказательства1) одной из двух теорем, на которых основываются приложения теории пучков в анализе. О второй из этих теорем мы будем говорить в следующем пункте. Теорема I (о точных последовательностях). Пусть пространство М хаусдорфово и имеет счетную базу открытых множеств. Тогда всякой точной последовательности пучков над М 0-+£"Л+£*Л+<£"'-+0 (13) соответствует точная последовательность групп когомо- логий «s. Я1 (М, &") ^ Н1 (М, &) ■**> *± Я1 (М, £?")-^Я*(М, £")-+... (14) и так далее, по всем размерностям. *) Подробное доказательство см. в курсах Хёрмандера или Ган» нинга и Росси.; цит. ка стр. 209 и 123.
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 245 4 Прежде всего сопоставим гомоморфизмам пучков гомоморфизмы соответствующих групп когомологий. Это делается так: возьмем произвольное открытое множество UczM и определим гомоморфизм сечений ср: Г([/, S?')-+ -VГ([/, ©^), положивф(/) = ф• / в каждой точке p^U для любой /еГ(£/, £?'). От сечений естественным образом переходим к коцепям, и тогда возникает гомоморфизм ф: Cr(U, £")->& (U, S"). Так как ф коммутирует с оператором кограницы б (имеем фб = бф), то по ф можно построить гомоморфизм ф*: Hr{U, &")->Нг(1£, £У) групп когомологий для покрытий1), а от него при помощи прямого предела перейти к гомоморфизму групп когомологий самого пространства ф*: НГ(М, <э^')->//г(М, £?). Точно так же по "ф строится гомоморфизм -ф^: Нг (X, &*) -> ->НГ(ХУ S"). Остается построить гомоморфизм б*, повышающий размерность группы. Для этого рассмотрим какое-либо покрытие U и последовательность групп коцепей 0-+Cr{U9 &")^Cr{U, S*)^Cr{U, &»). (15) Нетрудно проверить, что она точна в силу точности последовательности (13). Однако *ф, вообще говоря, не является сюръективным, и мы обозначим Сг (#, S?") = = im if. Сейчас мы хотим построить отображение Нг {21, £*"') = Z/B, где Z — подгруппа коциклов из Сг(21, £?"), а В —подгруппа кограниц, в группу Hr+l(U, S"). Для этого возьмем коцикл h^Z; существует коцепь g^.Cr (#, <£?) такая, что ty(g)=h. Она не является коциклом, но bg е Cr+1 (#, S^) и ф (8g) = б (tyg) = — б/г = 0. В силу точности (15), где г заменено на г+1» найдется / е Сг+1 (#,, S"') такая, что ф (f) = 8g, причем / — коцикл, ибо ф (8f) = б (ф/) = б (8g) = 0 и, Значит, Ц = О, так как отображение ф инъективно. Таким образом, мы построили отображение 1) По аналогии с тем, что мы делали в предыдущем пункге для отображения р при измельчении покрытия.
246 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV группы Z в Zr+l (#, £?'). Нетрудно проверить, что при этом когомологичные друг другу циклы переходят в кого- мологичные, так что фактически построен гомоморфизм 6„: Hr(Ut S^")-^Hr^(U, S"). Наконец, в условиях, наложенных на пространство М9 можно доказать, что прямой предел групп ЙГ(Ц, £?п) будет совпадать с НГ(М, &"'), и мы придем к нужному гомоморфизму* 6„: НГ(М9 ^")->#'+1(М, &"). (16) Точность полученной последовательности (14) ясна из построений ► 42. Локализованная первая проблема Кузена. Пучок <М ростков мероморфных функций над комплексным многообразием М можно получить из предпучка его сечений Г([/а, <М) в областях покрытия M = {Ua)aEzA этого многообразия в результате локализации — предельного перехода по стягивающейся системе покрытий (см. п. 24). Данные первой проблемы Кузена для покрытия 21 — это набор сечений fa^.T(Ua,<M), удовлетворяющих еще условию согласованности: во всех пересечениях Ua$ = Ua f| U$ областей покрытия разности /а — /р ^ Г(£/ар, 0), т. е. голоморфны, а проблема состоит в отыскании функции /еГ(Л1, о/Н) такой, что f — fa^T(Ua, ©) в каждой Ua, aGA. Таким образом, постановка проблемы имеет предпучковый характер. Нетрудно, однако, сформулировать и ее локализованный вариант, в котором вместо предпучка сечений рассматривается сам пучок еМ. В этом варианте согласованные 1 данные Кузена представляют собой сечение фактор-пучка о/Н/0 на всем многообразии М, т. е. элемент группы Т(о/И/0). В самом деле, сечение каждой точке р^М относит росток из фактор-группы <Mpj@py т. е. росток мероморфной функции, заданной с точностью до слагаемого — ростка голоморфной функции в этой точке. Проблема состоит в отыскании сечения f ^ Г (М, оМ), соответствующего заданному сечению в том смысле, что для любой р ^М росток fp равен заданному ростку также с точностью до ростка голоморфной функции. Для решения локализованной первой проблемы Кузена нам понадобится общая теорема о разрешимости д- проблемы, частный случай которой мы цитировали в конце п. 39:
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 247 Теорема II. На любом многообразии Штейна s-я группа когомологий относительно оператора д (т. е. фактор-группа группы Z°>s замкнутых относительно д форм бистепени (0, s) на М с гладкими коэффициентами по подгруппе B°>s точных (0,8)-форм) тривиальна для всех s^ 1: HS(M) = Z°> V5°»s = 0 для s=l, 2, ... (1) Иными словами, на многообразии Штейна уравнение до = (х> (2) разрешимо в классе gF°. s—i для любой формы соео^°»% для которой дсо = 0. Доказательство мы опускаем1). При помощи теоремы II доказывается Теорема 1 (Дольбо). Для любого комплексного многообразия М группа когомологий порядка s с голоморф- ными коэффициентами для любого s ^ 1 изоморфна группе Hs (М): HS(M, 0)с^г°-*/В°>* для s=l, 2,... (3) 4 Обозначим через zFs и Zs соответственно пучки ростков гладких jh замкнутых (относительно оператора д) форм бистепени (0, s) над многообразием М, рассматривая их как пучки абелевых групп относительно сложения. Последовательность пучков О ±+ Z8-1 -L oF*"1 A Zs -+ О, (4) где / — вложение, точна для любого s^l. В самом деле, в первом члене im/ = ker/ = 0, во втором im/ = kerd = = Z5-1, а в третьем imd = Z5; последнее утверждение следует из того, что у каждой точки р^ М есть стягивающаяся система окрестностей, которые являются многообразиями Штейна (например, биголоморфные образы шаров пространства локальных координат), а в таких окрестностях по теореме II каждая замкнутая форма точна. / *) См. книгу Хёрмандера, цит. на стр. 209, следствие 5,2,6,
М° МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ |ГЛ IV По теореме I из предыдущего пункта точна и последовательность групп когомологий О -> Я0 (2s-1) -> Н° (qF5-1) -> Н° (Zs) -> Я1 (z*-1) -> -> Я1 («Г*-1) -> Я1 (Z5) ~v Я2 (Z*-1) ->... (5) (символ М в обозначениях этих групп мы опускаем). Вспомним, что нулевые когомологий —это глобальные сечения и что по теореме 2 п. 40 Hr\<f~s) = 0 для всех г ^ 1 и s ^ 0. Поэтому из (5) мы имеем Г (eT'-i) -v Г (Z5) -* Я1 (Z*-1) -> 0, и значит, в силу формулы (12) предыдущего пункта Я1 (Р-1) ~Г (Z')/im Г (еГ*-1) = Я5 (М). (6) Из той же последовательности (5) мы имеем далее для г^1 и s^l 0 -> Я' (Z*) -> Я'+1 (Z5"1) -* 0, откуда следует (см. формулу (9) предыдущего пункта), что H'iZ^c^H'+^Z'-1). (7) На основании (6) и (7) мы заключаем последовательно: Hs (М) ~ Я1 (z*-1) ~ я2 (z*-2) ~... ~ Hs (z°). Остается заметить, что Z0 —это пучок ростков гладких комплексных функций f, для которых 5^ = 0, т. е. пучок & ростков голоморфных функций на М ► Комбинация (1) и (3) дает Следствие. Для любого многообразия Штейна HS(M, в) = 0 для всех s ^ 1. (8) Теперь доказательство разрешимости локализованного варианта первой проблемы Кузена не составляет труда. Теорема 2 (А. Карта н). Для любого многообразия Штейна М любая первая проблема Кузена разрешима. -4 Рассмотрим последовательность пучков абелевых групп над М O±+0±+q/H^~qM/0->Qi (9)
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 249 где / — вложение, а ф — естественный гомоморфизм, который каждому ростку 1е^ ставит в соответствие класс из <Mj&\ содержащий f. Эта последовательность точна, ибо kerq)=im/ = 0 и 1ту = вМ/0. По теореме 1 предыдущего пункта точна и последовательность #°(Л1, вМ)Ч±Н<>(М, оМ/0)-+Н1(М, в)% а так как М — штейново, то Я1 (М, 0) = О9 и, следовательно, отображение Ф„: Т(М9 оМ)->Т(М, <М/0) сюръективна, т. е. каждому сечению пучка <Mj© отвечает мероморфная функция /еГ(Л1, dlt). А это и означает разрешимость проблемы ► Таким образом, первая проблема Кузена (в локализованной форме или для покрытий) разрешима для всех многообразий Штейна и, в частности, для всех областей голоморфности в СЛ. Оказывается, что в С2 класс областей, для которых эта проблема разрешима, и исчерпывается областями голоморфности: Теорема 3. Если в области D cz С2 разрешима любая первая проблема Кузена, то D является областью голо- морфности. 4 Если D не является областью голоморфности, то найдется шар В с центром в граничной точке £ е dDy в который аналитически продолжаются все функции /е e^(D). Возьмем какую-либо точку z^D[]B и на отрезке г£ выберем точку £° е dD, ближайшую к г. Без ограничения общности можно считать, что £° = 0 и что прямая {г2 = 0} содержит отрезок z^°czD(]B. Пользуясь тем, что в D разрешима проблема Кузена, мы сейчас построим функцию g^0(D), не продолжаемую аналитически в шар В, и тем самым придем к противоречию. Построение функции g делается, как в примере из п. 38. Возьмем области иг и U2, как в этом примере, и рассмотрим согласованные данные Кузена: h =— в D[\ f|i/i и f2 = 0 в D[\U2. Если / — решение этой проблемы, то функция g = Zgf голоморфна в D. Но область D f) {z2 = 0}f
250 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ IV где g"= \/гъсодержит отрезок [0, z]czBy следовательно, g не продолжается аналитически в В ► На пространства Сп, /г^З, теорема не распространяется. Пример. Рассмотрим область D cz Е3, которая получается из единичного поликруга U после удаления множества \z: |2i|^-n-, I г2 I ^ ~9~, 1гз|^-9"[; иными словами, D —поликруг, у которого грань |г3| = 1 продавлена внутрь, как на рис. 40. Покроем D тремя областями голоморфности: Ul = {*: T<|Zll<1, i^k1, i^k1}. 1/.~{г: \г1\<1, у<|г2|<1, |2,|<l}f (10) U3={z: \г1\<\. |г,|<1, |г3|<у} и рассмотрим соответствующий голоморфный коцикл {Ьа$}. Разложим ha$ в ряд Лорана в области £/123. Так как это разложение сходится в Ua$, то мы получаем, что главные части разложений /*23 и h31 совпадают соответственно с главными частями разложений этих функций в ряды Лорана по г2 и по zv Таким образом, из равенства ^12 + ^23 + ^31 = 0 (И) в U123 мы получаем, что главная часть ряда Лорана функции /г12 распадается на две части, одна из которых голоморфна по гх и потому продолжается в Ult другая голоморфна по г2 и продолжается в U2. Но из равенства (11) следует тогда, что главные части разложений Лорана для функций h23 и h31 соответственно продолжаются в U2 и Uv Аналогично получаем, что и правильные части этих функций продолжаются в соответствующие области. Обозначим через ht продолжение h31 в иъ через h2 продолжение h32 в U2 и положим h3 — 0 в {У3- Тогда Л2 —^i = h32 — h31 = h12 в U12t и потому {/гар} является кограницей коцепи {ha}, т. е. первая проблема Кузена для покрытия (10) разрешима. Из сказанного нетрудно заключить, что в D разрешима и проблема Кузена в локализованном варианте. Остается заметить, что сама D не является областью голоморфности, так как она является не логарифмически выпуклой областью Рейнхарта.
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 251 43. Вторая проблема Кузена. Эта проблема обобщает задачу построения голоморфной функции по заданным нулям, которую в случае одного переменного решает теорема Вейерштрасса (п. 44 ч. I). Она называется второй или мультипликативной проблемой Кузена для покрытий и ставится так: Дано открытое покрытие # = {£/а}а€=А комплексного многообразия М и в каждой Ua задана функция /а е ^T(Ua, <М*), т. е. мероморфная функция, не равная тождественно нулю, причем выполняется следующее условие согласованности: в любом пересечении Ua$ = = £Ax(Wp частное /а//реГ (Ua$, 0*), т. е. является голоморфной функцией, не обращающейся в нуль. Требуется построить мероморфную на многообразии М функцию / такую, что f/faCzY (Uaj ©*) для всех а^А. Функция /, решающая проблему, в каждой Ua имеет, следовательно, те же нули и полюсы (с учетом кратности), что и заданные мероморфные функции fa. Локализованный вариант проблемы формулируется так: для заданного сечения пучка:оМ*1@* (согласованных данных) найти соответствующее ему сечение пучка <М на всем многообразии. Приведем еще одну формулировку второй проблемы Кузена. В п. 37 мы ввели понятие дивизора данной меро- морфной функции. Назовем теперь вообще дивизором на многообразии М пару Д = (Л, k), составленную из аналитического множества А коразмерности 1 (носителя дивизора) и целочисленной функции k (порядка дивизора), непрерывной на множестве А0 регулярных точек Л. Дивизор называется положительным, если всюду &>0, и отрицательным, если всюду k<.0 (ср. п. 37). Условимся еще считать, что k (р) == 0 при р ^ М\А°, тогда можно ввести понятие суммы (разности) дивизоров A1==(Aly ki) и Д2 = (Л2, k2) как дивизора A1±k2 = (A1[) А2, k1±k2). Будем говорить, что Ai = A2, если Ai — А2 имеет порядок k = 0. Дивизор А называется собственным, если существует мероморфная на М функция f такая, что Д = Д/, т. е. является дивизором этой функции (см. п. 37). В любой плоской области D всякий дивизор собственный, как это следует из теорем Вейерштрасса и Миттаг-Леффлера из ч. I. Но уже для С это не так: дивизор (оо, 1) не яв-
252 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV ляется собственным, ибо не существует голоморфной в С функции, имеющей в бесконечности нуль первого порядка (все такие функции постоянны). В С2 также существуют области, для которых это не так. Пример. Пусть D — это С2 с выброшенной окружностью {|г!| = 1} на комплексной прямой {г1 = г2}, т. е. D = C2\{j гх | = 1, гх = г2} Рассмотрим дивизор A = {D(]{z1 = z2\t k), где k = \ на ограниченной компоненте {г1 = г2}, на которой |г!|<1, и £ = 0 на неограниченной компоненте (на которой | гх | :> 1). Дивизор А не отрицателен, так что ему могла бы соответствовать только функция, голоморфная в D. Но по геореме Осгуда — Брауна такая функция продолжается до целой и по теореме единственности она не может равняться нулю на одной открытой части прямой {z1=z2} и быть отличной от нуля на другой части. Следовательно, А —не собственный дивизор. Теорема 1. Вторая проблема Кузена для любого открытого покрытия U = {[/а}ае=А комплексного многообразия М разрешима тогда и только тогда, когда на этом многообразии любой дивизор является собственным. -4 а) Пусть на М любой дивизор собственный и {/а} — произвольные данные ^второй проблемы Кузена для покрытия U. Пусть Д^ = (Ла, kg)— дивизор функции /V, так как /a/fp ^ 0* (Ua$) для любого пересечения 1/аР, то в этом пересечении Аа = Лр и ka = k§. Следовательно, А = = U ^а — аналитическое подмножество М коразмерности 1 ае А и k = ka в Ua — глобально заданная на А0 целочисленная функция, т. е. {Л, &) = Д — дивизор на М. Возьмем функцию f е М (уИ), для которой Д^ = Д. Тогда f/fa для любого (xgA голоморфна и отлична от нуля в Ua\Aa и в регулярных точках Ла, а так как коразмерность множества критических точек Аа не меньше 2, то по теореме 4 п.26 f/fa продолжается до функции из 0* (Ua). Следовательно, / решает проблему для данных {fa}. б) Пусть на М проблема разрешима и Д = (Л, k) — произвольный дивизор. Так как со<НтЛ = 1, то для любого а^А найдется конечное число функций ha. е ® (Ua) таких, что A()Ua = [J{haj = 0}. Без ограничения общности можно считать, что Ла.= {/ia/ = 0}— неприводимые множества, а /ia/ — неприводимые функции (ср. с п. 21).
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 253 Порядок k постоянен на множестве регулярных точек Аа ', пусть он равен там ka.. Мы полагаем /а = Ц(Ла/) а/ Для тех а, для которых иа[\АФф и fa^= 1 для остальных а. Это — согласованные данные второй проблемы Кузена и, по предположению, найдется функция f ^ <М (М)9 ее решающая. По построению Д/ = Д ► Таким образом, вторая проблема Кузена для покрытий оказалась эквивалентной задаче построения мероморф- ной функции по заданному дивизору. Аналогично обстоит дело и с локализованной формулировкой. В этой постановке согласованные данные проблемы можно трактовать как сечение на' М пучка «^ = 0^*/^*, который называется пучком ростков дивизоров, а проблема сводится к отысканию соответствующей этому сечению функции /еГ(М, qM*). Перейдем к вопросам разрешимости. Имея данные {/а} второй проблемы Кузена для покрытия U = {Ua} многообразия М, мы можем в каждом пересечении Ua$ = Ua[\U$ рассмотреть частные АаР = !<ЕЕГ((/ар, 0*). (1) Функции йар удовлетворяют условиям /*сфЛра=1, (2) которые представляют собой мультипликативный аналог условий из п. 38, определяющих голоморфный коцикле и мы будем называть их набор для данного покрытия U мультипликативным коциклом. Если {h'a$} и {/i«p} — Два таких коцикла, то их произведение, т. е. набор функций ha$ = h'a$ha$, также является мультипликативным коциклом. Такие коциклы образуют группу, которая обозначается символом Z1 (#, 0*). Как и в п. 38, вторая проблема Кузена оказывается разрешимой в том и только том случае, когда существую* функции АаеГ((/а, <М*) такие, что в каждом 1/ар НА ha ЛаР=д-. т
254 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Набор таких {ha$\ мы будем называть мультипликативной кограницей; эти наборы образуют подгруппу Z1 (21, 0*), которая обозначается символом В1 (21, 0*). Фактор-группа Я1 (21, 0*) = Z1(U, 0*)/B1(2t, &*) (4) называется первой группой когомологий для покрытия U с коэффициентами в пучке ®*, групповой операцией здесь, как и в ^*, является умножение, вместо сложения, действующего в Нг(21, 0). Из тривиальности Я1 (21, 0*) следует, очевидно, разрешимость любой второй проблемы Кузена для покрытия U. Возникает естественное желание свести вторую проблему Кузена к первой при помощи логарифмирования. Так как функции ha$ голоморфны и отличны от нуля, то, предполагая, что пересечения Ua$ односвязны, мы можем в каждом из них выбрать некоторую голоморфную ветвь \nha$ — ga$ и притом, в силу первого условия (2), так, что ga$ + g$a = 0- Из второго условия (2) мы тогда получим, что в пересечениях l/aPY gap + gfo + gya = 2m'£apY, где ka$y — некоторые целые числа. Если все эти числа равны нулю, мы приходим к первой проблеме Кузена, и, решив ее, получим решение второй проблемы. Однако, вообще говоря, это не так, и на многообразие М, кроме условия разрешимости первой проблемы Кузена, надо наложить еще некоторое топологическое ограничение, которое должно обеспечить возможность выбора таких ветвей lnftap = gap, чтобы все ka$y оказались равными нулю. Это ограничение выражается условием тривиальности второй группы когомологий с целочисленными коэффициентами для данного покрытия 21, которая по принятой в п. 40 системе обозначается символом Я2(#, Z). Оно означает, что любой целочисленный коцикл второго порядка, т. е. целочисленная функция трех индексов ka$y, антисимметрическая по индексам, которая на четырехкратных пересечениях £/apY6 удовлетворяет условию к$уь — — &(губ + &а|зб — ka^y = 0y представляется в виде К$у = ^Py ~~ kay + ^afri Ф) где &ар, ... — целые числа.
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 255 Теорема 2 (Серр). Пусть #={[/а} — простое покрытие комплексного многообразия М, т. е. все пересечения £/ар связны и односвязны. Если для этого покрытия №{21, 0) = H*(U9 Z) = 0, (6) то для него разрешима любая вторая проблема Кузена. 4 Пусть {Лар} ^ Z1 (#, ©*) — мультипликативный коцикл, соответствующий данным {/а} второй проблемы Кузена по формуле (1). В силу односвязности пересечений можно выбрать голоморфные ветви gap = ln/iap, согласовав их так, чтобы для всех а, р было ln/iPa = — ln/iap. В тройных пересечениях мы получим gap + g'fiv + gya = 2шЛар Y, (7) где {ka$y} — целочисленный коцикл из Z2(#, Z). По условию Я2 (#, Z) = 0, значит, мы можем представить этот коцикл в виде (5) и положить в Ua$ £ap = gap —2ш7гаР. Тогда в каждом тройном пересечении Ua$y будем иметь в силу (7) и (5) gap + £pY + gy* = 2jWfcaPv ~~ 2ш" (*<*P + ^Py + kya) = 0. Таким образом, {gap} — голоморфный коцикл из ZX(U9 0). По условию теоремы Я1 (Ж, ^) = 0, следовательно, он является кограницей, т. е. существуют ga е ^0(Ua) Такие, ЧТО £ap = gp—ga- Мы ПОЛОЖИМ /а = б*а; тогда /a^^*(^a) и Аар = e*«0 = /<*Р = /р//а. Это означает, что {ftaP} €= В1 (#, 0*); мы доказали, что #*(#, 0*) = О, и, значит, проблема разрешима ► Приведем еще локализованный вариант этой теоремы: Теорема 3 (Серр). На многообразии Штейна М любая вторая проблема Кузена разрешима, если на М тривиальна вторая группа когомологий с целочисленными коэффициентами: Н2(М, Z) = 0. (8) < Рассмотрим точную последовательность пучков мультипликативных групп
256 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV где i — вложение, а ф — естественный гомоморфизм (точность следует из того, что irru = kerq) и imq) = <3^*/^*). Ей отвечает точная последовательность Г(М, М*)-+Т{М, оМ*/0*)-+Нг{М, 0*). (9) Условие разрешимости рассматриваемой проблемы состоит в том, что отображение Ф*: Г (At, ©#*)->Г(Л1, <М*/0*) сюръективно. Так как последовательность (9) точна, то это условие сводится к тому, что №{М, 0*) = О. (10) Придадим этому условию другую форму. Для этого рассмотрим еще одну точную последовательность 0->Z —0~0*->1, (11) где i — гомоморфизм вложения, а е: f -►• e2nil — гомоморфизм пучка 0 аддитивных групп в пучок 0* мультипликативных групп1). Соответствующая ей последовательность НЦМ, 0)-*Нг(М, 0*)-+Н*(М, 2)->Я2(Л4, 0) также точна, а так как М — многообразие Штейна, то здесь крайние группы тривиальны. Отсюда следует, что средние группы изоморфны, и в силу условия (8) равенство (10) действительно имеет место ► Замечание. Из доказательства видно, что для разрешимости конкретной второй проблемы, соответствующей некоторому сечению из Г (М, <M*/0*)t необходимо и достаточно, чтобы образ этого сечения при гомоморфизме а: Г(УИ, оМ*/0*)-+Н1(М, 0*) был нейтральным элементом группы Н1(М, 0*). Серр доказал также, что для многообразий Штейна а всегда сюръективно (более того, для любого элемента g е ^#*(M, 0*) найдется соответствующий ему элемент / <= еГ(М, е^*/0*), состоящий только из ростков голо- *) Точность последовательности (11) ясна из того, что функции, тождественно равные целым числам, при отображении е переходят в 1 и что каждая функция f ф0 локально представляется в виде е2Л,'£,'т. е. отображение е: 0-+@* сюръективно.
§ 151 МЕТОДЫ ТЕОРИИ ПУЧКОВ 257 морфных функций). Таким образом, если группа Н1(М, 0*)фО, то найдется сечение из Г(М, oM*/0*)t для которого проблема неразрешима, т. е. для многообразий Штейна условие (8) и необходимо для разрешимости любой второй проблемы. Примеры. Существуют многообразия которые не являются штейновыми, хотя вторая проблема Кузена на них разрешима. Примером служит область D = {0 < | гх | < 1; | г2 | < 1} U {zi = 0, |г21 < <С 1/2} пространства С2 — она не является областью голоморфности, но можно доказать, что в ней любая вторая проблема Кузена разрешима. Из теоремы 3 предыдущего пункта видно, что D служит также примером области, в которой разрешима вторая, но неразрешима первая проблема Кузена. В области D с: С3 из примера предыдущего пункта (см стр. 250) разрешимы и первая и вторая проблемы Кузена, хотя сама D не является областью голоморфности. Разрешимость второй проблемы следует из того, что Hl(Dt 0) = Ot a H2(Dy Z) = 0, так как D гомеоморфна шару. Простым следствием теоремы Серра является Теорема 4 (О к в). Если D = D1x...xDn — поликруговая область из С1, для которой все области Dv, кроме, быть может, одной, односвязны, то в D разрешима любая вторая проблема Кузена, < Прежде всего, D, очевидно, является областью голоморфности. Пусть D2, ..., Dn — односвязные области, тогда #2(D, Z) = ff2(Di, Z), ибо группы когомол'огий с целыми коэффициентами не меняются при (декартовом) умножении на односвязную плоскую область (мы не останавливаемся на доказательстве этого топологического факта). Но для любой плоской области Dx группа Я2 (Db Z) тривиальна (это следует хотя бы из теоремы Вейерштрасса из п. 44 ч. I); поэтому #2(D, Z) = 0 ► Пример. Из теоремы 4 следует, в частности, что вторая проблема Кузена разрешима в любой односвязной поликруговой области. Но для произвольных областей голоморфности односвязность еще не гарантирует разрешимости этой проблемы, вот соответствующий пример (Серр). Область 0 = {ге=С*: | г? + г§ + г32- 1 |< 1} является областью голоморфности, ибо в каждой точке £ е dD существует барьер: функция /^ (г) = {£? + £f + £f — (г?Ч-гЦ-г!)}"1 е= ^l0{D) не ограничена при г->-£. Область односвязна, ибо она гомеоморфна произведению поверхности S — {z\-\-г1 + г\— 1 =0} на единичный круг. Тем не менее в D разрешима не всякая вторая 9 Б8 В. Шабат, ч. II
258 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV проблема Кузена, например, можно доказать, что не существует голоморфной в D функции, которая обращается в нуль на одной из двух компонент пересечения D с комплексной плоскостью {22 = *Zi} и только на этой компоненте1). § 16. Применения Рассмотрим некоторые применения результатов, полученных в предыдущем параграфе. 44. Применения проблем Кузена. В качестве первого применения рассмотрим задачу о голоморфном продолжении функций с аналитических подмножеств многообразий Штейна М. Для ее формулировки назовем функцию у^0(М) определяющей функцией аналитического множества А = = {pEiM; ф (р) = 0}, если любая функция г|) е © (Л!), которая обращается в нуль на Л, представляется в виде ф/i, где h^©(M). (Например, для плоскости {гг = 0}.а С* функция ф = гх — определяющая, a cp = zl~нет.) Определяющая функция, конечно, не единственна; но если ф! и ф2—две определяющие функции одного множества AczM, то фх/фа ^0* (М). Теорема 1. Пусть М — многообразие Штейна и А = {ре=М: ф(р) = 0} (1) — аналитическое множество коразмерности 1, для которого ф£^ (М) и является определяющей функцией. Тогда любая функция ff локально голоморфная в точках А, продолжается до f ^0 (М). <4 Так как f локально голоморфна в точках А, то найдется открытое покрытие {Ua} многообразия М столь мелкое, что для любого а, для которого Ua[) А Ф ф, существует функция fa^0 (£/а), удовлетворяющая условию fa \ua[)A=f\ua(\A. (2) В остальных Ua мы полагаем fa = 0 и набор функций /а/Ф е <М (Ua) принимаем за данные первой проблемы Кузена для покрытия {Ua}. 1) Неразрешимость хотя бы одной проблемы следует также из того, что H2(D, Z) = //2(S, Z) Ф 0 Убедиться в последнем можно, заметив, что 5 стягивается в множество своих действительных точек, т. е. двумерную сферу {х\-\-х\-\-х\=^ 1}, а для нее Н2(2)ф0.
§ 161 ПРИМЕНЕНИЯ 259 Так как в любом пересечении Ua$ = Ua()U$ в силу (2) разности fa — f$ обращаются в нуль на А, то по свойству определяющей функции найдутся функции Лар е ® (Ua$) такие, что fa — fo = ha$y. Отсюда видно, что наши данные согласованы и — голоморфный коцикл, соответствующий проблеме. По теореме 2 п. 42 эта проблема разрешима, т. е. существуют функции ha^0(Ua) такие, что ha$ = h$ — ha. Сравнивая это с (3), находим, что fa + фЛа = /р + Ф^р в любом пересечении t/ap. Таким образом, на М глобально определена голоморфная функция / такая, что f\Ua = fa-{-(r)ha для любого а. Так как ф = 0 на Л, то f\A = f + Теорема 1 позволяет получить разложение Хефера, которое мы без доказательства применяли в п. 16 при выводе интегральной формулы Вейля. В основе лежит следующая Лемма. Пусть D а€п — область голоморфности и (п — Щ-мерная комплексная плоскость П = {г ^ С": гх =... • • • = zk = 0} имеет с ней непустое пересечение. Тогда любая функция /^^(D), равная нулю на U()D, допускает в D представление Hz)=Zzvgv(z), (4) v=l где все gve^(D). <4 Доказательство будем вести индукцией по k. При k = 1 утверждение очевидно, ибо в качестве gx можно принять функцию f/zi, пусть оно верно для k— 1. Обозначим G = D(]{zk = 0}\ все связные компоненты этого пересечения являются, очевидно, областями голоморфности в пространстве С"-1 переменных гь ..., z*_i, zk+u ..., zn. Сужение /| <z -0} е ® (G) и по условию обращается в нуль на Gf| {2i = ... = Zfc_i = 0}. Отсюда, согласно индуктивному предположению, вытекает, что в G имеет место представление £— 1 ^i2^0}^ ^J 2vgv(Zb •••» zk-l, ?k+l> •••» гя)> v = l 9*
260 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV где все g^^.@(G). По теореме 1 все gv продолжаются с G = D П \zk = 0} во всю область D до голоморфных функций gv(z). Рассмотрим теперь разность /г — 1 Ф (г) =/(*)- 2 zvgv(z); v=l очевидно, ф||2л=о} = 0, и, так как zk — определяющая функция, то найдется gk^© (D) такая, что ф (г) = zkgk (г) для всех z^D. Отсюда видно, что представление (4) справедливо и для k ► Из этой леммы совсем просто выводится Теорема 2 (Хефер). Пусть Dа Сл — область голоморфности и W (г) е © (D) — произвольная функция. Существуют такие функции Pv(£, z) ^© (DxD), v=l, ... ..., n, что для всех £, г^О справедливо представление W(Q-W (г) = £ ffv - *v) Pv (£, г). (5) v=l «Разность flP(£)-U7(*)e0(DxD)f и так как Dx х£> —область голоморфности в (D2", а эта разность обращается в нуль на /г-мерной комплексной плоскости П = = {z, £: Zv=£v, v=l, ..., я}, то, положив Zv = £v — zv> Zn+V = zv (v=l, ..., /г), мы можем применить к рассматриваемой разности лемму. Получим нужное разложение (5) ► Теорема 1 допускает уточнение; В ней предполагается, что множество А имеет определяющую функцию, глобально голоморфную на всем многообразии М\ мы покажем сейчас, что для некоторых многообразий М это предположение выполняется автоматически. Теорема 3. Пусть для комплексного многообразия М Я^М, ©) = Н*(М, Z) = 0. (6) Тогда для любого аналитического подмножества А а М коразмерности 1 существует глобальная определяющая функция ф е © (М). « Любое аналитическое подмножество коразмерности 1 имеет, очевидно, локальные определяющие функции (п. 21). Поэтому существует покрытие U={Ua} многообразия М
§ 161 ПРИМЕНЕНИЯ 261 столь мелкое, что в любой Ua, для которой иа{\Афф> найдется функция фае^([/а), определяющая для множества Va[\A\ в остальных Ua мы положим фа=1. Без ограничения общности покрытие U можно считать простым (см. стр. 255) и таким, что1) /Л(#, 0) = H2(U, Z) = 0. (7) Набор {фа} можно рассматривать как данные второй проблемы Кузена для покрытия U\ они согласованы, ибо по свойствам определяющих функций в любом пересечении фа/фр е^*([/ар). По теореме 2 предыдущего пункта эта проблема разрешима, т. е. существует функция ф, голоморфная на М (в силу голоморфности данных Кузена) и такая, что <p/q>ae^*(t/a) в любой Ua. Эта функция ф и является глобальной определяющей функцией множества А ► Приведем еще решение так называемой проблемы Пуанкаре: представить мероморфную на Многообразии функцию как отношение функций, голоморфных на этом многообразии. (Локально такое представление следует из определения мероморфных функций, а в проблеме речь идет о глобальном представлении.) Как и в случае одного переменного (см. теорему 3 п. 44 ч. 1), доказывается, что проблема Пуанкаре разрешима на любом многообразии, на котором разрешима вторая проблема Кузена. Пользуясь результатом Серра, который сформулирован в замечании после теоремы 3 предыдущего пункта, можно доказать, что проблема разрешима и для произвольного многообразия Штейна: справедлива Теорема 4. Каждая функция/, мероморфная на многообразии Штейна /И, представляется как отношение функций, голоморфных на этом многообразии. < Представим дивизор Д^ функции / в виде разности А' — Д" двух положительных дивизоров из Г (М, &), возьмем элемент o(A")^H1(MJ 0*) и, пользуясь цитированным результатом Серра, найдем положительный дивизор А'" такой, что о (Д'") = — а (А"). Так как ст — гомоморфизм, то cr(A"-f Д"') — 0, следовательно (по замечанию после теоремы 3 п. 43), соответствующая проблема Кузена разре- 1) Мы пользуемся замечанием в конце п. 40 и задачей 7 к *гой глазе
262 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV шима и существует функция г|)^Г(М, ©^*), дивизор которой A^ = Д" + Д'". Но этот дивизор положителен, следовательно, функция \|з голоморфна. Рассмотрим, наконец, дивизор произведения Д/ч, = (Д' - Д") + (Д" + Д'") = Д' + А"; он тоже положителен, следовательно, и функция <р = /л|э голоморфна на М. Данная функция / = <рЛ|? ► 45. Решение проблемы Леви. Начнем с обобщения задачи о продолжении функций с аналитических множеств, которой мы занимались в предыдущем пункте. Именно, вместо множеств коразмерности 1 мы рассмотрим множества произвольной коразмерности, а вместо голоморфных функций — гладкие формы, замкнутые относительно оператора д. Через X мы обозначим замкнутое подмножество комплексного многообразия М, а через Is (X) — множество гладких форм бистепени (0, s), определенных и замкнутых относительно оператора д в некоторой окрестности X (каждая в своей). Пусть Bs (X) cz Zs (X) — подгруппа форм, точных относительно д и Hs (X) = Zs (X)/Bs (X) — факторгруппа. Нам понадобится Лемма. Пусть X — замкнутое подмножество комплексного многообразия М, функция ф голоморфна в окрестности X и А = {р^Х: ср (р) = 0}. Если для некоторого #'+i(X) = 0f (1) то для любой формы со е Zs (А) существует форма Q е е Zs (X), сужение которой Q\A = (x>. Кроме того, Hs(X) = 0=>Hs(A) = 0. (2) < Возьмем любую форму со е Is (А) и построим функцию г)^С°°(Х), равную нулю вне некоторой окрестности Л, принадлежащей вместе с замыканием той окрестности, в которой определена со, и равную единице в меньшей окрестности Л. Тогда форма г]со, доопределенная нулем там, где т) = 0, будет гладкой на всем множестве X. Форма со' = -- д (т]со) замкнута в Х\А, ибо там ф Ф 0 и голоморфна (а значит, при дифференцировании по г ведет себя как постоянная).
§ 161 ПРИМЕНЕНИЯ 263 В окрестности А, в которой г\=1, имеем д (rjco) = = дц Д со + г]дсо = 0, ибо форма со замкнута. Поэтому мы можем доопределить со', положив ее равной нулю на Л, и тогда получим, что со' е Zs+1 (X). В силу условия (1) существует гладкая на X форма £У, для которой dQ' = со\ Отсюда следует, что на X <3(г)(о--фЙ') = 0, т. е. форма Q = r]G) — фй' е Z5(X). Так как на Л функция ф = 0, а т)=1, то сужение й|л = со, и первое утверждение леммы доказано. Если еще Hs(X) = 0, то форма Q точна в X и, следовательно, со точна на А. Так как со е Z* (Л) произвольна, то Я*(Л) = 0 ► Теперь нетрудно доказать и общую теорему о продолжении. Теорема 1. Пусть М — комплексное многообразие и А = {р*=М: ф1(р)=...=фт(р) = 0}, (3) где все у/^0 (М). Если #м (М) = ... = Hs+m (М) = 0, (4) то любая форма со бистепени (0, s), замкнутая в окрестности А, является сужением на А формы Q, замкнутой на М. Л Обозначим Аг = {р е М: фх (р) = 0}. По лемме в силу условий (4) с А1 до М продолжаются все формы из Z* (AJ для / = s, ..., s + m— 1, и, кроме^ того, Я5+1 (Лх) = ... = = Н**™-1 (Аг) = 0. Обозначим /!2 = {pG Лх: ф2 (р) =» 0} = = {/?gM: ф! (р) = ф2 (р) = 0}; в силу последних условий по той же лемме мы • получим, что с А2 до Аг продолжаются все формы из Я(А2) для / = s, ..., s + m — 2 и Hs+1 {А2) = ... = Hs+m-2 (А2) = 0. Продолжая то же рассуждение, мы получим, наконец, что с множества Ат = А до Лш_х = {р е Л1: фх (р) = ... = фт_1 (р) = 0} продолжаются все формы из ZS(A). Так как на предыдущем этапе мы получили условие Hs+1 (Ат-г) = 0, то продолженные формы снова продолжаются до Ат-2 и т. д. Возвращаясь назад
264 ' ' МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV по нашей цепочке, мы получим, что эти формы продолжаются до замкнутых форм на всем многообразии М ► Следствие. Если для некоторого комплексного многообразия М Hs(M) = 0 для s=l, .... mf (5) то любая функция f, голоморфная в окрестности аналитического множества А = {р ^ М: cpi (р) = ... = срт (р)}, где все фу е © (Л1), продолжается до функции, голоморфной вМ. Мы можем теперь перейти к решению проблемы Леви, о которой говорилось в § 12 и которая состоит в доказательстве того, что любая область D а Сл, не расширяемая голоморфно в каждой своей граничной' точке, является областью голоморфности (п. 31). В п. 33 мы убедились, что для решения этой проблемы достаточно показать, что любая псевдовыпуклая область в (С* является областью голоморфности (импликация V zz> I в схеме на стр. 195). Теорема 2. Область D a (Dn является областью голо- морфности в том и только том случае, если Hs(D) = 0 для s=l п—1. (6) < Необходимость. Как доказано в п. 33 (теорема 4), любая область голоморфности псевдовыпукла. Но по теореме II, сформулированной в п. 42, для любой псевдовыпуклой области условие (6) выполняется. Достаточность. По теореме 2 п. 27 областьD сС" является областью голоморфности, если на всюду плотном множестве точек £^<3D существует барьер —голоморфная в D функция, неограниченно возрастающая при г->£. Пусть точка £ е 8D такова, что в ней dD можно коснуться шаром В czD (тогда £ едБfldD). Множество таких точек плотно на dD, ибо для любой £° е dD и любого е > О можно взять точку г°еО, для которой |г° —£°|<е; тогда ближайшая к г° точка £ е dD будет обладать нужным свойством и | £ — £° | < 2е. Обозначим через / комплексную прямую, проходящую через £ и центр шара В. Эта прямая является аналитическим множеством — общим множеством нулей (/г — 1)-й линейной функций— и пересекает D по открытому (на /) множеству А действительной размерности 2. Точка £ едЛ,
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 265 и мы можем построить голоморфную в А функцию с полюсом в £ (такая функция существует для любого плоского открытого множества). В силу условий (6) по следствию теоремы 1 эта функция продолжается до функции F^0(D), неограниченно возрастающей при г->£, т. е. барьера в точке £ ► § 17. Многомерные вычеты Напомним, что вычетом функции одного комплексного переменного f в изолированной особой точке а однозначного характера называется деленный на 2ni интеграл от / по любой окружности у достаточно малого радиуса с центром в точке а: Если функция / голоморфна в области D всюду, за исключением конечного числа особых точек av, то достаточно малые окружности yv с центрами av составляют базу одномерных гомологии области D' = Z?"v;U W- Если для какого- нибудь одномерного цикла (замкнутого пути) yaD' N известно разложение по базе у~ 2 kvyv (~ означает гомо- v = l логию) и известны вычеты Rv функции / в точках av, то \fdz = 2ni 2 kyRv Y v=l (теорема о вычетах). Аналогичная ситуация имеет место и в пространстве. Однако при переходе к пространственному случаю практическое вычисление интегралов наталкивается на ряд трудностей, главным образом топологического характера. 46. Теория Мартинелли. Для изложения этой теории понадобятся некоторые топологические понятия. Пусть М — гладкое ориентируемое многообразие размерности т и a: Qr-+M и 0: Qs->М — клетки дополнительной размерности (т. е. r + s = /n), пересекающиеся трансверсально в точке р е a f| Р.^ Последнее условие означает, что база касательных векторов
266 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV »ь ..., vr^Tp (а) вместе с такой же базой аг+ь ...» vm & ^Тр($) составляет базу ТР(М), и из него, в частности, вытекает, что а и р в окрестности р являются подмногообразиями М. Пусть аир ориентированы и формы со', со" (deg <©' = г, deg со" = s) положительны на них в окрестности точки р. Мы скажем, что индекс пересечения а и р в точке р равен + 1, если m-форма со = со' Д со" положительна на М в окрестности р и равен —1, если она отрицательна (рис. 41). Если <f — ^ Ко*, и т5 = 2 'vPv — цепи на М дополнительной размерности (dimar=r, dimx* = s, r + s = m) и пересекаются транс- версально в конечном числе точек pj, то мы определим индекс их пересечения i (вг, ts) как сумму индексов пересечения соответствующих клеток во всех точках pjy умноженных на произведение коэффициентов, с которыми эти клетки входят в цепи. (Например, если в точке pj пересекаются клетки а^ и pv с индексом —1, то в сумму, определяющую индекс пересечения цепей, от этой точки войдет член —/^/v.) Отметим следующие простые свойства индекса пересечения: 1) /((тг, т*) = — /(— вг, ts) = — i{or9 —ts); 2) i(<f, i*) = (-l)"i(T*f oO; 3) / (в', г? + т») = i K, Tf) +1 (a', T»). Отметим еще одно геометрически очевидное свойство: если обе цепи ог и Xs являются циклами (т. е. границы дог и dxs равны нулю) и хотя бы одна из них является циклом, гомологичным нулю на М (т. е0 границей некоторой цепи, принадлежащей М), то /(аг, т*) = 0. Далее рассмотрим на ориентируемом многообразии М два гомологичных нулю цикла стг и т5-1 (пусть по-прежнему r-\-s = m)\ предположим, что они не пересекаются. Рис. 41.
§ 17J МНОГОМЕРНЫЕ ВЫЧЕТЫ 267 Существует цепь Ts а М такая, что xs~1 = dTs, и если Т](пМ — еще какая-либо цепь с границей т*~\ то по отмеченным свойствам индекса пересечения 1(<Л Г*)-/(a', Г*) = 1(<Л 7*-7;) = О, ибо Г5 — Tf — циклх) на М, а ог —цикл, гомологичный нулю. Таким образом, в наших условиях индекс пересечения цикла аг с любой цепью Ts а М, граница, которой dTs = ts~1, не зависит от выбора этой цепи и определяется (при заданных М и аг) лишь циклом т5-1. Мы назовем этот индекс коэффициентом зацепления циклов <f и Xs-1 и обозначим символом с (аг, т5-1); итак, по определению с (а', т^Н/К Ts). (1) Рис 42' (На рис. 42 коэффициент зацеплений двух одномерных гомологичных нулю в R3 циклов т1 и а1 равен 2.) Отметим следующие простые свойства коэффициента зацепления: 1) с(вг, т5-1) = — с(—аг, т$-1) = — с(аг, —Xs-1); 2) c(or, xs'1) = (—l)r{s-1)c(xr-\ as)\ 3) c(or, тг1 + тг1) = с(а^1 тГ1) + с(а-, т*"1). Отметим еще одно свойство: если два цикла а[ и a£t гомологичные нулю на М, гомологичны друг другу на М\т/-1 (где Xs-1 — цикл, гомологичный нулю на М), то с К, т*-1) = с(а;| т*-1). (2) В заключение сформулируем без доказательства Принцип двойственности (Дж. Александер, Л. С. Понтр яги н)2)). Пусть 5 —сфера действительной размерности т и К с: S — некоторый полиэдр. Тогда для 1) Граница д (Г5 — ГЙ^т*"1—т^^О. 2) Определение полиэдра и доказательство принципа двойственности см. в книге: П. G Александров, Комбинаторная топология, Гостехиздат, М. — Л., 1947. Базой г-мерных гомологии полиэдра /С называют систему г-мерных циклов |а^| на /С, если: -1) она гомологически независима, т. е. из того, что некоторая цепь 2^uau на ^ гомологична нулю, следует, что все 6,j, = 0 и 2) любой г-мерный цикла на /С гомологичен некоторой линейной комбинации ог
268 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV базы г-мерных гомологии |ст^| комплекса S\/C существует двойственная база (s— 1)-мерных гомологии |т*} полиэдра К (при этом r-\-s = m) такая, что для всех |ы, v СК> П"1)*^, (3) где 6^v — символ Кронекера (равный 1 при [x = v и 0 при Перейдем к задачам вычисления интегралов. Пусть в области D cz €* задана мероморфная функция / с полярным множеством Р и требуется вычислить интеграл от формы to = f dz — f(z)dzi Д ... Д dzn по некоторому n-мерному циклу eczD\P. Если а гомологичен нулю в D\Pf то по теореме Коши — Пуанкаре \fdz = 0. а По той же теореме и по свойствам интегралов, если цикл а' гомологичен а в D\P, то \fdz~\fdz. о' а Отсюда вытекает, что если известна база я-мерных гомологии {(Гц} множества D*\P и разложение р <*~ Ц W (4) по этой базе, то вычисление интеграла от / по а сводится к вычислению интегралов по базисным циклам: Sfdz'^j^k^fdz. По аналогии с одномерным случаем назовем вычетом функции / относительно базисного цикла а^ величину Тогда будет иметь место
§ 171 МНОГОМЕРНЫЕ ВЫЧЕТЫ 269 Теорема 1 (о вычетах). Если функция f мероморфна в области D с: d> и Р — полярное множество этой функции, то для любого n-мерного цикла gciD\P \fdz = {2ni)« £ k^f (6) а |А = 1 где k^ — коэффициенты разложения а по базе n-мерных гомологии D\P, aRfl — вычеты f относительно циклов этой базы. В пространственном случае, в отличие от плоского, отыскание базы {а^} и разложения (4) по этой базе является далеко не простой задачей. Э. Мартинелли заметил, что в ряде случаев задача существенно упрощается, если воспользоваться описанным выше принципом двойственности1). Для возможности применения этого принципа предположим, что область D гомеоморфна 2я-мерному шару. Отождествим все точки границы D в одну точку и дополним D этой точкой — мы получим 2я-мерную сферу D. Точно так же отождествим все точки пересечения множества Р функции f с границей dD в одну точку и дополненное этой точкой множество Р обозначим через Р. Описанный процесс, очевидно, не нарушит базы я-мерных гомологии {а^} и разложения (4) по этой базе. Иными словами, {ац} останется базой я-мерных гомологии Ь\Р и (4) — разложением цикла а по ней. На основании принципа двойственности мы можем вместо базы я-мерных гомологии {о^} множества D\P искать двойственную базу (я— 1)-мерных гомологии {tv} самого полярного множества Р, связанную с первой базой соотношениями с(о^ xv) = 6^v. (7) Циклы tv мы будем называть коротко особыми циклами. Заметим, что коэффициенты йм разложения цикла и по базе {ву} совпадают с коэффициентами зацепления этого цикла с циклами двойственной базы {tv}. В самом А) Вычисления ряда интегралов по этому методу провел А П Южаков (см., например» его работу: О вычетах функций многих комплексных переменных, Изв. ВУЗов, Магем., № 5 (1964), 149-^161}.
270 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV р деле, так как а гомологичен 2 k^a^ в Ь\Р, то по OTMe- ченному выше свойству коэффициентов зацепления имеем а отсюда, пользуясь свойством 3) и соотношениями (7), находим с (a, tv) = £v. (8) Это замечание позволяет находить k^ не зная самой базы {Оу}. Интегралы по базисным циклам а^ (вычеты функции f) также можно вычислять, не находя самих этих циклов. В самом деле, пусть нам удалось найти в Ь\Р какие-либо р гомологиче$ки независимых «-мерных циклов 7ц> по которым мы можем вычислить интегралы $/dz = /(Yj,), fx = 1, •••, p. Пусть еще известны коэффициенты зацепления с (у^ tv) = а^ этих циклов с циклами двойственной базы {tv}. По сделанному выше замечанию а^ являются коэффициентами разложения у^ по базе {av}, поэтому по теореме о вычетах для любого |ы = 1, ..., р /Ы = (2шГ S^vtfvi (9) v = l где #v — вычет f относительно цикла av. Систему (9) можно рассматривать как линейную относительно неизвестных вычетов RVt причем ее определитель пропорционален det(#nV), который отличен от нуля в силу гомологической независимости циклов у^ Поэтому из этой системы вычеты легко находятся. Учитывая отмеченную выше двойственность, условимся называть интеграл / по «-мерному циклу cxv, деленный на (2я/)л, вычетом относительно особого цикла tv (двойственного (Tv). Заметим, что это определение подчеркивает аналогию пространственного случая с плоским, где интеграл по одномерному циклу уу, деленный на 2ni, назы* вается вычетом / относительно особой точки av (нульмер*
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 271 ного цикла). Теорему о вычетах теперь можно сформулировать так: Теорема 2. Пусть функция f мероморфна в области D а С", гомеоморфной 2п-мерному шару, и Р — полярное множество £, которое получается добавлением к P(]D множества P(]dD, отождествленного в точку. Пусть tv, v = 1, ..., р, — база (п — I)-мерных гомологии множества Р и /?v — вычет f относительно особого цикла xv. Тогда для любого n-мерного цикла gczD\P 5/Л = (2ш)»2№, (Ю) a v = l где kv = c(o, tv) — коэффициент зацепления а с особым циклом Tv Примеры. 1 Если /—целая функция п комплексных пере- п менных, я>1, а /(г)= У| aygy + P-— линейная функция, то для v = i любого /г-мерного цикла осСл\{/(г) = 0} и для любого целого числа т С f(z)dz J / п \т ° (I] а^+Р] В самом деле, границей области СЛ являются бесконечные точки, которые нужно отождествить в одну. Полярное множество Р = {1 (г) = 0} после пополнения отождествленными бесконечными точками станет (2я — 2)-мерной сферой Р При я> 1 любой (я — 1)-мерный цикл на Р гомологичен нулю (р = 0), база {tv} тривиальна и, значит, рассматриваемый* интеграл равен нулю По тем же причинам равен нулю при п > 1 интеграл J р I п \ти. ' 0 П 2^Н р,= 1 \v = i / где / — целая функция, а полярное множество Р представляет собой набор р параллельных плоскостей. (Здесь Р — «букет» (2п—2)-мерных сфер, касающихся друг друга в отождествленных бесконечных точках.) 2. Рассмотрим интеграл С e*w dz Д dw J (2-2w)(w-2z) ' а где а —произвольный двумерный цикл из С2, не пересекающийся с полярным множеством Р = Pl IJ Р2, где Р1=={г==2ш} и Р2={ш=22}.
272 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Пополненное полярное множество Р состоит из двух двумерных сфер Р± и Р2» пересекающихся в двух точках: {2 = 0, до = 0} и отождествленной бесконечности. Нам нужно найти базу одномерных гомологии Р. Очевидно, всякий одномерный цикл, лежащий полностью на одной из сфер, гомологичен нулю. Поэтому не гомологичный нулю цикл должен проходить от точки (0, 0) по одной сфере до со и затем возвращаться по другой сфере в ту же точку. Все такие Циклы гомологичны несколько раз проходимому циклу т, который состоит из какого-либо луча /fCZ.Pi, идущего из (0, 0) в . бесконечность, и какого-либо луча lz cz Р2, идущего из бесконечности в (0, 0) (см. схематический рис. 43). Пусть, например, 1± проходит через точку (2, 1), а 12 — через точку (1, 2), тогда параметрические уравнения этих лучей будут иметь вид к: г=2к' \ w=*tt ) .. - -к, h 0^/^со; г- -2/. }., У нас р=1, следовательно, достаточно вычислить интеграл от / по какому-либо одному не гомологичному нулю в С2\Р двумерному циклу у. Выберем в качестве у тор {е'Ф, еЩ, где 0^ф, я|з^2я, тогда $' dz /\ dw = S.. S ■ ^ ezw dz Д dw 2а»)(ш—2г) Y {|Ю|=1}{|2|=1> Так как у нас |а>|=1, то при вычислении внутреннего интеграла w нужно учитывать лишь вычет в точке 2 = -~-, и, значит, этот интеграл 4 ~ , ~ весь интеграл равен —^jt2 (из того, что интеграл отличен от нуля, и вытекает, что у не гомологичен нулю). Найдем коэффициент зацепления с (у, т) = а; по определению он равен индексу пересечения v g двумерной пленкой Г2, натянутой на т. Параметрическими уравнениями Т2 служат равен -^L^/2 2 = 2/!+ t2, }» <tit /2<°°» а с тором у эта пленка пересекается лишь в одной точке (1, 1), которая соответствует значениям параметров /i = /2= — f ф=,ф==0. В этой точке д (я, yt a, v) -г,,—-. тт>® (мы положили z~x + iy,w=*u+iv)t О (.?!, 12, ф» V) откуда видно, что индеко пересечения i(yt Т2) = с(у, т) = 1, По фор»
§ 17] /МНОГОМЕРНЫЕ ВЫЧЕТЫ 273 муле (10) находим, что вычет / относительно особого цикла т равен Y и тогда по теореме. 2 получаем значение искомого интеграла с (а, т) — коэффициент зацепления (двумерного) цикла интегрирования а с особым (одномерным) циклом т. 47. Теория Лере. Здесь мы рассмотрим другой метод вычисления интегралов, принадлежащий Ж. Лере. В ряде случаев этот метод позволяет свести вычисление интеграла от формы со степени г по /--мерному циклу о к вычислению интеграла от формы res со степени г—1, называемой формой-вычетом, по некоторому (г—1)-мерному циклу, лежащему на многообразии особенностей формы со. Метод Лере также можно рассматривать как обобщение классического метода вычетов, который соответствует случаю г=1 и сводит вычисление интегралов от форм со = /^г по замкнутым кривым к вычислению значений вычетов resf в особых точках f (т. е. нульмерных интегралов от res/ по этим точкам). Мы изложим этот метод в его простейшем варианте*). - Пусть на я-мерном комплексном многообразии М задано подмногообразие Я, комплексной коразмерности 1, которое в окрестности U2o с: М каждой своей точки г° задается как множество нулей голоморфной в этой окрестности функции tyz? такой, что Vi|)2o^0в U#: ЯП^ = {* е= Uzo: \р2о (г) -0}. (1) Пусть на М\Р задана дифференциальная форма со степени й, 0<£^2я, класса С°°, имеющая на Я полярную особенность первого порядка. Последнее условие означает, что в каждой Uzo, z° е Я, произведение i|)2oco продолжается до С°°-формы на [/2о. г) Полное изложение см. в книге: Ж. Лере, Дифференциальное и интегральное исчисление на комплексном аналитическом многообразии, ИЛ, М., 1961.
274 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Лемма. Форма а^С°°(Л1) тогда и только тогда представила в окрестности U точки z° ^ Р в видег) а = А|>ЛР. (2) где Р^С°°(<7), когда в этой окрестности Л|)Да = 0. ' (3) < Примем г|) за одну из локальных координат, определяющих Р в окрестности U, скажем за переменную гг (это возможно в силу условий, наложенных выше на г|)). Выражение для а в этих координатах можно разбить на два слагаемых: - a==2a'i ••• ipdzhA ••• AdZip = dz1/\^ + a,f где а' не содержит йгг (как всегда, мы полагаем ZV = 2V, Zn+V = 2v, v=l, ..., я). Таким образом, если а предста- вима в виде (2) при \|) = гь то а' = 0, а значит, и dzx Д а = О, т. е. (3) выполняется. Обратно, если dzx Да = 0, то и d-Zi Д а' = 0, а так как а' не содержит йгь то это может быть лишь при а' = 0 ► Теорема 1. Если форма weC00 (М\Р), имеющая на Р полярную особенность первого порядка, замкнута в М\Р, то в окрестности U произвольной точки г° е Р вне Р она представима в виде ®=-f Л' + «>ь (4) где формы г, coi е С00 ([/). Яри этом сужение г\Р не зависит от выбора функции ф и является замкнутой формой. А Так как у нас г|хо е С°°(£/), то d(i|xo) = = d-ф Д co-J-ty Д dco; но на МЧР имеем dco = 0 (ибо со замкнута), значит, по непрерывности d (г|хо) = d-ф Д со всюду в U. Таким образом, dty Д со продолжается на Р до формы а е С00 (U), и по лемме найдется форма Р = сох е С00 (£7) такая, что di|) Д со = d-ф Д сох. Умножив это равенство на \|), найдем di|) Д (г|хо — г|хох) = О, где г|хо —г|хох ^ С°°([/); значит, по той же лемме суще- х) Для простоты письма мы опускаем индекс г° в обозначениях U, ♦ и р.
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 275 ствует форма г gC00 (U) такая, что г|хо — ijxd! = dtp Д г. Это равенство вне Р равносильно (4). Покажем, что сужение г\Р однозначно определяется формой со. Предположим сначала, что функция tp, определяющая полярное множество Р, задана, и докажем, что из равенства О—^-Л'+юе (5) следует равенство г \р = 0. Но из (5) мы получаем dtp Д г + 4- фан = 0, откуда dtp Д ^©х = 0, а так как tp — функция, отличная от нуля в 0\Р9 то там dtp Д cdj. = 0; в силу того, что dtp Д coieC°°((/), последнее равенство справедливо и всюду в U. Мы можем применить лемму, по которой найдется форма щ такая, что co1 = d'i|) Д со2. Подставляя это в (5), находим dtp Д (г-J-tpG>2) = 0; по той же лемме r-H\J)€o2 = dtp Д со3, где со3 еС°°((/). Отсюда и видно, что сужение г \Р = 0, ибо у нас tp \Р = (dtp) |Р = 0. Теперь докажем независимость г \р и от выбора функции tp, определяющей полярное множество. Пусть это множество (в пределах окрестности U) определяется еще функцией tp; тогда частное tp/tp = % голоморфно и отлично от нуля в U (см. п. 44). Пусть мы имеем (о = ^ Д ; + ®i, где f, a>isC°°([/). Подставляя сюда iip = tp%, найдем здесь (01 = -^- Д r"+^i^C°°([/), и по доказанному выше Остается доказать замкнутость формы г |Р. Но вне Р в силу замкнутости со мы имеем dco = ^-Дdг + dco1 = = 0, а это совпадает с (5), где г заменено на —dr и щ на dcoi. В силу доказанной выше единственности заключаем, что dr \Р = 0 ► Определение 1. Формой-вычетом замкнутой формы ogG^^V), имеющей на Р полярную особенность первого порядка, называется замкнутая форма на Р,
276 МЕРОМОРФНЫЕ ФУНКЦИИ И ЗЫЧЕТЫ [ГЛ. IV которая в окрестности каждой точки г° < нию на Р формы г в разложении (4): res со = г \Рл \Р равна суже- (6) Таким образом, оператор res преобразует группу Is (М\Р) замкнутых С°°-форм степени s в группу Zs'x (Р) замкнутых С°°-форм степени s—1: res: Z8(M\P)-*Z'-l(P). (7) Замечание. Если форма со голоморфна1) на М\Р, то и res со голоморфна на Р. Это следует из того, что в случае голоморфности со формы г и сох при доказательстве теоремы 1 также можно выбрать голоморфными. Пример. Пусть s равно (комплексной) размерности п многообразия М, а форма со голоморфна на М\Р и в локальных координатах z = (гь..., гл), действующих в окрестности U точки г°еР, она представляется в виде <* = ^dz = ^dz1f\...f\dzn (8) где ф, ^<=.<9(U), а ^ = 0, написать 0ф . "=i|r(-1>v-lJV-A^A- dzv dzv V =£ 0. Тогда можно dzn = ==(-1) v-1 Ф d* дф dzy ♦ Л^хД. откуда видно, что resco = (— 1)V-J Ф dzv &iA. •-•. d2» ^ч • • ClZfif (9) При n = 1 мы получаем обычную формулу для вычета в полюсе первого порядка: res -*- аг = ?л' . Ф(Д) 1) Определение голоморфной формы см. в п. 13.
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 277 Перейдем к описанию так называемого пограничного оператора Лере б, который каждой точке z° gP сопоставляет гомеоморф окружности бг° с: М\Р (и таким образом увеличивает действительную размерность на 1). Этот оператор должен обладать следующими свойствами: 1. В некоторой окрестности Uzo существуют локальные координаты (гь ...» гп) = г с началом z°, в которых Р П Uz* определяется уравнением zn = 0, а бг° с: Uzo и определяется уравнением | zn | = 1. 2. Совокупность (J бг образует в М\Р непрерывную г<=Р поверхность. 3. При г' Ф z" Линии б/ и бг" не имеют общих точек. Таким образом, совокупность \J bz составляет rpa- ницу трубчатой окрестности многообразия Р (см. схематический рис. 44, где Р изображено линией, а М — трехмерным пространством). В принятых выше условиях построение такого оператора б всегда возможно, ибо действительные размерности Р и М отличаются на две единицы. Пустьтеперьст—цикл на Р Рис. 44 действительной размерности s — 1; мы предположим, что носитель этого цикла (т. е. соответствующий ему полиэдр) компактно1) принадлежит Р. Обозначим б(т= (J бг; мы можем рассматривать бет как s-мерную цепь на М\Р, если введем в ней естественную ориентацию, соответствующую ориентации ст. Для этого достаточно ввести ориентацию на каждой линии бг, например так: будем считать, что ориентация в окрестности U2 задается порядком следования локальных координат гь ..., zn 1) Это предположение нужно для того, чтобы избежать рассмотрения несобственных интегралов.
278 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV (положительностью формы dzi/\.../\dzn), а на многообразии U2{\P — порядком zlf ..., zn-i\ тогда положительный обход на 6z будет соответствовать возрастанию tn в представлении zn = eli* окружности 8г (см. свойство 1 оператора б). Легко видеть, что оператор б коммутирует с оператором д взятия границ (бд = дб), поэтому он переводит циклы снова в циклы и циклы, гомологичные нулю, в такие же. Таким образом, б устанавливает гомоморфизм групп гомологии б: #<li (Р)-+Н? (М\Р) (10) (значок (с) в обозначении групп указывает на то, что рассматриваются компактные гомологии, т. е. принимаются во внимание лишь цепи с компактными носителями). Следующая теорема является обобщением теоремы Коши о вычетах из ч. I. Теорема 2. Пусть (s — \)-мерный цикл ашР и со е С00 (М > Р) — замкнутая форма степени s, имеющая Р своим полярным множеством первого порядка; тогда $ о = 2ш fresco, (11) 6а а где б — кограничный оператор Лере. 4 Обозначим через б8, 0<е<1, оператор, который обладает свойствами 1—3 оператора, б, с той лишь разницей, что в 1 уравнение |zn | =1 заменено уравнением \zn\ = e и при е-*-0 трубчатая окрестность ст(8), ограниченная поверхностью б8а= [J б8г, стягивается в а. По формуле Стокса (п. 13) для любых ех и е2, 0<ех<; < е2 < 1, имеем ^ со— § со = $ dco = 0 6е2а б8!а a<£!'\(j(st) в силу замкнутости формы, так что интеграл от со по б8сг не зависит от е. - Теперь покроем а(1) конечной системой окрестностей {£//}/€=/, в каждой из которых действует теорема 1 и, как выше, можно принять -ф(г) = гл. Построим для этого
§ т МНОГОМЕРНЫЕ ВЫЧЕТЫ 279 покрытия разбиение единицы {ej} и применим в каждой Uf теорему 1, в которой положено ^«=гл; мы получим Здесь ->- 2ш5 £/ res со а при е->0, левая часть (12) не зависит от е и равна интегралу по бет, а вторая сумма в правой части стремится к нулю при е->0. Поэтому, переходя в (12) к пределу при е->0, мы будем иметь J со = 2ш* 2] \fyres© = 2m fresco ► Заметим, что если заменить сг другим циклом с/, принадлежащим тому же классу А е #s— i (Я) компактных гомологии на Р (это означает, что с/ — ст ограничивает некоторую s-мерную цепь, компактно принадлежащую Р), то в силу замкнутости формы* res со интегралы от нее по а и <f по формуле Стокса совпадают. Учитывая еще, что, согласно (10), оператор б сохраняет гомологии, мы можем заменить в (11) циклы а и 6а любыми представителями соответствующих классов h е HfL \ (Р) и б/i е ^Hlc) (М\Р). Поэтому формулу (11) можно переписать в виде $ со = 2ш § res со. (13) 6h h Ясно, далее, что если к со добавить точную в М\Р форму (т. е. являющуюся дифференциалом некоторой формы степени s— 1), то интегралы в (13) не изменятся. Класс форм, отличающихся от со на точные формы, является классом когомологий, содержащим со, а совокупность таких классов для всех замкнутых форм со степени s+1 из С°°(М\Р) — группой когомологий Hs (М\Р) (см. п. 13)
280 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Мы видим, что класс когомологий из IIs-1 (Р), содержащий res со, зависит только от класса когомологий из HS(M\P), содержащего форму со. Определение 2. Пусть со— некоторая замкнутая форма, представляющая класс со* е Hs (M\P)i класс когомологий из #5-1(Р), содержащий форму res со, называется классом-вычетом и обозначается символом Res со = Res о** Формулу (13) теперь можно переписать в виде $G>* = 2m$Resco*. (14) ал h Можно убедиться в том, что оператор Res устанавливает гомоморфизм соответствующих групп когомологий: Res: HS(M\P)^HS~1(P). (15) Опишем в общих чертах случай полярных особенностей выше первого порядка. Пусть опять на /г-мерном комплексном многообразии М задается многообразие Р, локально описываемое как множество нулей голоморфной функции ty, для которой Vi|)^=0. Будем говорить, что форма со е С00 (М\Р) имеет на Р полярную особенность порядка q, если произведение г|^со продолжается до С°°-формы на М, a ip^'co, где q'<Lq, не продолжается. Приведем без доказательства теорему, которая сводит вычисление интегралов от замкнутых форм, имеющих на Р полярную особенность выше первого порядка, к уже рассмотренному случаю (см. книгу Лере, цит. на стр. 273): Для любой замкнутой формы со ^ С00 (М\Р), имеющей на Р полярную особенность, найдется когомологичная ей форма со0, которая имеет на Р особенность первого порядка. ^ Класс когомологий из HS~1(P)1 содержащий resco0, т. е. класс Resco0, называется классом-вычетом формы со; он определяется лишь классом когомологий из Hs (M\P)i содержащим со. В плоском случае переход от формы о = / dz к о>0 = = /о dz состоит в замене f (г) = c~q' + ... + с~г фу нк- цией /0 = ^ , имеющей в точке а полюс первого порядка и тот же вычет, что и f. Отметим, что в пространственном случае для голоморфной со форма со0 не обязана
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 281 быть голоморфной и вообще класс-вычет Res со голоморфной формы о может не содержать голоморфных форм1). Этим и объясняется необходимость рассматривать в теории Лере не только голоморфные, но и формы класса С00. Для практики важен также случай, когда форма со имеет несколько полярных многообразий Ри ..., Рт порядков соответственно ql9 ..., qm. Предполагается, что Pv находятся в общем положении, т. е. что во всех точках их пересечений матрицы, составленные из производных функций, определяющих эти многообразия, по локальным координатам имеют наивысший возможный ранг. Мы обозначим Pi = (Pi(\...(\Pf)\(Pf+il}...[JPm), /=1, ...,т-1,Рм*=Р1П..,ПРт, Р° = М\(Р1и...иЛл) и рассмотрим последовательность гомоморфизмов Ы9 которые ставят в соответствие циклам а, принадлежащим классам компактных гомологии из Я(с) (Р^), циклы 6Ат, принадлежащие классам из #(с) (Р/_1): бт: Н^ХРт) -£► Я<*> (Р^1) ->.. • ->#W (Р1) А #<<) (ро)в (16) Циклы 8Aj расслаиваются на гомеоморфы окружностей, обходящие Р* и принадлежащие Р^~г. Как и выше, этой последовательности двойственна последовательность гомоморфизмов групп когомологий, которая определяет сложный класс-вычет: Resm: Н(Р°)->#(Р1)->...-+Н(Рт-х)->#(Рт). (17) Последовательным применением формулы (14) получается следующее утверждение: Для любого (s — т)-мерного цикла а из класса гомологии h е HsCl-m{Pm) и любой замкнутой С*-формы со степени s из класса когомологий со* е Hs (Р°) имеет место формула вычета $ co* = (2m')m$Resmco*. (18) bmh h В заключение отметим, что если форма со обращается в нуль на некотором (я— 1)-мерном комплексном много- г) Из замечания вслед за теоремой 1 видно, что это обстоятельство может возникнуть лишь при рассмотрении форм с полярний особенностью выше первого, порядка.
282 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV образии NaM, то интегралы от нее и от res со по пересечениям o(]N и 8g(]N исчезают. Это дает возможность рассматривать вместо групп гомологии и когомологий группы относительных гомологии и когомологий. Обозначим через CS(M) и CS(N) группы s-мерных цепей на этих многообразиях (как всегда, с целыми коэффициентами). Цепь а^Ср(М) будем называть циклом относительно N9 если ее граница до а N (в частности, равна нулю). Группа CS(N) является подгруппой CS(M); фактор-группу CS(M, N) = CS(M)/CS(N) будем называть группой относительных цепей. Цепь as ^Cs (М) называется относительной границей, если существует цепь as+1 ^ Cs+1 (М) такая, что as — das+1 с aOs(N). Относительные границы образуют подгруппу BS(M, N) группы ZS(M, N) всех относительных циклов; фактор-группа Н8(М, N) = ZS(M, N)/BS(M, N) называется группой относительных гомологии. При рассмотрении форм со, имеющих полярную особенность первого порядка на многообразии Р и обращающихся в нуль на многообразии N (они предполагаются находящимися в общем положении), можно несколько уточнить описанную выше конструкцию. Именно, к свойствам 1—3 кограничного оператора Лере можно добавить еще свойство: 4. Если z^P()N, то SzczN. Тогда этот оператор каждый относительный цикл о ^ Zs_! (Р, N)г) преобразует в относительный цикл бег е ZS(M\P, N). Легко убедиться в том, что он устанавливает гомоморфизм соответствующих групп относительных гомологии: б: Н^г(Р9 N)-+HS(M\P,N). (19) Формула вычета (13) для классов относительных гомологии /ie#5_i(P, N) и 8h^Hs(M\P, N) сохраняется. *) Под Z(P, N) понимается Z(Pt P(]N); аналогичное соглаше» ние принимается в дальнейших формулах.
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 283 Примеры применения метода Лере для вычисления интегралов, имеющих важное значение в теоретической физике, можно найти в книге: Р. Хуа и В. Теплиц, Гомология и фейнмановские интегралы, «Мир», М., 1969. 48. Логарифмический вычет. Как и в плоском случае, он оказывается связанным с понятием индекса. Рассмотрим сначала действительный случай. Пусть задан гладкий (п— 1)-мерный цикл acRn. Предположим, что а не содержит точку л: = 0, и назовем индексом этого цикла (в смысле А. Пуанкаре) относительно х = 0 величину л 'o((T)=i§ 2{-ir~1i$wdXiA'-v''dXn' (1) a v = l „ л/2 где 2„ =— г—площадь сферы {д: g Rn: |л;| = 1}. r(fn) Индекс в смысле Пуанкаре является прямым п-мерным аналогом индекса на плоскости: полагая в (1) п = 2 и х1 = х, х2 = у> получим • / \ 1 f ydx—xdy 1 f А , у а а , Форма со под интегралом (1) имеет особенность в точке х = 0 и замкнута в К* = К"\{0}, ибо при хфО did -[24;^)dx^;--AdXn = divJ^dx = 0. Отсюда по формуле Стокса мы заключаем, что если два цикла <Тх и а2 гомологичны друг другу в R* (т. е. разность Ох —(т2 ограничивает некоторую цепь из R*, то интегралы от со по этим циклам равны. Так как базой (п— 1)-мерных гомологии в R* служит единичная сфера {1*1 = 1}, то любой рассматриваемый цикл <т гомологичен этой сфере с некоторым целочисленным коэффициентом k. По только что сделанному замечанию л П (У "{|*j = i}v=l
гт МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV откуда снова по формуле Стокса *o(tf) = Y" \ ndx=~Qni где Q„ = —2„ —объем я-мерного шара {|^|}<1}. Таким образом, i0(o)=k. Переходя к комплексной структуре, мы рассмотрим четномерное пространство R2/\ введем в нем координаты 2V = Xv -j- lXn+v> zv = xv — iXn+v и положим Zv = 2V, Zn+V = = 2V (v=l, ..., n). Так как dZvf\dZn+v =— 2i dxv/\dxn+vi то индекс цикла ст действительной размерности 2л— 1, не содержащего точку г = 0, можно переписать в виде 2л '•<°>-^т(тП ^-^'т^^л-г-л^ <2> a v=l Цикл сг гомологичен целочисленному кратному границы поликруга £/ = {||г||< 1}; пусть er^kdU, и поэтому в последней форме вместо а можно интегрировать по циклу kdU. Оказывается, что подобно тому, как это делалось при выводе формулы Вейля в п. 16, повторным применением формулы Стокса можно понизить размерность множества интегрирования до п и одновременно исключить неаналитичность подинтегральной фэрмы- Мы получим тогда формулу для индекса в виде к Г где kT — целочисленное кратное остова поликруга Г = = {Ц2!^ !}• Эта формула вполне аналогична плоской формуле для индекса замкнутого пути относительно точки г = 0. Для формальных упрощений проведем соответствующую выкладку в случае п = 2. Мы имеем 24 = 2л2, и формула (2) принимает вид (знак Д опущен)! 1 С 1 h{°) = — -g^F ) —j(z1dz2dzldz2 — z2dzldz1dz2 + khu + ^i dzx dz2 dz2 — z2 dzx dz2 dz{).
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 285 Границу бикруга разобьем на две части: Sx = {| гг | = 1, |г2|^1} и S2 = {|2i|^l, |га|=1}. На Sx имеем гх^ = 1, Zidz1 + z1~dz1 = 0 и dz1dz1 = Oi следовательно, соответствующая часть интеграла io = — "8д2" \ ТТр" (2l dz*dtl dl% "^2l dZl dz2 dt^ = l_ 4я2 Форма под интегралом точна, она' является дифференциалом формы Q' = —^-^•dz1dz2 (в самом деле, dQ' = ^"г7("jTp"~~ *T*1* /dZldZ2 = T^P"d*2d2!l&8' если учесть' что dz1dz1 = 0 на Sij, поэтому по формуле Стокса .,_ 1 С *2 ^ fc _ 1 Г Ы* dz,dz2 Аналогично интеграл по S2 равен l^i I2 dzx dz2 U I *• (2ш)2 Jr |*|2 21г2 ' . и, складывая полученные выражения, мы получим формулу (3) при я = 2. Мы придем к пространственному аналогу логарифмического вычета, если будем рассматривать следующую задачу. Пусть задано голоморфное отображение /: D->€* (4) области DcC", якобиан которого Jf(z)=£0. Предположим еще, что множество £ = /:-1(0) нулей этого отображения изолировано в D (это предположение не следует из предыдущего: якобиан отображения (гь г2)->(гъ ZiZ2) в С2 равен гь а множество его нулей —прямая {zi = 0}). Пусть G^D — область с гладкой жордановой границей dG = S, не содержащей нулей f. Требуется определить общее число нулей отображения / в области G с учетом их порядков. Эта задача решается точно так же, как плоская. Мы вычисляем индекс относительно точки w = 0 цикла
286 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV S^ = f°S, соответствующего S при отображении (4); по формуле (2) и теореме о замене переменных в интеграле он равен 2п N =£■&)" S 2 <- D^-i^r^A. • ~. • ^ (5) S v=l где |/Т=2 l/vi2, Л> = Л>, Fn^ = U (v=l, ..., л). v=l Так как под знаком интеграла в (5) стоит неособая и замкнутая в G\£ форма, то по формуле Стокса мы можем заменить цикл интегрирования S границей множества Вейля П8 = {z е G: | Д, (г) | < 8, v = 1, ..., п) при достаточно малом е>0 (см. п. 16). Если сделать еще переход к интегрированию по /г-мерному остову Г8 = = {1Мг) l = e» v=l, ..., п) множества ПЕ такой же, как переход от формулы (2) к (3), мы получим (2я|)« J h...fn ' W Г8 При достаточно малом е множество ПЕ состоит из конечного числа связных компонент, каждая из которых содержит один и только один нуль отображения f. Интеграл (5) по границе такой компоненты, или равный ему интеграл (6) по остову этой компоненты естественно назвать порядком нуля отображения /, принадлежащего компоненте. Мы получаем тогда следующий /г-мерный аналог принципа аргумента. Теорема 1. Если f: D ->■ ©я (D а Сп) — голоморфное отображение с изолированными нулями, aG <mD — область с жордановой гладкой границей S, не содержащей нулей f, то индекс S^=f°S относительно точки w = 0 равен общему числу нулей f в области G с учетом их порядка. Примеры. 1) Отображение с якобианом, равным 4(z? + zf), имеет в шаре £ = {|г|<1} из С2 один нуль в точке (0, 0). Порядок этого нуля по формуле (6) равен *,_! С dwt/\dub ^ 2 С (z\ + zl)dz1/\dzt (2Л«)2 J ЩЩ (2Я02 J (21-21)2x22 '
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 287 где Г —остов области Вейля {| г\-—г\ | < 1, 2| ztz2 | < 1}. Пользуясь методом Мартинелли, можно доказать, что искомый порядок N = 4. 2) Заметим, что при п > 1 порядок нуля /, вообще говоря, не выражается через порядки младших членов тейлоровских разложений /v в рассматриваемой точке. Так для отображения w1 = z\1, w2 = zl (7) порядок нуля в точке 2 = 0 равен 6 — произведению порядков младших членов разложений. /х и f2. Для отображения же 0^ = 2?, ш2 = г? + 2|, которое отличается от (7) невырожденным линейным преобразованием и, следовательно, имеет тот же порядок нуля, произведение порядков /v равно 4. 3) Для отображений, осуществляемых градиентами так называемых взвешенно однородных полиномов, существует простой прием вычисления поряДка нуля. Многочлен р (гг гп) называется однородным о весом а = (а±1 ..., ап), если его можно представить кан k k k линейную комбинацию одночленов вида г = г% х... гпп, где Это, очевидно, эквивалентно условию p\t f2i, ...» / A2W = = tp (г) для всех t е С и геСл. Пусть многочлен р однороден с весом а и точка г=0 является , г, t dp dp \ изолированным нулем его градиента / = Vp = (-^--, ..., ^-J; тогда порядок этого нуля вычисляется по формуле \) Л^ = (ах —1)...(ап —1). * (8) Например, многочлен р (z)—z\z2t + z\ однороден с весом а = О V. v ■~-, 4]; его градиент /(г) = (22x22, г? + 4г|) имеет в точке 2=0 5 1 нуль порядка N=-=-.3 = 5. Градиент многочлена р(г)—-^ г\ — z|zlf однородного с весом а = (3, 3), имеет вид f(z) — (z\—г|, —^г^ и несущественно отличается от отображения в предыдущем примере; по формуле (8) снова получаем, что порядок его нуля N = 2.2 = 4. Из принципа аргумента, как и в плоском случае, получается Теорема 2 (Руше). Пусть в области ОсСл даны два голоморфных отображения f и g в СЛ, G<mD — область с жордановой границей S и всюду на S \f\>\g\- (9) 1) См. Дж. М и л н о р, Особые точки комплексных гиперповерхностей, «Мир», М., 1971, стр 75 и 80. Формула (8) недавно обобщена А. Г. Кушниренко, см. журн. Функциональный анализ и его приложения, т. 9, вып. 1 (1975)
288 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV Если еще f и f+g — отображения с изолированными нулями, то f + g имеет в G столько же нулей, сколько их имеет / (с учетом порядка). < Обозначим через So и S* соответственно образы цикла S при отображениях / и f + g, а через S* — образ того же цикла при отображении f + tg, t s [0, 1]. Очевидно, семейство {S*} определяет гомотопию циклов S* и S*, причем, так как по условию на 5 имеем |/ + ^|> >l/l~"'lfiM>0 Для всех ^^[0» 1], то это гомотопия в ©£ = СЛ\{0}. Отсюда следует, что циклы S* и 5* гомологичны друг другу в Cj (их разность ограничивает цепь (JS*, t^[0, 1]). Но тогда циклы S* и S* имеют одинаковый' индекс относительно точки w = 0, и утверждение следует из теоремы 1 ► Замечание. Если на границе S известен п-мерный цикл Г, интегрирование по которому по формуле (6) приводит к индексу образа S при отображении /, то требование теоремы 2 можно ослабить. Именно, вместо условия, что неравенство (9) выполняется на всей (2п — 1)-мер- ной поверхности S, можно потребовать, чтобы на таком /г-мерном цикле Г было |/>|>|g)| для всех / = 1, ..., п. 49. Локальное обращение отображений* Рассмотрим следующую задачу, обобщающую задачу локального обращения голоморфных функций из п.. 35 ч. I. Пусть в окрестности Uточки аеСл задано голоморфное отображение /: £7->€* ' (1) и b = f(a). Требуется в окрестности V^b найти обратное к f отображение. Если якобиан Jf отображения / отличен от нуля в точке а, а значит, и в некоторой ее окрестности, то по теореме об обратной функции (см. п. 9) отображение / локально биголоморфно в этой точке, и наша задача имеет голоморфное в точке Ь решение g — f~xt Покажем, что для голоморфных отображений верно и обратное утверждение: если такое отображение локально гомеоморфно в точке а, то его якобиан отличен от нуля в этой точке"1). В самом деле, если f гомеоморфно 1) Для отображения класса С00 это утверждение неверно: отображение *v->*4 (v===l» •••» 2я) пространства 4> гомеоморфно, а его якобиан обращается в нуль на гиперплоскостях {*v = 0}
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 289 в окрестности (/эа, to Jf не может быть тождественно равным нулю в [/, ибо тогда был бы тождественно равным нулю якобиан f, рассматриваемого как действительное отображение (см. п. 9), и по теореме из анализа f не могло быть гоме'оморфным. Таким образом, множество £ = {ге(/: Jf (z) = 0} является аналитическим множеством коразмерности, не меньшей 1. Обозначим через E%—f(E) образ этого множества. В дополнении к нему, т. е. на множестве У\Е^9 где V =? = /([/), отображение gf = /"1 голоморфно по теореме об обратной функции, и остается лишь доказать, что g голоморфно продолжается в £*. Свойства гладкости множества Е# заранее нам неизвестны, и потому теоремы об устранении особенностей из п. 26 здесь неприменимы. Нам поможет Лемма (Радо). Любая функция /, непрерывная в области D с: С* и голоморфная во всех точках D, где она не равна нулю, голоморфна в D. «4 В силу локальности утверждения и основной теоремы Хартогса (п. 6) лемму достаточно доказать для функций одного переменного, определенных в круге [/. Обозначим Е = {z ^ U: f (z) = 0}; функция v (г) = In | f (z)\ субгармонична в (/, ибо в U\E она гармонична, а в точках Е равна —со и критерий субгармоничности из п. 3 Доб. к ч. I в этих точках заведомо выполняется. Можно считать, что у^ —оо. Далее функция / непрерывна в U и гармонична на множестве U\E. По теореме 7 п. 3 Доб. к ч. I она гармонична, а значит, и гладка во всем круге U. Но в точках U\E у Hac~T~ = 0, а Е нигде не плотно в U (теорема 6 п. 3 Доп. к ч. I), так что в силу гладкости ~ = 0 и в точках Е ► Вернемся к прерванному рассуждению. В силу Тождества Jf(z)Jg(w) = l, (2) справедливого для всех точек z&U\E и w = f(z) по теореме об обратной функции, функция Jg (w) ->* оо при w ->• ^-£* по множеству V\E%. Поэтому функция . ( ., голо- 10 Bs В. Шабат, ч. И
290 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV морфная в V\Ex, стремится к 0 при w-^E* и, доопределяя ее нулем на Е#, мы получим функцию, непрерывную в V. По лемме Радо . . > голоморфна в V, следовательно, Jg (W) Е# — аналитическое множество. Теперь к координатам отображения g — голоморфным в V\E* и ограниченным в точках Е+ функциям —можно применить теорему об устранении особенностей (теорема 3 п. 26) и заключить, что g голоморфно продолжается на Е*. Тождество (2), таким образом, выполняется всюду в U, а из него следует, что Jf (г)ф0 в U. Доказана Теорема 1. Для локальной гомеоморфности голоморфного отображения f: D -> С" области D cz С* необходимо и достаточно, чтобы якобиан Jf (г)ф0 в D. Перейдем к изучению локального обращения в случае, когда якобиан отображения / обращается в нуль в рассматриваемой точке а, но а является изолированной точкой множества прообразов точки b = f(a). Последнее условие мы будем называть условием Осгуда; если оно не выполняется, то /_1(6) является аналитическим множеством f-i(b) = {z<=EU: Ь(г) = Ь1щ ..., Ш = ЪЯ) (3) размерности выше нуля (Д, — координаты /). Пример. Для 'отображения /: (ги z2) —► (г\ — г|, 2z±z2) условие Осгуда в точке z = 0 выполняется, а для g: (гх, z2) -> (?1> ггг2) —-= не выполняется: прообраз g~x (0) — комплексная прямая {гх = 0}. Теорема 2. Если голоморфное отображение /: U-> ->С" в точке a^U удовлетворяет условию Осгуда, то оно является собственным в некоторой окрестности этой точки. 4 По условию найдется шар G = {| г — a\<.r}eU такой, что 1(г)фЬ при e^G\{a} и, следовательно, min |/(г) —6| = р>0. Пусть B = {\w — Ь|<р}; так как zedG для любой точки wQ sJ5 аналитическое множество {г е е G: f (г) = w0} не имеет точек вблизи dG, то по теореме 6 п. 21 оно конечно, т. е. отображение f(z) — w° имеет в G изолированные нули. Отображение f(z) — b имеет в G единственный нуль (точку а), а так как f (z) -w° = (f (z) -b) + ф -w°)
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 291 и | f (г) — Ь | ^ р на dG, а | Ъ — ш° | < р, то по теореме Руше из предыдущего пункта / (г) — ау° имеет в G столько же нулей, сколько f(z) — b, т. е. по крайней мере один нуль (мы учитываем, что а может быть кратным нулем). Мы доказали, что Baf (G). Обозначим через G0 связную компоненту множества /^(В), содержащую точку а. Любая точка w^B имеет в G0 конечное число прообразов и для любого КшВ прообраз f*1 (К) G G0. Это и означает, что отображение /: Go ->- В — собственное ► Следствие. Если D —область в С" и голоморфное отображение f: D->■С" в каждой точке a^D удовлетворяет условию Осгуда, то /(D) также является областью. Теорема 2 проясняет качественный характер локального обращения в точках, в которых якобиан отображения равен нулю, но выполняется условие Осгуда: в окрестности образа такой точки обращение ведет себя примерно так же, как аналитическая функция одного переменного в окрестности точки ветвления. Для более детального изучения нам понадобится Теорема (Реммерт). Образ аналитического множества в области D с: С* при собственном голоморфном отображении f: D->G является аналитическим множеством в области G. Эта теорема обобщает очевидное утверждение о сохранении аналитических множеств при биголоморфных отображениях. Мы приводим ее без доказательства1). Пусть голоморфное отображение f в точке ае©я удовлетворяет условию Осгуда и Jf(a) = 0. По теореме 2 найдется окрестность U этой точки такая, что f: £/-> V — собственное отображение. Обозначим через £ = {ге е(/: У/(г) = 0} множество критических точек отображения f (по условию оно не пусто). По теореме Реммерта его образ £*=/(£) является аналитическим множеством !) См. Ганнинр иРоеси, цит. на етр. 123, стр. 204. Заметим, что для несобственных отображений теорема неверна: множество <2kni + ozf» гДе &~"Целые числа, аналитично в полосе {— 1 < Re г < < 1} с С (по теореме Вейерштрасса из п. 44 ч. I существует определяющая его целая функция), а образ этого множества при голоморфном отображении г-*-ег не является аналитическим, ибо имеет предель* ную точку внутри области. 10*
292 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV в V и, следовательно не разбивает V. Поэтому для любой точки до е V\E^ число прообразов /-1 (до) в области U одинаково (это целочисленная непрерывная в У\Е# функция), и мы обозначим его через k. Фиксируем точку до0 ^ V\E^ и обозначим через г? (до0) ее прообразы в U (/=1, ..., k). Выполняя, если надо, линейное преобразование пространства Сл(г), можно считать, что /г-е координаты точек zJ' (до0) различны. То же справедливо и для п-х координат г£(до) прообразов точек до, достаточно близких к до0, и мы обозначим k P(zn,w)=Yl(zn-zjn(w))^ / = 1 -4+С1м4"Ч... + ^(4 (4) Функция г£(до), первоначально определенные в окрестности точки до0, по теореме об обратной функции голоморфно продолжаются вдоль любого пути в V\E#. Заметим, что при продолжении вдоль некоторых замкнутых путей в К\£* конечное значение zjn (до) может не совпасть с начальным, а перейти в п-ю координату другого прообраза f-1 (до). Однако коэффициенты ^(до) многочлена (4), которые выражаются через симметрические функции его корней z'n (до), при продолжении вдольf таких путей не меняются, т. е. представляют собой однозначные (и голоморфные) в V\E+ функции1). Они, очевидно, ограничены, а тзк как Е# — аналитическое множество, то по теореме 3 п. 26 они голоморфно продолжаются в область V. Таким образом, п-я координата zn*=*gn(w) обращения g^f'1 в области V представляет собой &-значную аналитическую функцию с множеством ветвления Е# =/(£). Чтобы найти остальные координаты g, рассмотрим многочлены от гп степени не выше k — 1, определяемые в УЧ^* формулами М*л, «О — * * - £ 4(иШ(**-^И), v=l,...,n-l, (5) 7-1 ц=1 " •» ч*^ — г) См. доказательство подготовительной теоремы Вейерштрасса на стр. 113.
§ 17] МНОГОМЕРНЫЕ ВЫЧЕТЫ 293 где z[,(w) обозначают v-e координаты zJ(w). Коэффициенты этих многочленов также голоморфно продолжаются в область V. Заметим, что, как видно из (4) и (5), v °zn \гп = zln (w) = 4 (w) П & И ~ *й И) = Pv № И, а;) и, значит, v-e координаты обращения g, т. е. z!v (до) =^(^), определяются через zli(w)—gn(w) по формулам агЛР(г-ш) , v=l, ..., n—1. (6) Доказана Теорема 3 (Осгуд). Пусть f: U->СЛ — голоморфное отображение окрестности точки а е С", причем Jf (а) = 0, но а является изолированной точкой множества прообразов точки Ь=/(а). Тогда (возможно после линейного преобразования U) локальное обращение g = f~l в окрестности точки Ь можно получить следующим образом: его п-я координата zn — gn(w) находится из уравнения Р(г„, до) = 0, (7) где Р —многочлен (4) с голоморфными в точке b коэффициентами, и представляет собой k-значную аналитическую функцию в окрестности Ь, а остальные координаты однозначно выражаются через gn (до) и w по формулам (6). Пример. Якобиан отображения Ш1 = 2| — zl, w2 = 2zlz2, (8) равный У^(г) = 4(г| + г|)» обращается в нуль на комплексных прямых £ = {г1 = ±1г2} Исключая z^, мы придем к биквадратному уравне- w2 нию Р(22, ш) = г| + шгг|—f = 0. Обращение (7) имеет вид так что функции z^(w) четырехзначны и их ветви голоморфны вне множесгва E^ = {wi=s± iw2}> Это множество является образом мно* жества Е и состоит из двух комплексных прямых, на каждой из кото» рых сливаются по два значения gv; в точке пересечения этих плоско* стей сливаются все четыре значения gv-
294 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ IV Когда условие Осгуда не выполняется, т. е. а является предельной точкой множества f'1 (6), но якобиан отображения не равен тождественно нулю, то существует содержащее точку а аналитическое множество комплексной размерности г, 1 ^ г^п— 1, которое / преобразует в точку Ь. В этом случае, вообще говоря, Ь является особой точкой для хотя бы одной компоненты gv обращения рассматриваемого отображения. Пример. Рассмотрим отображение 0>1 = Z223, 1(У2 = 21гз, W3 = Z1Z2f (9) якобиан которого J = 2z±z2z3 обращается в нуль на трех (комплексно) двумерных плоскостях {z^ = 0}, jlx == 1, 2, 3. Прообразом точки ш = 0 является совокупность трех комплексных прямых {г2 = г3 = 0}, {z1 = = 23 = 0} и {z2 = 2i = 0}. Обращение (9) Z^V ~^Г> г*-у ST* г*~\ ~^ имеет голоморфные ветви вне плоскостей {0^ = 0}, [х=1, 2, 3; точка ш = 0 является особой точкой для всех трех компонент g^. ЗАДАЧИ р 1. Если функция /=tv где Р и Q —взаимно простые полиномы, голоморфна в области D с С\ то в этой области Q Ф 0. 2. Если функция / голоморфна в бикруге {| г | < lf | ш | < 1} и не продолжается голоморфно в точку (z0, elB°)t где |г0|<1, то она не продолжается и во все точки (г, е1в°), где | г | < 1. г3 3. Убедиться, в том, что функция = ^» голоморфная в шаре #={| г|2+| w |2< 1}, непрерывная в Я и равная нулю на прямой z—0t не представима в виде zq)(z, w), где ф голоморфна в В и непрерывна в В. (3 5 3 51 4. Пусть D = <—<|г| < — , —<|ш| <—V —область в С2; множество Af —{(z, w) ^ D: од = г+Ц состоит из двух компонент: Mi = {(z, ^) ^М: Imz = Ima;>0} иМ2 = М\Мъ отстоящих на положительном расстоянии друг от друга. Доказать, что вторая проблема Кузена: /i=l в D\Mlt f2 = w — z — \ в D\M2 (данные согласованы)—неразрешима. (Указание. В случае разрешимости мы получили бы функцию / е 0 (D) такую, что [Ф0 в D\M1 и g= = f/(z—w— \)Ф0 в D\M2; сравнивая приращения аргументов А/ и Af функции / на окружностях {|z| = l, ш = ± 1} и соответствующие приращения аргументов Ag и Ag функции g, мы получим, что А[ = = A/=Ag и Ag = Ag, хотя очевидно, что | Д/— Ag |=2я.)
ЗАДАЧИ 295 5. Пусть D—область голоморфности в С" и {z е D: z1 = 0} = =zM1{]M2i где Mt и М2—открытые непересекающиеся множества на плоскости г^ — 0; тогда существует функция f^.0(D) такая, что /= 1 на Mt и функция //гх голоморфна в окрестности М2. (Указание. Воспользоваться разрешимостью д-проблемы.) 6. (X. Росс и). Пусть /С—полиномиально выпуклый компакт в Сл, точка г° е К и функция /, голоморфная в окрестности Uz0 этой точки, такова, что /(z°) = 0 и Re/<0 на Uz0[)K\z?. Тогда существует функция g, голоморфная в окрестности К и такая, что gr(z°)= 1, |£(г)|<1, если г е= К\г°. 7. Доказать, что если Н2(М, Z) = 0 для многообразия М, то и #2 (#, Z) = 0 для любого его простого покрытия #. 8. Пусть X—компакт, С (X) — кольцо всех непрерывных комплексных функций на X, G —группа (по умножению) всех функций из С(Х), нигде на X не равных нулю, и Е — подгруппа G, состоящая из функций вида ef, /еС (X). Доказать, что G/E^№(X, Z). Это равенство справедливо и в случае, когда X является счетным объединением компактов. (Указание. Воспользоваться точностью последовательности 0 -> Z -> £f —*©?*->-О, где ?f и е?* — пучки ростков элементов С(Х) и G и е — отображение /->е2Ш'Л) 9. Пусть /С — компакт в О, Р (К) — подкольцо С (К), состоящее из функций, которые равномерно на К приближаются полиномами от z, Gp = G[\P (К) и ЕР = Е()Р (К), где G и Е определены в задаче 8 Доказать, что Gp/Ep ^ Н1 (К, Z), если множество К полиномиально выпукло; привести пример компакта К cz С", для которого этот изоморфизм не имеет места. Дока* зать, что в общем случае Gp(Epw№{£R, Z), где К в — рациональная оболочка компакта К- 10. Пусть /С —компакт в Сл и функция /голоморфна в окрестности К". Предположим, что Hl(K, Z) = 0 и 0^/(/(); тогда существует голоморфная на К функция g такая, что e8=f (голоморфный логарифм /). 11. Пусть X —компакт, функция [е С(X) и Nf~{x е X : / (х) = = 0}. Предположим, что Hl(X\Nft Z) = 0; тогда для всякого целого k > 0 в С (X) существует функция /1/л. 12. Пусть D—область голоморфности в 0я и форма / класса С00 (D), такова, что <2/ голоморфна в D (т. е. df—форма бистепени (г, 0) g голоморфными коэффициентами); тогда существует форма g степени г —1 класса 0е0 (D) такая, что форма f—dg голоморфна. 13. Пусть D —область голоморфности в С* и <£/ъ (г°) — пучок ростков голоморфных в D функций, равных 0 вместе в производными порядка ^k в фиксированной точке z° е D. Доказать, что Hs IP г <&k И) =0« если i ^ 1,
296 МЕРОМОРФНЫЕ ФУНКЦИИ И ВЫЧЕТЫ [ГЛ. IV (Указание. Предварительно установить изоморфизм о подходящей фактор-группой форм бистепени (0, s) относительно д.) 14. Пусть a*v\ v=l, 2, ...,—дискретное множество точен в области голоморфности DcD1 и Pv —многочлен по z степени kv. Доказать существование функции / е 0 (D), у которой начальный отрезок разложения Тейлора степени ^fcy в каждой точке aiV) совпадает с Pv. (Указание. Сначала доказать, что HX{D, <^) = 0, где $•— пучок ростков голоморфных в D функций, равных нулю вместе с производными порядка ^&v в точках a(V), затем применить теорему 1 п. 41 к точной последовательности 0 -»<£f -+ © -» 0j<g/f -» 0.) 15. Пусть D —область в С", для которой Hl(Dt 0) = О, и р : d>-> С2—проекция на первые две координаты. Предположим, что: 1) в D имеется голоморфная поверхность, которая на р (D) проектируется взаимно однозначно, и 2) для каждого сер(D) множество p~l (a) f) D связно и односвязно (т. е на нем всякий замкнутый путь гомотопен нулю); тогда р (D) —область голоморфности в С2. (Указание: См. теорему 3 п.42). 16 (Г. М. X е н к и н). Доказать, что в бикруге_(/ с= С2 проблема д/ = со для формы со —a1dz1-\-a2dz2, для которой дсо = 0, решается формулой 4л2/ (г) — $ U=^±^=^b^Ad^ + + J (Ь-*>1С-*Р J Ki-*i)IE-2|8 ' 17. Пусть D—область голоморфности в С* функции /v е 0 (D), v=l, ..., Af, не имеют в D общих нулей; тогда найдутся функции gvez0{D) такие, что figi + ... + fNgN==l. 18 (А. П. Ю ж а к о в). Доказать, что для любого цикла о, ье задевающего множество особенностей подинтегральной функции, J агк + bwl a где /—целая функция в С2, k и / — взаимно простые целые положительные числа, а и /?еС. 19. Пусть D—область из Сп, я>1, и /С — компакт из D, не разбивающий области. Доказать, что любое биголоморфное отображение f : D\K ->• С* продолжается До биголоморфного отображения D. 20. Пусть (/—открытое множество feO и/: £/-» Ст—голоморфное отображение. Если a&U — изолированная точка прообразов fc=jF(a), то m^ft, причем m>n в том и только том случае, если существует голоморфная в точке Ь функция £^£0 такая, что go/= 0 в окрестности а. 21. Пусть (/ — открытое множество в С" и /:(/-» Ст —голоморфное отображение. Если любая a^Uявляется изолированной точкой множества прообразов /(a) и множество f (U) открыто в Cm, jo т = я. 22. Доказать, что любой голоморфный автоморфизм О1 и СРЛ дробно-линеен.
Г л а в а V НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ В этой последней главе наряду с классическими вопросами (такими, как метрики Бергмана и Каратеодори) рассматривается и ряд новых, еще не до конца выясненных. Естественно, что отбор материала здесь в значительной мере определился личными интересами автора. § 18, Инвариантные метрики Один из общих методов геометрической теории функций состоит в использовании метрик, инвариантных при биголоморфных отображениях. Мы опишем три такие метрики. 50. Метрика Бергмана. В области D cz С" рассмотрим гильбертово пространство голоморфных функций: %(0) = (ФЕ^(0) :||9||b=j|9Nv<oo| (1) со скалярным произведением (Ф,г|)) = $ ср\И1/ (2) D (dV — элемент объема). Здесь мы будем рассматривать лишь такие области, для которых это пространство нетривиально; мы будем называть их областями ограниченного вида (таковы, например, все ограниченные области, а пространство С" не таково). Фиксируем точку £eD и будем минимизировать норму |ф\\d в классе £ = {фе!^(D): ф (£) = 1}. Для доказательства разрешимости этой экстремальной задачи нам понадобится Лемма 1. Если поликруг Un(z°, r)mD, то для любой
298 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V 4 Без ограничения общности считаем г° = 0. Если в U» оо ■ ф(*)= 2 с*2*> I /е j =0 то, полагая zv = pxettv, будем иметь Unk, i я 2л г *, / v=l 0 0 =2i^ia^)"IIbvRj' fc v —1 а так как члены ряда неотрицательны, то |;ф[|с/я^ ^ | с0 \2плг2п = | ф (0)|2ялг2л ► Теорема 1. Экстремальная функция поставленной выше задачи существует и единственна. < а) Существование. Пусть А = inf || ф [|2 и ф^е eL|?(D) — минимизирующая последовательность, т.е. ||фц||2->Л. По лемме 1 отсюда следует локальная равномерная ограниченность {фц}, а тогда по теореме Монтеля (см. п. 38 ч. I; доказательство без труда переносится на функции нескольких переменных) можно выбрать подпоследовательность {%v}y сходящуюся к некоторой функции ф0е^(О) равномерно на компактных подмножествах D. Для любой GeD имеем ф0|рс= lim Jqvv|b< НтЦфи |Ь = Л, И V-*oo V-*oo а так как ф0е£, то ||ф0||Ь = Л. б) Единственность. Пусть наряду с ф0 есть еще функция г|)0 е Е такая, что | ф0 |Ь = А. Тогда Фо+% ^£ и> следовательно, У~А^ Фо\ - По неравенству треугольника фо 2 ^ V~A, следовательно, 1 ° 2 =К^» а это равенство возможно лишь при
§ 18] ИНВАРИАНТНЫЕ МЕТРИКИ 299 <ф0=Хф0, где Я— постоянная. Подставляя ? = £, находим Я=1 и, значит, г|)0 = фо ►• Через экстремальную функцию определяется так называемая кернфункция области II Фо По (4) Рассмотрим теперь в области D произвольную полную ортонормальную систему функций фр, е Lfc (D), \i = 1, 2, ... Под ортонормальностью понимается свойство (фц, фг) = 6^lv, где 6^=1 при \i = v и 6^ = 0 при jx^v, а полнота означает, что любая функция f^L2^{D) представляется рядом /(*)= 2 <УМ*)' (5) где Яц —(/, фр,), сходящимся* к / в среднем, т. е. в смысле нормы (2). Заметим, что в нашем случае из леммы 1 вытекает и равномерная сходимость ряда (5) в каждой G <^D. Напомним еще, что условие полноты ортонор- мальной системы выражается равенством Парсеваля оо 2 К12Н1ЛЬ, (6) где Дц = (/, Фц)с Обычным для анализа образом доказывается, что з каждой области ОсСл .ограниченного вида полные ортонормальные системы из U@ (D) существуют. Лемма 2. Для любой ортонормальной системы ф^ е оо eLg>(D) ря<3 2 |Фм.(г°)1а сходится в любой точке z° gD, ^ Пусть 1/(2°, r)^D и m — любое натуральное число; пользуясь ортонормальностью и неравенством (3), находим V д=1 Фц (^ 0\!2 ■J Н = 1 dVs» .,-/ Д = 1 I 4 2,:'
300 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V (мы применили (3) к функции 2 Ф*а (z°) Фи (z) е Ц@ Ф))« т Остается сократить на 2 I Фм- С2'0)!2 и устремить т к со ► Теорема 2. В любой полной ортонормальной в области D системе {фй} кернфункция представляется рядом Ьо(г, £)=\£ Фц(г)Фй(С). (7) ОО ^ Обозначим ф^(^)=ф^ и 2 |Фи12==0Г (РЯД сходится я=1 оо по лемме 2). Для произвольной функции <р(г)= 2 аЛ(г) Q n=i е£ (см, стр. 297) положим тогда из условия 2 %Ф^ = 1 получим, что 2 ТиФ^^О- [х = 1 n=i С учетом этого равенство Парсеваля (6) дает минимальное значение ||ф[|Ь, равное 1/<т, достигается, если все 7^ = 0, т* е- оо Фо (г, 0 = — ^ %Ж) Фц (г), -j = |Фо||Ь. Ц=1 Подставляя это в (4), получаем (7) ► Следствие. Кернфункция k(z&): а) голоморфна по первой координате и антиголоморфна по второй] б) антисимметрична: k (£, z) = k (г, £);
§ 18J ' ИНВАРИАНТНЫЕ МЕТРИКИ 301 в) обладает воспроизводящим свойством: для любой ФеLfo(D) в любой точке z^D ф(*)-$ф(0*(г,0<ИЪ (« D < Свойства а) и б) видны из (7). Для доказательства в) заметим, что ряд (5) в силу неравенства Коши —Буня- ковского 2 | а^фц | < У 2 | а^ \2 У S |фц |2 сходится абсолютно и равномерно на компактных подмножествах D, поэтому, учитывая еще ортонормальность системы, мы получим l<P®k(z,QdV- |] АцФу(г)$Ф^(0ф7(Э^ = D [X, V = l D оо = 2 адм*)вФ(*) ► Формула (7) позволяет вычислять кернфункцию простейших областей. Приведем несколько примеров. 1) П о л и к р у г (/ = {геСл: || г || < 1}. Полной ортонормаль- ной системой здесь будет, например, система нормированных мономов фЛ (г) = Xkzk> wJfessfo, ... , kn)t /jv^O и коэффициенты Я^>0 выбираются из условия (ФА. ФА)-** j ****<1V-1 Вводя в каждой плоскости zv полярные координаты (гу = as= pv^ v, находим из этого условия /г 1 а V=l 0 V=l или п Полнота системы ф^ следует из того, что ряд по ней—это ряд Тейлора, а им представляются все функции / е 0 (U); ортогональность ее очевидна По формуле (7) получаем, следовательно п
3G2 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V; Полагая 2vSv=s^vt замечаем, что v=l а так как у нас |я|<1, то можно переменить порядок дифферент цирования и суммирования ряда, и мы получим ы n-±A__L х * * <2*« - яя а* 1 -* " я« (i-*)a или в подробной записи 2) Шар Б = {геС'1: |г|<1}. Полной ортонормальной системой опять будет система мономов К^гк9 но условия нормировки дадут для вычисления интеграла по В надо ввести полярные координаты (в Ra"). По формуле (7) получим оо Теперь заметим, что внутренняя сумма l*|=*|i \v=l / и что 2 (|*+1)...(|*+я)^- дп 1 #« i_* (1—q«+i для всех *, |?| < 1. Так как у нас *= 2 *v£v по модулю меньше V=l 1, то n! (10J ) п \л+1в
§ 18] ИНВАРИАНТНЫЕ МЕТРИКИ 303 Замечание. Из формулы (9) видно, что кернфункция поликруга является произведением кернфункций кругов {|zv|<l}, которые равны—— =12"• Можно доказать, что и вообще кернфункция произведения областей £>с=Ст(г), GczGn(w) равна произведению кернфункций этих областей1): kDxG (*• w'> С» ©) =skD (Z* 0 Ьо (да' <°>- О1) Определение 1. Функцией Бергмана области D с С" называется **(*)-ы*. *)-2 i<m*)I2- (12) ц = 1 В областях ограниченного вида эта функция положительна, ибо, согласно (4), она является обратной величиной inf [| ф ||Ь в классе функций ф е U@ (D), нормированных условием ф(г)= 1. Теорема 3. Дифференциальная форма ддык= 2 £Й^Л^, (13) где К = Ко (г) — функция Бергмана области D, инвариантна при биголоморфных отображениях этой области. А Пусть /: D -+> G = / (D) — биголоморфное отображение. Если %t е L^ (G) — ортонормальная система в G, то фд = = ij)iAojp.//, где // — якобиан отображения /, —такая же система в D. В самом деле, так как элемент объема образа D D G Система {ф^} полна вместе с {%}, ибо любую фе^р) можно представить в виде Ф = Ч?°/• *^f> гДе $e^<b(G), и ОО 00 тогда из разложения \|> = 2 а А МЬ1 найДем Ф = 2 аиФи- х) См. Б. А Фукс, Специальные главы теории аналитических функций многих комплексных переменных, Физматгиз, М., 1963, стр. 91.
304 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Таким образом, по теореме 2 оо со KD(z)=Z 1<Мг)1*=2 UWWLVf(*)!■=■ = Ko'f(z)-\Jf{z)\\ Логарифмируя это тождество, мы находим lnKQ(w) = lnKD(z)-lnJf(z)-\nJf(z), где w = f(z), и остается лишь учесть, что d\nJf = dlnJf =* = 0 в силу голоморфности // ► Соответствующая (13) билинейная форма п п ds2==: 2 WWv^^^ 2 Savdz[id2v (14) [Л, v = l ц, v = l называется бергмановой формой области D. Теорема 4. В ограниченных областях Dc(Cft бергма- нова форма является эрмитовой и положительно определенной. -4 Эрмитовость формы, т. е. выполнение равенств gv[i = = gW, следует прямо из (14), если-учесть, что/ОО. Для доказательства ее положительной определенности мы фиксируем точку z°^D\ проведем через нее комплексную прямую /: г = г°+ <*>£, где со^С", ^еС, и заметим, что по правилу дифференцирования сложных функций для сужения К°1 мы имеем д2 In К • / п Кд1 a2 in к .С-0 il^tl^lldzv .-- I GyDv. Z = 2o Нам нужно, следовательно, доказать, что величина слева положительна при любом со ^ Сл, со Ф 0. Прямой подсчет, основанный на формуле (12), дает d2 In К ° /1 где справа для простоты письма обозначены qv = qv(2°), Фм, = ^фц°/|£-о и суммирование ведется по \х от 1 до оо.
§ 181 ИНВАРИАНТНЫЕ МЕТРИКИ 305 Рассмотрим Ф = (фь ..., qv, ...) и Ф' = (ф[, ..., фд, ...) как точки гильбертова пространства последовательностей /2. Тогда (15) можно переписать в виде ,0=Щ?И1фПфТ-Кф' Ф'Ш. где (Ф, Ф') — скалярное произведение в Z2, и по неравенству Буняковского —Шварца величина в фигурных скобках неотрицательна. Она обращается в нуль лишь в случае, когда Ф = ЯФ' для некоторого ^еС, причем, так как у нас |Ф|2 = /С(г°) ^0, то %Ф$. В этом случае для любой функции <p&Lfe(D) имеем 00 оо п В частности, для функции ф(г) = 2 ®v(zv — 4), гагауз рая принадлежит Lfc(D) в силу ограниченности области D, имеем ф°/ = |со|2£ и последнее соотношение дает 0 =* = А,|со|2, что невозможно при со^О ► Замечание. Теорема 4 распространяется на те неограниченные области D с ©Л, для которых Ufa (D) содержит все линейные функции. Положительная определенность бергмановой формы означает строгую плюрисубгармоничность функции In/С (п. 32). Так как отсюда следует и плюрисубгармоничность /С, то из теоремы 4 п. 33 вытекает Теорема 5. Если область D с С* такова, что ее функция Бергмана Kd неограниченно возрастает при приближении к границе, то D —область голоморфности. Определение 2. Эрмитова метрика, определяемая в области D с Сл фундаментальной формой (14), называется метрикой Бергмана. По теореме 3 эта метрика инвариантна при биголоморф- ных отображениях: если &/>(z, w) — расстояние в этой метрике между точками г.шеСи f: D-*»G = f(D)--биго- ломорфное отображение,, то Ы*. w) = bQ{f(z)f f(w))9 (16) где 60 — расстояние в метрике Бергмана области G. Чп /с о / 0СЗ£
306 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Пример Для поликруга U = {| г || < 1} с: С* по формуле (9) метрика Бергмана определяется формой п ds2 = 2 У dZvd?v (17) v = l а для шара Я = {| 2 | < 1} с Сл по формуле (10) i=w+ 2 тЬтЫ' <18) я где | dz |2= 2 I ^2v I2- При n= 1 обе метрики совпадают в метрикой v=l Лобачевского в единичном круге (см. п. 11 ч. I). Отметим формулу для расстояния от начала координат в метрике Бергмана для единичного шара В с Сп: Ьв(0, г)-КйЛ1п1±1||. (19) Она получится, если принять (без ограничения общности), что 2 = = С 0» zn) и проинтегрировать (18) вдоль прямолинейного отрезка Укажем, наконец, формулу для расстояния в метрике Бергмана единичного поликруга (/сСл от 0 до точки г=(|г1|, ..., \гп\) с неотрицательными координатами (это не ограничивает общности). Можно доказать, что геодезическая, соединяющая точки 0 и 2, есть путь у: [0, 1] -» Uу проекция точек которого на плоскость 2V (v=l, ... ... , п) движется с постоянной скоростью vv (в метрике Лобачевского) по геодезической в этой плоскости, т. е. отрезку оси xv: h^1:-^ 2dx* l-xv(0 "*• \"v I-|2V (-"el Отсюда находим __ a = vv dt и по формуле (17) получаем 1 л^ [t) >««*-"Wiv% dx- *< v = l -JLl/y i„.l+Lfvi r v = l (20) 51. Метрика Каратеодорн. В ограниченных областях С", а также на некоторых комплексных многообразиях можно ввести еще и другую метрику, инвариантную при
§ 18) ИНВАРИАНТНЫЕ МЕТРИКИ 307 биголоморфных отображениях. Для этого рассмотрим совокупность 0 (M,U) голоморфных отображений комплексного многообразия М в единичный круг (/сСи примем следующее Ojiределение. Расстоянием Каратеодори между точками р, q&M называется См(Р* <7)= sup р(ф(р), ф(<7)), (1) где р —расстояние Лобачевского в единичном круге; для точек г, w ^U оно равно o(z w) = ln]l-Wzl+lz-wl (2) (см. п. И ч. I). Теорема I. На любом комплексном многообразии М функция См определена и является полу метрикой, т. е. она неотрицательна, удовлетворяет условию симметричности см(р, q)=cM(q, р) и аксиоме треугольника см(р, q) ^ *^см(р, r) + cM(r, q). 4 Докажем прежде всего, что для любых р, q^M верхняя грань (1) конечна. По определению существует последовательность ф^е^(М, U) такая, что р(ц>11(р)9 Ф^С?)) -*см (Р» ?)» причем без ограничения общности можно принять ф^(^) = 0 для всех |л (дополнительным автоморфизмом круга перевести ^(q) в 0). Тогда р(ф^>.о>=ь}±[^. (3) Так как функции ф^ ограничены, то по теореме Монтеля (см. п. 38 ч. I; доказательство теоремы без труда распространяется на многообразия) найдется подпоследовательность ф^-^феЕ^М, U) равномерно на компактных подмножествах М. Если ф = const, то ф ss 0, ибо q^ (q) == 0, и тогда утверждение тривиально. Если ф Ф const» то по принципу максимума найдется точка р'&М такая, что |ф(р)1<|ф(Р')1<1- Но Т0ГАа |ф(Р)1<1 и из (3) видно, что опять См(р, q)<Coo. Таким образом, функция см определена на любом комплексном многообразии. Далее, неотрицательность и симметричность вм очевидны, а для доказательства неравенства треугольника мы возьмем построенную выше функцию фе<^(ДО, (/),
308 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V для которой см (р, q) = р (q> (р), ф (q)). По определению метрики Каратеодори имеем см(р, ^)^р(ф(р), ф(0) и См(г> <7)^Р (фМ» ф(<7))» а по неравенству треугольника для метрики Лобачевского Р(Ф(Р), Ф(?))<Р(Ф(Р), Ф(0)+Р(ФМ. Ф(?)) ► В общем случае См является лишь полуметрикой, ибо см (ру q) может обращаться в нуль и при p^q. Так, например, будет, если М = ©" или Ся\#, где N— комплексное многообразие (здесь любое голоморфное отображение ф: M-^U постоянно по теореме Лиувилля и теореме об устранении особенностей ограниченных голоморфных функций). То же будет и для всех компактных комплексных многообразий (по принципу максимума). Для того чтобы полуметрика Каратеодори см была метрикой, т. е. см(р, <7) = 0 лишь при p = q, очевидно, необходимо и достаточно, чтобы ограниченные голоморфные на М функции разделяли точки М (т. е. для любых различных точек р, q е М существовала ограниченная голоморфная на М функция ф такая, что Ф(р) 9^ ф(#)). Пример. В шаре В = {\ г | < 1} с Сп расстояние св(°> г) = 1птн7( (4) с точностью до множителя совпадает 6 расстоянием в метрике Берг* мана (см предыдущий пункт). В поликруге 1/ = {||г|| < 1} с: £> рав« стояние Каратеодори ^ сцф, г) = шах1п|^{ (5) (v=l, ..., п) отличается от расстояния Бергмана. Из этого примера видно также, что метрика Каратеодори, вообще говоря, не является гладкой, как бергманова. Формулы (4) и (5) легко доказать при помощи леммы Шварца для С-однородных метрик (теорема 3 п. 9). Теорема2 (свойство сжимаемости). Голоморфные отображения f: M-+N не увеличивают метрики Каратеодори: cN(f(p), f(q)XcM{p, q) (6) для любых точек р, q^M. 4 Пусть i|)e<^(Af, U) такова, что cN(f(p), f (q)) = = Р(Ф°/(р}> Ф°/(<7)) (ее существование доказано при
§ 18] ИНВАРИАНТНЫЕ МЕТРИКИ 30) доказательстве теоремы 1). Тогда г|)°/ е © {N[, £/), а так как в 0{М9 V) есть и другие функции, то см (р, q) ^ ^Р«"/(Р). Ч>-Ш) ► Эта теорема обобщает так называемую лемму Шварца в инвариантной формулировке, которая читается так: Голоморфное отображение f: U->U единичного круга в себя не увеличивает расстояния Лобачевского: р({(г)9 f(w))^p(z9 w). (7) Если w = / (до) = 0, то (7) сводится к обычной лемме Шварца: ln|±m|<Ini±j||f или |/(г)|<И. Отметим простые следствия теоремы 2. Следствие 1. Метрика Каратеодори инвариантна относительно биголоморфных отображений f. < Достаточно применить теорему 2 к отображениям / и /-1 ► Следствие 2. Если М и N — комплексные многообразия и М czN, то для всех точек p,q е М Cn(P, q)<*cM{p* q). (8) 4 Достаточно применить теорему 2 к отображению вложения i: M-+N, которое каждой точке р^М сопоставляет ту же точку р ^N ► Замечание. В предыдущем пункте мы убедились в том, что метрика Бергмана также инвариантна при биголоморфных отображениях. Однако в отличие от метрики Каратеодори она не обладает свойством сжимаемости при голоморфных отображениях. В самом деле рассмотрим голоморфное отображение /: (гь z2)->(2lf zi) бикруга U cz С2 в себя. По формуле (20) предыдущего пункта для 2 = (гь 0) имеем UK } V2 l-|*il М0,Ж) = 1п{±Щ>М0, *)• Отметим в заключение, что метрику Каратеодори, как и бергманову, можно определить локально. Для этого
310 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V фиксируем точку реМ, касательный вектор v^Tp(M) (п. 23) и определим величину Ф(р, tO = 2sup|0(q>)|f (9) где верхняя грань берется по множеству 0р(М, U) = = {ф£^(М, U): ф (р) = 0}. Далее длину Каратеодори кусочно-гладкого пути у: /->М определим интегралом 1т1с = $Ф(7(0. V'(t))dt, (10) о а расстояние "см (р, 9) как нижнюю грань длин Каратеодори всех кусочно-гладких путей на М из р в q. Легко понять, что это определение эквивалентно предыдущему. В самом деле, по прежнему определению См(Р, Q)= sup In | + | l{^ а если точка q близка к p, то | ф (q)\ мал и с точностью до малых высших порядков см(р, q)^^2sup\cp (q)\. Если считать, что точка q приближается к р в направлении касательного вектора у, то дифференциал длины Каратеодори в этом направлении ds (v) = 2 sup q>Z0p{M, U) dt, а это равносильно (9), ибо у(ф)=^(см. и. 23). 52. Метрика Кобаяси. Сравнительно недавно С. Коба- яси предложил видоизменение метрики Каратеодори, имеющее ряд преимуществ. В основе определения Кобаяси лежит не 0(М, £/), а множество 0(U\ М) голоморфных отображений единичного круга U в многообразие М. (Заметим, что уже в этой замене есть преимущество: например, если М — компактное многообразие, то по принципу максимума на нем все голоморфные функции постоянны, т. е. 0(М, U) состоит из констант, в то время как 0 (6/, М) содержит и непостоянные отображения.) Здесь мы изложим основные результаты Кобаяси.
§ 18J ИНВАРИАНТНЫЕ МЕТРИКИ 311 Фиксируем точки р, q е М и назовем цепью на М из р в 7 набор а, состоящий из m голоморфных кривых /;' е ^ ([/, Л1) и m nap точек гу, Шу е (/ (/ = 1, ... , т) таких, что f1 (гг) = р, /m (wm) = q к ff (w{) = />+1 (z;+1) для / = 1, ... , m — 1 (рис. 45). Определение. Расстоянием Кобаяси между точками р, q <= М называется км (р, q) = т = inf 2]р(*л ^/)> (!) где р —расстояние Лобачевского в единичном круге и нижняя грань бе- Рис. 45. рется по всем цепям о = = {р\ Zj, Wj}^ на М из р в q (с любым числом звеньев т). Теорема 1. Яа любом комплексном многообразии М расстояние Кобаяси км обладает свойствами полуметрики. <4 Неотрицательность км очевидна. Для доказательства свойства симметричности км(р, q) = kM(q, р) достаточно наряду с цепью о рассмотреть цепь, которая получается из нее заменой /на т -+-1 — / и zf на wf. Для доказательства неравенства треугольника км(р, q)^kM(p, r) + kM(r, q) достаточно вместе с цепями а' из р в г и а" из г в q рассмотреть их объединение а —цепь из р в q: 2p(2/.aV)e2p(*/.av) + 2p(2y, wlh G Oe О" a так как существуют и другие цепи из р в q, то км (р» я) не превосходит суммы нижних граней по цепям а' и о" + Теорема 2. Голоморфные отображения f: M-&N не увеличивают расстояния Кобаяси: kN(f(p), f(q))*^kM(p, q). (2) 4 Для любой голоморфной кривой 9sW, М) можно рассмотреть кривую f°y^0(U% N), но в <0{UfN\
312 | НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ V есть и другие кривые. Поэтому нижняя грань в левой части (2) не превосходит нижней грани в правой части ^ Как и в предыдущем пункте, отсюда вытекают Следствие 1. Метрика Кобаяси инвариантна при биголоморфных отображениях. Следствие 2. Если М и N —комплексные многообразия и MaN, то &w(p, <7)=^&м(р, q). Для единичного круга метрика Кобаяси, как и другие рассмотренные нами метрики, совпадает с метрикой Лобачевского. Следующие две теоремы подтверждают сделанное выше высказывание о преимуществах метрики Кобаяси. Первая из них утверждает, что расстояние Кобаяси на многообразии М —наибольшее из тех, которые не увеличиваются при голоморфных отображениях единичного круга [/ вМ. Теорема 3. Если d — полуметрика на М такая, что d(f(z), /(a>))<;p(2, w) для всех голоморфных отображений f: U-^M, то d(p, <7)^&л*(р, q) для всех р, q^M. <4 Пусть <т = {/', Zy, Wj}*?! — произвольная цепь на М из р в q. В силу неравенства треугольника для d имеем т d(p, q)<z2±d<p(z,),f'(wf)); /=i f не увеличивают расстояний, так что dif1 (zj), f*(wj))^ ^р(г;-, w/) для /=1, ..., m. Остается справа взять нижнюю грань по всем цепям на М из р в q ^ Аналогично доказывается, что расстояние Каратеодори см — наименьшее из тех, которые не увеличиваются при голоморфных отображениях М в U. Теорема 4. На любом комплексном многообразии М расстояние Каратеодори не превосходит расстояния Кобаяси: см(р, q)^kM(p, q). (3) <4 Фиксируем точки р, q^M, цепь o = {fJ, zh wf}m^x и голоморфное отображение <р многообразия М в единичный круг U. По лемме Шварца в инвариантной формулировке (см. предыдущий пункт) mm —
§ 18] ИНВАРИАНТНЫЕ МЕТРИКИ 313 (мы воспользовались еще неравенством треугольника для метрики Лобачевского и тем, что /1(г1)=р, fm{wm) = q). Остается взять справа верхнюю грань по ф, а слева- нижнюю грань по <т ►. X. Ройден предложил следующее локальное определение метрики Кобаяси. Фиксируем точку р комплексного многообразия М, касательный вектор v^Tp(M) и рассмотрим всевозможные голоморфные отображения / круга Ur = {| z | </?} в многообразие М, нормированные условиями /(0) = р, /'(0) = а. Через Ф мы обозначим обратную величину верхней грани радиусов кругов, для которых такие отображения существуют: Ф(/?' y)=sup{/? : 3fe=0(UR, М), f (0>—P. f'(0)=v} • (4) При помощи функции Ф стандартным образом определяется расстояние: йфф, q)='mt $Ф(Т(0. y'(t))dt, (5) о где нижняя грань берется по всем кусочно-гладким путям у • [0,1]->М, у(0) = р, y(l) = q. Ройден доказал1), что для любого комплексного многообразия М эта полуметрика совпадает с полуметрикой Кобаяси: dq> (р, q) = = kM(p, q). Комплексное многообразие М называется гиперболическим2), если для него полуметрика Кобаяси км является метрикой, т. е. км (р, q)^0 при p^q. Согласно теореме 4 класс гиперболических многообразий шире, чем класс многообразий с нетривиальной метрикой Кара- теодори. В следующем параграфе мы рассмотрим основные свойства таких многообразий. х) Н. L. Roy den, Remarks on the Kobayashi metric, International Mathematical Conference (Mariland), Springer-Verlag, 1971. 2) Это название навеяно теорией римановых поверхностей, в которой гиперболическими называются поверхности, биголоморфно эквивалентные единичному кругу, а поверхности, биголоморфно эквивалентные комплексной плоскости— параболическими. На гиперболических поверхностях инвариантная метрика вводится при помощи метрики Лобачевского и она нетривиальна.
НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V § 19, Гиперболические многообразия 53. Признаки гиперболичности. Рассмотрим связь метрик Кобаяси на многообразии и его накрытии. Лемма 1. Пусть М — комплексное многообразие и п: М -> М — его голоморфное накрытие*); тогда для любых точек км(р, ?) = infftft (р, q)t (1) где при любой фиксированной р е я-1 (р) нижняя грань берется по всем q^n-x(q). 4 Так как проекция л — голоморфное отображение, то по свойству сжимаемости (теорема 2 предыдущего пункта) kM (р, q)^inlkfa (р, q). Пусть, от противного, существует е>0 такое, что kM (P. q) + e<inlkM(p, q). (2) Тогда найдется цепь о={/', zfy Wj}^ на М из р в q такая, что т . 2 р(*;., Wj)<kM{p> q) + B. (3) Обозначим через ff: U-+M поднятия2) кривых /': U->M на накрытие М такие, что f1(2i)=p, где р— фиксированная точка, и /;+1 (г/+1) = /;* (до;), / = 1, ..., т— 1. Тогда ^/"(a/mjsr1^) и a = {/Vz/, wy}jLi —цепь на Af из р в q. По определению метрики Кобаяси и неравенству (3) т *д(Р» <7)^1>(2/' Щ)<км(р, q) + e, что противоречит (2) ^ х) Это означает, что УЙ —также комплексное многообразие и я—голоморфное отображение (см. гл. II). 2) Это означает, что я°/5=//—см. гл. II. Так же как в п. 17, доказывается, что поднятие р кривой fJ существует и однозначно определяется заданием одной точки р\
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 315 Пример. Метрика Лобачевского в верхней полуплоскости Я = (г=^бС: #>0} задается формой ds2H=*-?-^ (см п. 11 ч. I), а Н накрывает проколотый единичный крур U* = {0 < | £ | < 1} с проекцией £ = я (z)=e27tiz. Подставляя йг^=-^—Ф и 0 = 9~~ 1п1М> мы по лемме 1 находим метрику Кобаяси проколотого круга: *Ь.-—££г. (4) Отметим, что в этой метрике длина окружности {[£[=/•} равна 2я/1п— и стремится к нулю при г-^-О. Теорема 1. Комплексное многообразие М гиперболично тогда и только тогда, когда гиперболично его голоморфное накрытие М. <4 а),Пусть М гиперболично и км (р, q) = 0. По лемме, тогда и км(п(р)> n(q)) = 0, и в силу гиперболичности п (р) = л (#); обозначим эту точку через р. Пусть В = {р'еЛ1: км{р\ Р)<е} и 5 —столь малая окрестность р, что отображение л: В-+В биголоморфно1). Возьмем цепь а = {pr zh Wfj'JLi на М из р в q такую, что 2 Р (2/, Щ) < в (5) (у нас кЛ (р, ?) = 0). Построим в круге U геодезические дуги Лобачевского ZjWj и рассмотрим путь у == (f102^)» •••» fm(zmWm)) на At, а также его проекцию у = л<»7 на М. Так как отображения л»/7: f/->M —сжимающие, то км -длина дуги n°p(ZjWj) не превосходит р(г,-, wj), а значит, в силу (5) fe^-длина пути у меньше е. Так как начало пути у совпадает с р, то отсюда следует, что у сВ. Но начало р пути у принадлежит В, а л: В->В— биголоморфное отображение, следовательно, у с В. Конец х) Здесь мы пользуемся тем, что метрика Кобаяси индуцирует топологию М (см. задачу 12 в конце главы).
316 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ V q пути v проектируется в р, а в В есть лишь одна точка с такой проекцией—точка р. Значит, q = p — мы доказали, что й^—метрика, т. е. что М гиперболично. б) Пусть М гиперболично и £м(р, 9) = 0. Возьмем р ^ л-1 (р); тогда по лемме найдется последовательность qv^n-1(q) такая, что k^{qVt р)->0. В силу гиперболичности qv->P, а значит, n(^v)->p. Но n(^v) = ^» сле" довательно, q = p и М гиперболично &► Примеры. 1) Рассмотрим сферу С с выколотыми /? различ-» ными точками Dp = C\{zlt ..., гр). Ее универсальная накрывающая при р=1 и 2 конформно эквивалентна плоскости С, а при р> 2—единичному кругу U (см, п 18). По теореме 1 отсюда следует, что Dp гиперболична в том и только том случае, когда р > 2. Заметим, что метрика Каратеодори в Dp тривиальна при всех р, ибо любое голоморфное отображение f: Dp-+U постоянно по теореме об устранимости особенностей ограниченных функций и теореме Лиувилля. 2) Пусть в СР2 заданы четыре комплексные прямые // (/ = 1 4) в общем положении, а = /1 f| /2 и b = l3 П Ц — точки пересечения, а /0—комплексная прямая, проходящая через а и Ь. Многообразие 4 М=СР2\ U If гилерболичног). В самом деле, без ограничения общности можно считать /0 4 бесконечной прямой, так что СР2\ t0 = С2 и М=С2\ U I/ Тан /=1 как а, 6е /0, т. е. являются бесконечными точками, то 1г параллельна /2, а /3 параллельна /4 (в С2), а так как прямые в общем положении, то 1г не параллельна /3. Поэтому можно считать, что наши прямые в С2 задаются соответственно уравнениями 2Х = 0, 2Х=1 и г2 = 0, г2=1. Но тогда М является произведением двух экземпляров гиперболического многообразия С\{0, 1}=С\{0, 1,оо}, и, значит, гиперболично. Последнее утверждение следует из легко доказывав 1) П. Кирнан недавно получил такой результат: многообразие М = СРЛ\ U Ни где Я/—комплексные гиперплоскости в общем /=1 положении, гиперболично (см. P. Kiernan, Hyperbolically imbed-» ded spaces and the big Picard theoreuij Math. Ann, 204: 3(1973), 203-209).
§ 19] ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 317 емого неравенства: если Мг и М2 —- комплексные многообразия, а рь qx е Мх и р2, q2 е Af2, то max (kMt (ри qj, kM% (р2, qj) ^ *^*м,х Afe ((^' Л)» fa' l2))^kMt(plt q!)+kM2(p2, q2). (6) Следующие результаты получены П. Кирнаном. Пусть Л1 — комплексное многообразие, точка р^М и г=(гх, ... , zn), г(р) = 0, — локальные координаты на М в окрестности р, а Вг = {// <= М : | z (р') | < г}, В1 = В\ пусть еще £/б={|£|<6}, U1 = U — круги на С. Лемма 2. £Ъш существуют числа г и б такие, что для всех голоморфных отображений f:U-+M из условия f (0) е 5Г следует f (Ut) czB, то для всех q е М\В расстояние Кобаяси км(р, ?)>0. 4 Пусть q^M\B и а={/|/, Zy, йУ/}^— цепь на Af из р в ^ выполняя дополнительные движения Лобачевского в 0, можно считать, что все г/ = 0. Нам^ нужно т доказать, что для всех таких цепей длины | а | = ^ р (0, а;/) /=1 ограничены снизу положительной постоянной. Если в цепи а найдется точка Wj^kUt/29 то |o|^p(0f -jjX)* следовательно, достаточно рассмотреть цепи, для которых все Ш/Е1/б/2. Обозначим pj = fJ(wj) = *=//+!(()); найдется число /, 1^/^т, такое, что plf... ..., p/.i е 5Г, ар^ 5Г. Так как f (0) = рг_х е 5Г, а ауг е е (/б, то по условию леммы /* (ш/) = р/е 5, следовательно, ; р/ еВ\ВГ. Выберем постоянную Х>0 так, что для всех £ е f/e/2 расстояние Лобачевского р^/ (0, Q ^ ^Яр^в(0, С). Так как /', 1^/^/, голоморфно отображают [/j в В, то по свойству сжимаемости метрики Кобаяси и неравенству треугольника т i ^ я 2 ** (Р/-1, р/) ^ ив (р, pf). "В силу того, что kB — метрика, а pl е В^ВГ, величина справа оценивается снизу положительной постоянной, не зависящей от цепи ►
318 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Пусть по-прежнему 0{U9 М) — семейство голоморфных отображений единичного круга U в комплексное многообразие М. Теорема 2. Если в некоторой метрике d, индуцирующей топологию М, семейство © (U\ М) равностепенно непрерывно, то М—гиперболическое многообразие. Обратно, если М—гиперболическое многообразие, то 0(U, М) равностепенно непрерывно в метрике Кобаяси kM- <4 Пусть 0(U, М) равностепенно непрерывно в метрике d и В%(р) = {р' gM: d(/?',. р)<е}. Для любой точки q^M, отличной от р, мы возьмем локальные координаты г с центром р, как в лемме 2 (так что цфВ), и выберем е">0, чтобы Б^8(р)с=Б. В силу равностепенной непрерывности найдется 6>0 такое, что для любого f^L@(U> М), для которого /(0)EBgrf(p), непременно f (U&) а В$е (р) с В. Если еще взять г > 0 так, чтобы Вг с= аВ%(р), то будет удовлетворяться условие леммы 2 и, следовательно, dM(p, q)>0- Мы доказали, что М гиперболично. Второе утверждение теоремы следует из того, что голоморфные отображения не увеличивают метрику Кобаяси ► Комплексные многообразия М, для которых семейство @(и> М) равностепенно непрерывно в некоторой метрике, индуцирующей топологию, в литературе называются тугими (tight). Мы будем говорить, что комплексное многообразие М обладает свойством Монтеля, если семейство <£?(£/, М) нормально, т. е. из любой последовательности /ve^((/, М) можно извлечь подпоследовательность /v/, либо равномерно сходящуюся на компактных подмножествах [/, либо компактно расходящуюся (последнее означает, что для любых компактов К с= U и /С' с= М найдется /0 такое, что fv/ (/Q ПК! = ф для всех /^/о). В литературе многообразия, обладающие этим свойством, называются упругими (taut). Теорема 3. Если многообразие М обладает свойством Монтеля, то оно гиперболично. ^ Если М не гиперболично, то найдутся различные точки р, q^M такие, что kM(p* ?)' = 0. Воспользуемся леммой 2, в которой примем г = -^ и о = —; по этой лемме для любого натурального v найдется отображение
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 319 /v<ee0(£/, М) такое, что /v(0) e=J3i/2, a /v((/i/v) <£S. Из последовательности {/v}, очевидно, нельзя извлечь ни подпоследовательности, равномерно сходящейся на компактных подмножествах (/, ни компактно расходящейся последовательности. Таким образом, М не обладает свойством Монтеля ^ Обратное утверждение несправедливо. Это следует из теоремы, для формулировки _которой надо ввести Определение. Пусть U = {\£,\^ 1} — замкнутый круг и Аг = {г^\ г |^ 1}— кольцо в нем. Рассмотрим произвольную последовательность {/v} голоморфных отображений U в комплексное многообразие М и через Г\л обозначим сужение /v на кольцо Аг для некоторого г< 1. Будем говорить, что М удовлетворяет условию дисков, если из того, что Г\аг сходится равномерно в Аг к отображению /е^(Лг, М) следует, что /v равномерно сходится в (7 к некоторому отображению /е^(£7, М). Условие дисков является одной из форм комплексной выпуклости; из него вытекает псевдовыпуклость многообразий (это обобщение принципа непрерывности из п. 30). Теорема 4. Если комплексное многообразие М обладает свойством Монтеля, то оно удовлетворяет условию дисков. ' _ <4 Возьмем единичный круг £/, кольцо Аг в нем и произвольную последовательность /v ^ & (U, М) такую, что сужение /VU -+f*=0(A„ М). Так как О F (Аг)— компактное подмножество М, то из последовательности {fv\A } нельзя извлечь компактно расходящейся последовательности. Но тогда по свойству Монтеля из нее можно извлечь^ подпоследовательность, равномерно сходящуюся на U к отображению f^0(U, At). Так как f \аг=! (ибо на Аг вся последовательность сходится к /), то по теореме единственности / не зависит от выбора подпоследовательности. Но отсюда следует, что и вся последовательность /v->f в U, — условие дисков выполняется ^ Пример. Ограниченная область в Сл, не являющаяся областью голоморфности, является гиперболическим многообразием, но условию дисков не удовлетворяет, а значит, и не обладает свойством Мон геля —теорема, обратная к теореме 3, неверна.
320 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Назовем гиперболическое многообразие М полным гиперболическим, если на нем любое ограниченное в метрике Кобаяси ftM множество является компактным. Для таких многообразий теорема, обратная к теореме 3, справедлива. Теорема 5. Полное гиперболическое многообразие М обладает свойством Монтеля. ^ Так как М гиперболично, то по теореме 2 семейство 0 (Uy М) равностепенно непрерывно в метрике kM. Пусть из последовательности f ^.© (£/, М) нельзя выделить компактно расходящейся последовательности. Тогда найдутся множества К^ши, /Со SМ и подпоследовательность {/v} (которую мы снова обозначим {/v}) так, что /v (Ко) П Ко Ф Ф для всех v. Поэтому найдется последовательность £ve/e0 такая, что jfv(£v)^/Co Для всех v- Пусть К — произвольный компакт из U\ докажем, что существует ограниченное в метрике Кобаяси множество /(", содержащее все fv(K)- Без ограничения общности считаем, что /Сгэ/Со; в силу свойства сжимаемости найдется число R1 такое, что Лл (/*(£). /v(£o))^#i для всех £е е/С, £о ^ /Со и всех v. С другой стороны, для любой фиксированной точки р &М существует число R2 такое, что kM(p, p0)^R2 Для всех pQ^Ko- Тогда для всех £ ё К и всех v. Таким образом, в качестве К! можно взять шар Кобаяси с центром р и радиусом Rx + R2. Мы доказали, что последовательность {/v} не только равностепенно непрерывна, но и равномерно ограничена в метрике kM- Так как по условию любое ограниченное в этой метрике множество компактно, то отсюда точно так, как при доказательстве теоремы Монтеля в п. 38 ч. I, заключаем, что из .{/^} можно "извлечь подпоследовательность, равномерно сходящуюся на компактных подмножествах U. Мы доказали, что семейство © ((/, М) нормально, т. е. М обладает свойством Монтеля ► Объединением теорем 4 и 5 получается Теорема 6. Любое полное гиперболическое многообразие удовлетворяет условию дисков. В частности, любая область в Сл, которая является полным гиперболическим многообразием, является и областью голоморфности.
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 321 В заключение приведем условие гиперболичности многообразия, выраженное в терминах кривизны. Для его формулировки нам понадобится несколько определений. Эрмитовой формой на комплексном многообразии М называется заданная в слоях касательного расслоения Т(М)= U Тр(М) R-билинейная форма hp:TpxTp-*$ р&м со свойствами hp(v, u) = hp(uy v) и hpJiu, v) = ihp(u, v), причем для любых гладких векторных"полей и(р) и v(p) на М величина hp(u, v) — гладкая функция от р. Локально такая форма представляется в виде hp(u, v)=^hfk(p)dzf(u)dzk(v), hfk = h^t^j=hk/. (7) /, k Если положить h — g + if, где g и / — действительные формы, то будем иметь g(v, u)=g(u, v) и f(v, и) = = —f (и, v), т. е. форма g=ReA симметрична, af=lmh антисимметрична. Эрмитова форма h называется положительной, если такова форма g = Re/r, эквивалентное условие—форма h(u, u)=g(u, и) —является положительно определенной квадратичной формой. Положительная эрмитова форма называется эрмитовой метрикой, а многообразие, наделенное такой метрикой, —эрмитовым многообразием. Соответствующую (7) дифференциальную форму бисте- пени (1,1) мы будем обозначать hP = i2ihfk{p)dz^d2k (8) — множитель у введен для того, чтобы форма была действительной1). Если форма hp замкнута (dhp = 0), то эрмитова метрика hp называется келеровой. В дальнейшем мы будем также обозначать эрмитову метрику через ds2,' а соответствующую дифференциальную форму через со. 1) В самом деле, hfkdzf Д dzk+hkfdzk f\dZf=hjkdZj /\dzk — — hjkdzf Д dzk при / ф k чисто мнимо, равно как и hjjdzf Л dz/> поэтому сумма в 8) чисто мнимая. Нетрудно видеть, что условие гладкости hp согласуется с правилом преобразования формы hp при замене координат. . . 11 Б4 В, Шабат, ч. II
322 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Примеры. 1) Метрика Бергмана в областях Сл ограниченного вида келерова, ибо эрмитова форма rfs2= У л л- dzAzk положительно определена, а соответствующая дифференциальная форма со =7 -удд \пК замкнута. 2) Стандартная метрика в СРЛ вводится так. В областях Uj = = {[г0, ..., гп] е €>Рп: 2/^:0} с локальными координатами Ц = = т~ ^ = 0' "^"^ ^РУ1051 Функции Р/= У Ц £> = J^-L мы счи- таем £/ = 1 и |г|2 = Л |г/г|2]; в пересечениях Uf(]Uk имеем р/ = __ fe = o / = Р/г?£Ц и, следовательно, dd In p/ = ddln pk- Таким образом, глобально определена дифференциальная форма (индекс / опущен, суммирование ведется по k от 0 до п с учетом того, что I/ = I в £//). В однородных координатах эта форма имеет вид (п п п п Л а соответствующая эрмитова форма ^-—^{(г, *)(<**, d2)-(d2, г) (г, dz)}, (11) где круглые скобки обозначают эрмитово скалярное произведение. По неравенству Буняковского —Шварца форма (11) положительно определена, а в силу (9) <2со = 0, так что метрика келерова. Она называется метрикой Фубини—Штуди. При п—1 формула (9) имеет вид n—L(*кАЗ_ №Л№\_ jl ^е л ^е 2 U + ISI2 (1 + |£|2)2У 2 0 + 1Ш2' т. е. ds2 = - ' Л,2ч2 совпадает со сферической метрикой в CP1 = (D. Таким образом, метрика Фубини — Штуди является обобщением сфе-> рической (см. задачу 2 к гл. I). Расстояние между точками эрмитова многообразия М вводится обычным образом. Длина кусочно-гладкого
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 323 пути у: /->М, где / — отрезок [0, 1], определяется по формуле \У\ = \У*ЧИ>М, Уд dt, (12) О а расстояние d(p, q) — как нижняя грань длин кусочно- гладких путей на М, соединяющих точки р и q. Так как h(y\ y')=sg(y'y у')у то это расстояние совпадает с римановым, определенным метрикой g= Reh. Пусть дано эрмитово многообразие М и голоморфная кривая y:U->M, где U= {| £| </?} — круг на комплексной плоскости. Пусть t0 ^ U — некритическая точка у и z — z(p) — локальные координаты на М в окрестности точки Po = Y(£o), тогда метрика (7) индуцирует на у (if) в окрестности р0 эрмитову метрику К \у = Ц Л/* • v (0 • v/ (0 тШ dUC = #Y (о « Л, (13) /. * где #Y(£0)>0. Рассматривая y(U) как действительно двумерную поверхность, мы можем вычислить ее гауссову кривизну в точке р0 по формуле1) 2 d2\nHv I ^Ы = - ^Ч . (14) Ну (So) <?£ 0£ Id» n При конформной замене параметра £=£(со) на кривой у величина Ну умножится на | £' (со) |2, этот же множитель a» in Ну появится и при пересчете — к производной по со и со, поэтому Ку (Ро) инвариантна относительно такой замены. Эту величину мы назовем кривизной голоморфной кривой у в точке р0. Определение. Будем говорить, что голоморфная кривизна эрмитова многообразия М не превосходит постоянной £, если для всех голоморфных кривых у: U-+M во всех некритических точках £0 кривизна *Гу (у &>))<£• х) Очевидно, координаты £ = Re£ и r] = Img являются на /(60 д2 1 изотермическими в окрестности точки p0t а ==—А, где Л — one* К^Ъ 4 ратор Лапласа! так что (14) совпадает с известной формулой, 11*
324 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Если М —комплексно-одномерное многообразие (т. е. голоморфная кривая), то кривизна Км зависит лишь от точки рш В частности, для единичного круга с метрикой Лобачевского имеем ds2 = (1 \ £,2)2, т. е. Н = (1 — | £ |2)"2 и по формуле (14) заключаем, что /С ^ — 4 постоянна и отрицательна. Для С со сферической метрикой имеем Н = = (1+1£|2)"2 и К = 4 постоянна и положительна. Нам понадобится обобщение леммы Шварца в инвариантной формулировке, по которой для любого голоморфного отображения /: U-+U единичного круга \df\ ^ \dj\ ,-. (см. формулу (7) п. 51; здесь мы приводим ее дифференциальный вариант). Если обозначить через dsb = (l _^} {2)i метрику Лобачевского единичного круга и /* (dsf/) = I df I2 = (] ' //vy2)2— ее прообраз при отображении / (вообще говоря, /* (dsb) является лишь полуметрикой, ибо \dff = = I/' (£) I21 dt, |2 обращается в нуль в критических точках /), то (15) можно переписать в виде /* (dsh)^dsu. Обобщение, о котором мы говорим, получено Л. Альфорсом. Лемма (Альфорс). Пусть М—эрмитово многообразие с метрикой ds%, голоморфная кривизна которого не превосходит отрицательной постоянной —k. Тогда для любого голоморфного отображения /: U -> М в любой точке £ е U f*(ds2M)^Ydsb> (16) где /* (dsli) — прообраз ds% при отображении /, a dsb — метрика Лобачевского единичного круга *). <4 Формы в (16) пропорциональны: /* (ds2M) = u(^) dsb, где и ^ 0 — гладкая в U функция, и нам надо доказать, 4 что u(Q<^-£ в любой точке £е£Л Фиксируем £,0<^U, 2) Если М = иу a ds^ — метрика Лобачевского, то можно принять & = 4 и (16) перейдет в (15),—лемма Альфорса действительно обобщает лемму Шварца в инвариантной формулировке.
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 325 произвольное число г, | £01 < г < 1, и положим dsf- = = (^-.jCl2)2 > ur= ^2 ■ Так как иг (£0) ->-a (£0) при 4 г->-1, то нам,достаточно доказать, что иг(£0)<;-т-. Если положить /* (cIsm)=H | d£|2, то функция Н будет ограниченной в круге £7Г={ |£|^г}, a ffr= ' , ->оо при | £ | -*- г, следовательно, иг = ^- -*• О при | £ | -►• г, и, значит, достигает максимума внутри Ur. Желаемое неравенство достаточно показать для точки максимума, поэтому мы можем считать, что £0 — точка максимума. Если иг(£о) = 0, то неравенство тривиально, если же М£о)>0» то So —некритическая точка кривой /, а так как у нас /* (ds2M) = H \ d£|2, то по формуле (14) кривизна кривой / в точке Ро = /(£о) Kf (Ро) = ■ я (Со) didi (мы воспользовались условием леммы). С другой стороны, так как кривизна геометрии Лобачевского в круге Ur д21пЯг равна —4, то НГ(Ы д£д£ = 4 и, следовательно, д2 In иг I acat ампя асас a2 in яг & !*Ш-2ЯГ(Ы- 1с. ас ас Но, как известно из анализа, в точке максимума функции двух действительных переменных ее оператор Лапласа неположителен, поэтому левая часть последнего неравенства <0 и kH (to) — 4#/.(£0)^0, а так как у нас Я(Со)>0, то иг(ЬН^§£<4 ► Наша цель близка — условие гиперболичности многообразия в терминах кривизны получается теперь совсем просто. Тебрема 7. Эрмитово многообразие М, голоморфная кривизна которого не превосходит отрицательной постоянной—k, гиперболично. М Из формул (13) и (14) видно, что, умножая метрику ds2M на подходящую положительную постоянную, можно считать & = 4. По лемме Альфорса тогда для любого голоморфного отображения / единичного круга U в М имеем
326 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V /* (ds-M) ^ dsb, где ds2u — метрика Лобачевского. Если d — расстояние на М в метрике ds2Mi а р —расстояние Лобачевского, то имеем, следовательно, d(f(a), /(6))^р(а, Ь) для любых точек а, Ь ^U. Таким образом, метрика d не увеличивает расстояний при голоморфных отображениях (/->Мипо теореме 3 п. 52 расстояние Кобаяси kM (р, q) ^ ^d{p, q) для любых р, q^M. Так как d — метрика, то d(p, q), а значит, и kM(p, q)¥=0 при p=£q ► 54. Обобщения теоремы Пикара. Из определения гиперболичности сразу вытекает Теорема 1. Если N — многообразие с тривиальной метрикой Кобаяси, а М —гиперболическое многообразие, то любое голоморфное отображение f: N->M постоянно. <4 Пусть р, q—произвольные точки N\ имеем kN (р, <7)=0, а так как / не увеличивает расстояния, то kM(f (р), f(q))=Q. Из гиперболичности М заключаем, что f(p) = f(q) ► В частности, любое голоморфное отображение /: Сш -> М постоянно, если М гиперболично. При т=\ это утверждение выражают словами: гиперболическое многообразие не содержит целых кривых. Обратное утверждение неверно. Пример. Рассмотрим многообразие М~{(г19^е=&: \гг\<\, |ад|<1}\{(0, г2):|г2|^1}; (1) отображение h: (гх, г2)-> (zlt г^о) преобразует М в бикруг {| wx | < 1, I w2 I < Н взаимно однозначно "всюду, кроме {z1 = 0\. Для любого голоморфного отображения /: С-*-М отображение /z°/ = const по теореме Лиувилля (п. 5), следовательно, либо / = const, либо /: C-»-Af (] П {Zi = 0} Но последнее множество есть круг {г2еС1: |г2|<1}, так что опять/=const. Таким образом, М не содержит целых кривых. Но М не является гиперболическим многообразием В самом деле, пусть р = (0, b) siW, ЬфО и pv = (l/v, b) е М, v=l, 2,...; имеем &ж (0, р)= lim kM(0, /?v). Отображение /:£-*• (—, flv^ , V-*oo \ v / где |av |=min(v, 1/ гт-jJ, переводит единичный круг £/={|£|<1} в М, причем / (1/Ov) =Pv Поэтому по определению метрики Кобаяси кмФ> Pv)^p(0, —) = In v . -»0 при v-»-oo и, значит, м \ civ! l^vi — 1 A^(0, />) = 0. Теорему 1 можно рассматривать как простейшее обобщение малой теоремы Пикара, которая утверждает, что любое голоморфное отображение (С в С с двумя выброшенными точками постоянно (см. п. 12 ч. I). В самом
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 327 деле, как мы видели, С без двух точек, или, что то же, (D без трех точек — гиперболическое многообразие. Перейдем к другим обобщениям. Пример Фату (п. 11) показывает, что при п>\ вырождения голоморфного отображения в Сл без любого числа точек ожидать нельзя. Однако при п=\ точки {z = a} можно рассматривать еще и как множества комплексной коразмерности 1—комплексные «гиперплоскости». Так как С можно отождествить с комплексной проективной прямой (DP, то малая теорема Пикара допускает такую трактовку: любое голоморфное отображение (D в (DP без трех «гиперплоскостей» постоянно. В этой трактовке теорема допускает прямое обобщение на многомерный случай: Теорема 2. Любое голоморфное отображение f: ©т->№'г\{2л+ 1 гиперплоскости в общем положении} постоянно. Теорема 2 получена М. Грином как следствие другой интересной теоремы, идею доказательства которой мы сейчас опишем1). Прежде всего отметим обобщение классической леммы Б орел я: если целые функции gf. (Dm->X (/ = 0, ..., п) тождественно удовлетворяют соотношению A<z>+... + A(2)=0, (2) то по крайней мере одна из разностей gj — gk (1Фк) постоянна. Это обобщение приводится к классическому случаю т= 1 (см. задачу 21 к гл. IV ч. I) рассмотрением сужений gy на комплексные прямые, проходящие через начало 0 е (Dm: для каждой такой прямой / найдется пара номеров (/, й), \Фк, таких, что (gj — gk) \i равно постоянной, не зависящей от / (равной g)(0) — gfc(0)). Так как прямых / бесконечно много, а пар (/, fe) —конечное число, то найдется пара (/, k) такая, что (gy — gk) |* = const для бесконечного множества прямых /, а отсюда по теореме единственности можно заключить, что g/ — gk = const. х) Теорема 2 следует также из теоремы 1 на основании результата Кирнана, цитированного в сноске на стр. 316 — многообразие CP^Xf2/г+1 гиперплоскости в общем положении} гиперболично. Впрочем, эта теорема14 по существу содержится еще в работе Бореля 1898 г.
328 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Лемма. При голоморфном отображении /: €т -> (СРл\ \ {п + 2 различные гиперплоскости} образ J (€т) лежит в собственном линейном подпространстве (DP*. < Запишем исключенные плоскости однородными урав- п нениями ]>]afkzk = 0 (/=1,..., п + 2) и отображение/ также представим в однородных координатах: f = (Дь..., /л). п Мы имеем п + 2 целые функции 2 <W*> не обращающиеся в нуль, которые можно, следовательно, представить в виде ^aikfk = egi (/=1,..., л+ 2), (3) negf: ©т->©—целые функции. Векторы а/=(а/0, ..., a/rt) е G<Dn+1 линейно зависимы, ибо их п + 2, поэтому найдутся п + 2 Я/, не все равные нулю и такие, что 2 hjafk=0 (£=0,..., я). Умножая эти соотношения на fk и складывая по k, п + 2 с учетом (3) получим 2 Я^/=0. Обозначим / = {/: Я/^0}; это множество непусто и последнее тождество можно переписать в виде 2 e8f+lnKJ = 0. По лемме Бореля найдутся /ь /г^А /i¥=/2 такие, что gfl — g/2=c = const и, значит, egii=ecegi*. Из (3) мы тогда получим, что 2 (ajik-ecahk)fkzzzO, (4) причем не все скобки равны нулю, ибо исключенные плоскости различны. Мы получили нетривиальное линейное соотношение между fk ► Теорема 3 (М. Грин). При голоморфном отображении /: ч)т-> <DPn\{n + k гиперплоскостей в общем положении} образ /((Dm) лежит в линейном подпространстве СРП размерности, равной целой части у. <4 Проиллюстрируем идею доказательства на частном случае я = 3. Здесь теорема сводится к двум утверждениям:
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 329 а) Если k = 2, т. е. / выпускает 5 гиперплоскостей #i, ..., Я5 в общем положении, то /(Ст) принадлежит комплексной прямой (целая часть £(-9-) = 1)- б) Если & = 4, т. е. / выпускает 7 гиперплоскостей Ни •••» Н7 в общем положении, то/ = const (е(~^)= О)1). Доказательство а). Из леммы (при п = 3) следует, что /((Dm) лежит в плоскости П комплексной размерности 2 (гиперплоскости в ©Р3). Покажем, что выпускаемые плоскости Я/ пересекают П не менее чем по четырем комплексным прямым. Так как Я/ в общем положении, то никакие 3 из них не могут пересекаться по прямой и никакие 4 по точке. Три прямых пересечения Я/ с П может быть лишь в случае, когда П содержит прямые пересечения двух пар Я/ (рис. 46). Пусть одна из пар будет Ни Я2 и прямая /i = Н\ П Я2. Во второй паре не может участвовать ни Ни ни Я2, ибо тогда общая плоскость двух пар совпадала бы с П, а это невозможно, ибо П содержит /(Ст). Пусть вторая пара будет Я3, Я4 и Я3 П Н4 = 12; тогда прямые 1г и /2 имеют общую точку (ибо обе они лежат в проективной плоскости П), что невозможно, ибо в этой точке пересекаются четыре Яу. Итак, f отображает Ст в двумерную проективную плоскость П=СР2 без четырех различных комплексных прямых. По той же лемме (при п = 2). мы заключаем, что / (Ст) лежит на комплексной проективной прямой. Доказательство б). По утверждению а), /(Ст) принадлежит комплексной проективной прямой L. Эта 1) В случае & = 1 утверждение тривиально, ибо £(-т-)=л, случай k = 3 слабее а) —здесь снова £(-о-) =1, а случай &>4 слабее б)-здесь£Ш = 0. Рис. 46
330 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V прямая пересекает выпускаемые гиперплоскости Яу не менее чем в трех точках. В самом деле, наименьшее число пересечений будет, когда L проходит через точки пересечения двух троек #/, пусть а = Нг (] Я2 П Н3 и Ь = Я4 П П Я5 П Н6 (одна плоскость в разные тройки входить не Рис. 47. может). Остается еще плоскость Я7, которая в силу условия общего положения пересекает L в точках, отличных от а и Ъ (рис. 47). Теперь к сужению / на любую комплексную прямую 1а€т можно применить теорему Пикара для функций одного переменного: f\t отображает / в прямую L без трех точек и, следовательно, постоянно. Но тогда и/ = const ► В случае произвольного п доказательство основано на тех же идеях, но требует дополнительных рассуждений комбинаторного характера1). Теорема 2 является частным случаем теоремы 3 —если число выпускаемых гиперплоскостей равно 2n+lf то k = n+l, £(у) = 0, и, следовательно, / = const. Перейдем к обобщению большой теоремы Пикара, которую для функций одного переменного можно сформулировать так: любое голоморфное отображение проколотого круга U^ = {0< | £ | < 1} в замкнутую плоскость (DP без трех точек продолжается до голоморфного отображения х) См. М. Green, Holomorphic maps into Pn omitting hyperplanes. Trans. Amer. Math. Soc. 169 (1972).
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 331 круга U в СР*). В отличие от малой теоремы Пикара на произвольные гиперболические многообразия большая теорема не распространяется. Пример Многообразие М = {[г0, гъ z2]<=CP*: г0=1, 0<|г1|<1, \z2\<\el/z> \} гиперболично, ибо'отображение (1, гъ г2)-> (г1г г^т- i/zi) биголоморфно преобразует его в гиперболическое многообразие U* X V. Однако отображение /: V\ -*• М, определяемое формулой /(£) = 1» £» ~к el/1* I нельзя голоморфно продолжить в U. Однако справедлива Теорема 4 (М. Квак). Если М — гиперболическое многообразие, то голоморфное отображение /: U^-^M либо голоморфно продолжается в £/, либо его предельное множество в точке £ = 0 не содержит точек М. < Пусть предельное множество / в точке £ = 0 содержит точку р0^М, т. е. существует последовательность £v -> 0 точек U#, для которой /(£v)-^Po- Обозначим через V окрестность р0,. которая в локальных координатах на М с центром р0 описывается как {реМ: |г(р)|<еЬ и №={ре=М: |2(р)|<-|-}; пусть rv = |£v| и Vv= {|£| = 'vb Так как диаметр Кобаяси /(Yv)-^O (в силу примера в начале п. 53 и свойства сжимаемости), то f(yv)aW при v^v0, причем без ограничения общности можно считать, что v0=l и что rv стремятся к нулю убывая. Достаточно доказать непрерывную продолжимость / в точку £ = 0, т. е. что образ {0<|£|<б} при достаточно малом б принадлежит W. Если за пределы W выходит конечное число образов колец {rv+1 < | С | < rv} — все Доказано, случай же, когда таких колец бесконечно много, мы приведем к противоречию. Переходя к подпоследовательности, можно считать, что за пределы W выходят образы всех колец. Обозначим через Av = {av < | £ | < |5V} наибольшее из колец, для которых av < rv < |5V и / (Av) с W, а через 1) Эта формулировка эквивалентна приведенной в п. 42 ч. I, ибо если / продолжается в U до голоморфного отображения в СР, то £ = 0 является устранимой особой точкой или полюсом и не может быть существенно особой точкой /.
332 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V у; = {| £ | = pv}, 7; = {| £ | = av}^— граничные окружности (их образы содержатся в W, но не в W). Так как диаметры /(Yv) и f(Yv) стремятся к нулю (см. пример на стр. 315), то переходя, если надо, к подпоследовательности, можно считать, что /(Yv)-^P', /(Yv)-^p". Точки //, pn^dW и, значит, отличны от р0; не нарушая общности, мы считаем, что Zi(p') и £i(p") отличны от г1(ро) = 0 fci (р) — первая координата z (р)). На множестве f~x(W) отображение / представляется в локальных координатах в виде (Д, ..., fn) и, в частности, для всех v определено голоморфное отображение fx: Av -> (D. При достаточно больших v образ /i(Yv) лежит в окрестности точки £i = 0, не пересекающейся с окрестностями точек гг(р') и г1(р"), которые содержат fx (у$ и /i(Yv). Объединение последних составляет fi(dAv), а по принципу сохранения области из п. 35 ч. I при отображении fx внутренние точки Av не могут переходить в dfx (Av), т. е. d/i (Av) с: /i(Mv). С другой стороны, Д (Av) — ограниченная область, содержащая /i (yv), а в наших условиях ограниченной области, граница которой принадлежит объединению fi (Yv) U h (Yv) и которая содержит fx (yv)9 не существует — противоречие ► В частности, при М~ СР\{3 точки} из теоремы 4 получается большая теорема Пикара для функций одного переменного. В самом деле, в этом случае предельное множество, будучи связным, должно сводиться к одной из выброшенных точек, а тогда / непрерывно продолжается в точку £ = 0. Если М — компактное гиперболическое многообразие, то любое голоморфное отображение /: U^-^M продолжается до отображения из © (U, М), ибо здесь вторая возможность теоремы 4 не может реализоваться. В заключение опишем методы, предложенные недавно Ф. Гриффитсом и основанные на понятии кривизны Риччи. Чтобы определить последнюю, назовем евклидовой формой объема я-мерного комплексного многообразия М форму бистепени (я, я), которая в локальных координатах г=(гх, ..., гп) имеет вид л Ф = Птй!г*Л^й (5) *=1
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 333 (произведение — внешнее, множитель Ц2 введен для того, чтобы форма была действительной). Как известно, все формы максимальной степени на многообразии пропорциональны (см. п. 13), а те (я, п)-формы на М, которые отличаются от Ф положительным множителем, т. е. формы & = ХФ, А,>0, (6) называются положительными. Каждая гладкая положительная форма Q называется формой объема многообразия М, а фюрма RicQ = yd9lia - (7) бистепени (1, 1) —ее формой Риччи. Так как при голоморфной замене координат форма Ф, а значит и коэффициент Я, умножается на квадрат модуля голоморфной функции / =7^0 (якобиан замены), а дд\п\ J |2=0, то форма Риччи определена глобально на Мине зависит от выбора локальных координат. Говорят, что многообразие М с формой объема Q имеет отрицательную кривизну Риччи, если RicQ соответствует положительно определенная эрмитова форма1). Примеры 1) Для комплексно одномерного эрмитова многообразия с метрикой ds2 = H dzdz формой объема будет Q = -^Hdz Д Д dzt a <b = -ydzf\dz Поэтому в этом случае % = Н и Ric Q = t a2 in я . А Л_ п — dz/\ dz. Соответствующая эрмитова форма положительна 2 dzdz тогда и только тогда, когда гауссова кривизна метрики ds2 отрицательна (см. формулу (14) из п. 53) —это оправдывает последнее определение. _ 2) Метрика Лобачевского в поликруге {||г||<Я} из Сп определяется ЭРМИТОВОЙ форМОЙ ds2= У /D2__| 2 2\2 (с точностью до мно- £=1 жителя она совпадает с метрикой Бергмана, см. п. 50). Соответ* -д. * Tf *R2dzk Adzk со" ствующая ей форма объема Q = Ц 2(/?2_ \г [у "^ ТйГ' где fc=l 1) Эрмитова форма h, соответствующая дифференциальной форме h бистепени (1, 1) получается из нее делением на i/2 и заменой внешних произведений обычными (см. п 53).
334 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V со «=- дифференциальная форма, соответствующая ds2t и элементарный подсчет показывает, что форма Риччи RicQ=2o. (8) Кривизна Риччи этой метрики, следовательно, отрицательна. В проколотом круге £/* = {0 < I г | < 1} метрика Кобаяси ds2 == \dz I2 «- , ,' 2' —- (см. формулу (4) п. 53), для соответствующей формы о также имеем RicQ = 2co. Таким образом, в этой же метрике для частично проколотого поликруга U™ X Un~m форма объема т п о IT idzkAdzk ТТ idzk Д dzk ±1 2|гЛ|2 1п2|2гЛ|2 A JL| 2(1-|г*12)2 ^ и для нее по-прежнему RicQ==2©. 3) Вычислим форму объема метрики Фубини —Штуди в СРЛ. Для определенности рассмотрим область £/о={[г0, ..., zn] е €Рп: г0Ф0} с локальными координатами & = —,... , 2^ = —. Полагая |£|2= "= 2 I ^ I2 и Р=* + 1£12» мы найдем, что этой метрике соответ- ствует форма o)=-o-ddlnp (см. (9) п. 53), которую можно, очевидно, представить в виде 0=ssj>2 (рф—уаРЛф), /? где ф=у дар= У yd?A Л dlk- Нетрудно видеть, что ф" = п!Ф, где Ф—евклидова форма объема (5) и что (dp Д ф)Л = 0 при &> 1 (все степени— внешние). Поэтому форма объема рассматриваемой метрики ^д = ш« = /ф /ФЛФ^^ШФ п1|£12Ф^_п!Ф \р 2р2 / ря рл+1 Отсюда видно, что p/i+i- RicQ = ^(n+l)o (10) в кривизна Риччи метрики Фубини —Штуди положительна. Заметим, что при умножении метрики на положительную постоянную форма со также умножается на нее, a Ricco не изменяется. Поэтому при желании можно считать, что в примере 2) RicQ = co или (RicQ)rt = Q. (11)
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 335 В примере 3) мы убедились, что для стандартной метрики (DP* кривизна Риччи положительна, а для целей, которые скоро будут ясны, нужно получить многообразие с отрицательной кривизной. Мы покажем сейчас, что это можно сделать, исключая из €Рп конечное число алгебраических гиперповерхностей. Обозначим через Dj подмногообразия (СРЛ коразмерности 1, которые задаются уравнениями Р;(г) = 0, где Pf — однородный многочлен степени s, = deg Pj. Мы предположим, что Dj пересекаются в общем положении, т. е. что в окрестности каждой точки пересечения имеются к локальные координаты, в которых (J D; локально за- /=i дается уравнением 21...г/ = 0, l^k. ь Теорема 5. Если в описанных условиях 2 degP7^ /=i к ^п + 2, то на многообразии M = €Pn\\J Df существует /=i форма объема Q с отрицательной кривизной Риччи и такая, что (RicQ^Q1). (12) < Обозначим */ = С;^Й£ /=1, ...,А, (13) П где с; > 0 — постоянные, | z |2 = 2 Iz/12 и s/ = deg Pf; это функции класса О^СР*), равные нулю на Df и положительные в дополнении к D/. Пусть еще со0 = -^- 5<Э In | г |2 — форма, соответствующая метрике Фубини —Штуди. Тогда k /=1 х) Это неравенство означает, что разность (RicQ)'1 —Q является неотрицательной формой на М (она максимальной степени).
336 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ, V является формой объема на М ~и ее форма Риччи k k RicQ = Ricco« —1-2 93 In а,-у 2 ddlnln2of. (15) /=1 /-1 Имеем R1ccd£ = — (п+ 1)(о0 (пример 3)), a ddlna,^ = — Sya5In12г |2; ибо ddln|P/|2 = 0, значит, -±-ddlnof = s/o0. Далее 1 In Of (In a/)2 и, подставляя все это в (15), мы находим, что RicQ = dlnoy /\д\п(3] 2 «/"(«+!)+ 2 Д «* + ' 2 —(Тпа^ (16) * 1 По условию V S/ —(/г+ 1)^ 1, a -j— можно сделать не- /ti ln а'* прерывной в СРЛ функцией, сколь угодно малой по модулю, если выбрать су в (13) достаточно малыми, поэтому можно считать, что коэффициент в квадратных скобках не меньше 1/2. Форма со0, как мы знаем, положительна, вторая форма в (16) неотрицательна —соответ- k ствующая ей эрмитова форма равна 2 2 Ппа^2 > ибо /=i f In a, — действительные функции. Положительность RicQ доказана. Для доказательства второго утверждения выберем в окрестности произвольной точки пересечения Df локальные координаты с началом в этой точке, в которых Dj = = {£; = 0}. Тогда In Gf = a, + ln | £/12, где щ — гладкая функция, и ,, А * . dlj f\dlj dZj Л Ц , да, Д 0£/ , - А 5 dlnayAdlna,^ |£/|2 + £/ + g ' + да,/\д<*1=
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 337 где % —гладкая (1, 1)-форма, равная нулю при £ = 0. Условимся обозначать через с некоторые положительные постоянные, не обязательно одинаковые. Пользуясь еще п тем, что со0^с4- У d£/ Д d£/, из (16) мы найдем, что /=1 (Ric Я)^с ({)" * Л ^ А- Л djn Л 4,+ * П i?/i21n2is/i /=1 где ^Р —форма с гладкими коэффициентами, равными нулю при £ = 0. Отсюда можно заключить, что (RicQ)71^ ^сй в достаточно малой окрестности точки ^О1). Такое же неравенство справедливо в достаточно малых окрестностях точек [)Djf не являющихся точками пересечения всех D/, а также точек М. Пользуясь компактностью (СРЛ, можно утверждать, что (RicQ)":^cQ и всюду на М. Заменяя, наконец, Q формой cQ, получим (12) ► Применения методов кривизны Риччи основаны на следующей лемме, которая представляет собой прямое обобщение леммы Альфорса. Лемма (Гриффите). Пусть М — комплексное п-мер- ное многообразие с формой объема QMi кривизна Риччи которой отрицательна и удовлетворяет условию (12), а (/ = {г е Сл: | z \ < 1} — поликруг. Тогда для любого голоморфного отображения f: U-+-M в любой точке z^U f*(QM)^&u, (17) где Qu — форма объема поликруга, нормированная так, что (RicQu)n = Q[J. <4 Доказательство аналогично доказательству леммы Альфорса. Полагая /* (QM) = и (г) QU9 мы, как и там (переходом к меньшему поликругу), убеждаемся, что достаточно рассмотреть случай, когда и достигает максимума во внутренней точке z° е (/. В этой точке 0^ ^yadlna = Ric/*(Q^)-Ric^,T. е. RicQ^Ric/*^). Так как обе формы неотрицательны, то, возводя это неравенство в п-ю внешнюю степень, мы получим х) В точках D] неравенство выполняется тривиально, ибо обе ei о части обращаются в нуль.
338 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ, V (RicQf/)'l^(Ric/:* (&м))п и, пользуясь условиями леммы, по которым (RicQ^y^Qf,, a (Ricf*(Q^)n^f* (QM)9 придем в точке z° к неравенству Qu^zf* (QM)- Таким образом, а(г°)^1, а так как г° — точка максимума, то и (г) ^ 1 и всюду в U ► Отметим один из получаемых рассматриваемыми методами результатов, который представляет собой многомерное обобщение классической теоремы Э. Ландау1). Обозначим UR = {l^<Dn: |£||</?} и через U — единичный поликруг. Пусть о -rJJ «4tA4 /iq\ — форма объема, нормированная так, что (RicQc/^)n = = Qtf^; как мы видели в примере 2), постоянная с не зависит от R. Теорема 6. Пусть М — комплексное n-мерное многообразие с формой объема QM, удовлетворяющей условиям леммы Гриффитса и f: UR-> М— голоморфное отображение такое, что f(Q) = p и \Jf(Q)\^l, где //(0) = = det (g£ )— якобиан /, вычисленный в локальных координатах на М, действующих в окрестности р. Тогда радиус поликруга UR ограничен сверху величиной, не зависящей от отображения /: R^R(P). (19) * п 4 Так как Ол(р)==# (р) Д у<Ьл Д <ЙЛ, a Qv (0) =, п = сЦу<К*Л dlk, то = Я(Р)|УН0)1а^^^^(0). !) Ср., например, И. И. Привалов, Введение в теорию функций комплексного переменного, Физматгиз, 1967, стр. 262.
§ 191 ГИПЕРБОЛИЧЕСКИЕ МНОГООБРАЗИЯ 339 (мы учли, что | Jf (0)|^1). Лемма Гриффитса дает неравенство /*ЙЛ1(0)^й(//?(0), а из (18) видно, что й^(0) = = " . Таким образом, мы имеем неравенство R2n ^ ^—— ^(О), из которого и следует утверждение ► Ясно, что если отображение/: UR-+M не вырождено, т. е. существует точка £° е UR, в которой Jf (£°) ^= 0, то дробно-линейным преобразованием переменного .£ и линейной заменой параметра z можно получить отображение, для которого \Jf(0) |^= 1. Поэтому теорема 6 дает Следствие. Если n-мерное комплексное многообразие М допускает форму объема, удовлетворяющую условиям леммы Гриффитса, то любое голоморфное отображение f: &п->-М вырождено. (В самом деле, если / не вырождено, то без ограничения общности можно считать, что \Jf(Q)\^l, и тогда по теореме 6 радиус поликруга голоморфности / конечен.) Это следствие представляет собой еще одно из обобщений малой теоремы Пикара. По теореме 5 условию k Гриффитса удовлетворяет многообразие M = (DP'l\[J Df) /=i где многообразия Dj — нулевые множества однородных полиномов Р;; если Dj пересекаются в общем положении и сумма степеней Pj не меньше п + 2. Если Dy —гиперплоскости, мы получаем частный случай леммы Грина (см. стр. 328; там размерности €л и М не обязательно совпадают, а гиперплоскости лишь различны). Но этот результат более общ в том смысле, что вместо гиперплоскостей в нем можно рассматривать алгебраические многообразия. Следующий результат Грина (теорема 2) показывает, что если из €Рп выбросить больше гиперплоскостей (именно, 2я+1 в общем положении), то отображение / выродится в постоянную. Хочется надеяться, что того же результата можно достичь выбрасыванием алгебраических многообразий достаточно высокой степени. Однако эта надежда не оправдывается, как показывает следующий пример, принадлежащий К и р н а н у. ГГример. Рассмотрим в €Р2п гиперповерхность Л, которая в однородных координатах задается уравнением zg + ...+z£„ = 0.
340 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ ГЛ. V Для любого р^п существует непостоянное голоморфное отображение /: Сл-^СР^ХЛ. Это отображение строится так: зададим А аффинным уравнением 1 +£^ + ... + ££„ = 0 и положим /(гь ..., гп) = = (*ь ъ&и •••» zn* Enznh ГД£ еу—корни jf—l. Для любого г имеем l+z^ + efzf + .-.+z^ + eJJz^l, поэтому /(Сл) принадлежит гиперповерхности £?+... +£5„ = 0. Условия, которые надо наложить на выбрасываемые гиперповерхности для вырождения отображения / в постоянную, еще не выяснены. § 20. Граничные свойства Здесь рассматривается ряд вопросов, связанных с граничными свойствами функций и отображений — в них особенно ярко проявляются особенности расположения границ по отношению к комплексной структуре пространства. Мы начнем с изучения граничного поведения собственных голоморфных отображений строго псевдовыпуклых областей, затем опишем строение векторных полей на границах и влияние этого строения на свойства функций. Основное внимание будет уделено результатам, полученным в последние годы в Московском университете. 55. Строго псевдовыпуклые области. В вопросах, которые здесь рассматриваются, существенно различие между просто псевдовыпуклыми и так называемыми строго псевдовыпуклыми областями. Понятие псевдовыпуклой области введено в п. 33; такие области не обязательно имеют гладкие границы и локально они могут задаваться неравенствами {ф(г)<0}, где ф-—плюрисубгармоническая функция. Мы придем к понятию строгой псевдовыпуклости, если усилим эти требования. Определение 1. ОбластьDс:Сл называется строго псевдовыпуклой в граничной точке г°, если в некоторой окрестности U э z° она задается условием D()U={z<=U: Ф(г)<0}, (1) где ф —строго плюрисубгармоническая в U функция класса С2 с градиентом V<p = l-^-, ..., JP_j=^0 в U. Область D называется строго псевдовыпуклой, если она
§20] ГРАНИЧНЫЕ СВОЙСТВА 341 ограничена и строго псевдовыпукла в каждой своей граничной точке. Для функций ф класса С2 (строгая) плюрисубгармо- ничность выражается условием (строгой) положительной определенности формы Леви а«(ф, «>)= 2 i^h;[<№. (2) Типичным примером псевдовыпуклой, но не строго псевдовыпуклой области является поликруг Un= {z ^ (Dn: ||г||< 1} при п>1. В самом деле, граница dUn не гладка, а в точках z^dUn, принадлежащих грани {|zv|=l}, можно взять ф(г)= |zv|2—1; в таких точках форма Леви Яг(ф, co) = |cov|2^0, но обращается в нуль на векторах со с cdv = 0, т. е. ф лишь плюрисубгармонична. Типичным примером строго псевдовыпуклой области является шар Вл = {ге С": | z | < 1}, для которого можно взять ф (г) = = S levi2~"l и в0 всех граничных точках #г(ф> ©) = v=l = |со|2>0 при со^=0. Приведем два свойства строго псевдовыпуклых областей. Для доказательства первого из них нам понадобится закон изменения формы Леви при голоморфном отображении /: D->G —для любой функции -i|)eC2(G) и любых zgD, со е ©л: #*№•/. со) = #т(г|>, /*со), (3) где fx = df — дифференциал отображения. Соотношение проверяется простым подсчетом на основании формулы дифференцирования сложных функций. . Первое свойство имеет локальный характер: Теорема 1. Если область D строго псевдовыпукла в точке г0 е 3D, то найдется биголоморфное отображение окрестности U э г°, которое преобразует dD[)U в участок границы геометрически строго выпуклой области. < Без ограничения общности считаем г° = 0. Пусть в U область D задается неравенством ф(г)<;0, где ф
342 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ ГЛ. V удовлетворяет принятым выше условиям; формула Тейлора для этой функции имеет вид »«-»*24U+* 2АЫ+ v=l v jLl,V=l + |//0(ф, z) + o(\z\*) (4) (см. п. 31). Введем в U новые координаты w, где wx =? = 22Шог*+ 2 ^klo^v.^v (v = 2 п)- V = l [X, V = l координаты в комплексной касательной плоскости Тс0 (3D), которая не вырождена по условию. Выбрав U достаточно малой, можно считать, что отображение g: z->w биголо- морфно в V. Оно преобразует D[\U в область G, локально задаваемую неравенством ty(w)<cO, где -ф =* = Ф°£Г1» причем в силу (3) разложение (4) перейдет в $ (W) = Re wx + у Н0 (г|), ^г) + о (| w |2) = = Re^i + -jfl0(*, w) + o(\w\2). Мы видим, что вся группа членов 2-го порядка функции ф совпадает с формой Леви уЯоСФ» и;)» которая положительна при всех w е ©£, а из этого следует строгая геометрическая выпуклость функции г|) (см. п. 32) ► Второе свойство утверждает существование функции ф, удовлетворяющей принятым выше условиям в граничной полоске области. Теорема 2. Для любой строго псевдовыпуклой области ОсСя существует окрестность Q границы dD и функция ф е С2 (Q) такая, что D()Q = {z<=Q: Ф(г)<0}, (5) причем для всех z^Q градиент Vф^0 и форма Леви Hz (ф, со) > 0 при со е (К- « Покроем dD конечной системой окрестностей (Уа, в каждой из которых существует функция фа, удовлетворяющая условиям определения 1, и в каждую Ua
§20] ГРАНИЧНЫЕ СВОЙСТВА 343 впишем компакт Ка так, чтобы [)Ka^>dD. Как обычно, в анализе построим гладкие функции г\а с носителями из Uа так, что всюду 0^т]а^1 и т]а>0 на /Са, и положим г|)(z) = ]>]r)a(z)q>a(z), доопределив т]афа нулем там, а где Ла = 0. Если Q' — окрестность dD, принадлежащая объединению /Са, то Для любой точки геЙ'ЦО по крайней мере одно произведение ца (г) фа (г) отрицательно, а остальные неположительны, т. е. г|)(г)<с0 для таких г; аналогично ф (г) > 0 для всех z е= Q'\D. Далее а(^афа) = ца ^ + + Фа-^, а так как у нас Vфa=^0 и фа = 0 на dD(]Uai то отсюда нетрудно заключить, что Vij^O на dD. В силу гладкости можно считать, что Vty^O и всюду в Q' (сужая, если надо, эту окрестность). Остается вычислить форму Леви функции г|): так как 0аф = у / д2Фа . дцад<ра дд>адг)а\ dzf dzk j^d \ ,а dzf dzk t" dzf dzk ^ dzf dzk ) a и для векторов со, принадлежащих комплексной касательной плоскости Tcz(dD) для точек z^dD(]Uai мы п п имеем У -^со/= У -А©А = 0, то для всех z&dD и всех шеГг (dD) НЛ% ®) = Ет1аЯЛФа, ®). (6) а Отсюда выводится положительность //^(^, <*>) лишь для векторов со из комплексной касательной плоскости. Чтобы достичь положительности для всех со ^ (Djf введем вместо г|) функцию ф = г|)^, где с: > 0 —постоянная, которую мы подберем ниже. Очевидно, множества {ф<0} и {if><0} совпадают, а так как ^ = ес^(1 +с^))~ и г|) = 0 на dD, то на границе \^ = V\|) и, значит, Уф^=0 в некоторой окрестности Q границы. Простой подсчет дает
344 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V откуда видно, что для всех геЗО и всех иеС" Я,(Ф, <о) = Яж(1|», со) + 2с дг, /=| (7) Достаточно доказать положительность Н2(<р, со) для всех г е dD и со ^ S = {со ^ С": | со | = 1}. Обозначим С = = {(г, co)^dDxS: tf^ij), со) ^0} —это компакт и на нем min Hz (г|), со) = — М < 0. Так как, согласно (6), при любом z^dD и со е 71 (5D) f| S форма Леви Нг (ty, со) > 0, то в каждой точке С имеем min <2, ©)ес / = 1 а?00/ ^S0/ /=i 02/ > 0, а значит, Л1 = т > 0. Выберем 2с > —; если (г, со)^ ^ С, то tf*(\|), со)>0, а согласно (7) и подавно Нг (ф, со)>0, если же (z, со) е С, то #* (Ф» со)»^ — М + 2cm > 0. Положительность #*(ф, со) для всех (г, co)edDxS доказана. Таким образом, ф удовлетворяет всем условиям теоремы ► Замечание. Можно доказать, что функцию ф из теоремы 2 можно продолжить в D до отрицательной плю- рисубгармонической функции, так что D будет совпадать с областью ее отрицательных значений. Различие между псевдовыпуклыми и строго псевдовыпуклыми областями проявляется, например, при рассмотрении их собственных голоморфных отображений. Напомним, что голоморфное отображение /: D-+G областей из Сл называется собственным, если для любого множества Кшв прообраз f~1(K)<^D. Такое отображение, очевидно, сюръективно, а если оно непрерывно продолжается в D, то преобразует 3D в dG. Так как прообразы точек из G — компактные аналитические множества bD, то все они конечны. По теореме Реммерта, цит. в п. 49, образ критического множества E = {z^D: Jf(z) = 0} при таком отображении является аналитическим множеством в G и, значит, не разбивает G. Отсюда следует, что для любой точки w е G\f (Е) число прообразов f-1 (w) конечно и одинаково, ибо это — целочисленная непрерывная функция в G\f(E). Для точек w^f(E) число прообразов уменьшается за счет слияния некоторых из них, так что
§20] ГРАНИЧНЫЕ СВОЙСТВА 345 / (Е) играет роль множества ветвления и все отображение/: D-^G является разветвленным накрытием (ср. п. 49). Поликруг Un можно отобразить на себя, собственно, и голоморфно, но не биголоморфно, например отображением г->• ^"Ч ..., *™п\ где mv — любые целые положительные числа. Некоторое время назад возникла любопытная гипотеза, что для шара Вп при п>\ такого отображения не существует. Недавно Г. Александер1) доказал эту гипотезу, используя некоторые общие свойства собственных голоморфных отображений строго псевдовыпуклых областей. Мы приведем здесь результаты С. И. Пинчука2), относящиеся к этой проблематике. Нам понадобится Лемма. Если функция и отрицательна и плюрисуб- гармонична в области D а§)п с границей класса С2, то найдется постоянная k>0 такая, что \u(z)\^ke(г, dD) для всех геD, (8) где е —евклидово расстояние. При п=1 (для субгармонических функций) это свойство было установлено М. В. Келдышем и М. А. Лаврентьевым; для любого п и в более общей ситуации оно доказано Б. Н. Химченко; доказательство мы не приводим3). Заметим, что оценка в другую сторону: | и (г) | ^Ке (г, dD) справедлива для любой функции класса С*(0), обращающейся в нуль на границе. Первый результат С. И. Пинчука таков: Теорема 3. Пусть D и G —строго псевдовыпуклые области в С* (п> 1), a f: D ->* G — собственное голоморфное отображение. Если f продолжается в D до отображения класса С1, то оно локально биголоморфно. < Если /, не локально биголоморфно, то якобиан Jf (z) = 0 на непустом аналитическом множестве Е с: D, причем по теореме Осгуда — Брауна (п. 25) Е[\дБфф (в противном случае голоморфная функция -у-^т имела бы г) Н. Alexander, Proper holomorphic mappings in Pn (препринт). 2) С. И. П и н ч у к, О собственных голоморфных отображениях строго псевдовыпуклых областей, Сиб. матем. журн., т. XV: 4 (1974). 8) См. Б. Н. Химченко, Дифференциальные уравнения, т. U 10 (1969).
346 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V в D компактную особенность, не разбивающую D). Пусть точка г° ^ Е (\ dD\ без ограничения общности считаем, что z° = f (z°) = 0. Пусть еще области в окрестности начала задаются при помощи строго плюрисубгармонических функций: О = {ф(г)<0}, G= {ty(w) <0}, причем, не ограничивая общности, можно считать, что ф (г) = Re гл +1 г |2 + о (| г |2), ty(до) = Reм>„ +1 w\2-\-o(\ w|2). ..•-,,_■* (9) Так как отображение / голоморфно в D и класса С1 (D), то его линейная часть голоморфна в нуле, т. е. его координаты имеют разложения вида п U(Z) = 2 ^HvZv + M*) (M'==1» •••» я). (10) v = l где a^v = const, о^ е ® (D) (] С1 (D) и | а^ (г) | = о (| г |). Рассмотрим функцию u = ty*f ^Сг(0)\ так как отображение f собственно, то u\dD=0y а так как действительная касательная плоскость к dD в точке z = 0 задается уравнением хп = 0, то а(г)="1;|о^+0(|г/|)- Подставляя (10) в (9), мы найдем и(*) = яИ(г) = = Re£ a„v2v + Rea„(e)+2l^(^)l2 + ^(l^l2) v = i |л=i и, сравнивая это разложение с предыдущим, получим, что a„v = 0 при v=l, ..., я—1 и что апп — действительное число. Последнее разложение примет, следовательно, вид u(z)=annxn + Rean(z)+j] \ Д, (г) |2 + о(| z |2). (11) м = \ Функция и, очевидно, удовлетворяет условиям леммы, из которой следует, что аппф0. Так как у нас 7^(0) = 0, то мы заключаем отсюда, что линейное отображение 'Л: Cn~1->(D"-1, задаваемое
§ 20] ГРАНИЧНЫЕ СВОЙСТВА 347 матрицей (о^,), где jx, v= 1,..., п— 1, вырождено. Поэтому найдется комплексная прямая 7 cz С"-1 такая, что 'А (7) = = 0. Рассмотрим комплексную прямую 1Х = {г ^ СЛ: 'г ^ 7, гЛ = — т}, где т — действительное число. Сужение Re ап |/ — гармоническая функция на открытом плоском множестве lx[\Dy а на границе этого множества, т. е. при ге/тП dD, в силу (9) и (11) мы имеем —т + 1г12 + °(1 z I2) = 0 и /г — aw* + Re ап (г) + т2 JJ I Яцп I2 + о (| z f) = 0, т. е. на этой n=i границе Кеап = аппт + о(т). Но из (7) видно, что при всех достаточно малых т>0 точка ('0, —т)^/гПД поэтому в силу принципа максимума для гармонических функций Re ап ('0, т) = апп% + о (т) для всех достаточно малых т>0, а это противоречит условию <xn(z) = о(|г|) ► Если в теореме дополнительно предположить, что область G односвязна, т. е. что фундаментальная группа лх (G) = 0, то отображение / из этой теоремы будет глобально биголоморфным (в самом деле, из доказанной локальной биголоморфности и собственности / следует, что / — неразветвленное накрытие и, следовательно, можно воспользоваться теоремой о монодромии из п. 18). В общем случае глобальную биголоморфность / доказать нельзя, вот пример: области D = {\ z{\2 + \ z214 + + |z2|-4<3} hG = { H1|2 + |^2|2 + l^2|"2<3} из С2 строго псевдовыпуклы, а отображение /: D-+G, где f(z) = (zli г§), собственно и голоморфно, но не биголоморфно. Однако для случая D = G справедлива Теорема 4. Если D —строго псевдовыпуклая область в С", то любое собственное голоморфное отображение /: D->D, продолжаемое до отображения класса Cx(D)y биголоморфно. <4 Фундаментальную группу лг (D) можно считать нетривиальной (см. выше), но в силу гладкости dD она имеет конечное число образующих; пусть уь ..., yt — замкнутые пути в D, представляющие эти образующие. По теореме 3 отображение/: D-^D является накрытием, а индуцированный им гомоморфизм /*: nx(D)-^n1(D) — мономорфизмом. По теореме о кратности накрытия (теорема 3 из п. 18) для доказательства гомеоморфности / достаточно доказать эпиморфность /*, т. е. что im/* =? = n±(D).
348 > НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Рассмотрим итерации /v = /op-i отображения / (v = = 1, 2, ...; /° — тождественное отображение). Так как семейство {/v} равномерно ограничено, то по теореме Мон- теля найдется подпоследовательность/ /, сходящаяся равномерно на компактных подмножествах D к голоморфному — v отображению g: D-+D. В частности, / /->g равномерно на всех образующих yk (k=l, ..., /), и потому / / (yk) v гомотопно g(yk) при достаточно больших /, т. е. fj = g# для всех /^=/0. Так как /^—мономорфизм, то отсюда V V V —V следует, что и g* — мономорфизм. Но fj+1 = fj*f /+1 /, V —V следовательно, при /^/0 имеем g*=g*°f /+1 ', откуда в силу мономорфности g* заключаем, что Д/+1 / тождественное отображение, т. е. эпиморфизм, а значит, и /* — эпиморфизм > 56-. Соответствие границ. Если границы плоских областей D и G жордановы, то конформное отображение /: D-+G по теореме Каратеодори продолжается до гомеоморфизма замыкания этих областей, а если границы достаточно гладки, то продолженное отображение гладко в замыкании (см. п. 40, ч. I). Легко видеть, что на биголоморф- ные отображения пространственных областей не распространяется даже теорема Каратеодори. В самом деле, отображение /: (zu z2)-^(zu fa — 1)г2) биголоморфно преобразует бикруг D = { \zi\ < 1, \г2\ < 1} на область G = {|a;1|<lf \w2\ <|^i— 11}, а обратное отображение /"1(ш) = (о;ь wW^_i) не продолжается непрерывно в граничную точку (1, 0), хотя обе области жордановы. В этом примере области D и G псевдовыпуклы, но не строго псевдовыпуклы. Оказывается, что для строго псевдовыпуклых областей свойство продолжимости на границу сохраняется — еще одна ситуация, в которой проявляется различие между выпуклыми и строго псевдовыпуклыми областями. Первый результат в этом направлении был получен Г. А. Маргулисом, который в 1971 г. показал, что биголоморфное отображение строго псевдовыпуклых областей продолжается до гомеоморфизма их замыканий. Наиболее сильный результат здесь получен Ч. Фефе р- маном, доказавшим в 1974 г., что биголоморфное отоб-
§ 20] ГРАНИЧНЫЕ СВОЙСТВА 349 ражение строго псевдовыпуклых областей с границами класса С°° продолжается в замыкание до отображения этого же класса. Этот результат Достигнут путем глубокого изучения геодезических в метрике Бергмана рассматриваемых областей г). Теоремы о продолжении на границу в плоском случае легко переносятся и на собственные голоморфные отображения. В пространственном случае это *не так, и здесь имеется лишь результат, полученный независимо Г. М. X е н к и н ы м и С. И. П и н ч у к о м2). Остановимся подробнее на его доказательстве, следуя С. И. Пинчуку. Лемма. Пусть D и G —строго псевдовыпуклые области в JDn, а /: D-*G — собственное голоморфное отображение. Тогда существуют постоянные ki, k2>0 такие, что для всех z е В kxe{z, dD)^e(f(z), dG)^k2e(z, dD). (1) А Любая строго псевдовыпуклая область в Сл является областью отрицательных значении плюрисубгармонической функции, гладкой в окрестности замыкания этой области (см. п. 55). Пусть G = {w^<Dn: г|)(оу)<0}, где г|) — такая функция; тогда в силу ее гладкости \ty(w) \<:ke(wt dG), или | ф °f (z) | ^ ke (/ (г), dG), гдегеОий>0- некоторая постоянная. Ho i|)°/~ отрицательная плюрисубгармониче- ская в D функция, следовательно, по лемме из предыдущего пункта |1|)°/(г) \^k'e(z, dD). Левая часть (1) доказана. Для доказательства правой части (1) рассмотрим множество E = {z^D: Jf(z) = 0} критических точек отображения /; по теореме Реммерта, цит. в п. 21, /(^ — аналитическое множество в G. Для w е G\/ (Е) мы положим Т(ш)= max ф(г), (2) где ф —плюрисубгармоническая функция, множеством отрицательных значений которой является область D. Так как / — собственное отображение, то число точек /-1 (w) г) Ch. Fefferman, The Bergman kernel and biholomorphic mappings of pseudoconvex domains. Inventiones math. 26 (1974), 1 — 65. 2) Г. M. Хенкин, Докл. АН СССР 210:5(1973), 1026-1029 и С. И. Пин чу к, цит. в сноске на стр. 345.
350 Г НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V конечно (и одинаково) для всех w е G\f (Е) и по свойству 3° из п. 32 ¥ плюрисубгармонична гв G\f(E). Так как /(^ — аналитическое множество, а функция Чг, очевидно, ограничена, то по теореме Грауерта —Реммерта, цит. на стр. 188, она плюрисубгармонически продолжается в G. По той же лемме из п. 55 для продолженной функции \Y (w)\^ke(w, dG), а так как W и ф отрицательны, то для w е G\f (Е) (2) можно переписать в виде | W (w) \ = =» min |<р(г)|, а так как в силу гладкости |<р(г)|^ zf=f~4w) ^ k'e (г, dD), то | V (w) | ^ k' min е (г, dD). Таким обра- zf=f~Hw) зом, fe (о;, dG)^k' min е (г, dD) для всех w ^ G\/ (£), а в силу непрерывности и всюду в G, т. е. ^(/(г), dG)^S ^-т-е(г, dD) для всех геО ► Теорема. Любое собственное голоморфное отображение f: D-+-G строго псевдовыпуклых областей в Сл продолжается до непрерывного отображения замыканий этих областей, причем продолженное отображение удовлетворяет в D условию Липшица с показателем 1/2: 1/(г')~/(г")1<£|г'~г"|1/2 для всех г', /.еб. (3) А Эту теорему мы докажем в дополнительном, предположении, что область G геометрически строго выпукла1). Так как граница dD принадлежит классу С2, то для любой точки zgD, достаточно близкой к dD, найдется шар BZ' czD с центром г' такой, что е(г, dD)=e(z, дВ2>), а так как G геометрически выпукла, то для любой ее точки w найдется шар Bw> zd G такой, что е (w, dG) = = e(w, dBw>) (рис. 48). Оценим модули производных компонент отображения / в произвольной точке г, достаточно близкой к dD. Без ограничения общности предположим, что центр соответствующего шара г'=0 и что z лежит на оси zn. Как мы видели в п. 51, метрика Каратеодори шара Bn = {\z\<iR} в точке г = ('0, zn) задается формой ^J2ln+14«a-|*»lf + (*2-|**!2)2/ W !) Полное доказательство см. в статье С. И. П и н ч у к а, цит. на стр. 345.
§201 ГРАНИЧНЫЕ СВЬЙСТВА 351 (она совпадает с метрикой Бергмана шара, см. формулу (18) п. 50). Если обозначить R — | zn | = г, то отсюда можно заключить, что существуют постоянные Хг и Яг, зависящие от R и такие, что шар в метрике Каратесдори свт Рис. 48. с центром г = ('0, zn) и радиусом е заключен между двумя эллипсоидами £(V^^/er) = J2^+lijt^<(V)2]. /=1.2 (5) (у этих эллипсоидов все полуоси, кроме п-и9 равны kfiVr, п-я полуось равна Xfer). Применим это к нашей ситуации (рис. 48). У нас радиус R шара Вг> зависит от области D, величина г = = e(z, 3D) и в силу (5) и свойств метрики Каратеодори при е достаточно малом Е (Хге У~г; Хггг) с В?*' (е) с В*» (е), где Вг (г) обозначает шар в метрике d с центром z и радиусом е. Аналогично для области G, положив w=f(z) и p = e(w, dG), будем иметь Вс° (е) с ВУ (е) с Е (Х2г Vp, Я2ер) (мы снова считаем, I что w' = 0 и w лежит на оси wn, см. рис. 48). В силу свойства сжимаемости метрики Каратеодори при голоморфных отображениях / \Всг°(г)\ с В°£ (е). Кроме
3,52 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V того, по лемме р<&2/\ следовательно, Рассматривая сужения координат f^ отображения / на прямые, проходящие через точку г, и применяя к полученным функциям одного переменного лемму Шварца, мы получим, что dh dzyj %геУкгг с с Х& Vr Ve(z, dD)9 . где постоянная с зависит только от областей D и G. Так как на компактных подмножествах области D производные -g— ограничены, то можно считать, что оценка (7) справедлива1) во всей области D. Неравенство (3) достаточно доказать для пар точек области D, расстояние между которыми не превосходит какой-либо положительной постоянной /0. Пусть г', г" — произвольные точки D и | г' — г" | = / ^ /0; выберем точки г'и г{ так, чтобы отрезки [г', z[] и [г", z\\ принадлежали D, имели длину / и расстояния e(zu dD), e(z"u dD) были не меньше I (это всегда можно сделать). Обозначим через у: [О, 1]->[г\ г[] линейное отображение такое, что 7(0) = г'» y(l)=z[; очевидно, \y'(t)\ = L Так как e(y(t), dD)^tl для всех / е [0, 1], то в силу оценки (7) 1 \f(z\)-f{z')\^\^£±dt = 2cV~l. Точно так же получается оценка | / (г[) — / {г") | ^ 2с Y'• Далее, длина отрезка [zj, г[1 не больше 3/, а его концы отстоят от dD не меньше чем на /. Пользуясь тем, что граница dD дважды гладкая и кривизна ее сечений двумерными плоскостями ограничена, можно утверждать, что при достаточно малых /0 для всех z е \zu z[] имеем е(г, dD)^y. Отсюда, снова пользуясь оценкой (7), мы / х) С постоянной, зависящей от D, G и рассматриваемого отображения.
§20] ГРАНИЧНЫЕ СВОЙСТВА 35Я выводим, что | / (г[) —/ (z[) | ^ Ъс У 2/ и, объединяя полученные оценки, находим, что 1/(0-/(01<сУ1=с|г'-аГГЛ, где с— постоянная, зависящая лишь от областей D и G и рассматриваемого отображения. Остается заметить, что из последней оценки, справедливой для всех точек z\ /eD, вытекает возможность непрерывного продолжения / в замыкание области Z), причем в замыкании продолженное отображение будет удовлетворять той же оценке ► Замечание. Из доказательства теоремы видно, что верен и ее локальный вариант: если области D и G удовлетворяют условиям теоремы в некоторых окрестностях их граничных точек, а /: D-*G — собственное голоморфное отображение, преобразующее одну окрестность в другую, то в первой окрестности / продолжается на dD с условием Липшица с показателем х/2. 57. Векторные поля. Для изучения граничных свойств функций и отображений полезно- подробнее рассмотреть строение векторных полей на границах областей или вообще на гладких подмногообразиях С*. Пусть М — такое подмногообразие действительной размерности г, и пусть локально в окрестности U оно задается уравнениями Ф/(*) = 0, /=1,...,/-', (1) где г' = 2я —•/*, а ср е С1 (£/) — действительные функции В соответствии с п. 23 мы определим действительную касательную плоскость к М в точке J как совокупность касательных векторов Т1(м)={°= 2а*£■>+**т: -°^)=0' >=1 '] (2) (производные берутся в точке £). Каждому оеГ[(М) мы л сопоставим вектор а= У аЛ ^- так, что v (ф) = 2 Re а (ф) 12 Б. В. Шабат, ч. II
354 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V для любой действительной функции ф, и обозначим T;(A1)=L= J a*dh Re^(9/) = 0, /-lf...f r'l (3) Допуская некоторую вольность, мы будем иногда и Тс (М) называть действительной касательной плоскостью, а векторы и — касательными кМ1). Так как 2п действительных координат векторов и^Т% (М) связаны г' = 2п — г независимыми R-линейными соотношениями, то Т^ (М) представляет собой плоскость действительной размерности г. Вектор и^Т^ (М) мы будем называть комплексным касательным вектором, если и вектор ше7\(М); в этом случае одновременно Re и (cpt) = 0 и Re iu (ф;) = 0, т. е. и(ф/) = 0, /=1, ..., г'. Совокупность таких векторов ТЦМ) = 1и= 2^^: и(Ф/) = 0, /=1 А (4) мы будем называть комплексной касательной плоскостью к М в точке £. Так как 7|(А1) определяется С-линей- ными соотношениями, то она является комплексной плоскостью, очевидно, принадлежащей Г; (М); ее размерность зависит от г и от расположения Г; (М) в комплексном пространстве. Примеры. 1) Действительное подпространство Un с €>п определяется уравнениями Zj — 2/=0, /=1, ..., п. Условия (3) дают df=uf, так что Тх (Ып) для любой точки хеКя состоит из векторов с действительными координатами: Тх(Ып) — &". Условия (4) приводят к равенствам а7==0, /=1, ..., п, так что 7*(IRn) = 0. 2) М = {геСл:^ = |'г|2}-эта действительная гиперповерхность биголоморфно эквивалентна сфере (см. задачу 22 к гл. I). Так л—1 п—1 как здесь ф(г) = *n~*a — ^ zkzk, то а(ф) = ^~ ^ akzk и в точке г = 0 имеем н(ф) = ~?. Отсюда видно, что Г0(Л1)={^Л = 0} и Г0(М)={гл = 0}. Теорема 1. Многообразие М cz Сп класса С1 является комплексным тогда и только тогда, когда в каждой его *•) Вектору и, как и v, соответствует в €п век гор \,alt ..., ап)
§20] ГРАНИЧНЫЕ СВОЙСТВА 355 точке действительная касательная плоскость совпадает с комплексной: 7С(М) = Ц(М) для всех ^sM. (5) 4 Если М комплексно, то в окрестности U любой точки ^gM его можно задать уравнениями /у(г) = 0, /=1, ..., /*', где /у голоморфны в (У и rankfg— j = r\ т-т ff + Ь ft —ft /. 1 ,ч Полагая ф/==—^—, qv+/=—-gp- (/= 1,..., г'), мы зададим его действительными уравнениями и тогда, согласно (3), = ja= 2а*а^: ReH(9/) = Rea(qv+/) = 0, /= 1,..., А Hoa(f/) = 0 в силу голоморфности /у, поэтому ReH(q)/) = в^е;^) = 0 и Rea(9^ + /) = yIma(/;) = 0, т. е. ы(/,-) = = 0, а значит, и (ф/) = и (qv+/) = 0 (/=1, ..., г')- Мы доказали, что любой и^Т^(М) принадлежит Т\{М), т. е. (5) имеет место. Обратно, пусть справедливо (5). Теорема локальна, поэтому можно ограничиться рассмотрением достаточно малой окрестности U произвольной точки t>&M\ без ограничения общности считаем £ = 0. Так как по условию Т0 (М) — комплексная плоскость, то ее действительная размерность четная, пусть она равна 2г. Выполняя, если надо, (D-линейную замену координат, можно добиться того, что Т0 (М) будет совпадать с плоскостью координат ^1» • • • 1 2/-I По теореме о неявных функциях тогда в окрестности U многообразие /И можно задать системой уравнений */ = /у 1*ь '••> гг>> 1 = ' + !> •••> Д> (6) 12*
356 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V где // — комплексные функции класса С1. Любой касатель- п a<k-fa- для всех г е М f| U должен обра- щаться в нуль на функциях If — ff (/ = г + 1 f ..., я), поэтому должны выполняться соотношения > ak ^— = О дъ dff (мы учли, что ^- = 0 и что д^- = 0 при &>г, ибо// зависят лишь от гъ ..., гг). Переходя к комплексно-сопряженным величинам, получим, что для всех '2 = (zi, ... ..., zr)^Ur, где £/' — проекция U в пространство координат 'г, выполняются соотношения 2<2ft*|('z)=0, / = r+l я.- (7) Остается заметить, что для всех z е U касательная плоскость Tz (М) взаимно однозначно проектируется на Т0(М)9 и следовательно, для векторов и^Т2(М) величины 'а = (а1, ..., аг) могут принимать любые значения из Сг. Поэтому (7) равносильна системе Коши — Римана: jL('z) = 0для 'z&U', все функции // из (6) голоморфны bU', и, значит, М — комплексное многообразие1) ► Эта теорема имеет глубокое обобщение для абстрактно заданных многообразий. Именно/ четномерное (пусть размерности 2г) многообразие класса С1 называется почти комплексным, если в слоях Тр (М) его касательного расслоения (в смысле п. 23) задан оператор Jp: Тр (М) -> Тр (М), который а) непрерывно зависит от точки psM, б) является R-линейным на слоях ТР(М) и в) его квадрат Jp = JpoJp равен тождественному отображению со знаком минус. Оператор J назы- рается оператором комплексной структуры в касательном расслоении. Если многообразие М—комплексное, то комплексные локальные координаты Zk^=Xk + ixr+fi индуцируют комплексную структуру и в его касательных плоскостях Тр(М) и в качестве Jр можно взять оператор умножения касательных векторов на /, который в базе д д . 5—» ••• » л— задается условиями OXi ох2г /р(аЙ = ^- '"ЫЬЬ-а^' *=' г- (8> х) Это доказательство обобщает соответствующую часть доказательства теоремы о вложенном ребре из п. 36.
I 20] ГРАНИЧНЫЕ СВОЙСТВА 357 Таким образом, всякое комплексное многообразие является почти комплексным. Однако в общем случае обратное неверно, и тонкая теорема Ниренберга — Ньюлендера дает необходимые и достаточные условия, при которых почти комплексное многообразие является комплексным. С этим кругом вопросов можно ознакомиться, например, по книге: Р. Нарасимхан, Анализ на действительных и комплексных многообразиях, «Мир», 1971. Другой крайний случай— это многообразия М, которые ни в одной своей точке не имеют комплексных касательных векторов; они называются вполне действительными многообразиями. Нетрудно видеть, что если Мс(Сл — вполне действительное многообразие," то его действительная размерность k^n. Примерами таких многообразий могут служить Rn или тор Тл=(ге(С'1: | zk | = 1, k = = 1, ..., п]. В дальнейшем нас будет интересовать случай границ областей в С" или вообще действительных гиперповерхностей. Пусть в окрестности U такая гиперповерхность S задается уравнением ф(г) = 0, где ф — действительная функция класса Сх(£/) такая, что \7ф = (^, ... , -~г-)ф;0 в U. Условия п | л k=] Re2>S =0' laku = 0, (9) определяющие соответственно касательную Г; (S) и комплексную касательную Ti (S) плоскости к S в точке £ е ^S(]Uy не вырождены в силу условия Уф=^0. Следовательно, Т^ (S) представляет собой действительную гиперплоскость, а Т\ (S) — лежащую в ней комплексную гиперплоскость касательного пространства Т; (€*) = TZ(&) (последние совпадают по теореме 1). Будем теперь считать, что точка £ е S —переменная, вместо касательных плоскостей 7\ и Ti рассмотрим векторные расслоения Т (S) и Тс (S), а вместо касательных векторов — гладкие сечения этих расслоений, т. е. соответствующие векторные поля (см. п. 23) По предположению, Уф Ф0 на S0 = S()U, значит, в каждой точке там отлична от нуля хотя бы одна производная ^-; не теряя
358 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V общности, можно предположить, что -^-фОяа S0. Тогда огп векторные поля будут С-линейно независимы на S0, а так как uf (ф) = О, то они являются сечениями расслоения Т° (S0) и служат базой этих сечений (их число равно комплексной размерности Тс (S0)). Используя векторные поля (10), можно доказать весьма любопытную теорему, найденную недавно Г. А лек- сандером1). Доказательство, которое мы здесь приводим, принадлежит С. И. Пинчуку. Теорема 2. Пусть В = {z ^ ©я: | z | < 1} — шар, U = = {2е1!л: | г — £° | < е} — окрестность его граничной точки £° и / = (/ь ..., fп) — биголоморфное отображение B(]U, продолжаемое в B(]U до отображения класса С1. Если f (дВ (]U) czdB и п > 1, mof продолжается до биголоморф- ного автоморфизма всего шара В. А Без ограничения общности считаем, что £° = /(£°) = «■ ('0, 1); условие /f(£°)^02) вместе с условием сохранения комплексной касательной плоскости к шару dff в точке £° приведут тогда к равенствам ~— (£°) = 0, / = п = 1,..., л—1 и -—■ (£°) ^= 0. Так как задающая шар п функция ф(г) = 2 г/2/"~ *> то векторные поля (-10) имеют вид На антиголоморфных функциях векторы И/, очевидно, равны нулю, а в силу гладкости uf(fk) = Q и на dB(]U. п Так как на dB[\U по условию 2 /*?а=1» а по только 1) Н. Alexander, Holomorphic mappings from the ball and polydisc, Math. Ann 209: 3 (1974), 249 — 256. 2) Как видно из доказательства теоремы 3 п. 55, это свойство выполняется во всех точках dB[\U.
§201 ГРАНИЧНЫЕ СВОЙСТВА 359 что сказанному uf(fkfk) =/*И/(/л), то на dB(]U мы имеем систему уравнений Ее можно рассматривать как линейную относительно функций }k с определителем Д, первые п— 1 строк которого состоят из функций W/(/i), ..., uf(fn), а последняя — из функций /i, ..., /Л. В точке £ == £°, очевидно, uf = j-9 а последняя строка имеет вид 0, ..., 0, 1 Следовательно, в этой точке Д отличается от Jf (£°) лишь множителем 2"(10)ф0 и, значит, также отличен от нуля. В силу гладкости Д(£)=т£0 для всех £едБр|£Л если окрестность U достаточно мала (что мы и предположим). Решение нашей системы имеет вид Ы£) Aft(C) А (О* ft-1. п. (12) где определитель ДЛ получается из Д заменой 6-го столбца столбцом свободных членов. Заметим, что функции щ (fk) = r=2"^-z'§| определе- ны в Вр|^> поэтому Д и Д* продолжаются с дВ (] U в B(]Ut причем можно считать, что и там Д Ф 0. Возьмем теперь комплексную прямую /i = = \z еСя: 22 = 4ь ... ... гп = сп}, cf = const, достаточно близкую к точке £° (рис. 49). Она пересекает Рио 49. ' {I *il <М> где rl= 1-2 |г*|», чем на границе д£/г этого круга uf(fk) =^сп^-— fy^ Для B(]U по кругу[/г / = 2, ..., я— 1 и при- 1дг, Мы видим, что на д£/г значения u/(fk), а значит, Д и
360 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ (ГЛ. V Ak совпадают с граничными значениями мероморфных в иг функций от zv Из формул (12) следует тогда,что fk\dut являются граничными значениями функций -J*-t антимеро- морфных в круге Ulm Но по условиям k\eut являются в то же время граничными значениями функций, голоморфных в 1/ъ и мы заключаем, что все fk рационально зависят от Zx при фиксированных z2 = c2i..., zn = cn (см. 'задачу 11 к гл. IV ч. I). Аналогично, заменяя /i прямыми //, на которых постоянны все координаты, кроме zf (/ = 2, ..., ft—1), мы получим, что fk рациональны по переменной zf (при фиксированных значениях остальных переменных). Наконец, аналогичное рассуждение можно провести и для прямой /, проходящей через точку £°, и пересекающей В по кругу, который принадлежит U (см. рис. 49) —мы получим, что fk рационально зависят и от координаты на I. Этого достаточно для того, чтобы утверждать, что все fk продолжаются до рациональных функций *по всем переменным (см. задачу 12 к гл. I). Из теоремы единственности для вещественно-аналити- п _ ческих функций теперь следует, что равенство ^]fkfk= 1 выполняется на всей границе дВ, значит, на границе нет полярных множеств /*, а поэтому их нет и внутри: отображение / голоморфно в В. Оно, очевидно, собственно и по теореме Пинчука из п. 55 биголоморфно, т. е. является биголоморфным автоморфизмом В ► Теорема Александера выражает чрезвычайную жесткость биголоморфных отображений пространственных областей: в описанной ситуации отображение полностью восстанавливается по условию соответствия сколь угодно малых кусков областей, примыкающих к границам1). Этот эффект является следствием переопределенности системы Коши — Римана для функций и отображений при п>1. Для дальнейшего полезно подробнее изучить строение рассматриваемых векторных полей. Фиксируем точку £ г) Александер доказал гипотезу о собственных голоморфных отображениях шара, о которой говорилось на стр. 345, с использованием эюй теоремы и теоремы Фефермана, цит. на стр. 349,
§201 ГРАНИЧНЫЕ СВОЙСТВА 361 действительной гиперповерхности S = {ф (г) = 0} и рассмотрим вектор -= У fib k=*l dzk dzk (13) (производные берутся в точке £). Так как Иет(ф) = = Re £ | Уф |2 = 0, то он принадлежит ^(S), а так как л для любого и= \ akfo- ^T\(S) эрмитово скалярное п произведение (и, т) = — i У ak ^- = 0, то он ортогонален Т\ (S). Таким образом, касательная плоскость Г; (S) представляет собой ортогональную сумму Т\ (S) и действительной прямой L^ = {Xt: XgR}: Tt(S) = n(S)®Lt. (14) Вектор т можно отождествить с вектором iVcp е СЛ; заметим, что вектор Рис 50. в смысле евклидовой метрики в R2/l ортогонален Т% (S), л ибо для любого w= /^ afej-G^(S) евклидово скаляр- k=\ ное произведение, равное действительной части эрмитова л (см. п. 1), равно Re У я*-р-=0. Поэтому вектор г = Уф £=1 имеет направление действительного градиента (grad ф) и действительная прямая N^ = {Xv: Х^Щ совпадаете нормалью к S в точке £. Таким образом, мы имеем ортогональное (в евклидовой метрике К2") разложение (рис. 50) П(И = П(5)0% (16)
362 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ Г ГЛ. V Как отмечалось в п. 23, лри изучении гладких комплексных функций естественно ввести 2я-мерное комплексное пространство где ak и bk — произвольные комплексные числа (мы будем называть его общим касательным пространством). В нем лежит подпространство $с (S) = {ше^ (Сл): w (ф) = 0} комплексной размерности 2я—1, содержащее Т\ (S) и r£(S) (см. формулу (2)); пространство T^(S) в нем не лежит, ибо для его векторов лишь Re и (ф) = 0. Если ввести вектор *-2('й«1-'ёя>™»- (,3'> fe=l соответствующий вектору т ^ Т% (S), то нетрудно убедиться, что он будет ортогонален (в смысле эрмитовой метрики в $С(СЯ)) как Tl(S), так и пространству Tl(S) =* = ш = У £* gj-: й (ф) = 0V, очевидно, ортогональному Tl(S). Вместо (14) мы получим ортогональное (в том же смысле) разложение ^(S) = 7^(S)0 7l(S)0Z4, (18) где Ц={Хтг: К е ©} —- комплексная прямая. Если ввести комплексную нормаль Nl = {Xv: ^еС}, где v —-вектор (15), то будем иметь ортогональные разложения т\ (И=т\ (S) © ni ^ (С»)=$с (S) © mi. (19) Аналогичные разложения можно написать для кока- сательных пространств (см. п. 23). Рассмотрим, на- п sr-d2fe, действующий на ком- плексные функции / класса С1 в окрестности V точки
§20} ГРАНИЧНЫЕ СВОЙСТВА 363 С eS = {ф (z) = 0} (производные берутся в точке £). Его можно разложить в ортогональную сумму д=дт®дм, (20) где dNf для любой / gC1 (U) имеет вид Хду, ^еС, а дт = д— dN называется касательным 6^-оператором. Ортогональность здесь понимается в смысле стандартной эрмитовой метрики комплексного пространства с базой d2ly ..., dln, двойственного пространству Т% (€Л); так как п дф= \, d2~dlk соответствует вектор v=V9, ортогональный к Tl(S), то направление dNq> ортогонально к S. Говорят, что функция / удовлетворяет в точке £ касательным уравнениям Коиш — Римана, если в этой точке дт/ = 0. Покажем, что это условие можно переписать в виде а/Л5Ф=о. (21) В самом деле, если дт7 = 0, то df =dNf = Xd(pi и, следовательно, по свойствам внешнего произведения df Д Д5ф = 0. Обратно, если выполняется (21), то дт[ Лдф = 0, а так как векторы, соответствующие drf и дф, ортогональны и дф=7^=0, ибо у нас Уф^О, то дт! = 0 (см. задачу 3 к гл. II). Условие (21) переписывается в виде системы уравнений с частными производными d2fd2k dzkdzf и I'» * if "" n)m Эти уравнения не являются независимыми: если в рассматриваемой окрестности, например, ^-ф0, то достаем точно написать их для / = я, &=1, ..., п— 1 и они примут вид ak(f) = 0, &=1, ..., я—1, где аА — касательные векторы (10). В самом деле, так как uk образуют базу Tl(S), то из последних равенств вытекает, что #(/)=«0 для любого вектора й^Т\(S).
364 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Это окончательно проясняет смысл касательных условий Коши —Римана. В ряде вопросов такая их форма удобнее, чем форма df /\dz\s = 0, принятая в п. 25. Пример. Рассмотрим опять биголоморфный! образ сферы S = {zeO; yn = \'z\2}. Здесь векторы (10) имеют вид а* = = Ту я г* *k з— и» значит, касательные условия Коши —Римана 2Х OZfi OZn записываются так: 2idzk-ZkWn> * ' -' /I~I" В случае п= 2 мы положим z1==z, z2 = & + #; уравнение 5 запишется в виде /=| 2 |2 и на 5 можно принять г, s в качестве коорди- нат. Так как ^- = — (*--H'Зг), а на S при фиксированном г и /=const, то единственное касательное условие Коши —Римана примет вид df . df dz lZ ds' В заключение остановимся на понятии скобки двух векторных полей. Рассмотрим действительную гиперповерхность S, определяемую уравнением ф(г) = 0, где теперь ф —функция класса С2 в окрестности S такая, что Уф ф0 на S. Пусть и — комплексное векторное поле на S, т. е. сечение расслоения Тс (S), а й — комплексно-сопряженное к и сечение TC(S). Композиция этих полей п 2 2°'I4+ 2 а'а*- не является векторным полем из-за второй суммы. Чтобы устранить ее, рассматривают коммутатор [и, й] = и°а — а<>и = = 2 2fl/^)s|;~ 2 (2 *'S?№ который называют еще скобкой Пуассона полей и и й9 при вычитании лишняя сумма сокращается и получается
§20) ГРАНИЧНЫЕ СВОЙСТВА 365 общее векторное поле —сечение расслоения S(S). Чтобы получить действительное векторное поле (т. е. сечение расслоения Tr(S))t мы будем вместо [и, а] рассмат- ривать i[u, й] —тогда коэффициенты при ^— и ^- будут комплексно-сопряженными. Как и раньше, мы заменим векторы i[u, й] их представителями из T(S) Скобка Пуассона оказывается связанной с формой Леви функции ф: п akr: поле комплексных касательных векторов на S, а т — ортогональное ему поле действительных касательных векторов вида (13), то в каждой точке £ е S эрмитово скалярное произведение п (i[u, Я], т)с= У ^г|са/Я* = Яс(ф, а). (23) 4 По правилу эрмитова скалярного умножения мы получаем (/[«. й],т) = - | *,&£. (24) Но из условия п «(ф) = 2-а*й"=0' которому удовлетворяет и, дифференцированиемг) г) При дифференцировании мы считаем, что поле и продолжено в окрестность S с сохранением равенства м(ф) = 0. Это можно сделать, например, так: пусть и — произвольное продолжение (класса С1) л V дф д - (и, v) поля и и v = 7 ;р- ^—; тогда поле и= и — -у-=—^ v будет иско- 6 = 1
366 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V п получаем Д(|^+ "*щк;) = ° *ля l=U...* п. Умножая эти равенства на а; и складывая, получим л 2 {a^S-k+d^ku'a") = 0- Теперь ясно, что (24) i,k=\ равносильно (23) ► Если поверхность S такова, что Н^ (ф, и)фО для всех ?eS и некоторого поля комплексных касательных векторов и (например, если S —граница строго псевдовыпуклой области, то это условие выполняется для любого такого поля без критических точек), то по теореме 3 для любой точки ?gS скобка i[u,u\ не ортогональна вектору т, определенному в (13). Отсюда следует, что соответствующие i[u, и] и т векторы в T£(S) не ортогональны в метрике $(©*)._ Но выше мы видели, что %г ортогонален (в последней метрике) как Рис 51 Tl(S), так и T\(S)9 следовательно, i[u9 а] не принадлежит ни T{(S)9 ни Tl(S) (рис. 51). Учитывая разложение (18), мы получаем следующий результат. Теорема 4. Если для гиперповерхности S значения формы Леей Н^ (ф, и) на поле и комплексных касательных векторов отличны от нуля, ^2-^=0 на S, то базой сечений' расслоения 5 (S) служат векторные поля uh uh определенные формулой (10), и скобка i[u, й]. Иными словами, каждое сечение § (S) представляется в виде w (0 = 2 («/ (0 Щ + Р/ (0 «/) + Y (01^. «] (25) с комплексными а/, (3/ и у. мым. В самом деле, равенство ы (ф) = 0 равносильно (м, о) = 0 и, очевидно, выполняется, ибо (v, u) = 'Vq ; Кроме гого. w|5=ttis и (и, у)!с = 0, так что наше поле на 5 совпадав! с искомым
§20] ГРАНИЧНЫЕ СВОЙСТВА 367 Особенно простой вид принимает теорема при п = 2: «.о дер д дер д _ для каждой точки ^gS векторы " = -^ ^ дГдГ9 и скобка [и, й] порождают (над полем С) пространство $(S) комплексной размерности 3. о8. Граничные свойства функций. Здесь мы рассмотрим некоторые применения понятий, введенных в предыдущем пункте. Начнем с недавнего результата А. Е. Туманова1), в котором используется теорема о структуре векторных полей. Теорема 1. Пусть действительная гиперповерхность S а СЛ задана уравнением ф (г) = 0, где ф — функция классаХ!2 в окрестности S такая, что (Уф) |5^= 0, и в каждой точке С е 5 форма Леей Яс(ф, и)ф0 (1) для любого комплексного касательного вектора ифО. Если функция feC2(S) удовлетворяет на S касательным условиям Коти — Римана и Im / = 0 на множестве Е a S положительного (2п — Химерного объема, то f = const на S. < Мы приведем доказательство в простейшем случае E — S. Если и — любое комплексное векторное поле (сечение TC(S)), то й(/) = 0 на S, ибо / удовлетворяет касательным условиям Коши —Римана. Так как / действительна, то отсюда следует, что и u(f) = 0 на S, а значит, и скобка [и, a](f) — 0. По теореме 3 предыдущего пункта общий касательный вектор о/ е $; (S) представляется в виде w = u' + u"-$- у [и, й], где и, и' е Т\ (S), и!' sr[(S) и у — комплексное число. Из сказанного выше следует, что до(/) = 0 для любого такого вектора до, поэтому / = const на S ► Условие (1) в этой теореме существенно. В самом деле, пусть функция ф, определяющая гиперповерхность S, плюригармонична в окрестности S, т. е. #^(ф, и) = 0 (см. п. 4). Если *ф — сопряженная к ф функция, то / = = я|) + £ф голоморфна в окрестности 5 и не постоянна, L) А Е Туманов, О граничных значениях голоморфных функций нескольких комплексных переменных, Успехи матем. наукг т 29, вып 4(1974), 158—159.
368 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ ТЛ. V ибо (Vcp) |5 ф О, — таким образом, Im/ = 0 на S, но /|s=7^= Ф const по теореме единственности. Как уже говорилось, условие (1) заведомо выполняется на границах строго псевдовыпуклых областей, а граничные значения функций, голоморфных в области и класса С1 в ее замыкании, удовлетворяют касательным условиям Коши —Римана. Поэтому теорема 1 по существу относится к граничным свойствам: если функция / голоморфна в строго псевдовыпуклой области D а С", я>1, принадлежит С2 (D) и Im / = 0 на множестве Е czdD положительного (2п— 1)-мерного объема, то / = const в D. При п= 1 такая теорема, очевидно, неверна, равно как и для не строго псевдовыпуклых областей при п>\ (см. ниже). Из теоремы 1 следует, что если DciC", я >1, —строго псевдовыпуклая область и функция / ^0(D) ПС2(D) такова, что |/|=с = const на множестве EczdD положительного (2п— 1)-мерного объема, то / = const в D1). А. Саддулаев2) доказал это другими методами для функций, голоморфных и ограниченных в строго псевдовыпуклых областях D cz Сл, я>1, у которых |/(г)|-> -> const при г->£ по некасательным направлениям, но зато Е является открытым подмножеством dD\ для множеств положительного (2п— 1)-мерного объема доказательство еще не получено. При п=\ это утверждение неверно (контрпример: z в единичном круге £/), равно как оно неверно при я>1 для не строго псевдовыпуклых областей (контрпример: |^i| = l на открытом подмножестве границы бикруга U2). Перейдем к другим граничным свойствам. В предыдущем пункте мы видели, что комплексная структура (С* порождает неравноправность направлений в касательных плоскостях к границам областей DczC". Именно, в касательной плоскости Т^ (dD) выделяется комплексная касательная плоскость T\(dD) и ортогональное к ней направление вектора т^. х) Для доказательства достаточно заметить, что при с —0 утверждение следует из граничной теоремы единственности, которую нетрудно свести к соответствующей геореме из одного переменного, а при с>0 можно применить теорему 1 к функции In/, голоморфной в пересечении D с окрестностью Множества «S. 2) Печатается в Матем. сб.
§20] ГРАНИЧНЫЕ СВОЙСТВА 369 В ряде граничных свойств голоморфных функций различие этих направлений проявляется очень резко. Конечно, такое различие проявляется лишь для функций нескольких переменных, ибо при п = 1 пространство Tl(dD) нульмерно и касательная к dD идет по направлению тс. В качестве простейшего примера, в котором проявляется указанное различие, приведем результат, недавно полученный Е. М. Ч и р к о йг). Чтобы сформулировать его, обозначим через ^ = т^—г единичный вектор нормали к dD в точке £ (см. предыдущий пункт), через б£(г) = =^= | Re (г — £, v^) | — расстояние точки z до действительной касательной плоскости 7\(dD) и для фиксированных а, £>0 и е, 0<е<1, рассмотрим область /ts = {*e=D: |(2Г —С. vc)|<(l+a)6^), |г-ЕГ<АаГв(*)}. И+е, (2) В направлении Т{ эта область касается dD, а в направлении Т£ образует с ней острый угол (рис. 52). В самом деле, если z принадле- _. жит гиперплоскости / на рис. 52, проходящей через Vg и Тс, то |(z-£, vc)| = = 6^ (г), и первое условие в определении К% выполняется автоматически, а второе дает g2 + Л2 < < kr\1+e (смысл £ и т] ясен из рисунка); пересечение 5/С^П/ является поверхностью I2 + Г)2 = &Г)1+е, касающейся Г| в точке £. Если же г принадлежит гиперплоскости //, проходящей через vs и т^, то |(г —£, vc) | = = |зг — S |. поэтому для г, достаточно близких к £, второе условие в определении /Cs следует из первого, а первое дает ^2 + л2<(1+а)2л2; пересечение дК$ П // вблизи £ Рис. 52. l) Е. М. Чирка, Теоремы Линделефа и Фату в О, Матем. сб. 92 (1973), 622 — 644. 13 Б. В. Шабат, ч. II
370 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V представляет собой пару пересекающихся плоскостей £ = ±]/2а + а2г]. В теории функций одного комплексного переменного есть теорема, по которой функция, голоморфная и ограниченная в области D, имеющая предел при z->£^dD по направлению нормали vg, стремится к тому же пределу при г->£ по любому направлению, некасательному к 3D (теорема Линделёфа). Как показывает простой пример, приближения по касательным направлениям нужно исключить: функция f(z)=e-i/z голоморфна и ограничена в круге {\z— 1|<1}, а в граничной точке z = 0 ее предел ло некасательным путям равен нулю, в то время как предел по касательным путям не существует. При п>\ ситуация меняется, допускаются и приближения по некоторым касательным направлениям, а именно — комплексным касательным направлениям. Справедлива Теорема 2 (Е. -М. Чирка). Если функция f голоморфна и ограничена в области DcC/l и при z->£^dD по направлению действительной нормали Af£ (m. е. прямой £==£ + /v£, /eR) она имеет предел А, то тот же предел она имеет при г->£ по точкам г^К^ОО, где К^ —область, определенная в (1). <4 Для простоты мы проведем доказательство для случая, когда область D есть единичный шар В (общий случай см. в цит. статье Е. М. Чирки). Без ограничения общности считаем, что £ = ('0, 1); так как здесь ф(г) = = | z |2 — 1, то Vcp = z и V£ = £. Комплексную касательную плоскость к дБ б точке £ мы обозначим через Тс (при нашем выборе £ она определяется уравнением zn=l), а через 71 = {('г, 1-Х): 'z е С*-1} — плоскость, параллельную Т°; Выясним вид пересечения B^ = Tl(]В. Для этого проведем через £ комплексную нормаль Afc = {('0, t): /^©} к дВ\ точкой ее пересечения с 7! будет ^ = ('0, 1— К). Пересечение Т%[\дВ определяется условиями | 'г |2 + + 11 — Я, |2 = 1, zn = 1 — X, первое из которых переписывается в виде |'z|a = 2ReAr— \%\2. Таким образом, Вх представляет собой шар в плоскости 7! с центром с\ и радиусом /?я, = V 2 Re Я — | А, |2: BK={z<=Tb |г-сх|</гх}. (2)
§20] ГРАНИЧНЫЕ СВОЙСТВА 371 Теперь выясним вид пересечения Вх = Т°х(]К^ Неравенства, определяющие К$, в нашем случае таковы: l^-l|<(l+a)|Re(3n-l)|,r2|2 + |2/l-l|2<*|Re(2/l-l)|^. Так как zn— 1 =— Я на 7я, то В'% определяется неравенствами |Я|<(1+а)^еЯ|, \'z\2<k\ Re Я |1+е -1 Я |2, т. е. также представляет собой шар в плоскости Tj с тем же центром сх и радиусом /?я = Vk | Re Я |1+е — | Я |2, В( = {геП: |*-3i|<**b |Я|<(1+а)^еЯ|. (3) Отношение квадратов радиусов шаров В'% и Б*, ^(\2 *| ReA,|l+e-|*,|» ^ .#*,/ 2 ReA, —1Л, |2 £ | Re Я, |е 2-1X1 а, ReA, а так как у нас <1+а, то §^->0 при Я-*0. |ReX| Так как / по условию ограничена в В, пусть |/ (г) ^Л1, то по лемме Шварца из п. 9 для всех 2G Вх имеем 1Ш-/Ы1^^|^-^|, а если геВ{, то \f(z) -ffa)l< =^2А1 ^. Точка ^ принадлежит комплексной нормали N{ и при Я->0 стремится к £. По теореме Линделёфа для одного переменного, примененной к кругу Л^О^» из существования предела f (г) при г-»-£ по действительной нормали N^(]B и условия | Я | < (1 + a) | Re Я | следует также существование Нт/(^) = Л. Так как п--*'0, то а,-*о *я из последнего неравенства мы заключаем, что тот же предел существует и у f(z) при г-*£, 2Ei(s ► Заметим, что для произвольных касательных направлений утверждение теоремы становится неверным: функ- ция /Чг) = п£— голоморфна в единичном шаре J5c(b2 и 1 _ I у 12 ограничена в. нем, ибо \f(z)\^ « ^2, а при 2, стремящемся к граничной точке £ = (1, 0) по поверхностям 1— zx = %Zfr касающимся дВ в точке £, имеет различные пределы. Для областей с негладкими границами теорема также неверна: функция / (г) =— голоморфна и ограничена 13*
НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V в области {г е С2: |*i|<|za|}, н0 пределы ее при г->(0, 0) по различным прямым {z1 = kz2} различны. Если в доказанной теореме комплексные касательные направления играют, так сказать, положительную роль (их можно касаться при приближении к границе, сохраняя нормальное предельное значение функций), то в некоторых вопросах они могут играть роль отрицательную. Проиллюстрируем это примером, принадлежащим Е. А. Пол ецком у. Пример. Комплексная кривая {г? + г\— 1} в С2 касается сферы дВ = {\гг [2 + |г2|2=1} по кривой y = {z(=dB: Im 2! = 1т22 = 0} действительной размерности 1 (это — единичная окружность *J + *f = 1 в действительном подпространстве С2). В точках 2 е дВ комплексное касательное направление опреде- - д д , ляется вектором w = z2- ^Г (см. предыдущие пункты), атак OZi С/22 как Zf и z2 действительны на у, то в точках у это направление совпадает с направлением *2г х15- касательной к у. Таким обра- зом, 7 в каждой своей точке имеет комплексное касательное направление. Отображение /: В ->- С2 с координатами Мг) = г? + г!, M*) = *i (*! + *!-1) W и с якобианом Jf (г) = 2г2 (1— г\ — zl) локально биголоморфно в £\{г.> = 0}. В частности, оно биголоморфно в некоторой строго псевдовыпуклой области D с В, часть границы которой есть кусок сферы дВ, содержащий участок кривой у. Отображение / непрерывно продолжается в D и стягивает в точку (1, 0) принадлежащий dD участок кривой у. Конечно, образ /(D) = G не может быть строго псевдовыпуклой областью, ибо в этом случае обратное отображение /~г по теореме п 56 было бы непрерывным в G и не могло бы растягивать точку (1, 0) в кривую 7- Ясно, что границы не строго псевдовыпуклых областей могут содержать комплексные кривые, которые стягиваются в точку биголоморфными отображениями. Приведенный пример показывает, что и на границах строго псевдовыпуклых областей кривые, идущие по комплексным касательным направлениям, могут обладать тем же отрицательным свойством. Таким образом, граничные свойства биголоморфных отображений пространственных областей существенно отличаются от свойств конформных отображений плоских областей. Сколько-нибудь развитой теории, здесь еще не существует.
§20] ГРАНИЧНЫЕ СВОЙСТВА 373 59. Порождающие многообразия. Последний класс, который мы хотим описать, — порождающие многообразия. Так называются многообразия М с С", у которых в каждой точке z ^ М линейная оболочка с комплексными коэффициентами векторов действительной касательной плоскости TZ(M) совпадает со всем пространством Юя. Например, порождающим является действительное подпространство КЛс=(СЛ; в (D2 плоскость {£i = z2} является порождающей, a {z1 = z2} — нет. Очевидно, условие, что М — порождающее многообразие равносильно тому, что ни одна касательная плоскость Тг (М) не лежит ни в каком (п—1)-мерном комплексном подпространстве СЛ, т. е. в комплексной гиперплоскости. Действительная размерность k порождающего многообразия М с: СЛ, очевидно, не меньше п, а при k = n порождающие многообразия — это вполне действительные многообразия (см. п. 57). Замечание. Многообразия класса С1 и действительной коразмерности 2, которые не являются порождающими ни в одной своей точке, непременно являются комплексными гиперповерхностями. В самом деле, если М — такое многообразие, то в каждой его точке z действительная касательная плоскость Тг (М) принадлежит комплексной гиперплоскости, и значит, совпадает с ней, т. е. Tz(М) = Тсг(М) для всех 2GiH-no теореме 2 п. 58 многообразие М комплексно. Порождающие подмногообразия границ областей в С* играют яркую роль в граничных свойствах голоморфных функций и отображений. Укажем для примера недавние результаты С. И. Пинчука в этом направлении. Множество £сД где D — область в СЛ называется множеством единственности, если любая функция /e^(D), непрерывно продолжающаяся на Е1) и равная там нулю, тождественно равна нулю в D. Таким свойством обладает, например, любое (2л— 1)-мерное подмногообразие границы dD, а среди подмногообразий дЬ меньшей размерности есть такие, которые являются множествами единственности, и такие, которые ими не являются (остов единичного поликруга £/2 — множество единственности, a {z^.dU2: гх = 1} — нет, хотя оба множества — многооб- х) Это условие существенно, если Е с: dD.
374 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ ( ГЛ. V разия действительной размерности 2). Справедлива следующая граничная теорема единственности: Теорема 1. Пусть D с: Сл — область с границей класса С2, а Е — подмногообразие 3D той же гладкости. Если Е — порождающее многообразие, то оно является множеством единственности. Не имея возможности останавливаться на доказательстве1), укажем лишь его идею. Легко доказывается, что порождающее многообразие Е является множеством единственности, если оно принадлежит D. В самом деле, так как голоморфные функции, не равные тождественно нулю, обращаются в нуль на аналитических множествах, то достаточно доказать, что Е не содержится ни в каком аналитическом множестве А с D комплексной размерности т<я. А это доказывается индукцией по т: при т = 0 утверждение очевидно; пусть оно верно для множеств размерности, меньшей т, и Е а Л, dim$A = m. Так как в регулярных точках А касательная плоскость имеет комплексную структуру, а £ —порождающее множество, то Е не может содержать регулярных точек Л. Следовательно Е принадлежит множеству критических точек А, которое является аналитическим множеством размерности, меньшей т (см. п. 23), а это противоречит индуктивному предположению. Трудная часть состоит в доказательстве того, что если / = 0 на порождающем многообразии ЕадЬ, то она равна нулю и на некотором порождающем многообразии, принадлежащем D. Эту трудность С. И. Пинчук преодолевает при помощи одного приема, предложенного Э. Бишопом. Сделанное выше замечание о порождающих многообразиях действительной коразмерности 2 приводит к такому следствию теоремы 1: Следствие. Пусть область Dc= Сл имеет границу dD класса С2, которая не содержит комплексных гиперповерхностей (например, D —строго псевдовыпуклая область). Тогда любое многообразие MczdD класса С2 и действительной размерности 2п—2 является множеством единственности. l) G. И. Пинчук, Граничная теорема единственности для голо* морфных функций нескольких переменных, Матем. зам., 15, №2(1974).
§ 20] ГРАНИЧНЫЕ СВОЙСТВА 375 Граничная теорема единственности обобщается и на голоморфные отображения. Пусть DdC* — область с гладкой границей, Е с 3D — порождающее многообразие, а/: D->Cm —отображение, голоморфное в D и непрерывное в D. Если М = f (Е) — тонкое множество (в том смысле, что существует плюрисубгармоническая в окрестности М функция и=£ — оо и такая, что и\м =— оо), то / — вырожденное отображение, т. е. / (D) не содержит внутренних точек1). В заключение остановимся на обобщении знаменитой теоремы об острие клина, также недавно полученном С. И. П и н ч у к о м2). Эта теорема была доказана в 1956 г. Н. Н. Боголюбовым и нашла много важных приложений в анализе и математической физике. Мы сформулируем результат Пинчука в упрощенном виде. Пусть в области D с: ©л задано п действительных функций ф; ^ С2 (D) таких, что на множестве M = {zgeD: ф1(г) = ... = фя(г) = 0Ь (1) которое предполагается непустым, йщ Д ... Д (1ц>пф0. Это условие означает, что действительные гиперповерхности S, = {z ^D: фу(г) = 0} пересекаются в общем положении и их пересечение М — многообразие действительной размерности п. Теорема 2. Если многообразие М является порождающим и функции /+ и /", голоморфные соответственно в областях D+ = {z gD: ф1 (г) > 0, ..., Фп (г) >0}, D~ = {z<=D: Ф1(г)<0, ..., <ря(г)<0), u непрерывно продолжаются на М, а на М их значения совпадают: f+ \м = f~ \м, то f+ и f~ продолжаются до функции /, голоморфной в окрестности М. 4 Ограничимся случаем я = 2 и обозначим Uj = {z ^ D: Ф/(г)>0}, U4={z ^D: Ф/(г)<0}, /=1, 2; предположим еще дополнительно, что /± продолжаются в D± до функ- г) См. СИ. П и н ч у к, цит. на стр. 374, а также А. С а д у л- лаев, Докл. АН УзССР, 7 (1974), 8-10. 2) G. И, П и н ч у к, Теорема Боголюбова об «острие клина» для порождающих многообразий, Матем. сб., т. 94 (1974), 468—482.
376 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V ций класса С1. Области U±li U±2 образуют открытое покрытие D\M, и мы положим /i12 = /+, /i_!_2 = — /-, Л_12 =s = А21 = 0. Так как U12 = {/х f| U2 = D+, f/.^ = f/^ f| f/_2 = — D- и тройных пересечений у нас нет (рис. 53), то {На$\, а, р = ± 1, ± 2 — голоморфный коцикл (см. п. 38). Допустим сначала, что соответствующая ему первая проблема Кузена разрешима, т. е. существуют функции ha^@ (Ua) такие, что Лар = up —/ia или подробнее f+ = h12 = h2—hu t = — Л-1-2=Л-1 — h-2, О =/l-i2 =/l2 — ft-1- (3) Рис 53. Из последних функции двух уравнении мы заключаем, что ( hx в Ul9 [ 1ц в £/2, ft \ Л_2 в £/-2, ^2 } А-1 в t/el (4) голоморфны соответственно в объединениях 6^2 (J f/_2 и £А11^-ь Так как пересечение dUi(]dU^t = dU2(]dU^1 = M Рис. 54, по условию — порождающее многообразие действительной коразмерности 2, то, согласно сделанному выше замечанию, оно не может быть комплексным. По теореме о вложенном ребре из п. 36 отсюда следует, что gi и g2 голоморфно продолжаются в окрестность М — пусть соответственно в области, которые на рис. 54 обозначены через G\ и G2.
§20] ГРАНИЧНЫЕ СВОЙСТВА 377 Но тогда функция g2 — gi голоморфна в пересечении G1[\G2y которое содержит окрестность М, а, как видно из (3) и (4), эта функция равна f+ в U12 — D+ и равна f~ в iy_!_2==D-. Она дает, таким образом, нужное голоморфное продолжение f. Остается доказать, что голоморфный коцикл {Аар} является кограницей, т. е. что он разрешим в голоморфных функциях (см. п. 38). Это доказательство мы проведем по той же схеме, что и в гл. IV, только вместо гладких придется работать с обобщенными функциями1). Прежде всего заметим, что коцикл {ЛаР} разрешим в кусочно- голоморфных функциях: можно положить /2"\0 в(/.12, '-"{о в£/м. (5) а остальные fa = 0 — тогда h12 = /2 — fu hi-ъ = /-2 — /1 и т. д. Отклонение этих функций от голоморфных определяется их производными по zv, которые надо понимать в смысле обобщенных функций. Например, если г|) ^ Cf (U2) — основная функция, т. е. функция класса С00 с носителем, компактно принадлежащим U2y то под -—- следует понимать функционал (-l)v где v, /=1, 2 и / Ф v (мы учли, что в С2 действительный элемент объема йх = \АЛ dz /\dz =— -jdz /\dz), или /—, *)> - - ^ J <*(M>) Л dz Д d2f = \dzv> */ [ h12ty dz Д dzf (6) (-l)V SifWf *) По поводу используемых далее результатов теории обобщенных функций см книгу Хёрмандера, цит. на стр. 209,
378 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V (мы воспользовались формулой Стоксаг) и учли, что \|э = О в окрестности д112). Как и следовало ожидать, носитель -—^ сосредоточен на Sif|^2. Аналогично вычисляется обобщенная функция -gj^-; ее носитель сосредоточен на Sif|^-2» но ориентация Si здесь противоположна предыдущей: (^'^У-Ч11 \ h-^dzfxdlj (7) (см. рис. 53). Так как пересечение Sif|^2 и Sifl^-2 совпадает с М, а на М у нас по условию /i12 =/^ =/"-=* — — й-1-2, то формулы (6) и (7) можно объединить в одну: для любой функции г|)еС^°(Ь) , . (^nv г» ( Л12 на Si П ^2; <Pv, »> — V-j|A«AA*/. й = | _/,_,_, на Sint/_2, (8) причем сужения pv на £/±2 совпадают соответственно с обобщенными производными -~=^. Таким образом, в D глобально определена дифференциальная форма со = p1dz1 + p2dz2 с обобщенными коэффициентами, носители которых сосредоточены на Si. Покажем, что она замкнута, т. е. что -^ ^р- = q равна нулю в смысле обобщенных функций. В самом деле, для любой г|) ^ Q° (D) имеем D X ^Р \ / ^ Ч ЧР2'^> чРь^/' 1) Она применима в силу нашего дополнительного предположен ния о функциях /*•
§20] ГРАНИЧНЫЕ СВОЙСТВА 379 а так как -Ц-<=C~(D), то по формуле (8) <* +> = -4 \h$Ldz Л ^-1 J А -g-Л Л *.= Но h на Si удовлетворяет условиям Коши — Римана, следовательно, там hdty = d (Лф), а 5 (top) Д dz = d (to|?) /\ dz = = d(htydz), и тогда формула Стокса дает <<7, Ч>> = —J- jjd(to|>dz) = — ~ J tofdz = Q, ибо \j) = 0 в окрестности dSi. Это и означает, что q = 0 в смысле обобщенных функций. Так как утверждение теоремы локально, то без ограничения общности можно Считать D областью голоморфности. Тогда каждая форма с обобщенными коэффициентами, замкнутая в D, является точной, т. е. в D существует обобщенная функция и такая, что ди = а> или ^- = рх (v=l, 2). По построению у нас pv\и+2= df2 > следова* тельно, полагая f±2 — u — fi±2> мы найдем, что | = |-'.-«.», |U _.§*_„,_ о в l/_s. Но обобщенное решение уравнений Коши — Римана является голоморфной функцией, значит, h2 ^ © (U2), /i_2 е ® (£/_2). Кроме того, так как носители функций pv сосредоточены на Si, то функция и голоморфна в областях U±1 и можно положить Лх = — и в Uг и h-± = — и в U-lt Теперь легко видеть, что ha$ = hfi — ha для всех а, р=±1, т. е. {ЛаР} является голоморфной кограницей ► Заметим, что в общей формулировке теоремы Пинчука, как и в теореме Боголюбова, предполагается лишь, что f± имеют на М предельные значения в смысле обобщенных функций и что совпадают они в том же смысле. Условие, что многообразие М является порождающим, существенно: если, например, М содержится в комплексной гиперповерхности, то найдутся функции /± е © (D±), равные нулю
380 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ I ГЛ. V на М, но не продолжающиеся в окрестность М до одной голоморфной функции. Классическая теорема Боголюбова получается из теоремы 2 в частном случае, когда М является областью из К" — действительного подпространства Сл. В этой теореме, кроме того, дается оценка области, в которую продолжаются функции /±. Ее доказательство можно найти в § 27 книги В, С. Владимирова, цит. на стр. 201. ЗАДАЧИ 1. Пусть D—область в Сл и К (g D. Тогда любое голоморфное отображение /: D-+K имеет одну и только одну неподвижную точку. 2. Доказать, что если последовательность биголоморфных отображений f*: D—*G, где D и G—ограниченные области в О, сходится равномерно на компактных подмножесгвах D, то предельное отображение / либо биголоморфно, либо отображает D на аналитическое множество, принадлежащее dG. 3. Если последовательность биголоморфных отображений f*; D-*-Dv сходится равномерно на компактных подмножествах области D, то предельное отображение / либо тоже голоморфизм, либо вырождено в том смысле, что якобиан Jf (г) = 0 в D. 4. Пусть D—ограниченная область в О и /С—-компакт в D Тогда множество всех автоморфизмов ф области D таких, что ф(а)е/С, где а—некоторая фиксированная точка D, является компактом в пространстве (о (Dt D) с топологией ' равномерной сходимости на компактных подмножествах D. 5. Если ф! и ф2—голоморфные отображения области D в себя и ф=ф^ о ф2—автоморфизм D, то фх и ф2—тоже автоморфизмы. 6. Доказать, что любое биголоморфное отображение /: D-+G, продолжаемое да гомеоморфизма D->5, преобразует границу Шилова области D в границу Шилова области G. 7. Группа Г автоморфизмов ф области D cz Сл называется дискретной, если , множество образов ф (г) фиксированной точки г е D при всевозможных ф е Г не имеет в D предельных точек. Доказать, что для любой дискретной группы Г автоморфизмов D ряд ^ I ^ф i2» Фег где Уф —якобиан отображения ф, сходится равномерно на любом компакте из D. 8. Пусть Г—дискретная группа автоморфизмов области D с Сп и D/Г — множество классов эквивалентности по отношению: г'^г", если существует феГ такой, что ф(г') = 2". Если область D ограничена, а множество D/Г компактно, то D —область голоморфности. 9. Для того чтобы трубчатый конус Т = Кх&п (у), где /С —конус в Un (х) с вершиной * = 0, был голоморфно эквивалентен ограниченной области, необходимо и достаточно, чтобы К не содержал прямых.
ЗАДАЧИ 381 10. Для того чтобы трубчатая область голоморфности была голоморфно эквивалентной ограниченной области, необходимо и достаточно, чтобы ее основание не содержало прямых. 11. Пусть /: U-+Bn, f (0) = 0 — голоморфное вложение круга £/ = { |£|<1} в шар Вп. Если сужение на f (U) метрики Бергмана в Вп совпадает с индуцированной этим вложением метрикой Лобачевского в U, то /((У) —пересечение Вп с комплексной прямой /эО. 12. Доказать, что на любом гиперболическом многообразии М метрика Кобаяси индуцирует топологию М, т. е. что совокупность шаров Кобаяси составляет базу открытых множеств на М с обычной топологией. 13. Доказать, что множество М, которое получается из С2 выбрасыванием комплексных прямых {гг = 0\, {z1 = l}, {г2 = 0} и {zi = z2}, гиперболично. 14. Если целые функции / и g одного переменного удовлетворяют тождеству fm-\-gn = 1, где т и л —целые числа такие, что —| < 1, то / и g постоянны. (У к а з а н и е. ~ Доказать, что кривая izm + + 2^=11 с С2—гиперболическое многообразие.) 15. Доказать, что область D = {z = Cn: \г | < 1, zn Ф 0} является псевдовыпуклой областью, которую нельзя задать как множество отрицательных значений плюрисубгармонической функции. (Указание. Воспользоваться теоремой Грауэрта —Реммерта, цит. на стр. 188, и принципом максимума.) 16. Пусть D — область в Ст и f: D ->■ С* — невырожденное отображение класса С1 (D); многообразие Af = {z = /(t):jGD} является вполне действительным тогда и только тогда, когда ранг лХ2т-матрицы (——9 —4-] всюду в D равен 2т Частный случай: если п=2т и М — график вектор-функции /= (fl9 ..., fm), то это условие принимает вид det (^-=- j Ф 0. \ас/ 17. Пусть D — область голоморфности в Ст и многообразие М czCn задается системой уравнений г/=//(г), / = т+1, ..., л, где г = = (2Х, ..., гп) и функции fj^C*(D) Если М— вполне действительное многообразие, то оно является пересечением убывающей последовательности областей голоморфности из (X (Указание. Дока- п жите, что ф(г)= 2 12/~"//(2)!2 строго плюрисубгармонична /=m + l в окрестности М.) 18. Пусть фх, ..., фт —гладкие действительные функции в области^ Dc=d>(m_<n), М={ге=0: фх(г)= ... = фт(2) = 0} и со = = dq>i Д ••• Л дфт ф 0 на М Будем говорить, что гладкая на М функция. f0 удовлетворяет на ЛГ условиям Коши — Римана, если существует ее гладкое продолжение / в окрестность М такое, что df Д 5 = 0 на М. Доказать: а) это условие не зависит от выбора продолжения /; б) если /0 удовлетворяет на М условию Коши —
382 НЕКОТОРЫЕ ВОПРОСЫ ГЕОМЕТРИЧЕСКОЙ ТЕОРИИ [ГЛ. V Римана, то продолжение / можно выбрать так, чтобы df на М обращалась в нуль. 19. Пусть 5 = {геО: ф(г) = 0}—действительная гиперповерхность класса С2, на ней Уф=й=0 и Яс(Ф,а)- J д2ф - п /, *=1 dzf dzk ■=- afak = для всех agT* (5). Тогда для любой точки JgS найдется окрестность и% и функция h (z, f)i непрерывная в U^Xl, где /=f0, 1] cz R, и голоморфная в (/г при каждом /е/ такая, что Sflt/t = = U {Л (г, 0 = 0}. 20. Пусть D с СЛ, п > 1, — строго псевдовыпуклая область, f&0(D)[\C{D) и £ — непустое открытое подмножество dD. Доказать, что если |/|=^=const на Е, то / = const. (Указание. Рассмотреть сечения D комплексными прямыми /, для которых 1[]дЬ аЕ.) п 21. Форма А,=—дд \ г |2= -_- У dzk Л ^ является евклидовой формой площади на любой комплексной прямой в СЛ, а —г %т, где А,т = А, Д ... ДА, (т раз)—формой объема на т-мерной комплексной плоскости (для некомплексных плоскостей это не так). 22. Евклидова форма объема на действительной гиперповерх- 1 dcd> ности S = {zg СЛ.« ф (z) = 0} имеет вид а = , . . v . Д А/1"1, где А,— форма из предыдущей задачи и <ic = t (5—д). (Указание. Воспользоваться ортогональностью формы dcq> к Ti (5).) 23. Доказать, что формулу Мартинелли — Бохнера из п. 15 можно переписать в виде (л—1)! £ (vr, £—z) где v^ — внешняя единичная нормаль к dD в точке £, (v^, £ — z) — эрмитово скалярное произведение и а — форма из предыдущей задачи. 24. Многообразие МсСя действительной коразмерности т является порождающим в точке JeM тогда и только тогда, когда существует окрестность V с: Сл этой точки и функции фу е С1 ((/) такие, что М Г)£/={г е= (/: фх (г)= ... =фт(г) = 0} и дфх(£)Л ... ... Лдф/я(£)=^=0 (гиперповерхности {фу=0} комплексно трансвер* сальны в точке £).
Добавление ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ Мы хотим здесь кратко описать результаты, полученные недавно школой Ф. Гриффитса и непосредственно примыкающие к материалу п 54. Они направлены на построение многомерных аналогов классической теории распределения значений мероморфных функций, с которой можно ознакомиться, например, по книге автора этой теории Р. Не- ванлинны, Однозначные аналитические функции, Гоетехиздат, М. — Л., 1941. Главное в теории Неванлинны —связь частоты, с которой мероморфная функция принимает свои значения, со скоростью роста этой функции. Оказывается, что в известном смысле почти все значения принимаются одинаково "часто—теория Неванлинны является далеко идущим развитием теорем Сохоцкого и Пикара. В этом дополнении главное внимание будет уделено понятиям, которые имеют общий интерес и широко используются в ряде современных исследований по комплексному анализу. Изложение самой многомерной теории распределения значений можно найти в работе Ф. Гриффитса и Дж. Кинга, Теория Неванлинны и голоморфные отображения алгебраических многообразий, «Мир», М., 1976 (далее Г. К.)- 1. Дивизоры и эрмитовы расслоения. Как говорилось в п. 54, в многомерном случае вместо «значений» надо рассматривать множества комплексной коразмерности 1 с приписанным им порядком (кратностью), т. е. дивизоры. Число точек, в которых принимаются фиксированное значение, придется тогда заменить объемом прообраза данного дивизора. Поэтому возникает вопрос о способе вычисления объемов аналитических множеств в Сл и мы остановимся на нем. Евклидова форма площади на комплексной прямой в Сл имеет п вид -^-дд \г |2 = -~- /_1 dZk Л d^k (см* зад' 2l к гл* ^' П0ЭТ0МУ ес" тественно ожидать, что площадь голоморфной кривой г: Д-*-Ся, где А —плоская область, выражается формулой ■■-iii dZkAdzk, (1) т. е. представляет собой сумму площадей проекций этой кривой на координатные оси г^. Это — классическая теорема Виртингера, ее доказательство см., например, Л. И. Р о н к и н, Введение в теорию целых функций многих переменных, «Наука», М., 1971, стр. 343.
384 ДОБАВЛЕНИЕ Удобно пронормировать форму площади, поделив ее на rt—тогда площадь единичного круга будет равна 1 и во_многих формулах исчезнут коэффициенты. Если наряду в d = д+д ввести оператор «косого» дифференцирования dc = j—-.(д — д), то <2аР = г-дд и нор* мированная евклидова форма площади запишется-так: п ф0«^г|2-^2<*г*Л^А (2) Объем m-мерной голоморфной поверхности г: Ат-»-СЛ (см. п. 30) можно вычислить при помощи m-й внешней степени ф^ = ф0 Л"-Лфо (т раз). В принятой нормировке объем единичного шара в Crt оказывается равным 1 (в самом^деле, ф«=/г! ( — ) dzi/\dzx/\... f\dznf\ Л«.-й>)- В некоторых случаях приходится относить объем порции т-мер- ного аналитического множества в шаре В^ = {ге€Л: |г|</} к объему 2т-мерного шара того же радиуса L Тогда удобнее вместо ф0 пользоваться проективной формой площади ла,\ . .2 dd°\z\* d\z\2/\dc\z? /Q, ©0= ddP in | г |2 =—|7|Г |г|4> (3> которая совпадает с формой Фубини —Штуди, если считать ги ••• ... , zn однородными координатами в СРЛ_1,(см. п. 54). Проективный объем m-мерного аналитического множества в С71 вычисляется внешней степенью <от. Отметим, что ©"=0,—это следует того, что <о0 по существу зависит от л —1 координат: отношений zlt ..., гп к одному из них. Укажем еще проективную форму объема сферы дВ; с СЛ: а0=^1п [г |2 Л (4) она нормирована так, что интеграл от нее по дВ^ равен 1 при любом tх). Пусть дано невырожденное голоморфное_отображение /: Сл -> М в комплексное л-мерное многообразие и D — дивизор на М. Прообраз f-1 (D) является (л — 1)-мерным аналитическим множеством (с некоторой кратностью), и можно рассматривать проективный объем порции f-1(D) П Bt. В теории распределения значений принято «логариф- 1) В самом деле, на сфере, где \z\=tt согласно (3) о0=* = ^ d° 12 I2 Л (ddc | z l2)"-1, а к неособой форме dc | z \2/\(dd<> 1* I2)*"* можно применить формулу Стокса и воспользоваться свойством формы Ф", отмеченным выше.
ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ 381 мически усреднять> этот объем по шару Вг, т. е. рассматривать величину г Nf(D9r)=[j С Q>J-l, (5; О f~4D){\Bt . которая называется считающей функцией дивизора D. Она играет одну из главных ролей в рассматриваемой теории. В классическом случае п=1 дивизор D = a—это точка С, внутренний интеграл в формуле (5)—число а-точек функции / в круге Bt (с учетом кратности), a Nf (а, г) дает логарифмически усредненное число а-точек в круге ВГУ т. е. совпадает со считающей функцией, введенной Неванлинной. По поводу формулы (5) следует сделать два замечания. Во-первых, внутренний интеграл нужно понимать как совокупность интегралов по многообразиям, на которые распадается множество регулярных точек аналитического множества f^(D) (] В^ и каждый интеграл брать с кратностью, приписанной дивизору (множеством критических точек можно пренебречь, ибо оно имеет меньшую размерность и не влияет на интеграл). Во-вторых, если /_1 (D) проходит через начало координат, то внешний интеграл в (5) расходится— тогда нужно брать этот интеграл не от 0, а от некоторого значения г0>0, для дальнейшего это не существенно. Считающую функцию N (Л, г) можно определить и для произвольного аналитического множества А с: 0я коразмерности 1—внутренний интеграл в (5) нужно брать тогда по порции А П В;. Скорость роста N (А, г) при г->со характеризует порядок множества А подобно тому, как максимум модуля Mf(r) характеризует порядок целой функции одного переменного (см. п. 45 ч. I). В частности, справедлива такая теорема Ш т о л л я: аналитическое множества A cz Сл коразмерности 1 является алгебраическим (т е. нулевым уровнем некоторого полинома от г) в том и только том случае, когда его считающая функция N (A, r) = 0 (In г) или, что то же самое, когда проективный объем его пересечений с шарами ограничен (доказательство см. в Г. К., стр. 43). Для дальнейшего построения многомерной теории распределения значений нужно выделить на М некоторую систему дивизоров. Основной пример такой ситуации был рассмотрен в п. 54, где в качестве М выступало комплексное пространство CPrt, а в качестве системы дивизоров —комплексные гиперплоскости. В общем случае М предполагается компактным комплексным многообразием, а выбор рассматриваемой системы дивизоров на нем делается одним из двух равносильных способов. Во-первых, можно взять щ* М произвольный дивизор D и рассмотреть содержащий D класс эквивалентности по отношению D'-^D, если D'—D —собственный дивизор, т е. существует мероморфная на М функция g такая, что D' — D = Ag (см. п. 43). Второй способ состоит в построении линейного расслоения дивизора D: берется достаточно мелкое покрытие {иа\, в областях которого дивизоры D \и —собственные (см. теорему 1 п. 43), т. е.
386 ДОПОЛНЕНИЕ D\ и в А для некоторой ga е qM (Ua), и тогда в пересечениях ^ар = ^ аП ^Э отношения gfl/ga^gafr е ^* (£/ар), т. е. являются голоморфными функциями без нулей. Функции gap удовлетворяют, очевидно, (мультипликативному) условию коциклов ёа$ g0a = 1. ёГаР £0Y #Уа — * (6) и, значит, могут служить функциями перехода некоторого линейного расслоения LD над М (см. п. 22), которое и называется линейным расслоением дивизора D. Второй способ можно обратить, начиная не с дивизора, а с голоморфного линейного расслоения я: L->A1, с функциями перехода gap е 0* (Ua$)> связывающими координаты в слоях я"1 (р), р е Ua$ по правилу Ср—fcp(P)Ca (7) (ср. q формулой (4) п. 22). Для такого расслоения можно рассматривать голоморфные сечения как функции sa^ 0 (£/a), склеенные в пересечениях Ua$ по тому же правилу (7): sp (p)=gap (p)sa{p). Так как gap голоморфны и не обращаются в нуль, то всякое сечение s={$a} глобально определяет дивизор D на М условием D | ц =AS Для данного расслоения L любые два определенные так дивизора эквивалентны: если наряду с D рассмотреть дивизор D' такой, что Ъ' \ц — As/, где s'a склеены по тому же правилу (7), то в пересе- a a чениях i/ap будем иметь s'p7sp = s^/sa, а тогда на УИ глобально определена мероморфная функция g, равная s'Js^ в i/a> и D' — D = = Ag. Таким образом, рассматриваемую систему дивизоров можно задавать при помощи совокупности голоморфных сечений линейного расслоения L-+M. Для наших целей нужно сравнивать размеры сечений^ расслоения я: L->-M, поэтому мы будем считать расслоение эрмитовым. Это означает, что в слоях я-1 (р) задана метрика ds2=h(p) а%а%, где h | ц =/ia—гладкие положительные функции, удовлетворяющие условиям склейки ua=|gapl2u|3, (8) которые получаются из (7), если записать условие независимости ds2 от выбора локальных координат: h$ dtp d £P = ftp | £оф I2 rf£a d £a- Эрмитова метрика на расслоении L позволяет корректно определить длину его голоморфного сечения s=={sa}: \s\2 = ha\sa\*BUa. (9) Из (8) видно также, что на М корректно определена форма бистепени (1,1) w = c(L)=— ddc\nha в Ua (10) (в самом деле, ddc In | ga$ |2 = 0, ибо ga$ е= 0* (Ua$h а значит, ddc In ha = ddc In tip в £/ap). Если УК'Л определяет на L-+M другую
ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ 387 метрику, то из (8) получаем h'Jha=h$h$ в £/аР, т. е. на М глобально определена гладкая положительная функция h = h'Jha в Ua и тогда формы <ю' и а> отличаются на точную форм у ddc In h. Таким образом, эрмитову расслоению L ставится в соответствие класс когомологий дифференциальных форм бистепени (1,1) содержащий форму (10); он называется классом Чженч расслоения L. Примеры. 1) Пусть L—гиперплоское расслоение над СРЛ, т. е. расслоение дивизора D = (#0, 1), где Я0 —гиперплоскость, определяемая в однородных координатах г = (г0, ..., гп) уравнением г0 = 0. Дивизор является собственным в областях Оа = {гафО} стандартного покрытия: D\u = &ga, где ga = zo/za- Функциями перехода расслоения являются, следовательно, ga$ — Za/z$> а эрмитову метрику на нем можно задать функциями па = \ га |2/| г |2. Выбирая в Ua локальные координаты £д. = 2^/2а, мы найдем, что \ кфа совпадает с фодмой метрики Фубини—Штуди (см. пример на стр. 322). 2) Линейное расслоение над комплексным многообразием М с атласом {(Uay za)}, функциями перехода которого являются ga$ = -ф называется каноническим и обозначается, символом Км . СУ Если {sa} —сечение этого расслоения, т. е. Sfi=ga$sa в i/ap, то sadz<\ А ••• Л <&% бУДет формой, глобально определенной на М\ в самом деле, в Uaa имеем 1дга\ sadz« Л .- Л < = % det \1) dz\ Д .- Л <kg. п Отсюда следует, что Q = XaOa в Ua, где Фа= |J[ ^dz<l/\ dzX> k= l будет глобальной (п, /г)-формой на М, т. е. формой объема, если ft,p = |gap |2 ха. Таким образом, величины ha==l/Xa определяют эрмитову метрику канонического расслоения Км, а его форма Чженя с (/Сж ) = — ddc In Ла = — д~д In Ьа = Ric Q совпадает с формой Риччи формы Q (см. формулу (7) из п 54). Теперь можно определить вторую величину, также играющую главную роль в теории распределения значений. Рассмотрим голоморфное отображение }: £п-*М и предположим, jito над М задано эрмитово линейное расслоение L с формой Чженя <5 = c(L); через /*ю
388 ДОПОЛНЕНИЕ мы обозначим прообраз этой формы, который получается подстановкой всех fk (г) вместо ги в ее локальное представление. Величина г T,(L, фЛ ^/•гл»г1. оп где по-прежнему 5/—шар и о)0—форма (3), называется характериа тической функцией отображения f. В классическом случае п—\ и M = CPX дивизоры —это точки, нульмерные «гиперплоскости», и согласно примеру 1) форма со = i dz Adz а • о. a v ^ о"" ГПдГ]—[242 совпадает с формой сферической метрики. Характеристическая функция в этом случае г 7>(г) = \ * Й 2п\Т ) 0+1/«i* ( имеет простую геометрическую интерпретацию: она выражает логарифмически усредненную сферическую площадь образа круга Вг с учетом кратности покрытия и совпадает с характеристической функцией, введенной Неванлинной. Покажем, что в общем случае характеристическая функция с точностью до ограниченного слагаемого не зависит от выбора метрики на L. В самом деле, для другой метрики Иг'Л по доказанному выше мы имеем со' — 0> = <2<2clnft, где Л —гладкая положительная на М функция. В силу компактности М тогда In ft является гладкой ограниченной функцией на М и, значит, /*со'—/*co = ddcp, где р= In h•/—такая же функция в СЛ. Таким образом г г 7"(L, r)-T(L, г)= jj f^ ddcp Д <~l = [ j J d'p Л ©»-« (мы заметили, что ddcp Д (uQ~l = dfyicp Д ©сГ"1}, и воспользовались формулой Стокса), но нетрудно доказать, что [ ^рД^-^Ц jj pool), (13) дВ, дВ, х) В самом деле, пусть / — комплексная прямая, проходящая через 0. На dBt (] /, где z = teiQ, имеем dcp = T ЯйЪ, dc\n\z\2 = = — и, значит, 2л Остается умножить это равенство на coj 1 и проинтегрировать по всем L
ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ 389 где а0 — проективная форма площади (4), и, следовательно, T'(L, r)~T(L, r)-i \ (£ \ pOo\dt=± \ ра0. 2 ЦП «*У"-П О \ dBt I двг Но р—Ограниченная функция, а интеграл от а0 по дВг равен 1, значит, эта разность ограничена. Таким образом, характеристическая функция Tf(L, г) в существенном определяется лишь отображением / и выбранной системой дивизоров, т. е. расслоением L-+M. Скорость возрастания этой функции при г->со характеризует порядок роста отображения /, в известном смысле она обобщает Mf(r)= max \f(z)\. В частности, если М —комплексное подмногообразие проективного пространства СР какой-либо размерности, то отображение /: С^-^М является рациональным в том и только том случае, когда Tf(L, г)=0 (In г)—- доказательство см. в Г. К., стр. 54. 2. Первая основная теорема. Эта теорема связывает две введенные в предыдущем пункте величины — характеристическую функцию Tf (L, г) и считающую функцию Nf (D, г) дивизоров, определяемых сечениями расслоения L. Простое доказательство этой теоремы, предложенное Гриффитсом, использует технику потоков, которая в последнее время широко применяется в ряде исследований, и мы коротко остановимся на ней. Теория потоков в своей идейной основе, есть теория обобщенных функций, распространенная на интегрирование по многообразиям. Развивая идеологию теоремы Стокса, она устанавливает полное равноправие между обеими компонентами интегрирования —многообразиями и формами. Пусть М — комплексное n-мерное многообразие и ^гс* s) (М) — пространство форм бистепени (г, s) на нем с коэффициентами класса С00 и компактными носителями, снабженное обычной топологией пространства основных функций. Потоком, бистепени (п—г, л—s) на М называется любой R-линейный непрерывный функционал Т на &[ri s)(M). Совокупность таких потоков мы обозначаем ^n~rttl~s) (М), а значение потока Т на форме ф через Г(ф). Простейшими примерами потоков служат: а) форма © е ^r* s) (М), которая определяет поток [со] е е <о(г* s) (М), действующий по правилу [о] (Ф)= $ со Л Ф Для Ф е= ??-" rt~s> (/И); (1) б) подмногообразие N а М действительной размерности k, определяющее поток [N] е <#(2ri""""fe) {М) по правилу [Щ (ф)= \ ф для Ф е &р (М) (2)
390 ДОПОЛНЕНИЕ (как обычно мы пишем J2"^ и fflr\ если нет необходимости различать бистепени и можно ограничиться степенями). В частности, /г-мерное аналитическое множество А с М определяет поток [Л] е <= <^<2"-2*> (М) по правилу [Л](Ф)=5 Ф Для Ф^^2А) (А*). (3) где Л° — совокупность регулярных точек Л. Потоки можно складывать (так что, в частности, появилась возможность складывать формы и многообразия), умножать на гладкие формы по правилу Т • <о (ф) = Т (со Д ф)> а также дифференцировать по правилу dT (ф) = (— \)Г+1Т (Жр), Г €= #<r) (М); знак здесь выбран так, чтобы дифференцирование в смысле потоков согласовывалось с формулой Стокса *). Первая основная теорема просто выводится из соотношения в потоках, которое восходит к Л. Пуанкаре. Пусть L-+M-* эрмитово линейное расслоение с формой Чженя со, s—его голоморфное сечение, D = A5—дивизор этого сечения, |s | —его эрмитова длина; тогда [dd4n|s|2] = [D]-[(»]. (4) Опишем идею вывода формулы (4). Левую ее часть можно переписать в виде d [dc In | s |2], где под знаком дифференциала стоит форма, интегрируемая на М, но имеющая особенности в точках дивизора D = {s = 0}. В силу этого дифференциал формы dc In | s |2 в смысле потоков отличается от обычного — отличие вызвано тем, что теорему Стокса, лежащую в основе определения дифференциала потоков, нельзя применять ко всему многообразию М. Эту теорему приходится применять к М с выброшенной е-окрестностыо D, а затем устремлять е к 0, в результате и появляется дополнительный поток (сравните с вычислением вычетов). Вне дивизора D, где форма dc In | s |2 неособая, (4) сводится к равенству <2dcln|s|2 =—со, а оно следует непосредственно из определений предыдущего пункта: в области Ua по формуле (9) имеем In | s |2 = In ha + In | sa |2, где sa е ©* (Ua), и, значит, ddc In | s|2 *= — ddc In ha — —со по формуле (10). Остается вычислить дополнительный член, связанный с особенностью формы. Пользуясь линейностью и разбиением единицы можно локализовать задачу и ограничиться окрестностью U точки р е D и формами фе^л~1,п_1\[/)' х) В самом деле, пусть Т = [со]; имеем <2со Д ф = <2 (^ Л ф) — — (— 1) deg(Dco Д <2ф, а так как по формуле Стокса интеграл по М от d (со Д ф) равен нулю в силу финитности ф, то [dco] (ф) = = _(_l)**®[co](dq>).
ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ 391 По определению потоков равенство (4) сводится тогда к соотношению J ЛГ1п|вРЛф- $ Ф> (5) где s ^ 0 (U). Можно считать, что D(]U не содержит критических точек, ибо критические точки имеют меньшую размерность и не влияют на интеграл (подробности см. в Г. К., стр. 21). Уменьшая, если надо, окрестность Ut можно выбрать локальные координаты (Zi, -•• » zrt) так, что D[\U={zn — 0}. В этих координатах s = z£t|), где k—натуральное число, a i|> е 0* (U). Так как In | s \2 = k In | гп |2+ + ln|i|5|, a ddc In |г|) |=0, то (5) сводится к случаю s = zn. По определению дифференцирования потоков имеем теперь \ dd° In 12гЛ|2Лф = Hm \ In | гя |2 dd% (6) где Ue = {p<=U:\zn\2*e}. Но In | гп |2dd<4p = d(ln | *д |*d<q>) - —■ <2 In | гп |2 Д dc(p, а по формуле Стокса \ <*(1п|гд|24сф)=— ( 1п|гд|2^ф = —lne2 J dcy-*0 при е->0, "в 4 58 где Se={| zrt(p) | = е} (мы воспользовались тем, что ф = 0 в окрестности dU), поэтому (6) переписывается в виде \ ddc In | zn |2 Л Ф=— Ит f d In | zn |2 Д <*сф. & e-0 Л Теперь заметим, что d\n\zn\2 /\ йсф=«= dc In |гя |2 Л ^ф *)> a — dc\n\zn\*f\ йф=й(^1п|гЛ|2Лф)» ибо ddclnj гл|а = 0 в £/8, поэтому, снова применяя формулу Стокса, получаем \ <Юс1п|гЛ]аЛф = Ит j ^1п|гл|2Лф- Остается заметить, что на 5е мы имеем |гл| = е, а с£с1п|гл|2 = d0 — о-, где 6 = argzrt; поэтому Теорема, которой посвящен этот пункт, получается из доказанного соотношения (4) переходом к прообразу при отображении /: [ddP In | s о/ )2] = [/-i (D)] -[/*5>]. (7) *) Выражая d к dc через d и d, мы видим, что левая и правая части этого равенства различаются на формы д In | гп |2 Д дф и 5 In | гЛ |2 Л 5ф. Но обе они равны 0, ибо ф—форма бистепени (л— 1, /I—1) и, значит, первая из них должна содержать л+1 дифференциалов dzk, а вторая /г+1 дифференциалов dzu, что невозможно, ибо многообразие л-мерно.
392 ДОПОЛНЕНИЕ Если умножить потоки в (7) на форму Од 19 а затем логарифмически усреднить по шару Вп то будем иметь г г о в, о Г1(0)пв/ -и$ f*co Д <»о~ * - Nf (D, г) - rf (^ г). ' (8) К внутреннему интегралу в левой части мы применим теорему Стокса, а затем воспользуемся формулой (13) предыдущего пункта, получим лп—\ дв( dBt Таким образом, левая часть (8) со знаком минус равна величине х~ mf(D, г)« J In т^ТТ (9) двг которая показывает, насколько образ f(dBr) близок к дивизору D (вблизи дивизора величина | s | мала, a In 1/| s | велика), и называется приближающей функцией дивизора. Замечание. С точностью до ограниченного слагаемого эта величина не зависит от выбора сечения, определяющего дивизор: если s' определяет D наряду с s, то \s' | = h | s |, где Х"> О — гладкая функция. В силу компактности М она ограничена и отграничена от нуля, а тогда In А,»/ ограничен в Сл Поэтому разность 3lnWCT°-JlnRV0=$lnW-ao дВг дВг дВг ограничена. Пользуясь этим замечанием и компактностью Af, всегда можно считать, что | s \ < 1, т. е. mf(D, г) > О В классическом случае /г=1 для конечного дивизора D — a можно положить s=|z — а\, а для а=оо положить s=l/z; так как здесь cj0=— , то будем иметь в соответствии с определением Неванлинны,
ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИИ 393 Соотношение (8) выражает первую основную теорему теории распределения значений: Пусть дано голоморфное отображение f :€"-+]№ в компактное комплексное многообразие той же размерности, а над М пусть задано эрмитово линейное расслоение L Тогда для дивизора D любого голоморфного сечения s этого расслоения и для любого г>0 Nf(D. r) + mf(m(D, r) = 7>(L, г)-f-O(l)i). (И) Сущность этой теоремы состоит в равнораспределении прообразов дивизоров всех сечений данного расслоения—сумма считающей функции дивизора (которая показывает, насколько мощен его прообраз в шаре Вг) и его приближающей функции (которая измеряет близость этого прообраза к дВг) примерно одинакова для всех дивизоров и равна характеристической функции отображения В этом смысле теорема является- далеко идущим обобщением основного свойства многочленов принимать каждое свое значение одинаковое число раз (с учетом кратности). Конечно, теорема содержательна лишь в том случае, когда характеристическая функция Т (L, г) неограниченно возрастает при г -> со. Это свойство будет обеспечено, если мы предположим, что расслоение L положительно, т. е. его форма Чженя co = c(L)>0 (12) (здесь использовано соглашение, по которому (1, 1)-форма 2,g/kdzj f\ dz*k считается положительной, если положительна соответствующая ей эрмитова форма - /g/fcdz/<2zfe; см. п. 53). При этом условии, как видно из (11) п. 1, функция Т (L, г)^с\пг, где с—некоторая постоянная. Условие положительности выполняется, в частности, для гиперплоского расслоения СРЛ, для которого c(L) = co—форма метрики Фубини —Штуди (см пример 1) в п. 1). 3. Вторая основная теорема. По-прежнему рассматривается невырожденное голоморфное отображение f: С* -*• М в компактное комплексное многообразие, над которым задано положительное эрми- аово расслоение L. Наряду с L рассматривается каноническое эрмитово расслоение Км (см. пример 2) в п. 1) и предполагается, что классы Чженя этих расслоений удовлетворяют условию c{L)+c(KM)>0. (1) Мы видели в п. 1, что с (K^) = Ric Q, а для М=СРЛ по формуле (10) п. 54 с (Км) = — (п+ 1) со. Чтобы удовлетворить условию (1) надо выбрать над СРЛ расслоение L, класс Чженя которого компенсировал бы отрицательность с (Км), например, расслоение дивизора D. состоящего из п+2 гиперплоскостей в общем положении, для него 1) Наличие члена 0(1) в правой части (11) вызвано тем, что прообраз некоторых дивизоров может содержать точку г = 0 и тогда в выражении Т внешний интеграл надо брать от некоторого г0>0 (см. замечание на стр. 385).
394 ДОПОЛНЕНИЕ с (LD^ — (n+2) со. Эту ситуацию с другой точки зрения мы обсуждали в п. 54. Обобщая ее, мы рассмотрим на М дивизор к который является объединением комплексных подмногообразийD/cM коразмерности 1, пересекающихся в общем положении. Последнее условие означает, что D локально задается уравнением г± ... 2/ = О, где (Zf, ... , гл)—-голоморфные локальные координаты на М. Расслоение L будем считать расслоением этого дивизора и предположим, что выполняется условие (1), или, наоборот, зададимся расслоением L, удовлетворяющим этому условию, и возьмем дивизор D, определяемый голоморфным сечением L и устроенный как (2). Рассмотрим еще дивизор ветвления R = {z е Сл: Jf(z) — 0} отображения / (Jf—якобиан) и его считающую функцию г ■St I Ч- О ЯП*, где со0 —форма (3) из п. 1. Далее, условие (1) позволяет построить на M\D форму объема Y с особенностью на D, для которой ЩсТ>0, (Ric Т)я $5 Т, \ (Ric ¥)* < оо; (4) M\D доказательство этого утверждения напоминает доказательство теоремы 5 п. 54, и мы на нем не останавливаемся. Отправляясь от ЧГ, мы строим аналог характеристической функции т о в, 7,*С)-\т\РК1о,рЛ< • (5) После этой подготовки доказательство второй основной теоремы проходит по той же схеме, как доказательство первой. Если положить /*4f=sg<I>f где Ф==Фо—евклидова форма объема (см. (2) п. 1), то £ будет обращаться в 0 на дивизоре ветвления R и в оо на прообразе /-1(D). Поэтому имеет место соотношение в потоках, аналогичное соотношению (4) предыдущего пункта: [ddc In I] = [/* Ric Y] + [R] - [/"I) (D)]. ! ча мы получим Умножая обе части на со J ! и логарифмически усредняя по шару ВГ г [У-^ d^ln5A«J"1=r1(r) + JV/(«, r)-Nf(P, г). о в,
ОБЗОР ТЕОРИИ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙ 395 Остается преобразовать левую часть точно так, как мы преобразовали левую часть (8J в п. 2; если обозначить И(г) = у § In Е-а* (7) двг то мы придем ко второй основной теореме: Теорема. В принятых условиях и обозначениях Ti (r) + Nf (R, r) = Nf (D, r) + [i (r). (8) Важнейшее следствие второй теоремы—соотношение дефектов. По аналогии с классической теорией дефектом дивизора D, определяемого голоморфным сечением расслоения L, называется величина _Nf(D,r) 6(D)=l-hm^Tf{Lt ry (9) Так как можно считать т (D, г) > 0 (см. замечание после определения этой величины в п. 2), то из первой основной теоремы следует, что N (D, r)<.T(L, г) + 0(1), поэтому всегда 6(D)^0, а так как N и Т неотрицательны, то всегда 6(D)^1. Если образ /(Сл) вовсе не пересекается с дивизором D, то Nf(D, r)sO и дефект этого дивизора максимален, он равен 1. Положительность дефекта 6(D) означает, что пересечение f(Gn) с данным дивизором D менее массивно, чем с «нормальными» дивизорами. Теорема (соотношение дефектов). Пусть /:€"-*• М — невырожденное голоморфное отображение в компактное эрмитово многообразие той же размерности, над которым заданы положительное расслоение L и каноническое расслоение Км* Если Dj, j — \, ... ... , k,—любой набор голоморфных сечений L, которые являются многообразиями и пересекаются в общем положении, то k 2 «(Df) ^ in! {t es R+: tc (L) + c (KM) > 0}. (10) /=i Доказательство этой теоремы (в несколько иной форме) см. в Г. К., стр. 71. В частности, если М = СРЛ, a L —гиперплоское расслоение, то Dj—гиперплоскости в общем положении. Так как здесь c(L) = с=со, а с(/Сж) = —-(л+1)(о, то (10) сводится к неравенству: для любого k Ь(0/)<п+1. (И) Если образ f(Cn) не пересекает гиперплоскость Dj, то 6(Dy) = l, поэтому если нашлись бы л+2 такие гиперплоскости в общем положении, а отображение / было бы невырожденным, то мы вступили бы в противоречие с (11). Отсюда видно, что соотношение дефектов является далеко идущим обобщением теоремы Пик ара. Заметим в заключение, что многомерная теория распределения значений (особенно это относится ко второй теореме) далека от того совершенства, которым отличается классическая одномерная теория. Впрочем, первой лишь несколько лет, а второй за пятьдесят.
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Абеля лемма 30 Абсолютный октант 16 Автоморфизмы области 57 — поликруга 61 — пространства 57, 296, 380 — — нелинейные 57 — шара 57, 59 Аддитивная проблема Кузена 226 Александера — Понтрягина принцип 267 Альфорса лемма 324, 337 Аналитическое множество 116 — — неприводимое 119 — — —- в точке 119 — — нульмерное 123 Аналитичность множества особенностей 210 Антиголоморфная функция 24 Аргумента принцип 140, 286 База накрытия 99 — пучка 135 — расслоения 125 — /г-мерных гомологии 268 Барьер в граничной точке 155 Бенке — Зоммера теорема 171 Бенке — Штейна теорема 167 Бергмана граница 68 — метрика 305, 306 — форма 304 — функция 303 Биголоморфно эквивалентные области 57 Биголоморфное отображение 56 Бистепень формы 75 Боголюбова теорема 375 Бореля лемма 327 Вейерштрасса многочлен 115 — теорема 34 — — о делении 141 — — подготовительная 113 Вейля множество 93 — область 93 — разложение 97 — теорема 94 — формула 94 Вектор касательный 129 —- — комплексный 354 Векторное поле 134, 353, 357 — расслоение 127 Вложение 210 Вторая проблема Кузена 251» 255 Выпуклая область 189 — оболочка 158 — функция 188, 189 Выпуклость 158 — в смысле Леви 174 — голоморфная 159 — логарифмическая 44 — относительно класса 158 —полиномиальная 159 — рациональная 159, 218" Вычет логарифмический 283 — относительно базисного цикла 268 —- — особого цикла 270 Вычет-класс 280 — — сложный 281 — форма 275 Гессиан 189 — комплексный 177 Гиперболическое многообразие 313 — — полное 320 Гиперплоскость 8 —- комплексная 9 Голоморфная выпуклость 159 — кривая 53 — поверхность 170 —■ форма 75 — функция 21 Голоморфно отделимое многообразие 203 Голоморфное накрытие 99, 314 — — разветвленное 122 — отображение 22, 72 — расширение 153 Голоморфный автоморфизм 57 — изоморфизм 57 — коцикл 227 Гомологии компактные 278 Гомоморфизм пучков 242 Гомотопические классы 102 Градиент действительный 361 — комплексный 121 Граница 78 — области 80 — — ориентированная 80 — цепи 78 Граничная теорема единственности 374 Граничный оператор 77 Грауэрта — Реммерта теорема 188 Гриффитса лемма 337 Группа автоморфизмов 57 — голоморфных коциклов 228 — гомологии 78 —_ когомологий 76, 228, 236 — 241 — — покрытия 237, 254 — — пространства 241 — — с коэффициентами в пучке 237, 241
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 397 Группа коциклов 237 — относительных гомологии 282 — — цепей 282 — фундаментальная 104, 105 Де Рама группа 76 Действительная плоскость 8 — — касательная 353 Действительное касательное пространство 133 Диаграмма Рейнхарта 17 — Хартогса 18 Дивизор 251 — мероморфной функции 225 — отрицательный 251 — положительный 251 — собственный 251 Дифференциал отображения 53 — ростка 131 — функции 20 Дифференциальная форма 74, 135 — — бистепени г, s 75 — — замкнутая 26, 76 — — класса С°° 74 — — точная 26, 76 — — эрмитова 304 Дифференцирование форм 75 Дифференцируемая функция 20 Диф'ференцйруемость в смысле Кл 20 С" 20 Дольбо теорема 247 Дробно-линейные автоморфизмы 57# 61, 296 d-устойчивый класс 161 ^-оператор 76 б-функция 88 Евклидова метрика 10 — форма объема 322, 381 Единственности множество 68, 373 — теорема 32, 73 — — граничная 374 Идеал кольца 15 Измельчение покрытия 239 Изоморфизм областей 57 — пучков 242 Индекс относительно точки 283 Индекс пересечения цепей 266 — подгруппы 106 Интеграл Коши 28 — от формы 76 Интегральное представление Вейля 94 — — Коши 28 — — Коши — Фантапье'88 — — Лере 90 — — Лере — Грина 140 — — Мартинелли — Бохнера 87, 383 Каратеодори метрика 306, 309 — расстояние 307 Карта 70 ' Картана теоремы 248, 249 Картана — Туллена теоремы 160, 161, 207 Касательная плоскость 353 — —- комплексная 91, 354 Касательное пространство 129 — — действительное 133 — — комплексное 133 — расслоение 134 Касательный вектор 129 — ^-оператор 363 Келерова метрика 321 Кернфункция 299 — поликруга 301 — шара 302 Класс-вычет 280 — — сложный 281 — функций d-устойчивый 161 — — р-устойчивый 163 Клетка размерности k 76, 265 Кнезера теорема 214 Кобаяси метрика 310 — расстояние 311 Кограница 228, 229, 237 Кограничный оператор 237 — — Лере 277 Компактификация Сл 10, 11 Координатная окрестность 70 Координаты локальные 70 — однородные 11 Коразмерность аналитического множества 117 Коцепь 236 Коцикл гладкий 229 — голоморфный 227 — когомологичный нулю 237 — мультипликативный 253 Коши интеграл 28 — неравенства 31 — формула 28 Коши — Адамара теорема 46 Коши — Пуанкаре теорема 82 Коши — Римана условия (уравнения) 21 — касательные 143, 363, 381 Коши — Фантапье формула 86 Коэффициент зацепления 267 Кривая голоморфная 53 — мероморфная 140 Кривизна голоморфной кривой 323 — Риччи 333 Критическая точка 116 Кронекера символ 268 Кузена проблемы 226, 246, 251 Леви выпуклость 174 — определитель 178 — проблема 175, 262 — форма 177, 365 Леви — Кшоски теорема 177 Лере кограничный оператор 277, 282 — формула 90 Лере — Грина формула 140 Линделёфа теорема 370 Линейная функция 20 Лиувилля теорема 34 Локализованные проблемы Кузена 246, 253 Локально голоморфная функция 22 — конечное покрытие 77 Локальный принцип максимума Рос- си 219
398 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Лорана ряд 49 L-выпуклость 174 Максимума принцип 32,- 55, 73, 170 Мартинелли теория 265—273 Мартинелли — Бохнера интегральное представление 87 — — форма 86, 88 — — формула 87,- 382 Матрицы перехода 128 Мероморфная функция 221, 223 Метрика евклидова 10 — Инвариантная 305 — поликруговая 10 Многолистные области 109, 154 — оболочки голоморфности 201—207 Многообразие 70 — вполне действительное 357 — гладкое 71 — голоморфно отделимое 203 — комплексное 72 — ориентируемое 80 — порождающее 373,- 382 — почти комплексное 356 — топологическое 71 — тугое 318 — упругое 318 — Штейна 209 — эрмитово 321 Многочлен однородный 51 — — с весом 287 Множество аналитическое 116 — дискриминантное 121 — единственности 68, 373 — логарифмически выпуклое 44 — неопределенности 224 — Полиэдрическое 93 — полярное 222,- 224 Монтеля свойство 318 Мореры теорема 84 Мультипликативная кограница 254 — проблема Кузена 251 Накрывающее пространство 99 Накрытие 98 — голоморфное 99, 314 — — разветвленное 122 — универсальное 109, 141 Неприводимая компонента 120 Норма С-однородная 55 Нормаль 361 — комплексная 362 Нормальное семейство 318 Носитель дивизора 251 я-круговая область 16 Область голоморфно не расширяемая 175 — голоморфности 155 — круговая 18 — — полная 18 — л-круговая 16 — L-выпуклая 174 — над С* 109 — Ограниченного вида 297 — поликруговая 16 — полиэдрическая 93 — псевдовыпуклая 189 — с ориентированной границей 80 Область строго псевдовыпуклая 340 — сходимости степенного ряда 43, 200 — — ряда Хартогса 48 — трубчатая 19 — F-выпуклая 158 Оболочка выпуклая 158 — голоморфности 195 — — многолистная 201 — — области Рейнхарта 199 — — римановой области 204 — — трубчатой области 198 — полиномиально выпуклая 159 — рационально выпуклая 218 — F-выпуклая 158 Однородно r-мерное аналитическое множество 117 Однородные координаты 11 Ока теорема 257 Ока — Вейля теорема 166 Окрестности в С* 10 — координатные 70 Октант абсолютный 16 Оператор граничный 77 — дифференцирования форм 75 — ^76 — д 76 — кограничный 237 Лере 277, 282 — комплексной структуры 356 Определяющая функция 258 Ориентация 80 — индуцированная 80 Ориентированная граница 80 Осгуда лемма 38 — теорема 293 — условие 290 Осгуда — Брауна теорема 148 Особые точки 210 Остов множества Вейля 23 — поликруга 14 — поликруговой области 16 Относительная граница 282 Отображение биголоморфное 56 — голоморфное 22, 72 — квазисюръективное 69 — невырожденное 170 — пучков 241 — собственное 123, 210, 344 Первая проблема Кузена 226, 246 Петля 102 Пикара теорема 326, 327, 328, 339 — — большая 330,332 Плоскость комплексная 8 — — касательная 91, 354 Плюригармоническая функция 25 Плюрисубгармоническая функция 180 Поверхность голоморфная 170 Подмногообразие 81 Поднимаемый путь 100 Поднятие окрестности 99 — пути 100 Подпучок 242 Поликруг (полицилиндр) 10, 14, 61 — на римановой области НО — сходимости степенного ряда 46 Полиэдр аналитический 93 — полиноминальный 98
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 399 Полуметрика 307 Полунепрерывность 180 Полюс 222 Полярная особенность 273, €80 Полярное множество 222 Порядок дивизора 251 — нуля 225, 286 — полюса 225 Последовательность гомоморфизмов 243 — — точная 243 Предпучок 137 Принцип максимума 55, 181, 188 — — модуля 32, 73, 170 — — — локальный 219 — непрерывности 170, 172 Проекция накрытия 99 — пучка 135 — расслоения 125 — римановой области 109 Произведение гомотопических классов 103 — путей 102 Производные на римановой области 110 Пространство касательное 129, 133 — кокасательное 131 — комплексное проективное 11 — пучка 135 — слоя 125 —- теории функций 11 — О1 7 Прямая комплексная 9 Прямой предел 138 Пуанкаре проблема 261 Путь обратный 102 — точечный 102 Пучок 135 — постоянный 137 — ростков гладких форм 137 — — голоморфных функций 136 — — дивизоров 253 — — мероморфных функций 223 р-устойчивый класс 163 Равенство Парсеваля 299 Радиусы сходимости сопряженные 46 Радо лемма 289 Разбиение единицы 77, 229 Разветвленное голоморфное накрытие 122 Размерность аналитического множества 116, 117 — комплексная 8, 72 • — многообразия 71 Расслоение 125 — гладкое векторное 127 — голоморфное 128 — касательное 134 — кокасательное 134 — линейное 128 — тривиальное 126 Расслоенное пространство 125 Расстояние до границы ПО Рационально выпуклая оболочка 218 Регулярная точка 116 Результант 121 Рейнхарта диаграмма 17 — область 16, 199 Рейнхарта область относительно полная 50 — — полная 16, 43, 199 — преобразование 16, 68 Реммерта теорема 291 Риманова область 109 — — аналитической функции 112 —- — голоморфности 207 Риччи кривизна 333 — форма 333 Росток голоморфных функций 111 — мероморфных функций 222 — семейства функций 204 Рунге область 98 Руше теорема 287 Ряд по однородным многочленам 51 р-метрика 10 Свойство сжимаемости метрики Кара- теодори 308 — — — Кобаяси 311 Севери теорема 143 Серра теорема 255 Сечение пучка 135 — расслоения 126 Скалярное произведение 8 — — эрмитово 8 Скобка Пуассона векторных полей 364 Слабое ф-вложение 202 Слой пучка 135- — расслоения 126 Соответствие границ 348—353 Соотношения соседства*70 Сопряженные радиусы сходимости 46 Сохоцкого теорема 67 Степень накрытия 99 Стокса формула 78 Стратификация аналитического множества 119 Строго плюрисубгармоническая функция 182 Субгармоническая функция 183 Сходимость последовательности множеств 170 Тейлора ряд 30 — формулы 31 Теорема единственности 32, 73 — — граничная 374 — о вложенном ребре 214 — — вычетах 269, 271, 278, 281 — — локальном обращении 290, 293 — — монодромии 101 — — среднем 183 — — точных последовательностях 244 — — травиальности когомологий 247, 248 — об одновременном продолжении 161 Точка неопределенности 222 — регулярная 116 Точная последовательность пучков 243 — форма 26, 76 Трансверсальное пересечение 265
400 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Универсальное накрытие 109, 141 Условие дисков 319 Фактор-пучок 242 — топология 242 Фату пример 62—67 Форма бергманова 304 —бнстепенн г, s 75 — вычет 275 — голоморфная 75 — дифференциальная 74, 135 ■я- замкнутая 26, 76 — объема 333 — — евклидова 332, 382 — положительно определенная 304 v точная 426, 76 — фундаментальная 305 — эрмитова 304, 321 Фубнни — Штуди метрика 68* 322 Фундаментальная группа 104 Функция аналитическая Ш — антиголоморфная 24 — выпуклая 18В, 199 •*- — голоморфная 21 — локально голоморфная 22 — мероморфная 221, 223 — Неприводимая 419 — определяющая 258 —^Перехода 128 — плюригармоническая 25 <- плюрисубгармоническа.5Г 180 — полунепрерывная сверху 180 — — снизу 180 — R-дифференцируемая 20 — R-лииейная 20 — строго плюрисубгармоннческая 182 — субгармоническая 183 — С-днфференцируемая 20 — С-линейная 20 ^-выпуклая область 158 — оболочка 158 <р-влоя£ение 202 — слабое 202 Ф-продолжение 203 Ф-сужение 203 Хартогса лемма 39 — область 18, 201 — — полная 18,. 200 — преобразование 18 — радиус 48, 190 - — ряд-48 — теоремы 41, 149, 210, 214 Хартогса — Лорана ряд 51 Хефера теорема 93, 260 Цепь размерности к 77, 266 Цикл 78, 266 — особый 269 — относительный 282 ^С-линейная функция 20 ^-однородная норма 55 Шар 10, 14, 57 Шварца лемма 37, 56, 309, 324 Шилова граница 33 Штейна многообразие 209 Эквивалентные атласы 71 — римановы области 202 Экстремальная функция 298 Эрмитова метрика 321 — форма 304, 321 Эрмитово многообразие 321 Якобиан отображения 53