СОВРЕМЕННЫЕ
IIГОиЛЕМЫ МАТЕМАТИКИ
СЕРИЯ ВЫПУСКАЕТСЯ ПОД ОБЩИМ РУКОВОДСТВОМ
РЕДАКЦИОННОЙ КОЛЛЕГИИ ЖУРНАЛА
«УСПЕХИ МАТЕМАТИЧЕСКИХ НАУК»
ГОСУДАРСТВЕННОЕ ИЗДАТЕЛЬСТВО
ТЕХНИКО-ТЕОРЕТИЧЕСКОЙ ЛИТЕРАТУРЫ
МОСКВА 1956

М. А. КРАСНОСЕЛЬСКИЙ
ТОПОЛОГИЧЕСКИЕ
МЕТОДЫ
В ТЕОРИИ НЕЛИНЕЙНЫХ
ИНТЕГРАЛЬНЫХ
УРАВНЕНИЙ
ГОСУДАРСТВЕННОЕ ИЗДАТЕЛЬСТВО
ТЕХНИКО-ТЕОРЕТИЧЕСКОЙ ЛИТЕРАТУРЫ
МОСКВА 1956

11-5-4
Красносельскай Марк Александрович.
Топологические методы в теории нелинейных интегральиых уравнений.
Редактор М. М. Горячая.
Техн. редактор Н. А. Тумаркана. Корректор А. С. Бакулова.
Сдано в набор 30/XI 1955 г. Подписано к печати 13/И 1956 г. Бумага 84хЮ8/ш.
Физ. печ. л. 12,25. Условн. печ. л. 20,09. Уч.-изд. л. 20,73. Тираж 6Э00 экз.
Т-01794. Цена книги 11 р. 35 к. Заказ М> 813.
Государственное издательство технико-теоретической литературы
Москва, В-71, Б. Калужская, 15.
Министерство культуры СССР. Главное управление полиграфической
промышленности. 4-я типография им. Евг. Соколовой.
Ленинград, Измайловский пр., 29.

ОГЛАВЛЕНИЕ
Предисловие 10
Введение 11
Глава I. Нелинейные операторы 20
§ 1. Основные понятия 21
Операторы в банаховых пространствах B1). Простран-
Пространства С и Lp B3). Вполне непрерывные операторы B4).
Линейные интегральные операторы B7).
§ 2. Оператор f 29
Сходимость по мере B9). Непрерывность опера-
оператора f C1). Ограниченность оператора f C5). Достаточ-
Достаточные условия непрерывности оператора f C6). Простран-
Пространство С D1).
§ 3. Нелинейные интегральные операторы 41
Оператор П. С. Урысона D1). Оператор П. С. Уры-
сона в пространстве С D2). Вспомогательные леммы D3).
Оператор П. С. Урысона в пространстве Lp D7). Опера-
Оператор Гаммерштейна E6). Интегростепенные ряды А. М. Ля-
Ляпунова E7).
§ 4. Расщепление линейных оператороч 58
Неравенство для моментов E8). Расщепление линей-
линейного оператора, действующего в L? F0). Расщепление
оператора, действующего из Lq в Lp F1). Интегральные
операторы с ядрами, итерации которых суммируемы
со степенью р0 G1). Ядра, некоторые итерации которых
ограничены G5). Ядра с собственными числами разных
знаков G7).
§ 5. Слабо непрерывные функционалы 79
Дифференцируемые функционалы G9). Слабо непре-
непрерывные функционалы. Теоремы Э. С. Цитлаиадзе (82).

ОГЛАВЛЕНИЕ
Глава II. Вращение векторного поля 87
§ 1. Векторное ноле в конечномерном пространстве ... 88
Степень отображения (88). Нумерации (89). Степень
нумерации (91). Вращение векторного поля (94), Гомо-
Гомотопные векторные поля (96). Неподвижные точки (98).
Лемма о произведении вращений A00).
§ 2. Вращение конкретных векторных полей 100
Теорема о еже A00). Линейные векторные поля A01).
Симметричные нумерации на сфере A02). Теорема
Л. А. Люстерника — Л. Г. Шнирельмана — К. Борсука A05).
Замкнутые покрытия сферы A07).
§ 3. Вполне непрерывные векторные поля ПО
Конечномерная лемма A10). Вращение вполне непре-
непрерывного векторного поля A11). Гомотопные поля A14).
Алгебраическое число неподвижных точек вполне непре-
непрерывного векторного поля A15). Классификационная тео-
теорема A16). Корректное гь постановки задачи A19). Про-
Продолжение вполне непрерывного векторного поля A19).
Возможность продолжения векторного поля без нулевого
вектора A24). Вращение поля на границе ограниченной
области A27).
§ 4. Принцип Лере — Шаудера 128
Общий принцип существования неподвижной точ-
точки A28). Принцип Шаудера A29). Нечетные поля на
сфере A30). Векторные поля, близкие к линейным A31).
Векторные поля, симметричные относительно подпростран-
подпространства A33). Произведение вращений вполне непрерывных
векторных полей A34). Линейные поля A38). Вычисление
индекса неподвижной точки A40).
Глава III. Теоремы существования решений 146
§ 1. Принцип сжатых отображений 146
Принцип сжатых отображений A46). Резольвента
нелинейного оператора и ее свойства A48). Теоремы суще-
существования решений A51). Приближенное вычисление соб-
собственных чисел и функций возмущенного линейного опе-
оператора A55).

ОГЛАВЛЕНИЕ 7
§ 2. Применение топологических принципов неподвижной
точки к доказательству теорем существования решений 161
Общая постановка задачи A61). Не вполне непре-
непрерывные векторные поля A62). Нечетные интегростепен-
ные ряды A63). Уравнения, близкие к линейным. Локаль-
Локальные теоремы A67). Уравнения, близкие к линейным.
Нелокальные теоремы A68).
§ 3. Сходимость метода Б. Г. Галеркина при приближен-
приближенном решении нелинейных уравнений 172
Сходимость процесса A73). Быстрота сходимости A75).
Метод Б. Г. Галеркина A77). Обобщение Г. И. Пет-
Петрова A78). Вычисление собственных чисел линейных опе-
операторов A81).
лава IV. Задачи о собственных функциях 184
§ 1. Топологические принципы существования собствен-
собственного вектора 187
Почти собственные векторы A87). Принцип сравнения
двух векторных вполне непрерывных полей A89). Соб-
Собственные функции ненулевого индекса A90). Малые соб-
собственные функция. Метод малых возмущений A93).
§ 2. Законность линеаризации в задаче о точках бифур-
бифуркации 194
Точки бифуркации A94). Непрерывные ветви собствен-
собственных векторов A97). Случай вполне непрерывного опера-
оператора A98). Примеры A99). Структура спектра B01). Общий
случай B03). Оператор А. М. Ляпунова B08).
§ 3. Асимптотически линейные операторы 209
Асимптотические точки бифуркации B09). Признак
сплошности спектра B13).
§ 4. Теоремы типа ляпуновских . 214
Индекс неподвижной точки B14). Случай веществен-
вещественного пространства B25). Случай комплексного простран-
пространства B30). Точки ветвления B31).
§ 5. Расположение спектра в окрестности точки бифуркации 233
Множества JV~S и JV+5 B33). Теорема о точках би-
бифуркации B34). Дифференцируемый оператор B36). При-
Примеры B37).

« ОГЛАВЛЕНИЕ
Глава V. Собственные функции положительных опера-
операторов 240
§ 1. Теорема о собственном векторе 241
Коиус в банаховом пространстве B41). Положитель-
Положительные операторы B43). Ветви собственных векторои B49).
Конус К^шк B51).
§ 2. Операторы с монотонными минорантами 255
Построение операторов, близких к исследуемому B55).
Монотонные операторы B56). Однородные операторы B57).
Линейные операторы B60). Линейные и0-ограниченные
операторы B62). Монотонные миноранты B69).
§ 3. Урысоновские теоремы о спектре 273
Замкнутость - множества собственных векторов B73).
Заполнение позитивным спектром интервала B75). Гра-
Границы позитивного спектра B79). Нелинейные и0-вогну-
тые операторы B82). и0-МОНО1'°чнь1е операторы B88).
Непрерывная зависимость от параметра B89). Теоремы
П. С. Урысона B91).
Глава VI. Вариационные методы 299
§ 1. Теоремы существования решений 300
Общий принцип C00). Теоремы существования реше-
решений для уравнений Гаммерштейна с положительно опреде-
определенными ядрами C03). Теоремы существования решений
для уравнений Гаммерштейна с симметричными ядрами,
у которых конечно число отрицательных собственных
чисел C07). Топологический принцип C13).
§ 2. Принцип линеаризации в задачах о точках бифур-
бифуркации 316
Функционалы, близкие к квадратичным C16). Лемма
Л. А. Люстерника C18). Существование одной точки
бифуркации C21). Вспомогательные леммы C25). Нестяги-
ваемые множества C29). Основная теорема C32). При-
Пример C37).

ОГЛАВЛЕНИЕ 9
§ 3. Теоремы существования собственных функций .... 342
Вариационный принцип C43). Теорема М.ГоломбаC44).
Обобщение теоремы Голомба C46). Ядра с конечным чис-
числом отрицательных собственных чисел C48).
§ 4. Устойчивые критические точки четных функционалов 356
Теорема Л. А. Люстерннка C56). Род множества C58).
Классы М/с C59). След деформации C61). Четные функ-
функционалы C62). Сепарабельность пространства C63). Кри-
Критические числа функционала C64). Критические точки
функционала C65). Множества Ra C67). Существование
различных значений d (a) C70). Норма функционала C73).
Устойчивость заданного критического значения C74).
Основная теорема C77). Замечания C78). Нечетные опе-
операторы Гаммерштейна C79). Критические точки на гипер-
гиперболоиде C80). Связь с задачей о точках бифуркации C80).
Цитированная литература 382
Предметный указатель 391

ПРЕДИСЛОВИЕ
С рукописью настоящей книги (или с ее частями) знако-
знакомился ряд математиков. Автор пользуется случаем поблаго-
поблагодарить за ценные советы и различные замечания М. Г. и
С. Г. Крейнов, Л. А. Люстерника, С. Г. Михлина, В. И. Со-
Соболева, Г. Е. Шилова и Л. Э. Эльсгольца. По рукописи
книги изучали отдельные вопросы нелинейного функциональ-
функционального анализа мои ученики и сотрудники Я. Б. Рутицкий,
Л. А. Ладыженский, А. И. Поволоцкнй и И. А. Бахтин.
Я рад отметить, что им принадлежит ряд страниц в пред-
предлагаемой читателю редакции книги.
Красносельский М. А,

ВВЕДЕНИЕ
1. Нелинейные уравнения появляются в многочисленных
задачах современной физики и техники. Поэтому важность
исследования таких уравнений не вызывает никаких сомнений.
Первое большое и серьезное исследование нелинейных
интегральных уравнений содержалось в замечательной работе
Л. М. Ляпунова [и] по фигурам равновесия вращающейся
жидкости. В несколько более общей форме результаты
Л. М. Ляпунова были получены затем Э. Шмидтом [72] и
.'!. Лихтенштейном [40].
Аналитические методы исследования нелинейных уравнений
рпзвивались в работах ряда математиков (П. С. Урысон I66],
А. И. Некрасов [48], Гаммерштейн [18], Иглиш р], Н. Н. На-
ипров [46] и другие). В частности, А. И. Некрасов и Н. Н. На-
;i;ipOB, пользуясь разложениями по малому параметру, изу-
изучили для некоторых операторов вопрос о структуре спектра,
о количестве решений уравнений, аналитически зависящих
от параметра.
В течение последних 25—30 лет появились и получили
довольно широкое развитие топологические методы исследо-
иания нелинейных уравнений. Эти методы возникли в связи
с теоремами существования решений, но в настоящее время
нашли приложения в самых разнообразных задачах.
Первые доказательства теорем существования решений
топологическими методами принадлежат Биркгофу и Кел-
логу [7]. Основная идея доказательства Биркгофа и Келлога
Силла сформулирована Ю. Шаудером [Щ в форме принципа
неподвижной точки. Обобщение принципа Шаудера на слу-
случай преобразований линейных топологических (но не норми-
нормированных) пространств предложил А. Н. Тихонов [6б].
Пользуясь принципами неподвижной точки (принцип Шау-
Шаудера и принцип сжатых отображений), В. В. Немыцкий [49а~е]

12 ВВЕДЕНИЕ
установил в ряде работ различные теоремы существования
и единственности решений у интегральных уравнений. Тео-
Теоремы В. В. Немыцкого давали более общие условия суще-
существования решений, чем некоторые теоремы, установленные
ранее другими авторами аналитическим путем. Этот же
метод применяли в дальнейшем к доказательству теорем
существования решений у других классов нелинейных урав-
уравнений В. М. Дубровский I21], H. С. Смирнов [61а], А. И. Гу-
Гусейнов I19] и многие другие.
Существенный шаг вперед в развитии топологических
методов доказательства теорем существования решений был
сделан Ю. Шаудером и Ж. Лере [89], которые ввели новое
понятие топологической степени некоторых отображений
в банаховых пространствах.
Идея использования топологической степени отображений
нашла развитие в работах Э. Роте [б6], который показал
(в основном для случая гильбертова пространства), что топо-
топологическая степень отображений обладает многими свой-
свойствами степени Брауэра — Хопфа отображений в конечно-
конечномерном пространстве.
При помощи понятия степени новые теоремы существо-
существования решений были установлены Ж. Лере [88], Дольфом |20]
и др. Новые теоремы установил также Э. Роте; следует
заметить, что теоремы Роте следуют и из принципа Шаудера.
Интересное исследование точек ветвления при помоши поня-
понятия степени было проведено Э. Кронин [8б]. Некоторые новые
приложения понятия степени были указаны автором (задача
о точках бифуркации, изучение структуры спектра и др.).
Однако понятие топологической степени незаслуженно
не нашло еще широкого распространения и применения.
В задаче о существовании собственных функций полу-
получили развитие два специальных «геометрических» метода
(мы говорим здесь об общих методах, а не об исследовании
конкретных уравнений).
Вариационный метод позволил доказать ряд теорем суще-
существования собственных функций у некоторых нелинейных
интегральных уравнений М. Голомбу [17], Л. Лихтенштейну [40]
и другим авторам. В частности, М. Голомб сформулировал
общий принцип существования собственных функций у опе-
операторов Гаммерштейна с положительно определенным ядром.
Затем было показано, что аналогичный метод применим для

ВВЕДЕНИЕ 13
доказательства существования собственных функций у опе-
операторов Гаммерштейна с некоторыми не положительно опре-
определенными ядрами.
Важную роль в задачах о собственных функциях нелиней-
нелинейных операторов сыграли топологические методы, берущие
свое начало от работ Л. А. Люстерника и Л. Г. Шнирель-
мана, в которых даются оценки числа решений вариацион-
вариационных задач. Эти методы были развиты Л. Э. Эльсгольцем,
С. В. Фроловым, А. И. Фетом и другими советскими мате-
математиками (см., например, [iS], р], [Щ). В 1939 г. Л. А. Лю-
стерник доказал теорему о существовании бесконечного
множества собственных чисел для некоторых классов нечет-
нечетных операторов, действующих в гильбертовом пространстве.
Приложения (и дальнейшее развитие) теорема Л. А. Люстер-
Люстерника нашла в работах В. И. Соболева [6В], Э. С. Цитла-
падзе [70] и др. {
Другой геометрический подход к задаче о существовании
собственных функций у нелинейных операторов предложил
М. Г. Крейн. Разработанная им теория конусов в банаховых
пространствах позволила М. А. Рутману исследовать некото-
некоторые классы монотонных положительных операторов (см. [84]).
И дальнейшем методы теории конусов были применены и
к исследованию немонотонных операторов, а также к дока-
доказательству теорем урысоновского типа о спектре положи-
положительных операторов.
2. Предположим, что мы рассматриваем задачу, связан-
связанную с изучением уравнения
cs = AA<s, A)
где А — некоторый нелинейный оператор. Задачу естественно
считать корректно поставленной, если решение ее изменится
«мало» при «малом» (в некотором смысле, зависящем от
конкретной задачи) изменении оператора А.
Пусть уравнению A) поставлен в соответствие некоторый
геометрический объект, причем соответствие таково, что
«малому» изменению оператора А в уравнении A) отвечает
«малое» изменение геометрического объекта и, наоборот,
«малом}'» изменению геометрического объекта отвечает «ма-
«малое» изменение оператора А. Тогда, очевидно, каждая
корректно поставленная задача для уравнения A) должна
формулироваться в терминах топологических инвариан-

14 ВВЕДЕНИЕ
тов малых преобразований соответствующего геометри*
ческого объекта.
Естественным геометрическим объектом, который можно
поставить в соответствие уравнению A), является векторное
поле Ф = 1 — ХА (I — оператор тождественного преобразо-
преобразования) в банаховом пространстве, в котором действует опе-
оператор А.
Как оказывается, единственным топологическим инва-
инвариантом гомотопных преобразований векторных полей вида
Ф = 1 — ХА, где А — вполне непрерывный оператор, рассма-
рассматриваемых на границах ограниченных областей, является
вращение поля (понятие вращения поля на границе области
эквивалентно понятию Лере — Шаудера топологической сте-
степени отображения области).
Поэтому следует ожидать, что каждая корректно
поставленная задача для уравнения A) должна най-
найти естественную постановку в терминах вращения и
наиболее простое решение при помощи понятия вра-
вращения.
Так и оказывается. Большинство задач, возникающих при
изучении нелинейных уравнений, можно формулировать для
различных случаев в терминах вращения. При этом понятие
вращения позволяет не только более просто установить изве-
известные ранее предложения, но и значительно их обобщить,
а иногда понятие вращения позволяет решить новые задачи.
Понятие вращения позволяет доказывать теоремы существова-
существования и единственности решений. Понятие вращения позволяет
доказывать теоремы неединственности — теоремы ляпунов-
ского типа о ветвлениях. Понятие вращения позволяет до-
доказывать существование собственных функций, исследовать
структуру множества собственных функций, исследовать
спектр оператора, устанавливать непрерывность спектра и т. д.
Понятие вращения позволило совсем просто решить задачу
о существовании точек бифуркации — обосновать для ряда
случаев линеаризацию в задаче о точках бифуркации. Поня-
Понятие вращения оказывается удобным и при исследовании не-
некоторых приближенных методов решения линейных и нели-
нелинейных уравнений.
Поэтому мы считаем, что основу метода качественного
исследования нелинейных уравнений дают топологические
соображения. При помощи методов топологии нужно искать

ВВЕДЕНИЕ 15
ответ на принципиальные вопросы, связанные с изучением
нелинейных уравнений.
Последние утверждения не следует, конечно, понимать
как отрицающие роль других методов исследования. Более
того, топологические методы приобретают силу только при
разумном сочетании их с другими приемами.
3. Книга состоит из шести глав.
Первая глава носит вспомогательный характер. Предло-
Предложения, излагаемые в этой главе, позволяют в последующих
главах иллюстрировать общие теоремы примерами нелиней-
нелинейных интегральных уравнений с интегростепенными рядами
А. М. Ляпунова, операторами П. С. Урысона и Гаммер-
штейна.
В первой главе (частью без доказательства) излагаются
признаки непрерывности и полной непрерывности различных
нелинейных интегральных операторов, признаки слабой не-
непрерывности и дифференцируемое™ функционалов и т. д.
Более подробно (§ 2) изучен в первой главе оператор
где i(x, и) удовлетворяет условиям Каратеодори.
Оказывается, что этот оператор всегда непрерывен и
ограничен, если он только действует из одного простран-
пространства LPl в другое Lp".
Как нам кажется, самостоятельный интерес представляют
доказываемые в § 4 теоремы о расщеплении некоторых ли-
линейных операторов, действующих из Lq в 1? ( 1 = 1),
в произведение двух сопряженных линейных операторов. Эти
теоремы будут использованы в главе шестой.
Исследованиям Э. С. Цитланадзе слабо непрерывных функ-
функционалов посвящен параграф пятый.
Во второй главе излагается основной метод исследования—
теория вращения вполне непрерывных векторных полей. В пер-
первых двух параграфах излагается теория Брауэра — Хопфа
степени отображения на конечномерную сферу. Часть пред-
предложений этой теории приводится без доказательств; дру-
другая часть доказывается при помощи «нумерационных» сооб-
соображений, связанных с изучением различных нумераций
вершин симплициальных комплексов. В частности, во вто-
втором параграфе приводится простое доказательство теоремы

1 б Введение
Л. А. Люстерника—-Л. Г. Шнирельмана — К. Борсука о не-
нечетности вращения нечетного векторного поля на сфере.
В третьем параграфе вводится понятие вращения вполне
непрерывного векторного поля и доказывается, что вращение
поля полностью определяет гомотопический класс полей.
Последний параграф главы посвящен вопросам вычисления
вращения вполне непрерывных векторных полей. В первую
очередь здесь излагаются теоремы Лере — Шаудера о вра-
вращении линейных и близких к линейным полей. В параграфе
излагаются новые теоремы, например бесконечномерный ана-
аналог теоремы Л. А. Люстерника—Л. Г. Шнирельмана—К. Бор-
сука и некоторые другие.
Глава третья посвящена теоремам существования и един-
единственности решений.
В первом параграфе при помощи принципа сжатых ото-
отображений вводится понятие резольвенты нелинейного опера-
оператора и исследуются свойства резольвенты.
Во втором параграфе доказывается ряд теорем существо-
существования решений. Понятие резольвенты нелинейного оператора
позволяет при этом исследовать уравнения и с не вполне не-
непрерывными операторами.
В последнем параграфе главы доказывается сходимость
метода академика Галеркина приближенного решения нели-
нелинейных (в частности, линейных) уравнений и устанавливается
быстрота сходимости. В этом параграфе устанавливается
также быстрота сходимости метода Галеркина при отыскании
простых собственных чисел и функций линейных операторов,
причем соответствующее исследование ведется при помощи
нелинейных операторов.
Четвертая глава посвящена задаче о собственных функ-
функциях.
В первом параграфе приводятся общие теоремы о не-
непрерывных ветвях собственных функций, о непрерывности
спектра.
Во втором параграфе рассматривается задача о точках
бифуркации. Понятие резольвенты нелинейного оператора
позволяет исследовать не только вполне непрерывные опера-
операторы. Основной результат параграфа заключается в обосно-
обосновании линеаризации в задаче о точках бифуркации для слу-
случая, когда дифференциал Фреше исследуемого оператора
имеет нечетнократные (например, простые) собственные числа.

ВВЕДЕНИЕ 17
В третьем параграфе устанавливается существование не-
непрерывных ветвей собственных функций для асимптотически
линейных операторов.
Четвертый параграф посвящен рассмотрению особого слу-
случая, когда дифференциал Фреше исследуемого оператора
имеет единицу собственным числом. Такой случай рассма-
рассматривался впервые А. М. Ляпуновым (точки ветвления). По-
Поэтому получаемые здесь теоремы мы называем теоремами ля-
нуновского типа.
В последнем параграфе изучается расположение спектра
нелинейного оператора в окрестности точек бифуркации.
Пятая глава посвящена методам, связанным с теорией
М. Г. Крейна конусов в банаховом пространстве.
Основным результатом главы является использование ме-
методов теории конусов для изучения положительных немоно-
немонотонных операторов.
Использование топологических методов и, в частности,
понятия вращения позволило исследовать структуру множе-
ci'iia собственных функций положительных операторов. Ока-
■алось, что они образуют непрерывные ветви. Для некото-
некоторых классов операторов удается исследовать и структуру
множества собственных чисел, отвечающих положительным
• пбственных функциям. Доказываемые на этом пути теоремы
■ одержат, в частности, ряд предложений П. С. Урысона
•• спектре одного конкретного класса интегральных операто-
|М)Ц [''в].
Н последней — шестой главе излагаются вариационно-
ищологические методы исследования нелинейных уравнений.
|1 пой главе мы останавливаемся на тех же задачах, кото-
которые рассматривались в предыдущих главах.
При помощи общего принципа существования критической
киши у некоторых функционалов в гильбертовом простран-
• гпе в первом параграфе доказываются различные теоремы
( vшествования решений. Затем показывается, как аналогич-
аналогичное утверждения могут быть доказаны и при помощи топо-
'шгических принципов существования неподвижной точки.
Использование одновременно топологических и вариацион-
вариационных соображений позволяет (§ 2) для потенциальных опера-
н)роп доказать более сильные утверждения о законности ли-
миаризации в задаче о точках бифуркации, чем установлен-
установленные и главе четвертой.

18 ВВЕДЕНИЕ
В третьем параграфе излагаются вариационные принципы
существования континуумов собственных функций у нелиней-
нелинейных операторов.
В последнем параграфе доказывается теорема о существо-
существовании у некоторых потенциальных операторов счетного числа
собственных значений, которым отвечают нормированные соб-
собственные функции. Эта теорема вытекает из оценки числа
критических значений — минимумов и максимумов функцио-
функционалов на множествах некоторых классов. Основной результат
параграфа заключается в доказательстве устойчивости этих
критических значений.
Во всей главе рассматриваются в качестве примеров урав-
уравнения Гаммерштейна с симметрическими ядрами (не ставя
перед собой цели полного изучения этого уравнения, мы не
останавливаемся подробно на выяснении свойств решений и
собственных функций: их ограниченности, непрерывности
и т. д.).
4. В книге нет систематического изложения важного раз-
раздела нелинейного функционального анализа — методов
Л. А. Люстерника и Л. Г. Шнирельмана оценки числа кри-
критических точек на произвольных многообразиях, общей тео-
теории категорий и других инвариантов типа категории (см.,
например, [41Д], [48], [68], [74]). Некоторое представление об
этих методах можно получить по главе шестой, так как
основные результаты параграфов второго и четвертого по-
получены при помощи основной конструкции теории катего-
категорий— построения минимаксимальных значений функционалов.
Совершенно не изложены в книге интересные работы
М. К. Гавурина [и] и других авторов об операторах с ана-
аналитическими нелинейностями.
Настоящая книга не имеет целью дать полное и систе-
систематическое изложение всех результатов, полученных в тео-
теории нелинейных интегральных уравнений, в настоящее время
достаточно богатой интересными и содержательными фактами.
В частности, в книге не нашли полного отражения интерес-
интересные работы П. С. Урысона, А. И. Некрасова, Н. Н. Назарова
и других математиков, проведенные аналитическими мето-
методами. Не нашли отражения также методы приближенного
решения уравнений, разработанные Л. В. Канторовичем и его
учениками. В книге в основном изложены факты, получаемые
при помощи геометрических соображений. В числе других

ВВЕДЕНИЕ 19
и книге изложены результаты исследований автора, прове-
проведенных, в 1948—1953 гг. (часть этих результатов, в боль-
большинстве случаев без доказательств, была опубликована в ряде
наметок, часть публикуется впервые).
Общая теория нелинейных операторных уравнений, раз-
митая в книге, иллюстрируется различными интегральными
уравнениями. Однако все факты этой теории применимы и
к изучению всех тех краевых и граничных задач для диффе-
дифференциальных уравнений, которые могут быть сведены, как
■>то часто бывает, к уравнениям с вполне непрерывными (или
гилько непрерывными) операторами.

ГЛАВА I
НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ
Чтобы применять для изучения заданного конкретного
нелинейного интегрального оператора излагаемые в книге
геометрические методы, нужно построить функциональное
пространство, в котором этот оператор обладает «хорошими»
свойствами: непрерывен, вполне непрерывен, дифференцируем
и т. д.
Мы ограничимся рассмотрением в качестве примеров та-
таких нелинейных операторов, для изучения которых достаточно
применения пространства С непрерывных функций и прост-
пространства if функций, суммируемых с /?-й степенью. Поэтому
в настоящей главе мы приводим признаки непрерывности,
полной непрерывности и ограниченности различных нелиней-
нелинейных операторов только для тех случаев, когда эти опера-
операторы действуют в пространстве С или в пространстве If.
Вопрос о получении достаточно общих признаков непре-
непрерывности и полной непрерывности нелинейных интегральных
операторов в заданных конкретных функциональных про-
пространствах первым поставил, повидимому, В. В. Немыцкий.
Ему принадлежат и первые теоремы в этом направлении.
Вопрос о построении функционального пространства,
в котором заданный конкретный оператор обладает теми или
иными нужными свойствами, впервые рассматривался Ю. Шау-
дером. Вопрос этот в настоящее время еще мало изучен.
Для интегральных операторов с существенно нестепенными
(например, экспоненциальными) нелинейностями вопрос о по-
построении пространства, в котором оператор вполне непре-
непрерывен, изучался Я. Б. Рутицким и автором [Зм1; получен-
полученные результаты используют теорию пространств Орлича и
поэтому выходят за рамки настоящей книги.

§ 1] ОСНОВНЫЕ ПОНЯТИЯ 21
§ 1. Основные понятия
Мы приводим здесь ряд основных определений и утвер-
утверждений, используемых в дальнейшем. Однако дальнейшее
изложение ведется в предположении, что читатель знаком
с элементами линейного функционального анализа (например,
в объеме первых пяти глав книги Л. А. Люстерника и
В. И. Соболева [42]).
1. Операторы в банаховых пространствах. Банаховым
пространством называют полное линейное нормированное
пространство. Мы будем изучать операторы, действующие в
вещественном банаховом пространстве Е, т.е. в таком
пространстве, в котором определено умножение элементов
на вещественные числа. Последнее предположение не огра-
ограничивает общности рассмотрений, так как каждое комплекс-
комплексное линейное пространство можно рассматривать и как ве-
вещественное.
Будут рассматриваться также и операторы, действующие
из одного банахова пространства Ег в другое Еэ: операторы
с областью определения в ft и множеством значений в Е.2.
Элементы банахова пространства (там, где это не будет
приводить к недоразумениям) будем называть также точками
или векторами. Нулевой вектор любого банахова простран-
пространства будем обозначать через 0.
Вектор о^Е('зфЦ) называется собственным вектором
оператора А, действующего в пространстве Е, если най-
найдется такое число а, что
А<р = X®.
Число А при этом называется собственным числом опе-
оператора А, соответствующим собственному вектору ср.
О собственном векторе <в также говорят, что он соответ-
соответствует собственному числу а. Каждому собственному вектору
оператора А, очевидно, соответствует единственное собст-
собственное число. Обратное утверждение не всегда справедливо:
одному и тому же собственному числу может соответство-
соответствовать несколько или даже бесконечное множество собствен-
собственных векторов. Например, каждому собственному числу ли-
линейного оператора соответствует подпространство собствен-
собственных векторов.
Число, обратное собственному, называют характерц-
стическим.

22 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Оператор А, действующий из пространства Е1 в про-
пространство Е.2, называют непрерывным, если он каждую
сходящуюся (по норме в Ех) последовательность элементов
преобразует также в сходящуюся (по норме в Е.2) последо-
последовательность элементов. Оператор А называется ограничен-
ограниченным, если он каждое ограниченное (по норме) множество
элементов преобразует в ограниченное множество.
Понятия непрерывности и ограниченности оператора не-
независимы друг от друга. Приведем пример непрерывного,
но не ограниченного функционала (оператора с множеством
значений — вещественными числами) в пространстве /э число-
числовых последовательностей а>={51, £2> ■•.}, в котором норма
задается равенством
1И {2#
Определим этот функционал F (<р) равенством
где сумма распространена на те значения индекса /, зави-
зависящие от », при которых |Sj|^-l. Для каждого элемента
<р£Р таких значений индекса будет конечное число. Непре-
Непрерывность функционала F(«) в Р доказывается без труда.
Функционал F(<o) ограничен (равен нулю) на шаре [|<р(|<; 1
и не ограничен на каждом шаре большего радиуса, чем
единица.
Если оператор А линеен, т. е. аддитивен и однороден:
А (Лср —J— ji-'L) = XAcp + jiAi (<р, Ъ£Е, I, \ь — числа),
то он непрерывен тогда а только тогда, когда он огра-
ограничен (см., например, [4'2]). Из последнего утверждения сле-
следует, что для линейного непрерывного оператора А можно
указать такие числа &>-0, что для всех элементов =?££:,
на которых оператор А определен,
Наименьшее из чисел k, при которых выполняется по-
последнее неравенство, называется нормой оператора А и обо-
обозначается через || А ||.
Наряду с сильной сходимостью элементов в Е (сходи-
(сходимостью по норме) рассматривают слабую сходимость. На-

§ 1] ОСНОВНЫЕ ПОНЯТИЯ 23
помним, что последовательность ®п£Е (л=1, 2, ...) на-
наливается слабо сходящейся к элементу <ро££> если Для
каждого линейного неарерывного функционала L, заданного
на Е, последовательность чисел L (?» —»0) (я = 1, 2, ...)
сходится к нулю. Всюду в тексте, где употребляется без
оговорок слово «сходимость», подразумевается сильная схо-
сходимость.
2. Пространства С и V (см. [4Э1). Пусть О — ограни-
ограниченное замкнутое множество конечномерного евклидова про-
пространства. Совокупность всех непрерывных вещественных
функций на G образует банахово пространство С, если ес-
естественным образом определить операции сложения и умно-
умножения на числа и задать норму равенством
||<р(дг)Ц = тах|»(лг)|.
При таком определении сильная сходимость, очевидно,
равносильна равномерной сходимости.
Пусть теперь G — измеримое множество конечной или бес-
бесконечной меры. Мы будем предполагать (здесь и всюду
и дальнейшем), что мера непрерывна, т. е. что каждое под-
подмножество QxczO конечной меры можно разбить на две
части половинной меры. Совокупность всех функций, сум-
суммируемых на О с р-й степенью (/?>• 1), образует банахово
пространство if, если не различать функции, отличающиеся
друг от друга только на множестве нулевой меры, и если
определить норму равенством
}
а
В дальнейшем часто будет использоваться неравенство
Гельдера
f \4{x)\*dx\p . j f\<b(x)\qdx)q,
\ j
где <р(лг)€1*(/>>1), 4 (*)€*•*. причем 1 + 1=1, Числа
р и q, связанные равенством — -] = 1, называются сопря-
сопряженными.

24 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. '
Скалярное произведение функций <р (дг) £ Lp и •]> (л:) £ Lq
обозначается через (со, 6):
(9, 40=/?(*Ж*)Л«:.
о
Неравенство Гельдера можно записать в виде
К?. ФI<11?1
где ||911—норма функции <?(х) в lp, а ||<}||—норма функ-
функции -i (л:) в Lq.
В случае p = q=z2 неравенство Гельдера превращается
в неравенство Бунтовского.
Из неравенства Гельдера следует, что каждая функция
ty (х) £ Z.9 задает на 1Р линейный непрерывный функционал
L(<?) равенством L(»)= (<p. <!')• Оказывается, что такими функ-
функционалами исчерпываются все линейные непрерывные функ-
функционалы на Lp (см., например, [42]).
Пространство I? особенно важно для приложений, так
как оно является гильбертовым пространством (см. [*], \4'2], [8'3]).
3. Вполне непрерывные операторы. Пусть Et и Е.2 —
банаховы пространства. Оператор А, определенный на мно-
множестве М а Ех, с множеством значений в Е.2 называется
компактным, если из каждой ограниченной последователь-
последовательности векторов 9п £ Ж (я = 1, 2, .. .) можно выделить такую
подпоследовательность <?„ (/=1, 2, ...), что векторы А<?п.
сходятся в £.2. Иначе говоря, оператор А компактен, если
он каждое ограниченное множество преобразует в ком-
компактное.
Оператор А называется вполне непрерывным, если он
непрерывен и компактен.
Пусть \k (k = 1, 2, . ..) — последовательность вполне не-
непрерывных операторов, определенных на М с Ех и дей-
действующих из £t в Ео,- Пусть А — такой оператор, также
определенный на Ж и действующий из Ех в £.2> чт0
А«р — АА<?|| стремится к нулю при &->оо равномерно
относительно векторов в из любого ограниченного множе-
множества Мх а М. Тогда оператор А вполне непрерывен.
Это утверждение почти очевидно. Пусть, действительно,
т\ € М (я=1« 2i г • •) — последовательность, сходящаяся

§ 1] ОСНОВНЫЕ ПОНЯТИЯ 25
в Е1 к элементу <р0 £ М. Тогда при всех k = 1, 2, ...
lim ||А«0 — А<р„||<
га-^оо
<|А% — Ай<р0||+ Ит ||А*?0 —А*<ряЩ- Ит [А*?» — А<?я||<
п-^оо п-^со
<2 sup |А?Я —А*«ря],
» = 0, 1, 2, ...
откуда в силу произвольности k
lim (|A?0 —A?«J = O.
»->оо
Таким образом, оператор А непрерывен. Пусть теперь
задано число е > 0. По предположению найдется такое
число &, что |А<р — Aft<p||<-o" (? 6 ^i)- ^3 этого неравен-
неравенства следует, что каждая -|- -сеть множества AuMt будет
е-сетью множества AMV Так как компактное множество А]еМ1
имеет конечную -~— сеть, то множество AMt имеет тоже
конечную е-сеть. Значит, КМХ компактно.
Перейдем к рассмотрению линейных вполне непрерывных
операторов.
Отметим (см. [5а]), что линейный вполне непрерывный
оператор преобразует каждую слабо сходящуюся после-
последовательность векторов в последовательность, сходящуюся
сильно.
Более подробно рассмотрим случай, когда Et = Е2 = Е,
т. е. случай, когда вполне непрерывный линейный оператор А
действует в пространстве Е. Для этого случая теория
линейных вполне непрерывных операторов создана Ф. Рис-
сом [55]. Важные обобщения теории Ф. Рисса на более
широкие классы линейных операторов были получены
С. М. Никольским [Б0]. Теория линейных вполне непре-
непрерывных операторов в линейных топологических пространствах
развита Лере [18б1, а затем Альтманом [8].
Мы приведем без доказательств основные результаты
теории Рисса; эти результаты в дальнейшем будут исполь-
использованы. Теория Рисса, кроме [55], изложена в [5а], [69].
Если отличное от нуля число X не является собственным
числом линейного вполне непрерывного оператора А^ то.

26 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
оператор А—М осуществляет гомеоморфное преобразо-
преобразование Е на себя (через I обозначается оператор тождест-
тождественного преобразования).
Пусть к— отличное от нуля собственное чисао линей-
линейного вполне непрерывного оператора А. Обозначим через £\
множество всех решений уравнений
(А — М)"чр = Й (я=1, 2, ...)• A-1)
Очевидно, уравнения A.1) имеют отличные от 6 решения,
например, каждый собственный вектор оператора А, соот-
соответствующий собственному числу А, будет решением всех
уравнений A.1). Е\ является конечномерным подпространством,
размерность которого называется кратностью собственного
числа к оператора А. Собственное число к оператора А
называется простым, если Е\ одномерно.
Можно указать такое наименьшее число п0 > 0, что
при п > п0 каждое решение уравнения
является одновременно и решением уравнения
(А — Х1)»оа> = е.
Введем обозначение
£* = (А —М)*-Е.
Множество Ех является подпространством пространства Е.
При этом каждый элемент со £ Е допускает единствен-
единственное представление в виде
<B=<Bt-f.»a,
где «J £ Ex, 92££x- Это позволяет ввести в рассмотрение
два линейных непрерывных оператора Рх и Р\ определив
их равенствами
Рх<в = в1, pVp = <Ba. A.2)
Множества значений операторов Рх и Рх совпадают соот-
соответственно с Ех я Ех. Говорят, что Рх является оператором
проектирования на Ех и соответственно оператор Рх — опе-
оператором проектирования на Е1.
Множество собственных чисел оператора образует его
спектр. Спектр линейного вполне непрерывного оператора

§ 1] ОСНОВНЫЕ ПОНЯТИЯ 27
состоит не более чем из счетного множества чисел, имеющих
только одно возможное предельное число—нуль.
Вопрос о существовании у произвольных линейных вполне
непрерывных операторов собственных чисел представляет
большие трудности. Существуют линейные вполне непре-
непрерывные операторы, не имеющие собственных чисел (напри-
(например, интегральный оператор Вольтерра, порожденный не-
непрерывным ядром, вполне непрерывен в пространстве С,
но не имеет в этом пространстве собственных функций).
Для частных, правда широких и важных, классов линейных
вполне непрерывных операторов существование собственных
векторов доказано. С теоремами существования собственных
функций у положительных линейных операторов читатель
встретится в главе V.
Полностью изучены самосопряженные линейные опера-
операторы, действующие в гильбертовом пространстве, т. е. такие
линейные операторы А, что для любых элементов со, <Ji
пространства справедливо равенство
(А?, *) = (?, Аф).
Каждый линейный вполне непрерывный самосопряженный
оператор А представим (см. [4], [42(, [62]) в виде
? 24(P ii
г=1
где А.4 (/ = 1, 2, ...) — собственные числа оператора А,
ei(i=\, 2, ...) — соответствующие собственные векторы,
причем
{eit е,) = 8у (I, У=1, 2, ...),
где Ьи=1 и 8у = 0 при 1ф'}.
4. Линейные интегральные операторы. Линейные ин-
интегральные операторы А вида
А? (х) ={ К(х, у)ч (У) dy A.3)
в
при весьма широких предположениях относительно ядер
К(х, у) дают примеры вполне непрерывных операторов
в различных функциональных пространствах.

28 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Пусть G — ограниченное замкнутое множество конечно-
конечномерного пространства. Рассмотрим оператор A.3) в про-
пространстве С непрерывных на G функций. Легко видеть, что
оператор A.3) вполне непрерывен, если ядро К(х, у)
(х, y(zG) непрерывно. Действительно, в этом случае опе-
оператор А преобразует каждое ограниченное множество функций
в множество функций, равномерно ограниченных и равно-
равностепенно непрерывных, которое в силу теоремы Арцеля ком-
компактно в С.
Однако оператор А будет вполне непрерывен в С и при
более общих условиях. Достаточно, например, требовать,
чтобы ядро К(х, у) удовлетворяло следующим требованиям:
а) для каждого x£G функция К(х, у) измерима и
суммируема по у;
б) для каждого х £ G
Нш f \К(хх, у) — К(х, y)\dy = 0.
Общий вид линейного вполне непрерывного оператора
в пространстве С нашел Радон [Б4].
Ниже мы не будем каждый раз перечислять ограничения
накладываемые на ядро для того, чтобы порожденный этим
ядром оператор A.3) был вполне непрерывен в С. Будем
говорить коротко, что ядро К(х, у) допустимо, если опе-
оператор A.3), порожденный этим ядром, вполне непрерывен в С.
В дальнейшем рассматриваются также линейные опера-
операторы A.3), действующие из одного пространства LPl в другое
LPt {pv p.2> 0- При этом предполагается, что G — измери-
измеримое множество конечной или бесконечной непрерывной меры.
Для случая mes О < оо достаточным условием полной не-
непрерывности оператора A.3), действующего из LPi в 1?\
является выполнение неравенства (см., например, [5а])
f
f
а Ь
В § 3 будут приведены условия полной непрерывности
некоторых нелинейных интегральных операторов в про-
пространстве Сив пространстве Lp.

§ 2] оператор f 29
§ 2. Оператор f
Говорят, что некоторая функция /($, и) двух перемен-
переменных — оо < и < оо, s £ О удовлетворяет условиям Ка-
ратеодори ([25], см. также [8]), если она непрерывна
но и почти при всех $£О и измерима по 5 при всех зна-
значениях и. Через О здесь обозначено множество ге-мерного
пространства конечной или бесконечной меры.
Обозначим через f оператор, заданный на совокупности
иещественных функций на О равенством
где f(s, и) удовлетворяет условиям Каратеодори.
Этот нелинейный оператор играет фундаментальную роль
н изучении широкого класса нелинейных интегральных урав-
уравнений. Нас будут в этом параграфе интересовать в основном
спойства оператора f для случая, когда он действует из
одного пространства LPi в другое LPl. Оказывается, что не-
непрерывность и ограниченность оператора f вытекают уже из
одного того факта, что f действует из LPl в Lp*.
1. Сходимость по мере.
Лемма 2.1 (В. В. "Немыцкий [т]). Пусть О — мно-
множество конечной меры. Тогда оператор i преобразует
каждую сходящуюся по мере последовательность функций
Ul(s), u.2(s), ... (s6О) B.1)
в последовательность функций, также сходящуюся по
мере.
Доказательство. Пусть последовательность B.1)
сходится по мере к функции моE)-
Обозначим через Qk (& = 1, 2, ...) множество тех $£О,
для которых из неравенства
\<
следует:
\f[s, uQ{s)] —
где s — произвольное заданное положительное число.
Очевидно, 0tcG.2c:...

30 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Из непрерывности функции f(s, и) по и почти при всех
s £ О вытекает, что
со
mes U Gfe = mes G,
откуда следует
lim mes0fe = mes0. B.2)
Пусть заданы положительные числа т) и s. Выберем
число k0 так, что
mes Ok0 > mes G — -^;
это возможно в силу B.2). Через Fn обозначим множество
тех точек s£G, для которых
Выберем теперь такое N, что для всех п > N
mesfra > mesG—-~.
Рассмотрим последовательность функций
iut (s) = f[s, «t (s)], fag (s) = /[s, и2(s)l, ...
Через Dn обозначим множество тех точек s£O, для которых
\f[s, ao(s)]—f[s, un(s)}\<*.
Очевидно,
QkttnFncDn,
откуда следует, что
mes Dn > mes G — т).
Так как s и т] произвольны, то последним неравенством
лемма доказана.

§ 2] ОПЕРАТОР f 31
2. Непрерывность оператора f [29ж].
Теорема 2.1. Пусть оператор f преобразует каждую
функцию из LPi в функцию из LPl (pv p%~^\)*)- Тогда
оператор f непрерывен.
Доказательство. Пусть вначале mesG<oo.
Предположим, что ffJ = 0, и покажем, что оператор f
непрерывен в нуле 0 пространства LPi. Допустим, что это
не так. Тогда существует такая сильно сходящаяся к 6 по-
последовательность функций <?n{s)£LPi (re=l> 2, ...), что
/|*Р» (*)!*<**>« (я=1, 2, ...). B.3)
а
где а — некоторое положительное число. Будем считать при
этом, что
со
2 Г 1®»(*)|Л<**<°°- B-4)
Построим такие последовательности чисел еЛ, функций
ср„ (s) и множеств GkaG (fc=l, 2, ...), что выполнены
А
условия:
a)
b)
с) \\f<?n
fuds>
d) из mes£) <; 2sfc+t для любого множества DcG сле-
следует, что
Построение последовательностей &k, <on (s) и Gk(k=\, 2, ...)
будем проводить по индукции. Пусть st = mesG, orti (s)=<pt (s),
G
*) Нетрудно видеть, что оператор f преобразует каждую функ-
функцию из L?1 в функцию из LPt, если он преобразует функции из не-
некоторого шара пространства LPl в функции из IP*.

32 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Если гк, tpn (s) и Gk построены, то в качестве ек+1 выбе-
выберем такое число, чтобы было выполнено условие d), что воз-
возможно в силу абсолютной непрерывности интеграла
При этом автоматически будет выполнено условие а), так
как функция <pn (s) удовлетворяет условию с). В силу
леммы 2.1 можно указать такое число пк+1 и множество
Fk+lcG, что при s£Fk+t
( " ЛB.5)
Л
mesO
причем
mesG—mes Fk+1 <C sk+v B.6)
Пусть Gk+r = G\Fk+1. Тогда из B.6) следует выполнение
для Gk+1 условия b). Выполнение условия с) следует из B.3)
и B.5):
Введем в рассмотрение множества
Dk = Gk\ U Gi (й=1, 2, ...).
В силу условий а) и Ь)
оо °°
mes U Gj< S Ч < 2еА+1 (й=1, 2. ...)• B-7)
Определим функцию ^(s) равенством
=1,2, ...).
B.8)
c?nfc(s), если s£Dk (ft =1,2, ...).
О, если s£ U £>»•
i

§ 2] ОПЕРАТОР f 33
Из условий с), d) и B.7) следует:
> J I f»»* <*) I""ds — J | f?nfc (s) |Л rfs > | B.9)
(ft= 1, 2, ...)
В силу B.4) 4 £LPl и по условию теоремы Ц£ЬР'. С дру-
1ой стороны, в силу B.9) i<b£LPa, так как Di[)D:/=:0
при ^ т^ /' и, следовательно,
Полученное противоречие доказывает непрерывность опе-
оператора f в точке 6 (в предположении, что f() = Ь).
Перейдем к общему случаю. Докажем непрерывность
оператора f в точке и0 £ Lp\ Введем в рассмотрение функцию
tf(s, u) = f[s, uo(s)-\-u]— f[s, uo(s)\ (s£G, —оо<и<оо).
Оператор g, порожденный функцией g(s, и):
gu(s) = g[s,u(s)],
будет удовлетворять условию g'i = б и по уже доказанному
будет непрерывен в точке Ь. Но это и означает, что опе-
оператор f непрерывен в точке uo£LPl.
Итак, в предположении, что mesO<oo, теорема доказана.
Пусть теперь mesG = oo.
Допустим снова, что оператор f не непрерывен. Без огра-
ограничения общности, как было показано выше, можно считать,
что он разрывен в точке Ь и что fb = Ь.
Пусть тогда снова <?n(s)£LPl (ге = 1, 2, ...)—такая
последовательность функций, что
?*(*)!*"<**>« (я==1, 2, ...). B.10)

34 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [гЛ. I
где а — некоторое положительное число. При этом снова
будем считать, что
со
2 {\<fn(s)\*ds<oo. B.11)
Построим такие последовательности функций <sn (s) и
множеств Dkd G (k = 1, 2, . ..), что
a) mes Dk < оо, Dj ("| £>,/ = 0 при I ф j;
b) f I'?»*(*> 1л<й>т (&=1> 2> •••)•
Это построение будем проводить по индукции. Пусть
<рге (s) = cpt(s). Множество Dt можно построить в силу B.10).
к
Пусть <р (s) и Dk уже построены. Множество U D{ будет
иметь по условию а) конечную меру. В силу доказанной
непрерывности оператора f для случая mes О < оо можно
указать такой индекс пк+1, что
к
U Di
i = l
При этом можно указать такое множество О^+1 конечной
меры, что
j>)P^>«- B-13)
к
Обозначим множество Gk+1 \ U Dx через Dk+V Выпол-
Выполнение условия а) очевидно. Условие Ь) для функции »n (s)
выполняется в силу B.12) и B.13).
Определим снова функцию 6(s) равенством B.8):
<P»fc(*). если s£Dk (й=1, 2, ...).
со
О, если sf [} Di.

§ 2] оператор f 35
В силу B.11) ty£Lp' и по условию теоремы
С другой стороны, в силу b) fi £ Lp*.
Полученное противоречие доказывает теорему.
3. Ограниченность оператора f [?9iK]. Напомним, что
оператор называется ограниченным, если он каждое ограни-
ограниченное по норме множество преобразует в множество огра-
ограниченное. Как мы уже отмечали в § 1, из непрерывности
нелинейного оператора, вообще говоря, не следует его огра-
ограниченность.
Теорема 2.2. Пусть оператор f преобразует каждую
функцию из LPl в функцию из Lp* (pv p.2^-1). Тогда опе-
оператор f ограничен.
Доказательство. Без ограничения общности можно
считать, что ftl = 0.
В силу теоремы 2.1 оператор f непрерывен в точке 6.
Это значит, что найдется такое г > 0, что
f<p(s)|pVs< 1, B-14)
a
если
a
Пусть теперь u(s)£LPl и
где п — целое число. Тогда можно разбить G на такие части
Oi Gn+1, что
f\u(s)\Plds*£rPl (t= 1, ..., n+1).
Тогда в силу B.14)
Г * "■# г
|fa(s)rstfs< 2j
откуда
I »/
а
Теорема доказана.

36 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
4. Достаточные условия непрерывности оператора f.
Теорема 2.3. Если оператор f действует из LPl
в LPt (pv /?2> 1), то
Ъ
\p\ B.15)
где b — положительная постоянная, a(s)£Lp'.
Доказательство. В силу теоремы 2.2 найдется поло-
положительное число b такое, что
I \ f[s, и (s)] I ds ^ b
при
а
Определим функцию
f* a\ \\J(s>u)\-b\u\p\ если \f(s,u)\->b\u\p\
[ 0, если |/(s, u)\^.b\u\p'.
Очевидно, если о (s, и) ф 0, то
Рассмотрим какую-либо функцию u(s)£LPi. Обозначим
через О множество тех s£G, в которых <р [s, u(s)\ > 0.
Пусть I [ u(s)\Plds = n-\-a, где п — целое число, а0<><1.
в
Тогда множество О можно разбить на такие ге-f-l части
Glf G2> ..., Оп+1, что
$\u(s)\p'ds< 1 (*=!,..., n+1).
Тогда
j\f[s,u(s)]\p'ds= 2 f l/[*.

§ 2] ОПЕРАТОР f 37
и
f Is, a(s)]|Ads< {\f[s, u(s)]\p°ds — bp> f\u
» S g
<(я+1)*А — ^'(n + sX^1. B.16)
Обозначим через Gft (k=l, 2, . . .) такую последова-
последовательность вложенных друг в друга множеств конечной меры,
что G— (J Gk.
к = 1
Так как почти при всех s£G функция о(s, и) непре-
непрерывна по и, то почти всюду на О можно определить после-
последовательность функций uk(s) (fc=l, 2, ...) таких, что
ик (s) — 0 при s £ Gk и
9 [s, Mft(s)]= max cp(s, м).
Очевидно, uk(s)£LPl. Положим
= sup ts (s,m)= lim <o [s, uk(s)].
— co<«<co fc-^co
В силу B.16) и теоремы Фату ([47], стр. 125)
{ | a (s) \p% ds < sup { | ср [s, uk (s) \р> ds < bp\
0 k 0
Зн-ачит, a (s) £ Lv*.
Так как
Pi
o(s)= sup cp(s, u)~^- sup I |/(s, м)I — £|и|?а|,
TO
I /(s, m) I -^ a (s) -}-61 и \Pi (s £ G, — oo <[ м <^ oo).
Теорема доказана. .
Эта теорема была доказана автором и без доказательства
сформулирована в статье Я- Б. Рутицкого [5-а1. Приведенное
изложение доказательства этой теоремы также принадлежит
Я- Б. Рутицкому. М. М. Вайнберг в [1Он] эту теорему дока-
доказал, следуя несколько иному плану.

38 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Условие B.15) очевидным образом обеспечивает действие
оператора из LPl в Lp". Следовательно (в силу теоремы 2.1),
оно является и достаточным условием непрерывности опе-
оператора f.
Неравенство B.15), как достаточное условие непрерыв-
непрерывности оператора f, действующего из LPi в Lp' (для случая,
когда mes G <оо), было указано впервые М. М. Вайнбергом *)
(см., например, [1Сж]). Это предложение М. М. Вайнберга
является непосредственным следствием леммы 2.1 В. В. Не-
мыцкого. Действительно, непрерывность оператора f в точке
uo(s)£Lp' будет доказана, если мы покажем, что
lim f|/[s, un(x)]—fls, u
для любой последовательности функций un(s) (га = 1, 2, .. .),
сходящейся в LPl к uQ(s). Последовательность функций под
знаком интеграла в силу леммы В. В. Немыцкого сходится
по мере к нулю. Для перехода к пределу под знаком инте-
интеграла в силу теоремы Витали [4V] нужно, чтобы подинте-
гральные функции имели равностепенно абсолютно непре-
непрерывные интегралы, т. е., чтобы для любого s > 0 можно
было указать такое 3 > 0, что для любого множества Ох с= О
из mes Ot < о следует:
/ls. «„(s)]— f[s,uo(s)]\p>ds<z (я=1. 2, ...)•
При выполнении B.15) условие теоремы Витали следует
из того, что функции | un(s)\Pl (га = 0, 1, 2, ...) имеют
равностепенно абсолютно непрерывные интегралы, и из того,
что
|Л«, «„(*)]—Л*. «<>(*)] 1А<
*) Он же высказал гипотезу о том, что неравенство B.15) необ-
необходимо для непрерывности оператора f,

§ 2] ОПЕРАТОР f 39
В. В. Немыцким, затем М. М. Вайнбергом и другими
авторами были предложены и другие формы достаточ-
достаточных условий непрерывности оператора f, действующего
из пространства LPl в пространство Lp* (В. В. Немыцкий и
М. М. Вайнберг дополнительно предполагали, что mes О < оо).
Эти условия, конечно, вытекают и из теоремы 2.1.
Мы приведем один используемый ниже достаточный при-
признак непрерывности и ограниченности оператора f.
Пусть непрерывная по и функция f (s, и) (s £ О,
— оо < и <С оо) удовлетворяет неравенству
где
Р:Р,
Т{ (s) 61*>-*Ъ, 0 < р.2% <Pl (i = 1 п), % = g.
Тогда оператор f действует из пространства LPl в про-
пространство Lp\ причем он непрерывен и ограничен.
Для доказательства справедливости этого признака доста-
достаточно в силу теорем 2.1 и 2.2 проверить, что оператор f
каждую функцию из LPi преобразует в функцию из Lp\
Пусть tp(s)^LPl. Тогда
< S ( Г I Ti (s) Г~р^ ds ) »a . I «p (S) (< + b || ? (s) f < со
a
и, таким образом, f? (s) £//\
Для приложений было бы удобно, если бы оператор t
был вполне непрерывен. Однако он компактен лишь в том
случае, когда множество его значений есть один фиксиро-
фиксированный элемент пространства Lp*. Покажем это.
Пусть ср> ty£LPl — Две функции, которые оператор f пре-
преобразует в различные функции из Lp\
J
|f<?(s) —

40 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Тогда можно указать такое число f > 0, что на неко-
некотором множестве GocrG конечной ненулевой меры
I *?(*) — Ж«)|>7 (*€Оо)- С2-17)
Построим последовательные разбиения множества Go на
множества Оа11(%2 afc (k— 1, 2, .. .)> гДе каждый индекс ai
принимает два значения: 1 и 2. Пусть
О0 = О1 U O2; Gt П 0.2 = 0; mes Gx = mes 0.2 = — mes Go.
Затем построение множеств проводится по индукции так,
чтобы
Оа, aft_1, 1 П Oai atft_i, 2 = 0;
mesGai(..., a/c = p
Пусть функции ftj(s) определены равенствами
•Ms).
. о.
если
если
если
s£O0.
и
и
о*,
Gtt
Легко видеть, что hk(s)£LPl, причем ||hk||<||<?Щ-1|^\-
Рассмотрим разности \hk(s) — hi(s)\. Очевидно, при &</
—ft/ (S) ={ л 7i-_
'Wl \ О.если s^^.
где /7= U Gttl « ..., a,- Но тогда
и в силу B.17)
= 1 Г I fftj (s) — fftj (s) |p> tfs |Pi > -у (-я- mes G,

J 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 41
Из последнего неравенства вытекает, что из ограниченной
[юследователъности kk(s)^LPl (& = 1, 2, ...) нельзя выделить
гакую подпоследовательность Afc.(s), чтобы функции ihu (s)
сходились в Lp\ Таким образом, оператор f не компактен.
Теоремы настоящего параграфа, как легко видеть из дока-
доказательств, используют непрерывность лебеговой меры тг-мер-
ных евклидовых пространств: каждое множество конечной
меры можно разбить на две части половинной меры. Оказы-
Оказывается, что в случае, когда мера, заданная на некотором
множестве, не обладает приведенным свойством лебеговой
меры, теоремы настоящего параграфа могут оказаться невер-
неверными. Например, если положительна мера некоторых точек
рассматриваемого множества, то оператор f может действо-
пать из некоторого шара пространства Lpl в пространство LPt,
однако все пространство LPl не преобразовывать в 1?'; опе-
оператор f может быть непрерывен, но не ограничен; неравен-
неравенство B.15) не будет необходимым условием того, что опе-
оператор f действует из Lp' в Lp'. Однако и в последнем случае
оператор f непрерывен во всех внутренних точках той области
пространства LPl> которую он преобразует в пространство I?*.
б. Пространство С. Пусть G— замкнутое ограниченное
множество конечномерного евклидова пространства. Вероятно,
для оператора f, определенного в пространстве С непрерыв-
непрерывных на G функций, справедливы теоремы типа 2.1 и 2.2.
Мы ниже будем ссылаться на следующее более простое
утверждение, вытекающее из того, что функция, непрерывная
на компактном множестве, равномерно непрерывна.
Теорема 2.3. Пусть функция f(x, и) непрерывна на
топологическом произведении G X (— со <". и <С со). Тогда
оператор f действует в С, непрерывен и ограничен.
§ 3. Нелинейные интегральные операторы
1. Оператор П. С. Урысона. Пусть K(s, t, и) (s, t£G;
сю < и < со) —заданная функция трех переменных. Нели-
Нелинейный интегральный оператор
A? (s) = J/C[s, t, <?(t)]dt C.1)
9

42 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ7*1
называется оператором П. С. Урысона. Первые тонкие ис-
исследования уравнений с этим оператором были проведены
П. С. Урысоном в [66а].
Пусть G — замкнутое ограниченное множество конечно-
конечномерного пространства.
Ниже в ряде случаев мы будем предполагать, что опе-
оператор Урысона дгйствует в пространстве С или в простран-
пространстве Lp и является вполне непрерывным оператором.
2. Оператор П. С. Урысона в пространстве С. При
помощи теоремы Арцеля устанавливается следующий признак
(В. В. Немыцкий) полной непрерывности оператора C.1)
в пространстве С.
Теорема 3.1. Пусть функция K(s, t, и) непрерывна
по всем переменным в совокупности при s, t£G, |а|-^а.
Тогда оператор C.1) определен в шаре радиуса а про-
пространства С и вполне непрерывен.
Доказательство. Для любого з>0 в силу равно-
равномерной непрерывности функции K{s, t, и) можно указать
такое 8 > 0, что из p(st, s.2) < 8 следует:
\K(sv t, u)-K{s2, t, «)|^
при всех sv sOj, t£G, \u\^a. Пусть функция »(s) принад-
принадлежит шару Т радиуса а пространства С. Тогда
| Ac?(s,) — Ac?(s9)|< J |К[sv t, с?@1 — К[s2, /, 9@11Л<г.
в
Таким образом, оператор А преобразует шар Т в семейство
равностепенно непрерывных функций.
Пусть функции un(s)£T (п=\, 2, .. .) сходятся в С,
т. е. равномерно сходятся к некоторой функции uo(s). Из
равномерной непрерывности функции K(s, t, и) следует, что
lim max \K[s, t, un(f)]—K[s, t, ao(*)]|=O,
откуда
lim |)AaB — Аио|| =
= lim max
s(ff _
[ [K[s, t, un(t)] — K[s, t, uo(t)])dt
lim max \K[s, t, un{t)\ — K\s, t,

§ 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 43
Таким образом, оператор А непрерывен в любой точке
uo(s) пространства С. Осталось доказать компактность опе-
оператора А.
Пусть
max \K(s, t, и)\ = М.
G | u\ <a
Тогда для любой функции a (s) £ Т
max | A»(s)| <; max I \K[s, t, <s(t) ] | dt*C MmesG.
Выше было показано, что функции А (<р) при с? £ Т равно-
равностепенно непрерывны. Таким образом, выполнены условия
теоремы Арцеля, и, следовательно, множество функций
Af-p('-? G Т) компактно в С
Теорема доказана.
Наиболее общие достаточные условия полной непрерыв-
непрерывности оператора C.1) в пространстве С установлены Л. А. Ла-
Ладыженским [а'а]. Приведем одну из его теорем.
Теорема. Пусть функция K(s, t, и) (s, t£G,
— со <С и < оо) удовлетворяет условиям:
a) K(s, t, и) непрерывна по и при всех s£G и почти
при всех t(^G и измерима по t при всех s^G,
— оо < и <С со;
b) каково бы ни было положительное число а, для
каждого x£G
Г sup \K(s, t, u)\dt<. oo
и
Vim Г sup \K(s-\-h, t, и) — K(s, t, u)\dt — 0.
|| Ь || -v о J i и | < a
Тогда оператор C.1) действует в С и вполне непре-
непрерывен.
Общность этой теоремы характеризуется тем, что в слу-
случае линейного оператора она превращается в теорему Ра-
Радона |Б41, условия которой не только достаточны для полной
непрерывности оператора, но и необходимы.
3. Вспомогательные леммы. Перед тем, как перейти
к доказательству достаточных условий полной непрерывности

44 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
оператора Урысона в пространстве LP, докажем одно вспо-
вспомогательное утверждение |31а), представляющее и самостоя-
самостоятельный интерес.
Лемма 3.1. Пусть В — некоторое множество конеч-
конечной меры конечномерного евклидова пространства. Пусть
функция K(t, и) (t^B, а^. и ^.b) удовлетворяет условиям
Каратеодори. Пусть заданы произвольные о > 0 и s > 0.
Тогда найдутся такое замкнутое множество ВоаВ
и такая функция K0(t, и), непрерывная по совокупности
переменных, что
mes(B\£0)<3 и \K(t, u) — K0(t, a)|<s C.2)
Доказательство. Пусть заданы г, Ь > 0. Покажем
вначале, что найдутся такое а > 0 и такое множество BtczB,
что mes (В\ВХ) < ■=• 5 и для всех t£ Bj.
\K(t, uJ — KV, и.2)|<г C.3)
при |at—и9|< а.
Пусть система чисел {и1^} (/= 1, 2,...) плотна на сег-
сегменте [а, Ь]. Обозначим через 4(t) (t^B) верхнюю грань
таких чисел м^>0, что при | и^'^ — и^|О справедливо не-
неравенство
\K{t, uM) — K(t, etf^K*.
Так как почти при всех t£B функция K(t, и) непре-
непрерывна по и, то функция \(t) почти при всех t£B положи-
положительна.
Обозначим через М^ множество тех t£B, в которых
v(^)^p. Если мы покажем, что при любом £} множество Ма
измеримо, то этим будет доказана измеримость функ-
функции \ (/) *).
Введем в рассмотрение функцию Fit) равенством
F{f)= sup \K{t, u^) —
*) В других местах книги мы не останавливаемся на доказа-
доказательстве измеримости функций и множеств, конструируемых в раз-
различных предположениях.

§ 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 45
Эта функция, очевидно, измерима, так как она является верх-
верхней гранью последовательности измеримых функций. Обо-
Обозначим через Во измеримое множество тех t^B, в которых
Если to^B^, то, по определению функции чф, v(^0)^>p,
т. е. to£Mp. Если to£M^ то v(/0)^f:S и, тем более,
Г(£0)О, т. е. to£Bp. Таким образом, множества Мр и В^
совпадают.
Измеримость функции чф доказана.
Обозначим через Gk (k=l, 2,...) множество тех t£B,
it которых ч{г)^--г. Очевидно, GkczGk+1 (A=l, 2,...) и
/с
nies U Gft = mesB, в силу чего найдется такое k0, что
к 1
Обозначим множество Gko через Вх и положим а = -г—.
«о
Пусть \их — аа|<«. Обозначим через {и1^1} и {м^}
последовательности чисел из {и^'Ц, сходящиеся соответственно
к «t и и2. Без ограничения общности можно считать, что
дли любой пары чисел и^\ и^ из этих последовательностей
В силу доказанного выше, при
Переходя в последнем неравенстве к пределу (при любом
фиксированном t^Bj), получим неравенство C.3).
Разобьем теперь сегмент [а, Ь] точками а = их < и2 < ...
,. .<^ип = b на части меньшей длины, чем а.
В силу теоремы Лузина о С-свойстве измеримой функции
или каждой функции Kit, ut) (i=\, 2,...,n) найдется
такое замкнутое множество BicBv что
mes(Bt\B<X-^ (г = 1,..., п), C.4)
причем на i^ функция K(t, ut) непрерывна.

46 НЕЛИНЕЙНЫЕ 0ПЕ1*АТ0£ь1 [ГЛ- *
Обозначим через Во пересечение всех множеств Bt.
В силу C.4)
mes (ВХ\ВО) = mes (^\ .Q Вг) < 2 mes (В A5*) < "J -
и так как mes(B\Bt) <-^-> т0
mes (В\В0) < S.
Теперь мы уже можем определить функцию KQ(t, и)
; a <; и <; Ь), непрерывную по совокупности переменных,
существование которой утверждается в лемме.
Еслии принадлежит сегменту \иг, ui+t\ (/=1, 2 п—1),
то это число можно записать в виде
и = /га^ + О —m)ui+t,
где 0 < т < 1.
Пусть
K0(t, u) = nK(t, и,)-|-A— m)K(t, ui+t)
Непрерывность функции K0(t, и) по совокупности пере-
переменных очевидна. Выполнение условия C.2) проверяется не-
непосредственно: если t^B0 и и = т^-\-A—т) ui+v то
в силу C.3)
\K(t, u) — K0(t, u)\^m\K(t, u)—K(t, ^
-\-(l—m)\K(t, u) — K(t, a
Лемма доказана.
Лемма 3.2. В условиях леммы 3.1 каждому 8>0
соответствует такое замкнутое множество ВоаВ, что
mes(B\B0)<8 и функция Kit, и) на В0Х\а> Ь\ непре-
непрерывна по совокупности переменных *).
*) Это утверждение является обобщением теоремы Н. Н. Лу-
Лузина о С-свойстве измеримой функции. Отметим, что утверждение
леммы сохраняет силу и в случае, когда и принимает значения из
бесконечного интервала (или и принимает значения в л-мерном
евклидовом пространстве).

§ 3f НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 47
Доказательство. Построим согласно лемме 3.1 по-
последовательность замкнутых множеств BnczB (n=l, 2,...)
и последовательность непрерывных по совокупности пере-
переменных t£Bn, a^u^.b функций Kn(t, и) так, что
mes(B\Bn)<27r (я=1, 2,...)
и
\К{1, u) — Kn{t, «)|<i (t£Bn; о<и<&; я = 1, 2,...).
со
Пусть Во= П Вп. Очевидно, mes(B\B0)<8. На мно-
71 = 1
жестве В0Х[а, ЭД последовательность функций Kn(t, и) схо-
сходится к K{t, и) равномерно. Значит, на В0Х[а, Ь] функ-
функция K{t, и) непрерывна.
Лемма доказана.
4. Оператор П. С. Урысона в пространстве Lp.
Теорема 3.2. Пусть функция K{s, t, и) (s, t£G;
— со<и<с»; О —■ ограниченное замкнутое множество
конечномерного пространства) непрерывна по и и удовле-
удовлетворяет неравенству
\K(s, t, u)\<CR(s, i){a + b\u\*) E, t£G; —оо<и<оо)
\R(s, t)\*+idsdt<O3,
а в
где a, b>0; a > 0.
Тогда оператор П. С. Урысона C.1) действует в про-
пространстве W, где р=.а-\-\, и является вполне непре-
непрерывным оператором.
Доказательство. Введем обозначение
Kx(s, t, u) = K(s, t, u) — K{s, t, 0).
Легко проверить, что функция К{ (s, t, и) удовлетворяет
условиям теоремы 3.2, если им удовлетворяет функция
K(s, t, и). Если мы покажем, что оператор Урысона, опре-
определенный функцией Kl{s, t, и), действует в 1? и вполне
непрерывен, то этим будет доказана и полная непрерывность
оператора Урысона, порожденного функцией K(s, t, и).

48 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Поэтому без ограничения общности можно считать, что
в условиях доказываемой теоремы
K(s, t, 0)e=0 (s, t£G). C.5)
Мы ниже покажем, что оператор А (оператор C.1))
преобразует единичный шар Г пространства Lp в компакт-
компактное множество ATczLp. Этим будет доказано, что опера-
оператор А преобразует шар 7\ любого радиуса гх > 1 в ком-
компактное множество пространства Lp. Действительно, пусть
AT компактно в Lp. Для каждой функции ?(s)£7i множе-
множество G можно разбить на п таких частей Ох, О2, ..., Gn
(я>г?), что
Г I ? E) \Р ds <! 1 (/=1,2 п.).
Тогда
Г Л 1 Г
K[s, t, (р@1й = »У-
и, так как по предположению
J K\s, t, f{f)]dt£\T A = 1, 2 n),
то — А<р принадлежит выпуклой оболочке компактного мно-
множества AT, которая в свою очередь компактна.
Затем мы покажем, что оператор А непрерывен на Г.
Этим будет доказана непрерывность оператора А в любой
точке <?0(s) пространства I?. Действительно, пусть последо-
последовательность {<sk{s)} сходится к <?0(s) в Lp. Множество О
можно разбить на такие части Gt, G.2, . . ., Gn, что
i
(i = l, ..., a).

НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ
49
Без ограничения общности можно считать, что при всех
*= I, 2, ...
(J
Так как при каждом /
lim Г I ю0 (s) — % (s) \p <
('=1. 2, .... n).
lim § \<?Q(s) — <sk(s)\pds = Q,
то из непрерывности оператора А на Т в силу C.5) сле-
следует, что
Hm
{ Г
Таким образом, в дальнейшем мы будем доказывать
только то, что оператор А действует из Т в 1? и вполне
непрерывен.
Определим функции Kn(s, t, и) (п = 1, 2, .. .) равенством
Kn(s,t,u) =
K(s, t, и) при | и К л,
K(s, t, —л)(л+1+и) при —я>и> — п.— I,
K(s, t, n)(n-\-l—и) при я<и<я + 1,
О при | и\~^> п-\- 1.
Каждая из этих функций порождает соответствующий
оператор Урысона:
= J Kn [s, t, <? @1 dt (л =1,2,...).
а

50 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ (ГЛ. 1
Пусть ^ (s) (E Т. Обозначим через Gn множество тех то-
точек s£G, в которых |?(s)|>-rt. Очевидно,
_!_ J
if p
mesG^—- \?(s)fds*C— \4>(s)\p ds^C — . C.6)
np J np J np
Пусть
n при
О при
Так как «|«п (s) < | ? (s) | (sgO), то фп(в)бГ (я= 1, 2,...).
Пусть с — такая постоянная, что для всех функций <р (s) £ Т
о
Такая постоянная существует, так как
л+1
~^ | ? (О Г+1] dt
<2 а [а « mes O
Пусть задано число s > 0. В силу абсолютной непрерыв-
непрерывности интеграла
f J\R(s, l)\a+ldsdl
в
f J
а в
можно указать такое S > 0, что для любого множества О'с О
из mes G' < 8 следует, что
G 6'
Пусть по^>\~%)Р- Тогда в силу C.6) для любой функ-
функции <?(s)£T при п^п0 мера множеств Оп меньше 8 и,

§ 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 51
следовательно,
Из последнего неравенства и условия теоремы вытекает,
что
[/
4.
Так как функции ^„ (s) также принадлежат шару Г, то
s, f, а) | d/ ds у =
{J[J|[ , ^n()]\J ds
Из трех последних неравенств вытекает, что при n~
для любой функции ®)£
— А„<?|| - {J 1 J*[ff [s, Л <? @1 ~ /С„ [s, t, cp @1 ] d^ P ds}
(? О
Полученная оценка означает, что оператор А можно равно-
равномерно аппроксимировать на шаре Г операторами А„ с любой

52 НбЛИНЕЙНЫЕ ОПЕРАТОРЫ |ГЛ. I
заданной точностью. Поэтому, если мы покажем, что все
операторы А„ действуют из Г в Lp и вполне непрерывны,
то этим будет полностью доказана теорема 3.2.
Ниже будет существенно использован тот факт, что
функции Kn(s, t, и) при \и\^>п-\-1 тождественно обра-
обращаются в нуль.
Мы свели доказательство теоремы 3.2 к доказательству
следующего более простого утверждения.
Пусть функция K(s, t, и) (s, t^G; —со < а < со)
непрерывна по и почти при всех s, t^G и удовлетворяет
неравенству
\K(s, t, u)|</?(s, t) (s, t£G; — со < и < oo),
где
J f\R(s, t)\p dsdt<oo.
в <?
Пусть существует такое а > 0, что при \и\~^-а
K(s, t, и) = 0 (s, f£G).
Тогда оператор П. С. Урысона А действует из Т в Лр
и вполне непрерывен.
Доказательство непрерывности. Рассмотрим
в множестве вещественных функций, .определенных на топо-
топологическом произведении G—Gy^G, оператор f, заданный
функцией K(s, t, и):
f^(s, f) = K[s, t, *i(s, t)\.
Из неравенства, которому удовлетворяет функция
K{s, t, и), следует, что множество значений этого оператора
будет лежать в Ьр — в множестве функций, суммируемых
на G = GXO со степенью р. В силу теорем 2.1 и 2.2
оператор f будет непрерывным и ограниченным оператором,
действующим в Lp.
Пусть <»„(s)(« = 1, 2, ...)— последовательность функ-
функций, сходящаяся в Lp к некоторой функции <?0(s). Очевидно,
последовательность функций двух переменных <in(s, t) = on(t)
при этом сходится вг к функции 60 (s, f) = <р0 (t). Тогда

§ 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 55
из неравенства Гельдера и непрерывности оператора f сле-
следует, что
lim \\А<?п — А<?0Ц =
»->оэ
1
= 1itn j f| f K[s, U <?n(t)\dt—{ К Is, t, «po(Ol<tt *
lim
£-1
= (mesG) P lim || Цп-Цй\\ = О.
n-»co
Непрерывность оператора А доказана.
Доказательство компактности. Пусть задано
е]>0. Из абсолютной непрерывности интеграла
J f\R(s, t)\i>dsdt
в в
следует существование такого о > 0, что для любого мно-
множества Р с G из mes.F<o вытекает справедливость нера-
пенства
J J
2(mesu)«
C.7)
цля всех функций ®(t).
В силу леммы C.2) можно указать такое замкнутое мно-
множество Go с: G, мера которого удовлетворяет неравенству
mes(G\G0)<3, C.8)
что K(s, t, и) непрерывна по совокупности всех переменных
мри |к|<а, {s, t] £ Go.
Пусть
М— max \K(s, t, u)\. C.9)

54 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
А АЛ
Пусть Gt— открытое подмножество G, содержащее Go
и такое, что
mes(G1\G0)<[ L_J A + 1= i). C.10)
Ш (mes G)q
Определим на G X (— °°> °°) непрерывную функцию
Ko(s, t, и), положив ее равной K(s, t, и) на G0Xl—а> а)>
равной нулю при \и\^а и на (G\GX)X, [—а, а], а за-
затем продолжив ее непрерывно с сохранением максимума,
так что
max \K0(s, t, и) \ = М. C.11)
s, ig(?; —со<м<оо
Так как функция Ко (s, t, и) отлична от нуля только на
компактном множестве, то она ограничена и равномерно не-
непрерывна. Следовательно, оператор П. С. Урысона Ао
i= J K0[s, t, <p(
\dt
преобразует единичный шар Т пространства if в множество
функций, равномерно ограниченных и равностепенно непре-
непрерывных. В силу теоремы Арцеля это множество компактно
в пространстве непрерывных функций и, тем более, в про-
пространстве If.
Мы покажем, что для всех функций cp(s) £ Т
II А? — АО<Р|| =
\ ев (t)] dt — I Ko [s, t, c? {t)\ dt
a
Этим доказательство теоремы будет завершено, так как
неравенство C.12) означает, что оператор А можно на шаре Т
сколь угодно точно аппроксимировать компактным операто-
оператором Ар.

§ 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 55
Применяя неравенство Гельдера, получим:
II Аср — А0<р|| < (mes 0I {j* J \K[s, t, cp {t)\ f ds dtf -j-
4-(mesG)«"|J $\K0[s, t, cp (f)]\* ds dt)p -f
+ (mesG)"e|J j\K[s, t, <o(f)\—K0\s, t, <o(t)) \p ds dt}p .C.13)
Первое слагаемое в правой части неравенства C.13)
в силу C.7) и C.8) меньше чем -^. Второе слагаемое оце-
оценивается при помощи C.10) и C.11):
(mes О)? | J J | /Со [s, t, <? @11* ds dt)p <
1
<(mesG)« • M- [mesFl\ £
Третье слагаемое равно нулю. Таким образом, неравенство
C.12) справедливо.
Теорема 3.2 доказана.
Доказанная теорема, дающая достаточные условия пол-
полной непрерывности оператора П. С. Урысона в I?, является
частным случаем следующей более общей теоремы, уста-
установленной Л. А. Ладыженским и автором в [33а]:
Пусть функция K(s, t, и) (s, t£G; —оо < и < оо)
удовлетворяет условиям:
a) K(s, t, и) непрерывна по и почти при всех {s, t) £G
и измерима по [s, t\ при фиксированных значениях и;
b) для любой ограниченной измеримой функции ty(s, t)
J J|ff[s, t, ^(s, f)]\dsdt <oq;

56 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
с) для любого s>0 можно указать такое о=о(з)>0,
что для любого множества F с: О из mes F < о следует:
\K[s, t, <?(t)]dtfdsf<B
в ~F
для всех функций cp(f) из единичного шара Т простран-
пространства If.
Тогда оператор П. С. Урысона А действует в про-
пространстве if и вполне непрерывен.
5. Оператор Гаммерштейна. Более подробно изучен
один частный класс операторов Урысона — так называемые
операторы Гаммерштейна А:
= f K(s, t)f[t, <?(t))dt. C.14)
G
Если обозначить через В линейный интегральный опера-
оператор, порожденный ядром K(s, t)\
В<р (s) = J K(s, t) с? (t)dt, C.15)
G
то оператор C.14) можно представить в виде A— Bf. Общие
признаки полной непрерывности оператора А можно получить,
воспользовавшись следующим соображением (применявшимся
еще Ф. Риссом, затем в теории нелинейных интегральных
уравнений В. В. Немыцким и другими авторами):
пусть оператор f действует из банахова простран-
пространства Ег в банахово пространство Е.2, причем он непре-
непрерывен и ограничен. Пусть линейный оператор В действует
из Е2 в Et и вполне непрерывен. Тогда оператор А = Bf
действует в £\ и вполне непрерывен.
Объединяя теоремы § 2 о непрерывности и ограниченно-
ограниченности оператора f с условиями полной непрерывности линей-
линейного интегрального оператора, легко получить различные
признаки полной непрерывности оператора Гаммерштейна,
действующего в пространстве С или каком-либо простран-
пространстве If.
Например, если ядро K{s, f) определяет вполне непре-
непрерывный линейный оператор, действующий из If' в If\ a one-

§ 3] НЕЛИНЕЙНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ 57
ратор f действует из if' в Lp', то оператор Гаммерштейна
вполне непрерывен в L?'.
6. Интегростепенные ряды А. М. Ляпунова *). Пусть
О — ограниченное замкнутое множество «-мерного простран-
пространства. Для простоты примем, что mesG=K.
Пусть <х0, c.t, ..., af\ [30, $v ..., |5р — неотрицательные
целые числа.
Пусть /Gfi а; рп р (s, *t, • • • > *Р)—непрерывная функ-
функция от р4-1 переменных s, tv t2, . .., tf£G. Обозначим че-
чеf
рез Ma я; р э максимум ее абсолютной величины.
Интегростепенным членом порядка т относительно функ-
функции <? (s) и порядка п относительно функции ^ (s) называется
выражение
Ч Уро Рр (?.*) =
= J • ■ • f *»„ V ро РР ^ ^ ^ ?*J (S) T ^ • • •
G в
... oa? (tf) <f" (s)ф yd ... Л (tf) dtl ... dtf, C.16)
если
= я- C-17)
Каждый интегростепенной член при любой фиксированной
непрерывной функции ty(s) порождает в пространстве С не-
непрерывный оператор, удовлетворяющий в каждом шаре усло-
условию Липшица.
Если в C.16) <хо = О, то оператор /.„„, ... я; р„,..., з . по-
порожденный интегростепенным членом, будет вполне непре-
непрерывным.
Интегростепенным рядом называется ряд, состоящий
из членов вида C.16):
*■(?. *)= 2 Ьщ Vf> ? (?, -Я C.18)
*■-. уР ?р р г'
где сумма распространена на всевозможные интегростепенные
члены различных порядков.
*) Доказательства предложений, приводимых в настоящем пунк-
пункте, читатель без труда проведет сам или найдет в книге
Н. С. Смирнова ^*1C

58 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Ниже будет предполагаться, что
2 М«о «;% р <«з. C.19)
'■> у в» рр Р
Функция <p(s) в ряде C.18) рассматривается как фикси-
фиксированная. Пусть |6(s)K;i. В этих условиях интегросте-
пенной ряд порождает непрерывный оператор, определенный
на единичном шаре Т пространства С и действующий в С.
Без труда проверяется, что этот оператор будет вполне
непрерывным, если во всех членах ряда C.18) ао = О.
Если в интегростепенном ряде отсутствует член первого
порядка относительно <?(s) и нулевого порядка относительно
'!>(«), то в каждом шаре Tt радиуса г < 1 (<р(;7\, если
|св|^г) оператор L удовлетворяет условию Липшица в сле-
следующей форме:
*)||< вг(«о + °/)||?! — %!. C-20)
где аг — постоянная, зависящая только от г, и
В случае, если в интегростепенном ряде C.18) отсутст-
отсутствуют члены порядка 1 и 2 относительно функции ев (s) и
порядка нуль относительно функции ty(s), то оператор L
удовлетворяет в каждом шаре 7\ радиуса г < 1 условию
Липшица в более сильной, чем C.20), форме
?1> •!•) —Ц«9. -аКМ^ + иШ —%!• C-22)
§ 4. Расщепление линейных операторов [29м-в]
В настоящем параграфе мы используем элементарные
сведения теории самосопряженных (эрмитовых) операторов
в гильбертовом пространстве (см. [4] или D2], главу V).
1. Неравенство для моментов. Пусть А — положитель-
положительный самосопряженный линейный оператор, действующий
в гильбертовом пространстве, т. е. такой оператор, что
(Аср, ф) = («р, Щ («р.
(А?, ?)>0 (
Где через D(A) обозначена область определения оператора А,

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 59
Пользуясь спектральным разложением оператора А
со
А = J к йЕъ
а
Скалярное произведение (А<р> <р) можно записать в виде
оо
(А<р, <s) = J A da (А), D.1)
о
где а (А) — (Е\<э, <?)— неубывающая непрерывная справа функ-
функция с вариацией, равной (о, о).
Скалярные произведения (Ast?, ср), где s — некоторое число,
называют моментами оператора А. Мы их будем обозна-
обозначать через as.
Аналогично D.1) момент as имеет представление
as = J к* do (к). D.2)
Теорема 4.1 [а9н]. Пусть s — произвольное, а р и
г — положительные числа. Тогда
Доказательство. Очевидно, неравенство D.3) нужно
доказывать лишь для того случая, когда моменты as+r и
я,_р конечны. В этом случае конечен и момент as.
Применим неравенство Гельдера к интегралу D.2), счи-
считая, что под знаком интеграла стоит произведение двух
функций:
р(з+г) r{s-p)
ks = k p+r • к p+r .
Пусть
Pi. *-*^* ' 4 1 *^* ' ' I ""~" —— X .
Тогда

60 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Полагая р,=£—!—, #i= ——, получим:
Р г
р
р
0 0
Возводя обе стороны последнего неравенства в степень р-\- >■,'
получим:
= а. а .
а+r s—p
Теорема доказана.
Отметим в заключение, что неравенство D.3) позволяет
установить следующий факт.
Имеет место неравенство [306]
аа> • аа>. . . с?к < а?' • а?*
при произвольных sv ..., sk, pv д2 м положительных
2. Расщепление линейного оператора, действующего
в £а. Пусть А — положительный самосопряженный оператор,
действующий в гильбертовом пространстве V- с областью
определения D (А). Из спектральной теории операторов вы-
вытекает возможность построения положительного самосопря-
женного оператора А2 —корня квадратного *) из опера-
тора А, т. е. такого о
11 -
A2D(A2)c:D(A2)) причем
тора А, т. е. такого оператора, что D(A)cD(A3) и
11
D.4)
*) Корень А" из положительного оператора А определяется
неоднозначно (см., например, [4]). Все утверждения, которые будут
установлены ниже в настоящем параграфе, справедливы для всех
корней (а не только положительных). ^

§ 4] .Расщепление линейных операторов 61
_
Если оператор А вполне непрерывен, то оператор А2 также
иполне непрерывен.
Возможность представления D.4) будет ниже использо-
использована при исследовании операторов Гаммерштейна с симмет-
симметрическими ядрами.
Если А — линейный интегральный вполне непрерывный
оператор, определенный в L2 симметрическим положительно
определенным ядром K(s, t) (s, t£Q, G — множество конеч-
конечной или бесконечной меры евклидова пространства):
A<?(s)= K(s, t)y(t)dt,
о
G
то для оператора А2 можно указать явную форму.
Пусть ek(s)(k = 1, 2, ...) — нормированные собственные
функции ядра K(s, t), которым отвечают положительные
собственные числа кк (k=l, 2, .. .):
со
K(s, 0= 2^ft(s)eft@ (s, ^£0).
_
Тогда оператор А2 определится формулой
А3 ? (s) — 2 Vh (в*. ?) ек (s) (s £ О).
й = 1
3. Расщепление оператора, действующего из £« в Z.^.
Пусть теперь А — линейный оператор, действующий из про-
пространства Lq в пространство Lp, где /?>2 ( 1 = И-
Естественным обобщением равенства D.4) является пред-
представление оператора А в виде
А = НН*, D.5)
i цс Н и Н* — сопряженные операторы. Напомним, что опе-
риторы Н и Н*, действующие соответственно из L2 в L.P и
№ Li в Z.'2 \—-\ = 1). называются сопряженными, если
(Н«р, 4) = (т, H*<L) (<fgL2

62 Нелинейные оператору (гл. i
Мы установим в этом пункте возможность представления не-
некоторых операторов в форме D.5).
Пусть q0—-.некоторое фиксированное число, 1 < д0 < 2.
Пусть А — аддитивный и однородный оператор, определенный
на всех функциях, заданных на множестве О конечной или
бесконечной меры, суммируемых на G с одной из степе-
степеней q, где <7О<;<7^2. Мы будем в этом пункте предпо-
предполагать, что оператор А обладает следующими свойствами:
а) оператор А преобразует каждую функцию из Lq
в функцию из соответствующего Lp ( ] = 1, <7о<^<7<^2);
в) оператор А, рассматриваемый как оператор, дейст-
действующий из Lq в Lp (~-\ = li Qo^-Q<2j, непрерывен;
с) оператор А, рассматриваемый в Z.2, — положительный
самосопряженный оператор.
Примером оператора А, удовлетворяющего условиям а),
Ь), с), может служить линейный интегральный оператор
A?(s) = $ K(s, f)v{t)dt D.6)
а
с симметрическим положительно определенным ядром K(s,t),
удовлетворяющим условиям
J $K2(s, t)dsdt< oo D.7)
в в
п
\K(s,t)\p«dsdt<oo, D.8)
где —+—= 1- Условия D.7) и D.8) при этом незави-
симы в случае mes О — оо, а в случае mes О < оо неравен-
неравенство D.7) следует из D.8).
Для того чтобы показать, что оператор D.6) обладает
свойствами а) и Ь), достаточно проверить выполнение не-
неравенства
J j\K(s,f)fd8dt<oo (
а а

§ 4] £АСЩЕЙЛЕНЙЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 63
которое вытекает из D.7) и D.8), так как при \K(s, 01^1
\K{s, 0T<A:2(s( t),
а при \K(s. 01 > 1
\K(s, t)f<\K(s, 0Г
и, следовательно,
\K(s, t)\p^\K(s, t)f°-j-K2(s, t) (s,
Выполнение свойства с) очевидно.
Теорема 4.2. Пусть оператор А обладает свой-
^_
ствами а), Ь), с). Тогда определенный в L2 оператор Аа
непрерывно действует из пространства I? в простран-
пространство LP, где р — любое число, удовлетворяющее условию
2<Р<Ро
Доказательство. Пусть <р(s)^L2. Обозначим через
Qn(n= 1, 2, ...) множество тех s£G, в которых
j_
2n~1<\A-i cp(s)j<2" (я=1, 2, ...)• D.9)
j_
Так как А2 <р £ Z.2, то
mesQTO<4 J|A'2yJs)|2 dS < ±. f | A^y (s)Prfs < oo.
±.
Пусть n — некоторое фиксированное число. Введем в рас-'
смотрение функцию h(s) равенством
i_
( signA3<p(s). если s£Gn,
П IS) = < —
I 0 , если s£Gn.
Рассмотрим скалярное произведение (А2 <р, А):
(Аа <р. А)= J A3 <p(s)h(s)ds.

64 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ (ГЛ. I
В силу левого неравенства D.9)
JL J_
2й mes Gn^C § Ат<? (s) A (s) ds = (A F ?, A). D.10)
Gn
1
Оператор А3 самосопряжен, следовательно,
(A3», A) = (9, A3 A),
и по неравенству Буняковского
— л/ ~ —
• ||А3А|| = ||?||У (A" ft, A3
л/
(A3 ?, A)<||<p|| • ||А3А|| = ||?||У (A
= ||?||-/(Aa7A). D.11)
Так как h(s)£Lq°:
J
в
то Ah£Lp°( 1 = 1J по свойству а). Значит, скаляр-
скалярное произведение (АА, А) есть произведение функции АА
из if" и функции А из Lq°. По неравенству Гельдера
(АА, А)<||АА||Р).||й|!9ц
и по условию Ь)
(АА, А)<||А|| • ЦА|||о= |1 А || 0 (mes Ojt, D.12).
где ||А||0 — норма оператора А, действующего из простран-
пространства La> в пространство if"-
В силу D.10), D.11) и D.12)
2n-1mesOn<||<p|| • ||А||^ (mesGn)^ ,
откуда
mesGn<^7- DЛЗ)
где

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 65
Из правой части неравенства D.9) и из неравенства D.13)
вытекает, что
P^L_ (Я=1, 2,...). D.14)
Через Go обозначим множество тех s£G, в которых
I А2 в(s) |< 1. Так как р > 2, то
л — — L 1_
J |А2фE)|рй5< j |A2«(s)|2ds= (Aa«, А2 <?) =
= (А9. ?)<1|АЦ • ||?Н2- D-15)
Утверждение теоремы теперь доказывается непосред-
непосредственно:
1 °° 1
J | Атс? (s) |prfs = ^ J !д1"? О) 1Р ds
и из D.14) и D.15) следует:
a n=i
= IIA|| • INI2 H j < oo.
Значит, A2<p£ip. При этом
1|А2?||р
Теорема доказана.
Нам неизвестно, справедливо ли утверждение теоремы 4.2
при р = р0.
i_
Оператор А2 , рассматриваемый как оператор, дейст-
иующий из L2 в Lp, будем обозначать через Н. Сопряженный

66 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ
оператор Н* будет действовать тогда из пространства 13
( [—= 1) в L2. Каждая функция Ь£ЬЧ порождает тогда
в L? непрерывный линейный функционал 1:
1
l(<p) = (H*ty, ?) = (<!», Н<р) = (ф, Ат<?) (?£L2).
j_
Пусть 'li£L2fi£9- Так как оператор А2, рассматривае-
рассматриваемый в L2, эрмитов, то в этом случае
1
1 (с?) = (Щ, <р) = (\*~<Ь, ») (<р£Z/2).
Значит,
Таким образом,
при этом в силу теоремы 4.2 Н
Множество L" П L9 плотно в 13: оно содержит, например,
все ограниченные функции, отличные от нуля лишь на мно-
множествах конечной меры. Непрерывные операторы А и НН*,
действующие из Lq в Lp, принимают на L2 О L9- одинаковые
значения. Следовательно,
НН*ф = Аф (ф€^- DЛ6)
Полученный результат сформулируем в виде теоремы.
Теорема 4.3. Пусть оператор А обладает свойст-
свойствами а), Ь), с). Тогда оператор А, рассматриваемый
на 13, допускает расщепление,-т. е. представление D.16),
Н — непрерывный оператор, действующий из L" в I?
)
7 )
Замечание. Из представления D.16) следует, что
в условиях теоремы 4.3 оператор А действует из 13 в L2.
Будем предполагать теперь, что оператор А обладает
дополнительным свойством:
d) оператор А, если его рассматривать в Z.'2, вполне
непрерывен.

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 67
Если ядро K(s, t) (или некоторая его итерация) инте-
интегрального оператора D.6)
A<p(e)= f K(s, t)v{t)dt D.6)
в
удовлетворяет условию D.7), то оператор А обладает свой-
свойством d).
Как это следует из спектральной теории операторов
i_
и гильбертовом пространстве, оператор А2 при выполнении
условий с) и d) будет вполне непрерывным в I?.
Выясним, будет ли вполне непрерывным оператор
_i_
Н = А2, фигурирующий в представлении D.16) и дейст-
иующий из L2 в №.
Лемма 4.1. Пусть М — компактное в L? семейство
функций, р-е степени (р > 2) которых имеют равносте-
равностепенно абсолютно непрерывные интегралы. Тогда М вклю-
включено в I? и компактно в Lp.
Доказательство. Пусть ф£М. Обозначим через Gt
множество тех точек s£G, в которых |«(s)|> 1. Очевидно,
Hies Gj < со. Следовательно, по условию леммы
Значит, и
p(S)|^ds^ J \<? J
■< J
Таким образом, Mcz№.
Пусть R— некоторое положительное число. Через Тд
иГикшачим оператор, определенный на функциях, заданных
Ни О, равенством
R sign <p (s), если | ф (s) \ >• R,
<{>(s), если |?(s)|-^^.

68 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [гЛ. 1
Покажем, что при достаточно большом R множество 1ВМ
с любой заданной точностью аппроксимирует в Lp множе-
множество М. Тогда для доказательства компактности М в I?
достаточно будет показать, что в I? компактно множе-
множество ТдМ при любом R.
Пусть задано число е > 0. В силу условий леммы можно
указать такое 8>0, что для любого множества FcO из
mesF < 8 следует:
j\<o(s)\pds<e.p (<p£M). D.17)
р
Так как множество М компактно в L2, то найдется такое
число ш, что
G
Положим
Обозначим через О,, множество тех точек s£G, в ко-
которых
Тогда
R (mes G9)¥ < у/~ J ф2 (s) ds^.m,
откуда
mesG?<8 (»6M). D.18)
По определению, при s£G?
а при s^Gy
I
Следовательно,
_i
{ J i Тл? (s) - ? (*) I* ds }* < { J

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 69
и в силу D.17) и D.18)
Осталось показать, что множество TrM при фиксиро-
нанном (любом) R компактно в Lp.
Так как для любых функций <pt> ?г€^
f I V-?t (s> — тл% (s> la ds < J I ?i (s> — <Pa (*) I2 ds,
в в
то каждая Tj-сеть 6t, . . ., <Ьк множества М в L2 порождает
также -rj-сеть TR<\iv ..., ТД4Й множества Т^М в L2. Следо-
нательно, множество Т„М компактно в I?.
л
Теперь покажем, что -rj-сеть Тд^, •••, Тв^к множе-
множества ТДМ в L2 является одновременно fceTbl° множе-
стна ТЛМ в Lp, где
Пусть Тл<р£ТлУИ. Найдется такая функция <Ь{, что
f I Тд ср (s)
в
Тогда
ds)
Так как ч\ можно выбрать сколь угодно малым, то и f
Может быть сколь угодно мало. Следовательно, множе-
стпо ТпМ компактно в пространстве L?.
Лемма доказана.
Теорема 4.4. Пусть оператор А обладает свой-
i швами а), Ь), с) и d). Тогда оператор Н = А2, действую-
действующий из пространства L2 в пространство L?, вполне не-
непрерывен *).
*) Недавно М. М. Вайнберг (ДАН СССР 100, № 5, 1955) дока-
доказал эту теорему другим методом и для р — р§.

70 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Доказательство. Обозначим через Т единичный шар
i_
пространства L2. Множество М функций Н« = А2<р(ср£ 7)
компактно в I?.
В силу леммы 4.1 для доказательства полной непрерыв-
непрерывности оператора Н достаточно показать, что р-е. степени
функций H«(<p£r) имеют равностепенно абсолютно непре-
непрерывные интегралы.
Пусть задано число s > 0. Выберем целое число п0 так,
что
1
1 _ 2р°11А11о
Пусть
8<
Тогда для любого множества FczQ из mes/:'<8 сле-
следует, что
Для доказательства последнего неравенства, как и при
доказательстве теоремы 4.2, введем в рассмотрение множе-
множества Оп тех точек s £ G,. в которых выполняются неравен-
неравенства D.9). Тогда
f
3?
J
и в силу D.13) и D.19)
I

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ
Таким образом, функции |H<p(s)| («^7") имеют равно-
равностепенно абсолютно непрерывные интегралы.
Теорема доказана.
Так как оператор, сопряженный вполне непрерывному,
также вполне непрерывен, то и оператор Н* из представле-
представления D.16), действующий из Lq в L2, вполне непрерывен.
4. Интегральные операторы с ядрами, итерации кото-
которых суммируемы со степенью р0. Пусть симметричное
положительно определенное ядро К(s, t) вполне непрерывного
в I? линейного интегрального оператора
А» E) = J К (s, t) 9 (f) dt D.20)
в
удовлетворяет следующему условию: некоторая итерация
Kr(s, t) =
= Г . .. Г К (s, t,)K{iv i^) ... K(tr_u t)dtxdtz •.. dtr.
G G
суммируема с квадратом и со степенью р0, т. е.
Г Г|/СД«. t)\p°dsdt< со, D.21)
а в
где р0 > 2.
Обозначим через Аг интегральный оператор, порожденный
ядром Kr(s, t),
:r(s, t)<o(t)dt.
Этот оператор обладает свойствами а), Ь), с), d) преды-
предыдущего пункта. В частности, этот оператор действует из
пространства I9 в пространство Lp (—I—=1; 2<j»<j90).
\Р Q I
Возможно, что оператор А также обладает свойствами
а), Ь), с), d), в силу чего он допускает представление D.16).
Нам этого показать не удалось.
Мы ограничимся здесь доказательством более слабых
утверждений, которые, однако, будут достаточны для устано-
установления ряда новых теорем для уравнений с операторами

72 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Гаммерштейна, у которых итерации ядер удовлетворяют
условию D.21).
Теорема 4.5. Пусть r-я итерация Kr(s, t) симме-
симметричного положительно определенного ядра K(s, t) удо-
удовлетворяет условиям
J J Kr(s, f)dsdt <oo,
1 а
f J \Kr(s, t)\p°dsdt<oo,
а а
где ро>2. Тогда оператор А2, где А—оператор D.20),
действует аз L1 в I? (где 2 <;/><; //0 -Л и вполне
\ v — ч Ро~г *■!
непрерывен.
Доказательство близко к доказательству теорем 4.2
и 4.4.
Пусть <p(.s)£Z.2. Как и при доказательстве теоремы 4.2,
обозначим через Gn (д=1, 2, . . .) множество тех точек
s£ G, в которых
2n-1<\A*y(s)\^2n (»=1,2, ...). .D-22)
со
и через Go множество G \ [] Gn. Введем в рассмотрение
функцию h (s) равенством
A(s)
sign Aa« (s), если s£Gn,
где га — некоторое фиксированное число, п^ 1.
Рассмотрим скалярное произведение (A2?, h). Очевидно,
1
2mmesGn<(A'a"®) h). D.23)
Так как оператор А3 самосопряжен, то (А2«, п) =
1
= («, А2/г) и по неравенству Буняковского
, h). D.24)

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 73
Применим к моменту (Aft, h) неравенство D.3) в форме
{Ah, hf <{Arh, h){h, h)r~l.
Тогда неравенство D.24) примет вид
— _i r-l
(А2», й)<||<?||(АгА, hJr{h, h) 2r .
Так как Ar = Аг, а оператор Аг обладает свойством b),
то
2
(A'7z, A)<||AJ|0
Кроме этого,
(/г, К) = mes On.
Значит,
Объединяя последнее неравенство и D.23), получим:
L I { r-i
n<||?l-||Ar||02'- (mes O»)
откуда после несложных преобразований следует:
mesG«< г4 (я =1,2,...). D-25)
где
Неравенство D.25) аналогично неравенству D.13), полу-
полученному при доказательстве теоремы 4.2.
Из неравенства D.25) и правой части D.22) вытекает,
что
1
2L(>—1)уо+§ р\п
(«=1,2,...). D.26)

74 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
Аналогично D.15) получим
Из последних неравенств следует, что
f|A*
<со-
-*_l
Значит, оператор Н = А 2 действует из L2 в I?.
Осталось доказать, что множество М функций Н<? (<р £ Л>
где 71— единичный шар пространства Z.2, компактно в L*.
В силу леммы 4.1 для этого достаточно показать, что
функции |Н«E)|Р (тё^1) имеют равностепенно абсолютно
непрерывные интегралы. Доказательство этого утверждения
проводится дословно так же, как доказательство теоремы 4.4.
Теорема доказана.
Утверждение теоремы 4.5 существенно слабее утверждения
теорем 4.2 и 4.4, так как всегда
Действительно, последнее неравенство эквивалентно не-
неравенству
которое очевидно, так как'2<р0.
Однако теорема 4.5 содержит положительное утверждение,
так как всегда
(г-\)ро + 2 ->/-
Действительно, последнее неравенство эквивалентно не-
неравенству
rpo>(r—l)po+2,
которое снова очевидно, так как 2 < р0.
По оператору Н, существование которого установлено
в теореме 4.5, обычным способом определяется сопряженный
оператор Н*, действующий из I? в Z.2 ( \ = 1) и также

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 75
вполне непрерывный. Оператор Н* на элементах
принимает те же значения, что и оператор А 2. В силу этого
непрерывный оператор НН*, действующий из I? в I?, при-
принимает на элементах из 13 ПI3 те же значения, что и опе-
оператор А.
Повидимому, в условиях теоремы 4.5 оператор А опре-
определен на всем I? и совпадает с НН*.
5. Ядра, некоторые итерации которых ограничены.
Ограничимся рассмотрением случая, когда mes G <С со *).
Теорема 4.6 (М. Гол*омб, М. "М. Вайнберг).
Пусть K(s, t) — симметричное положительно определен-
определенное ядро, ограниченное почти всюду:
vrai max | K(s, f) | = К < «э.
s, t е в
i_
Тогда оператор А 2, где
A<?(s)= $ K(s, t)
в
обладает свойством
_i_
vrai max | Ат<? (s) |
Доказательство. Пусть <?£I?. Обозначим через G^
множество тех s£G, в которых
||<p|. D.27)
Через k (s) обозначим функцию, определенную равенством
АE) = | signA2<?(s), если s£Gv
[ 0 , если s^Gt.
*) Недавно А. И. Поволоцкий обобщил предложения этого
пункта на случай mes G = со.

76 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ (ГЛ. I
В силу симметричности оператора А2 и неравенства
Буняковского
(A2?, A) = (<p, A2 A)<||«||. V (A2A,
Ho
(AA, A)= J
и, следовательно,
(А2<р, Л)< |/"/С-1|«[| • mesGt. D.28)
Предположим, что mesGt>0. Тогда
- г -
(А2?, А)= ) |A2<?(s)|ds> )/Ar-||?||-"iesGr D.29)
Неравенства D.28) и D.29) очевидным образом проти-
противоречивы.
Теорема доказана. _i_
Замечание. В условиях теоремы 4.6 оператор А2
действует из Z.2 непрерывно в каждое пространство If,
р > 2. Так как функции А 2« (<?£7\ Г—-единичный шар
пространства Z.2) равномерно ограничены, то функции
\A2<i>(s)\p (»^Г) имеют равностепенно абсолютно непре-
непрерывные интегралы. Следовательно, в силу леммы 4.1 мно-
множество А2 Т компактно в каждом L . Значит, оператор
Н = Аа, действующий в условиях теоремы 4.6 из L2 в лю-
любое 1?, вполне непрерывен.
Пусть К(s. t) — симметричное положительно определен-
определенное ядро, некоторая итерация Kr (s, f) которого почти всюду
ограничена:
vraimax|AT,.(s, t)\=K<oo. D.30)
a, t^e

§ 4] РАСЩЕПЛЕНИЕ ЛИНЕЙНЫХ ОПЕРАТОРОВ 77
Так как по предположению mesO<cxD, то ядро Kr(s, t)
суммируемо с любой степенью р0 > 0. В силу теоремы 4.5
оператор А 2 действует в каждое пространство if, где
2гр„
(/■-!)/,„+ 2
■ Р<
Как легко видеть, выражение /fn при фикси-
v — 1)Ра~г *
рованном г монотонно возрастает при возрастании р0 и стре-
стремится к ——=-. Поэтому справедлива
Теорема 4.7. Пусть K(s, t) — симметричное поло-
положительно определенное ядро, r-я итерация которого
удовлетворяет условию D.30). Пусть
Тогда оператор А 2 действует из I? в if и является
вполне непрерывным оператором.
6. Ядра с собственными числами разных знаков. До
сих пор мы рассматривали только положительно определенные
ядра K{s, t), т. е. такие ядра, которые можно представить
в виде
K(s, f) = 2 X1?i(s)?<(f), D.31)
»=t
где <?i(s) (t=l, 2, ...)—ортонормированные собственные
функции, а Х{—положительные собственные числа.
Пусть теперь у симметричного ядра L(s, t) есть конечное
число отрицательных собственных чисел. Мы запишем такое
ядро в следующем виде:
п со
Us, *) = -2*<?i(*)?i(Q+ 2 >4?i(s)?i@. D.32)
i=l i-n+1
где все числа Xt, ..., /.„, ^Tlri.v ... положительны. Ядру
L(s, t) отнесем положительно определенное ядро K(s, t),
определенное формулой D.31). Будем говорить при этом,
что положительно определенное ядро K(s, t) соответст-
соответствует ядру L(s, i).

78 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ {ГЛ. I
Связь между ядрами L(s, t) и K(s, t) определяется
равенством
п
K(s, t) = L(s, O+2 2Ai?i(s)?i(O. D.33)
Если ядро L(s, t) суммируемо с квадратом, то и ядро
К (s, t) будет суммируемо с квадратом. Если ядро L(s, t)
суммируемо со степенью р0 > 2, то ядро К(s, t) в силу
теоремы 4.2 будет суммируемо с любой степенью р, где
2 <^ р < р0. Поэтому справедлива
Теорема 4.8. Пусть симметричное ядро L(s, t)
имеет конечное число отрицательных собственных чисел
и суммируемо со степенями 2 и р0 > 2.
Тогда оператор А, порожденный ядром D.33), допу-
допускает представление D.16). t
В частности, в условиях теоремы 4.8 оператор Ц—А'г
действует в каждое пространство LP, где 2 <; р < р0, и
вполне непрерывен.
Аналогично обобщается на случай ядер с конечным чис-
числом отрицательных собственных чисел теорема 4.5 об опе-
операторах, определенных ядрами, итерации которых сумми-
суммируемы, со степенями 2 и р0.
В заключение рассмотрим случай ограниченного (почти
всюду) симметричного ядра L(s, t). Так как все собствен-
собственные функции ограниченного ядра ограничены, то ядро D.33)
также будет ограничено. Поэтому из теоремы 4.6 непосред-
непосредственно следует
Теорема 4.9. Пусть mesG<oo. Пусть симмет-
симметричное ядро L{s, t) имеет конечное число отрицательных
собственных чисел и в существенном ограничено. Тогда
найдется такое число Kv что
vraimax|A2 <p (s)| <АГ, ||<р||,
где
J(s, t)v(t)dt,
а
а ядро K(s, t) определено равенством D.33).

§ 5] СЛАБО НЕПРЕРЫВНЫЕ ФУНКЦИОНАЛЫ 79
§ 5. Слабо непрерывные функционалы
1. Дифференцируемые функционалы. Пусть F — непре-
непрерывный функционал, определенный на пространстве Lp, где
р > 1. Линейный непрерывный функционал D?F, определен-
определенный на IP, называется дифференциалом Фреше функцио-
функционала F в точке <s£LP, если приращение функционала F
можно представить в виде
причем
lim °-^ = 0. E.1)
Величина «>(<?. h) называется остатком дифференциала
Фреше. Функционал F при этом называется дифференци-
дифференцируемым в точке <t>.
Линейный функционал D^F (в силу теоремы об общем
ииде линейного функционала в W) можно представить
в виде
где
1 с р~ q
Оператор Г, определенный равенством
Г<р = <?*,
называется градиентом функционала F: Г = grad F.
Градиент определен на тех элементах из if, на кото-
которых функционал F имеет дифференциал Фреше; множество
значений оператора Г включено в Lq. Градиент позволяет
записать выражение для приращения функционала F в более
удобной форме:
F(T + ft) — F(<p) = (ft, Г?) + »(<р, h) (h£Lp). E.2)
Через Тг будем обозначать шар радиуса т в простран-
пространстве if, т. е. совокупность всех таких элементов <o£Lp,
у которых || «|| <г.
Говорят, что функционал F (?) равномерно дифференци-
дифференцируем на шаре Тг, если для каждого е > 0 можно указать

80 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
такое 8 > 0, зависящее только от е, что из ||А|| < 8 сле-
следует:
ПАП <с (?t'f)'
Пусть Н-—линейный непрерывный оператор, действую-
действующий из пространства №' в пространство Lp, a F — диффе-
дифференцируемый функционал, заданный на №. Тогда функцио-
функционал FH:
будет определен на №'. В силу E.2) приращение функцио-
функционала FH можно записать в виде
FH(<p) = (HA, ГН<р) + ю(Н?, НА) №£№'),
где F = gradF — оператор, действующий из пространства
№ в пространство Lq ( 1-— = 1).
Т
Так как
II НА |
то в силу E.1)
цлц->о И «11 II или-> о
Таким образом, дифференциал D?FH функционала FH имеет
вид
D?FH(A) = (HA, ГН?) = (А, НТН<р),
где сопряженный к Н оператор Н* действует из пространства
L9 в пространство Lqi (-~\--=\, -1-4--1— Л.
Значит,
)H. E.3)
Последняя формула ниже будет применяться в случае,
когда рх = 2; тогда qy = 2 и оператор gradFH действует
в ZA
Приведем пример дифференцируемого функционала.
Пусть f(s, и) — функция, удовлетворяющая условиям Кара-
теодори. Пусть оператор f, порожденный этой функцией,

§ 5] СЛАБО НЕПРЕРЫВНЫЕ ФУНКЦИОНАЛЫ 81
действует из пространства if в пространство Lq. Грубо
говоря, это означает, что функция f[s, и)— «подстеленная»
в том смысле, что f(s, a) = O\a«j.
Если оператор f действует из If в I? , то, как пока-
показано в § 2 настоящей главы, он будет непрерывным и огра-
ограниченным в том смысле, что нормы его значений (в Lq) на
каждом ограниченном множестве из If равномерно ограни-
ограничены.
Обозначим через F функционал, определенный равенством
)
f(s, a)da.
По теореме о среднем значении интеграла и по нера-
неравенству Гельдера
■I, <ll?ll,-H*@?)[|e. E.4)
где 0 < О (s) < 1 *). Очевидно, H(s)v(s)£lf и ||09Ц<||»||р.
Так как оператор f действует из If в Lq, то ||/(8<р) ||5<оо.
Следовательно, в силу E.4) функционал F определен на if.
Лемма 5.1. Функционал F дифференцируем и гради-
градиентом его является оператор i.
Доказательство. Приращение функционала F можно,
пользуясь теоремой о среднем значении определенного инте-
интеграла, записать в виде
F(<?-f/z) — F(?) = (A, fe) + a)(», К),
где
«(в, A) = J"A(s){/ls, ?(s) + Ofc(s).A(s)]— /is, '*{s)\\ds,
в
причем 0 <0fe(s)< I **).
*) Функция 6 (s) будет измеримой, если, например, ее значения
определять как наименьшие в из [0, 1], при которых справедлива
формула о среднем значении определенного интеграла.
**) Относительно измеримости функции 8fe(s) см. предыдущую
сноску.

82 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. 1
Если \\h(s)lp-+0, то и \\Qh(s)h(s)\\p-+Q. Поэтому из
неравенства Гельдера и непрерывности оператора f сле-
следует, что
I <•> (<t fl) I
lim -—jj^j—— ^ lim |]f (о-\- 4hh) — f<p|L=O.
Лемма доказана *).
Рассмотрим теперь функционал FH:
Не (8)
FH (<?) = j ds j f(s, и) da, E.5)
G 0
где H — непрерывный оператор, действующий из Lp' в 1?.
Этот функционал будет определен на LPi, причем в силу
E.3)
Оператор Н*Ш будет действовать из LPl в Lq'. Особо важен
случай, когда рх — qx = 2. В этом случае оператор H*fH
действует в Z.2.
Предоставляем читателю показать, что функционал FH
равномерно дифференцируем в каждом шаре. Доказательство
этого утверждения удобно провести, использовав тот факт,
что каждый функционал с равномерно непрерывным гради-
градиентом равномерно дифференцируем.
2. Слабо непрерывные функционалы. Теоремы
Э. С. Цитланадзе. Функционал F, заданный на множе-
множестве М в банаховом пространстве Е, называется слабо не-
непрерывным на М, если значения его на каждой слабо схо-
сходящейся последовательности элементов из М образуют
сходящуюся последовательность чисел. Примером слабо не-
непрерывного функционала может служить функционал E.5).
Каждый слабо непрерывный функционал ограничен на
ограниченном множестве.
*) Утверждение этой леммы для частных случаев было исполь-
использовано еще Гаммерштейном [Щ, Голомбом [t7] и другими авторами.
Широко применялась эта лемма в работах М. М. Вайнберга
(см. [1Од], а также [1От]). Приведенное доказательство леммы со-
сообщил автору А. И. Поволоцкий летом 1950 г.

§ 5] СЛАБО НЕПРЕРЫВНЫЕ ФУНКЦИОНАЛЫ 83
Дифференцируемые слабо непрерывные функционалы
в регулярных банаховых пространствах с базисом были по-
подробно изучены Э. С. Цитланадзе (см., например, [7Ок]), кото-
который установил основные теоремы о свойствах операторов-
градиентов этих функционалов *). Нас будут интересовать
ниже свойства операторов-градиентов функционалов, опре-
определенных в гильбертовом пространстве. В связи с этим мы
ограничимся доказательством двух предложений Э. С. Цит-
Цитланадзе для случая, когда Е— гильбертово пространство.
Пусть £j с £.2 с ... — последовательность конечномер-
конечномерных подпространств размерности соответственно 1, 2,...
гильбертова пространства Е, обладающая тем свойством,
что для каждого элемента <?£Е и любого s >• 0 найдется
такой номер ns, что
Р(?. Еп)= inf ||ср — ф||<в.
В этом случае, как легко видеть, каждому компактному
множеству М с Е и любому числу г ^> 0 можно поставить
в соответствие такой номер пг, что при п^п, для всех
о £ М одновременно
р (»,£„)< г. E.7)
Через Р„ (п=1, 2, . . .) обозначим операторы ортого-
ортогонального проектирования на соответствующие подпростран-
подпространства Еп. Операторы Qn = I — Рп (п=1, 2, ...) будут опе-
операторами ортогонального проектирования на ортогональные
дополнения в пространстве Е к Еп. Условие E.7) можно
записать в форме
IIQ»?II<« <?€W n>ne). E.8)
Лемма 5.2. Если F — слабо непрерывный функцио-
функционал, заданный на шаре Тг с. Е, то для любого г > О
можно указать такое число п0, зависящее только от г,
что при п^п0
*) См. также М. М. В а й н б е р г I1 °]

84 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ.
Доказательство. В предположении противного для
некоторого а > О можно указать такие последовательности
элементов о„, {Ьп£Тг (п=\, 2, . . .), что
lF(?e+PrfW — F(?n + W|>a (я=1, 2,...)- E-9)
Так как шар в гильбертовом пространстве слабо компактен,
то без ограничения общности можно считать, что последо-
последовательности <?„, 'Ьп, Рге'}„ (п=1, 2, ...) слабо сходятся
соответственно к некоторым элементам <р> ^> "/.• Переходя
к пределу в E.9), получим:
откуда следует, что
11х-ФН>о.
С другой стороны, по условию E.8)
lira ||Qn()r —ф)||=0,
откуда следует, что
№ —Х1Р = «—У.. Ф —7)= lim (Qn'Vn. ф — 7.)
i -> СО
= lim ОК. QnW —yJXr lim ||Qn0!» —yj|| =0.
та -> со ' n -> со
Полученное противоречие доказывает лемму.
Теорема 5.1. Градиент Г слабо непрерывного рав-
равномерно дифференцируемого на Тг функционала F ком-
компактен, т. е. преобразует Тг в компактное множество.
Доказательство. Вначале отметим, что опера-
оператор Г ограничен. Выпишем формулу E.2) для приращения
F 0?-f~ |хГ<?) — F(e), где jx—пока произвольное положитель-
положительное число:
F (<Р + !*Г<в) — F (в) = [111 Г? Ц2 + с» (», !аГ«). E.10)
Так как функционал F равномерно дифференцируем, то
можно указать такое 3 > 0, что из [[А[|<8 следует, что
Iи (?> А) | < || А У. Положим

§ 5] СЛАБО НЕПРЕРЫВНЫЕ ФУНКЦИОНАЛЫ 85
Тогда из E.10) следует:
8||Г?[1<2 sup|F(<p)| + 8.
ч£Тг
Полагая в формуле E.2) h = jj.Qnrts, где п — произволь-
произвольный индекс, получим после деления на \\h\\:
ЛолГ- EЛ1)
Пусть задано число е > 0. В силу равномерной дифферен-
цируемости F можно выбрать такое число |х > 0, не завися-
зависящее ни от о £ Тг, ни от п, что
f*BQnr«PO < 2 (?^ У->- EЛ2)
В силу леммы 5.2 можно указать такое п0, что при п^п0
|F(? + jiQnF?) —F(?)|<^ {?£Tr). E.13)
Из неравенств E.12) и E.13) следует, что
||Qreor<pU<3 (?err).
Действительно, если IIQ^Tol^O, то в силу E.11) и
^ I F (? + [^ Г») - F (<?) J
Таким образом, множество ТТГ с точностью до произ-
произвольного s > 0 может быть аппроксимировано компактным
множеством РПпТТг. Зн'ачит, само множество ТТГ компактно.
Теорема доказана.
Теорема 5.2. Градиент Г слабо непрерывного равно-
равномерно дифференцируемого на каждом шаре функционала
преобразует каждую слабо сходящуюся последователь-
последовательность элементов в сильно сходящуюся последователь-
последовательность.
Доказательство. Пусть последовательность <?п£Е
(п=1, 2, ...) слабо сходится к элементу о £ Е. Допу-
Допустим, что
iim ||Г<?„ — Г<р|| =ос >0.
п-»со

86 НЕЛИНЕЙНЫЕ ОПЕРАТОРЫ [ГЛ. I
В силу компактности оператора Г можно без ограничения
общности считать, что последовательность Г®» сходится
сильно к некоторому элементу $£Е, причем ]|Го—ф||=а.
Из E.2), полагая /г=|х(Гс?— <!/), легко получить ра-
равенство
F [у +1* (Г? - ф)] - F [?» + Е (Г? - Ф)] - F (?) - F (уп)
■о [у, |*(Гу-ф)] . о»[у
I*Вг<р-— ФН +
Выбирая [а достаточно малым, можно добиться того, что
| ш [у, е (Ту - ф)] | ^ |ю[уп. I* СГУ — Ф)] I ^г
(л=1, 2,...).
где е — любое заданное число. Но тогда, переходя в E.14)
к пределу при п->оо, получим в силу слабой непрерывно-
непрерывности функционала F, что
и, так как г может быть сколь угодно мало, то
II г» — од=о.
Полученное противоречие доказывает, что
П5 []Г<р„ —Г«|]=0.
»-> со
Теорема доказана.
Из теоремы 5.2, в частности, вытекает, что градиент
слабо непрерывного равномерно дифференцируемого функ-
функционала является вполне непрерывным оператором.

ГЛАВА II
ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ
Как мы уже указывали во введении, естественный путь
изучения устойчивых свойств уравнения
» = А»,
где А—некоторый нелинейный оператор, заключается в изу-
изучении топологических инвариантов геометрических объектов,
которые могут быть поставлены в соответствие изучаемому
уравнению. Соответствие будет наиболее простым, если урав-
уравнению о = Ав отнесено преобразование А или векторное
поле « — As в функциональном пространстве, в котором дей-
действует оператор А. В этом случае, например, каждая тео-
теорема существования решения у уравнения эквивалентна тео-
теореме о существовании неподвижной точки при некотором
преобразовании, либо теореме о существовании нулевого
вектора у некоторого векторного поля.
В каждой конкретной задаче уравнение путем различных
преобразований нужно привести к такому виду, чтобы соот-
соответственное векторное поле легко поддавалось изучению.
Функциональное пространство, в котором следует рассматри-
рассматривать векторное поле, тоже выбирается в зависимости от кон-
конкретной задачи.
Первая задача, возникающая при изучении векторного
поля, заключается в том, чтобы найти общие признаки су-
существования нулевого вектора. Частные признаки суще-
существования нулевого вектора для векторных полей, рас-
рассматриваемых в выпуклых или звездных областях, дают
различные принципы неподвижной точки (Шаудера, А. Н. Ти-
Тихонова и др.). Лере и Шаудер обобщили понятие брауэро-
вой степени отображения на некоторые классы отображений
в банаховых пространствах; новое понятие позволило сфор-
сформулировать более общие, чем известные ранее, признаки
существования неподвижных точек.

88 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. И
Когда выяснилось, что степень является единственным
инвариантом, сохраняющимся при гомотопных изменениях
определенных классов векторных полей, то стало ясно, что
она должна играть роль во всех задачах, связанных с
устойчивыми свойствами уравнения. В качестве первого
нового приложения автором совсем просто были получены
теоремы о существовании непрерывных ветвей собственных
функций у различных уравнений, был разобран вопрос о
точках бифуркации и т. д.
В настоящей работе понятие Лере—Шаудера степени
отображения заменено эквивалентным понятием вращения
векторного поля.
В первом параграфе этой главы вводится понятие вра-
вращения конечномерного векторного поля. Ряд предложений
теории Брауэра степени отображения на конечномерную
сферу приводится без доказательства (полное изложение этой
теории см. в I1]). Часть предложений доказывается при по-
помощи «нумерационных» соображений. Мы предполагаем при
этом, что читателю известны основные понятия комбинатор-
комбинаторной топологии: полиэдр, симплекс, симплициальный ком-
комплекс, симплициальное разбиение, ориентация.
Второй параграф посвящен изложению элементарного до-
доказательства теоремы Л. А. Люстерника — Л. Г. Шнирель-»
мана—К. Борсука о нечетности вращения нечетного поля.
Теорема эта будет использована в главах Ш и VI.
В последних параграфах рассматриваются векторные поля
в банаховых пространствах. После введения понятия враще-
вращения доказывается для вполне непрерывных векторных полей
в банаховых пространствах классификационная теорема,
являющаяся обобщением теоремы Хопфа (для отображений
сферы гильбертова пространства в себя теорема была уста-
установлена Э. Роте). Затем устанавливаются различные теоремы
о вращении конкретных классов векторных полей.
§ 1. Векторное поле в конечномерном пространстве
1. Степень отображения. Пусть задано непрерывное
симплициальное отображение W «-мерного замкнутого*)
*) Не имеющего границы. Ниже рассматриваются полиэдры,
являющиеся границами ограниченных областей (п -)- 1)-мерного ли-
линейного пространства.

§ 1] ВЕКТОРНОЕ ПОЛЕ В КОНЕЧНОМЕРНОМ ПРОСТРАНСТВЕ 89
ориентированного полиэдра Т на n-мерную ориентированную
единичную сферу Sn, лежащую в (п-\- 1)-мерном евклидо-
евклидовом пространстве Rn+l. Это значит, что существует такое
симплициальное разбиение К полиэдра Т и такое симпли-
циальное разбиение Кх сферы Sn, что при отображении W
каждый симплекс комплекса К аффинно преобразуется в не-
некоторый симплекс комплекса Kv
Выберем некоторый «-мерный симплекс £ комплекса Кх
и рассмотрим все n-мерные симплексы комплекса К, которые
при отображении W переходят в Е. Среди них s симплексов
будут преобразовываться в £ с сохранением ориентации,
a t—с изменением ориентации на противоположную. Число
s — t, оказывается, не зависит от выбора в комплексе Кх
«-мерного симплекса 2. Это число называется степенью
симплициального отображения W.
Пусть теперь W — произвольное непрерывное отображе-
отображение Т на сферу Sn. Оказывается, что степени всех симпли-
циальных отображений, близких к отображению W, одина-
одинаковы. Эту общую степень симплициальных отображений,
близких к W, называют степенью непрерывного отобра-
отображения ЧГ.
Пусть на Т задано непрерывное («-{- 1)-мерное вектор-
векторное поле ф без нулевых векторов (в каждой точке х£Т
задан (ft-f- 1)-мерный вектор Фх). Вращением векторного
поля Ф называется степень отображения W:
полиэдра Т на ориентированную сферу Sn.
Рассмотрение симплициальных отображений специального
типа (на границу выпуклой оболочки системы 2п-\-2 точек
пространства Rn+1 с координатами {±1> 0, . . ., 0},
{0, it 1 0}, ..., {0, 0, ..., rt 1)) позволяет дать про-
простое «нумерационное» определение вращения векторного поля.
Нумерационное определение удобно при вычислении степени
некоторых конкретных отображений — при определении вра-
вращения конкретных векторных полей.
2. Нумерации. Пусть каждой вершине «-мерного сим-
симплекса S поставлено в соответствие некоторое натуральное
число. Систему из п-\-\ чисел, соответствующих вершинам
симплекса 2, будем выписывать в неубывающем порядке и

90 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
называть нумерацией симплекса S. Нумерацию симплекса
будем называть вырожденной, если хотя бы двум вершинам
поставлено в соответствие одно и то же число.
Легко видеть, что нумерации всех граней симплекса 2,
порожденные невырожденной нумерацией симплекса £, будут
невырождены. Если нумерация «-мерного симплекса £ выро-
вырождена, то либо нумерации всех его (п—1)-мерных граней
также вырождены, либо невырождены нумерации только двух
его (п—1)-мерных граней.
Пусть К есть «-мерный симплициальный комплекс. Если
каждой его вершине поставлено в соответствие натуральное
число, то будем говорить, что осуществлена нумерация N
комплекса К- Нумерация N естественным образом порождает
нумерации всех симплексов комплекса К- Нумерацию ЛГ будем
называть вырожденной, если на всех «-мерных симплексах
она порождает вырожденную нумерацию.
Пусть К-у — симплициальное подразделение комплекса К.
Нумерация Nl комплекса /Q является продолжением нуме-
нумерации N, если каждой вершине комплекса Kt поставлен
в соответствие один из номеров (по нумерации N) ее носи-
носителя *) в комплексе К. Очевидно, продолжение вырожденной
нумерации есть вырожденная нумерация. Из леммы Шпер-
нера, которую мы ниже доказываем, следует, что продолже-
продолжение невырожденной нумерации есть невырожденная нуме-
нумерация.
Лемма Шпернера. Пусть £ -ест., п-мерный сим-
симплекс с нумерацией 1, 2 п~\~\. При каждом про-
продолжении этой нумерации на любое симплициальное раз-
разбиение К симплекса Е нечетное число п-меркых симплексов
комплекса К будет иметь нумерацию 1, 2, ..., п-\-\.
Доказательство. Утверждение леммы будем дока-
доказывать по индукции. Для нульмерного симплекса (точки) оно
очевидно.
Пусть К—симплициальное разбиение симплекса £ и пусть
N—продолжение на комплекс К указанной в лемме нуме-
нумерации симплекса 2. Рассмотрим (и—1)-мерные симплексы
комплекса К, на которых N порождает нумерацию 1,2 п.
Эти симплексы могут быть либо гранями двух ft-мерных сим-
*) Носителем точки в комплексе К называется симплекс мини-
минимальной размерности комплекса К, содержащий эту точку.

§ 1] ВЕКТОРНОЕ ПОЛЕ В КОНЕЧНОМЕРНОМ ПРОСТРАНСТВЕ 91
плексов комплекса К, либо одного. В последнем случае сим-
симплекс с нумерацией 1, 2, ..., я должен лежать в грани S
симплекса S, противоположной вершине, занумерованной
числом й+1, так как в силу условий леммы в нумерации
вершин комплекса К на каждой другой (п— 1)-мерной грани
симплекса 2 одно из чисел 1, 2, . . ., п участвовать не может.
Вершины грани S занумерованы числами 1, 2, ..., п. По
предположению индукции число (п—1)-мерных симплексов
с нумерацией 1, 2, ..., я комплекса К, лежащих в S, не-
нечетно. Таким образом, нечетно и число (п— 1)-мерных граней
я-мерных симплексов комплекса К с нумерацией 1, 2, ..., п.
С другой стороны, четность числа я-мерных симплексов
с невырожденной нумерацией в комплексе К совпадает с чет-
четностью числа (п— 1)-мерных граней с нумерацией 1,2, . .., п
л-мерных симплексов (так как и-мерный симплекс с выро-
вырожденной нумерацией имеет четное число граней с нумера-
нумерацией 1, 2, ..., п — нуль или две, а симплекс с нумерацией
1, 2 а-f-l—одну такую грань).
Лемма доказана.
Нечетные числа 2k—1 будем обозначать через ак, а чет-
четные 2k— через bk(k—l, 2, ...).
Нумерацию симплекса назовем допустимой, если из
каждой пары чисел ак, Ък (k = 1, 2, . . .) в ней участвует
не более чем одно число, которое, впрочем, может встре-
встретиться в нумерации несколько раз. Нумерацию комплекса
назовем допустимой, если она порождает допустимые нуме-
нумерации на всех симплексах. Продолжение каждой допустимой
нумерации будет, очевидно, допустимой нумерацией.
Одну нумерацию симплекса назовем сопряженной другой
нумерации, если первая получается из второй заменой всех
чисел ак соответствующими числами Ьк и, наоборот, всех
чисел bj соответствующими числами aj.
3. Степень нумерации. Пусть L — некоторый ориентиро-
ориентированный замкнутый л-мерный полиэдр, К—его триангуляция
и N— допустимая нумерация комплекса К числами at и bt
A= 1, ..., « + !)•
Пусть S есть я-мерный симплекс комплекса К с невы-
невырожденной нумерацией N. Его вершины, которым приписан
номер ак или Ьк, будем обозначать через г^. Очевидно,
индексы в обозначениях двух различных вершин симплекса S
будут различны, причем будут принимать все значения от \

92 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
до л. —J— 1 • Через [3S обозначим число вершин симплекса S,
которым в нумерации N приписаны четные числа. Отнесем
симплексу S число i2. определяемое равенством
Тг=(-1)йв(г1, z.2 zn+1), A.1)
где через s (zv z.2, ■ ■ ■, zn+i) обозначена ориентация сим-
симплекса с вершинами zv 2.2, ..., zn+1. Число fs будем назы-
называть весом симплекса £.
Пусть нумерация (п — 1)-мернвго симплекса Д невыро-
невырождена. Тогда в обозначениях вершин этого симплекса индексы
будут принимать все значения от 1 до я-f-l, кроме одного
значения г. Через ,3Д снова обозначим число вершин сим-
симплекса А, которым приписаны четные числа в нумерации N.
Весом грани Д симплекса S назовем определяемое равенством
где через e(zv ..., zr_v zr+1, ..., zn+l) обозначена ориен-
ориентация симплекса Д, определяемая ориентацией симплекса S.
Каждый (п — 1)-мерный симплекс Д комплекса К имеет
две противоположные ориентации, порожденные ориентациями
двух тг-мерных симплексов комплекса К, общей гранью кото-
которых он является. Если Д — общая грань симплексов Ее S', то
Пусть S есть л-мерный симплекс с вырожденной нуме-
нумерацией, в которой участвуют п различных чисел, ct сп.
Одно из этих чисел повторится в нумерации два раза, т. е.
нумерация симплекса имеет вид
с.1 ck-v ск< ск' ск+1< ■•■' сп-
Соответствующие вершины симплекса обозначим через
zv . . ., zk, zk, . . ., zn. Симплекс S будет иметь две (п— 1)-
мерные грани с невырожденной нумерацией с±, .... сп:
грань Д с вершинами zv ..., zk zn и грань Д с вер-
вершинами zv .. ., zk, . . ., zn. Как легко видеть,
Т! = ~Т*Д- A.4)
Пусть S есть л-мерный симплекс с невырожденной нуме-
нумерацией ct cn+1 и вершинами zv ..., zn+i. Рассмотрим

§ 1] ВЕКТОРНОЕ ПОЛЕ В КОНЕЧНОМЕРНОМ ПРОСТРАНСТВЕ 93
его (п—1)-мерную грань Д с вершинами zv ..., zr_v
zr+i zn+l и нумерацией ct cr_v cr+t, ..., сим.
Так как
s.(zv ..., zr_v zr+v ..., zM1) =
= (— ir'e^, . .., z,._v zr, zr+v ..., zn+1),
a ^j. = 8Д при нечетном сг и Зт = рд-|-1 при четном сг, то
TIA = (-l)c'-+rV A-5)
Рассмотрим все л-мерные симплексы комплекса /С с оди-
одинаковой невырожденной нумерацией cv .. ., сп+1. Обозначим
через s (cv . . ., сп+1) число симплексов с нумерацией cv ..., сп+1
и положительным весом, а через t(cv ..., сп+1) число сим-
симплексов с той же нумерацией, но с отрицательным весом.
Число ~(N, определяемое равенством
Ttf = s(Ci cn+i) — 4cv •■•> cn+t)> С1-6)
будем называть степенью нумерации N.
Это определение будет оправдано, если мы покажем, что
число s(cv .. ., сп+1) — t{cv ..., сп+1) не зависит от выбора
нумерации си ..., сп+1.
Докажем это. Так как от каждой невырожденной нуме-
нумерации можно перейти к любой другой невырожденной нуме-
нумерации конечным числом шагов, заменяя при каждом шаге
одно из чисел нумерации сопряженным числом, то утвержде-
утверждение будет доказано, если мы покажем, что
s(cv ..., аг, ..., cn+x) — t{cv ..., ап ..., сп+1) =
= s(Ci. •••. br cn+1) — t(cL br cn+i). A.7)
Симплекс с нумерацией cv .. ., cr_v cr+i, ..., cn+l может
быть гранью л-мерных симплексов с нумерациями различных
типов.
Во-первых, он может быть гранью одного из л-мерных
симплексов с вырожденной нумерацией. В силу A.4) число а
таких граней с положительным весом будет равно числу
таких граней с отрицательным весом.
Во-вторых, он может быть гранью симплекса с нумера-
нумерацией cv .... cr_v ar, cr+v ..., cn+t. В силу A.5) при не-
нечетном г число таких граней с положительным весом будет

94 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [гЛ. ll
равно s(cv ..., аг, . . ., сп+1), а с отрицательным весом
— t(cv ..., ar, ..., cn+l).
В-третьих, он может быть гранью симплекса с нумера-
нумерацией ct cr-v &г> сги cn+v При нечетном г (снова
в силу A.5)) число таких граней с положительным весом
равно t{cl br, . .., сп+1), а с отрицательном весом
— s(cL, . .., br, .... cn+t).
Таким образом, общее число (п — 1)-мерных граней
с нумерацией cv ..., cr_v cr+x с^+1 и положительным
весом будет равно
<z-f-s(ct> ..., аг, ..., cn+l)+^(ci Ъг, ..., cn+t),
а число граней с той же нумерацией, но отрицательным
весом будет равно
a-H(Ci аг cn+1)-j-s(ct. ••-, br, ..., cn+l).
Так как в силу A.3) число (я — 1)-мерных граней с рас-
рассматриваемой нумерацией, имеющих положительный вес, равно
числу таких граней с отрицательным весом, то
«4-«(<ч аг cn+t) + ^(ct. • • •> br, ..., cn+l) =
= a + t(cv ..., ar, ..., cn+i)-^s(cv ..., br, ..., cn+t),
откуда непосредственно следует A.7).
Аналогично устанавливается справедливость равенства A.7)
при четном г.
4. Вращение векторного поля. Пусть на га-мерном зам-
замкнутом полиэдре L заданы п~{- 1 непрерывные функции
?i (*). «Ра (*) «PfM-i (х) (х € О),
не обращающиеся ни в одной точке одновременно в нуль.
Будем считать, что функции <?г(х) —это компоненты непре-
непрерывного векторного поля Ф, заданного на L.
В силу равномерной непрерывности на L функций »j(x)
найдутся такие числа а > 0 и S > 0, что в каждой окрест-
окрестности радиуса 23 любой точки х £ L по крайней мере одна
из функций »j(x) знакопостоянна и принимает значения, боль-
большие по абсолютной величине, чем а. Введем в рассмотрение
замкнутые лебеговы множества
Gv Ft\ ...; Gn
n+V

§ 1] ВЕКТОРНОЕ ПОЛЕ В КОНЕЧНОМЕРНОМ ЙРОСТРАНСТВЁ 95
где /\; (i=l, ..., rt-|-l) — множество x£L, в котором
^ (д:) > a, G4 (t = 1 л-f-l) — множество тех х£О,
в которых <?j (х)<; — а. Множества Рг, Gi(i= I, ..., п -f-1),
очевидно, покрывают Z. Через 8t обозначим наименьшее из
расстояний между Fj и G, (г = 1 я-f-l). Пусть
oo = min(8, ox).
Построим достаточно мелкое (так, чтобы каждый симплекс
имел диаметр не больше 30) симплициальное разбиение К
полиэдра L и занумеруем его вершины, приписывая каждой
вершине один из номеров ак, где к — номера тех функ-
функций 9»(х), которые в рассматриваемой вершине имеют поло-
положительное значение и на всей звезде рассматриваемой вер-
вершины имеют неотрицательные значения, или один из номе-
номеров bj, где j — номера тех функций »j(x), которые на вер-
вершине принимают отрицательное значение и на звезде вершины
неположительны. Напомним, что звездой вершины z симпли-
циального комплекса К называется множество точек всех зам-
замкнутых симплексов комплекса К, одной из вершин которых
является точка г. В частности, вершине z можно приписать
один из номеров ак, где k — номера тех Fit которые покры-
покрывают звезду рассматриваемой вершины, или один из номеров bjt
где у —номера тех О£, которые покрывают эту же звезду.
О нумерации N, построенной указанным способом, будем
говорить, что она порождена векторным полем Ф. Нуме-
Нумерация N будет, очевидно, допустимой.
Степень нумерации N будем называть вращением
поля Ф.
Чтобы это определение было оправдано, нужно показать,
что различные нумерации, порожденные полем Ф, имеют оди-
одинаковую степень.
Рассмотрим вначале нумерации N± и N2, порожденные
полем Ф на одном и том же симплициальном разбиении К
полиэдра L. От одной нумерации, порожденной полем Ф,
можно перейти к другой конечным числом шагов, заменяя
при каждом шаге номер только одной вершины. В силу этого
достаточно показать, что степени нумераций Nt и N2 одина-
одинаковы, предполагая, что есть только одна вершина, которой
в нумерациях NL и jV2 приписаны различные номера ct и с2.
Числа с^ и с2 не могут быть сопряженными. Поэтому можно
указать такие п -\- 1 чисел, не содержащих ct и с2, которые
будут определять допустимую невырожденную нумерацию

96 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
симплексов. Определяя по этим числам fN и f дг, мы полу-
получим одно и то же число.
Пусть теперь Nt и М2 — нумерации, порожденные полем Ф
на различных симплициальных разбиениях Kt и К2 поли-
полиэдра L. Пусть симплициальное разбиение К полиэдра L является
продолжением разбиений К1 и К2. Продолжим нумерации Aft
и jV2 на комплекс К, приписывая вершине наименьший
из номеров ее носителя в комплексе Кх (К.2). Полученные
нумерации Ny и N2 будут иметь соответственно те же сте-
степени, что и нумерации Мх и М2. Выше мы показали, что
7 _ =т~- Таким образом, и yv =t,t.
5. Гомотопные векторные поля. Говорят, что векторные
поля Фи? гомотопны на L, если существует непрерывная
по х, t (ft-j-1)-мерная вектор-функция X(x,f) (x^L,
O^.t-^.1), не принимающая нулевых значений и такая, что
Х(лг, 0)=фх, X(x, \)=Wx
Так как для равномерно близких векторных полей можно
строить общие, порожденные этими полями нумерации, то
вращения гомотопных векторных полей одинаковы.
Справедливо и обратное|утверждение (см., например, [1\).
Теорема Хопфа. Пусть вращения векторных по-
полей Ф и W, заданных на связном однородном полиэдре L,
одинаковы. Тогда поля Ф и \F гомотопны.
Как мы уже указывали выше, вращение векторного поля Ф
совпадает со степенью некоторых симплициальных отображе-
отображений на границу выпуклой оболочки Q системы 1п-\-2 точек
пространства Rn+1 с координатами
{±1,0, ...,0}, {0, ±1 0}, ..., {0, 0, ..., ±1). A.8)
Пространство Rn+1 считается при этом ориентированным
так, что симплекс с вершинами zo= @, 0 0} и
zt={l, 0, ..., 0}, г.2={0, 1 0}, ...
..., zn+1={0, 0,..., 1} A.9)
имеет ориентацию
Пусть на полиэдре L задано векторное поле Ф без
нулевых векторов. Так как гомотопные векторные поля

§ 1) ВЕКТОРНОЕ ПОЛЕ В КОНЕЧНОМЕРНОМ ПРОСТРАНСТВЕ 97
имеют одинаковое вращение и в нумерационном определе-
определении (как показано выше) и в определении, приведенном
в пункте 1 (см., например, Щ), то мы ограничимся дока-
доказательством эквивалентности двух определений вращения
для некоторрго векторного поля ЧГ, гомотопного векторному
полю Ф.
Пусть К—достаточно мелкое симплициальное разбиение
полиэдра L, а N—нумерация вершин комплекса К, порож-
порожденная полем Ф. Определим на L функции tyt (х) фп+1 (х).
Если вершине z в нумерации N приписан номер ак, то
положим <lk(z) = 1; если этой вершине приписан номер Ьк,
то положим 4fe(z) =— 1; если вершине приписан номер,
отличный и от ак и от Ьк, то положим bk(z) — 0. Функции
^й(х) (ft=l, 2, ..., rt-f-1) мы определили по нумерации
N на всех вершинах каждого симплекса из К- На другие
точки симплексов продолжим эти функции линейно.
Функции <Ьк(х) (&=1, 2,..., п-\-1) определяют на L
непрерывное векторное поле ЧГ без нулевых векторов. Поле ЧГ,
как легко видеть, можно рассматривать как симплициаль-
симплициальное отображение на границу выпуклой оболочки Q точек
с координатами A.8).
Векторное поле ЧГ гомотопно полю Ф. Пусть, действи-
действительно, z — одна из вершин носителя в комплексе К точки
х £ L и пусть некоторая функция 6ко (х) (а значит, и функ-
функция »ьо(х)) в точке z принимает отличное от нуля значе-
значение. Тогда, по построению, функция ф&Дх) в точке х при-
принимает значение того же знака, что и ^(z). Следовательно,
A—/) c?fc0 (x) -f- t^ko (x) ф 0 при 0<f-<l. Таким образом,
векторы
A—*)Ф* + №е (x£L; 0<<<l)
в нуль не обращаются, что и доказывает гомотопность полей
Ф и W.
Нумерацию N можно рассматривать как нумерацию,
порожденную полем ЧГ. Определим степень этой нумерации
(т. е. вращение поля ЧГ в нумерационном определении) по
симплексам с нумерацией at an+t. Такие симплексы
при отображении ЧГ переходят в симплекс И (грань «много-
«многогранника» Q) с вершинами A.9). При этом симплексы
с положительным весом преобразуются с сохранением ориен-
ориентации, а симплексы с отрицательным весом — с изменением

98 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
ориентации. Таким образом, разность количества симплек-
симплексов комплекса К с нумерацией at, ..., ап+1 и положитель-
положительным весом и количества симплексов с той же нумерацией,
но с отрицательным весом равна разности между количе-
количеством симплексов комплекса К, переходящих с сохранением
ориентации в симплекс X, и количеством симплексов, пере-
переходящих в £ с изменением ориентации. Это и означает, что
«нумерационное» определение вращения векторного поля
совпадает с определением, приведенным выше, в пункте 1.
6. Неподвижные точки. Пусть Т—(п~\- 1)-мерный
ориентированный полиэдр, L—-его граница. Пусть на Т
задано {п -f- 1)-мерное непрерывное векторное поле Ф. Точки
х £ Г, в которых Фх — 0, будем называть неподвижными
точками векторного поля Ф. Пусть поле Ф имеет только
изолированные неподвижные точки, не лежащие на L.
Будем описывать вокруг каждой неподвижной точки
хк£Т поля Ф сферы Ssk достаточно малых радиусов з (так,
чтобы ограничиваемые ими шары 7& были полностью вклю-
включены в Г и не пересекались между собой). Векторные
поля Фл, индуцируемые полем Ф на сферах Si, при раз-
различных е будут гомотопны, в силу чего их вращение будет
одинаковым. Это вращение fit называют индексом непо-
неподвижной точки хк поля Ф.
Образуем полиэдр 7\, взяв в Т дополнение ко всем
шарам Tk и замкнув его. Поле Ф, очевидно, на 7\ не
имеет неподвижных точек. Пусть К—достаточно мелкое
симплициальное разбиение полиэдра Tv а N — нумерация,
порожденная на К полем Ф. Нумерация N будет вырож-
вырожденной, так как она осуществлена лишь (п-\- 1)-й парой чисел
а^Ъц. В каждом (п -\- 1)-мерном симплексе, имеющем л-мер-
ную грань с нумерацией ах an+v будут две такие
грани, причем вес их будет противоположным. В силу этого
число «-мерных граней {п-\- 1)-мерных симплексов ком-
комплекса К с нумерацией av . . ., an+1 и положительным весом
будет равно числу я-мерных граней с той же нумерацией
и отрицательным весом. С другой стороны, каждый га-мер-
га-мерный симплекс является либо гранью одного (п-\~ 1)-мерного
симплекса комплекса К—тогда он лежит на границе поли-
полиэдра 7\, — либо гранью двух (я-f- 1)-мерных симплексов

§ 1] ВЕКТОРНОЕ ПОЛЕ В КОНЕЧНОМЕРНОМ ПРОСТРАНСТВЕ 99
комплекса К—в этом случае два веса его будут иметь
противоположные знаки.
Отсюда вытекает, что на границе полиэдра 7\ число
симплексов с нумерацией а1 ап+\. и положительным
весом совпадает с числом симплексов с той же нумерацией,
но с отрицательным весом.
Граница полиэдра 7\ состоит из L и всех сфер S\, при-
причем каждая сфера S\ ориентирована противоположно тому,
как она была ориентирована при определении индекса ffc
неподвижной точки хк поля Ф. Число симплексов с нумера-
нумерацией av . .., ап+1 и положительным весом, лежащих на L,
обозначим через s; число таких симплексов на каждой сфере
S% обозначим через sk (k = 1 г). Число симплексов
с нумерацией at an+i и отрицательным весом, лежа-
лежащих на L, обозначим через t; число таких симплексов на
каждой сфере S\ обозначим через tk(k= I, .. ., r).
Нами показано, что
2ft +2* ()
к=1 к+1
Но каждый симплекс на сфере S%, рассматриваемой как
часть границы 7\, имеет ориентацию, противоположную той,
которая порождается на сфере S\, рассматриваемой как гра-
граница шара 7^. Поэтому
Т* = —(«* — <*) (fc=l....,r).
Таким образом, из A.10) следует, что
Сумма индексов неподвижных точек называется алге-
алгебраическим числом неподвижных точек. Последнее равен-
равенство означает, что алгебраическое число неподвижных
точек поля Ф на Т равно вращению поля Ф на L.
В частности, если вращение векторного поля Ф на L не
равно нулю, то поле Ф в Т обязательно имеет непо-
неподвижные точки.
Каждая теорема об отличии вращения поля от нуля
является принципом неподвижной точки или, что то же,
принципом существования решения у некоторого уравнения.

100 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ (ГЛ. II
В связи с этим большой интерес представляют различные
признаки отличия от нуля вращения векторного поля.
7. Лемма о произведении вращений. Пусть на «-мер-
«-мерном замкнутом полиэдре L задано нормированное непрерыв-
непрерывное векторное поле. Ф, ||Фх|| = 1 при x^L. Пусть ЧГ— не-
непрерывное отображение сферы Sn на себя. Вращение век-
векторного поля *РФ на L определяется (см. I1]) по вращению
поля Ф и вращению поля ЧГ (степени отображения W) фор-
формулой
§ 2. Вращение конкретных векторных полей
1. Теорема о еже. Пусть на «-мерном полиэдре L задано
непрерывное векторное поле Ф без нулевых векторов. Обо-
Обозначим через N нумерацию, порожденную полем Ф на не-
некотором симплициальном разбиении К полиэдра L.
Рассмотрим на L также поле — Ф. Нумерация N*, обра-
образованная из N переходом к сопряженным числам, будет,
очевидно, порождена полем — Ф.
Определим вращение f-ф поля — Ф. Для этого рассмот-
рассмотрим я-мерные симплексы комплекса К с нумерацией bv...
••■>bn+1 в нумерации N*. В нумерации N эти симплексы
были занумерованы числами av ..., ап+х. Вес каждого та-
такого симплекса при переходе от нумерации N к нумера-
нумерации ЛГ умножится на (—1)га+1, так как номера всех вершин
меняют свою четность. Определяя степень нумерации N по
симплексам с нумерацией ах, ..., an+i, а нумерации ЛГ —
по симплексам с нумерацией bv . .., b^.^, получим, что
1I
Таким образом,
Из этого равенства, в частности, следует, что при чет-
четном п вращения полей Фи — Ф различны (если они
отличны от нуля).
Пусть на L заданы два векторных поля Ф и ЧГ с раз-
различным вращением. Тогда каждая непрерывная по обеим
переменным вектор-функция Х(х, t) (x£L; 0<!^-^1), удо-
удовлетворяющая условию
Х(х, 0) = Фх, Х(х, l) =

§ 2] ВРАЩЕНИЕ КОНКРЕТНЫХ ВЕКТОРНЫХ ПОЛЕЙ 101
принимает в некоторой точке \х, t) нулевое значение, так
как в противном случае поля Ф и W были бы гомотопны
и вращение их было бы одинаково. Из этого рассуждения
следует, что в некоторой точке х £ L векторы Фх и Wx
направлены противоположно (если вращения полей Ф и I
различны). Действительно, в противном случае можно по-
построить непрерывную вектор-функцию
Х(х, 0 = A—ОФх + flF* (x£L; 0<*<l),
не обращающуюся в нуль.
В случае, если п-\-1—нечетное число, то для любых
двух непрерывных векторных полей Фи?, вращение одного
из которых отлично от нуля, на re-мерном полиэдре L
найдется точка х, в которой векторы Фх и Wx колли-
неарны.
Для случая, когда вращения полей Фиф различны,
рассматриваемое утверждение нами уже доказано. В случае
же, если вращения полей одинаковы, то в силу B.1) раз-
различны вращения полей Фи —W.
Частным случаем последнего утверждения является
Теорема о еже. Пусть L—граница некоторой
ограниченной области, содержащей точку Н — нуль не-
четномерного линейного пространства Rn+1. Пусть
Ф есть (п-\- 1)-мерное векторное поле на L. Тогда на L
найдется точка х, в которой вектор Фх коллинеарен
радиусу-вектору х точки х.
Для доказательства нужно ввести в рассмотрение век-
векторное поле ЧГ = 1, где I — оператор тождественного пре-
преобразования в Rn+1, и применить предыдущее утверждение.
Вращение поля I равно единице и, следовательно, отлично
от нуля.
2. Линейные векторные поля. Элементы (re-f-^-мер-
(re-f-^-мерного векторного пространства Rn+1 мы будем ниже назы-
называть точками или векторами.
Пусть I — векторное поле, относящее каждой точке
x£Rn+1 вектор х. Тогда вращение поля I на каждой сфере
с центром в Ь равно единице. Поле I имеет на всем Rn+l
только одну неподвижную точку — Ь, индекс которой равен
единице. Следовательно, вращение поля I на границе L
каждого ограниченного открытого множества Г простран^

102 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
ства Цп+1 равно единице, если 8 £ 7\ и равно нулю, если
9 не принадлежит замыканию Т.
Векторное поле Ф назовем линейным, если оператор Ф
линеен. Абсолютная величина вращения каждого линейного
векторного поля всегда равна единице. Точное значение
вращения векторного линейного поля мы вычислим в § 3
непосредственно для бесконгчномерного», случая.
Рассмотрим один частный случай векторного поля, гомо-
гомотопного линейному.
Пусть Т—выпуклое ограниченное множество из /?п+х,
содержащее Н. Пусть векторное поле ф, заданное на Т,
удовлетворяет на границе L множества Т условию:
х + Фх^Т (x£L).
Тогда поле Ф на L гомотопно полю — I и имеет вра-
вращение (—l)n+1, так как вектор-функция
Х(х, t) = (l—t)Фx — tx (x£L, 0<*<l)
ни в одной точке в нуль не обращается, а
Х(х, 0) = Ф*, Х(х, 1) = —х (
Таким образом, вращение поля Ф на L при выполнении
условия х-\-Фх £ Т (х£ L) отлично от нуля, и, следова-
следовательно, поле Ф имеет в Т нулевые векторы. Это состав-
составляет содержание известного принципа Брауэра неподвижной
точки, который обычно формулируют в несколько иной
форме.
Теорема Брауэра. Пусть непрерывное преобра-
преобразование I —|— Ф преобразует ограниченное выпуклое тело Т
в себя. Тогда найдется такая точка х£Г, что Фх = 0.
Конечно, теорема Брауэра сохраняет силу, если Т гомео-
морфно ограниченному выпуклому телу (например, если Г—
ограниченная звездная область).
3. Симметричные нумерации на сфере. Допустимую
нумерацию симплекса типа пг , b^, ait, b\t, ... (в которой
четные и нечетные числа чередуются и первым стоит нечет-
нечетное число) будем называть нумерацией первого рода; допу-
допустимую нумерацию типа bjit йу2, bj, %,, ... будем называть
нумерацией второго рода. Остальные допустимые нумера-
нумерации симплексов будем называть нумерациями третьего рода.

§ 2) ВРАЩЕНИЕ КОНКРЕТНЫХ ВЕКТОРНЫХ ПОЛЕЙ 103
Каждая нумерация первого рода сопряжена некоторой
нумерации второго рода, и наоборот, каждая нумера-
нумерация второго рода сопряжена некоторой нумерации перво-
первого рода.
Допустимая нумерация симплекса порождает допустимые
нумерации всех его граней. При этом ергди нумераций
(п— 1)-мерных граней я-мерного симплекса число нумераций
первого (второго) рода не более двух: оно равно единице
тогда и только тогда, когда исходная нумерация я-мерного
симплекса есть нумерация первого или второго рода.
Утверждение это проверяется простым подсчетом.
Лемма 2.1. При продолжении допустимой нумерации
п-мерного комплекса четность числа п-мерных симплексов
с нумерациями первого (второго) рода не меняется.
Доказательство. Утверждение леммы достаточно
доказать для продолжения нумераций каждого я-мерного
симплекса данного комплекса. Если нумерация симплекса
■ первого рода, то утверждение совпадает с утверждением
леммы Шпернерз. Если нумерация симплекса второго или
третьего рода, то при продолжении этой нумерации вооб-
вообще не могут появиться симплексы с нумерациями первого
рода.
Лемма доказана.
; Пусть К' — симметричная триангуляция гс-мерной сфе-
Л ры Sn, т. е. такая триангуляция, что вместе со всяким ее
симплексом И в нее входит симплекс £*, расположенный
симметрично симплексу Е относительно центра сферы Sn.
Допустимую нумерацию симметричной триангуляции сфгры
назовем симметричной относительно центра сферы нуме-
нумерацией, если она порождает сопряженные нумерации у сим-
симметричных относительно центра сферы симплексов.
Теорема 2.1 рОа]. При всякой симметричной отно-
, сительно центра сферы нумерации симметричной триан-
триангуляции сферы Sn нечетное число п-мерных симплексов
имеют нумерации первого рода.
Доказательство. Утверждение теоремы будем до-
доказывать по индукции. Для нульмерной сферы, т. е. пары
точек, оно очевидно, так как в силу симметрии только одна
из точек имеет нечетный номер. Будем предполагать, что
утверждение теоремы справедливо для симметричных нуме-
нумераций триангуляции (п — 1)-мерной сферы,

104 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ {ГЛ. II
Пусть К—симметричная триангуляция сферы Sn и
N—симметричная нумерация триангуляции К- Рассмотрим
некоторый («— 1)-мерный экватор Sn~x сферы Sn.
Без ограничения общности можно считать, что экватор Sn~x
полностью состоит из («— 1)-мерных симплексов комплекса К,
так как, если мы докажем теорему в этом предположении,
она будет справедлива и без него. Действительно, если S71"
не состоит из симплексов комплекса К, то, построив сим-
симметричное симплициальное разбиение К\ триангуляции К так,
чтобы Sn-1 состоял из симплексов комплекса Kv и продолжив
симметрично нумерацию N на ATj, мы получим нумерацию,
в которой четность числа нумераций первого рода «-мерных
симплексов будет совпадать в силу леммы 2.1 с четностью
числа нумераций первого рода симплексов комплекса К-
Рассмотрим одну из замкнутых полусфер, на которые
разбивает сферу Sn экватор S"", и подсчитаем число
лежащих на ней («— 1)-мерных симплексов комплекса К
с нумерациями первого рода, считая каждый симплекс столько
раз, гранью скольких «-мерных симплексов, лежащих в рас-
рассматриваемой полусфере, он является. Каждый (п— 1)-мерный
симплекс, лежащий в полусфере, является либо гранью двух
n-мерных симплексов, лежащих в полусфере, либо гранью
одного; в этом случае он лежит на экваторе S", В силу
предположения индукции число (« — 1)-мерных симплексов
на Sn~l с нумерациями первого рода нечетно, следовательно,
нечетно и общее подсчитываемое нами число («—1)-мерных
граней «-мерных симплексов комплекса К, лежащих в полу-
полусфере.
Так как «-мерные симплексы только с нумерациями первого
и второго рода имеют нечетное число (одну) («— 1)-мерных
граней с нумерациями первого рода, то четность числа «-мер-
ных симплексов с нумерациями первого и второго рода совпа-
совпадает с четностью числа («— 1)-мерных граней с нумерациями
первого рода. Следовательно, в рассматриваемой полусфере
лежит нечетное число n-мерных симплексов комплекса К с
нумерациями первого и второго рода.
Но число re-мерных симплексов с нумерациями первого
и второго рода на полусфере совпадает с общим числом
«-мерных симплексов с нумерациями только первого рода
на всей сфере Sn, так как симплексам с нумерациями второго
рода, лежащим в одной полусфере, соответствуют во второй

§ 2] ВРАЩЕНИЕ КОНКРЕТНЫХ ВЕКТОРНЫХ ПОЛЕЙ 105
полусфере симметричные симплексы с нумерациями первого
рода, и наоборот.
Итак, общее число n-мерных симплексов в комплексе К
с нумерациями первого рода нечетно.
Теорема доказана.
Из теоремы 2.1, в частности, следует существование
в каждой симметричной триангуляции с симметричной нуме-
нумерацией симплекса с нумерацией первого рода. Отсюда
вытекает, что симметричная нумерация симметричной триан-
триангуляции n-мерной сферы не может быть осуществлена менее
чем Bя-|-2) различными числами.
Пусть нумерация осуществлена только числами av bv ...
...,an+v bn+v Тогда из теоремы 2.1 и определения сте-
степени нумерации следует
Теорема 2.2. Степень симметричной относительно
центра нумерации симметричной триангуляции сферы
нечетна.
Теорема 2.2, как мы увидим ниже, позволяет вычислить
степень некоторых векторных полей.
Рассуждениями, аналогичными приведенным выше, можно
доказать «нумерационное» утверждение, в некотором смысле
являющееся обобщением теоремы 2.2.
Теорема 2.3 [29и]. Пусть К—симметричное отно-
относительно r-мерного подпространства R, проходящего
через центр, симплициальное разбиение п-мерной сферы Sn.
Пусть в нумерации N комплекса К вершине, симметрич-
симметричной относительно R вершине с номером ан или bk
(k — 1. ..., г), приписан тот же номер, а вершине, симме-
симметричной вершине с номером aj или bj (y = r-f-1, .. -, я + 1),
приписан сопряженный номер.
Тогда нумерация Nr, индуцированная нумерацией N
на симплициальном разбиении сферы Sn П R, будет осуще-
осуществлена числами 1, 2, ..., 2г. При этом степени нуме-
нумераций N-r и N будут иметь одинаковую четность.
4. Теорема Л. А. Люстерника — Л. Г. Шнирелыиана —
К. Борсука [43], [9]. Теорема, которую мы доказываем в этом
пункте, сформулирована К. Борсуком и доказана им при
помощи теории ретрактов. Утверждение этой теоремы
эквивалентно основной лемме Л. А. Люстерника — Л. Г. Шни-
рельмана доказательства теоремы о категории проективного
пространства, В пункте 5 мы докажем эту эквивалентность.

106 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
Будем обозначать через х* точку, симметричную точке х
относительно центра сферы Sn.
Теорема 2.4. Пусть на сфере Sn задано непрерывное
векторное поле Ф без нулевых векторов, обладающее тем
свойством, что в симметричных относительно центра
точках векторы поля направлены неодинаково:
||Фл:*|| ■*■
Тогда вращение поля Ф нечетно.
Доказательство. Во-первых, заметим, что векторное
поле Ф, рассматриваемое в доказываемой теореме, гомотопно
векторному полю W без нулевых векторов, обладающему
свойством
где векторы Wx определяются равенством
Wx — Фх — Фх* (х £ 5я).
Гомотопность полей Фи? следует из того, что вектор-
функция
не принимает нулевых значений и
Х(х, 0) = Фх, X(x, 1) = 1х
В силу гомотопности полей Ф и W их вращения оди-
одинаковы. Так как поле W нечетно, то оно порождает, в част-
частности, и симметричные относительно центра сферы нумерации
симметричных триангуляции сферы. Степени этих нумераций
в силу теоремы 2.2 будут нечетны. Значит, вращение поля W,
а следовательно, и поля Ф нечетно.
Теорема доказана.
Теорема 2.3 позволяет [29и] аналогично исследовать вра-
вращение непрерывных векторных полей, симметричных относи-
относительно подпространств. Если считать, что «вращение»
нульмерного векторного поля нечетно, то приводимую ниже
теорему можно считать обобщением теоремы 2.4.
Обозначим через Р оператор проектирования на г-мерное
подпространство R, проходящее через центр сферы Sn.

2] ВРАЩЕНИЕ КОНКРЕТНЫХ ВЕКТОРНЫХ ПОЛЕЙ 107
Вектор у симметричен вектору у относительно R, если
— у.
Теорема 2.5. Пусть на сфере Sn задано такое не-
непрерывное векторное поле Ф без нулевых векторов, что
и поле РФ не имеет на сфере Sn(]R нулевых векторов.
Пусть в каждой точке х £ 5", симметричной точке х £ Sn
относительно подпространства R, вектор Фх поля Ф не
направлен противоположно вектору, симметричному век-
вектору Фх относительно подпространства R:
||Ф*|| Г || Фд: — ||
Тогда вращение f поля Ф имеет ту же четность, что
а вращение поля РФ на S" П R-
Теорема 2.4 К. Борсука обобщена А. И. Фетом [6/] на
случай векторных полей на сфере, симметричных относи-
относительно некоторой инволюции без неподвижных точек. Даль-
Дальнейшее обобщение результатов А. И. Фета содержится
в статье [29у], в которой вычислено вращение некоторых
периодических векторных полей.
5. Замкнутые покрытия сферы. Изучение конечных
покрытий полиэдров тесно связано с изучением вращений
непрерывных векторных полей, определенных на этом поли-
полиэдре. Выясним эту связь на примере теоремы 2.4, которую
мы сформулируем в несколько измененной форме, и теоремы
о покрытиях, являющейся основной леммой Л. А. Люстер-
ника—Л. Г. Шнирельмана доказательства теоремы о кате-
категории проективного пространства.
Теорема 2.4'. Пусть на (п-\-\)-мерном шаре Tn+l
с границей Sn задано непрерывное векторное поле Ф без
нулевых векторов на Sn, удовлетворяющее условию:
в симметричных относительно центра точках х и х*
сферы Sn векторы поля направлены неодинаково:
Тогда в шаре Тп+1 есть неподвижные точки поля Ф.
Теорема 2.6 (о покрытиях сферы). Пусть
Fv ..., Fp — покрытие п-мерной сферы Sn замкнутыми

108 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. И
множествами, каждое из которых не содержит сим-
симметричных относительно центра точек.
Тогда количество р множеств в покрытии больше
размерности сферы плюс единица: р > п -\- 1.
Допустим, что утверждение теоремы 2.4' неверно.
Пусть Ф— непрерывное векторное поле, удовлетворяющее
условиям теоремы 2.4' и не имеющее нулевых векторов
в шаре Тп+1, радиус которого будем считать равным единице.
Продолжим поле Ф на шар Г"+ радиуса 2, положив
для х£Тп+1
где через ||х|| обозначено расстояние от точки х до центра
шара. Легко видеть, что поле Ф непрерывно и не имеет
на Т"+1 нулевых векторов. На S™ (границе шара Г"+1)полеФ
нечетно:
Будем считать, что поле Ф определяет на Гоп+1 непре-
непрерывные функции tpt, ..., <?n+t без общего нуля.
Рассмотрим («+ 1)-мерную сферу Sn+1, экватором
которой является сфера S?, разбивающая Sn+ на две полу-
полусферы S"+1 и S™+1. Пусть Р — оператор, непрерывно ото-
отображающий Si+1 на Г?4 и оставляющий неподвижными все
точки S". Определим на Sn+1 непрерывные функции tyx, . ..
* • • > '^п+\ равенствами
Пусть а — некоторое положительное число. Обозначим
через Ft (i = 1, ..., re -f-1) множество тех у ^ Sn+1, в которых
a> и через Fn+2 замыкание множества
п+1
U
Функции 6г не имеют общего нуля и нечетны, следова-
следовательно, при достаточно малом « покрытие сферы Sn+1 mho-

§ 2) ВРАЩЕНИЕ КОНКРЕТНЫХ ВЕКТОРНЫХ ПОЛЕЙ 109
жествами Fv ..., Fn+2 удовлетворяет условиям теоремы 2.6.
Число множеств в этом покрытии равно размерности сферы
плюс единица, что противоречит теореме 2.6.
Таким образом, из справедливости теоремы 2.6 следует
справедливость теоремы 2.4'.
Заметим, что в этом доказательстве теоремы 2.4' для
векторных полей на шаре с границей 5П мы использовали
утверждение теоремы 2.6 для покрытий сферы Sn+1.
Допустим теперь, что неверно утверждение теоремы 2.6.
Пусть Fv ..., Fn+t — покрытие сферы Sn замкнутыми мно-
множествами, удовлетворяющими условиям этой теоремы. По-
Построим на Tn+l функции <?i(x), положив
-I X^F{ (*=1, ..-,»)
и продолжив их непрерывно по Урысону на весь шар, и
функцию ®rt+1 (x), положив ее равной единице. Считая, что
функции cpt, ..., »n+t определяют компоненты вектора,
получим на Тп+1 непрерывное векторное поле Ф, удовле-
удовлетворяющее условиям теоремы 2.4', но не имеющее нулевых
векторов.
Таким образом, из справедливости теоремы 2.4' вытекает
справедливость теоремы 2.6.
Так как теорема 2.4' доказана, то доказана и тео-
теорема 2.6.
В главе VI теорема 2.6 будет использована в другой
формулировке.
Теорема 2.7. Пусть Ft Fp — покрытие сферы Sn
замкнутыми множествами, каждое Ft из которых пред-
ставимо в виде суммы Fi-\-Fi двух непересекающихся зам-
замкнутых множеств, симметричных друг другу относительно
центра сферы. Тогда р^п-\-\.
Доказательство. Непосредственное доказательство
просто получается [ЬОа] из нумерационной теоремы 2.1.
Пусть
а= max p(Fi, F'l).
Построим симметричное относительно центра симплициальное
разбиение К сферы Sn с симплексами, диаметры которых
меньше а. Вершине z комплекса К припишем номер ait

ПО ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. Н
если z£Fi, и номер bi, если z^Fi,Tn.e I — такой наименьший
номер множества покрытия, что z^Fp Полученная нумерация
будет, очевидно, симметричной и допустимой. В силу тео-
теоремы 2.1 эта нумерация будет невырождена, т. е. она
будет осуществлена не меньше чем Bп-\-2) числами.
Теорема доказана.
Незначительное изменение доказательства приводит к более
сильному утверждению: в условиях теоремы 2.7 кратность
покрытия не меньше ге-f-l, т. е. каждая точка Sn при-
принадлежит не менее чем (ге-)-1)-му множеству Fit
Отметим, что для изучения специальных покрытий сферы
могут быть применены и теоремы из [67] и I*'?'1].
§ 3. Вполне непрерывные векторные поля
1. Конечномерная лемма. Пусть через L обозначена
граница некоторой ограниченной области Т (п-|-2)-мерного
пространства En+i, в котором задана система координат
{$,_, £2 *п+ъ)- Мы предполагаем, что эта граница
является полиэдром, т. е. допускает триангуляцию. ■
Пусть на L задано непрерывное векторное поле Ф без
нулевых векторов, удовлетворяющее условию: (ге-)-2)-я
компонента вектора Фх в системе {!-t, £2, ..., »п+2} равна
этой же компоненте самого вектора х.
Через Еп+1 обозначим подпространство Sn+2 = 0. Оче-
Очевидно, векторы поля Ф на границе Lt (n -j- 1)-мерной
области ТЛЕП+1 (мы предполагаем, что это пересечение
не пусто) лежат в подпространстве £n+1. Таким образом,
можно говорить как о вращении поля Ф на (я-f- 1)-мерном
полиэдре /,, так и о вращении поля Ф на гс-мерном поли-
полиэдре Lv
Лемма 3.1 I39]. Вращения поля Ф на 1, и Lt оди-
одинаковы.
Доказательство. Для доказательства построим нуме-
нумерации N и Nlt порожденные полем Ф на симплициальных
разбиениях полиэдров L и Lv и покажем, что степени этих
нумераций одинаковы.
Пусть К—такое симплициальное достаточно мелкое раз-
разбиение полиэдра L, что 1.г состоит из /г-мерных симплексов
комплекса К- Пусть N—нумерация, порожденная на К по-
полем Ф. Степень этой нумерации определим по симплексам

§ 3] ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ 1 11
с нумерацией at яп+2- Все такие симплексы лежат в полу-
полупространстве £п+2>-0. Как обычно, через s(av ..., ап+2)
будем обозначать число симплексов с нумерацией at, .. ., Gn+2
и положительным весом, а через t(a±, ..., ап+<,) — с отри-
отрицательным весом. Через q обозначим число (я+1)-мерных
симплексов комплекса К с нумерациями вида at, . .., аг,
аг, .... ап+1 (состоящим из чисел аг оп+1, из которых
одно повторяется), лежащих в полупространстве $п+.2;>0.
Подсчитаем число «-мерных граней с положительным
весом и нумерацией а1г .. ., ап+х (п-\- 1)-мерных симплексов
комплекса К, лежащих п полупространстве ;п+2>-0. Это
число будет равно s(av .... an+i)-\-q- Аналогично, число
граней с той же нумерацией и отрицательным весом будет
равно t(alt ..., ап+з) + ?.
С другой стороны, число п-мерных граней с рас-
рассматриваемой нумерацией и положительным весом равно
S1(at, .. ., ап+1)-\-р, где s±(av . .., ап+1) — число и-мерных
симплексов с нумерацией av ..., ап+1 и положительным
весом, лежащих на Llt a p—-число «-мерных симплексов
с той же нумерацией, являющихся гранью двух («+ 0-мер-
0-мерных симплексов, лежащих в полупространстве £п+2^-0- Таким
образом,
s(flt an+2)-\-q = sl(av ..., an+l)-\-p.
Аналогично,
t(av, ..., an
Из последних двух равенств следует:
s(av ..., aM^—t(av .... an+2) =
^s^a^ ..., an+l) — tx{av ..., an+1),
что означает равенство степеней нумераций, порожденных
полем Ф на симплициальных разбиениях полиэдров L и Lv
Лемма доказана.
2. Вращение вполне непрерывного векторного поля.
Пусть L — граница ограниченной области Г банахова про-
пространства Е. В пунктах 2—5 будем предполагать, что гра-
граница пересечения Т с любым конечномерным подпростран-
подпространством является полиэдром.
Пусть на I задано векторное поле Ф: в каждой точке х £ I
задан вектор Фл: этого же банахова пространства. Пусть

1 12 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
оператор Ф имеет вид Ф = I — F, где F — вполне непре-
непрерывный оператор, а I — оператор тождественного преобра-
преобразования. Поле Ф в этом случае будем называть вполне
непрерывным.
Пусть вполне непрерывное векторное поле Ф не имеет
на I нулевых векторов (неподвижных точек). В этом случае
найдется такое положительное число а, что
||Ф*||>а (x£L). C.1)
Действительно, пусть существует такая последователь-
последовательность xt£L (t = 1, 2, ...), что
Так как оператор F вполне непрерывен, то без ограниче-
ограничения общности можно считать, что элементы Fxi(i =1,2,...)
образуют сходящуюся к некоторому элементу у£Е последо-
последовательность (в противном случае мы перешли бы к подпосле-
подпоследовательности). Но тогда и последовательность л^(/ = 1, 2, ...)
сходится к у:
lim ||*j — _у|< lim \\х{— F*J+ lim IF*;—_vJI = 0_
i-»oo i-»co {->co
Следовательно, y£L. При этом Fy = jy. Значит, поле Ф
имеет на L нулевые векторы.
Следуя Лере и Шаудеру, выберем в Е конечномерное
подпространство Еп+1, аппроксимирующее с точностью до -^
компактное множество FI значений оператора F на L (мно-
(множество концов векторов поля Ф на L). В качестве Еп+1'
можно выбрать, например, линейную оболочку какой-либо
конечной -g-сети компактного множества FL. Пусть Рп+1 —
такой непрерывный оператор, определенный на FZ. с множе-
множеством значений в £n+1, что
l|P«+iF*-F*||<| (x£L). C.2)
Построение оператора Pn+t можно осуществить, следуя
Лере и Шаудеру, например, следующим образом. Пусть
-5--сеть множества FZ. состоит из элементов Vj £ Еп+
о

§ 3]
ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ
113
., ft). Оператор Рп+1 определим формулой
(z£FL), C.3)
!М*)
к
2
где
у —1И~Л|.. если || z-
0, если i|z-
(/ = 1, ..., ft).
Непрерывность оператора Pn+t очевидна. Выполнение
условия C.2) следует из того, что Pn+lz принадлежит вы-
выпуклой оболочке точек, находящихся от z на расстоянии
меньшем чем
Определим на границе Lx области Т(\Еп
ства fi1^ оператор Фп+1, положив:
простран-
C.4)
Непрерывное векторное поле Фп+1 не будет иметь на
нулевых векторов, так как в силу C.1) и C.2)
Фп+1*И = 11* —1
Если мы выберем другой непрерывный оператор Pn+f
удовлетворяющий условию C.2), и построим поле Фга+Г-
то поля Фп+1 и Фп+1 будут гомотопны в Пп+ . Действи-
Действительно, функция

П4 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [гЛ. It
не принимает нулевых значений, так как
> и ф* |—t [ф;+,—ф* и—A - о | фп+1х—ФХ |=
= |Ф*1 —fj|P«+1F* —F*D —A — t)jPn+1Fx — Fx\\> j
Таким образом, вращение f ra+1 всех векторных полей Фп+1
на Lv определенных равенством C.4), где оператор Рп+1
удовлетворяет условию C.2), будет одинаковым.
Рассмотрим теперь подпространство En+2Z3En+1 и по-
построим описанным выше способом на границе 12 области
Т(\Еп+2 аппроксимирующее Ф полеФп+2. Вращение поляФп+2
обозначим через тп+2.
Выше было показано, что для вычисления вращения fn.,2
можно произвольно выбирать оператор Рп+2 (нужно только,
чтобы он удовлетворял условию C.2)). В частности, в каче-
качестве этого оператора можно выбрать Рп+1. Но тогда поле Фк+2
удовлетворяет условиям леммы 3.1. Значит,
Ти+2 — Tfn + 1-
Следовательно, при последовательном увеличении числа
измерений аппроксимирующего FI подпространства Еп чи-
число 7п не меняется.
Пусть Еп и Е— различные, не содержащиеся одно в дру-
другом подпространства, аппроксимирующие FI, а ^п и -\т —
определенные при помощи этих подпространств вращения
полей Ф„ и Фт. Из того, что линейная оболочка подпро-
подпространств Еп и Ет также аппроксимирует FL, следует, что
Tn ~ Тяг
Таким образом, число fn не зависит от выбора аппрок-
аппроксимирующего FL подпространства и не зависит от выбора
оператора Р„. Это число однозначно определяется самим
полем Ф. Будем его называть вращением вполне непрерыв-
непрерывного векторного поля Ф и обозначать через ^Ф-
3. Гомотопные поля. Вполне непрерывные векторные
поля Ф и W без нулевых векторов на I называют гомотоп-
гомотопными, если существует такой вполне непрерывный оператор
X (*> 0 (x£L, 0<;^<Л), заданный на топологическом про-

§ 3) ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ П5
изведении L X [0, 1], с множеством значений в Е, что
х — X (х, 0 не обращается ни в одной точке в нуль и
х — Х(х,0) = Фх, х—Х(х, l) = Wx (x£L).
Легко видеть, что вращения гомотопных вполне непре-
непрерывных векторных полей одинаковы.
Непрерывный по обеим переменным оператор X(x,t)
(x£L, 0<[£<С1) будет, в частности, вполне непрерывным,
если он при каждом фиксированном значении переменной t
компактен и если он непрерывен по t (O^if^ 1) равномерно
относительно х (j L.
Пусть вполне непрерывное векторное поле Ф = 1— F,
не имеющее на I нулевых векторов, имеет на I вращение у.
Тогда, как уже было показано, найдется такое а > О, что
ЦФх,|>а (*££).
Векторное поле Фх=:1 —F — Ft, где Ft — некоторый
вполне непрерывный оператор, можно считать полученным при
помощи возмущения поля Ф оператором Ft.
Если выполнено условие
||Ft*||<a (x£L),
то вращение поля Ф равно вращению поля Фг
Для доказательства построим вполне непрерывный опе-
оператор
Х(х, t) = tFlx-\-Fx (x£L; 0<*< 1).
Так как
||Х(дс, О —
Х(х, 0) = F(*), X(x, l) = Ft
то поля Ф и Фг гомотопны, откуда и следует доказываемое
утверждение.
4. Алгебраическое число неподвижных точек вполне
непрерывного векторного поля. Пусть вполне непрерывное
векторное поле Ф задано на замкнутой ограниченной области О
банахова пространства Е. Границу множества О обозначим
через L.

116 Ьрлщение виктоРпоГо поля [гл. и
Точки х £ О, в которых векторы поля равны нулю, назы-
называют неподвижными точками поля Ф.
Пусть х — изолированная неподвижная точка поля Ф, не
лежащая на L, т. е. такая точка, в некоторой окрестности
которой нет других неподвижных точек поля ф. Будем опи-
описывать покруг точки х сферы 6s достаточно малых радиу-
радиусов s (так, чтобы ограничиваемые ими шары 7s полностью
лежали внутри О и чтобы в каждом из этих шаров не было
других неподвижных точек поля Ф, кроме х).
Вращение полей Фе, индуцированных полем Ф на сфе-
сферах 5е, будет, очевидно, одинаково при различных е. Это
вращение -\х называется индексом неподвижной точки х век-
векторного поля Ф.
Пусть поле Ф имеет в О только изолированные непо-
неподвижные точки. Так как неподвижные точки вполне непрерыв-
непрерывного поля Ф образуют компактное множество, то из изоли-
изолированности каждой неподвижной точки следует, что поле Ф
имеет конечное число неподвижных точек.
Пусть все неподвижные точки xl xs поля Ф ле-
лежат внутри О. Тогда сумма индексов ^Xl-f-. . . -f- ~[x
равна вращению ?ф поля Ф на L.
Для доказательства этого утверждения нужно провести
через точки xv .... xs конечномерное подпространство Еп,
достаточно хорошо аппроксимирующее множество значений
оператора F = I —Ф на О\ U Тг, где через Ti обозначены
шары, ограниченные сферами S^ Затем нужно построить
на Еп(] [О\ U Ti) векторное поле Фп по формуле C.4) и
применить теорему об алгебраическом числе неподвижных
точек конечномерного векторного поля (см. § 1-, пункт 6).
Вращение -*ф поля Ф на L называется алгебраическим
числом неподвижных точек поля Ф в О.
Ясно, что для того, чтобы поле Ф в О не имело непо-
неподвижных точек, необходимо, чтобы тФ было равно нулю.
5. Классификационная теорема. Пусть I — граница
некоторой ограниченной связной области банахова простран-
пространства, (kpb

§ 3] ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ 117
Теорема 3.1. Вполне непрерывные векторные поля Ф
и W без нулевых векторов на L гомотопны, если их вра-
вращения одинаковы.
Теорема эта для конечномерных пространств установлена
Хопфом. Для отображений сферы гильбертова пространства
па себя ее доказал Э. Роте.
Доказательство. Операторы I — Ф и I — W вполне
непрерывны. Поэтому найдется такое а > О, что
||Ф*||>а, ЦЧГ*Ц'>а (*€£). C.5)
Обозначим через Еп «-мерное подпространство, аппрокси-
аппроксимирующее с точностью до -j компактные множества (I — Ф)Ь
и (I —¥I.
Пусть Рп—оператор C.3) шаудеровского проектирования
множеств (I — Ф) L и (I — ЧГ) I на Еп, удовлетворяющий на
этих множествах условию
\\РпУ-У\\<^. C.6)
Векторное поле Ф гомотопно полю Фге —I —Pn(I— Ф)
(соответственно поле W гомотопно полю Wn = I —Pn(I —W)).
Действительно, оператор
F(jc, 0 = A—()(х — Фх) + гРп(х — Фх) (*£1; 0<^<1)
вполне непрерывен при каждом t и непрерывен по t равно-
равномерно относительно x£L, т. е. вполне непрерывен на топо-
топологическом произведении I на сегмент [0, 1]. Кроме этого,
х — F(x, t) в нуль не обращается, так как в силу C.5)
и C.6)
Таким образом, нам достаточно показать гомотопность
полей Фп и Wn.
Значения вполне непрерывных операторов Ft = I — Фп и
F2 = I — Ч^п принадлежат конечномерному пространству Еп.
Пусть в Еп задана некоторая система п линейно незави-
независимых векторов Нг Пц. Тогда каждый элемент у fE,n

118 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
однозначным образом представим в виде
%, C.7)
где \v ..., 1„—-некоторые линейные функционалы на Еп.
Векторные поля Фп и Wn, рассматриваемые на IП Еп,
имеют одинаковое вращение. Поэтому в силу теоремы Хопфа
найдется непрерывная по t @ <^ <^ 1) и по х £ 1|"| Еп нигде
не обращающаяся в нуль вектор-функция х— F(x, t) такая,
что
x — F(x,O) = <bnx,x — F(x,l) = Wnx (х£ЩЕп). C.8)
Пусть L—-топологическое произведение L на сегмент
[О, 1], т. е. совокупность пар {х, t) (x£L, O^.t^.1),
в которую внесена естественная топология. Обозначим через Lt
замкнутое подмножество L, состоящее из всех точек {х, 0}
и {х, 1} (x£L) и из всех точек [х, t), где 0<;^^1,
a x£L[\En.
Определим на Lt непрерывные функции <?t(JC, t), ...
..., vn(x, t) равенством
Ii(FtJC) при ^ = 0, x£L,
li(F2x) при t=l, x£L,
UlF(x,t)] при 0</?<1, x£L()En.
Очевидно, эти функции ограничены. Продолжим эти функ-
функции по Урысону на L с сохранением непрерывности и огра-
ограниченности; соответственные расширенные функции будем
обозначать через <ol(x, t), ..., <?п(х, t).
Определим на I оператор F (x, t) равенством
Оператор F (x, t) вполне непрерывен (более того, он
конечномерен). При этом F (х, 0) = Ft;t; F(^, 1) = F2a;, т.е.
x — F{x, О) = Ф„дс, х — F(x, 1) = ЧГП* (

§ 3] ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ 119
Выражение х — F (x, t) не обращается в нуль при x£L[\En
по условию, а на остальных точках I — в силу того, что
векторы F(x, t) и х линейно независимы при x£L[\En.
Таким образом, мы показали, что поля Ф„ и ЧГП гомо-
гомотопны,
Теорема доказана.
6. Корректность постановки задачи. При исследовании
любой математической задачи постановку этой задачи есте-
естественно считать корректной, если «малые» (в каком-либо
смысле) изменения в условиях задачи приводят к «малому»
изменению решения задачи.
Пусть исследуется нелинейное уравнение
<р = лА<?, C-9)
где А — вполне непрерывный оператор, действующий в неко-
некотором банаховом пространстве. Каждая задача, поставленная
корректно в том смысле, что малое возмущение вполне непре-
непрерывным оператором оператора А приводит к малому изме-
изменению решения этой задачи, в силу теоремы 3.1 должна
формулироваться в терминах вращения вполне непрерывного
векторного поля Ф = I — лА.
Таким образом, основные задачи, относящиеся к изуче-
изучению уравнения C.9) (существование и единственность реше-
решений, точки ветвления решений, существование собственных
функций, структура спектра, вопросы о точках бифурка-
бифуркации, структура множества собственных функций и т. д.),
должны найти естественные формулировки в терминах вра-
вращения векторных полей.
В этих естественных постановках соответствующие задачи
должны получить простое решение.
Такой подход и применяется ниже к исследованию ряда
вопросов нелинейного функционального анализа.
7. Продолжение вполне непрерывного векторного поля.
Оператор В называют конечномерным, если он вполне непре-
непрерывен и множество его значений лежит в конечномерном
подпространстве пространства Е.
Лемма 3.2. Пусть вполне непрерывный оператор А
задан на ограниченном замкнутом множестве F с: Е. То-
Тогда он допускает представление
+... (<?^F), (ЗЛО)

120 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
в котором все операторы А„ (п = 0, 1, 2, . . .) конечно-
конечномерны и
ЦА»?||<:-£ (» = 1, 2, ...). C.11)
где а — фиксированное положительное число, которое мо-
может быть сколь угодно малым.
Доказательство. Так как множество AF компактно,
то, пользуясь формулой C.3), можно каждому г > 0 сопоста-
сопоставить такое конечномерное подпространство £,с£и такой
непрерывный на KF оператор Ре, что конечномерный опера-
оператор
а.<? = р,А<? (с? е п
удовлетворяет условиям
AS<?€EE. II A.? — A<?i]<s (v£F).
Отметим, что множество значений оператора АЕ лежит
в выпуклой оболочке множества значений оператора А.
Пусть з = —. Оператор Ак обозначим через Ао. Э^от
7
оператор будет конечномерен и будет удовлетворять условию
ЦА?-А0?||<! (*£F).
Построим теперь по индукции последовательность Ап
(«=1,2, . . .) операторов, удовлетворяющих условиям леммы.
Допустим, что операторы Aq, Av ..., Arl_1 (n может быть
равно и единице) построены так, что
IIAtflK-J- (9£F;t=\ л—1) C.12)
Так как непрерывные операторы Ао, At An-i огра-
ограничены и конечномерны, то оператор В = А — Ао — At—...
...—Ая_х будет вполне непрерывен. Поэтому можно по-
построить конечномерный оператор Аге, обладающий свойством

§ 3] ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ 121
т. е. такой оператор, что
1 А? - Ао? - А1? - ... - Ая? [[ < 2^2 (? € П-
При этом
Из справедливости C.13) при всех п вытекает C.10).
Неравенства C.12) совпадают с неравенствами C.11).
Лемма доказана.
Лемма 3.3. Пусть Т — замкнутое выпуклое множе-
множество конечномерного банахова пространства Еп. Сущест-
Существует непрерывное преобразование Р всего пространства Еп
в Т, оставляющее неподвижным все точки множества Т.
Доказательство. В случае, когда Т состоит из одной
точки, утверждение леммы очевидно.
Пусть Т содержит по крайней мере две различные точки.
Обозначим через П гиперплоскость (не обязательно прохо-
проходящую через нуль пространства Еп) минимальной размерно-
размерности, содержащую множество Т.
Пусть Рг— непрерывный линейный оператор проектиро-
проектирования пространства Еп на П:
Оператор Рх может быть сконструирован, например, так.
В конечномерное пространство Еп вводится евклидова норма.
Через Pt обозначается оператор ортогонального проектиро-
проектирования на П в смысле новой введенной нормы. Оператор Pt
будет непрерывен и в смысле старой нормы, так как в ко-
конечномерных пространствах все нормы эквивалентны.
Гиперплоскость П была построена так, что в Т есть вну-
внутренние точки (если Т рассматривать только в П). Пусть
х0 — одна из таких внутренних точек. Обозначим через Р2
оператор, действующий в П, который оставляет неподвиж-
неподвижными все точки выпуклого замкнутого множества Т, а каж-
каждую точку <р£Т преобразует в точку пересечения с грани-
границей Т отрезка, соединяющего ср и х0. Очевидна непрерыв-
непрерывность оператора Р2.

122 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. И
Оператор Р = P2Pt непрерывен и оставляет неподвижными
все точки Т. Множество значений оператора P2Pt есть Т.
Лемма доказана.
Лемма 3.4. Пусть А — конечномерный оператор,
определенный на ограниченном замкнутом множестве F
банахова пространства Е. Тогда существует непрерывное
продолжение А оператора А на все Е такое, что мно-
множество значений оператора А лежит в замыкании Т вы-
выпуклой оболочки значений оператора А.
Доказательство. Пусть множество значений опера-
оператора А лежит в «-мерном пространстве Еп. Тогда Т с Еп.
Введем в рассмотрение систему координат {St £„} в про-
пространстве Еп. Тогда оператор А порождает п заданных на F
непрерывных функций ft (х) = \г (Ах) — координат точек Ах
(i=l, ..., п; x£F). Каждую из функций fi(x) в силу из-
известной теоремы П. С. Урысона можно непрерывно продол-
продолжить с сохранением максимума модуля на все пространство П.
Продолженные функции/* (х) (i = 1, . . ., п), рассматриваемые
как координаты элемента А*х, определяют в свою очередь
оператор А*, который будет определен на всем Е, будет
конечномерен и будет на F принимать те же значения, что
и оператор А.
Пусть Р—-непрерывный оператор, существование кото-
которого вытекает из леммы 3.3.
Оператор А = РА* будет определен на всем Е. На F
оператор А принимает те же значения, что и оператор А.
Множество значений оператора А лежит в Т.
Лемма доказана.
Теорема 3.2. Пусть А — вполне непрерывный опе-
оператор, заданный на ограниченном замкнутом множестве F.
Пусть Т — замыкание выпуклой оболочки множества зна-
значений оператора А. Пусть е— заданное положительное
число.
Тогда существует такой вполне непрерывный опера-
оператор А, определенный на всем пространстве Е, который
принимает на F те же значения, которые принимает
оператор А, причем для любой точки х^Е справедливо
неравенство
Г)<в, C.14)

§ 3] ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ 12 3
Доказательство. В силу леммы 3.2 оператор А
можно представить в виде ряда
А? = А0? + А1?+...+Аи?+... (<?€/=■), C.15)
в котором операторы Ап (п ■= 0, 1, 2, . . .) конечномерны и
[|АИ<?!К~¥ (п=1. 2, ...), C.16)
где а—■ положительное число, которое мы подберем ниже.
Из C.15) и C.16) вытекает, что
2,7 C.17)
n-l
Будем обозначать через Тп(п = 0, 1, 2, . . .) выпуклые
оболочки множеств значений на F соответствующих опера-
операторов А„.
Из C.17) следует, что расстояние от каждой точки <?£Т0
до 7 не превышает а. Пусть, действительно,
где все ^ положительны и
Тогда
к
1
откуда и вытекает неравенство
р(ф, Г)<«. C.18)
Из неравенства C.16) следует, что для всех элементов
h£Tn справедливо неравенство
1!АЦ<£. C-19)
Продолжим каждый оператор А„ по лемме 3.4 и обозна-
обозначим соответствующие продолженные операторы через Ап
(» = 0, 1, 2, ...).
Из C.19) следует, что
4 C.20)

124 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
Из C.18) следует, что
Р(Ао?. Г)<« (?€£)• C-21)
Оператор А определим при помощи ряда
> >+...+Аяо+... C.22)
Ряд C.22) в силу C.20) равномерно сходится. Так как
операторы А„ (п = 0, 1, 2, ...) непрерывны и конечномерны,
то оператор А вполне непрерывен. На элементах ®£F
оператор А принимает те же значения, что и оператор А,
так как на этих элементах одинаковы значения операторов А„
и А„.
В силу C.20) и C.21)
Р(А?, 7-ХЦА? —Ао?||+р(Ао?, Г)<
Последнее неравенство, если положить а •< -~-, дает не-
неравенство C.14).
Теорема доказана.
Незначительные изменения рассуждений позволяют отка-
отказаться в теореме 3.2 от предположения о том, что множе-
множество F ограничено. При этом в формулировке теоремы
о существовании продолжения на все пространство опера-
оператора А неравенство C.14) сохранится.
Интересно выяснить, можно ли в условиях теоремы 3.2
вполне непрерывный оператор А построить так, чтобы его
значения принадлежали 7?
Теорема 3.2 позволяет в ряде случаев предполагать без
ограничения общности, что заданные на границах областей
векторные поля определены и на всей области.
8. Возможность продолжения векторного поля без
нулевого вектора. При применениях теории вращения век-
векторных полей к доказательству существования решений
у операторных уравнений основной интерес представляют
теоремы, позволяющие по вращению векторного поля на гра-
границе области сделать заключение о существовании в области
нулевых векторов поля.

§ 3) ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛИ 125
Выше доказано, что поле имеет нулевые векторы, если
вращение его на границе области отлично от нуля*. Есте-
Естественным образом возникает вопрос о том, нельзя ли в классе
векторных полей, заданных на границе области и имеющих
равное нулю вращение, выделить подкласс таких, кото-
которые при всех вполне непрерывных продолжениях на область
имеют нулевые векторы. Отрицательный ответ на этот вопрос
дает доказываемая в этом пункте теорема, условия которой
ниже будут обобщены.
Пусть L—-граница связной ограниченной области Т
банахова пространства Е. Как и в пунктах 2—5, будем
предполагать, что граница пересечения Т с каждым конечно-
конечномерным подпространством является полиэдром.
Теорема 3.3. Пусть на L задано вполне непрерывное
векторное поле Ф = I — А с нулевым вращением. Тогда
существует такое вполне непрерывное векторное поле
Ф = 1— А, определенное на T-\-L, которое не имеет
нулевых векторов и которое на L совпадает с полем Ф.
Доказательство. Обозначим через Ф1 = I — Ах про-
произвольное продолжение вполне непрерывного поля Ф на T-\-L.
Такое продолжение существует в силу теоремы 3.2.
Множество К нулевых векторов поля Ф1 компактно, так
как К—замкнутая часть компактного множества значений
вполне непрерывного оператора Ах.
Обозначим через 7\ связную открытую часть области Г,
содержащую К и такую, что граница ее Ll находится на
положительном расстоянии от границы L области Т:
p(Lt, L)= inf H*_jfH=?>0. C.23)
a> 6 Ii. V € T.
Область 7\ можно построить, например, следующим обра-
образом*. Каждой точке <?£К отнесем открытый шар О9 с цент-
центром в точке о и радиусом, равным — р(», L). Из совокуп-
совокупности шаров Gy выберем конечное покрытие G?1, ..., Geft
компактного множества К. Каждую пару точек <oit <oj соединим
ломаной, лежащей в области Т. Через Ку обозначим объ-
объединение всех ломаных и множества К. Для множества Кх
снова построим конечное покрытие из шаров. Объединение 7\
этих шаров, очевидно, связно и граница его удовлетворяет
условию C.23).

126 игАЩЬНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. it
Вполне непрерывное векторное поле Фг не имеет нулевых
векторов на замкнутом ограниченном множестве Т\Т1.
Тем же способом, которым было доказано C.1), можно пока-
показать, что существует такое а ^> 0, что
II? —Аг?||><* (*е
Построим (например, способом, изложенным в пункте 2 на-
настоящего параграфа) такой непрерывный оператор Р проекти-
проектирования множества At (Т\ 7\) на некоторое конечномерное
подпространство Е, который удовлетворяет условию
Определим теперь на Т\Т1 оператор А2:
. р (х, Lx) Ajje-|- р {х, L)PAtx ( с.~т ТЛ
Оператор А2 непрерывен, так как р(х, Lt)-\-t){x, L)-/-0,
и компактен, так как множество его значений лежит в вы-
выпуклой оболочке компактных множеств А1 (Т\ 7\), РАХ ('/'х'^).
Поле I — А2 не имеет нулевых векторов на 7\ Tv так как
||v Д v II — ~ А "- I ?(.Х, L)
Поэтому вращение поля I — А2 на Ll равно вращению поля
I—-А2 на L. Но на L поле I—А.2 совпадает с полем Ф и
имеет нулевое вращение. Значит, вращение поля I — А2 на Ly
равно нулю.
Мы построим продолжение поля I — А2 на 7\ без нулевых
векторов. Этим доказательство теоремы будет завершено.
Проводимое ниже построение совпадает с заключительной
частью доказательства теоремы 3.1.
Пусть в Еп задана система линейно независимых векторов
hv . . ., hn. Тогда каждый элемент у£Еп однозначным обра-
образом представим в виде
п
у — 2 k (у) К'
г=1
где lj, ..., 1ге — непрерывные линейные функционалы на Еп.

3) ВПОЛНЕ НЕПРЕРЫВНЫЕ ВЕКТОРНЫЕ ПОЛЯ 12?
На Ll поле I — А2 совпадает с конечномерным полем
I—PAt. Поэтому вращение поля I — PAt на границе Lt
пересечения 7\ Г) Еп будет равно вращению поля I — PAt
на Lt и, следовательно, будет равно нулю. Значит, суще-
существует непрерывное продолжение I—А3 поля I—РАХ на
Tt[\En без нулевых векторов. Оператор А3 будем считать
определенным и на всей границе Lt, на которой он прини-
принимает те 1ке значения, что и оператор PAj.
Обозначим через /и4(_у) непрерывные функции, опреде-
определенные на 7\ и являющиеся продолжением функций \г (А3 х)
(I = 1, . . ., п). Пусть
Оператор А4 непрерывен и конечномерен. Поле I—А4
не имеет нулевых векторов, так как на Тх{]Еп оно совпа-
совпадает с полем 1—A-j, а при х£Еп справедливо неравенство
хфКкх.
Теорема доказана.
9. Вращение поля на границе ограниченной области.
Пусть теперь L — граница произвольной ограниченной связ-
связной области Т. Пусть на L задано вполне непрерывное
векторное поле Ф = I — А без нулевых векторов.
Рассмотрим некоторое вполне непрерывное продолжение
Ф1 = I—At (существующее в силу теоремы 3.2) поля Ф
на Т. Обозначим через Lx границу связной области 7\,
состоящей из конечного числа шаров, лежащих внутри Т и
содержащих все нулевые векторы поля <&t. Конструкция
такой области 7\ была указана при доказательстве тео-
теоремы 3.3. Для полей на Lt вращение поля определено в
пункте 2.
Вращение f поля Ф1 на Lt назовем вращением поля Ф
на L.
Приведенное определение будет оправдано, если мы
покажем, что оно не зависит ни от выбора продолжения, ни
от выбора области Тх, и если будет показано, что оно сов-
совпадает с определением пункта 2 в случае, когда область Т
такова, что на ее границе вращение уже определено.
Для доказательства каждого из этих предложений можно
переходить к аналогичным утверждениям для конечномерных

128 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
случаев, рассматривая поля [ — РА^, где Р — оператор
проектирования на некоторое конечномерное подпространство.
Технические трудности при этом не возникают и рассу-
рассуждения в основном совпадают с такими, которые проводились
систематически в предыдущих пунктах параграфа.
Непосредственно из определения вытекает, что враще-
вращение "(ф поля Ф = 1 — А па границе /- ограниченной связной
области Т обладает всеми свойствами вращения, доказанными
выше для областей с границами частного вида. Напомним
эти свойства.
Если вполне непрерывное поле Ф имеет в области Т
конечное число нулевых векторов, то сумма их индексов
равна вращению поля на L.
Если вращение поля Ф на L равно нулю, то суще-
существует вполне непрерывное продолжение векторного поля
без нулевых векторов.
Гомотопные на L вполне непрерывные векторные поля
имеют одинаковое вращение.
В частности, из последнего предложения следует, что
поля 1 — А и 1—В имеют на L одинаковое вращение, если
||В? —А?[|<||? —А?Ц (<?€*•)■
§ 4. Принцип Лере — Шаудера
1. Общий принцип существования неподвижной точки.
В предыдущем параграфе мы показали, что каждый признак
отличия от нуля вращения векторного поля на границе нгко-
торой области является одновременно достаточным признаком
существования неподвижных точек у поля внутри области.
Этот общий признак (в несколько иной форме) суще-
существования неподвижных точек (нулевых векторов) у поля был
предложен Лере и Шаудером.
Подчеркнем, что получаемые при помощи этого признака
теоремы существования нулевых векторов у полей Ф = I — F
или, что то же, теоремы существования решений у уравне-
уравнений вида
x = Fx, D.1)
где F — вполне непрерывный оператор, есть теоремы, отно-
относящиеся к корректно поставленным задачам. Действительно,
если вращение поля I — F на границе некоторой области

§ 4] ПРИНЦИП ЛЁРЕ—ШАУДЕРА 129
отлично от нуля, то будет отлично от нуля и вращение
поля I — (F-(-Ft), где Ft — малый вполне непрерывный опе-
оператор, а это означает, что слабо возмущенное уравнение
х = Fx + Ftx
также имеет решение. Под малостью оператора здесь пони-
понимается малость норм его значений.
В следующей главе мы покажем, более того, что для
уравнения D.1) остается справедливой теорема существова-
существования, если правую часть возмутить малым, достаточно глад-
гладким, но не обязательно вполне непрерывным оператором.
Э. Роте отметил, что при помощи принципа Лере—Шау-
дера можно доказывать не только теоремы существования,
но и теоремы единственности.
Пусть, действительно, вращение поля Ф на границе L
области G равно 1 или —1. Пусть, кроме этого, известно,
что индекс каждой возможной неподвижной точки поля ф
в области О имеет один и тот же знак. Тогда, очевидно,
поле Ф имеет в области G только одну неподвижную точку.
В силу изложенных соображений приобретают важность
различные теоремы, позволяющие вычислять вращения кон-
конкретных векторных полей.
Таким теоремам и посвящен настоящий параграф.
2. Принцип Шаудера. Пусть А — вполне непрерывный
оператор, определенный на замкнутом шаре Т банахова
пространства Е и преобразующий границу S шара Т в Т:
ASczT.
Рассмотрим на S вполне непрерывное векторное поле
Ф = 1 — А. Допустим, что оно на S не имеет нулевых век-
векторов. Тогда это поле очевидным образом гомотопно вполне
непрерывному векторному полю I, вращение которого равно 1.
Следовательно, и вращение поля Ф на S равно 1. Значит,
поле Ф имеет в шаре Т по крайней мере одну неподвиж-
неподвижную точку.
Последнее утверждение и составляет известный принцип
Шаудера.
Принципом Шаудера называют также следующее утвер-
утверждение (см., например, [49г]): если непрерывный оператор к
преобразует выпуклое множество Т банахова пространства

130 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
в компактную часть множества 7\ то найдется такая
точка х£Т, что Ах = х,
Тонкое обобщение принципа Шаудера на некоторые
классы непрерывных отображений выпуклых множеств в линей-
линейных топологических пространствах принадлежит А. Н. Тихо-
Тихонову I65].
3. Нечетные поля на сфере. Существенно более общий
принцип неподвижной точки дает обобщение теоремы 2.4
Л. А. Люстерника — Л. Г. Шнирельмана — К. Борсука на
вполне непрерывные векторные поля.
Теорема 4.1. Пусть на сфере S банахова простран-
пространства Е задано вполне непрерывное векторное поле Ф =
= 1— F без нулевых векторов, обладающее тем свойством,
что в симметричных относительно центра сферы точках х
и —х векторы поля Ф направлены неодинаково:
Тогда вращение на S поля Ф нечетно.
Доказательство. Рассмотрим векторные поля
При каждом t поле Фг вполне непрерывно, так как
а оператор -. , ,Fx—■, ,■,F(— х) вполне непрерывен, как
разность двух вполне непрерывных операторов. Каждое поле
Ф( не имеет нулевых векторов, ибо из Ф{оХо = О следует:
что противоречит условию теоремы. Оператор-функция
равномерно непрерывна по t, так как
ИФ*^ —Ф*,*||<2|^ —fa| sup \\Фу\\ (
2/es
Через W обозначим поле Фг:
^Фх~~Ф(г-х). D.2)

§ 4j ПРИНЦИП ЛЕРЕ—ШАУДЕРА 131
■Так как Фо = Ф, то нами показано, что поле Ф гомо-
гомотопно полю ЧР". Следовательно, вращения полей Фи? оди-
одинаковы и нам достаточно доказать, что нечетно вращение
поля W.
Как это следует из D.2), поле W нечетно: оно обладает
свойством
W(— *) = — Wx (x£S).
Для определения вращения поля W аппроксимируем
множество (I — W) S подпространством Еп, причем для по-
построения шаудеровского оператора проектирования Ри (см.
§ 3 настоящей главы, формулу C.3)) выберем систему точек
Ун •■•' Уи> —Л< •••> —У к' т- е- такую систему точек,
в которой вместе с каждой точкой есть и симметричная ей.
При этом оператор Ри будет, очевидно, нечетным на
(I — V) S:
В силу этого поле Wn = I — РиA — W) будет нечетным.
По определению, вращение вполне непрерывного поля W
равно вращению поля Wn, рассматриваемого на конечномер-
конечномерной сфере SH£n. По теореме 2.4 Л. А. Люстерника —
Л. Г. Шнирельмана — К. Борсука это последнее вращение
нечетно.
Теорема доказана.
Из общего принципа Лере — Шаудера и теоремы 4.1
непосредственно вытекает
Теорема 4.2. Пусть на шаре TczE задано вполне
непрерывное векторное поле Ф = 1 — F без нулевых век-
векторов на границе шара Т—на сфере S. Пусть поле Ф
на S удовлетворяет условию теоремы 4.1. Тогда поле Ф
имеет в шаре Т неподвижные точки, алгебраическое
число которых нечетно.
Иначе говоря, в условиях теоремы 4.2 уравнение
имеет в шаре Т по крайней мере одно решение.
4. Векторные поля, близкие к линейным. Векторное
поле 1 — F будем называть линейным, если оператор F
линеен.

\Ъй вращение векторного поля [гл. it
В главе III мы часто будем пользоваться следствием
теоремы 4.2.
Теорема 4.3 (о нулевом векторе поля, близкого к ли-
линейному). Пусть А — вполне непрерывный оператор, дей-
действующий в банаховом пространстве Е. Пусть можно
указать такой вполне непрерывный линейный оператор В,
что на сфере S (||х|| =р) при некотором фиксирован-
фиксированном к
||Ах —ABjc||<||jc —АВх|| (*€$)• D-3)
Тогда уравнение
х = Ах
имеет в шаре Г(||л;|К!р) no крайней мере одно решение.
Доказательство. Покажем, что вполне непрерывное
векторное поле Ф, определяемое равенством
лг — Ах
удовлетворяет условиям теоремы 4.2.
Действительно, если в некоторой паре точек х0, xl =
= — х0 (х0 £ S) векторы поля Ф направлены одинаково, то
найдется такое а > 0, что Фх0 = оФх*, т. е.
A -f- «) х0 — Ах0 —
откуда
A + о) (х0 — ХВх0) = Ах0 — ХВх0 — о (Ах* —
Полученное равенство противоречиво, так как в силу D.3)
|| Ах0 — КВх0 — о {Ах* — IBl
Теорема доказана.
Отметим, что из D.3) вытекает, что т- не есть собствен-
ное число линейного оператора В.
Теорема 4.3 фактически содержится в работе Лере и
Шаудера.
Легко видеть, что поле Ф при выполнении условия D.3)
гомотопно линейному полю I — /.В. В пункте 7 настоящего
параграфа будет показано, что вращение линейного поля

§ 4] ПРИНЦИП ЛЕРЕ—ШАУДЕРА 133
по абсолютной величине равно единице. Поэтому в условиях
теоремы 4.3 вращение поля Ф на 5 также равно 1 или —1.
Можно указать примеры векторных полей, удовлетворяю-
удовлетворяющих условиям теоремы 4.2, вращение которых на S равно
любому заданному нечетному числу.
б. Векторные поля, симметричные относительно под-
подпространства. Рассмотрим два банаховых пространства Ег
и Е2. Точки первого будем обозначать через х, второго —
через у. Прямой суммой Et-\-E.2 пространств Ех и Е.2 на-
называется пространство Б пар z = {х, у) (x£Ev y^,E,3)
с естественно определенными операциями сложения и умно-
умножения на скаляр:
х {*i. Ух} +Р {х-2> Л } = ( *
Для простоты пару {х, О } обозначают просто через х,
а пару { t), у}—через у, тогда пара {х, у} запишется
как х-\-у.
Норму в Е можно ввести, например, равенством
||х+^1!=тах{||х||, \\y\\]
или
Будем в дальнейшем точку х—у называть симметричной
относительно пространства Ех точке х-{-у.
Представление элемента z £ Е в виде z== х-\-у (х£ Ev
у£Е2), очевидно, однозначно. Через Pt и Р2 обозначим опе-
операторы, определенные соответственно равенствами
Pt2 = х, P2z = у.
Вектор <р*> симметричный относительно подпростран-
подпространства £t вектору «р> определится тогда равенством ц>*=
™ Pi? — fV-P- Аналогично тому, как при помощи теоремы 2.4
была доказана теорема 4.1, при помощи теоремы 2.5 может
быть доказано следующее утверждение.
Теорема 4.4. Пусть на сфере S с Е задано такое
вполне непрерывное векторное поле Ф без нулевых век-
векторов, что и поле Фу = РХФ не имеет нулевых векто-
векторов на сфере S П Е^,

134 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. Ц
Пусть в каждой точке z* £ 5, симметричной относи-
относительно пространства Et точке z£S, вектор Фг* поля
Ф не направлен симметрично вектору Фг относительно
пространства Е.->:
||ф«*[ gp24»z-p^?i
Тогда вращение на S поля Ф имеет ту же четность,
что и вращение на SftEy поля Фх.
6. Произведение вращений вполне непрерывных век-
векторных полей. Снова рассмотрим два банаховых простран-
пространства Е1 и Е.2. Пусть в прямой сумме Е = £t -f- Е2 некото-
некоторым образом введена норма, совпадающая на Е± и £2 с нор-
нормами, определенными ранее.
Пусть на шаре TlczEl радиуса рх задано вполне непре-
непрерывное векторное поле Ф1 без нулевых векторов на сфере 5t
(граница 7\) и с вращением на 5t, равным iit а на шаре
Г.3 с: С3 радиуса р2 — поле Ф2 без нулевых векторов на 52
(границе 72) и с вращением на 5а, равным fa-
Определим на топологическом произведении 7= TtX T%,
лежащем в пространстве Е, поле Ф равенством
) D.4)
Поле Ф вполне непрерывно, так как оператор
ф
Р2
вполне непрерывен.
Обозначим через S границу Т. S состоит из точек х-\-у
таких, что либо x£Slt либо y£S%, либо x£St и y£S%.
Легко видеть, что поле Ф не имеет на S нулевых векторов.
Теорема 4.5 (о произведении вращений). Вра-
Вращение на S поля Ф, определенного равенством D.4), рав-
равно произведению чх • ч2 вращений поля Ф1 на Sj^ и
поля Фа на S3.

§ 4] ПРИНЦИП ЛЕРЕ ШАУДЕРА 135
Доказательство. Вначале перейдем от полей Ф1
и Ф2 к более простым.
Пусть Е\ с: Ех— конечномерное подпространство, аппро-
аппроксимирующее с точностью до ^г множество (I — Ф]) Tv где
а= inf ||Ф1*||>0.
Обозначим через Ри шаудеровский оператор проектиро-
проектирования (см. § 3) множества (I —Ф1O1 на Е\, удовлетворяю-
удовлетворяющий условию
Введем обозначение Ф? = I—РиA — Фх). Тогда опера-
оператор-функция
Ft(x, 0 = 0— 0A — ®t)
будет вполне непрерывным оператором, причем
Кроме этого, вектор-функция Ft(x, t) при х£ 5t для всех ^,
0^/^1, отлична от х.
Вполне непрерывное векторное поле Ф1 имеет на St вра-
вращение Yi» равное вращению поля Фи¥ при этом множество
(I — Ф{) Tt лежит в конечномерном подпространстве Е±.
Аналогично можно построить на 72 вполне непрерывное
векторное поле Ф^, которое имеет на S.2 вращение -*й, рав-
равное вращению поля Ф2 и такое, что множество (I — Ф-Ц) Т2
лежит в некотором конечномерном подпространстве С2 .
При. этом можно предполагать, что существует вполне не-
непрерывная оператор-функция F2CV. О СУб^а- О-О^1)-
принимающая при y^S.2 значения, отличные от у, и
такая, что
F2CV, 0)=у — Ф2у, FaС D=v — Ф2У (У£Т2).
Построим вспомогательное векторное поле Фо на 5 ,
определив его равенством, аналогичным D.4):

136 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
Поля Ф и Фо будут гомотопны, так как вполне непре-
непрерывная оператор-функция
не принимает на S значений, равных х-{-у, причем
F(x+y, 0) = (i — Ф)(х+у), F(x+y, 1) = A-Ф0)
Значит, вращения полей Ф и Фо одинаковы. Таким обра-
образом, для доказательства теоремы достаточно показать, что
вращение поля Фо равно fi • Тз-
Множество (I — Фо) f лежит в конечномерном простран-
пространстве с =Ei-\-El, так что для определения вращения поля
Фо достаточно рассматривать его только на подпростран-
подпространстве Е°.
Определим на Sf]Eu Два векторных поля Wt и W2:
где [x(jc, у) — положительный нормирующий множитель, вы-
выбранный так, что Ч^Ся-ЬзОб^-
Множество значений оператора I — Wt принадлежит Е\,
поэтому его вращение на 5ПС° равно вращению на Sv
т. е. равно Yi-
Аналогично вращение поля Ф2 равно ^2-
В силу соотношения A.11) из § 1 настоящей главы вра-
вращение на S 0 с поля Ч^Ч^ равно Yi • Та- ^° Для всех
x-\-y£SuE°
WJFi (x+у) = а (х, у) Ф°(х-\~у), D.5)
так как
* А (* +У) = Т. | Н*. !>)[ Ш Ф! (iff У) +

§ 4] ПРИНЦИП ЛЕРВ ШАУДВРА 137
Поля Ч^ЧГз и <&0 в силу D.5) гомотопны и, следова-
следовательно, вращение на 5 П с поля Фо равно Yi • Та- Тогда
вращение поля Фо на 5 равно Yi " Тз> а значит, и вращение
поля Ф на S равно Yi • Та-
Теорема доказана.
Замечание. Так как у векторных полей Ф и
Фо = Фь -f- Ф2 на S одна из отличных от нуля компонент
(Ф^ или Ф-ззО одинакова, то поля Фо и Ф очевидным обра-
образом гомотопны. Значит, вращение поля Фо равно Yi • Та-
Простейшее приложение теорема 4.5 находит при дока-
доказательстве теорем существования для систем уравнений,
которые естественно назвать слабо связанными.
Мы ограничимся формулировкой общего утверждения.
Теорема о слабо связанных уравнениях.
Пусть задана система уравнений
4»), \
где А, В, С, D — вполне непрерывные, вообще говоря не-
нелинейные, операторы, действующие в банаховом про-
пространстве Е. Пусть на некоторой сфере S с: Е вектор-
векторные поля Фг = I — А и Ф2 = I — В не имеют нулевых
векторов и пусть вращения этих полей отличны от
нуля.
Тогда найдется такое s0 > 0, что при всех з, |з|^з0,
система D.6) имеет по крайней мере одно решение {?, <Ъ].
Доказательство. Для доказательства нужно рас-
рассмотреть на множестве Т — ТХ Т (где Т—шар, границей
которого является сфера 5) пространства Е ~Е-\-Е вполне
непрерывные векторные поля Ф(, которые определены на
элементах {<?, '1>}6£ (<р, Г'^Е) при 0 <[£ < 1 равенством
Фг{ср, 0} == {ср — А» — з*С (?, 6), -V — В V — ^t- D(», Щ.
Так как поля Ф1 и Ф2 на 5 не имеют нулевых векто-
векторов, то найдется такое ot > 0, что

138 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. Н
Так как операторы С и D компактны, то найдется такая
постоянная М > О, что
ЦС(<р, Щ<М, ЦО(9, Ь)\\<М (<?, h£T).
Если е0 < -^ , то при е ^ е0 векторы поля Ф( при
О -^ t ^ 1 на границе 5 множества Т очевидным образом
не обращаются в нуль. Следовательно, поля Ф( и Фо гомо-
гомотопны. Значит, для доказательства существования решения
у системы D.6) остается заметить, что отлично от нуля вра-
вращение на 5 поля Фо, которое в силу замечания к теореме 4.5
равно Yt • TV
Аналогичное утверждение можно сформулировать для
случая, когда оператор А действует в одном пространстве
Банаха Ev а оператор В — в другом Е.2. Тогда операторы
С и D должны быть определены на прямой сумме Е1-\-Е2
со значениями в ft для С и в Е% для D.
Наиболее интересные приложения теорема 4.5 находит
при вычислении индексов неподвижных точек (см. следую-
следующий пункт и § 4 главы IV).
7. Линейные поля. Пусть А — линейный вполне непре-
непрерывный оператор, действующий в вещественном банаховом
пространстве Е.
Векторное поле Ф = I — лА на каждой сфере SczE
с центром в 0 будет нечетным. Если —- не есть собствен-
ное число оператора А, то только 8 будет неподвижной
точкой поля Ф. Значит, на S поле Ф не будет иметь нуле-
нулевых векторов. В силу теоремы 4.1 вращение поля Ф на 5
будет нечетным.
Теорема 4.5 позволяет значительно полнее исследовать
вращение вполне непрерывного линейного поля.
Теорема 4.6 (Лере и Шаудер). Вращение вполне непре-
непрерывного линейного векторного поля Ф — I — ХА на сфе-
сфере S равно (—1)?, где $ — сумма кратностей всех соб-
собственных чисел оператора А, того же знака, что -у-, и
больших по абсолютной величине, чем -у- .
Доказательство. Числа, обратные собственным
числам, называются характеристическими. Обозначим через

§ 4] ПРИНЦИП ЛЕРЕ ШАУДЕРА 139
Ех прямую сумму всех инвариантных подпространств опера-
оператора А, отвечающих характеристическим числам этого опе-
оператора, расположенным между А и нулем. Размерность
подпространства Ех равна £). Подпространство £\ также
будет инвариантным подпространством для оператора А.
Вращение поля Ф на Sx = S Г) Ех равно (—1)Р в силу
равенства B.1) из § 2 настоящей главы, так как поле Ф
на ,St гомотопно полю — I.
Для доказательства этого факта рассмотрим вектор-
функцию
F(x, i) = Bt— l)x — ktkx
которая на 5г в нуль не обращается, так как при 0 < t < 1
числа кт—т не лежат в интервале @, к), ибо неравенства
2.Z — 1
противоречивы. Гомотопность на Sx полей Фи — I следует
из того, что
F(jc, 0) = —л:, F(x, 1) = Фх (x£Sx).
Через Е.2 обозначим замыкание прямой суммы всех тех
инвариантных подпространств оператора А, которые не
вошли в Еу Подпространство Е.2 будет также инвариантным
для оператора А. Вращение поля Ф на 5.2 = 5П£а Рав"
но 1, так как поле Ф на S.3 гомотопно полю I, что сле-
следует непосредственно из рассмотрения полей
которые не имеют на S, нулевых векторов.
Обозначим через Т множество точек вида у^
(х£Т^, у£Т^). В силу теоремы 4.5 вращение поля
Ф = 1 — лА на границе Т равно (— 1)?.
В замкнутой области Т поле Ф имеет только одну не-
подвижную точку 0. Индекс этой единственной неподвиж-
неподвижной точки равен вращению поля Ф на границе Т, т. е.
равен (— 1)^.
Но вращение поля Ф на сфере S тоже равно индексу
единственной внутри сферы 5 неподвижной точки поля Ф,
т. е. равно (— 1)?.
Теорема доказана.

140 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. II
Из теоремы 4.6 непосредственно следует, что вращение
поля Ф на границе любой области, содержащей Ь, также
равно (— 1)?.
Комплексное банахово пространство можно рассматри-
рассматривать как вещественное. Каждое собственное число вполне
непрерывного линейного оператора А, действующего в таком
пространстве, будет, очевидно, четнократным. Поэтому вра-
вращение линейного вполне непрерывного векторного поля
в таком пространстве всегда равно 1.
Как мы уже отмечали, теорема 4.3 о нулевом векторе
поля, близкого к линейному, непосредственно следует из
теоремы 4.6, так как в условиях теоремы 4.3 исследуемое
поле гомотопно линейному.
8. Вычисление индекса неподвижной точки. Пусть
х0 — изолированная неподвижная точка вполне непрерыв-
непрерывного векторного поля Ф. В настоящем пункте мы приведем
теорему, позволяющую в некоторых случаях вычислить
индекс. Другие теоремы, позволяющие вычислить индекс,
будут приведены в § 4 главы IV.
Отметим, кстати, что весьма подробное исследование ин-
индексов неподвижных точек было проведено недавно Э. Роте
[5бв,л| дЛЯ случаев, когда рассматриваемое поле Ф потен-
потенциально (т. е. Ф есть оператор градиента некоторого функ-
функционала).
Говорят, что вполне непрерывное векторное поле Ф =
= 1 — F дифференцируемо в точке х0, если приращение
F(xo-{-h) — Fx0 можно записать в виде
(л;о, h),
где А—линейный оператор, а
Ит 11^1! = 0. D.7)
Оператор А называют производной Фреше в точке х0
нелинейного оператора F, а выражение АЛ — дифферен-
дифференциалом Фреше этого оператора.
Лемма 4.1 [29д]. Если оператор F вполне непреры-
непрерывен, то и оператор А вполне непрерывен.
Доказательство. Если оператор А не вполне непре-
непрерывен, то множество А7\ где Т — единичный шар простран-
пространства Е, некомпактно. Значит, найдутся такое число 8 ^> 0

§ 4] ПРИНЦИП ЛЕРЕ ШАУДЕРА 141
и такая последовательность элементов ht^T (I = 1, 2, .. .)■
что
\ i, /=1, 2,...).
В силу D.7) можно указать такое р > 0, что из ||Л|| <р
следует:
l|F(*o + A) —F*o —ААЦ<-|ЦА||,
откуда
— [| F (х0 + рЛ<) - Fx0 — РАк{ || -
; i, j=l, 2,...).
Но тогда из последовательности
нельзя выбрать сходящуюся подпоследовательность, что
означает, что оператор F не вполне непрерывен.
Лемма доказана.
Теорема 4.7 (Лере и Шаудер). Пусть х0 — непо-
неподвижная точка вполне непрерывного векторного поля
Ф = I — F. Пусть единица не есть собственное число
линейного оператора А, являющегося производной Фреше
оператора F в точке х0.
Тогда х0 является изолированной неподвижной точкой
векторного поля Ф, причем индекс этой изолированной
неподвижной точки равен (—1)Р, где $ — сумма крат-
ностей характеристических чисел оператора А, лежа-
лежащих на интервале @, 1).
Доказательство. Так как 1 не есть собственное
число оператора А, то найдется такое а"> 0, что
||А<р —?||>
В силу D.7) можно указать такое р0 > 0, что из [|в|| < р0
следует:

142 ВРАЩЕНИЕ ВЕКТОРНОГО ПОЛЯ [ГЛ. If
Тогда на сферах 5р радиуса р <; р0 с центром в х0 поле Ф
не имеет нулевых векторов, так как
—(*о + «Р)И>
Значит, х0 — изолированная неподвижная точка поля Ф.
Чтобы показать, что индекс неподвижной точки х0 равен
(—1)Р, достаточно в силу теоремы 4.6 показать, что на
сфере 6'Ро поле Ф гомотопно полю I — А. Последнее утвер-
утверждение вытекает из того, что вполне непрерывные вектор-
векторные поля
Ф(с?, *) = /[JCb + ? —F(*b + ?)] +
+ A—Ql*o + «P —(*o + A?)l
не имеют на SPo нулевых векторов при 0 ^ t ^ 1.
Теорема доказана.
Как уже было показано, малое возмущение вполне не-
непрерывным оператором вполне непрерывного векторного
поля с ненулевым вращением дает снова вполне непрерыв-
непрерывное векторное поле с ненулевым вращением. Поэтому при
малом возмущении векторного поля Ф, удовлетворяющего
условиям теоремы 4.7, внутри сферы Spo сохранится непо-
неподвижная точка. Однако эта неподвижная точка уже может
стать не единственной внутри сферы 5Ро, она может быть
даже не изолированной.
В некоторых случаях удается установить более точные
предложения.
Пусть Ф = 1 — F — вполне непрерывное векторное поле.
Пусть в каждой точке х некоторого шара Т оператор F
имеет производную A^v
Производная Адо дает отображение шара Г в прост-
пространство вполне непрерывных линейных операторов. Если это
отображение непрерывно, то будем говорить, что поле Ф
непрерывно дифференцируемо. Оператор F будем назы-
называть непрерывно дифференцируемым.
Теорема 4.8. Пусть выполнены условия теоремы 4.7,
причем векторное поле Ф = I — F непрерывно диф-
дифференцируемо в окрестности неподвижной точки х0.
Пусть Ft — непрерывно дифференцируемый в окрестности
точки х0 вполне непрерывный оператор.

§ 4] ПРИНЦИП ЛЕРЕ ШАУДЕРА 143
Тогда найдется такая окрестность Т точки х0 и
такое число г0 > 0, что при всех г ^ г0 векторные поля
Ф, = 1 — F — sFj имеют в Т единственную неподвижную
точку.
Доказательство. Пусть А^) — производная Фреше
оператора А в точке х. По условию теоремы единица не
является собственным числом оператора А = А(а;о). Это зна-
значит, что найдется такое {3 > 0, что
ЦА?-«р||>?||?|| (?££)• D.8)
Пусть норма линейного вполне непрерывного оператора D
удовлетворяет условию
Тогда в силу D.8) единица не будет собственным числом
оператора
Вполне непрерывное векторное поле I — А — D будет,
как легко проверить, гомотопно полю I — А, и, следова-
следовательно, вращение поля I — А — D на каждой сфере будет
такое же, как вращение поля I — А.
Пусть Т— шаровая окрестность неподвижной точки х0,
в которой нет других неподвижных точек поля Ф = 1 — F
и такая, что
||А(а!)-А||<|- (х£Т). D.9)
Возможность такого выбора шаровой окрестности Т точки х
вытекает из непрерывной дифференцируемости оператора F.
Границу шара Т обозначим через 5. Так как на 5 поле F
не имеет нулевых векторов, то найдется такое а > 0, что
|| F* — х||>а (*£S).
Обозначим через Bia» производную Фреше оператора Fx
в точке х £ Т. Без ограничения общности можно считать,
что нормы линейных операторов B^i (x £ Г) равномерно
ограничены некоторой постоянной /С> 0 (шар Т можно
было выбирать с учетом равномерной ограниченности в нем
норм операторов В)

144 ВРАЩЕНИЕ ВЕКТОРНОГО НОЛЯ [гЛ. U
Пусть
М= sup HFiXll.
Х£ Т
Обозначим через е0 положительное число, меньшее чем
2М И Ж'
Тогда при е < s0 поле Фе = I — F — sFt гомотопно на 5
полюФ = 1— F и, следовательно, вращение его равно вра-
вращению поля Ф. Вращение на 5 поля Ф равно индексу его
единственной в Т неподвижной точки х0. По теореме 4.7
индекс неподвижной точки х0 равен вращению ~( на любой
сфере линейного поля I — A (f равно 1 или —1).
Таким образом, вращение поля Фе равно вращению поля
I —А.
В силу общего принципа Лере—Шаудера поле Фе имеет
в шаре неподвижные точки. Пусть у— некоторая из этих
точек. Вполне непрерывное векторное поле Фе = 1 — F — sF-t
непрерывно дифференцируемо. Производная Фреше опера-
оператора F-4- sFt равна AB/) -j- еВш). Пусть D = АB/) — А(^)—зВдо.
Так как ||гВШ)||<-^-, то в силу D.9)
Значит, единица не является собственным числом опера-
оператора A + D^A^ + sB^).
Тогда по теореме 4.7 неподвижная точка у изолирована
и ее индекс равен вращению поля I — (A^+sB^i). Но поле
I — (A^ + sBl2/)) гомотопно полю I — А и его вращение равно
вращению поля I — А.
Таким образом, все неподвижные точки поля Ф,в Т изо-
изолированы и индексы их f одинаковы.
Неподвижные точки поля Ф8 в Т образуют компактное
замкнутое множество. Так как каждая точка этого множества
изолирована, то всего неподвижных точек конечное число.
Обозначим эти точки через уг уа.
Индексы f этих точек одинаковы. Следовательно, сумма
индексов будет равна Sf- Но, с другой стороны, мы уста-
установили, что вращение поля Фе на S, которое совпадает
с суммой индексов, также равно f.
Значит, s = 1.
Теорема доказана.

§ 4] ПРИНЦИП ЛЕРЕ —ШАУДЁРА 145
Из доказательства видно, что неподвижная точка поля Фе
имеет своим пределом xQl если г->0. Иначе говоря, непо-
неподвижная точка в Т непрерывно перемещается при изменении г
в интервале (—г0, г0).
Ниже мы будем пользоваться очевидным следствием из
теоремы 4.8.
Следствие. Пусть F — вполне непрерывный опера-
оператор, непрерывно дифференцируемый в окрестности то-
точки xQ, являющейся решением уравнения
e = >>F® D.10)
при л = л0, причем Ао не является характеристическим
числом производной Фреше в точке х0 оператора F.
Тогда существует такая окрестность Т точки х0 и
такой интервал (Ко — г0, л0 -j- s0), что при всех К из этого
интервала уравнение D.10) в Т имеет единственное реше-
решение хх, причем хх непрерывно зависит от К.

ГЛАВА III
ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ
Настоящая глава преследует две цели.
Во-первых, мы хотим показать, как применять получен-
полученные в предыдущей главе общие принципы существования не-
неподвижных точек к изучению конкретных классов уравнений.
Во-вторых, мы хотим показать, как применять понятия
вращения вполне непрерывного векторного поля к исследо-
исследованию уравнений с не вполне непрерывными операторами.
В § 1 при помощи принципа сжатых отображений вво-
вводится понятие резольвенты нелинейного оператора. Эта ре-
резольвента, как оказывается, обладает рядом свойств, анало-
аналогичных свойствам резольвенты линейного оператора.
В § 2 доказывается ряд теорем существования решений
для нелинейных интегральных уравнений.
Топологические методы оказываются весьма удобными при
исследовании некоторых приближенных методов решения
уравнений. Последний параграф главы посвящен обоснованию
сходимости методов типа метода Галеркина при приближен-
приближенном решении линейных и нелинейных уравнений.
§ 1. Принцип сжатых отображений
1. Принцип сжатых отображений.
Теорема. Пусть в шаре Т банахова пространства Е
задан оператор А, удовлетворяющий условию Липшица
\\Axt — А*2Ц<4*1 — «all C*i. *a€D. A-0
где а < 1.
Пусть оператор А преобразует шар Т в себя.
Тогда уравнение
х = Ах A.2)

§ 1] ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ 147
имеет в шаре Т единственное решение х*. Это решение
может быть вычислено методом последовательных при-
приближений по формуле
хп = Ахп_х (п=1, 2, ...)■ A.3)
где х0—-произвольный элемент шара Т. Быстрота схо-
сходимости процесса A.3) характеризуется неравенством
.ll*»-**ll<T?7ll*t-*oll (я =1.2, ...)• A.4)
Доказательство. Пусть х0 £ Г, а ^, % ...—по-
...—последовательность, определяемая равенством A.3).
В силу A.1) при любом целом т
l\xm+1 — *m||<a||xm — xm-il|<---<am||*1 — xo||,
откуда следует, что
и, так как
а» + й-1_1_аП+й--2Д. . . . J_an <- J?LL-
I , I ^ ] — a>
TO
11*»+*— xn\\< Yzz^\\xy — xo\\ A.5)
(n = 0, 1, 2, . . .; £=: 1, 2, . ..).
Таким образом, последовательность хх, х.2, .. . фунда-
фундаментальна. Предел этой последовательности обозначим
через х*. Очевидно, х* £ Т.
Покажем, что х* есть решение уравнения A.2). В силу A.1)
Каждое слагаемое в правой части последнего неравенства
при возрастании п стремится к нулю. Значит, ||Ах* — х*||=0,
т. е. Ах* = х*.
Единственность решения уравнения A.2) доказывается
совсем просто. Пусть х* и х** — два решения уравнения A.2).
Тогда в силу A.1)
[|x*__x**|| — ||Ах* — Ах**||< аЦх*—х**(I,
откуда следует, что ||х* — х**|| = 0, т. е. х* =

148 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ ||"Л. III
Для получения неравенства A.4) достаточно перейти
в A.5) к пределу при &->-оо.
Справедливость принципа сжатых отображений полностью
доказана. Этот принцип (сформулированный С. Банахом)
справедлив для операторов, действующих в полных метриче-
метрических пространствах (не обязательно линейных).
Принцип сжатых отображений и доказанный в предыду-
предыдущей главе принцип Шаудера по существу близки, но неза-
независимы друг от друга. Оба принципа являются частными
случаями следующего принципа неподвижной точки [29т].
Пусть Т — замкнутое ограниченное выпуклое множе-
множество банахова пространства Е. Пусть к, В — операторы,
определенные на Т и удовлетворяющие условиям:
a) Ах + Ву6Г при х, у£Т.
b) Оператор А удовлетворяет условию A.1), в кото-
котором а < 1.
c) Оператор В вполне непрерывен.
Тогда в Т есть по крайней мере одна такая точка х*,
что
2. Резольвента нелинейного оператора и ее свойства
(см. общие теоремы о неявных функциях в банаховом про-
пространстве [16], [18], [42], резольвента введена в [29д]).
Пусть оператор D, определенный в банаховом простран-
пространстве Е, удовлетворяет на шаре Г радиуса р условию Лип-
Липшица
II D?t - D?91| < g || ?1 - ъ И (?1, ъ 6 Г), A.6)
где q — некоторое положительное число. Будем считать, что
D6 = 0. В этом случае уравнение
A.7)
имеет в силу принципа сжатых отображений при | a | <С —
единственное в шаре Т решение <?0 при любом таком /££\
что
||/||<A-|а«7|)р. A.8)
Действительно, при выполнении сформулированных усло-
условий оператор А

§ 1] ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ 149
преобразует шар Т в свою часть, так как
и удовлетворяет условию Липшица с постоянной, меньшей
единицы:
II Ас?! - А?211< | а ; И D»t - D?.2 [| < | щ | || ?1 - <?2II •
Обозначим через RK оператор, относящий каждому эле-
элементу /, норма которого удовлетворяет условию A.8), ре-
решение <»0 соответствующего уравнения A.7):
Этот оператор будем называть резольвентой оператора D.
По определению,
Ra/=aD(Ra/) + /. A.9)
Из тождества A.9) следует, что
II R.A - R./9 II < I а | 11D (RaA) - D (RJ2) 1| +1| A - /211 <
для любых fv f2 таких, что
liAII. ll/3!i<(i
Из A.10) вытекает первое важное свойство резольвенты:
. IIR«/t-R«/2ll<r=^Tll/t-/9ll- A-И)
В частности, последнее неравенство означает, что резоль-
резольвента Ra является непрерывным оператором.
Из A.11) следует также, что
Из тождества A.9) вытекает, что
А — к = R.А — Re/2 — a ID (R.A) — D (RJ2)],
откуда
т. е.
i! R« A ™ R./2 ii > -_:. v-n 11! A - к;, • (i ■ 14

150 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Пусть заданы числа а и (J, причем | а | < — и |?|< —.
Тогда на элементах / таких, что
—шах{|а?|,
ты Ra и R,.
—R?/=«[D(RJ) —D(R?/I+ (« — ?) D(RP A
определены резольвенты Ra и R,. При этом в силу тожде-
тождества A.9)
откуда
Очевидно, Ra0 = В при всех значениях параметра а, при
которых резольвента имеет смысл. Поэтому в силу A.6) и
A.11)
= ||D(Rp/)-D(Rp6)[|<:
RpOH<: i_^g,- 11Я1- A.14)
Объединяя A.13) и A.14), получим:
HR./-VH<(rrragiMi'-ipg|)'B--^- AЛ5)
Последнее неравенство означает, что резольвента Ra
является непрерывной оператор-функцией параметра а.
Тождество A.9) можно переписать в виде
R,/ — /=aD(R,A
откуда в силу A.14)
IIR./-/IK ! l74i»/H • О-16)
Мы установили ряд свойств резольвенты оператора D
в предположении, что D6 = 6. Этот случай в дальнейшем и
будет в основном нас интересовать.
В случае, если D6 Ф 0, резольвента Ra будет определена
в шаре
Неравенства A.11) и A.12) сохранят свою силу. Неравен-
Неравенство A.15) перейдет в неравенство
Рец.

§ 1] ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ 151
справедливое для таких элементов /, что
H/+«DfJ||, ||/+,9DO||<I1—тах{|«?|, \$q\}}?.
Отметим еще одно очевидное свойство резольвенты нели-
нелинейного оператора: резольвента Ra нечетного оператора
D (D (— ») = —D») будет нечетным оператором: Ra (—/)-=
— кау.
3. Теоремы существования решений. Принцип сжатых
отображений позволяет весьма просто доказывать многочи-
многочисленные теоремы существования и единственности решений.
Большое количество таких теорем для нелинейных интеграль-
интегральных уравнений содержится в работах В. В. Немыцкого.
Мы ограничимся двумя примерами.
Пусть оператор D в некотором шаре Ц<рЦ<^р банахова
пространства удовлетворяет условию Липшица с некото-
некоторой постоянной q. Тогда уравнение
при достаточно малых значениях параметра а имеет
решения.
Это утверждение непосредственно вытекает из принципа
сжатых отображений. Применим это утверждение к исследо-
исследованию уравнения П. С. Урысона <р = аА», где
A®(s)= K\s, t,
о
(G — замкнутое ограниченное множество /г-мерного простран-
пространства).
Предположим, что функция K(s, t, и) непрерывна по
совокупности переменных s, t£O, |и|<^р ('■>—некоторое
число) и имеет ограниченную частную производную по и:
I dK(s, t, и)
ди
<M
Оператор П. С. Урысона будет определен на шаре ра-
радиуса р пространства С непрерывных на О функций и бу-
будет удовлетворять условию Липшица
С \K[s, t, <?{t)\ — K\s, t, <\(t)\ ) dt <

152 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Пусть, кроме этого,
где N—некоторое число. Последнее условие будет, напри-
например, выполнено, если
N
max \K(s, t, и) !<; 7~.
\ ' ' / ^> гире (г
s, t£G; |«|<p mesu
Тогда уравнение <р — tiA'f будет иметь единственное
в шаре || 9II-^Р решение, если
>\\>.\ • М -mesG < 1, |(i|-A/r<p.
Эта теорема принадлежит В. В. Немыцкому.
Рассмотрим теперь уравнение
■», A.18)
где А — линейный оператор, действующий в банаховом про-
пространстве Е, а В(<р, <1>) — оператор, зависящий от функцио-
функционального параметра ф и действующий тоже в пространстве Е.
Пусть оператор В(<р, 'V) удовлетворяет условию Липшица
где
Пусть,
где
кроме
i
(ll?tll.
lim
р -> 0, р, ->0
этого,
sup |
1 <fIK P
lim
р,->
[|В(ф, 6)
a (pi) = (
11?2|1<Р).
9 (Р. ?д —
iKn-dKii
), lim v(p
р-> 0
0.
) +
) ~
рм(р),
0.
0-
A
A
19)
.20)
.21)
Примером уравнения A.18) может служить уравнение
А. М. Ляпунова, в котором А — линейный интегральный
оператор, а В («р. <!0 — интегростепенной ряд. Из неравенств,
приведенных в § 3 главы I, следует, что условия A.19) и A.20)
для интегростепенного ряда будут выполнены. Поэтому утвер-
утверждение, которое мы приведем ниже, в частности, будет со-
содержать теорему существования малых решений для уравне-
уравнений А, М, Ляпунова с интегростепенными операторами.

§ 1] ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ 153
Теорема 1.1. Пусть 1 не принадлежит спектру ли-
линейного оператора А, т. е. пусть оператор A — А)~
определен на всем Е и ограничен.
Тогда уравнение A.18) имеет при достаточно малой
норме ||ф|| решение, единственное в некоторой окрест-
окрестности Ь.
Доказательство. Для доказательства достаточно за-
заменить уравнение A.18) эквивалентным
ш = D'f,
где
D<? = (I — A)B('f) 6). A.22)
Оператор D удовлетворяет условию Липшица
II D?t - о%II< q\\?t - %II (II?iII. IIъII < р).
и котором
7 = 11A —А)^^ №11).
В силу условия A.20) можно указать такие числа р ^i p1( что
ПРИ H'ilKPt
В силу условия A.21) числа р и pt можно выбрать одновре-
одновременно и так, чтобы при ||<р||<!р, ЦЦ
Таким образом, при ||^||<pt в шаре ||<р||<р оператор D
будет удовлетворять условиям принципа сжатых отображе-
отображений. Следовательно, при этих условиях уравнение A.22)
в шаре ||<р||<Ср будет иметь единственное решение.
Теорема доказана.
Теорема 1.1 принадлежит А. М. Ляпунову, который, не
ссылаясь формально на принцип сжатых отображений (этот
принцип во времена А. М. Ляпунова еще не был сформу-
сформулирован), фактически провел приведенные выше рассуждения
применительно к случаю, когда В(«р, 'V) — интегростепен-
ной ряд.
Теорему 1.1 естественно назвать нелокальной теоре-
теоремой, так как в ней рассматриваются уравнения, близкие
к линейным, в которых значение параметра не обязательно
меньше наименьшего характеристического числа.

154 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. Ш
Другого рода нелокальные теоремы существования реше-
решений будут приведены ниже.
Теорема 1.1 может быть применена к исследованию спектра
нелинейного оператора. Говорят, что спектр сплошной, если
он содержит некоторый интервал.
Пусть ©о — собственный вектор оператора А, кото-
которому отвечает собственное число к0. Пусть в точке »0
оператор А имеет дифференциал Фреше В/г
A («ft, + h) — А?о = В/г + со (<?„, А),
причем остаток со (<р0, А) удовлетворяет условию Липшица
I! о> (<Ро, At) — °> (<Ро> А2> II < 9 (Р) • II hx — л-2 II
(НМ<р; IIA2IKP).
где
\\т q (?) = 0.
р -> 0
Если к0 не принадлежит спектру линейного опера-
оператора В, то спектр оператора А сплошной.
Для доказательства достаточно показать, что уравнение
А<р=А<р ' A.23)
имеет решения при всех значениях л, достаточно близких
к л0.
Перепишем уравнение A.23) в виде
Х0А = ВА-(-со(ф0, /г) —|— jj. (фоЧ~^)> A-24)
где А =ср — »0> а =/. — л0. Легко усмотреть, что уравне-
уравнение A.24) — это уравнение вида A.18), в котором роль функ-
функционального параметра 6 играет и. Непосредственно прове-
проверяется выполнение условий A.19) и A.21).
Поэтому уравнение A.24) имеет решения при достаточно
малых а.
Отметим, что при доказательстве попутно получается сле-
следующее утверждение: если обозначить через '-?> собствен-
собственную функцию, соответствующую собственному значению к,
существование которой следует из теоремы 1.1, то

§ \] ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ 155
Ниже для случая вполне непрерывных операторов будут
получены утверждения о сплошности спектра при более сла-
слабых ограничениях.
4. Приближенное вычисление собственных чисел и
функций возмущенного линейного оператора [29л]. В заклю-
заключение параграфа покажем, как применить метод последова-
последовательных приближений, соответствующий принципу сжатых
отображений, к приближенному вычислению собственных чисел
и функций возмущенных линейных операторов. Излагаемый
метод возникает на основе тех же соображений, которые выше
привели нас, например, к теореме о сплошности спектра *).
Нам кажется небезинтересным подчеркнуть, что излагае-
излагаемый метод дает пример использования нелинейных опе-
операторов для изучения линейных задач.
Пусть А — линейный вполне непрерывный оператор, дей-
действующий в вещественном гильбертовом пространстве Н.
Пусть Хо — простое собственное число оператора А, кото-
которому отвечает нормированный собственный вектор е0:
Без ограничения общности можно считать, что к0 > 0.
Введем в рассмотрение оператор ;В равенством
В? = <р —(в, ео)ео — рА? (<?£//). A.25)
'■о
Лемма 1.1. Оператор A.25) имеет ограниченный
обратный оператор.
Доказательство. Оператор, относящий вектору <р £ Н
вектор (ф, ео)е0-{-т- Ао, вполне непрерывен, так как вполне
'■о
^непрерывен оператор А. Поэтому в силу теории Ф. Рисса
{см. § 1 главы I) для того, чтобы доказать утверждение
леммы, достаточно доказать, что из
г-А9 = в A-26)
следует, что с? -.- fj.
*) С другой стороны, излагаемый метод тесно связан с методом
Ньютона приближенного решения нелинейных операторных уравне-
уравнений, разработанным Л. В. Канторовичем и его учениками.

156 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Из A.26) вытекает, что
Таким образом, элемент ср принадлежит инвариантному
подпространству оператора А, отвечающему собственному
числу Хо.
По предположению, />0 является простым собственным чи-
числом оператора А. Следовательно, вектор <р коллинеарен соб-
собственному вектору е0: ф = ke0.
Подставляя полученное для ® выражение в A.26), полу-
получим, что k = 0.
Лемма доказана.
В случае, если оператор А самосопряжен (например,
А — интегральный оператор с симметрическим ядром), то его,
как известно, можно, записать в виде
А? = S h (<р, е{) е{ -f- л0 (ср, е0) е0,
где Xi и ei (i = 1, 2, . ..) — собственные числа и собствен-
собственные векторы оператора А, отличные от Хо и е0. Тогда
В дальнейшем будут играть роль операторы В и В^А.
Их нормы для сокращения записи всюду будут обозначаться
через а и [3:
Для случая, когда оператор А самосопряжен, операторы
1 и В
мулами
В ' и В 'А также будут самосопряжены и определятся фор-
A.28)
• 0-29)

§ 1]
ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ
157
Так как норма самосопряженного оператора равна наиболь-
наибольшей абсолютной величине его собственных чисел, то нормы
операторов A.28) и A.29) определяются собственными числами.
Если обозначить через /.„наибольшее из собственных чисел
оператора А, меньших чем л0, а через ^ — наименьшее из
собственных чисел оператора А, больших чем л0, то
Рассмотрим в плоскости {х, у} кривые
да
У — h\x)>
Эти кривые при х^-0 имеют только одну точку пересе-
пересечения. Действительно, абсциссы точек пересечения опреде-
определяются уравнением
2 2^t5X х — Л = О,
левая часть которого — возрастающая при х >- 0 функция.
Координаты точки пересечения кривых обозначим через xs, ys.
Первая из кривых—-гипербола. Функция Д(х) при х^-0
монотонно убывает. Функция /2 (х) возрастает при 0 -<^ х < хт,
где
1
'и убывает при х > хт, асимптотически приближаясь к
чению —5—1 L. Нетрудно проверить, что
в силу чего
xs <С х.т.

158 ГЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. Ш
В дальнейшем существенную роль будет играть положи-
положительная величина ys, являющаяся функцией параметров л0,
a, j3: ys=ys(^o> а> и)- Величину уа можно найти графически,
построив кривые (I) и (II). Грубую оценку снизу для у8 можно
получить, заменяя это число значением функции /t (л:)
в точке хт; при этом мы получим оценку
Функция /о (х) па интервале @, xs) монотонно возрастает.
Поэтому на интервале @, ys) можно определить однознач-
однозначную обратную к /о(х) функцию g(y) со значениями в интер-
интервале @, xs). Функцию g(y) можно записать и в явном виде
Перейдем теперь к изучению возмущенного оператора
K = A-(-D, где D — линейный оператор, действующий в Н.
Каждый собственный вектор оператора К, отвечающий
положительному собственному числу, будет определяться
решением уравнения
||-VH Кб — 4 = 6. . A.30)
При этом норма решения даст величину, обратную собствен-
собственному числу.
Теорема 1.2. Пусть норма линейного оператора D
удовлетворяет условию
Тогда решение 0 уравнения A.30) можно получить,
находя последовательные приближения <Ъп по формуле
4»=<l'»-i + B"x(ll*»-illK'i»-t—Фп-t). A.31)
если в качестве нулевого приближения 00 взять эле-
элемент г- е0.
Доказательство. Мы покажем, что в шаре ТсН
некоторого радиуса р с центром в 60 = -г- е0 оператор С
?) A-32)

§ 11 ПРИНЦИП СЖАТЫХ ОТОБРАЖЕНИЙ 159
удовлетворяет условию Липшица
ЦС?! —C<pa||<7ll?t —?а|| (?1,?а€Л
с постоянной q < 1 и что С7 с: Т. Тогда в силу принципа
сжатых отображений уравнение Ь = С<Ь имеет в Т един-
единственное решение, которое может быть получено последова-
последовательными приближениями. Это решение и будет, очевидно,
решением уравнения A.30).
Нам будет удобно отличное от A.32) представление
оператора С.
Пусть
тогда
Н ||Фо+АЦ + |1Фо!1 °'( }
Действительно, так как Ве0 = — е0, то из A.25) вытекает:
с? — Во = (ф, ео)ео —.-В'Чо;
ло
тогда в силу A.32)
а из последнего равенства вытекает A.33), ибо
(h и 1Ы1 I д (ft» go) (Я Фо "Ь Л И — II ФоР) —
Пусть
A.34)
— любые два элемента шара Т радиуса р с центром в ^0.
Из представления A.33) оператора С следует, что
II C?i — С<Ра || < ? II ?i — ?а II'. A-35)
где
. A.36)

160
ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ
[ГЛ. III
Справедливость A.35) следует из трех цепочек очевидных
неравенств. Во-первых,
Во-вторых, так как Ц^Н,
?21
^ll^i—(~Р> то
В-третьих, так как
- {(II % + h 11-11 «оII) (А,,, е0) - (А2, Аа)} | < 4? || ?1 - ?а||
<>«о||?2 — «Pill.
то
( fo + ^211 — II Фо И) №, gp) — (Аг,
Так так в A.36) p = £(||D||), т. е. ||D|| =/3(р), а по
условию теоремы ||D||<j8, то ||D|| </t(p), откуда следует:
q < 2 (;3 + 2Х0) р + 2Х2оР2 + 2 (^ + р) «Л (р) = 1 •

§ 2] ПРИМЕНЕНИЕ ТОПОЛОГИЧЕСКИХ ПРИНЦИПОВ 161
Нам осталось показать, что СГ с= Т. Но это очевидно,
так как в силу A.33)
II С? - % II < ?Р9 + (т0 + рJ « IIDII + 2>ч>Р2 =
= Ф + 2^о) Р9 + (^ + рJ «/а (Р) = Р •
Теорема доказана.
В условиях теоремы 1.2 не обязательно в качестве нуле-
вого приближения брать точно вектор 00 =.- е0, достаточно
в качестве нулевого приближения взять любой вектор из
шара радиуса р с центром в 60.
§ 2. Применение топологических принципов неподвижной
точки к доказательству теорем существования решений
I. Общая постановка задачи. Мы будем в этом пара-
параграфе рассматривать вопросы о существовании и единствен-
единственности решений у интегральных уравнений вида
!р = лА», B.1)
где А — интегральный оператор П. С. Урысона (в частном
случае — оператор Гаммерштейна) или интегростепенной
ряд А. М. Ляпунова.
Если удается найти такое функциональное пространство Е,
в котором оператор А действует и вполне непрерывен,
то вопрос о существовании и единственности в Е решений
уравнения B.1) эквивалентен вопросу о существовании и
единственности неподвижной точки у вполне непрерывного
векторного поля Ф = I — лА.
Такой путь был предложен, по существу, Биркгофом и
Келлогом, которые и получили первые теоремы существо-
существования решений топологическим методом. В дальнейшем
Ю. Шаудер сформулировал принцип о существовании не-
неподвижной точки при непрерывном преобразовании выпуклого
множества банахова пространства в свою компактную часть.
Применение принципа сжатых отображений и принципа
Шаудера позволило В. В. Немыцкому, а затем и другим
авторам получить различные теоремы существования реше-
решений у нелинейных интегральных уравнений. Полученные на
этом пути теоремы существования решений, как и теоремы,

162 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
полученные непосредственным применением принципа сжатых
отображений, естественно назвать локальными (относительно
параметра л), так как условия принципа Шаудера для пре-
преобразования А некоторого шара Т будут выполнены лишь
при значениях параметра л, ограниченных по абсолютной
величине некоторой постоянной.
Существенно новые теоремы были получены Лере и
Шаудером при помощи принадлежащего им понятия тополо-
топологической степени отображения (замененного у нас эквивалент-
эквивалентным понятием вращения вполне непрерывного векторного
поля). Теоремы существования, установленные затем при
помощи теории Лере — Шаудера самим Лере, а позже Доль-
фом и др., носили уже существенно нелокальный характер.
Однако эти теоремы соответствовали также рассмотрению
полей, очевидным образом гомотопных линейным полям
I—АВ, где а — уже произвольное число, не принадлежащее
спектру линейного вполне непрерывного оператора В. При-
Примером такой нелокальной теоремы может служить теорема
4.8 из предыдущей главы, следствие из которой дает общие
условия сплошности спектра нелинейного оператора. В на-
настоящем параграфе мы приведем новые примеры нелокаль-
нелокальных теорем существования решений для конкретных классов
нелинейных интегральных уравнений.
Теорема 4.1 главы II, являющаяся обобщением на бана-
банаховы пространства теоремы Л. А. Люстерника — Л. Г. Шни-
рельмана — К. Борсука, позволяет доказать некоторые тео-
теоремы существования решений для уравнений, близких к не-
нечетным, но не близких к линейным.
Наконец, в настоящем параграфе мы покажем, как при
помощи, с одной стороны, топологических принципов непо-
неподвижной точки и, с другой, при помощи понятия резоль-
резольвенты нелинейного оператора можно исследовать не вполне
непрерывные векторные поля, близкие к вполне непрерывным.
2. Не вполне непрерывные векторные поля. Рассмотрим
на границе L некоторой ограниченной области О банахова
пространства Е векторное поле Ф = I — А — sD, где А —
вполне непрерывный оператор, a D — оператор, удовлетво-
удовлетворяющий условию Липшица
tfll»-^ B.2)
в достаточно большой части пространства Е.

§ 2] ПРИМЕНЕНИЕ ТОПОЛОГИЧЕСКИХ ПРИНЦИПОВ 163
При достаточно малых г на AL будет определена резоль-
резольвента Re оператора D.
Рассмотрим на L векторное поле W = I —ReA. Это поле
будет вполне непрерывным, так как оператор RSA вполне
непрерывен. Если поле Ф не имеет на L нулевых векторов,
то и поле W не имеет на L нулевых векторов, ибо из
в силу соотношения A.9) из предыдущего параграфа сле-
следует, что
<р = A»-f- sD'f.
Пусть поле Фо = 1 — А не имеет на L нулевых векторов.
Тогда найдется такое а > О, что
ЦФо*||>а (*£!).
Пусть s выбрано так, что
||sD*||<a (*£!).
Тогда векторные поля Ф( = I — А — ЬгК при 0<^<!1 не
имеют на L нулевых векторов. Значит, и вполне иепрерыв-
■ ные векторные поля Wt = I — R/£A не будут иметь на L нуле-
нулевых векторов.
Вполне непрерывный оператор R,EA в силу соотноше-
соотношения A.17) из предыдущего параграфа равномерно непре-
непрерывен по t.
Таким образом, векторные поля ^ = 1—^А и W1 =
= 1 — ReA гомотопны и, следовательно, их вращения на L
одинаковы.
Полученный результат сформулируем в виде следующего
принципа.
Пусть на области G задано вполне непрерывное век-
векторное поле с ненулевым вращением на границе. Если это
поле возмутить малым гладким оператором, то возму-
возмущенное поле будет иметь в G неподвижные точки.
Здесь под малым возмущением понимается возмущение
таким оператором, который принимает значения достаточно
малой нормы и который удовлетворяет условию Липшица
с достаточно малой постоянной.
3. Нечетные интегростепенные ряды. Рассмотрим урав-
уравнение вида
B.3)

164 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. Ш
где А — линейный оператор, В — оператор, удовлетворяющий
условию Липшица B.2) с достаточно малым q, а С—-вполне
непрерывный оператор, удовлетворяющий условию
■ 11С?О<*
при ||<?|| = р, где з и р — некоторые числа, которые будут
определены ниже.
Примером уравнения B.3) может служить уравнение
с интегростепенным рядом А. М. Ляпунова, который рас-
рассматривался в теореме 1.1 предыдущего параграфа, возму-
возмущенным вполне непрерывным оператором С.
В случае, если 1 не является собственным числом опера-
оператора А, то принцип, сформулированный в предыдущем пункте,
позволяет просто исследовать уравнение B.3). Достаточно рас-
рассмотреть вполне непрерывное векторное поле I — (I—А)-1С,
вращение которого на сфере радиусом р равно 1, если
||A —А)1| • s < р, и заметить, что векторное поле
I—(I — А) С — (I— А) В получено возмущением поля
I — (I — А) С с помощью гладкого оператора (I — А) В.
Если р настолько велико, что резольвента оператора
(I •—А)~ В отображает шар радиусом р в свою часть, то
уравнение B.3) имеет решение.
Задача осложняется в случае, если 1 является собствен-
собственным числом линейного оператора А. В этом случае некото-
некоторые простые утверждения можно указать для нечетных инте-
гростепенных рядов.
Пусть О — замкнутое ограниченное множество ге-мерного
пространства. Без ограничения общности можно считать, что
mes G = 1.
Рассмотрим уравнение
где А — линейный интегральный оператор, определенный
допустимым ядром K(s, t):
= JK(s, 0 ? (О Л, B.5)
в

§ 2] ПРИМЕНЕНИЕ ТОПОЛОГИЧЕСКИХ ПРИНЦИПОВ 165
L — интегростепенной ряд А. М. Ляпунова (см. § 3 главы I)
от одной функции ср (s), состоящей только из членов нечет-
нечетного порядка, так что
L[— ?(«)] = — L<?(s), B.6)
причем предполагается, что выполнены условия, обеспечи-
обеспечивающие полную непрерывность оператора L в единичном шаре
пространства С непрерывных на G функций (см. § 3 главы I);
В — вполне непрерывный оператор, действующий в С (доста-
(достаточно, чтобы он был определен на единичном шаре простран-
пространства С).
Уравнение B.4) — это уравнение типа B.3). Поэтому
в случае, если 1 не есть собственное число оператора А,
уравнение B.4) имеет решения при достаточно малых г.
В случае, если оператор L вполне непрерывен и если на
некоторой сфере S с центром в 6 поле I — А — L не имеет
нулевых векторов (причем 1 может быть собственным числом
линейного оператора А), то в силу теоремы D.1) предыду-
предыдущей главы вращение поля I —А — L на S нечетно, так как
поле нечетно. При малых з вполне непрерывное векторное
поле I — А — L — гВ гомотопно на S полю I — А — L. Зна-
Значит, вращение на 5 поля I — А — L —зВ тоже нечетно. По-
Поэтому поле I — А — L — sB внутри сферы S имеет неподвиж-
неподвижные точки, а это означает, что уравнение B.4) внутри S
имеет по крайней мере одно решение.
В случае, если оператор L не вполне непрерывен, непо-
непосредственное применение теоремы D.1) невозможно.
Как это следует из соотношения C.10) главы I, опера-
оператор L удовлетворяет в каждом шаре радиусом р < 1 усло-
условию Липшица
Ill/Pt —L%||<a.p.||?i —?8Н (Ы|, 1Ы1<Р). B.7),
где a — некоторая постоянная.
Будем предполагать, что
P<i- 0-«
Тогда в силу A.8) на элементах /, для которых
11/11 <| Р. B-9)
будет определена резольвента R оператора L:
R/L(R/) + / (ll/IK)

166 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Пусть
=
BЛ0)
Тогда на шаре Т радиуса р0 будет определено вполне не-
непрерывное векторное поле I —RA. Так как оператор L не-
нечетный, то нечетным будет оператор R, а значит, нечетным
будет и поле I—RA.
Теорема 2.1. Пусть на некоторой сфере S радиуса
r^Y> где р0 определено равенством B.10), нелинейный
оператор A-f-L не имеет 1 собственным числом, т. е.
пусть уравнение <p = Ae-f-L<p не имеет на S решений.
Тогда можно указать такое з0, что при всех г (| а | ^ е0)
уравнение B.4) имеет непрерывное на О решение <?(s),
причем
Доказательство. Рассмотрим на S вполне непрерывное
векторное поле I — RA, где R — резольвента оператора L.
Это векторное поле не имеет на S нулевых векторов, ибо из
следует, что
ср = A(p-f-L<p.
Поле I-—-RA нечетно, следовательно, в силу теоремы 4.1
главы II вращение его нечетно.
Пусть
sup |[В?||= ft.
lK
Тогда при s^-^r резольвента R будет определена на эле-
элементах А<р + зВср (||? || <]/•), так как
n-^ + *ft<^P (HI <г).
Так как поле I—-RA не имеет нулевых векторов на S, то
найдется такое а > 0, что
И? — RA<?||>«
Пусть
S' Tb)'

§ 2] ПРИМЕНЕНИЕ ТОПОЛОГИЧЕСКИХ ПРИНЦИПОВ 167
Рассмотрим вполне непрерывное поле I — R(A + eB),
где | г | ^ е0. Это векторное поле гомотопно на S полю
I —RA, так как в силу неравенства A.11) из предыдущего
параграфа
HR (А + вВ) «р — RA? И < а.
Значит, вращение на S поля I — R(A + sB) равно вращению
поля I—RA, которое нечетно.
Таким образом, поле I—-R(A-f-sB) при |е|<!!а0 имеет
по крайней мере одну неподвижную точку <р такую, что
1М1</'- Функция <p(s) и будет решением уравнения B.4).
4. Уравнения, близкие к линейным. Локальные тео-
теоремы. Рассмотрим уравнение
<P = fcA<p, B.11)
где А — вполне непрерывный оператор, действующий в ба-
банаховом пространстве Е. Пусть Т—шар радиуса р. При
достаточно малых к оператор А.А, очевидно, преобразует Г в
свою часть (достаточно, чтобы оператор А.А преобразовывал
границу шара Г в Г). Тогда в силу принципа Шаудера
уравнение B.11) имеет в шаре Т решения. При изучении
конкретных уравнений нужно определить те значения к, при
которых можно применить принцип Шаудера.
Приведем один пример. Рассмотрим уравнение Гаммер-
штейна
? (s) = к J К(s, t) f \t, «p @1 dt, B.12)
в
где О — множество конечной меры.
Пусть вторая итерация симметричного ядра K(s, f) —
ограниченная функция. Пусть функция fit, и) удовлетво-
удовлетворяет условию Каратеодори и неравенству
\f(t, a)\<M(f) (t£Q, —а<к<а),
где M(t)£L2, a — некоторое положительное число.
Тогда уравнение B.12) при малых к имеет ограничен-
ограниченные решения.
Доказательство. Обозначим через Н линейный инте-
интегральный оператор, определенный ядром K(s, t). В силу

168 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. Ш
теоремы 4.6 из главы I (см. сноску на стр. 60) найдется
такая постоянная N, что
vraimax|H<?(s)|</V||<?||
Обозначим через То шар радиуса р в пространстве I?.
Рассмотрим в этом шаре оператор В:
где
'/I
M?(s)ds
Оператор В в силу теорем § 2 главы I будет вполне непре-
непрерывным. Этот оператор преобразует шар Тр в свою часть,
так как
Значит, в силу принципа Шаудера найдется такое о £ Т, что
Умножая обе части последнего равенства на тг и применяя
к ним оператор Н, получим:
откуда следует, что ограниченная функция ^-H»(s) является
решением уравнения B.12).
5. Уравнения, близкие к линейным. Нелокальные тео-
теоремы. Соображения, приведенные при доказательстве тео-
теоремы 1.1, позволяют доказывать при помощи принципа Шау-
Шаудера различные нелокальные теоремы. Более естественным,
с нашей точки зрения, путем доказательства нелокальных
теорем для уравнений, близких к линейным, является ис-
использование теоремы о нулевом векторе поля, близкого к
линейному.

§ 2] ПРИМЕНЕНИЕ ТОПОЛОГИЧЕСКИХ ПРИНЦИПОВ 169
В качестве примера снова рассмотрим уравнение Гаммер-
штейна
<?(s)=f K(s, f) f[t, <?(t)]dt, B.13)
G
где О — некоторое измеримое множество re-мерного про-
пространства.
Теорема. Пусть ядро K(s, t) удовлетворяет условию
J JK^(s, t)dsdt = №<оо. B.14)
G в
Пусть непрерывная по и функция двух переменных f(t, и)
£G; —оо < и < оо) удовлетворяет условию
\f(t, и) — «K|<p|K|+2sA@1«l1~:Pfc+«@, B.15)
где Sk(t)£lF* @ < pfc < 1; ft=l, 2 п),
а и р—константы.
Пусть а не является характеристическим числом
ядра K{s, t).
Тогда, если $ достаточно малб (например, Э = 0)>
то уравнение B.13) имеет суммируемое с квадратом
решение.
Доказательство. В силу теорем главы I опера-
оператор А:
= JK(s, t)f[t,
G
действует в L'2 и вполне непрерывен.
■Через В обозначим линейный вполне непрерывный опе-
оператор, определенный ядром K(s, f).
В силу B.14) и B.15)
ЦА? — «BfKftiPH + AlilH^' + W). B.16)
i = l
где
max
1 = 1 И

170 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. Ш
Так как а не принадлежит спектру оператора В, то най-
найдется такое f > 0, что
|?-«В<р1>тИ- B.17)
Пусть 3& < Y- Выберем такое р > 0, что
г = 1
тогда в силу B.16) и B.17) на сфере Sczl? радиуса
|| А<р — аВсрЦ < рдр + k (M S р1-^ + Л0 < ТР < I ?
4 = 1
Таким образом, векторное поле I — А удовлетворяет
условиям теоремы 4.3 из главы II и, следовательно, имеет
неподвижную точку. Эта неподвижная точка и дает решение
уравнения B.13).
Аналогичные утверждения можно установить для урав-
уравнения B.13), предполагая, что выполнены условия полной
непрерывности оператора Гаммерштейна в другом функцио-
функциональном пространстве.
Имеет место следующая теорема, которая проще всего
доказывается с помощью теоремы 4.8 предыдущей главы.
Пусть О — замкнутое ограниченное множество. Пусть
ядро K(s, t) непрерывно по s и удовлетворяет условию
\K(s, t)\<S(t) (s,
где S(l)£I?
Пусть непрерывная по обеим переменным функция
f(t, и) дважды дифференцируема по и, причем
г) f{t, 0)E2
в) ' _ = g(t), где g(t) — ограниченная функция;
с)
d2f(t, и)
< s при | и | < а (а — постоянная), где
s — достаточно малое число.
Пусть 1 не есть собственное число ядра K{s, t)g{t).
Пусть max | vo(s) | < а, где vo(s)—решение уравнения
v(s)= $K(s, t)[g(l)v(t)+f(t, O))dt.

§ 21 ПРИМЕНЕНИЕ ТОПОЛОГИЧЕСКИХ ПРИНЦИПОВ 171
Тогда уравнение B.13) имеет решение, единственное
в шаре радиуса а пространства С.
Приведенные в этом пункте теоремы являются обобще-
обобщением двух аналогичных теорем В. В. Немыцкого [49в], ко-
которые являются, по существу, локальными. Приведем одну
из этих теорем.
Уравнение B.13) имеет суммируемое с квадратом ре-
решение, если выполняется условие B.14) и если можно
найти такую постоянную а. и такую функцию
что п
\f(t, u) — a.u — S(i)\<
К2 (s, t) ds dt
— оо<м<оо), B.18)
где D — некоторая постоянная, а если
\f(t, и,)-f{t,
У J J
t)dsdt
(t£O, — оо<м<оо). B.19)
При этом решение заключено в шаре радиуса D во-
вокруг решения линейного интегрального уравнения
? (s) = a J K(s, t) ? {t) dt+ J K(s, t) S @ dt.
в о
В этой теореме предполагалось, что mesG<oo.
Уравнение B.13) в силу первого из доказанных в насто-
настоящем пункте предложений имеет в I? решение и без выпол-
выполнения условия B.19), если а не есть характеристическое
число ядра K(s, f).
Покажем, что условия B.18) и B.19) позволяют оценить
число а, участвующее в условии B.18).
Так как
| а 11«! — «2l^l/(^> Mi)"
+ I/C «а) — ««-2 — •
то в силу условий B.18) и B.19)
i „ i .Iа „ i ^ ^D
К% (s, t) ds dt

172 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. Ill
откуда, полагая и.2 = 0, получим:
/г г ' /ее
К3 (s, t)dsdt I «1 | 1/ К2 E, t) ds dt
GO V в 4
Переходя в последнем неравенстве к пределу при нх -> оо,
получим:
1
е !<■§■{/ \K*(s,'f)dsdt]~* .
Легко видеть, что между а и нулем нет характеристи-
характеристических чисел ядра K(s, t), так как
<p(s) = X J K(s, t)y{t)dt
&
влечет (при помощи неравенства Буняковского)
о в
2(s, f)dsdt)~r.
Таким образом, в теореме В. В. Немыцкого |а| меньше
половины наименьшей абсолютной величины характеристи-
характеристических чисел ядра K(s, t).
§ 3. Сходимость метода Б. Г. Галеркина
при приближенном решении нелинейных уравнений
Многие методы приближенного решения уравнений за-
заключаются в построении точных решений уравнений, близких
в некотором смысле к уравнению первоначальному.
Если переход к приближенному уравнению соответствует
гомотопному переходу от векторного поля, отвечающего
первоначальному уравнению, к векторному полю, отвечаю-
отвечающему приближенному уравнению, то естественно к иссле-
исследованию данного приближенного метода решения уравнений
привлечь топологические соображения.
В настоящем параграфе мы исследуем с этой точки зре-
зрения применимость методов типа метода академика Б. Г. Га-
Галеркина (метод Ритца, метод наименьших квадратов, метод

§ 3] СХОДИМОСТЬ МЕТОДА Б. Г. ГАЛЕРКИНА 173
Петрова и т. д.) к построению приближенных решений
уравнений вида
о = А<р,
где А — вполне непрерывный, вообще говоря нелинейный,
оператор.
Многочисленные результаты, относящиеся к методу
Ритца — Галеркина, были получены академиками Н. М. Кры-
Крыловым и Н. Н. Боголюбовым (подробную библиографию см.
в [36]) для различных классов, линейных дифференциальных
уравнений. Первые общие результаты о сходимости метода
Галеркина были получены академиком М. В. Келдышем [27],
работа которого основана на исследовании бесконечных
определителей. В дальнейших работах Л. В. Канторовича [24],
С. Г. Михлина [46] и Н. И. Польского [53] применялись
методы функционального анализа; в этих последних работах,
как правило, исследование сводилось к изучению линейных
вполне непрерывных операторов.
Метод Галеркина применялся и для приближенного реше-
шения некоторых конкретных нелинейных уравнений *).
Основные результаты настоящего параграфа без дока-
доказательств были опубликованы в [286].
1. Сходимость процесса. Пусть LtcL2c . . . cLnc ...—
такая последовательность конечномерных подпространств
возрастающей размерности банахова пространства Е, что
оо
' множество U Ln плотно в Е.
«=1
Линейный оператор Р, действующий в пространстве Е,
называется проекционным, если
Р2— р.
Примером проекционного оператора может служить
оператор ортогонального проектирования на некоторое под-
подпространство в гильбертовом пространстве.
*) См. А. И. Лурье и А. И. Чекмарев, Вынужденные
колебания в нелинейной системе с характеристикой, составленной
из двух прямолинейных отрезков, Прикл. матем. и мех. 1, № 3
A938); Д. Ю. Панов, О применении метода Б. Г. Галеркина для
решения некоторых задач теории упругости, Прикл. матем. и мех. iJ,
№ 2 A939).

.174 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Пусть Pt, Р2 Рп, ... — последовательность линей-
линейных проекционных операторов с равномерно ограниченными
нормами
1|Р„1К* (»=1. 2, ...)•
Пусть при этом
PnE = Ln (»=1, 2,...).
Пусть А—-вполне непрерывный оператор, действующий
в пространстве Е. Мы будем рассматривать уравнение
? = А<р, C.1)
причем будем предполагать, что это уравнение имеет изо-
изолированное решение <ро ненулевого индекса (индекс решения
»0 — это индекс неподвижной точки »0 векторного поля 1—А).
Если в0 — не единственное решение уравнения C.1), то будем
в дальнейшем предполагать, что все рассуждения прово-
проводятся для элементов из некоторого шара ТаЕ, в котором
кроме <Ро уравнение C.1) не имеет решений.
Если C.1) — линейное уравнение, имеющее единственное
решение <Ро> то индекс этого решения, как нам уже известно,
равен 1 или —1.
Приближенным решением в„ уравнения C.1) будем
называть решение уравнения
? = РПА?. C.2)
Очевидно, <рп£1„.
Нас будут интересовать следующие вопросы: существуют
ли при достаточно больших п приближенные решения (суще-
(существует ли такое п0, что при п^>п0 уравнение C.2) имеет
в шаре Т решения), сходятся ли при п —> оо приближенные
решения к решению в0 уравнения C.1) и, если сходятся,
то какова быстрота этой сходимости?
Рассмотрим на Т вполне непрерывное векторное поле
Ф=1 — А. Это поле на границе 5 шара Т не имеет нуле-
нулевых векторов. Вращение поля Ф на 5 отлично от нуля —
оно равно индексу единственной неподвижной точки <ро поля
в шаре Т.
Как это следует из определения вращения вполне непре-
непрерывного векторного поля, поле I — РПА имеет на 5 то же
вращение, что и поле I — А (при п, больших некоторого п0).

§ 3] СХОДИМОСТЬ МЕТОДА Б. Г. ГЛЛЕРКИНЛ 175
Но вращение поля I — РПА па S совпадает с вращением
поля I — РПА на 5 П Ln. Значит, вращение поля I — РПА на
Sf\Ln отлично от нуля и, следовательно, поле I — Р„А на
Tf)Ln имеет неподвижные точки.
Таким образом, уравнение C.2) при п'^п0 имеет
в T(\Ln решения ®п.
Пусть Те — шар радиуса з (з — сколь угодно малое
положительное число) с центром в о0. Поле Ф на множе-
множестве Т1=Т\Т1 не имеет нулевых векторов. Значит, най-
найдется такое а > 0, что
||Фх||>а (*€7\)-
Пусть п0— такое число, что подпространство 1По с точно-
точностью до -^ (где АГ^||РП||, п=\, 2,...) аппроксимирует
компактное множество ATV Тогда для каждого х£7\ най-
найдется такой элемент у £ Ln>, что
II А* — ^11<^>
откуда при всех
|| Ах - Р„Ах || < || Ах - у || + II Р„ (Ах — .у) [|
Из неравенства C.3) следует, что при п^>>п0, x^Tt
Цх-РпАхЦ > ||х-Ах|| - ||Ах-Р„Ах|| >-|.
Последнее неравенство означает, что решение <?п уравне-
уравнения C.2) при п^>>п0 удовлетворяет условию
IITn —Toll <s-
Сформулируем полученный результат в виде теоремы.
Теорема 3.1. Приближенные решения о„ при п,
больших некоторого п0, существуют.
При п -*■ оо приближенные решения <?„ сходятся к ре-
решению уравнения C.1).
2. Быстрота сходимости. При оценке быстроты схо-
сходимости приближенных решений vn естественно сравнивать
эту быстроту с быстротой сходимости приближенных

176 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
решений, полученных тем же методом для «уравнения»
<р = «0, где в0 — решение уравнения C.1). Иначе говоря,
сходимость приближенных решений естественно сравнивать со
сходимостью «ряда Фурье»:
Р?о + (Ра — Pi) ?о + (Р8 - Ра) ?о + • • •
Теорема 3.2. Пусть оператор А имеет в точке <р0,
являющейся решением уравнения C.1), производную Фре-
ше В, для которой 1 не является собственным числом.
Тогда быстрота сходимости приближенных решений
<?п к ?о характеризуется неравенством
Ъп~ Toli<0+8n)l|Pn?o — Toll.
где гп -> 0 при п -> со.
Доказательство. В силу того, что
<?о = А%, »ft = Pnen = PnA« „,
справедливо равенство
(I - В) (?я — ?0) + (В - РПВ) (?я - То) +
+ Р„ (ВРП — В) (Т„ — ?0) — Р„ [ А?„ — А«о — В (<ря — То)] =
= A — В) (Рп?0 — ?0) + (В — Р„В) (Рп?0 — «о), C.4)
проверка которого заключается в раскрытии всех скобок и
приведении подобных слагаемых.
Введем обозначения
||A —В)-31|= Я, ||В —РЯВ||=«Я, ||ВР„ —В||=?„.
В теории линейных вполне непрерывных операторов дока-
доказывается, что
lim an = 0, lim ?„ = 0.
П->оо П->оо
Введем обозначение
— A-fо — В (-f п — ?о) II , , 9 ^
A Д)
Так как В — это производная Фреше оператора А, а в силу
теоремы C.1)
lim ||<Pn — <Poll =0,
и-> со
ТО
lim ч„ = 0.

§ 3] СХОДИМОСТЬ МЕТОДА Б. Г. ГАЛЕРКИНА 177
Применяя к C.4) оператор (I—В) и оценивая правую
и левую части, получим:
11?я-?о11-я(«»+*?«+*тг«I1?«-<ро11<:
<ЦРТо —Toll+Я«„ II Р«То —Toll,
откуда
II ?п — То II <A+зп) || Ря?0 —?oll.
где
так что гп —> 0 при п —> оо .
Теорема доказана.
Отметим, что данное выше обоснование сходимости про-
процесса построения приближенных решений относится и к ура-
уравнениям в комплексном банаховом пространстве, так как
каждое такое пространство можно рассматривать и как
нещественное.
Предположим дополнительно, что оператор А в окрест-
окрестности точки »0 непрерывно дифференцируем. Тогда, приме-
применяя теорему D.8) из главы II, можно показать, что прибли-
приближенное уравнение C.2) при достаточно больших п будет
иметь в Т единственное решение.
В изложенную общую схему укладываются многие изве-
известные приближенные методы, которые определяются спосо-
способом построения подпространств Ln и проекционных опера-
операторов Рга. Рассмотрим некоторые из них.
3. Метод Б. Г. Галеркина. Пусть банахово простран-
пространство Е обладает базисом {gi}. Тогда каждый элемент <а £ Е
однозначным образом представим сходящимся рядом
где Gj(«) (t=l, 2, . . .) — непрерывные функционалы. Из-
Известно (см., например, [6]), что проекционные операторы Рп,
определенные равенством
имеют равномерно ограниченные нормы
ЦР„11<К (»=1, 2,

178 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Через Ln будем обозначать линейную оболочку первых п
элементов базиса.
Решения »„ уравнений ю = РпА<р, где Рга — определенные
выше операторы, называют галеркинскими приближенными
решениями уравнения
<? = А<?. C.5)
Из теорем C.1) и C.2) непосредственно следует:
1. Галеркинские приближенные решения «„ уравнения
C.5) существуют при достаточно больших п, причем
они сходятся к точному решению »0 уравнения C.5),
если »0—изолированное решение ненулевого индекса.
2. Если в точке <э0 оператор А имеет дифференциал
Фреше, для которого 1 не является собственным числом,
то быстрота сходимости характеризуется неравенством
11?„?о11<(+«) II i г
г=«+1
где г,, -> 0 при п ->■ оо .
4. Обобщение Г. И. Петрова [52]. Пусть в Е заданы
два базиса: { gt} и {/$}. Каждый элемент <?£Е представим
тогда сходящимися рядами
2
Линейную оболочку элементов gt, ..., gn обозначим
через Ln. Линейную оболочку первых п элементов второго
базиса обозначим через Мп. Через Мп обозначим замыка-
замыкание линейной оболочки остальных элементов /n., t, /n+2, • • •
второго базиса. Через Qn обозначим проекционный опера-
оператор, определенный равенством
? 2
Нормы операторов Qn равномерно ограничены:
(»=i. 2, ...)•

§ 3] СХОДИМОСТЬ МЕТОДА Б. Г. ГАЛЕРКИНА 179
Г. И. Петров предложил обобщение метода Галеркина
для приближенного решения уравнения
© — А«+/>
где А — линейный вполне непрерывный оператор, для кото-
которого 1 не является собственным числом. Это обобщение за-
заключается в том, что приближенное решение <ви ищут в виде
?«
п
= 2
где коэффициенты сг определяют из уравнений
f. — А<р„ —/) = 0. (; = 1, .. ., п). C.6)
Обоснование сходимости метода Петрова — Галеркина
для одного частного случая было дано самим Г. И. Петро-
Петровым. В общем случае обоснование было дано Н. И. Поль-
Польским [5;б] в предположении, что выполнено условие
(А). Существует такое число R > О, что для всех п,
начиная с некоторого,
»=1
Обозначим через Dra оператор, определенный на Ln pa-,
венством
Dn<? = Qn<? (<?££„)•
Условие (А) тогда можно записать в виде
11?11<Я||ВД1 (?€£„).
откуда следует, что на Мп определен оператор D^\ причем
В случае невыполнения условия (А) можно указать такие
элементы <р0, что приближенные решения Петрова — Галер-
Галеркина для уравнения ср = ср0 не сходятся.
Мы будем считать в дальнейшем, что условие (А) вы-
выполнено.
Рассмотрим уравнение
Т = А«р, C.7)

180 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
где А — теперь уже нелинейный вполне непрерывный опе-
оператор. Систему C.6) будем писать в виде
F,-(? — А<р) = О (/=1, ...,»). C.8)
Если элемент «п£1га является решением системы C.8),
то это эквивалентно тому, что
?» —А?„6Л1». C.9)
Таким образом, отыскание приближенных решений методом
Петрова — Галеркина эквивалентно отысканию таких элемен-
элементов <?„£/.„, для которых справедливо C.9).
Рассмотрим последовательность
gf • • •> ёп> fn+V fn+2' • • •
При достаточно больших п эта последовательность является
базисом. Действительно, в силу условия (А) каждый элемент
«££ однозначным образом представим в виде суммы двух
элементов из Ln и Мп, а следовательно, и в виде
? 2(?)£i+ 2 (?)Л (
1=1 г=»+1
Определим проекционные операторы Р„ равенством
Тогда отыскание приближенных решений <?„££„ Петрова
Галеркина эквивалентно решению в Ln уравнения
в = Р„Ав.
Действительно, если вп = Р„Аоп, то, так как Р„в„ = ?
т. е. вп — А«„^Ж™. Обратно, если »га — А»П^УИ™, то
?п — Р„А«П = Prt (?n — А«р„) = 6.
Чтобы из теорем 3.1 и 3.2 сделать выводы о сходимости
метода Петрова — Галеркина, нужно показать, что нормы

§ 3] СХОДИМОСТЬ МЕТОДА Б. Г. ГАЛЕРКИНА 181
операторов Р„ равномерно ограничены. Это следует из
того, что
P«=D;1Qn>
откуда
WKIKRK.
Таким образом, теоремы 3.1 и 3.2 описывают сходи-
сходимость метода Петрова — Галеркина, если выполнено усло-
пие (А) Н. И. Польского.
5. Вычисление собственных чисел линейных операто-
операторов. Топологические соображения применимы и при иссле-
исследовании сходимости метода Галеркина в задаче о вычислении
собственных чисел и собственных функций линейных вполне
непрерывных операторов.
Пусть I» и Р„(п=1, 2, .. .) — подпространства и про-
проекционные операторы, введенные в пункте 1.
Пусть линейный оператор А действует в вещественном
банаховом пространстве Е. Пусть и.о— положительное (для
определенности) характеристическое число оператора А,
которому отвечает нечетномерное инвариантное под-
подпространство.
Все рассуждения, проводимые в этом пункте, не отно-
относятся к комплексным 1'ространствам, рассматриваемым как
вещественные, -— в таких пространствах все инвариантные
подпространства, соответствующие собственным числам, чет-
номерны.
Рассмотрим в Е вйолне непрерывное векторное поле
фср = ев — [| о || А?-
Вращение этого поля на сферах St и 52 радиусов [0
и [л.о — s (з — достаточно малое число) в силу теоремы 4.6
из главы II различно. Из определения вращения следует,
что, начиная с некоторого п, зависящего от s, вращение
поля Ф„,
на сферах Sx[\Ln и S2 П Ln будет различно, в силу чего
найдется тако^4-"лемент <?„££„, что
?п= 1Ы|Р«Ас?„,
причем

182 ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ [ГЛ. III
Это означает, что операторы Р„А имеют характеристиче-
характеристические числа, близкие к ij.o.
Значит, методом Галеркина можно приближенно на-
находить нечетнократние собственные числа линейных
вполне непрерывных операторов.
Отметим, что аналитические методы позволяют устано-
установить (см., например, [156]), что метод Галеркина применим
для вычисления всех собственных чисел (не только нечетно-
кратных) в случае комплексного банахова пространства.
Теорема 3.2 позволяет для случая банаховых пространств
с дифференцируемой нормой установить быстроту сходи-
сходимости метода Галеркина при вычислении простых собствен-
собственных чисел линейных вполне непрерывных операторов.
Пусть Е — вещественное гильбертово пространство.
Пусть >,0 — простое собственное число линейного вполне
непрерывного оператора А. Через св0 обозначим соответ-
соответствующий собственный вектор
А<Р0 = *о?о-
Пусть
Рассмотрим снова векторное по/4' ср—Ц?||А».
Производная Фреше В оператора ||«?||А<р в точке ?0 опрег
делится равенством
Вср = ло(ср, <?о)?о + у-А?.
так как а
II <Ро + ? IIА («о + '■?) — I! ?о II Ас?о — В? =
откуда следует, что
Jim Яil ?о + ? 11А (ъ + 9) — II?пII Ач»п — В? И _ 0
;i?ll-*o llcPl!
В силу леммы 1.1 настоящей главы ед^-чца не является
собственным числом оператора В. Поэт -£f в силу тео-
теоремы 4.7 главы II точка <р0 будет изолиров.дьюй неподвиж-
неподвижной точкой поля ср—ЦаЦАср, причем индекс ,тгой неподвиж-
неподвижной точки будет равен -f- 1 или —1.

§ 3] СХОДИМОСТЬ МЕТОДА Б. Г. ГАЛЕРКИНА 183
Решения <?„ уравнений о—|| <в || РиА<р = Ь будут собст-
собственными функциями операторов Р„А, которым отвечают
собственные числа Xn=jj—г.
Из теоремы 3.2 следует
Теорема 3.3. Простое собственное число л0 и соот-
соответствующая собственная функция <ро могут быть вы-
вычислены приближенно при помощи метода Галеркина
заменой оператора А операторами Р„А.
Быстрота сходимости приближенных собственных
чисел л„ и приближенных собственных функций оп к к0
и св0 характеризуется неравенствами
(! + '«)IIр»%~«oil
где гп —* 0 при п —> оо .
Любопытно отметить, что оценки C.10) и C.11) не уда-
удалось получить без использования перехода к нелинейному
ур авнению ср — (| <р || А<э = 9.
Повидимому, оценка быстроты сходимости приближенных
собственных чисел, полученная в теореме 3.3 (для случая,
когда отыскиваемое собственное число простое), справедлива
и в общем случае кратных собственных чисел. Для общего
случая, естественно, нужно искать аналитическое доказа-
доказательство.

ГЛАВА IV
ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ
В настоящей главе исследуется ряд вопросов, связанных
с собственными функциями нелинейных операторов.
В задачах техники и физики, приводящих к изучению
нелинейных операторов А, собственные функции возни-
возникают обычно как вторые решения уравнения А» = Х<в,
существующие при некоторых избранных значениях пара-
параметра л.
Первое нулевое решение в ряде задач очевидно.
К задачам о существовании собственных функций — вто-
вторых решений приводят, например, многочисленные задачи
механики, требующие отыскания форм потери устойчи-
устойчивости.
Обычно задача ставится так: рассматривается уравне-
уравнение <? = jaA» с переменным параметром а. При малых зна-
значениях параметра и. удается показать, что нулевое решение
(предполагается, что АИ = 0) единственно. При возрастании
значений параметра \>,, начиная с некоторого момента,
в окрестности 0 появляется ненулевое решение уравнения
Число а0 называется точкой бифуркации, если для лю-
любых s, 8 > О найдется характеристическое число \i опе-
оператора А такое, что |jj. — ;xo|<s, причем этому харак-
характеристическому числу отвечает по крайней мере одна соб-
собственная функция ср: <э = liA'-s, с нормой, меньшей 3.
В качестве примера рассмотрим задачу об изгибе прямо-
прямолинейного стержня единичной длины и переменной жесткости
pOs) = ~cr7 под воздействием силы Р (см. чертеж). Как из-
известно, прогиб y(s) определяется решением дифференциаль-

ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ 185
лого уравнения
у" (s) + Po (s) у (S) V 1 — У2 (s) = О
при граничных условиях
Введем обозначение у" (s) — —<?(s)- Очевидно, знание функ-
\У ^счг Р
ции «(s) позволяет немедленно вычислить и прогиб y(s).
Если у"(s) = — <?(s) и _у(О)=_уA) = О, то*)
^/(s)= Г AT(s, t)<o(t)dt,
о
где, AT(s, 0 — функция Грина:
;A —О ПРИ s <^^'>
A—s) при
Производная j/' (s) определится равенством
о
где
1 —t при s
, 0= , ,
I —* при s > £.
Для определения функции cp(s) мы получаем, таким
образом, нелинейное интегральное уравнение
1 Г \
о (s) -^ P9 (s)$K(.s,t)<f(f)dty 1 — [ J К'а (s, t)<? @ dtj.
*) См., например, [1В].

186 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Функцию р (s) естественно считать положительной и непре-
непрерывной. Тогда без труда проверяется, что оператор А,
определяемый правой частью этого уравнения,
Ас? (я) = Р? (s) JK(s, t) <? (t) dt ■ у 1 — [ j K'a (s, 0 <p (f) dtj
действует в пространстве С непрерывных на сегменте [0, 1]
функций и при малых Р удовлетворяет в единичном шаре
этого пространства условиям принципа сжатых отображений.
В силу этого при малых Р рассматриваемое нелинейное
интегральное уравнение имеет в единичном шаре простран-
пространства С единственное нулевое решение. Это означает, что
при малых силах Р стержень не изгибается. Однако при
силах, больших так называемой критической силы Эйлера,
возникают прогибы. Критическая сила Эйлера и является
первой точкой бифуркации.
Первоначальная задача, возникающая в теории собствен-
собственных функций,—это задача о существовании точек бифурка-
бифуркации, об отыскании точек бифуркации.
Важную роль играют собственные значения. Второй
вопрос*), возникающий в теории собственных функций,—
это вопрос о структуре спектра, его дискретности или
сплошности и т. д.
Третий важный вопрос — это вопрос о кратности спектра,
вопрос о том, сколько с бственных функций оператора соот-
соответствуют данному собстьенному числу.
Четвертый вопрос — это вопрос о структуре множества
собственных функций.
Топологические методы, развитые в предыдущих главах,
позволяют для различных классов операторов найти ответы
на поставленные и другие аналогичные вопросы.
*) Для уравнения Гаммерштейна
f K(s, t)f\t, <р @] dt = Xcp (s)
G
с положительно определенным ядром и аналитической по и функ-
функцией f(t, и) этот вопрос был подробно исследован в работах
Н. Н. Назарова.

§ 1] ТОПОЛОГИЧЕСКИЕ ПРИНЦИПЫ 187
§ 1. Топологические принципы существования
собственного вектора
1. Почти собственные векторы. Пусть А — вполне не-
непрерывный оператор, действующий в бесконечномерном ба-
банаховом пространстве Е. Пусть L — граница некоторой
ограниченной области из Е, содержащей Ь. Тогда опера-
оператор А имеет на L «почти собственные» векторы, т. е.
каково бы ни было положительное число а, всегда можно
найти такое число Ае и такой элемент ср£, что
I|A«.-V?,||<8. A.1)
Для доказательства аппроксимируем компактное множе-
множество AZ. нечетномерным подпространством ЕпсЕ с точно-
точностью до ^г и построим такой шаудеровский (см. стр. 113)
оператор проектирования Рп множества AL на Еп, что
|1Р„А<?-А<р11<е (<?£!). A.2)
Оператор Р„А на I П Еп в силу теоремы о еже (см. § 2
главы II) будет иметь собственный вектор, который мы
обозначим через ог. Соответствующее собственное число
обозначим через Х6:
Р„А<?, = Aso6.
Неравенство A.1) следует непосредственно из A.2).
Из существования почти собственных векторов следует
теорема 1.1, установленная для векторных полей на сфере
Биркгофом и Келлогом ['•] и Э. Роте [56дЧ *).
Теорема 1.1. Пусть А — вполне непрерывный опера-
оператор, определенный на границе L ограниченной области,
содержащей нуль 8 пространства Е. Пусть
ЦА<р||>а>0 (<р£/-)- A-3)
Тогда оператор А имеет на L по крайней мере один
собственный вектор.
*) См. также [1Ок], где этот результат получен для полей на
границе выпуклой области.

188 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ (ГЛ. IV
Доказательство. Обозначим через ?„(/1 = 1, 2, ...)
такую последовательность почти собственных векторов опе-
оператора А, что
ъ (?„€£; »=1. 2, ...)■ A.4)
Так как оператор А компактен, то
HA?J=fc<oo. A.5)
П = 1, 2, ...
Пусть R и г —числа, определенные равенствами
/? = sup||<?||, r— inf ||о||.
Очевидно, числа г и R положительны и конечны.
В силу A.4) и A.5)
С другой стороны, в силу A.3) и A.4)
Таким образом, можно выбрать сходящуюся к некоторому
числу л0 подпоследовательность Хп., причем
Так как оператор А вполне непрерывен, то можно считать,
что подпоследовательность индексов й4 выбрана так, что и
элементы А<р„ сходятся к некоторому элементу <|<££.
Тогда сходится и последовательность элементов ср„ к эле-
элементу <?0 == y- б, так как
Значит, «?0^/-, причем из непрерывности оператора А сле-
следует, что
Теорема доказана.

§ 1] ТОПОЛОГИЧЕСКИЕ ПРИНЦИПЫ 189
2. Принцип сравнения двух векторных вполне непрерыв-
непрерывных полей. Пусть на границе L некоторой области задано
два вполне непрерывных векторных поля Ф1 = I — At и
Ф2 = I — А2. Допустим, что в каждой точке <р£1 векторы
«р — At<p и ср — А2<? не направлены противоположно. Тогда
поля
ле имеющие нулевых векторов при 0^/^1, дают гомо-
гомотопный переход от одного поля к другому. Значит, враще-
вращения полей Фх и Ф2 одинаковы.
Таким образом, доказано, что для вполне непрерывных
полей Фг и Ф2 с различным вращением на L найдется
на L такая точка, в которой векторы этих полей на-
направлены противоположно.
Последнее утверждение приводит к двум теоремам.
Теорема 1.2. Пусть L — граница ограниченной об-
области банахова пространства, содержащей 0. Пусть враще-
вращение вполне непрерывного векторного поля Ф = I — А на L
отлично от единицы.
Тогда оператор А имеет на L по крайней мере один
собственный вектор, которому соответствует положи-
положительное собственное число.
Теорема 1.3. Пусть L — граница ограниченной об-
области банахова пространства, не содержащей Ь вместе
с некоторой окрестностью. Пусть вращение на L вполне
непрерывного векторного поля Ф = 1 — А отлично от
нуля.
Тогда оператор А имеет на L по крайней мере один
собственный вектор, которому соответствует положи-
положительное собственное число.
Доказательство. Рассмотрим в Е вполне непрерыв-
непрерывное векторное поле ЧГ = 1. Вращение этого поля на границе
каждой области, содержащей 0, равно 1. Поэтому в усло-
< виях теоремы 1.2 найдется точка <ро££ такая, что векторы
св0 и ср0 — Асв0 направлены противоположно:
откуда следует, что сро — собственный вектор оператора А,
которому соответствует собственное число l-f-ti>0.

190 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
В условиях теоремы 1.3 вращение поля Ч? = I на I равно
нулю (так как поле внутри L не имеет неподвижных точек).
Поэтому, если вращение поля I—А на L отлично от нуля,
то также найдется вектор «?о€^> направленный противопо-
противоположно вектору св0—А«о.
Теоремы доказаны.
3. Собственные функции ненулевого индекса. Индексом
собственного вектора ср0 вполне непрерывного оператора А,
отвечающего ненулевому собственному числу а0, будем назы-
называть индекс неподвижной точки ср0 вполне непрерывного век-
векторного поля I — т-А. Случай, когда о0 является неизоли-
рованным решением уравнения А<в = лев, мы здесь не рас-
рассматриваем.
В предыдущей главе был указан случай (теорема 4.7),
когда индекс неподвижной точки вычислялся по производной
Фреше оператора, определяющего поле. В § 4 будут при-
приведены примеры вычисления индекса при других условиях.
Скажем, что собственные векторы оператора А образуют
в области G с Е непрерывную ветвь, проходящую через
точку ср0, если граница каждого ограниченного открытого
множества, содержащего сро и содержащегося в О, имеет
непустое пересечение с множеством собственных векторов.
Теорема 1.4. Пусть ср0 — изолированный собствен-
собственный вектор ненулевого индекса вполне непрерывного опе-
оператора А, отвечающий собственному числу л0 Ф 0.
Тогда можно указать такую область О сЕ, в кото-
которой собственные векторы оператора А образуют непре-
непрерывную ветвь, проходящую через ср0.
Спектр оператора А в этом случае сплошной (со-
(содержит интервал).
Доказательство. Через О обозначим произвольную
ограниченную область, не содержащую 0 и не содержащую
отличных от ср0 неподвижных точек вполне непрерывного
векторного поля I — т—А.
Пусть Lt — граница области Ot с: О, содержащей <р0.
Так как вращение векторного поля на границе области
равно сумме индексов неподвижных точек поля внутри об-
области, то вращение поля I — т— А на Lt равно индексу не-

1]
ТОПОЛОГИЧЕСКИЕ ПРИНЦИПЫ
191
подвижной точки (?о и> следовательно, отлично от нуля.
Тогда в силу теоремы 1.3 на Z. оператор -г— А, а значит,
и А, имеет по крайней мере один собственный вектор.
Таким образом, собственные векторы образуют в G не-
непрерывную ветвь.
Перейдем к доказательству второй части теоремы.
Векторное поле I — — А не имеет на L нулевых векто-
ров. Поэтому найдется такое положительное число а, что
1_
Пусть
Покажем, что тогда некоторый интервал полностью принад-
принадлежит спектру оператора А. Действительно, если
то векторное поле I — у А гомотопно полю 1 — -г-А, так
как оно получено возмущением последнего при помощи
оператора (- т)^> для которого
1 1
Значит, вращение на L поля I — — А равно отличному от
нуля вращению поля I — — А. Тогда в силу принципа
1
Лере — Шаудера поле I-
А имеет в G неподвижную
точку, а это и означает, что X является точкой спектра
(собственным числом) оператора А.
Теорема доказана.
Рассуждения, которые мы провели выше, имеют сущест-
существенный недостаток: они не позволили исследовать вопрос
о количестве собственных векторов, соответствующих дан-
данному собственному числу.

192 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Следствие из теоремы 4.8 главы II является более точ-
точным утверждением о структуре спектра. Сформулируем его
в терминах собственных функций.
Теорема 1.5. Пусть ф0 — собственный вектор нели-
нелинейного вполне непрерывного оператора А, непрерывно
дифференцируемого в окрестности точки сэ0.
Пусть собственное число л0, соответствующее век-
вектору ®0, отлично от нуля и не является собственным
числом производной Фреше оператора А в точке <р0.
Тогда спектр оператора А содержит некоторый ин-
интервал (л0 — е, Х0-|-е), причем существует такая окрест-
окрестность точки ф0, что каждому л из интервала (Ао — з,
^о + е) в этой окрестности отвечает единственный соб-
собственный вектор ®х> причем <ох непрерывно зависит от А.
Примером оператора, непрерывно дифференцируемого
в некотором шаре банахова пространства, как уже указы-
указывалось выше, может служить оператор П. С. Урысона
A<p(s)= JK[s, t, ф
\dt
в пространстве С непрерывных на замкнутом ограниченном
множестве G функций, если предположить, например, что
функции K(s, t, и) и -^-K(s, t, и) непрерывны по всем пе-
переменным при s, t£G, |и|О, где г — некоторое число.
Производная Фреше В оператора Урысона в точке <э0
определится равенством
ё
Вторым примером могут служить операторы Гаммер-
штейна
= f K(s, f)f[t, 9(f)]dt,
если предположить, что ядро K(s, t) допустимо, а функ-
функции f(t, и) и -j-f(t, и) непрерывны. Производная Фреше

§ 1] ТОПОЛОГИЧЕСКИЕ ПРИНЦИПЫ 193
в этом случае определится равенством
4. Малые собственные функции. Метод малых возму-
возмущений. Аналогично тому, как теорема 1.3 привела нас
к доказательству теорем о непрерывных ветвях собственных
векторов с нормами, достаточно большими, теоремы 1.1 и 1.2
приводят к различным утверждениям о существовании ветвей
собственных векторов с малой нормой. Неудобство тео-
теорем 1.1 и 1.2 в доказательстве существования малых соб-
собственных функций заключается в том, что на основании
этих теорем нельзя сделать заключений о значениях соот-
соответствующих собственных чисел, т. е. нельзя исследовать
структуру спектра.
При исследовании структуры спектра оператора метод
малых возмущений может применяться в трех вариантах.
Первый, более простой вариант неоднократно уже изла-
излагался. Он заключается в том, что вопрос о существовании
собственных векторов, соответствующих собственным числам
А.0 + а, рассматривается как задача о существовании по край-
крайней мере одного нулевого вектора у возмущенного вектор-
векторного поля I — т—А+я—1—рг А в области, не содержащей 0.
к0 (к0 + V к0
В силу общих утверждений главы II мы получили на этом
пути теорему 4.4: если <Ро— собственная функция ненулевого
индекса, то спектр содержит некоторый интервал.
Второй, более сложный вариант метода малых возмуще-
возмущений относится к задаче о малых собственных функциях.
Пусть АЬ = Ь, причем известно, что при переходе X
через некоторое число к0ф 0 индекс неподвижной точки Ь
поля I — у А меняется. Пусть на границе L некоторого
ограниченного открытого множества G, содержащего 0,
поле I — ^А не имеет нулевых векторов. Тогда и при зна-
чениях X, близких к Хо, поля 1 г-А также не будут иметь
на L нулевых векторов, причем вращение f всех этих полей
на L одинаково. Так как индекс неподвижной точки 0

194 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
полей 1 г-А при а < к0 и при а > л0 будет различным,
то при некоторых таких значениях л этот индекс будет
отличен от f. Но это значит, что при этих значениях к
поле I — v-A имеет в G нулевые векторы, отличные от 0.
Эти нулевые векторы будут собственными векторами опера-
оператора А.
Проведенное рассуждение позволяет доказывать суще-
существование собственных векторов, позволяет исследовать
структуру спектра, однако не позволяет исследовать струк-
структуру множества собственных векторов. Поэтому ниже мы
будем пользоваться другими соображениями.
Наиболее точные результаты удается получить на сле-
следующем пути.
Пусть F(x, t) (x£L, 0<;£<;i)— вполне непрерывный
оператор, определенный на топологическом произведении
сегмента [0, 1] на границу L некоторой ограниченной об-
области Gc:£. Пусть вращения на L полей Фох=х — F(x, 0)
и Фгх = х— F (х, 1) различны. Тогда найдется такая
точка x£L и такое число t, 0<£< 1, что
f). A.6)
Если удается так сконструировать оператор F (x, f), что
решение уравнения A.6) дает собственную функцию иссле-
исследуемого оператора, то изложенный метод позволяет доказы-
доказывать теорему существования собственных векторов.
Этот метод ниже применяется при исследовании вполне
непрерывных и не вполне непрерывных операторов.
§ 2. Законность линеаризации в задаче
о точках бифуркации [29д]
1. Точки бифуркации. Рассмотрим в банаховом про-
пространстве Е уравнение
B.1)
где А — непрерывный оператор, удовлетворяющий усло-
условию АИ = 9.
Пусть В — производная Фреше оператора А в точке 0.
Это значит, что оператор А представим в виде A = B-f-Q,

. § 2] ЛИНЕАРИЗАЦИЯ Й ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 195
причем оператор Й удовлетворяет условию
\шЩ=0. B.2)
Мы будем считать во всем параграфе, что линейный опера-
оператор В вполне непрерывен. В частности, это всегда имеет
место (как было показано в главе II), если вполне непреры-
непрерывен оператор А.
Лемма 2.1. Пусть ;х0 не есть характеристическое
число оператора В. Тогда можно указать такой шар ТсЕ
с центром в Ь, в котором нет собственных векторов
оператора А, которым соответствуют характеристиче-
характеристические числа, близкие к а0.
Доказательство. В условиях доказываемого утвер-
утверждения оператор (I — и0В)~ непрерывен. Пусть
Выберем TczE так, чтобы из о^Г при выполнении усло-
условия B.3) следовало
11-. B.4)
Пусть <?£Т является решением уравнения B.1), в котором и,
удовлетворяет условию B.3). Тогда в силу B.3) и B.4)
1!! -II? —ю
откуда следует, что |(р| = 0, т. е. ф = 6.
Лемма доказана.
Из леммы 2.1 следует, что собственные векторы опера-
оператора А с малыми нормами могут соответствовать только
характеристическим числам, достаточно близким к характе-
характеристическим числам линейного оператора В.
Пусть [а0 — точка бифуркации нелинейного оператора А.
Сама точка бифуркации может не быть характеристическим
числом оператора А. В случае линейных вполне непрерывных
операторов точки бифуркации — это то же самое, что и
характеристические числа.

196 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
В механике при отыскании точек бифуркации нелиней-
нелинейного оператора А задачу обычно линеаризуют: вместо опе-
оператора А рассматривают линейный оператор В (производную
Фреше оператора А в точке Ь), находят характеристические
числа линейного оператора В, которые и считают точками
бифуркации оператора А. Ф. С. Ясинский [v3] пытался обос-
обосновать этот принцип линеаризации, однако допустил в своих
рассуждениях ошибку (на работу Ф. С. Ясинского и на имею-
имеющуюся там ошибку наше внимание обратили А. Ю. Ишлин-
ский и М. Г. Крейн). Для некоторых частных случаев закон-
законность линеаризации была показана Филоненко-Бородичем
(в задаче об изгибе стержня постоянной жесткости и др.),
А. И. Некрасовым, Н. Н. Назаровым *) аналитическими
методами.
Оказывается, что линеаризация допустима не всегда.
Из леммы 2.1 следует, что точками бифуркации опера-
оператора А могут быть только характеристические числа опера-
оператора В. Однако некоторые из этих характеристических
чисел могут и не быть точками бифуркации.
Пример. Рассмотрим в плоскости с прямоугольной
системой координат {\v £2} оператор А, определенный равен-
равенством
а &, у = {^ - к е!+ер. к+Si с;+Ф) •
Очевидно, оператор В при этом обращается в оператор I
тождественного преобразования и будет иметь характери-
*) Н. Н. Назаров [*бг] рассматривал общую задачу построения
голоморфных относительно ~к решений уравнения Гаммерштейна
. = \\
K(s,t)f[t,
о
разлагая искомое решение в ряд по степеням (целым или дроб-
дробным) к — \0, где к0 — такое значение параметра, при котором реше-
решение уравнения Гаммерштейна известно. При этом в большинстве
случаев предполагается, что известное решение cpn (s) нетривиально:
4>о (s)^ 0. Для некоторых случаев Н. Н. Назарову удается рассмотреть
и задачу о точках бифуркации (в предположениях положительной
определенности ядра К (s, t), аналитичности функции / (t, и) по и
и при некоторых дополнительных ограничениях).
Метод разложения но степеням приращения параметра X для
отыскания собственных функций нелинейных интегральных уравне-
уравнений с успехом впервые применил А. И. Некрасов в своих работах
(см. f*8]) по теории волн.

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 197
стическим числом единицу. Оператор А при этом совсем
he имеет собственных векторов. Пусть, действительно, при
некотором а:
Умножая первое из этих равенств на £t> второе — на £2 и скла-
складывая, получим ^-(-^ = а(^-|-ф, откуда следует, так как
^1~\-Ц ф 0, что jx = 1. Подставляя в B.5) [х=1, получим,
что Et"=sa = O.
Отметим, что в этом примере кратность характеристи-
характеристического числа оператора В, не являющегося точкой бифур-
бифуркации оператора А, была четной. Ниже будет показано, что
каждое характеристическое число нечетной кратности
' оператора В является точкой бифуркации оператора А,
2. Непрерывные ветви собственных векторов. Множе-
Множество точек бифуркации оператора А дискретно, так как оно
является частью дискретного множества характеристических
чисел линейного вполне непрерывного оператора В. Пусть
[х0 — точка бифуркации оператора А. Пусть множество соб-
собственных векторов оператора А, отвечающих характеристи-
характеристическим числам из интервала (а0 — г, ро-\-&) (где s — сколь
угодно малое число), обладает тем свойством, что его пере-
пересечение с границей L каждого открытого множества, содер-
содержащего 0 и лежащего в шаре достаточно малого радиуса,
непусто. Тогда будем называть это множество непрерывной
ветвью собственных векторов, отвечающей точке бифур-
бифуркации JJ-Q.
Из леммы 2.1 следует, что ко) т,а нормы собственных
векторов из непрерывной ветви стрем; ся к нулю, то соответ-
соответствующие характеристические числа :тремятся к а0.
Обозначим через Ео подпростран гво, состоящее из соб-
собственных векторов линейного оператора В, отвечающих харак-
характеристическому числу ;j.o.
Если [х0 является точкой бифуркации оператора А,
то множество N собственных векторов оператора А,
которым соответствуют характеристические числа
из интервала (а0 — a, ao-)-s), где г —достаточно малое
число, будет удовлетворять условию
Иш -£3fcf2U0. B.6)

198
ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ
[ГЛ. IV
Пусть, действительно, cpre£/V(tt=l, 2, . ..) — последо-
последовательность собственных векторов оператора А: <Ря = |А№А <ря,
причем
«р»!1 = о.
П -»-co
и существует такое я > О, что
llfnll
-о
> a (re= 1, 2, ...)■
Из леммы 2.1 следует, что Iim рп = р0. В силу полной не-
»-> со
прерывности оператора В без ограничения общности можно
считать, что векторы В . сходятся к некоторому век-
сходятся к в
А<р„ —В?п|'
тору h. Тогда векторы —т.. сходятся к вектору [х0Л, так как
I! ТЛИ
Iim
< Hm ]j
п -¥оо
Hm [
n -> oo
—А
Hm | aw — jx0 I • [| ft I = 0.
TO
Очевидно, |! ft || = |—т. Так как оператор В непрерывен,
А = a0Bft.
Значит, h£E0. Тогда при больших значениях п
7^1 — ?oh
Мы пришли к противоречию.
Если, в частности, W является непрерывной ветвью соб-
собственных векторов оператора А, то B.6) означает, что
в точке fJ конечномерное подпространство Ео «касательно»
к этой ветви.
3. Случай вполне непрерывного оператора. Для про-
простоты предположим вначале, что оператор А вполне непре-
непрерывен. Рассмотрим тогда в пространстве Е вполне непрерыв-
непрерывные векторные поля
Ф^ = \ — «лД. B.7)

| 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 199
Пусть u.o — характеристическое число нечетной кратности
оператора В. Тогда в силу леммы 2.1 при любом фиксиро-
фиксированном достаточно малом е > 0 найдется такой шар Т с цент-
центром в 9, в котором векторные поля Фцо_8 и Ф^+s будут
иметь нулевые векторы только в точке (J. Вращения этих
полей на границе L любого открытого множества, содержа-
содержащегося в Т и содержащего Ь, имеют в силу теоремы 4.7
из главы II различные знаки. Значит, поля Ф^-s и Ф^+ш
не могут быть гомотопны. Но тогда при некотором значе-
значении [1 из интервала (\i0 — г, и.0-(-;) поле Ф^ имеет на L
нулевой вектор, а это означает, что па L есть собственный
вектор оператора А, которому соответствует характеристи-
характеристическое число, близкое к ji0.
Сформулируем полученное утверждение в виде теоремы.
Теорема 2.1. Пусть А—-вполне непрерывный опера-
оператор, имеющий в точке 0 дифференциал Фреше В и удов-
удовлетворяющий условию АО = 0.
Тогда каждое характеристическое число ji0 нечетной
кратности линейного оператора В является точкой бифур-
бифуркации оператора А, причем этой точке бифуркации
соответствует непрерывная ветвь собственных векторов
оператора А.
4. Примеры. Как было выше показано, интегральные
нелинейные операторы П. С. Урысона, Гаммерштейна,
А. М. Ляпунова при достаточно широких предположениях
имеют в нуле 0 (пространств С или LP) дифференциал
Фреше В — линейный интегральный оператор:
B?(s)= \ K^s, t)<e(t)dt. B.8)
о
Из теоремы 2.1 следует, что каждое характеристическое
число нечетной кратности ядра /Ct (s, f) является точкой бифур-
бифуркации соответствующего нелинейного интегрального опера-
оператора П. С. Урысона, Гаммерштейна или А. М. Ляпунова.
Примерами ядер, все собственные числа которых имеют
кратность 1 (простые собственные числа), могут служить
функции Грина краевых задач для уравнений Штурма—Лиу-
вилля, осцилляционные ядра [и]. Как известно, наименьшее
характеристическое число точечно положительного ядра также
простое (более общую теорему М. Г. Крейна—М. А. Рут-
мана мы доказываем ниже, в главе V).

200 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Как было показано во введении к настоящей главе, оты-
отыскание критических сил в задаче об изгибе стержня перемен-
переменной жесткости р (s) приводит к отысканию точек бифуркации
нелинейного интегрального уравнения <р = j* A<p. где
_ j
1 —[/*,(*. *)?(*)Л? f K(s, t)y(t)dt,
о °
причем
(s A —t) при s<! t,
\t A—s) при s^-t.
Оператор А действует в пространстве С и является вполне
непрерывным оператором. Дифференциал Фреше Вф этого
оператора в точке Ь имеет вид
о
что проверяется непосредственным подсчетом. Пусть, дей-
действительно,
1
Bt<p(s) = J^(s, t)*(t)dt,
о
тогда
Оператор Bt непрерывен, так что
l|B.l?(s)||<||Bt||-|l?(s)|N|!B1
Очевидно,
[в«р—a«pK1b?I-|Bi«pP-
Из последнего неравенства и вытекает, что оператор В—это
производная Фреше оператора А в точке Ь.
Все характеристические числа линейного оператора В
совпадают с собственными числами уравнения Штурма — Лиу-
вилля у"(s)-\-Xp(s)y(s) = 0 с граничными условиями у@) =
= _уA)=0. Все собственные числа будут простыми, так
что в силу теоремы 2.1 все они будут точками бифуркации
нелинейного интегрального уравнения, Таким образом, кри-

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 201
тические силы в задаче об изгибе стержня переменной
жесткости р(s) могут быть определены по линейному
дифференциальному уравнению у" = — kp(s)y.
б. Структура спектра. Как это следует из теории Рисса
(см. главу I, § 1), у линейных вполне непрерывных опера-
операторов спектр всегда дискретен. У нелинейных операторов
спектр тоже может быть дискретен; например (М. М. Вайн-
берг), дискретен спектр оператора
А ф (S) = J sin s • sin / [f (t) + <f (f)} dt.
Однако следует считать, что в «общем случае» спектр
нелинейного оператора сплошной. Для операторов Гаммер-
штейна с симметричными ядрами и аналитическими нелиней-
ностями Н. Н. Назаров доказал при весьма широких пред-
предположениях, что спектр заполняет интервалы.
В первом параграфе настоящей главы были указаны общие
теоремы о заполнении спектром интервалов, вытекающие
из топологических соображений. Приведем еще одну тео-
теорему *).
Теорема 2.2. Пусть к — вполне непрерывный опера-
оператор, имеющий в точке 8 дифференциал Фреше В и удо-
удовлетворяющий условию АО = 6.
Пусть |j.o — характеристическое число нечетной крат-
кратности линейного оператора В. Пусть на границе L неко-
некоторого ограниченного открытого множества О, содержа-
содержащего Ь, вполне непрерывное векторное поле фAA = 1 — ij.0A
не имеет нулевых векторов.
Тогда спектр оператора А сплошной.
Доказательство. Пусть f — вращение поля Ф^ на L.
Выберем положительное число е0 так, чтобы поля
при — 1<!^<; 1 не имели на L нулевых векторов. Враще-
Вращение всех полей Ф^-и^, (— 1 <^< 1), очевидно, также будет
равно ^.
*) См. также [«е, ж], [60],

ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
При t Ф О точка 9 будет изолированной неподвижной точ-
точкой поля Ф^+j^, причем индекс ее будет равен по абсолют-
абсолютной величине единице, а знак индекса будет различным при
значениях t разного знака. Для определенности будем счи-
считать, что при 0<^<^1 этот индекс отличен от -\.
Так как вращение поля на L равно сумме индексов не-
неподвижных точек, то в множестве G найдется для каждого t,
0<^<;i, еще по крайней мере одна неподвижная точка
поля Ф^+ti. кроме 6. Это и означает, что все числа ^0 + ^0-
0</<[1, будут принадлежать спектру оператора А.
Теорема доказана.
В частности, условия теоремы 2.2 будут выполнены, если
точка 0 является изолированной неподвижной точкой поля
I — [1-оА. В § 4 доказаны теоремы, в которых даны признаки
изолированности неподвижной точки. Эти теоремы, таким
образом, можно рассматривать и как теоремы об условиях
сплошности спектра.
Расположим характеристические числа нечетной кратности
линейного оператора В в порядке возрастания
Пусть на границе L некоторого открытого множе-
множества, содержащего Н, вполне непрерывные векторные поля
Ф^ = I — [J.A не имеют нулевых векторов при всех \i из
интервала ([xfc_t, [i^+1).
Тогда один из интервалов (\xk_v |а*) или (|ift, \ik+1) пол-
полностью принадлежит спектру оператора А.
Утверждение это доказывается теми же рассуждениями,
что и теорема 2.2.
Еще одно близкое утверждение вытекает из теоремы 2.2.
Пусть характеристическое число jifc нечетной крат-
кратности оператора В есть изолированная точка спектра
оператора А. * Тогда множество собственных векторов
оператора А, соответствующих характеристическому
числу \хк, образует непрерывную ветвь, пересекающую
границу всех ограниченных открытых множеств, содер-
содержащих Ь.
Иначе говоря, в этом случае непрерывная ветвь собствен-
собственных векторов, отвечающих характеристическому числу [лй,
«выходит из 0 и уходит в бесконечность».

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 203
6. Общий случай *). В § 1 главы III мы ввели понятие
резольвенты Ra нелинейного оператора D, удовлетворяющего
в некотором шаре Tr<z. E условию Липшица
||D<p —D^lKfll?—-i|| Op, Ф€Л- B.9)
По определению, для тех /, на которых оператор Ra опре-
определен,
Мы будем здесь рассматривать случай, когда Dtl = tl. Тогда
и Ra6 =0 при всех значениях а.
Напомним некоторые установленные ранее утверждения
о резольвенте для этого случая (D9 = 0).
а) Резольвента Ra определена при | а| < — в шаре ра-
радиуса r(\—\a\q).
*) Под общим мы понимаем здесь случай, когда не вполне не-
непрерывный оператор А в точке в имеет вполне непрерывную произ-
производную Фреше. Этот случай для нас представляет интерес с той
точки зрения, что он охватывает интегростепенные ряды А. М. Ляпу-
Ляпунова. Отметим, впрочем, что излагаемый метод позволяет рассмо-
рассмотреть и случай, когда производная Фреше исследуемого оператора
не является вполне непрерывным оператором, но имеет изолирован-
. ную точку спектра, которой отвечает нечетномерное инвариантное
подпространство.
Более того, излагаемый в настоящей главе топологический
метод позволяет исследовать уравнения, в которые параметр X вхо-
входит нелинейно. Пусть непрерывный оператор А (X, <?) определен
в некоторой окрестности нуля 6 подпространства Е, причем произ-
производная Фреше оператора А (X, <р) имеет внд ХВ.где линейный опе-
оператор В от значений параметра X не зависит. Пусть характеристи-
характеристическое число Хп линейного оператора В нечетнократно (для про-
стоты предположим, что оператор А, а значит, и В, вполне непре-
непрерывен). Тогда решения <?х уравнения
? = А(Х, ?), A)
отвечающие значениям параметра X, близким к Хо, образуют в
окрестности 6 непрерывную ветвь, причем Х-»-Хл, когда ||<РхЦ->-0.
Примером уравнения вида A) может служить уравнение
t А. И. Некрасова [^8] из теории волн тяжелой жидкости
1 -[- X I sin tp (u) du

_ __ _ ииии.ии>шил улшцплл [1 Jl. IV
b) Справедливы неравенства
llRJi-RJ2||<nrj^ll/i-/2ll B.Ю)
(ИЛИ.
JRJ||>
B.П)
(ПЛИ. ШК'О-Ч«!?))•
с) Для элементов из шара радиуса
rmin(l— \a\q, I— \?\q)
справедливо неравенство
1$1Ш\ — *\- К2-12)
В частности, когда Р = 0, неравенство B.12) принимает вид
?^ rQ -| а\д)). B.13)
Рассмотрим нелинейный оператор L вида
, B.14)
где D — оператор, удовлетворяющий условию B.9) в шаре
Тг радиуса г, а А — вполне непрерывный линейный опе-
оператор. Будем предполагать при этом, что D0 = 0.
где
со
K(s, t) =-=- 2j—sin ns-sin tit.
n=l
Можно показать, что оператор А (X, (р), определенный правой частью
уравнения B), в некотором шаре пространства С будет вполне
непрерывным. Производная Фреше оператора А (Х,ср) в точке 6 будет
иметь вид ХВ, где
2*
B?(s) = f K{s, t)<?(t)dt.
Все характеристические числа Зп ядра K{s,f) нечетнократны. Сле-
Следовательно, все они будут точками бифуркации для оператора
А (X, <?), т. е. при некоторых значениях параметра X, близких к чис-
числам Зл (л = 1, 2,...), уравнение B) имеет ненулевые решения.

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 205
Нас будет интересовать вопрос о точках бифуркации
оператора L.
Для установления существования собственных векторов
у оператора L на границе Г некоторого открытого множе-
множества мы воспользуемся той же идеей, которая в простейшем
варианте была использована при доказательстве теоремы 2.1.
Мы так сконструируем на Г два вполне непрерывных век-
векторных поля различного вращения и непрерывную дефор-
деформацию одного поля в другое, чтобы существование нулевого
вектора при этой деформации было эквивалентно существо-
существованию собственного вектора у оператора L на Г.
Пусть [а не является характеристическим числом линей-
линейного вполне непрерывного оператора А. Тогда найдется
такое число f > 0, что
№ —1*Аф||>т1Ж|. ■ С2-15)
Рассмотрим вполне непрерывное поле Ф:
Фф = ф —^(цАф), B.16)
где R^ — резольвента оператора D. Это поле можно рас-
рассматривать в силу а) в шаре радиуса r(l—[i||A[| 47).
Пусть
9<lHY+VllA|r BЛ7)
Из этого неравенства следует, что 1 — | \i | q > 0. Покажем,
что в этом случае поле Ф имеет в шаре Т радиуса
Та аи нУлев<>й вектор только в точке 6 и что поле Ф
на границе Г каждого открытого множества, содержащего
6 и содержащегося в шаре Т, гомотопно полю I — [лА.
Для этого рассмотрим поля
Ф(ф = ф — [m^A^-Kl—1)^\ (ф£Г) B.18)
и покажем, что при 0<!£<; 1 они не имеют на Г нулевых
векторов.
Из B.18) следует:
IIЩII > II ф — ^ || -1| R, (рЩ - V-ЩII •
откуда в силу B.15) и B.13)

I
206 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
и в силу B.17)
Таким образом, вращение поля Ф на Г такое же, как
и вращение поля I — цА.
Пусть [а0 — характеристическое число оператора А нечет-
нечетной кратности, а е—некоторое достаточно малое положи-
положительное число. Если в интервале (;х0 — е, iao + s) нет характе-
характеристических чисел оператора А, отличных от р0, то враще-
вращения векторных полей I—(;л0 — г) А и I—• ([а0 -f- з) А на Г
будут различны.
Рассмотрим векторные поля Ф4:
20*1*!»}, B-19)
где 0<^^1. Они будут определены в силу а) на шарах
радиуса rt:
*~ li*o + O-2O*HA||r^ (||«о! + 0-11АО *■ ;
Мы будем рассматривать поля B.19) в шаре Т радиуса
0 __ 1 - (I v-n I + *) д
?~ (li«ol + «)-IIA|l
При этом будем считать, что
Легко видеть, что поля Ф( вполне непрерывны.
Пусть, кроме этого,
С2 2П
а^ чу» yrn —«>*v ц B 22)
I Но - е I • II (I - 0*0 - Ю АГ1 |Г1 + (!*о - 02|1 А |Г
Тогда, как было показано выше, поля Фо и Ф1 гомотопны
на Г соответственно полям I — ([х0 -\- е) А и I — (^.0 — г) А,
в силу чего их вращения на Г различны.
Покажем теперь, что вектор-функция Ф^} @<^/<^1;
4 £ Т) непрерывна по t равномерно относительно ^ £ Т.

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧЕ О ТОЧКАХ БИФУРКАЦИИ 207
Действительно,
где
2^)s] A-}}
и
•M» = R*,+(i-s«. {Il*o4-O —
В силу B.12)
где
_
В силу B.10)
где
ао —
Таким образом,
||Ф^— Ф^||<(%4-«2)-1^—к\ (Н^Кр).
откуда и следует равномерная непрерывность по ^.
Так как Фо и Ф1 не могут быть гомотопны, то на Г
найдется такая точка <]>0, что при некотором ^0, 0 < ^0 < 1,
Ф^о = в.
Иначе говоря,
По определению резольвенты оператора D последнее
равенство означает, что
Нами доказано, что собственные векторы оператора
образуют в окрестностп Ь непрерывные ветви, если

208 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
оператор А имеет характеристические^ числа нечетной
кратности и если q достаточно мало.
Наиболее интересен случай, когда оператор D удовле-
удовлетворяет условию Липшица в следующей форме:
ИО<р-Оф||<?(р)||<р-ф|| AЫ1. 1ЖКР). B-23)
где
0. B.24)
В этом случае, как легко видеть, доказанное выше утвер-
утверждение допускает уточнение.
Теорема 2.3. Пусть оператор L (L0 = б) представим
в виде
где А — линейный вполне непрерывный оператор, а опе-
оператор D удовлетворяет условиям B.23) и B.24).
Тогда каждое характеристическое число нечетной
кратности оператора А будет точкой бифуркации опе-
оператора L. Этой точке бифуркации соответствует
в окрестности Ь непрерывная ветвь собственных векторов
оператора L.
Отметим, что утверждение теоремы 2.3 сохраняет силу
и для случая, когда вполне непрерывный оператор А нели-
нелинеен. В этом случае точками бифуркации оператора L будут
характеристические числа нечетной кратности производной
Фреше оператора А в точке Й. В такой общей форме (являю-
(являющейся также обобщением теоремы 2.1) утверждение о точках
бифуркации доказывается аналогично. При этом, естественно,
выкладка несколько усложняется.
7. Оператор А. М. Ляпунова. В качестве примера рас-
рассмотрим оператор А. М. Ляпунова (см. § 3 главы I) в про-
пространстве функций, непрерывных на ограниченном замкнутом
множестве О конечномерного пространства.-
Как указано в § 3 главы I, этот оператор L можно пред-
представить в виде
где

§ 3] АСИМПТОТИЧЕСКИ ЛИНЕЙНЫЕ ОПЕРАТОРЫ 209
Я оператор D удовлетворяет в единичном шаре простран-
пространства С условию Липшица (глава I, условие C.20))
|| D (?1; # — D C?2; -i) || < а (ш -f о/) || ?t - ?а ||,
Из утверждений предыдущего пункта следует, что при
достаточно малых по норме <!> оператор Ляпунова имеет
ветви собственных векторов, если ядро K(s, t) имеет не-
четнократные характеристические числа.
Если интегростепенной ряд А. М. Ляпунова не зависит
от функционального параметра 6, то для оператора D вы-
выполнены условия B.23) и B.24). В этом случае в силу тео-
теоремы 2.3 каждое характеристическое число нечетной крат-
кратности ядра K(s, t) будет точкой бифуркации оператора L,
причем каждой такой точке бифуркации соответствует не-
непрерывная ветвь собственных функций.
§ 3. Асимптотически линейные операторы [-9*\
1. Асимптотические точки бифуркации. Соображения,
аналогичные проведенным в предыдущем параграфе, позво-
позволяют исследовать множество собственных векторов для опе-
операторов, близких к линейным на элементах большой нормы.
Скажем, что нелинейный оператор А, действующий в ба-
банаховом пространстве Е, асимптотически линеен, если для
некоторого линейного оператора В
lim ||Ат-|В<Р" = 0. C.1)
Оператор В будем называть асимптотической производ-
производной оператора А.
Лемма 3.1. Пусть оператор А. вполне непрерывен.
Тогда и оператор В будет вполне непрерывным.
Действительно, если BS — образ единичной сферы Sс:Е—
не компактен, то найдутся такое число S > 0 и такая после-
последовательность hv h.2, ... £S, что
|| В (А,-А,) || >3 (Hj; i, y=l, 2,...).

110 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [гЛ, IV
В силу C.1) можно указать такое р^ что
Тогда
|| А (Рой,)- А (ро^)|| > Poll В (Л, -hj)|1 - ||A(PoAs)-PoB/M
и, следовательно, из последовательности А(р0А^) (I = 1, 2, . . .)
нельзя выбрать сходящуюся подпоследовательность, что озна-
означает, что оператор А не вполне непрерывен.
Скажем, что jj.o является асимптотической точкой би-
бифуркации оператора А, если для любого г > 0 можно ука-
указать такой шар Т с центром в 0, что на границе Г каждого
ограниченного открытого множества, содержащего Т, есть
собственные векторы оператора А, которым соответствуют
характеристические числа из интервала (а0 — г, (х0 —f— s).
Совокупность собственных векторов образует при этом
непрерывную ветвь, уходящую в бесконечность.
Теорема 3.1. Пусть А — вполне непрерывный асим-
асимптотически линейный оператор.
Тогда каждое характеристическое число нечетной
кратности асимптотической производной В оператора А
будет асимптотической точкой бифуркации оператора А,
которой отвечает уходящая в бесконечность непрерывная
ветвь собственных векторов.
Доказательство. Пусть задано число з > 0.
Пусть JJ.Q-—характеристическое число нечетной кратности
асимптотической производной В оператора А. Можно счи-
считать, что на сегменте [ij.o — s, ро-\-г] нет характеристических
чисел оператора В, отличных от jj.o. Операторы [I—(а0—г) В]1
и [I — (|i.o —}— s) В]~ будут поэтому ограничены, и найдется
такое а > 0, что
II? —(Но —*) ? || > || р ||, |
Обозначим через Т шар такого радиуса р, что при
Ы1>р

§ 3] АСИМПТОТИЧЕСКИ ЛИНЕЙНЫЕ ОПЕРАТОРЫ 211
Пусть Г — граница ограниченного открытого множества,
содержащего шар Т. На Г векторные поля ш — (|х0—г)А<р
и о— (',4> + s)A'-? B СИЛУ C-2) и C.3) не имеют нулевых
векторов и гомотопны соответственно полям ш — ([л0 — г) В?
и ср — (ао-)~г)В'-?. Вращение линейных вполне непрерывных
векторных полей «— (ix0 — г) В<? и <р — (и0 -)- s) В'-? различно
в силу теоремы 4.6 главы II, так как ij.o — характеристи-
характеристическое число нечетной кратности оператора В. Тогда будут
различными и вращения на Г полей ш — ([л0 — г)Аш и
9— (;хо-(-8)А». Поэтому (см. стр. 189) найдется такая
точка ^об!1' в которой векторы 9о—(и0 — г) А? и
90—(!хо~Ь s) A<p направлены противоположно. Значит, найдется
такое [3 > 0, что
откуда
Таким образом, 9о является собственным вектором опера-
оператора А, которому отвечает характеристическое число из
сегмента [;j,0 — s, ao-)-s], так как
Теорема доказана.
Отметим, что кроме характеристических чисел опера-
оператора В оператор А не может иметь других асимптотических
точек бифуркации. Характеристические числа четной крат-
кратности оператора В могут не быть асимптотическими точками
бифуркации оператора А.
В качестве примера рассмотрим оператор Гаммерштейна
A«(s)= [/f(s, t)f[t, o(t)]dt, C.4)
где G — множество конечной или бесконечной меры.
Пусть ядро K(s, t) (s, t £ G) удовлетворяет условию
J J/C2^, t)dsdt <oo. C.5)
a a

ЗЛДЛЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [|М. IV
Пусть функция f(i, и) определяет действующий в L2
оператор f и, более того, удовлетворяет условию
\f(t, и) — И|< S S*@1 «Г**+ О@ C.6)
k = l
— оо< м< оо),
где
Sk{t)eL»*, 0<pk<l D=1,..., я);
Тогда каждое характеристическое число нечетной
кратности ядра K(s, t) будет асимптотической точкой
бифуркации оператора C.4), которой соответствует
уходящая в бесконечность непрерывная ветвь собственных
векторов.
Доказательство. В силу условия C.5) оператор В:
B<p(s)= J K{s, t)<o(t)dt,
действует в Z,2 и вполне непрерывен. Оператор f?(s) =
= /[s, <?(s)l ПРИ выполнении условия C.6) будет непрерывным
и ограниченным в ZA Следовательно, оператор А = Bf, опре-
определенный равенством C.4), действует в Z.2 и вполне непре-
непрерывен.
Оператор В будет асимптотической производной опера-
оператора А. Действительно, в силу C.6)
J [
о а
(J
Таким образом, выполнены условия теоремы 3.1.
Теорема доказана.

§ 31 АСИМПТОТИЧЕСКИ ЛИНЕЙНЫЕ ОПЕРАТОРЫ 213
2. Признак сплошности спектра. Предположим теперь,
что вполне непрерывный оператор A (AfJ = Ь) не только
асимптотически линеен, но и дифференцируем в нуле 0 про-
пространства Е. Через В и Bt обозначим соответственно асим-
асимптотическую производную оператора и производную Фреше
оператора А в точке Ь. Операторы В и В, в силу леммы 4.1
главы II и леммы 3.1 настоящей главы будут вполне непре-
непрерывны.
Простые рассуждения, аналогичные проведенным при до-
доказательстве теоремы 2.2, приводят к следующему утвер-
утверждению.
Теорема 3.2. Характеристическое число ji нечетной
кратности одного из операторов В или Bt может быть
изолированной точкой спектра оператора А только тогда,
когда <>. является характеристическим числом и опера-
оператора В, и оператора Bt.
Если jj, является характеристическим числом нечетной
кратности только одного из операторов Bt или В, то
спектр оператора А содержит полностью интервал, одним
концом которого является [а, а другим — одно из харак-
характеристических чисел оператора В или Bt, отличных от jx.
Если один из операторов В или Bt не имеет харак-
характеристических чисел нечетной кратности, а второй имеет
только одно такое характеристическое число \i, то спектр
оператора А содержит полностью один из бесконечных
интервалов (—со, ;х) или (\>., со), за исключением, может
быть, счетного числа точек. Множество этих исключи-
исключительных значений не имеет конечных предельных точек.
Недавно А. И. Поволоцкий, используя изложенные выше,
методы, провел тщательный анализ нелинейных вполне не-
непрерывных операторов А, удовлетворяющих во всем про-
пространстве или в его части условию
«A? —B9||<fe||»||. C.7)
где В — линейный вполне непрерывный оператор, k — по-
постоянная. Такие операторы, как оказалось, при естественных
предположениях имеют несвязные спектры, причем опреде-
определенные связные компоненты спектра содержат интервалы.
Собственные векторы операторов А, удовлетворяющие усло-
условию C.7), образуют непрерывные ветви; указываются усло-
условия, при выполнении которых непрерывные ветви собственных

214 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ.
векторов оператора А расположены в банаховом простран-
пространстве «близко» к инвариантным подпространствам линейного
оператора В, что, как оказывается, имеет место не всегда.
Основные результаты А. И. Поволоцкого изложены в его
статье «О существовании несвязных спектров у нелинейных
вполне непрерывных операторов» (ДАН 99, № 3 A954)).
§ 4. Теоремы типа ляпуновских
1. Индекс неподвижной точки. Пусть А — вполне не-
непрерывный оператор, действующий в банаховом простран-
пространстве Е. Пусть »0—изолированная неподвижная точка вполне
непрерывного векторного поля I — А. Мы будем предпола-
предполагать ниже, что оператор А в точке о0 дифференцируем;
производную Фреше оператора А в точке <?о обозначим
через В.
Как было показано в главе II, индекс неподвижной точки
поля I — А вычисляется просто в случае, если 1 не является
собственным числом линейного оператора В. В настоящем
пункте указываются случаи, когда индекс неподвижной точки <е0
можно вычислить несмотря на то, что 1 есть собственное
число оператора В.
Без ограничения общности можно считать, что сво = О,
так как индекс неподвижной точки <?о поля I — А очевидным
образом совпадает с индексом неподвижной точки 6 поля
фср = <р—[А(<р + 9о) — 9оЬ пРичем производная Фреше опе-
оператора А в точке 9о и производная Фреше оператора
Atcp = А (ш-)~?о) — ?о в точке Ь совпадают.
Итак, пусть 0 — неподвижная точка вполне непрерывного
векторного поля I — А. Пусть 1 есть собственное число
линейного оператора В, являющегося производной Фреше
в точке 0 оператора А.
Будем предполагать, что оператор А допускает предста-
представление
A<? = B» + Ccp + D? (<?€£). D.1)
где С и D—вполне непрерывные операторы, удовлетворяю-
удовлетворяющие условиям:
а) Оператор С однороден:
С (А?) = А^Сш, D.2)
причем показатель k однородности больше единицы.

§ 41 ТЕОРЕМЫ ТИПА ЛЯПУНОВСКИХ 215
b) Оператор С удовлетворяет условию Липшица в сле-
следующей форме:
IIс?1 -с?21|<?(г>Ж-?аII (!Ы1>ЫКр). D-3)
где
Шп Щ < со. D.4)
р->0 Р
c) Оператор D удовлетворяет условию
Ит Й| = 0. D.5)
Приведем примеры интегральных операторов, допускаю-
допускающих представление D.1), в котором операторы D и С удо-
удовлетворяют условиям а), Ь) и с).
Пример 1. Рассмотрим оператор П. С. Урысона
A<?(s) = f K[s, t, <f(f)]dt, D.6)
где G — замкнутое ограниченное множество n-мерного про-
пространства.
Пусть функция K(s, t, и) непрерывна по всем переменным
и дважды непрерывно дифференцируема по и при всех s, t£Q
и |и|-^>, где г — некоторое число. Пусть K(s, t, 0)^0.
Тогда оператор Урысона вполне непрерывен в шаре
радиуса г пространства функций, непрерывных на G,
и допускает представление D.1), в котором
D.7)
D-8)
Оператор D определим просто равенством D = А — В — С-
Полная непрерывность операторов В и С очевидна.
Условие а) выполняется также очевидным образом, причем
показатель однородности оператора С равен двум.

216 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ
Условие Ь) выполняется, так как
[ГЛ.. IV
откуда
где
<! С
^ 2 !
G
при ||<pt||,
1!С
я
(Р) =
(s, t, 0)
dtfi
II Та IK
?i — С'-
- max
р следует:
'31К?(р)Н
&*K(s, t, 0)
о <t\ 1 • 1 m (
32v'i 1 1 тi V
■Pi—Tall.
• mes G ■ p.
Осталось проверить выполнение условия с). Так как
K(s, t, 0)==0, то по формуле Тейлора
где 0 •< 0м < 1. Значит,
Так как функция
равномерно непрерывна по и
при малых и, то для каждого г > 0 можно указать такое р,
что
9и3 йк2 mes G
при | и | <; р Gc, ^0). Следовательно, в силу D.9) из ||<f|K p
следует, что
II D? || .
II <?1!3 ^*'
откуда вытекает D.5).
Представление D.1) оператора П. С. Урысона целесо-
целесообразно рассматривать, конечно, только тогда, когда опе-
оператор С, определенный формулой D.8), не есть тождествен-
тождественный нуль.
В случае, когда

§ 4] ТЕОРЕМЫ ТИПА ЛЯПУНОВСКИХ 217
мы предположим дополнительно, что функция K(s, t, и)
имеет больше чем две непрерывные частные производные по и.
Пусть
VKts.t.O) =dk-'K(s,t,O) tf
dkK(s, I, a)
причем j~—- непрерывна на топологическом произведе-
произведении GX GXI—r, r\ и не равна тождественно нулю. Опе-
Оператор П. С. Урысона снова можно представить в виде D.1),
однако для определения оператора С вместо D.8) нужно
воспользоваться формулой
Cc?(s) = i
'в
Выполнение условий а), Ь) и с) для операторов С и D
проверяется так же, как это было сделано выше для случая
>'■ t. 0) , _
П
ди* ^и-
Пример 2. Представление D.1) в пространстве непре-
непрерывных функций допускает частный класс операторов
П. С. Урысона — операторы Гаммерштейна
A?(s)= f K(s, t)f\t, f{t)\dt D.11)
д
(где О — снова ограниченное замкнутое множество я-мерного
пространства) при выполнении следующих условий: ядро K(s, t)
допустимо, а функция f{t, и) непрерывна вместе с двумя
д д*
частными производными -^-f(t, и) и -r^f(t, и). При этом
операторы В и С определяются аналогичными D.7) и D.8)
формулами
В? 00= \k(s, t) d-f-±P- ?{t) dt D.12)
в
и
С? (s) = | J К (s, t) ^^ «2 @ du D.13)

218 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
В случае, если - } ^ =0, как и в случае операторов
Урысона, нужно предположить дополнительно, что функ-
функция f(t, и) имеет по и производные более высокого, чем
второй, порядка. Если
, dhf(t, и) а «
а непрерывная функция — ' ^ при и = 0 не обращается
в тождественный нуль, то в представлении D.1) оператора
Гаммерштейна нужно положить:
^^DЛ4)
Пример 3. Рассмотрим интегростепенной ряд А. М. Ля-
Ляпунова от одной функции, причем запишем его в виде D.1):
где В—член первого порядка:
B<s(s)= § K(s, t)o(t)dt,
в
С — сумма интегростепенных членов второго порядка:
С?00= f f \Kn(s, ^)?2(^,) + /C12(s, tlt t2)o(t})^{t2))dt,dt2,
a g
a D — сумма интегростепенных членов порядка, большего
чем два.
Выполнение условий а), Ь), с) следует непосредственно
из неравенств, приведенных в § 3 главы I.
Вернемся к рассмотрению абстрактного вполне непре-
непрерывного оператора А, допускающего представление D.1):
A=B + C + D, D.1)
в котором В — линейный оператор, а операторы С и D
удовлетворяют условиям а), Ь) и с).
Пусть 1 является собственным числом оператора В. Тогда
по теории Рисса (см. § 1 главы I, пункт 3) пространство Е,
в котором действует оператор В, представимо в виде прямой

.j| 4] ТЕОРЕМЫ ТИПА ЛЯПУ1ЮВСКИХ 219
суммы двух инвариантных для оператора В подпространств Е1
и Е1, из которых первое Et — это конечномерное инвариант-
инвариантное подпространство оператора В, отвечающее собственному
числу, равному единице, а в подпространстве Е1 оператор В
не имеет единицу собственным числом.
Каждый элемент <р££ представим однозначным образом
в виде
? = * + .У, D.15)
где x£Ev y^EK Представление D.15) позволяет ввести
в рассмотрение два проекционных оператора Pt и Р1:
Ptf = х, Р1? —- у.
Оператор Рг проектирует на подпространство Ev а опе-
оператор Р1— на подпространство Е1. Оба проекционных опе-
оператора ограничены; обозначим большую из норм через с:
II Pi II < в. НРКв- D-16)
Оператор В, рассматриваемый только на подпростран-
подпространстве Е1, не имеет, как уже было указано, собственным
числом 1. Поэтому оператор I — В, если его рассматривать
только на подпространстве Е1, имеет ограниченный обратный,
т. е. существует такая положительная постоянная а, что
№—Ву||>а||.у|| (y£Ei). D.17)
Теорема 4.1. Пусть инвариантное подпростран-
подпространство Ех состоит только из собственных векторов *) опе-
оператора В. Пусть на единичной сфере 5j подпростран-
подпространства Et векторное поле Фг,
— PjCy, D.18)
не имеет нулевых векторов.
Тогда 0 является изолированной неподвижной точкой
вполне непрерывного бекторного поля Ф = I — А, где опе-
оператор А допускает представление D.1).
Индекс f неподвижной точки 0 поля Ф равен произ-
произведению вращения f t поля Фг на Sl на вращение "Сг поля I — В
на единичной сфере S1 пространства Е1.
*) Это предположение несущественно, и от него легко можно
освободиться.

220 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Доказательство. Пусть J3 — положительное число,
удовлетворяющее неравенствам
1<?<£, 3? —А>2. D.19)
Обозначим через S? сферу радиуса р в пространстве £х
и через S? сферу радиуса р? в пространстве Е1. Через Та
обозначим множество точек <р£Е вида ср = х-\-у, гделг^Е^
||дг||<р и у£Е1, ||.у!Кр?. Через L? обозначим границу Т..
Множества Z.p при различных р заполняют все пространство Е.
Определим в Е вполне непрерывное векторное поле Ф:
Фср = <р — ВР1? — (Pi? + P^CP-,») (? £ E). D.20)
Каждая точка <з£Е, отличная от 0, не является неподвижной
точкой поля Ф. Действительно, если Р1? Ф 0, то
р1ф? = Р1? — Р^Р1? — P^^^-s-f-CP!?) = Р1? — ВР1? Ф 0.
Если же Pj» Ф б, то аналогично
Pt^9 = Р^ — PjBP1? — PiCPjtp = — PtCPx9 Ф 0.
В частности, векторное поле Ф не имеет нулевых векторов
на L?.
Рассмотрим на La векторное поле W:
Как это следует из теоремы 4.5 главы II, вращение поля W
на L. равно произведению вращений поля W на So и на S?.
Легко видеть, что на этих сферах поле W совпадает соот-
соответственно с полями —"PjC и I—В. Действительно, если
<?£$1> то Patp = 0, а РХ9 = 9 и, следовательно, ЧГ» =
== — \Т|}) PiC?- Если же ?^£1> то Р1? = °- а Рь-? = ?^
и так как оператор В линеен, то W?=(I—-В)?.
Значит, вращение поля ЧГ на L? равно fi"f2-
Поля W и Ф на Lf имеют одинаковое вращение. Чтобы
доказать это, покажем, что в каждой точке ?£ Д, векторы 4?<в
и Ф<р направлены не противоположно. Действительно, если

§ 4) теоремы типа ляпуновских 221
векторы \Р<? и фср направлены противоположно для некото-
некоторой точки <р £ Lo, то найдется такое положительное число [а,
что ^Ро + ^Ф? = Ь.
Последнее равенство несложными преобразованиями при-
приводится к виду
(* + 1) (РЬ? -ВР1?)- (а -f—g-^ PtCP(c? = Ц,
откуда следует, что
(I — В)Р1о~Ь D.21)
и
Р1СР1? = 0. D.22)
Из D.21) в силу D.17) следует, что Р]?=6. Из D.22)
следует, что Pt<p = 6. Значит, <э = 0, а это противоречит
тому, что <?£Lp.
Таким образом, вращение поля Ф на Z.p равно ^ ■ Чз-
Введем в рассмотрение несколько постоянных. Пусть
6t= min ЦРгСсрЦ, йа= max ||C<p[|. D.23)
Пусть pt — такое число, что при \\<?х\\, 11 *РаМ "^ 2р <С рi
l|C?i-C9a||<p » -ll?!-?^. D-24)
Выбор такого pt возможен в силу условий D.3) и D.4).
Будем считать при этом, что рг< 1.
Обозначим через Фх поле I — В—С и покажем, что
вращение его на Lp при
Р < Р» =»•»{*•
равно вращению поля Ф и, следовательно, равно произве-
произведению f 1 • Т2-
Чтобы доказать это, снова покажем, что ни в одной
точке «р £ Lp векторы фср и Ф^ не направлены противопо-
противоположно. Допустим, что это не так. Тогда найдутся такие
<sf- Lo и постоянная и ~> О, что

1Л 4'J- И1\ЦГ1ЛЛ
Последнее равенство удобно переписать в следующей форме:
A + а) (Р1» — ВР1?) — С<? — ij-PjCP^ = 6. D.26)
Применяя к равенству D.26) проекционный оператор Р1,
получим:
A _|_ ^ (pi? _ BP]c?) = Р^ф,
откуда в силу D.17) и D.23)
IIP^K-IT-IMI*. D-27)
Так как для всех '-?€^
II '■? I! < II Pi'-? 11 + И р1? 11< р + ?? < 2?.
то из D.27) следует, что
IIP^IK-^V' D-28)
и в силу D.25)
Таким образом, Р1?^ 5Р, так что Рг®^5р, т. е.
l|Pi?ll=P- D-29)
Применим теперь к равенству D.26) проекционный опе-
оператор Pt. Так как и PjP1^^!) и PjBP1'-?^!), то
откуда
A+!*)РгСР1<р = —Рл(С? —CPt?). D.30)
Так как ||Рг»|| = р, то в силу D.23)
|[A +.х) РгСР1?||> A +:^)
В силу D.24) из ||Р1?||<2р, || в || < || Рг? || + || Р1» || < 2р сле-
следует
IIP1?IK ap a . D.32)

tj ТЕОРЕМЫ ТИНЛ ЛЯПУНОВСКИХ Т16
Из D.31) и D.32) в силу D.30) следует:
что противоречит выбору р.
Таким образом, неверно допущение, что в некоторой
точке ? £ £0 векторы полей Ф и Ф( направлены противопо-
противоположно. Значит, вращение поля Фг = I — В — С на L? равно
Ti ' Ъ (ПРИ Р<Ро> где Ро определено соотношением D.25)).
Введем в рассмотрение еще одну постоянную. Пусть
d>0— такое число, что
)-" D-33)
Покажем, что при ®£L0
||6t?||>Tp*, D.34)
где
Действительно, если ур^Ц = гД то
а в силу D.25)
*) Существование такого числа d можно доказать, например,
так. Введем в пространство Е новую норму:
Легко проверить, что в новой норме пространство остается полным.
Пространство Е с новой нормой обозначнм через Ё. Элемент <р £ Е,
если его рассматривать как элемент пространства Е, будем обозна-
обозначать через <р. Линейный оператор Rtf == <р, действующий нз Ё в Е,
будет непрерывным. Тогда, по известной теореме Банаха ([4а],
стр. 146) будет непрерывным н обратный оператор R"" :
откуда н следует D.33).

224 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ |ГЛ. IV
Если же UP^IKpP, то ЦР^Ц^р и ||»— P^IK рэ- Тогда
в силу D.23) и D.24)
- ~ У + ,"
> Ml Pi? ||*— op 2 ■=(*! —op
Но в силу D.25)
значит,
откуда в силу D:33)
Перейдем, наконец, к рассмотрению основного интере-
интересующего нас поля Ф2 = I — В — С — D.
В силу условия с) можно указать такое число р < р0, что
при ||<?||<р
Тогда в шаре ||<р||^^Р? поле Ф2 не имеет неподвиж-
неподвижных точек, отличных от '). Действительно, пусть точка «а
принадлежит некоторому Lp, причем [|«||<dfA Тогда р -'^р,
так как при «?£/..,. в силу D.33)
Следовательно, ||в||< 2р. Используя теперь D.34) и D.35),
получим:
IIФ2? II > II *i? II - II D'f || > тр* - 2^т B?)* = \ р*- •
Мы доказали первое основног утверждение теоремы:
точка 0 является изолированной неподвижной точкой поля
I —А.
Чтобы вычислить индекс этой неподвижной точки, по:<а-
жем, что вращения полей Ф.2 и Фх на некотором Ltj одина-

§ 4] ТЕОРЕМЫ ТИПА ЛЯПУНОВСКИХ 225
ковы. Пусть р выбрано так, что ||9||^аГ^ при o^L0.
Тогда в каждой точке о £ Lp векторы Ф2® и ф(о направ-
направлены не противоположно, ибо из
следует:
в то время как
Значит, вращение поля Ф2 на Lp равно произведению
7г ■ ч2- Значит, индекс неподвижной точки 'J вполне непре-
непрерывного векторного поля I—А равен "A ■ ^.2-
Теорема доказана.
Число f2 —это вращение линейного вполне непрерыв-
непрерывного векторного поля, поэтому по абсолютной величине оно
равно 1. Следовательно, абсолютная величина индекса f t • f2
неподвижной точки 0 поля I—А определяется числом fr
Укажем два случая, когда ft можно вычислить.
2. Случай вещественного пространства. Всюду ниже
мы предполагаем, что показатель k однородности опера-
оператора С — это целое число.
Если k — четное число, то поле — PtC на сфере 5t
четно. Легко видеть, что тогда -ft — четное число, которое
обязательно равно нулю, если Е1—-нечетномерное подпро-
подпространство *).
Если k — нечетное число, то поле — PtC нечетно и по
теореме Л. А. Люстерника — Л. Г. Шнирельмана—К. Борсука
*) Для определения вращения четного векторного поля, задан-
заданного на сфере, можно построить симметричную относительно центра
сферы триангуляцию, симметричные вершины которой занумеро-
занумеровать одинаковыми числами. Симметричные симплексы будут иметь
одинаковые нумерации. Если размерность сферы четна, то сим-
симметричные симплексы имеют нумерации с весами разных знаков,
в силу чего степень нумерации будет равна нулю. Значит, враще-
вращение четного поля на четномерной сфере равно нулю. Если раз-
размерность сферы нечетна, то симметричные симплексы ориентиро-
ориентированы одинаково н можно утверждать только, что вращение четного
поля четно.

226 задали 0 Собственных функциях [гл. IV
его вращение на S1 нечетно. Точное вычисление у1
представляет значительные трудности.
В случае, если Ег— одномерное пространство, вра-
вращение ft вычисляется просто. Пусть св0—единичный вектор,
лежащий в Ех. Если векторы — РхС?о и ?о направлены оди-
одинаково, то при четном k вращение ft равно нулю, а при
нечетном k — единице. Если векторы —Р].С<р0 и о0 направ-
направлены противоположно, то при четном k вращение также
равно нулю, а при нечетном k вращение равно —1.
Основная трудность вычисления индекса неподвижной
точки в условиях теоремы 4.1 заключается в конструирова-
конструировании оператора Pt проектирования на подпространство Еу
собственных векторов оператора В, отвечающих собствен-
собственному числу, равному 1.
Мы ограничимся в связи с этим рассмотрением инте-
интегральных операторов (П. С. Урысона, Гаммерштейна или
А. М. Ляпунова) А, действующих в пространстве Е непре-
непрерывных функций, заданных на замкнутом ограниченном мно-
множестве G конечномерного пространства. При этом будем
предполагать, что АЬ = Й и оператор А в точке 0 имеет
производную Фреше В, являющуюся линейным интегральным
оператором
B»(s)= K(s, t)<?(t)dt, D.36)
J
G
где K{s, t)—-вещественное допустимое симметричное ядро.
В этом случае, как известно, каждое инвариантное под-
подпространство оператора В состоит только из собственных
векторов оператора В.
Пусть Ех — ^-мерное подпространство. В нем можно
выбрать k функций el(s)< ..., ek(s) таких, что
ei(s)eJ(s)ds^bij (/, J=\, 2, ..., к),
в
где 8^ = 0 при 1ф] и 844=1. Оператор Pt-можно запи-
записать формулой
Pi? = 2 Ч (s) Г ? (t) «i (i) dt. D.37)
i=i i

§ 4] ТЕОРЕМЫ ТИПА ЛЯПУНОВСКИХ 227
Действительно, оператор Pt линеен и действует из £ в Et.
Легко проверяется, что оператор Рг, определенный форму-
формулой D.37), удовлетворяет условию p2 = Pt и на элементах
?££i совпадает с оператором тождественного преобразо-
преобразования. Нужно только доказать, что Р^^гв, если о^Е1.
Как это следует из теории Рисса, каждый элемент <?
представкм в данном случае в виде
к
i? = 2 Ч (*) {/ «р, (t) et (t)dt—ffK (tv t) ?1 (t) ei ft) dt di,]
1 1 О GO
Следовательно,
к
Pi? 2 Ч () ff
1 1 О GO
Меняя в двойном интеграле порядок интегрирования и за-
замечая, что
J/fft, t)ei(tl)dtx = e1(t),
в
получим:
J?1 (/) et(t) dt — С fK{tv t) ч^е&дdtdtx = 0 (/ = 1 ,...,*).
о ев
Значит, Pt'.?(s)=s0.
Наиболее просто записывается оператор Рх в случае,
когда собственному числу, равному единице, соответствует
только одна собственная функция eo(s), т. е. когда под-
подпространство £\ одномерно. В этом случае
Pi? (s) = «о (*)/?(') «о @ #.
в
Вращение fi поля —PtC на Si определится в этом случае
знаком числа
а = j[Ceo(f)].eo(f)dt.
в
Если, например, А — это оператор D.6) П. С. Урысона;
то в силу D.10) формула для определения числа а примет вид
1 Г ' d*K(s,t, 0) fr ...

228 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Если число а отлично от нуля, то 0 является в силу
теоремы D.1) изолированной неподвижной точкой поля I—А.
Индекс этой неподвижной точки равен нулю, если порядок
однородности оператора С четен, и равен по абсолютной
величине единице, если порядок однородности оператора С
нечетен. Если а > 0, то f1 = — 1, а если а < 0, то fi = 1.
Для случая, когда подпространство Е1 многомерно, при-
приведем одно частное утверждение об индексе нулевого реше-
решения уравнения Гаммерштеина.
Пусть А — оператор Гаммерштеина;
ff(s, t)f\t, ?(t)]dt,
в
где G — замкнутое ограниченное множество конечномер-
конечномерного пространства. Пусть выполнены следующие условия:
a) Ядро K(s, t) допустимо и симметрично, причем 1
является собственным числом оператора В:
B<p(s)= f K(s, t)v{t)dt.
в
b) Функция f(t, и) дифференцируема по и достаточ-
достаточное количество раз, причем f(t, 0) = 0 к
t, 0) _ ,. &f{t, 0) _ _ a*-i/(f,O) _ n
du =i> dti*
и непрерывная функция
k\ дик
принимает значения одного знака *).
Тогда, если k нечетно, то индекс неподвижной точки О
поля 1 — А по абсолютной величине равен единице.
Доказательство. Условия теоремы, как указывалось
в первом пункте настоящего параграфа (пример 2), обеспе-
обеспечивают представление D.1) оператора А:
*) Если среди собственных функций ядра K(s, t), соответст-
соответствующих собственному числу, равному единице, нет функций, тож-
тождественно обращающихся в нуль на некотором множестве положи-
положительной меры, то достаточно требовать, чтобы функция g(t) не была
тождественным нулем и не принимала значений разных знаков.

§ 4] ТЕОРЕМЫ ТИПА ЛЯПУНОВСКИХ 229
где
C»(s)= f K(s
причем операторы С и D удовлетворяют условиям а), Ь)
и с).
Через Е1 будем обозначать множество собственных век-
векторов (функций) оператора В, отвечающих собственному
числу, равному единице. Пусть оператор Р, проектирования
на подпространство Е1 определен формулой D.37).
В силу теоремы 4.1 для вычисления индекса нгподвижной
точки I) поля I — А нужно вычислить на единичной сфере S1
пространства Ех вращение поля —РгС.
Рассмотрим вначале случай, когда
В этом случае вращение поля —Р(С на Sl равно единице.
Действительно, если поле — РХС на Sl имеет нулевой
вектор, либо его вращение отлично от единицы, то найдутся
точка <p£Sj и число ;л^>0 такие, что
— PtC9+ji» = 0. D.38)
Так как функции e1(s), ..., ek(s) для построения опера-
оператора D.37) выбирались не однозначно, то без ограничения
общности можно считать, что »(s) = et(s). Таким образом,
равенство D.38) можно переписать в виде
к
- 2 Ч(s) Г lCet @1 «<@dt + {,et (s) = 0.
Умножая это равенство на е, (s) и интегрируя по G, по-
получим:
а= (" { JK(t, t^git^eXit^dt^e^dt. D.39)
о о
Меняя в правой части порядок интегрирования и замечая,
что
j K(t, tl)el(f)dt = e1(tt),
а

230 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
получим:
Из последнего равенства и отрицательности g(tx) следует,
что [х < 0. Мы пришли к противоречию.
В случае, если
g(t)>Q (t£Q),
аналогичными рассуждениями показывается, что вращение
поля —PjC на Sx равно вращению на Sx поля —I, т. е.
равно 1, если подпространство Е1 четномерно, и равно —1,
если Ех нечетномерно.
3. Случай комплексного пространства. Каждое ком-
комплексное банахово пространство можно рассматривать как
вещественное. При этом каждое инвариантное подпростран-
подпространство линейного оператора будет четномерным (так как
вместе с каждым собственным вектором <э линейный опера-
оператор имеет собственный вектор i<s, отвечающий тому же
собственному числу). Специфика комплексного пространства
позволяет просто вычислить вращение поля —PtC (см. тео-
теорему 4.1) для случая, когда пространство Е1 двумерно.
Этот случай соответствует рассмотрению линейного опера-
оператора В с простым в комплексном пространстве собственным
числом, равным единице.
Известно и легко видеть, что в указанном выше случае
вращение поля —PjC на единичной сфере S( пространства £г
будет равно показателю однородности k оператора С.
Таким образом, исследование поля —PtC в случае,
когда Еу двумерно, сводится к выяснению того, отличен ли
от нуля вектор Р^», где о — произвольный вектор про-
пространства Ev
В качестве примера выпишем условие того, что индекс
неподвижной точки (J векторного поля I — А, где А — вполне
непрерывный оператор А. М. Ляпунова, равен двум. Будем
пользоваться обозначениями, введенными в примере 3,
стр. 218.
Оператор А (поле I — А) будем рассматривать в про-
пространстве комплексных непрерывных на G функций. Пусть
е is) — единственная вещественная собственная функция веще-
вещественного симметричного ядра K(s, t), отвечающая собствен-

§ 4] ТЕОРЕМЫ ТИПА ЛЯПУНОВСКИХ 231
ному числу, равному единице. В этом случае условие отли-
отличия от нуля функции — PjCe (т. е. условие того, что абсо-
абсолютная величина индекса нулевого решения уравнения » = А<?
равна двум) запишется в виде
(8, tv t.2)e(t0e(t2)} X
в 6 Q
X e(s)dsdt1dti=^ 0.
Тонкие теоремы об индексе особой точки для случая
комплексного пространства установлены Э. Кронин [85].
4. Точки ветвления. Пусть неподвижная точка <?0 вполне
непрерывного непрерывно дифференцируемого векторного
поля I — А имеет индекс, равный по абсолютной величине
единице, причем производная Фреше оператора А в точке о0
не имеет единицу собственным числом. Как было показано
еще в главе II, в этом случае возмущенное векторное поле
«в — А<? — sF<? в некоторой окрестности точки <?о имеет един-
единственную неподвижную точку, если число е достаточно мало
по абсолютной величине, а оператор F достаточно гладок
(например, удовлетворяет условию Липшица в окрестности
точки <р0).
Предположим теперь, что единица является собственным
числом производной Фреше оператора А в точке <р0, являю-
являющейся изолированной неподвижной точкой поля I-—А.
Здесь могут встретиться различные случаи. Выше в на-
настоящем параграфе показано, что индекс неподвижной точки
может принимать в рассматриваемом случае различные зна-
значения f. Поэтому возмущенные векторные поля I—-A — F
в окрестности точки о0 (при малых F) будут иметь алге-
алгебраическое число -у неподвижных точек. Вопрос о том, какое
будет число геометрически различных неподвижных точек,
остается при этом открытым. Для получения ответа на этот
вопрос требуются дополнительные исследования.
Точку «0 естественно назвать точкой ветвления, если
при малых возмущениях sF уравнение » = A»-j-sF? имеет
в окрестности о несколько решений.
Вопрос о количестве этих различных решений и их
построении для случая нелинейных интегральных уравне-
уравнений аналитическими методами подробно изучен в работах
А. М. Ляпунова [44], Э. Шмидта р], Л, Лихтенштейна [40].

232 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
В более абстрактной форме различными методами эти же
задачи решались Э. Кронин [33], Р. Бертлом [6] и др.
Метод А. М. Ляпунова—Э. Шмидта (а затем и других
авторов) заключался в следующем.
Рассматривается уравнение <? = А<р и предполагается,
что ®0 = А»о. Тогда решения уравнения <s = А?-j-F<f ищутся
в виде (р = 9оН-Л. Для отыскания h получаем уравнение
h = А (?0 + h) — А?о 4- F Ср0 + *)• D.40)
Предположим, что оператор А в точке »0 имеет произ-
производную Фреше В, у которой 1 является собственным числом,
которому соответствует инвариантное подпространство Ех.
По теории Рисса, пространство Е представимо в виде пря-
прямой суммы Ех и второго инвариантного для В подпростран-
подпространства Е1. Представление элемента h£E в виде
определяет операторы Pt и Р1 проектирования соответственно
на Е[ и Е1:
Операторы Р, и Р1, как известно, коммутируют с В.
Уравнение D.40) может быть переписано в виде
/г = Вй + ш (/г) D.41)
затем заменено эквивалентной системой
D.42)
где х и у отыскиваются соответственно в Ех и Е1. В подпро-
подпространстве Е1 оператор В не имеет 1 собственным числом,
поэтому на Е- определен оператор Fy = A — ВI у.
Система D.42) поэтому может быть переписана в виде
D.43)
Второе уравнение системы D.43) при естественных пред-
предположениях при малых х имеет единственное малое реше-
решение у, зависящее от х: y = Y((x), так как ш(/г) состоит из
членов высшего порядка малости и применим принцип ежа-

§ 5] СПЕКТР В ОКРЕСТНОСТИ ТОЧКИ БИФУРКАЦИИ 233
гых отображений. Таким образом, решение уравнения D.41)
сводится к определению элемента х £ Еt из уравнения
0 D.44)
и определению затем элемента у при помощи применения
к х оператора R.
Итак, возможность построения уравнения D.41) опреде-
определяется возможностью решить уравнение D.44). Количество
решений уравнения D.44) определит количество рзшений
ур<1внения D.41). Уравнение D.44) поэтому называется
уравнением разветвления.
Уравнение разветвления—это уравнение в конечномер-
конечномерном пространстве Е1. Поэтому оно может быть записано
в виде системы п уравнений с п неизвестными скалярными
величинами, а затем исследовано методами теории функций.
Наиболее простым является случай, когда Ех одномерно;
тогда уравнение разветвления представляет собой уравнение
с одной числовой неизвестной.
Следует отметить, что фактическое построение уравне-
уравнения разветвления сложно, так как оно требует предвари-
предварительного построения оператора R. Именно в связи с жела-
желанием избежать этой сложности нами и была предпринята
попытка получить различные теоремы о точках бифуркации
и т. д. методом непосредственного рассмотрения уравнения
без перехода к уравнению разветвления.
§ б. Расположение спектра в окрестности
точки бифуркации
1. Множества NT,i и N^?,. Пусть А — вполне непрерыв-
непрерывный оператор, действующий в банаховом пространстве Е и
удовлетворяющий условию АЬ = 0. Пусть отличное от нуля
число jxq является точкой бифуркации для оператора А. Без
ограничения общности можно считать, что ;j0 > 0.
Обозначим через МГ,о совокупность собственных векто-
векторов <в оператора А: <в = у.А<?, норма которых не больше з
и которым соответствуют характеристические числа из ин-
интервала (ix0 — 5, ix). Аналогично, N£?, — совокупность соб-
собственных векторов, норма которых не больше з и которым
соответствуют характеристические числа из интервала
5

234 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
2. Теорема о точках бифуркации. Пусть нелинейный
вполне непрерывный оператор А(АЧ = 6) в точке Й имеет
производную Фреше В. Пусть \ь0—характеристическое число
оператора В. В силу теоремы 4.7 из главы II индекс ч(а)
неподвижной точки Ь поля I — ^А будет одинаков при всех
\ь < \i0. Этот общий индекс обозначим через fC^o—0)-
Аналогично через чС^оЧ-О) обозначим индекс неподвижной
точки Й полей I — \iA при ja > ц0 и близких к \i0. Если Й
будет изолированной точкой поля I — ;х0А, то ее индекс
обозначим через ^(;х0).
В § 2 настоящей главы исследовалась задача о точ-
точках бифуркации. В доказанных теоремах обосновывалась
законность линеаризации для случаев, когда производная
Фреше изучаемого оператора А имеет число ix0 своим не-
четнократным характеристическим числом. При этом условии
числа -у (]х0 — 0) и тС^оЧ^О) различны (и их произведение
равно — 1). Нетрудно видеть, что теорема о том, что ;х0
есть точка бифуркации, остается справедливой, если ее
условия формулировать так:
не предполагая при этом, что оператор А дифференцируем.
Теоремы предыдущего параграфа позволяют исследовать
вопрос о точках бифуркации и в том случае, когда
т. е. в случае, когда \>.о имеет четную кратность.
Вначале докажем теоремы о точках бифуркации в тер-
терминах, не связанных с производной оператора А.
Теорема 5.1. Пусть Й — изолированная неподвиж-
неподвижная точка вполне непрерывного векторного поля I—-\>.0А
(Й — изолированное решение уравнения <у = \t-oAv). Пусть
Тогда найдутся такие г, о > 0, что множество Л/^а
образует непрерывную ветвь в ^-окрестности точки Й,
причем характеристические числа \i., соответствующие
собственным векторам из Л/^з. заполняют полностью
некоторый интервал (а2, jxo)cz(^o — S, ;х0).
Доказательство. Пусть -у(jx) = -^(;х0 — 0) при всех р
из [iXj, ja0]. В качестве s выберем такое число, что в шаре Т

§ 5] СПЕКТР В ОКРЕСТНОСТИ ТОЧКИ БИФУРКАЦИИ 235
радиуса е с центром в точке 8 векторные поля I — [хгА,
I — [А0А не имеют отличных от 8 неподвижных точек. Пусть
Покажем вначале, что Л/,,5 является непрерывной ветвью,
г. е. покажем, что Ыё.ъ ПГ ф 0, где Г—-граница произволь-
произвольной области G, содержащей 8 и лежащей внутри Т. Рас-
Рассмотрим для этого на Г семейство векторных полей
Ф^ = I— [J-A (^ <; [1 <; \х0). Поля Ф^ и Ф^ имеют на Г раз-
различное вращение, которое равно соответственно индексу
Т (^i)" Ч(!%) единственной неподвижной точки 0, лежащей
в области О. Поэтому поля Ф^, и Ф^ не могут быть гомо-
гомотопны на Г. Значит, при некотором u£(<J4., \iq) поле Ф^
на Г имеет нулевой вектор <о: о — [лА<? = 8. Точка <р будет
принадлежать, следовательно, ЫГ.ь-
Обозначим через S границу шара Т. Поле I—-[icA не
имеет по предположению на S нулевых векторов. Поэтому
найдется такое число а > 0, что
Обозначим через ;х2 такое число, что \it < ja2 < [i0 и
™ 1*8^ sup || A? || ■
Тогда поля Фа = 1 — [J-A ([x2 <! [i <; ;x0) гомотопны, так как
они не имеют нулевых векторов на S, ибо
> а — (;х0 — р,2) sup || А» || > 0.
6S
Следовательно, поля Ф^ (а2 ^ \ь ^ ц0) имеют на S враще-
вращение, равное вращению ч([л0) поля Ф;л0.
Рассмотрим поле Ф^ (ix2 ^ \х ^ jx0) в шаре Т. Это поле дол-
должно иметь, кроме Й, еще и другие нулевые векторы ср, так
как в противном случае вращение на S было бы равно ин-
индексу ^ (а0 — 0) точки 8. Точка <р будет собственным векто-
вектором оператора А, которому соответствует характеристиче-
характеристическое ЧИСЛО [X.
Значит, интервал ([ха, ц0) полностью заполнен характери-
характеристическими числами оператора А,
Теорема доказана.

236 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Аналогично доказывается
Теорема 5.2. Пусть Ь —- изолированная неподвижная
точка вполне непрерывного векторного поля I — ;х0А.
Пусть
Тогда найдутся такие s, 8 ]> 0, что Nt, s образует
непрерывную ветвь в г-окрестности точки Н, причем ха-
характеристические числа |х, соответствующие собственным
векторам <в £ Nt, ,-, заполняют полностью некоторый ин-
интервал (ix0, ;х.2)с(:х0, jj-o + S).
Из теорем 5.1 и 5.2 следует, что <х0 является точкой
бифуркации для оператора А, если существуют и различны
два из трех чисел
Т(Ро —0), КЫ- Т(!
3. Дифференцируемый оператор. В этом пункте мы бу-
будем предполагать, что вполне непрерывный оператор А (АО = 0)
имеет в точке 0 производную Фреше В. Пусть ц0 — харак-
характеристическое число оператора В, причем инвариантное под-
подпространство Ev соответствующее характеристическому числу
\i0, состоит только из собственных векторов. Размерность
подпространства Ех обозначим через $ (\i0). Будем предпо-
предполагать, что оператор А допускает представление D.1)
(стр. 214), причем выполнены условия а), Ь), с). Восполь-
Воспользуемся также обозначениями, введенными в § 4.
Из теорем 4.7 главы II и 4.1 главы IV вытекает, что
Т(К> + 0) = Т(!Ч>-0)(-1)?(ь> E.1)
и
ТГЫ = ТA*о —0)Ti. E-2)
где ft — вращение на единичной сфере S, подпространства £\
векторного поля Ф,:
Ф = — PtC v.
Равенство E.2) имеет, конечно, смысл только в том случае,
когда поле Ф1 не имеет на St нулевых векторов.
Уже известно (§ 2), что ;х0 будет точкой бифуркации,
если j3 (;x0) нечетно. Теоремы 5.1 и 5.2 позволяют в этом
случае усилить предположения о точках бифуркации. В слу-
случае, когда Э (;хр) четно, теоремы 5.1 и 5.2 позволяют ука-

§ 5] СПЕКТР В ОКРЕСТНОСТИ ТОЧКИ БИФУРКАЦИИ 237
зать новые условия законности линеаризации в задаче о точ-
точках бифуркации.
Теорема 5.3. Пусть | -у, | ф 1. Тогда ;х0 является
точкой бифуркации, а спектр оператора А заполняет
полностью два интервала (ixt, ц0) и (а0, \ь2), где ixt, |ха—
некоторые числа, удовлетворяющие условию уч < [а0 < и2.
Теорема 5.4. Пусть ft = —1.
Тогда \i0 является точкой бифуркации.
Если [i (}a0) четно, то спектр оператора А полностью
заполняет два интервала (jxt, ;х0) и (\i0, ij.2), где [i1, jx2 —
некоторые числа, удовлетворяющие условию ixt <; ij.o <; u2.
Если $ (\i0) нечетно, то спектр оператора А полностью
заполняет некоторый интервал (\il, ;л0), где ;j4 < \i0.
Теорема 5.5. Пусть '$ (а0) нечетно и "^=1.
Тогда спектр оператора А полностью заполняет не-
некоторый интервал (ix0, a2), где а0 < а2.
Доказательства всех этих теорем сводятся к проверке
выполнения условий теорем 5.1 и 5.2. Интервалы (fxt, ix0) и
(^о» ^г) —эт0 те интервалы, которые заполнены характери-
характеристическими числами оператора А, соответствующими соб-
собственным векторам из непрерывных ветвей ЛГЕ7 5. Nt,z-
В силу теорем 5.3—5.5 каждое предложение об индексе -ух
можно формулировать как теорему о точках бифуркации и
как теорему о расположении спектра. Так как получение
таких формулировок не представляет труда, то мы ограни-
ограничимся немногими примерами.
4. Примеры. Рассмотрим вначале оператор П. С. Уры-
сона
Ae(s)= j K[s, t, <o(t)]dt, E.3)
где G— замкнутое ограниченное множество конечномерного
пространства. Относительно функции K(s, t, и) будем пред-
предполагать, что она имеет k~\- 1 непрерывные производные по
и, причем
A (S, I, U ) =:

238 ЗАДАЧИ О СОБСТВЕННЫХ ФУНКЦИЯХ [ГЛ. IV
Будем предполагать также, что K'u(s, t, 0) — симметричное
ядро.
При этих условиях (см. § 4, пример 1) оператор E.3)
допускает представление D.1).
Допустим, что [i0 — простое характеристическое число
линейного оператора В,
= $ K'u(s, t,
а
которому соответствует собственная функция eo(s),
Тогда (см. стр. 227) индекс, изолированной неподвижной
точки 9 оператора А, рассматриваемого в пространстве не-
непрерывных на О функций, определится числом
k! ar= J fd* K(*J> 0) e* (Q e0 (s) dt ds, E.4)
о а
которое предполагается отличным от нуля.
Если к четно, то ^t = 0 (см. стр. 228). В этом случае
выполнены условия теоремы 5.3. Спектр оператора А, состо-
состоящий из характеристических чисел, близких к [i0, заполнит
два интервала: (]xt, ja0) и (ja0, ;л3). Например, это будет
в случае, когда
/ !
в а
В большинстве прикладных задач у уравнения <р = »хА<р
ненулевые решения существуют либо при jj. ^> [i0, либо при
ja •< |х0. Поэтому описанный выше случай не должен иметь
места. Это значит, что в уравнениях, описывающих процессы,
в которых вторые состояния (вторые решения) возможны,
например, только при значениях параметра, больших неко-
некоторого критического [х0, нелинейности должны быть, вообще
говоря, такими, что K^u(s, t, 0) = 0. Это замечание отно-
относится не только к уравнениям П. С. Урысона: при разло-
разложении любого нелинейного оператора в ряд после линей-
линейного члена первым невырожденным должен быть, вообще
говоря, член нечетного Порядка.

5]
СПЕКТР В ОКРЕСТНОСТИ ТОЧКИ БИФУРКАЦИИ
2 39
Если в E.4) число k нечетно, то (см. стр. 228) в силу
теорем 5.4 и 5.5 спектр оператора А заполняет интервал
слева или справа от точки ja0 в зависимости от знака инте-
интеграла E.4). Если а > О, то спектр заполняет интервал слева
от ft0, если а < 0, то справа.
В качестве второго примера рассмотрим оператор Гам-
мерштейна
A» (s) = J K(s, t)f[t, <p (*)] dt, E.5)
а
где О — снова ограниченное замкнутое множество конечно-
конечномерного пространства. Пусть симметричное ядро K{s, t)
допустимо, а функция f(t, и) непрерывна по совокупности
переменных вместе со своими производными по а до (k-\- 1)-го
порядка (см. § 4, пример 2), где k — нечетное число.
Пусть
, 0) _<
, 0) _
, 0)
Пусть u0— характеристическое число нечетной кратности
оператора
В? Gs)= J K(s, t)v(t)dt.
в
Тогда (с: . конец пункта 3 предыдущего параграфа) ft = — 1.
если g(i) > 0, и Чх = 1. если g(/)< 0. Из теорем 5.4 и 5.5
следует, ч;о спектр оператора E.5) заполнит полностью
некоторый интервал слева от точки ix0, если g(t)^>0, и
справа от и.о, если ,§•(() <0.
Таким образом, в тех задачах, в которых вторые реше-
решения (собственные функции) должны появляться при ,а > ;х0,
разложение в ряд Тейлора функции f(t, и) должно после
линейного члена иметь следующий член нечетного порядка k,
причем должно, вообще говоря, выполняться условие
df(t, 0) dbf(t, 0)
ди
дик
-

ГЛАВА V
СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ
ОПЕРАТОРОВ
В настоящей главе изучаются интегральные операторы,
преобразующие неотрицательные функции в неотрицательные.
Первое серьезное исследование одного класса таких не-
нелинейных интегральных операторов было проведено П. С.Уры-
соном [66] при помощи своеобразно применяемого метода
последовательных приближений. Основные предложения
П. С. Урысона о спектре положительных операторов в более
общей форме доказываются в § 3 этой главы другим мето-
методом [29е], [:'1в- »].
Излагаемый в главе метод доказательства теорем суще-
существования собственных функций у положительных операторов
берет свое начало от П. С. Александрова и Г. Хопфа ['2].
Эти авторы указали, что с помощью топологической теоремы
Брауэра о неподвижной точке весьма просто доказывается
алгебраическая теорема Перрона о том, что каждая неосо-
неособенная матрица с неотрицательными элементами имеет поло-
положительное собственное число, которому соответствует соб-
собственный вектор с неотрицательными координатами.
Теория М. Г. Крейна конусов в банаховом пространстве
и принцип Шаудера неподвижной точки позволили М. А. Рут-
ману получить топологическое доказательство теоремы Ентча
(являющейся аналогом теоремы Перрона) о существовании
положительного собственного числа, которому соответствует
неотрицательная собственная функция у линейного инте-
интегрального оператора
ь
A<s(s) = $ K(s, l)<D(t)dt,
а
ядро которого точечно положительно.

§ ij ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 241
Топологические соображения позволили М. А. Рутману
изучить также некоторые классы нелинейных положительных
монотонных вполне непрерывных операторов.
Позже было замечено [29д], .что «конусные» соображения
позволяют исследовать и широкие классы немонотонных
положительных вполне непрерывных операторов. При этом
методика доказательства теорем была упрощена.
Применение понятия вращения вполне непрерывного век-
векторного поля позволило также исследовать структуру мно-
множества собственных векторов нелинейных операторов, изу-
изучаемых методами теории конусов. Как оказалось, собственные
векторы, лежащие в конусе, образуют непрерывные ветви [29е].
§ 1. Теорема о собственном векторе
1. Конус в банаховом пространстве. Пусть Е,—как
обычно, вещественное банахово пространство.
Множество М с Е называется выпуклым, если вместе
с каждыми двумя точками х, у£М этому множеству при-
принадлежит полностью отрезок, соединяющий эти две точки, т. е.
о< х<; 1.
Замкнутое выпуклое множество К с: Е называется конусом,
если выполнены условия:
a) Из х£К следует, что 1х£К при всех 1^-0.
b) Из каждой пары векторов (точек) х, —х£Е по
крайней мере один не лежит в К, если х ф Ь.
Конус К позволяет ввести в£ полуупорядочен-
полуупорядоченность. Пишут х <. у или у > х, если у — х£К., В част-
частности, х^Ь, где 9—нуль пространства Е, если х£К-
Легко проверяется, что знак < обладает обычными свой-
свойствами знака <^.
Ниже, рассматривая конкретные функциональные про-
пространства Е (непрерывных функций или функций, суммируе-
суммируемых с некоторой степенью р, р~^-\), будем, как правило,
выделять в них конус неотрицательных функций.
Соотношение ^ при этом приобретает простой смысл:

242 СОБСТВЕННЫЕ ФУ НКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
тогда и только тогда, когда почти при всех значениях пе-
переменной t
'■?(')<'МО-
Отметим три утверждения, непосредственно следующих
из определения конуса.
1. Пусть и£Е, х^К и х — ~[и^К, где f — некоторое
положительное число-
Тогда из х > tu следует, что t <. у.
Действительно, если х — tu^K и f -< t, то из выпукло-
выпуклости конуса и свойства а) следует, что
т. е.
что противоречит условию.
Множество векторов вида х-\-и, где х^К, а и — неко-
некоторый фиксированный вектор, будем обозначать через К-\- и.
Множество К-\- и будет, очевидно, замкнутым.
2. Если — и £ К, то
p((J, АГ+к)= inf ||х + и||>0.
Для доказательства этого утверждения достаточно заме-
заметить, что
p('J, K+и) = j> (—а, К).
3. Пусть и — такой вектор из Е, что — и£К.
Тогда для любого х^Е можно указать такое f > О,
что
Действительно, если х — пи^К при всех и= 1, 2, ...,
то вектор — и принадлежит К, так как он является предель-
предельным для последовательности векторов и(п= 1, 2, . ..)
из конуса К. Полученное противоречие доказывает утвер-
утверждение 3.

§ lj ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 243
2. Положительные операторы. Векторы <р£/С будем
называть положительными векторами.
Оператор А, действующий в пространстве Е (или в его
части), будем называть положительным, если он преобра-
преобразует положительные векторы в положительные.
Ниже через Кг обозначается множество положительных
векторов с нормой, не превосходящей г. Множество Кг при
любом г будет выпуклым, так как оно является пересечением
двух выпуклых множеств: конуса К и шара Тг векторов
с нормой, не превосходящей г.
Приведем наиболее простое утверждение о существовании
собственного вектора у положительного вполне непрерывного
оператора.
Лемма 1.1. Пусть А — положительный вполне непре-
непрерывный оператор. Пусть для некоторого г0 > О
р@, АКГо) = inf ||A*||>0. A.1)
Тогда оператор Р имеет в конусе К по крайней мере
один собственный вектор х0, [|*oll —го> которому соот-
соответствует положительное собственное число /.:
kxo=kxo. A.2)
Доказательство. Определим на Кг, оператор В
равенством
Как легко видеть, оператор В вполне непрерывен и отобра-
отображает выпуклое множесто К,а в себя. В силу принципа Шау-
дера неподвижной точки найдется такой элемент хо^К,-„, что
Вл:0 = х0.
Но это и означает, что имеет место равенство A.2), в ко-
котором
ИА*11 о,
причем Цл:01| = г0.
Лемма доказана.
В некоторых случаях бывает удобно несколько более
общее утверждение Э. Роте.

244 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ |ГЛ. V
Положительный вполне непрерывный оператор А имеет
собственный вектор х0, \\xq\\ = г0, если выполнено условие
inf ||Ал:||>0. A.3)
Доказательство этого утверждения следует из леммы 1.1,
если рассмотреть вспомогательный оператор Ад:
М= 11*11
где и — некоторый фиксированный элемент из конуса К.
Достаточно заметить, что оператор Ах удовлетворяет усло-
условиям леммы 1.1 и что
Ххх — rQAx
при х£К, \\x\\ =г0.
Вернемся к рассмотрению оператора А, удовлетворяющего
условиям леммы 1.1. Изменяя г в формулировке леммы, мы
получим, что этот оператор А имеет собственные векторы
любой нормы, не превышающей г0. Естественно ожидать,
что эти собственные векторы образуют непрерывную ветвь
в том смысле, как это было определено в предыдущей главе.
Для выяснения структуры множества собственных векторов
мы установим вспомогательную геометрическую теорему ([9-9е],
подробное доказательство опубликовано в [316 ]), содержащую
как частный случай лемму 1.1. Лемму 1.1 и простое дока-
доказательство ее мы привели, так как они выясняют простой
геометрический смысл подобных утверждений.
Теорема 1.1. Пусть Г — граница открытого ограни-
ограниченного множества GczE, внутренней точкой которого
является Ь. Пусть на ГГ\К определен положительный
вполне непрерывный оператор А, причем
inf |]Ад:||>0. A.4)
Тогда оператор А имеет на Г ПК" по крайней мере
один собственный вектор хох
Адг0 = кх0,
которому соответствует положительное собственное
число к.

§ 1] ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 245
Доказательство. Рассмотрим вначале случай конечно-
конечномерного Е.
Оператор А по условию теоремы определен только на
ТОК- Построим такое непрерывное продолжение А опера-
оператора А на все Г, что
АГсАГ A.5)
inf ||Ал:||>0. A.6)
Для конструирования оператора А рассмотрим в линейном
множестве R минимальной размерности, содержащем множе-
множество А (Г ПК"), некоторую систему координат. Пусть п — раз-
размерность R. Тогда заданию оператора А эквивалентно
задание на ГПЛ" непрерывных функций «j(x), ..., <оп (х) —
компонент вектора Ал: в рассматриваемой системе координат.
Продолжим по Урысону непрерывные функции <pt (х), ...
..., <оп{х) на все Г. Мы получим непрерывное продолже-
продолжение At оператора А на Г, причем AJ^cR. Пусть «S — выпук-
выпуклая оболочка множества А(ГПЮ- Легко видеть, что S£K
и р@, S) > 0. Выберем в S некоторую внутреннюю точку и0
и обозначим через Р оператор, совпадающий с I на S и
преобразующий каждую другую точку z£R в точку пере-
пересечения отрезка, соединяющего точки и0 и z, с границей
множества S. Оператор Р будет непрерывен. Оператор
А = PAj будет, как нетрудно проверить, удовлетворять усло-
условиям A.5) и A.6).
Каждый собственный вектор д:0 оператора А, которому
соответствует положительное собственное число л:
AxQ = kx0, A.7)
является собственным вектором и оператора А, так как из
A.7) и kxQ£K следует, что хо£К, а тогда А.хо = AxQ.
Таким образом, для того чтобы завершить доказательство
теоремы для конечномерного случая, достаточно показать,
что оператор А имеет собственные векторы, которым соот-
соответствуют положительные собственные числа, ..
Допустим, что эт.о не так.

246 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Рассмотрим тогда на Г непрерывное семейство непре-
непрерывных векторных полей
Ф, = 1 — (А. A.8)
Покажем, что при достаточно больших t векторные
поля Ф4 выпускают направление ц0, где и0 — любой фикси-
фиксированный вектор из конуса. Действительно, предположим,
что существует последовательность неограниченно возрастаю-
возрастающих положительных чисел (к (k = 1, 2, .. .), причем для
каждого tk найдется такой вектор хк£Г, что
F = 1. 2, .. .),
где Хк > О (k=l, 2, . . .). Выберем подпоследовательность
xki(i=l, 2, .. .) так, чтобы последовательность Ахк. схо-
сходилась к некоторому элементу v. Так как нормы элементов
Ах(х£Т) ограничены снизу положительным числом, то
||г>Ц^=О. Из замкнутости конуса следует, что v£K. Так как
нормы векторов хк{ (/==1, 2, ...) равномерно ограничены,
то v будет предельным вектором и для последовательности
векторов
Axki — ~* (/=1, 2, ...).
В силу того, что
мы, переходя к пределу, получим, что v — — Хоц0, где к0 > 0.
Но тогда — ио^К и uQ£K, что противоречит условию Ь)
в определении конуса. Это противоречие доказывает, что
векторные поля A.8) при достаточно больших i выпускают
направление а0.
По допущению, поля "Ф^ не имеют нулевых векторов и,
следовательно, вращение их на Г одинаково. Вычислим это
вращение. С одной стороны, вращение равно нулю, так как
мы доказали, что при достаточно больших t поля Ф4 выпу-
выпускают некоторые направления. С другой стороны, абсолют-
абсолютная величина вращения равна единице, так как Фо = 1.
Полученное противоречие завершает доказательство теоремы
для конечномерного случая.
Перейдем к случаю бесконечномерного Е.

§ 1J ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 247
Пусть вполне непрерывный оператор А, удовлетворяющий
условию теоремы, не имеет на Г О К собственных векторов,
которым отвечают положительные собственные числа.
Тогда найдется такое число а > О, что
\\kx-~tx\\>a (х£ТПК, 0<£<oo). A.9)
Действительно, предположив обратное, построим такую
последовательность элементов л^^ГП^" и такую последова-
последовательность чисел tk, что
||А** — tkxk[\<j (K=l. 2, ...)•
Числа tk удовлетворяют при этом неравенствам
откуда вытекает (так как числа ||лгд.||, ||Axfc||, & = 1, 2,. ...
равномерно ограничены сверху и снизу положительными
числами) возможность выбора такой последовательности
индексов fej(i=l, 2, ...)> что числа ^сходятся к некото-
некоторому числу to=fcQ и векторы Алт^ сходятся к некоторому
вектору v. Тогда последовательность хк{ сходится к эле-
элементу j-v, так как
l\\Axk.-v\
Вектор -7-v^YnK при этом является собственным вектором
го
оператора А.
Аппроксимируем оператор А на ГПЯ" конечномерным *)
непрерывным оператором At с точностью до ^:
A.10)
удовлетворяя одновременно услови ю
*) То-есть таким оператором, множество значений которого
лежит в конечномерном подпространстве,

248 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Возможность такой аппроксимации непосредственно вытекает,
например, из шаудеровской конструкции аппроксимирующих
конечномерных операторов (см. стр. 113).
Обозначим через Et конечномерное подпространство аЕ,
содержащее Аг(ГПЛ")- Через Л\ обозначим пересечение
K(]EV Множество /Ct также будет конусом. Введем обо-
обозначение Gj = G П Ev Граница 1\ множества GL является
частью Г.
Из A.9) и A.10) следует неравенство
откуда вытекает, что оператор At не имеет на 1\ П Kt соб-
собственных векторов, которым отвечают положительные соб-
собственные числа.
С другой стороны, оператор At имеет собственные
векторы на 1\ П K"i> так как он удовлетворяет условию A.4),
причем его можно рассматривать в конечномерном простран-
пространстве Ev а для конечномерного случая теорема доказана.
Таким образом, допущение, что оператор А не имеет на
Г Л К собственных векторов, приводит к противоречию.
Теорема доказана.
Приведенное доказательство основано на переходе к слу-
случаю конечномерного пространства:. Естественно возникает
вопрос о непосредственном доказательстве этой теоремы
для случая бесконечномерного пространства.
Для получения такого доказательства заметим вначале,
что в условиях теоремы 1.1 главы IV у оператора А суще-
существует на Г собственный вектор, соответствующий положи-
положительному собственному числу. Действительно, в условиях
этой теоремы вращение поля 1 — tX при больших t равно
нулю. Поэтому сформулированное усиление вытекает из
теоремы 1.2 главы IV. ■ . - .
Допустим, что рассматриваемый оператор А определен
на всем Г и удовлетворяет условиям
||А*Ц>«>0 --.(*€ Г).
Тогда найдется собственный вектор <ро£Г оператора А,
которому соответствует положительное собственное. ЧИСЛО,
Поэтому о0 > 0, и доказательство завершено.

§ 1] ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 249
Для. применения указанного простого доказательства
нужно уметь оператор А, заданный только на Г П К, про-
продолжать соответствующим образом на все Г. Тогда соб-
собственный вектор <р0 продолженного оператора А будет одно-
одновременно собственным вектором оператора А, если ср0 £ Г П К.
В случае произвольного конуса построение оператора А
оказывается более сложным, чем приведенное в этом пункте
доказательство теоремы 1.1. Это объясняется тем, что тео-
теорема 3:2 главы II не дает возможности непосредственно
продолжить оператор А даже так, чтобы выполнялось одно
условие: АГ с К.
В некоторых случаях, однако, построение оператора А
осуществляется просто.
Пусть каждый элемент и£Е представим в виде
где Р, и Р2— непрерывные операторы, множество значений
которых лежит в К, причем Ptu = и и Р,ц=9 при и£К.
Если К — конус неотрицательных функций (например, в С
или I?), то в качестве Pt можно рассмотреть оператор,
относящий функции u(s) функцию, принимающую те же зна-
значения, что и u(s), в точках, где «(s)]>0, и равную нулю
в остальных точках. Для указанных конусов (миниэдральных
по терминологии М. Г. Крейна) в ряде случаев нужными
свойствами обладает оператор
3. Ветви собственных векторов. Будем говорить, что
собственные векторы оператора А образуют непрерывную
ветвь длины R, если непусто пересечение множества соб-
собственных векторов с границей Г каждого открытого мно-
множества, содержащего нуль 9 пространства Е и содержаще-
содержащегося в шаре ЦлгЦ^С/?^ где /?г — любое положительное число,
меньшее чем /?.
Из теоремы 1.1 вытекает
Теорема 1.2. Пусть положительный вполне непре-
непрерывный оператор А удовлетворяет условию
рF, А(ГП/О)>0, A,П)

250 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
где Г — граница любого открытого множества F, содер-
содержащего Н и содержащегося вместе с Г внутри шара
\\x\\<R.
Тогда собственные векторы оператора А образуют
в конусе К непрерывную ветвь длины R.
Это утверждение дает весьма грубые признаки сущест-
существования собственных векторов. Оно не содержит даже общих
признаков существования собственных векторов у линейных
положительных операторов. В следующем параграфе будут
установлены более тонкие утверждения.
Однако некоторые приложения теорема 1.2 находит.
Пример. Рассмотрим интегральный оператор Гаммер-
штейна
A? (s) = J K(s, t)f[t, <p @1 dt,
в
где G — некоторое замкнутое ограниченное множество «-мер-
«-мерного пространства.
Пусть ядро K(s, l) непрерывно и положительно,
K(s, *)>«>0 О,
Пусть функция fit, и) (t£G, 0^u<oo) удовлетворяет
условиям Каратеодори и неравенствам
auPsCf(t, «)<£uP-f-c (i^O, 0<u<oo),
Обозначим через ft(t, и) функцию, определенную равен-
равенством
fi(t, u)=f(t, | о |) (f € О, — со < и < ос).
В силу теорем главы I оператор At
At?(s)= f K(s, t)ft[t, ?{t)\dt
в
будет действовать в пространстве LP и будет вполне непре-
непрерывным.
Так как на неотрицательных функциях <p(s) из простран-
пространства LP
— Ао,
то оператор А, рассматриваемый в конусе К положительных
функций из LP, вполне непрерывен.

§ 1J ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 251
Положительность оператора А очевидна.
Пусть Г—граница некоторого открытого множества
из LP, содержащего шар Н'-рЦО- Тогда ^ГПК
2 JL
ЦА?Ц = { J [ J K(s, t)f\ty v(t)\dt}Pdsy>ma(mesG)p r*>.
G G
Таким образом, если a > О, то выполнено условие A.11),
откуда следует теорема:
Положительные собственные функции интегрального
оператора Гаммерштейна образуют {при перечисленных
выше условиях) в LP непрерывную ветвь бесконечной длины.
4. Конус Кщ, к- При изучении некоторых нелинейных
операторов в пространствах С или № удобно рассматривать
конусы, отличные от конуса неотрицательных функций.
В настоящем пункте будут приведены такие теоремы о су-
существовании непрерывных ветвей собственных векторов, до-
доказательства которых используют конус К% специальной струк-
структуры. Конус Ке рассматривался для доказательства других
предложений М. Г. Крейном и М. А. Рутманом [34|.
Пусть К—конус в банаховом пространстве Е. Пусть
Для каждого элемента и£К рассмотрим совокупности
L(u), N(u) таких чисел I, п, при которых справедливы соот-
соотношения
/«()<.«<. пи0.
Из замкнутости конуса К вытекает, что множества L(u),
N(u) замкнуты. При этом множество L(u) (если оно непусто)
ограничено сверху, а множество /V(«) — снизу. Пусть
= max Z, и(и)= min п.
Обозначим через Кщ, к, где k >- 1, совокупность таких
элементов и£Е, для которых /(и)>0, п (и) > 0 и
й(и)<*/(и). A.12)
Покажем, что Ку^ н является конусом, если это множество
пополнено нулевым элементом.

252 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОН [ГЛ. V
Пусть uv u.2^KUt,,k-. Тогда из
l(Uj) и^а^п (at) и0, /(и.а) ио«.и.2«.п (иа) й0
следует при 0 <; А <; 1
|W(at) + (l — *)*(ияI «о < A«t +A —л)и3 <
<[Хя(И1) + A— Я)п(«2)]«0.
Значит,
О < n [X«x + A — А) «2] < Аи («t) + (l — л) я (иа).
Из последних неравенств и A.12) вытекает, что
п [\их + A - Ц <Н\ <, Хи (»t) + A - Ц п («2) ^ ,
Таким образом, AHt + (l—^)«2€^«u. ь ПРИ 0<^А<[1. Зна-
Значит, /Сг<од выпукло.
Замкнутость Кщ, к вытекает из того, что в соотношениях
I («п) «о<-««<-" (««) «о («п 6 Кщ. к\ п = 1, 2,. . .)
можно по некоторой подпоследовательности перейти к пре-
пределу, если последовательность ип сильно сходится.
Выполнение условий а), Ь) из определения конуса оче-
очевидно.
Если в пространстве С непрерывных на О функций- рас-
рассмотреть совокупность положительных функций tf (s), удо-
удовлетворяющих условию
то она образует конус Ки^к< где Ho(s)=l- Аналогично
в пространстве LP конус Ки^ъ, где uo(s)= 1, образует сово-
совокупность функций <p(s), для которых
yrai maxcp(s)<; k vrai n?in<p(s). (i.14)
Пример 1. Рассмотрим интегральный оператор Гаммер-
штейна

§ 1 j ТЕОРЕМА О СОБСТВЕННОМ ВЕКТОРЕ 253
где G— замкнутое ограниченное множество «-мерного про-
пространства. Будем предполагать, что ядро K(s, t) допустимо
и удовлетворяет условию
0< m^CK(s, *)<Л1<оэ (s, t£G), A.15)
а непрерывная функция f(t, и) (t£G, О-<С] и < AJ) удовле-
удовлетворяет условию*)
/(*, 0)=з0, /(/, и)>А(и) (/£0, 0<и<#), A.16;
где Л (и)— неубывающая функция, равная нулю только
при и = 0.
Оператор А будет при выполнении этих условий опре-
определен на множестве KR функций с нормой, меньшей R,
из конуса К неотрицательных функций пространства С не-
непрерывных на G функций. Оператор А будет положитель-
положительным и вполне непрерывным.
В Силу A.15) для любой функции »)
f
<?@1 <#< A<p(/)< Л1 \ f\l, v{f)\dt,
G
т. e.
n (A?) ^^
/ (A(p) ^ от *
Значит, оператор А положителен и относительно конуса
ЛГ^ (ио=з=1).
Пусть Г — граница открытого множества FczC, содер-
содержащего Н вместе с его шаровой окрестностью радиуса г
и лежащего вместе с Г внутри шара радиуса R. Тогда
для каждой функции »(х)£ГПЛ' м справедливо неравен-
ство
mm cp (s) ^> -гт max <p (s) ^ —п-,
*) Из доказательства видно, что достаточно требовать в A.16)
выполнения неравенства f(t, u)^-h(u) лишь на некотором мно-
множестве G±cz О положительной меры.

254 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ (ГЛ. V
откуда в силу A.15) и A.16)
||Aep(s)|| =max Г K(s, t)f[t,?(t)\dt>m Г А [ер(*)!<«>
(?6ГП/"Г и). ■
т
Полученное неравенство является условием A.4) тео-
теоремы 1.1.
В силу теоремы 1.1 оператор А имеет на Г ПК ж по
III
крайней мере одну собственную функцию.
Таким образом, собственные функции интегрального
оператора А образуют при .выполнении условий A.15) и
A.16) в конусе К непрерывных неотрицательных функций
непрерывную ветвь длины R.
Пример 2. Рассмотрим интегральный оператор A.M. Ля-
Ляпунова
СО
= 2
где G—замкнутое ограниченное множество конечномерного
пространства.
Будем предполагать, что оператор L определен в еди-
единичном шаре пространства С (непрерывных на G функций)
и вполне непрерывен (условия полной непрерывности см.
в главе 1). Кроме этого, будем предполагать, что все ядра
Ki(s; tv:.., /4), не равные тождественно нулю, удовлетво-
удовлетворяют условиям
0<mi</fi(s, /р..., ^)</И4<сю (s,tv...,ti€O), A.17)
причем
■£<k A=1,2,...), A.18)
где k < оо.
Пусть <p(s) — неотрицательная функция, на которой опре-
определен оператор L, причем
max A? (s) = A<o (s*), min A<p (s) = А«р (s**).

§2] ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ . 255
Тогда
оо
<p(s)=y | ... \ /(«(Л^, .... *<)?(/t)... ?&)Л, ••• Л4<
J
<; k min Acs(s).
Значит, оператор L положителен относительно конуса
KUm ft («о— ')•
Пусть снова Г — граница открытого множества Fez С,
содержащего Ь вместе с шаровой окрестностью радиуса г
h лежащего вместе с Г внутри единичного шара. Тогда для
каждой функции <р(£)£ГПК«, к справедливо неравенство
minф(s)>Tmax»(s)>- ~.
f0 ft gff *
откуда
I! i 9EI =
CO
= max У I • • • Г A"i(s, /If . . ., /<)?&) • • •
У (t? (s^ Г n ^«-. *) •
т mes
Полученное неравенство является условием A.11) тео-
теоремы 1.2.
Таким образом, собственные функции интегрального
оператора Ляпунова образуют при выполнении условий
A.17) и A.18) в конусе непрерывных неотрицательных
функций непрерывную ветвь длины 1.
§ 2. Операторы с монотонными минорантами [2е]
1. Построение операторов, близких к исследуемому.
Вполне непрерывные положительные операторы, непосред-
непосредственно удовлетворяющие условиям теоремы 1.2, не исчер-
исчерпывают всех случаев, которые могут быть исследованы

256 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ.
методами теории конусов. Это относится даже к линейным
положительным операторам.
Общий путь установления существования собственных
векторов для более широких классов положительных опера-
операторов заключается в следующем. Конструируются близкие
к изучаемому оператору А операторы А„ так, что для них
существование собственных векторов <рй
Аи<?„ = А„ф„ B.1)
доказывается просто. Ниже операторы А„ определяются равен-
равенством
A.?=A(<p+-i-t») (Те*; п = 1, 2, ...). B-2)
где v — так подобранный вектор из конуса К, что опера-
операторы кп(п = 1,2, . . .) удовлетворяют условиям теоремы 1.2.
Совершая в равенстве B.1) предельный переход, полу-
получают теоремы о существовании собственных векторов у опе-
оператора А. Этот предельный переход оказывается возможным
в случае, когда абсолютные величины собственных чисел 1п
в равенстве B.1) равномерно ограничены снизу.
2. Монотонные операторы. Оператор А, действующий
в пространстве Е, полуупорядоченном при помощи конуса К,
называется монотонным, если из х^у(х, у£Е) следует:
Ах <> Ау.
1Монотонными операторами будут, например, все положитель-
положительные линейные операторы.
Лемма 2.1. Пусть А — монотонный положительный
оператор. Пусть для некоторого вектора и, такого,
что—и^К, выполняется соотношение
ck(tu)>tu C<*<T), B.3)
где с>0, f > О, 8>-0 — заданные числа*). Пусть для
вектора х£К одновременно выполнены соотношения
х — чи£К, B.4)
х^акх (а>0), B.5)
*>ри ф>0, ?>3). B.6)
*) Важность условий типа B.3) при установлении существова-
существования собственных функций у положительных монотонных операторов
впервые была выяснена М. А. Рутмаиом в его кандидатской дис-
диссертации.

§ 2], ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 257
Тогда обязательно
«<с. B.7)
Доказательство. В силу утверждения 1 из § 1
настоящей главы и B.6) j3 < 7. Применяя к соотношению B.6)
оператор А, получим в силу B.3)
с
откуда в силу B.5) следует:
7 B.8)
В силу того же утверждения 1 из B.8) следует, что
Применяя к B.8) снова оператор А, получим в силу B.5)
и B.6)
откуда в свою очередь вытекает, что
Применяя п раз оператор А, аналогично установим, что
откуда вытекает неравенство
Из последнего неравенства следует, что
Лемма доказана.
3. Однородные операторы. Оператор В называется одно-
однородным, если при всех вещественных t
Частным случаем однородного оператора является линейный.

COECfBEHHfcJb ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Выяснение структуры множества собственных векторов
однородного оператора (в частности, линейного) не пред-
представляет никаких трудностей: если вектор х является соб-
собственным вектором однородного оператора В, то и все век-
векторы tx являются собственными. В силу этих соображений
для однородных операторов нужно доказывать только суще-
существование собственного вектора.
Теорема, которую мы ниже доказываем, для случая линей-
линейных операторов была установлена М. А. Рутматюм.
Теорема 2.1. Пусть В — однородный положительный
монотонный вполне непрерывный оператор, действующий
в пространстве Е. Пусть для некоторого элемента
u = v — то, где v, w£K и —и^К, выполняется соотно-
соотношение
сЪра > и (с> 0), B.9)
где р — некоторое положительное целое число.
Тогда оператор В имеет в конусе К собственный век-
вектор х0,
х0 — у-0Вх0,
причем характеристическое число а0 удовлетворяет нера-
неравенству
uo<Vc~. B.10)
Доказательство. Мы будем доказывать существо-
существование у оператора В единичного собственного вектора х0
(||xoll = 1) в конусе К.
Обозначим через Вп операторы, определенные равенством
+-^) (я =1,2, ...). B.11)
Вектор Ви отличен от 8 и —Ви£К, так как в против-
противном случае и — Ъри £ К; тогда из B.9) следует, что — и £ К,
а это противоречит условиям теоремы. Из утверждения 2
§ 1 настоящей главы следует тогда, что при любом п = 1,2, ...
р/о, К+~Ъи\>0. B.12)
Так как
V = и -J- w > и,

2] ЬЙЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 259
то
а это значит, что
Из последнего включения и B.12) следует, что положитель-
положительные вполне непрерывные операторы В„ удовлетворяют усло-
условиям теоремы 1.1. При этом мы считаем, что через Г обо-
обозначена единичная сфера пространства Е. Значит, опера-
операторы В„ имеют в конусе К единичные собственные векторы хп:
(Ц*п|=1; я=1, 2, ;..).
Последнее равенство удобнее писать в виде
(lkJ| = i; «=i, 2, ...), B.13)
откуда в силу монотонности оператора В, с одной стороны,
-следует, что
*» > РпВ*„ .(«=1. 2, ...), B.14)
и с другой, что
(^)^Ъи (« = 1,2,...). B.15)
Применяя к соотношению B.14) р—1 раз оператор В,
получим:
&я (я=1, 2, ...)• B.16)
Применяя к соотношению B.15) р—1 раз оператор В
и используя последовательно соотношение B.14), получим:
хп^^Ъри (я = 1, 2, ...),
п
откуда в силу B.9) следует:
xn^JLu (я=1, 2, ...). B.17)
сп

260 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Соотношения B.9), B.16) и B.17) являются условиями B.3),
B.5) и B.6) леммы 2.1 для оператора Вр. При этом хп
играет роль элемента х, а — \iP, C = —. Условие B.4) вы-
выполнено также при некотором f, так как в противном слу-
случае — и£К.
Из леммы 2.1 следует, что
£<с (я=1, 2, ...).
Это неравенство и полная непрерывность оператора В поз-
позволяют так выбрать подпоследовательность индексов п'', что
и числа \xni сходятся к некоторому числу [а0 и векторы
В \хп> -\—-А сходятся к некоторому элементу. Переходя
в B.13) к пределу по подпоследовательности индексов «', полу-
получим, что и элементы х'п сходятся к некоторому элементу х0,
причем
где (i0 удовлетворяет неравенству B.10).
Теорема доказана.
Предоставляем читателю доказать аналогичную теорему
для случая, когда оператор В однородный порядка s > 1
(В(гх)^РЪх), предполагая, что и является внутренним
элементом конуса К.
4. Линейные операторы. В этом и следующем пунктах
мы доказываем ряд предложений М. Г. Крейна и М. А. Рут-
мана [S4] о собственных функциях положительных линейных
вполне непрерывных операторов. В качестве примера в этих
пунктах будет рассмотрен линейный интегральный оператор
Фредгольма А:
А ф (s) = JK(s, t) © @ dt, B.18)
и
где О — ограниченное замкнутое множество конечномерного
пространства, а ядро K(s, t) неотрицательно.
Оператор B.18) будет, очевидно, положительным отно-
относительно конуса неотрицательных функций того функцио-
функционального пространства, в котором он действует.

§ 2] ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 261
Пусть, например, ядро K(s, l) допустимо (оператор А
вполне непрерывен в пространстве С непрерывных на G
функций) и
JV B.19)
Тогда оператор B.18) имеет в силу теоремы 2.1 неотрица-
неотрицательную собственную функцию. Действительно, в силу B.19)
выполнено условие теоремы 2.1, так как
сАи > и,
где
G
Более общее утверждение М. Г. Крейна—М. А. Рутмана
гласит:
(А) Пусть существует система точек sv . . ., sp
1 такая, что
K(sy, s2)K(s.2, ss).. .K(sp_v sp) ■ K(sp, st) > 0. B.20)
Тогда оператор B.18) имеет неотрицательную соб-
собственную функцию.
Для доказательства этого утверждения покажем, что
оператор А удовлетворяет условиям теоремы 2.1.
Из B.20) очевидным образом вытекает, что ядро
h}p\s, t) = f.. . JK(s, t,).. .K(tp_v t)dlx... dtp_x
в в
положительно в точке (sv st) топологического произведения
G X G. Обозначим через GtczG такую замкнутую окрест-
окрестность точки sy£G, что K{p)(s, t) > 0 при s, t£Gv Обо-
Обозначим через u(s) такую непрерывную неотрицательную функ-
функцию, что и (st) > 0, и (s) = 0 при s £ Gt. Тогда
A*a(s) = (Кт(s, t) и @ dt > 0 B.21)

262 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
при s £ Gv так как K^(s, st)«(st)>0. Из B.21) следует,
что найдется такое с > О, при котором
сАр и (s) > и (s) (s£G).
Полученное неравенство и является условием B.9)теоремы 2.1.
Утверждение (А) доказано.
б. Линейные и0-ограниченные операторы [31б1. Линей-
Линейный положительный оператор будем называть и0-ограничен-
ным, если существует такой элемент ио£К, отличный от 6,
что для любого у£К (<р ф Ь) найдутся натуральное число п
и числа а, р > 0 такие, что
аво<А»<р<р«0. B.22)
Лемма 2.2. Пусть элемент «0^^ (?о ^ ^) является
собственным вектором ^-ограниченного оператора.
Тогда оператор А будет ^-ограниченным.
Доказательство. По определению и0-ограниченности
найдутся такие натуральное число р0 и числа о, ,3 > 0, что
аоио < А^» «о «, %и0.
Так как А«о=Аофо, где к0 — собственное число, то Хо Ф О
и
S<?o^4o^~-<?o- B-23)
Ро ао
Пусть »€^ (? ^ в). По определению а0-ограниченности
найдутся такие натуральное число я. и числа а, р, что
Последние соотношения в силу B.23) можно переписать
в виде
-pf-«Л» < А-«р <-^ %.
Лемма доказана.
Теорема 2.2. Вполне непрерывный линейный и0-огра-
ниченный оператор А имеет в конусе К один и только
один единичный собственный вектор <р0.
^Доказательство. Покажем вначале, что существует
не более одного такого положительного собственного числа,

§ 2] ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 263
которому соответствует хотя бы один положительный соб-
собственный вектор.
Предположим противное. Пусть
Ao1 = >4(Pf А«.2 = а2©.2) B.24)
где kv ла>0, ку Ф А2, <?t, ?2€^> ?i> ?з ^ fJ- Пусть для
определенности kt > к2.
Из B.24) непосредственно вытекают соотношения
i A (/?t) > /?1 @ < < < сю) B.25)
и
?о>-г-А?а. B.26)
В силу утверждения 3 (стр. 242) найдется такое f > 0, что
В силу н0-ограниченности оператора А найдутся натураль-
дые числа р{, р2 и положительные числа «2, ^ такие, что
откуда
«2 = ^A^,2>AKo>_^_A,9l = fi|.<Pl. B.28)
Соотношения B.25), B.26), B.27) и B.28) являются соот-
соответственно условиями B.3), B.4), B.5) и B.6) леммы 2.1,
где положено
A=5,, X = <?.,. й = 0, С =: — , а=:т-,
Из леммы 2.Г вытекает неравенство ^^а.,, что противоре-
противоречит предположению.
Покажем теперь, что одно положительное число л, кото-
которому отвечает положительный собственный вектор, сущест-
существует. Для этого заметим, что оператор А удовлетворяет
условию B.9) теоремы 2.1, так как он и0-ограничен. Уело-
эию B.9) он удовлетворяет на элементе и^.

ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Нам осталось показать, что собственному числу К отве-<
чает единственный единичный положительный собственный
вектор. Пусть, действительно,
причем линейная оболочка векторов <bt и ф2 двумерна. Рас-
Рассмотрим векторы вида ty.2 — ti/l (О <; t < оо). Все эти векторы
отличны от 0 и являются собственными векторами оператора А,
отвечающими собственному числу X, В силу 1 и 3 найдется
такое t0, что при t^t0 векторы Ь.2 — Щ^ лежат в конусе,
а при t > г — вне конуса. В силу леммы 2.2 оператор А
будет '^-ограниченным. Значит, найдутся такое натуральное
число р и такое положительное число а, что
Последнее соотношение означает, что -i2—■(^o~b~v) tyi£.K-
Мы пришли к противоречию.
Теорема полностью доказана.
Теорема 2.3. Пусть вполне непрерывный линейный
и0-ограниченный оператор А удовлетворяет условию: для
любого элемента i€^ можно указать такое натураль-
натуральное число р и такое число I > 0, кто 1кРгл^и0.
Тогда положительное собственное число кооператора А,
которому отвечает положительный собственный век-
вектор <poi будет простым и ббльшим по абсолютной вели-,
чине остальных собственных чисел оператора А.
Доказательство. Существование собственного чис-
числа л0 и положительного вектора <?0 вытекает из теоре-
теоремы 2.2.
Пусть л1 — собственное число оператора А, отвечающее
отличному от <р0 собственному ьектору <st. Без ограничения
общности можно считать, что —«?t £ К- Оператор А2 будет
иметь собственные векторы с?0 и ?v которым отвечают уже
положительные собственные числа Ло и к\.
В силу леммы 2.2 оператор А будет <в0-ограниченным.
Пусть

§ 2] ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 265
Применяя к этому соотношению монотонный оператор А^',
получим:
«АЧ 4 А2*? 4 PAV
откуда
<™о % <- (к~)Р<? 4 р-о «о-
Таким образом, оператор А2 также <?о-ограничен.
Покажем, что оператор А2 удовлетворяет условию
теоремы 2.3: для любого элемента <р^£ найдутся такое
натуральное число р и такое положительное число /t,
что /tA2:P<p <. ср0.
Действительно, из условия теоремы вытекает существо-
существование натурального числа р и положительного числа / таких,
что 1Ар'т> <ч и0. Из этого соотношения и B.23) вытекает, что
Применяя к последнему соотношению оператор к1', получим:
^А^вСво. B.29)
астности, если cs = ®х = -5— AJjP'
текает:
В частности, если cs = ®х = -5— AJjP'f(, то из B,29) вы-
'■о
B-30)
где р — некоторое положительное число.
В силу 3 (стр. 242) найдется такое f > 0, что
?о — T?i6"^. B.31)
Применим лемму 2.1 к оператору А2, полагая
1 1
u л: с а
Соотношения B.30) и B.31) являются соответственно усло-
условиями B.6) и B.4) леммы 2.1. Условиями B.3) и B.5)
являются равенства
J_A2ffl _e _1_
ч ?1 fl> ч

266 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
В силу леммы 2.1 kl^kl, т. е.
I К К V
Допустим, что [ A.t [ = а0. Тогда линейная оболочка век-
векторов <р0 и tpi полностью состоит из собственных векторов
<Ро-ограниченного оператора А2, отвечающих одному и тому же
положительному собственному числу /Д. В частности, поло-
положительный в силу B.30) вектор »0 — S?t будет собственным
вектором оператора А2. Из теоремы 2.2 вытекает, что
?п — Рн>1 _ <?п
1ЫГ
Значит, в случае, если | )ч | = Kq, to
Ш !l?olf
Теорема доказана.
Мы рассматривали только вещественные собственные
числа оператора А. Утверждение теоремы 2.3 остается спра-
справедливым, если рассматривать и комплексные собственные
числа оператора А, рассматриваемого в комплексном рас-
расширении пространства Е. Такие предложения для сильно
положительных операторов (определение см. ниже) доказаны
другим методом в [6i].
Приведем два примера и0-ограниченных операторов, удо-
удовлетворяющих условию теоремы 2.3.
Конус К а Е называется телесным, если он содержит
внутренние точки.
Конус К неотрицательных функций в пространстве С
является телесным: его внутренними элементами являются
неотрицательные функции, отличные на всем О от нуля.
В пространствах W конусы неотрицательных функций не
являются телесными.
Положительный относительно телесного конуса К опера-
оператор А (А/С с: К) называется сильно положительным, если
для каждого х £ К (х ф Н) найдется такое натуральное
п,— п{х), что кпх является внутренним элементом конуса К-
Простейшим примером сильно положительного оператора
в пространстве непрерывных функций, полуупорядоченном

§ 2] ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 267'
при помощи конуса К неотрицательных функций, может слу-
служить оператор
АфE)= j>0, О?(ОЛ. B.32)
в
допустимое ядро которого удовлетворяет условию
О < т < K(s, t).
Действительно, в этом случае для любой функции w (s) из К
откуда следует, что A«s (s) входит в К вместе со своей шаро-
шаровой окрестностью радиуса mif(t)dt.
в
Более общим классом сильно положительных линейных
операторов в пространстве непрерывных функций, полуупо-
полуупорядоченном при помощи конуса неотрицательных функций,
являются операторы B.32), порожденные (по терминологии
М. Г. Крейна) ядрами K(s, t) положительного типа.
Говорят, что неотрицательное допустимое ядро K(s, I)—
ядро положительного типа, если для всякой неотрицатель-
неотрицательной непрерывной функции <p(s), не равной тождественно
нулю, найдется такая итерация K{n)(s, t), что
J
в
t)v(t)dt>0
Отметим один признак [В41 того, что ядро K(s, t) имеет
положительный тип: для этого достаточно, чтобы для
некоторой итерации ядра выполнялось условие
Все сильно положительные операторы А являются
и0-ограниченными операторами, где к0 — любой внутрен-
внутренний элемент конуса К.
Действительно, если AiJ<? вместе с шаровой окрестностью
радиуса р входит в К, то для всех $£Е

268 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Если, в частности, <1 — ио> т0 из последнего включения
следует:
р * р
ТкТ ^ ■
Так как и0 — внутренний элемент К, то его шаровая окрест-
окрестность некоторого радиуса р0 входит в К. Отсюда выте-
вытекает, что
"о — Pop АУ ,.сК' B.33)
т. е.
Сильно положительные операторы в силу B.33) удо-
удовлетворяют и условию теоремы 2.3.
Так как операторы B.32) с допустимыми ядрами поло-
положительного типа удовлетворяют условиям теоремы 2.3, то
мы приходим к следующему утверждению.
(В) Пусть K(s, t) — допустимое ядро положительного
типа.
Тогда оператор Фредгольма B.33) имеет единственную
положительную непрерывную собственную функцию. Этой
собственной функции соответствует, простое положитель-
положительное собственное число, большее по абсолютной величине
всех других собственных чисел оператора B.33).
В пространствах if конус неотрицательных функций, как
уже отмечалось выше, не является телесным.
Примером и0-ограниченного оператора А в простран-
пространстве if может служить линейный оператор B.32) с неотри-
неотрицательным ядром, некоторая итерация которого
J , tv)K(tv *3). . -K{tn_v t)dtxdt%. ..dtn_,
a a
удовлетворяет условию
В качестве функции и0, как легко проверить, в этом случае
можно взять функцию, тождественно равную единице.

§ 2] ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 269
6. Монотонные миноранты. Будем говорить, что опе-
оператор А является минорантой оператора В на множе-
множестве МсЕ, если
Вх>Ах {х£М). B.34)
Нас будет интересовать случай, когда М = Кг (пересечение
конуса К с шаром радиуса г с центром в б), а оператор
А — положительный монотонный оператор, удовлетворяющий
условию B.3) леммы 2.1. Условием B.3) мы ниже будем
пользоваться в следующей форме: для некоторого эле-
элемента и£Е, такого, что
— и£К, u = v — w (v, w£K), B.35)
выполняется соотношение
c\(t, u)}iu (О < t < f), B.36)
где y — такое число, что х — -^и^АГпри всех х£Кг.
Оператор А, фигурирующий в B.34) и удовлетворяющий
описанным выше требованиям, будем называть для сокраще-
сокращения речи просто монотонной минорантой оператора В
на М.
Теорема 2.4. Пусть В — положительный вполне
непрерывный оператор с монотонной минорантой А
на К,.
Тогда собственные векторы оператора В образуют
в конусе К непрерывную ветвь длиной г.
Доказательство. Пусть Г, как обычно, — граница
открытого множества F а Е, содержащего ') и лежащего
в шаре радиуса меньше г.
Рассмотрим, как и при доказательстве теоремы 2.1, по-
последовательность операторов В„:
(п = 1, 2, ...),
где v — вектор из К, фигурирующий в разложении B.35)
элемента и.
Положительные вполне непрерывные операторы В„ будут
при достаточно больших п определены на Г П К и будут

COECfВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ (гл. V
удовлетворять условиям теоремы 1.1. Действительно, в силу
B.34) и B.36)
(£) i" <*€*>.
откуда следует, что
р(й, Вп(ГПЮ)>0.
Таким образом, операторы В,г (при достаточно больших
имеют на Г П К собственные векторы а„:
«п =
причем все }tn>0. Последние равенства нам удобнее писать
в виде
B.37)
Из B.37) следует в силу B.34), что, с одной стороны,
в» > шА(вя +£) > 1*«Аи» B.38)
и, с другой —
«» > :W (вж + ^) > ^„А (^) > -«й- в. B.39)
В силу леммы 2.1 из соотношений B.36), B.38) и B.39)
следует, что
Последнее неравенство и полная непрерывность опера-
оператора В позволяют выбрать подпоследовательность индексов п'
так, чтобы и числа \ьп> сходились к некоторому числу jxq и
векторы В(иИ'-|—т") сходились к некоторому вектору.
Переходя в B.37) к пределу по выбранной подпоследова-
подпоследовательности индексов п', получим, что и векторы ип> сходятся
к некоторому вектору ио£ГП/С, причем

§ 2j ОПЕРАТОРЫ С МОНОТОННЫМИ МИНОРАНТАМИ 2?i
Таким образом, оператор В имеет на Г П К собственные
векторы, которым отвечают положительные собственные
числа.
Теорема доказана.
В приложениях теорема 2.4 удобна, когда монотонной
минорантой является линейный положительный оператор.
Даже в случаях, когда оператор В сам удовлетворяет тре-
требованиям, предъявляемым к монотонной миноранте, часто
удобнее конструировать для него монотонную линейную
миноранту, чем изучать непосредственно оператор В.
В приводимых ниже примерах через О обозначено огра-
ограниченное замкнутое множество конечномерного простран-
пространства. Все рассуждения проводятся для пространства С не-
непрерывных на О функций, полуупорядоченного при помощи
конуса К неотрицательных непрерывных функций. Через v
обозначается функция, равная тождественно единице на О.
Пример 1. Рассмотрим интегральный оператор
П. С. Урысона
j[s, t, u{t)]dt, B.40)
где B(s, t, и) (s, t^O, 0<1и<»— неотрицательная не-
непрерывная по всем переменным функция. Будем предпола-
предполагать, что
B(s, t, 0)=s0 (s, /£G).
Очевидно, оператор В положителен и вполне непрерывен
на Кг.
Пусть A(s, t, и) (s, t£G, О^и^г) — такая неотри-
неотрицательная непрерывная по всем переменным функция,
что
B(s, t, и)>Л(в, t, и) (s, t£O, 0<и<г)
(откуда, в частности, следует, что A (s, t, 0) зе 0),
причем:
а) из ut < и.3 следует, что
A(s, t, «t)<^(s, t, u2) (s

2?2 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Ь) производная /Со (s, t) = Аи (s, t, 0) положительна,
непрерывна и
Л (s, t, и) „ ,
>Ко i.s, t)
при и ->• 0 равномерно относительно s, t£G.
Тогда неотрицательные собственные функции опера-
оператора П. С. Урысона образуют непрерывную ветвь дли-
длиной г.
Для доказательства этого утверждения нужно рассмотреть
линейный строго положительный оператор
Au(s) = c J K0(s, t)u(t)dt,
который при достаточно малых с является монотонной
минорантой на Кг для оператора B.40), и применить тео-
теорему 2.4.
Оператор B.40) изучался П. С. Урысоном [66] при более
жестких ограничениях, наложенных на неотрицательную
функцию B(s, t, и). Эти ограничения позволили провести
более подробное исследование оператора B.40). В частности,
в предположениях П. С. Урысона (см. следующий параграф)
собственные числа оператора B.40) образуют на веществен-
вещественной оси интервал, причем каждому собственному числу
отвечает единственная неотрицательная собственная
функция.
Пример 2. Рассмотрим интегральный оператор Гам-
мерштейна
= K(s, t)f{t, «@1 Л. B.41)
a
Будем предполагать, что ядро K(s, t) и функция f{t, и)
удовлетворяют условиям, обеспечивающим полную непре-
непрерывность оператора В в пространстве С.
Пусть функция f(t, и) удовлетворяет условию
fit, «)>ae (t£G; 0<и<г), B.42)
где а и г — некоторые положительные числа.

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 273
Пусть ядро K(s, t) неотрицательно и для некоторой
системы точек sv s.2, .. ., s/(
K(sv s2) • K(s.2, s3)... K(sp_i, sJKis,,, sO > 0. B.43)
Тогда неотрицательные непрерывные собственные
функции оператора B.41) образуют непрерывную ветвь
длиной г.
Для доказательства нужно рассмотреть линейный опе-
оператор
Аи (s) = а Г K(s, t) и (t) dt,
G
который является монотонной минорантой для опера-
оператора B.41), и применить теорему 2.4.
Пример 3. Рассмотрим интегральный оператор А. М. Ля-
Ляпунова
B«(s)= 2 Г • • { Kn(s, tv . .., tn)u(tt). . . u(tn)dtv . .dtn.
"-1 о а B.44)
Будем предполагать, что выполнены условия, обеспечиваю-
обеспечивающие полную непрерывность оператора В в единичном шаре
пространства С.
Пусть все ядра Ka(s, tv . . ., tn) (n = 1, 2, . . .) не-
неотрицательны, а ядро Kyis, t) удовлетворяет усло-
условию B.43).
Тогда неотрицательные собственные функции опера-
оператора B.44) образуют в С непрерывную ветвь длиной 1.
Доказательство, как и в предыдущих примерах, основано
на применении теоремы 2.4.
§ 3. Урысоновские теоремы о спектре
1. Замкнутость множества собственных векторов.
Пусть А — вполне непрерывный оператор, заданный на мно-
множестве МсЕ.
Лемма 3.1. Если множество М замкнуто и не со-
содержит элемент 6, то множество N всех собственных
векторов а £ М оператора А замкнуто.
Доказательство. Пусть ?„£/№ (л = 1, 2, . . .) —
сходящаяся к некоторому элементу <ро£/И последовательность

2?4 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ (гЛ. V
собственных векторов оператора А:
А?„=ХП?П (В=1, 2, ...)• . C.1)
Так как оператор А непрерывен, то элементы Асрв (п=\, 2, ...)
сходятся к А<ро- Без ограничения общности можно считать,
что числа л„ имеют одинаковый знак (в противном случае
мы перешли бы к подпоследовательности). Из C.1) выте-
вытекает, что числа | Хп | сходятся к числу .. ^ . Значит, и
числа Ап сходятся к некоторому числу Ао. Переходя в C.1)
к пределу при п —> оо, получим, что А<ро=^о?о-
Таким образом, элемент а>0 также является собственным
вектором оператора А.
Лемма доказана.
Рассмотрим теперь множество N1 собственных векторов »
оператора А, принадлежащих замкнутому ограниченному
множеству М F £ М) и отвечающих собственным числам из
некоторого сегмента [а, |3], не содержащего число нуль.
Пусть <рп£/М (я=1, 2, . . .) — такая последовательность
собственных векторов оператора А,
А<ря=Хп?„ (я=1, 2, ...), C.1)
что а^^п^Р (я=1, 2, . . .). Выберем подпоследователь-
подпоследовательность «п. (/=1, 2, ...) так, чтобы числа кп. (i = l, 2, ...)
сходились к некоторому числу Ао, а ^ Ао ^ 3, а век-
векторы А(вп.—-к некоторому элементу А0а>0. Из C.1) выте-
вытекает, что векторы <ря, (I = 1, 2, ...) сходятся тогда к <р0.
Из непрерывности оператора А следует при этом, что
Ащ0 = А0«в0, т. е. <р0 является собственным вектором опера-
оператора А.
Мы доказали, что множество Nt компактно.
Так как при
справедливо неравенство
то собственное число оператора А «а множестве NczM
собственных векторов является непрерывной функцией.

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 275
Из последнего утверждения вытекает
Лемма 3.2. Совокупность F собственных значений
(спектр) вполне непрерывного оператора А, определенного
на ограниченном замкнутом множестве М, не содержа-
содержащем 6, образует замкнутое множество, если к ней при-
присоединить число нуль.
Отметим также, что собственные числа вполне непрерыв-
непрерывного оператора А, заданного на ограниченном замкнутом
множестве М, не содержащем 6, по абсолютной величине
ограничены сверху, так как из А» = лср следует, что
sup ||A<p||
Теорема 3.1 (В. В. Немыцкий) [49ж]. Пусть вполне
непрерывный оператор А определен на всем простран-
пространстве Е.
Тогда его спектр образует множество типа Fa.
Для доказательства нужно рассмотреть спектр опера-
оператора А как объединение множеств Fn собственных чисел из
сегмента I —, п , отвечающих собственным функциям из
множеств Мп (и=1, 2, . . .), каждое из которых состоит
из элементов, норма которых удовлетворяет неравенству
Каждое Fn в силу леммы 3.2 замкнуто, откуда и вытекает
утверждение теоремы.
2. Заполнение позитивным спектром интервала.
В главе IV были указаны примеры нелинейных операторов,
спектр которых содержит полностью некоторый интервал.
Здесь мы докажем теоремы о заполнении спектром интер-
интервалов для некоторых положительных операторов. В даль-
дальнейшем мы будем называть позитивным спектром положи-
положительного оператора А совокупность тех его собственных
чисел, которым соответствуют положительные собственные
векторы.
Вначале установим одну теорему общего характера.
Теорема 3.2. Пусть некоторое множество N соб-
собственных векторов вполне непрерывного оператора А

276 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
образует непрерывную ветвь бесконечной длины, причем
собственные числа стремятся к пределам а0 и к,х, когда
нормы собственных векторов из ветви стремятся соот-
соответственно к нулю или бесконечности.
Тогда спектр оператора А содержит полностью ин-
интервал (Л|), Ада), кроме, может быть, точки нуль.
Доказательство. Допустим, что некоторое отлич-
отличное от нуля число Ао из интервала (лв, лот) не является соб-
собственным числом оператора А, которому соответствует соб-
собственный вектор из N.
Число л0 разбивает прямую (—сю, оо) вещественных
чисел на две части. Одна из этих частей /t содержит
число /.оо, а вторая У2—число л(|.
Обозначим через Fl множество тех собственных векто-
векторов оператора А из ветви Л/, которым отвечают собственные
числа из Jv Через F2 обозначим множество остальных соб-
собственных векторов оператора А и элемент 0. Множества
Fx и F.2 содержат все собственные векторы оператора А
из N.
Рассуждения, аналогичные доказательству леммы 3.1,
показывают, что множества Fx и F2 замкнуты. При этом
множество /?1 находится на положительном расстоянии от
элемента 'J; нормы элементов множества /\2 равномерно
ограничены.
Покажем, что расстояние между множествами Fj и F2
положительно. Пусть, в предположении противного, суще-
существуют две такие последовательности собственных векто-
векторов в; и 6;:
A?i = V-?r А-^ = у.&г (i—l, 2, . . .),
что А;<Я0, ^>л0 (/= 1, 2, ...) и
Нш ||?i —-WiHO. C-2)
i-»oo
Нормы векторов одной последовательности ограничены
сверху, нормы векторов другой последовательности — снизу.
В силу C.2) можно считать, что нормы всех элементов <о{,
<1г (/=1, 2, ...) ограничены сверху и снизу положитель-
положительными числами. Тогда числа
W '"'-ihM" (/==I> 2"--)

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 277
ограничены сверху, в силу чего можно считать, что Aj и \1(
сходятся соответственно к числам А и \ь, причем А <^ Ао,
(х ^> Ао (в противном случае можно перейти к подпоследова-
подпоследовательностям). Одно из чисел А, ц. отлично от нуля. Пусть
это будет ti. Можно считать, что векторы А*1»г (' — '> 2, ...)
сходятся к некоторому ;х60. Число [х отлично от нуля, поэтому
векторы 6{ сходятся к вектору 60. Из C.2) следует, что
и векторы oi сходятся к вектору 40. Таким образом, пере-
пересечение замкнутых множеств /*\ и F2 непусто. Мы пришли
к противоречию.
Значит,
HFV F2)= inf ||<р —4||=а>0. C.3)
Обозначим через G ограниченное открытое множество,
образованное объединением всех шаров радиуса у с цент-
центрами в точках множества /\2. Через Г обозначим границу
множества G.
Очевидно, пересечение Г П Fo пусто. В силу C.3) пусто
и пересечение Г П/V Значит, на Г нет собственных векторов
оператора А из Л/, т. е. N не является непрерывной ветвью
бесконечной длины.
Мы пришли к противоречию.
Теорема доказана.
В качестве примера применения теоремы 3.2 рассмотрим
оператор Гаммерштейна
(s, t)f[t, *(t)\dt C.4)
G
с допустимым ядром, удовлетворяющим условию
0<m.<CK(s, 0<^f <co,
и непрерывной по обеим переменным функцией f(t, и)
(t£G, 0<;«<c»), удовлетворяющей при всех и^О нера-
неравенству
f(t, u)^h(u) (t£G), C.5)

278 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
где А (и) — такая неотрицательная неубывающая функция,
равная нулю только при и = 0, что
lim йШ.==ООг C.6)
М->оо "
и при малых и удовлетворяющая неравенству
f(t, «)<£(«) (t£G), C.7)
где
lim 1^ = 0. C.8)
и->+о и
При перечисленных условиях позитивный спектр опера-
оператора C.4) состоит из всего бесконечного интервала @, оо).
Оператор C.4) определен на конусе неотрицательных
функций пространства С непрерывных на О функций. Этот
оператор, очевидно, вполне непрерывен и положителен.
Положительные собственные функции оператора C.4), как
было показано на стр. 252 (пример 1), образуют непрерыв-
непрерывную ветвь бесконечной длины.
Сформулированное утверждение будет в силу теоремы 3.2
доказано, если мы покажем, что собственные числа опера-
оператора стремятся к бесконечности, когда нормы положитель-
положительных собственных функций безгранично возрастают, и что
собственные числа стремятся к нулю, когда нормы положи-
положительных собственных функций убывают к нулю.
Пусть <p(s) — положительная собственная функция опера-
оператора C.4): А«E) = А«E). Пусть ||«(s)|| = р, <o(s0) = p,
где s0 — некоторая точка множества О. Тогда
Xe(s)= \K(s, t)f\t, <o(t)\dt>
G
>-^(V(% t)f\t, <?
в
откуда
? (s) > Ж f (so) = -jfi P
Следовательно,
Из C.9) и C.6) вытекает, что л->оо, когда р->оо.

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 279
Аналогично при малых р
t)f\t, 9@1Л<^-jg[f(i)}dt. C.10)
Пусть задано число s >0. В силу C.8) можно указать такое р0>
что £•(«)<>« при и < р0. Тогда при р < р0 из C.10) следует:
гМ Г
!'■?
''- < — )'•? @ dt < еМ mes О.
о
Так как число з может быть сколь угодно малым, то из
последнего неравенства вытекает, что А -»• 0, когда р -*■ 0.
3. Границы позитивного спектра.
Лемма 3.3. Пусть положительный оператор А удо-
удовлетворяет условию
В<?>А? (?£*■)• C.11)
где В — линейный и0-ограниченный вполне непрерывный
оператор. Пусть число к принадлежит позитивному
спектру оператора А
А'-р = Х<в, « ^ К.
Тогда А<; Ав, где Ав —собственное число оператора В,
которому отвечает положительная собственная функция.
Доказательство. Пусть % — положительный соб-
собственный вектор оператора В. В силу теоремы 2.2 других
(с точностью до нормы) положительных векторов оператор В
не имеет. В силу леммы 2.2 из предыдущего параграфа
оператор В будет ^-ограниченным. Следовательно, для
любого <?£К найдутся такое натуральное число р и такое
положительное число р, что
В*<р<р<р0- (ЗЛ2)
Пусть теперь <о — собственный вектор оператора А:
А<?= Ав. В силу (ЗЛ1) и C.12)

280 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Применим лемму 2.1 из предыдущего параграфа к опе-
оператору В, полагая
с=1, а = Д-, 3 = 0,
a y — достаточно большое число и считая, что и = гл, х — о0.
Условие B.11) леммы 2.1 вытекает из C.11):
f В (/■<?)> -{-А?-*р.
Условие B.12) леммы 2.1 выполняется всегда при больших f
в силу утверждения 3 (стр. 242). Условие B.13) совпадает
с равенством <ро = —- В'-?о. Условие B.14) совпадает с C.13).
Лв
В силу леммы 2.1 справедливо неравенство л -.^ /,ц .
Лемма доказана.
Аналогичными рассуждениями с использованием леммы 2.1
доказывается
Лемма 3.4. Пусть положительный оператор А удо-
удовлетворяет условию
A?>Q? (?€*"). C-14)
где Q—линейный и0-ограниченный вполне непрерывный
оператор. Пусть число К принадлежит позитивному
спектру оператора А:
Аа — лэ, а£ /С.
Тогда л .> Aq , г^е лч — собственное число оператора Q,
которому отвечает положительная собственная функция.
Теорема 3.3 [:"б|. Пусть вполне непрерывный опера-
оператор А удовлетворяет условию
Q? <. А? <. В? (?€Ю, C.15)
где Q, В — линейные вполне непрерывные и0-ограниченные
операторы. Пусть оператор Q является производной
Фреше оператора А 8 точке 0:
Пусть оператор А асимптотически линеен, причем
lim 1^

§ 3]
УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ
281
Тогда позитивный спектр оператора А состоит из
интервала (лв, Aq) и, возможно, самих чисел лв, Aq.
Доказательство. В силу C.15) выполнены условия
лемм 3.3 и 3.4. Следовательно, позитивный спектр опера-
оператора А содержится в сегменте [лв, Aq].
В силу C.15) оператор Q является на всем конусе моно-
монотонной минорантой оператора А. Следовательно, в силу
теоремы 2.4 положительные собственные функции опера-
оператора А образуют непрерывную ветвь бесконечной длины.
Мы покажем ниже, что собственные числа оператора А
стремятся к пределам Aq и ав, когда нормы положительных
собственных функций стремятся соответственно к нулю и
бесконечности. Тогда из теоремы 3.2 будет следовать, что
позитивный спектр заполняет интервал (h-%, aq).
Пусть vn£K (re=l, 2, ...) — последовательность соб-
собственных векторов оператора А:
А»„ =>>„»„ («=1,2,...).
Допустим, что lim ||»„|| =0. Без ограничения общности
»->со
можно считать, что векторы Q -jp-'Ч? сходятся к некоторому
II ЛП II
вектору h, а числа кп — к числу л0, которое в силу лемм 3.3
и 3.4 удовлетворяет неравенствам
aq < л -< ав .
Тогда элементы ■..<р" „ будут сходиться к -т- h, так как
Hm
_2_
Ik Jl
< Hm
Q
— h
1
= 0.
Очевидно, |jft||=>.0. В силу непрерывности оператора Q
Qh = loh.
Таким образом, число к0 должно в силу теоремы 2.3 пре-
предыдущего параграфа совпадать с kq.
Пусть теперь Hm ||<pnll = оо. Снова будем считать, что
п->оо
векторы В |, —,, сходятся к некоторому вектору h, а числа
II ?)t II

282 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Хи—к некоторому числу Хо. Элементы .. . будут при этом
сходиться к вектору т— ft, так как
'■о
Чп h\ 1 ||А<?и —В?пЦ . 1
В
;
Чп
\Чп\\
+
1
ft
I
1
Пп\\ hl^K Ьп\\
Очевидно, ||/г||=Х0. В силу непрерывности оператора В
В/г = Xoh.
Таким образом, число Хо должно в силу теоремы 2.3 совпа-
совпадать с числом Хв .
Теорема доказана.
Аналогично доказывается
Теорема 3.4. Пусть вполне непрерывный оператор А
удовлетворяет условию
Q? «. Ас? «. В? (<р £ К),
где Q, В — линейные вполне непрерывные и0-ограниченные
операторы. Пусть оператор В является производной
Фреше оператора А в точке 0. Пусть оператор асимпто-
асимптотически линеен, причем
||<р|!-»°° И?"
Тогда позитивный спектр оператора А состоит из
интервала (Хв, kq) и, возможно, чисел Хв, Xq.
4. Нелинейные м0-вогнутые операторы [316]. Положи-
Положительный монотонный оператор А будем называть и0-вогну-
тым, если найдется такой элемент ио£К, что для любого
А® <. Na0, C.16)
где положительные числа ix, ч зависят, вообще говоря, от ср,
и если для каждого элемента « > f и0, где f больше нуля,
при всех t из любого сегмента [а, Ь\ @ < а < 6 < 1) спра-
справедливо соотношение
C.17)
где положительное число i\ зависит от элемента ср и чисел а, Ъ.

§ 6\ УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ ZOO
Теорема 3.5. Пусть А— и0-вогнутый оператор.
Пусть
где cpt> <t>2£K, Xt > А2>0.
Тогда <pt «. «2.
Доказательство. Предположим противное. Пусть
?2 — ?х€К- C.18)
В силу а0-вогнутости (свойство C.17)) оператора А при
O-^^-^l выполняется соотношение
^^=/?1. C.19)
В силу условия C.16) найдутся такие ji2, \v что А«2 ^ V-4uo'
A«t <. vta0. Из этих соотношений следует:
C.20)
Применим лемму 2.1 из предыдущего параграфа, полагая
cp1==a, a.2 = x, 8 = 0, f=l, C==T~'
я — — q _ ^'Ч
Условие B.11) леммы 2.1 совпадает с C.19), условие'
B.12) —с C.18), условие B.13) — с равенством «2 = ^А«2>
условие B.13) с соотношением C.20).
В силу леммы 2.1
<
Мы пришли к противоречию. Теорема доказана.
Теорема 3.6. Пусть А — щ-вогнутый оператор. Тогда
уравнение
А? = V? (*о > 0)
не может иметь в конусе К более одного отличного от б
решения.

284 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Доказательство. Допустим, что утверждение тео-
теоремы неверно. Пусть
A®i = V-?i- А<?.2 = Vf2>
где »i>
?i ^ в, «2 =£ 0. Из двух элементов
»! — ®2 и % — ?i п0 крайней мере один не принадлежит
конусу К. Пусть для определенности ср2 — fi^K. Тогда,
очевидно, найдется такое f < 1, что
Ъ — T<Pi€~tf- C-21)
В силу м0-вогнутости оператора
\>.хи0 4 A«i 4 чги0, ^«о <. А«з 4 ~>2ио>
откуда
% = iA?">geo>5;A?x = ??i = »?i- C-22)
Из последнего соотношения следует, что о < f, так как
в противном случае
<?2 — f'■?! = ?2 — 5?i + C — ТГ) ?i 6 ^.
что противоречит C.21).
Так как оператор А м0-вогнут и »t = ,— А»^, то
Следовательно,
C-23)
при
Применим лемму 2.1 из предыдущего параграфа, пола-
полагая
х = ср2, 0=
Условие B.11) леммы 2.1 выполнено в силу C.23); условие
B.12) леммы 2.1 совпадает с C.21); условие B.13) вытекает
из равенства ср2 = г-А<?2; последнее условие B.13) совпа-
совпадает с C.22).

§ 3] УРЫСОНОВСКИЁ ТЕОРЕМЫ О СПЕКТРЕ 280
В силу леммы 2.1
Мы пришли к противоречию.
Теорема доказана.
Перейдем к рассмотрению вполне непрерывных м0-во-
гнутых операторов.
Каждый а0-вогнутый оператор является сам для себя
монотонной минорантой. Действительно, из определения
а0-вогнутого оператора вытекает, что
cA(tuo)*tao (О.<*< 1, с>0).
Тогда при любом f > 1, тем более,
с-гА(*и0) > *и0 @<*<1).
Но и при 1 <^ t ^ f в силу монотонности оператора А
(tu0) >
Из теоремы 2.4 предыдущего параграфа следует тогда
Лемма 3.5. Положительные собственные векторы
а0-вогнутого вполне непрерывного оператора образуют
непрерывную ветвь бесконечной длины.
Теорема 3.7. Позитивный спектр и0-вогнутого
вполне непрерывного оператора образует некоторый ин-
интервал .
Доказательство. Покажем вначале, что собствен-
собственные числа, отвечающие положительным собственным векто-
векторам оператора А, стремятся к некоторому пределу А9, когда
нормы собственных векторов стремятся к нулю.
Через Ко обозначим supremum позитивного спектра опе-
оператора А. Пусть задано число s > 0. Выберем в позитивном
спектре число X, удовлетворяющее неравенству 1Н — л < г.
В силу теоремы 3.6 уравнение А?=лср имеет в конусе К
единственное отличное от 0 решение в. В силу теоремы 3.7
все положительные собственные векторы ср оператора А,
которым отвечают собственные числа, меньшие л, удовле-
удовлетворяют соотношению о > », т. е. лежат в множестве
В силу утверждения 2 (стр. 242)
о@, К+®) = ро>О.

286 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Значит, все положительные собственные векторы, которым
отвечают собственные числа, меньшие чем X, имеют нормы,
большие чем р0. Так как число s может быть сколь угодно
малым, то при стремлении норм положительных собственных
функций к нулю собственные числа сходятся к л9.
Проведенные рассуждения доказывают, что само число \$
не может принадлежать позитивному спектру оператора А,
так как в противном случае в качестве X можно было бы
взять \$.
Аналогичными рассуждениями показывается, что при без-
безграничном возрастании норм положительных собственных
функций собственные числа сходятся к числу Хсо, являюще-
являющемуся infimum'oM позитивного спектра. При этом само число
ксо также не принадлежит позитивному спектру.
В силу леммы 3.5 положительные собственные векторы
оператора образуют непрерывную ветвь бесконечной длины.
Поэтому из теоремы 3.2 вытекает, что позитивный спектр
оператора А заполняет полностью интервал A^, Ае).
Теорема доказана.
В некоторых случаях можно указать, чему равны числа
Ае и Хда.
Теорема 3.8. Пусть вполне непрерывный иа-вогнутый
оператор А имеет в точке Й производную Фреше В. Тогда
для всех элементов <?£К справедливо соотношение
В» > А<р.
Если при этом оператор В и0-ограничен, то число Хъ, фи-
фигурирующее в формулировке теоремы 3.7, совпадает с соб-
собственным числом лв оператора В, отвечающим единствен-
единственному положительному собственному вектору оператора В.
Доказательство. Докажем первое утверждение тео-
теоремы.
Пусть вначале са > f и0, где f ]> 0. Представим тогда
элемент В» — А<р в виде
Вер—А<? — Все — /гА-^ ^
Так как
Пгп
п->оо
= И| Ит ' V,, "« =0,

§ 3]' Урысоновскйе теоремы о спектре 287
то элемент Вер — А® является предельным для последователь-
А ф
Ности элементов «А — —Аер (п = 1, 2, . . .), каждый из ко'
торых в силу а0-вогнутости оператора А принадлежит К.
Значит, и Вер—Аер^/С, т. е. Вер > Аер.
Пусть теперь ер — произвольный элемент из К. Для эле-
элементов <о-\~ — (п=\, 2, ...) справедливость соотношений
доказана, так как ср —j—- > —. Переходя в C.24) к пределу
при /г->оо, получим Вер > Acs-
Перейдем к доказательству второго утверждения теоремы.
Пусть Фга£/е(/г=1, 2, . ..) — такая последовательность
положительных собственных векторов оператора А,
А?и= Ktn («= 1. 2, . . .),
что
Ит||<р„|| = 0.
п->оо
Как было показано при доказательстве теоремы 3.7,
собственные числа кп при этом сходятся к некоторому по-
положительному числу ^е- Без ограничения общности можно
считать, что векторы В-Д^ (и=1, 2, . . .) сходятся к не-
некоторому вектору Ле7о>—в противном случае мы перешли
бы к подпоследовательности. Тогда векторы ■* ■" .. (п=1,
II fn II
2, . . .) сходятся к вектору >}>о> так как
Вектор ф0 положителен, так как положительны все <рга.
Из непрерывности оператора В вытекает, что 6^0=
Значит, л9 = ^в-
Теорема доказана.

288 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Аналогичными рассуждениями доказывается
Теорема 3.9. Пусть А — и0-вогнутий вполне непре-
непрерывный оператор. Пусть Q — такой линейный вполне не-
непрерывный оператор, что
„m L^pQ*J _-= о.
Тогда для всех элементов »£/С справедливо соотно-
соотношение
Q? 4 Ас?.
Если при этом оператор Q и0-ограничен, то число Коа,
фигурирующее в формулировке теоремы 3.7, совпадает
с собственным числом >.q оператора Q, отвечающим един-
единственному нормированному положительному собственному
вектору оператора Q.
Если оператор Q не имеет положительных собствен-
собственных чисел, которым отвечают положительные собствен-
собственные векторы, то число к^, фигурирующее в формулировке
теоремы 3.7, равно нулю.
5. и0-монотонные операторы. Условие C.17) м0-вогну-
тости оператора А используется лишь при доказательстве
теоремы 3.6. В остальных теоремах использовано более про-
простое неравенство
A (to) > tkv @ :,; t < 1). C.25)
Пусть A (ftp) фг h'$ при 0<f<l> тогда теорема 3.6 сохра-
сохраняет силу, если условие C.17) заменить условием C.25) и
предположением, что для любых vv срзб^" таких, что
?1 ^ NiMo. ?2 ^ V2ao> из 'ft > ?й (?i 'г- ?.2) следует:
A<pt —А?а>*и0, C-26)
где ><t, v2, у. — некоторые положительные числа, зависящие
от <рх, ср2.
Доказательство проведем от противного. Допустим, что
А«1 = л0'-51, A»a=A0'f2 и ?i ¥= ?2- Обозначим через А такое
наибольшее положительное число, что et > A'-?2. Без огра-
ограничения общности можно считать, что k < 1. Из условия
C.26) следует, что
'■Pi = г A'-?i > Г А (fe%) +-f"o > *?2 +т"о-

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 289
В силу C.16) А<?2 > vao> гДе ** > 0. Тогда
а это неравенство противоречит максимальности k.
Операторы, удовлетворяющие вместо условия C.17) усло-
условиям C.25) и C.26), естественно назвать и0-монотонныма.
Для м0-монотонных операторов справедливы все утверждения,
доказанные выше для а0-вогнутых операторов.
Мы исследовали операторы, определенные во всем конусе
и во всем конусе удовлетворяющие условиям а0-вогнутости
или а0-монотонности. Та часть предложений, в которых не
играло роли поведение оператора на бесконечности, сохра-
сохранит, очевидно, силу, если оператор и0-вогнут или и0-моно-
тонен в пересечении конуса с некоторым шаром.
Оператор
= p(s)l/ I —
K(s,
из задачи о продольном изгибе тонких стержней, рассмо-
рассмотренный в предыдущей главе, положителен в пересечении
некоторого шара пространства непрерывных функций с ко-
конусом неотрицательных функций. Оказывается, что он не
будет м0-вогнутым ни при каком выборе функции uo(s).
Однако он будет ад-монотонным, если положить ao(s) —
-=p(s)s(l—s). Это позволяет из теорем настоящего пара-
параграфа сделать ряд выводов о том, как меняется первая форма
потери устойчивости при изменении нагрузки для задачи
о продольном изгибе стержня (И. А. Бахтин и
М. А. Красносельский, К задаче о продольном изгибе
стержней переменной жесткости, ДАН 105, № 4 A955)).
6. Непрерывная зависимость от параметра. Как было
выяснено выше, у «0-вогнутых и у а0-монотонных вполне
непрерывных операторов совокупности собственных векторов,
лежащих в конусе, образуют непрерывные ветви, причем
в силу теорем единственности каждому собственному числу
из позитивного спектра соответствует единственный собствен-
собственный вектор из конуса. Позитивный спектр рассмотренных
операторов заполняет некоторый интервал (а, ;3)с@, оо).

290 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Естественным дополнением предложений предыдущих пунк-
пунктов является теорема о непрерывной зависимости собствен-
собственного вектора от соответствующего ему собственного числа.
Теорема 3.10. Положительные собственные век-
векторы с» (л) и0-вогнутых и и0-монотонных операторов не-
непрерывно зависят от собственного значения I (А« (X) =
= л» (л)) в том смысле, что при а < к0 < р
lim ||?(*)—<р(*о)||=О.
Утверждение этой теоремы непосредственно вытекает из
следующей леммы.
Лемма 3.6. Пусть N—совокупность всех собствен-
собственных векторов вполне непрерывного оператора А, лежащих
в замкнутом ограниченном множестве Гс£, не содержа-
содержащем Ь. Пусть А— совокупность собственных значений
оператора А, соответствующих собственным векторам,
лежащим в Т. Пусть, наконец, каждому Х£А соответ-
соответствует единственный собственный вектор <?(Х) из Г (А<р (*■).=
()
Тогда собственные векторы «(л) непрерывно зависят
от X на всем А, кроме, быть может, точки X = 0.
Доказательство. Если утверждение леммы неверно,
то найдется такая последовательность Хп(^Л, сходящаяся
к отличному от нуля ^0£А-. что
где а — некоторое положительное число. Так как оператор А
вполне непрерывен, то без ограничения общности можно счи-
считать, что А«р (Хп) сильно сходятся к некоторому элементу Хо$.
Но тогда из равенств
А?(*«) = *»<?(**) (»=1, 2, ...)'
видно, что элементы «(ли) сходятся к 6, причем
В силу условия леммы ^ = <в (Хо). Следовательно,
Нт \}?(Хп)-?(Хо))\ = О.
П-»со
Мы пришли к противоречию.
Лемма доказана.

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 291
7. Теоремы П. С. Урысона. В качестве примера рас-
рассмотрим оператор П. С. Урысона
6
A<p(s)= J/C[s, t, <?(t)\dt. C.27)
a
Доказываемые ниже предложения принадлежат П. С. Уры-
сону [66].
Будем предполагать, следуя Урысону, что функция
K(s, t, и) удовлетворяет следующим условиям:
a) K(s, t, 0) = 0 (a^Cs, /<*);
b) функция K(s, t, и) обладает ограниченной положи-
положительной производной K'u(st t, и):
0</^(s, t, м)<М<оо (a<s, £<#; 0< и < со);
c) производная K'u{s, t, и) монотонно убывает при воз-
возрастании значений и (и>-0) при всех s, t£\a, b]. При этом,
если мх < и.2, то разность K^(s, t, мх) — K^(s, I, u2) имеет
положительный infimum относительно s, t£[a, b\.
Мы будем изучать положительные собственные функции
оператора C.27). Поэтому не играет роли, какие значения
принимает функция K(s, t, и) при отрицательных значениях и.
Нам будет удобно считать, что
K(s, t, —u) — — K(s, I, u) (a*Cs, t^Cb; — со < к < со).
Из b) вытекает, что функция K(s, t, и) непрерывна по и
при всех s, t£ [а, Ь\ (—оо < н <С оо). Эта функция удовле-
удовлетворяет неравенству
\K(s, t, м)|<М-|«| (a<s, t^.b; — оо < н < схэ).
Из этого неравенства в силу теоремы 3.2 главы I вытекает,
что оператор А действует в пространстве L? и вполне непре-
непрерывен. Очевидна положительность оператора А.
(А) При выполнении условий а), Ь), с) оператор А
щ-вогнут, где и0 — функция, тождественно равная на [а, Ь\
единице.
Доказательство. Монотонность оператора А сле-
следует из того, что функция K(s, t, и) при возрастании и
(и ^ 0) монотонно возрастает, так как ее производная по и
положительна.

292 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Покажем, что оператор А удовлетворяет условию C.16).
Пусть <?(s)£K.
Так как при всех и ^> О
K(s, t, м)<Мм (a<s, г<&),
то
6 6
A?(s) = Ja'[s> t, cp(;)]<tt<M §<?(t)dl,
a a
Ь
т. e. A? 4 vmo> где v = M Г <? (О dt.
a
Так как ср Ф 6, то найдется такое положительное число а,
что множество Gt тех s£[a, Ь], в которых <s(s)>a, имеет
положительную меру. Тогда при t £ Gt в силу монотонного
возрастания функции /C(s, ^, м) и монотонного убывания
функции K'u{s, t, и)
K[s, t, <p (*)]>*(«, <, «)>
a).a>c- inf K'u(s, t, a) > 0,
a < Si £ < 6
откуда
ь
A«p(s)=
a
> f/C[s, <• »@]^>a-mesGt. inf /C'(s, ^, a),
^ a < s, (< 6
т. e. Acp > \ш0, где
[i,= amesOt inf ^(s, t, a).
О < 8, t < 6
Пусть заданы числа 0<at<&1<l, f>0. Ниже мы
используем тот факт, что
inf [АТС*, у, tu)~tK(x, у, и)]=т>0, C.28^
где infimum распространен на все х, у£[а, Ь], и^-ч
Для доказательства C.28) представим разность
Д=/С(х, у, tu) — tK(x, у, и)

if 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 293
в виде
tu и
Д = \ К^(х, у, u)du —1\ K'u{x, у, u)du =
о о
и
= t Г \К'и{х, у, tu)— К'и(х> У' u)\du.
о
Обозначим через ft такое положительное число, что f t < f
Щ &if <ft- Так как производная /С^(а;, J, м) убывает при
Возрастании к, то
г
\К'и(х, у, btu) — К'и(х> У' u)]du~^-
1
=z ai("i — "(i)\Ku(xt У> &if) — Ku(x, y, ft)].
Из последнего соотношения следует C.28) в силу с).
Покажем теперь, что оператор А удовлетворяет усло-
условию C.17).
Пусть <p(x)>yk0 (f > 0). Это значит, 4Tocs(A;)^-f при
всех х£[а, Ь]. Тогда в силу C.28) найдется такое т > О,
что
К\х, у, t<?(y)] — tK\x, у, <?(у)]^т (а^.х, у4^Ь)
при aj^£<;#t. Пусть
т ■ (Ь — а)
Тогда при %
А [*»(*)] —
у. t4(y)] — tK[x, у, *
Ч 1

294 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
т. е.
A (t<?) — tA<? > fr)A®,
что и означает выполнение условия C.17).
Предложение (А) доказано.
Так как оператор А вполне непрерывен и м0-вогнут, то
из теорем 3.5, 3.6 и 3.7 вытекают следующие предложения.
(В) Пусть выполнены условия а), Ь), с).
Тогда позитивный спектр оператора C.27) (опера-
(оператора А) образует некоторый интервал (кт, Хв). Каждом}
собственному числу X из позитивного спектра отвечает
единственная положительная собственная функция ® (х]
оператора А. Если ^t(x) и ®2(х) — две положительные
собственные функции оператора А:
то мз Aj < А2 следует, что
(С) Пусть функция К(х, у, и), кроме условий а), Ь), с),
удовлетворяет условию
d) Функция К'и{х, у, и) в точке и = 0 непрерывна по и
равномерно относительно х, у£[а, Ь].
Тогда фигурирующее в формулировке предложения (ЕГ
число Хе совпадает с наибольшим положительным собст-
собственным числом и0-ограничеиного линейного оператора
ь
В<р(х) = j Ки(х, у, 0)9(у)dy. ' C.29;
Доказательство. Функция К'и(х, у, 0) в силу свой-
свойства с) удовлетворяет неравенству
0 < т<К'и(х, у, 0)< М < оо (а< *, _у<Ь),
откуда (см. стр. 268) следует, что оператор C.29) м0-огра-
ничен, где и0—функция, тождественно равная на [а, Ь] еди-
единице.
Покажем, что оператор C.29) является производной Фреше
оператора C.27) в точке 6. Тогда из леммы 3.6 получим
доказываемое утверждение.

§ 3] УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ 295
Пусть задано а > 0. Тогда в силу условия d) можно ука-
указать такое о > 0, что при и ^ 8
К(х, у, и)->-К'и{ху у, 0) м|<гм. C.30)
Пусть св(л:)££2. Обозначим через ^iC*) и ?а(*) функ-
,ции, определенные равенствами
<?(*) при | ? (х) | < 8,
0 при |
Из C.30) вытекает, что
II? II "^
6 6
\<?i(>')\dy
Как было уже отмечено, функция К(х, у, и) удовлетво-
удовлетворяет неравенству
К(х, у, и)\^С М ■ \и\ (а <;х, у О, —со < и < со)
и, так как К'и(х, у, 0)<[ М, то
\К(х, у, и) — К'и(х, у, 0)к|<2М-|к|
Поэтому при [ и | > о
|АГ(д;, j, м) — К'и(х, у, 0)и I <; -т- и1.
В силу последнего неравенства
6 6 1
II А?2 — Btf>2 ]| ,. |1 А^з -
II«toll ^*II%II U LJ "■
а а
(з.32)

296 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Так как
К\х, у, о(у)]~К[х, у, с^СуМ + К!*. у, v.2{y)\
то А? = A»t -f- А»,, откуда
|| Аф — Вер || - || Ас?! — Bfi II 1 II Аср2 — Ъ?о ||
! . <^ '-1 1 U™ _ "
Л гп II ^^- II т I! I
Il'-Pll
В силу C.31) и C.32)
||<р||-»-о И?»
Число е может быть сколь угодно мало. Поэтому из по-
последнего неравенства вытекает, что
Предложение (С) доказано.
(D) Пусть функция К(х, у, и), кроме условий а), Ь), с),
удовлетворяет условию.
е) При безграничном возрастании и функция К[ь{х, у, и)
равномерно {относительно х, у^[а, Ь]) стремится к функ-
функции Q(x, у), которая либо тождественно равна нулю,
либо является ядром, порождающим и0-ограниченный ли-
линейный оператор Q:
ь
Q?(x)= f <?(*, y)*(y)dy. C.33)
о
Тогда фигурирующее в формулировке предложения (В)
число Ада совпадает с нулем, если Q(x, у) = 0, и с наи-
наибольшим положительным числом оператора C.33), если
этот оператор и0-ограничен.
Доказательство. В силу леммы 3.7 достаточно по-
показать, что
ljm J1A^QUL = O. C.34)
Пусть задано s > 0. Тогда в силу условия е) можно ука-
указать такое р > 0, что при |м|^>р
К'ц{х, у, u) — Q(x, у)\<г. C.35)

§ 3]
УРЫСОНОВСКИЕ ТЕОРЕМЫ О СПЕКТРЕ
297
Оценим разность К(х, у, и) — Q(x, у) и. В силу усло-
условия Ь) при |м|<;р выполняется неравенство
\К(х, у, u) — Q(x,
При и > р
\К(х, v, u) — Q(x, у)и\^С
C.36)
у, и) — К(х, у,
-{-\К(х, у, psignw) — Q(x,
K'u [x, у, р-М (*. V, «)(| и |-p)l-Q(*,
к |-р)+2Щ>,
где
?. C.37)
0(х, _у, и)< 1. В силу C.35)
;,[*, у, р+0(х, j, И)(|и| —р
Таким образом, при |м|>р
\К(х, у, u) — Q(x, .у)и|<в(|
Из C.36) и C.37) вытекает, что при всех а справедливо
неравенство
\К(х, у, u) — Q(x,y)u\^
<е|м|4-2Мр (а<х, у<Ь). C.38)
Пусть »(x)^Z.'2. Применяя неравенство Буняковского и
C.38), получим:
||А«р —Q?[| =
6 6 £
£ 6
— а)т J | в
<£(* — а) ||<?||
откуда вытекает, что
Число е может быть сколь угодно мало. Поэтому из
последнего неравенства следует C.34).
Предложение (D) доказано.

298 СОБСТВЕННЫЕ ФУНКЦИИ ПОЛОЖИТЕЛЬНЫХ ОПЕРАТОРОВ [ГЛ. V
Отметим, что теоремы о спектре оператора П. С. Уры-
Урысона
А<р(х)= /К[х, .У. '?(y)]dy, C.39)
о
установленные выше, сохраняют силу при более слабых
ограничениях, чем приведенные в настоящем пункте условия
П. С. Урысона. Это объясняется тем, что оператор C.39)
м0-вогнут при широких предположениях, содержащих усло-
условия П. С. Урысона как весьма частный случай.
Для случаев, когда оператор C.39) действует в простран-
пространстве С или в Lp, основные условия м0-вогнутости заклю-
заключаются [31в] в возрастании при фиксированных х, у £ G
функций К(х, у, и), и убывании функции —К(х, у, и) при
возрастании и (и у- 0).
Для исследования оператора П. С. Урысона в этих более
общих предположениях может быть применен и метод Уры-
Урысона последовательных приближений (как это показал
И. Бахтин *)).
Мы исследовали в настоящем пункте оператор Урысона,
показав, что он м0-вогнут. Нетрудно показать, что для
исследования этого оператора можно было бы использовать
и понятие м0-монотонного оператора.
*) Труды семинара по функциональному анализу, Воронеж,
вып. 3 (печатается).

ГЛАВА VI
ВАРИАЦИОННЫЕ МЕТОДЫ
Методы исследования нелинейных уравнений, излагаемые
в настоящей главе, тесно связаны с топологическими сообра-
соображениями.
Вариационные методы применимы для изучения уравне-
,ний с такими операторами, которые являются градиентами
некоторых функционалов, —такие операторы называют потен-
потенциальными. Кроме этого, вариационные методы применимы
для изучения уравнений с операторами, в различных смыс-
смыслах эквивалентными потенциальным.
В главе рассматриваются задачи, которые изучались
в предыдущих главах при помощи топологических сообра-
соображений.
Первый параграф посвящен вариационному принципу
существования решений. Оказывается, что этот вариационный
принцип в определенном смысле близок к одному специаль-
специальному принципу неподвижной точки, вытекающему из отличия
от нуля вращения некоторого вполне непрерывного вектор-
векторного поля. В качестве приложений общих принципов суще-
существования решений у операторных уравнений рассматриваются
уравнения с операторами Гаммерштейна.
Второй основной параграф главы содержит принцип ли-
линеаризации в задаче о точках бифуркации для потенциальных
вполне непрерывных операторов. Для таких операторов
удается задачу о точках бифуркации решить полностью.
Применяемый метод существенно использует идеи теории
' категорий Л. А. Люстерника — Л. Г. Шнирельмана.
В третьем параграфе устанавливаются два принципа суще-
существования собственных векторов. Основной результат пара-
параграфа заключается в доказательстве существования контину-
континуумов собственных векторов у операторов, являющихся

300 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
гр'адиентами слабо непрерывных функционалов. В вариацион-
вариационных методах собственные векторы появляются как критиче-
критические точки функционалов, рассматриваемых на поверхностях
уровня других функционалов. Значения функционалов в кри-
критических точках называют критическими значениями. Поэтому
вопросы о собственных векторах тесно связаны с изучением
критических значений функционалов. В последнем параграфе
главы изучаются критические точки четных функционалов.
Доказывается, что у таких функционалов существует счет-
счетное число критических значений, обладающих свойством
устойчивости при малых возмущениях функционалами, не
обладающими свойством четности.
Во всей главе используются элементы теории вполне не-
непрерывных самосопряженных операторов (см., например, [4]
или [42]).
§ 1. Теоремы существования решений *)
1. Общий принцип. Вариационный метод доказательства
теорем существования решений у некоторого уравнения
Г<р = 6 A.1)
состоит из следующих двух шагов:
a) конструируется такой оператор 1\, являющийся гра-
градиентом функционала Ф (<р), заданного в некотором функ-
функциональном пространстве, что решение уравнения A.1) экви-
эквивалентно решению уравнения
Г1?=в; A.2)
b) для функционала Ф(«р) доказывается существование
такой точки св0, в которой он принимает свое наибольшее
или наименьшее значение.
Если точка <ро найдена, то, очевидно, в этой точке гра-
градиент Ft принимает нулевое значение 6. Это означает, что «Ро
является решением уравнения A.2). Но, по предположению,
разрешимость уравнения A.2) эквивалентна разрешимости
уравнения A.1). Значит, уравнение A.1) имеет решение.
Для того чтобы применить описанный вариационный метод
к доказательству теорем существования решений у заданных
*) В настоящем параграфе излагается с небольшими измене-
изменениями содержание статьи [-•<>].

j§' 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 301
конкретных классов нелинейных уравнений, нужно иметь
достаточно широкий набор нелинейных операторов, являю-
являющихся градиентами просто исследуемых функционалов. Для
тех примеров, которые будут иллюстрировать доказываемый
ниже общий принцип существования решений, мы используем
дифференцируемый функционал E.5) из главы I, заданный
в пространстве ZA Кроме того, мы используем тот факт,
что самосопряженный оператор А, действующий в веществен-
вещественном гильбертовом пространстве Н, является градиентом квад-
квадратичного функционала
Ф (<р) = ~ (Ао, <?),
так как
-4(АА> h)-
Перейдем к рассмотрению вопроса о том, какие функ-
функционалы в некоторой точке обязательно принимают свое наи-
наименьшее (или наибольшее) значение.
Лемма 1.1. Пусть функционал Ф (о), определенный
на шаре Т? (||<?||<;р) гильбертова пространства Н, до-
допускает представление
Ф (а) = C (а, а) -1- F (а), A.3)
где число ф неотрицательно, а функционал F(<?) слабо
непрерывен.
Тогда найдется точка 9о€^р> в которой функционал
Ф(ф) принимает свое наименьшее на Тр значение:
Ф (<р0) = min Ф (а).
11<рИ<р
В доказательстве нуждается лишь случай, когда ^ ^> 0.
Пусть
?»€ГР (»=1, 2, ...)
— минимизирующая функционал Ф(<?) последовательность:
lim ф(ап)= inf Ф(а).
Я->оо ' ||<р|Кр
Так как шар То слабо компактен, то без ограниче-
ограничения общности можно считать, что последовательность <ря
(п= 1, 2, .. .) сходится слабо к некоторому элементу сро€ ^>

302 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
причем нормы ||сря[| (/i=l, 2, ...) сходятся к некоторому
числу а (в противном случае мы перешли бы к подпоследо-
подпоследовательности).
Переходя в неравенстве
К?». ?о)К1ЫЫЫ!
к пределу при п -*■ оо, получим:
Равенство
lim Ф(«р„)== inf Ф(в)
|<
можно переписать в форме
откуда
$а* + F (?0) < Ф (?о) = РII ?о И2 + F (?„)
и
а < II «Poll-
Объединяя последнее неравенство с A.4), получим:
fl= lim 1ЫЫЫ1-
й -> со
Поэтому
ф(сро)= rnin Ф(ср).
Лемма доказана.
Заметим, что построенная при доказательстве леммы по-
последовательность ер» (»= 1. 2, ...) сходится к ср0 не только
слабо, но и сильно, так как
lim ||<ро —Тпр== Ит [ ||?of+||?й[р_2 (?п, 9о)] = 0.
Функционал Ф(<?), определенный на всем вещественном
гильбертовом пространстве Н, назовем возрастающим, если
lim Ф(в) —-|-оо.
|| В || -> СО
Отметим, что слабо непрерывные функционалы не могут
быть возрастающими, так как на любой сфере Sp ([|<?Ц—р)
со сколь угодно большим радиусом р можно указать, напри-

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 303
мер, такую последовательность элементов <в„ (и.= 1, 2, ...),
что
lim Ф (<ап) ■-= Ф (Ь).
П -> оо
В качестве такой последовательности можно взять элементы
<оп^реп (п=1, 2, . ..),
где еп£Н (п--\, 2, ...) — некоторая ортонормированная
система.
Теорема 1.1. Пусть возрастающий функционал Ф(<э)
представим в виде
где число 3 положительно, а функционал F слабо непре-
непрерывен.
Тогда найдется такая точка сро£Я, в которой функ-
функционал Ф(<?) принимает свое наименьшее на Н значение.
Если при этом функционал Ф(<р) в точке <?0 диффе-
дифференцируем, то его градиент в точке о0 равен нулю.
Доказательство. Так как функционал Ф(<?) возра-
возрастающий, то можно указать такое р > 0, что Ф(ср)>ФF)
при II? II >Р-
В силу леммы 1.1 в шаре Гр найдется точка о0, в кото-
которой функционал принимает наименьшее на Т значение. Это
значение будет наименьшим и на всем Н, т. е. точка <р0
будет точкой абсолютного минимума функционала Ф ('-?).
Пусть Ф(% + А) — Ф(9о) = (Гс?о. ft) + (u(c?0> К). Допу-
Допустим, что ТиофЬ. Положив тогда h = — "^Гтс гДе поло-
положительное число -f выбрано так, что
мы приходим к противоречивому неравенству
Теорема доказана.
2. Теоремы существования решений для уравнений Гам-
мерштейна с положительно определенными ядрами. В этом
пункте будем рассматривать уравнение
?(*)=_[ *(*, у) fly, «р (у)] йу, A.5;

304 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
где G — множество конечной или бесконечной меры с положи-
телыю определенным ядром К(х, у), порождающим линей-
линейный оператор
А? (х) = J К(х, у) <р (у) dy. A.6)
Относительно функции f(x, и) (x£G, —оо < и < оо) будем
предполагать, что она удовлетворяет условиям Каратеодорн.
Через f, как обычно, будем обозначать оператор, опреде-
определенный на вещественных функциях равенством
f? («)=/[«, <?(х)}.
Уравнение A.5) может быть переписано в виде
<? = Afcp. A.7)
Допустим, что оператор A.6) действует из простран-
пространства Lq в пространство 1? ( j = 1, р>-2) и пред-
представим в виде
А = НН*. A.8)
где Н — линейный вполне непрерывный оператор, действующий
из £2 в пространство Lp, а Н*—оператор, сопряженный Н
и действующий из Lq в /Л Условия представимости опе-
оператора A.6) в виде A.8) получены в § 4 главы I (тео-
(теоремы 4.3 и 4.4). Пусть оператор f действует из I? в Lq,
тогда он будет и непрерывен и ограничен. При этих пред-
предположениях рассмотрение уравнения A.7) в пространстве if
эквивалентно рассмотрению уравнения
^г=Н*Ш4 A.9)
в пространстве Z.2 в том смысле, что каждому решению 6 £ L-
уравнения A.9) соответствует решение Щ £ I? уравнения A.7)
и, наоборот, каждому решению <p£Z/" уравнения A-7)
соответствует решение H*f<?6£2 уравнения A.8).

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 305
Оператор I — H*fH является (см. стр. 82) градиентом
функционала
Н? (я)
ф(?) = 1(?, <?)— f dx J /(*, u)du, A.10)
G 6
определенного в Ll.
Для того чтобы из теоремы 1.1 сделать заключение
о существовании решения у уравнения A.9), а значит и
у основного уравнения A.7), нужно найти условия, при
которых функционал A.10) будет возрастающим. Такое
условие было указано Гаммерштейном *):
f{x, u)du^^ + b{x)\u\^ + c{x) A.11)
(л; £ О, — со < и < со),
где 0 < 7 < 2, b(x)£L~i , c(x)£L, а число а удовлетворяет
неравенству а < -г— , где л0—наибольшее собственное число
ядра.
*) Гаммерштейн [1Ц, а вслед за ним и многие другие авторы
применяли при доказательстве теорем существования решений
у уравнения A.7) метод, отличный от изложенного. Этот метод
заключался в том, что функционал A.10) рассматривался вначале
на конечномерных подпространствах возрастающей размерности п,
на которых он имеет критические точки <?п> затем из последо-
последовательности выбиралась подпоследовательность, сходящаяся в неко-
некотором смысле к элементу <?п. наконец доказывалось, что Н<?о
является решением уравнения A.7).
Аналогичный метод рассмотрения вначале функционалов на
конечномерных подпространствах с последующим переходом к пре-
пределу применялся и в задача^ о собственных функциях (М. Голомб,
'М. М. Вайнберг и др.). Такой метод, по нашему мнению, отличается
громоздкостью, по не дает никаких дополнительных результатов
по сравнению с теми, которые вытекают из непосредственного рас-
рассмотрения функционалов в пространстве /Я Первые теоремы
с использованием функционала в /,а без перехода к конечномерным
подпространствам были доказаны, повидимому, Голомбом.

306 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
При выполнении условия A.11) функционал A.10) воз-
возрастает, так как
Ф(?)>-7Г (?' ?)— Т f | Н«р (лс) | * rfjc —
G
— f »(ж) 1 Н? (ж) 12~т dx — Г с (*)dx>
'о в
> Ь^а (?, о) - & (<?, ?I~^ - с,
где
т
(?
2 V Т
ft (дг); Tdxj T • Xq1" т, с = Г с (ж) dje.
Мы пришли к следующему утверждению.
Теорема 1.2. Пусть оператор A.6) допускает пред-
представление A.8). Пусть оператор f действует из Lp в Lq.
Пусть выполнено условие A.11).
Тогда уравнение A.5) имеет по крайней мере одно
решение в I?.
Условия теоремы 1.2, в частности, выполнены, если
функция f(x, и) кроме условия A.11) удовлетворяет не-
неравенству
\f(x, a)|<fl(«) + ft|B|1' {a(x)£Lq, ft > 0),
а положительно определенное ядро К{х, у) удовлетворяет
условиям
J j К1 (х, у) dx dy < оо.
о а
J Г | К(х, у) \р+* dx dy < оо,
о о
где s — некоторое неотрицательное число, которое может
быть равно нулю в случае р =. 2.
Аналогичным путем устанавливается
Теорема 1.3. Пусть оператор Н = А2, где А опре-
определен равенством A.6), действует из L* в Lp и вполне

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 307
непрерывен (см. теоремы 4.5 и 4.7 главы I). Пусть опе-
оператор f действует из пространства 1? в L21~| Lq. Пусть
выполнено условие A.11).
Тогда уравнение A.5) имеет по крайней мере одно
решение.
Появление дополнительного условия (оператор f действует
из if в Z.') объясняется следующими соображениями. До-
Дословно так же, как и в условиях теоремы 1.2, доказывается,
что имеет решение уравнение 'Ь = Н*Ш^, эквивалентное
уравнению <o = HH*f<a. Чтобы перейти от последнего урав-
уравнения к уравнению и = Af'-p, нужно знать, что на элементе f«
оператор НН* принимает то же значение, которое принимает
оператор А. По операторы НН* и А принимают на L2[)Lq
одинаковые значения (см. стр. 75). Поэтому мы дополни-
дополнительно требуем, чтобы fcp£L2.
Возможно, что дополнительное условие в теореме 1.3
является лишним.
В заключение пункта приведем еще одно утверждение.
Теорема 1.4. Пусть mes О < со. Пусть ядро К{х, у)
ограничено. Пусть функция f (x, и) удовлетворяет
условию A.11). Пусть для каждой ограниченной функ-
функции <?(х)
■j\f[x, <р(*)
где р — некоторое фиксированное число, р> 1.
Тогда уравнение A.5) имеет по крайней мере одно
ограниченное решение.
Доказательство теоремы 1.4 проводится по той же схеме,
что и доказательство теоремы 1.2 (при этом используется
теорема 4.6 из главы I).
3. Теоремы существования решений для уравнений
Гаммерштейна с симметричными ядрами, у которых
конечно число отрицательных собственных чисел. Пусть
гильбертово пространство Н является ортогональной суммой
двух подпространств Нх и Н2, первое из которых конечно-
конечномерно. Элементы подпространства #t будем обозначать
через в, элементы Н2—-через 6. Каждый элемент у^Н
тогда единственным образом представим в виде

308 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. V
Пусть Ht — линейный оператор, действующей в Hv
Н2 — линейный оператор, действующий в Я2. Через Н =11!© Н2
будем обозначать ортогональную сумму операторов Ht и Н2:
Пусть а— некоторое число из сегмента [0,11:0 <; а <! 1-
Через Fa будем обозначать множество таких элементов
cp-j-O, для которых |®||2^-A—«) |{ ^||2-
В дальнейшем будет использована
Лемма 1.2. Пусть оператор Н( имеет в Нг ограни-
ограниченный обратный, т. е. при некотором q > 0
№<?!!>? [Ml (<?ещ. A.12)
Тогда для всех элементов у = ср-|-6 из Fa справедливо
неравенство
ЛЬ^ A-13)
Доказательство. Если <? + 'т'€^'а> то
а) || <Ь ||, откуда
1 — а .,
7^ -WV-
Следовательно,
Лемма доказана.
Ннже мы будем предполагать, что операторы Ht и Н2
самосопряжены и положительно определены (самосопряжен-
(самосопряженный оператор Н положительно определен в Н, если
(Н<?, '■?)>-0 при всех <э£Н). Оператор Н при этом также
будет самосопряжен и положительно определен. Если опе-
оператор Ht положительно определен, то в качестве числа q,
фигурирующего в условии A.12), можно взять наименьшее
собственное число л0 оператора Ht. Тогда неравенство A.13)
перепишется в виде

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 309
Обозначим через J оператор, определенный равенством
Нам в дальнейшем понадобятся следующие неравенства:
|9 (<Р + фё>«)- A-15)
Первое из этих неравенств очевидно. Второе следует
из того, что ||®['|2<A—а)||<1>||2 при о-j-&€ ^«> откуда
Снова рассмотрим уравнение Гаммерштейна
0-16)
где G — множество конечной или бесконечной меры. Будем
предполагать, что ядро L(x, у) симметрично и имеет конеч-
конечное число отрицательных собственных чисел. Через К(х, у)
обозначим соответствующее L(x, у) положительно опре-
определенное ядро (см. главу I, § 4, пункт 6). Пусть
А? (х) = J К(х, у) с? CV) dy. A.17)
о
Через Ht обозначим линейную оболочку собственных
функций оператора А (ядра L(x, у)), отвечающих отрица-
отрицательным собственным числам ядра L(x, у). Через Я2 обо-
обозначим ортогональное дополнение к Нt в H = L?. Подпро-
Подпространства Ht и Я2 будут инвариантными подпространствами
оператора А.
1
Оператор Н = А -', рассматриваемый только на Hv обо-
обозначим через Ht. Оператор Н, рассматриваемый только
на Я2, обозначим через Н2. Если для оператора Н написать
неравенство A.14), то роль числа Хо в этом неравенстве
будет играть 1/|Х_|, где Х_ — наименьшее по абсолютной
величине отрицательное собственное число ядра L(x, у).

3 1 О ВАРИАЦИОННЫЕ МЕТОДЫ - |ГЛ. VI
Уравнение A.16) может быть переписано в виде
X + JAfy. = 0. (I.I 8)
Допустим, что линейный оператор A.17) допускает пред-
представление
А = НН", A.19)
где Н — линейный вполне непрерывный оператор, действующий
из L в пространство if. Условия представимости оператора
в форме A.19) были найдены в главе 1 (теорема 4.8). Пусть
оператор f действует-из Lp в Lq. При этих предположениях
оператор Н*Ш будет действовать в /А
Если о — это решение уравнения
J<p + H*fftp = e, A-20)
то функция ^ = Нср — решение уравнения A.18). Уравне-
Уравнение A.20) сводится к уравнению A.18), если к A.20) при-
применить оператор JH и ввести обозначение ^ = Н«р.
Оператор Г = — J — Н*Ш является градиентом функ-
функционала
Н? (ж)
Ф(<р) = — 1(J?, <?) — [ dx J f(x, u)du, (I.21)
о
определенного в Z.2 и представимого в виде
Ф(?) (
где Ft(?) — слабо непрерывный функционал:
Н<р(гв)
Fj (в) = 1 (— J? — о.?)— [^ [ f(x, u)du.
G 0
Таким образом, для того чтобы из теоремы 1.1 сделать
заключение о существовании решения у уравнения A.20),
а значит, и у основного уравнения A.18), нужно найти условия,
при которых функционал A.21) будет возрастающим.

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 311
В качестве такого достаточного условия можно требовать
выполнения неравенства
au2 — b(x)\u\2'"l — c(x) A.22)
—оо < и < оо),
2
-где 0 < f < 2, b(x)£Li, c(x)£L, а число а удовлетворяет
неравенству а | к_ | > 1, где л_— наименьшее по абсолютной
величине отрицательное собственное число ядра L(s, t).
Так как а|А_|>1, то можно выбрать такое число а,
О < а < 1, что
Э в1Мй>0 (L23>
Пусть выполнено условие A.22). Тогда для любой функ-
функции <р (х) £ Z.2 будет выполняться неравенство
ф (ф) > — 4
« J
— Г
2-1
> _ _ (J?, ?) + о (Не, Н?) — 6 (H'f, Н«) 2 — с,
где
2
2 у
= { j \b(x)\T dx}~*, c= ^ c(x)dx.
a
Пусть ер £ /=Ia, где число а удовлетворяет неравенству A.23).
Тогда из A.15) следует, что
ф (в)
откуда
> 2B-*)'
с?. ?:
lim
1-
Ф(Ф) =
х
оо.
1
_ т

312 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Пусть теперь <s£Fa. Тогда в силу леммы 1.3 и A.23)
ф () >( )+«I u ^ ( )Г 1
i_i i_JL
= jj (<p, cs) — b 1| Л ]1 2 (tp, cp) 2 —c,
откуда
Hm Ф(о)==оо.
Таким образом, функционал A.21) является возрастаю-
возрастающим функционалом.
Мы пришли к следующему предложению.
Теорема 1.5. Пусть L (х, у) — такое симметричное
ядро с конечным числом отрицательных собственных
чисел, что оператор A.17), порожденный соответствую-
соответствующим L(x, у) положительно определенным ядром К(х, у),
допускает представление A.19). Пусть оператор i дей-
действует из пространства LP в пространство Li. Пусть
выполнено условие A.22).
Тогда уравнение A.16) имеет по крайней мере одно
решение.
В силу предложений главы I условия теоремы 1.5 будут
выполнены, если симметричное ядро L(x, у), имеющее конеч-
конечное число отрицательных собственных чисел, удовлетворяет
условиям
J* J* Z.2 (х, у) dx dy < оо, [С | L(x, у) \р+е dx Жу < со,
G в в в
где s — некоторое неотрицательное число, которое может
быть равно нулю в случае, когда р = 2, и если функция
f(x, и) кроме A.22) удовлетворяет неравенству
\f(x, BjKcOO + ftlaf-1 (a(x)£Lp, b > 0).
В заключение пункта сформулируем еще одну теорему
которая доказывается аналогично теореме 1.5 с использова-
использованием теоремы 4.9 главы I.
Теорема 1.6. Пусть mes G < оо. Пусть симметрич-
симметричное ядро ограничено и имеет конечное число отрица-

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 313
тельных собственных чисел. Пусть выполнено усло-
условие A.22). Пусть для каждой ограниченной функции <?(х)
/[*. <f(x)\\pdx<oo,
где р (р > 1) — фиксированное число.
Тогда уравнение A.16) имеет по крайней мере одно
ограниченное решение.
Доказательство теорем 1.5 и 1.6 отличается от доказа-
доказательства аналогичных утверждений предыдущего пункта,
в которых рассматривались уравнения с положительно опре-
определенными ядрами. Это объясняется тем, что функцио-
,нал A.10) имел «возрастающее» слагаемое -к- (<в, <?)', поэтому
для того, чтобы функционал A.10) был возрастающим,
нужно было только лишь наложить условие A.11), при вы-
выполнении которого второе слагаемое функционала A.10) не
убывает слишком быстро. В функционале же A.21) возра-
возрастающих слагаемых нет, так как — (Je, <р) убывает на под-
подпространстве Hv а второе слагаемое не может быть
возрастающим, так как оно является слабо непрерывным
функционалом *). Поэтому доказательство возрастания функ-
функционала A.21) при выполнении условия A.22) усложняется:
в одной части пространства Н оно вытекает из возрастания
одного слагаемого, во второй — из возрастания второго.
Доказательство существенно использует конечномерность Нх—
в противном случае второе слагаемое функционала A.21)
не могло бы возрастать*) на Ht.
4. Топологический принцип. Теоремы типа 1.2—1.6
могут быть доказаны и при помощи топологических прин-
принципов неподвижной точки.
Пусть на границе 5 некоторой ограниченной области Т,
•содержащей нуль 6 банахова пространства Е, задано вполне
*) Для слабо непрерывных функционалов в бесконечномерных
пространствах, как легко видеть, справедливы своеобразные прин-
принципы минимума и максимума
sup Ф (<р) = sup Ф (tp)
Н?Г<о 1!»1!=а
и i
inf Ф (<f) = inf
|1?И=а

314 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
непрерывное векторное поле I — В. Пусть оператор В не
имеет на 5 собственных векторов, отвечающих собственным
числам, не меньшим чем 1. Тогда вращение этого вектор-
векторного поля отлично от нуля, так как оно гомотопно полю I
(чтобы в этом убедиться, достаточно рассмотреть поля I—tB,
О <^£ <^ 1). Следовательно, поле I — В при продолжении на
всю область Т имеет по крайней мере один нулевой вектор.
В случае, когда Т—шар, сформулированный принцип
неподвижной точки может быть получен при помощи прин-
принципа Шаудера.
Из сформулированного принципа вытекает удобный
в приложениях более частный принцип неподвижной точки.
Теорема 1.7. Пусть в ограниченной области Т,
лежащей в гильбертовом пространстве Н и содержащей
нуль 0 этого пространства, задан вполне непрерывный
оператор В. Пусть для всех ?£S, где S — граница Т,
выполняется неравенство
(В«р, ?)<(?. ?)• A-24)
Тогда уравнение
у = B'f
имеет в области Т по крайней мере одно решение *)
*) Изложенные в книге общие теоремы применимы и к иссле-
исследованию систем уравнений. Для этого достаточно правыми частями
уравнений определить оператор в соответствующем пространстве
вектор-функций.
Если, в частности, ядра Ki(x, у) (г = 1, ..., п) симметричны,
то вариационные методы позволяют доказывать (см., например, [1От])
теоремы существования решений у систем
Ъ(х) = l$Ki(x, у) ft [у, <Р!(у) <рге(у)] dy A=1,... п). (*)
G
При этом приходится предполагать, что существует такая функция
F(x, гь ..., гп), что
fi(x,zx zn) = -^-F(x, zb ..., гп) (l=\ п). (**)
Доказываемые па этом пути теоремы (как и для случая одного
уравнения) нелокальны относительно параметра X: в них >. может
принимать значения из полубесконечного интервала.
А. И. Поволоцкий в статье «Нелокальные теоремы существо-
существования решений у систем нелиней'ных интегральных уравнений»

§ 1] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ РЕШЕНИЙ 315
Доказательство. Допустим, что утверждение тео-
теоремы неверно. Тогда вращение вполне непрерывного поля
I—В на 5 равно нулю. Из сформулированного выше прин-
принципа неподвижной точки следует, что оператор В имеет
на 5 собственный вектор <р0, которому отвечает собствен-
собственное число л0 > 1. Тогда
(В?о- То) = \) (?о> <Ро) > (?о> <Ро).
что противоречит A.24).
Теорема доказана.
Мы будем применять теорему 1.7 для случая, когда
Т— шар.
При помощи теоремы 1.7 могут быть доказаны все пред-
предложения пункта 2, если условие A.11) заменить следующим:
uf(x, u)^aui-\-b(x)\uf"{-\-c(x) A.25)
(х £ G, — со < и < оо),
2_
где 0 < y < 2, b(x)^Li , c(x)£L, а число а удовлетво-
удовлетворяет неравенству а < ^—, где Хо — наибольшее положитель-
положительно
ное собственное число ядра К(х, у).
В качестве примера докажем аналог теоремы 1.2.
Будем предполагать, что выполнены все условия этой
теоремы, только условие A.11) заменено условием A.25).
При доказательстве теоремы 1.2 было показано, что
существование решения у уравнения A.5) вытекает из сущест-
существования в L2 решения у уравнения ср = В<р, где
В = Н*Ш.
Существование решения у уравнения ср = В<? в силу
теоремы 1.7 будет доказано, если мы покажем, что на
сфере 5crL2 некоторого радиуса р выполняется условие
(В?, с?) < («р, ср).
(ДАН 99, № 6 A954)) показал, что теорема 1.7 позволяет доказат!
нелокальные теоремы существования решений у систем (-)f), близ
кие к получаемым вариационными методами, но с освобожде
нием от весьма ограничительного условия (•)(-*).
Локальные относительно X теоремы существования решеню
для систем (•#) могут быть получены при помощи принципа ежа
тых отображений и принципа Шаудера (см., например. [1Ов]).

316
ВАРИАЦИОННЫЕ МЕТОДЫ
[ГЛ. VI
Пусть р — такое положительное число, что
1
где
b =
jc(x)dx.
Тогда при j|cp|[=p
(B-f, ?) = (H*fH'f, ?) = (fH<p, H?) =
= ^ f[x, H? (x)] • Hep (x) dx <
b
< a J | H? (*) Г3 d* + f ft (jc) | H<? (jc) |8"Td* + J с (x) dx
l-4:2_.
т. е. выполнено условие A.24).
Предложения пункта 3 также могут быть доказаны при
помощи теоремы 1.7, если в условии A.22) интеграл в левой
части неравенства заменить произведением -^f(x, и) ■ и.
§ 2. Принцип линеаризации в задачах
о точках бифуркации [Кп]
1. Функционалы, близкие к квадратичным. Будем гово-
говорить, что функционал Ф(в), определенный в некоторой
окрестности нуля Ь вещественного гильбертова простран-
пространства И, близок к квадратичному у (В?, ?), если для лю-
любого а>0 можно указать такое В > 0, что при 1]вЦ<8
справедливо неравенство
Лемм а 2.1. Пусть Г (ГО--0) — нелинейный опера-
оператор, являющийся градиентом функционала Ф (<р) (Ф (f))=O),

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 317
определенного в некоторой окрестности нуля 0 гильбер-
гильбертова пространства Н. Пусть оператор Г имеет в точке О
производную Фреше В.
Тогда функционал Ф (в) близок к квадратичному
у (В?. <?)•
Доказательство. Пусть задано е > 0.
Так как оператор в точке 0 имеет производную Фреше В,
то найдется такое число 8 > 0, что при ([»[[< 8 выполняется
неравенство
||Г?-В?||<еН|. B.1)
Рассмотрим функцию
где ч>— фиксированный элемент, норма которого меньше 8.
Справедливо равенство
/(9 = («, Г (ft?)),
так как
Hm
— И . г 11т
Поэтому
1 1
Ф (?) =-- / A) — / @) - J /' (О Л = J (в, Г (to)) dt.
U (I
гда
1 1
Ф («) — ~ (В«, <э) = J (Г (to), ») d^ — (В?, ?) J t dt =
о
г
= J* (Г (ft?) — В (ftp), ©)
и
и, так как |jfa|| <[|]<?[| < 8, то в силу B.1)
1
</iir(ftp) —В(*?)[| • ||<
о
Лемма доказана.

318 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
В дальнейшем мы будем предполагать, что оператор В,
фигурирующий в условиях леммы 2.1, самосопряжен, т. е.
будем предполагать, что
Выясним характер последнего ограничения.
Введем в рассмотрение функцию
Нетрудно видеть, что
df . (t. s\ df , (t, s)
?)■ — ^ = СГ (<T + si), ф)
dsdt =(B^' ?)' dtds =(Bc?' *>'
Таким образом, самосопряженность оператора В означает,
что для всех функций /9,<р(Л s) (<?» ^^Н; ||«j|, ||'>||<8)
выполнено условие
^/т,»@. 0) ^/т,ф@. 0)
ds dt dt ds
В частности, самосопряженность оператора В будет обеспе-
обеспечена, если оператор Г будет иметь производную Фреше не
только в точке 0, но и в некоторой окрестности этой точки,
причем производная Фреше будет непрерывно (по норме
операторов) зависеть от точки ср окрестности 0. Действи-
Действительно, в этом случае обе смешанные производные
&U {, V, s) д%, ф (t, s)
ds dt ' dt ds
при малых t, s будут непрерывны по совокупности пере-
переменных, что обеспечивает их равенство.
2. Лемма Л. А. Люстерника. Л. А. Люстернику при-
принадлежит следующий принцип критической точки:
Пусть ср0—точка экстремума функционала Ф^о) на
поверхности уровня функционала Ф2(в). Тогда градиенты
функционалов Ф1 и Ф2 в точке <э0 коллинеарны.
Мы используем ниже утверждение этого принципа для
одного частного вида функционала Ф2.

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 319
Лемма 2.2. Пусть А — линейный самосопряженный
оператор. Через S обозначим поверхность, задаваемую
уравнением
(Аи, в) = с,
где с — отличное от нуля число. Пусть вещественный
функционал Ф(с?) принимает в точке «о€^ свое наи-
наибольшее на S значение:
ф(?)<Ф(?о) (?€$)•
Пусть функционал Ф(») в точке «0 дифференцируем,
т. е. приращение функционала представимо в виде
Гле
lim ?1' \ == Q>
а Гв0 — некоторый вектор из Н.
Тогда найдется такое число л, что
Г<?0 = h
Доказательство. Предположим, что утверждение
леммы неверно. Тогда вектор
будет отличен от Й. Очевидно, (g, A«o) = 0. откуда выте-
вытекает, что
g) = (g, g)>0-
Рассмотрим элементы 6а вида
где
Отметим, что из последних неравенств вытекают следующие
оценки:

320
ВАРИАЦИОННЫЕ МЕТОДЫ
[ГЛ.
С -г а2 (Kg, g)
— 1
jj)\
g) I
B.3)
Элементы 6К принадлежат 5, так как
= (А?о.
= с
откуда
Введем обозначение Aa = >ia — в0 и оценим |jfta|j. Оче-
Очевидно, ^
MV с + аа
откуда в силу B.2) и B.3)
, g)
B-4)
Теперь оценим (Г?о, Ак). Так как
(Г?о. ?
112
ll '
то в силу B.2) и B.3)
B.5)
Значение функционала Ф(в) в точке >!<,, можно предста-
представить в виде
со(?о, А.),

2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 321
ричем можно указать такое 5>0, что при
B-6)
Неравенство ||AJ|<2 в силу B.4) очевидным образом вы-
выполняется, если
8
Пусть теперь число а, кроме наложенных ранее ограни-
ограничений, удовлетворяет еще неравенству
\c\-\\gf
^ 8 | (А£, g) (Г<р0, п) I *
Тогда в силу B.5) и B.6)
- ф ы+[^f - -! (Ag' f;,(r^«> ф ы-
Таким образом, в точке <р0 функционал Ф (<р) не принимает
наибольшее на 6' значение. Мы пришли к противоречию.
Лемма доказана.
Утверждение леммы 2.2 вытекает из сформулированного
выше общего принципа Л. А. Люстерника, если положить
Фх (<s) = ф (ср), Ф2 (<s) = (А<р. <?)• так как градиентом квад-
квадратичного функционала (А<р> 9) является оператор 2А.
Если в условиях леммы 2.2 оператор А обратим, то
утверждение леммы означает, что <Ро —эт0 собственный век-
вектор оператора А-1Г. Если оператор А — оператор I тож-
тождественного преобразования, то поверхность (А», <р) —с
будет обычной сферой, а утверждение леммы будет озна-
означать, что оператор Г имеет собственный вектор <р0.
Отметим также, что утверждение леммы 2.2 сохраняет
силу, если функционал Ф (<р) в точке в0 принимает не наи-
наибольшее, а наименьшее на S значение (для доказательства
достаточно заметить, что вектор —Г<р будет градиентом
функционала — Ф (ср), который в точке <ро принимает уже
наибольшее значение).
3. Существование одной точки бифуркации. Напомним,
что число iA0 называлось точкой бифуркации (глава IV) не-
нелинейного оператора Г, если для любых т], 5 > 0 можно

322 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
указать такой собственный вектор <р, отвечающий характе-
характеристическому числу a, <s = \>Т<э, что
Легко видеть, что jxo=^=O будет точкой бифуркации опе-
оператора Г, если для любых е, 5 > 0 можно указать такой
собственный вектор <р, отвечающий собственному числу А,
Г<? = А<р, что ||«?||<5; \к — ло|<е, где Хо — —-.
го
Теорема 2.1. Пусть Г(Г6 = 6) — нелинейный вполне
непрерывный оператор, являющийся градиентом слабо
непрерывного функционала Ф(») (Ф(Й) = 0). Пусть опера-
оператор Г имеет в нуле Ь пространства Н производную
Фреше В, являющуюся самосопряженным вполне непре-
непрерывным оператором.
Тогда наименьшее положительное характеристическое
число оператора В будет точкой бифуркации оператора Г.
Доказательство. Обозначим через л0 наибольшее
положительное собственное число оператора В, через Но —
подпространство собственных векторов оператора В, отвечаю-
отвечающих собственному числу л0. Через Нх обозначим ортогональ-
ортогональное дополнение к Яо в. Я. Через Ро и Рх будем обозначать
операторы ортогонального проектирования соответственно
на подпространства Но и Hv Через м обозначим наибольшее
из отличных от Хо положительных собственных чисел опера-
оператора В; если л0 — единственное положительное собственное
число оператора В, то пусть м= 0.
Как известно, каждый самосопряженный вполне непре-
непрерывный оператор В допускает представление
p S гР гг
где et (i = 0, 1, 2,...) — полная ортонормированная система
собственных векторов оператора В, a kt (i = 0, 1, 2,...) —
собственные числа. Из приведенного представления вытекает
неравенство
котопым мы ниже fivnp.M пплкяппяткгя fiea ггылок.

§ 2]
ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ
323
Функционал Ф(<р) в силу леммы 2.1 близок к квадратич-
квадратичному у (В», в). Обозначим через р такое число, меньшее
чем 8, что при |]»||<р
Ф(?)—g-(B?I <?)
цг?-в?[|<£.2!!?|!,
где числа sx и е2 удовлетворяют неравенствам
B.7)
B.8)
о К 1~1—-?>
Тогда для любого элемента <р£//0, норма которого
меньше р, в силу B.7)
Обозначим через Т шар радиуса р и через S — сферу
даого же радиуса. Из предыдущего неравенства вытекает,
B.9)
Так как функционал Ф(») по предположению слабо не-
непрерывен, то он принимает свое наибольшее значение в не-
некоторой точке <Ро шара Т.
. В силу B.9)
С другой стороны, в силу B.7)
(?о)-т(В?о. То)
. Следовательно,

324 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. V]
Из этого неравенства и равенства
после несложной выкладки получаем оценки для [|Ро'-?о|12 и
B.10;
Из B.10) следует, что
ЦВ<?о1
и в силу B.8)
ЦВ<?о1|2>
ЦГсро — Вво«>
Функционал Ф('-?) принимает в точке «0 максимальное
на Т значение. Градиент Г этого функционала в точке в0
принимает отличное от 0 значение. Значит, точка <Ро не
может быть внутренней точкой шара Т. Таким образом,
И«о11=р и 9oes.
Из леммы 2.2 вытекает, что вектор ср0 является соб-
собственным вектором оператора Г:
Так как наименьшее характеристическое число [х0 опера-
оператора Г равно —, то доказательство теоремы будет закон-
закончено, если мы покажем, что | А.— ^о|<3- Это неравенство
непосредственно следует из B.8) и B.11):
IA — Ао| = < — \-- <
1 U/Vv
Теорема доказана.

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 325
Замечание. В условиях теоремы 2.1 наибольшее от-
отрицательное характеристическое число оператора В
также будет точкой бифуркации оператора Г.
Для доказательства достаточно заметить, что абсолютная
величина наибольшего отрицательного характеристического
числа оператора В будет наименьшим положительным ха-
характеристическим числом оператора Вг = — В, который
является производной Фреше оператора Ft = — Г,
являющегося в свою очередь градиентом функционала
фх(<р) =—Ф(е). Сформулированное утверждение вытекает
из того, что точки бифуркации оператора Г могут быть
получены изменением знака у точек бифуркации опера-
оператора 1\.
4. Вспомогательные леммы. Во всем пункте мы будем
рассматривать слабо непрерывный функционал Ф (<?), равно-
равномерно дифференцируемый на шаре ТаН радиуса р, гра-
границей которого является сфера S.
Приращение функционала Ф(?) будем записывать
в обычной форме
Ф(<р + А) — Ф (») = (Г<р, А) + <о(в, А),
где Г — градиент функционала Ф(о). Будем предполагать,
что оператор Г непрерывен на Т.
Из того, что функционал Ф(<?) равномерно дифферен-
дифференцируем на Т, вытекает, как легко видеть, существование
такой неубывающей непрерывной функции о = 5(е), равной
нулю только при е = 0, что из ||А||^8 следует равномерно
относительно <р £ Т
|ш(9, А)|<еЦй||.
Введем обозначение
Очевидно, (D<s, <s) = 0 (9 £ S).
Пусть
J = sup|jD<p||, m— sup j(Г»,

326 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Введем в рассмотрение операторы % (t, ср) @ -^ t ^ 1,
» £ S) равенством
где вещественный функционал а (в) определен равенством
Лемма 2.3. Справедливо неравенство
Доказательство. Для сокращения записи нам будут
удобны следующие обозначения:
Пусть ЦвЦт=:р. Тогда H? + gl|!>p. так как вектор
ортогонален вектору <р> и
Из B.13) и B.12) следует, что
B.14)
Из определения оператора D вытекает, что Г<р = De -j-
-|—2~ (Г?. ?) ?• Подставляя это выражение в (Г<?, h) и учи-
учитывая, что (g, ») = (D<p, ?) = 0, получим:
'lij
откуда в силу B.12) и B.13)
р, A) —(Do, g)\<~^ Ы12<
<-^te2(<a)||De>||2<^^||De>||2. B.15)
Р *

J 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 327
Из B.14) вытекает, что
^D?||2. B.16)
Рассмотрим приращение
<р, А) =
<p, A) — (D<p, £)}+со(ер, А).
В силу B.15) и B.16)
Лемма доказана.
Оператор *A, ») будем обозначать через х.
Пусть на сфере S задан класс N компактных множеств/7,
каждое из которых преобразуется оператором х в мно-
множество зс/, также принадлежащее классу N.
Определим на /V вещественный функционал Ф (F) ра-
равенством
= min Ф(в).
Значения функционала Ф(/^) ограничены сверху, так каь
функционал Ф(в) ограничен на S. Пусть
p
FCZN
Лемма 2.4. Найдется такая последователъностг
элементов '.snf [}FcS (n=\, 2, ...), что
N
lim Ф (оя) — с
п -> оо
И
lim !|Den|| =0.
m-^ со
Доказательство. Лемму будем доказывать от про
тивного.

328 ВАРИАЦИОННЫЕ МЕТОДЫ 1ГЛ. VI
Если утверждение леммы неверно, то найдутся такие
числа a, J3 > 0, что для всех тех а£ \} F, для которых
N
(Ф (<?) — с ( < J3, справедливо неравенство
Обозначим через Fo такое множество из М, что
>
где
Через L обозначим множество тех о £ Fo, в которых
Рассмотрим множество xF0. По предположению, мно-
множество jcF0 принадлежит классу М Значит,
С другой стороны, в силу леммы 2.3 и для точек
Ф(х<?
и для точек <р ^ Z,
так как а (■?)>- 8 для тех точек <p£S> в которых ||D«([!>a.
Следовательно,
Мы пришли к противоречию.
Лемма доказана.
Лемма 2.5. Пусть <оп(п = \, 2, ...) — такая слабо
сходящаяся последовательность точек сферы 6', что
lim
причем последовательность векторов Г<р„(/г=1, 2, ...)
сходится сильно к некоторому вектору £>, отличному
от 6.

2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 329
Тогда последовательность ап(п=\, 2, ...) сходится
сильно к своему слабому пределу <f0, причем е0 принад-
принадлежит S и является собственным вектором оператора Г:
Доказательство. В условиях леммы последователь-
последовательность чисел (Г<?га, еп)(я=1, 2, ...) сходится к некоторому
числу Ар3. Так как
Ит (Гоя, ?ПJ = Р2 lim {(Г?п, Г?я) —(D?n, Гс?и)} =p2||6f,
П -> оо п -X»
"?го |Х|о= ||й||. Переходя к пределу в равенстве
волучим во = — 0. Из непрерывности оператора Г следует,
Лемма доказана.
б. Нестягиваемые множества. Множество F, лежащее
в метрическом пространстве R, называют стягиваемым
в R в точку <?о£Я> если существует такая непрерывная по
совокупности переменных оператор-функция \J(t,v) (O^^l,
<o£F) с множеством значений в R, что
U@, <?)гз?> U(l, v) = o0 (y£F).
В противном случае множество F называют нестягиваемым
Р R.
В качестве простейшего примера нестягиваемого в себе
Множества можно рассмотреть конечномерную сферу S-
Приведем элементарное доказательство.
■ Для простоты будем считать, что S — это единичная
сфера к-мерного евклидова пространства. Единичный шар
этого пространства обозначим через Т.
Допустим, что сфера S стягиваема в себе в точку ?о-
Пусть U(t, <p) @</<l, ?£S) — функция, фигурирующая
в определении стягиваемого множества. Рассмотрим опера-
■ тор А, определенный на шаре Т формулой
при !1?||>0,
—<Ро при 11?!! = 0-

330 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Непрерывность оператора А очевидна. Оператор А преоб-
преобразует шар Т в свою часть. В силу теоремы Брауэра най-
найдется такая точка &£7\ чт0 А^ = 6. Так как ||А»Ц =
= 1(?£7), то 4£S. Тогда 4 = Ц — ~ 1Д0, ty = — <1>.
Мы пришли к противоречию.
Понятие вращения векторного поля позволяет доказать,
что граница S любого ограниченного открытого множества Т
/i-мерного пространства нестягиваема в себе. Для доказа-
доказательства будем считать, что нуль пространства лежит в Т.
Тогда из стягиваемости S в себе в точку е0 £ S выте-
вытекает, что на S гомотопны векторное поле Ф]в =
= U@, »)=;« и поля Фа параллельных векторов Ф2'? = е0,
вращения которых очевидным образом различны (единица и
нуль).
Будем говорить, что множество F, получено непрерыв-
непрерывной деформацией U из множества FczR, если существует
такой непрерывный по совокупности переменных оператор
\J(t,<s) @<£<l, ?£F) со значениями в R, что
U(O,tp) = cp (?G^)> а множество значений оператора
U(l,<?) есть множество Fv
Непосредственно из определений вытекает, что каждое
множество Fv полученное непрерывной деформацией из
нестягиваемого множества, будет в свою очередь нестя-
гиваемым.
Приведенные выше определения тесно связаны с создан-
созданной Л. А. Люстерником и Л. Г. Шпирельманом теорией
категорий, развитой в последние годы Л. Э. Элъсгольцем,
С. В. Фроловым, Э. С. Цитланадзе, А. И. Фетом и другими
советскими математиками. По терминологии Л. А. Люстер-
ника стягиваемые в точку множества называются множе-
множествами первой категории. Нестягиваемые множества разби-
разбиваются на классы множеств различной категории, большей
чем единица. Читатель, знакомый с теорией категорий,
заметит, что рассматриваемые в настоящем парагра-
параграфе нестягиваемые множества имеют категорию, равную
двум.
Пусть //, — конечномерное подпространство гильбертова
пространства Н. Обозначим через Pt оператор ортогональ-
ортогонального проектирования на Н1 и через Р2 оператор ортого-
ортогонального проектирования на ортогональное дополнение Я2
к Ht в Н. Ниже мы будем рассматривать классы множеств

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 331
в метрическом пространстве R, состоящем из тех
пространства И, проекция которых на подпространство Н
отлична от нуля.
Лемма 2.6. Каждая сфера 6\ радиуса р подпро
странства Н% с центром в нуле пространства Н нестя
гиваема в R.
Доказательство. Действительно, если бы сфера S
была стягиваема в Я в точку <Ро> т0 можно было бы по
строить такой непрерывный оператор U (t, о) @ ^ t -^ 1
cp£St), что
U@, ?)==<?, U(l, <?) = ?0 ('?£6\),
где cs0 — некоторый элемент из R: ||Рг<р0||>0. Очевидно
аналогичными свойствами будет обладать и оператор
Но тогда сфера Si стягиваема в себе в точку о - р1-°
Мы пришли к противоречию.
Лемма доказана.
Через Но ниже обозначается подпространство (ненулево
размерности) подпространства Ht.
Лемма 2.7. Пусть компактное множество F лежи/
в R. Пусть множество Р1/7 не имеет общих точек с Н{
Тогда F стягиваемо в R.
Доказательство. Пусть «о — некоторая точка пол
пространства Яо, ||'-?0И = 1.
Определим на F оператор U (t, <s) равенством
| 2*р„ + <Р —2*(«. <ро)% при 0<*<i,
I ^
Непрерывность оператора U (t, <?) по совокупности перс
менных очевидна. Множество значений этого операто[
лежит в R, так как при О^^^-^-
(t, ?) = ЩI — (?, ?0)] %-f Pt?^S (? € F)

дд'А ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
и при -j < t < 1
PtU(t, <р) = 2A — <)PlT + [l_2A —
Так как
U@, <?) = <?,
то множество Т7 стягиваемо в R в точку <р0.
Лемма доказана.
6. Основная теорема.
Теорема 2.2. Пусть Г(Гй = 6) — нелинейный вполне
непрерывный оператор, являющийся градиентом слабо
непрерывного функционала Ф (о) (Ф (!)) = 0), равномерно
дифференцируемого в некоторой окрестности точки 0.
Пусть оператор Г имеет в тьчке Ь производную Фреше В,
являющуюся вполне непрерывным самосопряженным опе-
оператором.
Тогда каждое характеристическое число линейного
оператора В является точкой бифуркации нелинейного
оператора Г.
Доказательство. Пусть Хо — отличное от нуля соб-
собственное число самосопряженного оператора В. Пусть за-
заданы положительные числа s и 8. Покажем, что оператор Г
имеет такой собственный вектор <р0, отвечающий собствен-
собственному числу X: Т<о0 — Хф0, что выполнены неравенства
1ЫК& B-17)
и
|л — ло|<е. B.18)
Без ограничения общности можно считать, что Хо > О
(см. замечание к теореме 2.1).
Введем вначале некоторые обозначения.
Обозначим через Но подпространство собственных век-
векторов оператора В, отвечающих собственному числу л0.
Через Ht обозначим подпространство, являющееся линейной
оболочкой всех собственных векторов оператора В, отве-
отвечающих собственным числам, не меньшим чем Ао. Очевидно,
с/оаНу. Через Н2 обозначим ортогональное дополнение
в Я к Hv Через Ро, Pt и Р2 будем обозначать операторы
'ортогонального проектирования на соответствующие подпро-
подпространства Но, Н1 и Н2-

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 33:
Пусть tj. — наибольшее собственное число оператора В
Можно считать, что jx > л0, так как в случае ;х = л0 утвер
ждение теоремы 2.2 содержится в утверждении теоремы 2.1
Пусть ч — наибольшее из положительных собственных чисе
оператора В, меньших чем >-0. Если оператор В не имее
положительных собственных чисел, меньших чем л0, т
пусть n = 0.
Из представления самосопряженного линейного оператор
(стр. 322) вытекают неравенства, которыми мы ниже буде
пользоваться без ссылок:
f ^;а(щ, «) при ~>£Н,
(В?, ®)j ^v(?> ?) при
I =^о(?> ?) ПРИ ?€#о
и н в?и>х0н ?и при ?еяг
Через Я, как и в предыдущем пункте, будем обозначат
множество тех <?£#, У которых ||Pi«||>0.
Так как функционал Ф(9) близок в силу леммы 2.
к квадратичному -к-(В-.?, <р), то найдется такое о < о, чт
при 0 <||«|[<р
и
|j Г? — В? |! < s.2 II '■? II. B.21
где
2 ^ 2
— м п. — v '
С2 9
Через S обозначим сферу радиуса п пространства /
Через S-i — сферу того же радиуса пространства Hv
Рассмотрим множество М всех компактных множес
FcS, нестягиваемых в R. На М определим функционал <fe(i
равенством (как в пункте 4)

334
ВАРИАЦИОННЫЕ МЕТОДЫ
[ГЛ. VI
Через с обозначим число, определяемое (как в пункте 4)
равенством
с =
Первый этап доказательства. Оценим разность
В силу леммы 2.6 сфера St принадлежит М. Так как
mini.(
то из B.19) вытекает, что
mini.(Be, ?) = ^P8,
• min-~-(B<p, <?)— max
Ф(ср)—T
откуда
^0 2
р
B.22)
Пусть теперь F^TH. Тогда в силу леммы 2.7 в мно-
множестве F есть по крайней мере одна такая точка «о, что
j*? ^ Яо. Это значит, что элемент <р представим в виде
^ + €^ ^ G «2- в силу B.19)
-§-(В?, ?
(?) — -J (В«р, ч»)
Следовательно,
Ф (F) = min Ф («)
вЛ Ра,
откуда
B.23)
Второй этап доказательства. Обозначим через TV
совокупность тех множеств F из М, на которых функцио-

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 335
нал #(F) принимает значения, большие чем (-£—st\ p2.
В силу B.22) такие множества существуют.
Через S обозначим часть сферы S, состоящую из тех
точек <р, у которых
Покажем, что каждое множество F из N является
частью S. Действительно, если для некоторого <s £ F
в силу B.19)
Ф(«р) — -
откуда
Ф (F) = min Ф (?) < Df — Н ) р2
и, следовательно,
Оператор v.(t, «) @<^^^1, с? £ F), определенный
на стр. 326, очевидным образом непрерывен по совокупности
переменных. Если F£N, то в силу леммы 2.3 значения
%{t, с?) @<[£^1, ^^F) будут лежать в 5и, тем более,
в R. Значит, этот оператор будет осуществлять непрерывную
деформацию в R множества FcN в множество Ft =
= 76A, F) = V.F. Множество y.F будет нестягиваемым в R
вместе с множеством F. В силу той же леммы 2.3
ф (KF) = min Ф (щ) > min Ф (?) — Ф (F) > (^ — аЛ р2.
Значит,

336 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Таким образом, N является совокупностью таких нестя-
гиваемых в /? множеств FcS, каждое из которых операто-
оператором к преобразуется снова в множество из N.
Очевидно,
с = sup Ф (/=") = sup
FM FK
Третий этап доказательства. В силу леммы 2.4
найдется последовательность таких элементов <рп€^
(га= 1, 2, ...), что
Ига Ф (<?„) = с
»->со
lim ||D?J|=0. -
п->со
Так как шар в гильбертовом пространстве слабо компактен
и оператор Г вполне непрерывен, то без ограничения общ-
общности можно считать, что последовательность <ви(я=1, 2, . . .-)
слабо сходится к некоторому элементу «0 и последователь-
последовательность Г«и (и = 1, 2, ...) сильно сходится к некоторому
элементу <|>(в противном случае можно перейти к подпосле-
подпоследовательности).
Из слабой непрерывности функционала Ф(<?) и B.22)
вытекает, что
Ф(?о) = 0
Элементы ап (п = I, 2, . . .) принадлежат некоторым мно-
множествам из N. Значит, <р„£5 (га = 1, 2, ...), т. е.
! (га= 1, 2, .-..). B.24)
Из B.20) и B.24) вытекает, что
Переходя в последнем неравенстве к пределу при га->оо,
получим:
(А

I 2]
ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ
337
В силу леммы 2.5 вектор <в0 будет принадлежать 5
и будет собственным вектором оператора Г: Г«о — ^?о*
Условие B.17) выполнено в силу того, что ||cpoil = Pi
а р<3.
Четвертый этап доказательства. Из B.20)
Следует, что
Откуда
| (В?о — Ьо, <?о) | < || В?о — Ьо|| • ||<?0|! < s2 • Р2- B-25)
Из B.22) и B.23) вытекает, что
с-
Хл
откуда в силу B.19)
(В?о—лощо, »0)|<2
Ф(?о)— 2"(В?0. ?о)
+ 2 - Х°
B.26)
Из B.25) и B.26) следует справедливость B.18):
|Ь — ^о| = -^1(В?о—Ь0. ?о)—(В?о— V-?o. ?o)l <s2+4s1 <г.
Теорема 2.2 полностью доказана.
В главе IV было доказано, что точками бифуркации
вполне непрерывного оператора А могут быть только
характеристические значения его производной Фреше В в
нуле 0. Таким образом, теорема 2.2 полностью решает
задачу о точках бифуркации для потенциальных вполне не-
непрерывных операторов, дифференцируемых в точке 'J.
7. Пример. В качестве примера мы установим теорему
о точках бифуркации оператора Гаммерштейна
B.27)
А«(х)= К(х, y)f[y, <?(y)]dy.
J
о
Рассмотрим функционал
Ф(«) = Jdx J f(x, и)da,
B.28)

338 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
где G — множество конечной меры. Будем предполагать,
что Н — линейный вполне непрерывный оператор, опре-
определенный на функциях из Z.2 и преобразующий их в огра-
ограниченные функции:
vrai max | Н? (х) |
где у k — некоторое положительное число. Все эти условия
будут выполнены, если Н—корень квадратный из линейного
интегрального оператора, порожденного непрерывным поло-
положительно определенным ядром К(х, у) (см. теорему 4.6
главы I). Будем предполагать, что f(x, 0) = 0 и что для
каждой ограниченной функции <?(х)
j
j\f\x,
о
где q — некоторое фиксированное число, ?>1. Последнее
условие, очевидно, будет выполнено, если функция fix, и)
удовлетворяет неравенству
/(*, я) |< *(*) + £(«) (*£О, —оо<и<оо), B.29)
где b(x)^Lq, a g (и) — неотрицательная непрерывная функция.
При перечисленных предположениях функционал B.28)
будет определен на всем Z.2, будет слабо непрерывен и
равномерно дифференцируем в каждом шаре (см. § 5 главы I).
Градиентом функционала B.28) будет вполне непрерывный
оператор Г = Н*Ш, где Н*—линейный оператор, действую-
действующий из Lq в пространство L2 и являющийся сопряженным
оператором к оператору Н, рассматриваемому как оператор,
действующий из Z.2 в Lq ( 1 = П.
Если функция f(x, и) удовлетворяет условию B.29) только
для значений и из некоторого сегмента [ — ос, ос], то функ-
а
ционал B.28) будет определен в шаре радиуса -у=, в этом
у k
шаре будет равномерно дифференцируем, причем оператор
градиента Г также будет иметь вид Г = H'fH. Чтобы в этом
убедиться, достаточно рассмотреть в L2 функционал
Н<р(гв)
Ф1(<?) = j dx j fl(x> U)du>
e о

§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 339
где
fix, и) = (
1 ' \ f(x, a sign и) при |ы|;>а.
Функционал Ф-^щ) будет определен и дифференцируем на
всем L2 и на шаре Т радиуса —= принимать те же зна-
значения, что и функционал B.28).
Предположим теперь дополнительно, что функция f(x, м)
имеет производную /и(х, 0), причем выражение
Ди
-/а^, о)
стремится к нулю при Дм -> 0 равномерно относительно дг ^ G.
При этом предположении оператор Г = H*fH в точке fJ будет
иметь производную Фреше В:
Пусть, действительно, задано s>0. По предположению,
можно указать такое S > 0, что при | Дм | < 8
\f(x,
при всех x£G. Пусть h£L2, ||A||<-p=-. Тогда почти при
у k
всех х £ G справедливо неравенство
откуда вытекает справедливость почти при всех х £ О нера-
неравенства
. НА(*)]—НА(*)/«(*, 0)|<
i|H*||(mesG)(i
Следовательно,
||H*fHA (х) + ВА (х) || |1 Н*|| • || fНА (х) - НА (*) -f'u{x, 0)||

340 ВАРИАЦИОННЫЕ МЕТОДЫ . (ГЛ. VI
Из последнего неравенства вытекает, что
||Н*ЯЦ - ЪЩ „
Игл rr-r-r. = и.
|!й||-»0 II Я II
Непосредственно проверяется, что оператор В самосопря-
самосопряжен:
(В<?, *)=(H*[/U*. 0)Н?(*)Ь *(*)) =
■■=(/и(х, 0) №?(*), Щ(х)) =
= ]*Н?(*) Ну (*)/«(*, 0)dx = («, В-Ь).
о
Из теоремы 2.2 вытекает
Лемма 2.8. Каждое ненулевое характеристическое
число самосопряженного оператора В является точкой
бифуркации нелинейного оператора Г.
Покажем, что каждая точка бифуркации оператора Г
является точкой бифуркации оператора B.27), рассматри-
рассматриваемого в пространстве ограниченных функций.
Пусть заданы е, 3 > 0.
Пусть tj.o — точка бифуркации оператора Г. Тогда най-
найдется такая собственная функция <р(х) оператора Г, отве-
отвечающая характеристическому числу <х: аН*Ш<а = <р, что
||cs||< —= и | а — oqI < е. Функция ^ = Н<? будет собствен-
у k
ной функцией оператора НН f, т. е. оператора B.27), отве-
отвечающей тому же характеристическому числу jx, так как
jiHH-f-v = н di.H*fH«) = н<в = «V.
При этом
vraimax | 6(х) | = vrai max| Н<в(лг) | <^Ул||<р||< о.
Покажем теперь, что ненулевые собственные (и, конечно,
характеристические) числа у операторов В и
$К(х, y)f'Jy, 0)a(y)dy, B.30)
в
рассматриваемых соответственно в пространстве L2 и в про-
пространстве ограниченных функций, одинаковы.

'§ 2] ЛИНЕАРИЗАЦИЯ В ЗАДАЧАХ О ТОЧКАХ БИФУРКАЦИИ 341
Нужно показать вначале, что оператор B.30) действует
в пространстве ограниченных функций. По условию найдется
такое /> 0, что
\f(x, l) — lf'u(x, 0)|<Z,
q
откуда вытекает, что /„ (х, 0) £ Lq, так как
|£(*,0)|<-]-!/(*, /)| + у!/(*."о —//;,(*,0)|<
<||/(*. оц-1.
Если у{х) — ограниченная функция (даже функция из Lq,
1,1 ,\
= 1 ), то
р ч )
! Вх? (*) | = | f К (х, у) f'u (у, 0) с? (.у) йу
/^(y. 0)?O0|dy,
где k = vrai max \K(x, y)\.
Если ер ^ L2 — собственная функция оператора В:
H*f/^(JC, 0) Hep (x)] = Хер (л;) (л Ф 0), то ограниченная функ-
функция i = Ho, отличная от 0, будет собственной функцией
оператора B.30), отвечающей тому же собственному числу.
Если, наоборот, ограниченная функция ^(х)—-собственная
функция оператора Вх: НН* [fu (х, 0) <Ь (х)\ = Ц (х) (л ф 0),
то функция a = YH*l/«(A;' 0)•!*(л:)] будет собственной функ-
функцией оператора В:
Таким образом, из леммы 2.8 вытекает, что все ненуле-
ненулевые характеристические числа оператора B.30) будут точ-
точками бифуркации оператора B.27).
Сформулируем полученное утверждение в виде теоремы.
Теорема 2.3. Пусть ядро К{х, у) оператора Гам-
мерштейна B.27) ограничено и положительно определено,
Пусть функция f(x, у) непрерывна по и почти при всех

342 ВАРИАЦИОННЫЕ МЕТОДЫ |ГЛ. VI
x£G для значений и из некоторого сегмента [—а, а] и
удовлетворяет условиям
fix, 0) = 0, |/О, «)!
где b(x)£Lq (qi>l). Пусть существует производная
f'u(x, 0), причем выражение
±f(x, Д«)-/>. 0)
стремится при Дн -»• 0 к «дию равномерно относительно
x£G.
Тогда все ненулевые характеристические числа линей-
линейного интегрального оператора B.30) будут точками
бифуркации нелинейного интегрального оператора B.27)
в пространстве ограниченных функций, а значит, и
а любом W.
Другие конкретные признаки существования точек бифур-
бифуркации у оператора B.30) можно получить, объединяя при-
признаки представимости линейного оператора F, порожденного
ядром К(х, у), в виде F = НН*, где Н действует из L2
в Lp, а Н* — из Lq в L2( [-■—= 1 ), с признаками суще-
существования у оператора f, действующего из Lp в Li, про-
производной Фреше в точке 9.
§ 3. Теоремы существования собственных функций
Выше для различных классов нелинейных операторов топо-
топологическими методами, методами теории конусов и вариацион-
вариационными методами задача о существовании собственных функций
уже исследовалась. В большинстве полученных предложений
содержались не только утверждения о существовании соб-
собственных функций, но и утверждения о характере совокуп-
совокупностей соответствующих собственных чисел (точки бифур-
бифуркации, структура спектра и т. д.). В частности, для
потенциальных операторов, дифференцируемых в нуле гиль-
гильбертова пространства, была полностью решена задача о точках
бифуркации.
В этом параграфе мы будем интересоваться только фак-
фактом существования собственных функций. Вариационные
соображения, как оказывается, позволяют доказывать общие

§ 3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 343
георемы. Соответствующий метод был предложен Л. Лих-
Лихтенштейном [40] и Голомбом [17]. Затем он был развит
в работах Л. А. Люстерника [4l], В. И. Соболева [63], в ряде
работ Э. Роте [56], в исследованиях М. М. Вайнберга
(см. [10Р], где дана библиография), Э. С. Цитланадзе (см.,
например, [70к], Я. Б. Рутицкого [б7] и др.
Ниже доказаны новые теоремы. Показано, что из одного
факта потенциальности оператора вытекает, что у него
есть континуум различных собственных векторов. Было бы
интересно выяснить, образуют ли эти собственные векторы
Непрерывные ветви в окрестности нуля гильбертова про-
пространства.
1. Вариационный принцип.
Теорема 3.1. Пусть функционал Ф(«) определен
на шаре 7*Ро(||<р[| -^ р0) гильбертова пространства Н, слабо
непрерывен и дифференцируем на Т9о.
Тогда в каждом Го @ < о <; р0) оператор Г — градиент
'функционала Ф(<?)— имеет континуум собственных век-
векторов.
Док а з ателье тво. Если на каждой сфере Sp(||je|| = р)
при р ^ р0 есть собственные векторы оператора Г, то
^утверждения теоремы доказаны. Поэтому достаточно рас-
рассмотреть случай, когда на некоторой сфере 5Pi @ < рг <! р0)
|Нет собственных векторов оператора Г.
i Так как на SPl нет собственных векторов оператора Г,
то минимум т и максимум М функционала Ф(а>) на Ть раз-
различны (в противном случае градиент функционала принимает
на всем T9l нулевые значения). Без ограничения общности
можно считать, что m < Ф @). Через ф0 обозначим точку
минимума функционала Ф(?); она будет, очевидно, внутрен-
внутренней точкой шара Т?1. В точке с?0 значение градиента равно
нулю.
Рассмотрим функционалы Фт (о) =-у (а, «) + Ф(?) на
шаре ГР1 при значениях у из полуинтервала
_Гп ФF)-т\
~L ' Рfoil2 Г
Каждый из этих функционалов в силу леммы 1.1 принимает
в некоторой точке tp, £ T9i свое минимальное значение. Так как
фг (9) = Ф @) > « + т И ?01| 2 = фт (?0) > Фт (?1),
то все точки о отличны от 0.

344 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Покажем, что все точки <р при -у £ А будут внутрен-
внутренними точками шара Т?1. Действительно, если некоторый
элемент ».( лежит на сфере SPl, то в силу леммы 2.2
(Л. А. Люстерника) градиент -X ^-Н-Г^ функционала Ф (tp)
в точке а коллинеарен вектору ф
т. е. на 5Pl есть собственный вектор оператора Г, что про-
противоречит предположению.
Во внутренних точках шара, являющихся точками абсо-
абсолютного минимума функционала на шаре, градиент прини-
принимает нулевое значение. Поэтому
Теорема доказана.
Заметим, что в условиях теоремы 3.1 спектр оператора Г
(совокупность собственных значений) заполняет полностью
некоторый интервал, если оператор Г не имеет собственных
векторов любой нормы.
Применение теоремы 3.1 к исследованию конкретных
уравнений состоит в конструировании такого слабо непре-
непрерывного функционала в пространстве Z.2, по собственным
функциям которого можно построить собственные функции
рассматриваемого уравнения.
Приводимые ниже теоремы 3.2 и 3.3, называемые нами
соответственно теоремой Голомба и теоремой М. М. Вайн-
берга, были доказаны авторами при помощи более слабого
утверждения, чем содержащееся в теореме 3.1. Поэтому
эти авторы без дополнительных условий установили суще-
существование лишь счетного числа собственных функций; в тео-
теоремах 3.2 и 3.3 утверждения усилены: без дополнительных
условий доказано существование континуума собственных
функций.
2. Теорема М. Голомба. Для доказательства суще-
существования собственных функций у оператора Гаммерштейна
В?(*)= f K(s, t)f\t, <?(?)] dt C.1)
ъ
применим доказанный в теореме 3.1 принцип.

§ 3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 345
Оператор C.1) можно записать в виде
— AI, \.u-z)
где
= f K(s, t)'s,(t)dt. C.3)
Теорема 3.2 (Голомба*)). Если А — самосопря-
самосопряженный положительно определенный вполне непрерывный
оператор, действующий в L2, a f является градиентом
некоторого функционала, определенного в L, то опера-
оператор Af имеет не менее континуума собственных функций.
Доказательство. Если f — градиент функциона-
ла Ф(<»), то оператор A2fA2 будет градиентом слабо непре-
А А А
рывного функционала Ф[А2»]. В силу этого оператор A^fA2
будет иметь не менее континуума собственных векторов.
Пусть в — собственный вектор оператора A3fA2:
1 = ACS.
Применим к последнему равенству оператор А2 и введем
обозначение А2ср = 'Ь. Тогда
АК» = Ц.
Значит, каждый вектор 6 = Ааа, где с? — собственный век-
t _i_
тор оператора A2fA2, будет собственным вектором опера-
оператора В = Af.
Теорема доказана.
Если в условиях теоремы 3.2 оператор А имеет нуль
собственным числом, то утверждение теоремы сохраняется.
1
Для доказательства функционал ■ Ф[А2»] нужно рассмат-
рассматривать в этом случае не на всем пространстве Н, а на под-
*) Голомб доказывал эту теорему в предположении непрерыв-
непрерывности градиента. В работе [1Он] М. М. Вайнберг указал, что это
предположение несущественно.

346 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. V
пространстве Hv ортогональном собственным векторам опе-
оператора А, соответствующим собственному числу, равному
нулю.
Как следует из леммы 5.1 главы I (стр. 81), оператор f
является градиентом некоторого функционала, определен-
определенного на L2, если оператор f действует в I?. Таким обра-
образом, мы получаем теорему, доказанную М. М. Вайнбергом.
Теорема 3.3 (М. М. Вайнберг). Если А — само-
самосопряженный положительно определенный вполне непре-
непрерывный оператор, а оператор f действует в L2, то опе-
оператор Гаммерштейна имеет не менее континуума соб-
собственных функций.
Замечание. Если в условиях теорем 3.2 и 3.3 функ-
функция f{t, и) удовлетворяет условию
f{t, u)-u>0 (t£O, U-/--0), C.4)
1 1
то оператор A2fA2 ни в одной точке подпространства Hv
отличной от 6, не обращается в нуль, так как
11 11
(ATfA2<p. cB) = (fA2c?, А2<?) =
г
= |
Таким образом, в условиях теоремы 3.3 при выполнении
дополнительного условия C.4) оператор C.1) имеет соб-
собственные функции на каждом эллипсоиде
(А-1?, э) = с @ < с < сю).
При этом все собственные числа положительны, так как
'1 1
из (i'-s = A2fA2® после скалярного умножения на с? следует,
что
(fAa?, A2f)
3. Обобщение теоремы Голомба. Требование, чтобы
оператор f действовал в пространстве Z,2, является весьма
ограничительным, Действительно, при выполнении этого
условия (как показано в § 2 главы I) функция f(t, и)

3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 347
шодлинейна» в том смысле, что она удовлетворяет нера-
1енству
\f(t, в)|<о@ + А|и| (t£Q, — со<и<оо).
Теорема Голомба допускает простое обобщение, которое
юзволяет расширить класс рассматриваемых нелинейностей
при сохранении предположения о неограниченности ядра).
Теорема 3.4. Пусть оператор C.3) представим
s виде
А = НН*, C.5)
j_
где Н = А 2 — линейный вполне непрерывный оператор,
действующий из пространства L2 в некоторое про-
пространство № (р ^> 2), а Н* — сопряженный Н опера-
оператор, действующий соответственно из пространства Lq
i—| = 11 в L2. Пусть оператор f действует из про-
пространства L? в 13.
Тогда оператор C.2) имеет не менее континуума
собственных функций.
Доказательство. В силу леммы 5.1 главы I (стр. 81)
оператор f является градиентом некоторого функционала F,
определенного на №. Тогда оператор H*fH будет градиен-
градиентом слабо непрерывного функционала FH, определен-
определенного на Z.2.
Следовательно, оператор Н*Ш будет иметь не менее
континуума собственных функций. Каждая функция Щ, где
с? — собственная функция оператора Н*Ш, будет собственной
функцией оператора HH*f = Af.
Теорема доказана.
Приложения теоремы 3.4 к исследованию конкретных
уравнений требуют возможности представления операторов
в форме C.5). В связи с этой задачей и возник ряд теорем
о расщеплении линейных операторов, которым посвящен § 4
главы I.
Объединяя утверждения § 4 главы I с теоремой 3.4.
можно сформулировать различные условия существования
собственных функций у операторов Гаммерштейна, в которых
на ядра или их итерации будут наложены ограничения,
обеспечивающие возможность расщепления оператора.

348 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
4. Ядра с конечным числом отрицательных собственных
чисел. Первые теоремы о существовании счетного числа
собственных функций у операторов Гаммерштейна с ядра-
ядрами, у которых конечное число отрицательных собственных
чисел, вариационными методами установил М. М. Вайнберг
([№- *] И Др.)-
Следует указать, что в многочисленных случаях такие
операторы значительно более полно могут быть исследованы
методами, изложенными выше. Например, если оператор
достаточно гладок (имеет производную Фреше в нуле банахова
пространства, в котором он действует), то могут быть при-
применены теоремы о точках бифуркации.
Ряд теорем о собственных функциях операторов Гаммер-
Гаммерштейна с неопределенными ядрами был указан в статье
А. И. Поволоцкого и автора [3'2], другие предложения были
указаны Ю. Г. Борисовичем *). Здесь доказываются более
общие теоремы.
Будем пользоваться здесь обозначениями пункта 3 § 1
настоящей главы.
Лемма 3.1. Пусть zn£H (п= 1, 2, .. .) — слабо
сходящаяся к zo£H последовательность. Пусть
(Jzn, zn)^c («=1,2,...).
где с — некоторое число.
Тогда (Jz0, z0) ^> с.
Доказательство. Запишем каждый элемент zn в виде
Уп=Ъ, П = 0, 1, 2, ...).
Так как HL конечномерно, то lim \\хп — хо\\ =0.
я-* со
Значит, элементы уп слабо сходятся к у0 и, следовательно,
"S \\уп\\>Ш\.
Тогда
;1*о119-Ц.Уо11а>Ип1 IKI!2- "^ №Х =
я-^оэ
Лемма доказана.
*) В работах «Об оценке количества критических точек функ-
функционалов» (ДАН СССР 101, № 2, 1955) и «К вопросу об устойчи-
устойчивости критических значений» (ДАН СССР, 104, № 2, 1955).

5 3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 349
Утверждение леммы означает, что множества Тс, состоя-
цие из тех <?, для которых (J'-s, ®)^с, слабо замкнуты.
Теорема 3.5. Пусть Г— градиент слабо непрерыв-
юго функционала Ф(ф), возрастающего*) в Fo:
Hm Ф(ф) = -)-оо.
И1! €^'
Тогда оператор JF имеет в каждом Тс континуум
собственных векторов.
Если в Тс оператор Г не принимает нулевых значений,
по на каждом гиперболоиде (Jcs, о) = сг (сг ^ с) есть соб-
собственный вектор оператора JF.
Доказательство. Рассмотрим вначале последнее
утверждение теоремы: пусть ||Г»||>0 при (Ja, ®)^co.
Пусть а„ (п=1, 2, ...) — последовательность, миними-
минимизирующая на Тс (c^-Cq) функционал Ф(»). Так как значения
функционала на Тс неограниченно возрастают при возраста-
возрастании норм аргумента, то последовательность <эп ограничена.
Ее можно считать слабо сходящейся (в противном случае
можно перейти к подпоследовательности) к некоторому эле-
элементу а>0. В силу леммы 3.1 ср0 £ Тс.
Точка ф0 — точка минимума функционала Ф(?) на Тс.
Если бы она была внутренней точкой Тс, то градиент при-
принимал бы на ней нулевое значение, что противоречит пред-
предположению. Поэтому точка ©0 лежит на гиперболоиде
(Ja, ®) = с.
В силу леммы 2.2 Л. А. Люстерника Га0 = лЛа0> где
X — некоторое число, откуда
JFc50 = л<?0,
т. е. на гиперболоиде (Ja, cp) = с есть собственный вектор
оператора JF.
Осталось рассмотреть случай, когда на некотором гипер-
гиперболоиде (Jtp, ») = <;■! (Cq^Cj) нет собственных векторов опе-
оператора JF.
Обозначим через /(к) @ <! и < со) такую неотрицатель-
неотрицательную монотонно возрастающую функцию, которая имеет поло-
*) Условие возрастания можно заменить менее ограничитель-
ограничительным, но менее удобным условием: при больших и
sup Ф (и) < Hm inf Ф (tp).

350 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
жительную производную и при больших значениях и удо-
удовлетворяет неравенству
inf Ф(ф).
Можно, например, положить /(к) = —XT*
Функционалы
Фа (?) = — «/ [(J?, 9I + Ф (?) @ < а < 1)
будут растущими в Fo, так как из очевидного неравенства
(J<p, ?)<(<р. <р)
и монотонности функции /(и) следует, что для элементов
ср £ Fq с достаточно большой нормой
Пусть
<?п = хп + Уп, (xn£Hv уп=Н2, п—1, 2, ...)
— последовательность, минимизирующая на Тс функционал
Ф.(?):
lim Ф«(9»)= i
И -> оо (Jtp,
Последовательность tp« ограничена. Поэтому без ограниче-
ограничения общности можно считать, что она слабо сходится к не-
некоторому элементу <Ро ==л:о4~3'о (д:о€-^1> З'об^)- причем
lim ||д:га — лго||=О,
п -> оо
и существует предел а норм ||.уи||. В силу леммы 3.1
Очевидно,
Равенство
lim фя((р„)= ini Фв(а>)
я -> оо (!<?, <р) > О!
можно переписать в виде
inf Ф,((р),

§ 3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 351
откуда
т. е.
и ||_Уо11^а- Следовательно, \\уо\\ = а и последовательность «ря
сильно сходится к <ро-
Поэтому точка <s0 является точкой абсолютного минимума
функционала Ф„(») на TCi.
Если (J'f0, <р0) = Cj, то в силу леммы 2.2 Л. А. Люстер-
ника градиент функционала Фа (tp) в точке «0 коллинеарен
градиенту функционала Jtp, cs. Так как
grad Фа (<р) = — ~f [(J?) tp)
grad(J<s, «) = -g-JtP'
то это значит, что
откуда
т. е. на гиперболоиде (J'-p, ») = сх есть собственный вектор
оператора 1Y, что противоречит предположению.
Значит, точка =р0 является внутренней точкой TCl. Поэтому
градиент в этой точке принимает нулевое значение:
т. е.
Из этого равенства вытекает, что tp0 — собственный век-
вектор оператора JF, отвечающий собственному значению
-9"/'l(J<Po> ?оI- При различных а собственные векторы будут
различные.
Теорема доказана.

352 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Рассматривая в теореме 3.5 собственные функции опера-
оператора ЛГ, лежащие в различных Тс, убеждаемся в существо-
существовании собственных функций сколь угодно большой нормы.
Без труда доказывается, что существуют собственные функ-
функции сколь угодно малой нормы, если функционал Ф(<р) не-
неотрицателен и принимает нулевое значение только в точке 8.
Для существования собственных функций сколь угодно малой
нормы в условиях теоремы 3.5 достаточно требовать выпол-
выполнения неравенства
(Г<р, =р)>0
при (<р, ф) > 0.
Теорема 3.5 непосредственно применяется к исследованию
оператора
B6(s)= L(s, t)f[t, b(f)\dt C.6)
a
с симметричным ядром, у которого конечное число отрица-
отрицательных собственных значений.
Пусть K{s, t) — соответствующее L(s, t) положительно
определенное ядро (см. главу I, § 4, пункт 6) и
А<в (s) = J K(s, t) <в (t) dt. C.7)
G
Оператор А (см. главу I, § 4) в ряде случаев представим
в виде А = НН*, где вполне непрерывный оператор Н дей-
действует из L2 в пространство Lp, причем в Z.2 оператор Н
коммутирует с J.
Если оператор f действует из I? в Lq, то оператор
Г = Н*Ш является градиентом некоторого функционала F (Н'-р)
■ (см. ниже C.8)). Поэтому теорема 3.5 может быть приме-
применена к доказательству существования собственных функций
у оператора JH*fH. Применяя к этим собственным функ-
функциям оператор Н, получим собственные функции операто-
оператора C.6), представимого в виде В = HJH*f• Заметим при
этом, что в силу леммы 1.3 оператор Н преобразует соб-
собственные функции оператора JH*fH с большой нормой в
собственные функции оператора C.6), также имеющие
большую норму.

§ 3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 353
Осталось наложить на f(s, и) ограничение, при котором
функционал F(H<p), где F(«) определен равенством
j f(s, u)du, C.8)
U о
был бы возрастающим в Fo.
Пусть функция /(&■, и) удовлетворяет условию
f(s, «).sign«>a|«| — b(s)\uI"i— c(s), C.9)
где а>0, 0<Т<1, £>(s)£Z.T, c(s)£L'\
Тогда
F (Нф) > а ) I Нф (s) I2 ds — —г~ [ * (s) | Htp (s) |2"Tds —
ff в
— | с (s) | H? (s) \ds. C.10)
G
В силу леммы 1.3 первого параграфа главы найдется такое
число Э > 0 (просто выражающееся через наименьшее по абсо-
абсолютной величине отрицательное собственное число ядра L(s, /)),
что при ф £ Fo
J|H<p(s)|2ds>p(?, ?). C.11)
G
Поэтому из C.10) следует:
l-I i
F(H«p)>a?(?1 ?) —ft(«p, <р) 2— с(ф, фJ C.12)
где
6
Из C.12) вытекает, что функционал FH в Fo является воз-
возрастающим.
Из условия C.9) вытекает также, что найдется такое
со>О, что при (Jcp, ф)>с0
(Г«, ф) = (Н*Шф, ф) = (Шф, Нф)>0. C.13)

5 t ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Действительно, из C.9) вытекает, что
(fHtp, Нф)>
> а (Н«, Не) — J b (s) ] H'f E) |2 ds~ j c(s)\ Htp (s) \ ds,
G О
откуда в силу C.11)
l-i ' I
(fH«, Н«)>сф(», ф) —#г(ад, ф) 2—с(ф, «J C.14)
где
{ J
f? ■ G
Пусть с0 — такое положительное число, что при [>2^с0
аЗр2 —^2-f —со>0.
Тогда из (J», о) ^> с0 следует, что р2 = (ф, ад) ~^- с0 и
в силу C.14)
(fHtp, Нф)>0.
Заметим, что неравенство C.13) справедливо при всех
о Ф U, если
/(s,m)-m>0 (s£G, ифО). C.15)
Проведенные выше рассуждения и теорема 3.5 приводят
к следующему утверждению.
Теорема 3.6. Пусть симметричное ядро L(s, t) опе-
оператора C.6) имеет конечное число отрицательных соб-
собственных чисел и удовлетворяет условиям
Г Г L-(s, t)dsdt< со,
о в
J j\L(s, t)\p+tdsdt<oo (p>2), C.16)
О G
где г — некоторое положительное число*). Пусть опера-
оператор f действует из if в Lq [ 1 • = 1), а функция f(s, и)
удовлетворяет условию C.9).
*) Из одной новой теоремы М. М. Вайнберга (см. сноску на
стр. 69) следует, что можно положить е = 0.

§ 3] ТЕОРЕМЫ СУЩЕСТВОВАНИЯ СОБСТВЕННЫХ ФУНКЦИЙ 355
Тогда оператор C.6) имеет континуум собственных
функций, среди которых есть функции со сколь угодно
большой нормой.
Если выполнено дополнительное условие C.15), то опе-
оператор C.6) имеет собственные функции »(s, с) на каждом
гиперболоиде ("JA?, <?) — с, причем
lim|!?E, с) ||----0, Hm ||tp(s, c)!|=oo.
С -» 0 С->оо
Если оператор \ действует в Z.3, то вместо усло-
условий C.16) достаточно требовать, чтобы ядро L(s, t) опре-
определяло в Z.2 вполне непрерывный оператор.
Аналогичное утверждение можно установить для того слу-
случая, когда условиям типа C.15) удовлетворяет некоторая ите-
итерация ядра L(s, t).
В заключение параграфа приведем еще одну теорему.
Теорема 3.7. Пусть mes G < оо. Пусть симметрич-
симметричное ядро L(s, t) имеет конечное число отрицательных
собственных чисел и ограничено. Пусть функция f(s, и)
удовлетворяет условию
/(s,h).h>0 (s £ О, 0<|и|<т), C.17)
где т — некоторое положительное число. Пусть найдется
такое q > 1, что
f\f[s, u(s)]\qds <oo C.18)
при \u(s)\~%.m
Тогда оператор Гаммерштейна C.6) имеет континуум
собственных функций, среди которых * есть функции
со сколь угодно малой нормой.
Доказательство. Введем в рассмотрение "функцию
f(s, и) при | и | <; т,
f(s,m sign и) -f- а. (и — т sign и) при | и | !> т.
C.19)
Оператор fv порожденный функцией fl(s, и), очевидно,
действует из пространства Lp в Lq ( [ == О-

356 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Рассмотрим оператор JH\H, где
А« (s) = HH*« (s) = [ К (s, t)<s (t) dt,
в
a K(s, t)—положительно определенное ядро, соответствую-
соответствующее ядру L(s, t). Оператор JH'fH имеет, как это следует
из доказательства теоремы 3.5, собственные функции <р сколь
угодно малой нормы. Функции -1) = Н« будут собственными
функциями для оператора JHH*ft:
JHH*ft if = J L (s, t)ft[t, b(t)]dt. C.20)
G
В силу теоремы 4.9 из главы I найдется такое число
f > 0, что
vrai max|H«(s)|<T||<p||.
Таким образом, оператор C.20) имеет собственные функ-
функции со сколь угодно малы!* vrai max. Пусть <b(x) — собствен-
собственная функция оператора C.20), причем
vrai max| i(s)| <^ m.
Тогда в силу C.19) функция $(s) будет собственной и
для оператора JHH*f, т. е. для оператора C.6).
Теорема доказана.
§ 4. Устойчивые критические точки
четных функционалов [2*р]
1. Теорема Л. А. Люстерника. Л. А. Люстерник, изучая
четные положительные функционалы в гильбертовом простран-
пространстве, обнаружил [41г] замечательный факт: на каждой сфере
такие функционалы имеют не менее счетного числа крити-
критических точек. Иначе говоря, градиент четного функционала
имеет на сфере не менее счетного числа собственных век-
векторов.
Теорема Л. А. Люстерника явилась обобщением того
факта, что квадратичный слабо непрерывный функционал
имеет счетную систему критических точек.

} 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОИАЛО» 357
Результат Л. А. Люстерника в дальнейшем обобщался
различными авторами, причем наиболее существенные резуль-
результаты были получены В, И. Соболевым [63] и Э. С. Цитла-
яадзе [70]. Первый из них освободился от предположения
Л. А. Люстерника об однородности функционала, второй
обобщил теорему на случай функционалов, заданных в регу-
регулярных банаховых пространствах с базисом и с дифферен-
дифференцируемой нормой. Э. С. Цитланадзе провел также тонкое
исследование случая совпадения критических значений функ-
функционалов. Л. А. Люстерник, В. И. Соболев и Э. С. Цит-
Цитланадзе предполагали, что градиент рассматриваемого функ-
функционала вполне непрерывен и удовлетворяет условию Липшица.
М. М. Вайнберг показал [1Ог]. что второе предположение
является лишним.
В перечисленных исследованиях существенно использо-
использовалась четность функционала. Это свойство позволяло пере-
переходить к исследованию функционала на проективных про-
пространствах, полученных отождествлением симметричных отно-
относительно центра точек сферы. Для оценки же количества
критических точек функционалов на проективных простран-
пространствах применялась теория категорий Л. А. Люстерника —
Л. Г. Шнирельмана.
Автор предложил [29к] доказательство теоремы Л. А. Лю-
Люстерника, не использующее перехода к проективным про-
пространствам, основанное на применении нового топологического
инварианта — рода множества. Это доказательство тоже суще-
существенно использовало четность функционала.
Оценка количества критических точек функционалов — это
одновременно оценка количества собственных векторов гра-
градиента функционала. Поэтому теоремы о количестве кри-
критических точек функционалов являются усилениями теорем
о существовании собственных векторов у потенциальных опе-
операторов.
В настоящем параграфе развивается метод, использующий
идеи некоторых работ Л. А. Люстерника, который позволяет
установить существование счетного числа критических зна-
значений у четного функционала, обладающих свойством устой-
устойчивости— они не исчезают при малых возмущениях нечетными
функционалами. Отметим, что наши критические значения
отличны, вообще говоря, от тех критических значений, ко-
которые определяются в теории Л. А. Люстерника.

358 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
2. Род множества *). Пусть 5 — единичная сфера в гиль-
гильбертовом пространстве Н. Точку, симметричную относи-
относительно центра 0 сферы S точке и, будем обозначать через—-<р.
Через F* будем обозначать множество, расположенное сим-
симметрично относительно 0 множеству Р. Компактное мно-
множество F a S будем называть множеством первого рода
(r(F) = 1), если каждая связная компонента множества F U F*
не содержит ни одной пары симметричных точек ©и —ф.
Произвольное компактное множество F cz S будем назы-
называть множеством рода п (r(F) = re), если его можно по-
покрыть п множествами первого рода и нельзя покрыть п—1
множеством первого рода.
Теорему 2.7 из главы II можно тогда формулировать
так: род п-мерной сферы равен re-f-1. Отюда вытекает, что
сфера гильбертова бесконечномерного пространства со-
содержит подмножества любого конечного рода.
В дальнейшем рассматриваются такие множества F, ко-
которые вместе с каждой точкой ф содержат симметричную
точку —ср.
Непрерывное преобразование В множества Р с S в мно-
множество BF на S назовем допустимым, если оно нечетно,
т. е. если при применении его симметричные точки пере-
переходят снова в симметричные.
Лемма 4.1. Пусть В— нечетное преобразование ком-
компактного множества Р с: S:
В (— <р) = — Во (ф £ F),
причем BF с: S.
Тогда
r(F)<r{BF).
*) Читатель, знакомый с теорией категорий Л. А. Люсгерника —
Л. Г. Шннрельмана, усмотрит, что род множества на сфере совпа-
совпадает с категорией образа множества в проективном пространстве,
полученном отождествлением симметричных относительно центра
точек сферы.
Понятие рода аналогично вводится [29в] для произвольных мно-
многообразий, на которых задана симметрия (инволюция). В общем
случае род множества F дает оценку снизу для категории образа
множества Р в многообразии, полученном из основного склеиванием
симметричных точек. Род множеств изучен в работах Ю. Г. Бори-
Борисовича (см. сноску на стр. 348).

4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 359
Доказательство. Пусть вначале г(В/?)=1. Тогда
и r(F)=l.
Действительно, если род множества F не равен 1, то в S
найдется пара точек ф и —», которая принадлежит неко-
некоторой связной компоненте Р1 множества F. Тогда связное
множество В/^, которое является частью множества BF,
содержит пару симметричных точек В<? и —В». Следова-
Следовательно, r(BF)> 1, что противоречит допущению.
Пусть г (В/*1) —п. Это значит, что множество BF можно
покрыть ге множествами Dt, . . ., Dn первого рода. Прообразы
Ht Нп множеств £>t Dn (ВНг ■-= D{, /==1,2,..., re),
покрывают Р. По доказанному выше
r(Wi)==l (/=1, 2, ..., re).
Значит,
r(F)<n.
Лемма доказана.
3. Классы Мк. Пусть В — нечетное непрерывное пре-
преобразование (k—- 1)-мерной сферы Sk~x в S, т. е. преобразо-
преобразование, переводящее симметричные относительно центра сферы
точки в точки, тоже симметричные относительно центра. Без
ограничения общности дальнейших рассуждений можно счи-
считать, что Sk~1 — единичная сфера fe-мерного евклидова про-
пространства Rk с системой координат {1^, ..., %к].
Лемма 4.2. Род множества BSk~x не меньше к.
Утверждение этой леммы непосредственно вытекает из
леммы 4.1, так как род сферы Sfc-1 равен к. Последнее
утверждение, как мы уже указывали, непосредственно выте-
вытекает из теоремы 2.6 главы II.
Через Мк будем обозначать класс таких компактных мно-
множеств, принадлежащих S, которые являются множествами
вида BSfc-1, где В — нечетный оператор. В силу леммы 4.2
в каждый класс Мк (k=l, 2, . . .) могут входить мно-
множества, род которых не меньше k. Однако могут быть мно-
множества рода k, которые не входят в класс Мк.
Лемма 4.3. Каждое множество RSk~l класса М^ яв-
является подмножеством некоторого множества из класса
Доказательство. Пусть {;t -,., ^.+1}—орто-
^.+1}—ортогональная система координат (&+ 1)-мерного евклидова
пространства Rk+1. Пусть Sk — единичная сфера из про-
пространства Rk+1, Sk~l—экватор сферы Sk, определенный

360
ВАРИАЦИОННЫЕ МЕТОДЫ
[ГЛ. VI
уравнением ?s+1 — 0. Каждый элемент х пространства Rk+1
можно единственным образом представить в виде
x = xt-\- sk+iek+v
где xt — элемент ^-мерного подпространства SA.+t — 0,
а ек+х — орт (&-f-l)-{t координатной оси.
Множество BS1*-1 является компактным множеством сферы
S с Н. Следовательно, можно указать такое конечномерное
подпространство L с Н, что
(
р(с?,
D.1)
Пусть h0 — единичный элемент пространства Н, ортогональ-
ортогональный подпространству L.
Определим на Sk оператор В равенством
0*111в
■ ВХ=
Нечетность оператора В очевидна. Для доказательства его
непрерывности нужно только проверить, что знаменатель
в формуле, определяющей В, не обращается в нуль.
В силу D.1) каждому x£Sk отвечает такой элемент
I = 0, что
„ 1
L
4 •
Следовательно, при
Если же |^.
вательно,
у ,то 11^11 = 1^1 ~
Таким образом,
, следо-

следо§ 4) КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 361
Оператор В на 5*-1 принимает те же значения, что и
оператор В. Поэтому
BS^-1 = BS*-1 с BSk.
Лемма доказана.
Важное свойство классов Мк (&=1, 2, . . .) характери-
характеризуется следующим простым утверждением.
Лемма 4.4. Пусть А — непрерывное нечетное пре-
преобразование сферы S в себя. Пусть F£M. Тогда AF также
принадлежит Мк.
Доказательство. Пусть Р =QSk~l, где В — нечет-
нечетное преобразование Sk~1 в 5. Преобразование Bt = АВ также
будет переводить S1*'1 в S, будет непрерывным и нечетным,
следовательно, AF ~ ASS1*'1 £ Мк.
Лемма доказана.
4. След деформации. Пусть множество F с S стянуто
в 5 непрерывной деформацией U в точку <?0£$- Это значит,
что известен непрерывный оператор U(t, cp), определенный
при O^^^l, r?£F, принимающий значения из S и удов-
удовлетворяющий условиям
U @, <р) = <р, U(l, tp) = '?o C-pG^1)-
Множество V(F) значений оператора U(£, 7) @^^-С 1»
<?£F) называют следом деформации множества F в точку.
Ниже будет использована следующая простая лемма.
Лемма 4.5. Пусть U(F) — след непрерывной дефор-
деформации в точку 9о множества F£Mk.
Тогда U(F)U'[U(F)]* £ Mk+1.
Доказательство. Воспользуемся обозначениями, при-
принятыми при доказательстве леммы 4.3.
Пусть F = BSk~1. Определим на Sk оператор В равен-
равенством
В ^ sign \кЛ
при |]*,||=эЫ),
Щд а'К" «fr-l-1 ПРИ 11^11=0,
где
1 при $>0,
Ul при $<0.

362 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Непрерывность и нечетность оператора В проверяются
без труда.
Ясно, что множество BSk £ Mk+1 совпадает с множеством
)*
Лемма доказана.
5. Четные функционалы. Функционал F(<?) будем назы-
называть гладким, если он равномерно дифференцируем на шаре Т.
Градиент функционала F(<?) будем обозначать через Г. На-
Напомним, что равномерная дифференцируемость функцио-
функционала F(?) на шаре Т означает, что приращение функцио-
функционала может быть представлено в виде
F(e + A) — F(<p) = (r<s, А) + (о(«, А),
где 7—7.@@, А) стремится к нулю при ЦАЦ-» 0 равномерно
относительно <?£Т.
Будем рассматривать слабо непрерывные гладкие функ-
функционалы F(<p), определенные на шаре Т и удовлетворяющие
дополнительным условиям:
a) функционал F(<?) четен на 5:
F(— ») = F(<p) (<? 6 5);
b) функционал F(<p) неотрицателен:
и принимает нулевое значение только в нуле 0 простран-
пространства Я;
с) если Г — градиент функционала F(<?), то Г<р ф 0 при
«^= е и го = о.
Воспользуемся обозначениями, введенными в пункте 4
из § 2 настоящей главы (см. стр. 325). Пусть
где функционал а(<р) определен равенством B.12) (стр. 326).
Из условия а) вытекает, что оператор D нечетен. Поэтому
при выполнении условия а) нечетен и оператор х(£, <р)-

§ 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 363
6. Сепарабельность пространства. Во всем параграфе
исследуются функционалы F(<?), заданные в гильбертовом
пространстве, т. е. в сепарабелыюм унитарном пространстве.
Возникает естественный вопрос о том, справедливы ли все
полученные результаты для функционалов, определенных
в несепарабельных унитарных пространствах. Оказывается,
что этот вопрос не имеет смысла, так как в несепарабель-
несепарабельных унитарных пространствах нет слабо непрерывных функ-
функционалов, удовлетворяющих условию Ь). Докажем это.
Пусть Нг — несепарабелыюе унитарное пространство,
в котором определена ортонормальная система \еа], где
индекс а пробегает некоторое несчетное множество. Допу-
Допустим, что на единичном шаре 7\ пространства Нг определен
слабо непрерывный функционал F (»), принимающий на еди-
единичной сфере St положительные значения. Тогда все числа
F(ea) будут положительными. Следовательно, можно будет
указать такую последовательность индексов <xv а2, ...
• • •, я» что
F(ea.)>s0 (/=1, 2, ...), D.2)
где s0 — некоторое положительное число.
Обозначим через Н сепарабельное гильбертово простран-
пространство, являющееся линейной оболочкой последовательности
элементов еч, е^, ... Функционал F(a), рассматриваемый
на единичном шаре Т пространства Н, также будет слабо
непрерывен.
Через Ln(n—\, 2, ...) будем обозначать линейные обо-
оболочки конечного числа ортогональных элементов еа1,
еч, . .., еа . Через Р„ обозначим операторы ортогонального
проектирования на соответствующие подпространства Ln
(п — 1, 2, .. .). В силу леммы 5.2 из главы I (стр. 83) можно
указать такое k, что при п > k
|F(P«e«,) —F(««,>I<-7T (*=1. 2, ■••)•
Из этого неравенства и из D.2) вытекает, что
> I F (eak,,) | — | F (eBfc+1) - F (Pk «,fc+i) | > -§-.
Таким образом, F (<)) =j= 0 и условие b) не выполняется.

364 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
7. Критические числа функционала. Рассмотрим функ-
функционал
F (F) = inf F (?)
на множествах класса Mk(k~ \, 2, . . .).
Верхнюю грань ск значений функционала F на Мк будем
называть критическим числом функционала F (?). Это опре-
определение ниже будет "оправдано. Очевидна положительность
критических чисел функционала F(»), принимающего на 5
только положительные значения.
Пусть задано число г > 0. Из определения числа скп
следует, что найдется такое множество Fi^Mk+v что
Множество Fv очевидно, содержит некоторое подмножество
F0£Mk. Для этого подмножества
F (Fo) = inf F (?) > inf F (?) = F (Fy) > ck^
Значит,
cs =---- sup
Так как s произвольно, то
Cfe>cft+i (ft=l, 2. ...). D.3)
Лемма 4.6. Справедливо равенство
lim c,.-=0.
Доказательство. Пусть, г — заданное положитель-
положительное число.
Обозначим через Е„{п— 1, 2, . . .) такую последова-
последовательность вложенных друг в друга подпространств гильбер-
гильбертова пространства Н, что
U Еп = Я.
Через Ри (я=1, 2, ...) обозначим операторы ортогональ-
ортогонального проектирования на соответствующие подпространства Ец.

§ 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 365
Тогда из леммы 5.2 главы I (стр. 83) следует существо-
существование такого k0, что
I F (?) — F (Р*о«?) | < -J- (?6Л- D-4)
Обозначим через р радиус такой шаровой окрестности
нуля 0 пространства И, что при |]?j|<;p
Тогда в силу D.4) для всех таких элементов v^T, что
l|Pfco?!i<p.
F(?X|F(«) — F(Pfcoc?)| + F(Pfej?)<x. D.5)
Каждое компактное множество F, состоящее из таких
точек ?, что F(?)>-a, будет в силу D.5) при проектирова-
проектировании оператором Рко на Ека попадать в шаровой слой
Р < II? 11-^ 1 пространства Еко. Так как шаровой слой в ^-мер-
^-мерном пространстве можно представить в виде суммы k0 зам-
замкнутых множеств первого рода, то и само множество F
можно представить в виде суммы k0 множеств первого рода.
Значит, множество F будет иметь род, не больший чем k0.
В силу леммы 4.2 род каждого множества класса Мк
{k > k0) не меньше чем ko-\-l. Значит, на каждом множе-
множестве из классов Мк (k > k0) есть точки, в которых значения
функционала F(?) меньше чем е. Следовательно, на мно-
множествах из Мк (k > k0) значения функционала F не больше
чем s, откуда при k > 60
Лемма доказана.
Из леммы 4.6 и из положительности чисел ск немедленно
вытекает
Теорема 4.1. Слабо непрерывный гладкий функцио-
функционал, удовлетворяющий условиям а), Ь), с), имеет счетное
число различных критических чисел ck(k--\, 2, ...).
8. Критические точки функционала. Точку ? £ 5 назы-
называют критической точкой функционала F (?) па сфере S, если
Г? — (Г?, ?)? = О,
т. е. если ? является собственным вектором градиента Г
функционала F(?).

366 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Значения функционала F(<?) в критических точках назо-
назовем, по определению, критическими значениями функцио-
функционала F (о) на сфере S.
Определение критических чисел ск, данное выше, оправ-
оправдывает
Теорема 4.2. Пусть F(<p) — слабо непрерывный глад-
гладкий функционал, удовлетворяющий условиям а), Ь), с).
Тогда каждое критическое число ck (&== 1, 2, . ..) яв-
является критическим значением функционала F (<р) на S,
Доказательство. Пусть х = хA, <в) — оператор,
определенный на стр. 326. Так как функционал F(<p) четен
на 5, то оператор
Оо=Го — (Г<в, о)? (?£S)
нечетен на S. Следовательно, нечетен и оператор х. По-
Поэтому оператор х преобразует множества класса Мк в мно-
множества того же класса.
В силу леммы 2.4 из § 2 настоящей главы найдется
последовательность элементов <?„(;5 (я=1, 2, ...) таких,
что
lim F (<?„) = с,.
«->со
И
■ lim || D?я||=0.
й->со
Функционал F(a) слабо непрерывен, оператор Г в силу
теоремы 5.1 Э. С. Цитланадзе (стр. 84) сильно непрерывен
и шар Т слабо компактен. Поэтому можно считать, что
последовательность св,г слабо сходится к некоторому эле-
элементу <?о£^> причем
F(?o)==cft, D.6)
а последовательность Гсрп (ге=1, 2, ...) сильно сходится
к элементу Г«о (в противном случае мы перешли бы к под-
подпоследовательности).
Из D.6) и условия Ь) вытекает, что <в0 ф 0. Из условия
с) тогда следует, что Гв0 ф 6. Следовательно, мы находимся
в условиях леммы 2.5 из § 2, из которой вытекает, что
а0 ^ S и что
<ро = (Гс?о, сро)св0.

§ 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 367
Значит, <?0 — критическая точка функционала F(<?), кото-
которой в силу D.6) соответствует критическое значение ск.
Теорема доказана.
Из теорем 4.1 и 4.2 следует
Теорема 4.3 (Л. А. Л юст ерника). Слабо непре-
непрерывный гладкий на шаре Т функционал F(?), удовлетво-
удовлетворяющий условиям а), Ь) и с), имеет на сфере S не менее
чем счетное число различных критических точек, кото-
которым соответствуют различные критические значения
функционала.
При доказательстве теорем 4.1—4.3 существенно было
использовано условие а). Четность функционала F(<?) на всем
шаре Т использована не была. Следует, однако, отметить,
что в случае, когда Н бесконечномерно, из четности слабо
непрерывного функционала на сфере вытекает его четность
на всем шаре: F(—?) —F(e) при ?£7\ Это замечание вы-
вытекает из того факта, что каждый внутренний элемент шара Т
является слабым пределом некоторой последовательности
элементов сферы S.
9. Множества Ra- Через Ra обозначим лебегово мно-
множество тех элементов <?£.$, в которых F(o)>a. Через k(a)
(О < а) будем обозначать такое натуральное число, что
Пусть
m = sup F(e).
?£S
Через Ма (О < а < m) обозначим класс всех компактных
множеств, полученных непрерывной деформацией в Ra мно-
множеств из Мйю). Естественно, что множества класса Na со-
состоят из точех, принадлежащих множеству Ra.
Классы Na непусты, так как из самого определения числа
k(а) вытекает, что в классе М^^ найдется множество F
такое, что F(F)= min F(<?) > а. Это множество будет при-
надлежать классу Na.
Лемма 4.7. Множества класса l\fa нестягиваемы
в точку в Rn.
Доказательство. Пусть множество Fi£.Na полу-
получено непрерывной деформацией в Ra из множества F£Mu(a)-
Если множество Fx в Ra стягиваемо в точку, то F также

368 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
стягиваемо в точку. Поэтому достаточно показать, что в Ra
иестягиваемы в точку все множества F'£ Л4/С(О), FcRa.
Допустим, что множество F^Mu(a) стягиваемо в Ra
в точку при помощи непрерывной деформации U. Тогда
V(F)czRa, где U(F)—след деформации U. Из четности
функционала F вытекает, что и [U (F))* с: Ra, т. е.
D.7)
В силу леммы 4.5 F0£Mk(a)+1. Значит,
= mInF(?Xcfc{e)+1.
Следовательно, на Fo (а значит, и на U (F)) есть точки <?0,
в которых F (f?oX ck(a)+v Так как cft(a)+l<a, то «о€#а
и FQ не лежит полностью в Ra. Последнее утверждение
противоречит D.7).
Значит, F нестягиваемо в Ra.
Лемма доказана.
Введем в рассмотрение функцию d (а) равенством
d(a)== supF(F).
Непосредственно из определения следует, что
d(a)>a>0 @<a<m). D.8)
Теорема 4.4. Каждое число d(a) является крити-
критическим значением функционала F(cp) на S.
Доказательство. Рассмотрим на 5 оператор %(t, a),
определенный на стр. 326:
Без труда проверяется, что этот оператор непрерывен по
совокупности переменных. В силу леммы 2.3 (стр. 326)
F[y.(t, а)] не убывает при возрастании t. Поэтому
к У, в)^'ло при <?£Ra, 0<^<l. Так как
ж @, ?) = ?, жA, '-?) = х<? (?€«„),
то %{t, а) осуществляет непрерывную деформацию в Ra
каждого множества FczRa в множество *FczRa. Поэтому,
если F£Na, то и F£N

4| КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 369
В силу леммы 2.4 (стр. 327) найдется такая слабо схо-
сходящаяся к некоторому элементу <ро последовательность эле-
элементов <?n£S (я = 1, 2, . . .), что
Hm F (<ри) = d (a)
Hm||D?n||=0.
и->оо
Последовательность Г<ви сильно сходится, причем в силу
леммы 4.8 (которую мы доказываем ниже) к отличному от Ь
элементу. Из леммы 2.5 (стр. 328) тогда вытекает, что
причем
Г<Ро = (Г<?о> <?о) Ло-
Лоточка <?0, таким образом, является критической точкой
функционала F(<p) на S, которой соответствует критическое
значение d(a).
Теорема доказана.
Лемма 4.8. Функция "((а), определенная равенством
T(a)=inf||IY||,
при 0 < а < т принимает положительные значения.
Доказательство. В предположении противного су-
существует последовательность таких точек <рге£5(я = 1, 2, ...),
что
?Ы>а, 11ш||Гви|| = 0. D.9)
га->со
Без ограничения общности можно считать, что последова-
последовательность слабо сходится к некоторому элементу <а0 £ Т.
Тогда из слабой непрерывности функционала F(<p) вытекает,
что F(<po)>u> откуда в силу условия Ь) следует, что <?0 =/= 0.
Из условия с) вытекает тогда, что Г<?0 Ф 9. Последнее не-
неравенство противоречит D.9), так как оператор Г в силу
теоремы Э. С. Цитланадзе (стр. 85) сильно непрерывен и
преобразует слабо сходящуюся к <р0 последовательность то-
точек фп в сильно сходящуюся к Г<в0 последовательность Г<р„.
Лемма доказана.

370 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VJ
10. Существование различных значений d(a).
Теорема 4.5. Справедливо равенство
lim d(a) — 0.
Доказательство. Пусть задано число з ;> 0.
Обозначим через h0 такой единичный элемент простран-
пространства Н, что
F(*Ao)<j (-1</<1). D.10)
Существование элемента й0 доказывается просто. Если бы
такого элемента не существовало, то можно было бы по-
построить ортонормированную последовательность й{(г=1, 2,...)
и числовую последовательность tit — 1 <; t{ ^ 1 (г=1, 2, . . .)
такие, что
Так как последовательность t^ (/---1, 2, ...) слабо схо-
сходится к 0, из последнего неравенства и слабой непрерывно-
непрерывности функционала F('.s) вытекало бы, что F(b)^-—, что про-
противоречит ограничениям а), Ь), с), наложенным на функцио-
функционал F(<f>)-
Без ограничения общности можно считать, что й0 лежит
в одном из подпространств Еп, введенных в рассмотрение
на стр. 364 при доказательстве леммы 4.6 (мы сохраняем
ниже эти обозначения).
В силу леммы 5.2 (стр. 83) можно указать такой по-
помер п0, что
\F(Pn.i()—F(if)\<~ ('ЬеП D.11)
причем ко£ЕПо. Через So ниже будем обозначать пересече-
пересечение E^nS.
Из D.11) немедленно вытекает, что
так как
| О- D.12)

§ 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 371
Рассмотрим множество Q элементов <ji £ S вида
Пусть
1
min F('.o), inf
Покажем, что S > 0.
Так как min F (со) — это минимум положительной функ-
<?gs0
ции на конечномерной сфере, то достаточно показать, что
inf FD)>0.
В предположении противного существуют последовательно-
последовательности элементов ?„^/?6 и чисел ^„£[0, 1] (я — 1, 2, . . .)
такие, что
1 • .
Можно считать, что последовательность элементов
;1
(п-1, 2, ...)
слабо сходится (так как можно перейти к подпоследователь-
подпоследовательности) к некоторому элементу i0. Из D.13) и из слабой
непрерывности функционала F(<p) вытекает, что F('i<o)~O и,
следовательно, '^о = 0. Раз последовательность <!/„ сходится
слабо к 0, то последовательность Ри$п сходится к О
сильно, т. е.
lim ||Р„,6П||= lim m'
п -» со п -» оо IK' — гп)
Так как ||A — ^)?n+^P«0?»li< I (n=L 2, ...), то
из D.14) следует, что lim |!РПо<рп|| = 0. Из непрерывности F(c?)
п->оо
следует:
HmF(P „>) = 0,
что противоречит D.12).

372 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
Покажем, что d(a)-^.s при а <; 8. Этим теорема будет
доказана.
Если й{а)у>г, то в Na есть по крайней мере одно мно-
множество FczR^. Это множество в силу леммы 4.7 будет не-
стягиваемо в точку в Rs и, тем более, в Rs. Поэтому нера-
неравенство d(a).^s будет доказано, если мы покажем, что
каждое компактное множество Fez Rs стягиваемо в /?s
в точку.
Пусть Fc/?s.
Определим вначале непрерывную деформацию U (t, a)
множества F и некоторое множество F1 формулой
в силу.которой
U(О, F) = F, U(l, F) = FV
Непрерывность оператор-функции U(^, в) очевидна. Число 8
было так определено, что
FIU(*,?)]> 8 @</<1, «б/7),
т. е. Fl получено непрерывной деформацией в /?5 из мно-
множества F. Если будет доказано, что Ft в Rb стягиваемо
в точку, то этим будет показано, что и F стягиваемо в Rb
в точку.
Множество Fx состоит из элементов вида
Значит,
Покажем, что ho£Fv Действительно, если ho£Fv то
найдется такой элемент <р ^ F, что
Из D.10) тогда следует, что
F (Р „;-?)< |.
Последнее неравенство противоречит D.12).

4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 373
Таким образом, множество Ег не покрывает полностью
онечномерную сферу So. Тогда, как известно, Fx непре-
ывной деформацией на So можно стянуть в точку. Так
ак 50c:/?s, то это значит, что Fr стягиваемо в точку в Rs.
Теорема доказана.
Из Теоремы 4.5 и из положительности чисел d(a)
О < о < т) немедленно вытекает, что есть бесконечное
:оличество «различных значений функций d(a).
Так как каждое значение функции d(a) (О < а < т)
s силу теоремы 4.4 является критическим значением функ-
1ионала F (?) на сфере S, то мы приходим снова к утверж-
1ению теоремы Л. А. Люстерника. Было бы интересно ис-
;ледовать, в каком соотношении находятся критические
шачения ск и значения функции'cf (а) (которых, повидимому,
гоже только счетное число).
Значения функции d(a) — это те критические значения
функционала F(<p), устойчивость которых будет доказана.
11. Норма функционала. Через Fo (?) ниже обозначается
фиксированный гладкий слабо непрерывный на Т функцио-
функционал, удовлетворяющий условиям а), Ь), с). Через ск
[k = 1, 2, . ..) обозначаются критические числа функцио-
функционала F0(cp), определенные в пункте 7 настоящего параграфа.
Будет исследован вопрос о существовании критических
значений возмущенных функционалов вида Fo(»)-|--G(cp), где
зозмущение G (?) — гладкий функционал, малый в некотором
смысле. Для характеристики малости функционала G (<?)
введем в рассмотрение его норму ||G(cp)|| равенством
|| = sup|G(?)H-sup||IYp||,
де Ft — градиент функционала G(cp). Очевидно, гладкие
функционалы имеют конечную норму.
Отметим, что ||G(<p)|| может быть определена и другим
эквивалентным способом:
||G(<p)|l = sup|G(<p)U-sup||IVp||, D.15)
гак как
sup I G (<р) |-= sup I G (®) I

374 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
ибо (см. примечание на стр. 313) для функционалов |G(e)|,
||I\cp|j, как и для всех слабо непрерывных функционалов
в бесконечномерном пространстве, справедлив принцип ма-
максимума модуля: верхняя грань абсолютных значений слабо
непрерывного функционала на шаре Т равна верхней гра-
границе абсолютных значений этого функционала на сфере 5,
ограничивающей шар Т.
Справедливость сформулированного принципа максимума
модуля вытекает из того, что для каждой точки «р £ Т можно
указать слабо сходящуюся к <э последовательность <?n(zS
(«=1, 2, ...).
12. Устойчивость заданного критического значения.
Теорема 4.6. Каждое фиксированное критическое
значение d(a), О < а < т, функционала Fo(«) устойчиво,
т. е. каждому а > 0 отвечает такое о > 0, что при
функционал
имеет на S по крайней мере одно критическое значение с,
удовлетворяющее условию
\с — <Ца)\ <s.
Доказательство. Число е > 0 будем считать задан-
заданным. Без ограничения общности можно предполагать, что
оно удовлетворяет неравенству
г <С d (о) — а-
Пусть положительное число о удовлетворяет трем не-
неравенствам:
d(a) — 33 > а, D.16)
5<у, D.17)
S<T(fl). D-18)
где f(a) — положительное число, определенное в лемме 4.8).
Первое из этих неравенств непротиворечиво в силу D.8).
Пусть |]G(<p)||<8. В силу D.15) это значит, что
sup |G(<p)|<8 D.19)

§ 4| КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 375
sup||ri?||<8. D.20)
Градиент функционала F (?) = Fo (?)-f-G (э) обозначим
через Г. Построим (см. стр. 325) по оператору Г операторы
= IV—(Г?, ?)? (в £ 5)
Выберем в классе Na (построенном но четному функцио-
функционалу Fq(<?)) такое множество Fo, что
S. D.21)
Обозначим через N последовательность множеств вида
Fn = x»F0 (№ = 0, 1, 2, ...).
Рассмотрим оператор
Как уже неоднократно отмечалось, функции F(x(£, ?)]
при фиксированных ? не убывают при возрастании t.
Легко видеть, что
х A F ) = v.F = F (и = 0 1 2 .).
Поэтому
F(Fn+t)= min F(xcp)> min F(?) = F(Fn)> ... F(F0)
(и = 0, 1, 2, ...)
и в силу D.21)
F\*(t, ?)] >-F(Fo)^5- miii Fo(»)— sup [G(?)|>-
>rf(a) — 23 D.22)
(? 6 ^n> » = 0, 1, 2, ...; 0 < ^ < 1),
откуда в силу D.16) и D.19)
F0[x(*, ?)l>F[x(f, ?I — |G(?)|>d(a) — 33 > о D.23)
(? £ Fn; n— 0, 1, 2, ...; i

376 ВАРИАЦИОННЫЕ МЕТОДЫ |гЛ. VI
Оператор %(t, <в) осуществляет непрерывную деформацию
множеств Fn в соответствующие множества Fn+X (п = 0, 1,
2, ...). При этом в силу D.23) деформация происходит
в множестве Ra тех точек <в £ S, в которых F0(cp)>a.
Следовательно, все множества Fn принадлежат классу Na.
Значит,
Fo(/"„)= min F0(«p)<rf(a) (n = О, 1, 2, . ..).
откуда в силу D.19) и D.17)
F(Fn) = min {F0(?)+G(<p)}<d(a) + s D.24)
(ге = 0, 1, 2, ...).
С другой стороны, из D.22) и D.17) вытекает, что
г. D.25)
Из самого определения Л/ вытекает, что оператор х
преобразует множества класса N в множества этого же
класса. Следовательно, можно применить лемму 2.4 из § 2
(стр. 327). В силу этой леммы найдется такая слабо сходя-
сходящаяся последовательность элементов шп £ S (п = 1, 2, . ..),
что
lim F(cpn)=c D.26)
И
lim ||D<pJ| -О,
где
с— sup F(Fn)= sup { min F(a>)}.
П-I, 2, ... 11-1, ■>, ... £f
В силу D.24) и D.25)
Покажем, пользуясь леммой 2.5, что с является критиче-
критическим значением функционала F(o). Этим доказательство
теоремы будет завершено.
Для применения леммы 2.5 из § 2 (стр. 328) нужно
показать, что сильно сходящаяся последовательность Гшп
(так как оператор Г сильно непрерывен) имеет своим пре-

§ 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 377
дллом элемент, отличный от 6. Для этого достаточно пока-
показать, что из D.26) вытекает неравенство
Нш Ц14 Ц >0.
»->оо
Мы докажем более сильное неравенство
inf||r<p|j>0, D.27)
где infimum распространен на все такие со £ S, что F0(a)^> a.
Действительно, при Fo ('■?)>-а в силу D.20) и леммы 4.8
откуда в силу D.18) вытекает D.27).
Теорема доказана.
13, Основная теорема.
Теорема 4.7. Пусть F0(a)— гладкий слабо непрерыв-
непрерывный на Т функционал, удовлетворяющий условиям а), в), с).
Тогда каждому натуральному п отвечает такое о > 0,
что каждый функционал вида
имеет на S не менее п критических значений, если глад-
гладкий слабо непрерывный функционал G (<?) удовлетворяет
неравенству
Доказательство. Пусть av а2
положительные числа, что d (ax) <С d (a2) < ... <^
Выберем число s так, чтобы сегменты
(/=1, ..., п)
между собой не пересекались.
По числу г в силу теоремы 4.6 можно выбрать для каж-
каждого d(aj) такое число сц, что при |iG(»)H<o{ функционал
F (со) имеет по крайней мере одно критическое число ci в сег-
сегменте Д4. Пусть
3=^= min {81, 3.2, . . ., о„}.
Тогда при |1 G (?) |'| < 3 в каждом сегменте Д4 (J. — 1, ..., п)
будет критическое число функционала F ('-?).
Теорема доказана.

378 ЬаРиационные методы [гл. VI
Возникает естественный вопрос о том, нельзя ли указать
в условиях теоремы 4.7 такое о, что при ||G(9),'i<3 воз-
возмущенный функционал F (?) будет иметь обязательно бес-
бесконечное число различных критических значений. Отрица-
Отрицательный ответ на этот вопрос вытекает из рассмотрения
квадратичного слабо непрерывного функционала
B-l
где еп (и=1, 2, . ..) — ортонормированная система. Числа
-у (ге~ 1, 2, .. .) — критические значения функционала Fq(?).
Каково бы ни было о ]> 0, можно указать такое &, что
функционал
оо
о (9) = — 2 ^ (?• е»)э
n-fc + 1
имеет норму, меньшую чем о. Возмущенный функционал
к
F (?) = Fo (9) + G (?) = 2 ^ (?• О2
будет вырожденным квадратичным функционалом и будет
иметь только конечное число критических значений.
14. Замечания. А. В построениях параграфа критиче-
критические числа можно было бы заменить критическими числами,
определяемыми при помощи минимаксимальных соображений
на классах множеств фиксированного рода (на множествах
определенной категории при переходе к проективному про-
пространству), если бы получила положительное решение сле-
следующая проблема.
Доказать, что род каждого компактного множества F
(F = F*) меньше рода множества U (F) [} [U (F)}*, где
U (F) — след непрерывной деформации на S множества F
в точку.
Для читателей, знакомых с теорией категорий Л. А. Лю-
стерника — Л. Г. Шнирельмана, сформулируем указанную
проблему в других терминах.
Пусть F' — множество категории п проективного
(конечномерного или бесконечномерного) пространства П,

§ 4) критические точки Четных функционалов
полученного склеиванием симметричных относительно
центра точек сферы S. Через F обозначим множество
всех таких точек сферы S, которые являются прообра-
прообразом точек из F'. Пусть Ft = U(F) — след непрерывной
деформации в S множества F в точку. Через F[ обозна-
обозначим образ множества Fx в проективном пространстве П.
Доказать, что kat F[ > kat F'.
Б. Все проведенные выше рассуждения применимы и
к конечномерному случаю. Однако о количестве критических
значений функционала, являющихся значениями функции d (a),
ничего сказать не удается. Могут быть случаи, когда такое
значение только одно (например, функционал, принимающий
на S одно значение).
В конечномерном случае поведение функционалов внутри
шара не играет никакой роли. Несущественна также положи-
положительность значений на сфере возмущаемого функционала.
В. Построения параграфа можно перенести на случай
пространств I? (р]> 1) и на более общие классы банаховых
пространств с базисом.
Г. В качестве класса Na можно было рассматривать
совокупность всех нестягиваемых в Ra множеств.
15. Нечетные операторы Гаммерштейна. В качестве
примера приложения доказанных выше теорем можно рас-
рассмотреть оператор Гаммерштейна HH*f с положительно опре-
определенным ядром. Как было выяснено в предыдущих парагра-
параграфах, функции Нш, где со — собственные функции градиента
Н*Ш некоторого слабо непрерывного функционала FH, будут
собственными функциями оператора HH*f.
Для того чтобы применить полученные выше теоремы
о четных функционалах, достаточно, чтобы функционал
II? (si
s f f(s, a) da
G 0
был четным, неотрицательным и принимал значение нуль
только в 6 и чтобы оператор Г-—H*fH удовлетворял усло-
условию ||Г<р|| Ф 0 при <р ф 0.
Все эти условия, очевидно, выполняются в случае, если
f(s, — и) = — f{s, и) (s £ О, — оо< а<оо) D.28)

380 ВАРИАЦИОННЫЕ МЕТОДЫ [ГЛ. VI
f(s, и) ■ и > 0 (s е О, | и | > 0). D.29)
Таким образом, в условиях теорем существования
собственных функций у операторов Гаммерштейна с
положительно определенными ядрами собственные функ-
функции образуют не менее чем счетное множество на каж-
каждом эллипсоиде
если выполнены дополнительно условия D.28) и D.29).
Возможности применения теоремы Л. А. Люстерника —
В. И. Соболева к задаче о собственных функциях оператора
Гаммерштейна и условия D.28) и D.29) были впервые ука-
указаны В. И. Соболевым [ш].
16. Критические точки на гиперболоиде. Воспользуемся
обозначениями пункта 3 из § 1 настоящей главы.
Так как гиперболоид (Ja, сэ) = с (с > 0) содержит конеч-
конечномерную сферу, лежащую в «-мерном пространстве Нх, то
род гиперболоида не меньше п. Можно показать, что род
равен п.
Применив метод, развитый в настоящем параграфе, можно
показать [39в], [321, что любой слабо непрерывный равномерно
дифференцируемый в каждом шаре функционал F(<?) имеет
на каждом гиперболоиде (Jo, ш) = с (с > 0) не менее 2п
критических точек, если он четен, его градиент Г удовле-
удовлетворяет условию
(Гер, ?) > 0 при (Je, в) > 0
и если
lim F(e) = + oc.
||9 ||_> со, (Je, e)>u
Утверждение сформулированной теоремы эквивалентно
существованию на гиперболоиде (Jcp, <э) — с (с > 0) не менее
2п геометрически различных собственных векторов опера-
оператора jr.
Ряд теорем о критических значениях четных функциона-
функционалов на гиперболоидах доказан Ю. Г. Борисовичем (см. сноску
на стр. 348).
17. Связь с задачей о точках бифуркации. Читатель
братил, повидимому, внимание на тот факт, что построения

■ 4] КРИТИЧЕСКИЕ ТОЧКИ ЧЕТНЫХ ФУНКЦИОНАЛОВ 381
шстоящего параграфа близки к построениям, которые про-
юдились в § 2 при доказательстве законности линеаризации
! задаче о точках бифуркации потенциальных операторов.
Близкие рассуждения позволяют доказывать и теоремы
) точках бифуркации для некоторых непотенциальных опе-
эаторов. Приведем без доказательства две теоремы из [32].
Теорема 4.8. Пусть оператор Г (ГО = Ь) — нелиней-
шй вполне непрерывный оператор, являющийся градиен-
градиентом слабо непрерывного функционала F(«) (F@) = O),
определенного в гильбертовом пространстве Н.
Пусть оператор Г имеет в нуле 0 пространства Н
производную Фреше В, являющуюся самосопряженным
положительно определенным оператором. Пусть!—уни-
Пусть!—унитарный оператор, коммутирующий с В и такой, что
оператор JB имеет конечное число положительных соб-
собственных чисел.
Тогда наименьшее положительное собственное число
оператора JB будет точкой бифуркации нелинейного
оператора JI\
Теорема 4.9. Если в условиях теоремы 4.8 функ-
функционал F('-s) равномерно дифференцируем в некоторой
окрестности точки Н, то все положительные собствен-
собственные числа оператора JB будут точками бифуркации
оператора JT.

ЦИТИРОВАННАЯ ЛИТЕРАТУРА
1. Александров П. С. Комбинаторная топология. Гостехиз-
дат, 1947.
2. Александров П. С. и Хопф. Topologie. Berlin, Springer,
3. Альтман (Altman M.). On linear functional equations in
locally convex linear topological spaces. Studia Math. 13 A953).
4. АхиезерН. И. иГлазманИ. М. Теория линейных опера- v
торов в гильбертовом пространстве. Гостехиздат, 1950.
5. Банах С. а) Курс фупкцюнального анал1-зу. КиТв, 1948;
б) Sur les operations dans les ensembles abstraits et leurs
application aux equations integrates. Fund. Math. 3 A922).
6. Бертл P. (Bartl Robert Q.). Singular points of functional
equations. Trans. Amer. Math. Soc. 75, № 2 A953).
7. БиркгофиКеллог (Birkhoff and К e 11 о g). lnwariant
points in function space. Trans. Amer. Math. Soc. 23 A922).
8. Бокштейн М. Ф. Теоремы существования и единственности
решений систем обыкновенных дифференциальных уравнений.
Ученые зап. МГУ 15 A939), 3—72.
9. БорсукК. (Borsuk К.). Drei Satze iiber die л-dimensionale
euklidische Sphar. Fund. Math. 20 A933).
10. Вайнберг М. М. а) Существование собственных функций-
у одного класса нелинейных интегральных уравнений. ДАН
46, № 2 A945).
б) Об одной теореме Гаммерштейна для нелинейных ин-
интегральных уравнений. Ученые зап. МГУ, вып. 100 A946).
в) О непрерывности некоторых операторов специального
вида. ДАН 73, № 2 A950).
г) О собственных элементах одного класса нелинейных
операторов. ДАН 75, № 5 A950).
д) К вариационной теории собственных значений нелиней-
нелинейных интегральных уравнений. ДАН 80, № 3 A950).
е) Теоремы существования собственных значений для одного
класса нелинейных интегральных урачнений. Ученые зап. Моск.
обл. пединститута 15, вып. 1 A950).
ж) Теоремы существования для систем нелинейных инте-
интегральных уравнений. Ученые зап. Моск. обл. пединститута 18,
Труды кафедр физмата, вып. 2 A951).
з) Существование собственных функций у нелинейных ин-
интегральных уравнений с иепозитивнымн ядрами. ДАН 78, № 6
A951).

ЦИТИРОВАННАЯ ЛИТЕРАТУРА 383
и) О слабой непрерывности функционалов и их градиентов.
ДАН 78, № 5 A951).
к) О неподвижных направлениях некоторых гзполне непре-
непрерывных операторов. ДАН 83, № 6 A952).
л) К вопросу о вариационной теории собственных значе-
значений для нелинейных интегральных уравнений. Матем. сб. 30
1 A952).
м) О неподвижных направлениях произведения некоторых
операторов. ДАН 85, № 2 A952).
и) О некоторых вариационных принципах в теории опера-
операторных уравнений. УМН 7, вып. 2 A952).
о) Некоторые вопросы дифференциального исчисления в ли-
линейных пространствах. УМН 7, вып. 4 A952).
п) Существование собственных функций у нелинейных
интегральных операторов с иепозитивными ядрами и у произ-
произведения самосопряженного и потенциального операторов. Ма-
Матем. сб. 32, 3 A953).
р) О структуре одного оператора. ДАН 92, № 2 A953).
с) О гиперболоидах и условном экстремуме некоторых
функционалов в гильбертовом пространстве. УМН 9, вып. 2
A954).
т) Вариационная теория собственных функций нелинейных
интегральных и других операторов. Труды Моск. матем. о-ва
3 A954).
у) Потенциальные операторы и вариационная теория нели-
нелинейных операторных уравнений. Диссертация, М., МГУ, 1954.
Автореферат, УМН 10, вып. 3 A955).
11. Гавурин М. К. Аналитические методы исследования нели-
нелинейных функциональных преобразований. Ученые зап. ЛГУ сер.
матем. 19 A950).
12. Га лерки н Б. Г. Стержни и пластинки. Вестник инженеров
19 A915).
13. Гаммерштейн A. (Hammerstein A.). Nichtlineare Inte-
gralgleichungen nebst Anwendungen. Acta Mathematica 54
A929).
14. Гантмахер Ф. и Крейн М. Осцилляционные матрицы
и ядра и малые колебания механических систем. Гостехиздат,
1950.
15. Гильберт Д. и Курант Р. Методы математической физики I,
М, 1952.
16. Гнльдебраидт и Гревс (HildebrandtT. H. et Qra-
ves L. M.). Implicit functions and their differentials in general
analysis. Trans. Amer. Math. Soc. 29 A927).
17. ГоломбМ. (Golomb M.). Zur Theorie der nichtlinearen Inte-
gralgleichungen, Infegralgleichungssysteme und allgemeinen Funk-
tianalgleichungen. Math. Zeitschrift 39 A934).
18. Гревс Л. (Graves L. M.). Implicit functions and differential
equations in general analysis. Trans. Amer. Math. Soc. 29 A929).
19. Гусейнов А. И. Теоремы существования и единственности
для нелинейных интегральных сингулярных уравнений. Ма-
Матем. сб. 20, № 2 A947).

384 ЦИТИРОВАННАЯ ЛИТЕРАТУРА
20. Дольф С. (Dolph С, I..). Nonlinear integral equations of the
Hammerstein type. Trans. Amer. Math. Soc. 60, № 2 A949).
21. Дубровский В. М. О некоторых нелинейных интегральных
уравнениях. Ученые зап. МГУ 30 A939).
22. Ентч P. (J en tzs с h R). Ober Integralgleichungen mit positiven
Kern. Journal fur reine und angew. Math. 141 A912).
23. И г л и ш P. (lglisch R.) a) Poissonische Differentialgleichtmg
und nichtlineare Integralgleichungen. Math. Ann. 101 A929).
б) Zur Theorie der Schwingungen. Monatshefte fiir Math,
und Phys. 37 A930); 39 A931), 42 A933).
в) Existenz- und Eindeutigkeitssatze bei nichtlinearen Inte-
Integralgleichungen. Math. Ann. 108 A933).
r) Zur Theorie derreellen Verweigungen von Losungen nicht-
linearer Integralgleichungen. Journal fur die reine und angew.
Math. 164 A931).
24. Канторович Л. В. а) К общей теории приближенных мето-
методов анализа. ДАН 60, № 6 A948).
б) Функциональный анализ и прикладная математика. УМН
3, вып. 28 A948).
25. Каратеодори (С а г a t h ё о d о г у). Vorlesungen uber reelle
Funktionen. Leipzig und Berlin, 1918.
26. К а ч ч о n о л и (С а с с i о р о 1 i). On theorema generale sull'esis-
tenza di elementi uniti in tma transformazione funzionale. Rend.
Accad. Lincei 11 A930).
27. К е л д ы ш М. В. О методе Ь. Г. Галеркина для решения крае-
краевых задач. Известия АН СССР, сер. матем. 6 A942).
28. Колмогоров А. Н. Uber Kompaktheit der Funktionenmen-
gen bei der Konvergenz im Mittel. Qott. Naclir., 1931, 60- -63.
29. Красносельский М. А. а) Об одном принципе неподвиж-
неподвижной точки для вполне непрерывных операторов в функциональ-
функциональных пространствах. ДАН 73, № 1 A950).
б) Применение метода Галеркина к решению нелинейных
уравнений. ДАН 73, № 6 A950).
в) Об одном топологическом методе в задаче о собствен-
собственных функциях нелинейных операторов. ДАН 74. № 1 A950).
г) Собственные функции нелинейных операторов, асим-
асимптотически близких к линейным. ДАН 74, № 2 A950).
д) Исследования по нелинейному функциональному анализу.
Диссертация, Киев A950).
е) Операторы с монотонными минорантами. ДАН 76, № 4
A951).
ж) Непрерывность одного оператора. ДАН 77, № 2 A951).
з) К задаче о точках бифуркации. ДАН 79, № 3 A951).
и) Векторные ноля, симметричные относительно подпро-
подпространства. Доклады АН УССР, № 1 A951).
к) Об оценке числа критических точек функционалов. УМН
7, вып. 2 A952).
д) Приближенное вычисление собственных чисел и функ-
функций возмущенных операторов. Доклады АН УССР, № 3 A952).
м) Расщепление линейных операторов, действующих из
одного пространства в другое, ДАН 82, № 3 A952).

ЦИТИРОВАННАЯ ЛИТЕРАТУРА 385
и) Свойства корня из линейного интегрального оператора.
ДАН 88, № 5 A953).
о) Новые теоремы существования решений у нелинейных
уравнений. ДАН 88, № 6 A953).
п) Применение вариационных методов в задаче о точках би-
бифуркации. Матем. сб. 33, № 1 A953).
р) Об устойчивости критических точек четных функцио-
функционалов. ДАН 97, № 6 A954).
с) О некоторых задачах нелинейного анализа. УМН 9,
вы». 3 A954).
т) Два замечания к методу последовательных приближе-
приближений. УМЫ 10, вып. 1 A955).
у) О вычислении вращения векторного поля на конечно-
конечномерной сфере. ДАН 101, № 3 A955).
ф) Устойчивость критических значений четных функцио-
функционалов на сфере. Матем. сб. 37, № 2 A955).
х) О специальных покрытиях конечномерной сферы. ДАН
102, № 6 A955).
30. Красносельский М. А. и К р е й и С. Г. а) Об одном
доказательстве теоремы о категории проективного простран-
пространства. Украинский математический журнал 1, № 2 A949).
б) Об итерационном процессе с минимальными невязками.
Матем. сб. 31, 2 A952).
31. Красносельский М. А. и Ладыженский Л. А. а) Усло-
Условия полной непрерывности оператора П. С. Урысона. Труды
Моск. матем. о-ва 3 A954).
б) Структура спектра положительных неоднородных опе-
операторов. Труды Моск. матем. о-ва 3 A954).
в) Условия м0-вогнутости интегрального оператора П. С. Уры-
Урысона. Труды семинара но функциональному анализу, Воронеж-
Воронежский университет, выи. 3 (печатается).
32. Красносельский М. А. и Поволоцкий А. И. К вари-
вариационным методам в задаче о точках бифуркации. ДАН 91,
№ 1 A953).
33. Красносельский М. А. и Р у т и цк и й Я. Б. а) К теории
простраЕгсгв Орлича. ДАН 81, № 4 A951).
б) Линейные интегральные операторы, действующие в про-
пространствах Орлича. ДАН 85, № 1 A952).
в) Дифференцирование нелинейных интегральных опера-
операторов, действующих в пространствах Орлича. ДАН 89, № 4 A953).
г) О линейных функционалах в пространствах Орлича.
ДАН 97, X» 4 A954).
д) Об одном способе построения функций, эквивалентных
дополнительным к заданным. Труды Воронежского гос. универ-
университета 33 A954).
е) Общая теория пространств Орлича. Труды семинара
по функциональному анализу, Воронежский университет, вып. 1
A955).
ж) Линейные интегральные операторы в пространствах
Орлича. Труды семинара по функциональному анализу. Воро-
Воронежский университет, вып. 2 (печатается).

386 ЦИТИРОВАННАЯ ЛИТЕРАТУРА
34. К р е й н М. Г. и Рутман М .А. Линейные операторы, оста-
оставляющие инвариантным конус в пространстве Банаха. УМН,
вып. 23 A948).
35. Кронин (Cronin J). a) The existence of multiple solutions
of elliptic differential equations. Trans. Amer. Math. Soc. 68, № 1
A950).
б) Branch points of solutions of equations in Banach space.
Trans. Amer. Math. Soc. 69, № 2 A950).
в) Analitic functional mappings. Annals of Math. 58, № 1
A953).
36. Крылов Николай Митрофанович. Библиография. Москва, 1945.
37. Ладыженский Л. А. а) Условия полной непрерывности ин-
интегрального оператора П. С. Урысона в пространстве непре-
непрерывных функций. ДАН 97, № 5 A954).
б) Об одном классе нелинейных уравнений. Труды семи-
семинара по функциональному анализу, Воронежский университет,
вып. 2 (печатается).
38. Л е р е (L е г е у J.) a) Theorie des sillages es des prouves. Jour-
Journal de Math, pures et appliquees 12 A933).
6) Valeurs propres et vecteurs propres d'un endomorphisme
compfefement cont/nu d'un espace vecforie! a voisinages convexes.
Acta Univ. Szeged 12 A950).
39. Л е р е Ж. и LU а у д е р Ю. Топология и функциональные урав-
уравнения. УМН 1, № 3-4 A946).
40. Лихтенштейн Л. (Lichtenstein L.). Vorlesungen iiber
einige Klassen nichtlinearer Integralgleichungen und Integro-
Differentialgleichungen nebst Anwendungen. Berlin, 1931.
41. Л юс т ерник Л. A. a) Topologische Ortmdlagen der allgemei-
nen Ergenverttheorie. Monatsheft fiir Math, und Phys. 37 A)
A930).
б) Об условных экстремумах функционалов. Матем. сб.
41, 3 A934).
в) Основные понятия функционального анализа. УМН,
вып. 1 A936).
г) Об одном классе нелинейных операторов в гильбер-
гильбертовом пространстве. Известия АН СССР, сер. матем., № 3
A939).
д) Топология н вариационное исчисленЕ1е. УМН, вып. 2
A946).
е) Топология функциональных пространств и вариацион-
вариационное исчисление в целом. Труды ин-та им. Стеклова, Москва, 19
A947)
42. Люстерпик Л. А. и Соболев В. И. Элементы функцио-
функционального анализа. Гостехиздат, 1951.
43. Люстерпик Л. А. н Шнирельман Л. Г. Топологические
методы в вариационных задачах и их приложения к диффе-
дифференциальной геометрии поверхностей. УМН 2, № 1 A947).
44. Ляпунов А. М. Sur les figures d'equilibre peu differentes des
ellipsoides d'une masse liquide homogene douee d'un mouvement
de rotation, Premiere partle. Etude generale du probleme. Записки
Академии наук, С.-Петербург, 1906, 1—225.

ЦИТИРОВАННАЯ ЛИТЕРАТУРА 387
45. Михлин С. Г. а) О сходимости метода Галеркина. ДАН 61,
№ 2 A948).
б) Проблема минимума квадратичного функционала. Гостех-
издаг, 1952.
46. Назаров Н. Н. а) К теории нелинейных интегральных урав-
уравнений. Труды САГУ, Ташкент 17 A937).
б) К вопросу о существовании решения нелинейных инте-
интегральных уравнений. Бюлл. САГУ 22, № 6 A937).
в) Об одном классе нелинейных однородных интегральных
уравнений. Труды САГУ, Ташкент 28 A939).
г) Нелинейные интегральные уравнения типа Гаммерштейна.
Труды САГУ, Ташкент 33 A941).
д) Некоторые вопросы теории спектров нелинейных инте-
интегральных уравнений. Труды Института математики и механики
АН УзССР, Ташкент 4 A948). В этом выпуске имеется полная
библиография работ Н. П. НазарОЕШ.
47. Натансон И. П. Теория функций вещественной переменной.
Гостехиздат, 1950.
48. Некрасов А. И. Точная теория волн устоявшегося вида на
поверхности тяжелой жидкости. Гостехизд.ят, 1951.
49. Немыцкий В. В. a) Sur les equations integrates non-lineaires.
С. R. Acad. Sci. 196 A933).
б) Теоремы существования и единственности для нелиней-
нелинейных интегральных уравнений. Мате.ч. сб. 41, 3 A934).
в) Об одном классе нелинейных интегральных уравнений.
Матем. сб. 41, 4 A934).
г) Метод неподвижной точки в анализе. УМН, вып. 1 A936).
д) I. Нелинейные интегральные уравнения, сравнимые с ли-
линейными. П. Общее нелинейное интегральное уравнение. ДАН
15 A937).
е) Некоторые вопросы структуры спектра нелинейных
вполне непрерывных операторов. ДАН 80, № 2 A951).
ж) Структура спектра нелинейных вполне непрерывных
операторов. Матем. сб. 33, № 3 A953). Исправления к работе
в Матем. сб. 35. № 1 A954).
50. Н ик о л ь с к и й С. М. Линейные уравнения в линейных норми-
нормированных пространствах. ИАН, сер. матем. № 7 A943).
51. Перрон О. (Perron О). Jacobischer Kettenbriichalgorithmus.
Math. Ann. 64 A907).
52. П е т р о в Г. И. Применение метода Галеркина к задаче
об устойчивости течения вязкой жидкости. Прикладн. матем. и
механика 4, № 3 A940).
53. Польский Н. И. а) Про зб1жшсть методу Б. Г. Гальоркша.
Доклады АН УРСР, № 6 A949).
б) Некоторые обобщения метода Б. Г. Галеркина. ДАН 86,
№ 3 A952).
54. Радон (Radon I.). О линейных функциональных преобра-
преобразованиях и функциональных уравнениях, работа 1919 г., русский
перевод в УМН, вып. 1 A936).
55. Р и с с Ф. (Riesz F.). О линейных функциональных уравне-
уравнениях, работа 1918 г., русский перевод в УМН, вып. 1 A936).

388 ЦИТИРОВАННАЯ ЛИТЕРАТУРА
56. Роте Э. (Rotte Erich), a) Ober Abbildungsklassen von Kou-
geln des Hilbertschen Raumes. Compositio Math. 4 A936).
6) Ober den Abbildungsgrad bei Abbildungen von Kugeln
des Hilbertschen Raumes. Compositio Math. 5 A937).
») Zur Theorie der topologische Ordnung und der Vektorfel
des in Banachschen Raumen. Compositio Matli. 5 A937).
r) Topological proofs of uniqueness theorems in the theory of
differentia] and integral equations. Bulletin of the Math. Soc. 45,
№ 8 A939).
д) On поп-negative functional Transformations. Amer. Jour-
Journal of Math. 66, № 2 A944).
е) Gradient mappings in Hilbert space. Ann. of Math. 47
A946).
ж) Gradient mappings and extreme in Banach spaces. Duke
Math. Journal 15 A948).
з) Completely continuons scalars and variational methods. Ann.
of Math. 49 B) A948).
и) Weak topology and non-linear integral equations. Trans,
of Amer. Math. Soc. 66 A949).
к) A relation between the type number of a critical point and
the index of the corresponding field of gradient vectors. Math.
Nachr. 4 A951).
л) Leray — Schauder index and Morse type numbers in Hil-
Hilbert space. Ann. of Math. 55, № 3 A952).
57. Рутицкий Я. Б. а) Про один нелшШний оператор, що д1е
в просторах Ор.-пча. ДоповШ АН УРСР, № 3 A952)
б) Об одном свойстве вполне непрерывных линейных инте-
интегральных операторов, действующих в пространствах Орлича.
УМН 11, вып. 1 A956).
58. Р у т м а и М. А. а) Об одном специальном классе вполне непре-
непрерывных операторов. ДАН 58, № 9 A938).
б) О линейных вполне непрерывных операторах, оставля-
оставляющих инвариантным некоторый конус. Матем. сб. 8 E0)
A940).
59. С а л е х о в Г. С. Теоремы существования решений нелинейных
интегральных уравнений. Изв. Казанского фйз.-матем. о-ва
9 A937).
60. Семенов М. П. К вопросу о структуре спектра нелинейных
операторов. Труды семинара нефункциональному анализу, Воро-
Воронежский университет, вып. 1 A955).
61. Смирнов В. И. Курс высшей математики, т. V, Гостехиздат
1947.
62. Смирнов Н. С. а) Теорема существования решения нелиней-
нелинейных интегральных уравнений. ДАН 3 A936).
б) Введение в теорию нелинейных интегральных уравнений.
ОНТИ, 1936.
63. С о б о л е в В. И. а) О собственных элементах некоторых нели-
нелинейных операторов. ДАН 31, № 8 A941).
б) Об одном нелинейном интегральном уравнении. ДАН
71, № 5 A950).

ЦИТИРОВАННАЯ ЛИТЕРАТУРА 389
64. С о б о л е в С. Л. Некоторые применения функционального ана-
анализа в математической физике. Издание Ленинградского уни-
университета, 1950.
65. Тихонов А. Н. Ein Fixpunktsatz. Math. Ann. Ill A935).
66. Урысон П. С. а) Об одном типе нелинейных интегральных
уравнений. Матем. сб. 31 A936).
б) Труды но топологии и другим областям математики, 1,
Гостехиздат, 1951, стр. 45—77.
67. Фет А. И. а) Обобщение теоремы Люстерника — Шнирельмана
о покрытиях сфер и некоторых связанных с ней теорем. ДАН
95, № 6 A954).
б) Инволюционные отображения и покрытия сфер. Труды
семинара по функциональному анализу, Воронежский универси-
университет, вып. 1 A955).
68. Фролов С. В. иЭльсгольц Л. Э. Нижняя граница числа
критических значений функции, заданной на многообразии.
Матем. сб. 42 A935).
69. Халилов 3. И. Линейные уравнения в линейных нормирован-
нормированных пространствах. Баку, 1949.
70. Ц и т л а н а д з е Э. С. а) Некоторые вопросы собственных зна-
значений для нелинейных операторов в гильбертовом простран-
пространстве. ДАН 53, № 4 A946).
б) Некоторые вопросы условного экстремума и вариационной
теории собственных значений. ДАН 56, № 1 A947).
в) К вопросу о собственных значениях нелинейных вполне
непрерывных операторов в гильбертовом пространстве. ДАН 57,
№ 9 A947).
1") Доказательство принципа критической точки для услов-
условного экстремума в пространстве типа (В). Сообщения АН ГССР,
№ 1—2 A947).
Д) Об интегральных уравнениях типа Лихтенштейна. Сооб-
Сообщения АН ГССР, № 6 A947).
е) О некоторых вариационных задачах для слабо непре-
непрерывных функционалов в гильбертовом пространстве. Труды
Тбилисского госпединститута им. Пушкина 4 A947).
ж) Об одном классе нелинейных функциональных урагше-
ний. Сообщения АН ГССР, № 2 A949).
з) Некоторые вопросы теории нелинейных операторов и
вариационного исчисления в пространствах типа Банаха. УМН 5,
вып. 4 C8) A950).
и) О дифференцировании функционалов. Матем. сб. 29, № 1
A951).
к) Некоторые задачи вариационного исчисления в функцио-
функциональных пространствах. Диссертация, МГУ, 1950.
л) К вариационной теории собственных значений нелиней-
нелинейных операторов в гильбертовом пространстве. Труды Института
физики и математики АН Азербайджанской ССР 4—5 A952).
,м) Некоторые вопросы теории нелинейных операторов, по-
порожденных дифференциалом Фреше в пространстве Гильберта
и их приложения. Труды Института физики и математики АН
Азербайджанской ССР 4—5 A952).

S90 ЦИТИРОВАННАЯ ЛИТЕРАТУРА
н) Теоремы существования точек миннмакса в пространствах
Банаха и их приложения. Труды Моск. матем. о-ва 2 A952).
71. ШаудерЮ. (Schauder 1). Der Fixpunktsatz in Funktional-
ra"umen. Studia Math. 2 A930).
72. ШмидгЭ. (Schmidt E.). Zur Theorie der linearen und nicht-
linearen Integralgleichungen, III Theil, Ober die AuflOsung der
nichtlinearen Integralgleichungen und die Verzweigung iherer
Losungen. Math. Ann. 65 A908), 370—399.
73. Эльсгольц Л. Э. а) Оценка числа критических точек. УМН
5, вып. 6 A951).
б) Теория инвариантов, дающих оценку числа критических
точек непрерывной функции, заданной на многообразии. Матем.
сб. 5 A939).
74. Я с и и с к н й Ф. С. Избранные работы но устойчивости сжатых
стержней, Гостехиздат, 1952, приложение IV, 125—129.

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Банахово пространство 21
полуупорядоченное 241
Вектор положительный 243
— почти собственный 187
— собственный 21
• , индекс 190
Вес грани симплекса 92
— симплекса 92
Ветвь собственных векторов непре-
непрерывная 190
длины В, 249
, отвечающая точке бифур-
бифуркации 197
—, уходящая в бесконеч-
бесконечность 202, 210
Вращение векторного поля 89, 95, 99
вполне непрерывного 114
Галеркнна метод 178
Гаммерштейна оператор 56
Градиент функционала 79
Деформация непрерывная 330
Дифференциал Фреше 79
Звезда вершины снмплнцнального ком-
комплекса 95
Значение критическое 300, 366
, устойчивость 374
Индекс неподвижной точки векторно-
векторного поля 98
— собственного вектора 190
Каратеодорн условия 29
Комплекс, нумерация 90
— , — вырожденная 90
—, степень нумерации 93
Конус в банаховом пространстве 241
— телесный 266
Кратность собственного числа 26
Линеаризация в задачах о точках би-
бифуркации 196
Люстерника принцип критической точ-
точки 318
Ляпунова интегростепешюй ряд 57
Мера множества непрерывная 23
Метод Галеркниа 177
— малых возмущений 193
Метод Петрова — Галеркнна 179
Миноранта 269
— монотонная 269
Множество выпуклое 241
—, допустимое преобразование 358
— нестягиваемое 329
— , род 358
— . стягиваемое в точку 329
Момент оператора 59
Непрерывность оператора полная 24
Неравенство Буняковского 24
— Гельдера 23
— для моментов оператора 59
Норма оператора 22
Нумерация комплекса 90
вырожденная 90
, степень 93
— симплекса 90
допустимая 91
, род 102
— — сопряженная 91
Оператор вполне непрерывный 24
— Гаммерштейна 56
— компактный 24
— конечномерный 119
— линейный 22
асимптотически 209
, расщепление 60
— Ляпунова 208
— , миноранта 269
—, момент 59
— монотонный 256
— непрерывно дифференцируемый 142
— непрерывный 22
— , норма 22
— ограниченный 22
— однородный 257
— положительный 243
— потенциальный 299
— проектирования Шаудера 112
— , производная асимптотическая 209
— , резольвента 149
— самосопряженный 27
положительно определенный 308
— сильно положительный 266
— Урысона 42
— и, -вогнутый 282
— и^ -монотонный 289
— и.-ограниченный 262
— Фредгольма 260

392
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Оператор г 29
Операторы сопряженные G1
Остаток дифференциала Фреше 79
Отображение непрерывное, степень 89
— симплнцналыюе, степень 89
Поле векторное вполне непрерывное
112
— — , вращение 114
дифференцируемое 140
— — , продолжение 122
, вращение 89, 95, 99
линейное 102
— — , неподвижная точка 98
непрерывно дифференцируемое
142
симметричное относительно под-
подпространства 133
Поля векторные гомотопные 96
Преобразование множества допусти-
допустимое 358
Принцип критической точки Люстер-
ника 318
— линеаризации в задачах о точках
бифуркации 196
— сжатых отображений Мб
— Шаудера 129
Производная оператора асимптотиче-
асимптотическая 209
— Фреше нелинейного оператора 140
Пространство Банаха 21
полуупорядоченное 241
— LP 23
-С 23
Расщепление линейного оператора 60
Резольвента оператора 149
Род множества 358
Ряд ннтегростепонной Ляпунова 57
Симплекс, вес 92
— , — грани 92
— , нумерация 90
— , — вырожденная 90
— , — допустимая 91
— , — сопряженная 91
Спектр позитивный 275
— собственных чисел 26
— — сплошной 154
Степень нумерации комплекса
— отображения непрерывного
снмплицнального 89
Сходимость элементов сильная
слабая 22
Точка бифуркации 184 .
асимптотическая 210
— ветвления 231
— критическая 300
, принцип 318
— неподвижная векторного пол
— , индекс 98
Триангуляция симметричная я-;
сферы 103
, нумерация симметричная
снтельно центра 103
Уравнение разветвления 233
Уравнения слабо связанные 1:
Урысона оператор 42
Условия Каратеодорн 29
Фредгольма оператор 260
Фреше дифференциал 79
— производная нелинейного оп
ра 140
Функционал, близкий к квадра
му 316
— возрастающий 302
— , градиент 79
— дифференцируемый 79
— равномерно дифференцируем!.
— слабо непрерывный 82
Функция собственная см. F'
собственный
Число алгебраическое неподв!
точек векторного поля 99, 116
— собственное 21
, кратность 26
простое 26
— характеристическое 21
Член интегростепенной 57'
Шаудера оператор проектирова!
— принцип 129
Ядро допустимое 28
— положительного типа 267

Стр.
57
116
200
Строка
1 си.
2 сн.
11 св.
Зак. 813.
Опечатки
Напечатано
снязнои
(dt)
Следует читать
выпуклой
dt
По чьей
вине
Тип.
Авт.
Тип.