Текст
                    Современные
ЛЕКЦИОННЫЕ КУРСЫ
А.Я.ХЕЛЕМСКИИ
Лекции
по функциональному
анализу
Москва
МЦНМО
2004


УДК 517.98 Издание осуществлено при поддержке РФФИ ББК 22.16 (издательский проект №02-01-14066). Хелемский А. Я. Х36 Лекции по функциональному анализу. — М.: МЦНМО, 2004. — 552 с. ISBN 5-94057-065-8 Книга представляет собой университетский учебник по функциональному анализу. Она рассчитана на студентов 3—5 курсов, аспирантов и преподавателей математических факультетов, а также специализирующихся в области математики и теоретической физики научных работников. В ее основу положены лекции, многократно читавшиеся автором на механико-математическом факультете МГУ, и семинарские занятия, которые регулярно проводились им в академических группах этого факуль- Вводимыс понятия и доказываемые утверждения общего характера иллюстрируются большим числом примеров и упражнений (задач). От читателя требуется подготовка в объеме двух первых курсов математических факультетов российских университетов. ББК 22.16, УДК 517.98 Научное издание Александр Яковлевич Хелемский ЛЕКЦИИ ПО ФУНКЦИОНАЛЬНОМУ АНАЛИЗУ Редакторы Ф. И. Кизнер, А.Ю. Пирковский Лицензия ИД № 01335 от 24.03.2000 г. Формат 60 х 90 '/W Печ. л. 34,5. Бумага офсетная. Гарнитура литературная. Тираж 2000. Заказ Л° 11143. Издательство Московского центра непрерывного математического образования 119002, Москва, Большой Власьевский пер., 11. Тел. 241-05-00. Отпечатано с готовых диапозитивов в ППП «Типография „Наука"». 119099, Москва, Шубинский пер., 6. Книги издательства МЦНМО можно приобрести в магазине «Математическая книга», Большой Власьевский пер., д. 11. Тел. 241-72-85. E-mail: biblio@mccme.ru © Хелемский А. Я., 2004 ISBN 5-94057-065-8 © МЦНМО, 2004
Двум Мариям — матери и жене
ОГЛАВЛЕНИЕ Предисловие 6 Глава 0. Фундамент: категории и иже с ними 15 §1.0 множествах, а также линейных и метрических пространствах 16 § 2. Топологические пространства 25 § 3. Категории и их первые примеры 38 § 4. Изоморфизмы. Проблема классификации объектов и морфиз- мов 43 § 5. Другие виды морфизмов 51 § 6. Образец теоретико-категорной конструкции: (ко)произведение. . 57 § 7. Функторы 65 Глава 1. Нормированные пространства и ограниченные операторы. (В ожидании полноты) 77 § 1. Преднормированные и нормированные пространства. Примеры 77 § 2. Скалярные произведения и почти гильбертовы пространства . . 90 § 3. Ограниченные операторы: первые сведения и самые необходимые примеры 101 § 4. Топологические и категорные свойства ограниченных операторов 109 § 5. Некоторые типы операторов и операторные конструкции. Проекторы 121 § 6. Функционалы и теорема Хана —Банаха 131 § 7. Приглашение в квантовый функциональный анализ 146 Глава 2. Банаховы пространства и их преимущества 157 § 1. То, что лежит на поверхности 157 § 2. Категории банаховых и гильбертовых пространств. Вопросы классификации и Теорема Фишера —Рисса 167 §3. Теорема об ортогональном дополнении и вокруг нее 175 §4. Принцип открытости и принцип равномерной непрерывности . . 185 § 5. Функтор банаховой сопряженности и другие категорные вопросы 192 § 6. Пополнение 206 § 7. Алгебраическое ч б?нахово тензорное произведение 212 § 8. Гильбертово тензорное произведение 227 Глава 3. От компактных пространств до фредгольмовых операторов 234 § 1. Компакты и связанные с ними функциональные пространства . . 234 § 2. Метрические компакты и сверхограниченность 245 § 3. Компактные операторы: общие свойства и примеры 255 § 4. Компактные операторы между гильбертовыми пространствами и их некоторые классы 262 § 5. Фредгольмовы операторы и индекс 282 Глава 4. Полинормированные пространства, слабые топологии и обобщенные функции 298 § 1. Полинормированные пространства 298 § 2. Слабые топологии 313 § 3. Пространства пробных и обобщенных функций 331
ОГЛАВЛЕНИЕ 5 § 4. Обобщенные производные и вопросы строения обобщенных функций 346 Глава 5. У врат спектральной теории 356 § 1. Спектры операторов и их классификация. Примеры 356 § 2. Немного алгебры: алгебры 363 § 3. Банаховы алгебры и спектры их элементов. Еще немного о фредгольмовости 371 Глава 6. Гильбертовы сопряженные операторы и спектральная теорема 389 § 1. Гильбертова сопряженность: первые сведения 389 § 2. Самосопряженные операторы и их спектры. Теорема Гильберта — Шмидта 399 § 3. Взглядхверху: инволютивные алгебры, С*-алгебры и алгебры фон Нойманна 412 § 4. Непрерывное функциональное исчисление и положительные операторы 427 § 5. Спектральная теорема в облике операторнозначного интеграла Римана — Стильтьеса 439 § 6. Борелево исчисление и спектральная теорема в облике операторнозначного интеграла Лебега 453 § 7. Геометрическая форма спектральной теоремы: модели и классификация 470 § 8. Отличнику: доказательство завершенной спектральной теоремы 480 Глава 7. Преобразование Фурье 488 § 1. Классическое преобразование Фурье 488 § 2. Свертка и преобразование Фурье как гомоморфизм 499 § 3. Преобразование Фурье пробных и обобщенных функций .... 512 § 4. Преобразование Фурье квадратично интегрируемых функций . . 521 § 5. Кое-что о гармоническом анализе на группах 529 Список литературы 537 Указатель обозначений 541 Предметный указатель 543
ПРЕДИСЛОВИЕ О науке ФУНКЦИОНАЛЬНЫЙ АНАЛИЗ — Вы никогда не слыхали о том, что краткость — сестра таланта? — спросили раз графомана. — Мой талант не имеет родственников! Принято считать, что алгебраические науки изучают множества с заданными на них операциями — такими, как, скажем, сложение, умножение, переход к обратному или к симметричному элементу. Топологические науки изучают множества, в которых задан непрерывный переход от одних элементов к другим и, в частности, определены сходящиеся последовательности. С той же неизбежной долей упрощения можно сказать, что функциональный анализ изучает множества с синтетической (=составной) структурой — как алгебраической, так и топологической, причем обе структуры согласованы друг с другом с помощью некоторых естественных требований. В первозданном виде классического линейного функционального анализа 20-х годов алгебраическая структура — это структура линейного пространства, а сходимость векторов задана и одновременно согласована с обеими линейными операциями посредством вводимой нормы. Правда, сразу же было обнаружено, что большая часть по-настоящему глубоких результатов или «принципов», составляющих лицо теории, требуют дополнительного предположения о полноте (банаховости) рассматриваемого нормированного пространства. А дальше всего продвинуться в изучении объектов классического функционального анализа удается тогда, когда мы сосредотачиваемся на изучении гильбертовых пространств. Это те банаховы пространства, в которых норма задана с помощью скалярного произведения и поэтому можно говорить об ортогональных (перпендикулярных) векторах. Здесь в ряде принципиальных направлений исследования достигнут совершенный триумф: удалось полностью познать природу как самих гильбертовых пространств (теорема Фишера — Рисса), так и наиболее важных классов отображений между этими пространствами (спектральная теорема Гильберта, теорема Шмидта). Классический функциональный анализ в нормированных, банаховых и гильбертовых пространствах составляет большую часть нашего учебника.
ПРЕДИСЛОВИЕ 7 Время шло, и новые задачи потребовали обогащения, в том или ином направлении, исходных структур. Пожалуй, раньше всего было осознано, что для изучения целого ряда важных функциональных пространств одной нормы маловато. «Правильную» сходимость, естественную для этих пространств, надо задавать с помощью целого семейства норм, а еще лучше — более общих преднорм (=полунорм). Так возникли полинормированные пространства1', столь необходимые для теории обобщенных функций, комплексного анализа и дифференциальной геометрии. Они принесли большую пользу и классическому функциональному анализу, снабдив его новыми типами сходимостей. Но было сделано и другое наблюдение. Можно построить глубокую и красивую теорию, если обогатить не топологическую, а алгебраическую природу рассматриваемых пространств, добавив к уже существующим там двум линейным операциям еще и третью — умножение векторов друг на друга. Так появилась теория банаховых алгебр. Среди ее наиболее значительных достижений— две фундаментальных «теоремы реализации». Первая (теорема Гельфанда) гласит, что коммутативная банахова алгебра является, с точностью до некоторого явно измеренного огрубления, алгеброй непрерывных функций с поточечными операциями. Вторая (теорема Гельфанда — Наймарка), впоследствии вошедшая в плоть и кровь современной квантовой физики, утверждает, что банахова алгебра, обладающая некоторой естественной симметрией, называемой инволюцией и должным образом согласованной с нормой, является не чем иным, как самосопряженной алгеброй операторов в гильбертовом пространстве2*. Наконец, последние 20 лет ушедшего века были свидетелями появления и бурного развития нового направления в нашей науке — квантового функционального анализа, называемого также теорией операторных пространств. В этой области анализа линейное пространство наделяется не нормой, а более сложной структурой — квантовой нормой. А именно, каждое пространство матриц (любого размера) с коэффициентами из заданного пространства снабжается своей нормой, и все такие нормы некоторым разумным образом согласованы друг с другом. Было осознано, что многие трудные вопросы анализа становятся ясными и прозрачными, если перейти ') Полинормированным пространствам и некоторым их приложениям в нашей книге будет уделена специальная глава. ' В нашем учебнике мы по необходимости рассказываем лишь о той изначальной части теории банаховых алгебр, без которой нельзя говорить о спектрах. Обе упомянутых теоремы приведены без доказательства, но знание их формулировок ыы считаем обязательным для всех студентов.
8 ПРЕДИСЛОВИЕ от заданных нормированных пространств к их надлежащим «квантованиям», и на этом пути удалось решить важные проблемы, много лет не поддававшиеся решению классическими методами (см. [93]). В то же время квантовый анализ, проясняя ряд вопросов классического, имеет и свои собственные украшения в виде глубоких и ярких теорем, не имеющих классических аналогов1'. Мы упомянули только о некоторых составляющих частях функционального анализа. Более полный рассказ должен был бы коснуться и других его ветвей. Так, всю свою историю функциональный анализ развивался в тесной связи с гармоническим анализом, этой, говоря упрощенно, «наукой о сдвигах в функциональных пространствах», которую можно считать его органической частью2'. Выделились и обрели свое лицо такие области, как теория упорядоченных пространств и теория топологических алгебр. Особо отметим, что и классический функциональный анализ — геометрия банаховых пространств — отнюдь не стоит на месте. Уж сколько раз «банаховой геометрии» прочили скорый уход на пенсию, а она все продолжает удивлять новыми глубокими и часто неожиданным результатами3'. Конечно, мы бы хотели, чтобы из нашего учебника читатель вынес впечатление о том, что функциональный анализ — красивая и богатая содержанием наука. Однако для полноценного развития и долгой жизни математической дисциплины одного внутреннего богатства, пожалуй, мало. Любая математическая наука, лишенная связей с остальной математикой и естествознанием, подвергается серьезной опасности, становясь, как писал фон Нойманн, «все более и более эстетизирующей, все более и более искусством ради искусства» (см. [87]). Вот мы и наблюдаем, как в одних науках все более мелкие вопросы рассматриваются под все большим увеличением, а в других (или тех же самых) множатся хилые «общие теории» с явно недостаточным числом содержательных примеров. '' В наших лекциях мы не рискнули сколько-нибудь углубляться в квантовый функциональный анализ. Мы только сочли необходимым удовлетворить возможное любопытство читателя, дав (мелким шрифтом) два его основных определения — квантового пространства и вполне ограниченного оператора. Этим определениям, их подготовке и обсуждению посвящен один из параграфов. Соответствующий текст играет роль рекламного ролика и не является обязательным даже для отличников. ' В нашей книге элементы гармонического анализа представлены главой о преобразовании Фурье. ' Некоторые последние достижения, такие, как теорема Гауэрса, упомянуты и в наших лекциях.
ПРЕДИСЛОВИЕ 9 Успокоим нашего читателя: функциональному анализу, по крайней мере сегодня, подобные опасности не грозят. Связей с окружающими науками у него предостаточно, и они находятся в процессе постоянного обновления. (Разумеется, мы говорим о нашей науке в целом — а так, конечно, в семье не без урода, да и кто из нас без греха...) Ведь как сейчас принято отвечать на вопрос о том, что такое математика — наука о моделях! Но физика просто кишит моделями из функционального анализа — от самых древних, родившихся в недрах вариационного исчисления, до ультрасовременных, основанных на недавних достижениях теории операторных алгебр (см., например, [85]). (Самая знаменитая модель принадлежит фон Нойманну, «покусившемуся» на квантовую механику в целом.) Внутри самой математической науки функциональный анализ позволяет рассмотреть с единой точки зрения такие с виду несхожие вещи, как, скажем, интегральные уравнения, системы линейных уравнений и некоторые вариационные проблемы. Это опять-таки означает, что он доставляет единую модель определенного круга явлений и, стало быть, предлагает единый метод их исследования. Поучительный пример взаимопереплетения, к обоюдной выгоде, функционального анализа с окружающими науками дает небольшая книга филдсовского лауреата В. Джонса «Подфакторы и узлы» (см. [80]). Попробуйте отделить там друг от друга функциональный анализ (более подробно, операторные алгебры), теорию групп, маломерную геометрию (узлы и зацепления) и, наконец, квантовую статистическую механику1'. О некоторых принципах подбора материала Итак, перед Вами — новый учебник по функциональному анализу, именно учебник — книга, предназначенная для первоначального ознакомления с предметом. Разумеется, обязанность автора — сказать несколько слов об особенностях этого учебника как по выбору материала, так и по стилю изложения. Ведь если он не отличается от других, то зачем он? В этом учебнике получили полные права гражданства некоторые понятия, методы и результаты современного функционального анализа, в других учебных пособиях либо отсутствующие, либо ' К сожалению, недостаток места и времени не позволил нам уделить внешним связям и приложениям функционального анализа сколько-нибудь значительное внимание. Только изредка, когда искушение рассказать о «физическом значении» (или «физическом подтексте») данного утверждения слишком велико, мы позволяем себе замечания неформального и полубеллетристического характера. Это касается, например, теоремы Фишера — Рисса или теоремы о непустоте спектра.
10 ПРЕДИСЛОВИЕ содержащиеся где-то на обочине, без особой связи с остальным текстом. Перечислять сейчас эти вещи не имеет смысла: специалист их увидит из подробного оглавления. Мы лишь выделим несколько принципиальных моментов. Главное, пожалуй, в том, что наша книга написана с категорных позиций, и категорный характер ряда принципиальных конструкций и результатов неизменно комментируется и подчеркивается — а этим, как мы считаем, достигается новый уровень понимания обсуждаемых вещей. Сказанное относится, например, к конструкциям сопряженного оператора и пополнения, теоремам Фишера — Рисса и Шмидта, а ближе к концу книги и к самой спектральной теореме Гильберта. Мы убеждены в том, что студенты третьего курса (и даже их преподаватели!) уже достаточно подготовлены к восприятию самых изначальных — а больше мы и не даем — категорных понятий, а главное — унифицирующего общематематического языка теории категорий. И именно курс функционального анализа с его синтетическим алгебро-топологическим содержанием как нельзя более подходит для первого рассказа о категориях — точно так же, как полвека назад «Анализ III» идеально подходил для изложения основ теории множеств. (Другое дело, что рассказ должен сопровождаться обилием примеров и упражнений, но об этих вещах мы еще поговорим.) К достоинствам «категорного взгляда на вещи» мы еще будем много раз возвращаться в основном тексте книги. А сейчас хочется оживить это предисловие и вместо общих заявлений рассказать об одном знаменательном разговоре, имевшем место лет 15 тому назад. С моей ученицей познакомился приятный молодой человек, тоже аспирант, занимавшийся алгебраической геометрией. «Какая у Вас область математики?» — спросил он. «Банаховы алгебры, а точнее — их группы когомологий». «Интересно... А какие же там категории?» Правильный вопрос и правильный подход! И то, что с молоком матери впитывают алгебраические геометры, пора бы перенять и функциональным аналитикам. «Какое, милые, у нас тысячелетье на дворе?»1'. Из конкретных элементов аппарата современного анализа, перекочевавших из специальных монографий в этот учебник, мы здесь выделим только тензорные произведения банаховых пространств. В книге подробно разобраны два их типа: «проективное» и «гильбертово». А как же иначе? Ведь без них сейчас нельзя работать ни в геометрии банаховых пространств, ни в теории операторов, '' Пишется 20.02.2001.
ПРЕДИСЛОВИЕ 11 ни в квантовом функциональном анализе, ни в квантовой статистической механике, ни в теории элементарных частиц... Невольно вспоминаются «Дни Турбиных», где штабс-капитан Мышлаевский изумленно спрашивает у Лариосика: «А как же ты будешь селедку есть, если водку не пьешь?» О некоторых принципах изложения 1. О том, что считается известным. Как уже упоминалось, эти лекции рассчитаны на студента третьего курса. Предполагается, что за первые два года он освоил то, чему обычно учат в российских университетах (мы судим по МГУ). В частности — и это очень важно — наш читатель уже должен знать линейную алгебру и основы действительного анализа (— меру и интеграл Лебега), а также те элементы теории метрических пространств, которые обычно сообщаются в курсе математического анализа. Что касается комплексного анализа, то на нашей памяти соответствующие лекции начинались то на третьем курсе, то на втором, то опять на третьем. (Творческая административная мысль наших начальников никак не успокоится.) Но, к счастью для нас, настоящая потребность в этой науке появляется только в середине нашего курса, при изучении спектров (первой понадобится теорема Лиувилля). К этому времени при любом раскладе необходимые лекции уже будут прочитаны. Несколько сложнее дело обстоит с топологией, а также с некоторыми вещами из алгебры, как, скажем, тензорное произведение линейных пространств. Формально эти вещи вроде бы входят в программу обучения на втором году. Но, как показывает наш опыт, на те обязательные курсы, к которым эти вопросы пристегиваются, полагаться опасно: лекторы, естественно, имеют в виду другие цели, нежели обслуживание функционального анализа. Поэтому, поступая по принципу «береженого Бог бережет», мы даем независимое и замкнутое изложение нужных топологических и некоторых алгебраических сведений. 2. О крупном и мелком шрифте. Текст, напечатанный обычным шрифтом, соответствует, как мы предполагаем, лекциям по функциональному анализу для студентов третьего — не моложе! — года обучения математических факультетов университетов. Речь идет о полном годовом курсе лекций, сопровождаемом упражнениями (и то, и другое раз в неделю). Этот текст рассчитан на всех студентов, независимо от того, чем они займутся в будущем. Однако для особо сильных студентов, выбравших себе чистую математику — алгебру, геометрию, анализ — в качестве профессии,
12 ПРЕДИСЛОВИЕ этого текста, по нашему убеждению, мало. Такого студента, условно названного в наших лекциях «просвещенным читателем» или «отличником», мы призываем освоить еще и текст, набранный петитом; что поделаешь, «благородство обязывает». (Скажем, знать, как расшифровываются простейшие точные последовательности банаховых пространств, всем не обязательно, но профессиональному математику — надо.) Впрочем, стремясь удовлетворить возможное любопытство читателя (блажен, кто верует), мы посвятили небольшую часть текста материалу, не обязательному даже для отличников, который дается вам, так сказать, «на вырост». Это относится, скажем, к параграфу о квантовом функциональном анализе, к виду (ко)произведений в некоторых стандартных категориях и т. п. Но, включая подобные кусочки факультативного материала, мы всегда предупреждаем читателя об этой самой факультативности: а это, мол, только для любопытных. (Не вводить же, кроме мелкого шрифта, еще и «мельчайший»?) Излишне говорить, что «крупный» текст никак не зависит от «мелкого». 3. О примерах. Примерам, возможно, уделено большее внимание, чем это обычно принято. Вводя новое понятие, мы тут же собираем для читателя «мешок» примеров, скажем, мешок функторов, мешок полинормированных пространств или самый большой и важный из мешков — мешок операторов. Эти мешки Вы должны держать наготове: как только сообщается какая-либо новая конструкция, возможное свойство или инвариант, мы немедленно достаем из мешка наши примеры и смотрим, чем это для них оборачивается. (О том, как это практически делается, читатель может увидеть на примере спектров операторов из гл. 5.) Мы убеждены, что только путем «проигрывания на примерах» можно достичь неформального понимания происходящего. «Теория, друг мой, сера, — поучает гётевский Мефистофель, — но зелено вечное дерево жизни». Так что на примеры, это зеленое дерево жизни математики, мы не жалели ни места, ни времени. 4. Об упражнениях. Эта книга Вас мало чему научит, если Вы не будете делать содержащиеся там упражнения. Наш читатель, конечно, не прост, ох как не прост. Он любит откладывать упражнения на завтра, а потом повторять эту процедуру (по себе знаем). Чтобы не дать Вам расслабиться, мы включили упражнения непосредственно в текст. Встретив упражнение, остановитесь и сделайте его (большей частью это означает: докажите сформулированное там утверждение) и только потом двигайтесь
ПРЕДИСЛОВИЕ 13 дальше. Как правило, наши упражнения, с учетом часто встречающихся указаний, довольно элементарны. Они иллюстрируют «основной» текст, делая его понимание менее формальным, а часто под их видом сообщается полезный дополнительный материал, непосредственно примыкающий к доказанному утверждению. Правда, есть и небольшое число более трудных упражнений, отмеченных звездочкой *; тут уж поступайте по совести. Напротив, совсем простые упражнения отмечены кружочком °; уж если Вы их не будете делать, то вскоре за деревьями леса не увидите. Впрочем, упражнения никогда не используются при доказательстве теорем, рассмотрении примеров и т. п. (только, пожалуйста, не делайте отсюда практических выводов). Другое дело, что у упражнений своя иерархия, и результаты одних могут использоваться при рассмотрении других. 5. О теоремах, сообщаемых без доказательства. Таковых в наших лекциях больше, чем это обычно бывает. Как правило, это результаты принципиальной важности, «с именем», имеющие простую и эффектную формулировку. Однако их доказательства достаточно сложны и/или опираются на факты, выходящие за пределы предполагаемых у читателя знаний. Поэтому знать о существовании подобного результата весьма желательно — по нашему мнению, просто необходимо — уже при первом знакомстве с предметом, но тратить время и силы на разбор его доказательства пока не стоит. Типичные примеры — это теорема Энфло — Рида, теорема Милютина и (above all) теорема Гельфанда — Наймарка. Такие теоремы отмечены знаком БД (без доказательства). 6. О технических деталях изложения. Книга делится на главы, а те — на параграфы; ссылка типа «см. § 0.6» относится к § 6 гл. 0. В тексте выделены и независимо пронумерованы в пределах каждого параграфа следующие «математические высказывания»: определения, теоремы, предложения, следствия, примеры и упражнения (есть еще «замечания» и «предупреждения», но у них номеров нет). Ссылаясь, скажем, на предложение 1.2.3 (соответственно предложение 2.3, предложение 3), мы имеем в виду предложение 3 § 2 гл. 1 (соответственно предложение 3 § 2 той же главы, предложение 3 того же параграфа). Теоремы и предложения даются с полными доказательствами, за исключением помеченных сокращением БД (см. п. 5). Разница между теоремами и предложениями чисто субъективная: первые кажутся более весомыми. Наши леммы — это всегда утверждения, вспомогательные по отношению к той или иной конкретной теореме; они и помещены внутри доказательства соответствующих теорем.
14 ПРЕДИСЛОВИЕ Доказательства предложений и лемм окаймлены знаками < и >. Это же относится и к теоремам, за исключением случаев, когда в их доказательстве участвуют леммы; тогда все доказательство теоремы окаймлено двойными знаками << и >>. Сочетание < > означает «очевидно» либо «непосредственно проверяется». Следствие — это то, что всегда очевидно, исходя из доказанного ранее. Знак -<=?• заменяет слова «тогда и только тогда, когда». Знак := означает равенство по определению. Таковы наши благие намерения. А вот насколько эту «декларацию о намерениях» удалось воплотить в жизнь — судить, конечно, Вам. Благодарности В ходе работы над этой книгой мне неоднократно приходилось обращаться с вопросами к своим коллегам — специалистам в той или иной области функционального анализа. В частности, немало просвещенных советов я получил от А. М. Степина и О. Г. Смолянова. Я также благодарен своему другу и ученику А. Ю. Пирковскому, фактически выполнившему роль научного редактора этой книги. Если нам удалось достичь того, что множество ошибок и опечаток в этой книге из «всюду плотного» стало «нигде не плотным», то это целиком и полностью его заслуга. Помимо этого, А. Ю. Пирковский сделал несколько ценных предложений по усовершенствованию текста и, в частности, обогатил его рядом новых полезных упражнений. Кроме того, я благодарен своему другу и ученику С. С. Акбарову, который прочитал часть рукописи и высказал ряд ценных критических замечаний. Наконец, я сердечно признателен издательству Московского Центра непрерывного математического образования за предложение написать этот учебник и Российскому Фонду Фундаментальных Исследований за предоставленный для этого грант.
Глава О ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ На мехмате МГУ лекции по функциональному анализу обычно читают на третьем курсе. Долгие годы, вместе с теорией меры и интеграла, они составляли курс, который назывался «Анализ III». Первый такой курс был прочитан в конце 40-х годов, и лектором был (сам!) Андрей Николаевич Колмогоров. От него пошел обычай начинать лекции по «Анализу III» с изложения азов теории множеств. К тому времени уже мало кто оспаривал исключительную роль теории множеств как базовой науки не только для высших разделов анализа, но и для практически всей современной, по тем понятиям, математики. И все же включение теории множеств в студенческую программу было тогда поистине революционным делом. Не случайно, что о ней начинали рассказывать только на третьем курсе. В середине обучения студенты уже считаются достаточно взрослыми, и их преподаватели тешат себя надеждой, что они обладают определенным математическим багажом и культурой. Перефразируя известное выражение Гильберта, перед ними уже можно открыть врата «рая, созданного для нас Кантором». С той поры, конечно, многое изменилось. Теория множеств давно стала привычным делом и психологически воспринимается немногим сложнее, скажем, аналитической геометрии; теперь ее учат на младших курсах. Но для роли идейного и языкового фундамента современной математики ее уже не хватает. Сейчас эта роль перешла к другой, более молодой дисциплине, находящейся на следующем этаже абстракции. Речь идет о теории категорий, которая в упомянутые выше 40-е годы как раз родилась. (Некоторые любители этой науки предпочитают ее другое, шуточное название «абстрактная чепуха» — воистину унижение паче гордости...) Именно теория категорий играет в наши дни для очень большой и все расширяющейся области математики ту унифицирующую роль, которую раньше играла теория множеств. В частности, эта «абстрактная чепуха» дает универсальный, краткий и весьма удобный язык для выражения огромного числа математических понятий и фактов. На обширном пространстве алгебры, геометрии
16 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ и анализа, включая и современный функциональный анализ, попытка обойтись без этого языка была бы столь же нелепа, как и попытка обойтись без буквенных обозначений Виета. Вот и мы, отдавая дань доброй традиции, открываем изложение анализа для старших курсов с основ «общематематической базовой науки» — но только теперь, в соответствии с требованиями времени, в роли таковой выступит теория категорий. Но прежде чем приступить к категориям, мы проверим наш багаж по теории множеств, линейных и метрических пространств, добавив к этому самые начальные сведения из топологии. (Последнее — из перестраховочных соображений, о которых говорилось в предисловии.) § 1. О множествах, а также линейных и метрических пространствах Начальные понятия, факты и обозначения теории множеств читателю уже известны. В частности, мы будем пользоваться «замороженными» обозначениями Z, Q, R, К+ и С для множеств целых, рациональных, действительных, неотрицательных действительных и комплексных чисел соответственно. Уточним, что натуральными числами мы называем элементы множества 1,2,... и именно это множество обозначаем N, а множество неотрицательных целых чисел, т. е. Nu{0}, обозначаем через Z+. Единичная окружность в С («одномерный тор») обозначается через Т, замкнутый единичный круг (=диск) — через D, а открытый единичный круг — через Ю>°. Множество матриц размера пхпс комплексными коэффициентами обозначается через Мп. Пусть Xv, v 6 Л, — произвольное семейство множеств1*. Рассмотрим для каждого и е А множество Х'и, состоящее из пар (х, v), х е Хи. Множество и{Х^ | v € Л} мы называем дизъюнктным объединением семейства Xv, v е Л, (смысл его — в том, что оно позволяет говорить об «объединении непересекающихся копий» множеств любого заданного семейства). Предупреждение. Термины инъективный, сюръективный и биективный мы употребляем только для отображений множеств, и они имеют обычный смысл, т. е. означают соответственно «отображение, не склеивающее точки», «отображение на», «взаимно однозначное соответствие». В отличие от этого термины '' Употребляя для индексов невыразительное обозначение и, а не, скажем, п, мы желаем подчеркнуть, что речь идет о семействе произвольной мощности, не обязательно счетном.
§1.0 МНОЖЕСТВАХ И ПРОСТРАНСТВАХ 17 «мономорфизм», «эпиморфизм» и «изоморфизм» появятся позже и будут иметь другой, теоретико-категорный смысл, который тогда и будет разъяснен. Образ отображения ip также понимается исключительно в теоретико-множественном смысле и обозначается Введем (напомним?) несколько терминов и обозначений, связанных с заданным отображением множеств <р: X —> Y. Если М — подмножество в X, а <#,: М -* Y — такое отображение, что <р0(х) = <р(х) для всех х е М, то говорят, что <р0 — это ограничение отображения <р на М, a ip — это продолжение отображения <р0 на X. Если же N — подмножество в Y, содержащее Im(<p), a ip°: X —> N — такое отображение, что <?>°(я) = <р(х) для всех хеХ, то говорят, что (р° — это коограничение отображения <р на N, а у? — это копродолжение отображения (р° на Y. Наконец, если для тех же М и N отображение tpfj: М -» N таково, что <р$(х) = <р{х) для всех х е М (коограничение ограничения или, эквивалентно, ограничение коограничения), то говорят, что tpf} — это биограничение отображения <р на пару (М, N), а <р — это бипродолжение отображения <р$ на пару (X, Y). В указанной ситуации ограничение, коограничение и биограничение часто обозначаются символами (р\м, ip\N и (р\^ соответственно. Множество всех отображений из множества X во множество У мы будем часто обозначать Yx (говоря неформально, X в таком обозначении играет роль «показателя декартовой степени»). Как обычно, подмножество множества X называется собственным, если оно не совпадает с X. * * * Под линейным пространством мы обычно подразумеваем (ведь мы уже взрослые) пространство над полем комплексных чисел С. Впрочем, иногда нам придется рассматривать также линейные пространства над полем действительных чисел К (преобладающие на младших курсах), но эти случаи будут оговорены особо. Если М и N — подмножества в линейном пространстве Е, то их алгебраической суммой (или просто суммой) называется множество М + N := {у + z | у G М, z € N}. Если N состоит из одного вектора х, то мы пишем М + х вместо М + {х} и называем такое множество сдвигом множества М на х. Для М С Е и Л е С множество ХМ :={\у\уе М} называется растяжением множества М в Л раз. Мы говорим, что линейное пространство Е разлагается в прямую сумму своих подпространств F и G, и пишем
18 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Е = F © G, если любой элемент х е Е представим, и притом однозначно, в виде у + z, где у € F и z е G. Геометрически это означает, что F + G = E и одновременно F П G = {0}. В указанной ситуации G называется линейным дополнением к F в Е. Пусть X — подмножество в линейном пространстве Е. Его линейной оболочкой называется подпространство span(X) в Е, состоящее из линейных комбинаций векторов из X. Далее, множество X называется выпуклым, если вместе с любыми своими точками х, у оно содержит и весь отрезок {tx+(l — t)y\0^t ^1}. Наконец, множество X называется уравновешенным, если с каждой своей точкой х оно содержит и весь замкнутый круг {Ах | А еЩ. Термин оператор всюду значит линейный оператор; ядро оператора Т также понимается исключительно в смысле линейной алгебры и обозначается Кег (Т). Если Е и F —линейные пространства, то линейное пространство, образованное всеми операторами из Е в F, обозначается C(E,F). Вместо С(Е,Е) пишут С(Е). Если Т ? ?(Е), то подпространство F в Е называется инвариантным подпространством оператора Т (или инвариантным относительно Т), если из того, что х е F, следует, что Т(х) е F. В подобной ситуации биограничение оператора Т на пару (F, F) мы будем называть сужением оператора Т на F. Функционал — это всегда оператор со значениями в поле скаляров. Пространство ?(Е, С), т. е. линейное пространство всех функционалов на Е, называется линейно-сопряженным пространством к Е и обозначается Е1. Для х G Е и / € Е* число /(ж) мы будем иногда, когда это удобнее, обозначать также (/, х). В каждом линейном пространстве Е можно ввести новое умножение на скаляры, положив Ах равным «прежнему» значению Ах (для А € С, х 6 Е). Очевидно, что подлежащее множество пространства Е, наделенное этим новым умножением на скаляры и тем же сложением, что и было, тоже является линейным пространством. Оно называется комплексно-сопряженным к исходному пространству Е и обозначается Е' (пишут также Е, но мы опасаемся путаницы с будущим обозначением пополнения). Далее, отображение Г: Е —> F между двумя линейными пространствами, которое является линейным оператором, будучи рассмотрено как отображение из Е' в F (или, эквивалентно, из Е в F*), называется сопряженно-линейным оператором. В терминах исходных линейных пространств это, конечно, означает^что оператор Т аддитивен и удовлетворяет тождеству Г(Ах) = Ах. Сопряженно-линейный оператор из Е в F, являющийся линейным изоморфизмом между Е{ и F, называется сопряженно-линейным изоморфизмом.
§1.0 МНОЖЕСТВАХ И ПРОСТРАНСТВАХ 19 Многие важные для функционального анализа линейные пространства состоят из последовательностей комплексных чисел. Для этих последовательностей мы примем обозначения ?, т/ и т. п., а для их членов — ?п и т. п., часто используя запись типа ? = (?,, ?2,...). Последовательность, в которой на п-и месте стоит 1, а на остальных местах — нули, мы будем называть п-м ортом и обозначать рп. (Подобное же выражение — к-й орт и обозначение рк мы будем употреблять и для вектора @,..., О, 1,0,..., 0) с единицей на к-м месте в арифметическом n-мерном пространстве С".) Пространство всех последовательностей, т. е., в теоретико-множественных обозначениях, CN, мы будем также обозначать через сж, а его подпространство, состоящее из финитных последовательностей (иными словами, линейную оболочку ортов) — через с^. Иногда мы заранее не знаем, является ли заданный или возникший в ходе рассуждения упорядоченный набор чисел ?,, ?2,... конечным или бесконечным, т. е. идет ли речь об элементе пространства С" для натурального п или же об элементе пространства CN. В подобном случае мы будем употреблять для нашего набора выражение «конечная или бесконечная последовательность». Линейные операторы, образ которых является одномерным (соответственно конечномерным, n-мерным) линейным пространством, мы будем называть одномерными (соответственно конечномерными, п-мерными). Вернемся к множествам. То, что сейчас нам придется обсудить, относится к так называемой строгой, или аксиоматической теории множеств, о которой вряд ли шла речь на младших курсах. В целом эта дисциплина выходит за рамки нашего курса лекций, но несколько понятий и фактов нам необходимы: ими явно или неявно пользуется большая часть современной математики. Прежде всего, к ним относится знаменитая Аксиома выбора (аксиома Цермело). Пусть А — произвольное множество, Хи, иеА, —(индексированное этим множеством А) произвольное семейство попарно непересекающихся непустых множеств. Тогда существует множество, содержащее ровно по одной точке в каждом из множеств этого семейства. Эта аксиома в случае бесконечного (даже счетного) заданного семейства не может быть выведена из других (впрочем, нам неведомых) аксиом строгой теории множеств. Возможно, Вам, читатель, наша «взращенная на конечных множествах» интуиция подскажет, что иного и быть не может — как же иначе? Но поверим классикам науки — зарубежному и отечественному (цит. по [33, с. 3]):
20 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ «Когда в первый раз встречаются с аксиомой Цермело, то она кажется бесспорной и очевидной, но по мере того, как начинают размышлять о ней, она представляется все более и более загадочной, а ее следствия — изумительными; кончают тем, что теряют ее смысл и тогда начинают спрашивать, что же, собственно, она значит?'*» (Б. Рассел). «Я дни и ночи думаю над аксиомой Цермело. Если бы только кто-нибудь знал, что это за вещь!» (Н. Н. Лузин). В свое время аксиома выбора, столь непохожая на другие аксиомы теории множеств — подобно пятому постулату среди аксиом евклидовой геометрии — вызывала жаркие споры. От нее пытались освободиться, но постепенно выяснилось, что на эту аксиому явно или неявно опирается большое число важнейших математических фактов2). Например, логический анализ показывает, что даже стандартное доказательство такого классического факта анализа, как эквивалентность определений предела функции по Коши и по Гейне, неявно использует эту аксиому; см., например, [1, с. 95]. А посему огромному большинству работающих математиков ничего не остается, как принять эту аксиому, вернее, уверовать в нее. Ибо если мы с вами, читатель, не уверуем, то от основных теорем, доказанных в этой книге, останутся рожки да ножки. Аксиома выбора допускает много эквивалентных формулировок, некоторые из которых с виду совсем на нее не похожи. Из них для наших целей наиболее полезна так называемая лемма Цорна. Она выглядит не столь наглядно и требует некоторой подготовки. Нам понадобится понятие порядка на множествах, весьма важное и само по себе. Определение 1. Говорят, что на множестве X задан порядок, если выделено некоторое семейство упорядоченных пар элементов этого множества и, в записи ж -< у вместо «пара (ж, у) принадлежит этому семейству», выполнены следующие свойства: (i) если х -< у и у -< z, то х ¦< z; (ii) всегда ж -< х; (ш) если одновременно х -< у и у -< х, то х — у. Множество с заданным на нем порядком называется упорядоченным множеством. (Отношение ж •< у обычно выражают словами «ж предшествует у».) Порядок называется линейным, если для любых х,уеХ выполнено по крайней мере одно из двух условий: ж -< у либо '' Не правда ли, эти слова Рассела странным образом напоминают бессмертное гоголевское описание Манилова? 2) Я хорошо помню, как много лет назад один наш весьма известный математик пришел на свою лекцию в дурном настроении и почему-то стал его вымещать на аксиоме выбора, обдав ее сарказмом. А через минуту он как ни в чем не бывало начал пользоваться утверждением о том, что каждый идеал кольца содержится в максимальном идеале, по-видимому, забыв о том, что это утверждение доказывается только с использованием аксиомы выбора (а на самом деле ей эквивалентно). Так что не надо быть Иванами, не помнящими родства!
§1.0 МНОЖЕСТВАХ И ПРОСТРАНСТВАХ 21 у -< х. Множество с линейным порядком называется линейно упорядоченным. Заданный порядок на множестве порождает очевидным образом порядок на любом его подмножестве; при этом, очевидно, любое подмножество линейно упорядоченного множества само линейно упорядочено. Любое множество можно, не мудрствуя лукаво, сделать упорядоченным, объявив, что любой его элемент предшествует самому себе, и только. Такой порядок называется дискретным; конечно, он не линеен. Замечание. Этот пример кажется глупым, но это «глупость» Иванушки-дурачка из русских сказок. На самом деле он несет важную смысловую нагрузку и, в частности, избавляет от ненужных иллюзий. Читатель еще много раз получит подтверждение той истины, что практически всякое содержательное математическое определение допускает подобные «глупые», а в действительности весьма полезные примеры. Разумеется, числовые множества N, Z+, Z, Q, R обладают естественным порядком: х -< у есть х ^ у. Множество всех слов русского языка обладает так называемым лексикографическим порядком, принятым в словарях. В каждый момент времени множество всех здравствующих членов английской королевской семьи упорядочено по очередности права на престол (в частности, 1 февраля 2000 г. всем предшествовала ее величество Елизавета II, а всем остальным — его высочество Чарльз, принц Уэльский). Все эти порядки, конечно, линейны. А вот, скажем, множество С обладает порядком, который не линеен: а+ Ы', < с + di, если а^ b и с ^ d. Более важный пример множества с не линейным (или, как еще говорят, частичным) порядком — это множество всех подмножеств заданного множества X, обозначаемое через 2х. Здесь полагают Y <Z, если Y C.Z (либо, что также бывает полезно, если Z С У). Пусть X — упорядоченное множество, Y — его подмножество. Элемент хеХ называется границей для Y, если у -< х для всех у EY. Подмножество, обладающее границей, называется ограниченным (в X). Наконец, элемент хеХ называется максимальным, если он не предшествует никакому другому элементу в X. Очевидно, во множестве с дискретным порядком всякий элемент максимален, в множестве 2х есть ровно один максимальный элемент — само X либо, смотря по смыслу, пустое множество, а в большинстве из остальных указанных примеров максимальных элементов нет. Лемма (Цорна). (БД) Пусть X — упорядоченное множество со следующим свойством: любое его подмножество, являющееся линейно упорядоченным (в смысле порядка, порожденного
22 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ исходным порядком в X), ограничено. Тогда в X есть (хотя бы один) максимальный элемент. Тот факт, что лемма Цорна и аксиома выбора эквивалентны, т. е. каждая может быть выведена из другой, мы в этом курсе принимаем без доказательства. Соответствующее строгое рассуждение см., например, в [27, гл. VII]. * * * Дадим типовой пример применения леммы Цорна, обосновав с ее помощью нужное нам утверждение из линейной алгебры. Пусть Е — линейное пространство. Напомним, что система элементов в Е называется линейно независимой, если любая ее конечная подсистема линейно независима в том смысле, как учат на первом курсе. Далее, линейным базисом (или, как еще говорят, базисом Гамеля) в Е называется семейство элементов (=векторов) е„, i/еЛ, обладающее следующим свойством: каждый элемент х ? Е, х ф 0, представим, и притом единственным образом, в виде линейной комбинации векторов е„ (т. е. в виде J2 А^е^, X„k еС) с отличными от нуля коэффициентами. (Подчеркнем, что речь идет, разумеется, о конечных линейных комбинациях — других в линейной алгебре нет.) Нетрудно видеть (проверьте!), что любые два линейных базиса в линейном пространстве имеют одинаковою мощность. Упражнение 1. Любое (вообще говоря, бесконечномерное) линейное пространство обладает линейным базисом. Указание. Сделайте множество всех линейно независимых систем в заданном пространстве упорядоченным по включению и рассмотрите его максимальный элемент, доставляемый леммой Цорна. Линейной размерностью линейного пространства (обозначение dimi?) называется мощность любого его линейного базиса; как уже упоминалось, от конкретного выбора базиса эта мощность не зависит. Например, как нетрудно усмотреть, линейная размерность пространства финитных последовательностей и пространства многочленов с комплексными коэффициентами от нескольких переменных — это счетная мощность, а линейная размерность пространства всех последовательностей — это континуум. Если F — подпространство в Е, то коразмерностью подпространства F в Е (обозначение codim^F) называется размерность факторпространства E/F. В частности, равенство codimBF = п, где п е N, означает, разумеется, то, что существует п, и притом не меньше чем п, таких векторов х,,..., хп е Е, что Е = span{F, х,,..., х„}.
§1.0 МНОЖЕСТВАХ И ПРОСТРАНСТВАХ 23 Небольшим усложнением упражнения 1 служит Упражнение 2. Любая линейно независимая система в линейном пространстве Е может быть дополнена до линейного базиса в Е. Далее (как следствие), для любого собственного подпространства F в Е существуют: (i) отличный от нуля линейный функционал на Е, равный нулю на F; (и) линейное дополнение к F в Е. Наконец (уже как следствие только что сказанного), любой функционал на F может быть продолжен до функционала на всем пространстве Е. В частности, если Е^О, то на Е существуют отличные от нуля функционалы. Заслуживает внимания еще одна эквивалентная формулировка аксиомы выбора, которую мы снова примем на веру. Элемент упорядоченного множества М называется наименьшим, если он предшествует всем элементам этого множества. (По очевидной аналогии определяется и наибольший элемент; обратите внимание на то, что наибольший элемент всегда максимален, но обратное, вообще говоря, неверно.) Теорема (Цермело). (БД) Во всяком множестве можно ввести такой порядок, что любое его непустое подмножество будет обладать наименьшим (в этом множестве) элементом. Доказательство эквивалентности аксиомы выбора, леммы Цорна и теоремы Цермело см., например, в [27]. ЗАМЕЧАНИЕ. В теореме Цермело речь идет о некоем гипотетическом порядке, явная конструкция которого не указана (на самом деле она даже и не может быть указана) и который вовсе не обязан совпадать с естественным порядком в некоторых стандартных примерах множеств. Например, естественный порядок в R, хотя и линеен, не имеет ничего общего с тем, о котором говорится в обсуждаемой теореме. * * * Теперь уточним используемые нами термины и обозначения из действительного анализа1'. Измеримое пространство (говорят также: пространство с мерой) — это тройка (X, М, р), состоящая из множества X, сг-кольца его подмножеств М и заданной на М счетно-аддитивной меры р.. '* Эту науку Вы уже проходили, вероятнее всего, по книгам [26; 18] и/или [52].
24 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Множества из М называются измеримыми. Если существует такое счетное семейство J\f СМ, что для любого множества YeM и е>0 найдется множество Z еЛ/', для которого p,(Y Л Z) < е, мы будем говорить, что наше измеримое пространство имеет счетный, базис. Для измеримых пространств мы будем, как правило, применять обозначения типа (X, р.), имея в виду, что задание меры уже подразумевает задание ст-кольца М. Отображение между измеримыми пространствами называется измеримым, если прообраз каждого измеримого множества измерим. Измеримое отображение называется собственным, если прообраз каждого множества меры нуль также имеет меру нуль. Как обычно, два отображения между измеримыми пространствами называются эквивалентными, если они совпадают почти всюду. Наиболее важным для нас окажется тот специальный случай, когда X представляет собой действительную прямую К или ее отрезок [а, Ъ]. В этом случае в качестве М будет всегда, если явно не оговорено обратное, рассмотрено сг-кольцо борелевых подмножеств, обозначаемое через BOR или BOR?, если речь идет об R или, соответственно, [а, Ь]. Что такое метрическое пространство и как определяются в нем открытые и замкнутые множества, наш читатель также знает не понаслышке. Мы лишь добавим к этому (впрочем, тоже, скорее, напомним) следующее. Наличие метрики (=расстояния), которую мы будем, как правило, обозначать d(-, •), приводит к выделению нескольких классов отображений соответствующих множеств, тем или иным способом реагирующих на метрику. Определение 2. Пусть р: М1 —> М2 — отображение между метрическими пространствами. Это отображение называется изометрическим, если для всех х, у е М, выполнено равенство d(v(z), (p(y)) = d(x, у); изометрией, если оно является изометрическим и биективным; сжимающим^, если для всех х, у € М, выполнено неравенство d(v(x), <p(y))^d(x, у); равномерно непрерывным, если для любого е > 0 существует такое 8 > 0, что для всех х,уеМи d(x,y)< 8, выполнено неравенство d(tp(x), (р(у)) ^ е; '* Предупреждаем читателя, что часто под сжимающим отображениям понимают то, для которого d(tp(x), <р(у)) < 6d(x, у), где в < 1. Сейчас, однако, более употребительна та терминология, которая принята здесь.
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 25 непрерывным в точке 0% е М,, если для любого е > О существует такое «5 > 0, что для всех х е М,, d(x, Xg) < 6, выполнено неравенство d(<p(x), <p(xq)) ^ е; наконец, (просто) непрерывным, если оно непрерывно в каждой точке пространства Мх. (Немедленно приведите пример непрерывного, но не равномерно непрерывного отображения!) Если М — метрическое пространство, а N — его подмножество, то метрику в N, являющуюся ограничением заданной метрики в М, мы будем называть унаследованной из М. Подмножество в М с унаследованной метрикой называется метрическим подпространством метрического пространства М. Если х е М и г > О, то открытый шар с центром в х радиуса г, т. е. множество тех точек у € М, для которых d(x, у) < г, мы обозначаем через U(x, г). Расстояние от точки геМдо подмножества N с М — это величина d(x,N) := ini{d(x, у) \ у е N}. § 2. Топологические пространства Читатель, конечно, помнит, что такое сходящаяся последовательность в метрическом пространстве. Собственно говоря, понятие метрического пространства и было введено около ста лет назад как структура, позволяющая с удобством говорить о сходящихся последовательностях. Постепенно, однако, выяснилось, что далеко не всякая естественная сходимость, используемая в анализе, может быть задана с помощью некоторой метрики. Упражнение Г. Поточечная (=простая) сходимость в С[0, 1] не может быть задана метрикой. (Последнее означает, что в С[0,1] не существует такого расстояния d, что последовательность хп сходится к х в метрическом пространстве (С[0, 1], d) -t=>- эта последовательность функций сходится к х поточечно.) Указание. Если поточечная сходимость влечет сходимость по метрике, то можно показать, что для любой точки t е [0, 1] и любого е > 0 выполнено неравенство d(y, 0) < е, как только функция у б С[0,1] равна нулю вне достаточно малого отрезка [t, t + h]. Но тогда найдется последовательность (например, среди функций с трапециевидными графиками), сходящаяся к нулю по метрике, но не поточечно. Гораздо больше возможностей у другой структуры — так называемой топологии.
26 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Определение 1. Пусть т — семейство подмножеств некоторого множества П. Это семейство называется топологией (на Г2), если оно обладает следующими свойствами: (i) 0 (= пустое множество) и само Q принадлежат г, (ii) объединение произвольного (т. е. любой мощности) семейства множеств из т принадлежит г, (Ш) пересечение любого конечного семейства множеств из т принадлежит т. Множество с заданной на нем топологией (строго говоря, пара, состоящая из множества и заданной на нем топологии) называется топологическим пространством. Наука, изучающая топологические пространства (а еще больше — непрерывные отображения этих пространств, о которых пойдет речь впереди), называется топологией. Таким образом, топология (как еще, скажем, алгебра, гомология) — это одно из слов, которым обозначают как конкретное математическое понятие, так и целую дисциплину. Если семейство т является топологией, то множества, принадлежащие ему, называются открытыми, а их дополнения в С1 — замкнутыми. Любое открытое множество, содержащее заданную точку, называется окрестностью этой точки. Точка (произвольного) множества ДСП называется внутренней точкой этого множества, если некоторая ее окрестность содержится в Д. Пусть Д — подмножество топологического пространства О. Точка х € П называется точкой прикосновения этого множества, если любая ее окрестность содержит хотя бы одну точку из Д. Далее, точка х еП называется предельной точкой множества Д, если ее любая окрестность содержит хотя бы одну точку из Д, отличную от х, и строгой предельной точкой этого множества Д, если любая ее окрестность содержит бесконечное число точек из Д. (Вскоре мы увидим, что это разные вещи.) Очевидно, подмножество в С1 замкнуто -«=>¦ оно содержит все свои точки прикосновения ¦<=>¦ -<=>• оно содержит все свои предельные точки. Чтобы задать топологию, не обязательно указывать все открытые множества. Пусть (С1, т) — топологическое пространство. Совокупность т0Ст называется его базой, если каждое множество из г есть объединение некоторого (вообще говоря, произвольной мощности) семейства множеств из т0. Совокупность тж называется предбазой этого пространства, если всевозможные конечные пересечения множеств из т^ образуют его базу. Предложение 1. Пусть Q — множество, а т^ — любая совокупность его подмножеств, содержащая 0 и П. Тогда
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 27 существует единственная топология на П, предбазой которой служит Toq. < Обозначим через т0 совокупность всевозможных конечных пересечений множеств из тж, а через г — совокупность всевозможных объединений множеств из т0. Очевидно, т — топология с предбазой тж. Пусть, далее, т' — некоторая топология с предбазой т^. Тогда из определения предбазы очевидным образом следует, что т' С т. В то же время из включения тж С т' и определения топологии следует, что т С т'. о Следующее почти очевидное предложение доставляет альтернативный подход к определению топологического пространства, при котором за основу берутся его замкнутые, а не открытые подмножества. Предложение 2. Пусть Q — топологическое пространство, а — его совокупность замкнутых подмножеств. Тогда О') 0, Q б а, (и') пересечение произвольного семейства множеств из а принадлежит а, (Ш') объединение любого конечного семейства множеств из а принадлежит а. Далее, если Q — произвольное множество, ас — некоторая совокупность его подмножеств, обладающая вышеприведенными свойствами, то совокупность, состоящая из дополнений к множествам из а в Q, является топологией в Q. <з t> Отсюда, в частности, следует, что для любого подмножества S в Q пересечение всех замкнутых множеств, содержащих S, само замкнуто, а потому является наименьшим из всех содержащих S замкнутых множеств. Это множество, обозначаемое нами S~, называется замыканием множества S. Как легко видеть, замыкание множества — это в точности множество его точек прикосновения. Пусть С1 — топологическое пространство, a S — его произвольное подмножество. Тогда, взяв пересечения подмножества S со всевозможными открытыми множествами в О, мы, очевидно, получим топологию в S. Про такую топологию мы будем говорить, что она унаследована из П. Само подмножество S, рассмотренное с этой топологией, называется топологическим подпространством в С1. Далее, если п — сюръективное отображение топологического пространства fi на некоторое множество Д, то, взяв в Д те подмножества, прообразы которых открыты в Q, мы снова получим топологию. Множество Д, рассмотренное с построенной подобным
28 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ способом топологией, называется топологическим факторпро- странством пространства С1, порожденным отображением я-. От общих конструкций мы переходим к примерам. Вот Вам дают произвольное множество С1 и требуют немедленно снабдить его какой-либо топологией. Тогда Вы наверняка предложите одну из двух возможностей (а уж какую — зависит от Вашего темперамента; наверное, холерики предложат первый пример, а меланхолики — второй). Пример 1. Открытыми множествами объявлены все без исключения подмножества в С1. Такая топология называется дискретной, а пространство С1 с этой топологией — дискретным топологическим пространством. ПРИМЕР 2. Открытыми множествами объявлены только два обязательных: 0 и само Cl. Такая топология называется антидискретной, а пространство Cl с этой топологией — антидискретным топологическим пространством, или, как еще образно говорят, пространством слипшихся точек. Пусть S и Т — подмножества топологического пространства Cl. Говорят, что подмножество S плотно (или всюду плотно) в Т, если каждая окрестность точки из Т содержит точку из S. (Проверьте, что это эквивалентно тому, что Т лежит в замыкании множества 5.) Топологическое пространство называется сепара- бельным (чрезвычайно важное понятие!), если оно содержит плотное в нем подмножество, которое не более чем счетно. Например, дискретное пространство сепарабельно тогда и только тогда, когда оно само не более чем счетно. Антидискретное пространство всегда сепарабельно. При доказательстве сепарабельности ряда пространств и в других вопросах удобно следующее очевидное Предложение 3. Пусть Е, F, G — подмножества в топологическом пространстве Cl, причем Е плотно в F, a F —в G. Тогда подмножество Е плотно в G. < > Следующий факт, напротив, позволяет распознавать заведомо не сепарабельные пространства. Предложение 4. Пусть А — подмножество в сепарабельном топологическом пространстве Cl, у точек которого существуют попарно непересекающиеся окрестности. Тогда подмножество А не более чем счетно.
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 29 < Если Ux, х G А, — упомянутые окрестности, а П0 — плотное не более чем счетное подмножество в ?1, то, произвольным образом сопоставив каждому элементу х е А точку из Ц,, лежащую в Ux, мы получим инъективное отображение из А в Ц,. Дальнейшее очевидно. > Следствие 1. Пусть N — такое подмножество в сепарабель- ном метрическом пространстве М, что для некоторого в > О для всех x,yeN, хфу, выполнено неравенство d(x,y)^6. Тогда подмножество N не более чем счетно. Упражнение 2. В несепарабельном метрическом пространстве найдется такое несчетное подмножество N, что для некоторого в >0 для всех x,y€N, хфу, выполнено неравенство d(x, у) ^ в. Пусть т, и т2 — две топологии на одном и том же множестве Г2. Говорят, что т, не сильнее (или не тоньше), чем т2, если каждое множество, открытое в смысле первой топологии, открыто и в смысле второй, т. е. попросту т, С т2. В этой же ситуации говорят, что т2 не слабее (или не грубее), чем т,. Сильнее (=тоньше) — это значит «не слабее и не совпадает», а слабее (=грубее) — это значит «не сильнее и не совпадает». Обсуждая те же топологии, выделим очевидное Предложение 5. Первая топология не слабее второй тогда и только тогда, когда для любого подмножества в П каждая его точка, являющаяся внутренней относительно первой топологии, является внутренней и относительно второй. Две топологии совпадают тогда и только тогда, когда каждое подмножество в Q имеет относительно этих топологий один и тот же запас внутренних точек. < t> Теперь ответим на вопрос, наверное возникший у читателя: по какому праву мы употребляем термины «открытое» и «замкнутое» множество? Ведь они уже встречались в контексте метрических пространств и там, казалось бы, имеют совсем другой смысл. Путаницы, однако, не возникает. Предложение 6. Пусть (M,d)—метрическое пространство. Тогда совокупность его открытых (в смысле заданной метрики) подмножеств является топологией. < Элементарная проверка показывает, что выполнены свойства, фигурирующие в определении 1. > Таким образом, любое метрическое пространство автоматически является топологическим, и при этом оба смысла термина «открытое множество» согласованы. Соответствующую топологию метрического пространства мы будем называть топологией, порожденной (или индуцированной) заданной метрикой. Разумеется, оба
30 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ смысла таких понятий, как «замкнутое множество», «внутренняя точка», «замыкание», «плотное подмножество» и «сепарабельное пространство» также согласованы (объясните, почему). Топология, для которой существует порождающая ее метрика, называется метризуемой, а соответствующее топологическое пространство — метризуемым. Как простейший пример, всякое дискретное топологическое пространство П метризуемо: его топология порождена так называемой дискретной метрикой по правилу d(x, у) — 1 ПРИ х Ф У и (будем последовательны!) d(x, у) = 0 при х = у. Кстати, уже этот пример показывает, что разные метрики могут порождать одну и ту же топологию: нетрудно показать, что топология, порождаемая метрикой d, дискретна тогда и только тогда, когда для любой точки igf! выполнено неравенство mi{d(x,y)\yen\{x}}>0. Другой, классический для анализа, пример метризуемого топологического пространства — это расширенная комплексная плоскость С (= сфера Римана; см., например, [47]). Вопрос о том, какие топологии метризуемы, а какие нет — это одна из важнейших общих проблем топологии (см., например, [23]). В нашем курсе мы лишь укажем весьма «грубое» необходимое условие метризуемости, имеющее и большую самостоятельную важность. Определение 2. Топологическое пространство называется ха- усдорфовым1) (или отделимым), если любые две его различные точки обладают непересекающимися окрестностями. Отметим то полезное свойство указанных пространств, что каждое одноточечное подмножество хаусдорфова пространства замкнуто (ибо все точки его дополнения — внутренние). Впрочем, этим свойством могут обладать и другие пространства; ср. далее пример 4. Предложение 7. Любое метризуемое топологическое пространство хаусдорфово. < Если х и у — различные точки топологического пространства, топология которого порождена метрикой d, то в качестве искомых окрестностей достаточно взять открытые шары U(x, г) и U(y,r), где r = ^d(x, у), о Отсюда немедленно следует, что любое антидискретное пространство, состоящее более чем из одной точки, не метризуемо. ЗАМЕЧАНИЕ. В метрических пространствах, как Вы хорошо знаете, всякая предельная точка автоматически удовлетворяет ') В честь одного из основателей топологии Феликса Хаусдорфа.
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 31 и определению строго предельной точки. Как легко видеть, то же верно и для любых хаусдорфовых пространств. Однако для общих топологических пространств это уже не так. Простейший контрпример дает антидискретное пространство из двух точек. Разумеется, любое топологическое подпространство хаусдорфова пространства само хаусдорфово. В то же время переход к топологическим факторпространствам уже не всегда сохраняет хаусдорфовость (постройте пример!). Примеры неметризуемых хаусдорфовых пространств у нас появятся позже (см., например, пространства со слабыми топологиями или пространство пробных функций Т> в гл. 4). Много нехаусдорфовых топологических пространств можно построить с помощью несколько более общей структуры, чем метрика. А именно, пусть М — множество. Функция d: М х М —> К+ называется предметрикой или предрасстоянием (вместо «пред» говорят также «квази»), если для любых x,y,zeM выполнены условия d(x, х) = 0, d(y, х) = d(x, у) и d(x, z) < d(x, у) + d(y, z). (Иными словами, предметрика обладает свойствами метрики, за исключением того, что равенство d(x,y) = 0 уже, вообще говоря, не влечет равенство х — у.) Важный пример предметрики Вам уже в неявном виде встречался в теории меры. ПРИМЕР 3. Пусть (X, М, р.) — измеримое пространство. Определим предметрику на множестве М формулой d(X, Y) :=р,(Х Д Д У). (Проверьте требуемые свойства и то, что это, вообще говоря, не метрика.) Множество с заданной предметрикой называется предметри- ческим пространством. В предметрическом пространстве дословно так же, как в метрическом, определяются открытые шары, внутренние точки множеств и, наконец, открытые множества. Употребление последнего термина не приводит к путанице, о чем свидетельствует очевидное Предложение 8. (Ср. предложение 7.) Пусть (М, d) — пред- метрическое пространство. Тогда совокупность его открытых (в смысле заданной метрики) подмножеств является топологией. При этом соответствующее топологическое пространство хаусдорфово тогда и только тогда, когда заданная предметрика является метрикой. < > По аналогии с «метрическим» случаем, мы можем говорить о топологии, порожденной предметрикой, и предметризуемых топологических пространствах; смысл этих терминов ясен. Разумеется, антидискретная топология всегда порождается предметрикой, а именно d(x, у) = 0. Простейший пример не пред- метризуемого топологического пространства — это, по-видимому,
32 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ двухточечное множество {0, 1}, в котором открытым множеством, кроме двух обязательных, объявлено еще одноточечное множество {0} (проверьте!). Подмножество N предметрического пространства называется ограниченным, если ограничено числовое множество {d(x, у)\ I х, у е N}. Верхняя грань последнего называется диаметром множества N. Излагая начала топологии в рамках курса по функциональному анализу, нам не хотелось бы создать у читателя впечатление, что топология нужна лишь для этой дисциплины. На самом деле ее идеи и методы пронизывают практически всю современную математику. Но если в функциональном анализе наиболее привычными являются метризуемые либо, говоря нестрого, «близкие к метризуемым» топологические пространства, то, скажем, в алгебре и алгебраической геометрии картина совсем иная. Чтобы не быть голословными, мы приведем пример топологического пространства, довольно экзотического для функционального анализа, но зато типичного и необходимого для алгебры. Речь пойдет о так называемой топологии Зарисского в арифметическом комплексном пространстве С". Пользуясь предложением 2, для определения этой топологии мы укажем запас не открытых, а замкнутых множеств. Для п = 1 все предельно просто. Пример 4. Объявим замкнутыми подмножествами в С, помимо обязательных 0 и самого С, все конечные множества. Свойства (i')-(iii') из предложения 2 проверяются очевидным образом, и, стало быть, возникает топология. Это и есть топология Зарисского в С, весьма непохожая, как мы видим, на обычную топологию, принятую в комплексном анализе. В случае произвольного n е N поступают следующим образом. Для любого конечного набора многочленов р,,..., рт от п комплексных переменных положим V„^ :={* = (*„...)*B)eCn|pI(*) = ... = pm(*) = 0} (мы берем, таким образом, множество общих корней этих многочленов). Совокупность всех подобных множеств («алгебраических поверхностей»), вкупе со всем С", обозначим через а. Разумеется, множество <т обладает свойством (i') из предложения 2. Чуть сложнее следующий результат. Упражнение 3. Совокупность <т удовлетворяет и условию (iii') того же предложения. А вот предложить нашему читателю проверить условие (И') мы, пожалуй, не рискнем: это значило бы потребовать от него повторить одно из замечательных достижений молодого Гильберта. Дело вот в чем. Упражнение 4°. Следующие утверждения эквивалентны: (i) совокупность а удовлетворяет и условию (И') предложения 2; (ii) для любого (произвольной мощности) набора многочленов р„, v 6 Л, существует такой конечный набор многочленов ql,...,qk, что {.z е С" | ?„(•*) = ° Для всех vek}=Vq ^. (Второе утверждение — это одна из эквивалентных формулировок, с точностью до несущественного упрощения, знаменитой «теоремы Гильберта о базисе», см., например, [28]).
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 33 Таким образом — правда, не обойдясь без вызова тени Гильберта, — мы видим, что множество а обладает всеми свойствами системы замкнутых множеств и, стало быть, задает в С" топологию. Такова топология Зарисского для произвольного п; разумеется, при п = 1 мы получаем топологию, указанную в примере 4. Как легко видеть, для любого п е N пространство С" с топологией Зарисского не только не хаусдорфово и поэтому не метризуемо, но и не предметризуемо (проверьте!). Дадим определение, выделяющее важнейший тип отображений между топологическими пространствами. Определение 3. Пусть Cl и Д — топологические пространства. Отображение tp: Cl —* А называется непрерывным в точке xeCl, если для любой окрестности U точки ц>(х) в Д существует такая окрестность V точки х в Cl, что p(V)C U. Отображение из Cl в Д называется (просто) непрерывным, если оно непрерывно в любой точке пространства Cl. Это определение очевидным образом согласовано с понятием непрерывности в контексте метрических пространств (см. § 1). Следующее предложение проверяется непосредственно. Его утверждение, касающееся прообразов открытых множеств, доставляет эквивалентное определение непрерывности, которое часто используется в учебниках в качестве исходного. Предложение 9. Отображение между топологическими пространствами Cl и А непрерывно <=>¦ прообраз каждого открытого множества в А открыт в Cl -<=>- прообраз каждого замкнутого множества в А замкнут в Cl. При этом для непрерывности отображения достаточно, чтобы для некоторой предбазы топологии пространства А прообраз каждого множества из этой предбазы был открыт в Cl. < t> Из части этого утверждения, касающейся замкнутых множеств, сразу следует полезное Предложение 10. Если <р: Cl -> Д — непрерывное отображение между топологическими пространствами и пространство А хаусдорфово, то прообраз каждого одноточечного множества в А замкнут в Cl. < > Упражнение 5°. (i) Топологическое пространство Cl дискретно •$=>• для любого топологического пространства Д любое отображение из Cl в Д непрерывно. (и) Топологическое пространство Cl антидискретно Ф=Ф- для любого топологического пространства Д любое отображение из Д в Cl непрерывно. ЗАМЕЧАНИЕ. В отличие от только что рассмотренного понятия (просто) непрерывного отображения, понятие равномерно
34 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ непрерывного отображения метрических пространств, упомянутое в предыдущем параграфе, не имеет разумного аналога для топологических пространств. Роль более общей структуры, допускающей подобный аналог, играют не топологические, а так называемые равномерные пространства; о них см., например, [23]. Множество всех непрерывных комплекснозначных функций (= отображений в С), заданных на топологическом пространстве Cl, обозначается через С(С1). Очевидно, это линейное пространство относительно поточечных операций. (Каково множество С(С1) для дискретного и каково для антидискретного пространства Cl?) Выделим несколько важных классов непрерывных отображений топологических пространств. Пусть (р: Cl —> Д — такое отображение. Оно называется гомеоморфизмом, если оно обладает непрерывным обратным; топологически инъективным, если оно осуществляет гомеоморфизм Cl на образ Im tp, где последний рассмотрен как топологическое подпространство в Д; открытым, если образ каждого открытого множества в Cl открыт в Д; наконец, топологически сюръективным, если оно сюръективно и заданная топология в Д совпадает с топологией соответствующего топологического факторпространства. Мы видим, таким образом, что отображение между топологическими пространствами — гомеоморфизм ¦<=>• оно сюръективно и топологически инъективно -Ф=Ф- оно инъективно и топологически сюръективно. Определение 4. Путем в топологическом пространстве Cl называется (произвольное) непрерывное отображение 7: [0, 1]—*С1. При этом говорят, что данный путь соединяет точки 7@) и 7A). Топологическое пространство, любые две точки которого могут быть соединены путем, называется линейно связным. Ранее нами было голословно заявлено, что топология дает большие возможности, чем метрика, для изучения сходимостей. Покажем, что это действительно так. Стандартное понятие сходимости по метрике очевидным образом подсказывает Определение б. Пусть xn, n е N, — последовательность элементов топологического пространства Cl. Говорят, что эта последовательность сходится к элементу xeCl, который называется ее пределом, если для любой окрестности U элемента х существует такое натуральное N, что xneU при п> N.
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 35 Упражнение 6. В пространстве С[0, 1] существует такая топология, что сходимость последовательности в этой топологии совпадает с поточечной сходимостью (хотя и не существует метрики с подобными свойствами; см. упражнение 1). Указание. В качестве предбазы следует взять множества, индексируемые тройками (/еС[0, 1], t е[0, 1], е>0) и определяемые *a*UUt = {geC[0,l]\\f(t)-g(t)\<e}. Топологическим аналогом утверждения о единственности предела в метрических пространствах служит следующее очевидное Предложение 11. В хаусдорфовом пространстве у всякой последовательности элементов существует не более одного чредела. < > Бывают и не хаусдорфовы пространства, в которых предел последовательности, если он существует, единствен. Таковым, например, является любое несчетное пространство ft, в котором замкнутыми подмножествами, помимо обязательных ft и 0, объявлены все конечные и счетные множества: Вы можете легко проверить, что там каждая сходящаяся последовательность постоянна, начиная с некоторого номера. Однако просто отбросить условие хаусдорфовости, конечно, нельзя. Например, в антидискретном пространстве дюбая точка является пределом любой последовательности. В метризуемых и, более общо, предметризуемых пространствах топология полностью определяется в терминах сходящихся последовательностей. Об этом говорит Предложение 12. Пусть U — подмножество предметризуе- яого топологического пространства М. Множество U открыто тогда и только тогда, когда для любой последовательности хш е М, сходящейся к точке xeU, все ее элементы, начиная с некоторого номера, принадлежат U. < Зафиксируем некоторую предметрику d, порождающую данную топологию. Пусть множество U не открыто, т. е. некая точка х е U не является внутренней. Тогда для любого n е N открытый шар с центром в х и радиусом 1/п не лежит целиком в U, а это значит, что найдется такая точка хп е М, что d(x, хп) < 1/п, но х„ ^ U. Отсюда последовательность хп сходится к х и в то же время вообще не содержит точек из U. Дальнейшее очевидно. > Следствием этого предложения является «эквивалентность непрерывности по Коши и по Гейне» для отображений рассматриваемого класса пространств. Предложение 13. Пусть tp: П-»Д — отображение между двумя топологическими пространствами. Тогда если отобра-
36 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ жение (р непрерывно, то для любой последовательности хп е Si, сходящейся к некоему элементу х е ft, последовательность р(хп) сходится к <р(х). Если же пространство ft вдобавок предметризуемо, то верно и обратное. < Первое утверждение проверяется очевидным образом. Пусть теперь пространство ft предметризуемо, а <р «сохраняет сходящиеся последовательности». Возьмем открытое множество U в Д и рассмотрим его прообраз V в ft. Если последовательность хп в ft сходится к точке х, принадлежащей V, то, в силу сделанного допущения, последовательность у(х„) сходится к у(х). Поскольку V?(x) е U, а множество U открыто, последовательность f(xn), начиная с некоторого номера, лежит в U, а стало быть, последовательность хп, начиная с того же номера, лежит в V. Но тогда, согласно предыдущему предложению, множество V открыто. Мы проверили эквивалентное определение непрерывности, доставляемое предложением 9. > Наконец, выделим важное для приложений Предложение 14. Пусть ft — произвольное топологическое пространство, а А — хаусдорфово топологическое пространство, М — плотное подмножество в ft, и <р,ф: ft —> Д — непрерывные отображения. Пусть, далее, риф совпадают на М.Тогда ip — ф. < Пусть, напротив, для некоторой точки х е ft точки у := <р(х) и г:=ф(х) различны. Возьмем непересекающиеся окрестности Vy и Vt этих точек. По условию окрестность U := 4>~l(Vy)r\ ip~l(Vz) точки х содержит хотя бы одну точку х' е М. Поскольку р(х') € Vy и ¦ф(х') е 1^, эти точки различны. Но это противоречит тому, что 4>\m = ^\m-> В общих топологических, пусть даже хаусдорфовых пространствах ни топология, ни непрерывность отображения уже не могут быть охарактеризованы в терминах сходящихся последовательностей. Есть такие примеры и «внутри» функционального анализа; см. далее упражнение 4.2.4. Что же касается топологии, то, чтобы это увидеть, достаточно взять любое не дискретное пространство, в котором каждая сходящаяся последовательность, начиная с некоторого номера, постоянна. Одно такое пространство по другому поводу уже недавно упоминалось. (Более сложный, но зато чрезвычайно важный для общей топологии пример — «пространство /?N»; см. [63, следствие 3.6.15].) На такие пространства, разумеется, нельзя перенести ни предложение 12, ни предложение 13 (объясните, почему). Подобные неудобства, однако, исчезают, если вместо последовательностей рассмотреть более общее понятие — так называемые направленности. Определение 6. Упорядоченное множество Л называется направленным, если для любых \,цеЛ существует такое v еЛ, что А -< v и р < и (иными словами, если любое двухточечное подмножество в Л ограничено). Отображение из направленного множества в (произвольное) множество X называется направленностью в X.
§ 2. ТОПОЛОГИЧЕСКИЕ ПРОСТРАНСТВА 37 Для элемента в X, сопоставленного элементу и еА, обычно принято обозначение -ипа хи\ это, как говорят, член направленности с индексом v. Разумеется, последо- ытельность — это частный случай направленности с множеством N в качестве Л. Определение 7. Пусть х„, v е Л, — направленность в топологическом пространстве С1. Точка х eil называется пределом этой направленности, если для любой окрестности U этой точки существует такой элемент А € Л, что для всех v G Л, Замечание. Наш читатель наверняка сталкивался в своей математической жизни хотя бы с одним примером «настоящей» направленности, не являющейся последовательностью. Вспомните, как вводился определенный интеграл Римана: именно как предел направленности интегральных сумм — хотя, возможно, вещи еще не назывались своими именами. (Точно укажите соответствующее направленное множество.) Упражнение 7. (Ср. предложение 12.) Пусть U — подмножество (произвольного) топологического пространства П. Множество U открыто тогда и только тогда, когда для любой направленности xu G П, v е Л, сходящейся к некоторой точке xeU, существует такой элемент А еЛ, что для всех i/бЛ, А ч v, выполнено включение z„eU. Указание. Если точка х не является внутренней в U, то можно взять в качестве А совокупность всех окрестностей этой точки с порядком *U -< V, значит, V С U* и сопоставить каждой окрестности ее точку, не лежащую в U. Упражнение 8. Пусть <р: О, -+ Д — отображение между двумя топологическими пространствами. Отображение <р непрерывно тогда и только тогда, когда для любой направленности xv е П, v 6 Л, сходящейся к некоему элементу х, направленность f(xj) сходится к <fi(x). Указание. Это следует из предыдущего упражнения. В терминах направленностей (в отличие от последовательностей; см. выше) можно охарактеризовать и свойство хаусдорфовости. Упражнение 9. Топологическое пространство хаусдорфово тогда и только тогда, когда любая его направленность имеет не более одного предела. Указание. Пусть точки х и у не обладают непересекающимися окрестностями. В качестве множества А можно взять множество всевозможных пар (Ux, Uy) окрестностей наших точек с порядком «(i/J, Uy) -< (U%, 1/у2), значит, U% С l/J и U* С U^», а затем каждой такой паре окрестностей сопоставить точку из их пересечения. Заканчивая наше введение в топологию, хотелось бы отметить следующее. Разумеется, уже сделанное Вами упражнение 6 — отнюдь не единственный пример того, насколько топология эффективнее метрики; мы еще неоднократно в этом убедимся, изучая двойственность, обобщенные функции и другие вопросы. И все же в анализе есть важные типы сходимостей, которые «не берет» даже топология. Упражнение 10 (О. Г. Смолянов). На множестве измеримых функций на отрезке сходимость (последовательности) почти всюду не может быть задана никакой топологией. Указание. Надо сопоставить следующие факты: (i) последовательность, сходящаяся по мере, не обязана сходиться почти всюду, но содержит подпоследовательность, сходящуюся почти всюду, и (и) последовательность, не сходящаяся к заданной точке топологического пространства, содержит подпоследовательность, лежащую вне некоторой окрестности этой точки.
38 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ § 3. Категории и их первые примеры Говоря о совокупностях или семействах каких-то объектов, мы будем в одних случаях говорить «множество», а в других — «класс». Дело в том, что употреблять в строгом математическим смысле один и тот же термин, скажем, множество, для всех мыслимых совокупностей нельзя. Например, допуская понятие «множества всех множеств», мы придем к ряду известных парадоксов, столь омрачивших когда-то последние годы Кантора. Поэтому там, где мы не уверены, что можно говорить о множествах, — а это касается, говоря нестрого, «слишком больших» совокупностей, мы будем, как это принято, говорить «класс». Получается, что всякое множество есть класс, но не наоборот: скажем, класс всех линейных пространств не есть множество. Для наших нужд подобный «наивный» выход из положения вполне достаточен. В строгой теории множеств все, конечно, гораздо сложнее. Рассказ о том, что там понимается под множествами и что — под классами и почему подобная «игра в термины» спасает нас от противоречий, выходит за рамки этой книги; см., например, [23]. (Мы лишь намекнем, что множествами целесообразно считать в точности те классы, которым разрешено быть элементами других классов.) Теперь мы можем познакомить читателя с одним из основных понятий современной математики. Определение 1. Говорят, что задана категория (обозначаемая, скажем, К), если выполнены следующие условия. I. Указан некий класс ОЬ(К), элементы которого называются объектами категории К (они, как правило обозначаются буквами X,Y,..., и мы часто позволим себе писать X € /С, имея в виду X е ОЬ{К)). II. Для каждой упорядоченной пары X, Y € /С указано множество (на этот раз именно множество!) hK(X, Y), элементы которого называются морфизмами из X в Y или морфизмами между X и Y. (Выражение ip е h^X, Y) записывается также у>: X —> Y или X —> У; удобство такого обозначения стрелками — как будто бы речь идет об отображениях множеств — выявится позже.) При этом объект X называется началом, a Y — концом морфизма </?. III. Для каждой тройки X, Y, Z е К. и пары р: X —» У, ф: Y -» Z (конец первого морфизма совпадает с началом второго) определен морфизм из X в Z, называемый композицией морфизмов <р и ф. (Этот морфизм обозначается ф ° Ч> или просто фц>\ обратите внимание на порядок символов.)
§ 3. КАТЕГОРИИ И ИХ ПЕРВЫЕ ПРИМЕРЫ 39 При этом предполагаются выполненными два свойства: (i) (Ассоциативность композиции.) Для любых X, Y, Z, U € К., р: Х-tF, ф: Y —> Z и х- Z -+ U выполнено равенство (\оф)о1р = хо{фоф). (Иначе говоря, если морфизм {хоФH{Р< или, что эквивалентно, % ° (Ф ° V) имеет смысл, то эти два морфизма совпадают.) (ii) Для всякого X е/С существует такой морфизм 1Х: X —>Х, называемый локальной единицей для X, что для любого Ye 1С и <р: X —» Y, соответственно ф: Y —* X, выполнено равенство <polx = <p, соответственно \хоф = ф. (Иначе говоря, если имеет смысл i^ol^, то это <р, а если имеет смысл 1Х о ф, то это ф.) Итак, категория состоит из трех «ингредиентов» — объектов, морфизмов и закона композиции, удовлетворяющих двум аксиомам — ассоциативности композиции и наличию локальных единиц. Разумеется, ассоциативность композиции, точно так же, как н в случае ассоциативного умножения в алгебре, позволяет употреблять выражения вида <р,о<р2о.. .otpn и произвольно расставлять в них скобки; только теперь не всякое из подобных выражений имеет смысл. Если категория фиксирована, мы часто будем писать h(X, Y) вместо h^X, Y). Класс всех морфизмов категории К., т. е. объединение h^(X, Y) по всем X, Y е 1С, обозначается- hK. Иногда, если нет опасности путаницы, мы будем писать ip 6 /С вместо ip 6 hK. Морфизм с одинаковыми началом и концом (как, скажем, локальная единица) называется эндоморфизмом. Предложение 1. Для каждого объекта существует только одна локальная единица. < Если 1'х — еще один претендент на звание локальной единицы » X, то, в силу свойства (ii), \х\'х = \хтл в то же время \х\'х = \'х. > Категория /С называется подкатегорией категории С, если всякий объект и морфизм в К. суть соответственно объект и морфизм в С, композиция морфизмов в /С — та же, что и в С, и, наконец, всякая локальная единица в К. есть локальная единица в ?. Подкатегория называется полной, если для любых X,Y € К. выполнено равенство hK(X, Y) = hc(X, Y). А теперь мы приглашаем читателя в зоопарк разнообразных примеров категорий. Везде мы, как правило, ограничимся указанием объектов, морфизмов и закона композиции; во всех случаях аксиомы категории проверяются очевидным образом. Как водится (ср. сказанное в § 1), первый пример производит обманчивое впечатление «глупого».
40 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ ПРИМЕР 1. Любой заданный класс превращается в категорию, объектами которой объявляются его элементы, а морфизмами — локальные единицы, и только они. Такая категория называется дискретной. А вот уже настоящий «пример из жизни». Пример 2. Категория множеств Set. Ее объекты — это произвольные множества, морфизмы — отображения множеств, композиция морфизмов — обычная композиция отображений, локальные единицы — тождественные отображения. Вообще, в исторически первых примерах категорий объектами служили множества с той или иной заданной на них структурой, а морфизмами — отображения множеств, должным образом согласованные с такой структурой. Именно на этих примерах было постепенно осознано, что в содержательной математической теории, определив объекты, надо всегда объяснить, каковы морфизмы, и что, вообще говоря, «морфизмы важнее объектов». Влияние этих идей на современную математику трудно переоценить. Во всех примерах указанного типа композицией морфизмов является их композиция как отображений, а локальной единицей — морфизм, являющийся тождественным отображением. Это будет всегда подразумеваться. Пример 3. Категория линейных пространств (напоминаем — над полем комплексных чисел) LIN. Ее объекты — это линейные пространства, морфизмы — операторы. У этой категории есть важная полная подкатегория FLIN, состоящая из конечномерных пространств. Обратим внимание, что LIN не является подкатегорией в SET, поскольку на одном и том же множестве можно задать разные структуры линейного пространства. (Ведь, говоря формально, линейное пространство — это не множество, а пара, состоящая из множества и заданной на нем линейной структуры.) Из чисто алгебраических категорий, наряду с Lin, упомянем о категории абелевых групп Ав, категории (всех) групп GR, разумеется, содержащей первую в качестве полной подкатегории, и о категории всех (не обязательно обладающих единицей) колец RlN; морфизмы в каждой из них — это то, что называется гомоморфизмами (групп либо, смотря по смыслу, колец). Некоторые алгебраические категории, важные для функционального анализа, будут упомянуты позже (см. § 5.2 и 6.3). Пример 4. Категория упорядоченных множеств Ord. Ее объекты — это упорядоченные множества, морфизмы — так назы-
§ 3. КАТЕГОРИИ И ИХ ПЕРВЫЕ ПРИМЕРЫ 41 заемые монотонные, т. е. сохраняющие порядок (ясно, что это значит) отображения. ПРИМЕР 5. Категория метрических пространств Мет. Ее эбъекты суть метрические пространства, морфизмы — непрерывные отображения. Указанная категория, пожалуй, самая важная из категорий, используемых в теории метрических пространств. В ряде вопросов этой теории, однако, имеет смысл рассматривать и некоторые другие категории, в частности МЕТи и МЕТ,. Их объектами служат, как и в Мет, все метрические пространства, но в качестве морфизмов э первой из них взяты лишь равномерно непрерывные отображения, а во второй — сжимающие отображения. Разумеется, МЕТи — подкатегория в Мет, а Мет, — в Метц, и обе эти подкатегории не полны. Пример 6. Категория топологических пространств Тор. Ее объекты — это топологические пространства, морфизмы — непрерывные отображения. У этой категории есть важная полная подкатегория НТор, состоящая из хаусдорфовых пространств. Последняя, в свою очередь, содержит полную подкатегорию, состоящую из метризуемых топологических пространств. (Заметьте — метризуемых, а не метрических: МЕТ не есть подкатегория в ТОР по той же причине (какой?), по которой LIN не есть подкатегория в SET.) Как и в теории метрических пространств, в действительном анализе (и смежных вопросах эргодическои теории) возможны несколько разумных подходов к тому, какие отображения измеримых пространств считать согласованными с их структурой. Соответственно, в этих науках можно говорить о нескольких содержательных категориях. Мы приведем лишь одну из них. ПРИМЕР 7. Категория MEAS. Ее объекты — это измеримые пространства. Что же касается морфизмов, то, в соответствии с общим принципом действительного анализа не различать эквивалентные отображения, таковыми объявлены классы эквивалентности измеримых собственных отображений между соответствующими пространствами (см. § 1). Композиция морфизмов определяется как класс эквивалентности композиций представителей исходных классов (проверьте, используя «собственность» выбранных отображений, корректность такого определения). Аксиомы категории проверяются без труда, причем локальными единицами, очевидно, (шляются классы эквивалентности тождественных отображений. Приведенные примеры наводят на мысль, что различные «современные» математические науки изучают «свои» категории, или,
42 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ вернее, классы категорий. В общем, это действительно так, хотя и с известной долей упрощения. (В частности, такое же, если не большее внимание уделяется и функторам, которые нам еще предстоит определить.) В дальнейшем число примеров подобного типа значительно увеличится, в основном за счет категорий, обслуживающих функциональный анализ (см. далее § 1.4, 2.2, 4.1, 5.2-3, 6.3). Целый ряд категорий полезен тем, что позволяет кратко и элегантно формулировать многие математические высказывания. Таков, в частности, следующий пример. Пример 8. Стандартная симплициальная категория Д. Ее объекты — это отрезки Д„ := {0,..., п} натурального ряда, дополненного нулем, а морфизмы — их неубывающие отображения. Таким образом, А можно рассматривать как полную подкатегорию в ORD. (О выдающейся роли этой категории в ряде вопросов см., например, [31].) Следующий пример носит весьма общий характер. ПРИМЕР 9. Пусть К, — произвольная категория. Ее дуальной категорией называется категория К?, объекты которой — те же, что и у К, но множество морфизмов hKo(X, Y) есть по определению Ъ.к{у,Х). Композицией фо<р в К.0 (если она определена), объявлен тот морфизм, который является композицией (р о ф в 1С. Это чрезвычайно полезный пример, позволяющий, как мы неоднократно будем иметь случай убедиться, сократить ровно вдвое число определений, теорем и прочих математических высказываний. (А значит, и количество расходуемой бумаги; вот Вам и применение категорий в народном хозяйстве!) Объект X категории /С называется инициальным (соответственно финальным), если для любого Y е К. множество h(X, Y) (соответственно h(Y,X)) состоит ровно из одного элемента. (Из X в У, соответственно из У в X, ведет ровно одна стрелка.) Обратим внимание на то, что X — инициальный объект в К •<=>• X — финальный объект в К?, и наоборот. (Это первый намек на практическую пользу понятия дуальной категории.) Объект О называется нулевым, если он одновременно является инициальным и финальным. Разумеется, в Lin есть нулевой объект — нулевое линейное пространство. Зато в SET есть как инициальный, так и финальный объекты, но они различны. Финальным объектом здесь, очевидно, является любое одноточечное множество, а инициальным — пустое множество. (То, что из пустого множества в произвольное множество есть ровно одно отображение, — это на самом деле результат
§ 4. ИЗОМОРФИЗМЫ. ПРОБЛЕМА КЛАССИФИКАЦИИ 43 логоворенности о том, как строго определять само понятие отображения; см., например, [12].) В категории Д есть единственный финальный объект, а именно, Д0, но, как легко проверить, нет инициальных. § 4. Изоморфизмы. Проблема классификации объектов и морфизмов Среди всех морфизмов заданной категории особый интерес вызывают несколько их специальных классов. Мы начнем с «самых лучших». Везде далее К, — произвольная заданная категория. Определение 1. Пусть ip: X —> Y — морфизм в /С. Морфизм t>: Y -* X в той же категории называется обратным к <р, если одновременно фу = 1х и <рф = lY. Морфизм в /С называется изоморфизмом, если он обладает обратным. Объекты X и У в К называются изоморфными, если существует изоморфизм изХвУ (или, что эквивалентно, — проверьте! — изоморфизм из Y в X). Морфизм, обратный к <р, обычно обозначается tp~l. Следующее утверждение почти очевидно, но мы вскоре увидим, какие важные вещи из него следуют. Теорема 1. Любые два инициальных (соответственно любые два финальных) объекта в К. изоморфны. < Пусть X и Y — инициальные объекты в К.. Тогда часть определения инициального объекта, касающаяся существования нужной стрелки, доставляет некий морфизм tp: X —> Y и некий морфизм ф: Y-*X. Рассмотрим ф<р: Х-*Х; часть того же определения, касающаяся единственности стрелки, дает равенство rptp = lx. Аналогично <pip = lY. Таким образом, инициальные объекты изоморфны. Переход к дуальной категории (снова она пригодилась!) немедленно обеспечивает изоморфизм финальных объектов. > Посмотрим, чем оборачивается абстрактное определение изоморфизма для различных примеров категорий. В дискретных категориях, где объекты «не желают общаться друг с другом посредством стрелок», никакие два разных объекта не изоморфны друг другу. Изоморфизм в SET — это, конечно, в точности биекция (= взаимно однозначное соответствие), а изоморфизм в LIN — это то, что называют линейным изоморфизмом (оператор, являющийся биекцией). Изоморфизм в МЕТ и в ТОР, как, наверное, уже догадался наш читатель, носит специальное название: гомеоморфизм. Изоморфизм в МЕТи, т. е. равномерно непрерывное отображение, обладающее
44 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ обратным равномерно непрерывным отображением, называется равномерным гомеоморфизмом. Наконец, изоморфизм в Мет, — это сжимающее отображение, обладающее обратным сжимающим отображением; разумеется, это не что иное, как изометрия. Изоморфизм в MEAS между измеримыми пространствами (X, р.) и (У, и) — это, как нетрудно проверить, класс эквивалентности таких отображений, которые осуществляют биекцию множества полной меры в X на множество полной меры в Y, причем так, что свойства подмножества в X и его образа в У соответственно быть измеримым, иметь меру нуль и иметь положительную меру эквивалентны. Говоря неформально, общий смысл понятия «изоморфизм» заключается в том, что изоморфные объекты являются «по сути одинаковыми»; если угодно, они представляют один и тот же объект, только в разных одеждах. Все, что можно сказать в категорных терминах, т. е. на языке стрелок, про некоторый объект, можно сказать и о любом объекте, ему изоморфном. В каждой области математики, изучающей ту или иную категорию, естественно возникает типичная проблема классификации (или, как говорят, описания) объектов этой категории с точностью до изоморфизма. Как мы увидим, для одних категорий такая задача тривиальна, для других ее решение — это некая фундаментальная теорема (как, скажем, теорема Фишера — Рисса; см. § 2.2), для третьих, ввиду невозможности охватить все мыслимые случаи, она представляется безнадежной. Что это значит — решить упомянутую «проблему классификации» или хотя бы сильно в ней продвинуться? ПРИМЕР 1. В качестве простейшего ориентировочного примера рассмотрим уже встречавшуюся нам категорию FLiN. Вы хорошо знаете, что два конечномерных линейных пространства линейно изоморфны тогда и только тогда, когда они имеют одинаковую линейную размерность; при этом каждое такое пространство линейно изоморфно пространству С" для некоторого п. Эти факты мы можем выразить так: в качестве полной системы инвариантов изоморфизма для FLiN можно взять множество натуральных чисел, и для каждого инварианта п 6 N в качестве модели соответствующего объекта в FLiN можно взять С". В общем случае для заданной категории /С иногда удается (где-то) найти класс М, состоящий из достаточно понятных и «осязаемых» элементов, и сопоставить каждому объекту из /С элемент из М так, что изоморфным объектам соответствует один и тот же элемент.
§ 4. ИЗОМОРФИЗМЫ. ПРОБЛЕМА КЛАССИФИКАЦИИ 45 Такой класс обычно называют системой инвариантов изоморфизма для /С. Подчеркнем, что удачно найденным считается класс, действительно состоящий из «вещей, хорошо воспринимаемых нашим разумом», как натуральные числа в только что обсужденном примере или, скажем, какие-нибудь хорошие множества — иначе что толку в подобной конструкции? (Одну из важнейших для анализа систем инвариантов доставит понятие спектра оператора; см. гл. 5.) Если повезет, найденная система инвариантов оказывается полной. Это означает, что два неизоморфных объекта всегда имеют разные инварианты и, стало быть, в объединении с уже сказанным, объекты имеют один и тот же инвариант в том и только том случае, когда они изоморфны. Далее, желательно указать для каждого инварианта достаточно прозрачно устроенный объект нашей категории, данным инвариантом обладающий. Такой объект часто называют модельным объектом или просто моделью для данного инварианта. Взглянув на полную систему инвариантов и модели, мы видим, насколько наша категория богата «действительно различающимися» объектами и что они собой представляют. Итак, принято считать (с этим молчаливо согласны, пожалуй, все математики), что проблема классификации объектов рассматриваемой категории решена, если сделаны по крайней мере две вещи. Во-первых, должна быть указана по возможности прозрачная — в этом Вы должны убедить математическую общественность — полная система инвариантов, и, во-вторых, для каждого инварианта должна быть указана (опять-таки достаточно прозрачная) его модель. Хорошо бы еще, конечно, чтобы способ сопоставления объекту его инварианта также выглядел достаточно просто — но это уже как получится. (В функциональном анализе образцовым решением задачи классификации является соответствующий результат о категории гильбертовых пространств; см. далее теорему 2.2.2.) ПРИМЕР 2. Очевидно, что в SET объекты изоморфны тогда и только тогда, когда эти множества имеют одинаковую мощность. Таким образом, в качестве полной системы инвариантов в SET может быть выбран класс всех мощностей (= кардинальных чисел). На самом деле, конечно, подобное заявление является тавтологией. Вспомним, что мощность как раз и определялась как «то общее, что есть у всех эквивалентных между собой множеств» (цит. по [26, с. 25]). Впрочем, это касается в той же мере и конечных мощностей — натуральных чисел, просто соответствующий психологический барьер все мы преодолели в далеком детстве
46 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ и забыли, как это было непросто. (Говоря все это, мы, разумеется, стоим на «наивной» точке зрения (ср. там же) и не углубляемся в «серьезную» теорию множеств; ср., например, [27].) В качестве модели множества заданной мощности обычно предлагается отрезок трансфинитной прямой, имеющий эту мощность; о том, что это такое, см., например, [1]. Несколько более содержательна классификация объектов в LIN. Она является прямым обобщением сказанного выше о FLIN. Упражнение 1. (i) Два линейных пространства линейно изоморфны тогда и только тогда, когда они имеют одинаковую линейную размерность. (и) Любая мощность является линейной размерностью некоторого линейного пространства. Указание. Пусть Л — множество мощности т. Рассмотрим множество С? комплекснозначных функций, заданных на А и отличных от нуля лишь на конечных множествах. Это линейное пространство относительно поточечных операций, имеющее линейную размерность т. Из этого упражнения ясно, что в качестве полной системы инвариантов в LIN можно снова, как и в предыдущем примере, взять класс всех мощностей, но только теперь соответствующим инвариантом заданного объекта является не его мощность как множества, а его линейная размерность. Если договориться о моделях в Set (см. выше), то моделью линейного пространства размерности m можно объявить Cq, где А — модель множества мощности т. Что касается большинства других приведенных выше примеров категорий (за очевидным исключением А), то там проблема классификации их объектов выглядит безнадежной: «слишком много неизоморфных объектов». В то же время она с успехом решается для некоторых важных подкатегорий этих категорий. Например, это так для полной подкатегории FAb в Ав, состоящей из конечных абелевых групп. (Вам известна классическая теорема алгебры, дающая ключ к классификации объектов в FAB. Вспомните эту теорему, доказанную Вам на втором курсе, и сделайте все надлежащие выводы.) В категории Meas есть важная полная подкатегория, состоящая из так называемых пространств Лебега, введенных в 1949 г. В. А. Рохлиным [45]. Это измеримые пространства со счетным базисом, удовлетворяющие некоторым дополнительным, не слишком обременительным требованиям; именно такие пространства встречаются практически во всех приложениях. (Мы не хотим отвлекать читателя точной формулировкой.) Оказывается — и это тоже в терминах того времени доказал Рохлин, — всякое пространство Лебега изоморфно в Meas одному из измеримых пространств [0, 1]ИХ либо X, где отрезок взят со стандартной мерой Лебега, а X — это не более чем счетное множество со считающей мерой.
§ 4. ИЗОМОРФИЗМЫ. ПРОБЛЕМА КЛАССИФИКАЦИИ 47 (Предложите соответствующую систему инвариантов, комбинируя конечные мощности, счетную мощность и мощность континуума.) В частности — и это, конечно, главное — с точки зрения действительного анализа существует одно-единственное пространство Лебега без точек положительной меры, i именно, отрезок действительной прямой. Теорема Рохлина, а также ряд других, сходных по смысловой нагрузке результатов (например, [88; 100]), по существу показывают, что из всех содержательных структур на множестве структура измеримого пространства является «грубейшей», кли «самой изначальной» (ср. обсуждение в [72, с. 46-47]). Прежде чем двигаться дальше, введем некоторые элементы кате- горного языка. Пусть /С — категория. Диаграммой в /С называется (произвольная) совокупность каких-то объектов в К. и каких-то морфизмов в той же категории, связывающих эти объекты. Если X и У — объекты заданной диаграммы, то путем из X в У называется произвольный конечный набор tpx: X —> Zu (р2: Z1—*Z2,... ...,<р„: Zn_x^Y морфизмов этой диаграммы. (Разумеется, в диаграмме может быть много путей из одного объекта в другой, а может не быть и ни одного.) Диаграмма называется коммутативной, если для любых ее объектов X и У и любых путей <pl,...,ipn я «/>,,..., фт из X в У выполнено равенство ipno.. .о(р1=фто.. .о^,. Например, коммутативность простейших диаграмм X X, —-^-» У, ¦ 4 I- У —^—> Z Х2 —^-» У2 попросту означает1', что в первой из них <т = тр, а во второй ттг = ар. Мы говорили о задаче классификации объектов заданной категории. Не менее важными типовыми задачами являются задачи классификации ее морфизмов. Есть несколько таких задач, в зависимости от того, какие классы морфизмов мы желаем рассматривать, скажем, все морфизмы, эндоморфизмы или автоморфизмы (т. е. эндоморфизмы, являющиеся изоморфизмами). Мы уделим основное внимание, пожалуй, наиболее важной из этих задач — о классификации эндоморфизмов с точностью до подобия. '' Наша психология, очевидно, устроена так, что картинка как-то лучше усваивается, чем выписанные формулы — особенно, если этих формул достаточно много.
48 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Определение 2. Эндоморфизмы tp: X -+ X и ф: Y -> Y в категории ? называются подобными, если существует такой изоморфизм а: X —» Y, что диаграмма X —*—» X •I I- Г —*— Г коммутативна (т. е. фс = itp). Про изоморфизм t говорят, что он осуществляет подобие между эндоморфизмами (риф. Выделим полезное Предложение 1. Если (риф — два подобных эндоморфизма в К, то tp является изоморфизмом тогда и только тогда, когда ф является изоморфизмом. < Пусть изоморфизм l осуществляет указанное подобие. Тогда если существует у?-1, то существует и ф~\ а именно, как легко проверить, ttp~lt~l. Дальнейшее очевидно. > На самом деле подобие — это специальный случай изоморфизма объектов, но только в усложненной, по сравнению с /С, категории. А именно, рассмотрим категорию End(/C), определенную следующим образом. Ее объекты суть (всевозможные) эндоморфизмы в К. Далее, если tp: X —* X и ф: Y -* Y — два таких новоявленных объекта, то морфизмом из tp в ф называется любой морфизм р, делающий диаграмму X —^ X 4 {' Y —*—> Y коммутативной. Элементарно проверяется Предложение 2. Пусть tp и ф — два эндоморфизма в /С. Тогда морфизм с е hK осуществляет подобие между ц> иф в том и только том случае, если он является изоморфизмом, будучи рассмотрен как морфизм в End(?). < > Таким образом, подобие — это частный случай изоморфизма, и к задаче о классификации морфизмов с точностью до подобия применимо все сказанное выше об инвариантах и моделях. Упражнение 2. Найдите полную систему инвариантов подобия и модели для эндоморфизмов в FLIN (т. е., попросту говоря, операторов, действующих в конечномерных линейных пространствах).
§ 4. ИЗОМОРФИЗМЫ. ПРОБЛЕМА КЛАССИФИКАЦИИ 49 Указание. Вспомните теорему Жордана из курса линейной алгебры. Она показывает, что в качестве инвариантов можно взять неупорядоченные наборы пар, состоящих из натурального и комплексного числа. Такие наборы характеризуют клетки жордановой формы оператора. Иногда возникает необходимость «ужесточить» определение подобия эндоморфизмов. А именно, пусть ? — фиксированная подкатегория в 1С, тогда эндоморфизмы ip\ X —> X н ip: Y —*Y в К. называются подобными относительно С, если существует морфизм с: X —> Y, делающий диаграмму, выписанную в определении 2, коммутативной и являющийся изоморфизмом в С. Разумеется, такой морфизм является изоморфизмом и в К., и поэтому морфизмы в /С, подобные относительно С, всегда «просто» подобны, но обратное, вообще говоря, неверно. Как легко догадаться, «относительное подобие» — это тоже частный случай изоморфизма1'. (В какой категории?) Замечание на будущее. Что же касается классификации эндоморфизмов во всей объемлющей категорию FLiN категории LlN, то она выглядит совершенно безнадежным делом. То же самое можно сказать и о более актуальных функционально-аналитических аналогах этой задачи, относящихся к нашим будущим категориям банаховых и гильбертовых пространств. Это соответствует тому обстоятельству, что сколько-нибудь удовлетворительного аналога теоремы Жордана для оператора общего вида, действующего в этих пространствах, не найдено (а для банаховых пространств уже известно, что и не может быть найдено (ср. далее теорему 2.2.5 (Энфло — Рида)). Таким образом, проблема классификации в категории эндоморфизмов гильбертовых пространств далека от решения. Однако такая же проблема полностью решена для полной подкатегории в этой последней категории, состоящей из так называемых самосопряженных операторов — понятия, играющего исключительную роль в анализе и квантовой физике. Соответствующая классификация — это один из многих «обликов» спектральной теоремы Гильберта, стоящей в ряду важнейших утверждений функционального анализа (некоторые считают — самого важного). Эта теорема, в нескольких эквивалентных формулировках, будет доказана ближе к концу нашего курса, в § 6.5-8. Заслуживает упоминания еще одна типовая задача классификации морфизмов. Если мы желаем сравнивать произвольные морфизмы заданной категории, то целесообразен несколько иной, чем в определении 2, подход к тому, какие из них считать одинаковыми: Определение 3. Морфизмы <р: Х1 —» YJ и ф: X2—yY2 в категории К. называются слабо подобными, если существуют такие '' Забегая вперед, отметим, что типичным примером такого «относительного подобия» явится унитарная эквивалентность операторов в гильбертовых пространствах; см. § 1.4.
50 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ изоморфизмы t,: Хх —> Х2 и i?: Yx -* Y2, что диаграмма х\ —*—» У\ -1 {- Х2 -^-> Y2 коммутативна (т. е. V*i = Ч.Ч>)- Про пару (t,, t2) говорят, что она осуществляет слабое подобие между морфизмами (риф. По аналогии с понятием подобия эндоморфизмов, понятие слабого подобия эндоморфизмов можно «ужесточить», дополнительно введя в рассмотрение некоторую фиксированную подкатегорию С в /С. А именно, морфизмы (рифвК. называются слабо подобными относительно С, если существуют морфизмы i, и i^, делающие диаграмму из определения 3 коммутативной и являющиеся изоморфизмами в С. Важнейшим функционально-аналитическим примером явится слабая унитарная эквивалентность операторов в гильбертовом пространстве; см. далее § 1.4. Снова, как и при рассмотрении эндоморфизмов, задача о классификации всех морфизмов в /С с точностью до слабого подобия является специальным случаем задачи о классификации объектов в некоторой новой категории. На этот раз таковой является категория Мог(/С), класс объектов которой совпадает с hK, а морфизмами между (риф объявлены такие пары морфизмов (рх, р2), что коммутативна следующая диаграмма Хх —^ Yx "I {- Х2 —*—» Y2. Предложение 3. Пусть (риф — два морфизма в 1С. Тогда пара морфизмов (t,, i^) осуществляет слабое подобие между <р иф в том и только том случае, если она является изоморфизмом, будучи рассмотрена как морфизм в Мог(/С). < > Мы видим, что для эндоморфизмов отношение слабого подобия ¦гораздо терпимее» отношения подобия. Подобные эндоморфизмы, разумеется, всегда слабо подобны; в то же время, как легко видеть, эндоморфизмы в FLIN, записываемые матрицами I А « )
§ 5. ДРУГИЕ ВИДЫ МОРФИЗМОВ 51 и ( О 0 )' сла^° подобны, но не подобны. А вот и общее наблюдение. Упражнение 3. Найдите полную систему инвариантов слабого подобия и модели для морфизмов в FLIN (= операторов, действующих между конечномерными линейными пространствами). Указание. Каждый оператор слабо подобен такому, который записывается диагональной матрицей с единицами и нулями на диагонали. ЗАМЕЧАНИЕ. Последний факт, в отличие от теоремы Жордана, имеет содержательное обобщение для операторов в бесконечномерных линейных пространствах, которое Вы можете найти, используя базисы. Более интересно то, что близкое утверждение имеет место и для некоторых традиционных классов операторов, рассматриваемых в функциональном анализе. В нашем курсе задача классификации с точностью до упомянутой выше слабой унитарной эквивалентности, т. е. слабого подобия, будет решена для компактных операторов в гильбертовых пространствах. Это одна из форм теоремы Шмидта, о которой мы расскажем в § 3.4. § 5. Другие виды морфизмов Как мы видели, в определении изоморфизма участвуют два соотношения. Рассматривая каждое из них в отдельности, мы приходим к следующим понятиям. Определение 1. Пусть <р: X —* Y — морфизм в категории К.. Морфизм -ф: Y —> X в той же категории называется левым (соответственно правым) обратным к ц>, если выполнено равенство Фч> = \х (соответственно ууф = 1у). Морфизм в К, называется коретракцией (соответственно ретракцией), если он обладает левым (соответственно правым) обратным морфизмом. Разумеется, при рассмотрении заданного морфизма в дуальной категории коретракция превращается в ретракцию, а ретракция — в коретракцию. Предложение 1. Морфизм является изоморфизмом тогда и только тогда, когда он одновременно является коретракцией и ретракцией. < Утверждение => очевидно. Чтобы усмотреть ч=, достаточно по-разному расставить скобки в выражении ф1'рфТ, где ф, —левый, а фт — правый обратные к tp. >
52 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Если изоморфизмы, коретракции и ретракции — «лучшие» из морфизмов, то следующее определение выделяет «просто хорошие». Определение 2. Морфизм ц>: X —> Y в К. называется мономорфизмом, если из равенства композиций морфизмов (рфх = <рф2 всегда следует равенство фх — ф2. Морфизм называется эпиморфизмом, если он является мономорфизмом в /С0. Морфизм, одновременно являющийся мономорфизмом и эпиморфизмом, называется биморфизмом. «Разворачивая» определение эпиморфизма, мы видим, что это тот морфизм tp, для которого из равенства ф^ = ф2ц> всегда следует равенство фх = ф2. Таким образом, мономорфизм — это тот морфизм, на который в композициях можно сокращать слева, а эпиморфизм — тот, на который можно сокращать справа. Предложение 2. Всякая коретракция является мономорфизмом, всякая ретракция — эпиморфизмом и всякий изоморфизм — биморфизмом. < Если tp — коретракция с левым обратным ф и случилось так, что v?V"i = <рф2, то равенство ф<рф{ = ф<рф2 очевидным образом влечет равенство ф\ = ф2. Этим доказано первое утверждение; второе — это в точности первое, но рассмотренное в дуальной категории. Дальнейшее очевидно. t> Предложение 3. Если композиция цгф —мономорфизм, то таков же и морфизм ф; если же эта композиция — эпиморфизм, то таков же и морфизм tp. < > Усилим предложение 1. Предложение 4. Следующие утверждения эквивалентны: (i) морфизм является изоморфизмом; (и) морфизм одновременно является коретракцией и эпиморфизмом; (Ш) морфизм одновременно является ретракцией и мономорфизмом. < Если морфизм ip — коретракция и ф — его левый обратный, то (рф(р = <р = ltp, где 1—соответствующая локальная единица. Поэтому если tp — еще и эпиморфизм, то (рф = 1 и, стало быть, ф — правый обратный к /р. Дальнейшее очевидно. > Посмотрим, что из себя представляют моно- и эпиморфизмы в различных примерах. Оказывается, в ряде случаев они могут быть охарактеризованы в терминах, принятых для отображений множеств.
5. ДРУГИЕ ВИДЫ МОРФИЗМОВ 53 Предложение 5. В рассмотренных выше категориях SET, Lin, FLin, Ав, Gr, Rin, Ord, Met, Метц, Met,, Top и HTop всякий морфизм, являющийся инъективным отображением, — мономорфизм, а морфизм являющийся сюръективным, — эпиморфизм. <з Пусть /С — любая из указанных категорий. Сперва предположим, что морфизм у?: X ~* Y из К. является инъективным отображением соответствующих подлежащих множеств и для некоторого объекта Z G/С и некоторых морфизмов фх,ф2. Z —> X выполнено равенство (рфх — ц>ф2. Тогда для любого элемента х€ Z выполнено равенство 1рфх(х) — <рф2(х) и из инъективности морфизма ip следует равенство фх(х) = ф2(х), а это и значит, что фх — ф2. Теперь пусть морфизм ip: X —* Y из К. является сюръективным отображением соответствующих подлежащих множеств, и для некоторого объекта Z б /С и некоторых морфизмов фх,ф2: Y —> Z выполнено равенство фх<р = ф2ц>. Тогда, поскольку любой элемент у е Y есть ip(x) для некоторого хеХ, мы получаем, что Му) = 1>МХ) = IbvW = Му)> т. е. фх = ф2. > Замечание. Здесь наш просвещенный читатель, наверное, почувствовал, что должно быть утверждение общего характера, охватывающее все эти случаи. Так оно и есть; см. далее упражнение 7.2. Предложение 6. В категориях SET и Lin мономорфизмы суть в точности инъективные отображения, а эпиморфизмы суть в точности сюръективные отображения. < Пусть tp: X -+ Y — морфизм в Set или Lin. Сперва предположим, что он не инъективен, т. е. для некоторых различных точек (либо векторов) хкеХ, к = 1,2, выполняется равенство #{хх) = v?(a^)- Тогда в случае SET мы обозначим через Z любое одноточечное множество и рассмотрим отображения (= морфизмы в SET) фк: Z —> X, к = 1, 2, переводящие соответствующую точку в хк. В случае Lin мы полагаем Z := С и определяем фк: Z —* X, к = 1, 2, как операторы (= морфизмы в LIN), переводящие в хк единицу комплексной плоскости. Очевидно, в обоих случаях <рфх = (рф2, и в то же время фх ф ф2. Это значит, что <р — не мономорфизм. Теперь предположим, что наш морфизм (р не сюръективен. Тогда в случае SET мы возьмем в качестве Z двухточечное множество {0,1} и рассмотрим такие морфизмы фк: Y^Z, fc = 1, 2, что фх = О, а ф2 переводит Im (<р) в нуль, a Y \Im (<р) в единицу. В случае Lin мы возьмем в качестве Z факторпространство Y/lm(ip) и рассмотрим такие морфизмы фк: Y-+Z, к = 1, 2, что фх =0, а ф2 является естественной проекцией Y на У/Im (уэ) (т. е. отправляет каждый элемент у б Y в его класс смежности по Im (<р)). Очевидно, в обоих
54 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ случаях 'ф1!р = 'ф21р,ивто же время ф] ф ф2. Мы получаем, что (р — не эпиморфизм. Итак, мономорфизмы в указанных категориях инъективны, а эпиморфизмы сюръективны. Обратное уже известно из предложения 5. > Замечание. Читателю рекомендуется дать несколько иное доказательство той части этого предложения, которая относится к эпиморфизмам. А именно, для случая категории SET можно использовать в качестве Z множество Y со «стянутым в точку» образом Im (tp), а для LIN использовать в том же качестве С. Упражнение 1. (i) Характеризация мономорфизмов, указанная в предложении 6, верна и для категорий Ord, Ав, Gr, А, а также всех наших примеров категорий метрических и топологических пространств. (и) Характеризация эпиморфизмов, указанная там же, верна и для категорий Ав, ТОР и Д. Вы обратили внимание на то, что ряд важных категорий метрических и топологических пространств во второй части предыдущего упражнения не фигурирует. Это не случайно. Предложение 7. В категории МЕТ морфизм <р: X —> Y является эпиморфизмом тогда и только тогда, когда его образ плотен в Y. < «= Пусть, для некоторого метрического пространства Z е МЕТ морфизмы (= непрерывные отображения) ipk: Y—*Z, k = 1,2, таковы, что фх1р = -ф2ч>. Тогда они, очевидно, совпадают на образе морфизма <р, и требуемый факт следует из предложения 2.14. =>• Пусть, напротив, существует точка у е Y, не принадлежащая замыканию образа lm(ip); тогда для некоторого г>0 имеем U(y, г) n Im (у>) = 0. Рассмотрим функцию /: У —> R: х и-» max] -(г — d(y, х)); 0 >; очевидно, это сжимающее отображение, а, стало быть, заведомо морфизм в МЕТ. Остается взять такие морфизмы Vjb: У —> R> к = 1, 2, что Vi = 0 и ф2 = f. Дальнейшее очевидно. > Вот некоторая дополнительная информация для сильных студентов. Прежде всего, характеризация мономорфизмов как инъективных отображений верна, пожалуй, для большинства категорий «множеств со структурами», обслуживающих алгебру, топологию и, как мы увидим дальше, функциональный анализ. В частности, верна она и для упомянутой ранее категории колец Rin, но только там «пробный» объект Z несколько сложнее, чем в доказательстве предложения 6: это кольцо многочленов с целочисленными коэффициентами без свободного члена (проверьте!). Все же есть категории, у которых мономорфизмов больше, чем инъективных отображений.
§ 5. ДРУГИЕ ВИДЫ МОРФИЗМОВ 55 Напомним, что абелева группа X называется делимой, если для любых х е X и п е N существует такой элемент у е X, что х = пу. Упражнение 2. В полной подкатегории в Ав, состоящей из делимых групп, (заведомо не инъективный) морфизм R —> Т, t >-> е", — мономорфизм. Далее, часть предложения 6, касающаяся эпиморфизмов, также переносится на категории Ord и Gr, но соответствующие рассуждения требуют более сложных конструкций (все же попробуйте!). Зато очевидно, что предложение 7 переносится на категории Мет^ и Мет, ; приведенное выше доказательство проходит почти без изменений. Упражнение 3*. Предложение 7 переносится и на категорию НТор. Указание. Если замыкание образа морфизма <р не совпадает с У, то в качестве Z (ср. выше) подойдет один из так называемых «относительных букетов» двух копий пространства Y. А именно, надо взять две копии пространства У и «склеить» их по Категория, в которой эпиморфизмов больше, чем сюръективных отображений, есть и среди наших стандартных примеров категорий чистой алгебры: Упражнение 4*. Естественное вложение Z-+Q (заведомо не будучи сюръек- тивным) является эпиморфизмом в RlN. Вернемся (вплоть до упражнения 7 включительно) к тому, что нам представляется общеобязательным материалом. Предложение 2 о том, что коретракции являются мономорфизмами, а ретракции — эпиморфизмами, приводит к естественному вопросу: верны ли обратные утверждения? Разумеется, ответ положителен для дискретных категорий из примера 3.1. Более содержательно следующее утверждение. Упражнение 5 (усиление предложения 6). Пусть <р— морфизм в SET или LIN. Тогда (i) морфизм (р инъективен <=>¦ у> — мономорфизм •$=*• (р — коретракция; (ii) морфизм <р сюръективен -<=*¦ ip — эпиморфизм <=>¦ ip — ретракция. Указание. Достаточно установить импликации «инъективен => коретракция» и «сюръективен => ретракция». В случае SET второе потребует аксиомы выбора. В случае LIN обе импликации опираются на существование линейных дополнений (а это, в свою очередь, требует аксиомы выбора; ср. упражнение 1.2). Однако для большинства категорий, встречающихся в алгебре, топологии и функциональном анализе, коретракции гораздо меньше, чем мономорфизмов, а ретракций — чем эпиморфизмов. Упражнение 6°. В категории Ав «удваивание» Z —> Z, п *-* 2п, — это мономорфизм, не являющийся коретракцией, а естественная проекция Z —> Z/2Z — это эпиморфизм, не являющийся ретракцией.
56 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Упражнение 7. Подобные моно- и эпиморфизмы есть также в категориях ORD и НТОР. Указание. Подойдет любая биекция, не являющаяся изоморфизмом. Для ее построения можно использовать те объекты, которые в соответствующих категориях были названы дискретными. Однако в топологии, по-видимому, более важен следующий классический пример мономорфизма — не коретракции: естественное вложение Т —> D единичной окружности в замкнутый единичный круг двумерного евклидова пространства (он годится для категорий Мет, Тор, НТор, категории СНТор компактных хаусдорфовых топологических пространств, которую мы рассмотрим в §3.1, и ряда других). Доказательство выходит за рамки нашего курса; см., например, [58, с. 11]. Несколько проще установить, что другое классическое отображение — «наворачивание прямой на окружность» (оно фигурировало по другому поводу в упражнении 2) — доставляет пример эпиморфизма — не ретракции. Это мы рекомендуем сделать читателю. Таким геометрически наглядным примерам во многом обязана своим возникновением наука алгебраическая топология, в недрах которой, в свою очередь, родилась теория категорий. Заслуживают рассмотрения и некоторые классы морфизмов, промежуточные между коретракциями и мономорфизмами и, соответственно, между ретракциями и эпиморфизмами. Они особенно интересны для топологии и, как мы увидим впоследствии, для функционального анализа. Определение 3. Морфизм <р в (произвольной) категории К называется крайним мономорфизмом, если, во-первых, это мономорфизм, и во-вторых, равенство <р = = фх, где х — биморфизм, всегда влечет то, что х — изоморфизм. Морфизм <р называется крайним эпиморфизмом, если он является крайним мономорфизмом в К? (дайте независимое определение в терминах К). Заметим, что в этом определении мы могли бы заменить слова «х — биморфизм» на «х — эпиморфизм»: дело в том, что в силу предложения 3 в данном контексте X автоматически является мономорфизмом. Теперь мы можем усилить предложение 2, а затем предложение 4. Предложение 8. Всякая коретракция является крайним мономорфизмом, а всякая ретракция — крайним эпиморфизмом. < Пусть морфизм <р обладает левым обратным у>,_| и tp = фх, где х — эпиморфизм. Тогда ^1фх = 1, где 1 —соответствующая локальная единица. Следовательно, х — коретракция и, с учетом предложения 4, изоморфизм. Дальнейшее очевидно. > Предложение 9. Морфизм является изоморфизмом <=> он одновременно является крайним мономорфизмом и эпиморфизмом ¦«=> он одновременно является крайним эпиморфизмом и мономорфизмом. < Если задан крайний мономорфизм и по совместительству эпиморфизм, то мы представим его в виде <р = 1 у>, где 1 — соответствующая локальная единица. Дальнейшее очевидно. > Вот первая иллюстрация, показывающая содержательность введенных понятий. Упражнение 8*. Морфизм в категории Тор является крайним мономорфизмом тогда и только тогда, когда он топологически инъективен, и крайним эпиморфизмом тогда и только тогда, когда он топологически сюръективен. Указание. Пусть морфизм <р топологически инъективен и <р — фх —композиция, фигурирующая в определении 3. Тогда существует коммутативная диаграмма
§ 6. (КО)ПРОИЗВЕДЕНИЕ 57 в которой образ Im (<р) рассмотрен как топологическое подпространство, <р° — гомеоморфизм, % j — естественное вложение, а морфизм к однозначно определен остальными морфизмами диаграммы. Из нее можно усмотреть, что \ —изоморфизм. Доказывая второе утверждение, надо воспользоваться сходной диаграммой, в которой образ Im (ip) рассмотрен как топологическое факторпространство. Позже мы увидим, чем оборачиваются крайние стандартных категорий функционального анализа (см а также упражнение 3.1.1 и конец § 4.1). § 6. Образец теоретико-категорной конструкции: (ко)произведение Произведения и копроизведения, называвшиеся также прямыми произведениями и прямыми суммами, возникали во многих разделах алгебры, топологии и функционального анализа. Они строились для разных наук по-разному, но постепенно появилось и крепло ощущение, что они обладают неким внутренним единством. Теория категорий позволяет четко осознать, что роднит все эти конструкции, и тем самым выводит нас на новый уровень их понимания — со всей проистекающей от этого практической пользой для их изучения. Пусть К. — (пока произвольная) категория, a Xv, v G Л, — семейство ее объектов. (Некоторые из них, или даже все, могут повторяться.) Определение 1. Произведением этого семейства называется пара (X, {тг„}), состоящая из объекта X Е К, (развернуто обозначаемого ГК-^1/1 v ? Л}) и семейства морфизмов я,: X —> Х„, v б Л, из /С, обладающая следующим свойством: для любого объекта Y е К. и любого семейства морфизмов <?>„: Y—*XV, v?A, существует такой единственный морфизм -ф: Y —»X, что для каждого и е А диаграмма X «_*— Y Л/ коммутативна. Морфизмы 7г„, участвующие в этом определении, называются проекциями X на Xv. В частности, произведение двух объектов Хк, /г = 1,2, — это такой объект Хх П Х2 вместе с морфизмами ттк: Х{ П Х2 —> Хк, что
58 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ для любого объекта Y и любых морфизмов ipk: Y —> Хк существует единственный морфизм ф: Y -* Х{ П Х2, делающий диаграмму коммутативной. Определение 2. Копроизведением семейства Xv, v е Л, называется пара (X, {г'„}), состоящая из объекта X (развернуто обозначаемого \}{XV | v Е Л}) и семейства морфизмов г'„: Xv —» X, v е Л, которая удовлетворяет определению произведения этого семейства в дуальной категории J&. Морфизмы г'„, участвующие в этом определении, называются вложениями Xv в X. С копроизведениями мы будем встречаться столь же часто, как и с произведениями, и поэтому мы дадим, в целях перестраховки, их независимое определение в терминах исходной категории /С. Все же рекомендуем читателю, прежде чем двигаться дальше, сделать это самому. Определение 2'. Копроизведением семейства Xv, v е Л, называется пара (X, {г„}), состоящая из объекта X = ]J{^ \v еА}еК. и морфизмов г„: Xv —» X, v ? Л, из /С обладающая следующим свойством: для любого объекта Y € К и любых морфизмов ц>и: Хи —> Y, v 6 Л, существует единственный такой морфизм ip: X —» Y, что для каждого и еА коммутативна диаграмма В частности, копроизведение двух объектов Хк, к = 1, 2, — это такой объект Хх U Х2 вместе с морфизмами гк: Хк —> Хх U Х2, что для любого объекта Y и любых морфизмов рк: Xk—>Y существует единственный морфизм ф: Хх U Х2 —* Y, делающий диаграмму коммутативной.
§ 6. (КО)ПРОИЗВЕДЕНИЕ 59 Иногда, если нет опасности путаницы, мы будем говорить о (ко)произведении, подразумевая только входящий в это составное понятие объект. Упражнение 1. Пусть (X,{irv})— произведение семейства Хи, v 6 Л, и пусть для некоторого р. е Л множество hK(X/J, Xv) непусто при всех v е Л. Тогда тг^ — ретракция. Сформулируйте и докажите сходное утверждение для копроизведения. Докажем теорему, которая содержит, как специальные случаи, многие теоремы, известные в алгебре, топологии и анализе. Теорема 1 (единственности). Пусть Xv, v е Л, — семейство объектов в К, (X, {п^}) и (X', {^}) — два произведения этого семейства. Тогда существует единственный такой изоморфизм с: X -* X', что для каждого и € Л диаграмма X —!—» X' \ /•¦ коммутативна. (Таким образом, не только сами объекты изоморфны, но изоморфизм между ними можно выбрать согласованно с проекциями.) < Исходя из К., введем новую категорию JCA. Ее объектами объявим всевозможные пары (У {у„})> состоящие из объекта YeJC и семейства морфизмов <ри: У —> Xv, и G Л, из К. Морфизмами между объектами (У, {'¦pi}) и (У2, {$}) новой категории объявим морфизмы ф: Y1 —> Y2 из /С, для которых при любом v 6 Л диаграмма , У -^^ Y2 "\ /Ъ xv коммутативна. Композицией морфизмов в /СЛ мы объявим их композицию в /С. Элементарная проверка показывает, что аксиомы категории выполнены, локальными единицами для К.А служат локальные единицы в К. и что морфизм в /СЛ является изоморфизмом тогда и только тогда, когда он является изоморфизмом в К.. А теперь — ив этом весь фокус — сделаем то очевидное наблюдение, что пара (У, {<?„}) является произведением нашего семейства в К. в том и только том случае, если она является финальным объектом в fCA. Поэтому из теоремы 4.1 немедленно следует,
60 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ что пары (X, {7г„}) и (X1, {^1}), как объекты в /СЛ, изоморфны. Дальнейшее очевидно. > Переходя к дуальной категории, мы немедленно получаем теорему единственности для копроизведений. Настоятельно рекомендуем читателю ее точно сформулировать (в терминах исходной категории) и написать соответствующую коммутативную диаграмму; дело того стоит. Что скажут по поводу обсуждаемых конструкций обитатели нашего категорного зоопарка? Оставив читателю разобрать случай «простейших организмов» —дискретных категорий, рассмотрим категорию множеств. С копроизведениями там проблем не возникает: Упражнение 2°. Всякое семейство Хи, vеЛ, в категории SET обладает копроизведением (X, {г„}), в котором X —это дизъюнктное объединение наших множеств (см. § 1), а каждое вложение ги: Хи—>Х действует по правилу ih (х, v) (т. е. оно является, если отождествить X'v с Хи, естественным вложением подмножества Xv вХ). Если от копроизведений в категории Set перейти к произведениям, то на поверхностный взгляд ситуация становится еще проще. Напомним, что декартовым произведением семейства множеств Хи, v е Л, (обозначение x{Xv \ v е Л}), называется совокупность таких отображений /: Л —* U{XV | и € Л}, что f(v) е Xv. Говоря неформально, но, может быть, более наглядно, декартово произведение состоит из «строк» (..., х„,...), места в которых пронумерованы индексами из Л и на и-и месте расположен элемент изХ„. Предложение 1. Всякое семейство Xv, v е Л, непустых множеств обладает в Set произведением. А именно, таковым является пара (X, {тг„}), в которой X = x{Xv \ v е Л}, а 7г„: < Для любого объекта У и любых морфизмов ^,i/gA, участвующих в определении произведения, требуемый морфизм ф: Y-*X, разумеется, однозначно определен и действует по правилу у^ д, где д: vv-+ yv{y). > Все это звучит довольно благостно, но... почему мы так уверены, что декартово произведение x{Xv | р> € Л} содержит хотя бы один элемент? Посмотрим внимательнее на подобное предположение, сперва для случая, когда наши множества Хи попарно не пересекаются: да ведь это не что иное, как аксиома выбора! (Отображение, являющееся элементом декартова произведения, очевидным образом определяет множество, фигурирующее в аксиоме выбора, и наоборот.) В действительности непустота декартова произведения произвольных семейств множеств есть еще одна эквивалентная форма аксиомы выбора (это нетрудно
§ 6. (КО)ПРОИЗВЕДЕНИЕ 61 доказать, но мы этим заниматься не будем; см., например, [1, с. 101]). Что касается последней, то ранее уже обсуждалось, что мы вынуждены принять ее как данность, чтобы не обрушилась добрая половина здания современной математики. (Совсем как учил Св. Августин, а за ним Лютер: «Спасение одной лишь верою возможно».) А раз так, то мы одновременно принимаем и «догмат» о непустоте декартовых произведений — к вящей пользе, как мы увидим, для доказательства целого ряда важных и нужных теорем. Упражнение 3. Постройте произведение и копроизведение любого непустого семейства объектов в ORD. Указание. Это те же декартово произведение и дизъюнктное объединение, но с надлежащим образом выбранным порядком. Перейдем к категории LIN. Пусть Хи, и е А, — семейство линейных пространств. Сперва заметим, что декартово произведение подлежащих множеств этих пространств (мы уже «знаем», что оно есть!) само является линейным пространством относительно очевидных покоординатных операций, для которого мы сохраним обозначение y.{Xv \ v 6Л}; при этом проекции 7г„ из предложения 1 суть линейные операторы. Выделим в x{Xv\veA} подпространство, состоящее из тех отображений /, у которых f(u)^0 только для конечного множества индексов v (разумеется, зависящего от /). Это подпространство называется прямой суммой нашего семейства линейных пространств и обозначается ®{XV \ v € Л}. (Иногда, чтобы избежать путаницы, говорят: внешняя прямая сумма.) Для каждого v е Л обозначим через iv: Xv —> ®{XV \ v б Л} отображение, переводящее х€ Xv в отображение (= элемент пространства ®{XV | v €Л}), переводящее v в х и любой элемент ц еЛ, отличный от v, в нуль. (Мы условимся отождествлять «прямое слагаемое» Х„, v еЛ, с его образом в прямой сумме относительно г„.) Теперь все готово, чтобы сформулировать очевидное Предложение 2. Всякое семейство Xv, v е Л, линейных пространств (= объектов в LlN) обладает в категории LIN как произведением, так и копроизведением. А именно, произведением служит декартово произведение (х{-Х"„ | v б Л}, {я"„}), а копроизведением —прямая сумма (®{XV | v е Л}, {г„}). < > Разумеется, в случае конечного семейства пространств, скажем, Xi,...,Xn, его прямое произведение и прямая сумма совпадают, и мы вправе пользоваться любым из указанных обозначений. Обычно по традиции предпочитают писать Ххф.. .®Хп или Ф Хк. Элементы такого пространства проще всего представлять себе как строки х = (я,,..., хп), хк б Хк, и отождествлять каждое Хк, к = 1,..., п, с образом соответствующего вложения гк.
62 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Читатель помнит, что символом *ф» обозначалось и разложение линейного пространства в прямую сумму двух подпространств. Подобное сходство в терминах и обозначениях не случайно. Предложение 3. Пусть X — линейное пространство, Х{ и Х2 — его подпространства, г, и ц — естественные вложения этих подпространств в X. Следующие утверждения эквивалентны: (i) X разлагается в прямую сумму подпространств Х1 и Х2; (ii) X вместе с вложениями г, и % является копроизведением подпространств Хх и Х2 в категории LIN; (iii) существует линейный изоморфизм внешней прямой суммы Хх ф Х2 на X, переводящий пару (у, z) в у + z. < (i) ^- (ii). Если Y — «постороннее» пространство, а ц>к\ Хк —» Y, к = 1, 2, — линейные операторы, то корректно определен оператор^: X-+Y, переводящий y+z, yeXuzeX2, вф(у)+ф(г). Это, очевидно, единственный оператор, делающий диаграмму из определения копроизведения коммутативной. (ii) =*• (iii) Эта импликация следует из предложения 2 и теоремы 1 (единственности), в применении к копроизведениям в категории Lin. (iii) =>• (i). Очевидно. > В категориях Ав и GR произведения и копроизведения также всегда существуют. Произведением в обоих случаях является декартово произведение подлежащих множеств с покоординатной групповой операцией, вкупе с проекциями. Что же касается копроизведения, то в Ав таковым является прямая сумма абелевых групп, определяемая сходным образом с прямой суммой линейных пространств, а в GR — несколько более сложная вещь, так называемое свободное произведение групп; см., например, [28]. Еще на заре топологии возникла потребность в «правильном» определении того, что мы сейчас называем произведением в категории ТОР, и тогда, при отсутствии категорного мышления, это было довольно трудной задачей. Пусть Xv, i/бЛ, — семейство топологических пространств с топологиями т„. Снова рассмотрим декартово произведение у.{Хи | v 6 Л}. Введем в него топологию, объявив предбазой этой топологии следующую систему подмножеств. А именно, мы рассмотрим всевозможные подмножества, индексированные парами
§ 6. (КО)ПРОИЗВЕДЕНИЕ 63 {veA, U ет„) и имеющие вид {/6 *{Х„\ v 6Л} | f(u) б U) (таким образом, каждое множество из предбазы состоит из «строк», у которых какая-либо одна координата принадлежит заранее заданному открытому множеству, а остальным предоставлена полная свобода). Топология в x{Xv | и 6 Л} с указанной предбазой называется пихоновской. Определение 3. Декартово произведение топологических пространств Х„, v € Л, снабженное тихоновской топологией, называется топологическим, или тихоновским произведением этих топологических пространств. Впоследствии нам пригодится следующее почти очевидное Предложение 4. Пусть М — подмножество топологического произведения x{Xv \ и е Л}. Тогда точка f € М является внутренней в том и только том случае, если множество М содержит ее окрестность вида U^ Vn = {ge х{Х„ 11/€А> |g(uk)eUVk,k = l,...,n} для некоторых vk е Л и открытых множеств U„ в Хи . < > Разумеется, топологическое произведение любого семейства ха- усдорфовых пространств само хаусдорфово. Очевидно также, что для любого v € Л определенная выше (теоретико-множественная) проекция 7г„: X —* Xv является непрерывным отображением. Теорема 2. Всякое семейство непустых топологических пространств обладает в ТОР (а также, если все они хаусдор- фовы, то и в НТОР) произведением, каковым является топологическое произведение этих пространств вместе с проекциями. < Пусть Xv, v б Л, — наше семейство, а У — «постороннее» топологическое пространство вместе с семейством непрерывных отображений <р„: У —> Xv, v е Л. Тогда, очевидно, существует единственное такое отображение множеств ф: У —* х{Хи | и бЛ}, что для всех i/еЛ диаграмма х{Ху\иеЛ}*-±—? Х„ коммутативна. Поэтому все, что нужно для проверки теоретико-ка- тегорного определения произведения, — это показать, что отображение V непрерывно. Пусть V := {/ е x{Xv \ v е Л} | /„ € U} — множество из стандартной предбазы топологии в x{Xu\v>eA}
64 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ (см. выше). Очевидно, если уе Y, то условия ф(у)еУ и v„(y)G U эквивалентны. В свою очередь это означает, что прообраз множества V относительно ¦ф совпадает с прообразом подмножества U в Xv относительно <ри, а стало быть, открыт в силу непрерывности последнего отображения. Остается воспользоваться вторым утверждением предложения 2.9. о. Приведем две иллюстрации. Прежде всего заметим, что, как частный случай общего определения декартова произведения, декартово произведение семейства экземпляров С, индексированных точками некоего множества Л, — это то же самое, что множество всех комплекснозначных функций на Л; в связи с этим оно, по аналогии с обозначением для произведения одинаковых чисел, обозначается СЛ. Упражнение 4°. Сходимость любой последовательности (для отличников — также и любой направленности) в СЛ относительно тихоновской топологии — это в точности простая (она же поточечная или покоординатная) сходимость. Таким образом, сходимость, обсуждавшаяся в упражнении 2.6, — это сходимость в пространстве С[0, 1], рассматриваемом как топологическое подпространство в С'0,11. Упражнение 5. Топологическое произведение счетного семейства двоеточий (= двухточечных дискретных топологических пространств) гомеоморфно канторову совершенному множеству. Вопрос о копроизведениях в тех же категориях ТОР и НТОР не вызывает трудностей. Упражнение 6. Всякое семейство топологических пространств обладает в категории ТОР (а если эти пространства хаусдорфовы, то и в категории НТОР) копроизведением. А именно, таковым является их теоретико-множественное дизъюнктное объединение, снабженное топологией, база которой состоит из всевозможных открытых множеств всех исходных пространств. Однако даже в наиболее «популярных» категориях (ко)произведения существуют далеко не всегда. Отличникам настоятельно рекомендуется Упражнение 7*. Семейство метрических пространств, содержащих более одной точки, обладает произведением в категории Мет тогда и только тогда, когда оно не более чем счетно. Указание. Доказывая импликацию <=, в качестве Ц{Хп I п е N} можно взять декартово произведение этих метрических пространств с метрикой U'9h nt,2"(d(/(n),/(n))+l)- Доказывая импликацию =>¦ от противного, можно в качестве «вредного» пространства Y взять метрическое пространство {0, 1}N с предложенной выше метрикой.
§ 7. ФУНКТОРЫ 65 Следующие несколько упражнений, хотя они и легче, мы не считаем обязательной* даже для отличников. Они приводятся лишь для того, чтобы удовлетворить •оаможное любопытство читателя. Упражнение 8. Всякое семейство метрических пространств обладает копроиз- каением как в категории Мет, так и в категории МЕТи. Указание. Введите надлежащую метрику в дизъюнктное объединение. Упражнение 9*. Семейство метрических пространств, содержащих более ыной точки, обладает произведением в категории МЕТи тогда и только тогда, когда эно не более чем счетно. Упражнение 10*. (i) Семейство непустых метрических пространств обладает гроизведением в категории Мет, тогда и только тогда, когда все они, кроме, быть может, конечного числа, имеют конечный диаметр, ограниченный общей внстантой. (ii) Семейство метрических пространств обладает копроизведением в категории Мет, тогда и только тогда, когда все они, за исключением, быть может, одного, (ш) Зато в полной подкатегории Мет,, категории Мет,, состоящей из пространств диаметра не больше 1, всякое семейство непустых пространств обладает как произведением, так и копроизведением. Указание, (i) При доказательстве импликации => от противного возьмите одноточечное пространство У и постройте два элемента х, у € X, для которых 4(z, у) ^ п для всех п. Доказывая импликацию <=, введите в X метрику dV,g):= sup d(f(u), д{и)). (ii) К противоречию приведет рассмотренное в качестве У двоеточие с достаточно большим диаметром. § 7. Функторы Говоря с некоторой долей упрощения, можно сказать, что в теории категорий понятие функтора играет по отношению к понятию категории ту же роль, какую играет в теории множеств понятие отображения по отношению к понятию множества. Есть у этого понятия и некий «мировоззренческий» аспект, который состоит в том, что функтор — это осмысление и формализация того, что такое «правильная» математическая конструкция, связывающая, вообще говоря, различные математические дисциплины. Определение 1. Пусть К и С — категории. Мы говорим, что задан ковариантный функтор из К, в С или между К и С (обозначаемый снова стрелкой: F: К.-*С), если (I) каждому объекту X е ОЪ(К) сопоставлен некий объект F(X)eOb(?.); (II) каждому морфизму ip: X —> Y в К. сопоставлен морфизм F(V):F(X)-*F(Y)*C.
66 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ При этом предполагаются выполненными два свойства: (i) как только композиция фу> имеет смысл, выполнено равенство FA^) = W)F(?>); (ii) для любого X € ОЪ{К) выполнено равенство F(\x) — \.F(Xy Контравариантным функтором из К, в ? называется ковари- антный функтор из К.0 в С. В терминах исходных категорий последнее понятие, очевидно, означает следующее. Определение контравариантного функтора повторяет определение ковариантного везде, кроме пунктов (II) и (i). А именно, (II) заменяется на свойство (II') каждому морфизму р: X —> У в К, сопоставлен морфизм F(<p):F(Y)^F(X)b?, в то время, как (i) заменяется на свойство (i') как только композиция фу имеет смысл, выполнено равенство f№>) = fD>)fw). (Отсюда, кстати, видно, что мы могли бы определить контрава- риантный функтор из К в С и как ковариантный функтор из К. в?°.) Напомним, что появление в математике категорий — это во многом результат осознания того, что, говоря неформально, «морфизмы важнее объектов». Соответственно и появление функторов — это результат осознания того, что математическую конструкцию столь же (если не более) важно определить на морфизмах, как и на объектах. Впрочем, трудно сказать лучше, чем это было сделано в основополагающей работе Эйленберга и Маклейна [77, с. 236]: «...Как только новые абстрактные объекты сконструированы некоторым специальным образом из заданных, рекомендуется рассматривать конструкцию соответствующих индуцированных отображений этих новых объектов как неотъемлемую часть их определения». Простейшим примером ковариантного функтора, заданного на абстрактной категории /С, является, конечно, тождественный функтор 1к: К. —> /С, а простейшим примером контравариантного — функтор дуальности 1%: К. —> К?. Оба сохраняют на месте как объекты, так и морфизмы, только во втором случае морфизм из X в Y после применения функтора считается действующим из Y в X. Еще один немудреный пример — это так называемый постоянный функтор из 1С в ?; он переводит все объекты из /С
§ 7. ФУНКТОРЫ 67 в один и тот же фиксированный объект из С, а любой морфизм из К. — в локальную единицу этого объекта. (Этот функтор можно одновременно рассматривать как ко- и контравариантный — так тоже бывает!) Читатель может без труда определить композицию функторов (в стиле композитам отображений) и, взяв за основу определение изоморфизма объектов в категори- п. определить изоморфизм категорий как функтор, обладающий обратным функтором. Можно дать и следующее определение категорного изоморфизма, эквивалентам, как нетрудно убедиться, только что сказанному: это ковариантный функтор I: К->С, осуществляющий биекцию между классами ОЬ(К) и ОЬ(С) и к тому же для каждой пары X,Ye ОЬ{К) осуществляющий (посредством отображения f <— /(у?)) биекцию между множествами hK(X, Y) и hc(I(X), I(Y)). Однако считать категории «по существу одинаковыми» в точности тогда, когда зни изоморфны, — подобно тому, как мы договаривались об объектах категорий, — эеудобно. Дело в том, что требование изоморфизма слишком сурово, чтобы быть фактичным, и «правильное» отождествление категорий происходит посредством менее жесткого требования так называемой эквивалентности, о котором пойдет речь » конце этого параграфа. Впрочем, содержательные примеры изоморфных категорий ¦се же существуют: например, категория Set изоморфна полной подкатегории в Тор, состоящей из дискретных пространств (проверьте!). Еще один любопытный, хотя и, «сколько нам известно, практически бесполезный факт состоит в том, что всякая категория изоморфна некоторой подкатегории в Set [77]. При словах «композиция функторов» естественно возникает соблазн говорить э «категории категорий Cat», объектами которой служили бы категории, а морфиз- шами — ковариантные функторы. Но подобная категория была бы слишком велика, тгобы ее можно было корректно определить в рамках существующей строгой теории множеств. В основаниях математики есть, однако, выход из положения, который заключается в том, что Cat состоит не из всех (страшно подумать!), а только из так зазываемых малых категорий; подробности см., например, в [31]. Изоморфизм в Cat а есть обсуждавшийся выше изоморфизм категорий (правда, теперь он определен яе для всех категорий, а только для этих малых). Функтор F: К,—> ? называется верным, соответственно полным, если для каждых X, Y € К. отображение из множества hc(X, Y) в множество hc(F(X), F(Y)) (либо, смотря по смыслу, hc(F(Y), F(X))), переводящее ip в F(ip), инъективно, соответственно сюръективно. Например, определяемый очевидным образом функтор естественного вложения подкатегории в категорию всегда верен, и этот функтор полон тогда и только тогда, когда й?.ша подкатегория полная. Выделим простое, но чрезвычайно полезное свойство функторов. Теорема 1. Ковариантный функтор переводит ретракцию ш ретракцию, коретракцию в коретракцию и изоморфизм в изоморфизм. Контравариантный функтор переводит ретракцию ш коретракцию, коретракцию в ретракцию и (опять-таки) изоморфизм в изоморфизм. < Очевидные соображения дуальности позволяют ограничиться случаем заданного ковариантного функтора F: К. —> С. Пусть
68 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ ц>: X —> Y — ретракция в /С с правым обратным ф. Тогда в силу определения функтора FD>)F(^) = F(^) = F{lx) = \F{X), т. е. морфизм F(il>) — правый обратный к F(ip) в С. Дальнейшее очевидно. > Современная математика просто кишит функторами, и те примеры, которые мы сейчас приведем, — ничтожно малая часть известных. ПРИМЕР 1. Уже в самом определении категории неявно заключены две серии функторов; одна состоит из ко-, а другая из контра- вариантных. Возможно, это вообще самые важные функторы. А именно, зафиксируем объект X (произвольной) категории /С. Сопоставим каждому объекту Y € Ob(JC) множество пк(Х, У), а каждому морфизму ср: У[ —> Y2 в /С — обозначаемое через hK{X, <р) отображение из множества hJC(X, Y[) в множество hK(X, Y2), которое переводит каждый морфизм ф ?hK(X, Y) в (рф. (Иначе говоря, hK(X, <р) переводит ф в единственный морфизм х, делающий диаграмму X Y, -^ Y2 коммутативной.) Элементарная проверка убеждает нас в том, что сопоставление Y н> h^X, Y) (на объектах); (ip: Yi —> Y2) н-» •-> (hK(X, уз): hK(X, yj) —> hK(X, Y2)) (на морфизмах) есть кова- риантный функтор из 1С в SET. Он называется ковариант- ным функтором морфизмов или, короче, ковариантным мор- функтором (иногда говорят: ковариантным основным функтором), порожденным объектом X. Этот функтор обозначается hK(X, ?): /С -> Set. Наряду с ковариантным мор-функтором, наш фиксированный объект X порождает и другой, контравариантный функтор морфизмов, или мор-функтор, обозначаемый hK(?, X). Он определяется как hK(X, ?): К.0 —> SET, т. е. как уже построенный ковариантный мор-функтор, но определенный на дуальной категории. Настоятельно рекомендуем читателю дать развернутое определение этого функтора в терминах самой категории /С.
§ 7. ФУНКТОРЫ 69 Для ряда категорий в качестве области значений мор-функторов более естественно рассматривать не SET, а одну из категорий множеств с дополнительной структурой. ПРИМЕР 2. Пусть /C = LlN. В этом случае мы знаем из линейной алгебры, что hK(X, Y) — множество линейных операторов из X в У — само обладает структурой линейного пространства, и при этом, как легко проверить, указанные выше отображения Ъ.С(Х, ip), tp е hK, суть линейные операторы. Поэтому мы вправе говорить о ковариантном функторе hK(X, ?): LiN —> LiN и о его контравариантном собрате hK(?,X): LiN—>LlN. ЗАМЕЧАНИЕ. Предупредим читателя, что наши главные примеры подобных «специализированных» мор-функторов еще впереди. Таковыми будут мор-функторы, заданные на категории банаховых пространств и принимающие значения в той же категории, и, в частности, самый знаменитый из них — контравариантный «функтор звездочки» (перехода к сопряженным пространствам и операторам). Аналогично мор-функторы, заданные в Ав, целесообразно рассматривать со значениями в той же категории Ав. А вот мор-функторы, заданные в категории Gr, приходится рассматривать, как в общем примере 1, со значениями в «просто» Set: они доставляют множества, вообще говоря не обладающие групповой или какой- либо иной дополнительной структурой. Продолжим рассмотрение примеров функторов. ПРИМЕР 3. На самом деле здесь речь пойдет о целом семействе сходных по своей смысловой нагрузке функторов. Пусть категория /С такова, что ее объекты суть множества, наделенные какой-либо дополнительной структурой, а морфизмы — отображения между подобными множествами, каким-то образом согласованные с заданной структурой (как в большей части примеров нз § 3). В этом случае возникает так называемый забывающий функтор ?: К. —¦ SET, обозначаемый, как видите, «пустым квадратом» (дескать, что-то было в квадрате, но об этом забыли). Этот функтор сопоставляет каждому X е К, его подлежащее множество, обозначаемое ОХ, а каждому морфизму из ip 6 hK — это же отображение, но теперь рассматриваемое просто как отображение множеств и обозначаемое в этом «упрощенном» качестве через Dip. Специализациями подобного функтора являются D: LiN —> SET, ?: TOP -> SET и т. п.; сходство обозначений не вызывает путаницы. Очевидно, забывающий функтор ковариантен и всегда верен. Помимо только что рассмотренных функторов, «забывающих всю структуру» и принимающих значения в категории SET, полезно рассматривать также функторы, «забывающие о части структу-
70 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ ры». Таков, например, определяемый очевидным образом функтор D: Lin —> Ав, «забывающий» об умножении на скаляры, но «еще помнящий» об операции сложения. Сюда же можно отнести, скажем, функтор D: Мет —> ТОР, «забывающий» о конкретной метрике заданного пространства, но «помнящий» о топологии, порожденной этой метрикой. Такие функторы мы также будем называть забывающими. ПРИМЕР 4 (один из функторов свободы). Если забывающие функторы превращают множество со структурой в «голое» множество, то предлагаемый функтор является представителем некоторого вида функторов, действующих в обратном направлении. Пусть S — множество. Обозначим через F(S) множество формальных линейных комбинаций элементов множества S с комплексными коэффициентами. Оно наделено очевидной структурой линейного пространства с линейным базисом {lx | х е S}; отождествляя г с li, можно считать, что 5 лежит в J"E) и является там базисом. Сопоставим каждому множеству S линейное пространство F(S), а каждому отображению множеств ip: S —> Т — линейный оператор Т(^р): ^(S)—>F(T), однозначно определяемый тем, что он отправляет хе 5с/E) в <р(х)е Гс/(Г). Очевидно, возникает ковариантный функтор Т: SET —> LlN, называемый (по причинам, которые будут станут ясны ниже читателю, не брезгающему мелким шрифтом) функтором, свободы. Упражнение 1°. Для любых объектов 5 G SET и Е е е LlN постройте биекцию между множествами hSETE,О(Е)) и hUN(F(S),E). ЗАМЕЧАНИЕ. На самом деле это упражнение, должным образом проанализированное, ведет к одному из центральных понятий теории категорий — понятию так называемого сопряженного функтора. (В данном случае функтор свободы Т сопряжен к забывающему функтору D.) Любопытные могут почитать об этом, скажем, в книге [4]. Обратимся на время к сильному студенту. Напомним, что большинство (хотя и не все) из рассмотренных до сих пор категорий имели одну общую черту. Их объекты суть множества (в большинстве случаев наделенные дополнительной структурой), а морфизмы — отображения множеств (согласованные тем или иным способом с этой структурой). На самом деле существует формально определяемый класс категорий, охватывающий все подобные случаи. Определение 2. Конкретной категорией называется пара (AC, D), состоящая из категории К и ковариантного верного функтора D из АС в категорию множеств. Разумеется, большинство категорий, приведенных ранее в качестве примеров, можно рассматривать как конкретные, взяв в качестве D забывающий функтор в Set. В некоторых случаях, однако, окажется более целесообразным рассматривать
§ 7. ФУНКТОРЫ 71 несколько иные функторы, например, сопоставить объекту X не все его подлежащее множество, а его некоторую часть. (Какая от этого может быть польза, мы увидим, • частности, на примере категории BaNj в упражнении 2.5.20.) Теперь становится ясным, какое общее утверждение скрывается за предложением 5.5. Упражнение 2°. Пусть (К, О) — конкретная категория, ч> — морфизм в К. Тогда если D(y>) — инъективное отображение, то <р — мономорфизм, а если D(^) — аоръективное отображение, то *р — эпиморфизм. Вот еще одно важное свойство рассматриваемых категорий. Предложение 1. Если i — изоморфизм между объектами конкретной категории (К, О), то D(i) — биекция. о Это частный случай теоремы 1. > Во многих конкретных категориях, в частности в наших примерах категорий чистой алгебры, верно и обратное: морфизм, являющийся, как отображение подлежащих множеств, биекцией, всегда есть изоморфизм. Выделим класс категорий, обладающих подобным свойством. Определение 3. Конкретная категория (/С, П) называется уравновешенной, если для любого ее морфизма <р из того, что O(ip) — биекция, следует, что <р — изоморфизм. Таким образом, упомянутые выше категории уравновешенные. В то же время нетрудно усмотреть, что категории (Met, D) и (Top, D) таковыми не являются (укажите биективные морфизмы, не являющиеся изоморфизмами). Забегая вперед, отметим, что для некоторых категорий топологии и функционального анализа тот факт, что они являются уравновешенными, составляет содержание теорем, играющих в этих науках фундаментальную роль; в этой книге таковыми будут теорема Банаха об обратном операторе и теорема Александрова. Функторы «частичной потери памяти» тоже могут быть формализованы, на этот раз как функторы между двумя конкретными категориями (попробуйте дать точное определение). Оставшаяся «общеобразовательная» часть этого кусочка мелкого шрифта не считается обязательной даже для отличников. Эпитет «свободный» в математике Вам тоже, конечно, встречался: например там, где речь шла о понятии свободной группы и (отличном от него) понятии свободной абелевой группы. Дело в том, что функторы Т: Set—»Gr и Т: Set-»Ab, определяемые по аналогии с функтором Т: Set -» Lin из предыдущего примера, сопоставляют заданному множеству S как раз свободную группу (соответственно свободную абелеву группу) с множеством S в качестве системы образующих. (Детали определения и проверку свойств функтора оставляем читателю.) На самом жде ту же природу (хотя это, может быть, и не бросается в глаза) имеет ¦ функтор Т: Set-»Тор, сопоставляющий множеству S дискретное топологическое пространство с тем же множеством S в качестве подлежащего множества. При этом ¦о всех указанных случаях имеет место аналог упражнения 1, с заменой Lin на Gr, Ав или, смотря по смыслу, Тор. (Сформулируйте и докажите!) Сейчас Вы подготовлены к тому, чтобы воспринять общее определение сперва свободного объекта, а затем и функтора свободы — как Вы догадались, в рамках (произвольной) конкретной категории. Определение 4. Пусть (К, О) — конкретная категория, X — объект в К. Подмножество 5 е ОХ называется базисом этого объекта, если для любых У € ?
72 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ и отображения (= морфизма в Set) <р: S-*OY существует единственный такой морфизм f(tp): X —> Y в К, что диаграмма ах SlifUuY 4 5 в которой j — естественное вложение, коммутативна. Объект в К., обладающий базисом, называется свободным. Упражнение 3. Два объекта конкретной категории с базисами одинаковой мощности изоморфны. Указание. Если для А = 1,2, множество Sk —базис объекта Хк, \пк — естественное вложение Sk в ОХк и v: ^ -> 52 — биекция множеств, то /(in2 <р) — изоморфизм с обратным /(in, </>"'). Нетрудно усмотреть, что всякий объект в Lin свободен и его базис — это любой линейный базис соответствующего линейного пространства (ср. упражнение 1). Далее, свободный объект в Gr и Ав — это как раз то, что и называется свободной группой, соответственно свободной абелевой группой (укажите базис!). Наконец, свободные объекты в Тор — это дискретные топологические, а в Мет—дискретные метрические пространства; базис в этих случаях совпадает со всем подлежащим множеством данного объекта. Вопрос о существовании базисов тесно связан с вопросом о наличии копроизве- Упражнение 4*. Пусть в конкретной категории (К, П) существует объект / с базисом, состоящим из одной точки s G DG). Тогда произвольный объект X этой категории обладает базисом в том и только том случае, если найдется такое семейство морфизмов iv: 1„ -» X, и 6 Л, где /„ = / для всех v е Л, что пара (X, {iv \ v 6 Л}) является копроизведением семейства /„, v е Л. При этом подмножество {(Div)(s) | v еЛ} в 0(Х) является базисом для X. (Таким образом, если в категории существует объект / с одноточечным базисом, то все ее объекты, обладающие базисом, являются в точности копроизведениями семейств, состоящих из экземпляров объекта /.) Указание. Если X имеет базис Л, то (X, {i„ | и е Л}), где отображения i„: 1„ = I -» X однозначно определены тем, что Ot'„(s) = v е Л С а(Х), есть копроизведение семейства /„, v е Л. Если же (X, {iv \ и е Л}) — копроизведение последнего семейства, то базисом объекта X служит подмножество {Dt'1/(s), veA} в О(Х). Определение 5. Функтор F: Set —» К, где (АС, ?) — конкретная категория, называется функтором свободы, если он сопоставляет каждому объекту S е Set какой-либо объект ^F{S), базисом которого является S, а каждому отображению (= морфизму в Set) <р: S -* Т — тот единственный морфизм F(<p): F(S) -»^Г(Т), для которого диаграмма ПЯE) -Э321-» ПГ(Т) S —-—> т, в категории Set, где js и jT — естественные вложения, коммутативна.
§ 7. ФУНКТОРЫ 73 Разумеется, функтор свободы корректно определен, если для каждого множества 5 существует хотя бы один объект в К с базисом S. (Объясните, почему в этом случае указанный выше морфизм F(<p) действительно существует и единствен.) Упражнение5. Обобщите результат упражнения 1 на любой функтор свободы. Подобно «частично забывающим» функторам, упомянутым выше, существуют а весьма полезны так называемые функторы относительной свободы, действующие i обратном направлении; вторые связаны с первыми «соотношениями сопряженности», подобными той биекции, о которой говорилось в упражнении 1. Несмотря ¦а свою важность в определенных разделах функционального анализа (а также «гебры), они выходят за рамки этой книги. Пример такого функтора, полезный ыя теории банаховых алгебр, см. [56, с. 412]. Ковариантный функтор из стандартной симплициальной категории Д в произвольную категорию К называется косимплициальным К-объектом, а контрава- эиантный функтор между теми же категориями — симплициальным К-объектом. (Если, скажем, К — это LlN, то обычно говорят о (ко)симплициальных линейных зространствах и т. п.) Эти функторы исключительно важны для изучения тех или вшд категорий гомологическими методами (см., например, [10]). (Исторически зервым симплициальным объектом явился контравариантный функтор А —» Тор, хреводящий объект {1,...,п}в(п — 1 )-мерный стандартный симплекс в R", п 6 N, отсюда и терминология. Попробуйте сами разумно определить действие этого функтора на морфизмы в Д. Намекнем: некоторые из этих морфизмов называются гранями, а некоторые — вырождениями.) Огромную важность для топологии, комплексного анализа, дифференциальной геометрии, а с недавнего времени — и функционального анализа имеют функторы, определенные на специальной категории «технического предназначения» ОРЕ1Ч(П), гае П — заданное топологическое пространство. Объектами этой категории объявлены открытые множества в U, а множество морфизмов между такими объектами U и V состоит в случае U С V из единственного морфизма — естественного вложения U в V, и это пустое множество в противном случае. Контравариантный функтор ю П в заданную категорию К называется предпучком объектов из К; в частности, говорят о предпучках множеств, абелевых групп, колец и т. п. (Попробуйте дать развернутое определение предпучка, скажем, линейных пространств, не использующее слово «функтор».) Предпучок, удовлетворяющий некоторым естественным требованиям, называется пучком; о значении пучков Вы можете составить себе зредставление по книге [8]. Мы возвращаемся к общеобязательному материалу. Если в теории множеств есть два фундаментальных понятия — множество и отображение, то теория категорий покоится на трех китах. Два кита нам уже известны: это категория и функтор, а третий кит — это естественное преобразование функторов, к определению которого мы переходим1'. Сколько-нибудь подробный рассказ 06 этом понятии выходит за рамки этого учебника, но мы убеждены, !) Это понятие возникло в алгебраической топологии, затем проникло в чистую алгебру, а теперь стало неотъемлемой частью языка большой области математики, включая современный функциональный анализ. Любопытно, что, как признают отцы-основатели, теория категорий исторически началась как раз с рассмотрения естественных преобразований. «„Категория" была определена, чтобы определить ^функтор", а „функтор" был определен, чтобы определить „естественное преобра- viiuuup"» Г31 г 1R1
74 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ что хотя бы его определение должно входить в джентльменский набор каждого уважающего себя «чистого» математика начала XXI века. Определение 6. Пусть F, G: К. —> С — два ковариантных функтора между некими категориями. Говорят, что задано естественное преобразование а = {ах} между функторами F и G (обозначаемое снова стрелкой: a: F —> G), если для каждого объекта X еК. задан такой морфизм ах: F(X)-+ G(X) в С, что для любого морфизма уэ: X -* Y в К. диаграмма F(X) -2*U F(Y) 4 4 G(X) -22U G(Y) (в С) коммутативна. Естественное преобразование между двумя контравариантными функторами из К в С определяется как естественное преобразование между двумя соответствующими ковари- антными функторами из К0 в С (расшифруйте!). Естественное преобразование а = {ах} между двумя ковариант- ными функторами называется естественной эквивалентностью, если ах — изоморфизм для каждого X е К.. Естественное преобразование между двумя контравариантными функторами называется естественной дуальной эквивалентностью (иногда — естественной антиэквивалентностью), если оно является естественной эквивалентностью после перехода к соответствующим ковариантным функторам. Следующие два упражнения должны прояснить суть введенных понятий. Упражнение 6. Любой фиксированный морфизм ф: X -* Y в (произвольной) категории К. задает естественное преобразование а между соответствующими мор-функторами из /С в SET с компонентами az: hK(tp,Z): hK( Y, Z)^hlc(X, Z). Сформулируйте и докажите аналогичное (дуальное) утверждение для контравариантных мор-функторов. Упражнение 7. Функтор hK(X, ?) естественно эквивалентен тождественному функтору в^в каждой из следующих ситуаций: (i) К. = SET, X — одноточечное множество; (и) К. = LIN, X — С. Важные примеры естественных преобразований функторов в функциональном анализе будут обсуждены позднее; см. далее каноническое вложение во второе сопряженное из § 2.5 и преобразование Гельфанда из § 5.3.
Теперь большинство студентов может отдохнуть до начала следующей главы, но отличникам еще рано расслабляться: для них мы сообщим еще несколько вещей. Уж если математики начали играть в свои игрушки, их не остановишь... Обсуждаемое понятие естественного преобразования функторов позволяет ввести весьма полезный класс категорий. А именно, зафиксировав две категории /С и ?, мы рассмотрим категорию ? , объектами которой объявлены всевозможные функторы из АС в ? (пусть, для определенности, — ковариантные), а морфизмами — естественные преобразования между такими функторами; при этом очевидным образом определяется композиция двух естественных преобразований. Разумеется, подобная конструкция требует осторожности в выборе возможных категорий — иначе мы опять-таки придем к парадоксам, но, к счастью, это можно сделать без большой потери общности (снова поверим Маклейну [31]). Упражнение 8. Изоморфизм функторов как объектов в Ск — это в точности ах естественная эквивалентность. Выше мы упоминали о понятии изоморфизма двух категорий и сетовали на то, =n-o оно мало пригодно на практике, будучи слишком обременительным. Теперь, наконец, мы в состоянии дать правильное представление о том, какие категории следует считать «по существу одинаковыми». Определение 7. Ковариантныи функтор F:K—*C (между двумя произвольными категориями) называется эквивалентностью (данных категорий), если существует такой ковариантныи функтор G: ? -> К, что композиция G о F — функтор, естественно эквивалентный тождественному функтору 1^-, а композиция F о G — функтор, естественно эквивалентный тождественному функтору 1С. Контравари- антный функтор F: 1С -> ? называется дуальной эквивалентностью (иногда антиэквивалентностью), если соответствующий ковариантныи функтор из АС" в ? — эквивалентность. Категории называются эквивалентными (соответственно дуально эквивалентными, или антиэквивалентными), если между ними существует эквивалентность (соответственно дуальная эквивалентность). Упражнение 9*. Эквивалентность категорий может быть охарактеризована как изоморфизм объектов в некоторой надлежащим образом выбранной категории. Указание. Объекты желаемой категории —те же, что и в «категории категорий» Cat. Однако морфизмами между двумя категориями объявлены не (просто) функторы из первой категории во вторую, как в Cat, а классы естественной эквивалентности этих функторов. Упражнение 10. Категория конечномерных линейных пространств FLlN (i) дуально эквивалентна себе самой; (ii) эквивалентна своей полной подкатегории с объектами С"; п = 0,1,... Указание. Дуальной эквивалентностью FLlN —»FLlN служит функтор h(?,C), т. е. функтор перехода к алгебраически сопряженному пространству. Вторая часть этого упражнения показывает, что эквивалентные категории могут иже содержать разное количество объектов (и ничего страшного!). Впоследствии будет кое-что рассказано о фундаментальной важности примерах дуальной эквивалентности некоторых категорий функционального анализа, с виду не имеющих между собой ничего общего. Это гельфандова дуальная эквивалентность категории коммутативных С*-алгебр и категории локально компактных топологических пространств (см. § 6.3) и понтрягинская дуальная эквивалентность категории Ав и категории компактных абелевых групп (см. § 7.5). А вот и наше последнее — по счету, но не по важности — теоретико-категорное
76 Гл. 0. ФУНДАМЕНТ: КАТЕГОРИИ И ИЖЕ С НИМИ Определение 8. Ковариантный (соответственно контравариантный) функтор из некой категории К в Set называется представимым, если он естественно эквивалентен функтору h(X, ?) (соответственно h(?, X)) для некоторого объекта X е К.. (Последний называется представляющим объектом для нашего функтора.) Упражнение 11. Все забывающие функторы, определенные на категориях, фигурирующих в примерах § 3, представимы. Указание. Для категории LlN представляющий объект —это С, для категорий Ав и Gr — это Z, для Rin — это кольцо многочленов с целыми коэффициентами без свободного члена, для остальных категорий — это одноточечный объект. Разумеется, представимые функторы были введены не ради подобных примеров. На самом деле постепенно выяснилось, что целый ряд самых разных задач о существовании «правильной» конструкции, отвечающей на тот или иной математический вопрос, сводятся к вопросу о том, представим ли тот или иной функтор. Забегая вперед, заметим, что к подобным проблемам относятся вопросы о существовании пополнений метрических и нормированных пространств, алгебраического и «банахова» тензорного произведения и целый ряд других.
Глава 1 НОРМИРОВАННЫЕ ПРОСТРАНСТВА И ОГРАНИЧЕННЫЕ ОПЕРАТОРЫ (В ОЖИДАНИИ ПОЛНОТЫ) § 1. Преднормированные и нормированные пространства. Примеры Можно говорить, что мы вступили во владения функционального анализа, только после того, как дано следующее определение. Определение 1. Пусть Е — линейное пространство. Функция ( • ||: Е -* К+ (переводящая вектор х е Е в число, обозначаемое |т||), называется преднормой, если для любых элементов х,у€Е и А € С она удовлетворяет следующим двум условиям: (i)||Ax|| = |A|||x||; (И) ||х + 2/|| ^ ||ас|| + \\у\\ (неравенство треугольника). Преднорма называется (как Вам хорошо известно) нормой, если она, вдобавок, такова, что (iii) из равенства ||х|| =0 следует, что х = 0. Линейное пространство, снабженное преднормой, называется преднормированным, а снабженное нормой — нормированным пространством. Часто вместо «преднорма» говорят «полунорма». Желая уточнить, о какой (пред)норме идет речь, мы будем иногда употреблять выражения вроде «(пред)нормирор? шое пространство №11-11)». Заметим, что из условия (i) немедленно следует, что ||0|| = 0. Поэтому мы могли бы условие (iii) заменить на такое: ||х|| =()¦<=>¦ <=*х = 0. Замечание. Как всегда, говоря о линейных пространствах, мы имели в виду комплексные. В некоторых вопросах, однако, нам понадобятся (пред)нормы в действительных линейных пространствах н, соответственно, действительные (пред)нормированные пространства. Они определяются дословно так же, только с заменой А е С
78 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ на А е К в условии (i). Впрочем, когда о них зайдет речь, это будет оговорено особо. Что такое норма, наш читатель, конечно, знал и раньше. То, что мы с самого начала рассматриваем более общее преднормы, окупится впоследствии, когда нам понадобятся полинормированные пространства (гл. 4). Первые примеры преднорм, не являющихся нормами, таковы. ПРИМЕР 1. Разумеется, простейшей преднормой в любом линейном пространстве является нулевая: ||х|| =0 для любого вектора хеЕ. ПРИМЕР 2. Любой линейный функционал f:E—>С задает в Е преднорму || • ||; по правилу \\x\\f := \f(x)\. Если пространство Е не одномерно, такая преднорма не является нормой. Читателю, наверное, известно, что всякое нормированное пространство (Е, || • ||) автоматически является метрическим пространством с расстоянием d(x, у) := ||х — у\\. Разумеется, тот же способ превращает любое преднормированное пространство в предметри- ческое. Тем самым, как очевидный следующий шаг, всякое преднормированное пространство автоматически является топологическим, причем это топологическое пространство хаусдорфово тогда и только тогда, когда исходная преднорма является нормой. Про полученные указанным способом (пред)метрику и топологию мы будем говорить, что они порождены заданной (пред)нормой, и иногда называть их (пред)нормовой (пред)метрикой и (пред)нормовой топологией. Таким образом, в контексте (пред)нормированных пространств можно свободно употреблять все метрические и топологические понятия, такие, как замкнутый или открытый шар данного радиуса, замкнутое или открытое подмножество, непрерывное отображение и т. п. Непосредственно проверяется Предложение 1 (непрерывность суммы и умножения на скаляр). Отображения топологических пространств Е х Е —» ->Е, (х, у) н-> х + у, иСхЕ ->Е, (А, х) н-> Ах, где Е х Е иСхЕ рассмотрены с тихоновской топологией, непрерывны. В частности, если последовательности х„ и уп сходятся соответственно к х и у в Е, то последовательность хп + уп сходится к х + у, а если последовательность хп сходится к х в Е, а Ап сходится к X в С, то последовательность Апхп сходится к Ах. < > Кроме того — и это чрезвычайно важно, — наличие топологии в наших линейных пространствах позволяет гс^орить о сходящих-
§ 1. ПРЕДНОРМИРОВАННЫЕ И НОРМИРОВАННЫЕ ПРОСТРАНСТВА 79 ся рядах их векторов. Как обычно, под сходимостью ряда ]Г} хп понимается сходимость последовательности его частичных сумм X) xt, neN, а под суммой ряда — предел этой последовательности. При этом, очевидно, нормированные пространства выделяются среди преднормированных тем, что ряды их векторов имеют не более одной суммы. Всякое подпространство F преднормированного пространства Е само является преднормированным пространством относительно соответствующего ограничения преднормы. При этом, очевидно, подпространство нормированного пространства само является нормированным. Соответствующую (пред)норму в F мы будем называть унаследованной из Е. Пусть теперь Е — преднормированное пространство, a F — его (линейное) подпространство. Тогда в факторпространстве E/F можно ввести преднорму, взяв класс смежности х е E/F и положив для него ||х|| :=inf{||x|| | х б х} (проверьте нужные свойства). Эта преднорма называется факторпреднормой (либо, если это норма, факторнормой) исходной преднормы. Предложение 2. Факторпреднорма в E/F является нормой тогда и только тогда, когда подпространство F замкнуто вЕ. < Возьмем х е E/F и зафиксируем х € х. Тогда, очевидно, что условие ||х||= 0 означает в точности, что inf{||x+2/|| \yeF} = 0, т. е. вектор х принадлежит замыканию подпространства F. Дальнейшее очевидно, о Выделим важный частный случай этого утверждения, позволяющий изготавливать нормированные пространства из преднормированных. Предложение 3. Пусть Е —преднормированное пространство, Е0 :— {х е Е | ||х|| — 0}. Тогда Е0 — замкнутое (линейное) подпространство в Е, совпадающее с замыканием нуля. Как следствие, факторпреднорма в Е/Е0 является нормой. Эта норма корректно определена равенством \\х\\ = ||х||, где х — любой представитель класса смежности х. < > Очевидно, любая преднорма в линейном пространстве Е является преднормой и в его комплексно-сопряженном пространстве Ei (см. §0.1). Именно эту преднорму мы будем иметь в виду, говоря в дальнейшем о пространствах, комплексно-сопряженных к преднормированным. Сделаем еще одно общее наблюдение, которое пригодится впоследствии.
80 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Предложение 4. Пусть Е — преднормированное пространство, F —его замкнутое подпространство, у — вектор в Е, не принадлежащий F. Тогда существует такое число С > 0, что для любого вектора х € Е вида Ху + z, А б С, z е F, выполнено неравенство \Х\ ^ С||ж||. < Не теряя общности, мы вправе считать, что А ф 0. Поскольку подпространство F замкнуто, существует такое в > 0, что ||y-uj|>0 при всех ueF и, в частности, ||y-(-A~'z)|| ^в. Отсюда ||х|| = \Х\\\у - (-A"'z)|| ^ |А|0, и остается положить С := б-1. > А теперь, как и полагается при появлении ключевого понятия, мы соберем для читателя довольно объемистый мешок примеров (разной степени общности). ПРИМЕР 3. Начнем с арифметического комплексного пространства С". Читателю заведомо известна классическая «евклидова» норма в этом пространстве, а именно \\€\\2'¦= \ Y2 l?J2> ? = (fn • • •> ?„)• Но в пространстве С" есть и другие ин- тересные нормы, из которых мы выделим ||f ||t := */X) |?J и H?lL:=max{lf*l I k = l,...,n}. (Проверка свойств нормы очевидна.) Вообще, С" обладает целым семейством норм, зависящих от параметра р, 1 ^р<оо: это ||^|L:=V5Z 1?*|Р- (То, что это нормы, V*-i мы доказывать не будем; ср. ниже более общее предложение 5.) Пространство (С", || • ||р), 1 ^ р < оо, мы будем также обозначать через Ср. Многие важные нормированные пространства состоят из последовательностей комплексных чисел с покоординатными операциями. ПРИМЕР 4 (пространства с^, с и 1Ж). Первое из рассматриваемых пространств состоит из последовательностей, сходящихся к нулю, второе — из всех сходящихся последовательностей, третье — из всех ограниченных последовательностей. Норма вводится по единому правилу ||f |L:=sup{|?J | кеЩ (впрочем, для первого пространства мы, очевидно, вправе писать max вместо sup). Как легко усмотреть, с,, — замкнутое подпространство в с коразмерности 1, ас — замкнутое подпространство в 1^ бесконечной коразмерности. ПРИМЕР 5. Для каждого р, 1 ^ р < оо, рассмотрим множество 1р, состоящее из тех последовательностей, для которых
1. ПРЕДНОРМИРОВАННЫЕ И НОРМИРОВАННЫЕ ПРОСТРАНСТВА 81 ? \€к\Р <°°- Оказывается, это линейное пространство с нормой Ik Ир := уЕ |?*Г- Соответствующий факт очевиден для р = 1, а для остальных значений р (кроме р = 2, о котором пойдет особый разговор в следующем параграфе) мы его доказывать не будем (см. ниже предложение 5). Полезно заметить, что все эти пространства, а также cj, из предыдущего примера, содержат одно и то же плотное подпространство с^ (см. § 0.1). Пространство 1р, 1 ^ р < оо, естественно рассматривать как непосредственный бесконечномерный аналог пространств Ср из примера 3. Поэтому, когда в дальнейшем понадобится проводить рассуждения, единообразные для конечно- и бесконечномерных пространств, мы будем обозначать 1р через Zp", где п — счетная мощность, а Ср — через ip", где, разумеется, п — конечная мощность. (Что касается р = оо, то в одних вопросах бесконечномерным аналогом пространства С?, удобнее считать Сд, а в других — 1Ж.) От пространств последовательностей перейдем к пространствам комплекснозначных функций с поточечными операциями. ПРИМЕР 6. Пусть X — произвольное множество, 1Ж(Х) — линейное пространство (подпространство в С*), состоящее из всех ограниченных функций. Снабдим это пространство нормой ||xL:=sup{|*(*)||*e*}. Такая норма, а также унаследованная норма любого подпространства в 1Ж(Х), называется (как, впрочем, знает читатель) равномерной нормой или sup -нормой. Разумеется, ^(N) — это в точности 1^. Если Вы читаете необязательный материал, то позже увидите, что пространства 'оо(^) — это больше чем просто какие-то примеры: каждое нормированное пространство «сидит», с точностью до некоторого разумного отождествления, в одном из этих пространств; см. далее предложение 7.1. ПРИМЕР 6'. Если Q — топологическое пространство, то в пространстве 1Х(С1) из предыдущего примера выделяется подпространство СЬ(П), состоящее из ограниченных непрерывных функций. Оно также наделяется равномерной нормой. (Покажите, что это подпространство замкнуто.) Если мы заранее знаем, что все непрерывные функции на Q ограничены, то мы будем писать С(С1) вместо СЬ(П) (см. обозначения § 0.1). Забегая вперед, отметим, что это заведомо так, если пространство Q компактно в смысле определения 3.1.1. ПРИМЕР 6". Только что сказанное, разумеется, касается пространства С[а, Ь], где [а, Ь] — отрезок числовой прямой. Это одно
82 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ из самых важных и «популярных» нормированных пространств, которое нам хотелось бы особо выделить. ПРИМЕР б'". Обратим также внимание на пространства С0(К) и Ст(Щ. Первое состоит из функций на R, сходящихся к 0 при 111 —> оо, а второе, меньшее, — из финитных (= равных нулю каждая вне «своего» отрезка) непрерывных функций'*. ПРИМЕР 7. Зафиксировав натуральное число п, рассмотрим на том же отрезке [а, Ъ] пространство Сп[а,Ь) п раз гладких (= непрерывно дифференцируемых) функций. Это нормированное пространство с нормой ||х|| := max{|x<*>(OI | t е [а, Ъ], к =0,..., п} (где, как обычно, полагают х<0) = х). В следующих трех примерах (X, р.) — произвольное измеримое пространство (ср. § 0.1). ПРИМЕР 8. Линейное пространство L°X(X, р), состоящее из всех интегрируемых по Лебегу (комплекснозначных) функций на X, снабжено преднормой ||z||?:= \\x(t)\dp(t). х В дальнейшем нам понадобится следующее понятие действительного анализа. Измеримая функция х на X называется существенно ограниченной, если для некоторого С >0 выполнено равенство p{t€X\\x(t)\>C} = 0. ПРИМЕР 9. Линейное пространство Ь°Х(Х, fi), состоящее из существенно ограниченных функций, снабжено преднормой, обозначаемой || • ||от и сопоставляющей каждой функции нижнюю грань всех указанных выше констант. (Проверьте, что это действительно преднорма в линейном пространстве.) Следующее утверждение доставляет целую серию пространств, занимающих, говоря неформально, «промежуточное положение» (см. ниже упражнение 1) между двумя только что введенными. Знать, что следующий факт имеет место, по-видимому, должен каждый, но его технически довольно сложное доказательство, основанное на известном неравенстве Гёльдера, мы считаем возможным опустить; см., например, [15]. Предложение 5. (БД) Пусть L°(X, /х), р е [1, оо), —множество таких измеримых функций х на X, что J |x(t)|P dfi(t)<оо. ') В обоих пространствах речь идет, конечно, о равномерной норме.
§ 1. ПРЕДНОРМИРОВАННЫЕ И НОРМИРОВАННЫЕ ПРОСТРАНСТВА 83 Тогда это преднормированное пространство относительно преднормы \\х\\р :=р /$ \x(t)\"dp(t). ЗАМЕЧАНИЕ. Случай р = 2, пожалуй еще более важный, чем р = 1 и оо (уже не говоря об остальных р), будет со всеми деталями рассмотрен в следующем параграфе. Как легко проверить, для любого р, 1 ^ р ^ оо, преднормированное пространство L°(X, р) является нормированным тогда и только тогда, когда каждое одноточечное подмножество в X имеет положительную меру. В частности, нормированными являются все пространства Lp(X, •), 1 < р < оо, где X — произвольное множество, а «•» — «считающая мера», равная 1 в каждой точке. Их мы будем кратко обозначать через 1р(Х). Очевидно, при р < со такое пространство состоит из функций /: X —> С, для которых имеет смысл число Y1 1/(*)|Р- Это означает, в частности, что функция / teX отлична от нуля лишь на не более чем счетном подмножестве в X. Норма задается равенством ||/||=Р. J2 |/(*)Г- Далее, Ьах(Х, •) — это не что иное, как пространство 1Ж(Х) из примера 6. Наконец, при X = N пространства 1р(Х), 1 ^ р ^ со, совпадают с рассмотренными выше пространствами последовательностей 1р (примеры 4 и 5), а при X = {1,..., га} — с Ср из примера 3. Замечание. Заранее сообщим нашему просвещенному читателю, что пространства ^(Х) выделяются тем, что допускают абстрактное описание как свободные объекты в одной из основных категорий функционального анализа, а именно Ban, (см. далее упражнение 2.5.20). ПРИМЕР 10. Применив к преднормированному пространству L°(X, ц), 1 < р ^ со, конструкцию, описанную в предложении 3, мы получим нормированное пространство, обозначаемое Lp(X, р.). Из действительного анализа известно, что интеграл Лебега от неотрицательной функции равен нулю тогда и только тогда, когда эта функция равна нулю почти всюду. Отсюда мы видим, что элементами пространства Lp(X, р.) при р < оо являются классы эквивалентных (= совпадающих почти всюду) д-измеримых функций с интегрируемой по Лебегу р-й степенью модуля, а при р = оо — классы эквивалентных существенно ограниченных функций. В дальнейшем, пользуясь общепринятым в подобной ситуации жаргоном, мы будем часто говорить «функция из Lp(X, р)*, подразумевая не отдельную функцию, а содержащий ее класс эквивалентности. Если помнить, что стоит за такой фразой, то это не вызовет путаницы.
84 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Сходимость в L^X, р.) (соответственно в Ь2(Х, р)) часто называется сходимостью в среднем (соответственно в среднем квадратичном). Как уже отмечалось, lp(X) = L°(X, •), 1 ^ р ^ оо, — нормированное пространство, а потому подпространство Е0 из предложения 3 нулевое, и, стало быть, lp(X) = Lp(X, •). Поэтому 1р(Х) следует рассматривать и как специальный случай нормированных пространств Lp(X,p). Особо выделим еще несколько сходных по устройству пространств класса Lp(X, р), на которых хорошо наблюдать эффекты, связанные с «непрерывными» мерами. Здесь измеримым пространством является отрезок, прямая или окружность со стандартной мерой Лебега. Подразумевая именно эту меру, мы будем обозначать соответствующие нормированные пространства через Lp[a, b], Lp(R) и ?р(Т). Полезно заметить, что первое из них содержит в качестве плотного подпространства С[а, Ь], второе — CqoW и третье —С(ТI». Упражнение 1°. Пусть 1 ^ р < q < оо. Тогда 1р С lq, но Lp[a, Ъ] D Lq[a, Ь] и Lp(T) D Lq(T). В то же время ни одно из пространств -^(R) и Lq(M) не лежит в другом. Переходя к последнему примеру в этой серии, зафиксируем отрезок [а, Ь] с R. Напомним, что комплексной борелевой мерой (говорят также: комплексный борелев заряд) на [а, Ь] называется счетно-аддитивная функция множеств р: BOR? —> С. (В дальнейшем мы будем опускать слово «борелева»: иные меры нам не понадобятся.) Из действительного анализа (см., например, [18]) известно, что каждая комплексная мера представима (разумеется, многими способами) в виде р := vx - v2 + щ - ii/A, где ии.. .,ut — обычные ^неотрицательные) меры Лебега — Стильтьеса. Вариацией комплексной меры р называется число var(/*):=sup 5Г |м(-А*)|. где верхняя грань взята по всевозможным разбиениям отрезка [а, Ь] на борелевы множества (или, что дает тот же самый результат, промежутки) Ак. ПРИМЕР 11. Множество М[а,Ь] комплексных мер на [а,Ь] является, как легко проверить, нормированным пространством относительно линейных операций с мерами как с функциями борелевских множеств и нормы \\р\\ :=var(p). ') Здесь мы, конечно, имеем в виду эти три пространства только как множества, «забывая», что у них есть свои естественные нормы (равномерные), а также отождествляем каждую непрерывную функцию с содержащим ее классом эквивалентных функций.
§ 1. ПРЕДНОРМИРОВАННЫЕ И НОРМИРОВАННЫЕ ПРОСТРАНСТВА 85 Весьма полезным свойством многих из приведенных выше пространств является их сепарабельность. Здесь удобно выделить следующий критерий этого свойства, обычно легко проверяемый на практике. Предложение 6. Нормированное пространство Е сепара- бельно тогда и только тогда, когда оно обладает плотным линейным подпространством Е0 не более чем счетной размерности. < Если пространство Е сепарабельно, то в качестве Е0 можно взять линейную оболочку любого счетного плотного подмножества в Е. Обратно, если Е0 — подпространство с указанным свойством, а {еп} — его не более чем счетный линейный базис, то множество всевозможных линейных комбинаций векторов из этого базиса с комплексно-рациональными1* коэффициентами плотно в Е. > Плотными счетномерными подпространствами перечисленных выше пространств служат: а) для Cq и 1р, 1 ^ р < сю, — подпространство финитных последовательностей Cggl б) для С[а, Ь] и Сп[а, Ь] — подпространство многочленов (этот факт следует из первой аппроксимационной теоремы Вейерштрас- са); в) для Lp[a, Ь], Lp(T) и Lp(R), 1 ^ р < со, а также L°p[a, Ь], L°(T) и Ь°(Ш) с теми же р — подпространство ступенчатых функций (= линейных комбинаций характеристических функций промежутков) с точками разрыва из Q (либо, смотря по смыслу, из «рациональной окружности» {е2"' | t € Q}). В пространствах Lp[a, b] и L°[a, b] ту же роль играет и подпространство многочленов, а в Lp(T) и L°(T) — подпространство тригонометрических многочленов (= линейных комбинаций функций z", пб Z). Эти факты, по крайней мере для р = 1,2, обычно доказываются в теории меры и интеграла; ср. [18], и доказательство почти без изменений переносится на случай произвольного р. На стандартный курс меры и интеграла опирается и более общий факт. Упражнение 2. Пусть (X, р.) — измеримое пространство, причем мера р. имеет счетный базис. Тогда пространства Lp(X, р) и L°(X, р.), 1 ^ р < оо, сепарабельны. Разумеется, (пред)нормированные пространства из примеров 1-3 также сепарабельны. '' Комплексно-рациональное число — это комплексное число с рациональными действительной и мнимой частью.
86 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ В то же время пространство 1Ж не сепарабельно. Чтобы убедиться в этом, достаточно взять его подмножество мощности континуум, состоящее из всевозможных последовательностей нулей и единиц, и применить следствие 0.2.1. Как обобщение этого факта, предложим Упражнение 3. Пусть измеримое пространство (X, /х) содержит бесконечную систему попарно не пересекающихся подмножеств положительной меры. Тогда ЬЖ(Х, р.) и Ь^(Х, р), в частности, LJa, Ъ] и ЬЦа, Ь], LX(T) и L^(T), LJR) и L^(R) не сепарабельны. Помимо этого, пространства 1р(Х) с несчетным множеством X также, конечно, не сепарабельны — теперь уже при всевозможных р. Не сепарабельно и пространство М[а, Ь] (объясните, почему). Все обсуждавшиеся примеры (пред)нормированных пространств являются чем-то вроде неприкосновенного запаса — лишь малой частью всего многообразия пространств, используемых в анализе1). Впрочем, в нашем изложении скоро понадобятся и другие пространства, в частности состоящие из функционалов и операторов. Теперь мы предложим несколько конструкций, позволяющих, говоря нестрого, «складывать» заданные нормированные пространства. В линейной алгебре подобных конструкций две: декартово произведение и прямая сумма (ср. § 0.6). В функциональном анализе их гораздо больше. Пусть Ev, v б Л, — произвольное семейство нормированных пространств, Е° := у.{Е„ | v € Л} —декартово произведение их подлежащих линейных пространств. Прежде всего, рассмотрим в Е° его подмножество, состоящее из тех его элементов (=отображений) /, для которых числовое множество {||/(i/)|| 11' е Л} ограничено. Обозначим его ©^{^ | v еЛ}. Разумеется, это подпространство в Е°, в котором можно ввести норму || • 11^, (обозначаемую также || • ||п), а именно положив H/IL:=sup{||/(i/)|||i/eA}. Теперь зафиксируем р, 1 < р < оо, и рассмотрим в J50 его подмножество, состоящее из тех его элементов /, для которых J2 \\/(и)\\Р < °° (отсюда, разумеется, следует, что число 1/€Л тех v, для которых f(u) ф 0, не более чем счетно). Обозначим ') Ряд пространств, обслуживающих комплексный анализ, описан в [13], а гармонический анализ — в [60].
§ 1. ПРЕДНОРМИРОВАННЫЕ И НОРМИРОВАННЫЕ ПРОСТРАНСТВА 87 это множество через @р{Еи | v б Л} и для его элемента / положим ii/llp:=P./S 11/(^IГ (вместо \$\\ мы будем также употреблять обозначение ||/||и)- Элементарно проверяется Предложение 7. Для р = 1,оо множество ®р{Д, | v е Л} — подпространство в Е°, и функция || • ||р является в нем нормой. < > Сказанное сохраняет силу и для остальных р; впрочем, этот факт (за исключением рассмотренного в § 2.1 случая р — 2) нам не понадобится. Нормированное пространство ®p{Ev \ и б Л}, 1 ^ р ^ оо, называется 1р-суммой семейства Ev, v € Л. Наконец, с^-суммой семейства Е„, и еЛ, мы назовем (очевидно, замкнутое) подпространство в соответствующей /^,-сумме, обозначаемое через (&0{Еи \ и е Л} и состоящее из тех /, которые, как говорят, исчезают на бесконечности. Это означает, что для любого е > 0 найдется такое конечное подмножество ФСЛ, что ||/(i/)||<e при и<?Ф. Обратим внимание на то, что прямая сумма (в смысле линейной алгебры) семейства Ev, vеЛ, является плотным подпространством в фр{.Е„ | v е Л} при 1 ^ р < со, а также в ф0{Е„ | v е Л}. Это подпространство мы будем обозначать через ©^{Е,, | v е Л}. При A = Nh ?„ = С для всех v мы видим, что /р-сумма такого семейства — это не что иное, как 1р, 1 <р ^ оо, a Cq-сумма — это с$. ЗАМЕЧАНИЕ. Дополнительные обозначения || • ||п и || • ||„ для норм в 1Ж- и /,-суммах связаны с общекатегорным характером соответствующих конструкций: первая окажется нормой в произведении, а вторая — в копроизведении объектов одной из категорий, которую мы введем позже, а именно BAN, (см. далее упражнение 2.5.16). В заключение параграфа обсудим несколько общих понятий и фактов. Предложение 8. Любая преднорма ||-||: Е —>R+ на линейном пространстве является непрерывной функцией относительно топологии, порожденной этой преднормой. < Доказательство следует из неравенства |||х|| — ||у||| ^ ||х — у\\, которое, в свою очередь, следует из неравенства треугольника. >
88 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Пусть Е — преднормированное и, стало быть, предметрическое пространство. Важным связанным с ним геометрическим объектом является замкнутый шар с центром в нуле и радиусом 1. Он называется замкнутым единичным шаром или просто единичным шаром в Е и обозначается ШЕ (или просто Ш, если нет опасности путаницы). Аналогично вводится открытый единичный шар в Е, обозначаемый Ш°Е. Единичной сферой в Е называется множество векторов из Е нормы 1. Разумеется, подобные «шары» могут содержать целые подпространства в Е, а «сфера» может оказаться чем-то вроде цилиндра. Это происходит в точности тогда, когда заданная преднорма не является нормой. Оказывается, задание преднормы в пространстве Е эквивалентно заданию в нем множества с определенными свойствами, которое будет в нем играть роль единичного шара. Пусть М — произвольное подмножество линейного пространства Е. Положим Мх :={t б R+ | t~lx е М} и обозначим через рм(х) либо число ini Мх, если множество Мх непусто, либо символ со в противном случае. Определение 2. Функция р: Е —> Ш+ U {оо}, х н-> рм(х), называется функционалом Минковского1) (говорят также: калибровочный функционал) множества М. Упражнение 4. Множество Ш является единичным шаром относительно некоторой преднормы в В в том и только том случае, когда оно выпукло, уравновешено и, кроме того, для любого х е € Е числовое множество {А е С | \х е Ш} замкнуто и содержит окрестность нуля в С. Указание. Если указанные условия выполнены, то функционал Минковского множества Ш есть преднорма. ЗАМЕЧАНИЕ. Полезно посмотреть на единичные шары относительно норм || • ||р в С" из примера 3. Для геометрической наглядности мы ограничимся случаем п = 2 и рассмотрим действительное арифметическое пространство К2 вместо С2. При р = 1 наш единичный шар — это ромб, затем с ростом р он увеличивается, углы сглаживаются, и при р = 2 он превращается (как Вы прекрасно знаете) в обычный круг. При дальнейшем росте р наш «шар», продолжая увеличиваться, становится подобием овала и все более прижимается к квадрату со сторонами, параллельными осям, в который он и переходит при предельном значении р = оо. '> Герман Минковский A864-1909 гг.) — выдающийся немецкий математик и математический физик, друг и соратник великого Гильберта.
§ 1. ПРЕДНОРМИРОВАННЫЕ И НОРМИРОВАННЫЕ ПРОСТРАНСТВА 89 Естественно возникает вопрос, при каких условиях некоторая предметрика или топология, заданная на линейном пространстве, является предметрикой (топологией) некоторого преднормирован- ного пространства. Упражнение 5°. Предметрика d(-,), заданная на линейном пространстве Е, порождена некоторой преднормои тогда и только тогда, когда она удовлетворяет следующим условиям: (i) (инвариантность относительно сдвига) для любых х, у, z е Е выполнено равенство d(x + z,y + z) = d(x, у); (ii) для любых х е Е и АеС выполнено равенство d(\x, 0) = = \X\d(x,0). Упражнение 6. Топология, заданная на линейном пространстве Е, порождена некоторой преднормои в том и только том случае, если в Е существует подмножество U, обладающее следующими свойствами: (i) множество U выпукло, уравновешено, и каждое одномерное подпространство в Е содержит хотя бы один ненулевой вектор из U; (ii) семейство множеств U^, := {х + ty \ у б U}, рассмотренных для всех х е Е, t > 0, образует базу заданной топологии. Указание. Нужная преднорма есть функционал Минковского множества U. Совпадение топологии, порожденной этой преднормои, с исходной обеспечено предложением 0.2.5. Сделаем еще одно наблюдение. Поскольку каждое нормированное пространство автоматически является метрическим, каждое его подмножество также является метрическим относительно порожденной метрики. Оказывается, других метрических пространств, с точностью до естественного отождествления, и не бывает. Вот точный смысл сказанного. Упражнение 7*. Всякое метрическое пространство М изоме- трично (иными словами, изоморфно в МЕТ],- см. § 0.4) некоторому подмножеству нормированного пространства, а именно СЬ(М) (см. пример 6'). Указание. Зафиксировав хеМ, рассмотрите отображение M~*CM,y^f, где f: z^d(x,z)-d(y,z). Некоторым уточнением служит Упражнение 8*. Всякое сепарабельное метрическое пространство М изометрично подмножеству в 1Ж. Указание. Взяв плотное подмножество {хп | п е Щ в М, рассмотрите отображение М —>CN, у>-*?, где ?n:=d(x,, xn) — d(y, хп).
90 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ § 2. Скалярные произведения и почти гильбертовы пространства Среди всевозможных (пред)норм, существующих на линейном пространстве, выделяется класс «геометрически наилучших» и более всего напоминающих норму того пространства, в котором мы живем. Они задаются не непосредственно, а с помощью следующей подготовительной структуры. Начнем готовить ее определение, введя несколько более общее понятие (которое все равно понадобится впоследствии). Определение 1. Пусть Н — линейное пространство. Функция S: Н х Н —> С называется сопряженно-билинейным функционалом (говорят также: полуторалинейный функционал), если она для любых x,y,zeH,X,vGC удовлетворяет следующим условиям: (i) S(Xx + vy, z) = XS(x, z) + vS(y, z) (линейность по первому аргументу); (ii) S(x, Xy + vz) = XS(x, y) + ~vS(x, z) (сопряженная линейность по второму аргументу; здесь, как обычно, черта — знак комплексной сопряженностиI*. Очевидно, сопряженно-билинейный функционал — это отображение, которое, будучи задано на Н х Н\ является (просто) билинейным функционалом. Если задан сопряженно-билинейный функционал S, то функция Q: Н —> С, х |-+ S(x, х), называется квадратичной формой этого функционала. Примечательно то, что последний можно восстановить по его квадратичной форме: Предложение 1 (полярное тождество). В указанных обозначениях для любых х,уеН выполнено равенство S(x,y)=j: ^Q(x + iky). < Проверяется непосредственно >. Определение 2. Сопряженно-билинейный функционал "R на Н называется предскалярным произведением, если, в обозначении (х, у) вместо Щх, у), для любых х,у G Н этот функционал удовлетворяет следующим дополнительным условиям: (i) (у, х) = {х, у) (сопряженная симметричность); '' Такого определения придерживается всякий порядочный математик. Однако лица, именующие себя математическими физиками, употребляют те же термины для отображений — Вы только представьте — сопряженно-линейных по первому и линейных по второму аргументу. Ну как после этого можно иметь с ними дело?
§ 2. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 91 (ii) (х, х) ^ О (положительная определенность). Предскалярное произведение называется скалярным произведением (говорят также: «внутреннее произведение»), если равенство (х, z) = 0 влечет х = 0. Заметим, что сопряженная линейность предскалярного произведения по второму аргументу следует из одной лишь линейности по первому аргументу и сопряженной симметричности. Определение 3. Линейное пространство Я, снабженное пред- скалярным произведением, называется предгильбертовым пространством^, а снабженное скалярным произведением — почти гильбертовым пространством («настоящие» гильбертовы пространства будут определены позже, в следующей главе). Иногда мы будем употреблять выражения вроде «предгильбертово пространство (Я, (•, •))», смысл которых очевиден. Ограничение предскалярного произведения на подпространство в Я, очевидно, само является предскалярным произведением в этом подпространстве; мы будем называть его унаследованным из Я. При этом, разумеется, подпространство почти гильбертова пространства само почти гильбертово. Разумеется, простейший пример предскалярного произведения в любом линейном пространстве мы получаем, положив (х, у) тождественно равным нулю. С другим примером наш читатель, конечно, знаком: это стандартное скалярное произведение в С", определенное равенством (?, tj) := J^ ?krfk. (Заменив здесь п на меньшее число, например положив (?,7)) := ?,»7[, мы получим предскалярное произведение, не являющееся скалярным.) А вот наши главные примеры. ПРИМЕР 1. Рассмотрим множество 1^, состоящее из так называемых квадратично суммируемых последовательностей, т. е. тех последовательностей f, для которых 52 1?*12<°° (СР- пример 1.5). к = \ Очевидно, это линейное пространство с корректно определенным скалярным произведением (?, 77) := ]Г ?krfk (сходимость ряда сле- * = 1 дует из оценки \?кчк\ з? \{\?к|2 + Ы2)). ' Обозначение Н традиционно. Равно как и термины «предгильбертово», «почти гильбертово» и просто «гильбертово» пространство, оно дано в честь великого немецкого математика Давида Гильберта A861-1943 гг.), оставившего печать своего гения практически во всех областях современной ему математики. Главное его достижение в области функционального анализа — Спектральная теорема. Ей посвящена значительная часть шестой главы нашей книги.
92 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ПРИМЕР 2. Пусть (X, р)— измеримое пространство. Рассмотрим множество L%(X, р), состоящее из так называемых квадратично интегрируемых функций на X, т. е. тех д-измеримых функций х: X—>С, для которых J \x(t)\2dp(t) < оо (ср. предложение 1.5). Из оценки * l*(tJ/(t)|^(|*@|2 + |2/(OI2) очевидным образом следуют две вещи: a) L%(X, р)— линейное пространство относительно поточечных операций, и б) для любых х, у € L°(X, р) существует J x(t)y(t)dp(t). Положив (х, у) равным последнему интегралу, мы, очевидно, получим предскалярное произведение в L%(X, р). Как легко проверить, оно является скалярным произведением тогда и только тогда, когда каждое непустое измеримое подмножество в X имеет положительную меру. ЗАМЕЧАНИЕ. Любое линейное пространство можно сделать почти гильбертовым. Для этого достаточно, зафиксировав в нем линейный базис ev,veA, для х=^2 Ate„ и у— ?) pkev , положить (х, у) := ± \кЩ. * = i В следующих нескольких утверждениях (Я, (•, •)) — предгильбертово пространство. В основе всей работы с предскалярными произведениями лежит Теорема 1 (абстрактное неравенство Коши — Буняковского). Для любых элементов х,уеН выполнено неравенство \(х,у)\^(х,х)(у,у). < Из определений 1 и 2 следует, что для любого А б С выполнено соотношение О ^ (Ах + у, Хх + у) = А А (х, х) + А (х, у) + Х(у, х) + {у, у). Очевидно, мы вправе, не теряя общности, считать, что (х, у) ф О, и положить А:=<гаг где teR- Отсюда мы видим,что (x,x)t2 + 2\(x,y)\t + (y,y)^0 при всех t е R. В силу условия (х, у) ф 0, это влечет неравенство (х, х) > 0. Мы получаем квадратный трехчлен, всюду неотрицательный на К, а, значит (вспомним родную школу), обладающий неположительным дискриминантом. Дальнейшее очевидно, о
§ 2. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 93 Вот первое применение. Подобно тому как из преднормированно- го пространства некоторым стандартным образом изготавливается нормированное, из предгильбертова пространства можно изготовить почти гильбертово пространство. Предложение 2. (Ср. предложение 1.3.) Положим Н0 :— := {х е Я | (х, х) — 0}. Тогда Н0 — (линейное) подпространство в Н. Далее, в факторпространстве Н/Н0 существует скалярное произведение, корректно определенное равенством (х, у) :— (х, у), где х и у — любые представители классов смежности х и у. < Первое утверждение очевидным образом следует из неравенства Коши — Буняковского и свойств предскалярного произведения. Далее, если х, х' € х и у, у' е у, то х' — х, у' — у G Н0 ив силу того же неравенства (х'-х, у) = 0 = (х', у'-у), а значит, (х', у') = (х, у). Дальнейшее очевидно. > Применяя подобную конструкцию к пространству L%(X, р), мы получим почти гильбертово пространство, обозначаемое L2(X, р.). Его элементами являются классы эквивалентных квадратично интегрируемых функций. Несколько специальных случаев введенных почти гильбертовых пространств представят для нас особый интерес. Первым является пространство L2(X, •) = L$(X, •), где «•» — «считающая мера» (см. § 1); его мы обозначим через ^(Х). При X = N пространство 1,(Х) — это, разумеется, пространство ?, из примера 1, а при X = {1,..., п} — это С" со стандартным скалярным произведением (см. выше). Кроме того, выделим пространства L2[a, Ь], L2(T) н L2(R), где отрезок, окружность и прямая рассмотрены со стандартной мерой Лебега. Читатель помнит, что в предыдущем параграфе обозначение Lr(X, р.) применялось для нормированных пространств, и это, касалось, в частности, и р = 2. Подобное совпадение обозначений для разных с виду структур не случайно. Предложение 3. Определенная на Н функция \\х\\:=\/(х, х) является преднормой, и эта преднорма является нормой тогда и только тогда, когда речь идет о скалярном произведении. <з Требуемое неравенство треугольника следует из цепочки соотношений ||х + у\\2 = (х + у,х + у)^ (х, х) + \{у, х)| + |(х, у)\ + (у, у) ^ < (х, х) + 2^Дх~^)^Ду~у) + (у, у) = (||х|| + ||у||J, в которой второе неравенство следует из неравенства Коши — Буняковского. Дальнейшее очевидно. >
94 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Мы видим, в частности, что почти гильбертово пространство Ь2(Х,ц) оказывается нормированным пространством L2(X, /х) из предыдущего параграфа, и точно так же согласованы структуры, обозначаемые одинаковым символом L$(X, р.). Итак, пространство с предскалярным произведением автоматически является преднормированным, а значит — потянулась веревочка, — предметрическим и, наконец, топологическим. В частности, имеет место логическая цепочка: почти гильбертово =>• нормированное =S> метрическое =>¦ =>• хаусдорфово топологическое. Поэтому в контексте пространств с предскалярным произведением мы можем свободно пользоваться всеми понятиями, формулируемыми в терминах преднормы, предметрики и топологии. Разумеется, неравенство Коши — Буняковского можно теперь переписать и так: K*v>l<INIII»l|. Предложение 4. Пусть последовательность хп сходится к х, а уп — к у в пространстве Я. Тогда числовая последовательность (хп, уп) сходится к (х, у). < Из неравенства Коши — Буняковского следует, что К*, У) - (хп, Уп)\ < \\х - xJHIj/II + ||xj|||y - Уп\\ < ^ll*-zJ||y|| + (IN| + ||x-xJ)||y-yJ|. Дальнейшее очевидно. > Более общий факт оставляем читателю. Упражнение 1°. Предскалярное произведение (•,•): ЯхЯ-> -+ С, где Я х Я рассмотрено как топологическое произведение двух экземпляров пространства Я, непрерывно. Про (пред)норму, построенную способом, указанным в предложении 3, мы будем говорить, что она порождена соответствующим (пред)скалярным произведением. (Пред)норму, для которой существует порождающее ее (пред)скалярное произведение, мы назовем гильбертовой. ПРИМЕР 3. Если (•, •)—предскалярное произведение в Я, то равенство ((ж, у)):=(у, х), очевидно, задает предскалярное произведение в комплексно-сопряженном пространстве Я'. Поэтому пред- норма в пространстве, комплексно-сопряженном к пространству с гильбертовой нормой, сама является гильбертовой. Не всякая преднорма гильбертова. Вот довольно грубое необходимое условие для нормированных пространств.
§ 2. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 95 Упражнение 2. В почти гильбертовом пространстве из равенства ||х + 2/|| = ||я|| + ||у|| следует, что х и у линейно зависимы. Как следствие, норма в таких пространствах, как С[а, b], lt, Lt(X, p.) (если последнее не одномерно), не является гильбертовой. (Продолжите список подобных примеров.) Указание. Те пары (х,у), для которых неравенство Коши — Буняковского превращается в равенство, линейно зависимы. Но как судить о таких нормированных пространствах, как, скажем, ?,. — ведь они, как легко проверить, удовлетворяют указанному геометрическому условию? Мы сейчас увидим, что обсуждаемый вопрос полностью решается в терминах, унаследованных еще от Евклида. Предложение 5 (закон параллелограмма). В любом пространстве с предскалярным произведением для любых векторов х, у выполнено равенство ||* + 2/||2 + ||*-у||2 = 2||*||» + 2||у||». < Проверяется непосредственно. > Оказывается, верно и обратное: преднорма, удовлетворяющая закону параллелограмма, гильбертова. Прежде всего, мы заметим, что предложение 1 влечет Следствие 1 (полярное тождество для преднормы). В любом предгильбертовом пространстве для любых векторов х, у выполнено равенство з •* {х,у)= ? ^-\\х + ^у\\2. Что касается следующего утверждения, то большинству студентов достаточно знать его как факт, но отличники — положение обязывает! — должны уметь его доказывать. Теорема 2 (фон Нойманн — Йордан). (БД) Пусть некоторая преднорма удовлетворяет закону параллелограмма. Тогда эта преднорма гильбертова, и она порождается предскалярным произведением, корректно определенным с помощью полярного тождества. Упражнение 3. Докажите эту теорему. Указание. Из закона параллелограмма, рассмотренного для x + ikz вместо х »y+ikz вместо у для к = 0,1,2,3, следует тождество (x,z) + (y,z)=^(x + y,2z). Вместе с соотношением @, х) = 0, это дает равенства (х, 1z) = 2(х, z) и (х + у, z) = = {х, z) + {у, z). Отсюда следует, что (Ах, у) = Х(х, у) сперва для натуральных чисел А, затем для чисел А вида -^, для рациональных чисел А и, наконец.
96 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ с учетом предложения 1.1, для действительных А. Вместе с непосредственно проверяемым тождеством (гх, у) = i(x, у) это дает равенство (Ах, у) = А(х, у) для всех комплексных чисел А. Остальное проверяется непосредственно. С этого момента мы сосредоточимся на геометрических свойствах почти гильбертовых пространств и вплоть до конца параграфа под Н будем подразумевать именно такое пространство. Основное преимущество почти гильбертовых пространств по сравнению с произвольными нормированными пространствами состоит в том, что в них можно говорить о «прямых углах между векторами». Определение 4. Векторы х и у в Н называются ортогональными или перпендикулярными (обозначение х±у), если (х, у)=0. Система векторов ev, v € Л, называется ортогональной, если ее векторы попарно ортогональны и отличны от нуля, и ортонорми- рованной, если все они к тому же имеют норму 1. Предложение 6. Любая ортогональная система линейно независима. < Если е,,..., е„ —какие-то векторы нашей системы и случилось так, что X) Хкек =0, Хк бС, то, «скалярно умножая это равенство на ек», мы видим, что Хк =0. Дальнейшее очевидно. > Предложение 7 (равенство Пифагора). Если векторы е,,... ..., еп попарно ортогональны, то справедливо равенство ||е1+... + еп||2 = ||е1||2 + ... + ||еп||2. < Доказательство немедленно следует из выражения нормы через скалярное произведение. > Предложение 8. Любая ортогональная система в сепа- рабельном почти гильбертовом пространстве не более чем счетна. < Если е„, v б Л, — наша система, то в силу равенства Пифагора, множество элементов J^r,i/eA, удовлетворяет условию следствия 0.2.1 с в = V2. Дальнейшее очевидно. > Вот несколько классических примеров ортонормированных систем. ПРИМЕР 4. В «координатном» пространстве i, система, состоящая из ортов (см. § 0.1), является, конечно же, ортонормирован- ной. (Отсюда и само слово «орт».) ПРИМЕР 5. В функциональном пространстве L2[-n, п] система, состоящая из функций -y==eint, п е Z, является, как легко
§ 2. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 97 проверить, ортонормированной. Эта система называется тригонометрической. Такое же название употребляется и для ее прародителя — ортонормированной системы, состоящей из постоянной величины -т= и функций -т= cos пх, ~т= sin пх, п ? N. Последняя система \Z2ir V* V71' годна для соответствующего действительного почти гильбертова пространства. ПРИМЕР 6. В пространстве L2(T) ортонормированной является система функций -j=zn, п е Z. Эта система получается из тригонометрической системы предыдущего примера «после сворачивания отрезка [—ж, ж] в окружность Т». ПРИМЕР 7. В пространстве Ь2[0, 1] есть ортогональная система, состоящая из так называемых функций Радемахера. Эти функции зависят от п = 0, 1,2,... и строятся так: отрезок [0, 1] делится на 2" равных частей, и на получившихся отрезочках функция попеременно принимает значения +1 и —1. Систему Радемахера можно расширить до большей системы, добавив всевозможные произведения различных входящих в нее функций; получившаяся система называется системой Уолша. Из каждой конечной или счетной системы векторов почти гильбертова пространства можно изготовить ортонормированную систему. Это делается с помощью некоего процесса, описываемого в доказательстве следующего утверждения. Теорема 3. Пусть хп, п = 1, 2,..., — конечная или бесконечная система векторов в пространстве Н, содержащая хотя бы один ненулевой вектор. Тогда существует такая (конечная или бесконечная) ортонормированная система е„, п = 1, 2,..., что span{en | п — 1,2,.. .} = span{a;n | п = 1, 2,...}. < Построим требуемую систему по индукции. Начнем перебирать по порядку векторы хп, пока не встретим ненулевой. Его мы возьмем в качестве е,. Теперь предположим, что уже найдены векторы е,,..., ек. Снова начнем перебирать исходные векторы. Если окажется, что все они принадлежат линейной оболочке векторов е,,..., ек, то мы успокоимся на достигнутом. Если же мы встретим среди векторов хп некий вектор z, не лежащий в этой линейной оболочке, то, как только такое произойдет, мы положим e'k + i :=z— J2(zi ei)ei- Очевидно, этот
98 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ вектор отличен от нуля и ортогонален всем векторам е,,..., ек, так что система еи...,ек + 1 (где ек + х = ,. * + 'ц)— ортонормированная. Простое рассуждение, основанное на индукции по числу найденных в ходе процесса векторов, показывает, что каждый из векторов хп лежит в span{en | п = 1, 2,...}, а каждый из векторов еп лежит в span{xn | п = 1, 2,...}. Дальнейшее очевидно. > Описанный в доказательстве конкретный процесс построения ортонормированной системы е,,^,... называется процессом ор- тогонализации. В частности, если # = С, то, применив процесс ортогонализации к любому линейному базису в С", мы, очевидно, получим ортонор- мированную систему, также являющуюся там линейным базисом. ПРИМЕР 8. Возьмем пространство L2(R) и рассмотрим в нем последовательность функций tne~~r,n = 0, 1,... Применив к этой последовательности процесс ортогонализации, мы получим орто- нормированную систему в этом пространстве, состоящую из так называемых функций Эрмита. Очевидно, n-я функция Эрмита имеет вид р„(*)е""г, где pn(t) — многочлен n-й степени, называемый многочленом Эрмита1). Определение 5. Пусть en, n е N, — ортонормированная система в пространстве Н, х е Н. Формальный ряд ]П (х, еп)еп в Я называется рядом Фурье вектора х по этой системе, а числа (х, еп) — коэффициентами Фурье вектора х по этой системе. Для случая Н := Ь2[-щ п] и тригонометрической ортонормированной системы из примера 5 мы, очевидно, получаем классический ряд и коэффициенты Фурье; отсюда и терминология. Следующие несколько утверждений покажут привлекательные геометрические свойства почти гильбертовых пространств. Напомним, что в любом метрическом пространстве М расстоянием от элемента х до подмножества N с М называется число d(x, N) := inl{d(x, z) \ z е N}. Элемент у е N называется ближайшим к элементу х G М, если d(x, у) — d(x, N). Например, если взять R^ в качестве М, первый орт р1 (см. § 0.1) в качестве х и span{p2} в качестве N, то множество ближайших к х элементов в N составляет целый отрезок {<р2|-1^<<1}. (Приведите подобные примеры, скажем, в Z, и С[а, Ь].) Однако справедливо следующее !) Мы увидим, насколько важны функции Эрмита, в последней главе этого учебника.
§ 2. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 99 Предложение 9. Пусть хе.Н, Н0 — конечномерное подпространство в Н и ех,..., еп —ортонормированием система, являющаяся линейным базисом в Н0. Пусть, далее, 2/:= X) (х> е*)е*- Тогда у — единственный ближайший к х вектор в Н0, и при этом \\х-у\\* = \\х\\>-±\(х,ек)\*. < Как легко видеть, (х, ек) = {у, ек) для каждого к. Отсюда (х — у) J_ ек для тех же к, и, применяя равенство Пифагора к системе х — у, (х, е,)е,,..., (х, еп)еп, мы получаем требуемое равенство. Далее, в силу свойств линейного базиса (х — у) ± z для произвольных z е #0, и, как следствие, (х - у) 1 (у — z) для тех же z. Отсюда получаем, что d(x)ZJ = ||x-z||2 = ||s,-*||2 + ||x-y||2. Это означает, что d(x, z) ^ d(x, у), и единственный из векторов z€H0, при котором достигается равенство, — это у. > Из этого предложения очевидным образом вытекает Следствие 2 (неравенство Бесселя). Пусть для тех же Них система е„, v еА, является ортонормированной в Н. Тогда ЕКаг.еЛЧНхИ2. •/бЛ В частности, если ортонормированная система образует последовательность еп, п = 1,2,..., то числовая последовательность ?, ?„ = (х, еп), принадлежит пространству ^ и ее норма в этом пространстве не превосходит \\х\\. Следующее определение носит общий характер, хотя в наших лекциях оно будет работать только в контексте почти гильбертовых пространств. Определение 6. Пусть Е — преднормированное пространство. Подмножество М его элементов называется тотальным подмножеством (или тотальной системой) в Е, если его линейная оболочка плотна в Е. Пример 9. Система ортов в ?, тотальна: ее линейная оболочка — это подпространство с^, которое, как было упомянуто в предыдущем параграфе, плотно. ПРИМЕР 10. Тригонометрическая система в L2[—7г, 7г] также тотальна (см. обсуждение после предложения 1.6). ЗАМЕЧАНИЕ. Система Эрмита в L2(R) также тотальна (что важно не только для математики, но и для квантовой механики).
100 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Однако для доказательства этого факта мы еще не созрели: нам понадобятся «настоящие» гильбертовы пространства и преобразование Фурье (см. упражнение 7.1.5). Предложение 10. В любом сепарабельном почти гильбертовом пространстве существует конечная или счетная тотальная ортонормированная система. < Возьмем в нашем пространстве счетное плотное множество и расположим его в последовательность. Тогда ортонормированная система, полученная из нее с помощью теоремы 3, очевидно, обладает нужными свойствами. > Мы переходим к фундаментальному свойству сепарабельных бесконечномерных почти гильбертовых пространств. Теорема 4. Пусть Н — бесконечномерное почти гильбертово пространство, en,neN, —тотальная ортонормированная система его векторов, хеН. Тогда (i) х есть сумма ряда Фурье этого вектора по системе {е„} (т. е. х= ?(х, еп)е„); (и) ||а;||2= J2 \(х, е„)|2 (равенство Парсеваля); (ш) если х = Y1 ^пеп> то ^п = (х> О- < Для neN положим ifn:=span{e,,..., е„}. Тогда из тотальности системы {е„} очевидным образом следует, что d(x, Нп) —> 0 при п —> оо. В сочетании с предложением 9, это доказывает (i) и (и). Далее, если z = ]? Апеп, то для каждого n е N в силу предложения 4 П=1 00 выполнено равенство (х, е„) = ? -4{et,en)> а сумма последнего ряда есть, очевидно, Ап. > *-' Обсудим полученную теорему с общих позиций. Мы видим, что тотальная ортонормированная система в почти гильбертовом пространстве играет роль, аналогичную роли (линейного) базиса в линейном пространстве, только теперь в разложениях векторов дозволены бесконечные суммы. Вот общий контекст для рассмотрения подобных ситуаций. Определение 7. Пусть Е — сепарабельное нормированное пространство. Последовательность en, n е N, его векторов называется базисом Шаудера^ или топологическим базисом этого !) Юлиуш Шаудер A896-1943 гг.) — крупный польский математик, ученик Банаха, трагически погибший во время фашистской оккупации Польши.
§ 3. ОГРАНИЧЕННЫЕ ОПЕРАТОРЫ: ПЕРВЫЕ СВЕДЕНИЯ 101 пространства, если каждый вектор х е Е представим в виде ряда х= ? Апеп, и притом единственным образом (т. е. с однозначно определенными коэффициентами А„, п е N). ПРИМЕР 11. Легко проверить, что для любого ре[1,оо) (но не р = оо!) последовательность ортов является базисом Шаудера в нормированном пространстве 1р. ЗАМЕЧАНИЕ. Разумеется, слово «сепарабельное» в определении 5 мы могли бы опустить: ясно, что пространство, обладающее подобной системой, необходимо сепарабельно. Есть варианты определения топологического базиса и для более общих пространств, но нам они не понадобятся. Замечание. Для перестраховки подчеркнем, что понятие базиса Шаудера формально не имеет отношения к ранее обсуждавшемуся категорному понятию базиса (см. определение 0.7.4). Все же некоторые системы элементов могут быть базисами в обоих смыслах. (Такова, например, система ортов в i,, если мыслить это пространство как объект конкретной категории (Ban,, О), см. § 2.5.) Таким образом, пункты (i) и (Ш) предыдущей теоремы могут быть перефразированы следующим образом. Теорема 4'. Всякое сепарабельное почти гильбертово пространство обладает базисом Шаудера, каковым является каждая тотальная ортонормированная система его векторов. < > (В дальнейшем, говоря об ортонормированных базисах в почти гильбертовых пространствах, мы будем всегда подразумевать именно базисы Шаудера.) Однако общие сепарабельные нормированные пространства могут и не обладать базисами Шаудера, даже если они банаховы (см. определение 2.1.1). Некоторые подробности Вы узнаете в § 3.3. § 3. Ограниченные операторы: первые сведения и самые необходимые примеры Мы познакомились с фундаментальной структурой классического функционального анализа — структурой нормированного (и, более общо, преднормированного) пространства. Настало время обратиться к отображениям, должным образом реагирующим на эту структуру. Предложение 1. Пусть Т: Е -> F — линейный оператор между двумя преднормированными пространствами. Его следующие свойства эквивалентны:
102 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ (i) существует такое С >0, что ||Г(х)||$ С||х|| длявсеххеЕ; (П)8ир{||Т(х)|||хеШЕ}<о0. При этом если К0 — нижняя грань констант, для которых выполнено условие (i), а К0 —верхняя грань из (ii), то К0 = К0. < (i) =$¦ (ii). Очевидно, для любого С, удовлетворяющего условию (i), и любого х € ШЕ выполнено неравенство ||Т(х)|| < С. Отсюда следует (ii), и, более того, К0 < К0. (и) =Ф- (i). Возьмем х€ Е. Если ||х|| >0, то ЦтртгЦ = 1, а потому |г(ц|]г)| <ЛГ0 и ||Т(х)|| <А||х||. Если же ||х||=0, то для всех t >0 выполнено включение tx е ШЕ, а потому i||T(x)|| = ||T(?x)|| ^ К0 и, стало быть, ||Т(х)||=0. Отсюда ||Т(х)|| ^ if0||x|| для любого хеЕ. Тем самым, выполнено условие (i), причем с К0 в качестве С. Дальнейшее очевидно. > Упражнение 1°. Указанные свойства эквивалентны еще и такому: Т переводит каждое ограниченное (в смысле преднормы) подмножество из Е в ограниченное подмножество из F. Определение 1. Оператор между преднормированными пространствами, обладающий свойствами, указанными в предложении 1, называется ограниченным. Число К0 (оно же К0) из этого предложения называется операторной f иногда равномерной) преднормой оператора Т и обозначается ||Г||. Этот термин и это обозначение не случайны. Пусть Е и F — два преднормированных пространства. Обозначим через В(Е, F) множество всех ограниченных операторов из Е в F; разумеется, это подмножество линейного пространства С(Е, F) всех (линейных) операторов из Е в F. Предложение 2. Справедливы следующие утверждения: (i) В(Е, F) —линейное подпространство в ?(Е, F); (ii) функция на В(Е, F), сопоставляющая оператору Т число ЦТ||, есть преднорма в В(Е, F); (Ш) если F — нормированное пространство, то таково же и В(Е, F). < Возьмем S,Te В(Е, F). Тогда для любого вектора х е Е выполнено неравенство ||(S + Т)(х)|| = ||5(х) + Г(х)|| ^ ||5(х)|| + ||Г(х)|| < С\\х\\, где С :=||5|| + ||Г||. Это означает, что S ^ Т е В(Е, F) и ||5 + + Г || < || 51| + || ГЦ. Еще проще проверить, что для ограниченного
§ 3. ОГРАНИЧЕННЫЕ ОПЕРАТОРЫ: ПЕРВЫЕ СВЕДЕНИЯ 103 оператора Т и А е С выполнены условия А Г б В(Е, F) и ||АГ|| = = |А|||Г||. Этим установлена справедливость утверждений (i) и (ii). Далее, если F — нормированное пространство, аГ^Ов В(Е, F), то Т(х)фО для некоторого хеШЕ; стало быть, ||Г|| ^ ||Т(х)|| >0. Дальнейшее очевидно. > Упражнение 2. Пусть Е ^0. Преднорма в В(Е, F) является нормой, если таковой является преднорма в F, и наоборот. Указание. Следует использовать то, что на Е существуют ненулевые линейные функционалы (см. упражнение 0.1.2). При выполнении условия (iii) этого предложения мы будем, конечно, говорить операторная норма (а не операторная преднорма). В дальнейшем нам пригодится следующее Предложение 3. Пусть Т: Н—*К—ограниченный оператор между предгильбертовыми пространствами. Тогда ||Т||=8ир{|<Г(х),»)||х€Шя>!,€111,} < Для любого такого х € Шя, что ||T(i)|| ф 0, вектор у:=Т(х)/||Г(х)|| лежит в Шк, и ||Г(х)|| = (Г(х), у). Взяв верхнюю грань по всем указанным х, получаем оценку ||Г|| ^ ^sup{|(T(x), у}\ |хеШн, уеШк}. Обратное неравенство следует из неравенства Коши — Буняковского. > Итак, наш запас примеров (пред)нормированных пространств пополнился пространствами В(Е, F), состоящими из ограниченных операторов. Наиболее важные из них, пожалуй, относятся к двум следующим специальным случаям: (i) F = С. В этом случае пространство В(Е, F) состоит из ограниченных функционалов на Е. Оно называется пространством, сопряженным кЕ,и кратко обозначается Е*. Из предложения 2 (iii) следует, что для любого Е это нормированное пространство. (ii) Е = F. В этом случае говорят об операторах, действующих в Е, и пишут В(Е) вместо В(Е, Е). Из того же предложения следует, что В(Е) — нормированное пространство, если таково же Е. Еще один важный пример (пред)нормированного пространства — это подпространство в В(Е, F), состоящее из конечномерных ограниченных операторов. Мы обозначим его через Г(Е, F) и условимся писать F{E) вместо F(E, Е). Следующее очевидное соотношение связывает операторную преднорму и композицию операторов. Предложение 4 (мультипликативное неравенство для операторных преднорм). Пусть S: Е -» F u Т: F —> G —ограничен-
104 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ные операторы между преднормированными пространствами. Тогда оператор TS ограничен и \\TS\\^\\T\\\\S\\. о Определение 2. Пусть Т: Е —> F — оператор между преднормированными пространствами. Он называется сжимающим, если ||ГЦ ^ 1 (т. е. ||Т(х)|| ^ ||х|| для всех хеЕ). Оператор называется изометрическим, если он сохраняет нормы, т. е. || Т(х)|| = ||х|| для всех х?Е, и коизометрическим, если он отображает открытый единичный шар вВна открытый единичный шар в F. Очевидно, Т — сжимающий или изометрический оператор в том и только том случае, если он таков как отображение между (пред)метрическими пространствами. Заметим, что изометрический оператор инъективен, если Е — нормированное пространство, а коизометрический оператор всегда сюръективен. Самые простые примеры ограниченных операторов — это, конечно, нулевой оператор 0: E^F, жмО, и тождественный оператор 1: Е-+Е, ihi; ясно, что ||0|| = 0 и (при условии, что преднорма на пространстве Е не равна нулю тождественно) ||1|| = 1. Выделим также ПРИМЕР 1. Всякий линейный оператор Г из С?, 1 ^ р < оо, в любое преднормированное пространство Е ограничен. Действительно, записав любой элемент ? б С? в виде 5Z ?*!>*> мы видим, что „ * -' moiMI Е ?*г(р*)К c||?L ^ с||?||р) гдеС:=?||Т(р*)||. *"' * = i Впоследствии мы узнаем, что в примере 1 пространство Ср можно заменить на любое конечномерное нормированное пространство. Некоторые другие классы операторов, определяемые в общих терминах, будут введены в следующих параграфах. А сейчас, по горячим следам определения 1, — основного в этом параграфе, — мы спешим перейти к наиболее популярным примерам операторов, связывающих разнообразные конкретные нормированные пространства. Как уже упоминалось, большинство операторов, которые встретятся в нашей математической жизни, будут либо функционалами, либо операторами, действующими в (одном и том же) пространстве. О функционалах речь пойдет в следующем параграфе. Что же касается операторов, то мы сразу оговоримся, что все пространства, в которых действуют операторы из наших примеров, окажутся, как мы увидим в следующей главе, банаховыми, а значительная часть из них — гильбертовыми.
§ 3. ОГРАНИЧЕННЫЕ ОПЕРАТОРЫ: ПЕРВЫЕ СВЕДЕНИЯ 105 Замечание на будущее. Этот большой мешок примеров, который сейчас начнет наполняться, мы советуем держать наготове. В ходе всей книги нам предстоит ввести целый ряд фундаментальных понятий, связанных с операторами, и каждый раз мы будем смотреть, чем они оборачиваются для наших конкретных операторов. Сейчас мы можем задать оператором только самые простые по формулировке вопросы, и в первую очередь такой: какова Ваша норма? Но потом те же операторы, к которым постепенно добавятся несколько новых, будут отвечать и на другие вопросы: относитесь ли Вы к классу компактных операторов? фредгольмовых? каков Ваш спектр? как выглядит Ваш сопряженный оператор? И только после обыгрывания обсуждаемых общих понятий на достаточно большом числе разнообразных примеров эти понятия смогут быть поняты по-настоящему. Начнем с пространств последовательностей1* lp, l^p^oo. Пример 2. Диагональный оператор Тх: 1р —» 1р, где А = = (А,,..., А„,...) — ограниченная (= принадлежащая 1^) последовательность. Этот оператор сопоставляет каждой последовательности f =(?1, ...,?„,...)€ L последовательность ^(?) = (A|f,, • • • ...,A„f „,...)• Если p < oo, то, в силу неравенства $Z |Anfn|'' ^ ?) ||A||?,|f„|p образ TA(f) принадлежит lp и ||^(OllP^ ll-4looll?llj>- В то же время sup{||TA(x)|| | ||xK l}^sup{||TA(p")|| | n€N} = ||A|L. Поэтому оператор Тл ограничен и \\ТХ\\ = ЦАЦ^. То же самое, очевидно, справедливо и при р — оо. Как мы увидим далее, при определенных условиях на А диагональные операторы, действующие в ^, доставят модели важных классов операторов, действующих в абстрактных гильбертовых пространствах (см. § 6.2). Упражнение 3. Если последовательность А неограничена, то оператор ГА «выводит» из 1р. Разумеется, подобным же образом можно определить и оператор Ту, А=(А,,...,АП), действующий в 1р, п < со, — конечномерном «эмбрионе» пространства 1р. Такой оператор мы также будем называть диагональным; очевидно, снова 11^11 = ЦАЦ^. ПРИМЕР 3 (операторы сдвига). Сопоставления Tt: (fi,... ••.,е.,...)-«2,---.е. + 1,...) и Тг: (?„...,?„,...)" (CU„... '' Здесь и далее наш читатель, если он не желает принять на веру предложение 1.5, может ограничиться случаями р = 1,2 и оо.
106 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ¦ • •> fn-D • • •) СУТЬ, очевидно, ограниченные операторы в lp = lp(N); первый из них называется оператором левого, а второй — правого сдвига. Очевидно, нормы обоих равны 1, причем ТТ — изометрический оператор, а 7] — коизометрический оператор. Внешнее сходство с этими операторами (во многом обманчивое, как мы увидим позже) имеет оператор Ть, действующий в lp(Z) (пространстве последовательностей, бесконечных в обе стороны) и переводящий ? =(..., ?„ • • -, ?„,...), neZ, в »/ = (..., т/,, ...,Vn,...)c *7„ :=?„-!• Это так называемый оператор двустороннего сдвига в пространстве lp(Z); он, как и Тг, изометричен, но, в отличие от последнего, еще и обладает изометрическим обратным (каким?). Очевидно, в обоих примерах мы могли бы вместо / рассматривать пространство Cq, а вместо lp(Z) — очевидный «двусторонний» аналог этого пространства. Как легко проверить, значения нормы от этого не меняются. Теперь перейдем к функциональным пространствам, взяв за основу Lp(X, р), 1 ^ р < оо, где (X, р.) — измеримое пространство. ПРИМЕР 4 (оператор умножения на существенно ограниченную измеримую функцию). Пусть / — существенно ограниченная измеримая функция, т. е., с точностью до уже обсуждавшейся неформальности речи, элемент пространства LX(X, р). Тогда почти для всех t еХ, очевидно, выполнено неравенство \f(t)\ ^ Ц/IL- Поэтому если р<оо, то для любой функции x€Lp(X, р.) выполнено неравенство j \f(t)x(t)\>dp(t) ^ j \\f\\>jx(t)\4p{t) = ц/ой*. X X Это означает, что для указанных р отображение Т}: x(t) н-> (->/(i)x(i) — корректно определенный ограниченный оператор в Lp(X, р), причем ||3}|| ^ Ц/L- Далее, возьмем любое К, К < \\f\\x. Тогда существует такое подмножество Y в X положительной меры, что |/(*)| > К при t е Y. Взяв его характеристическую функцию х, мы видим, что ii2}(x)ii;=Ji/(or^(*)^^'iixii;. Y Отсюда ||2}|| ^ К для любой константы К < Ц/Ц^,, что, в объединении со сказанным выше, дает при р < оо равенство \\Tf\\ = Ц/IL- Еще проще усмотреть, что такое же равенство верно и при р = оо. Операторы введенного класса, действующие в L2(X, р), играют важную роль в общей теории операторных алгебр, и особенно — в теории так называемых алгебр фон Нойманна (о них см. далее
§ 3. ОГРАНИЧЕННЫЕ ОПЕРАТОРЫ: ПЕРВЫЕ СВЕДЕНИЯ 107 § 6.3 и указанную там литературу). А для нас самым полезным окажется случай, когда X — отрезок в К, a f(t):= t («независимая переменная»); соответствующие операторы, как мы увидим в § 6.7 и 6.8, играют выдающуюся роль в спектральной теории. Разумеется, оператор умножения на функцию является обобщением оператора умножения на ограниченную последовательность в 1р, который, как мы помним, соответствует случаю (X, /x) = (N, •); в частности, пример 2 содержится в примере 4. Далее, в С[а, Ь] действует определяемый очевидным образом оператор умножения на непрерывную функцию, а в Сп[а, Ь], п е N, — оператор умножения на п раз гладкую функцию (проверьте ограниченность). ПРИМЕР 5 (оператор неопределенного интегрирования). Рассмотрим отрезок числовой прямой, для удобства [0, 1], и пространство L2[0, 1]. Сопоставим каждой квадратично интегрируемой функции х ее неопределенный интеграл y(t):= J x(s)ds. С учетом о неравенства Коши — Буняковского, выполнено неравенство |у(*)|< \\x(s)\ds = (l,\x\)<\\l\\2\\x\\2 = \\x\\2, о откуда следует, что функция у (вернее, ее класс эквивалентности) принадлежит L2[0, 1] и \\у\\2 ^ ||x|j2. Таким образом, путем указанного сопоставления возникает ограниченный и, более того, сжимающий оператор в L2[0,1]. Сходным образом определяются операторы неопределенного интегрирования, действующие в пространствах С[0,1] и L,[0,1]. Упражнение 4°. Оба последних оператора имеют норму 1. Указание. В случае С[0,1] рассмотрите x(t) = l, а в случае L,[0, 1] — последовательность функций xn(t) := пх„, где х„ — характеристическая функция отрезка [0, 1/п]. Замечание. Почему же ни слова о норме оператора неопределенного интегрирования в L2[0, 1]? Дело в том, что вычислить эту норму мы еще не готовы и, если пытаться делать это «в лоб» (ср. предыдущее указание), вряд ли получится что-нибудь путное. Успех придет позже, когда мы узнаем об операторах гораздо больше (см. упражнение 6.2.6). А сейчас нам хочется удивить читателя, заранее сообщив ответ: 2/7г. Теперь мы введем один из самых старых и почтенных классов операторов, который когда-то сыграл огромную роль в формировании самого понятия оператора в функциональном анализе.
108 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ПРИМЕР 6 (интегральный оператор). Возьмем отрезок [а, Ъ\ и кратко обозначим через ? его декартов квадрат со стандартной плоской мерой Лебега. Зафиксируем функцию K(s, t) из соответствующего пространства L2(D) квадратично интегрируемых функций. В силу теоремы Фубини почти для всех з е [а, Ь] функция K,(t):=K(s, t) принадлежит L2[a, b]. Поэтому для любого из этих s и каждой функции х е L2[a, b] существует число y(s):= \K(s, t)x(t)dt, которое является скалярным произведением векторов K,(t) и x(t) в L2[a, b]; при этом из неравенства Коши — Буняковского следует, что \y(s)\ ^ ||-Kj2||a:||2. Отсюда с учетом той же теоремы Фубини получаем б ь ь ь j \y(S)\2d3 < ( j \\K,\\22dS) \\x\\l = ( j J \К(з, t)\*dsdt) \\x\\l Поскольку указанный двойной интеграл есть не что иное, как \\К\\\, квадрат нормы K(s,t) в Ь2(П), мы получаем, что y€L2[a,b] и ||у||2 ^ \\К||2||а;||2. Тем самым, сопоставление ь хн->2/, где y(s):= I K(s, t)x(t)dt, — это ограниченный оператор в L2[a, b] с нормой, не превосходящей \\К\\2. Функцию K(s, t) мы будем называть производящей функцией1) построенного оператора. Специальный класс интегральных операторов составляют так называемые операторы Вольтерра — те, у которых производящая функция равна нулю при s ^ t. Иными словами, оператор Вольтерра переводит х е L2[a, b] в y(s):= I K(s, t)x(t)dt (интеграл с переменным верхним пределом), где К — теперь уже любая функция из Ь2(П). В свою очередь, оператор неопределенного интегрирования в L2[0, 1] — это, разумеется, один из операторов Вольтерра, для которого K(s, t) равна 1 при s ^ t иО при s < t. ') Говорят также ядро (nucleus), но может возникнуть путаница с ядром (kernel) в смысле линейной алгебры.
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 109 ЗАМЕЧАНИЕ. Кстати, уже отсюда видно, что норма оператора неопределенного интегрирования в L2[0, 1] не превосходит -j= (и заведомо меньше 1; ср. упражнение 4). ^ ПРИМЕР 7. В пространстве Ьр(Ш), а также C0(R) любому aeR соответствует так называемый оператор сдвига на а, обозначаемый Та и переводящий функцию х в Та(х): t *-+ x(t — а). Очевидно, это изометрический оператор, обладающий изометрическим обратным (предъявите его!). Сходным образом, любой элемент z бТ порождает оператор сдвига, действующий в Ьр(Т) либо С(Т) по правилу Тг(х): t >-> x(z~lt). Замечание. Еще один конкретный оператор, действующий в Ь2(Ш), — возможно, самый выдающийся из операторов, действующих в этом пространстве, — добавится к нашему списку значительно позже. Это так называемый гильбертов оператор Фурье (см. определение 7.4.1). Наконец, приведем классический оператор, связывающий разные пространства. ПРИМЕР 8. Оператор дифференцирования Dk: Сп + к[а, Ь]—* —> Сп[а, Ь] сопоставляет каждой функции ее к-ю производную; как обычно, мы полагаем С°[а, Ь] := С[а, Ь]. (Проверьте, что этот оператор действительно ограничен.) § 4. Топологические и категорные свойства ограниченных операторов С этого момента в нашем изложении появляются первые категории функционального анализа. Они таковы. (i) Категория NOR. Ее объекты — это нормированные пространства, а морфизмы — (произвольные) ограниченные операторы. (ii) Категория NOR,. Ее объекты — те же, что и в категории NOR, а морфизмов меньше: ими объявлены сжимающие операторы. (Ш) Категория Pre. Ее объекты — это (произвольные) преднор- мированные пространства, а морфизмы — как и в категории NOR — ограниченные операторы. (iv) Категория Pre, . Ее объекты — те же, что и в категории Pre, а морфизмы — как и в категории NOR, — сжимающие операторы. Композиция морфизмов во всех четырех категориях — это обычная композиция операторов; тот факт, что это ограниченный или, смотря по смыслу, сжимающий оператор, сразу следует из предло-
110 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ жения 3.4. Аксиомы категории (см. определение 0.3.1) проверяются очевидным образом; локальными единицами, разумеется, служат тождественные операторы. Взаимосвязь всех четырех категорий можно изобразить схемой Nor с Pre и и Nor, с Pre, в которой знак с выражает отношение между категорией (справа от этого знака) и ее полной подкатегорией (слева), а знак и — отношение между категорией (сверху от этого знака) и ее неполной подкатегорией с теми же объектами (снизу). Замечание. Сразу же оговоримся, что введенные категории, включая даже NOR, — это еще не главные категории линейного функционального анализа. Категории банаховых и гильбертовых пространств, о которых речь пойдет в следующей главе, — «главнее». Однако некоторые основные понятия и конструкции, еще не требующие полноты, целесообразно рассматривать уже в контексте введенных категорий. Как всегда при знакомстве с той или иной категорией, первый вопрос — о том, что представляют собой ее изоморфизмы. Непосредственно из определения 0.4.1 следует, что изоморфизм в категории NOR, равно как и в PRE, — это ограниченный линейный оператор, обладающий обратным ограниченным линейным оператором. В то же время изоморфизм в NOR,, равно как и в Pre,, — это сжимающий оператор, обладающий сжимающим обратным оператором. Определение 1. Изоморфизмы в категориях NOR и PRE носят специальное название топологических изоморфизмов (говорят также: линейные гомеоморфизмы), а изоморфизмы в NOR, и Pre, носят специальное название изометрических изоморфизмов (говорят также: линейные изометрии). Выделим очевидное Предложение 1. Пусть Т: Е —> F —оператор между пред- нормированными пространствами. Тогда (i) оператор Т является топологическим изоморфизмом в том и только том случае, когда он биективен и существуют две такие константы С, с > 0, что с\\х\\ < ||Т(ж)|| ^ С||х|| для всех х?Е; (и) оператор Т является изометрическим изоморфизмом •<=*> <=$¦ он является биективным и изометрическим ¦$=> он является биективным и коизометрическим. < >
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 111 Теперь обратим внимание на то, что из полярного тождества для преднормы немедленно вытекает Предложение 2. Пусть Н и К — предгильбертовы пространства. Тогда оператор Т: Н —> К является изометрическим в том и только том случае, если для любых элементов х,у е Н выполнено равенство (Т(х), Т(у)) = {х, у) (т. е., как говорят, Т сохраняет предскалярные произведения). В частности, наш. оператор является изометрическим изоморфизмом тогда и только тогда, когда он сохраняет предскалярные произведения и биективен. < t> В указанном случае предгильбертовых пространств изометрический изоморфизм носит специальное название: унитарный изоморфизм или унитарный оператор. В соответствии со сказанным, изоморфные объекты в NOR или, более общо, в PRE называются также топологически изоморфными (пред)нормированными пространствами, а изоморфные объекты в Nor, или Pre, — изометрически изоморфными (пред)норми- рованными пространствами. Изометрически изоморфные предгильбертовы (в частности, почти гильбертовы) пространства называются также унитарно изоморфными. Пример 1. Для п = 1,2,... пространство Zpn, 1 ^ р ^ со, (см. пример 1.3) изометрически, и тем более топологически, изоморфно подпространству в 1р, состоящему из последовательностей с нулями после n-го члена. Поскольку требование к оператору быть изометрическим изоморфизмом, очевидно, гораздо жестче, чем требование быть топологическим изоморфизмом, не удивительно, что бывают пространства, изоморфные, скажем, в категории NOR, но не изоморфные в категории NOR,. Вот простая иллюстрация. Упражнение 1. Все пространства С? при фиксированном п попарно топологически изоморфны. С другой стороны, пространство С" не изометрически изоморфно С? при п > 1. Вопроса о классификации объектов наших категорий с точностью до изоморфизма мы коснемся, ограничив себя банаховыми и гильбертовыми пространствами, в следующей главе. Отметим, что во введенных категориях отнюдь не всякий биективный как отображение морфизм — изоморфизм (это роднит их с категорией ТОР, но отличает от категории L.IN). В категории NOR, за примерами далеко ходить не надо: возьмите любой сжимающий оператор, пропорциональный тождественному. Примеры в NOR устроены несколько сложнее.
112 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ПРИМЕР 2. Рассмотрим в пространстве /,, помимо его естественной нормы || ¦ ||, (см. пример 1.5), еще и равномерную норму II'IL (унаследованную из q,). Тогда оператор 1: (/,, ||-||,)—>(/,, ||-|L) ограничен, но не обладает ограниченным обратным. Это видно хотя бы из того, что сумма п ортов имеет равномерную норму равную 1, но || • У,-норму равную п. ЗАМЕЧАНИЕ. Смысловая нагрузка подобных примеров в полной мере проявится позднее, когда мы будем обсуждать одну из центральных теорем этих лекций — теорему Банаха об обратном операторе; см. § 2.4. Теперь напомним, что всякое преднормированное пространство автоматически является топологическим. Принципиальной важности факт состоит в том, что ограниченные операторы могут быть полностью охарактеризованы в топологических терминах. Теорема 1. Следующие свойства оператора Т': Е -*F между преднормированными пространствами эквивалентны: (i) оператор Т ограничен; (и) оператор Т непрерывен в нуле; (Ш) оператор Т непрерывен; (iv) оператор Т равномерно непрерывен. < (i) =*> (iv). Выберем е > 0 и положим S := ^, где С — константа из предложения 3.1 (i). Тогда, очевидно, для любых элементов х,у е Е из неравенства d(x, у) = ||х — у\\ < S следует, что d(T(x), Т(г/)) = ||Т(*)-Т(у)|| < е. (iv) =>¦ (iii) =>• (ii). Очевидно. (ii) =*• (i). Поскольку отображение Т предметрических пространств непрерывно в 0е Е и T@) = 0€.F, для е:=1 найдется такое 8, что из неравенства ||х'|| < 8 следует неравенство || Т(г')|| < е. Возьмем произвольный элемент х 6 Е. Если ||х|| > 0, то, положив х' := gjrfji, мы видим, что ||х'|| < 8, откуда немедленно следует, что 11^1(:ЕI1 < х11ж11- Если же ||х|| =0, то для любого t >0 выполнено неравенство ||tx|| < 8; следовательно, ?||Т(х)|| = ||T(tx)|| < 1, а значит, Т(х) = 0. Таким образом, для всякого х 6 Е выполнено неравенство ||Г(х)|| < С||х||, где С := |. > Из доказанной теоремы легко получить дальнейшую информацию о возможных свойствах операторов как отображений между топологическими пространствами.
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 113 Следствие 1. Оператор между преднормированными пространствами является топологическим изоморфизмом в том и только том случае, когда он является гомеоморфизмом. Это следствие, в свою очередь, влечет Следствие 2. Пусть Т: Е —> F — ограниченный оператор между преднормированными пространствами. Тогда оператор Т топологически инъективен в том и только том случае, когда он инъективен, и вдобавок существует такое число с > О, что с\\х\\ < ||Т(х)|| для всех х е Е. < > Заметим, что в случае, когда Е — нормированное пространство, из оценки с||х|| ^ ||!Г(х)|| для всех х ? Е автоматически следует, что оператор Т инъективен. Предложение 3. Пусть Т: Е —>F —ограниченный оператор между нормированными пространствами. Тогда его следующие свойства эквивалентны: (i) оператор Т топологически сюръективен; (ii) оператор Т открыт; (iii) множество Т(Ш°Е) (образ открытого единичного шара в Е) содержит, для некоторого в > О, открытый шар вШр (с центром в О и радиусом в); (iv) существует такое число С" > 0, что для любого элемента y€F найдется элемент хеЕ, удовлетворяющий условиям Т(х) = уи\\х\\^С'\\у1 < (i) => (ii). Пусть множество U открыто в Е. Тогда, как легко видеть, прообраз множества T(U) — это алгебраическая сумма U + Кег(Т) = и{С/ + х | х б Кег(Т)}, которая, как видно из ее последней записи, открыта. Дальнейшее очевидно. (ii) =$> (i), (ii) => (iii). Очевидно. (iii) => (iv). Выберем у 6 F, уфО. Поскольку у' := щ-jу е 9U1°F, то у' = Т(х') для некоторого х' еШ°Е и у= Т(х) для х:=2\\у\\9~[х'. Отсюда ||х|| ^ С'\\у\\ для С":=20-'. (iv) =*¦ (ii). Пусть U — открытое подмножество в Е и у = Т(х), х е U. Выберем такое 9 > 0, что х + вШ°Е С U. Тогда для любого z е F, удовлетворяющего неравенству ||у - z\\ < (С)'1 в найдется такой элемент х'еЕ, что Т(х') = у — z и ||х'|| < в; при этом, очевидно, z — Т(х — х') и х — х' G U. Тем самым, у — внутренняя точка в T(U). > Упражнение 2. Если Е и F — преднормированные пространства, то эквивалентности (i) •$=» (ii) -<=» (iii) и импликация (iv) =>
114 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ => (ii) из предложения 3 сохраняют силу. В то же время (iv), вообще говоря, не следует из (i)-(iii). Указание. В качестве контрпримера рассмотрите проекцию Е —> E/F, где F — плотное собственное подпространство нормированного пространства Е. Разумеется, всякий инъективный изометрический оператор топологически инъективен, а коизометрический — топологически сюръективен. Давайте проиграем рассматриваемые понятия на конкретных примерах операторов, рассмотренных в предыдущем параграфе. Какие из этих операторов являются топологическими изоморфизмами? изометрическими изоморфизмами? топологически инъектив- ными? топологически сюръективными? изометрическими? Особо выделим два наблюдения. Упражнение 3. Диагональный оператор Т^: 1р—>1р, 1 ^р<со, является топологическим изоморфизмом •<=>¦ оператор ТЛ топологически инъективен <=>¦ оператор Тх топологически сюръективен <*=>¦ оператор Тх сюръективен <=>• замыкание множества чисел А„ в С не содержит 0. Этот факт является частным случаем следующего. Упражнение 4. Оператор Tf: Lp(X, /л)—*Ьр(Х, ц), 1 ^р^со, /eL00(X, fi) (ср. пример 3.4), является топологическим изоморфизмом <=$¦ оператор 7} топологически инъективен •$=$> оператор 1} топологически сюръективен •<=>• оператор Tf сюръективен -<=>¦ «=>• существует такое в > 0, что \f(t)\ > в почти для всех t е X. Указание. Если последнее условие выполнено, то оператор 7] lS — обратный к Tf. Если оно не выполнено, надо рассмотреть образы и (если они есть) прообразы функций хп/11х„||. где х„ — характеристическая функция множества {t е X \ \f(t)\ < 1/п}. ЗАМЕЧАНИЕ. Что касается интегральных операторов из примера 3.6, то Вы можете уже сейчас, повозившись, убедиться в том, что они не обладают ни одним из обсуждаемых свойств. Впоследствии, узнав о том, что интегральные операторы компактны (см. определение 3.3.1 и теорему 3.3.1), Вы сможете сделать тот же вывод как простое следствие этого факта. Теперь применим теорему 1 к следующему вопросу принципиальной значимости. Как по двум преднормам, заданным на одном и том же линейном пространстве, судить о взаимоотношениях между порожденными этими преднормами топологиями? Определение 2. Пусть || • || и || • ||' — преднормы в линейном пространстве Е. Говорят, что преднорма || • ||' мажорирует || • ||,
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 1 15 если существует такое С > О, что || • || ^ С\\ ¦ \\ (т. е. для всех х € Е выполнено неравенство ||х|| ^ С||х||'). Две преднормы называются эквивалентными, если каждая из них мажорирует другую. ПРИМЕР 3. Рассмотрим пространство С[а, Ь] с нормами || • Ц^, и || • ||р для некоторого р е [ 1, со), т. е. с равномерной нормой и с нормой подпространства в Lp[a, Ь]. Тогда первая норма мажорирует вторую, а именно || • ||р ^ Ру/(Ь — а)\\ ¦ \\ж. В то же время эти нормы не эквивалентны (проверьте!). Пример 4. Рассмотрим пространство L2[a, b] с нормами || • ||, и ||-||2. Тогда из равенства ||х||, = (/, |х|), где /(*) = !, и неравенства Коши — Буняковского следует, что ||х||, ^ у/(Ь — а)||х||2, и, стало быть, вторая норма мажорирует первую. В то же время эти нормы не эквивалентны (проверьте!). ЗАМЕЧАНИЕ. На самом деле верен более общий факт: для того же отрезка норма || • \\q мажорирует норму || • ||р при 1 < р < q ^ со. Но его доказательство сложнее, и он нам не понадобится. Отметим почти тавтологическое Предложение 4. Линейный оператор Т: Е —> F между преднормированными пространствами является ограниченным тогда и только тогда, когда исходная преднорма в Е мажорирует преднорму \\\х\\\ := \\Т(х)\\. < > Ответ на поставленный выше вопрос дает Предложение 5. Пусть || • || и \\ • ||' — преднормы в линейном пространстве Е, а т и т' —порожденные ими топологии. Тогда топология т' не слабее т в том и только том случае, если преднорма \\ • ||' мажорирует || • ||. < Очевидно, топология т' не слабее т тогда и только тогда, когда тождественный оператор 1: (Е, \\ • \\') —> (Е, \\ ¦ ||) непрерывен. Последнее, согласно предыдущей теореме, означает в точности, что преднорма || • ||' мажорирует || • ||. > Следствие 3. Две преднормы, определенные на линейном пространстве, задают одну и ту же топологию тогда и только тогда, когда они эквивалентны. Сразу же объявим факт фундаментальной важности: две любые нормы в конечномерном линейном пространстве эквивалентны (что, в свете предложения 4, эквивалентно тому утверждению, что любой линейный изоморфизм между конечномерными нормированными пространствами является топологическим изоморфизмом). Доказательство, однако, не столь уж просто, как это может на первый взгляд показаться, и требует дополнительных соображений.
116 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Поэтому мы дадим его несколько позже; см. следствие 2.1.2, а также предложение 3.2.7. Объединяя теорему 1 с предложением 0.2.10, немедленно получаем Предложение 6. Если Т: Е -* F —ограниченный оператор из (произвольного) преднормированного пространства в нормированное, то его ядро —замкнутое подпространство в Е. < > Обсуждая топологические и изометрические изоморфизмы, мы по сути обсуждали условия — более терпимые в первом случае и более жесткие во втором, — при которых можно отождествлять различные (пред)нормированные пространства (ср. общекатегор- ные разговоры в § 0.4). Теперь поговорим об условиях, при которых позволено отождествлять ограниченные операторы, заданные, вообще говоря, в разных пространствах. Определение 3. Пусть S: Ех —> Е2 и Г: F, -+ F2 — ограниченные операторы, действующие между преднормированными пространствами. Они называются слабо топологически (соответственно слабо изометрически) эквивалентными, если существуют такие топологические (соответственно изометрические) изоморфизмы I и J, что диаграмма Ех ——. Е2 <1 {- F, -Х- F2 коммутативна. Очевидно, слабая топологическая эквивалентность — это специальный случай общекатегорного понятия слабого подобия морфизмов, а именно, это слабое подобие морфизмов в PRE (или NOR в контексте нормированных пространств). Что же касается слабой изометрической эквивалентности, то это слабое подобие морфизмов в PRE, (или NOR,), если речь идет о сжимающих операторах, и слабое подобие подобие морфизмов в PRE (или Nor) относительно PRE, (или NOR,) в случае произвольных ограниченных операторов. Читатель с легкостью проверит, что такие возможные свойства оператора, как топологическая изоморфность, топологическая инъективность и топологическая сюръективность, суть инварианты слабой топологической эквивалентности, т. е. они не меняются при замене оператора на слабо топологически эквивалентный. (Далее к подобным свойствам прибавятся компактность и фредгольмовость
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 117 операторов.) В то же время такие свойства, как изометрическая изоморфность, изометричность и коизометричность, суть инварианты слабой изометрической эквивалентности. Далее, инвариантами слабой топологической эквивалентности, очевидно, являются размерность ядра и коразмерность образа оператора, а также свойство образа и ядра быть замкнутыми. (Напоминаем, что замкнутость ядер обеспечена в случае Nor, но не PRE.) Важнейшим числовым инвариантом слабой изометрической эквивалентности является, разумеется, операторная (пред)норма. Следующее, «более требовательное» отождествление представляет, повидимому, еще больший интерес. Определение 4. Пусть S: Е —> Е и Т: F —> F — ограниченные операторы, действующие в преднормированных пространствах. Они называются топологически (соответственно изометрически) эквивалентными, если существует такой топологический (соответственно изометрический) изоморфизм /, что диаграмма Е —*—» Е ¦I {¦ F ——> F коммутативна. Неформальный смысл этого, как, впрочем, и предыдущего определения — в том, что эквивалентные операторы совпадают (действуют на векторы одинаковым образом) после отождествления заданных пространств посредством некоторых изоморфизмов того или иного типа. (При этом для «просто» эквивалентности разрешен только один изоморфизм, а для слабой — два разных.) Очевидно, любой инвариант слабой эквивалентности того или иного типа автоматически служит инвариантом и соответствующей «просто» эквивалентности. Но у последней есть и новые инварианты, скажем, наличие (или отсутствие) инвариантных подпространств данной размерности или размерность подпространства собственных векторов с заданным собственным значением. Однако самым «уважаемым» инвариантом топологической эквивалентности впоследствии окажется так называемый спектр оператора (см. предложение 5.1.1). Очевидно, топологическая эквивалентность — это специальный случай общекатегорного понятия подобия морфизмов, а именно это подобие морфизмов в Pre (или NOR в контексте нормированных пространств). Кстати, в литературе часто говорят о подобии
118 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ операторов, имея в виду именно то, что мы, опасаясь путаницы, называем топологической эквивалентностью. Что же касается изометрической эквивалентности, то это подобие морфизмов в Pre, (или NOR,), если речь идет о сжимающих операторах, и подобие морфизмов в Pre (или NOR) относительно PRE, (или NOR,) в случае произвольных ограниченных операторов. Если речь идет об операторах, действующих в предгильбертовых (в частности, почти гильбертовых) пространствах, то изометрическую и слабо изометрическую эквивалентность называют, как правило, унитарной (соответственно слабо унитарной) эквивалентностью; ср. выше определение унитарного оператора. (На самом деле это наиболее изученные «виды эквивалентности»; см. далее § 3.4, 6.2 и 6.7.) Про оператор I из определения 4 говорят, что он осуществляет топологическую (либо, смотря по контексту, изометрическую или унитарную) эквивалентность операторов S и Т. Аналогично про пару операторов (/, J) из определения 3 говорят, что она осуществляет слабую топологическую (изометрическую, унитарную) эквивалентность соответствующих операторов. Впоследствии, по мере накопления материала, мы приведем много содержательных примеров той или иной эквивалентности операторов, действующих в бесконечномерных пространствах. Что же касается конечномерных пространств, то с такими примерами наш читатель уже сталкивался — только, возможно, говорились другие слова. Освежите в памяти по существу известный Вам результат. Упражнение 5. (i) Два оператора bCJ, 1 <р<оо, топологически эквивалентны тогда и только тогда, когда их можно записать, каждый в своем линейном базисе, одной и той же матрицей. (И) Два оператора в С? унитарно (=изометрически) эквивалентны тогда и только тогда, когда их можно записать, каждый в своем ортонормированном базисе, одной и той же матрицей. Вот мы вспомнили о матрицах. На младших курсах нас учили, что матричная запись операторов (подразумевалось: действующих в конечномерном пространстве) является мощным аналитическим аппаратом их исследования. В функциональном анализе матричная запись играет более скромную роль, но все же и там она весьма полезна. Матрицами можно записывать операторы, действующие в пространствах с базисом Шаудера, только теперь эти матрицы бесконечны вправо и вниз. Определение 5. Пусть Е — нормированное пространство с базисом Шаудера еп, Т — действующий в Е оператор. Mampu-
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 119 цей этого оператора в указанном базисе Шаудера называется таблица атп € С, т, п € N, однозначно определенная правилом Теп = ? amnem. Аналогично, если речь идет о двух нормированных пространствах Е и F с базисами Шаудера соответственно е'п и е^', то матрицей оператора Т: Е —> F относительно указанных базисов называется таблица атп еС, т, п е N, однозначно определенная правилом Те'п = ]П атпе^. Предложение 7. Если Т — оператор, действующий в почти гильбертовом пространстве с ортонормированным базисом Шаудера е„, то его матрица в указанном базисе имеет вид атп = {Теп, ет). Если жеТ — оператор, действующий между двумя почти гильбертовыми пространствами с ортонормирован- ными базисами Шаудера е'п и е%, то его матрица относительно указанных базисов имеет вид атп = (Те'п, е?). < Очевидным образом следует из теоремы 2.4. > Нагляднее всего выглядит матрица оператора Г, действующего в 1^, в базисе из ортов: ее n-й столбец — это просто квадратично суммируемая последовательность Т(рп). Отметим легко следующее из предложения 3.3 Предложение 8. Пусть Т — оператор в ?, и (ат„) — его матрица. Тогда im| = supj J± | ? amXJ2keC; ? |€m|* < 1 = sup{| ? a^€.»7J|e»,»7m6C;i:|€J4l, Ekl^l). <» 4m,»-l M n = l n=l J Упражнение 6°. Каковы матрицы диагональных операторов и операторов левого и правого сдвига в ^ в базисе из ортов? Предложение 9. Пусть S — оператор, действующий в нормированном пространстве Е с базисом Шаудера е\, а Т — изометрически эквивалентный ему оператор в нормированном пространстве F. Тогда пространство F также обладает базисом Шаудера е\, причем таким, что матрицы операторов S и Т в указанных базисах совпадают. < Пусть оператор /: Е —* F осуществляет изометрическую эквивалентность операторов S и Т. Положим е*:=1(е^) и возьмем yeF; тогда для х:= I~l(y)e Е согласно условию имеет место единственное представление х= ? \пе\, Ап еС. Отсюда вектор у, -
120 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ будучи равен 1(х), однозначно представим в виде у — ^ Апе^. Тем самым, el — базис Шаудера bF. n = 1 Далее, если {атп} — матрица оператора S в базисе е\, то Te^ISI^e^ISe^lff: атпеЛ = ? amJ{exm)= ? amn4- 4m=l ' m = l m = l Дальнейшее очевидно. >. Замечание. Мы не касаемся здесь естественного вопроса о том, как по заданной бесконечной таблице судить о том, является ли она матрицей ограниченного оператора, пусть даже в таком идеальном со многих точек зрения пространстве, как 1^. Увы, прозрачного ответа нет и вроде бы не предвидится. (Предложение 8 практически ничего не проясняет.) Чуть больше об этом будет сказано, применительно к гильбертовым пространствам, в § 2.2. В заключение параграфа — несколько слов о билинейных операторах в функциональном анализе. Они, в отличие от линейных, допускают по крайней мере два разных толкования понятия ограниченности. Пусть Е, F,G — преднормированные пространства, К: Е х F —> G — билинейный оператор. Определение 6. Билинейный оператор TZ называется совместно ограниченным, если sup{||fc(x, у)\\ | х е ШЕ, у е U1F} < оо, и раздельно ограниченным, если для любых х е Е и у € F операторы Ux: F -* G, у\-+ Щх, у) и Пу: Е -+ G, х (-> Щх, у) ограничены. Указанная выше верхняя грань называется пред- нормой (совместно ограниченного) билинейного оператора И и обозначается \\И\\. Тот оператор Л, для которого \\Щ ^ 1, называется сжимающим. Предложение 10. Всякий совместно ограниченный билинейный оператор раздельно ограничен. < > Предложение 11. Пусть ft: Е х F —> G — совместно ограниченный билинейный оператор, последовательность хп сходится к х в Е, а уп сходится к у в F. Тогда последовательность Щхп, уп) сходится к Щх, у) в G. < Для любого п имеет место оценка \\Щх, у) - Щхп, уп)\\ = \\Щх - хя, у) + Щхп, у - уп)\\ <
§ 5. ТИПЫ ОПЕРАТОРОВ И ОПЕРАТОРНЫЕ КОНСТРУКЦИИ 121 ^ \\Щ\\у\\\\х -хп\\ + \\Щ(\\х\\ + \\хп- х\\)\\у - уп\\. Дальнейшее очевидно. > Нетрудно усмотреть и более общий факт: Упражнение 7. Билинейный оператор V, совместно ограничен тогда и только тогда, когда он непрерывен как отображение из топологического произведения Е х F в топологическое пространство G. Множество всех ограниченных билинейных операторов нз Е xF в G мы обозначим через Bil(E х F, G). ЗАМЕЧАНИЕ. Взяв за образец предложения 3.1 и 3.2, легко показать, что это множество является линейным пространством относительно поточечных операций, а функция 7J »-> \\R\\ является преднормой (так что этот термин оправдан); наконец, (Bil(E х F, G), || • ||) — нормированное пространство в том и только том случае, когда таково пространство G. Впрочем, эти факты нам не понадобятся. Еще на первом курсе наш читатель узнал о том, что бывают разрывные функции двух переменных, непрерывные по каждому переменному в отдельности. Подобно этому, бывают раздельно, но не совместно ограниченные билинейные операторы. ПРИМЕР 5. Билинейный функционал /: с^ х с^—>С, (?,r))t-> >-» X) n?nVn< гДе пространство с^ рассмотрено с равномерной нормой, раздельно, но не совместно ограничен. (Проверьте!) ЗАМЕЧАНИЕ. В дальнейшем мы увидим, что в банаховых пространствах оба вида ограниченности совпадают (см. теорему 2.4.5). § 5. Некоторые типы операторов и операторные конструкции. Проекторы Прежде всего отметим, что с каждой парой, состоящей из преднормированного пространства Е и его подпространства Е0, связаны два такие оператора: естественное вложение in: Е0—*Е, сопоставляющее каждому вектору х е Е0 этот же вектор, но рассмотренный в Е, и естественная проекция рг: Е —> Е/Е0, сопоставляющая каждому вектору его класс смежности по Е0. Ясно, что норма обоих операторов равна 1, за исключением случая, когда преднорма на Е0 (либо, смотря по смыслу на Е/Е0) равна нулю тождественно. При этом оператор in (будучи изометрическим)
122 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ топологически инъективен, а рг (будучи, как легко проверить, коизометрическим) топологически сюръективен. ЗАМЕЧАНИЕ. Мы не утверждаем, что естественная проекция отображает замкнутый единичный шар в Е на замкнутый единичный шар в Е/Е0; ср. далее упражнение 3.2.2. Для удобства будущих ссылок выделим очевидное Предложение 1. Оператор топологически инъективен (соответственно является изометрическим и инъективным) тогда и только тогда, когда он является результатом последовательного применения топологического (соответственно изометрического) изоморфизма и естественного вложения. < > Еще два типовых оператора возникают в ситуации, когда уже задан ограниченный оператор Т: Е —> F и известно, что он отображает подпространство Е0 С Е в подпространство F0 С F. Первый — это соответствующее биограничение Т0°: E0—*F0 нашего оператора; разумеется, \\Т0°\\ ^ ||Т||. О втором говорит следующее Предложение 2. В указанной ситуации существует единственный такой линейный оператор Т, что диаграмма Е —?-> F pr'i ь Е/Е0 -L-» F/F0, в которой вертикальные стрелки изображают естественные проекции, коммутативна. Этот оператор ограничен, и \\ Т || ^ ^ЦГ||. < Ясно, что требуемый оператор однозначно определен тем, что он должен переводить класс смежности х вектора х по Е0 в класс смежности вектора Т(х) по FQ, и что действительно существует оператор, корректно определенный этим правилом. Далее, из коммутативности нашей диаграммы и того, что ||рг2|| = 1, следует, что для всех х е Е/Е0 и х € х выполнено неравенство ||Т(х)|| ^ ||T(i)|| и, стало быть, ||ТE=Г)|| ^ ||Т||||х||; взяв нижнюю грань по всем х е х, мы видим, что ||Т|| ^ ||Г||. > Выделим важный специальный случай построенного оператора. Предложение 3. Пусть Т: Е —> F — ограниченный оператор, и Е0 с Кег Т. Тогда существует единственный такой
§ 5. ТИПЫ ОПЕРАТОРОВ И ОПЕРАТОРНЫЕ КОНСТРУКЦИИ 123 линейный оператор Т, что диаграмма Е ч Е/Е0 —L_> F коммутативна. Этот оператор ограничен, и ||Т|| = ||Т||. Если же Е0 = Кег Г, то оператор Т инъективен. < Предыдущее предложение, рассмотренное для заданного Е0 и F0 := О, дает утверждение, касающееся диаграммы, и оценку ||Г|| ^ ||Т||. С другой стороны, ||ГЦ ^ \\Т||||рг|| = ||Г||. Наконец, если Е0 — Кег Г, то из коммутативности диаграммы очевидным образом следует, что Кег Т = 0. > Про оператор Т, указанный в предложении 3 (а также, более общо, в предложении 2), мы будем говорить, что он порожден оператором Т. Следующее предложение, сходное по смыслу с предложением 1, проверяется непосредственно. Предложение 4. Справедливы следующие утверждения: (i) оператор Т топологически сюръективен •«=>¦ порожденный им оператор Т: Е/Кег Т -* F — топологический изоморфизм •<=>¦ оператор Т является результатом последовательного применения естественной проекции и топологического изоморфизма; (и) оператор Т является коизометрическим оператором <=>¦ оператор Т — изометрический изоморфизм -$=>¦ оператор Т является результатом последовательного применения естественной проекции и изометрического изоморфизма. < > В качестве немедленного следствия сделайте Упражнение 1°. (i) оператор Т является инъективным и изометрическим (соответственно является коизометрическим) <=>¦ оператор Т слабо изометрически эквивалентен некоторому естественному вложению (соответственно некоторой естественной проекции); (И) оператор Т является топологически инъективным (соответственно топологически сюръективным) -Ф=>- оператор Т слабо топологически эквивалентен некоторому естественному вложению (соответственно некоторой естественной проекции).
124 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Теперь рассмотрим одномерные (= обладающие одномерным образом; ср. § 0.1) операторы и дадим их полезную характеризацию. Пусть Е и F — два преднормированных пространства. Для каждой пары / е Е*, у G F обозначим через / О у отображение, действующее по правилу х н-> (/, х)у. Предложение 5. Справедливы следующие утверждения: (i) оператор f О у — это одномерный оператор с нормой II/IIIMI; (ii) если F — нормированное пространство, то всякий ограниченный одномерный оператор из Е в F имеет вид / О у для некоторых f е Е* и yeF; (iii) одномерные операторы перемножаются по правилу (fOy)(gOz) = f(z)gOy. < Если T€B(E,F) и Im(T) = span{y}, то отображение f:E->C, сопоставляющее вектору х то единственное число А, для которого Т(х) = \у, есть, очевидно, линейный функционал на Е, причем из неравенства ||у|| ф0 сразу следует его ограниченность. Отсюда Т = f О у. Дальнейшее очевидно. > Позже мы увидим, что всякий конечномерный ограниченный оператор есть сумма нескольких одномерных ограниченных операторов; см. предложение 2.1.6. Замечание. В литературе оператор /Оу часто обозначается через /®у — намек на то, что он может быть отождествлен с элементарным тензором в определенном тензорном произведении. Об этих вещах мы поговорим позже, в § 2.7. Вот еще одна конструкция, позволяющая строить новые операторы. Напомним об 1р-суммах преднормированных пространств, обсуждавшихся в § 1.1. Упражнение 2. Пусть для некоторого индексного множества Л имеются два семейства преднормированных пространств Ev и Fv, v € Л, и Ти: Ev —> Fu — такое семейство ограниченных операторов, что числа ||7^,|| ограничены в совокупности. Тогда для любого р, 1 ^ р ^ со, существует ограниченный оператор Т'- ©Р{Д/ | ^ € Л} —> 0Д.Р,, | v е Л}, корректно определенный правилом (T(/))(i/) = T,(/(i/)), где / 6 0Р{?„ |«/ е Л}. При этом ||T||=sup{||:rj||«/€A}. (Определенный выше оператор Т называется 1р-суммой операторов Tv, v б Л.) Познакомимся еще с одним важным типовым оператором — ограниченным проектором, тесно связанным с категорией конструк-
§ 5. ТИПЫ ОПЕРАТОРОВ И ОПЕРАТОРНЫЕ КОНСТРУКЦИИ 125 цией копроизведения (см. § 0.6). Сперва укажем один специальный случай этих самых копроизведений. Пусть Е1 и Е2 — преднормированные пространства, Е1@Е2 — их линейная прямая сумма, г,: Е1 —> J5, © Е2, х н-> (х, 0), и i\: Е2 -* —^Е]®Е2, у •-» @, у). Снабдим Ех ф Е2 преднормой || • ||,, положив ||(х1у)||1:=||х|| + ||»||. Предложение 6. Нормированное пространство (Ei®E2,\\-\\i) вместе с вложениями г, и % есть копроизведение пространств ЕхиЕ2в категории NOR. То же верно с заменой слова «нормированное* на «преднормированное» и Nor на Pre. < Пусть F — произвольное нормированное пространство вместе с ограниченными операторами tpk: Ek —>F, k = 1, 2. Наша задача — показать, что существует и однозначно определен ограниченный оператор ф, делающий диаграммы Е —^ F я* (при к = 1, 2) коммутативными. Но ясно, что есть всего один линейный оператор с подобным свойством — это ф: (х, j/)i-* <Pi(x)+tp2(y). Он ограничен в силу неравенств ||V(x, V)|| ^ Ых)\\ + ||^(у)|| ^ С(||х|| + Hj/II) = С\\(х, уI. Дальнейшее очевидно. > Замечание. Прочтя эти строки, Вы, конечно, догадались, как выглядят копроизведения (а может быть, и произведения) любого конечного числа объектов в NOR и Pre. Но нам кажется излишним рассматривать более подробно (ко)произведения в этих категориях; мы этим займемся в контексте более важных категорий банаховых и гильбертовых пространств. А теперь напомним о предложении 0.6.3, описывающем с разных точек зрения ситуацию, когда линейное пространство разлагается в прямую сумму двух других. Переходя от LIN к NOR, мы получаем его следующий «обогащенный» вариант. Предложение 7. Пусть (Е, \\ • ||) — нормированное пространство, Е1 и Е2— его подпространства, г, и г\ — естественные вложения этих подпространств в Е. Следующие утверждения эквивалентны:
126 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ (i) пространство Е, как линейное пространство, разлагается в прямую сумму подпространств Е{ и Е2, причем исходная норма || • || эквивалентна норме || • ||', (корректно) определяемой равенством \\у + z\\' := ||у|| + ||z|| для уеЕи ге Е2\ (ii) пространство Е вместе с вложениями г, и ц является копроизведением подпространств Ех и Е2 в NOR; (iii) отображение пространства (ЕХ®Е2, || • ||,) в Е, переводящее пару (у, z) в у + z, есть топологический изоморфизм. Все сказанное верно с заменой слова ^нормированное» на *преднормированное» и Nor на Pre. < Доказательство предложения 0.6.3 проходит и для (пред)нор- мированных пространств, надо только сделать несколько добавок, отражающих более богатую структуру последних. (i) => (ii). Если F — «постороннее» пространство, a ipk: Ek —> —> F, k = 1, 2, — ограниченные операторы, то корректно определен линейный оператор ф: Е —» F, переводящий y + z, ?/б?„2б?2, в f\(y) + fyi2)- Выбрав такое С > 0, что || • ||' ^ С|| ¦ ||, и положив К :=max{||v>,||, ||у2||}. мы видим, что Н(У + г)Н\Ы\\\у\\ + \М\\гНКС\\у + г\\. Тем самым, оператор ф ограничен, и это единственный оператор, делающий диаграмму из определения копроизведения коммутативной. (ii) =>• (iii). Это утверждение следует из предложения 6 и теоремы единственности 0.6.1 (в применении к копроизведениям в NOR). (iii) =$¦ (i). Очевидно. > Определение 1. Если выполнены (эквивалентные) условия предыдущего предложения, то мы говорим, что пространство Е разлагается в топологическую прямую сумму своих подпространств Ех и Е2. В этом случае подпространство Е2 называется топологическим прямым дополнением подпространства Ех вЕ. Подпространство, для которого существует топологическое прямое дополнение, называется топологически дополняемым. Наш отличник без труда согласится с нами, что в свете этого определения предложение 7 допускает следующую теоретико-категорную интерпретацию. Упражнение 3. Подпространство Ех (пред)нормированного пространства Е топологически дополняемо •<=» естественное вложение in : ЕХ—*Е — коретракция в Nor (или в Pre) •«=>¦ естественная проекция рг: Е -»Е/Ех — ретракция в Nor (или в Pre).
§ 5. ТИПЫ ОПЕРАТОРОВ И ОПЕРАТОРНЫЕ КОНСТРУКЦИИ 127 Указание. Если j—левый обратный к оператору in, то его ядро — это топологическое прямое дополнение к ?, в Е. Ту же роль играет образ правого обратного к рг. Читатель, сделавший упражнение 0.1.2, знает, что каждое подпространство линейного пространства обладает линейным дополнением. Но далеко не всякое подпространство нормированного пространства топологически дополняемо. Вот простое (и довольно грубое) необходимое условие. Предложение 8. Топологически дополняемое подпространство нормированного пространства (и, как следствие, любое его топологическое прямое дополнение) замкнуто. < Доказательство следует из предложения 7 (i) и того очевидного факта, что, в принятых там обозначениях, пространство Ех замкнуто в Е по норме || • ||'. > Гораздо интереснее то, что и замкнутость, вообще говоря, не обеспечивает топологическую дополняемость; см. далее теорему 2.3.4. Наконец, мы вплотную подошли к обещанным ограниченным проекторам. Как мы сейчас увидим, это понятие по сути эквивалентно понятию разложения пространства в топологическую прямую сумму подпространств. Сперва напомним его чисто алгебраический прототип. Пусть линейное пространство Е разлагается в прямую сумму своих подпространств F и G. Рассмотрим отображение Р: Е —*Е, сопоставляющее вектору х, х = у + z, у е F, z е G, его первое слагаемое у. Как легко проверить, Р — линейный оператор, равный своему квадрату (т. е. оператор Р2 := Р оР совпадает с Р), или, как еще говорят, идемпотентный. Определение 2. Указанный оператор называется проектором на F вдоль G (в Е). Вектор Р(х) называется проекцией вектора х на F вдоль G. Таким образом, разложение в прямую сумму порождает некий проектор. Верно и обратное. Предложение 9. Пусть Р — идемпотентный оператор, действующий в линейном пространстве Е, F :=Im(P) и G := :=Кег(Р). Тогда пространство Е разлагается в прямую сумму подпространств F uG, и при этом Р — проектор на F вдоль G. < Любой вектор хеЕ представим как сумма Р(х) + (х-Р(х)), где Р(х) € F. Из равенства Р2 = Р следует, что Р(х — Р(х)) = 0.
128 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Это означает, что Е = F + G. Далее, если у е F, то у = Р(и) для некоторого и е Е и Р(у) = Р2(и) — Р(и) = у. В силу равенства P(z) = 0 для z е G, отсюда следует, что F П G = {0}. Дальнейшее очевидно. i> Теперь перейдем от «чистых» линейных пространств к (пред)нор- мированным. Предложение 10. Пусть Е — преднормированное пространство. Тогда (i) если пространство Е разлагается в топологическую прямую сумму своих подпространств F и G, то проектор Р: Е —> Е на F вдоль G ограничен; (и) если Р — ограниченный идемпотентный оператор в Е, F:=\m(P) и G:=Ker(P), то Е разлагается в топологическую прямую сумму подпространств F и G. < (i) В силу условия (i) предложения 7 существует такая константа С > 0, что для любого х е Е, х = у + z, у е F, z б G, выполнено неравенство 11^(^I1 = НуК11у11 +И ^С||а:||. (и) Разложение пространства Е в линейную прямую сумму подпространств F и G обеспечено предыдущим предложением. Далее, для любого х е Е, х = у + z, у б F, z б G, выполнено неравенство \\y\\ + \\z\\ = \\P(x)\\ + \\(l-P)(x)\\$ ^||Р(х)|| + ||1-Р||||хИA+2||Р||)||х|| и мы проверили то же условие (i) предложения 7. о Следствие 1. Подпространство F преднормированного пространства Е топологически дополняемо в том и только том случае, когда существует ограниченный проектор Р: Е —> Е с образом F. Вот две иллюстрации. Упражнение 4°. (i) Диагональный оператор ТЛ в 1р, 1 ^р^со, является проектором <=> последовательность Л состоит из нулей и единиц. (ii) Оператор умножения на функцию Tf в Lp(X, р.), 1 < р < оо, является проектором <*=>• функция / почти всюду совпадает с характеристической функцией измеримого подмножества X. Упражнение 5*. Пусть Т — интегральный операторе L2[a, b] с производящей функцией вида K(s, t) = J2 ЛC)&(*). Л) 3* €
§ 5. ТИПЫ ОПЕРАТОРОВ И ОПЕРАТОРНЫЕ КОНСТРУКЦИИ 129 с L2[a, Ь] (такие производящие функции называются вырожденны- ни). Предположим, что каждый из наборов {/,,.. ./„} и {д,,..., дп} линейно независим. Тогда Т является проектором в том и только том случае, если для любых к, I — 1,..., п выполнено равенство \fk(t)gi{t)dt = 6u. Замечание. Предположив линейную независимость функций в упражнении 5, мы на самом деле ничего не потеряли: нетрудно проверить, что любой интегральный оператор с вырожденной производящей функцией может быть записан в указанном виде с линейно независимыми наборами {Д} и {дк}. Попробуйте самостоятельно в этом убедиться. (См. также предложение 2.7.1.) ЗАМЕЧАНИЕ. На самом деле других проекторов среди интегральных операторов не бывает. Но мы сможем доказать это лишь позже, когда узнаем, что эти операторы относятся к классу так называемых компактных; см. упражнение 3.3.4. В заключение параграфа — несколько слов о моно- и эпиморфизмах в наших категориях. В этом вопросе категории преднормиро- ванных и нормированных пространств ведут себя по-разному. Предложение 11. Во всех четырех категориях мономорфизмы — это в точности инъективные операторы. В то же время в категориях PRE и PRE; эпиморфизмы — это в точности сюръективные операторы, а в категориях Nor и NOR, эпиморфизмы— это операторы с плотным образом. < Пусть /С — общее обозначение наших категорий. Доказательство того, что любой инъективный морфизм в /С является мономорфизмом, дословно повторяет рассуждение в предложении 0.5.5. Если же морфизм Т: Е —> F в К. не инъективен, иными словами, Е0 := Кег(Г) ф 0, то для морфизма 0: Е0—>Е и естественного вложения in: Е0—>Е выполнено равенство Т о 0 = Г о in, в то время как 0 ф in. С учетом того, что Е0 — объект в К., a in (будучи сжимающим оператором) — заведомо морфизм в 1С, это означает, что Т — не мономорфизм. Доказательство того, что морфизм в К. с плотным образом является эпиморфизмом при К. — NOR или NOR,, дословно повторяет соответствующее рассуждение для категории метрических пространств (см. предложение 0.5.7). Доказательство того, что сюръективный морфизм в К. является эпиморфизмом при К. = PRE или PRE,, дословно повторяет соответствующее рассуждение для категорий, указанных в предложении 0.5.5.
130 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Теперь для морфизма Г: Е —> F в К. обозначим через F0 замыкание его образа при К, = Nor или Nor, и сам этот образ при /C = PRE или PRE,. Тогда во всех случаях пространство F/F0, снабженное факторнормой (факторпреднормои), — это объект в К., а естественная проекция pr: F —> F/F0, будучи сжимающим оператором, — заведомо морфизм в К,. Мы видим, что 0 о Т = рг о Т, в то время как О^рг при F0J= F. Это означает, что в последнем случае Г — не эпиморфизм. о Если хотите быть молодцом, установите красивое утверждение, доставляющее теоретико-категорную интерпретацию топологически инъективных и топэлэгкческ сюръективных операторов. Упражнение 6*. Пусть К — одна из наших категорий, Т: Е -» F — ее морфизм. Тогда (i) если К = Nor, то Т — крайний мономорфизм -*=>• Т — топологически инъективный оператор с замкнутым образом, и Т — крайний эпиморфизм <=> Т — топологически сюръективный оператор; (и) если /С = Nor, , то Т — крайний мономорфизм <=» Т — изометрический оператор с замкнутым образом, и Т — крайний эпиморфизм •<=*• Г — коизоме- трический оператор; (Ш) если К = Pre, то Т — крайний мономорфизм •$=>• Т — топологически инъективный оператор, и Т — крайний эпиморфизм •«=> Т — топологически сюръективный оператор; (iv) если К = Pre, , то Т — крайний мономорфизм -<=>• Г — инъективный изометрический оператор с замкнутым образом, иТ — крайний эпиморфизм <=^ -*=»• Т — коизометрический оператор. Указание. Мы лишь обсудим, почему крайние мономорфизмы чуть по-разному описываются в Nor и Pre. Введем обозначения: F0 — образ, a F, — замыкание образа морфизма Т; Т* := T\Fk и infc —естественное вложение Fk в F, А; =0,1. Топологическая инъективность морфизма Т эквивалентна тому, что Т° — топологический изоморфизм, а то же свойство и замкнутость пространства F0 — тому, что Г1 —топологический изоморфизм. Далее, Т° — эпиморфизм как в Nor, так и в Pre, а Г1 —вообще говоря, в одной лишь категории Nor. Отсюда видно, что если Т — крайний мономорфизм в Nor (соответственно Pre), то нужное строение этого оператора обеспечено равенством Т = in, Т1 (соответственно Т = iriQ Г°). Займемся обратными утверждениями. Пусть Т = SR, S0 := Im (S) и S° := S\s«. Надо проверить, что R — топологический (а здесь это значит — категорный) изоморфизм в каждой из двух таких ситуаций: 1) Т1 —топологический изоморфизм, а Я — эпиморфизм в Nor, и 2) Т° — топологический изоморфизм, а Я — эпиморфизм в Pre. В первом случае R — оператор с плотным образом, и поэтому F0 Я S0 С. Ft; вместе с указанным свойством морфизма Г это дает равенство F0 = 50 = F, и, как следствие, Г° = S°R = Т'. Во втором случае морфизм R сюръективен, и поэтому F0 = 50, что снова дает равенство Т° = S°R. Мы видим, что в обоих случаях морфизм Л обладает левым обратным, а именно (Т°)_15°, и тот факт, что это изоморфизм, следует из общекатегорного предложения 0.5.4.
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА - БАНАХА 131 § 6. Функционалы и теорема Хана — Банаха Наш читатель помнит, что функционал — это оператор с (простейшей) областью значений С (или К, если мы рассматриваем действительные линейные пространства). Как частный случай определения 3.1, мы говорим, что функционал /: Е —* С, где Е — преднормированное пространство, ограничен, если для некоторого С >0 выполнено неравенство |/(х)| ^ С||х|| для всех х е Е. При этом среди подобных констант С существует наименьшая, которая совпадает с числом sup{|/(a;)| | х е Шв} (предложение 3.1); она называется нормой функционала / и обозначается ||/||. (То, что это норма, следует из предложения 3.2.) Ограниченность функционала эквивалентна его непрерывности (теорема 4.1). Изучение функционалов мы начнем с того, что приведем несколько поучительных примеров. На самом деле мы сделаем нечто большее: покажем, как выглядят все (без исключения) ограниченные функционалы на некоторых наиболее просто устроенных пространствах. Речь пойдет о некоторых из пространств последовательностей, введенных в первом параграфе. Сперва сделаем предварительное чисто алгебраическое наблюдение: опишем функционалы на линейном пространстве с^ (финитных последовательностей). Очевидно, каждая последовательность tj е с^ (= произвольная последовательность) задает функционал /„:%>-* С, ?~Е07П (сумма имеет смысл, так как последовательность ? финитна). Обратно, если задан функционал на с^, то, положив r)n := f(j> ), мы получаем единственную такую последовательность т] е сж, что функционал / оказывается равным /ч. Теперь шагнем из алгебры в анализ, рассмотрев различные нормированные пространства последовательностей, в которых пространство Сад плотно. Упражнение 1. Каждая последовательность tj € /, задает ограниченный функционал /ч на пространстве с^ по правилу ? >-» ]С ?nVn< и. обратно, каждый ограниченный функционал / на Сд есть Д для однозначно определенной последовательности rj е Z,. Определенная этим биекция /0: J, —> (с^)* есть изометрический изоморфизм нормированных пространств. (Таким образом, «ограниченные функционалы на с$ задаются элементами пространства /,», и, с точностью до изометрического изоморфизма, (с,,)* = lx.)
132 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Указание. То, что для последовательности т), rjn := f(pn), выполнено неравенство Ц^Н, ^ ||/||, можно усмотреть из действия функционала / на элементы из пространства Е вида f =(А,,..., Л„,0,0,...) с такими Хк е Т, что А^ -\vk\- Упражнение 2. Тоже, нос заменой q, на /,, /, на 1Ж и биекции h'- h ~* (°оУ на ^i: 'оо —* (hY- (Таким образом, «ограниченные функционалы на 1} задаются элементами пространства 1Х», и, с точностью до изометрического изоморфизма, (Z,)* = 1Ж.) Упражнение 3. То же, что и в упражнении 1, но с заменой с,, на ij, /, на ^ и биекции I0: J, —> (q,)* на 12: ^ —> (у. (Таким образом, «ограниченные функционалы на ^ задаются элементами самого ^», и, с точностью до изометрического изоморфизма, (^)* = 1^.) Указание. Ограниченность функционалов, заданных по указанному правилу, следует из неравенства Коши — Буняковского. Показывая, что последовательность т}, построенная с помощью /, квадратично суммируема, можно рассмотреть последовательности f = (*7п ..., Vn, 0,0,...) при всевозможных п. Вам также необходимо знать о серии более сложных примеров (которые мы приводим без доказательства). Предложение 1. (БД) Пусть (X, р) — измеримое пространство и р е [ 1, оо). Пусть, далее, число q е A, оо] однозначно определено равенством - + - = 1, еслир>\, uq:=oo, еслир=\. Тогда каждая функция yeLq(X, р) задает ограниченный функционал /„ на пространстве Lp(X,p) по правилу и-> J x(t)y(t)dp(t), х и, обратно, каждый ограниченный функционал f на Lp(X, р.) есть fy для однозначно определенной функции у € Lq(X, р.). Определенная этим биекция Ip: Lq(X, р.) —» Lp(X, р)* есть изометрический изоморфизм нормированных пространств. ЗАМЕЧАНИЕ. Доказательство этого факта при р = 2 будет дано позже, как следствие общей теоремы Рисса о строении функционалов на гильбертовых пространствах (см. предложение 2.3.10). Обратим внимание на то, что при р > 1 оба числа — р и q — можно поменять местами: пространство Lq(X, р,)' совпадает, с точностью до изометрического изоморфизма, с Lp(X, р.). Разумеется, в случае измеримого пространства N со считающей мерой предложение 1 превращается в утверждение, позволяющее отождествлять функционалы на 1р с элементами пространства I , т. е. результат того же упражнения 1, но с заменой q, на /р, \ на lq и биекции I0: lt —> (с,,)* на Ip: lq -»(lp)*. Упражнения 2 и 3 соответствуют в этой общей схеме случаям р — 1 и р — 2.
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 133 Теперь отметим важную характеризацию ограниченных функционалов. Предложение 2. Линейный функционал, заданный на пред- нормированном пространстве, ограничен в том и только том случае, если его ядро замкнуто. < =*- Это частный случай предложения 0.2.10. •<= Пусть /: Е —> С — наш функционал. Если / = 0, то все доказано; в противном случае зафиксируем х^Кег(/). Тогда каждый вектор уеЕ однозначно представим в виде Ax+z, А еС, zeKer (/). С учетом предложения 1.1.4 для некоторого С > 0 мы получаем оценку |/(у)| = |А||/(ж)| ^ C|/(x)|||j/||. Дальнейшее очевидно. > Отметим, что часть «-^» этого предложения не переносится на произвольные операторы, даже если оба пространства нормированные. Оператор может обладать замкнутым, даже нулевым ядром и не быть ограниченным. (Приведите пример.) Мы переходим к одной из теорем, лежащих в фундаменте всего функционального анализа. Чтобы лучше понять ее глубину, сперва предлагаем Вам поупражняться в чистой алгебре: Упражнение 4. Пусть Е—линейное пространство, а Е0 — его подпространство, Т0: E0—>F — линейный оператор со значениями в линейном пространстве. Тогда существует линейный оператор Т: Е —> F, являющийся продолжением оператора Т0 на все пространство Е (т. е. такой, что TL = Т0 или, что то же самое, диаграмма коммутативна). Указание. Пусть Ех — произвольное линейное дополнение к Е0 в Е (см. упражнение 0.1.2). Тогда в качестве Т подойдет оператор, переводящий вектор у + z, у е 2?0, z е Ех, в Т0(у). Теперь предположим, что вдобавок Е и F — преднормированные пространства, а Т0 — ограниченный оператор. Существует ли среди линейных операторов, продолжающихся на все пространство Е, хотя бы один ограниченный? Оказывается, отнюдь не всегда, но это мы обсудим позже (см. предложение 2.3.11). Тем не менее, как мы вскоре покажем, в случае F = С, т. е. когда речь идет
134 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ о функционале, ограниченное продолжение всегда существует. Этот факт, однако, далеко не прост. Следующая теорема — одна из немногих в этих лекциях, когда нам потребуются действительные (а не комплексные) линейные пространства в качестве основного поля скаляров. Теорема 1 (Хан — Банах). Пусть Е — действительное пред- нормированное пространство, Е0 — его подпространство, /0: Е0 —> R — ограниченный действительный линейный (т. е. R-линейный) функционал. Тогда существует ограниченный действительный линейный функционал f:E-+R, продолжающий /0 и притом такой, что ||/|| = ||/0||. « Отбросив простой случай ||/0|| =0 и заменив, если потребуется, /0 на й^, мы вправе считать, что ||/0|| = 1. Основную роль в доказательстве играет Лемма. Теорема Хана —Банаха верна в предположении, что codimB Е0 = 1. < Зафиксируем хеЕ\Е0. Очевидно, для произвольных z,, z2еЕ0 имеет место цепочка неравенств из которых следует, что -||х + *1||-/0(г1К||* + г2||-/0(г2). Это означает, что для чисел С, := sup{—||ж + г,|| — /0(z,) | г, б Е0} и C2:=inf{||x + .z2|| -/0(^2) | % € Е0} выполнено неравенство С, ^ С2. Зафиксируем такое с еК, что С, ^ с ^ С2. (Это число определено однозначно, если С, = С2, и может быть произвольно взято из отрезка [С,, С2], если С, < С2; какая из возможностей на самом деле имеет место, для нас сейчас роли не играет.) Очевидно, при всех z е Е0 выполнено неравенство -\\x + z\\-f0(z)^c^\\x + z\\-f0(z), или, эквивалентно, \с + f0(z)\ < ||i + z||. Теперь возьмем любой вектор у е Е. Из условия леммы следует, что у имеет вид Хх + z с однозначно определенными АеЕи2б?0. Положим /: Е —> R, у \-> \с + f0(z); очевидно, этим корректно определен линейный функционал, продолжающий /0. Если А ф 0, то |/(j/)| = |Л|(с-Ь/о(х;гг))' чт0 в сочетании с предыдущим неравенством дает оценку |/<у)|^|А|||х + |*|Н|Ах + *|| = ||у||.
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 135 Если же А =0, то неравенство \f(y)\ ^ \\у\\ сразу вытекает из того, тго ||/0|| = 1. Объединяя оба случая, мы видим, что функционал / ограничен и ||/|| ^ 1. Поскольку при продолжении оператора (в дан- аом случае — функционала) его норма не может уменьшиться, мы лолучаем, что ||/|| = 1. t> Для того чтобы вывести из леммы общий случай, мы совершим «ритуальный танец вокруг леммы Цорна». Рассмотрим множество Л/, состоящее из пар вида (?,,/,), где Ех —подпространство в Е, а /,: El -»R — функционал, продолжающий /0 и имеющий ту же норму. Введем в это множество порядок (см. определение 0.1.1), объявив (?,,/,)-< (E2,f2) в случае, когда Ех С Е2 и f2\E = /,; свойства упорядоченного множества легко проверяются. Пусть М0 = {(Е„, /„) | v е Л} — линейно упорядоченное подмножество в М. Положим Еж := U{EV \ v е Л}; очевидно, это подпространство в Е. Далее, для любого i/бЛи х € Ev положим !ЛХ) '¦= /ЛХУ> этим, очевидно, корректно определен линейный функционал fx: Ех —¦ К. Тогда, как легко усмотреть, пара (Еж, f^) принадлежит М и является верхней границей множества М0. Тем самым, множество М удовлетворяет условиям леммы Цорна н, стало быть, содержит максимальный элемент; пусть это пара Осталось доказать, что Е' совпадает со всем пространством Е. Пусть это не так; тогда мы зафиксируем х е Е \Е' и положим Е":— {Хх + z | А е R, z е Е'}. Рассмотрим доказанную выше лемму для случая, когда фигурирующие там пространства Е, Е0 и функционал /0 суть соответственно наши Е", Е' и /'. Переведя ее утверждение на язык упорядоченного множества М, мы получаем, что существует пара (Е", /"), принадлежащая М и такая, что (Е\ /') -< (Е", /"). Поскольку обе пары различны, мы пришли к противоречию с тем, что пара (Е1, /') — максимальный элемент в М. Дальнейшее очевидно. >> ЗАМЕЧАНИЕ. Если пространство Е сепарабельно, то в доказательстве теоремы Хана — Банаха можно обойтись и без обращения к лемме Цорна; см. далее упражнение 2.1.3. Итак, сохраняющее норму продолжение функционала построено. Но единственно ли оно? Этот вопрос в разных конкретных ситуациях решается по-разному. Упражнение 5. Пусть Е — действительное пространство I* (декартова плоскость), где 1 ^ р < со. Пусть, далее, Е0 — прямая (= одномерное подпространство) вВ,а /0 — функционал нормы 1, заданный на Е0. Тогда у /0 существует много продолжений, сохраняющих норму, в следующих случаях:
136 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ а) р — 1, Е0 — одна из координатных осей; б) р — оо, Е0 — одна из двух главных диагоналей. Во всех остальных случаях (в том числе при всех 1 < р < оо и всевозможных Е0) у функционала /0 существует только одно сохраняющее норму продолжение. Указание. Пусть С, и Q — числа, фигурирующие в доказательстве предыдущей леммы. Тогда в случаях а) и б) первое число меньше второго, а во всех остальных случаях эти числа равны. Любопытному читателю мы сообщим без доказательства, что для нормированного пространства Е все зависит от того, как устроена единичная сфера сопряженного пространства Е". Если она не содержит ни одного отрезка (как, скажем, для E = Lp(X,p) при 1 < р < оо), то любой ограниченный функционал на любом подпространстве в Е продолжается с сохранением нормы однозначно; если же подобные отрезки есть (как для Е = 1ц(Х,ц) или L0O(Jt,^)), то у некоторых функционалов существует много сохраняющих норму продолжений. Подробнее об этом см., например, [53]. В теореме Хана — Банаха речь шла о преднормах и продолжении функционалов. Но эту же теорему можно сформулировать на языке, в какой-то мере отвечающем нашим геометрическим представлениям. Пусть Е — (по-прежнему действительное) линейное пространство. Назовем, как это часто делают в линейной алгебре, гиперплоскостью в Е любой сдвиг подпространства коразмерности 1, т. е. множество вида D :— {у + z € Е}, где у — фиксированный вектор из Е, a z пробегает подпространство коразмерности 1. Гиперплоскости могут быть также описаны как множества постоянства линейных функционалов. А именно, для каждых / еЕ*,/ фО и с е R положим Dfc := {х е Е \ f(x) = с}. Следующее упражнение выполняется элементарной проверкой. Упражнение 6°. (i) D}c — гиперплоскость, являющаяся подпространством <=$¦ с = 0; (ii) любая гиперплоскость в Е имеет вид Dfc для некоторых / е €?',/^0исеК; (Ш) если /,деЕ\/^0,д^0и с, d е R, то DJc = Dgd в том и только том случае, когда для некоторого А е R, А ^0, выполнены равенства / = \д и с = Ad. Пусть теперь М — подмножество в Е, a D = Dfc — гиперплоскость. Назовем D опорной гиперплоскостью для М, если выполнено одно из двух условий: sup{/(a;) | х б М} = с либо inf{/(x) | х е М} = с. Это определение, очевидно, корректно в том смысле, что не зависит от выбора пары (/, с), задающей Dfc. Таким образом, говоря нестрого, опорная гиперплоскость — это
6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 137 предельная из параллельных гиперплоскостей, лежащих сбоку от М. Теперь пусть Е — преднормированное пространство, / — ненулевой ограниченный функционал на Е. Упражнение 7°. Норма функционала / равна 1 -<=>¦ гиперплоскость D}, является опорной для единичного шара в Е. В свете сказанного, теорема Хана — Банаха эквивалентна следующему «как бы геометрическому» утверждению. Упражнение 8°. Пусть Е—преднормированное пространство, Е0 — его подпространство, D0 — опорная гиперплоскость единичного шара в Е0. Тогда существует опорная гиперплоскость единичного шара в Е, содержащая D0. Теперь, вооружившись знаниями о действительных пространствах, мы вернемся к нашему основному полю скаляров С. Следующую теорему1 > также по обычаю называют теоремой Хана — Банаха2), и мы тоже будем так поступать в дальнейших ссылках; путаницы от этого не возникнет. Теорема 2. Пусть Е — преднормированное пространство, Eq — его подпространство, /0: Е0 —> С — ограниченный линейный (т. е. С-линейный) функционал. Тогда существует ограниченный линейный функционал /: Е —>С, продолжающий /0 и притом такой, что ||/|| = ||/0||. < Наше пространство Е, будучи теперь комплексным линейным пространством, является, очевидным образом, и действительным линейным пространством, а Е0 — его действительным подпространством. Положим %: Е0 —> R, хи Re /0(х); очевидно, это действительный линейный функционал. В силу неравенства \9о(х)\ ^ \fo(x)\ функционал & ограничен и ||д,|| < ||/0||. Применив к нему предыдущую теорему, мы получаем такой ограниченный действительный функционал д: Е —>R, что \\д\\ = \\д0\\. Теперь положим /: Е —> С, хи д(х) — гд(гх). Очевидно, это действительный линейный (=К-линейный) оператор между Ей С как действительными линейными пространствами, и притом такой, что f{ix) = if(x) для всех х е Е. Отсюда следует, что / — комплексный линейный (=С-линейный) функционал. '* Теорема 2 отличается от теоремы 1 повсеместной заменой слов «действительный (-ое)» на «комплексный (-ое)» и (в обозначении основного поля) R на С. 2' На самом деле Хан и Банах не рассматривали «комплексный» случай, а вывел теорему 2 из теоремы 1 Г. А. Сухомлинов и независимо это сделали Ф. Боненблуст и А. Собчик. Но имена теорем живут своей собственной странной жизнью...
138 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Пусть х G Е0; тогда /(х) = Re /0(х) - г Re /0(г'х) и, поскольку /0 — комплексный функционал, /(х) = Re/0(x) — г Re(i/0(x)). Отсюда с учетом того, что Re(fz) = -Im z для любого z е С, получаем /(x) = Re/0(x)+iIm/0(x)=:/0(x). Таким образом, / — продолжение функционала /0 на Е. Осталось разобраться с нормами. Если вектор х таков, что /(х)ф ф 0, и у := |^х, то ||у|| - ||х|| и /(у) е R, а потому /(у) = д(у). Это означает, что все числа вида |/(х)|, х е Шв, имеют также вид \э(у)\< У ? Ш?- Отсюда функционал / ограничен и ||/|| ^ \\д\\; в то же время |Ы| = Ы| < ||/0|| ^ ||/||. Тем самым, ||/0|| = ||/||. > * * * Теорема Хана — Банаха — старое испытанное орудие функционального анализа, и нам предстоит много раз стрелять из этой пушки на протяжении наших лекций. Вот первое применение. Пусть Е ф 0 — произвольное нормированное пространство. Зададим невинный с виду вопрос: а где, собственно, гарантия того, что на Е вообще существуют отличные от нуля ограниченные функционалы? Иначе говоря, всегда ли условие Е фО влечет то, что Е* фО? Да, ответ положителен, но без теоремы Хана — Банаха установить этот факт, по-видимому, нельзя. (По крайней мере, до сих пор никому не удавалось.) Теорема 3. Пусть Е — преднормированное пространство и х—такой его вектор, что \\х\\ >0. Тогда существует такой ограниченный линейный функционал /: Е —»С нормы 1, что /(*) = 11*11. < Положим Е0 := span{x} и возьмем функционал /: Е0 -* С, Ах (-> А ||х||, А € С. Очевидно, ||/0|| = 1, и теорема Хана — Банаха немедленно доставляет функционал / с требуемыми свойствами. > Следствие 1. Пусть Е — нормированное пространство, х и у — два разных вектора этого пространства. Тогда существует такой функционал f е Е", что /(х) ф f(y). Это следствие часто выражают такими словами: «ограниченных функционалов на нормированном пространстве достаточно много» (подразумевается: для различения его векторов). А вот и более общий факт. Упражнение 9. Пусть Е — преднормированное пространство, Е1 — его замкнутое подпространство, х б Е \Et. Тогда существует такой ограниченный функционал /: Е —гС, что f\E =0 и /(х)ф0.
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 139 Указание. Рассмотрите на подпространстве {Xx+ylyeE^ А б е С} функционал Ах + у \-* А и примените теорему Хана — Банаха. Чтобы осознать содержательность приведенных утверждений, рассмотрим для сравнения одно довольно естественное для анализа линейное пространство, наделенное метрикой, — но только эта метрика не порождена никакой нормой. Упражнение 10*. Пусть Е—линейное пространство (классов эквивалентности) измеримых по Лебегу функций на [0, 1], снабженное метрикой d(x v)- [ !'(«)-»(«)! dt (эта метрика отвечает за сходимость по мере; проверьте!). Тогда на Е не существует ни одного ненулевого линейного функционала, непрерывного по этой метрике. Приведем еще одно полезное следствие теоремы Хана — Банаха. Предложение 3. Пусть Е —нормированное пространство, Е0 — его конечномерное подпространство. Тогда существует замкнутое линейное дополнение к Е0 в Е. < Доказательство проведем индукцией по размерности подпространства Е0. Если dim??0=1 и Е0 = span{z}, то, в силу теоремы 3 существует такой функционал / ? Е*, что /(х)^0, и требуемым дополнением служит, с учетом предложения 2, подпространство Кег(/). Теперь пусть утверждение верно для всех подпространств (нормированных пространств) размерностей вплоть до n, a dim Е0 = п + + 1. Произвольно выберем х е Е0\ {0} и / е Е*, причем /(х) ^0. Положим Е1 := Кег(/); тогда Е01 := Е0 П Ех — подпространство в Ех размерности п. По индуктивному предположению существует линейное дополнение F к Ет в Е{, которое замкнуто в ?,, а потому, с учетом замкнутости подпространства Ехъ Е, замкнуто в Е. При этом F + Е0 = F + E0i+span{x} = Ex+span{x} = Е, а из включений F П Е0 С Ei П Е0 и F П Е0 С F следует, что F П Е0 = 0. Дальнейшее очевидно. > Замечание. Вскоре мы докажем (см. § 2.1), что любое конечномерное подпространство нормированного пространства обладает топологическим дополнением. Теорема Хана — Банаха позволяет дать полное описание ограниченных функционалов на одном из важнейших нормированных про-
140 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ странств — С[а, Ь]. Оказывается, всякий такой функционал есть интеграл по некоторой комплексной мере, и его норма совпадает с вариацией этой меры. Для того, чтобы дать точную формулировку и доказательство этого результата, нам потребуется несколько стандартных определений и фактов действительного анализа (— теории меры и интеграла); ср. [18]. Пусть д = I/, —1/2 + ii/3 — ii/4, i/,,..., i/4 ^ 0, — комплексная мера на [а, Ь\. Тогда для каждой кусочно непрерывной (этого нам хватит) функции х: [а, Ь] —* С число ь ь ь ь j x{t)dvx(t) - j x(t)dv2(t) + г j x(t)d^(t) - i j x(t)duA(t) называется интегралом Лебега — Стильтьеса функции х по ь комплексной мере /х и обозначается J x(t)dn(t). Это число, как легко показать, не зависит от выбора разложения меры /х в линейную комбинацию обычных мер. Далее, пусть Ф: [а, Ь] —> С — функция ограниченной вариации. Тогда правило ц[а, t] := Ф(* + 0) - Ф(а) при t е (а, Ь), fi{a} := Ф(а + 0) - Ф(а) и р,[а, Ь] := Ф(Ь) - Ф(а) задает на отрезке [а, Ь] некоторую однозначно определенную комплексную меру р,. (Счетная аддитивность позволяет продолжить нашу функцию множеств с указанных промежутков на все борелевы множества.) Обратно, всякая комплексная мера может быть задана указанным способом с помощью некоторой функции ограниченной вариации, причем последняя может быть выбрана непрерывной слева. Наконец, напомним о пространстве мер М[а, Ь], введенном в примере 1.11. Теорема 4 (Рисе1'). Каждая мера ц е М[а, Ь] задает ограни- ь ценный функционал Д: С[а, Ь] —>С по правилу ih J x(t)dp.(t), и (главное) каждый ограниченный функционал на С[а, Ь] представим в виде /м для некоторой однозначно определенной меры р. е М[а, Ь]. Определенная этим биекция Г. М[а, Ь]—*С[а, Ь]* есть изометрический изоморфизм нормированных пространств. < Договоримся для комплексного числа А обозначать через А" число А/|А| € Т, если А ^0, и 0 в оставшемся случае. '' Ф. Рисе — выдающийся венгерский математик, один из основоположников функционального анализа. Нам еще предстоит украсить эти лекции принадлежащими Риссу теоремами 2.2.1, 2.3.2 и 3.2.2.
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 141 Возьмем ц е М[а, Ь]; очевидно, отображение Д корректно определено и является линейным функционалом. Далее, для каждой функции х е С[а,Ь] рассмотрим последовательность хт, т = 1, 2,..., ступенчатых функций (= линейных комбинаций характеристических функций промежутков), равномерно сходящуюся к х. Из определения вариации комплексной меры очевидным образом следует, что К xm(?)d/x(i) ^ H^mlLIMI- Отсюда, переходя к пределу при m —> оо, мы получаем оценку |/р(ж)| ^ \\fi\\. Тем самым, отображение /, указанное в формулировке теоремы, корректно определено и является сжимающим оператором. Покажем, что оператор / инъективен. Пусть I(n) = fll =0. Возьмем промежуток S С [а, Ь] и выберем равномерно ограниченную последовательность хп непрерывных функций, поточечно сходящуюся к характеристической функции Xs этого промежутка. По теореме Лебега о предельном переходе под знаком интеграла (которая очевидным образом переносится с обычных мер на комплексные) ь последовательность /м(хп) стремится к $ Хя(*)^А*(*)> т- е- к м(З')- Отсюда fi(S) = 0, что, ввиду произвольности промежутка 5, означает, что ц = 0. Стало быть, оператор / инъективен. Нам осталось проверить, что каждый функционал / Е С[а, Ь]* имеет вид Д для некоторой меры ц е М[а, Ь], причем \\ц\\ < ||/||. Зададимся функционалом / б С[а, Ь]* и, используя теорему Хана — Банаха (вот он, кульминационный момент доказательства!), продолжим его до ограниченного функционала / на /м([а, Ь]), имеющего ту же норму. Для каждого t е (а, Ь] обозначим через х' характеристическую функцию полуинтервала [a, t) и введем функцию Ф(<), равную fix*) при t 6 (а, Ь] и нулю при t = а. Рассмотрим произвольное разбиение Т = {a=t0<t1 <...<*„ = 6} нашего отрезка. Сумма Ег:= J2 |Ф(*Ь) — Ф(**-1 I есть, очевидно, J2 \f(Xk)\< гДе X* обозначает характеристическую функцию промежутка [tk_l,tk). Положим Ад. :=/(х*)>* тогда, очевидно, 2Г совпадает с f(Yl КХ*)> т. е. со значением функционала / от некоторой функции равномерной нормы не больше 1. Отсюда ?г $: ||/|| = ||/||. В силу произвольного выбора разбиения Т это означает, что Ф — функция ограниченной вариации, причем вариация функции Ф не превосходит ||/||. Пусть ||/х || — комплексная мера, порожденная функцией Ф по указанному
142 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ выше правилу. Тогда \\р\\, очевидно, совпадает с вариацией функции Ф, поэтому \\fl\\ ^ ||/||. Осталось показать, что / = /,,. Возьмем хеС[а,Ь] и рассмотрим последовательность хп ступенчатых функций, равномерно сходящуюся к х. Ввиду непрерывности функционала / последовательность /(х„) сходится к f(x) = f(x). С другой стороны, из определения меры р. легко следует, что /(xn) = J xn(t) dp.(t). Снова используя теорему Лебега, мы видим, что /(хп) стремится к J x(t) dp,(t) =/^(х). Следовательно, /(ж) = Д(х). Дальнейшее очевидно. > Расскажем еще об одном приложении теоремы Хана — Банаха. Как уже говорилось, если математики начали играть в свои игрушки, то их не остановишь...1) Исходя из преднормированного пространства Е, мы ввели Е*. Теперь можно забыть, откуда это последнее взялось, и применить к нему ту же конструкцию, т. е. рассмотреть пространство Е":=(Е*У ограниченных функционалов на Е*. Это нормированное (см. § 3) пространство называется вторым сопряженным к пространству Е. Принципиальное наблюдение состоит в том, что всякий вектор х € Е задает функционал af на Е* (= вектор из Е") по правилу (ах ./):=(/) я) (напоминаем, что (af,/) — это другое, сейчас более удобное обозначение для [af ](/)). Возникает отображение аЕ: Е -*Е", хн-> af. Мы не будем писать верхний индекс, если ясно, о каком пространстве Е идет речь. Функционалы на Е* вида ах, х е Е, мы будем далее называть функционалами означивания. Предложение 4. Для любого преднормированного пространства Е соответствующее отображение а — изометрический оператор. < Очевидно, a —линейный оператор, и оценка \(ах, /)| ^ ||х||||/|| показывает, что он сжимающий. Далее, взяв для любого хеЕ тот функционал / ё Шг, для которого ||/(х)|| = ||х|| (см. теорему 3), мы видим, что ||ax|| ^ \\х\\. Дальнейшее очевидно. > Оператор а: Е —> Е** называется каноническим изометрическим оператором (для Е). Если Е —нормированное пространст- '> В том числе и криками беотийцев об отсутствии приложений...
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 143 во, то оператор а, конечно, инъективен и, стало быть, осуществляет изометрический изоморфизм между Е и своим образом в Е". В этом случае а называется также каноническим вложением Е в Е": отождествляя посредством а пространство Е с Im(a), можно считать, что Е —подпростоанство в Е**. Теперь естественно выделить следующий класс нормированных пространств. Определение 1. Нормированное пространство Е называется рефлексивным, если оператор а: Е —> Е" сюръективен (или, что в данном контексте то же самое, является изометрическим изоморфизмом). Таким образом, пространство Е рефлексивно, если всякий ограниченный функционал на Е* является функционалом означивания. Сразу же заявим, что всякое конечномерное пространство рефлексивно, но это будет доказано в гл. 2. А сейчас перейдем к более интересным примерам и контрпримерам. Предложение б. Пространство I, и, более общо, Lp(X, р) для любого пространства с мерой (X, р.) и р G A, оо) (здесь мы принимаем на веру предложение 1), рефлексивно. В частности, пространство 1р для любого р е A, оо) рефлексивно. < Зафиксируем ge Lp(X, р,)". Наша задача — предъявить такой вектор х е L (X, р.), что д = а(х), т. е. (д, /) = (/, х) для любого /еьр(Х,ру. Рассмотрим отображение д: Lq(X,p)^C, yi->(g,fy), где /„ — функционал, указанный в предложении 1; очевидно, что д — ограниченный функционал на ЬЧ(Х, /х). Согласно тому же предложению (только с q в роли р), существует такой вектор xeLp(X, р.), что функционал д представим в виде yi-> J x(t)y(t)dp,(t) для всех х у е Lq(X, р). Но последний интеграл есть также (/„, х); поэтому для тех же у выполнено равенство (д, /у) = (/„, х). Остается, снова воспользовавшись предложением 1, напомнить, что любой функционал / е Lp(X, р)* имеет вид /у для некоторого у € Lq(X, р). > Заметим, что рефлексивность пространства Lp(X, р.) при р = 2 является также прямым следствием утверждения о рефлексивности всех гильбертовых пространств (см. далее предложение 2.3.9). Предупреждение. В некоторых книгах можно прочитать следующее «доказательство» приведенного результата. Раз, с точностью до изометрического изоморфизма, Lp(X, р)" = L (X, р), а Lq(X, py = Lp(X, р), то Lp(X, p)" = Lq(X, p)' = Lp(X, р), и здесь автор почивает на лаврах, считая, что все сделано. Не верьте! Бывают такие пространства Е, что для них существует изометри-
144 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ческий изоморфизм между Е и Е" (какой-то), но канонический оператор таковым не является — он не сюръективен, и, стало быть, такие пространства Е не рефлексивны. Первое такое пространство придумал Р. Джеймс в 1951 г. (ср. [15, с. 102]); в его примере (представьте себе!) оператор а отображает Е на подпространство коразмерности 1 в Е". Мы, однако, предложим гораздо более простые контрпримеры. Упражнение 11. Нормированные пространства %, Z, и С[а, Ь] не рефлексивны. Указание. Пусть д^ б cj* — функционал, переводящий /ч, т) е /, (см. упражнение 1), в J3 Vn- Пусть, далее, д — любой функционал на 1Х, равный нулю на q, и единице на A, 1, 1,...) (его существование обеспечено упражнением 9), и д2 е I** — функционал, переводящий / , т] е 1^ (см. упражнение 2), в д(г)). Пусть, наконец, t — фиксированная точка в [а, Ь], h — функционал на М[а, Ь], сопоставляющий каждой мере ее значение на одноточечном множестве {*}. и д\ е С[а, Ь]'* — функционал, переводящий Д, р, 6 М[а, Ь] (см. теорему 4), в h(p.). Ни один из функционалов дк, к = 1, 2,3, не принадлежит образу соответствующего канонического оператора. ЗАМЕЧАНИЕ. Пространства LX(X, р.) и Ьх(Х,р) также не рефлексивны (за исключением того случая, когда они конечномерны). Не рефлексивны и пространства C(fi), где П — бесконечный компакт (с такими пространствами мы встретимся в § 3.1). Но эти факты уже требуют более сложных доказательств. Весьма грубое необходимое условие рефлексивности — полнота— будет рассмотрено далее (см. следствие 2.1.4). Предложение 6. Если пространство Е рефлексивно, то таково же пространство Е*. < Наша задача — показать, что что всякий ограниченный функционал (р: Е" -* С задается неким функционалом / е Е* и действует по правилу (р(х) = x(f), х е Е". Положим / := ipa, где а: Е —» Е*' — каноническое вложение. В силу условия любой вектор хеЕ" имеет вид а для некоторого у € Е. Поэтому <р(х) = <р(ау) = f(y) = ay(f) = x(f). о Мы закончим разговор о рефлексивности, упомянув об одном любопытном критерии этого свойства. Теорема 5. (БД) Нормированное пространство Е рефлексивно тогда и только тогда, когда для любого функционала feE* существует такой вектор хеШе, что f(x) = \\f\\. (Верхняя грань в определении нормы функционала достигается.)
§ 6. ФУНКЦИОНАЛЫ И ТЕОРЕМА ХАНА — БАНАХА 145 Если бы речь шла о действительном линейном пространстве, подобное свойство, разумеется, означало бы, что каждая опорная гиперплоскость единичного шара имеет с ним хотя бы одну общую точку (ср. упражнение 7). Еще один критерий рефлексивности, формулируемый в терминах так называемой слабой топологии, будет сообщен позже (см. предложение 4.2.16 и упражнение 4.2.8). Следующий материал является обязательным лишь для сильных студентов, претендующих на «отлично». Вплоть до конца этого параграфа, речь пойдет о линейных пространствах только над полем действительных чисел. Для некоторых приложений полезно то, что теорему Хана — Банаха можно несколько усилить, заменяя преднормы на более широкий класс функций: Упражнение 12. Пусть на линейном пространстве Е задана функция р: Е —> —> R+ со следующими свойствами (ср. определение 1.1): (i) р(Ах) = \р(х) для всех А > 0, х е Е, (ii) р(х + у) ^. р(х) + р(у) для всех х, уеЕ. Пусть, далее, Е0 — подпространство в Е, а /0: Е0—>№. — такой линейный функционал, что fQ(x) ^ р(х) для всех х ? Е0. Тогда существует линейный функционал /: Е -» Е, продолжающий /0 и такой, что f(x) $ р(х) при всех хеЕ. Указание. Доказательство теоремы 1 переносится на рассматриваемую ситуацию почти дословно, только в одном месте надо быть осторожным. А именно, выбрав константу с и доказывая неравенство /(у) < р(у), у = Ах + z (см. лемму), надо отдельно рассмотреть случаи А > 0 и А < 0. Напомним о почти тавтологической «геометрической» интерпретации теоремы 1, выраженной в упражнении 8. Приведенное выше обобщение этой теоремы допускает более содержательную интерпретацию. Пусть Е — линейное пространство, М и N — его непересекающиеся подмножества и D = Dfc — гиперплоскость. Будем говорить, что D разделяет эти подмножества, если для всех пар (х е М, у е N) либо одновременно f(x) ^ с ^ f(y), либо одновременно f(x) ^ с ^ /(у). (Наши множества лежат по разные стороны от Л.) Назовем точку х подмножества М в Е линейно внутренней точкой этого множества, если для любого у € Е вектор х + ty принадлежит М для достаточно малых t > 0. Упражнение 13*. Пусть М и N — непересекающиеся выпуклые подмножества (действительного) линейного пространства Е, причем М содержит линейно внутреннюю точку. Тогда в Е существует гиперплоскость, разделяющая М и N. Указание. Выберем К := М - N (т. е. сумму М и (-l)JV; см. §0.1). Это множество выпукло, содержит хотя бы одну линейно внутреннюю точку у, и не содержит 0. Применим упражнение 12 в ситуации, когда р — функционал Минковского множества К -у, Е0 — прямая, содержащая у, и /0: Е~ -»R, у >-» -1. Тогда возникающий функционал / неположителен на К, а потому f(x - z) ^ 0 для всех пар (х € М, z е N) и существует такое с е R, что f(x) < с ^ f(z) для всех этих пар. В качестве требуемой гиперплоскости подойдет D := D, с. Заметим, что условия этого упражнения заведомо выполнены, если Е — пред- нормированное пространство, а М содержит внутреннюю (на этот раз в смысле топологии Е) точку; тогда эта точка заведомо является линейно внутренней. Условие, касающееся линейно внутренней точки, нельзя отбросить.
146 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Упражнение 14. Рассмотрим в пространстве действительных финитных последовательностей (действительном с^) множество М, состоящее из тех последовательностей, у которых старший по номеру отличный от нуля член положителен. Тогда М и -М выпуклы, но их нельзя разделить гиперплоскостью. § 7. Приглашение в квантовый функциональный анализ Этот параграф целиком адресован просвещенному, а главное — любопытному читателю и не предполагается обязательным даже для отличников. Здесь мы попробуем дать, на самом элементарном уровне, представление о новой структуре функционального анализа, выдвинувшейся на передний план за последние 20 лет. Если взглянуть на эту структуру с достаточно общей точки зрения, то ее появление отражает дальнейший этап в победном шествии некоей новой математической идеологии. Этот взгляд на вещи зародился в математическом аппарате квантовой механики и захлестнул современную алгебру и геометрию, а в функциональном анализе прочно обосновался в теории операторных алгебр. За последние годы волна этой новомодной, так называемой «некоммутативной» или «квантовой» математики докатилась и до самых основ функционального анализа: теперь подверглась квантованию сама норма. В чем же суть этой новой математической религии? Если выражаться «непонятно, но здорово», то ее главный догмат таков: квантовая математика получается из классической путем замены функций на операторы. Попытаемся сказать чуть определеннее. Та выдающаяся роль, которую в «классической» математике играют функции с их коммутативным — поточечным — умножением, в «квантовой» математике переходит к операторам с их некоммутативным — композиционным — умножением. Но главное, пожалуй, в том, каким образом происходит этот переход. Оказывается — и в это мы должны уверовать — фундаментальные понятия и результаты классической математики на самом деле обладают содержательными квантовыми аналогами или версиями. Можно сказать, что они представляют небольшую видимую («классическую») часть огромного «квантового» айсберга. И чтобы постичь весь этот айсберг, надо осознать (догадаться?), как разумным образом заменить лежащие в основе этих понятий (результатов, методов, проблем,...) функции на операторы. Но все это слишком общо и расплывчато. А вот как совершить подобное «квантование» на практике, взяв конкретное понятие той или иной математической науки? (Пусть даже мы согласны, чтобы это произошло в неявной или опосредованной форме: как всегда, жизнь сложнее схем...) Зачастую заранее совсем не ясно, что делать, и разные люди могут предложить Вам совершенно разные рецепты. Вот, спросите, что такое квантовая группа — от двух специалистов услышите три мнения... Все же постепенно во многих областях науки устанавливается некое единомыслие. К настоящему времени уже сложилось представление о предмете, скажем, некоммутативной теории меры, некоммутативной топологии (несколько слов о них будет сказано в § 6.3) и, правда с меньшей четкостью, некоммутативной дифференциальной геометрии. Среди обширной литературы о подобных вещах особо впечатляет книга А. Конна [72], эта библия (или, судя по ее стилю, лучше сказать — коран) современного «некоммутативного» (=«квантового») математика. Но пора оставить в покое математику в целом и сосредоточиться на том, чем мы сейчас с Вами занимаемся, — на теории нормированных пространств. Что в ней квантуют и как? В основе ответа лежит «руководство к действию» в форме следующего двойного высказывания.
§ 7. ПРИГЛАШЕНИЕ В КВАНТОВЫЙ ФУНКЦИОНАЛЬНЫЙ АНАЛИЗ 147 1. Классический функциональный анализ занимается исключительно (не удивляйтесь!) пространствами функций, и его основная структура — это норма, притом — снова не удивляйтесь! — именно равномерная норма. 2. Квантовый (говорят также: квантованный) функциональный анализ занимается пространствами операторов (где они действуют, мы вскоре уточним), и его основная структура — это так называемая квантовая норма. (Это формально иное понятие, нежели норма, и его нам предстоит вскоре определить.) Наконец, закончим проповедь и придадим точный математический смысл сделанным заклинаниям. Прежде всего — почему это нет других нормированных пространств, кроме функциональных? А вот почему. Предложение 1. Для каждого нормированного пространства Е существует изометрический оператор J0 из Е в 1Ж(Х), где X —некоторое множество. < Возьмем в качестве X единичную сферу в Е* и сопоставим каждому вектору х е Е функцию Jqx: X -* С, / н-> /(х). Тогда для любого / ? X выполнено неравенство |./0ж(/)| $ ||/||||х|| = ||х||, и в силу теоремы 6.3 существует такой функционал /, что |J0x(f)\ = ||х||. Дальнейшее очевидно. > Замечание. На самом деле всякое сепарабельное нормированное пространство можно изометрически вложить уже в 1Ж (т. е. подойдет X — N) и даже в сепарабельное функциональное пространство С[0,1] (ср. далее п. 5° в конце § 4.2). Итак, мы видим, что всякое нормированное пространство совпадает, с точностью до самого требовательного отождествления — изометрического изоморфизма, — с (каким-то) пространством ограниченных функций, наделенным равномерной нормой. Но для нас окажется еще важнее то, что наши пространства, будучи функциональными, автоматически становятся и операторными. Предложение 2. Для каждого нормированного пространства Е существует изометрический оператор J из Е в ВЩХ)), где X —некоторое множество. < Сперва для произвольного множества X построим изометрический оператор из ^(Х) в ВЩХ)). Для этого сопоставим любой функции хе ^(Х) оператор Тх: ЩХ) -» 1%(Х), переводящий квадратично суммируемую функцию у в Тху: t ь~* x(t)y(t). (Мы видим, что Тх—непосредственное обобщение диагонального оператора в fj и превращается в оный при X = N.) Очевидно, Тх — ограниченный оператор в 4(-^)> и \\ТХ\\ = 11х11оо- Отсюда ясно, что отображение J\- l<x,(X)-+B(h(X)), Х*->ТХ, — изометрический оператор. Остается рассмотреть композицию J := Jx J0, где J0 — изометрический оператор, фигурирующий в предыдущем предложении. > Мы переходим к основному понятию обсуждаемой науки — квантованного нормированного пространства. Чтобы лучше понять логику того, что сейчас будет происходить, взглянем еще раз на обычное («классическое») нормированное пространство. Предложение 1 говорит об эквивалентности двух подходов к этому понятию: его можно определять как «абстрактно», с помощью определения 1.1, так и «конкретно» — просто как подпространство в ^(Х) с унаследованной нормой. Такие же два лица — «абстрактное» и «конкретное» — имеет и понятие квантованного нормированного пространства. Начнем с абстрактного определения. Пусть Е —линейное пространство. Для каждого п= 1,2 через 1Лп(Е) обозначим линейное пространство (n х п)-матриц с коэффициентами из Е. Прямой суммой матриц хеМ (В) и уеМл(?) мы условимся называть матрицу из (Лт + п(Е) вида I q °), обозначаемую далее х ф у. Если х = (хы) е Мп(?), а а = (аы) — обычная матрица того же размера (т. е. элемент пространства МП = МП(С)), то, по образцу стандартного матричного умножения, мы положим
148 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ ах '¦- ( Ё аихи)< ха '¦— ( Ё аихы) 6 М„(В). Наконец, говоря о норме обычной матрицы а 6МП, мы всегда будем иметь в виду ее норму «как оператора в CJ». Иными словами, норма матрицы (Лы) размера п х п — это яир{/й1,?,Аы*'П*'еС:,?,|е''2 ** = suP{| ? AH{|4Jk|l44eC-?K,|2<l, ?|ч,|2<1} UM = 1 и 1 = 1 1 = 1 > (ср. предложение 4.8). Определение 1 (Эффрос — Руан, 1988). Пусть для каждого п € N в пространстве пространстве 1ЛП(Е) задана норма || • ||п. Последовательность норм || ¦ ||п называется квантовой нормой1) в Е, если она обладает следующими свойствами: (i) для любых хбМт(?) и yeMn(J3) выполнено равенство ||яфу||т + п = = тах{||х||т,||у||п}; (ii) для любых х е М (Е) и а е Мп выполнены неравенства ||ах|| < <||a||||x|U|»>||tl<||x||ll||a||. Линейное пространство Е, снабженное квантовой нормой, называется квантованным нормированным пространством или, короче, квантовым пространством^1. В дальнейшем мы будем употреблять выражения «квантовая норма {|| • ||„ | п 6 N}» или «квантовое пространство (Е; {|| ¦ ||n | п 6 N})», смысл которых очевиден. Таким образом, квантовая норма — это целая последовательность норм, притом в разных пространствах. Для нормы || • ||п мы будем иногда употреблять выражение норма п-го этажа. Замечание. Можно определить по существу то же понятие, рассмотрев вместо последовательности норм || • ||п в M„(J5) одну единственную норму в пространстве М^Д-Е), состоящем из тех бесконечных матриц (хы), k, I е N, с матричными элементами из Е, у которых лишь в конечном числе мест стоят отличные от нуля элементы. Предлагаем Вам сформулировать требования к подобной норме, заменяющие аксиомы (i) и (ii) в определении 1. Упражнение 1. Пусть {||-||„|n€N} — квантовая норма в Е. Тогда для матрицы х€Мп(?) ее норма ||-||п не меняется, если поменять местами несколько строк или столбцов этой матрицы. Эта же норма не может увеличиться, если несколько строк и столбцов матрицы заменить нулями. Очевидно, каждое подпространство F квантового пространства Е само является квантовым пространством относительно последовательности норм в Mn(F), унаследованных из объемлющего пространства Мп(?); мы будем называть его квантовым подпространством в Е. Настал важный момент: мы сейчас предъявим квантовое пространство, играющее в квантовом функциональном анализе ту же роль, что l^iX) — в классическом функциональном анализе. Таковым является ВЩХ)) (где X — снова любое множество) с квантовой нормой, к введению которой мы как раз приступаем. Суть того, что сейчас произойдет, можно кратко и неформально выразить так: «Матрица, состоящая из операторов, сама есть оператор». ') У авторов: матричной нормой. 2* Авторы этого понятия используют другой термин: абстрактное операторное пространство. "
§ 7. ПРИГЛАШЕНИЕ В КВАНТОВЫЙ ФУНКЦИОНАЛЬНЫЙ АНАЛИЗ 149 Наша задача —для каждого п определить норму в МП(В(^(Л"))). С этой целью обозначим через пХ объединение п непересекающихся копий множества X (если угодно, копроизведение п экземпляров этого множества в категории Set; см. § 0.6.) Рассмотрим нормированное пространство ^(пХ). Входящие туда квадратично суммируемые функции удобно мыслить как упорядоченные наборы х = (х,,..., хп) функций из ^(.Х'). Теперь для заданной «оператор-матрицы» а = (аы е ЩЩХ))) рассмотрим оператор Та, действующий в ^(пХ) и переводящий х= (xi,...,xn) в ( Ё au(xi)> •¦•>!? ani(xi))- (То есть если изображать х и Тах в виде столбцов (=(п х 1)-матриц), то столбец Тах получается как символическое произведение матрицы а на х: Тдх = ах.) Очевидно, сопоставление а>-+ Та есть линейный изоморфизм между МAB^iX))) и ВЩпХ)), вследствие чего мы можем корректно определить норму ||-|[п в первом из этих пространств, взяв в качестве ||а||п норму оператора Та. Оставляем Вам несложную проверку того, что последовательность {|| • ||n | п е N} действительно является квантовой нормой в S(I^(X)). Определение 2. (Любое) квантовое подпространство квантового пространства вида ВЩХ)) называется конкретным квантованным нормированным пространством или, короче, конкретным квантовым пространством1^. Квантовую норму в конкретном квантовом пространстве мы будем называть стандартной. Обратим внимание на то, что, задавая квантовую норму в линейном пространстве Е, мы задаем там и «просто» норму: это норма «на первом этаже», т. е. в Mt(E) = E. Нормированное пространство (Е, \\-\\\) мы будем называть подлежащим нормированным пространством соответствующего квантового пространства. Пример 1. Простейшее ненулевое квантовое пространство С. Отождествляя комплексную плоскость с ВЩХ)) для одноточечного X (то есть, попросту говоря, с В(С)), мы превращаем ее в конкретное квантовое пространство. Согласно указанному выше общему рецепту, норма || • ||п в МП(С) = М возникает после отождествления последнего пространства с ВЩпХ)) = В(Щ). Очевидно, мы получаем ту самую норму матрицы «как оператора в CJ», которая участвовала в определении квантовой нормы. Определеяяе 3. Пусть |||| — норма в линейном пространстве Е. Квантованием этой нормы называется (любая) такая квантовая норма || - ||n, n е N, в Е, что II • Hi = II ¦ II- Квантованием нормированного пространства Е называется такое (любое) квантовое пространство, что его квантовая норма является квантованием исходной нормы в Е. Повторим еще раз: квантованное нормированное пространство — это то, что получается из нормированного пространства после какого-либо квантования. Нетрудно усмотреть, что для нормированного пространства Е каждый изометрический оператор J из Е в операторное пространство ВЩХ)) автоматически «квантует» Е. Действительно, для каждого п возникает линейный оператор Jn: 1Лп(Е)—> 1Ап(ВA2(Х))), (хы) >-* (Jxy), очевидно, являющийся инъективным. Поэтому, взяв в качестве ||(хы)||п определенную выше норму оператор-матрицы (Jxu), мы получим корректно определенную норму || • ||п в М.п(Е). Легко проверяется, что {|| • ||„ | п б N} — квантовая норма в Е, являющаяся квантованием исходной нормы; мы будем говорить, что эта квантовая норма порождена изометрическим ' Из уважения к создателям теории следовало бы употреблять их термин: «конкретное операторное пространство», но мы опасаемся путаницы с вездесущим словом «операторный».
150 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Теперь мы видим, что смысл предложения 2 в том, что для любого нормированного пространства существует по крайней мере один рецепт его квантования, годный на все случаи. Но вот что важно: одно и то же пространство можно, вообще говоря, квантовать многими и притом совершенно разными способами. Приведем два содержательных примера. Оба раза в роли Е выступит «геометрически самое лучшее» пространство ^. Пример 2 (столбцовое квантование). Рассмотрим оператор Jc: ^ —» Щ^), сопоставляющий последовательности ? =(?р ?2> ¦ ¦ ¦) тот одномерный оператор Jc?: U —* 1%< который переводит первый орт р в ? и равен нулю на остальных ортах. (Таким образом, ? переходит в оператор, матрица которого в базисе из ортов такова, что ее первый столбец есть ?, а остальные столбцы — нули; отсюда и название.) Очевидно, \\JC?|| = ||Jcf(р')|| = ||?||. Таким образом, оператор 7С изометричен и, стало быть, порождает «на базе» ^ квантовое пространство, обозначаемое далее 1?. ПримерЗ (строчечное квантование). Теперь рассмотрим оператор JT: ^-*S(^), сопоставляющий последовательности f тот одномерный оператор Jr(: ^ -» ij, который переводит р" в ?пр' и, стало быть, каждую последовательность rj е ^ в ( J2 ?*Ч*)р'- (Таким образом, у матрицы оператора Jr? первая строка есть ?, а остальные строки — нули.) Как легко видеть, ||Jr?|| = \\Jr?((/||?||)|| = ||?||. Таким образом, оператор Jr изометричен и, стало быть, порождает «на базе» ^ квантовое пространство, обозначаемое далее 1?. В дальнейшем мы увидим, что оба предложенных квантования пространства *2 несут совершенно разную смысловую нагрузку и к тому же не имеют ничего общего с квантованием, построенным в ходе доказательства предложения 2 (с 1% в качестве Е). Среди всех возможных квантований заданной нормы в Е выделяются два «крайних», обозначаемые {|| • ||™" | n е N} и {|| ¦ ||™ш | n € N}. Они обладают тем свойством, что для любого квантования {|| • ||n | п е N} того же пространства выполнено неравенство || • ||™ш ^ || • ||п ^ || • ||™*х для всех п. Первое из этих квантований называется максимальным, а второе — минимальным; соответствующие квантованные пространства, также называемые максимальным и минимальным, обозначаются Етгх и Emjn. Оказывается, минимальное квантование — это как раз то, которое было получено по рецепту предложения 2. (Мы не будем это доказывать.) Построить максимальное квантование легче. Рассмотрим в Мп(?) норму || ¦ ||™х := sup{|| ¦ ||п}, где верхняя грань взята по нормам n-го этажа всех существующих квантований пространства Е. Упражнение 2. Последовательность {|| • ||™х | n е N} — квантовая норма в Е, являющаяся максимальным квантованием исходной нормы. Фундаментальный факт квантового функционального анализа состоит в том, что других квантовых пространств, помимо конкретных, нет: каждое абстрактное квантовое пространство может быть «отождествлено» с некоторым конкретным. Но что значит это «отождествление»? Наш подготовленный читатель понимает, что речь должна идти об изоморфизмах разумно выбранной категории. Как всегда при работе с категориями, морфизмы важнее объектов, и, соответственно, базовое понятие, к которому мы сейчас переходим, пожалуй, еще важнее, чем само понятие квантового пространства. Пусть Е и F — квантовые пространства, а Т: Е -» F — линейный оператор. Тогда на каждом «этаже» п возникает линейный оператор Тп: Mn(JS) —> Mn(F), переводящий матрицу х = (хы € Е) в Тпх:=(Тхы е F). (Для читателя, уже знакомого с тензорными произведениями, мы заметим, что при отождествлении Мп(?)
§ 7. ПРИГЛАШЕНИЕ В КВАНТОВЫЙ ФУНКЦИОНАЛЬНЫЙ АНАЛИЗ 151 с Мп ® Е, a Mn(.F) с Mn ® F оператор Тп — это 1 ® Т, где 1 — тождественный оператор в М„.) Как легко усмотреть, если Г — ограниченный оператор «на первом этаже», то таковы же и Гп «на всех этажах». Оказывается, весь смысл в том, чтобы нормы всех этих операторов были бы ограничены в совокупности. Определение 4 (Виттсток — Полсен, 1981). Оператор Т называется вполне ограниченным, если он ограничен и (главное!) sup{||T„|| | п е N} < оо. (Эта верхняя грань обозначается ЦТЦ^.) Далее, Т называется вполне сжимающим (соответственно вполне изометрическим), если Тп — сжимающий (соответственно изометрический) оператор для каждого п. Если J: Е-* ВЩХ)) — изометрический оператор и пространство В(^(Х)) снабжено стандартной квантовой нормой, а Е — квантовой нормой, порожденной этим самым оператором J, то, в силу самого определения последней, J доставляет очевидный пример вполне изометрического оператора. Вы, конечно, догадались, что за обозначением ||Т||сЬ стоит то, что соответствующая функция действительно является нормой на линейном пространстве СВ(Е, F) всех вполне ограниченных операторов из Е в F. (Проверьте!) Замечание. Вполне ограниченные операторы между пространствами, которые сами состоят из операторов, появились раньше квантовых пространств. Как показали Берн Полсен и некоторые другие математики, целый ряд важных вопросов функционального анализа, будучи должным образом переосмыслен, представляет на самом деле вопросы о том, являются ли те или иные операторы вполне ограниченными относительно некоторых квантований соответствующих пространств. С помощью такого подхода были получены значительные продвижения в этих проблемах, а иногда и полное их решение. Пожалуй, наиболее впечатляющим успехом в этом направлении явилось отрицательное решение известной и давней «проблемы Халмоша о подобии», полученное в 1995 г. Жилем Пизье. Об этих вещах см., например, [94; 95; 89]. Теперь мы в состоянии ввести базовые категории квантового функционального анализа. Как и в «классическом» анализе, их две, и выбор той или другой зависит от степени жесткости, предъявляемой к тому, какие квантовые пространства считать одинаковыми. Это категории QNor и QNor,. У них одни и те же объекты; (абстрактные) квантовые пространства. Что же касается морфизмов, то в первой категории таковыми служат произвольные вполне ограниченные операторы, а во второй — только вполне сжимающие операторы. Определение 5. Изоморфизмы в категории QNor носят специальное название полных топологических изоморфизмов, а изоморфизмы в QNor, — название полных изометрических изоморфизмов. Квантовые пространства, между которыми существует полный топологический (соответственно полный изометрический) изоморфизм, называются вполне топологически (соответственно вполне изометрически) изоморфными. Из определения очевидным образом следует, что полный топологический изоморфизм — это в точности вполне ограниченный оператор, обладающий вполне ограниченным обратным. В то же время полный изометрический изоморфизм — это такой оператор /, что 1п является изометрическим изоморфизмом для каждого п. (Оператор / порождает изометрический изоморфизм на каждом этаже.) Мы в состоянии, наконец, сформулировать обещанную основную теорему. Теорема 1 (Руан, 1988 г.). (БД) Всякое абстрактное квантовое пространство совпадает, с точностью до полного изометрического изоморфизма, с некоторым конкретным квантовым пространством. Доказывается эта теорема сложнее, чем ее «классический» прототип (см. предложение 1); см., например, [76].
152 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Теорема Руана дает нам право поступать с абстрактными квантовыми пространствами как с конкретными, предугадывая тем самым их многие свойства. С другой стороны, став на «абстрактную» точку зрения, мы можем сосредоточиться на основной структуре — квантовой норме и уже не зависеть от конкретного вложения J: Е -*ВA2(Х)), с помощью которого эта структура может быть реализована. Это позволяет при работе с операторными пространствами пользоваться целым рядом конструкций, приводящих к объектам, формально не состоящих из операторов. Теорема Руана дает нам уверенность в том, что эти объекты могут быть отождествлены с операторными пространствами: достаточно проверить аксиомы определения 1, а это обычно является не столь уж трудным делом. Чтобы не быть голословными, упомянем только о двух из многих конструкций. Если Е — квантовое пространство, то его факторпространство E/F по замкнутому (по норме первого этажа) подпространству F, равно как и сопряженное пространство Е* суть также квантовые пространства: квантовая норма в E/F вводится путем отождествления lAn(E/F) с Mn(?)/M„(F), а квантовая норма в Е* — путем отождествления М„(?*) с В(Е, Мп). Попробуйте восстановить детали обеих конструкций, а не получится — обращайтесь к [76]. Если задано квантовое пространство (Е, {\\ ¦ \\п \ п 6 N}), то можно «забыть» все нормы || • ||п, кроме первой, т. е. перейти к соответствующему подлежащему нормированному пространству. При этом, забывая о специальных свойствах вполне ограниченных или вполне сжимающих операторов, мы можем рассматривать их как просто ограниченные (или сжимающие) операторы между подлежащими пространствами. Естественно возникают два забывающих функтора ?: QNor-> Nor и D: QNoR! -» Nor, . Но вернемся к морфизмам наших новых категорий. Действительно ли требование полной ограниченности является существенно новым по сравнению с требованием обычной ограниченности? (Иначе к чему вся эта наука?) Рассмотрим важный пример, сравнив столбцовое и строчечное квантование пространства ^. Предложение 3. Ни один топологический изоморфизм I: ^-^^ не является вполне ограниченным оператором, будучи рассмотрен как оператор между 1? и 1?. Как следствие, квантовые пространства 1% и Ц не являются вполне < Положим С,т = (?,т, С", ...):= 1(рт), т = 1,2,... В силу следствия 4.2, для некоторого числа о 0 выполнена оценка ? КГ12 ^ с<2 ПРИ всех т- Зафиксируем п 6 N и рассмотрим оператор In: Mn(^r) —»Mn(ijC). В МП(У) возьмем матрицу х = (хы), у которой отличен от нуля лишь первый столбец, а в нем xkl :=р*, к = 1,..., п. Тогда в матрице у := 1пх с элементами уы = 1(.хы) также отличен от нуля лишь первый столбец, и ук1 = С*, к = 1,..., п. Чтобы узнать нормы матриц х&1АпA?) и у€Мп(^с), надо, в соответствии с обсуждавшейся выше процедурой, обратиться к составленным из операторов матрицам о:= JT(x) и Ь := Jc(y) в Mn(B(i2)). У обеих матриц отличен от нуля только первый столбец. Далее, у матрицы о на месте fcl-ro элемента стоит оператор, переводящий р* в р1, а остальные орты отправляющий в нули; иными словами, оператор, записываемый элементарной матрицей с 1 на месте А; 1-го элемента и нулями на остальных: /(а„) \ /0....0 1 0...0\ "(uOl'HovO)
§ 7. ПРИГЛАШЕНИЕ В КВАНТОВЫЙ ФУНКЦИОНАЛЬНЫЙ АНАЛИЗ 153 Отсюда ясно, что матрица о, после ее отождествления с надлежащим оператором, действующим в ^(nN), переводит набор (? ',...,?") в набор (f/p1, ^'р'- • •> ?пР')- Это, разумеется, означает, что норма ||г||п, определяемая как ||а||п, равна 1. В то же время у матрицы 6 на месте к 1-го элемента стоит оператор, переводящий р1 в Ск> а остальные орты отправляющий в нули; иными словами, стоит оператор, записываемый матрицей с последовательностью С* в качестве первого столбца и нулями на всех остальных местах: -(?:; о).*>-@о) Поэтому, рассмотрев конкретный набор (р\ 0 0), мы видим, что матрица 6, после ее отождествления с надлежащим оператором в 4("N), переводит этот набор в набор (С1,..., С"). Но норма последнего набора в ^("N) равна W ? ||С*|| ^ ^ у/пс. Это означает, что норма \\у\\п, определяемая как ||6||„, не менее у/пс. Итак, мы видим, что оператор 1п переводит матрицу х нормы 1 в матрицу у нормы не меньше "%/с. Отсюда следует, что оператор I не является вполне ограниченным. > Замечание. Анализируя это доказательство, мы видим, что оператор Т: У —> 1?, если он хочет быть вполне ограниченным, должен удовлетворять условию 5Z II^Чр*)!!2 $ оо. Это означает, как мы узнаем впоследствии, в §3.4, что он должен принадлежать классу так называемых операторов Шмидта. На самом деле класс вполне ограниченных операторов между 1% и Щ есть в точности класс операторов Шмидта (см., например, [95]). Упражнение 3. Пусть ^ш|п — квантовое пространство, порожденное изометрическим вложением, описанным в предложении 2 (с Е := Ц,). Тогда 1?"п, 1? и Ц попарно не вполне топологически изоморфны. Замечание. На самом деле, как показал Пизье, существует целый континуум попарно не вполне топологически изоморфных квантовых пространств с ^ «на первом этаже». А вот еще один изящный пример, тоже из самых ранних. На этот раз речь пойдет о, казалось бы, совсем хорошем операторе, к тому же действующем в «эталонном» пространстве В(^) со стандартной квантовой нормой. Предложение 4 (Томияма). (БД) Пусть t — оператор транспонирования, который переводит оператор, записываемый в базисе из ортов матрицей (Лц), в оператор, записываемый в том же базисе матрицей (р.а := Лм). Тогда fl Т\\п = п, и, как следствие, оператор t (будучи изометрическим изоморфизмом *на первом этаже») не является вполне ограниченным. Впрочем, указанное следствие Вы можете получить и сами. Упражнение^. Установить для оператора транспонирования оценку ||Т||П > Указание. Рассмотрите матрицу а^ЩВ^)), у которой на месте Ы -го элемента стоит оператор, записываемый матрицей с 1 на месте lk-то элемента и нулями на остальных. Эта матрица соответствует оператору в B^^nN)), переставляющему некоторые векторы естественного ортонормированного базиса, откуда ||о||п = 1. В то же время матрица tn(a) соответствует оператору, матрица которого в том же базисе имеет «подматрицу» размера п х п, составленную из одних единиц, откуда ||a||n ^ п.
154 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Однако — без этого, разумеется, не было бы содержательной теории — целый ряд важных классов операторов заведомо состоит из вполне ограниченных. Говоря в дальнейшем о (просто) ограниченных операторах между квантовыми пространствами, мы будем иметь в виду операторы, действующие между соответствующими нормированными пространствами («ограниченные на первом этаже»). Теорема 2. Пусть Е — квантовое пространство, /: Е -> С — ограниченный функционал. Тогда функционал f ^автоматически») вполне ограничен относительно стандартной квантовой нормы в С (см. пример 1) и \\/\\сЬ = ||/||. < Возьмем матрицу а = (аы) е Мп(?) и элемент /п(а) е Мп. Заметим, что для любых j = (?,,.. .,?„), г) = (г)\,.. .,r\n) е С" выполнено равенство ? f(akiHiVk =/("). W «:= Ё "lati^f Рассмотрим в Мп матрицу f, 4,1=1 ы = 1 у которой левый столбец есть ?, и матрицу г), у которой верхняя строка ^сть ij, а остальные элементы обеих матриц суть нули. Тогда, очевидно, u:=fjal — это матрица с элементом и в левом верхнем углу и нулями на остальных местах. Из свойства (i) квантовой нормы следует, что ||tl||n = ||и||, а из свойства (ii) следует, что ||й||„ < llflUMIJIfll. = imilMIJMI (си. определение 1). Отсюда I t /(внК|Ч*| = 1/(«I<11/1111«К11/П1Н1»1к1111ч11- Вспомнив, какие матричные нормы участвуют в стандартной квантовой норме для С, и перейдя к верхней грани по всем f, tj, ||?||, \\г)\\ < 1, мы получаем, что ||/„(а)|| ^ ^ ll/IIIHIn- Таким образом, ||/n|| ^ ||/||. Обратное неравенство очевидно. > Укажем еще один класс заведомо вполне ограниченных операторов, исторически сыгравший большую роль в формировании самого понятия вполне ограниченного оператора. Теорема 3. (БД) Пусть ЕСВЩХ)) и F СВA^(У)) — конкретные квантовые пространства, и Т: Е —» F — оператор, являющийся биограничением некоторого инволютивного гомоморфизма между соответствующими алгебрами операторов (см. § 6.3). Тогда Т —вполне сжимающий оператор. Замечание. На самом деле здесь мы вплотную подошли к одному из основных результатов квантового функционального анализа, определяющих лицо теории. Оказывается, чуть-чуть обобщив класс операторов, описанный в предыдущей теореме, мы получим полное описание произвольных вполне ограниченных операторов между квантовыми пространствами. Подобный факт не имеет аналога в традиционном анализе, где нет и не ожидается никакого прогресса в описании структуры произвольных ограниченных операторов, пусть даже действующих в таких «геометрически лучших» пространствах, как Ц. Но мы не будем забивать Вам голову точной формулировкой этого утверждения; см., например, [76]. Наконец, зная о существовании максимальных квантований, мы получаем еще одну серию «автоматически» вполне ограниченных операторов. Упражнение 5. Пусть Етах — максимальное, a F — произвольное квантованное пространство. Тогда любой ограниченный оператор Т: Етях -> F вполне ограничен и ||ТЧ|сЬ = ||Г||. Указание. Если Т — сжимающий оператор, то последовательность норм {||o||'n := max{||a||™ax, ||To||n}} | а? M.n(Emtx), п € N}, является квантованием, а потому совпадает с максимальным квантованием. Стоит отметить, что теперь, используя категорный язык, мы в состоянии придать точный смысл выражениям вроде «классический функциональный анализ является
§ 7. ПРИГЛАШЕНИЕ В КВАНТОВЫЙ ФУНКЦИОНАЛЬНЫЙ АНАЛИЗ 155 частью квантового» или «квантовый функциональный анализ богаче классического». Рассмотрим в категориях QNor и QNor, полные подкатегории, состоящие из максимальных квантовых пространств; обозначим их соответственно через MQNor и MQNor, . Используя предыдущее предложение, легко сделать Упражнение 6. Забывающий функтор D: QNor —> Nor, будучи ограничен на MQNor, осуществляет изоморфизм этой категории с категорией Nor (иными словами, D осуществляет биекцию между объектами и морфизмами категорий MQNor и Nor; ср. сказанное в § 0.7). То же верно с заменой QNor на QNor, , Nor на Nor, и MQNor на MQNor, . Таким образом, можно сказать, что категории Nor и Nor,, обслуживающие классический анализ, содержатся в качестве полных подкатегорий в категориях QNor и соответственно QNor, , обслуживающих квантовый анализ. Отсюда и слова о «большем богатстве» и т. п. Замечание. В категории QNor (соответственно QNor,) есть и другая полная подкатегория, изоморфная Nor (соответственно Nor, ): она состоит из минимальных квантовых пространств. Это сразу следует из того, что любой ограниченный оператор из произвольного квантового пространства в минимальное квантовое пространство вполне ограничен. Указанный факт доказывается немного сложнее, чем то, что объявлено в упражнении 5, и мы этого делать не будем. Принципиально новые эффекты «квантовой» науки, не свойственные «классической», наблюдаются при переходе от рассмотрения линейных операторов к рассмотрению билинейных (и, более общо, полилинейных). По-видимому, есть только один разумный подход к тому, что считать совместно ограниченным билинейным оператором, — тот, который отражен в определении 4.6. В то же время существуют по крайней мере две содержательные «квантовые» версии этого определения, каждая со своими преимуществами и приложениями. С помощью элементарных средств, имеющихся в нашем распоряжении, их можно определить так. Пусть E,F и G — три квантовых пространства, "Я: Е х F —> G — билинейный оператор. Тогда для каждого натурального числа п можно рассмотреть билинейные операторы П'п: М„(Я) х Mn(F) - M„2(G) и П'^: MJE) х M„(F) - Mn(G), определенные с помощью следующей конструкции. Матрицы размера n2 х п2 с элементами из G, составляющие область значений первого, сейчас удобно представлять в виде блок-матриц г = (гы), 1 < к, I $ п, в которых каждый блок есть матрица гы = («ыу 6G), 1 < »', j < п. В этих обозначениях И'п сопоставляет паре матриц х = (хы ?Е),у = (уи ef) матрицу z с элементами 2ц^:=Щхы,у^). В то же время V!'n сопоставляет той же паре х, у матрицу и с элементами В частности, если И есть обычное умножение комплексных чисел (A, /*)>-<• A/i, то И'п сопоставляет паре матриц размера п х п их так называемое кронекеровское произведение, a Vl'n — их обычное матричное произведение. Так вот, от исходного билинейного оператора К можно потребовать две, вообще говоря, разные вещи: чтобы выполнялось неравенство sup{||ft'n|| | п 6 N} < оо, или же sup{||ftJJ|| | neN} <оо. Общего согласия, как называть подобные операторы, пока нет, но мы, следуя [76], назовем билинейный оператор И, удовлетворяющий первому требованию, (просто) вполне ограниченным, а второму — мультипликативно ограниченным. (Кристенсен и Синклер, придумавшие второй тип операторов в 1987 г., называли именно их вполне ограниченными, а операторов первого типа тогда еще не было: их открыли Эффрос и Руан и, независимо, Блечер и Полсен в самом начале 90-х годов.)
156 Гл. 1. ПРОСТРАНСТВА И ОПЕРАТОРЫ Можно доказать (мы этого делать не будем), что всякий мультипликативно ограниченный билинейный оператор заведомо вполне ограничен. Однако обратное, вообще говоря, неверно; в частности, билинейный функционал L? х L[ —»С, (?, ч)*-* Yl fn'Jn- вполне, но не мультипликативно ограничен. п=1 Замечание. Факт фундаментальной важности состоит в том, что мультипликативно ограниченные билинейные операторы (равно как их непосредственное обобщение — мультипликативно ограниченные полилинейные операторы) допускают явное описание, сходное с упоминавшимся ранее описанием вполне ограниченных операторов. В этом отношении «полилинейный квантовый анализ» существенно проще «полилинейного классического анализа», где уже ограниченные билинейные операторы, вообще говоря, куда сложнее устроены, чем ограниченные линейные операторы. Наш краткий экскурс в квантовый функциональный анализ близится к концу. Подчеркнем, что рассказанное — не более чем закуска (appetizer) перед основным блюдом. Это блюдо наш читатель сможет отведать, скажем, из недавно изданной книги Э. Эффроса и Ж.-Чж. Руана [76]. Объявлено также о скором выходе книги Ж. Пизье [95]. Мы же здесь упомянули только о некоторых вещах, которые могут быть изложены на уровне знаний, полученных из предшествующего материала этих лекций. (Впрочем, по мере движения вглубь классического функционального анализа — с появлением тензорных произведений, банаховых алгебр и т. п. — у нас появится возможность делать время от времени «квантовые» вкрапления в основной текст, упоминая о некоторых дальнейших результатах; ср. упражнение 2.5.11 и конец § 2.7.) В принципе, взаимоотношения квантового и классического функционального анализа вполне аналогичны взаимоотношениям квантовой и классической физики. С одной стороны, существующие в классической науке «эффекты» (в математике это понятия, факты и методы) имеют содержательные «квантовые» аналоги, которые, среди всего прочего, позволяют лучше понять и свои «классические» прототипы. С другой стороны, квантовая наука сталкивается и с принципиально новыми явлениями, не свойственными классической. Некоторые иллюстрации к обеим высказанным сентенциям уже приводились выше, а в изобилии Вы их найдете в цитированных книгах и журнальной литературе. В качестве эпилога нам трудно отказаться от искушения сформулировать теорему, также относящуюся к фундаменту «квантовой» теории и играющую там ту же выдающуюся роль, что и теорема Хана — Банаха в «классической» теории. Теперь, однако, в роли функционалов (= С-значных операторов) выступят «операторнозначные операторы». Теорема 4 (Арвесон — Виттсток). (БД) Пусть Е — квантовое пространство, Е0 — его квантовое подпространство, Т0: Е0 —> ВЩХ)) (где X — некоторое множество) — вполне ограниченный оператор. Тогда существует вполне ограниченный оператор Т: Е —»B(L(X)), продолжающий Т0 и такой, что \\ПсЬ = \\т0\\сЬ.
Глава 2 БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА § 1. То, что лежит на поверхности Цезарь: Люблю я видеть в свите только тучных, А Кассий тощ, и с воспаленным взглядом. Он много думает; такой опасен. В. Шекспир. Юлий Цезарь Вы уже знаете, — этому обязательно учили в курсе математического анализа — что такое фундаментальная последовательность в метрическом пространстве (или, как еще говорят, последовательность Коши) и что такое полное метрическое пространство: такое пространство, в котором всякая фундаментальная последовательность имеет предел. Оба эти понятия — фундаментальная последовательность и полное пространство — дословно переносятся с метрических пространств на предметрические. Разница только в том, что в предметрическом пространстве пределов одной и той же фундаментальной последовательности может быть много. Замечание. Поскольку мы теперь знаем азы топологии, хотелось бы сразу подчеркнуть следующее. Понятие полноты не переносится с метрических пространств на топологические. Это невозможно сделать уже по той причине, что пространство, гомео- морфное полному метрическому пространству, само не обязано быть полным, например, полная прямая гомеоморфна не полному интервалу. (Свойство полноты не инвариантно относительно изоморфизмов в категории МЕТ.) Зато это свойство инвариантно относительно изоморфизмов в категории МЕТи, т. е. сохраняется при переходе к равномерно гомеоморфным метрическим пространствам (проверьте!). На самом деле существует некая общая структура, в рамках которой естественно рассматривать понятие полноты. Это так называемое равномерное пространство. Класс равномерных пространств включает все предметрические пространства и в то же время все полинормированные пространства, в том числе и не предметризуемые
158 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА (с этими пространствами мы столкнемся в гл. 4). Изучение этих пространств выходит за рамки наших целей; о них можно почитать, скажем, в [23] или [63]. На младших курсах Вам, конечно, рассказывали и об одном из основных достоинств полных метрических пространств, которое лежит в основе доброй половины их приложений. Это *прин- цип вложенных замкнутых подмножеств»: если М — полное метрическое пространство, а ЛГ, Э N2d ... — его замкнутые подмножества с диаметрами, стремящимися к нулю, то у этих подмножеств существует единственная общая точка. (Кстати, посмотрите, что остается от этого принципа при переходе от метрических пространств к предметрическим.) При этом многие рассуждения, в основе которых лежит принцип вложенных замкнутых множеств, приобретают краткость и элегантность с помощью важного следствия из этого принципа, так называемой теоремы Бэра. Вероятно, ее Вы также знаете; все же напомним ее формулировку. Подмножество N топологического и, в частности, метрического пространства М называется разреженным или нигде не плотным, если каждое непустое открытое множество в М содержит непустое открытое подмножество, в котором нет точек из N (иными словами, N не плотно ни в одном открытом подмножестве М). Далее, подмножество в М называется тощим, если оно является объединением счетного семейства разреженных множеств, и тучным, если оно не является тощим1*. Теорема (Бэр). (БД) Всякое полное метрическое пространство (и, как следствие, всякое топологическое пространство, топология которого порождается полной метрикой) является тучным. Доказательство см., например, [26, с. 66]. А теперь, как говорят англичане, «with the rolling drums», мы вводим два центральных понятия функционального анализа, лежащие в основе его главных достижений. Определение 1. Нормированное пространство называется банаховым^, если оно, как метрическое пространство, полно. Почти '' Употребляя подобные «библейские» термины (ср. с тучными и тощими коровами Книги Бытия), мы частично следуем Бурбаки [а]. В литературе часто называют тощие множества множествами первой категории, а тучные — множествами второй категории. Разумеется, для нас это крайне неудобно: ведь мы (вместе с большинством современных математиков) называем категориями совсем другие вещи. 2) В честь выдающегося польского математика Стефана Банаха A892-1945 гг.). Независимо от Банаха и одновременно с ним эти пространства были введены также Винером, будущим «отцом кибернетики». Однако самые глубокие результаты, определившие лицо теории, принадлежат именно Банаху и его школе; см. § 4 этой главы.
§ 1. ТО, ЧТО ЛЕЖИТ НА ПОВЕРХНОСТИ 159 гильбертово пространство называется гильбертовым, если оно, как нормированное пространство, банахово. Отметим несколько простых фактов. Предложение 1. Нормированное пространство, топологически изоморфное банахову пространству, само банахово. Иными словами, свойство пространства быть банаховым инвариантно относительно изоморфизма в категории NOR. < Если пространство Е банахово, I: Е —> F — топологический изоморфизм, ау„ — фундаментальная последовательность в пространстве F, то хп:=1~1(уп)— фундаментальная и, следовательно, сходящаяся последовательность в Е. Взяв ее предел, скажем, х, мы видим, что последовательность уп — 1(хп) также сходится, а именно, к 7(х). > Предложение 2. Если подпространство F нормированного пространства Е является банаховым относительно унаследованной нормы, то оно замкнуто. < Действительно, если подпространство F не замкнуто, то существует элемент хеЕ, не принадлежащий F и являющийся пределом последовательности хп б F. Тогда последовательность хп фундаментальна, и в силу единственности ее предела в Е она не имеет предела в F. > Предложение 3. Замкнутое подпространство F банахова пространства Е само является банаховым относительно унаследованной нормы. < Существующий в Е предел любой фундаментальной последовательности из F, будучи предельной точкой для F, сам принадлежит F. > Следствие 1. Замкнутое подпространство гильбертова пространства само является гильбертовым относительно унаследованного скалярного произведения. Подавляющее большинство нормированных пространств, фигурировавших в качестве примеров в § 1.1 (хотя и не все), являются банаховыми. Таковы, в частности, С? и 1р, 1 < р ^ со, Cq, СЬ(П) (в том числе С[а,Ь]), Сп[а,Ь], п = 1,2,..., а также ЬХ(Х, р,) (в том числе l^iX)); доказательство их полноты не составляет труда. (Все же проверьте себя.) Столь же просто установить, что для любого р, 1 ^ р < со, *р-сумма произвольного семейства банаховых пространств также является банаховым пространством. Мы будем также называть Z^-сумму банаховых пространств банаховым прямым произведением, a Z,-сумму банаховых пространств — банаховой прямой суммой.
160 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Пространства Lp{X, р.), 1 < р < со, также являются банаховыми, но доказательство этого факта несколько сложнее; см., например, [18, § 23]. По-видимому, его Вам рассказывали, по крайней мере для р = 1, 2 и, может быть, только для X = [a, b], R и Т, в курсе меры и интеграла. Для наших целей этого вполне хватит. В частности, мы видим, что пространства L2(X, р.) и все их специализации, такие, как ^, L2(R) и т. п., являются гильбертовыми. Далее, если Д,, и еЛ, — семейство гильбертовых пространств, то ^-сумма этого семейства также является гильбертовым пространством относительно скалярного произведения, корректно определенного равенством (/, д):— ^2{(f(f), 9(v)) I v ? Л}. Это гильбертово пространство мы будем называть гильбертовой прямой суммой или просто гильбертовой суммой заданного семейства и в указанном контексте употреблять символ © вместо ®2. При Д, = С мы, очевидно, получаем (с точностью до унитарного изоморфизма) гильбертово пространство ^(Л). Для предъявления примеров не банаховых (= не полных) нормированных пространств, нам достаточно, согласно предложению 2, взять в каком-либо заведомо банаховом пространстве его плотное собственное подпространство. Из этого наблюдения немедленно следует, что пространство 1р не является банаховым относительно ¦не своей» нормы, унаследованной из любого пространства lq, где q>р; пространство Lp[a, Ь], где 1 <р, — не банахово относительно нормы, унаследованной из любого пространства Lq[a, Ь], где q <р, а пространство С°°[а, Ь) — относительно нормы, унаследованной из любого пространства Сп[а, Ь], п = 0, 1, 2,... Пространство С[а, Ь] с интегральной нормой ||х|| := J \x(t)\ dt также не банахово, так как оно, с точностью до отождествления функции с ее классом эквивалентности, является собственным плотным подпространством в ?'[а, Ь]. (Приведите другие примеры.) Забегая вперед, отметим, что на самом деле устроенных по-другому не банаховых пространств и не бывает: все они суть плотные подпространства банаховых (см. далее следствие 6.1). Замечание. На упражнениях бывает поучительно предложить студентам непосредственно (без привлечения пространства L,[0,1]) доказать, что пространство С[0,1 ] с интегральной нормой не банахово, предложив в явном виде не сходящуюся фундаментальную последовательность. Обязательно кто-нибудь предложит последовательность xn(t) := tn, думая, что раз она «сходится к разрывной функции», то не может сходиться в указанном пространстве. Хороший повод напомнить о том, что нельзя путать разные типы сходимости... Теперь мы покажем, что все конечномерные нормированные пространства заведомо банаховы, и это позволит нам установить
§ 1. ТО, ЧТО ЛЕЖИТ НА ПОВЕРХНОСТИ 161 обещанную ранее эквивалентность всевозможных норм в этих пространствах (а также многое другое). Решающим шагом в доказательстве является Предложение 4. Всякое нормированное пространство конечной размерности п топологически изоморфно С", причем любой линейный изоморфизм между этими пространствами является топологическим изоморфизмом. <з Проведем индукцию по п. При п = \ все ясно. Пусть утверждение верно для п = k, Е — заданное (к + 1)-мерное нормированное пространство, и /: Е —»Cf + 1 —линейный изоморфизм. Тогда для некоторого линейного базиса е,,..., ек + 1 в Е оператор / действует по правилу х= ^2 \te, i—> (А х,..., Ak + 1) е С* + 1. Для каждого m = 1,..., к + 1, положим Fm := span{e,,... ..., em _,, em +,,..., et +,}. В силу индуктивного предположения подпространство Fm в Е топологически изоморфно С\. Поскольку последнее подпространство, очевидно, является банаховым, таково же, благодаря предложению 1, и пространство Fm. Отсюда на основании предложения 2 подпространство Fm замкнуто в Е. Поэтому предложение 1.1.4 (с Fm в роли F) доставляет такую константу Ст >0, что для любого х= ^2 ^iei выполнено неравенство |Am|<Cm||z||. Но тогда, положив С:=тах{С,,..., Ск + Х), мы видим, Таким образом, / — ограниченный оператор. В то же время оператор /_|, как и любой оператор из Cf + 1, заведомо ограничен (см. пример 1.3.1). Дальнейшее очевидно. > Следствие 2. Любые два нормированных пространства одной и той же конечной размерности топологически изоморфны, причем любой линейный изоморфизм между ними является топологическим изоморфизмом. Теорема 1. Пусть Е — произвольное конечномерное нормированное пространство. Тогда (О Е полно; (И) заданная норма в Е мажорирует любую преднорму; (Ш) любой линейный оператор из Е в любое преднормирован- ное пространство ограничен. < Все эти утверждения, как мы уже знаем (ср. пример 1.3.1), верны для пространств С", п б N. Но тогда они верны и для любого
162 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА нормированного пространства, которое топологически изоморфно одному из этих пространств. Остается применить предыдущее предложение. > Отсюда с учетом предложения 2 мы сразу получаем Следствие 3. (i) Любое конечномерное подпространство нормированного пространства замкнуто; (и) любые две нормы в конечномерном нормированном пространстве эквивалентны. В качестве любопытной иллюстрации к сказанному предложим Упражнение 1. Если линейное пространство обладает счетным линейным базисом (как, скажем, с«, или пространство многочленов), то оно не может быть банаховым ни при какой норме. Указание. Из следствия 3 и того наблюдения, что замкнутое собственное подпространство нормированного пространства является его разреженным подмножеством, вытекает, что, снабдив заданное пространство нормой, мы получим тощее множество. Теперь работает теорема Бэра. Любопытному студенту будет интересно такое Замечание. Известно также, что все сепарабельные бесконечномерные банаховы пространства имеют линейную размерность континуум, и, таким образом, все они линейно изоморфны между собой (теорема Левига; см., например, [19]). Теперь мы можем выполнить обещание, данное в § 1.6. Предложение б. Пусть Е — нормированное пространство, Е0 — его конечномерное подпространство. Тогда подпространство Е0 топологически дополняемо. < Пусть Ех —замкнутое линейное дополнение к Е0 в Е, существующее ввиду предложения 1.6.3, и пусть рг: Е —»Е/Ех —естественная проекция. Очевидно, ее ограничение Г = рг |^: Е0—*Е/Е1 — линейный изоморфизм, а значит, и топологический изоморфизм ввиду следствия 2. Остается заметить, что оператор Р = Г-1 о рг является ограниченным проектором на Е0 вдоль Ех, и воспользоваться предложением 1.5.10. > Вот еще одно приложение. Предложение 6. Всякий ограниченный конечномерный оператор Т между нормированными пространствами Е и F есть сумма нескольких одномерных ограниченных операторов. < Рассмотрим оператор Т: J5/Ker(T)->F, порожденный оператором Т (см. предложение 1.5.3). Его коограничение на Im(T) — это оператор (к тому же линейный изоморфизм) между конечномерными нормированными пространствами. Такой оператор, как мы знаем с первого курса, есть прямая сумма нескольких одномерных
§ 1. ТО, ЧТО ЛЕЖИТ НА ПОВЕРХНОСТИ 163 операторов, скажем, Ти...,Тп. Все эти операторы согласно теореме 1 ограничены. Но тогда и одномерные операторы Тк :=in оТк орг: Е —> F (где операторы in и рг действуют очевидным образом) ограничены, а их сумма есть, разумеется, Т. > Многие пространства, состоящие из операторов, также банаховы. Предложение 7. Если F — банахово пространство, то для любого преднормированного пространства Е нормированное (ср. предложение 1.3.2) пространство В(Е, F) банахово. В частности, для любого преднормированного пространства Е его сопряженное пространство Е* всегда банахово, и для банахова пространства Е пространство В(Е) также банахово. < Пусть Тп — фундаментальная последовательность в В(Е, F). Тогда для любого х е Е последовательность Тп(х), разумеется, фундаментальна в F, а значит, имеет (единственный) предел, который мы обозначим через Т(х). Этим определено отображение Т: Е —> F. Из аддитивности всех операторов Тп и непрерывности суммы в F очевидным образом следует аддитивность оператора Т, а из однородности Тп и непрерывности умножения на скаляры в F следует однородность Т. Таким образом, Т —линейный оператор. Поскольку последовательность Тп фундаментальна, а значит, ограничена в В(Е, F), для некоторого С > 0 и любых х б ШЕ выполнено неравенство ||Гп(ж)|| ^ С. Как следствие, для тех же х выполнено неравенство ||Г(х)|| ^ С. Это означает, что оператор Т ограничен (= принадлежит В(Е, F)). Остается показать, что последовательность Т„ сходится к Т по операторной норме. Возьмем е > 0 и такое натуральное число N, что при m,n>N выполнено неравенство || Тт - Тп\\ < |. Тогда для любого х е Шв и тех же m, п должно быть выполнено неравенство ЦТт1- Тпх\\ < |. Отсюда, с учетом того, что Тт(х) стремится к Т(х) при m —> оо, мы получаем, что ||Гж - Tnx|| ^ f < §• Взяв верхнюю грань по всем х G ШЕ, мы видим, что ||Г — 2^,|| ^ % < е. Дальнейшее очевидно. > Следствие 4. Рефлексивное нормированное пространство всегда банахово. Упражнение 2. Если Е—преднормированное пространство с ненулевой преднормой, a F — нормированное пространство, то полнота пространства F не только достаточна, но и необходима для полноты пространства В(Е, F). Указание. Если уп — фундаментальная, но не сходящаяся последовательность в F и / е .Е*\{0}, то одномерные операторы /Оу„
164 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА образуют фундаментальную, но не сходящуюся последовательность в В(Е, F). Чем же банаховы пространства лучше прочих нормированных? Отложив на время знакомство с глубокими результатами, в своем большинстве связанными со славным именем Банаха (см. § 4), мы пока займемся тем, что лежит на поверхности. Вот одна из этих вещей: в банаховом пространстве «хорошо суммируются ряды». Определение 2. Формальный ряд ^in в нормированном пространстве называется абсолютно сходящимся, если сходится числовой ряд X) ||х„||. Предложение 8. Справедливы следующие утверждения: (i) (признак Вейерштрасса) Каждый абсолютно сходящийся ряд в банаховом пространстве сходится; (и) если в нормированном пространстве Е каждый абсолютно сходящийся ряд сходится, то оно банахово. < (i) Если 53 хк — абсолютно сходящийся ряд, то последовательность его частичных сумм ? хк, п = 1,2,..., фундаментальна. (и) Пусть хп — фундаментальная последовательность элементов пространства Е. Очевидно, у нее есть такая подпоследовательность х'к := х , что \\x'k + i - х'к\\ < -j-. Отсюда и из условия следует, что ряд Y^,(x'k + l - х'к) сходится в Е. Поскольку n-я частичная сумма 4 = 1 этого ряда есть х'п + 1 — х[, мы заключаем, что последовательность х'п сходится. Итак, последовательность хп е Е фундаментальна и содержит сходящуюся подпоследовательность; это означает, что она сама сходится. > Отметим одно из многочисленных следствий этого простого факта. Предложение 9. Пусть Е — банахово пространство, F — его замкнутое подпространство. Тогда и нормированное фак- торпространство E/F {ср. предложение 1.1.2) банахово. < Пусть ^ s„ — абсолютно сходящийся ряд в E/F. Для каждого п выберем хп е хп так, что ||хп|| < 2||afJ|. Очевидно, ряд ^Г хп абсолютно сходится, а значит, ввиду предложения 8 (i) сходится
1. ТО, ЧТО ЛЕЖИТ НА ПОВЕРХНОСТИ 165 к некоторому вектору хеЕ. Следовательно, ряд Y1 хт> сходится к классу смежности вектора х в E/F. Остается воспользоваться предложением 8 (ii). t> Еще одно преимущество банаховых пространств относится к вопросам продолжения операторов. Соответствующий факт, хотя и очень просто доказывается, настолько важен для приложений, что мы ему присуждаем звание теоремы. Теорема 2 (принцип продолжения по непрерывности). Пусть Е — преднормированное пространство, Е0 — его плотное подпространство, a F — банахово пространство. Пусть, далее, Т0 — ограниченный оператор из Е0 в F. Тогда существует единственный ограниченный оператор Т из Е в F, продолжающий Т0 (т. е. такой, что Т\Е<1 = Т0 или, что эквивалентно, диаграмма Е°\ Е —±—¦ F где in — естественное вложение, коммутативна). При этом ЦТ|| = ||Т0||. Далее, если Т0 — изометрический оператор, то таков же и оператор Т. Наконец, если Е — нормированное пространство, а оператор Т0 топологически инъективен, то таков же и оператор Т. < Возьмем вектор i?? и сходящуюся к нему последовательность хп е Е0. Поскольку последняя фундаментальна, из оценки ll^o(xm — xn)ll ^ ll^ollllxm — xnll следует, что такова же и последовательность Т0(хп). Поскольку пространство F полно, Т0(хп) сходится к некоторому вектору этого пространства, который мы обозначим через Т(х). Если х'п — другая последовательность в Е0, сходящаяся к х, то, очевидно, последовательность Т0(хп) — Т0(х'п) сходится к нулю в F. Это означает, что Т(х) не зависит от конкретного выбора х„ и, стало быть, корректно определено отображение Т: E^F. При этом если хеЕ0, то, положив хп:=х для всех п, мы видим, что для такого вектора х выполнено равенство Т(х)=Т0(х). Это означает, что оператор Т, как отображение, продолжает Т0. Далее, взяв х,у е Е и последовательности хп и уп в Е0, сходящиеся соответственно к х и у, мы видим, что из равенства 2^(:rn + 2/n)= Т0(хп)+Т0(уп) и непрерывности суммы в F очевидным образом следует равенство Т(х + у) = Т(х) + Т(у). Поэтому
166 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА оператор Т аддитивен, и сходным образом устанавливается, что он однороден; стало быть, это линейный оператор. Наконец, для тех же х и хп выполнено неравенство ||Г(х)|| = = Jim ||Г0(х„)|| ^ Hm||2J||||aU| = ||Г0||||х||. Отсюда следует, что оператор Т ограничен и ||Т|| < \\Т0\\. Поскольку противоположное неравенство очевидно, обе операторные нормы совпадают, II21 II= II 2о II • Аналогичное рассуждение показывает, что при наличии оценки ||^B/)||^c||i/|| или равенства ||2J(y)|| = \\у\\ для всех у?Е0 такая же оценка (соответственно равенство) имеет место и для Т. Этим установлено утверждение, касающееся топологически инъек- тивных и изометрических операторов. Остается заметить, что единственность непрерывного оператора, продолжающего Т0, немедленно следует из плотности подпространства Е0в Е. > В качестве первого, сравнительно еще скромного, приложения Вам предлагается Упражнение 3. Докажите теорему 1.6.1 (Хана — Банаха) для случая сепарабельного пространства Е, не используя лемму Цорна. Указание. Сепарабельность позволяет, применяя основную лемму счетное число раз, продолжить заданный функционал на плотное подпространство в Е. Дальше работает принцип продолжения по непрерывности. Выделим специальную ситуацию, в которой часто применяется указанный принцип. Предложение 10. Пусть Е u F — банаховы пространства с плотными подпространствами соответственно Е0 и F0, а Т0°: E0—>F0 —топологический изоморфизм. Тогда существует единственный топологический изоморфизм Т: E—*F, биограничением которого является Т?. Если вдобавок Tq —изометрический изоморфизм, то Т — также изометрический изоморфизм. Наконец, если Е и F — гильбертовы пространства, а Т0° — унитарный оператор, то и Т — унитарный оператор. < Пусть S§\=(T?)~\ Т0: E0—>F — копродолжение оператора Т0°, а 50: F0—*E —копродолжение оператора 50°. Продолжая Т0 и 50 по непрерывности, мы получаем ограниченные операторы Т: Е -* F и 5: F-+E, однозначно определенные своими биограничениями. Далее, оператор ST: Е —> Е, будучи, очевидно, тождественным на плотном подпространстве Е0, тождествен; точно так же тождествен и оператор TS: F —> F. Тем самым, Т — топологический изоморфизм. Остальное очевидно. >
§ 2. КАТЕГОРИИ БАНАХОВЫХ И ГИЛЬБЕРТОВЫХ ПРОСТРАНСТВ 167 На самом деле «корни» принципа продолжения по непрерывности лежат глубже, в метрических пространствах и равномерно непрерывных отображениях (иными словами, в категории МЕТи). Упражнение 4. Пусть М — метрическое пространство, М0 — его плотное подмножество (рассмотренное с унаследованной метрикой), N — полное метрическое пространство, <р0: M0—*N — равномерно непрерывное отображение. Тогда существует единственное равномерно непрерывное отображение ip: М —> N, продолжающее <р0. Далее, если <#, — изометрическое отображение, то таково же и уз. Наконец, если пространство М тоже полно, а образ отображения у?0 плотен в N, то в случае изометрического отображения <р0 указанное продолжение является изометрией (= изоморфизмом в Мет,). § 2. Категории банаховых и гильбертовых пространств. Вопросы классификации и теорема Фишера — Рисса Настало время добавить к уже известным нам категориям (пред)нормированных пространств четыре новые категории функционального анализа. Они, пожалуй, еще важнее. (i) Категория BAN. Ее объекты — это банаховы пространства, а морфизмы — (произвольные) ограниченные операторы. (и) Категория Ban,. Ее объекты — те же, что и в BAN, а морфизмов меньше: ими объявлены сжимающие операторы. (iii) Категория HlL. Ее объекты — это гильбертовы пространства, а морфизмы — как и в BAN — ограниченные операторы. (iv) Категория HlL,. Ее объекты — те же, что и в HlL, а морфизмы — как и в BAN, — сжимающие операторы. Все сказанное в контексте наших старых категорий о композиции морфизмов и проверке аксиом категорий (см. начало § 1.4) автоматически переносится и на новые категории. Взаимосвязь всех восьми категорий можно изобразить схемой Hil с Ban с Nor с Pre и и и и Hil, с Ban, с Nor, с Pre, в которой знаки сии имеют ту же смысловую нагрузку, что и в схеме из § 1.4. Первый вопрос о введенных категориях — это, конечно, о том, каковы их изоморфизмы. Ясно, что морфизм в BAN или HlL
168 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА является изоморфизмом тогда и только тогда, когда он является изоморфизмом, будучи рассмотрен в NOR (или PRE), а морфизм в BAN, или HIL, является изоморфизмом тогда и только тогда, когда он является изоморфизмом, будучи рассмотрен в NOR, (или PRE,). Поэтому изоморфизмы в Ban и Hil суть топологические изоморфизмы, а изоморфизмы в BAN, и HIL, суть изометрические изоморфизмы; напомним, что и те, и другие были охарактеризованы в предложении 1.4.1. В соответствии с договоренностью § 1.4, изоморфизмы в HIL, мы будем также называть унитарными изоморфизмами или унитарными операторами. Теперь обратимся к типовому вопросу о классификации объектов в категориях с точностью до изоморфизма, обсуждавшемся в § 0.4. Напомним, что, говоря не формально, это вопрос о том, много ли в рассматриваемой категории «по-настоящему разных» объектов. Для всех введенных до сих пор категорий функционального анализа речь идет, разумеется, о классификации их объектов с точностью до топологического, либо, смотря по смыслу, изометрического изоморфизма. Оказывается, категории банаховых и гильбертовых пространств ведут себя совсем по-разному. Говоря упрощенно, гильбертовых пространств, несмотря на обилие столь несхожих по виду примеров, на удивление мало, а банаховых, и уж тем более (пред)нормированных пространств — огромное необозримое множество. Главный результат состоит в том, что все бесконечномерные сепарабельные гильбертовы пространства — это в сущности одно и то же пространство, только по-разному заданное. Теорема 1 (Фишер — Рисе, 1907). Пусть Н и К — бесконечномерные сепарабельные гильбертовы пространства с орто- нормированными базисами (Шаудера) е'п и e„";neN (см. теорему 1.2.4'). Тогда существует единственный унитарный изоморфизм U: И—* К, такой, что U(e'n) = e% для всех п. < Положим Я0 := span{e^ | п е N} и К0 := span{e^' | п е Щ; в силу определения базиса Шаудера, Я0 плотно в Н, а К0 — в К. Очевидно, существует линейный оператор U$, однозначно определенный тем, что для любого п он переводит е'п в е"п. Возьмем любые х, у е Н0; они имеют вид х = Е ^ie'i и У = Е Miej Для некоторых i=i т 1=1 m А,, р, € С и т. Следовательно, Ц?(х) = Е \е" и Ц?(у) = Е м<е/'- Отсюда ' =' ' =! (U?(x), U°(y))= Ё KT4W, е<"> = Е AJZT,
§ 2. КАТЕГОРИИ БАНАХОВЫХ И ГИЛЬБЕРТОВЫХ ПРОСТРАНСТВ 169 и точно так же (x,y)=J2Xknk. Это показывает, что [/0° — унитарный изоморфизм между Н и К. Остается применить предложение 1.10. > Следствие 1. Каждое бесконечномерное сепарабельное гильбертово пространство унитарно изоморфно 1^. Отступление полубеллетристического характера. Теорема Фишера — Рисса лежит в основе огромной области математики, использующей операторы в гильбертовом пространстве, и не только математики: эти операторы являются неотъемлемой частью аппарата квантовой механики. Когда-то, в середине 1920-х, слов «квантовая механика» еще не говорили, однако физики уже хорошо знали, что существует целый ряд явлений, не укладывающихся в классическую картину мира Ньютона и Лапласа. Найти закономерности этого нового странного мира казалось невероятно трудной задачей, но два человека приняли вызов. Были предложены две теории — «матричная механика» Гейзенберга и «волновая механика» Шредингера, с виду не имевшие ничего общего. Как водится, начались жаркие споры о том, чья теория лучше. Сейчас мы знаем, кто из выдающихся физиков был прав: оба. Дело в том, что с современной точки зрения наши физики работали с операторами в разных гильбертовых пространствах: Гейзенберг в U, (отсюда и матрицы; ср. конец § 1.4), а Шредингер, если ограничиться упрощенной одномерной картиной, — в Ь2(Щ- Сами они об этих гильбертовых пространствах и тем более об их унитарном изоморфизме не ведали, вот и не знали, что обе теории — это по существу одна и та же теория, только изложенная на двух разных языках. Окончательно расставил все точки над «i» Дж. фон Нойманн1' (о нем мы еще услышим в этих лекциях), доказав так называемую теорему единственности канонических коммутационных соотношений (см., например, [42]). В весьма упрощенном виде она показывает, что один из изоморфизмов между ^ и Ь2(Щ, доставляемых теоремой Фишера — Рисса, осуществляет между операторами, центральными для обеих теорий — опять-таки в их современном изложении, — унитарную эквивалентность. (На самом деле это тот изоморфизм, который переводит орты в функции Эрмита из примера 1.2.8.) Говоря не формально, 1% можно наложить на Ь2(Ш) так, что теория Гейзенберга перейдет в теорию Шредингера. После этой теоремы людям уровня фон Нойманна и М. Стоуна стало ясно, что «правильная» теория должна строиться в рамках абстрактного гильбертова пространства, а не быть привязанной к какому-нибудь конкретному. Из матричной и волновой механики родилась единая наука — квантовая механика2'. Теорема Фишера — Рисса может быть обобщена на произвольные гильбертовы пространства, не обязательно сепарабельные. ' Джон фон Нойманн A903-1957) — великий математик XX века. Многие математики считают, что он вместе со своим одногодком А. Н. Колмогоровым является одним из двух самых крупных математиков своей эпохи. Он родился в Венгрии, часть молодых лет провел в Германии, а затем обосновался в США. (Так что, перебывав сначала Яношем, а затем Иоганном, он вошел в историю в основном как Джон.) Среди его биографов и историков математики бытует мнение, что он — чуть ли не единственный из великих математиков, обладавший легким характером. 2) Другое дело, что творцы обеих теорий остались каждый при своем мнении: дескать, «моя механика все равно лучше, а математики пусть говорят что хотят» (подробности см. [101]). Еще один грустный пример отсутствия взаимопонимания между математиками и «практическими» физиками...
170 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Чтобы сформулировать результат, напомним, что ортонормиро- ванный базис Шаудера гильбертова пространства — это другое название счетной тотальной ортонормированной системы этого пространства. Теорема 2. (БД) (i) Во всяком гильбертовом пространстве существуют тотальные ортонормированные системы. (И) Любые две такие системы имеют одинаковую мощность (называемую гильбертовой размерностью данного пространства). (iii) Два гильбертовых пространства топологически изоморфны <=$¦ они унитарно изоморфны •<=>¦ они имеют одинаковую гильбертову размерность. При этом, если е',1/еЛ, — тотальная ортонормированная система в Я,, а е%, v € Л, — такая система в Н2, то существует единственный унитарный изоморфизм между Я, и Н2, переводящий el в е*, v е Л. Разумеется, любая мощность m может выступить в качестве гильбертовой размерности: взяв ЩХ), где X — множество мощности т, мы получим гильбертово пространство с тотальной ортонормированной системой 5Х, х е X, где 6Х равна 1 в а; и 0 в остальных точках. Сформулированная теорема, вместе с только что сделанным наблюдением, дает полное решение проблемы классификации объектов в HIL и HIL,. В обеих категориях (и в этом их сходство с Set и Lin; ср. пример 0.4.2 и упражнение 0.4.1) полной системой инвариантов изоморфизма является класс всех мощностей. Теперь, однако, инвариантом заданного объекта является не его мощность и не линейная размерность, а гильбертова размерность. Моделью гильбертова пространства с инвариантом m можно объявить ^(Х), где X — модель множества мощности m в Set. В частности — это уже следует из самой теоремы Фишера — Рисса, — в полных подкатегориях категорий HlL и HlL,, состоящих из бесконечномерных сепарабельных пространств, все объекты изоморфны (имеют один и тот же инвариант — счетную мощность), и в качестве единственной соответствующей модели можно взять ^. Однако при переходе от гильбертовых пространств к общим банаховым не остается и тени той идиллической картины, которую мы только что наблюдали. Не топологически изоморфных и тем более не изометрически изоморфных банаховых пространств оказывается слишком много, чтобы могла теплиться какая-то надежда на полную классификацию объектов хотя бы в BAN. (Фактически в этом убедились уже давно, еще задолго до осознания общекатегорного смысла обсуждаемой проблемы.) Тем не менее к настоящему времени накоплено довольно много результатов о существовании
§ 2. КАТЕГОРИИ БАНАХОВЫХ И ГИЛЬБЕРТОВЫХ ПРОСТРАНСТВ 171 топологических, а иногда и изометрических изоморфизмов между весьма несхожими, на первый взгляд, пространствами. С категорией точки зрения они дают классификацию объектов в тех или иных полных подкатегориях в BAN или (при большем везении) в BAN,. О самом ярком и важном для приложений открытии подобного рода, касающимся гильбертовых пространств, мы уже говорили. Вот еще один результат, показывающий, что с банаховыми пространствами ?,(•) дела обстоят по-другому, нежели с гильбертовыми пространствами L2(). Теорема 3. (БД) Пусть (X, р.) — пространство с мерой, допускающей счетный базис. Тогда пространство Ьх(Х,р.) изометрически изоморфно одному из следующих пространств: C"(neN), J,, L,[0, 1], банаховой прямой сумме L,[0,1] и С" (п 6 N); банаховой прямой сумме L,[0,1] и /,. При этом указанные пространства, в частности, LJ0,1] и /,, не являются (даже) топологически изоморфными друг другу. Сходный результат имеет место с повсеместной заменой индекса 1 в обозначениях указанных пространств на на любое р, 1 ^ р < оо, отличное от двух; только вместо банаховой прямой суммы — она же /,-сумма — надо рассматривать /р-сумму. Доказательство см., например, [106]. Следствие 1.2, разумеется, доставляет полную классификацию объектов в категории конечномерных нормированных (= конечномерных банаховых) пространств и всех (= всех ограниченных) операторов. Система инвариантов — это те же натуральные числа (в роли размерностей), что и для чисто алгебраической категории FLlN из § 0.4. Сильный студент может легко убедиться в том, что категория конечномерных нормированных пространств и категория конечномерных линейных пространств эквивалентны. (А вот строить между ними изоморфизм категорий — это, пожалуй, бессмысленное занятие.) ЗАМЕЧАНИЕ. Впоследствии, в § 3.1, мы еще упомянем о результатах, касающихся банаховых пространств вида С(П). (Из них будет, в частности, следовать, что все пространства С(К"), где К" — n-мерный куб, топологически изоморфны друг другу, но не изометрически изоморфны при разных п.) Вообще же большинство накопленных фактов о наличии изоморфизмов касается традиционных, хорошо известных классов банаховых пространств. Что же касается произвольных пространств, то ряд результатов, полученных совсем недавно, свидетельствует о том, что они могут вести себя крайне причудливым образом.
172 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА (А это, повидимому, окончательно хоронит надежду дать их разумную классификацию.) Вот довольно впечатляющий образец. По контрасту со всеми без исключения приведенными выше конкретными примерами банаховых пространств имеет место Теорема 4 (Гауэрс, 1994). (БД) Существуют банаховы пространства, которые не топологически изоморфны ни одному из своих собственных подпространств. От вопроса о классификации объектов перейдем к вопросу следующего порядка сложности — о классификации морфизмов. Очевидно, подобие эндоморфизмов и разновидности этого понятия, обсуждавшиеся для общих категорий в § 0.4, для наших новых категорий функционального анализа характеризуется в тех же терминах, что и для старых категорий из предыдущей главы. В частности, подобие эндоморфизмов в BAN и HlL, т. е. ограниченных операторов, действующих в банаховых или гильбертовых пространствах, — это не что иное, как их топологическая эквивалентность. В то же время подобие эндоморфизмов в BAN относительно BAN,, а также в HlL относительно HlL, (см. тот же параграф) — это их изометрическая эквивалентность (называемая, как мы помним, в контексте гильбертовых пространств унитарной). Наконец, подобие эндоморфизмов в Ban, или HlL, — это та же изометрическая, соответственно унитарная эквивалентность операторов, только теперь не любых, а сжимающих. Проблема классификации ограниченных операторов в обеих ее разновидностях — с точностью до топологической и (как более жесткий вариант) с точностью до изометрической эквивалентности — это одна из важнейших типовых проблем классического функционального анализа. Мы неоднократно будем возвращаться к ее обсуждению для различных классов операторов, а также к примерам изометрически или топологически эквивалентных операторов. Вот один из простейших. ПРИМЕР 1. Оператор двустороннего сдвига в l,(Z) унитарно эквивалентен оператору умножения на z в L2(T). Эту эквивалентность осуществляет унитарный оператор, переводящий последовательность (..., 0, 1,0,...) с 1 на п-и месте в zn, п е Z. А этот пример нам пригодится впоследствии, при изучении компактных самосопряженных операторов в § 6.2: ПРИМЕР 2. Рассмотрим в гильбертовом пространстве Я оператор Т, такой, что некоторая ортонормированная система е,, %,... конечной или счетной мощности т в Н состоит из собственных
§ 2. КАТЕГОРИИ БАНАХОВЫХ И ГИЛЬБЕРТОВЫХ ПРОСТРАНСТВ 173 векторов этого оператора с собственными значениями А,,Л2,..., и к тому же Тх = О для любого х е Я0 := {е,, &>,.. .}х. Тогда Т унитарно эквивалентен оператору R: Ц" ф Я0 —> i/" © Я0, действующему на ?;т как диагональный оператор ГА с А := (А,, А2,...), и переводящему Я0 в нуль. Эту эквивалентность осуществляет унитарный оператор /: Я —» i/" ф Я0, переводящий каждый е„ в р" 6 ijm и тождественный на Я0. Как мы уже видели в § 1.4, вопрос об эквивалентности, прежде всего изометрической, операторов связан с их матричной записью. В контексте гильбертовых пространств эта связь наиболее тесна: Предложение 1. Операторы S: Я, —> Я, и Т: Я2 —» Я2, действующие в бесконечномерных сепарабельных гильбертовых пространствах, унитарно эквивалентны -<==*¦ они записываются в некоторых ортонормированных базисах Шаудера одинаковыми матрицами. < =$¦ Непосредственно следует из предложения 1.4.9. <== Если {атп, п € N} — матрица операторов S и Т в ортонормированных базисах соответственно е\ и е2, то для оператора U: Я, —> #2, доставляемого теоремой Фишера — Рисса, выполнены равенства (TUel, е2т) = (Те2, «&) = amn = <ЗД> О = {USel Шт) = {USeln, е2) для всех т, п е N. Отсюда T77e,J = ?/ЗД для всех п е N, и, стало быть, TU = US.> Таким образом, в контексте гильбертовых пространств матрица однозначно определяет оператор с точностью до унитарной эквивалентности. Возникает естественный вопрос: существует ли эффективный способ проверки того, является ли заданная таблица комплексных чисел матрицей какого-либо ограниченного оператора в гильбертовом пространстве? Такого способа до сих пор не нашли (а, возможно, никогда и не найдут). Известно лишь большое число необходимых условий и большое число достаточных. Вот иллюстрация: Упражнение 1. Для того чтобы таблица {атп \ п е Щ была матрицей ограниченного оператора в гильбертовом пространстве, (i) следующее условие: sup{ JT |amJ2|neN}+sup{ ]Г |amn|2|m€ € N} < сю необходимо, но не достаточно; (ii) следующее условие: J? |amn|2 <оо достаточно, но не необходимо. m,n=l
174 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Сильному студенту мы предложим еще один, более интересный пример унитарной эквивалентности, который связан с матрицами — только теперь бесконечными во все стороны. Такие матрицы возникают, когда векторы ортонормированного базиса в гильбертовом пространстве Н естественно индексировать не натуральными, а целыми числами, как, скажем, в случае тригонометрического базиса в Ь2[-к, яг] или базиса из целых степеней z в L2(J). Взяв в Я подобный базис е , п eZ, мы можем говорить о матрице оператора Т в этом базисе, положив amn := {Теп, em), т, n е Z. Важный класс этих матриц составляют так называемые лорановы матрицы — те, у которых am + ic,n + k=amn для любых целых щп, к (матрицы, постоянные на всех диагоналях, параллельных главной). Упражнение 2*. Ограниченный оператор в гильбертовом пространстве может быть записан в некотором базисе лорановой матрицей тогда и только тогда, когда он унитарно эквивалентен оператору умножения на ограниченную измеримую функцию в ?2(Т). Указание. Пусть оператор S в Ь2(Т) записывается лорановой матрицей в базисе zn; п е Z, и / := ? anoz"- Из «лорановости» следует, что S действует как умножение на / на функциях линейной оболочки базиса. Для любой х е L2(T) существует последовательность хт подобных функций с тем свойством, что она сходится к а, а Sxm к & и по норме, и почти всюду. Отсюда Sx = fx, откуда мы видим задним числом, что / существенно ограничена. Замечание. С этого результата начинается большой раздел теории операторов — анализ так называемых тёплицевых и ханкелевых операторов. Первые записываются матрицами (amn), m, n6N, cam + ^n + t= amn (правый нижний квадрант лорановой матрицы), а вторые — матрицами (omn), т, п 6 N с ат_^п + к = атп (перевернутый правый верхний квадрант лорановой матрицы). Говоря наглядно, «матрицы Теплица» постоянны на диагоналях, параллельных главной, а «матрицы Ханкеля» — на диагоналях, перпендикулярных главной. Операторы обоих классов также допускают важную реализацию в терминах теории функций, на этот раз с участием не только действительного, но и комплексного анализа. Об этих операторах и их многочисленных приложениях см., например, [70]. Вернемся к общему вопросу о классификации эндоморфизмов в наших категориях. В принципе дело обстоит с ним так же, как и с обсуждавшимся до этого вопросом о классификации объектов. Для ряда важных специальных подкатегорий получено полное решение. (Главным из таких результатов безусловно является классификация самосопряженных операторов с точностью до унитарной эквивалентности, о которой речь пойдет в двух последних параграфах гл. 6.) В то же время всех операторов, действующих в гильбертовых и тем более в банаховых пространствах, опять-таки, по-видимому, слишком много, чтобы их можно было расклассифицировать. Читатель, сделавший упражнение 0.4.2, знает, что операторы, действующие в конечномерных линейных пространствах, допускают полную классификацию, и этот факт опирается на наличие
§ 3. ТЕОРЕМА ОБ ОРТОГОНАЛЬНОМ ДОПОЛНЕНИИ И ВОКРУГ НЕЕ 175 у них жордановой формы. В свою очередь, вид последней связан с расположением инвариантных подпространств рассматриваемого оператора. Естественно, что один из первых вопросов, возникших при изучении ограниченных операторов в бесконечномерных пространствах, заключался в следующем: каковы инвариантные подпространства этих операторов? Читатель может заметить, что все операторы, приведенные в качестве примеров в предыдущей главе, обладают инвариантными пространствами, и последних довольно много. Тем более удивительным оказался сравнительно недавний результат, давший отрицательное решение проблемы сорокалетней давности: Теорема 5 (П. Энфло, Ч. Рид). (БД) Существует действующий в некотором банаховом пространстве ограниченный оператор, у которого нет ни одного замкнутого собственного ненулевого инвариантного подпространства. Более того1), в качестве такого пространства можно взять J,. (Можно ли здесь заменить J, на 1^, т. е. на бесконечномерное сепарабельное гильбертово пространство, до сих пор не известно.) § 3. Теорема об ортогональном дополнении и вокруг нее Вначале напомним предложение 1.2.9 о ближайших векторах в конечномерных подпространствах почти гильбертовых пространств. Для бесконечномерных подпространств почти гильбертовых пространств, пусть даже и замкнутых, оно теряет силу. Упражнение 1. Пусть Н — линейная оболочка вектора i = A,1/2,1/3,...) и всех ортов, начиная со второго, в 1^, а Н0 — линейная оболочка только указанных ортов. Тогда подпространство #0 замкнуто в Я, но в нем нет вектора, ближайшего к х. В гильбертовых пространствах подобные безобразия невозможны. Предложение 1. Пусть Н — гильбертово пространство, Н0 — его (произвольное) замкнутое подпространство, х —вектор в Н. Тогда в Н0 существует единственный ближайший к х вектор. < Положим d := inf{d(x, z) \ z е Я0} и возьмем такую последовательность уп е Н0, что ||х - з/„|| -* d при п -* оо. В силу закона параллелограмма для любых т, п € N выполнено равенство ||(x-ym) + (x-2/n)||2+||(a:-3/m)-(x-yn)||2 = 2||x-ym||42||x-yn||2. ') Ч. Рид, 1985; см. [96].
176 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Первый из выписанных квадратов норм есть А\\х - Ут 2 Уп ^ Ad2, а правая часть равенства стремится к 4d2 при т, п —> оо. Отсюда следует, что неотрицательная двойная последовательность \\Ут ~ Уп\\2 — \\(х ~ Ут) ~(х~ Уп)\\2 не может иметь положительный верхний предел и поэтому стремится к нулю. Этим показано, что последовательность уп фундаментальна. Но ведь пространство Я полно, а посему уп сходится к некоторому вектору у е Я0. Поскольку ||х - у|| = lim \\х- yn\\ = d, мы заключаем, что у — ближайший к х вектор в Я0. Осталось показать, что любой ближайший к х вектор в Я0, скажем, z, совпадает с у. Тот же закон параллелограмма, теперь рассмотренный для х—уях-z, очевидным образом дает равенство 4||х - v+l|2 + ||у - z\\2 = 2||х - yf + 2||х - zf = Ad*. Опять-таки первый квадрат нормы не меньше Ad2, а поэтому второй не положителен и, значит, равен нулю. Тем самым у = z. > Доказанное предложение, однако, перестает быть верным при замене слов «гильбертово» на «банахово». Мы уже видели в § 1.2 (на примере пространства Ш2^, вектора р1 и подпространства span{p2}), что ближайших векторов может быть много. Но их может и вообще не быть. Упражнение 2. (i) Пусть f:E—*С — функционал на банаховом пространстве, Е0 := Кег (/) и х б Е \ Е0. Тогда в Е0 существует вектор, ближайший к х •<=>¦ верхняя грань в определении нормы функционала / (ср. предложение 1.3.1 (и)) достигается. (и) Функционалы, не обладающие указанным свойством, действительно бывают, и примером служит такой функционал: /: С[-1,1]-*С: z * \ z(t)dt - \ z(t)dt. -1 о Указание. Из определения нормы функционала следует, что Ц/11 = sup || _ ц , а это выражение совпадает с ¦ f и _ ц- Возвращаясь к пространствам со скалярным произведением, дадим важное Определение 1. Пусть Я — почти гильбертово пространство. Ортогональным дополнением вектора х е Я называется
§ 3. ТЕОРЕМА ОБ ОРТОГОНАЛЬНОМ ДОПОЛНЕНИИ И ВОКРУГ НЕЕ 177 множество xL := {у е Я \ у _L х}. Ортогональным дополнением подмножества М С Я называется множество Мх = {уеН\у±х для всех х е М}. Предложение 2. Если М — подмножество в почти гильбертовом пространстве Я, то (i) М1 —замкнутое подпространство в Я. (ii) МС(МХ)Х. < Утверждение (i) сразу следует из алгебраических свойств и непрерывности скалярного произведения, a (ii) верно по принципу «Петя, как тебя зовут?». > Условимся писать х±М, если х ± у для любого уеМ. Предложение 3. Пусть Я — почти гильбертово пространство, Н0—его подпространство, х е Я. Тогда х ± Н0 -4=> расстояние от х до #0 равно \\х\\ (иными словами, 0 — ближайший к х вектор в Я0). < ==>¦ Следует из равенства Пифагора ||х — у\\2 — \\х\\2 + \\у\\2, выполненного для всех уеН0. -<== Для любого у?Н0 и А еС выполнено неравенство ||х —Ау|| ^ ^ ||х||, а значит, (х — Ху, х — Ху) ^ (х, х) и, стало быть, (х, х) - Х{у, х) - А(х, у) + ХХ{у, у) ^ (х, х). Положив А := t(x, у), мы видим, что для всех t >0 выполнено неравенство -2t\(x,yW + t2\(x,y)\2{y,y)ZQ. При у ф 0 и t < -,—г такое возможно лишь при (х, у) = 0. Дальнейшее очевидно. > Теперь — главное. Теорема 1 (об ортогональном дополнении). Пусть Н — гильбертово пространство, Н0 — его замкнутое подпространство. Тогда Н = Я0 © Н?, т. е. Н разлагается в прямую сумму подпространства Я0 и его ортогонального дополнения. < Возьмем х е Я. Пусть у — ближайший к х вектор в Я0 (см. предложение 1). Положим z := х — у; тогда норма вектора z равна расстоянию от х до Я0, которое ввиду условия у € Я0 совпадает с расстоянием от г до Я0. В силу предложения 3 мы получаем z±H0. Тем самым, вектор х представим как y+z, у€Я0, z е Яо1. Далее, для любых таких у1 е Я0, z, е Я0-\ что х = j/, + z,, одновременно выполнены условия у - yl=zl — z и у - у, ± zx - z. Поскольку вектор, ортогональный сам себе, равен нулю, у = у, и z = z{. Дальнейшее очевидно. >
178 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Вот некоторые геометрические следствия. Предложение 4. Для любого, вообще говоря, не замкнутого подпространства Я0 гильбертова пространства Я подпространство (Яд1)-1 совпадает с замыканием подпространства Я0. В частности, если Я0 замкнуто, то (Я„х)х = Я0. < Из предложения 2 следует, что (Я0Х)Х — гильбертово пространство, содержащее Я0 (:= замыкание Я0). Пусть Я, —ортогональное дополнение подпространства Я0 в (Я0Х)Х. Очевидно, любой вектор х б Я, ортогонален и Я0, и Н?; стало быть, х i. х и х=0. Это означает,_что Я, = 0. Но по теореме об ортогональном дополнении (Я0Х)Х = HQ®HX. Дальнейшее очевидно. > Предложение 5. Пусть система векторов {х„ | v е Л} гильбертова пространства Я такова, что для у е Я из условия у ± х„ для всех I/ € Л следует, что у = 0. 7огда эта система тотальна в Я. < Положим Я0 := span{x„ | v е Л}; тогда по условию Я0Х = {0}. Поэтому на основании предыдущего предложения замыкание подпространства Я0 есть {О}1, т. е. все пространство Я. > Предложение 6. Пусть Я — гильбертово пространство, Я0 — его замкнутое подпространство, J: Н? —» Я/Я0 — огра- ничение естественной проекции рг: Я —> Я/Я„. Тогда J — изометрический изоморфизм. < Из разложения в прямую сумму, доставляемого теоремой об ортогональном дополнении, очевидным образом следует, что каждый элемент х в Н/Н0 содержит, как класс смежности, единственный вектор х из Я0Х и что отображение, переводящее х в х, — это линейный оператор, обратный к J. Далее, ||x||:=inf{||x+y||| уеН0} очевидно, совпадает с расстоянием от х до Я0, а значит, в силу предложения 3 с ||х||. Дальнейшее очевидно. > Следствие 1. В условиях предыдущего предложения норма в Н/Н0 гильбертова. Теперь напомним об операторах, названных в определении 1.5.2 проекторами. Определение 2. В условиях теоремы 1 действующий в Я проектор на Я0 вдоль Я0Х называется ортогональным проектором или, короче, ортопроектором на Я0. Он обычно обозначается Р^ или, если нет опасности путаницы, просто Р. Ортопроектор — это гораздо больше чем просто пример оператора. Выдающаяся роль ортопроекторов в общей теории выявится впоследствии, в гл. 6.
§ 3. ТЕОРЕМА ОБ ОРТОГОНАЛЬНОМ ДОПОЛНЕНИИ И ВОКРУГ НЕЕ 179 Из теоремы Пифагора очевидным образом следует Предложение 7. Ортопроектор отображает открытый (соответственно замкнутый) единичный шар в Я на открытый (соответственно замкнутый) единичный шар в Я0. Как следствие, норма отличного от нуля ортопроектора равна 1. < > Заметим, что 1 -Рн — это тоже действующий в Я ортопроектор, только на #(/\ Одно из наиболее важных приложений теоремы об ортогональном дополнении состоит в том, что она позволяет дать полное описание ограниченных функционалов, заданных на гильбертовых пространствах. Отображение между преднормированными пространствами Е и F, являющееся сопряженно-линейным изоморфизмом (см. § 0.1) и к тому же сохраняющее нормы векторов, мы будем называть сопряженно-линейным изометрическим изоморфизмом. Очевидно, сопряженно-линейный изометрический изоморфизм — это в точности отображение, которое, будучи рассмотрено как отображение между Ei и F, является изометрическим изоморфизмом. Теорема 2 (Рисе). Пусть Я — гильбертово пространство. Тогда каждый вектор ееН задает ограниченный функционал ft: Я —>С по правилу х (-> (х, е) и каждый ограниченный функционал на Я есть /е для некоторого однозначно определенного вектора е € Я. Определенная этим биекция I: Я —> Я*, е i-> fe, есть сопряженно-линейный изометрический изоморфизм нормированных пространств. (Иными словами, биекция I осуществляет изометрический изоморфизм между Н1 и Н*.) < Очевидно, для каждого е е Я отображение /е является линейным функционалом, причем |/е(х)| ^ ||а;||||е|| и /е(е) = ||е||2. Отсюда следует, что этот функционал ограничен и ||/е || = || е ||. Таким образом, указанное в формулировке отображение / корректно определено. Из сопряженной линейности скалярного произведения по второму аргументу следует, что это сопряженно-линейный оператор. Поскольку оператор / сохраняет нормы, он, очевидно, инъекти- вен. Осталось показать, что всякий элемент / е Я* есть /е для некоторого е € Я. При этом, разумеется, достаточно рассмотреть случай / Ф 0. Положим Я0:=Кег(/); это замкнутое подпространство в Я коразмерности 1. Произвольно выберем элемент е' € Яд- нормы 1 и положим е := /(е')е'. Тогда для любого у е Я0 выполнено
180 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА равенство /(у) = fe(y) = 0 и, кроме того, /<е') = /(е')(е', е'> = (е>, ТЩе') = /е(е'). Мы видим, что функционалы / и /е совпадают на подпространстве коразмерности 1 и еще на одном векторе. Дальнейшее очевидно. > Биекция /, фигурирующая в теореме Рисса, называется канонической биекцией между гильбертовым пространством и его сопряженным. Подчеркнем, что это не линейный, а сопряженно- линейный изометрический изоморфизм. Вот несколько приложений. Прежде всего, выделим простое, но полезное Предложение 8. Если Я — гильбертово пространство, то его сопряженное банахово пространство Я* также является гильбертовым относительно скалярного произведения, корректно определенного равенством Aх, 1у) := {у, х). < То, что указанное скалярное произведение корректно определено, непосредственно проверяется с использованием того, что / — сопряженно-линейный изоморфизм. То, что норма в Я* порождена этим скалярным произведением, следует из того, что норма в Я порождена скалярным произведением (•, •), а / — изометрия. > Предложение 9. Всякое гильбертово пространство Я рефлексивно. < Каждый элемент tp € Я" задает функционал g е Я* по правилу g(x):=<p(fx) (где, как и раньше, мы полагаем fx:=I(x)). По теореме Рисса g = fe для некоторого е € Н. Отсюда для каждого х е Н получаем <p(fx) = fe(x) = (е, х) = /z(e). Снова применяя теорему Рисса, мы видим, что v?(/) = /(e) для всех/еЯ*, т. е. что у> = ае — функционал означивания (см. § 1.6). Дальнейшее очевидно. > Следующее приложение теоремы Рисса сыграет впоследствии важную роль в вопросах, связанных со спектральной теоремой (см. § 6.6). Пусть S: Н х Я —» С — заданный в гильбертовом пространстве сопряженно-билинейный функционал. Будем говорить, что он ограничен, если sup{|5(x, у)\ \ х, у е Шя} < оо, иными словами, если S, будучи рассмотрен на Н х Н{, является совместно ограниченным билинейным функционалом; см. определение 1.4.6. (На самом деле вместо «совместно» можно было бы сказать и «раздельно», но об этом мы узнаем позже из теоремы 4.5.) Указанная верхняя грань называется нормой «функционала» S и обозначается, как водится, через ||«S||. Множество ограниченных сопряженно-билинейных функционалов мы обозначим через CBil(H).
§ 3. ТЕОРЕМА ОБ ОРТОГОНАЛЬНОМ ДОПОЛНЕНИИ И ВОКРУГ НЕЕ 181 Теперь возьмем оператор Т 6 В(Н) и сопоставим ему отображение ST: Я х Я —> С, (х, у) н-> (Тх, у). Из свойств скалярного произведения ясно, чтоST€CBil(H), причем ||5Т|| = ||Г|| (см. предложение 1.3.3). Сопряженно-билинейный функционал ST мы будем называть ассоциированным с оператором Т. Теорема 3. Отображение, переводящее Г ввт,—это биек- ция между множествами В(Н) и CBil(H). < Очевидно, указанное отображение инъективно. Поэтому наша задача — взяв S eCBil(H), предъявить такой оператор Г еВ(Н), что ST = S. Зафиксируем вектор х е Я и рассмотрим отображение /: Я —> Я, у >-> S(x, у). Очевидно, / — линейный функционал с нормой II/H ^ ||«S||||x||. По теореме Рисса существует такой единственный элемент z е Я, что S(x, у) = (у, z), иначе говоря, «S(x, У) = (-г, у)- Теперь, «отпустив» х, положим Г: Н -+ Н, xt-^z; ясно, что это отображение однозначно определено правилом (Тх, у) =5(х, у), х, у€ Я. Из линейности отображений (•, •) и S по первому аргументу ясно, что Т — линейный оператор. Наконец, ||Тх|| = sup{|(Tx, у)\ \у € Шя} = sup{|5(x, у)\ | у е Шя} ^ ||5||||х||, откуда оператор Т ограничен. Дальнейшее очевидно. > В теореме Рисса, посвященной абстрактным гильбертовым пространствам, заключено огромное множество утверждений, касающихся конкретных гильбертовых пространств, встречающихся в различных областях анализа. В качестве иллюстрации выполним одно обещание, данное в § 1.6. Предложение 10. Пусть (X, р.) — измеримое пространство. Тогда каждая функция у е L2(X, р.) задает на том же пространстве L2(X, р) ограниченный функционал /у по правилу х н-> J x(t)y(t)dp(t), и, обратно, каждый ограниченный х функционал f на L2(X, р) есть f для однозначно определенной функции у е L2(X, р). Определенная этим биекция 12: L2(X, р) -* L2(X, р)* есть изометрический изоморфизм нормированных пространств. < Очевидно, для Я = L2(X, р.) каноническая биекция / сопоставляет каждой функции у функционал fy, действующий по правилу /„(х) = J x(t)y(t)dp(t) (мы добавляем шляпку в обол- значении функционала, чтобы избежать путаницы). Отсюда мы
182 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА видим, что функционал /у, будучи не чем иным, как /у, где у— комплексно-сопряженная к у функция, корректно определен. Тем самым возникает участвующее в формулировке отображение 12, которое, очевидно, является (в отличие от Л) линейным оператором. Далее, всякий элемент / € Ь2(Х, /х)* есть /у для некоторой функции yeL2(X, ц), и, стало быть, / = /у; отсюда отображение 12 сюръективно. Наконец, для любой функции y€L2(X, /х) выполнено равенство ||/J = ||/1|| = \\у\\ = ||у||. Дальнейшее очевидно. > Предупреждение. Доказательство теоремы Рисса проходит с очевидными изменениями и для действительных гильбертовых пространств. При этом соответствующая каноническая биекция осуществляет «настоящий» изометрический изоморфизм между пространством и его сопряженным, и можно говорить об отождествлении обоих пространств посредством такой биекции. Однако для нашего основного поля С подобные речи надо вести с большой осторожностью: ведь отображение /, хоть и сохраняет нормы, не является даже линейным оператором. (Увы, как показывает опыт, все равно на экзамене окажется, что некоторые студенты пребывают в счастливом неведении относительно этого обстоятельства.) В связи со сказанным заметим, что из вида скалярного произведения в Я* сразу следует, что отображение I переводит всякую тотальную ортонормированную систему из Я в таковую же из Я*. Поэтому из теоремы Фишера — Рисса немедленно следует, что в случае сепарабельного бесконечномерного пространства Я между Я и Я* существуют и «настоящие» унитарные изоморфизмы (и таковых, конечно, много), а из более общей теоремы 2.2 — что подобный факт верен и для произвольного гильбертова пространства. Но все эти изоморфизмы (будучи линейными операторами) не имеют с канонической биекцией ничего общего и зависят от того, как мы выберем тотальную ортонормированную систему в Я. Впоследствии (§ 6.1) мы увидим, что теорема Рисса лежит в основе одного из важнейших понятий функционального анализа — гильбертова сопряженного оператора. * * * Итак, согласно теореме об ортогональном дополнении каждое замкнутое подпространство гильбертова пространства является, в силу предложения 7, образом проектора (= идемпотентного оператора) нормы 1. Это означает, что всякое замкнутое подпространство гильбертова пространства заведомо топологически дополняемо (см. определение 1.5.1 и следствие 1.5.1), и к тому же в качестве его топологического прямого дополнения можно взять его ортогональное дополнение.
§ 3. ТЕОРЕМА ОБ ОРТОГОНАЛЬНОМ ДОПОЛНЕНИИ И ВОКРУГ НЕЕ 183 Однако при переходе к общим банаховым пространствам картина портится. Появляются замкнутые подпространства без топологических прямых дополнений. Это явление, в свое время оказавшееся неприятной неожиданностью, принято перечислять в ряду так называемых патологических свойств банаховых пространств. При этом, в отличие от других патологических свойств, о которых речь пойдет позже (см. теорему 3.3.3), ряд контрпримеров носит вполне классический характер. Теорема 4. (БД) Подпространство % в 1х и подпространство в С[-7г, 7г], состоящее из тех функций, у которых все коэффициенты Фурье с отрицательными индексами равны нулю, не имеют топологических прямых дополнений^. Если Вам любопытно, как такое может произойти, то вот доказательство первого из этих утверждений. Оно предлагается в качестве необязательного материала. < (Доказательство теоремы Филлипса.) Прежде всего, для любого М с N положим 1Х(М) := {I е 1Х | ?„ = 0 при n i М}, а для / е ? положим fM := f\i^M)- Заметим, что если подмножества Мк 6 N, к = 1, 2,..., попарно не пересекаются, то из определения норм в 1Ж и ? очевидным образом следует, что ? ll/wt II ^ И/И- Теперь предположим, что подпространство с* топологически дополняемо. Тогда в силу следствия 1.5.1 существует ограниченный проектор Р: i^-t/^c образом с^. Пусть /(i) —функционал на 1Х, который каждой последовательности ? сопоставляет fc-й член последовательности Р(?)ес^,; очевидно, он также ограничен. Отметим, что/<*>(!>')= 1 при Z = fc и/<*>(р') = 0при 1фк. Построим по индукции натуральные числа пр < п, <... и вложенные бесконечные числовые множества Af@) эМ*!) Э ... Положим п$ := 1 и М*°* := N; пусть уже построены rig,..., пк и М<°>,..., М<*). Рассмотрим произвольное разбиение ММ на непересекающиеся бесконечные множества м? +l',meN,ac ним — функционалы /*"*' и /дЙ + „1 m е N. Поскольку ряд из норм последних функционалов сходится (см. выше), существует такое т, что ||/{?А+1)|| < 1/2 и mq, ..., пк $Af? + 1K Мы полагаем Af(* + '* равным М<? + '>, а в качестве пк +, берем любое число из М^к +'', большее пк. Обозначим через C(t) последовательность с единицами на местах с номерами nt,n4 + |,... и нулями на остальных местах и положим ? := С • Очевидно, ? = = р"ч-... + р"* -I- С(* + '>. С(* + ° е Ц(М<1 +')) и ||С<* + ,>|| = 1 для всех к. Далее, /<п*>(р".) = ... = /("*)(,"*->) = 0 и /^(р"*) = 1: отсюда в силу выбора JW'* + '> для любого it выполнено неравенство |/(п*)(С)| = |1 +/("*)(С4 + 1)| > 1/2. Но ведь / (С)-это п4-й член последовательности Р(С)есь, и, стало быть, /(п*'(С)-»0 при fc —юо. Получили противоречие. > Доказательство второго утверждения этой теоремы (фактически, более общего результата) см. [106, с. 191]. '* Утверждение теоремы о пространстве <% принадлежит Р. Филлипсу.
184 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Обсуждаемые вопросы тесно связаны с вопросом о продолжении операторов, затронутым в § 1.6. Предложение 11. Пусть Е — преднормированное пространство, Е0 — его подпространство. Следующие утверждения эквивалентны: (i) подпространство Е0 топологически дополняемо; (и) тождественный оператор в Е0 допускает продолжение до некоторого ограниченного оператора S: Е —> Е0; (Ш) любой ограниченный оператор Т0: E0—*F, где F —произвольное преднормированное пространство, допускает продолжение до некоторого ограниченного оператора Т: Е —» F. < (i) =>¦ (Hi) Согласно следствию 1.5.1 существует ограниченный проектор Р: Е —> Е с образом Е0. В качестве требуемого продолжения, очевидно, подойдет Т := Т0 о Р\Е°. (Ш) =*¦ (И) Очевидно. (и) =>¦ (i) Поскольку, очевидно, композиция (inM: Е —»Е — проектор с образом Е0, снова работает следствие 1.5.1. > Отсюда с учетом приведенных выше контрпримеров мы видим, что уже в контексте банаховых пространств отнюдь не всякий ограниченный оператор допускает ограниченное (и тем более сохраняющее норму) продолжение. Иными словами, в теореме Хана — Банаха пространство скаляров нельзя заменить на произвольное банахово пространство. В гильбертовых пространствах, разумеется, царит полное благолепие. Предложение 12. Пусть Н — гильбертово пространство, Н0—его произвольное подпространство, F —произвольное банахово пространство. Тогда всякий ограниченный оператор <р0: Я0 —>F допускает такое продолжение (р: H—*F, что ||?>0Н = |М1- < Пусть Я, — замыкание подпространства Я0. Согласно принципу продолжения по непрерывности оператор <р0 продолжается до такого оператора vV Я, —> F, что ||^,|| = ||у>||. Остается положить ip := ifiP, где Р —ортопроектор в Я на Я,. > На самом деле за примерами, указанными в теореме 4, скрывается тот общий факт, что отсутствие указанной там патологии — это уникальное свойство гильбертовых пространств. Теорема 5 (Линденштраусс, Цафрири). (БД) Следующие свойства банахова пространства Е эквивалентны: (i) любое замкнутое подпространство в Е обладает топологическим прямым дополнением;
§ 4. ТОПОЛОГИЧЕСКИЕ И КАТЕГОРНЫЕ СВОЙСТВА 185 (ii) пространство Е топологически изоморфно некоторому гильбертову пространству {иными словами, его норма эквивалентна некоторой гильбертовой норме). Обсуждение и ссылки см. [92, с. 255]. § 4. Принцип открытости и принцип равномерной непрерывности Классический функциональный анализ покоится на трех китах — трех фундаментальных теоремах, связанных с именем Банаха. Это теорема Хана — Банаха, теорема Банаха об обратном операторе и теорема Банаха — Штейнгауза. Первую из этих теорем читатель (как мы надеемся) уже хорошо знает и уважает. В этом параграфе мы расскажем о второй и третьей теоремах — тех самых, из-за которых банаховы пространства получили свое имя. По-видимому, самым глубоким из всех трех результатов является так называемая теорема Банаха об обратном операторе; с нее мы и начнем. Следующее утверждение исторически является завершающей частью доказательства этой теоремы Банаха, но имеет и другие применения. Предложение 1. Пусть Т: Е —>F —ограниченный оператор из банахова пространства в нормированное. Пусть, далее, множество Т(Ш°Е) (образ открытого единичного шара в Е) плотно в открытом шаре 9U1°F (с центром О и радиусом 0>О) пространства F. Тогда Т(Ш%) содержит весь 0UI°F. < Зафиксируем у е вШ°р и возьмем такое 6 е @, 1), что у':= 6~1у также лежит в 6U10F. По условию существует такой вектор х, бШ^., что \\у'-Т(х1)\\<A-6)в. Поскольку множество Т(A — б)Ш°Е) (образ A — й)-растяжения шара Ш^) очевидным образом плотно в 0A - S)U1°F (A - «^-растяжении шара вШр), существует такой вектор а^, ||л^|| < 1 - 6, что \\У'-Т(х1)-Т(х2)\\<A-6Jв. Далее, поскольку множество Г(A — йJШд) точно так же плотно в 6A - 6JU1°F, есть такой вектор х^, \\х^\\ < A - бJ, что \\у'-Т(х,)-Т(х2)-Т(х3)\\<A-був. Продолжая этот процесс, мы получаем последовательность таких векторов хп, neN, \\хп\\ <A - 6)п~\ что ||у'_Г(х1)-...-Г(^)||<A-*)-Л
186 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Поскольку числовой ряд JH ||х„|| сходится, а пространство Е полно, в силу признака Вейерштрасса (предложение 1.8) ряд Ё хп сходится к некоторому вектору х' е Е. Так как оператор Т непрерывен, Т(х') совпадает с ? Т(хп), т. е., иными словами, Су'. --¦ со Итак, у' = Т(х'), причем ||х'|| ^ ? КИ < ? О - &)" = *"'• п=1 п=0 Положим х := 8х'; тогда, очевидно, х € Ш^ и Т(х) — 6у' = у. Дальнейшее очевидно. > С учетом предложения 1.4.3 отсюда вытекает Следствие 1. Если выполнены условия предыдущего предложения, то оператор Т топологически сюръективен. Теорема. 1 (принцип открытости). Пусть Т: Е —> F —сюръек- тивный ограниченный оператор между банаховыми пространствами. Тогда T(U1°E) содержит, для некоторого в>0, весь открытый шар 9U1°F. Как следствие1*, оператор Т открыт и топологически сюръективен. < Так как Т сюръективен, F = U Т(пШ°Е). Но пространство F банахово; поэтому в силу теоремы Бэра существует такое т, что множество Т(тпШЕ) не разрежено, а значит, плотно в некотором открытом шаре V = у + eUl°F с F. Положим в := J- и возьмем z е вШр. Поскольку векторы y + 2mz и уж, конечно, у лежат в V, существуют такие последовательности у„, у'п б Т(тШЕ), что первая сходится к у, а вторая — к y+2mz. Отсюда последовательность zn:=y'n-yn, которая, очевидно, лежит в ТBтШЕ), сходится к 2mz, а посему o^zn € Т(Ш%) сходится к z. Мы показали, что множество Т(Ш°Е) плотно в вШр, и остается воспользоваться предложением 1. > Теорема 2 (Банаха об обратном операторе). Пусть оператор Т: Е —¦ F — биективный ограниченный оператор между банаховыми пространствами. Тогда обратный к нему линейный оператор Г ограничен. (Иными словами, всякий непрерывный линейный изоморфизм между банаховыми пространствами является топологическим изоморфизмом.) < В применении к биективному оператору Т предыдущая теорема означает в точности, что оператор Т непрерывен в нуле. Дальнейшее очевидно. > '' См. предложение 1.4.3.
§ 4. ПРИНЦИПЫ ОТКРЫТОСТИ И РАВНОМЕРНОЙ НЕПРЕРЫВНОСТИ 187 Теорему Банаха можно переформулировать и так: всякий мор- физм в категории Ban, биективный как отображение множеств, — изоморфизм. Разумеется, то же верно и для категории Hil (но, конечно, не для Ban, и Hil,). Из доказанной теоремы с учетом предложений 1.1 и 1.2 немедленно вытекает Следствие 2. Ограниченный оператор между банаховыми пространствами топологически инъективен тогда и только тогда, когда он инъективен и обладает замкнутым образом. Упражнение 1. (i) Принцип открытости, в свою очередь, следует из теоремы Банаха. (и) Если выполнены условия предложения 1, то F также является банаховым пространством. Указание. В обеих частях упражнения работают предложения 1.5.3 и 1.5.4 (i), которые позволяют ограничиться случаем, когда оператор Т инъективен. Насколько существенно в теореме Банаха условие полноты обоих пространств? То, что пространство F обязательно должно быть банахово, фактически уже показано в примере 1.4.2. Полнота пространства Е также необходима, хотя соответствующие контрпримеры выглядят сложнее: Упражнение 2. Пусть (F, || • ||) — бесконечномерное банахово пространство. Тогда в нем можно ввести другую норму || • ||' так, что оператор 1: (F, \\ ¦ ||') —> (F, \\ • ||) является ограниченным, даже сжимающим, но не обладает ограниченным обратным. Указание. В пространстве F найдется такой линейный базис е„, v е Л, что ||е„|| = 1 и inf-fHe^ - е„|| | /х, v е Л} = 0. Тогда подойдет норма ||Е AteJ:=±\\k\. Для приложений часто оказывается удобной еще одна теорема, также по сути эквивалентная теореме Банаха. В ней участвует понятие графика отображения у: X-+Y между множествами: так называется подмножество Г(у>) := {(ж, <р(х)) \ х е X) в декартовом произведении X х Y. Очевидно, график линейного оператора Т: E-+F — подпространство в Е®F (или, что то же самое, в ExF). Теорема 3 (о замкнутом графике). Пусть Т: Е —> F —линейный оператор между банаховыми пространствами. Тогда если график Г(Г) этого оператора замкнут в пространстве E®F, рассмотренном с нормой /, -суммы, то оператор Т непрерывен.
188 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА (Иными словами, если из сходимости последовательности хп к х в Е и сходимости последовательности Т(хп) к у в F следует, что у= Т(х), то оператор Т непрерывен.) < В силу условия Г(Т) — банахово пространство относительно унаследованной из Е ф F нормы. Рассмотрим 5: Г(Г) —> Е, (х, Т(х)) н-> х; это, очевидно, биективный ограниченный (даже сжимающий) оператор между банаховыми пространствами. По теореме Банаха оператор 5 также ограничен, т. е. для некоторого С > О и всех х е Е выполнено неравенство ||(х, Т(х))||:=||х||+||Т(х)||^С||х||. Отсюда для тех же х выполнено неравенство || Т(х)|| ^ (С - 1)||х||. > Упражнение 3. Теорема Банаха, в свою очередь, следует из теоремы о замкнутом графике. Теорема Банаха, равно как и ее разновидности — теоремы 1 и 3, — имеет массу приложений. Вот, пожалуй, простейшее. Оно выглядит довольно своеобразно, утверждая нечто вроде того, что «из неравенства следует равенство». Предложение 2. Пусть в линейном пространстве Е заданы нормы || • || и || ¦ ||', причем оба пространства (Е, || • ||) и (Е, || • ||') — банаховы. Тогда если первая норма мажорирует вторую, то они эквивалентны. < Условие мажорирования, очевидно, означает, что оператор 1: (Е, || ¦ ||) -* (Е, || • ||') ограничен. Но тогда по теореме Банаха, ограничен и оператор 1: (Е, \\ • ||') —>(Е, \\ • ||). Дальнейшее очевидно. > Теперь расскажем о важном приложении теоремы Банаха к геометрии банаховых пространств. Предложение 3. Пусть Е — банахово пространство, Е1 — его замкнутое подпространство. Тогда всякое замкнутое линейное дополнение Е2 этого подпространства в Е (лишь бы оно существовало!) является его топологическим прямым дополнением. < В рассматриваемой ситуации отображение Et ф, Е2 —* Е, указанное в предложении 1.5.7 (Ш), есть ограниченный биективный оператор между банаховыми пространствами. По теореме Банаха это топологический изоморфизм. > Объединяя это предложение с предложением 1.5.10, немедленно получаем Следствие 3. Действующий в банаховом пространстве проектор на замкнутое подпространство вдоль другого замкнутого подпространства (автоматически) ограничен.
§ 4. ПРИНЦИПЫ ОТКРЫТОСТИ И РАВНОМЕРНОЙ НЕПРЕРЫВНОСТИ 189 Упражнение 4. В предложении 3 слово «банахово» нельзя заменить на «нормированное». Указание. Рассмотрите в ^ подпространства Н1 — замыкание span{p2" | п е N} и Я2 — замыкание span{(p2n + -р2") | п е N} и положите Н := Нх + Н2 (без замыкания!). Мы многократно обсуждали вопрос о том, каким конкретным содержанием наполняется для известных нам категорий функционального анализа общекатегорное понятие изоморфизма. Что можно сказать о морфизмах следующей степени сложности — коретракциях и ретракциях? В категориях гильбертовых пространств картина вполне прозрачна. Предложение 4. Пусть S: Н —> К —оператор между гильбертовыми пространствами. Тогда (i) S — коретракция в HiL ¦<=$- 5 — инъективный оператор с замкнутым образом; (и) S — коретракция в HiL, «=*> 5 — изометрический оператор. < (i), (ii) =>- Пусть Г — левый обратный к S ограниченный оператор (= морфизм в HiL). Не теряя общности, мы можем считать, что Н фО, а значит, Т фО; тогда для любого хеЯв силу условия TSx = x выполнено неравенство ||5а;|| ^ ]т[1М1- Поэтому из следствия 1.4.2 вытекает, что оператор S топологически инъек- тивен и, в частности (следствие 2), его образ замкнут. Если же же вдобавок S и Т — сжимающие операторы (= морфизмы в HiL,), то последнее неравенство означает просто, что \\Sx\\ = \\х\\, т. е. S — изометрический оператор. (i), (ii) ¦$= Положим К0 := Im (S). По теореме Банаха оператор 5° := S\к° — топологический изоморфизм на К0. Пусть Р — ортопроектор на К0 в К и Р0:=Р\К°. Тогда, очевидно, оператор Т := E°)_1Р° — левый обратный к S, а значит, S — коретракция в HiL. Если же вдобавок S — изометрический оператор, то Г — сжимающий оператор, а значит 5 — коретракция в Н1Ц. > По образцу этого предложения нетрудно сделать Упражнение 5. Для того же оператора S справедливы следующие утверждения: (i) S — ретракция в HiL <?=Ф- S — сюръективный оператор; (ii) S — ретракция в HiL, <<=>- S — коизометрический оператор.
190 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Указание. Пусть оператор S сюръективен, а стало быть, топологически сюръективен и 50 — его ограничение на КегE,)±. Из предложений 1.5.4 и 3.6 следует, что это топологический изоморфизм, к тому же изометрический, если S — коизометриче- ский оператор. Поэтому копродолжение оператора E0)-1 на Я — оператор, правый обратный к S. В наших остальных категориях (ко)ретракции выглядят не столь прозрачно: слишком сложна геометрическая природа их объектов. Упражнение 6. В категории Ban (i) коретракция — это в точности инъективный оператор, образ которого замкнут и имеет замкнутое линейное дополнение; (й) ретракция — это в точности сюръективный оператор, ядро которого имеет замкнутое линейное дополнение. В случае категорий Nor и Pre мы можем лишь сделать малоинтересное заявление о том, что коретракции в этих категориях суть топологически инъективные операторы с топологически дополняемым образом, а ретракции суть топологически сюръективные операторы с топологически дополняемым ядром. (Проверьте!) Разумеется, сказанное верно и для Ban, но там — и в этом все дело — при выполнении требований, указанных в упражнении 6, «все остальное» выполнено автоматически. Замечание (для самых любопытных). В категории Ban1 вопрос о («^ретракциях решается, как и в Ban, в геометрических терминах, но ответ несколько сложнее. Мы уже видели (см. доказательство предложения 4 (и), =*¦), что сжимающий оператор Т: Е —» F, чтобы быть коретракцией в BaN[, необходимо должен быть изометрическим, а его образ должен иметь замкнутое линейное дополнение; последнее, как мы теперь знаем, эквивалентно существованию в F ограниченного проектора на этот образ. Но этого, вообще говоря, мало: среди подобных проекторов должен существовать сжимающий (и имеющий, как следствие, норму 1). Аналогично Т является в той же категории ретракцией •<=*¦ он коизометричен и в Е существует сжимающий проектор на его ядро. На самом деле вопрос о (ко)ретракциях в Ban, — один из многих вопросов, стимулирующих интерес к подпространствам банаховых пространств, «столь хорошо расположенных», что они являются образами сжимающих проекторов. В частности, в подобных же геометрических терминах — на этот раз речь шла о подпространствах в В(Н) — был в 80-х годах охарактеризован класс так называемых аменабельных операторных алгебр, играющих важную роль в математике и математической физике (ср. конец § 6.3). Мы переходим к третьему фундаментальному результату, связанному с именем Банаха. Теорема 4 (принцип равномерной ограниченности; Банах, Штейнгауз). Пусть Е — банахово, a F — преднормированное пространство, Tv: E-^F, v е Л, — семейство ограниченных операторов. Пусть, далее, для любого х е Е выполнено неравенство ||Г„(ж)|| < Сх для некоторой зависящей, вообще говоря,
§ 4. ПРИНЦИПЫ ОТКРЫТОСТИ И РАВНОМЕРНОЙ НЕПРЕРЫВНОСТИ 191 от х, постоянной Сх > 0 и всех v е А. Тогда существует такая постоянная С > 0, что \\ Т„\\ ^ С для всех v е Л. Свойство семейства операторов, выраженное в условии этой теоремы, часто называют поточечной ограниченностью этого семейства, а свойство, выраженное в ее утверждении, — равномерной ограниченностью этого семейства. < Предположим противное; тогда среди заданных операторов существует последовательность Тп, п = 1, 2,..., такая, что ||2^|| > п для каждого п. Положим, для каждого натурального к, Мк:={хеЕ\ ||Тп(х)|| ^ к для всех п}. Покажем, что для любого к такое множество разрежено. Зафиксируем какой-либо открытый шар U(x, г) = х + гШ°в в Е и произвольно выберем п > -(к + Сх). Тогда, в силу ||Т„|| > п и определения операторной нормы, существует у1 е ШБ, такой, что H^d/OH > п; очевидно, не теряя общности, можно считать, что у7 G Ul%. Положим z := х + ryf; тогда ||х - z\\ ^ ЦгУЦ < г, т. е. z е U(x, г), и Ш*)|| > \\Тп(ту')\\ - ||ГП(*)|| > та - Сх > к. В силу непрерывности нашего оператора, это же неравенство сохраняется при замене z на любой вектор из некоторой его окрестности, скажем, U. Отсюда U(x, г) содержит некоторое открытое множество, а именно, свое пересечение с U, не содержащее точек Мк. Это и означает, что Мк разрежено. Теперь рассмотрим множество М := U Мк. Будучи объединением счетного семейства разреженных множеств, М — тощее множество, а значит, по теореме Бэра, не может совпадать со всем Е. В то же время для любого х е Е из оценки ||Г„(х)|| ^ Сх следует, что х е Мк для всех к ^ Сх. Получили противоречие. > Разумеется, все сказанное в теореме Банаха — Штейнгауза об операторах относится и к функционалам. Здесь оказывается полезным ее следующая специализация: Предложение 5. Пусть Е — нормированное пространство, z„, v б Л, — семейство его векторов, такое, что для любого f € Е* числовое множество {/(х„) | v е Л} ограничено. Тогда исходное семейство ограничено по норме в Е. < Рассмотрим на Е* семейство функционалов a(xv), где а: Е-*ЕЫ — каноническое вложение (см. § 1.6). В силу условия, это семейство поточечно ограничено и, стало быть, ввиду полноты Е', равномерно ограничено. Остается напомнить, что а — изометрический оператор. >
192 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Предположение о полноте Е нельзя отбросить. Упражнение 7°. Последовательность функционалов /„:(<«, II-ID-С, ?-<,, является поточечно, но не равномерно ограниченной. Стоит подчеркнуть, что в теореме Банаха — Штейнгауза требуется полнота лишь одного из участвующих в ней пространств — области определения Е наших операторов; в то же время в теореме Банаха об обратном операторе оба пространства — Е и F — должны быть полны. (Что же касается теоремы Хана — Банаха, то в ней вообще никакая полнота не участвует.) В наших лекциях нам неоднократно предстоит применять указанный принцип. Сейчас мы приведем его следствие, касающееся билинейных операторов. Мы помним (определение 1.4.6), что есть два подхода к тому, какие билинейные операторы, связывающие (пред)нормированные пространства, считать ограниченными, и эти подходы уже в классе нормированных пространств приводят к двум различным классам: раздельно ограниченных билинейных операторов больше, чем совместно ограниченных (пример 1.4.5). Однако в классе банаховых пространств подобные примеры невозможны. Теорема 5. Пусть Е — банахово пространство, a F и G — произвольные преднормированные пространства. Тогда любой раздельно ограниченный билинейный оператор TZ: Е х F —> G совместно ограничен. < Для каждого у 6 F рассмотрим отображение Ку: Е —» G (см. определение 1.4.6). Тогда из раздельной непрерывности отображения И очевидным образом следует, что семейство {^у I II2/11 ^ О есть подмножество в В(Е, G), удовлетворяющее условиям теоремы Банаха — Штейнгауза. В силу этой теоремы sup{||7?y|| | || у|| < 1} < оо, а это число, очевидно, совпадает с \\Щ из определения 1.4.6. > § 5. Функтор банаховой сопряженности и другие категорные вопросы На категориях функционального анализа определен ряд важных функторов. Прежде всего, на этих категориях, как и на любой категории вообще, действуют ко- и контравариантные функторы морфизмов (см. пример 0.7.1). Однако заметной особенностью этих функторов для категорий BAN, NOR и Pre является то, что их можно (и должно) рассматривать со значениями не в SET, как в общем случае, а в самой исходной категории. Мы ограничимся случаем первой из указанных категорий, по-видимому, наиболее важным.
§ 5. ФУНКТОР БАНАХОВОЙ СОПРЯЖЕННОСТИ 193 Мы видели, что для любых Е, F G BAN множество В(Е, F), т. е. в общекатегорных обозначениях hbui(E, F), обладает структурой банахова пространства (предложение 1.7). Соответственно изменив во всех обозначениях § 0.7, связанных с мор-функторами, hBm(E, F) на В(Е, F), мы сделаем вот какое наблюдение. Предложение 1. Для любого пространства Е е BAN ы мор- физма ip: F —¦ G в категории BAN (= ограниченного оператора из F в G) отображения В(Е, ip): В(Е, F) - В(Е, G), V » >рф, В(<р, Е): B(G, Е) -»B(F, Е), -ф ¦-» фр, суть сами ограниченные операторы. < Непосредственно следует из оценки для операторной нормы композиции, указанной в предложении 1.3.4. > Отсюда сразу следует, что каждое банахово пространство Е порождает два функтора, ковариантный и контравариантный, из BAN в (саму) BAN, а именно В(Е, ?): F ^ В(Е, F); ц> ^ В(Е, <р) и В(?, Е): F .-» B(F, Е); <р i-> В{ч>, Е). Предоставляем читателю дать аналогичное определение функторов морфизмов, действующих из категории NOR в Nor и из PRE в Pre. Из всех этих функторов наибольшую роль в анализе играет контравариантный функтор ??(?, С): BAN -* BAN, соответствующий случаю Е = С. Определение 1. Этот функтор называется функтором банаховой сопряженности (или банаховым функтором звездочки) и кратко обозначается (*): BAN—> BAN. Очевидно, для объекта Е в BAN объект (*)(Е) — это не что иное, как сопряженное пространство Е*. Соответственно для морфизма Г в BAN принято писать Т* вместо (*)(Т). Построенные морфизмы (=операторы) настолько важны, что мы дадим их непосредственное определение. Определение 2. Пусть Т: F —> G — оператор между банаховыми (или, более общо, нормированными) пространствами. Оператор Г*: G* —>F", действующий по правилу f*-*fT, называется банаховым сопряженным к Т.
194 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Таким образом, для любого х е F выполнено равенство [T*f](x) = f(Tx), или, в другой записи, (T-f,x) = (f,Tx), A) которое можно, если Вы предпочитаете формулы, принять за исходное определение сопряженного оператора. В то же время действие этого оператора хорошо иллюстрируется с помощью коммутативной диаграммы которую легче запомнить, чем предыдущее равенство. ЗАМЕЧАНИЕ. Мы говорим «банахов сопряженный», а не просто «сопряженный», потому что впоследствии выдающуюся роль в наших лекциях будет играть понятие гильбертова сопряженного оператора (см. определение 6.1.1), а это не совсем одно и то же. В отличие от функтора (*):=В(?,С), (ковариантный) функтор В(С, ?) не представляет особого интереса. Упражнение 1. Функтор В(С, ?) естественно эквивалентен тождественному функтору в Ban. Вот несколько правил, которым подчиняется конструкция банахова сопряженного оператора. Упражнение 2. Пусть S: Ei—* Е2 и Т: Fl —> F2 — ограниченные операторы между банаховыми пространствами. Тогда (i) если Ех = F, и Е2 = F2, то (S + Т)* = S* + Т*; (И) (A S)' = А 5* для всех А е С; (iii)||S-|| = ||S||; (iv) если Ei = F2, то (ST)' = Г*5*; (v) если 1 —тождественный оператор в Е, то 1* — тождественный оператор в Е'. Указание. Свойства (iv) и (v) закодированы в слове «функтор», а (Ш) следует из теоремы Хана — Банаха. Заметим, что из (Ш) следует, что оператор, являющийся банаховым сопряженным к сжимающему, — сам сжимающий. Это позволяет очевидным образом ввести аналогичный «функтор банаховой сопряженности», действующий в категории BAN,.
§ 5. ФУНКТОР БАНАХОВОЙ СОПРЯЖЕННОСТИ 195 Применяя функтор банаховой сопряженности два раза, мы приходим к функтору (**): BAN —> BAN, теперь уже, разумеется, ковариантному. Этот функтор сопоставляет каждому пространству F е BAN его второе сопряженное пространство F** (см. § 1.6), а каждому оператору Т: F —> G его так называемый второй сопряженный оператор Т": F" —> G**. Он тесно связан с тождественным функтором 1 в BAN (ср. § 0.7). Напомним о каноническом вложении aF: F —> F", определенном в § 1.6 для каждого нормированного (в частности, банахова) пространства F. Предложение 2. Для любого оператора Т. F —> G между банаховыми пространствами имеет место коммутативная диаграмма F -JL-» G 4 ь Иными словами, семейство {aF \ F е BAN} —это естественное преобразование между действующими в BAN функторами 1 и ('*) (см. определение 0.7.6). < Поскольку элементы пространства G** суть функционалы на G', наша задача — показать, что для любых х € F и / б G* выполнено равенство (aG(Tx), /) = (T**(aFx), /). Конструкция операторов а^. и аа вместе с равенством A) приводит к соотношениям (aG(Tx), /) = (/, Тх) = (Г*/, х) = (aFx, T'f). Теперь (это, по-видимому, психологически трудный момент) подставим в общую формулу A) Т" вместо Г*, Г* вместо Т, aFx вместо / и / вместо х. Мы видим, что (aFx, T*f) есть не что иное, как (T*'(aFx), /). Дальнейшее очевидно. > Банахов сопряженный оператор — это одно из ключевых понятий функционального анализа, к обсуждению свойств которого мы еще не раз вернемся. А пока дадим несколько иллюстраций, показав, чем он оборачивается для некоторых конкретных операторов. Упражнение 3. Пусть А е/м. Тогда оператор 3^*, являющийся банаховым сопряженным к действующему в ?, (соответственно е^,, /,) диагональному оператору ГЛ (см. пример 1.3.2), совпадает, с точностью до изометрической эквивалентности, с диагональным оператором ТЛ в ^ (соответственно Z,, 1^). Более подробно, имеют
196 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА место коммутативные диаграммы Ч —^—* Ч <Ъ* —^—> <$ Ч —^—¦ Ч где 72,10и 11 — изометрические изоморфизмы, указанные в упражнениях 1.6.1-3. Упражнение 4. Оператор Т*, являющийся банаховым сопряженным к действующему в 12 (соответственно q,, lx) оператору левого сдвига 7] (см. пример 1.3.3), совпадает, с точностью до изометрической эквивалентности, с оператором правого сдвига Тг в ij (соответственно /,, 1^), и в этом утверждении можно поменять местами Т, и Тт. (Сформулируйте и докажите более подробное утверждение, выписав соответствующие коммутативные диаграммы.) Упражнение 5. Укажите операторы, являющиеся банаховыми сопряженными к операторам сдвига в пространствах Lp(X) при X := R, Т и р = 1, 2 (см. пример 1.3.7). Указание. Это сдвиг «в обратном направлении». Разумеется, оператор, являющийся банаховым сопряженным к топологическому либо изометрическому изоморфизму 7, сам относится к тому же классу. Это легко проверить непосредственно, а можно вместо этого заявить, что 7* — результат применения функтора (в данном случае (*)) к изоморфизму в BAN либо, смотря по смыслу, в Ban,. ЗАМЕЧАНИЕ. Верно и обратное: если Г — топологический или изометрический изоморфизм, то таков же и 7. Этот факт мы вскоре предложим для просвещенного читателя в качестве упражнения 10. В следующих двух примерах Е — замкнутое подпространство банахова пространства F. ПРИМЕР 1. Оператор in*: F'—>E*, являющийся банаховым сопряженным к in: Е —> F, сопоставляет каждому функционалу на F его сужение на Е. Из теоремы Хана — Банаха очевидным образом следует, что это коизометрический оператор. ПРИМЕР 2. Оператор рг*: (F/E)" —> F*, сопряженный к pr : F —> F/E, действует по правилу / и-» д, где д: х ь-> f(x + Е). Очевидно, это сжимающий оператор, а из того, что каждый класс
§ 5. ФУНКТОР БАНАХОВОЙ СОПРЯЖЕННОСТИ 197 смежности нормы меньше 1 содержит вектор нормы меньше 1, следует, что II/H = sup{|/(x)| | х Е Ш%Е} < sup{|«7(x)| | х е Ш» } = \\д\\. Таким образом, рг* — изометричекий оператор. А вот и более общее наблюдение. Упражнение 6. Докажите следующие утверждения: (i) оператор между банаховыми пространствами — изометрический <$=>¦ его банахов сопряженный — коизометрический; (ii) оператор между банаховыми пространствами, являющийся банаховым сопряженным к коизометрическому — изометрический. Указание. Часть =>• в (i) и утверждение (ii) устанавливаются рассуждениями, аналогичными приведенным в примерах 1 и 2. Далее, из предложения 2 следует, что если I" — изометрический оператор, то таков же и I. С учетом этого часть <$= в (i) следует из (ii). «Топологическим» аналогом этого «метрического» утверждения служат результаты следующего упражнения. Упражнение 7. Докажите следующие утверждения: (i) оператор между банаховыми пространствами является топологически инъективным <*=>• его банахов сопряженный является сюръективным (или, что здесь то же самое, топологически сюръек- тивным); (ii) оператор между банаховыми пространствами, являющийся банаховым сопряженным к сюръективному, топологически инъек- тивен. Указание. Разложения операторов в виде композиции, указанные в предложении 1.5.3, позволяют свести рассматриваемый случай к случаю (ко)изометрических операторов из предыдущего упражнения. ЗАМЕЧАНИЕ. На самом деле в обоих упражнениях 6 и 7 утверждение (ii) верно, подобно утверждению (i), «в обе стороны», т. е. оператор является коизометрический (соответственно сюръективным) ч=*- его банахов сопряженный является изометрическим (соответственно топологически инъективным). Однако известные автору доказательства части <= этого критерия требуют сильных средств, выходящих за рамки наших лекций. Требуемое рассуждение проведено, например, в учебнике Рудина [46, теорема 4.15]. (Может быть, Вам удастся придумать более простое доказательство?)
198 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Позже мы узнаем, какими топологическими свойствами сопряженные операторы выделяются среди всех операторов, действующих из F* в Е* (см. теорему 4.2.3). Теперь обратимся на время к просвещенному читателю. Сделанные наблюдения позволяют уже без особых усилий доказать теорему, лежащую в основе так называемой «банаховой гомологии» — круга вопросов, лежащих в пограничном слое функционального анализа и гомологической алгебры. Пусть К — категория. Последовательностью в К называется диаграмма вида Мы для простоты ограничимся рассмотрением последовательностей, бесконечных в обе стороны (Стало быть, индексы в обозначениях объектов и морфизмов — произвольные целые числа.) В изображении последовательности стрелки, в зависимости от нашего удобства, могут быть также направлены слева направо (разумеется, все одновременно). Если речь идет о К = Ban, то, применив к объектам и морфизмам последователь- функтор (*), мы получим последовательность ... , E*nl JLu?; -1^ Е'п + Х >... (Г) в той же категории Ban, называемую сопряженной к (Е). Определение 3. Последовательность (?) в Ban называется точной, если для каждого neZ выполнено равенство Кег(Гп_1) = Im(Tn) (иными словами, для каждого х е Еп утверждения «Tn_1z = 0» и *х= Тпу для некоторого у е En+ j» эквивалентны). Возможно, Вам говорили о точных последовательностях в курсе алгебры или топологии, скорее всего в более общем контексте абелевых групп. Это понятие — одно из основных во всей гомологической алгебре и алгебраической топологии (см., например, [30]). Заявление о том, что такая-то последовательность точна, передает в сжатой (и, как считают многие, элегантной) форме важную информацию об устройстве ее объектов и морфизмов и о взаимоотношениях между ними. Например, как легко проверить, последовательность ...<-0-0<-F<-?-S<-0<-0<-... точна -<=>- / — топологический изоморфизм. А вот и ключевой пример. Упражнение 8. Пусть последовательность в Ban вида ...<- o+-o*-g<?-fJ-e<-o<-o<-... точна. (Такие последовательности называются короткими.) Тогда оператор S топологически инъективен, Т (топологически) сюръективен и факторпространство F/Im E) топологически изоморфно G. Теперь сформулируем обещанную теорему. Теорема 1. (БД) Последовательность (?) в Ban точна <=> ее сопряженная последовательность (?*) точна.
§ 5. ФУНКТОР БАНАХОВОЙ СОПРЯЖЕННОСТИ 199 Мы предлагаем Вам доказать нечто вроде локальной формы этой теоремы, из которой она немедленно следует. Упражнение 9. Пусть G <—-— F <— Е — диаграмма в категории Ban, и Г5 = 0. Следующие утверждения эквивалентны: (i) Im (S) — плотное подпространство в Кег (Г), и вдобавок образ Im (Т) замкнут bG; (ii)Ker(S') = Im(T*). Указание. Рассмотрим коммутативные диаграммы G <—- F G* ——> F* \/ - \л D ?>* где D:=F/Ker(T) и оператор R однозначно определен условием коммутативности. (i) =*¦ (ii) Поскольку из равенства TS = 0 следует, что S*T*=0, достаточно показать, что всякий элемент /eKer(S') представим в виде pr *R*g, д е G*. Очевидно, / = 0 на Im E) и поэтому, в силу условия плотности, на Кег (Г). Отсюда / = рг*Л для некоторого he D*. Но поскольку оператор R в силу условия замкнутости топологически инъективен, оператор Я* сюръективен (упражнение 7 (i)). Дальнейшее очевидно. (ii) => (i) Если образ ImE) не плотен в Кег (Г), то теорема Хана —Банаха доставляет элемент / е F*, равный нулю на Im E) и отличный от нуля на Кег (Г). Но первое означает в точности, что /6 Кег E*), а из второго следует, что /? *Im(T*). Если же Im(T) не замкнут, то R* не сюръективен (упражнение 7 (i)). Взяв heD*\lm(R*), мы видим, что /:=pr*/i принадлежит КегE*), но не 1т(Г*). Теорема 1 позволяет быстро сделать обещанное Упражнение 10. Оператор /: Е —» F — топологический или изометрический изоморфизм <=*¦ оператор /*: F* —> Е* топологический или изометрический изоморфизм. Указание. Рассмотрите последовательность ...*— 0*— 0<— F —> Е*— 0«— 0*— ... и в «изометрической» части примените предложение 2. Впоследствии это наблюдение, снова с помощью теоремы 1, будет обобщено; см. упражнения 3.5.8-9. Больше о приложениях этой теоремы Вы можете узнать из книги [57] и указанной там литературы. Следующие несколько строк рассчитаны на читателя, не поленившегося прочитать § 1.7 и пожелавшего больше узнать о его предмете. Один из фундаментальных фактов квантового функционального анализа состоит в том, что функтор морфизмов, определенный на категории QNor квантованных
200 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА нормированных пространств, можно «реорганизовать» так, что он станет принимать значения в той же категории, — подобно тому, как это происходит с функтором морфизмов в Ban и других категориях классического функционального анализа, указанных в начале этого параграфа. Главное здесь, разумеется, в том, что для любых квантовых пространств Е и F множество СВ(Е, F) (т. е. в общекатегорннх обозначениях riQNoR(.E, F)) само обладает некоей канонической структурой квантового пространства. Последняя была обнаружена не сразу, и долгое время само ее существование считалось сомнительным. Однако в начале 90-х гг. Эффрос и Руан и, независимо, Блечер и Полсен нашли нужное квантование. Вот их рецепт. Напомним, что для каждого п е N мы должны снабдить пространство tAn(CB(E, F)) своей нормой так, чтобы вся совокупность норм была квантованием, т. е. удовлетворяла требованиям, указанным в определении 1.7.1. С этой целью рассмотрим, для тех же п, нормированное пространство СВ(Е, Mn(F)), где норма m-го этажа в Mm(Mn(F)) задается путем очевидного отождествления последнего пространства с Mmn(.F). Упражнение 11*. (i) Для каждого п существует линейный изоморфизм между пространствами 1Л^(СВ(Е, F)) и СВ(Е, Mn(F)), который сопоставляет матрице Г = -(Ти) оператор Т: ?-*Mn(F), действующий по правилу аи-> (Ты(х)). у (ii) Последовательность норм || • ||п в Мп(СВ(Е, F)), п е N, определенных равенством ||Г||П := \\Т\\сЬ< есть квантование пространства СВ(Е, F). (Ш) Для любых E,F,Ge QNor и вполне ограниченного оператора <р: F -* G отображения СВ(Е, <р): СВ(Е, F) - СВ(Е, G), ф у* уф, CB(ip,E):CB(G,E)-+CB(F,E), V >—V>V, суть сами вполне ограниченные операторы. Из указанных фактов немедленно следует, что каждое квантовое пространство Е порождает два функтора, ковариантный и контравариантный, из QNor в (саму) QNor, а именно СВ(Е, ?): F у* СВ(Е, F), <р >-> СВ(Е, уз), СВ(?,Е): F~CB(F,E), <р >-> СВ(<р, Е). И снова, как в классическом функциональном анализе, самым важным из всех этих функторов является контравариантный функтор (*) := СВ(?, С) — квантовая версия функтора звездочки. При изучении этого функтора и прежде всего строения квантовых сопряженных пространств мы сталкиваемся с рядом явлений, не имеющих «классического» аналога. Так, например, имеет место символическое равенство (If)* = Ц, понимаемое в том смысле, что квантовое пространство, сопряженное к 1^ со столбцовым квантованием, совпадает, с точностью до вполне изометрического (= изометрического на всех этажах) изоморфизма, с тем же ij, но со строчечным квантованием. В этом же смысле <?)* = Ч- (У)* = «Г* и (ТТ = ^Г- Вообще для всех известных до 1996 г. примеров квантовых гильбертовых пространств их сопряженное квантовое пространство оказалось совсем иным, нежели исходное. Тем более удивительное открытие сделал Пизье, показавший, что среди всех квантовых гильбертовых пространств есть одно-единственное, ведущее себя в полном соответствии с «классической» теоремой Рисса: для этого пространства Н его каноническая биекция на Я* (см. теорему 3.2) есть вполне изометрический сопряженно-линейный
§ 5. ФУНКТОР БАНАХОВОЙ СОПРЯЖЕННОСТИ 201 оператор. Таким образом, подобное квантовое пространство играет в квантовом функциональном анализе ту же роль, что и обычное гильбертово пространство в классическом. Конструкция этого «пространства Гильберта — Пизье» достаточно сложна, и мы ее приводить не будем; см., например, [76, § 3.5]. Мы возвращаемся к общеобязательному материалу. По контрасту с положением дел в категории BAN, множество hK(E, F) для К. — BAN, — ведь это не что иное, как единичный шар в В(Е, F) — не является даже линейным пространством, и поэтому мор-функторы, определенные на этой категории, рассматриваются со значениями в категориях с «более бедными структурами», чаще всего — просто в SET. Зато у BAN, есть свои преимущества. Они, как мы увидим чуть позже, выходят на передний план в круге вопросов, связанных с (ко)произведениями. Среди прочих функторов, заданных на категориях Ban и Ban,, заслуживает внимания целый выводок забывающих функторов в любую из категорий LlN, НТОР, Мет или Set (ср. § 0.7). Отметим также функтор О: BAN, —> Set, сопоставляющий каждому банахову пространству его единичный шар, а каждому сжимающему оператору <р: Е —> F — его биограничение О(у): ШЕ —> U1F. Какая от этого функтора польза, мы расскажем сильному студенту в конце параграфа. Ряд интересных функторов действует в обратном направлении, конструируя банаховы пространства из множеств, топологических пространств и т. п. ПРИМЕР 3. Сопоставим каждому множеству X банахово пространство 1Х(Х) (см. § 1.1), а каждому отображению ш: X —> Y — оператор /„(w): /„(У)—» ^(Х), сопоставляющий функции х б 1Ж(У) функцию у б ^(Х): y(t):= х(шЬ). Этим, очевидно, определен контравариантный функтор /«,(?): SET-» BAN, (проверьте нужные свойства). Сходным образом возникают контравариантные функторы из различных подкатегорий в ТОР со значениями в BAN,. (Предложите какой-нибудь из них, восполнив все детали.) Впрочем, наиболее важный из этих функторов нам все равно понадобится аккуратно определить впоследствии (см. пример 3.1.1). Весьма полезен, в частности для теории операторных алгебр, и функтор из MEAS в BAN,, сопоставляющий измеримому пространству (X, (л) банахово пространство ЬЖ(Х, ц). (Дайте аккуратное определение.)
202 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Мы уже обсуждали в предыдущих параграфах строение тех операторов, которые являются в категориях банаховых и гильбертовых пространств коретракциями и ретракциями. Скажем несколько слов о других видах морфизмов в этих категориях. Предложение 3. В категориях Ban, Ban,, HlL и HlL, мономорфизмы — это в точности инъективные операторы, а эпиморфизмы — это операторы с плотным образом. < Изложенное в предложении 1.5.11 доказательство аналогичных рассуждений для NOR и NOR, без изменений проходит и для указанных четырех категорий; надо лишь учесть, что операция взятия факторпространства не выводит из класса банаховых (предложение 1.9) и гильбертовых (следствие 3.1) пространств. > Сильному студенту, вдобавок, предлагается Упражнение 12*. (i) Пусть Т: ?-> F — морфизм в Ban или Hil. Тогда Г — крайний мономорфизм -<=*• это инъективный оператор с замкнутым образом, и Г — крайний эпиморфизм <=>• это сюръективный оператор. (ii) Пусть Т: Е -* F — морфизм в Ban, или Hil,. Тогда Т — крайний мономорфизм <=$¦ это изометрический оператор, и Г — крайний эпиморфизм <=>¦ это коизометрический оператор. Как следствие, в HlL и HlL, класс крайних мономорфизмов совпадает с классом коретракций, а класс крайних эпиморфизмов совпадает с классом ретракций. Указание. Объедините упражнение 1.5.6 с принципом открытости. Теперь обратимся к (ко)произведениям. Сперва рассмотрим случай конечного семейства банаховых пространств, скажем, Еи ..., Еп. Тогда, разумеется, банахово прямое произведение и банахова прямая сумма этого семейства (см. § 1) обладают одним и тем же подлежащим линейным пространством, совпадающим как с декартовым произведением, так и с прямой суммой этих линейных пространств. И потому мы вправе употреблять любое из соответствующих обозначений х Ек и © Е., а также краткое обозначение Е. Очевидно, элементы пространства Е можно считать строками х = (х,,..., хп), хк 6 Ек, причем щ: Е —» Ек действуют как и-»г4, a ik: Ек -* Е действуют как у н-» @,..., 0, у, 0,...) (у на fc-м месте). Как обычно, мы будем считать каждое Ек подпространством в Е, отождествляя его с Im (гк). При этом норма || • ||п банахова прямого произведения и норма || • ||п банаховой прямой суммы (определенные для произвольного семейства пространств в § 1.1) удовлетворяют очевидной оценке II' 11п ^ II • 11п ^ п11" 11п и- стало быть, эквивалентны. Назовем любую
§ 5. ФУНКТОР БАНАХОВОЙ СОПРЯЖЕННОСТИ 203 норму в Е, эквивалентную только что указанным, допустимой. Разумеется, Е является относительно допустимой нормы банаховым пространством. Упражнение 13. Любая норма в Е, превращающая это пространство в банахово и совпадающая на каждом из Ек с исходной нормой в последнем пространстве, допустима. Предложение 4. Любое конечное семейство Еи...,Еп банаховых пространств обладает в категории BAN как произведением, так и копроизведением. А именно, произведением этих пространств является (Е, || • ||), где \\ ¦ \\ —любая допустимая норма, вместе с проекциями жк, к = 1,..., п, а копроизведением — то же нормированное пространство вместе с вложениями ik, k = l,...,n. < Мы ограничимся копроизведениями, оставив параллельный случай произведений читателю. Пусть F — произвольное банахово пространство вместе с ограниченными операторами (= морфизмами в BAN) <рк: Ек-* F, к = 1,..., п. Наша задача — показать, что существует и однозначно определен ограниченный оператор гр, делающий для каждого к = 1,..., п диаграмму Ф Е —-^ F коммутативной. Но, в силу свойств копроизведения в LIN, существует единственный линейный оператор V с подобным свойством. Поэтому остается только установить, что он ограничен. Возьмем вектор х е Е; очевидно, он однозначно представим в виде ?) ik(Vk)< Ук^Ек- Поэтому, с учетом того, что норма |||| в Е * = i допустима, для некоторого С > 0 и К := тах{||^|| | к = 1,..., п} выполнено неравенство 1№(*)Н < ? IIiMmJII = ? Ы(ук)Н ? к\\уЛ = = К\\х\\и^КС\\х\\. Дальнейшее очевидно. > Упражнение 14. Любое конечное семейство гильбертовых пространств обладает как произведением, так и копроизведением в категории HlL.
Указание. Гильбертова прямая сумма заданных пространств (см. § 1) является их произведением, будучи рассмотрена с соответствующими проекциями, и их копроизведением, будучи рассмотрена с соответствующими вложениями. Из предложения 4.3 сразу вытекает Следствие 1. Пусть банахово пространство Е разлагается в прямую сумму своих замкнутых подпространств Ех и Е2. Тогда оно, вместе с соответствующими естественными вложениями, является копроизведением подпространств ?, и Е2 в BAN. Однако, пытаясь перенести результаты о конечных (^произведениях на бесконечные семейства объектов, мы приходим к плачевному результату. Упражнение 15*. (Ср. упражнения 0.6.7 и 0.6.8 о несколько иной ситуации в МЕТ.) Любое бесконечное семейство отличных от нуля объектов в BAN не обладает в этой категории ни произведением, ни копроизведением. То же верно с заменой BAN на HIL. Указание. Если, скажем, пространства Еп, neN, обладают гипотетическим произведением в BAN, то к желаемому противоречию приводит выбор F:—C и операторов <рп:€—>?„ с достаточно быстро растущими нормами. В случае гипотетического копроизведения можно положить F :— ®p{Ev | и б Л} для любого р е [1, со] при рассмотрении Ban и р = 2 при рассмотрении HlL, после чего взять в качестве <рп: En—>F кратные соответствующих вложений, снова с быстро растущими нормами. Однако положение резко улучшается, если мы от Ban перейдем к BAN, (т. е. запретим операторам иметь большие нормы). Упражнение 16. Любое семейство банаховых пространств Ev, v е А, обладает в категории BAN, как произведением, так и копроизведением. Произведением этого семейства является его банахово прямое произведение (©^{.Е,, | v е Л}, || • ||п) с проекциями 7г^: ®X,{EV | и е Л} —> Ер, f н-> f(p,), а копроизведением — банахова прямая сумма (©,{.?„ | v ? Л}, || ¦ ||и) с вложениями гм: Е^ —> ®\{EV | v € Л}, переводящими х G Е^ в отображение, которое переводит р. в х, а остальные элементы индексного множества Л — в нуль. Указание. Доказательства обоих утверждений весьма сходны; ограничимся первым. Пусть заданы пространство F и — теперь сжимающие! — отображения <pv: F —> Ev, v б Л. Тогда, поскольку пара, состоящая из декартова произведения Е° наших пространств
и стандартного семейства проекций, — это категорное произведение нашего семейства в LiN (предложение 0.6.2), существует единственный линейный оператор -ф0: F —> Е°, делающий, для каждого v е Л, соответствующую диаграмму коммутативной. Легко усматривается, что его коограничение ф на банахово прямое произведение — это сжимающий оператор (= морфизм в Ban,). Оставшаяся часть параграфа не обязательна и предназначена для читателя, желающего больше узнать о рассматриваемых категориях. Для начала отметим, что с предыдущим упражнением контрастирует Упражнение 17*. В категории Hil, (даже) семейство из двух отличных от нуля пространств не обладает ни произведением, ни копроизведением. Указание. Пусть Нк — наши пространства и хк е Нк, \\xk\\ = 1 (к = 1,2). К противоречию приведет выбор У := С вместе с отображениями <рк: 1 е-> ±хк для произведений и ipk: yi-+(y,±xk) для копроизведений (см. определения 0.6.1 и 0.6.27). Окажется, что из-за специфики «гильбертовой» геометрии (в частности, закона параллелограмма) требуемый оператор ф (см. там же) не может быть сжимающим. Теперь напомним обычный подход к изучению категорий, образованных множествами с заданными на них теми или иными структурами. Подобная категория, как правило, снабжается забывающим функтором и становится конкретной категорией в смысле определения 0.7.2. Разумеется, рассматриваемые категории функционального анализа не составляют исключения; здесь, в частности, можно говорить о конкретных категориях (К, D), где 1С — любая из категорий Ban, Ban,, Hil и Hil, , a D — забывающий функтор из соответствующей категории в Set. При этом конкретные категории Ban, и Hil,, как легко видеть, не являются уравновешенными, но две оставшиеся категории являются таковыми: для Ban, если вдуматься, этот факт есть просто эквивалентная формулировка теоремы Банаха. (Покажите, что более широкая конкретная категория (Nor, D) уже не уравновешена; ср. пример 1.4.2.) В заключение рассмотрим вопрос о категорных базисах и свободе. Прежде всего, опишем свободные объекты в (Ban, D) и (Hil, D). Упражнение 18. В указанных двух конкретных категориях свободными объектами являются конечномерные пространства, и только они. При этом (категорным) базисом конечномерного пространства является его любой линейный базис. Указание. Последнее утверждение следует из теоремы 1.1 (Ш). Теперь пусть пространство Е бесконечномерно, a S — его базис. Тогда S не может быть конечным: в этом случае для F := Е/ span(S) операторы рг, 0: Е —> F суть разные морфизмы, переводящие S в OeF. Если же S содержит последовательность хп, п € N, то нет ограниченного оператора в Е, который переводил бы хп в пхп. Упражнение 19. В конкретных категориях (Ban,,D) и (Hil,,D) вообще ни одно пространство не обладает базисом. Указание. Если х — точка гипотетического базиса S в Е, то любое отображение <р: S —»О(Е), переводящее х в вектор большей нормы, приводит к противоре- Однако положение с базисами резко улучшается, если с Ban, связать другую конкретную категорию, а именно (Ban,, О), где О: Ban, -¦ Set— упоминавшийся выше функтор «единичного шара». Эта категория, разумеется, уравновешена. Но главное ее преимущество состоит в следующем.
206 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Упражнение 20. Банахово пространство свободно в смысле конкретной категории (Ban,,0)-«=> оно изометрически изоморфно (= изоморфно в Ban,) пространству 1^Х) для некоторого X. При этом базисом для 1Х(Х) является множество, состоящее из таких функций St, seX, что Sa(t) = \ при я = t и 55 (t)=0 при a^t. Указание. Поскольку С обладает в рассматриваемой конкретной категории одноточечным базисом, утверждение следует из результата (общекатегорного характера), предложенного как упражнение 0.7.4. Детали построения соответствующего функтора свободы Т: Set-» Ban,, Хн >-> 1\(Х), оставляем читателю. § 6. Пополнение Мы видели, «как хороши, как свежи были» банаховы пространства. Но вот представьте, что нам дали нормированное пространство и сказали, что оно банахово, а оно оказалось не полным. Не надо горевать: это пространство можно сделать полным, добавив к нему новые точки, — подобно тому как, следуя Кантору, мы изготавливаем действительные числа из рациональных. Сперва четко осознаем то, чего бы мы хотели от нашей гипотетической конструкции. Везде, до особого объявления, Е — фиксированное нормированное пространство. Предложение 1. Пусть (E,i)—napa, состоящая из банахова пространства Е и сжимающего оператора г: Е—>Е. Следующие утверждения эквивалентны: (i) (свойство универсальности) для любой пары (F, tp), состоящей из банахова пространства F и сжимающего оператора <р: Е —> F,существует единственный такой сжимающий оператор ф: Е —> F, что диаграмма Е •|\ Я -!U F коммутативна; (и) оператор г — изометрический, и его образ плотен в Ш. < (i) =>¦ (И) Возьмем х е Е. Согласно теореме 1.6.3 существует такой функционал /: Е—>С нормы 1, что /(х) = ||х||. Поскольку / — сжимающий оператор в банахово пространство, согласно условию существует сжимающий оператор ф: Е —>F, делающий коммутативной указанную выше диаграмму с С в роли F и / в роли (р. В частности, rpi(x) = f(x), откуда ||»(а:)||^ ||V»i(x)|| = ||х||.
§ 6. ПОПОЛНЕНИЕ 207 Поскольку г —сжимающий оператор, а вектор х выбран произвольно, это означает, что г — изометрический оператор. Теперь пусть Ех — замыкание образа оператора г. Положим F := Е /Ех и в качестве у. Е —> F возьмем нулевой оператор. Тогда указанная диаграмма коммутативна, если взять в качестве ф естественную проекцию Е на F; но она же коммутативна и при ф:=0. Поскольку, в силу условия, подобный оператор ф всего один, естественная проекция пространства Е на F — нулевой оператор, а это, разумеется, означает, что Е =ЕГ (ii) =ф- (i) Положим E0:=lm(i) и для заданного оператора р: Е —>F рассмотрим оператор ф0: E0—>F, корректно определенный, в силу инъечтивности оператора г, правилом ф0(г(х)) := <р(х). Поскольку оператор г сохраняет нормы, ф0, как и <р, — сжимающий оператор. _ Очевидно, некий сжимающий оператор ф: Е -* F делает указанную выше диаграмму коммутативной тогда и только тогда, когда оператор ф являетсяпродолжением ф0. Но подпространство Е0 по условию плотно в Е. Поэтому существование и единственность такого оператора следуют из принципа продолжения по непрерывности (теоремы 1.2). > Определение 1. Пара (Е, г), обладающая эквивалентными свойствами, указанными в предложении 1, называется пополнением нормированного пространства Е. Замечание. Иногда, краткости ради, мы будем говорить «пополнение пространства Е», имея в виду банахово пространство Е. Подчеркнем, однако, что это не более чем вольность речи: изометрический изоморфизм i является неотъемлемой частью определения пополнения. Если пополнение (Е, г) задано, то, отождествляя каждый вектор х е_Е с i(x), мы можем мыслить Е плотным подпространством в Е; это часто, хотя и не всегда, удобно1*. Предупреждение. В учебниках почтенного возраста фраза «пополнение пространства Е — это полное пространство, содержащее Е в качестве плотного подмножества» дается именно как точное определение пополнения. Из сказанного выше следует, что мы в этих лекциях разделяем другую точку зрения на то, что считать пополнением. '' Психологически для нас в этом не должно быть ничего нового: когда-то мы точно так же научились мыслить рациональные числа как частный случай действительных, а еще раньше, в детстве — целые числа как частный случай рациональных.
208 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА В свойстве универсальности пополнения речь шла о сжимающих операторах, однако его аналог имеет место и для произвольных ограниченных операторов. Предложение 2. Пусть (E,i) — пополнение пространства Е. Тогда для любого банахова пространства F и ограниченного оператора <р: Е —»F_cyw,ecmeyem единственный такой ограниченный оператор ф: Е —>F, что диаграмма, указанная в предложении 1 (i), коммутативна. При этом ||^|| = IMI- < Это очевидным образом следует из принципа продолжения по непрерывности. > Вот несколько классических примеров пополнений. Если Р[а, Ь] — пространство заданных на отрезке многочленов с равномерной нормой, то его пополнением служит пара (С[а, b], in), где in : Р[а, Ь] -* С[а, Ь]. Пополнением пространства С[а, Ь], рассмотренного с (отличной от равномерной) нормой ||х||, := J \x(t)\dt, является пространство (i,[o, Ъ], г), г: С[а, Ъ\-*Ьх[а, Ь], где г сопоставляет каждой непрерывной функции ее класс эквивалентности в Lx\a, Ь]. (Как видите, требовать, чтобы пространство Е было частью Е, не всегда удобно.) Пополнением пространства с^, рассмотренного с нормой || • ||р, является (lp, in) при 1 < р < сю и (с^,, in) при р = оо. Во всех этих примерах мы, разумеется, указываем лишь одно, по всей видимости, самое простое из возможных пополнений. Заметим, что если Е — само банахово пространство, то его пополнением служит (Е, \Е). (Согласно поговорке «От добра добра не ищут».) В то же время все пополнения такого пространства Е, очевидно, описываются как пары (F, г), г: Е —> F, где i — произвольный изометрический изоморфизм между Е и каким-то банаховым пространством. Однако всевозможные пополнения одного и того же пространства различны «только по форме, но не по содержанию». Теорема 1 (единственности). Пусть(Е,, г,) и (Е^,^)— два пополнения нормированного пространства Е. Тогда существует, ипритом единственный, такой изометрический изоморфизм I: Е{-> Е2, что диаграмма Е1 —1—* Е2 коммутативна.
§ 6. ПОПОЛНЕНИЕ 209 Таким образом, Е{ и Е2 не только изометрически изоморфны, но их изометрический изоморфизм может быть выбран согласованным образом с операторами г, и ц. < (Ср. доказательство теоремы 0.6.1.) Введем категорию BANS (некоторое усложнение BAN). Ее объектами объявим все пары (F, tp), состоящие из банахова пространства F и сжимающего оператора р: Е —> F. Морфизмами между объектами (F,, у,) и (F2, ip2) этой категории объявим сжимающие операторы ф: F[ —> F2, для которых диаграмма Е F, -*— F2 коммутативна. Композицией морфизмов в BAN? объявим их композицию в BAN (т. е. обычную композицию операторов). Аксиомы категории легко проверяются. Из универсального^ свойства пополнений очевидным образом следует, что пара (E,i) является пополнением пространства Е тогда и только тогда, когда она является инициальным объектом в BANE. Поэтому из теоремы 0.4.1 сразу следует, что пары (Еи г',) и (Е2, ig) изоморфны как объекты категории BAN^. Разумеется, соответствующий изоморфизм / и является требуемым изометрическим изоморфизмом. > Мы переходим к вопросу о существовании пополнений. Теперь, в отличие от вопроса об их единственности, общекатегорной схемы нет, и на передний план выступают специфические черты рассматриваемой конструкции. Теорема 2 (существования). Всякое нормированное пространство Е обладает пополнением. Мы приведем два доказательства этой теоремы. <j (Первое доказательство.) Рассмотрим линейное пространство ?, состоящее из всех фундаментальных последовательностей х = (х1,х2,...) векторов из ? с покоординатными операциями. Снабдим его преднормой ||х||0 := lim ||х„||, где || • || — норма в Е; разумеется, такое определение корректно. Положим ?&'¦= {я € ? | ||х||0 = 0} и рассмотрим нормированное пространство Е :=?/?0 (см. предложение 1.1.3). Далее, рассмотрим оператор j: Е -*?, сопоставляющий вектору х постоянную_последовательность х" := (х, х,...), и положим г := рг о j: Е —> Е, где рг : ? -* Е —
210 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА естественная проекция. Наша задача — показать, что пара (Е, г) — это пополнение пространства Е. Прежде всего, поскольку j и рг суть, очевидно, изометрические операторы, таков же и оператор г. Далее, возьмем любой вектор уеЕ; тогда у = рт(х) для некоторой последовательности х = {х1,х2,...)е?. Из фундаментальности последовательности х легко следует, что элементы (постоянные последовательности) х'п :— j(xn) стремятся к х в ? при п —* оо, а потому элементы г(хп) = Pri.xn) стремятся к у в Е. Таким образом, образ 1т(г) плотен в Е. _ Осталось убедиться в том, что пространство Е полно. Пусть ут, т = 1,2,.... — фундаментальная последовательность в Е и ут — рг (хт), хт = (х,т, х?,...) G ?. Для каждого m = 1,2,... в силу фундаментальности последовательности хт найдется такой ее член — обозначим его хт б Е, — что ||хт — х™|| < — для всех достаточно больших п, а потому ||х^ — xm||0 ^ — (в ?). Отсюда, в частности, следует, что последовательности х'т и хт элементов пространства ? одновременно сходятся или нет и если сходятся, то имеют одни и те же пределы. Теперь возьмем последовательность х := (х,, Xj,...) (составленную из выбранных выше векторов в Е). Из соотношений 11ч - *л = II*; - *4iio ^ ite - ?iio+и? - *miio+n*m - <iio для любых I, т = 1,2,... легко усматривается, что она фундаментальна в Е, т. е. хе?. Отсюда очевидным образом следует, что последовательность х'т (элементов пространства ?) сходится к х, а значит, как отмечалось выше, тот же предел имеет и последовательность хт. Но тогда заданная последовательность ут = рг (хт) б Е также сходится, а именно к элементу рг (х) б Е. > < (Второе доказательство.) Рассмотрим каноническое вложение а: Е —> Е" и обозначим через Е замыкание образа оператора а в Е**. Тогда ввиду предложений 1.7, 1.3 и изометричности вложения а пара (Е, а\Е) является требуемым пополнением. > ЗАМЕЧАНИЕ. Второе доказательство, возможно, не столь поучительно, как первое. Оно, конечно, гораздо короче, но эта краткость обманчива: оно опирается на сильное средство — теорему Хана — Банаха, доказательство которой, как мы помним, само требует серьезной подготовки. Следствие 1. Всякое неполное нормированное пространство является плотным собственным подпространством некоторого банахова пространства.
§ 6. ПОПОЛНЕНИЕ 211 С подготовленным читателем мы обсудим теоретико-категорную интерпретацию полученного результата. Дело в том, что вопрос о существовании пополнений, как и огромное множество разных вопросов алгебры и анализа, есть вопрос о представимости некоторого функтора (ср. определение 0.7.8). Пусть Е — фиксированное нормированное пространство. Рассмотрим ковариант- ный функтор Т: Ban, -* Set, сопоставляющий каждому банахову пространству F единичный шар пространства В(Е, F) и каждому морфизму tp: Fi —» F2 в Ban, отображение F(<p): ф >-» v*/». (Таким образом функтор Т весьма похож на функтор морфизмов В(Е, ?), введенный в начале § 5, только теперь пространство Е не обязательно полно, а в качестве F(F) берется не все пространство В(Е, F), а лишь его единичный шар.) Упражнение 1. Теорема 2 эквивалентна тому_ утверждению, что функтор Г представим. Пр_и этом для любого пополнения (Е, г) пространства Е банахово пространство Е является представляющим объектом для Т. Конструкция пополнения хорошо согласована со скалярным произведением, если таковое имеется. Предложение 3. Пусть Н — почти гильбертово пространство. Тогда существует пара (Я, г), где Я — гильбертово пространство, являющаяся пополнениемпространства Я как нормированного пространства. Если (Я,, г',) и (Я2, ц) — две таких пары, то существует, и притом единственный, такой унитарный изоморфизм U, что диаграмма Ух Я, > Н2 < Пусть (Я, г) — пополнение пространства Я как нормированного пространства. Наша задача — показать, что норма в Я задается некоторым скалярным произведением. Возьмем х', у' е Я и рассмотрим последовательности хп, уп б Я, однозначно определенные тем, что г'(а;п) сходится к х', a i(y„) — к у'. Тогда, как нетрудно усмотреть (ср. оценку в доказательстве предложения 1.2.4), числовая последовательность {хп, уп) фундаментальна, а потому сходится к некоторому числу, которое мы обозначим {х1, у1). Это число, очевидно, не зависит от выбора последовательностей хп, уп и обладает свойствами скалярного произведения; кроме того, для любых х,уеН выполнено (г(х),г(у)) = (х,у). Остается показать, что ||х'|| = \/{х\ х') для каждого х' е Я. Взяв такую последовательность хп е Я, что г'(хп) сходится к х', мы видим, что последовательность ||х„|| = ||г'(а;п)|| сходится к ||х'||, а последовательность (хп, хп) сходится к (х', х'), по построению
212 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА скалярного произведения в Я. Поскольку в Я для всех хп выполнено соотношение ||хп|| = \/(хп, хп), требуемое равенство обеспечено. > Упражнение 2. Дайте другое доказательство этого предложения, выведя его из результата упражнения 1.2.3. ЗАМЕЧАНИЕ. Понятие пополнения общего (не обладающего линейной структурой) метрического пространства нам не понадобится, и мы не будем его детально обсуждать. Мы лишь отметим, что одно из эквивалентных определений пополнения метрического пространства М — это пара (М, г), состоящая из полного метрического пространства М и изометрического отображения г: М —> М с плотным образом; определение в терминах свойства универсальности читатель может с легкостью восстановить. Доказательства соответствующих теорем единственности и существования повторяют, с небольшими очевидными изменениями, доказательства теорем 1 и 2. Впрочем, читатель, в свое время сделавший упражнение 1.1.7, может дать короткое доказательство теоремы существования, рассмотрев изометрическое отображение, скажем, г' заданного пространства М в СЬ(М) и взяв в качестве М замыкание_образа Im(i'), а в качестве i —коограничение оператора г' на М. § 7. Алгебраическое и банахово тензорное произведение Когда в 50-х годах читались первые обязательные лекции по функциональному анализу, о банаховых тензорных произведениях мало кто слышал и им было посвящено считанное число работ. Однако сейчас тензорные произведения, шагнув из алгебры в функциональный анализ, занимают там весьма заметное место. Они широко используются в большинстве его разделов, а некоторые «передовые» направления, такие, как теория операторных алгебр (вместе с примыкающими вопросами квантовой физики) и квантовый функциональный анализ, просто немыслимы без тензорных произведений (ср. [3; 71]). Мы убеждены, что настало время включить самые начальные сведения о тензорных произведениях функционального анализа в университетский учебник. Пусть о них узнают студенты третьего курса с их еще свежими мозгами; потом их осваивать будет значительно труднее. Общий смысл конструкции тензорного произведения — как в алгебре, так и в анализе — состоит в том, что она позволяет
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 213 вместо билинейных операторов того или иного класса рассматривать (просто) линейные операторы, но только заданные на более сложных пространствах, чем исходные. Нам предстоит придать этой довольно расплывчатой фразе точный смысл. Сперва мы рассмотрим подготовительное чисто алгебраическое понятие — тензорное произведение линейных пространств. Скорее всего, Вам говорили о них в курсе алгебры, но мы опасаемся, что форма изложения отличалась от той, которая нам необходима. Поэтому нам придется вести рассказ с самого начала. Итак, пусть Е и F —два линейных пространства. Определение 1. Пара (9, в), где G — линейное пространство, а в: Е х F ->9— билинейный оператор, называется (алгебраическим) тензорным произведением пространств Е и F, если для любого линейного пространства G и любого билинейного оператора И: Е х F —> G существует единственный такой линейный оператор R: 9 —> G, что диаграмма ExF •1X E®F —^ G коммутативна. Линейный оператор R называется ассоциированным с билинейным оператором 11. Свойство указанной пары, фигурирующее в этом определении, называется свойством универсальности (алгебраического тензорного произведения) ПРИМЕР 1. Пусть Е =Cm, F = С". Рассмотрим пространство С""\ которое будем мыслить как линейное пространство матриц размера т х п с комплексными элементами. Обозначим через ры элементарную матрицу с 1 на kl-м месте и нулями на остальных. Рассмотрим билинейный оператор в: Ст х С" —»С", однозначно определенный тем, что он переводит пару ортов (рк, р1)вры. Тогда пара (Cmn, в) — это тензорное произведение пространств С™ и С". Действительно, для каждого билинейного оператора 1Z: С х С" —> —> G оператор R: С" —» G, переводящий (m х п)-матрицу (Аы) в вектор J^ Z) ^ыЩРк>Р1) — эт0 и есть единственный оператор, делающий требуемую диаграмму коммутативной. Обобщением этого примера является
214 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Упражнение 1. Пусть М и N — произвольные множества, Е и F — некоторые линейные пространства функций на М и соответственно на N, L — линейная оболочка заданных на М х N функций вида x(s)y(t), xeE,y€F, з€М, teN,6:ExF-*L — билинейный оператор, переводящий пару (xeE,yeF)B функцию x(s)y(t)tL. Тогда пара (L, в) — это алгебраическое тензорное произведение Е и F. Указание. Поможет следующее наблюдение: если функции хи...,хпеЕ линейно независимы, а уи ..., 2/n € F не все равны нулю, то Y1 хЛ3)УкA) 7^0. Теорема 1 (единственности). Пусть F:,0,) и (®2,в2) — два тензорных произведения линейных пространств Е и F. Тогда существует, и притом единственный, такой линейный изоморфизм I: 9, —> 92, что диаграмма Е xF °/ \ 9, —!—» 02 коммутативна. < После теорем 0.6.1 и 6.1 читатель догадывается, какого сорта рассуждение мы проведем. Введем категорию LlNB,F, объявив ее объектами все пары (G, И), состоящие из линейного пространства G и билинейного оператора И: Е х F —> G, а морфизмами между объектами (G,,7?,) и (Gj.T^) — линейные операторы тр: G, —> G2, для которых диаграмма Е х F G, -at- G2 коммутативна; композицией морфизмов объявим обычную композицию операторов. Аксиомы категории легко проверяются. Из универсального свойства тензорных произведений следует, что пара (9, в) является тензорным произведением пространств Е и F тогда и только тогда, когда она является инициальным объектом в LlNs'F. Отсюда — это мы хорошо знаем — пары (9,, 0,) и (92, в2) изоморфны как объекты категории LlNB,J?. Дальнейшее очевидно. >
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 215 Существование тензорного произведения устанавливается путем предъявления его той или иной явной конструкции. Мы ограничимся одной из них, возможно наиболее поучительной. (О еще одной см., например, [57].) Пусть EOF — пространство формальных линейных комбинаций элементов декартова произведения Е xF (ср. пример 0.7.4). Введя обозначение х О у для элементов естественного линейного базиса 1(х, у) в EOF (здесь 1 —скалярный множитель), рассмотрим в Е OF множество М элементов любого из следующих видов: (х, + Xg) О у - х, О у - Хг О у, х О (У[ + &) - х О у, - х О %, (Ах)Оу-А(хОу), хО(Ау)-А(хОу), х,, Xj, х е Е, у,, у2, у 6 F, А е С. Введем обозначения E<8>F для факторпространства EOF/ span(M) и х <g> у для класса смежности х О у + span(M); тогда отображение i9: Е х F —> Е ® F, (х, у) н-> х ® у, как легко проверить, является билинейным оператором. Элементы вида х®у называются элементарными тензорами. Очевидно, каждому виду элементов из М соответствует некоторое тождество b?®F: например, первому — (х, + Xj) <g> у = х, <g> у -f Xj <g> у и т. п. Теорема 2 (существования). Всякие два линейных пространства Е и F обладают тензорным произведением, и, в частности, таковым является пара (Е <g> F, ¦д). < Пусть TV. Е х F —* G — билинейный оператор. Он однозначно определяет линейный оператор R°: EOF —> G, переводящий хОу в Щх, у). В свою очередь, этот последний в силу выбора множества М порождает оператор R: E<8>F —> G, однозначно определенный тем, что R(x® у) = Щх, у). Тогда диаграмма из определения 1, очевидно, коммутативна с G := Е ® F и 0 := д. Наконец, ввиду равенства Е ®F = span(Im (i?)), оператор R однозначно определен условием Д(х® у) — Щх, у), т. е. требованием коммутативности этой диаграммы. > Свойство универсальности алгебраического тензорного произведения позволяет выделить важный класс линейных функционалов. Определение 2. Тензорным произведением функционалов /: Е —> С и g: F —> С называется функционал / <8>д: Е ® F -> С, ассоциированный с билинейным функционалом / х д: Е х F —> С, (х,у)~/(х)«7(у). Очевидно, введенный функционал однозначно определен равенством (/ <8> д)(х ® у) = f(x)g(y).
216 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Мы видим, что всякий элемент пространства E<8>F представим, вообще говоря, многими способами в виде суммы элементарных тензоров. Весьма полезно знать, когда подобная сумма заведомо отлична от нуля. Предложение 1. Для элемента ueE®F следующие утверждения эквивалентны: A)«#0;в (и) и = X) хк ® ук, где векторы х,, ..., хп линейно независимы, (iii) и = J2 xk ® Ук> г^е векторы х,,..., хп и у,,..., уп линейно независимы. < (i) =>• (iii) Среди всех представлений элемента и в виде суммы элементарных тензоров существует представление с наименьшим возможным числом слагаемых; пусть это ^2 xk®yk. Если векторы я,,..., хп линейно зависимы, то один из них, скажем, х,, имеет вид X) \kxk, \k G С. Отсюда, очевидно, и = ?) xk ® (Хку{ + ук), чего *=2 *=2 в силу выбора исходного представления не может быть. Отсюда векторы х,,..., хп линейно независимы, и остается применить такое же рассуждение к векторам у,,..., уп. (iii) =$¦ (ii) Очевидно. (ii) =>¦ (i) Возьмем такой функционал /: Е —»С, что f{x{)^0 и /(xj) = ... = f(xn) = 0, а также такой функционал g: F —> С, что 0B/,)^0. Тогда (f®g)(u) = f(xl)g(yl)^6. Дальнейшее очевидно. > Следующие два факта легко следуют из предложения 1. Упражнение 2°. Для х,уеЕ выполнено равенство х®у = = у®х в Е <%>Е -<=>¦ векторы х и у коллинеарны. Упражнение 3°. Если е'^, p. G Л', и е", v € Л", — линейные базисы соответственно в Е и F, то е'^ ® е", (/i, i/) ? Л' х Л", — линейный базис в Е ® F. Теперь мы можем предложить еще один важный пример алгебраического тензорного произведения. Предложение 2. Пусть Е u F — нормированные пространства. Тогда существует линейный изоморфизм^ Gr^: Е* ® F —> F(E, F), однозначно определенный тем, что он переводит элементарный тензор f®y в одномерный оператор /Оу '* Его обозначение связано с тем, что он является биограничением так называемого оператора Гротендика Gr, который мы введем в конце параграфа.
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 217 < Рассмотрим билинейный оператор Q: Е* х F -* F(E, F), переводящий пару (/, у) в / О у; тогда свойство универсальности доставляет оператор Gr°, однозначно определенный указанным правилом. Из предложений 1.5.5 и 1.6 очевидным образом следует, что оператор Gr[! сюръективен. Покажем, что он инъективен. Пусть элемент и е E*®F отличен от нуля. Тогда в силу предложения 1 (ii) он представим как ? it' ® у,,, где векторы ух,...,уп линейно * = i независимы и х* ^0. Выберем х, е Е так, что х,*(х,) = 1. Тогда если Т := Gr°0(u), то Тх, = </, + ? К(х\)Ук ?=0 и, стало быть, Т ф 0. Дальнейшее очевидно. > * = 2 Наша следующая цель — перейти от чисто алгебраического тензорного произведения к его «банахову» варианту. На самом деле существует довольно много разновидностей понятия тензорного произведения общих банаховых пространств1', но мы здесь ограничимся одной из них, по-видимому самой важной; ср. далее замечание после упражнения 5. Определение 3. (Ср. определение 1.) Пусть Е и F — банаховы пространства. Пара (в, в), где в — банахово пространство, а в: Е х F —> G — сжимающий билинейный оператор, называется проективным тензорным произведением пространств Е и F или, как мы будем чаще говорить, банаховым тензорным произведением этих пространств, если для любого банахова пространства G и любого сжимающего билинейного оператора Л: Е х F —» G существует единственный такой сжимающий линейный оператор R: Э—> G, что диаграмма Е xF «i X E®F —5—» G коммутативна. Теорема 3 (единственности). (Ср. теорему 1.) Пусть F,, б,) и @2, в2) — два проективных тензорных произведения банаховых пространств Е и F. Тогда существует, и притом единственный, такой изометрический изоморфизм I: в, —> в2, ') Еще одну, наиболее приспособленную к работе с гильбертовыми пространствами, мы определим именно в контексте этих последних в § 8.
218 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА что диаграмма ExF °/ ,\ в, —*—» 02 коммутативна. < Доказательство теоремы 1 проходит с очевидными «банаховыми» модификациями. Теперь мы используем категорию BANB'F, объекты которой суть пары (G, Щ, состоящие из банахова пространства G и сжимающего билинейного оператора ft: Е х F —* G. Остальные детали оставляем читателю. > Теперь начнем подготовку к теореме существования банахова тензорного произведения. Пусть в линейных пространствах Е и F задано по (пока произвольной) преднорме. Для любого элемента и алгебраического тензорного произведения Е <g> F положим \\и\\р :=inf X) ||zj|||%||. где нижняя грань взята по всевозможным *=1 п представлениям и = ? xk ® ук, хк€ Е,уке F. Очевидно, || • ||р — преднорма. * =' Определение 4. Эта преднорма называется проективным тензорным произведением заданных преднорм или, при их фиксировании, проективной преднормой в Е ®F. Преднормированное пространство (E&F, ||-||р) мы будем обозначать через Е ®pF. Упражнение 4. Открытый единичный шар в Е ®р F — это выпуклая оболочка множества {х ® у \ х е Ш^, у е Ш^}. Предложение 3. Пусть TZ: Е х F —* G — совместно ограниченный билинейный оператор в преднормированное пространство. Тогда ассоциированный с ним оператор R0: Е <8>р F —> G также ограничен, и \\R0\\ = ||7?||. < Пусть и = Y1 хк ® Ук' хк е ^i Ук е F'< тогда из равенства До(«)= t Щ^Ш) следует, что ||Л0(гх)|| ^ ||Я|| ± \\хк\\\\ук\\; от- * = 1 * = 1 сюда в силу определения проективной преднормы ||Д0|| < \\Щ. Далее, из равенства Щх, у) = RQ(x ® у) и очевидной оценки ||х®уК||х|||Ы1 следует, что ||Я|| ^ ||Д0|| sup{||i®y|| | хе ШЕ, уе еШ,}^||Ло1|.» Следствие 1. Для f € Е" u g е F* норма произведения f <8> g как функционала на Е ®pF равна \\f\\\\g\\.
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 219 Предложение 4. Для любых хеЕ uyeF выполнено равенство ||a;®2/||p = ||x||||j/||. < Очевидно, достаточно рассмотреть случай, когда ||х|| > О и \\у\\ >0. Тогда, согласно теореме 1.6.3, существуют такие функционалы feE' и geF*, что/(х) = ||х||,д(у) = ||2/|| и ||/|| = \\д\\ = 1. С учетом следствия 1 мы получаем ЦхЦЦуЦ = {/<8>д)(х<8у)^: \\х®у\\р. Дальнейшее очевидно. > Прежде чем двигаться дальше, выделим одно полезное следствие из теоремы Хана — Банаха. Оно является частным случаем утверждения, сформулированного в упражнении 1.6.9. Предложение 5. Пусть Е — нормированное пространство и х,,..., х„ е Е —линейно независимый набор векторов. Тогда существует такой функционал / е Е*, что /(х,) ф- О, /(xj) = • • • ... = /00=0. ^ < Из линейной независимости векторов х1,...,хп следует, что функционал с указанными свойствами заведомо существует на пространстве Е0 = span{x,,..., хп}, причем он ограничен ввиду теоремы 1.1 (Hi). Остается продолжить его на Е при помощи теоремы Хана — Банаха. > Предложение 6. Если Е и F — нормированные пространства, то таково же и Е <8>р F. < Пусть элемент и е Е ®р F отличен от нуля. Тогда на основании предложения 1, этот элемент имеет вид J2 xk ® ук, к = \ хк еЕ,укЕ F, где х,,..., хп линейно независимы, а у, ^0. Поэтому в силу предложения 5 существуют такие feE" и geF*, что /(х,)^0, /(х2) = .. . = /(хп) = 0 и д{ух)фО. Таким образом, с учетом следствия 1 мы получаем ll/llllffllHIp > К/ ® Я){п)\ = | ? f(xk)g(yk)\ = |/(х,M(У1)| > 0. Дальнейшее очевидно. > С этого момента мы сосредоточимся на случае, когда Е и F — банаховы пространства. Тогда в силу предыдущего предложения Е ®pF —заведомо нормированное пространство. Его пополнение обозначим через (E®F, г). Тогда, как это обсуждалось в предыдущем параграфе, мы можем, не теряя общности, считать, что Е <8>р F содержится, как плотное подпространство, в Е § F, а г — естественное вложение. Рассмотрим также билинейный оператор i):?xF-t?§F, сопоставляющий паре (х е Е, у е F) элементарный тензор х ® у. Из определения преднормы || • ||р немедленно следует, что ¦& — сжимающий билинейный оператор.
220 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Теорема 4 (существования). Для любого банахова пространства G и любого ограниченного билинейного оператора TZ: Е х F -* G существует единственный такой ограниченный линейный оператор R: 0—> G, что диаграмма Е xF ч X E®F —5—» G коммутативна. При этом \\R\\ = \\Щ. В частности, пара (Е ®F,ti) является банаховым тензорным произведением пространств Е и F. < Пусть R0: Е ® F —* G — ассоциированный (в смысле определения 1) с 72. оператор; тогда согласно предложению 3 выполняется равенство ||Л0|| = \\И\\. В силу предложения 6.2 существует единственный оператор R: E®F^G, обладающий нужными свойствами. > Норму в E®F мы будем также обозначать || • ||р (либо просто || • ||). Фигурирующий в этой теореме оператор R мы будем называть ассоциированным с {ограниченным) билинейным оператором Л, а указанное в ней свойство пары (Е §F, i?) — свойством универсальности (банахова тензорного произведения). Путаницы со сходно звучащими чисто алгебраическими понятиями не должно возникнуть. В дальнейшем нам понадобится следующий общий факт, представляющий и самостоятельный интерес. Предложение 7. Пусть Е — нормированное пространство, Е0 — его плотное подпространство. Тогда для любого е >0 каждый элемент хеЕ может быть представлен в виде суммы абсолютно сходящегося ряда f^ xk, где xkeE0 и f^ ||xj| < ||х|| + е. < Из плотности подпространства Е0 в Е следует, что существует такой вектор х, е Е0, что \\х - х{\\ < |. Отсюда ||х,|| < ||х|| + |. По тем же соображениям существует такой вектор х, е Е0, что ||ж - х, - XjH < |. Отсюда ||а^|| < ||х - х,|| + | < -%¦. Далее, найдется такой вектор Xj е Е0, что ||х - х, - % - Х3Ц < yg, откуда ||хз|| < ||х —х, —ХгЦ + т^ <т4. Продолжая этот процесс, мы получаем последовательность хк таких векторов из Е0, что \\х ~ 2 хк < "STT и 11хт.11<^ГТТ Для всех п> 2.
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 221 Отсюда следует, во-первых, что ряд ? хк сходится к х. Кроме того, ?KII<NI + e(i+i:2?ST) = NI + e, как и требовалось. > Предложение 8. Любой элемент и е E®F представим в виде суммы абсолютно сходящегося ряда ]Р хк ® ук, хк е Е, yk€F, к — 1,2,... При этом ||u||p = inf J2 IIхкIIIIУкII- г&е нижняя грань взята по всевозможным представлениям элемента и в указанном виде. < Зададим е > 0 и, пользуясь плотностью E®F в E®F и предложением 7, представим и в виде ?) ип, где ип е Е <8> F и ]С llnJlp < llullp + §• Ввиду определения нормы || • ||р каждый элемент ип имеет вид J2 \ ®У»,. гДе Е Н*„,||||5/„,|| < IIЧ. II» + г^г"¦ Отсюда ? Z) Ilxn.llll2/n II < llullp +е- Ввиду произвольности е, это означает, что норма \\и\\р не меньше нижней грани, указанной в формулировке. Обратное неравенство очевидно. > Следующий результат, предлагаемый Вам в виде упражнения, устанавливает тесную связь между операцией взятия пространства операторов и операцией проективного тензорного произведения. На самом деле в этой связи заключается главное преимущество проективного тензорного произведения по сравнению с другими вариантами этой конструкции. Упражнение 5 (ЗАКОН СОПРЯЖЕННОЙ АССОЦИАТИВНОСТИ). Для любых Е, F, G е BAN между пространствами B(E®F,G) и В(Е, B(F, G)) существует изометрический изоморфизм, однозначно определенный тем, что он переводит оператор tp в такой оператор ф, что (Ф(х))(у):= tp(x<g>y). В частности, с точностью до изометрического изоморфизма выполнено равенство (E®FY = B(E,F*). Указание. Норма билинейного оператора из Е х F в G, с которым ассоциирован оператор ц>, совпадает с ||V»||. Замечание. Явные конструкции других вариантов понятия тензорного произведения банаховых пространств, не рассмотренных в этих лекциях, получаются в результате пополнения линей-
222 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА ного пространства Е <8> F по другим нормам, отличным от проективной. Здесь мы можем развлечь читателя. Существует весьма глубокая теорема, принадлежащая Гротендику1', которая утверждает, что «естественных», в определенном разумном смысле, вариантов подобных норм, а значит, и видов тензорных произведений ровно 14 — не больше и не меньше; см., например, [74, 11.27]. Тензорные произведения банаховых пространств полезны для анализа еще и тем, что в их терминах описывается переход переход от функций одной переменной к функциям двух переменных, говоря нестрого, «имеющим ту же природу». Это касается практически всех существующих видов тензорных произведений, в том числе и выходящих за рамки этих лекций. Для обсуждаемого здесь проективного тензорного произведения особенно хороши в этом отношении пространства ?,(•). Пусть (Хх, рх) и (Х2, Цг) —два измеримых пространства, (Хх х Х2, /л, x/jj) — их произведение. Мы считаем известным, что любой элемент банахова пространства Lx(Xk, рк), Л = 1,2, аппроксимируется линейными комбинациями характеристических функций измеримых подмножеств в Хк, а любой элемент в LX(XX хХ2,рх x/ij) — линейными комбинациями характеристических функций множеств вида М х N, где множество М измеримо в Xlt aN — bX2. Теорема 5 (Гротендик). С точностью до изометрического изоморфизма выполнено равенство LX(XX, рх) ®LX(X2, р,) = LX(XX х Х2, рх х р,). < Рассмотрим билинейный оператор И: LX(XX, px)xLx(X2, р^) —> —>Lx(XxxX2, /^x/Xj), переводящий пару (ж, у) в функцию x(s)y(t), з eXx,t е Х2. Очевидно, \\Щх, у)\\ = \\х\\\\у\\, и поэтому \\Щ = 1. Пусть R: LX(XX, px)®Lx(X2, р?) —*LX(XX хХ2, рх х р^) — оператор той же нормы, ассоциированный с К. В силу предложения 1.10 достаточно установить, что оператор R изометрически отображает некоторое плотное подпространство в LX(XX, px)®Lx(X2, р^) на плотное подпространство в LX(XX х Х2, рх х р^). Положим L := span{xM ® Xn)> где М к N — всевозможные измеримые подмножества соответственно в Хх и Х2, а \ —символ !) А. Гротендик (род. 1928 г.) — выдающийся французский математик, сделавший важные открытия в функциональном анализе, алгебраической геометрии и ряде других областей математики.
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 223 характеристической функции. Из определения преднормы || • \\р в сочетании со сказанным выше об аппроксимациях вытекает, что любой элементарный тензор в LX(XX, nx)®Lx(X2, р^) аппроксимируется элементами из L. Отсюда следует, что пространство L плотно в LX(XX, p,x)®pLx(X2, /Xj), а, значит, и во всем пространстве Lx(Xx,nx)®Lx(X2,^). Далее, любой элемент и е L очевидным образом представим как конечная линейная комбинация ]CA(mxM ® Xn > где измеримые множества М, и соответственно Nm попарно не пересекаются. Но тогда в силу определения проективной нормы ||и|| < X) l^(,ml/xi(-^)/I2(-^m)> и в то же время \\Щп)\\ = \\Е\тХщПХ1, OHEI^JMM^WJ- Поэтому u l.m ||Д(и)|| ^ ||и||, а это вместе с равенством ||Д|| = 1, приводит к соотношению ||#(и)|| = ||и||. Таким образом, оператор R изометрически отображает L на линейную оболочку функций вида xw(s)Xn@ с измеримыми множествами М и N, а последняя, как отмечалось выше, плотна в LX(XX х Х2, д, х /^). Дальнейшее очевидно. с> Наш читатель помнит, что за разумной конструкцией в математике, как правило, скрывается некий функтор (ср. цитату из Эйленберга — Маклейна в § 0.7). В полной мере это относится и к конструкции банахова тензорного произведения. Теорема 6. Пусть S: Ех —> Е2 и Т: Fx —> F2 — ограниченные операторы между банаховыми пространствами. Тогда существует единственный такой ограниченный оператор S ®Т: EX®FX ->E2®F2, что (S ®Т)(х ® у) = S(x) ® Т(у) для всех xeEx,yeFx. При этом ||5§Г|| = ||5||||Т||. < Положим П: Ех х Fx -»Е2 ® F2, (i, у) н-> S(x)® Т(у); очевидно, это билинейный оператор с нормой ||5||||Г||. Обозначим через S®T ассоциированный с ним оператор. Дальнейшее очевидно. > Построенный оператор S®T называется проективным или банаховым тензорным произведением операторов S и Т. В частном случае функционалов, т. е. иными словами, при Е2 = F2 = С, оператор S ®Т отображает Ех ® Fl в С ®С, и поэтому, с точностью до отождествления последнего пространства с С (посредством изометрического изоморфизма А, ® А2 ь-> А,А2), сам является функционалом. Как легко видеть, этот функционал продолжает по непрерывности функционал S ® Т , определенный на алгебраическом тензорном произведении Ех ® Fx (см. определение 2).
224 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Используя представление элементов банаховых тензорных произведений рядами, указанное в предложении 8, можно показать, что тензорное произведение двух сюръективных операторов само сюръективно (попробуйте это сделать). Однако тензорное произведение двух инъективных, даже изометрических операторов уже не обязано быть инъективным, хотя привести соответствующий пример не так-то просто (ср. [74, 1.5.8]). Теперь мы в состоянии ввести новый класс функторов, действующих в категории Ban. Он является вторым по важности после класса оператор-функторов (см. § 5) и тесно с ним связан. Зафиксировав Е е Ban, сопоставим каждому пространству F € BAN банахово пространство Е ®Fxa каждому ограниченному оператору Т: Fx -» F2 — оператор \Е ®Т: Е <§F, -> Е ®F2. Очевидно, мы получаем ковариантныи функтор из BAN в BAN, обозначаемый Е § ? и называемый функтором банахова тензорного произведения (на Е слева^ Аналогично при фиксации F возникает ковариантныи функтор ?®F (банахово тензорное произведение на F справа). Настал момент, когда не очень любопытный студент может немного отдохнуть, но отличник продолжает работать — положение обязывает! Прежде всего еще раз подчеркнем, что теорема Гротендика отражает специальные геометрические свойства пространств L^). В других классах функциональных пространств проективное тензорное произведение уже не имеет столь прозрачного описания; в частности, проективное тензорное произведение двух пространств класса L (¦), р> 1, уже не является пространством этого класса. (Соответствующий аналог теоремы Гротендика требует других видов тензорных произведений; ср. далее упражнение 8.4.) Больше мы об этом говорить не будем, а призовем читателя принять на веру несколько слов о том, как поступает проективное тензорное произведение с пространствами С[а, Ь]. ^ Рассмотрим сжимающий оператор V: С[а, Ъ] ® С[а, Ь] -> C(D), где D — обозначение квадрата [а, 6] х [а, Ь] на декартовой плоскости, ассоциированный с билинейным оператором V: С[а, Ь] х С[а, Ь] -> С(П), (х, у) >-> x(a)y(t). Можно показать (мы этого делать не будем и от вас не требуем), что этот оператор инъективен и, стало быть, позволяет отождествить обсуждаемое тензорное произведение с его образом. В то же время, хотя его образ и содержит все гладкие функции^, стало быть, плотен в C(D), этот оператор не сюръективен. Пространство С[а, 6] ®С[о, 6] называется пространством Варопулоса. (Тем же именем часто называют и его изометрически изоморфную копию — функциональное пространство Im (V) с нормой || V(u)||:=||u||.) Это пространство играет большую роль при исследовании некоторых важных (и трудных) вопросов теории рядов Фурье и гармонического анализа; см., например, [22] (где, впрочем, эти пространства названы тензорными алгебрами). Теперь мы приведем один из многих примеров того, как банаховы тензорные произведения работают в теории операторов. В этой области анализа весьма полезно то, что в их терминах можно охарактеризовать важный класс операторов — так называемые ядерные операторы. Определение 5. Оператор Т: Е —> F называется ядерным, если он представим в виде суммы абсолютно сходящегося в В(Е, F) ряда X) sk< состоящего из
§ 7. АЛГЕБРАИЧЕСКОЕ И БАНАХОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 225 одномерных операторов. Число inf J^ ||Sk\\, взятое по всевозможным представлениям оператора Т в виде подобного ряда, называется ядерной нормой (ядерного) оператора Т и обозначается \\Т\\^. Множество ядерных операторов из Е в F обозначается М(Е, F). При Е = F мы будем писать М(Е) вместо N(E, Е). Легко проверяется Предложение 9. Множество S/(E, F) является подпространством в В(Е, F), а функция Т >-» HTHjv на М(Е, F) —нормой в этом линейном пространстве, которая не меньше операторной нормы. < > Обратим внимание на сходство определения ядерной нормы и выражения для нормы элементов банаховых тензорных произведений, указанного в предложении 8. Покажем, что оно не случайно. Рассмотрим отображение Q: Е* х F -> В(Е, F), (/, у) >-> / О у.^Очевидно, это билинейный оператор нормы 1. Ограниченный оператор Gr : Е* ® F —» В(Е, F), ассоциированный с Q, называется оператором Гротендика (для пары (Е, F)). Таким образом, этот оператор однозначно определен равенством Gr (/ ® у) = f О у и имеет норму 1. Теорема 7. Образ оператора Гротендика есть в точности N(E, F), и коо- граничение Gr° этого оператора на Я(Е, F), рассмотренное с ядерной нормой, является коизометрическим оператором. < Пусть элемент и е Е* ®F представим в виде суммы абсолютно сходящегося ряда ? Д ® ук, Д 6 Е*, ук е F (см. предложение 8). Тогда оператор Т := Gr (и) представим в виде суммы абсолютно сходящегося по операторной норме ряда Yj Д 0%, и, следовательно, Т €М(Е, F). Далее, любой оператор Т ядерной нормы меньше 1 представим в виде суммы ряда ? Sk, где Sk —одномерные операторы и ]? \\Sk \\ < 1. Но согласно предложению 1.5.5 каждый оператор Sk имеет вид fkOyk для некоторых Д е?* и ук &F, причем ||5t|| = ||Д ||||yj|. Отсюда РВД ? Д ®3/* сходится в Е ®F к некоторому элементу и, \\и\\р < 1 и Gr(u)= Т. Дальнейшее очевидно. > Из этой теоремы и предложения 1.5.4 (ii) немедленно следует Предложение 10. Имеет место коммутативная диаграмма E*®F prj Vvvv^: ?*®F/Ker(Gr) —-—> M(E,F) в которой I — изометрический изоморфизм. В свою очередь отсюда с учетом предложения 1.9 немедленно вытекает Следствие 2. Пространство (N(E, F), || • Ц^-) банахово. Для подавляющего большинства известных примеров банаховых пространств Е оператор Gr: Е' ®F ->B(E,F) инъективен при всех F е Ban и, стало быть, его коограничение на Я(Е, F) — изометрический изоморфизм между E'®F
226 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА и (Я(Е, F), || • lljy). Таким образом, в этой ситуации ядерные операторы могут быть охарактеризованы как элементы тензорного произведения Е* §iF. Для случая, когда оба пространства гильбертовы, этот факт будет доказан впоследствии (см. теорему 3.4.5). Однако бывают и «плохие» пары банаховых пространств, для которых Кег (Gr) ф 0. Некоторые подробности будут сообщены ниже; см. теорему 3.3.4. Сосредоточимся на случае Е = F. Среди всех билинейных функционалов на Е* хЕ обращает на себя внимание тот, который переводит пару (/, х) в число /(х); он называется естественной двойственностью между Е* и Е или спариванием пространств Е* иЕ. Ограниченный функционал, ассоциированный с естественной двойственностью, называется тензорным следовым функционалом или просто тензорным следом и обозначается ttr: Е* ®Е —»С. Очевидно, он однозначно определен равенством ttr(/ ® х) = f(x); кроме того, || ttr || = 1. Если оператор Gr: Е* ®Е —> В(Е) инъективен, то, сопоставив ядерному оператору Г число ttr(u), где элемент и е Е* %Е таков, что Gr (и) = Т, мы получим линейный функционал на (М(Е), ||-||у) нормы 1. Этот функционал (подчеркиваем — корректно определенный при Кег (Gr) = 0) также называется следом или, при желании уточнить, операторным следом и обозначается символом tr. Читатель, конечно, догадался, что все это должно быть как-то связано с классическим понятием следа матрицы — суммы ее диагональных элементов. Упражнение 6*. Пусть пространство Е конечномерно. Тогда (i) оператор Гротендика осуществляет линейный изоморфизм между Е* ®Е и ЦЕ); (и) для любого оператора Т е ЦЕ) его операторный след (корректно определенный в силу (i)) совпадает со следом матрицы этого оператора в любом линейном базисе. Указание. Наряду с базисом е,,..., еп в Е возьмите такой базис е*,..., е* в Е*. что значение е?(е,) равно единице при к = I и нулю при к ф I, и посмотрите, каков след элемента A(te,*®et и каков след матрицы оператора Т е ЦЕ) в указанном базисе. Для каких банаховых пространств Е след ядерных операторов, действующих в Е, корректно определен? Иными словами, когда при заданном Т eAf(E) число ttr(u) не зависит от выбора такого элемента мб?' ®.Е, что Gr(u) = Т? Забегая вперед, отметим, что это бывает в точности тогда, когда пространство Е обладает выдающимся по важности геометрическим свойством — так называемым свойством аппроксимации Гротендика (см. далее определение 3.3.2 и теорему 3.3.4). Еще раз подчеркнем (ср. сказанное выше об инъективности оператора Gr), что для подавляющего большинства известных нам банаховых пространств операторный след действительно корректно определен. Для гильбертовых пространств мы докажем это в конце § 3.4. Заканчивая разговор о конструкции банахова тензорного произведения, еще раз взглянем на нее сквозь «категорные очки». Вам предлагается сделать два простых упражнения. Первое из них говорит о внутреннем родстве этой конструкции с конструкцией пополнения (ср. упражнение 6.1). Упражнение 7. Покажите, что каждая из теорем существования этого параграфа (теоремы 2 и 4) эквивалентна утверждению о представимости некоторого функтора. Указание. Рассмотрите функтор Т из Lin (соответственно Ban) в Set, сопоставляющий каждому пространству G множество всех билинейных (соответственно сжимающих билинейных) операторов из Е х F в G.
§ 8. ГИЛЬБЕРТОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 227 Второе упражнение проливает дополнительный свет на результат упражнения 5 о совпадении фигурирующих там банаховых пространств: на самом деле совпадают не отдельные пространства, а «целиком» некоторые функторы. Упражнение 8. Для любых E,F,Gt Ban справедливы следующие утвержде- (i) композиция функторов В(?, G) о (? §>F) естественно эквивалентна функтору B(?,B(F,G)); (ii) функтор В(Е ®>F,?) естественно эквивалентен композиции В(Е, ?)oB(F, ?). Замечание. Указанный факт является проявлением некоей глубокой связи между функторами ?®F и B(F, ?), которую выражают, говоря, что «первый сопряжен второму». Об общем понятии сопряженных функторов см., например, [4]. Несколько слов читателю, заинтересовавшемуся квантовыми пространствами из (необязательного) § 1.7. В квантовом функциональном анализе тензорные произведения играют еще большую роль, чем в классическом. В соответствии с тем, что существуют два содержательных «квантовых» варианта понятия ограниченного билинейного оператора, существуют и два содержательных «квантовых» варианта понятия банахова (=проективного) тензорного произведения. Это «операторное проективное тензорное произведение» Эффроса — Руана и Блечера — Полсена и «тензорное произведение Хаагерупа». Первое из них определено с помощью свойства универсальности для вполне ограниченных, а второе—для мультипликативно ограниченных билинейных операторов; каждое представляет собой пару, состоящую из банахова (= полного на всех этажах) квантового пространства и билинейного оператора соответствующего типа. Операторное проективное тензорное произведение по своим свойствам напоминает классическое банахово тензорное произведение; в частности — и это очень важно — для него выполнен естественный аналог закона сопряженной ассоциативности. А вот тензорное произведение Хаагерупа ®л весьма своеобразно; достаточно заявить, что оно зависит от порядка тензорных сомножителей. Так, например, q ®ft q = A/"(ij), и в то же время Ц ®h q = K(q). (Здесь Af — как обычно, символ пространства ядерных операторов, а /С — символ пространства компактных операторов, которые будут определены в следующей главе.) Но подобные неудобства перевешиваются следующим преимуществом этого тензорного произведения: произведение по Хаагерупу двух сюръективных операторов сюръективно и одновременно произведение двух инъективных операторов инъективно. Этой уникальной особенностью тензорного произведения Хаагерупа не обладает ни одно из известных тензорных произведений «классических» банаховых пространств. Подробности см., например, в [76]. § 8. Гильбертово тензорное произведение Теперь мы оставим общие банаховы пространства и сосредоточимся на гильбертовых. Прежде всего заметим, что в их контексте проективное тензорное произведение, оставаясь важным средством для работы, все же не всегда радует: проективное тензорное произведение гильбертовых пространств, как правило, гильбертовым пространством уже не является.
228 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА Упражнение 1. Пусть Я и К — гильбертовы пространства, е, и ej (соответственно е{ и е^) — ортогональные векторы нормы 1 в Я (соответственно К). Тогда норма вектора e,®e[-fе^®е^ в Н®К равна 2 и, как следствие, норма в Н®К не является гильбертовой. Указание. Норма билинейного функционала на Н х К, переводящего пару (ж, у) в (ж, е,)(г/, е[) + (ж, ^(у, е^), равна 1. Тем не менее, существует полезный вариант конструкции тензорного произведения, сохраняющий «гильбертову природу» заданных пространств. На этот раз, чтобы быстрее прийти к цели, мы сразу дадим его явную конструкцию. Она основана на том, что алгебраическое тензорное произведение двух предгильбертовых пространств само обладает естественным предскалярным произведением. Предложение 1. Пусть Н и К — предгильбертовы пространства. Тогда в линейном пространстве Я®К существует единственное такое предскалярное произведение, что (х, ® у„ xj ® fc) = (х„ XjXy,, %); как следствие, для соответствующей преднормы выполнено равенство ||х ® у|| = ||х||||у||. При этом если Я и К — почти гильбертовы пространства, то таково же и Н ®К. < Если (•, •) — предскалярное произведение на Н ® К с указанными свойствами, то для и, veH®K, u=J2 ж?®у?, v= J2 х?'®у?, * = i /t = i очевидным образом выполнено равенство («,«>= t te.xfXsi.tf). (i) M = l Это означает, что может быть не более одного подобного предска- лярного произведения. Покажем, что одно все-таки существует. Вначале возьмем пару х€ Н,уеК и обозначим через gxy: Я® ® К -* С линейный функционал, ассоциированный с билинейным функционалом (х,, у,) >-> (х,, х)(уи у), х, е Н, ух е А". Теперь возьмем и еЯй А" и рассмотрим отображение Т\ Н х К —* С, (х, у) i-> &,„(«). Тогда, взяв любое представление и в виде и = ? xfc ® уА, мы получаем, что ^"(х, у) = ]П (а:, хк)(у, ук); отсюда очевидным образом следует, что Т — билинейный функционал. Обозначим через /„: Я® К —»С ассоциированный с ним линейный функционал. Наконец, для u,v е Я ®К положим (и, v) := fu(v).
§ 8. ГИЛЬБЕРТОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 229 Пусть и = X} х'к ® у'к и v = ]Г) х'к' <8> у?; тогда элементарные выкладки, использующие линейность функционалов /„ и &.»,„», доставляют равенство A), частным случаем которого является равенство, указанное в формулировке. Далее, из A) легко следует, что функция двух переменных (u, v) сопряженно-симметрична и положительно определена. Наконец, из очевидного равенства (и, и) = fv(u) вытекает, что она линейна по первому аргументу. Остается рассмотреть случай скалярных произведений, т. е. почти гильбертовых пространств Я и К. Пусть элемент иеН®К, и= J2 xk®yk, отличен от нуля. Возьмем ортонормированный базис е,,...,его в spanjxp ..., хп}; тогда каждый вектор хк имеет вид ? ^wei> ^ы е<С. Отсюда, очевидно, и = ? e,®z,, где z, = ? Awyk, и из неравенства и Ф 0 следует, что не все zl равны нулю. Мы получаем, что («,«>= Ei<ej,e>><ziI^> = f;U>z4>. Следовательно, (и,в)/0,ий®К — почти гильбертово пространство. > Отсюда с учетом непрерывности скалярного произведения (предложение 1.2.4) очевидным образом следует Предложение 2. Если последовательность х„ сходится к х вН,ауп—кувК,то последовательность хп ® уп сходится кх®у в (Я <8>К, {¦,¦)). < > Отныне и до конца параграфа Я и К — гильбертовы пространства. Обозначим через Я ® К гильбертово пространство, являющееся пополнением почти гильбертова пространства (Я ® .К", (•, •)) (см. предложение 6.3). Определение 1. Пара (Н®К,4) где i?: Н х К —> Н ® К — билинейный оператор, действующий по правилу (х, y)t-yx<S>y, называется гильбертовым тензорным произведением гильбертовых пространств Я и К. Здесь наш просвещенный читатель, возможно, испытывает дискомфорт от несоответствия между приведенными определениями банахова и гильбертова тензорных произведений: первое давалось в «возвышенных» терминах свойства универсальности, а второе — «прозаически», с помощью явной конструкции. На самом деле при изложении этого круга вопросов, выходящем за рамки самых начальных сведений, гильбертово тензорное произведение можно — и должно — определять в духе определений 7.1 и 7.3. Если Вам любопытно, то вот как это делается (ср. [82]). Вместо класса всех ограниченных билинейных операторов, фигурирующих в опреде-
230 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА лении 7.3, рассматривается класс билинейных операторов Шмидта. Так называются билинейные операторы TV. Н х К —»L, где Я, К, L — гильбертовы пространства, обладающие следующим свойством: для любых тотальных ортонормированных систем {е|^еЛ|} в Я и {е„ | ^ € Л2} в К и любого z€L выполнено неравенство Z){|<^(eAJ. ек). z)\2 I /* € Л[, 1/ е Л2} < оо. (При этом оказывается — замечательный факт, — что указанное число не зависит от конкретного выбора ортонормированных систем, а зависит только от z.) Верхняя грань указанных чисел, взятая по всем z е Ulf , называется нормой Шмидта нашего билинейного оператора. Теперь можно заявить, что пара (в, в) где в — гильбертово пространство, а в: Н х К —>Э — билинейный оператор Шмидта, называется гильбертовым тензорным произведением гильбертовых пространств Я и К, если для любого гильбертова пространства L и любого билинейного оператора Шмидта И: Я х К -* L с нормой Шмидта не больше 1 существует единственный такой линейный оператор R операторной нормы не большей 1 (т. е. сжимающий), что диаграмма НхК 4 \* коммутативна. Из такого определения немедленно следует теорема единственности в духе теорем 7.1 и 7.3 (сформулируйте!), после чего уже в качестве доказательства теоремы существования предлагается явная конструкция — пара (Я ® К, t?) и устанавливается, что она и впрямь обладает только что описанным свойством универсальности. Все эти вещи достаточно важны и поучительны, но выходят за рамки наших лекций. Предложим два упражнения, проясняющие природу гильбертова тензорного произведения. Предположим, исключительно простоты ради, что пространства Н и К сепарабельны, и е'п, п е N, — ортонормированный базис Шаудера в первом, а еп, п € N, — во втором пространстве. Упражнение 2. Система е'т ® en, т, п е N, расположенная произвольным образом в последовательность, — ортонормированный базис в Н (8) К. Далее, для каждого п = 1, 2,... положим #„ := {х <g> еп | х б Я}. Очевидно, это замкнутое подпространство в Н ® К, причем между Н и Нп существует изометрический — он же унитарный — изоморфизм, переводящий х в х ® еп. (Можно сказать, что Нп, п б N, суть изометрически изоморфные копии пространства Я.) Аналогично в том же пространстве Я ® К возникают замкнутые подпространства Кп, являющиеся изометрически изоморфными копиями пространства К. Упражнение 3*. Покажите, что существует однозначно определенный унитарный изоморфизм U: Я <8>К —> ©{Яп; п е N} (сим-
§ 8. ГИЛЬБЕРТОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 231 вол ® обозначает гильбертову сумму, определенную в § 1), переводящий х ® еп в такую последовательность (z,, z2,...), zm G Hm, что zn = х <g> en и zm — О для тфп. Постройте аналогичный унитарный изоморфизм между Я ® К и ф{/С„ | n € N}. Указание. Существует единственный оператор R: Я ® К —> —> ®{Я„ | n е N}, переводящий х ® у в такую последовательность z,, ^2,..., что zn := (у, en)x <g> еп. Он изометрически изоморфно отображает плотное подпространство в Я <8>К, состоящее из сумм элементарных тензоров вида х ® en, х е Я, neN, в плотное подпространство в ф{Яп | п е N}. А теперь приведем поучительный пример. Упражнение 4. (Ср. теорему 7.5.) Пусть (Xlf рх) и (Х2, р^)— два измеримых пространства, (Xi х Х2, рх х р^) — их произведение. Тогда с точностью до изометрического изоморфизма Li(Xl,fil)®Li(Xa,iia) = L2{Xx хХ2,рх хръ). Указание. Пусть L := span{xM ® Xn}> где М и N — всевозможные измеримые подмножества соответственно в Хх и Х2, ах — символ характеристической функции; это плотное подпространство в Ь2(Х{, рх) ® L2(X2, р^). Оператор из L2(XU р{) ® L2(X2, ръ) в Ь2(Х{ хХ2,р1 х ръ), корректно определенный правилом (х, у)н+ x(s)y(t), изометрически изоморфно отображает L на плотное подпространство в L2(XX х Х2, /х, х р^). Одно из главных достоинств гильбертова тензорного произведения, роднящее ее с банаховым тензорном произведением, состоит в том, что эта конструкция «функториальна»: она определена не только для пространств, но и для операторов. В основе лежит Теорема 1. (Ср. теорему 7.6.) Пусть S: Щ -* Н2 и Т: .К", —> К2— ограниченные операторы между гильбертовыми пространствами. Тогда существует единственный такой ограниченный оператор S ® Г: Я, ® Кх —* Н2 ® К2, что (S <8> Т)(х ® у) = S(x) <8> Т(у) для всех х е Я,, у е Кх. При этом ||5®Г|| = ||5||||Г||. << Поскольку алгебраическое тензорное произведение Hi<8>Kl, т. е. линейная оболочка элементарных тензоров в Я, <g> Кх, плотно в последнем пространстве, существует не более одного ограниченного оператора, удовлетворяющего указанному условию. Кроме
232 Гл. 2. БАНАХОВЫ ПРОСТРАНСТВА И ИХ ПРЕИМУЩЕСТВА того, в силу тождества ||х®у|| = ||я|||Ы| ДЛЯ нормы в гильбертовом тензорном произведении, для этого гипотетического оператора S ® Г выполнено неравенство ||S ® ГЦ ^ sup{||(S ® Г)(х ® у)\\ \xeUIHi,v€UlKi} = = зир{||5(х)||||Т(у)|||х€ШЯ[)уеШ^} = ||5||||Г||. Поэтому наша задача — показать, что такой оператор действительно существует и при этом ||5 ® ГЦ ^ ||5||||Г||. Дело по существу сводится к рассмотрению «решающего» специального случая. Лемма 1. Существует такой ограниченный оператор S ® 1: Hl<S)Ki-^H2<S>Ki, чтоE®1)(х®у) = 3(х)®у для всеххеНх,уе ?КГ При этом ||5®1||<||5||. < Рассмотрим билинейный оператор TZ: Я, х Кх —> Я2 ® ® .К",, (х, у) н-> S(x) ® у; пусть R: Я, ® Кх -* Я2 ® if, — ассоциированный с ним линейный оператор. „ Возьмем элемент г* е Я, х if, и его представление и = J2 xk®yk. k = \ Не теряя общности, мы можем считать, что система у,,..., уп б Кх ортонормированная. (Если это не так, то мы выберем ортонорми- рованный базис в span{y,,..., уп}, разложим векторы ук по этому базису и воспользуемся «билинейными свойствами» символа ®.) Тогда система х, ® у,,..., хп ® уп ортогональна в Я, ® Кх, а система 5(х,)®у,,..., 5(х„)®у„ ортогональна в Я2®.К",. Поэтому с учетом «равенства Пифагора» (предложение 1.2.7) P(u)||2 = || Ё 5(xJ®yfc||2= Ё \\S(xk)®yh\\' = *=1 /t = l = Ё 1№*I12<1№ Ё Kl!2 = l|s||2 Ё 11**®й112 = Ц5||2||«||». Jt = l * = 1 k = l Тем самым R — ограниченный оператор из почти гильбертова пространства Н1®К1 в гильбертово пространство Н2®КУ, и ||Д|| ^ ||5||. Продолжив оператор R по непрерывности на все пространство Я, ® Кх, мы получим оператор S ® 1 с требуемыми свойствами. > Конец доказательства теоремы 1. Аналогичным образом возникает такой ограниченный оператор 1 ® Г: Я2 ® Kt-* Я2 ® К2, что A® Г)(х®у) = х® Т(у) для всех хеЯ2, у Е Кх и ||1® ГЦ ^ ||Г||.
§ 8. ГИЛЬБЕРТОВО ТЕНЗОРНОЕ ПРОИЗВЕДЕНИЕ 233 Положим S ® Г := A ® T)(S ® 1), Я, ® ЙГ, -> Я2 ® АГ2; в силу мультипликативного неравенства для операторной нормы этот оператор ограничен и ||S®r|| < ||5||||Г||. Дальнейшее очевидно. >> Вот конечномерная иллюстрация. Пусть е{,..., е'т и е,,..., еп — ортонормированные базисы соответственно в Н и К, и пусть операторы 5: Н —> Н и Г: К -* К записываются в этих базисах соответственно матрицами а=(аы) и Ь — (Ь^). Положим для краткости еге := е'г ® е,, г = 1,..., т, з = 1,..., п. Упражнение 5°. Действующий в Н® К (оно жеиЯ®Х) оператор S ® Т записывается в базисе eu,el2,.. .,еы,е21,... ..., е^,..., ет1,..., етп блок-матрицей (ак1Ь), а в базисе еп, а,,,... • ¦ •> eml> е12> • • •) ет2> • • •> е1гИ • • •> етп блОК-МЭТрИЦвЙ (Ь^а). В заключение мы предлагаем читателю-отличнику, поступая по аналогии с введенным выше функтором банахова тензорного произведения, определить функтор гильбертова тензорного произведения Я®? — на этот раз действующий в категории Hil.
Глава 3 ОТ КОМПАКТНЫХ ПРОСТРАНСТВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ § 1. Компакты и связанные с ними функциональные пространства Значительная часть этого и следующего параграфа Вам, скорее всего, известна. Однако мы снова озабочены тем, чтобы изложить эти сведения именно в той форме, в какой они понадобятся. За всю историю математики в ней накопилось довольно много утверждений, которые поначалу казались их авторам чисто вспомогательными, а потому были скромно названы леммами. Затем, однако, вокруг такой «леммы» постепенно выстраивался целый ряд фактов, обладавших неким интуитивно ощущавшимся внутренним единством. Наконец, желание понять, что же за всем этим стоит, приводило (быть может, уже людей другого поколения) к открытию фундаментального математического понятия. Пожалуй, наиболее ярким примером подобного развития событий является история известной Вам с первого курса леммы Бореля. Пусть (?}, т) — топологическое пространство, Д — его подмножество. Подсемейство а Ст называется открытым покрытием этого подмножества, если Д С u{U \U ecr}. Если ст0 и а —два открытых покрытия того же подмножества Д и а0 С а, то первое открытое покрытие называется подпокрытием второго; говорят также, что а содержит подпокрытие сг0. Очень часто при обсуждении покрытий в роли Д выступает все пространство Q. Определение 1. Топологическое пространство называется компактным или компактом, если любое его открытое покрытие содержит конечное (= состоящее из конечного числа множеств) подпокрытие. Подмножество Д (произвольного) топологического пространства С1 называется компактным подмножеством, если оно компактно как топологическое подпространство в Q.
§ 1. КОМПАКТЫ И ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА 235 Термин «компактный» относится к числу весьма удачных и отражает наше житейское представление о компактном; читатель убедится в этом постепенно, по мере накопления материала. Мы можем говорить о компактных подмножествах и без перехода к унаследованной топологии. Непосредственно проверяется Предложение 1. Подмножество Д топологического пространства U компактно тогда и только тогда, когда любое его открытое покрытие содержит конечное подпокрытие. < > Нетрудно дать эквивалентное определение компактности в терминах замкнутых множеств, раз они определены как дополнения открытых, а также точек прикосновения. С этой целью условимся называть семейство а подмножеств в ?1 центрированным, если пересечение любого конечного набора из этого семейства непусто. Предложение 2. Следующие свойства топологического пространства П эквивалентны: (i) fi компактно; (ii) всякое центрированное семейство замкнутых подмножеств в С1 имеет непустое пересечение; (iii) всякое центрированное семейство (произвольных) подмножеств в Q имеет общую точку прикосновения. < Равносильность утверждений (i) и (ii) немедленно следует из стандартного теоретико-множественного тождества, связывающего дополнения, объединения и пересечения (напишите это тождество). Далее, ясно, что из (iii) следует (ii) Обратный вывод обеспечен тем, что семейство замыканий центрированного семейства также центрировано и общая точка этих замыканий, очевидно, является общей точкой прикосновения исходных множеств. > Как частный случай свойства (ii) мы, очевидно, получаем, что последовательность V, э V2 D V3. вложенных замкнутых подмножеств компактного топологического пространства всегда имеет хотя бы одну общую точку. Уже это свойство существенно сильнее, чем «принцип замкнутых вложенных множеств» в полных метрических пространствах, который, как мы помним, требует сходимости к нулю диаметров этих множеств. Просвещенный читатель, сделавший упражнение 0.2.7, знает, что в топологическом пространстве совокупность открытых множеств может быть описана в терминах сходящихся направленностей. Естественно, он спросит: а как в подобных же терминах судить о том, является ли данное пространство компактным? Ответ дается в терминах так называемых поднаправленностей — разумного, хотя и не столь близкого обобщения понятия подпоследовательности. Определение 2. Пусть xv, v е Л, и у , ц еЛ', —две направленности элементов некоторого множества X. Тогда вторая называется поднаправленностью первой,
236 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ если существует такое отображение -у: А' -> А, что для всех р. е А' выполнено равенство z7(/i) = у^ и для каждого i/ е А найдется такой элемент р. 6 А', что и ч ч(р') для любого р! >- р.. Теорема 1. (БД) Топологическое пространство ft компактно в том и только том случае, если каждая направленность его элементов обладает сходящейся (в ft, где же еще?) поднаправленностью. Очевидно, если два топологических пространства гомеоморфны, то они одновременно компактны или нет; как говорят, компактность — это топологическое (= инвариантное относительно изоморфизмов в ТОР) свойство. В этом его принципиальное отличие от свойства полноты метрических пространств, которое не инвариантно относительно гомеоморфизмов (ср. сказанное в начале § 2.1). Исторически первый пример компакта — это, конечно, отрезок числовой прямой (на то и лемма Бореля). Вам уже рассказывали, что произвольное подмножество в R" или С" с евклидовой метрикой компактно тогда и только тогда, когда оно ограничено и замкнуто; из предложения 2.1.4 очевидным образом следует, что точно так же обстоят дела в произвольных конечномерных нормированных пространствах (впрочем, мы еще вернемся к этому в следующем параграфе). Далее, дискретное топологическое пространство компактно тогда и только тогда, когда оно конечно (взгляните на его покрытие одноточечными подмножествами). Зато антидискретное топологическое пространство, разумеется, всегда компактно. Комплексная плоскость с топологией Зарисского также, как Вы легко можете проверить, компактна, и этим, конечно, топология Зарисского отличается от стандартной топологии в С, принятой в анализе. На самом деле пространство С" с топологией Зарисского компактно для всех п, причем выполнено даже более сильное свойство: всякая последовательность его вложенных замкнутых подмножеств стабилизируется. (Вот как по-разному выглядит С" для алгебраиста и для аналитика.) Но мы не будем на это отвлекаться; см., например, [55, § 2.1]. За что математики уважают компакты? Прежде всего, вот что лежит на поверхности. Предложение 3 (аналог теоремы Вейерштрасса). Если Q — компакт, то всякая непрерывная функция <р:С1-*С ограничена и верхняя грань ее модуля достигается. < Для любого А ? С положим Ux := {t е ii | МО - А| < 1}. Очевидно, С/л, А е С, — открытое покрытие нашего компакта; пусть Ux ,..., Ux — его конечное подпокрытие. Тогда для любой точки t efi очевидным образом выполнено неравенство lv(*)l ^ Z) |Ад. | -+- 1. Утверждение о верхней грани доказывается дословно так же, как и в классической теореме Вейерштрасса. >
§ 1. КОМПАКТЫ И ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА 237 Таким образом, если Q — компакт, то функциональное пространство C(Q) совпадает с Cb(fi) (см. пример 1.1.6') и, стало быть, является банаховым пространством относительно равномерной нормы. Мы еще много раз убедимся в важности этих пространств. Функция р: С1 —> С, заданная на (пока произвольном) топологическом пространстве, называется исчезающей на бесконечности, если для любого е > О существует такое компактное подмножество Д в ft, что \f(t)\ < е при t $ А. Из предложения 3 очевидным образом следует Предложение 4. Каждая исчезающая на бесконечности непрерывная функция на топологическом пространстве ограничена, и верхняя грань ее модуля достигается. < > Множество исчезающих на бесконечности непрерывных функций на топологическом пространстве ft обозначается через C0(ft). Как легко проверить, это замкнутое подпространство в Cb(Q) и, стало быть, банахово пространство относительно равномерной нормы. Если пространство ft компактно, то, разумеется, C0(ft) = C(ft). Несколько типичных пространств указанного вида нам уже встречались среди примеров нормированных пространств: это Cq(X), т. е. С0(Х) при дискретном X (в частности, cj, = C0(N)), и C0(R) (см. § 1.1). Продолжим разговор о привлекательных свойствах компактов. Предложение 5. Замкнутое подмножество компакта само компактно. < Немедленно следует из предложения 2 (ii). > Предложение 6. Компактное подмножество хаусдорфова пространства замкнуто. <j Пусть речь идет о подмножестве ДвП. Зафиксируем точку х в ft \ Д; наша задача — показать, что она внутренняя. Для любой точки у ? А обозначим через Щ и Vy непересекающиеся окрестности точек х и у соответственно. Семейство {Vy\y? А], будучи покрытием подмножества Д, содержит конечное подпокрытие, скажем, {Vy,...,Vy }. Но тогда множество п U*h является окрестностью точки х, не пересекающейся с Д. > Предложение 7. Пусть ц>: Г2, —> 02 — непрерывное отображение компакта в произвольное топологическое пространство. Тогда Im (<р) —компактное подмножество в ft2. (Кратко: непрерывный образ компакта —сам компакт.) < Пусть а — открытое покрытие множества Im(<?>) в ft2; тогда {<p~l(U) | U е <т} — открытое покрытие множества ft,. Возьмем
238 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ конечное подпокрытие, скажем, {Vj,..., Vn}, последнего покрытия и рассмотрим семейство {f(V{),..., <p(Vn)}. Дальнейшее очевидно. > Объединяя все эти факты, мы получаем весьма содержательное утверждение. Теорема 2 (АлександровI*. Пусть ft, —компактное, а ft2 — хаусдорфово топологическое пространство и у>: ft, —> ft2 — непрерывное биективное отображение. Тогда это гомеоморфизм (иными словами, отображение р~] автоматически непрерывно). < Поскольку гомеоморфизм — это в точности непрерывная открытая биекция (см. § 0.2), наша задача — показать, что отображение <р открыто или (что то же самое ввиду биективности ip) что образ каждого замкнутого множества Д в ft, замкнут в ft2. Последовательно применяя предложения 5, 7 и 6, мы сперва видим, что Д — компакт, затем — что таков же и образ </?(Д) и, наконец — что этот последний замкнут. > ЗАМЕЧАНИЕ. Обратите внимание на внутреннее родство теоремы Александрова с теоремой Банаха об обратном операторе. Обе описывают ситуации (внешне, казалось бы, не имеющие ничего общего), когда непрерывное биективное отображение автоматически является гомеоморфизмом. Разумеется, как условие компактности первого пространства, так и условие хаусдорфовости второго нельзя отбросить. (Приведите соответствующие примеры.) Доказанную теорему можно усилить в двух направлениях. Предложение 8. (Ср. следствия 2.4.2 и 2.4.1.) Пусть ip: ft, —> ft2 —непрерывное отображение компакта в хаусдорфово пространство. Тогда (i) если отображение >р инъективно, то оно топологически инъективно; (и) если отображение у сюръективно, то оно топологически сюръективно. < Первое утверждение следует из теоремы 2 и хаусдорфовости пространства ft2. Чтобы проверить второе, обозначим через т заданную топологию в ft2, а через т' — топологию факторпро- странства относительно tp (см. § 0.2). Тогда в силу предложения 7 '' П. С. Александров A896-1982) — крупный российский математик, один из создателей топологии. Это именно он, вместе со своим другом П. С. Урысоном (вторым ПСом, как они любили шутить), ввел тот класс топологических пространств, который они назвали бикомпактами, а мы теперь называем компактами.
§ 1. КОМПАКТЫ И ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА 239 пространство (Г22, т') компактно, и поэтому тождественное отображение 1: (fi2, т') -+ (fi2, т) удовлетворяет условиям теоремы 2. Дальнейшее очевидно. > Теперь наш категорный зоопарк пополняется новым зверем ценной породы. Рассмотрим в ТОР полную подкатегорию, объектами которой являются компактные хаусдорфовы пространства, и обозначим ее через СНТОР. (Для топологов интересна еще и категория СТОР, состоящая из всех компактных пространств, но она гораздо менее важна для функционального анализа.) Разумев -ся, изоморфизмы в СНТОР — это гомеоморфизмы, но в этой категории в силу теоремы 2 их можно охарактеризовать и просто как биективные морфизмы. (Таким образом, теорема Александрова несет для категории СНТОР ту же смысловую нагрузку, что и теорема Банаха для категории BAN.) Что касается других видов морфизмов, то элементарно проверяется (ср. предложения 0.5.5 и 0.5.6), что мономорфизмы в СНТОР — это в точности инъективные морфизмы, а все сюръективные морфизмы суть эпиморфизмы. На самом деле эпиморфизмы полностью характеризуются как сюръективные морфизмы, что отличает категорию СНТор от НТОР и роднит ее с Тор; ср. § 0.5. Но подобные вещи мы оставляем для сильного студента. Если строение «хороших» морфизмов, выделенных в § 0.5, идеально просто в категориях Set и Lin (см. там же), то можно считать, что категория СНТор дает следующую по сложности картину. Сделанные в общеобязательном тексте наблюдения завершает Упражнение 1. В категории СНТор (i) всякий биморфизм есть изоморфизм; (и) морфизм ip — мономорфизм •<=>• yj — крайний мономорфизм <^=>- уз инъекти- вен; (Ш) морфизм tfi — эпиморфизм •<=>• <р — крайний эпиморфизм <=> <р сюръекти- вен. Указание. Главное — это то, что всякий эпиморфизм сюръективен; все остальное отсюда легко следует. А это утверждение можно доказать так же, как предложено в замечании после предложения 0.5.6. Однако самая важная для приложений черта введенной категории состоит в существовании и прозрачном явном виде категорных произведений. Следующая теорема является одной из важнейших в топологии и одновременно источником всяческих благ для функционального анализа (см., например, теорему 4.2.5). Напомним о конструкции топологического (= тихоновского) произведения топологических пространств, доставляющей, вместе с проекциями, теоретико-категорное произведение объектов в ТОР (а также в НТОР) (см. § 0.6).
240 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Теорема 3 (Тихонов). Топологическое произведение произвольного семейства компактных топологических пространств само компактно. « Пусть П„, убЛ, — наши пространства и fi:= х{П„; ^еЛ} — их топологическое произведение. Пусть, далее, а — произвольное центрированное семейство подмножеств в Q. На основании предложения 2 (iii), достаточно найти у этого семейства общую точку прикосновения. Лемма. Семейство а содержится в некотором максимальном центрированном семействе C подмножеств в О, (т. е. таком, к которому уже нельзя добавить, без нарушения центрированности, ни одного нового множества). < Рассмотрим множество X, элементы которого суть всевозможные центрированные семейства подмножеств в Q, содержащие семейство а. Оно упорядочено по включению, причем объединение всех семейств любого линейно упорядоченного подмножества в X очевидным образом является центрированным семейством. Отсюда немедленно следует, что X, как упорядоченное множество, удовлетворяет условиям леммы Цорна и, стало быть, содержит максимальный элемент. Последний, как легко видеть, и есть нужное семейство. > Конец доказательства теоремы. Для каждой «координаты» v е Л возьмем проекцию 7r„: Q —> Qv и рассмотрим семейство Д, := {7г„(Д); Д е /3} подмножеств в П„. Из центрированности семейства /3 легко следует подобное же свойство семейства /3„. Поэтому с учетом компактности пространств П„ все множества из /3„ обладают общей точкой прикосновения, скажем, tv. А теперь рассмотрим в Q точку t с координатами tu. Из определения топологии в Q следует, что каждая окрестность этой точки содержит окрестность вида V :— П V , где Vv , vk € Л, есть прообраз относительно тг„ некоторой окрестности U„ точки В силу выбора координат точки t, для каждого fc = l,..., п окрестность Vu пересекается со всеми множествами семейства /3. Заметим также, что семейство /3, будучи максимальной центрированной системой, обязано содержать пересечение любого конечного набора своих множеств. Все это означает, что семейство /3, дополненное множеством V„ , — центрированное, а значит, в силу той же максимальности, V е /3 для всех к и, как следствие, V е /9. Тем самым, V пересекается с любым из подмножеств семейства /3, а значит, и исходного семейства а. Дальнейшее очевидно. t>>
§ 1. КОМПАКТЫ И ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА 241 Следствие 1. Всякое семейство непустых пространств в СНТОР (а также в СТОР) обладает произведением, каковым является топологическое произведение этих пространств вместе с проекциями. Ожидаем вопрос любознательного читателя: а как же с копроизведениями? Мы помним, что в больших категориях Тор и НТор копроизведения всегда есть и это просто дизъюнктные объединения (упражнение 0.6.6). Поскольку дизъюнктное объединение бесконечного семейства непустых топологических пространств заведомо не компактно (проверьте!), можно подумать, что копроизведениями в СНТор обладают только конечные семейства. Однако на самом деле копроизведение любого семейства хаусдорфовых компактов в СНТор существует, но только оно сложнее устроено: надо взять не само дизъюнктное объединение этих компактов, а его так называемую максимальную компактификацию. А это еще что за птица? Дело в том, что существует довольно много способов сделать заданное пространство компактом, добавив к нему новые точки, притом так, что исходное пространство в этом новом компакте плотно. Подобный компакт называются компактификацией исходного пространства. В этих лекциях мы познакомимся с «минимальной», так называемой александровской компактификацией, когда к заданному пространству добавляется всего одна точка (см. определение 4). Она, как Вы увидите, весьма проста. Но есть гораздо более глубокий факт. Для весьма широкого класса хаусдорфовых пространств существует еще и «максимальная» (в определенном разумном смысле) компактификация, называемая также стоун-чеховской. При максимальной компактификации добавленных точек может оказаться гораздо больше, чем исходных; например, подобная процедура с дискретным множеством N приводит к появлению 2N (N — мощность континуума) новых точек. Стоун-чеховскую компактификацию заданного пространства можно определить в терминах некоторого универсального свойства наподобие того, как определялись пополнения (ср. предложение 2.6.1 (i)). Она же служит инициальным объектом в категории, объектами которой объявлены всевозможные хаусдорфовы компактификации нашего пространства, а морфизмами — непрерывные отображения, тождественные на этом пространстве. Подробнее о компактификациях см., например, [63]. Для случая конечного числа «перемножаемых» пространств компактность их топологического произведения может быть установлена и без обращения к лемме Цорна. Соответствующее рассуждение основано на еще одной важной характеризации компактных пространств, которую мы приведем без доказательства (см., напри- мер, [63]). Теорема 4 (Куратовский). (БД) Топологическое пространство Q компактно тогда и только тогда, когда для любого топологического пространства А проекция топологического произведения Q х А на А переводит каждое замкнутое множество в замкнутое множество. Упражнение 2°. Выведите из теоремы 4 тот факт, что топологическое произведение конечного семейства компактных пространств компактно.
242 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Указание. Проведите индукцию по числу перемножаемых пространств. Категория компактных хаусдорфовых топологических пространств связана с другими категориями анализа и топологии рядом функторов. Вот один из самых важных. ПРИМЕР 1. (Ср. пример 2.5.3.) Сопоставим каждому Cl е G ОЬ(СНТОР) банахово пространство C(il), а каждому ш е eh(fi,,fi2), т. е. непрерывному отображению, — оператор С(ш): С(С12) -* 6@,), переводящий функцию <р: Q2 -> С в функцию С(ш)((р): fi,-»C, (и ip(w(t)). С учетом того, что С(ш) — сжимающий оператор, этим, очевидно, определен контравариантный функтор С: CHTop-»Ban,, называемый функтором непрерывных функций. (Подобный функтор, конечно, можно определить и на других категориях топологических пространств, например, СТОР, но только при этом мы потеряем кое-какие хорошие свойства; ср. далее теорему 5.) Теперь мы выполним обещание, данное в § 2.2, и расскажем о некоторых ярких результатах, касающихся классификации банаховых пространств непрерывных функций. Говоря формально, эти результаты относятся к проблемам классификации объектов в двух категориях — полной подкатегории в BAN, и полной подкатегории в BAN. Обе имеют одни и те же объекты: пространства вида C(Q), где ?2 — компактное хаусдорфово пространство. Здесь (в отличие, скажем, от полных подкатегорий, состоящих из гильбертовых пространств; ср. теорему 2.2.2) дела с «топологической» и «метрической» классификациями обстоят совсем по-разному. Теорема 5 (Банах, Стоун). (БД) Пусть ?2, и С12 — компактные хаусдорфовы пространства. Следующие утверждения эквивалентны: (i) С(?2,) и С(?22) изометрически изоморфны как банаховы пространства (— изоморфны как объекты категории BAN,); (ii) С(Г2,) и С(П2) изометричны как метрические пространства (= изоморфны как объекты категории Мет,); (iii) ?2, и П2 гомеоморфны (— изоморфны как объекты категории СНТор). Кроме того, если функтор непрерывных функций (см. пример 1) переводит морфизм <р из СНТор в изоморфизм в BAN,, то и <р — изоморфизм. (Как говорят, функтор С отражает изоморфизмы.) Доказательство этой теоремы, равно как и других упомянутых ниже классификационных результатов, можно прочесть, скажем, в [102].
§ 1. КОМПАКТЫ И ФУНКЦИОНАЛЬНЫЕ ПРОСТРАНСТВА 243 ЗАМЕЧАНИЕ. Вывод первых двух утверждений предыдущей теоремы из третьего сразу следует из функториальных свойств С и теоремы 0.7.1. А вот обратный вывод не тривиален; это было сделано Банахом для метризуемых компактов, а потом Стоуном — в общем случае. Таким образом, попарно не изометрически изоморфных пространств вида C(fi) «столько же», сколько попарно не гомеоморф- ных компактов. В частности, кубы разной размерности, сферы с разным количеством приставленных ручек, канторово множество — все эти пространства П дают попарно не изометрически изоморфные пространства С(С1). И в то же время, справедлива Теорема 6 (Милютин). (БД) Пусть fi, и fi2 — (произвольные) несчетные метризуемые компактные топологические пространства. Тогда банаховы пространства C7(f2L) и C(fi2) топологически изоморфны; в частности, оба они топологически изоморфны С[0,1]. * * * Наряду с компактными пространствами, мы рассмотрим класс пространств, являющихся их ближайшими обобщениями. На первый взгляд эти пространства кажутся гораздо большими, чем компакты, но мы увидим далее, что на самом деле они представляют собой части компактов. Назовем подмножество (произвольного) топологического пространства относительно компактным, если его замыкание компактно. (Это свойство множества, таким образом, зависит от того, в каком объемлющем пространстве мы его рассматриваем.) Определение 3. Топологическое пространство называется локально компактным, если каждая его точка обладает относительно компактной окрестностью. Очевидно, локальная компактность — это также, наряду с компактностью (см. выше), топологическое свойство. Классические примеры локально компактных пространств, не являющихся компактами, — это действительная прямая и комплексная плоскость. Разумеется, знания, полученные читателем на первом курсе, позволяют ему немедленно сделать и тот вывод, что все пространства R" и С" локально компактны, а отсюда на основании предложения 2.1.4 немедленно следует, что таково же и любое конечномерное нормированное пространство, комплексное или действительное. (Как ведут себя на этот предмет бесконечномерные пространства, мы увидим в следующем параграфе.) Любое дискретное пространство также, очевидно, локально компактно. А вот и контрпримеры.
244 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Упражнение 3. Топологическое произведение ft бесконечного семейства ft„, v € Л, не компактных пространств (скажем, экземпляров пространства N или R) не локально компактно. Указание. Для любого открытого множества U в ft существует такое i/бЛ, что irv(U) = ft„. Теперь мы сосредоточимся на хаусдорфовых локально компактных пространствах. Упражнение 4. Всякое открытое подмножество хаусдорфова компактного пространства является (относительно унаследованной топологии) хаусдорфовым локально компактным пространством. Указание. Любая точка заданного открытого множества обладает окрестностью, замыкание которой не пересекается с дополнением этого множества. Оказывается, других хаусдорфовых локально компактных пространств и не бывает; более того, всякое подобное пространство получается из некоторого компакта путем выкидывания одной точки. Конструкция этого компакта является естественным обобщением известной читателю конструкции расширенной комплексной плоскости. Пусть (ft, т) — (пока произвольное) топологическое пространство. Дополним его еще одной точкой «оо», называемой в дальнейшем бесконечно удаленной точкой. Обозначим полученное множество через ft+ и рассмотрим в нем систему подмножеств т+, состоящую из а) всех множеств из т и б) всех множеств вида ft+ \ Д, где Д — замкнутое компактное подмножество в ft. Мы видим, что множества первого типа не содержат, а второго — содержат бесконечно удаленную точку. Элементарно проверяется (дословно так же, как и при знакомстве с расширенной комплексной плоскостью), что т+ — топология в ft+ и (ft, т) есть топологическое подпространство в (ft+, т+). При этом, как легко видеть, оо является изолированной точкой в (ft+, т+) тогда и только тогда, когда исходное пространство (ft, т) компактно. Предложение 9. Топологическое пространство (ft+, т+) компактно. < Пусть а — открытое покрытие нашего пространства и U^Za — множество, содержащее оо. Тогда Cl+\Utx — компакт в ft, а потому его открытое покрытие {U nCl\ U е а} в (ft, г) содержит конечное подпокрытие, скажем, {[/, П ft,..., Un П ft}. Но тогда {Uv ..., Un, иж} — конечное покрытие всего множества ft+. > Определение 4. Топологическое пространство (ft+, т+) называется одноточечной или александровской компактификацией пространства (ft, т).
§ 2. МЕТРИЧЕСКИЕ КОМПАКТЫ И СВЕРХОГРАНИЧЕННОСТЬ 245 Предложение 10. Одноточечная компактификация хаус- дорфова локально компактного пространства П сама хаусдор- фова. < Наша задача — показать, что разные точки х, у е П+ обладают непересекающимися окрестностями. Поскольку пространство С1 хаусдорфово, достаточно рассмотреть случай, когда у = оо. Возьмем окрестность [/СП точки х с компактным замыканием Д в U; тогда в качестве нужных окрестностей подойдут U и Q+ \ Д. > Упражнение 5. Для любого топологического пространства П банахово пространство С0(О) совпадает, с точностью до изометрического изоморфизма, с подпространством (коразмерности 1) в С(П+), состоящим из функций, равных нулю в бесконечно удаленной точке. Указание. Сопоставить каждой функции из C0(fi) ее продолжение на С1+, равное нулю в со. А вот невинный с виду вопрос сильному студенту. Как определить морфизмы в категории хаусдорфовых локально компактных пространств? Казалось бы, объявить таковыми все непрерывные отображения — и дело с концом. Существует, однако, еще один подход, от которого гораздо больше пользы. А именно, назовем морфизмом из П, в П2 непрерывное отображение между соответствующими александровскими компактификациями, сохраняющее бесконечно удаленные точки, т. е. такое отображение ш+: П1+ -¦ fi2+, что ш+(°°) = °°- Нетрудно показать, что отображение ш: Ql —»ft2 продолжается до непрерывного отображения и>+ с указанным свойством тогда и только тогда, когда для каждого компактного множества К с Щ ег0 прообраз и~*(К) компактен. Такие отображения называются собственными. Подобное определение хорошо уже тем, что для функции х 6 C0(f22) С С(П2+) функция x(uj+(t)), как легко видеть, принадлежит Q)(fii) С С(П1+). Построенная указанным образом категория играет большую роль в теории коммутативных банаховых алгебр (ср. далее § 5.3). § 2. Метрические компакты и сверхограниченность Спустимся из общей топологии «на этаж ниже», в теорию метрических пространств. Как по свойствам, выражаемым с помощью метрики, судить о том, компактно ли рассматриваемое пространство или нет? Ответ, если попытаться выразить его неформально, «житейскими» словами, таков: метрическое пространство компактно тогда и только тогда, когда оно одновременно является «сплошным» («не имеющим пробелов») и «маленьким». Точный математический термин, соответствующий нашему интуитивному представлению о «сплошном», нам хорошо известен: это полнота. Теперь мы познакомимся с метрическими пространствами, соответствующими нашим представлениям о «малости». Начнем с подготовительного понятия.
246 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Определение 1. Пусть (М, d) — метрическое пространство, Mq — его подмножество, е > 0. Подмножество N в М называется е-сетью Хаусдорфа (или просто е-сетью) для М0, если для каждого элемента х е М0 найдется такой элемент у е N, что d(x, у) < е (или, что то же самое, если М0 С L){U(y, е) | у е N}). Определение 2. Подмножество М0 метрического пространства М называется сверхограниченным или вполне ограниченным^, если для любого е >0 в М существует конечная (= состоящая из конечного числа элементов) е-сеть для М0. В частности, при Л^ = Ммы получаем определение сверхограниченного метрического пространства. Возможность различных толкований слов «сверхограниченное подмножество» устраняет Предложение 1. Подмножество М0 метрического пространства М сверхограничено ¦<=>- М0 сверхограничено как метрическое подпространство в М. < Второе из указанных свойств означает, разумеется, что для любого е > 0 множество М0 обладает конечной е-сетыо, состоящей из точек самого множества М0. Поэтому импликация ¦«= очевидна. Чтобы установить импликацию =>, зададим е > 0 и возьмем конечную е/2-сеть у,,..., уп е М для М0. Для некоторых (всех или нет, нам безразлично) значений к, 1 ^ к ^ п, существует хотя бы одна такая точка zk е М0, что d(zk, ук) < е/2; зафиксируем подобную точку. Далее, для любого х € М0 существует хотя бы одно такое к, что d(x, ук)< е/2; значит для такого к точка zk определена, и из неравенства треугольника следует, что d(x,zk)< е. Поэтому точки zk (определенные для некоторых к) образуют е-сеть для Mq в самом множестве М0. > ПРИМЕР 1. Возьмем С" и рассмотрим его любое ограниченное подмножество М; тогда для некоторого С > 0 и всех х = (хр ..., х„) € М выполнено неравенство |xt| ^ С для всех к = 1,..., п. Для каждого m € N обозначим через Nm множество всевозможных точек в С" с координатами вида С^—-, где г и а — целые числа от — т до т\ разумеется, это множество конечно. Элементарно проверяется, что для любого е > 0 множество Nm при т > е " является е-сетью для М0. Таким образом, любое ограниченное подмножество в С" сверхограничено. ') Мы предпочитаем первый термин, поскольку в последнее время повсеместное распространение получил термин «вполне ограниченный оператор» (см. § 1.7), не имеющий ничего общего с рассматриваемым понятием.
§ 2. МЕТРИЧЕСКИЕ КОМПАКТЫ И СВЕРХОГРАНИЧЕННОСТЬ 247 Предложение 2. (Ср. предложение 1.7.) Пусть </э: МХ-*М2 — равномерно непрерывное отображение сверхограниченного метрического пространства в произвольное метрическое пространство. Тогда Im (<р) — сверхограниченное подмножество в М2. (Кратко: равномерно непрерывный образ сверхограниченного метрического пространства сам сверхограничен.) < Возьмем е > 0, а для него — 8 > О, фигурирующее в определении равномерной непрерывности. Пусть у,,..., уп — конечная й-сеть в М,. Тогда, очевидно, ip(y{),..., ?>(?/„)— конечная е-сеть для 1т((/з) в М2. е> Следствие 1. Два равномерно гомеоморфных (= изоморфных в категории Метц; см. § 0.4) метрических пространства одновременно сверхограничены или нет. Предложение 3. Замыкание сверхограниченного подмножества метрического пространства само сверхограничено. < Очевидно, любая е/2-сеть в М для М0 является е-сетью для замыкания множества М0. > К понятию сверхограниченности можно прийти несколькими путями. Предложение 4. Следующие свойства подмножества Mq метрического пространства М эквивалентны: (i) подмножество М0 сверхограничено; (И) у каждой последовательности точек из М0 есть фундаментальная подпоследовательность; (Ш) всякое подмножество в М0, состоящее из точек с попарным расстоянием, не меньшим некоторого постоянного числа в > 0, необходимо конечно. < (i) =>- (ii) Пусть х1,ос2,...— наша последовательность. Построим для каждого т е N ее подпоследовательность i,m, xj",... следующим образом. В качестве х\, ах},... возьмем исходную последовательность. Далее, пусть для некоторого т последовательность х,т, а^т,... уже построена. Поскольку для М0 в М существует конечная l/m-сеть, М0 содержится в объединении некоторого конечного семейства открытых шаров радиуса 1/го. Тогда один их этих шаров содержит точки ж™ для бесконечного множества индексов п, т. е. содержит все члены некоторой подпоследовательности в x,m, xj", ...; последнюю мы и обозначим через x1m+1, xp + l,... Обратим внимание на то, что попарные расстояния между членами построенной подпоследовательности меньше 2/т.
248 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Теперь рассмотрим последовательность х,',а^2,... Это подпоследовательность в х1,х2,..., и, очевидно, при к > I выполнено неравенство d(x?, х/)<2//; таким образом, эта последовательность фундаментальна. (ii) ==> (Ш) Если в М0 существует бесконечное подмножество с указанным в (Ш) свойством, то у последовательности, состоящей из его различных точек, нет ни одной фундаментальной подпоследовательности. (iii) =$- (i) Пусть для некоторого е > 0 в М не существует конечной е-сети для М0. Произвольно выберем точку я, € М0. Поскольку {х,} не есть е-сеть для М0, существует такая точка Xj е М0, что d{xx, ж,) ^ е. Поскольку {xj, xj не есть е-сеть для М0, существует такая точка хг е М0, что d(xu Х3), d(x2, х,) ^ е. Продолжая подобное рассуждение, мы построим бесконечное множество таких точек хп е М0, п € N, что d(xm, xn) ^ е при тфп. Получено противоречие. > Термин «сверхограниченное» оправдывает Предложение 5. Сверхограниченное подмножество Mq метрического пространства М (автоматически) ограничено. < Если Х[,...,хпеМ является 1-сетью для М0, то, как легко видеть, попарные расстояния между точками множества М0 не превосходят max{d(xk, х,) | 1 ^ к, I ^ п} 4- 2. > Обратное, разумеется, не верно. Бесконечное дискретное метрическое пространство, будучи ограниченным, не сверхограничено: любая его е-сеть при е ^ 1, очевидно, совпадает со всем пространством. Предложение 6. Сверхограниченное метрическое пространство сепарабельно. < Достаточно посмотреть на объединение всех конечных --сетей; п = 1,2,...> Теперь займемся вплотную характеризацией компактных метрических пространств. Теорема 1. Следующие свойства метрического пространства М эквивалентны: (i) пространство М компактно; (ii) пространство М полно и сверхограничено; (iii) у каждой последовательности точек из М есть сходящаяся подпоследовательность; (iv) каждое бесконечное подмножество в М имеет в М предельную точку.
§ 2. МЕТРИЧЕСКИЕ КОМПАКТЫ И СВЕРХОГРАНИЧЕННОСТЬ 249 < (i) =>• (iv) Пусть бесконечное подмножество N в М не имеет предельных точек. Отсюда следует, в частности, что подмножество N замкнуто. Далее, у каждой точки х е N есть окрестность Ux, не содержащая других точек из N. Но тогда семейство, состоящее из M\N и всех множеств Ux, х б N, — это открытое покрытие пространства Г2, не обладающее конечным подпокрытием. (iv) =Ф- (Ш) Пусть хп, п = 1, 2,..., — последовательность в М; обозначим через N множество ее членов. Если множество N конечно, то наша последовательность содержит подпоследовательность с совпадающими членами, которая заведомо сходится. Если же N бесконечно, то у него есть предельная, а стало быть (ведь мы в метрическом пространстве!), и строго предельная точка, скажем, х. Но тогда, разумеется, существуют такие индексы щ < щ < ..., что d(x,xn ) < -J- для всех к. Дальнейшее очевидно. (Ш) =Ф- (ii) Если пространство М не полно, то, взяв фундаментальную последовательность его точек, не имеющую предела, мы видим, что предела нет и у всех ее подпоследовательностей. Если же М не сверхограничено, то в силу предложения 4 существует последовательность его точек, не имеющая даже фундаментальных — чего уж говорить о сходящихся — подпоследовательностей. Нам осталось сделать наиболее трудоемкий вывод. (ii) =» (i) Пусть, напротив, существует открытое покрытие а пространства М, не обладающее конечным подпокрытием. Построим по индукции последовательность вложенных замкнутых подмножеств Vх D V2 D V3... нашего пространства, обладающее следующими свойствами: а) для каждого п б N выполнено следующее условие: из семейства а, рассмотренного как покрытие множества V", нельзя выделить конечное подпокрытие этого множества; б) диаметр множества V" не превосходит 2/га. Делая начальный шаг индукции, мы воспользуемся сверхограниченностью пространства М и возьмем его конечную 1-сеть, скажем, у,1,..., у' . Для к = \,...,т1 обозначим через Т^.1 замыкание открытого шара U(yl, 1). Если для каждого к семейство с, рассмотренное как покрытие множества V^1, обладает конечным подпокрытием этого множества, то, очевидно, объединение этих подпокрытий по всем к даст конечное подпокрытие всего пространства М. Поэтому существует хотя бы одно значение к, для которого это не так; мы положим V1 := Vkl.
250 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Теперь пусть множества V',..., У-1 с обоими свойствами уже построены. Пользуясь сверхограниченностью пространства М, возьмем его конечную l/n-сеть, скажем, у,",..., у?п. Для к = I,.. .,тп обозначим через Vk пересечение множества V"-1 с замыканием открытого шара U(yk, 1/п). Рассуждая точно так же, как и при первом шаге индукции (только с заменой М на Vn~' и множеств vy на множества Vkn), мы видим, что существует хотя бы одно такое к, что из а нельзя выделить конечное подпокрытие множества Vk. Мы положим V" :— Vkn; очевидно, это множество также обладает требуемыми свойствами. А теперь вспомним, что пространство М не только сверхограни- чено, но и полно. Поэтому в силу принципа вложенных замкнутых подмножеств пересечение всех множеств V" состоит ровно из одной точки, скажем, х. Но, как и всякая точка пространства М, х лежит в некотором множестве U 6 а. Поскольку множество U открыто, оно содержит, для некоторого е > 0, открытый шар U(x, е). Отсюда в силу условия на диаметры (свойство б)) этот шар, а стало быть, и множество U, содержит все множество V" для достаточно большого п. Но тогда семейство а, рассмотренное как покрытие такого множества V", содержит подпокрытие последнего, состоящее всего лишь из одного множества U. Мы пришли к противоречию со свойством а) построенных множеств. > Отсюда с учетом предложения 3 и того, что подмножество полного метрического пространства полно тогда и только тогда, когда оно замкнуто, немедленно вытекает Следствие 2. Подмножество полного метрического пространства компактно тогда и только тогда, когда оно сверх- ограничено и замкнуто; такое подмножество относительно компактно тогда и только тогда, когда оно сверхограничено. Разумеется, если метрическое пространство не полно, то в нем всегда существуют замкнутые сверхограниченные подмножества, не являющиеся компактными или, что здесь одно и то же, относительно компактными: достаточно взять множество членов любой не сходящейся фундаментальной последовательности. Напомним о фундаментальных свойствах конечномерных нормированных пространств, выраженных в теореме 2.1.1, а также следствиях 2.1.2 и 2.1.3. (Их «геометрическая суть» состоит в том, что все нормы в конечномерном пространстве эквивалентны друг другу, а «категорная суть» — в том, в что все пространства одной и той же конечной размерности изоморфны как объекты в категории BAN.) Сейчас мы в состоянии предложить другой
§ 2. МЕТРИЧЕСКИЕ КОМПАКТЫ И СВЕРХОГРАНИЧЕННОСТЬ 251 подход к доказательству этих утверждений, более точно — к доказательству предложения 2.1.4, из которого, как мы видели, все они легко следуют. Предложение 7 (= предложение 2.1.4). Всякое нормированное пространство Е конечной размерности п топологически изоморфно С", причем любой линейный изоморфизм между этими пространствами является топологическим изоморфизмом. < Пусть J — произвольный линейный изоморфизм из С" на Е. Поскольку он заведомо ограничен (пример 1.3.1), достаточно найти такое с > О, что с||х|| ^ || J(x)\\ для всех х € Е (см. предложение 1.4.1). Пусть S — единичная сфера в С". Поскольку J — инъективный оператор, корректно определена функция /: S —>С, ih ||J(x)||_1, которая, в силу непрерывности нормы, непрерывна. Но сфера S, будучи замкнутым ограниченным множеством в С", компактна (см. пример 1 и следствие 2). Отсюда, на основании предложения 1.3 (аналог теоремы Вейерштрасса), функция f(x) ограничена сверху некоторой постоянной С. Остается положить с := 1/С. > Оставшуюся часть параграфа мы посвятим следующему важному кругу вопросов: какие подмножества в тех или иных нормированных пространствах сверхограничены и какие компактны? Прежде всего, выделим простое Предложение 8. В нормированном пространстве алгебраическая сумма двух сверхограниченных подмножеств и любое растяжение сверхограниченного подмножества сверхограничены. < > Этот факт нам пригодится впоследствии, а сейчас займемся случаем конечномерных пространств. На самом деле уже все подготовлено для ответа. Предложение 9. Пусть М — подмножество конечномерного нормированного пространства Е. Тогда (i) множество М сверхограничено тогда и только тогда, когда оно ограничено, (и) множество М компактно тогда и только тогда, когда оно ограничено и замкнуто. < Из предложения 7 и теоремы 1.4.1 (iv) следует, что пространство Е равномерно гомеоморфно С", где п = &\т(Е), и, следовательно, множество М равномерно гомеоморфно некоторому подмножеству в С". Поскольку последнее сверхограничено тогда и только тогда, когда оно ограничено (пример 1 и предложение 5),
252 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ свойство (i) вытекает из следствия 1. Отсюда, в свою очередь, с учетом полноты пространства Е (теорема 2.1.1 (i)) и следствия 2 вытекает свойство (и). > Ситуация в бесконечномерных пространствах не столь проста. Сначала соберем «экспериментальный» материал. Упражнение 1. Единичные шары в пространствах С[а, Ь], 1р и Lp[a, b], 1 ^ р ^ оо, не являются сверхограниченными. Указание. Возьмите функции (или последовательности) нормы 1 с непересекающимися носителями и воспользуйтесь предложением 4 (iii). А теперь посмотрим, какой общий факт стоит за этими наблюдениями. Ключ к последующей теореме дает Предложение 10 (лемма о почти перпендикуляре). Пусть Е — нормированное пространство, Е0 — его замкнутое собственное подпространство. Тогда для любого е > О существует такой вектор х б Е0 (называемый е-перпендикуляром), что \\х\\ = 1 и d(x,E0)> 1 - е. < Произвольно возьмем уеЕ\Е0. Поскольку подпространство Е0 замкнуто, d(y, Е0)>0, и поэтому с учетом очевидного равенства d(\y, Е0) = \\\d(y, Е0) для любого А е С мы вправе, не теряя общности, считать, что d(y, Е0)= 1. Пусть вектор zeE0 таков, что d(y, z)< 1 + 6, где 6>0 настолько мало, что 1/A + <5) > 1-е. Тогда для а^:=у — z выполнено неравенство ||а^,|| < 1 + 6, и в то же время из совпадения множеств {xq — и \ и € Е0} и {у — и \ и € Е0} следует, что d(x0, Е0) = d(y, Е0) = 1. Отсюда, как легко видеть, х := а^/||а^|| и есть требуемый е-перпендикуляр. > Разумеется, если Е — гильбертово пространство, то в нем есть вектор х, для которого одновременно выполняются равенства ||ж|| = 1 и d(x,E0)=l: это «настоящий» перпендикуляр к Е0, доставляемый теоремой об ортогональном дополнении. Однако в общих банаховых пространствах подобной роскоши может и не быть. Упражнение 2. (i) Существуют такие пары (банахово пространство Е и его замкнутое подпространство Е0), что для любого вектора х е Е \Е0 выполнено неравенство ||х|| > d(x, Е0). (и) Существуют коизометрические операторы, отображающие замкнутый единичный шар первого пространства на собственное подмножество замкнутого единичного шара второго пространства. Указание. При доказательстве свойства (i) поможет упражнение 2.3.2, а свойство (и) следует из (i).
§ 2. МЕТРИЧЕСКИЕ КОМПАКТЫ И СВЕРХОГРАНИЧЕННОСТЬ 253 Теорема 2 (Рисе). Следующие свойства нормированного пространства Е эквивалентны: (i) {замкнутый) единичный шар в Е компактен; (ii) единичный шар в Е сверхограничен; (Ш) пространство Е конечномерно. < Импликация (i) =Ф- (ii) очевидна, а (Ш) =>¦ (i) непосредственно следует из предложения 9 (ii). (ii) =*> (iii) Пусть, напротив, пространство Е бесконечномерно. Зафиксируем любое е, 0< е < 1. Обозначим через х, любой вектор в Е нормы 1. Поскольку пространство El :=span(x,) одномерно и замкнуто ввиду следствия 2.1.3 (i), лемма о почти перпендикуляре обеспечивает существование такого вектора х^ нормы 1, что d(x2, Ех) > 1 - е. Далее, поскольку Е2 := span(x,, х^,) двумерно, та же лемма обеспечивает существование такого вектора Xj нормы 1, такого, что d(xj, Е2)> 1-е. Теперь рассмотрим ?,3:=span(x1, а^, Xj) и т. д. Продолжая подобное рассуждение, мы получаем последовательность векторов хп, n€N, из ШЕ, попарные расстояния между которыми не менее 1 - е. В силу предложения 4 (iii) такого быть не может. t> Упражнение 3. Перечисленные свойства пространства Е эквивалентны его локальной компактности. Для ряда конкретных банаховых пространств их сверхограниченные (а стало быть, в силу следствия 2, и относительно компактные) подмножества могут быть описаны в достаточно прозрачных терминах. Мы приведем один из наиболее важных фактов подобного рода, относящийся к пространствам С[а, Ь]. Предварительно дадим Определение 3. Подмножество М б С[а, Ь] называется равностепенно непрерывным, если для любого е > О найдется такое 6 > 0, что \f(t') - f(t")\ < е при всех / е М и t', t" е [а, Ь], \t'-t"\<6. Из классической теоремы Кантора немедленно следует, что любое конечное подмножество в С[а, Ь] равностепенно непрерывно. В то же время множество функций sin nt, п = 1, 2,..., не является, как легко проверить, равностепенно непрерывным. Теорема 3 (Арцела). Подмножество М в C[a, Ь] сверхогра- ничено тогда и только тогда, когда оно ограничено и равностепенно непрерывно. < <= Зададим е > 0; наша задача — предъявить конечную е-сеть для М в С[а, Ь]. В силу условия, есть такое neN, что \f(t') — f(t")\ < е/3, как только |*'—*"|< 1/те и feM. Положим tk\—a+^b~na'k , k—0,..., п,
254 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ и рассмотрим (очевидно, линейный и сжимающий) оператор Т: С[а, Ь]-С?+1. Г(/) := (/(fo), ...,/(*„))• Ввиду предложения 9 (i) множество Т(М) с С?,+' сверхограничено. Поэтому с учетом предложения 1 в М есть такое конечное подмножество JV, что T(N) является е/3-сетью в Т(М). Покажем, что N является е-сетью для М. Для этого возьмем произвольную функцию / € М и точку t е [а, Ь] и подберем к так, чтобы выполнялось неравенство \t - tk\ < 1/п. Из определения множества N следует, что найдется такая функция geN, что \g(tk) - f(tk)\ < е/3. Тогда 1/@ - ff(OI ^ 1/@ - /(**I + I/CJ - э(**I + + \g(tk)-g(t)\<3e/3 = e. Это и означает, что N является е-сетью для М. => С учетом предложения 5 достаточно проверить, что подмножество М равностепенно непрерывно. Зададим е > 0; пусть N — конечная е/3-сеть для М в С[а, Ь]. Как упоминалось выше, множество функций N, будучи конечным, равностепенно непрерывно, и поэтому существует такое 8 > О, что при \t' - t"\ < 6 для всех д е N выполнено неравенство \g(t') - g(t")\ < е/3. Возьмем любую / е М; тогда для некоторой д е N выполнено II/ — fflloo < е/3- Поэтому при \t' — t"\ < 6 имеет место оценка |/(*') - f(t")\ < \f(t>) - g(t')\ + \g(t>) - g(t»)\ + + \f(t")-g(t»)\<3e/3 = e. Дальнейшее очевидно. > Упражнение 4. (i) Единичный шар в С"[а, Ь], рассмотренный как подмножество в С[а, Ь], сверхограничен, но не компактен. (и) Подмножество единичного шара в С[а, Ь], состоящее из таких функций /, что |/(*') - f(t")\ < |*' - t"\ для любых t', t" G [а, Ъ], компактно. А вот как описываются сверхограниченные множества в другом важном классе банаховых пространств. Упражнение 5. Пусть М — подмножество в I , 1 ^ р ^ оо. Это подмножество сверхограничено тогда и только тогда, когда оно ограничено и выполнены равенства Jmsupj ? 1к„|ри=(е„е2,...)ем}=0 (прир<<х>); lim sup{ sup |fj | ? = (?,, f2' • • )e M} = 0 (прир = оо) ra-0° n*m+\ (т. е. нормы «хвостов» (?m + i, ?m + 2> • • •) последовательностей ? из M равномерно стремятся к нулю).
§ 3. КОМПАКТНЫЕ ОПЕРАТОРЫ: ОБЩИЕ СВОЙСТВА И ПРИМЕРЫ 255 § 3. Компактные операторы: общие свойства и примеры Рассмотренные выше понятия, и прежде всего сверхограниченность, позволяют выделить весьма важный класс операторов. В изучении этих операторов удается продвинуться достаточно далеко, а в случае, когда они связывают гильбертовы пространства, — практически полностью познать их природу. Определение 1. Оператор Т: Е —> F между нормированными пространствами называется компактным^, если он переводит любое ограниченное множество из Е в сверхограниченное множество bF. Разумеется, обсуждаемое свойство оператора определяется поведением всего одного ограниченного множества. Предложение 1. Оператор Т: Е —> F компактен тогда и только тогда, когда образ единичного шара в Е сверхограничен. < > Замечание. Как мы увидим далее, при некоторых часто выполняющихся условиях на Е и F образ единичного шара компактен, а не только сверхограничен; см. далее предложения 4.3 и 4.2.17. Это частично оправдывает термин «компактный оператор». О другом подходе к понятию компактного оператора будет рассказано позже, когда в нашем распоряжении появятся так называемые слабые топологии (см. теорему 4.2.4). Из предложения 2.9 сразу следует Предложение 2. Всякий конечномерный ограниченный оператор компактен. Напротив, из теоремы 2.2 (Рисса) немедленно вытекает Предложение 3. Любой проектор на бесконечномерное подпространство (см. § 1.5 и 2.3) и, в частности, тождественный оператор в любом бесконечномерном нормированном пространстве не компактен. < > Множество компактных операторов из Е в F обозначается К(Е, F), и вместо 1С(Е, Е) обычно пишут К(Е). Предложение 4. Множество К.(Е, F) — замкнутое подпространство в B(E,F). <] Возьмем S, ТеК{Е, F). Тогда множество (S+T)(UIE), будучи частью 5(ШЯ) + Т(ЩЕ), сверхограничено в силу предложения 2.8. '> Полвека назад говорили не «компактный оператор», а «вполне непрерывный оператор».
256 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Тем самым, S + Т е IC(E, F), и еще проще проверить, что XS е € К.(Е, F) для любого А € С. Осталось показать, что всякий оператор S, являющийся точкой прикосновения множества fC(E, F), принадлежит последнему. Зададим е>0 и возьмем такой оператор TelC(E,F), что US' - Т|| < е/2. Тогда, как легко видеть, любая е/2-сеть для Г(ШБ) является е-сетью для 5(ШВ). Дальнейшее очевидно. > Следствие 1. Если F — банахово пространство, то таково же и К(Е, F) для любого нормированного пространства Е. Предложения 2 и 4 вместе дают удобный способ проверки компактности большого числа операторов. Следствие 2. Если оператор между двумя нормированными пространствами аппроксимируется по операторной норме конечномерными операторами, то он компактен. Следующее предложение, помимо самостоятельной ценности, также весьма полезно при проверке компактности конкретных операторов. Предложение 5. Пусть Е, F и G — нормированные пространства, S еВ(Е, F) и ТeB(F,G). Тогда если хотя бы один из этих операторов компактен, то таков же и оператор TS: E^G. < Если оператор Т компактен, все ясно. Если же оператор S компактен, то множество TS(U1E) сверхограничено в силу предложения 2.2 и теоремы 1.4.1 (iv). > Отсюда мы, в частности, получаем, что топологический изоморфизм между бесконечномерными нормированными пространствами никогда не компактен: иначе тождественные операторы в этих пространствах также оказались бы компактными. Сильному студенту рекомендуется Упражнение 1 (Шаудер). Оператор Т: Е —>F между банаховыми пространствами компактен тогда и только тогда, когда его банахов сопряженный оператор Г*: F* — Е* (см. определение 2.5.2) компактен. Указание. => Пусть t/j,..., уп есть с/4-сеть в Т(ШЕ). Рассмотрите оператор S: F'->Cn, ?'(/) = (/(у,),...,/(!/„)). и возьмите такое конечное подмножество NcUlF., что S(N) есть е/4-сеть в 5(Ш^..)- Тогда T'(N) является е-сетью в Г*(-)- Импликация -*= следует из импликации =* и естественности канонического вложения пространства в его второе сопряженное (предложение 2.5.2). Теперь самое время вспомнить о многочисленных примерах конкретных операторов, накопленных в § 1.3. Появляется новый типовой вопрос, который мы зададим этим операторам: компактны ли Вы?
§ 3. КОМПАКТНЫЕ ОПЕРАТОРЫ: ОБЩИЕ СВОЙСТВА И ПРИМЕРЫ 257 Предложение 6. Диагональный оператор Тл: 1р —»1р, где А е G 1Ж (см. пример 1.3.2), компактен тогда и только тогда, когда А 6 со. < <== Положим А(п):=(А,,..., Ап,0,0,...). Тогда оператор Т^«„, конечномерен и || Т^ - Тхт || = || А - А(п) Ц^ —»0 при п —> оо (см. там же). Теперь работает следствие 2. =» Если А ^ Cq, то существуют такие натуральные п, < тъ, < ..., что | А„ \^в для некоторого в > 0 и всех A; G N. Но тогда для любых k, I е N, кф1,ъ случае р < оо выполнено неравенство || Г(р"*) - Г(р"')|| = ||A„fcp"* - АП(р"'|| = Поэтому с учетом предложения 2.4 (iii), при р < оо наш оператор переводит ограниченное множество {р"к \ к е N} во множество, не являющееся сверхограниченным. То же, как легко видеть, справедливо и при р = оо. > ЗАМЕЧАНИЕ. Диагональные компактные операторы в ^ — это на самом деле гораздо больше, чем просто примеры компактных операторов. В следующем параграфе мы увидим, что многие компактные операторы, действующие в бесконечномерном сепара- бельном гильбертовом пространстве (в том числе все, имеющие нулевое ядро и плотный образ), совпадают с одним из диагональных операторов в Ц, с точностью до слабой унитарной эквивалентности. Что касается операторов сдвига, действующих в тех же пространствах 1р, а также в lp(Z) и Lp(R) (см. примеры 1.3.3 и 1.3.7), то они заведомо не компактны (объясните, почему). Упражнение 2. Оператор умножения Tf: Lp[a, b]—>Lp[a, b], 1 ^ p ^ оо, где / e Lx[a, b] (ср. пример 1.3.4), не является компактным, за исключением случая, когда (класс эквивалентности) / = 0. Указание. Если /^0 на множестве положительной меры, то для некоторого в > 0 положительную меру имеет множество М := {t е [а, Ь] | |/(f)| ^ в). Тогда оператор TgTf, где g(t) равно \/f(t) при t еМ и нулю при остальных t, есть проектор на бесконечномерное подпространство в Lp[a, ft]. Хотя следующее упражнение является частным случаем идущей за ним теоремы, все же Вам будет полезно сперва разобраться с ним. Упражнение 3. Оператор неопределенного интегрирования (см. пример 1.4.5), действующий в любом из пространств Е :=?2[0, 1], С[0,1] или L,[0, 1], компактен.
258 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Указание. Случай Е = С[0,1 ] обеспечен упражнением 2.4 (ii). При Е = L2[0,1] из неравенства Коши — Буняковского следует, что множество функций Т(ШВ) равностепенно непрерывно; поэтому работают теорема Арцела и оценка || • ||2 < || • Ц^. Наконец, при E=L{[0, 1] множество Т(ШЕ) (хотя и не равностепенно непрерывно) состоит из функций вариации не больше 1. Чтобы построить его конечную е-сеть, надо разбить отрезок [0, 1] на много равных частей и подобрать эту сеть среди функций, постоянных на отрезках разбиения. Теперь вспомним об общем классе интегральных операторов в L2[a, Ь], содержащем соответствующий оператор неопределенного интегрирования (см. пример 1.3.6 и последующие комментарии). Теорема 1. Всякий интегральный оператор в L2[a, Ь] компактен. « Для доказательства теоремы нам потребуется следующая Лемма. Пусть функции en(t), п е N, образуют орто- нормированный базис в L2[a,b]. Тогда функции tt^n(a, t) :— := em(s)en(t), m, n € N (произвольным образом перенумерованные), образуют ортонормированный базис в L2(D) (о последнем пространстве см. там же). < Элементарные выкладки, использующие теорему Фубини, показывают, что ич „ — ортонормированная система. Чтобы проверить ее тотальность, рассмотрим функцию у е Ь2@), ортогональную всем функциям и^п, т. е. иными словами, удовлетворяющую соотношениям J «^n(s, t)y(s, t) dsdt =0 при всех m, neN. В силу D предложения 2.3.5 достаточно установить, что функция у равна нулю как вектор в L2(D), т. е. y(s, t) = 0 почти всюду на D. На основании той же теоремы Фубини выполнено равенство ь ь J ет(з)хп(з) ds = 0, где хп(з) := $е„(*)з/(я, t) dt. Это означает, что для любого п функция х^ ортогональна всем ет, т е N, в L2[a, Ъ]. Отсюда в силу тотальности системы ет следует, что хп =0 в L2[a, Ь], т. е. для некоторого множества Мп полной меры на ь [а, Ь] выполнено равенство J en(t)y(s, t)dt =0для всех з€Мп. Но тогда при зеМ:= П М„ в силу тотальности системы еп выполнено равенство у(з, t) = 0 почти для всех t е [о, Ь]. Поскольку М — также множество полной меры, это означает, что у = 0 почти всюду на D. >
§ 3. КОМПАКТНЫЕ ОПЕРАТОРЫ: ОБЩИЕ СВОЙСТВА И ПРИМЕРЫ 259 Конец доказательства теоремы 1. Пусть Т — интегральный оператор и К — его производящая функция. Рассмотрим для каждого п = 1, 2,... интегральный оператор Тп с производящей функцией Kn(s, t) := Y1 ^ме*(в)е/@. гДе ^k,i '•= (-К-» uk,i) — соответствующие коэффициенты Фурье. Очевидно, любая функция из его образа есть линейная комбинация функций ек, к = 1,..., п, и поэтому Тп — конечномерный оператор. Далее, поскольку Т - Тп — интегральный оператор с производящей функцией К - Кп, операторная норма оператора Т - Тп не превосходит нормы функции К-Кп в L2(D) (см. пример 1.3.6). Но из леммы очевидным образом следует, что К есть предел последовательности Кп в Ь2(П). Поэтому оператор Т аппроксимируется конечномерными операторами и, стало быть (следствие 2), компактен. » Вот одно из многочисленных следствий. Упражнение 4. Интегральный оператор в L2[a,b] является проектором тогда и только тогда, когда его производящая функция вырождена и удовлетворяет равенствам, указанным в упражнении 1.5.5. Указание. Производящая функция одномерного интегрального оператора имеет вид f(s)g(t) для некоторых /, д е L2[a, Ь]. Упражнение 5. Операторы дифференцирования (см. пример 1.3.8) никогда не компактны. Сделайте также носящее общий характер Упражнение 6. Два слабо топологически эквивалентных оператора одновременно компактны или нет. Мы видели, насколько полезно оказалось простое следствие 2. Однако совсем не простым оказался вопрос о том, верно ли обратное утверждение. Размышления на эту тему привели к возникновению следующего фундаментального понятия геометрической теории банаховых пространств. Определение 2 (Гротендик, 1955). Говорят, что банахово пространство F обладает свойством аппроксимации, если для любого банахова пространства Е любой компактный оператор из Е в F аппроксимируется по операторной норме конечномерными операторами. Вот важный пример.
260 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Предложение 7. Всякое гильбертово пространство обладает свойством аппроксимации. < Пусть Т: Е —» Н — компактный оператор между банаховым и гильбертовым пространствами. Возьмем е > 0 и е/2-сеть, скажем, Vi,...,yn в Н для Т(ШЯ). Положим Я0 := span{y,,..., уп} и рассмотрим ортопроектор Р: Н —> Н на Н0. Это, разумеется, конечномерный оператор, и для каждого А; = 1,..., п выполнено равенство Рук = ук. Поэтому с учетом сделанного выбора е/2-сети для любого х б ШЕ найдется такое к, что ||Тх - РТх\\ < ||Тх - ук\\ + \\Р(ук - Тх)\\ < 2||Гх - ук\\ < е. Дальнейшее очевидно. > Постепенно выяснилось, что подавляющее большинство «классических» банаховых пространств (Lp(X, /х), С(С1), ...) обладают свойством аппроксимации. Для многих сепарабельных пространств это сразу вытекало из следующего важного утверждения. Его формулировку должны знать все, а доказательство (см. упражнение 7) мы потребуем только от читателя, претендующего на «отлично». Теорема 2. (БД) Если банахово пространство обладает базисом Шаудера, то оно обладает и свойством аппроксимации. Какое-то время казалось, что поставленный Гротендиком вопрос о том, всякое ли банахово пространство обладает свойством аппроксимации (знаменитая проблема аппроксимации), вот-вот получит положительный ответ, хотя бы в классе сепарабельных пространств. Однако оптимисты ошибались. Теорема 3 (П. Энфло, 1972). (БД) Существуют сепарабельные банаховы пространства, в том числе замкнутые подпространства в Cq, не обладающие свойством аппроксимации. Как следствие (см. теорему 2), существуют сепарабельные банаховы пространства, не обладающие базисом Шаудера. Вопрос о том, всякое ли сепарабельное банахово пространство обладает базисом Шаудера, был поставлен еще Банахом и долгое время представлял собой, пожалуй, самую известную проблему теории банаховых пространств. Таким образом, Энфло «походя» дал отрицательное решение этой старой проблемы. Все известные к настоящему времени сепарабельные банаховы пространства без свойства аппроксимации представляют собой специально придуманные и достаточно хитроумные примеры. А вот вне класса сепарабельных пространств подобную «белую ворону»
§ 3. КОМПАКТНЫЕ ОПЕРАТОРЫ: ОБЩИЕ СВОЙСТВА И ПРИМЕРЫ 261 удалось обнаружить и среди хорошо известных объектов. Оказывается, В(Н), где Н — бесконечномерное гильбертово пространство, не обладает свойством аппроксимации (А. Шанковский, 1981). Кстати, проверьте, что пространство В{Н) действительно не сепарабельно. Сильного студента мы призываем сделать Упражнение 7*. Докажите теорему 2. Указание. Пусть е,,^,... — базис Шаудера в банаховом пространстве (F, ||||). Рассмотрим для каждого п= 1,2,... проекторы Рп: F-»F, ]? *kek>-+ ? л*е*> k=\ k=\ и новую норму || • ||': у >-+ sup{||Pn(y)|| | п е N} в F. Если хт, m = 1, 2,..., — фундаментальная последовательность в (F, || • ||'), то для любого п последовательность Р„хт, т = 1,2,..., сходится по любой норме в Fn :=span{e,,..., еп} к некоторому вектору хп, причем для любого / = 1,2,... выполнено равенство Рпхп + 1 = хп. Из свойств базиса Шаудера вытекает, что последовательность хп фундаментальна в исходном пространстве (F, ||-||) и, стало быть, сходится по норме ||-|| к некоторому вектору х; при этом оказывается, что Рпх = хп, п=1,2,... Отсюда с учетом того, что Рп — сжимающие операторы в (Е, || • ||'), заключаем, что х — предел последовательности хт в (F, || • || ). Тем самым, (F, || • ||') — банахово пространство, и из предложения 2.4.2 следует, что все операторы Рп ограничены в (F, || • ||) и их нормы не превосходят одной и той же постоянной С. Теперь пусть Т: Е -> F — компактный оператор, е > О и у,,..., ут — конечная 2A + С)"сеть для Т^Ше) в f- ТогДа. если натуральное число N таково, что для всех п> N и k = l,...,m выполнено неравенство \\ук - Рпук\\ < on + П)' то *"" тех же п и любого х е ШЕ выполнено неравенство \\Тх - РпТх\\ < е. Тем самым оператор Т аппроксимируется конечномерными ограниченными операторами РпТ. Наш потенциальный отличник должен также знать, что свойство аппроксимации — это весьма глубокое понятие, которое может принимать различные совершенно несхожие по виду обличья. Следующая теорема совсем не тривиальна, и мы приводим ее без доказательства. (Дотошный читатель может извлечь нужное рассуждение, скажем, из очень обстоятельной книги [74, Ch.1.5].) Теорема 4 (Гротендик). (БД) Следующие свойства банахова пространства F эквивалентны: (i) пространство F обладает свойством аппроксимации; (И) для любого компактного подмножества К С F и е >0 существует такой конечномерный ограниченный оператор S; F —> F, что \\у — Sy\\ < е для всех уеК; (Ш) оператор Гротендика Gr: F* § F-»S(F) (см. § 2.7) инъективен (и, стало быть, осуществляет изометрический изоморфизм между F* ®F и пространством ядерных операторов Af(F)); (iv) длялюбогоиеР* ®F из равенства Gr (и) = 0 следует, что tr(u)=0 (т. е. след ядерного оператора, действующего в F, корректно определен). Кроме того, если хотя бы одно из пространств Е* или F обладает свойством аппроксимации, то оператор Gr: Е* ®F —f В(Е, F) инъективен.
262 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ § 4. Компактные операторы между гильбертовыми пространствами и некоторые их классы Пусть Н и К — гильбертовы пространства. Пусть, далее, е — вектор из Н, f — функционал на Н, задаваемый этим вектором по правилу, описанному в теореме 2.3.2 (Рисса), и у — вектор из К. Условимся, наряду с обозначением / 0<>, употреблять для соответствующего одномерного оператора и обозначение еОу. При этом правило перемножения одномерных операторов, указанное в предложении 1.5.5, теперь выглядит так: (e1Oyl)(e2Oy2) = (y2,el)(e2Oyl). Структура компактных операторов между гильбертовыми пространствами полностью описывается следующей теоремой. Теорема 1 (Шмидт1'). Пусть Н и К — гильбертовы пространства, Т: Н —> К — компактный оператор. Тогда существуют а) такая ортонормированная система е(, е?,... в Н конечной или счетной мощности, б) такая ортонормированная система е", е%,... в К той же мощности и в) такая {конечная или бесконечная) последовательность а, ^ ^ з2 ^ з3 ^ ... положительных чисел с индексным множеством той же мощности, сходящаяся к нулю, если она бесконечна, что наш оператор представим в виде где ? означает, смотря по смыслу, либо конечную сумму, либо сумму сходящегося в В(Н, К) ряда. Таким образом, оператор действует по правилу Тх = 5^ зп (х, е'п)е%, где X) означает либо конечную сумму, либо сумму ряда в К. При этом || Г|| = з,. ' Эрхард Шмидт — крупный немецкий математик, ученик Гильберта. Это именно в его работах (а также в работах Фреше) при изучении гильбертовых пространств последовательностей и функций стал широко использоваться язык, унаследованный из евклидовой геометрии.
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 263 (Иными словами, Т(е'п) = зпе'Л для всех п, и Т переводит в нуль любой вектор, ортогональный всем векторам е'п, и \\Т\\ = в,.) Прежде чем начать доказательство, подчеркнем, что в случае, когда в сумме Г = ^впе^Оеп" бесконечное число слагаемых, мы не утверждаем, что такой ряд абсолютно сходится по операторной норме. Последнее условие выделяет специальный класс операторов, который будет обсужден позднее. « Разумеется, мы можем считать, не теряя общности, что ТфО. Лемма 1. Существует такой вектор ееН, \\е\\ — 1, что ||Те|| = ЦТ|| (т. е. вектор, на котором достигается операторная норма). < Согласно определению операторной нормы существует такая последовательность х„ € Шя, что ||TxJ| —> ||Т|| при п—юо. Поскольку множество Т(ШЯ) сверхограничено, а К полно, последовательность Тхп обладает сходящейся подпоследовательностью (см. предложение 2.4). Меняя, если понадобится, обозначения, мы будем считать, что сама последовательность Тхп сходится к некоему вектору уе К. Очевидно, ||у|| = ||Т||. Согласно закону параллелограмма для любых натуральных чисел тп и п справедливо равенство ll*m - *пН2 = 2||zJ|2 + 2||xn||2 - ||хт + х„||2 ^ 4 - ||хт + х„||2. Далее, ||Т(хт + х„)|| ^ ||Т||||хт + х„||. При т, п -> с» левая часть этого неравенства сходится к ||2у|| =2||Т||. Отсюда в силу условия || Г|| ф0, ||хт + хп||2 сходится к 4 и, стало быть, ||хт-х„||2 — к нулю. Тем самым, последовательность хп фундаментальна в Я, а значит, сходится там к некоторому вектору е. Дальнейшее очевидно. > Лемма 2. Пусть вектор е е Я, ||е|| = 1, таков, что \\Те\\ = = ||Т||. Тогда для любого хеН изх±е следует TxlTe. (Иными словами, Т переводит {e}L в {Те}1.) (Перед тем как начать формальное рассуждение, заметим, что наш геометрический опыт в R3 подсказывает, что иного и быть не может. Пусть, для определенности, ||Г|| = = 1. Тогда если х J. е, а Тх образует острый угол с Те, то при малых t длина вектора Т(е + tx) = Те + tTx обязательно больше, чем длина вектора е + tx: см. рисунок. Но это невозможно, поскольку оператор Т не увеличивает нормы).
264 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ < Предположим противное: для некоторого вектора х, х ± е, случилось так, что (Тх, Те) ^ 0. Заменив, если потребуется, х на Ai при надлежащем выборе А е С, мы можем считать, что (Тх, Те) > 0. (Условно говоря, Тх и Те образуют острый угол.) Тогда для любого t > 0 выполнено неравенство ||Т||2||е + tx\\2 ^ ||Т(е + <х)||2 = (Те + tTx, Те + tTx) = = \\Те\\2 + 2t(Tx, Те) + t2\\Тх||2, что с учетом соотношений ||е + ix||2 = 1 + <2||ж||2 (привет от Пифагора!) и ||Те|| = ||Т|| приводит к неравенству 2t(Tx, Те) ^ ^ *2(||Г||2||х||2 - ||Тх||2). Поскольку при достаточно малых t >0 такого не бывает, мы пришли к противоречию. > Конец доказательства теоремы 1. Лемма 1 доставляет хотя бы один такой вектор е[ е Я, что ||е(|| = 1 и || Те(|| = || Т\\. Зафиксируем такой вектор и положим е" := тгщТе[, s, := ||Г||. Положим, далее, Я, := {е,'}1 и Т, := Т\щ: Я, -> К. Если Т, =0, мы на этом остановимся. Если нет, то, поскольку оператор Т, компактен вместе с Т, лемма 1 доставляет хотя бы один такой вектор е^е Ни что ||е^|| = 1 и ||Т^|| = ||TeJ|| = ||Т,||. Зафиксируем такой вектор и положим е? := й^-й Те^, я2:=||Т,||. Заметим, что {е[, eQ — ортонормированная система в Я и такова же, в силу леммы 2, система {е,", е?} в К; к тому же я, ^ я2. Теперь положим Я2 := {е|, е?}х и Т2:=Т|Я: Я2 —> К. Если Т2 = 0, мы остановимся; если нет, то, пользуясь компактностью оператора Т2, возьмем такой вектор ej е Я2, что ||е^|| = 1, ИЗД! = ||2Ъ?|| = ||Г2||, и положим «? := щГе^, з3 := \\Т2\\. Теперь мы видим, что системы {е{, е^, е3} и, с учетом леммы 2, {е", е^', е^'} ортогональны и я, ^ я2 ^ я3. Затем мы переходим к пространству Яз:={е,', е?, е^}1, оператору Г3:=Т|Язит.д. Продолжая подобный процесс, мы, очевидно, сталкиваемся с двумя возможностями. 1. Для какого-то п, построив ортонормированные системы {е|, е^,..., е^} в Я и {е", е^',..., е^'} в К, а также положительные числа я, ^ я2 ^ ... ^ я„, мы обнаруживаем, что оператор Т равен нулю на {е{, е?,..., е^}х. Тогда, очевидно, наш оператор представим в виде конечной суммы Т = ?) я^е? О е?. t = i 2. Все операторы Tn, n е N, отличны от нуля. В этом случае наш процесс приводит к счетным ортонормированным системам
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 265 {е(, е^,...} в Я и {е", е?,...} в К, и последовательности положительных чисел я, ^ а2 ^ ... Положим в := lim ап. Тогда для любых т, п 6 N число d(Te'm, Те'п) = \\зте„ - sne'^\\ в силу теоремы Пифагора равно уа? + з% ^ л/20. Поэтому предложение 2.4 (Ш), рассмотренное для T(U1E), обеспечивает равенство в = 0. Для каждого п положим 5„:= ]П s^Oe^ Тогда оператор Г-5П равен нулю на span{e(,..., е'п} и равен Т„ на (span{e,',..., е^})х; отсюда ||Г-5п|| = ||7^|| = ап. В силу зп—>0при п-»оо, это означает, что Т разлагается в ряд ? ske'k Ое'к. Дальнейшее очевидно. » Определение 1. Сумма ? sne'nОеп> указанная в формулировке теоремы Шмидта, называется рядом Шмидта (компактного) оператора Т, а числа зп — s-числами этого оператора. Разумеется, компактный оператор конечномерен тогда и только тогда, когда его ряд Шмидта содержит конечное число слагаемых. В ходе доказательства теоремы Шмидта мы видели, что в построении системы е[, е^,... (и, стало быть, ряда Шмидта), вообще говоря, возможен некоторый произвол: например, может оказаться много векторов х, для которых ||Гж|| = ||Г||, и мы вправе выбрать в качестве е{ любой из них. Однако, как мы сейчас покажем, этот произвол не столь уж велик, и, главное, числа sn от конкретного выбора системы е{, е^,... не зависят. Пусть для каких-то ортонормированных систем е{, е^,... и е[', е%,... утверждение теоремы Шмидта выполнено. Поскольку никто не запрещает, чтобы несколько соседних чисел зп оказались равными, для некоторых натуральных чисел щ < щ< ... имеют место соотношения я, = ... = a > а^ + , = ... = з^ > з^ + , = ... ... > s„k +1 = ... = «„>... Рассмотрим для А; = 1,2,... пространства Нк := span{e^ +,,..., е'п } (здесь мы полагаем л,, := 0). Предложение 1. Пространства Нк не зависят от выбора систем е[,е^,... и е[',е![,... (и, стало быть, зависят только от оператора Т). Далее, при любом к числа s ,,..., а совпадают с нормой оператора Т(к) := Г|я , где Щк):= (span{#',..., Hk})L. Как следствие, числа sn однозначно определены оператором Т. « Если Г =0, то at =0 для всех к, и доказывать нечего. В случае ненулевого оператора Т проведем индукцию по к. Вот ее начало.
266 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Лемма. Пространство Я1 состоит из всех тех векторов хеН, для которых \\Тх\\ = \\Т\\\\х\\, а числа s,,s2,..., s рае- ны\\Т\\. < Зная, как действует наш оператор, мы видим, что для любого хеН выполнено равенство ||Тх||2 = ]П s*\(x, е'п)\2. Поэтому из условия хбЯ' следует, что ||Тх|| = s,||x||. Далее, с учетом неравенства Бесселя \\Тх\\2 ^J2 s2\(x, е'п)\2 ^ s2\\x\\2, а это в объединении с только что сказанным приводит к равенствам s, = ... = s = ||Т||. Наконец, если \\Тх\\ = в^хЦ, то для любого п должно выполняться равенство s2\{x, e'nJ\2 = sf\(x, е'п)\2, п\ откуда (ж, е'п)=0 при п> п,, и, стало быть, ||Гх||2 — ? 3i\(x> е'п)\2- Поэтому соотношение ||Гж|| = ||Г||||ж|| влечет n = 1 NI^EI^e;)!2, а значит, хеН1 (см. предложение 1.2.9). Дальнейшее очевидно. > Конец доказательства предложения 1. Пусть утверждение доказано для 1,..., Л. Тогда, вместе с пространствами Н1,..., Нк, пространство Н(к) и, как следствие, оператор Т(к) также зависят только от оператора Г, причем, как легко усмотреть, оператор Т(к): Н(к) -> К действует по правилу ТС)Х = Л »п(*><)<- Поэтому если рассмотреть лемму с пространством Щк) в роли Н и Т{к) в роли Т, то в роли Я1 выступит подпространство Я* + 1. Следовательно, применяя лемму в этой ситуации, мы получаем, что Hk + l = {х е Н(к)\\\Т{к)х\\ = \\Т(кА\\\х\\}. Это означает, что пространство Я* + 1, как и оператор Т(к) (см. выше), зависит только от оператора Г, и та же лемма дает равенства s„ +1 = ... = s„t =||2Jt)||. » Есть и более красивые характеризации а-чисел, одну из которых мы сейчас сообщим без доказательства (см., например, [14]). Предложение 2 (Аллахвердиев). (БД) В условиях теоремы Шмидта для любого п = 1,2,... среди чисел \\Т - Ф||, где Ф пробегает всевозможные ограниченные операторы с образом размерности п-1, есть наименьшее, и это число совпадает с sn. Еще одна характеризация s-чисел будет получена впоследствии, когда в нашем распоряжении появятся гильбертовы сопряженные операторы (см. предложение 6.2.13).
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 267 Следующее утверждение частично оправдывает термин «компактный оператор». Предложение 3. Пусть Т: Н-*К —компактный оператор между гильбертовыми пространствами. Тогда Т(ШЕ) —компакт. < Поскольку Т(ШЕ) — сверхограниченное множество в К, а пространство К полно, достаточно проверить, что множество Г(ШВ) замкнуто в К. Пусть ? sne'n О е? — ряд Шмидта нашего оператора. Вначале мы покажем, что множество Т(ШЕ) состоит из всех векторов вида ? а„Апе^', где ? |А„|2 < 1. Действительно, поскольку числа (х, е'п) в выражении для вектора Тх из теоремы Шмидта удовлетворяют неравенству Бесселя, при ||х|| < 1 такой вектор заведомо имеет указанный вид. Обратно, любой вектор указанного вида есть, разумеется, Тх для x = J2^ne'n> и последний вектор, очевидно, принадлежит множеству ШЕ. Теперь пусть у — точка прикосновения множества Г(ШВ). Поскольку Т(ШЕ) лежит в замыкании линейной оболочки векторов в*, п = 1, 2,..., у = J2 Спеп для некоторых ?„ е С. Наша задача — проверить, что » Пусть N — число векторов ej,', если их множество конечно, и произвольное натуральное число в противном случае. Зададим е > 0; тогда в силу сказанного выше существует такой вектор z = ^2 sn\ne%, что |А„|2 < 1 и \\z — у\\ < е. Поскольку, очевидно, \\z — у\\2 = ^ |?n — snA„|2, то для всех чисел п, участвующих в последней сумме, выполнено неравенство |fn - s„AJ < е и, как следствие, -^ ^ |А„| + —-• Отсюда V n=l sn У п = 1 У n=l *п V SN N it .2 В силу произвольности е это означает, что ? ^- ^ 1. Дальнейшее очевидно. > »-• я» (Впоследствии мы сможем получить значительно более общее утверждение подобного рода; см. предложение 4.2.17.)
268 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ С общекатегорных (если угодно, общематематических) позиций теорема Шмидта представляет собой яркий результат о классификации морфизмов. Напомним о понятии слабой унитарной эквивалентности операторов в предгильбертовых пространствах, обсуждавшемся в § 1.4. Классификационная теорема, предлагаемая ниже в качестве упражнения, эквивалентна теореме Шмидта и может быть рассмотрена как одна из ее формулировок. Упражнение 1. (i) Пусть Т: Я —> К — компактный оператор между гильбертовыми пространствами. Тогда существует упорядоченный набор я = (s,, s2,...) невозрастающих положительных чисел конечной или счетной мощности т, а также такие гильбертовы пространства Я0 и К0, что оператор Т слабо унитарно эквивалентен оператору R: 1?®Н0-+1?®К0, действующему на Ц* как диагональный оператор Тг и переводящему Я0 в нуль. При этом числа з,,а2,... являются s-числами оператора Т и, таким образом, набор этих чисел однозначно определен заданным оператором. (Н) Два компактных оператора Т: Я, —> Кх и S: Н2 -* К2 между гильбертовыми пространствами слабо унитарно эквивалентны тогда и только тогда, когда их наборы s-чисел совпадают, пространство Кег(Г) унитарно изоморфно Ker(S) и пространство 1т(Г)х унитарно изоморфно ImE)-L. Указание, (i) Пусть Т = ?*„<0 е;', Я0:=Кег(Г) и К0:= :=Im(TI. Тогда существует единственный оператор Ц: Я —> —» ?/" © Я0, переводящий е'п в рп и тождественный на Я0, а также аналогичный оператор U2: К -> I? ® К0. Они и делают требуемую диаграмму коммутативной. (и) =>¦ Если ?/j и U2 — унитарные операторы, осуществляющие слабую унитарную эквивалентность между 5 и Г, то они устанавливают требуемые изоморфизмы между ядрами и ортогональными дополнениями к образам. Далее, если Т = ^в„е^Ое;, то ?/,<, и2е'Л и те же числа 5П играют аналогичную роль для 5. После этого работает предложение 1. (ii) <= Согласно (i), оба оператора слабо унитарно эквивалентны одному и тому же оператору. Таким образом, каждый компактный оператор между гильбертовыми пространствами однозначно определен с точностью до
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 269 слабой унитарной эквивалентности тремя вещами: а) (конечной или бесконечной) последовательностью s, ^ s2 ^ ... своих s-чисел; б) гильбертовой размерностью своего ядра и в) гильбертовой размерностью ортогонального дополнения к своему образу (см. теорему 2.2.2). Иными словами (ср. общее обсуждение в § 0.4), полная система инвариантов слабой унитарной эквивалентности для этого класса операторов состоит из всевозможных троек (s, а, /3), где s — невозрастающая стремящаяся к нулю (или финитная) последовательность положительных действительных чисел, а а и /3 — мощности. Простейшей моделью (ср. там же) компактного оператора с инвариантом (я, а, /3) является R: Ц" ф Н0 —» Ц" ф К0. Здесь m — наибольшее натуральное число, для которого $т > 0, или счетная мощность, если такого числа нет, Я0 и К0 — гильбертовы пространства с гильбертовыми размерностями а и /3 (скажем, Н0 := ЩХ) и К0 := ^(Y), где X имеет мощность a, a Y — мощность /3), и оператор R действует по правилу, описанному в предыдущем упражнении. Разумеется, оператор между гильбертовыми пространствами конечномерен тогда и только тогда, когда его множество s -чисел конечно. Другие условия на s-числа выделяют другие классы компактных операторов. Вот один из важнейших: Определение 2. Компактный оператор Т называется оператором Шмидта (часто говорят также: оператором Гильберта — Шмидта), если для его s-чисел выполнено неравенство Ylsn<°°- Нормой Шмидта такого оператора называется число \\T\\S:= J2 Зп- Множество операторов Шмидта обозначается через S(H, К), и мы пишем S(H) вместо S(H, Н). Введенный класс операторов может быть определен и без привлечения s-чисел. С целью большей наглядности мы покажем это для случая, когда оба наши пространства сепарабельны и бесконечномерны. Вплоть до особого объявления мы будем предполагать, что наши пространства именно таковы. Если заданный оператор конечномерен и, стало быть, его ряд N Шмидта есть на самом деле конечная сумма X) 3»е'п О е^', мы произвольно дополним векторы e[,...,e'N векторами e'N+l,e'N + 2, а векторы е",..., е? — векторами е^+1, е^ + 2 до счетных ортонорми- рованных систем в наших гильбертовых пространствах и положим
270 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ sN + l = sN+2 = ... :=0. Тогда любой компактный оператор, вне зависимости от размерности его образа, получает представление в виде сходящегося по операторной норме «настоящего» ряда Е sne'n О е'п< который мы по-прежнему будем называть рядом п=1 Шмидта этого оператора. Такая договоренность позволит избежать в дальнейшем нудных повторений, связанных с выделением случая конечномерного оператора. Теорема 2. Следующие свойства ограниченного оператора Т: Н —> К эквивалентны: (i) Г — оператор Шмидта; (И) для некоторого ортонормированного базиса d,', d?,... в Н выполнено неравенство X) II Td'k ||2 < оо; t = i (Ш) для любого ортонормированного базиса d,', (Ц,... в Н выполнено неравенство J? || Td4'||2 <оо; * = i (iv) для матрицы (аы) оператора Т относительно некоторых ортонормированных базисов в Н и К (см. определение 1.4.5) выполнено неравенство X) |аы|2<оо; (v) для матрицы (аы) оператора Т относительно любых ортонормированных базисов в Н и К выполнено неравенство Ё Ы2<оо. 4,1 = 1 Наконец, если оператор Т обладает этими свойствами, то суммы всех указанных рядов совпадают и равны ||Т||| (т. е. ?•.*)¦ « Выводы (iii) =>• (и) и (v) => (iv) очевидны. Далее, в силу равенства Парсеваля (теорема 1.2.4 (ii)) для любых ортонормированных базисов d[, dj',... в Н и d", d?,... в К выполнено равенство ||ЭД||2 = Е 1(та*> d!')\2> откуда j = i Е1|тал|2= Ё |(Td^d(")P= Е \аш\. A) Отсюда следуют эквивалентности (ii) •<=>> (iv) и (iii) -<=>• (v). Теперь для доказательства эквивалентности всех пяти условий достаточно обосновать выводы (i) ==> (iii) и (ii) => (i). Это мы сделаем в несколько этапов.
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 271 Лемма 1. Пусть Т —компактный оператор с рядом Шмидта J? sne'nOe'^. Тогда для любого ортонормированного базиса d{, dj',... в Н числа J2 з% и J? ||Г^||2 одновременно существуют или нет, и если эти числа существуют, то они равны. < Для любых векторов Td'k и е" из соответствующих ортонорми- рованных систем выполнено равенство №0 = (Е«,»К,О<><) = = Е«»<^0<<, О = *.<<**> О- Отсюда с учетом того, что ||Tdj(||2 = 52 К^У*> е"I2> следует, что суммы ? ИЗДЦ2 и 52 anl(^*> епI2 конечны или нет одновремен- * = 1 Ацп = 1 но, и если конечны, то равны. Пусть N — любое натуральное число. Тогда вследствие равенства Парсеваля Е ?^Ы,е'п)\2=Е4\\<\\2=Е^1 п=|*=1 п=1 п=1 Отсюда следует, что J^ sl\(d'k, е'п)\2 <оо тогда и только тогда, когда сумма Е ап < °° и °бе суммы совпадают. Дальнейшее очевидно.> n=1 Лемма 2. Для любого ограниченного оператора Т: Н —» К и любого ортонормированного базиса сЦ,<Ц,...вН имеет место а/еИ^ц2. оценка ||Г|| < (Разумеется, подобное заявление содержательно, если последняя сумма конечна.) <i Для любого хеЯ выполнено равенство Тх— Y^(x,d'k)Td'k, откуда с учетом неравенства Коши — Буняковского и равенства Парсеваля мы получаем \\тх\\ < ? \(х,4)\\\щ\\ < j?\(x,d^j?\\TdL\\2 = = \\'\\j?m\\2- Дальнейшее очевидно, о
272 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Лемма 3. Если для некоторого ортонормированного базиса d{, (Ц,... в Н выполнено неравенство ? ||ЗД||2 < оо, то оператор Т компактен. * = ' < Для каждого к определим конечномерный оператор Тк правилом XI-» ^(х, d[)Td{ (таким образом, Тк совпадает с Г на первых к векторах нашего базиса и переводит в нуль остальные). Тогда ? ||(Г - Tk)dl\\2 = ]? II ЭДН2. Отсюда, используя предыдущую лемму для Т-Тк в роли Г, мы получаем, что по операторной норме Т— lim Тк. Поэтому оператор Т аппроксимируется конечномерными операторами и, стало быть (следствие 3.2), компактен. > Конец доказательства теоремы 2. Осталось заметить, что вывод (i) =Ф- (Ш) уже содержится в лемме 1, а вывод (И) =$¦ (i) следует из этой леммы в объединении с леммой 3. Тем самым доказательство эквивалентности условий (i)_(v) завершено. Что касается последнего утверждения теоремы о равенстве сумм указанных в формулировке рядов, то оно очевидным образом следует, с учетом формулы A), из той же леммы 1. >> Замечание. Мы видим (теорема 2 (v)), что операторы Шмидта полностью описываются в терминах их матриц. На самом деле в этом заключается уникальное свойство данного класса операторов: как описывать другие важные классы операторов в терминах матриц, никто не знает. Предложение 4. Справедливы следующие утверждения: (i) S(H, К) — подпространство в К(Н, К) и, следовательно, линейное пространство; 00 II " lis — гильбертова норма в S(H, К), а порождающее эту норму скалярное произведение {•, •) (единственное в силу полярного тождества) таково: если зафиксировать произвольные ортонормированные базисы в Н и К, то для операторов Шмидта S и Т выполняется равенство (S, Т) = ? а^, 4,1 = 1 где (аы) и (Ъы)—матрицы наших операторов относительно этих базисов; (in) (S(H, К), || • ||5) —гильбертово пространство. < Задав ортонормированные базисы в Н и К, сопоставим каждому компактному оператору из Я в if его матрицу
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 273 относительно этих базисов. Поскольку наши матрицы суть функции двух натуральных аргументов, этим определено отображение из JC(H,K) в пространство всех двойных последовательностей, которое, очевидно, является инъективным линейным оператором. Из теоремы 2 следует, что такой оператор осуществляет биекцию /3: S(H, К) —* ij(N х N), откуда очевидным образом вытекает утверждение (i). Далее, из той же теоремы следует, что для стандартной нормы || • ||2 в i;(N х N) справедливо равенство ||/3(Г)||2 = ||Г||5. Это, разумеется, означает, что || • ||5 — норма в S(H, К) и /3 осуществляет изометрический изоморфизм между нормированными пространствами (S(H, К), \\ ¦ \\s) и (^(N х N), || • ||2). Но норма в последнем пространстве порождена скалярным произведением (а, Ь):— 52 аыЬы; это влечет утверждение (И). Наконец, из того, *,! = ! что ij(N х N) — гильбертово пространство, а /3 — изометрический изоморфизм, следует утверждение (Ш). > ЗАМЕЧАНИЕ. Впоследствии, когда будут введены гильбертовы сопряженные операторы, мы получим еще одно характеристическое свойство операторов Шмидта. Оказывается, операторы Шмидта, действующие в конкретном пространстве L2[a, b], нам хорошо известны, но только под другим именем. Предложение б. Оператор в L2[a,b] является оператором Шмидта тогда и только тогда, когда он является интегральным оператором (см. пример 1.3.6). При этом сопоставление К к+ Тк, где Тк — интегральный оператор в L2[a, b] с производящей функцией К, есть унитарный изоморфизм между гильбертовыми пространствами L2([a, b] х [а, Ь]) и S(L2[a, b]). < =>¦ Пусть Т = 52 sne|,Oen" — наш оператор; теперь векторы е'п и е^' суть квадратично интегрируемые функции. Положим un(r, t) := e%(r)e'n(t), г, t G [a, b]; тогда из теоремы Фубини очевидным образом следует, что ип — ортонормированная система в L2(a), где D := [a, b] х [а, Ъ]. Из сходимости ряда 52 $п следует, что ряд 52 япЧ, сходится в Ь2(П) к некоторой функции К = К (г, t). Рассмотрим интегральный оператор Тк с производящей функцией К, а для произвольного натурального числа N рассмотрим интегральный оператор N Тк с производящей функцией KN = 52 snun- Тогда для любого
274 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ х е L2[a, b] почти для всех г б [а, Ь] выполнено равенство ь [ТКк(х)](г)= J ?snun(r,tMt)dt = = ? *„<'И f <(i)x(t)di = ? e,(as, e;)e;'(r). N N Это означает, что 7^ (х)= ? sn(x> en)en> т. е. 2)^ = ? snenOen- " 71=1 " П=1 Теперь мы видим, что вследствие теоремы Шмидта Г = lim Тк , и в то же время, ввиду оценки \\ТК — Тк || < \\К — KN\\ (см. тот же пример 1.3.6) Тк = lim Г^. Тем самым" Т = Тк. <== Теперь пусть Тк — интегральный оператор с производящей функцией К. Произвольно выберем два ортонормирован- ных базиса {е{,е?,...} и {е", е%,...} в L2[a,b]. Тогда матрица оператора Тк относительно этих базисов есть, очевидно, аы '•= $ -^(г> Оиы(г» t)dtdr, где иы(г, t) := e?'(r)e,'(i). С другой стороны, иы — ортонормированный базис в L2(D) (рассуждение, проведенное при доказательстве теоремы 3.1, проходит с очевидными модификациями), и поэтому числа аы суть коэффициенты Фурье элемента К е L2(D) относительно этого базиса. Поэтому в силу равенства Парсеваля ||.ЙГ||2= Ё lanml2- Применяя теоре- гцт=! му 2, получаем, что Тк — оператор Шмидта, причем ||7^||5 = ||i^||. Дальнейшее очевидно. > Следствие 1. (i) Оператор между двумя сепарабельными бесконечномерными гильбертовыми пространствами является оператором Шмидта тогда и только тогда, когда он слабо унитарно эквивалентен интегральному оператору в L2[a, Ь]. (и) Оператор, действующий в сепарабельном бесконечномерном гильбертовом пространстве, является оператором Шмидта тогда и только тогда, когда он унитарно эквивалентен интегральному оператору в L2[a, b]. Это следствие можно рассматривать как аналитическое описание операторов Шмидта. Дадим еще одну интерпретацию операторов Шмидта — на этот раз как элементов гильбертовых тензорных произведений. Для вектора х е Н условимся через х* € Н* обозначать задаваемый этим вектором функционал. Напомним, что для гильбертова пространства Н его сопряженное Н* само есть гильбертово пространство
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 275 относительно скалярного произведения (х% у*) := (у, х), х,уеН (см. предложение 2.3.8). Теорема 3. Между гильбертовыми, пространствами Н*®К и S(H, К) существует унитарный изоморфизм, переводящий элементарный тензор х* <8> у в одномерный оператор х О у, хеН,уеК. < Пространство Я* <8> К содержит плотное подпространство Я* ® К, т. е. алгебраическое тензорное произведение пространств Я* и К. Далее, S(H, К) содержит подпространство F(H, К), которое также является плотным, поскольку каждый оператор Шмидта есть предел по норме Шмидта конечных сумм своего ряда Шмидта. Рассмотрим линейный изоморфизм Gr°: Н*®К -»Т(Н, К) (см. предложение 2.7.2). Возьмем иеН"®К, и = J2 х1 ® Ук> и выберем ортонормированный базис е*,..., е*т в span{x,*,..., х*}; тогда w=^e?<g)z;t для некоторых векторов zlt..., zm е К. Из определения скалярного произведения в Я* <g> К (см. § 2.8) следует, что система е*к® zk, к = 1,... ..., т, ортогональна, и поэтому ||«||2= ? l|e*®zt||2 = ? ||zt||2. В то же время Т := Gr°(u) = ? et О zk. Поскольку Тх = О для любого ж J. span{e,,..., em}, из теоремы 2 следует, что llrIII= ? ll^etll2== IT llz*ll2- Тем самым, Gro— это изометри- Jb = l Jfc = l ческий и, стало быть, унитарный изоморфизм между плотными подпространствами в Н*®К и 5(Я, К). Остается воспользоваться принципом продолжения по непрерывности (в его форме, выраженной предложением 2.1.10). > Теперь займемся другим специальным классом компактных операторов. Читателям, не опускающимся до чтения мелкого шрифта, мы расскажем о нем совсем немного, В следующем определении Н и К — произвольные гильбертовы пространства. Определение 3. Компактный оператор Г: Я —> К называется ядерным оператором или оператором следового класса, если для его а-чисел выполнено неравенство Yl sn < оо. Ядерной нормой такого оператора называется число \\Т\\# := ^2 sn. Множество ядерных операторов обозначается через М(Н, К), и мы пишем ЩН) вместо ЛГ(Н, Я).
276 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Здесь наш просвещенный читатель должен насторожиться: ведь он видел те же слова и обозначения совсем в другом контексте (ср. определение 2.7.5), где никаких я-чисел еще и в помине не было. Ему мы вскоре покажем, что оба определения ядерности согласованы. А пока, вплоть до особого объявления, мы сделаем вид, что забыли о сказанном в § 2.7 и, говоря о ядерности, будем иметь в виду только что данное определение. Снова ограничимся ради наглядности изложения случаем, когда наши гильбертовы пространства сепарабельны и бесконечномерны. Предложение 6. Пусть Т — ядерный оператор, действующий в гильбертовом пространстве Н, и Е зпе'п О е'^ — его ряд п=1 Шмидта. Пусть, далее, е^е^,... —некоторый ортонормирован- ный базис в Н и (аы) —матрица оператора Т в этом базисе. Тогда ряд JT a4t {составленный из диагональных элементов нашей матрицы) абсолютно сходится и его сумма равна 52 s„(e^') е'п)- Как следствие, эта сумма не зависит от выбора ортонормированного базиса. х < Рассмотрим двойной ряд ? sn{ek, е'п){е?, ек). Он абсолютно оо "•*=' сходится, поскольку J2 Ке*> en)ll(en> et)l — это скалярное произведение двух векторов из ^ нормы 1 (модулей соответствующих коэффициентов Фурье) и ? sn < оо. Следовательно, соответствующие повторные ряды абсолютно сходятся, и их суммы совпадают. Но в силу соотношения Тек = ]П зп(ек, е'п)е% мы получаем Е Ё '„<**, <)«, О = Ё ( Е -»<е», 0<, «*) = Е (Тек, ек). В то же время, разлагая векторы е'п и е'Л по базису ек, к = 1, 2,..., мы видим, что ? (е/н 0(eni ек) = (е"> О. и поэтому суммирование * = 1 оо в другом порядке дает Ё sn(en) е'п) —число, от ек не зависящее. Дальнейшее очевидно. > Доказанное утверждение делает корректным Определение 4. Сумма ряда из диагональных элементов матрицы ядерного оператора Т в любом ортонормированном базисе пространства Я называется следом этого оператора и обозначается tr(T). Снова успокоим просвещенного читателя: введенное понятие согласовано с определением следа из § 2.7, и скоро это будет показано.
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 277 Предложение 7. Пусть Т — компактный, a S — ограниченный оператор в Н, причем ST и TS — ядерные операторы. Тогда tr(ST) = lr(TS). (След произведения не зависит от порядка сомножителей.) < Пусть Т = 52 s/j,Oe,". Тогда для любого п выполняется равенство n=1 (STe'n, е'п) = sn(SeZ, е'п) = ( ? {з„Бе?, e'k)e"k, е'^ = {TSe';, е'). Поскольку ST(x) = 0 для любого х J. spanfe^, | п б N}, справедливо равенство tr(ST) = JH {STe'n, е'п). С другой стороны, Im (TS) С span{< | n € N}, откуда tr(TS) = ? (T5<, <). Остается просуммировать оба крайних выражения в последней цепочке равенств. > Следующие факты, касающиеся ядерных операторов, должен знать любой наш читатель. Предложение 8. (БД) Справедливы следующие утверждения: (i) Af(H, К) — подпространство в <S(#, К) (и, стало быть, линейное пространство), а \\-\\м —норма вМ(Н, К), относительно которой это пространство банахово; (ii) композиция двух операторов Шмидта и композиция (в любом порядке) ядерного и ограниченного оператора является ядерным оператором; (Ш) след — это единственный, с точностью до скалярного множителя, такой непрерывный по ядерной норме функционал f на Я(Н), что f(ST) = f(TS) для любых одномерных операторов S и Т. Часть этих утверждений будет доказана ниже, мелким шрифтом. Однако многое читатель может установить, в качестве весьма полезного упражнения, уже сейчас, причем без особых усилий. Вот некоторая информация к размышлению. Если Т= 53 sne'nOe'l€.N(H, К), то для любых ортонормирован- ных систем d'k в Я и dk в К повторный ряд J? J? sn(dk, е'п)(еЦ, dk) абсолютно сходится. Суммируя его в другом порядке, мы видим, что ? \(Щ, dH)\ ^ \\Т\\„. Поэтому если S,TeAf(H,K)
278 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Если Г G 5(Я, К), S 6 5(Я; L), ST = ? sne; О е;' и еп — ортонормированный базис в К, то ап = Ё апк^Ы' гДе ^^(^е^, е^') и Ьы := (Ге^,, et). Из теоремы 2 (v) следует, что двойной ряд Yj an*^jtn есть скалярное произведение двойных последовательностей из ij(N х N). ^ Пусть Т б ЛГ(Я, ЯГ), 5 е Й(Я, L), 5Г = ? sne'n О е™ и Т = — Ё tkfkOf!!' гДе Ё **<°о- Тогда легко усмотреть, что N ~ N оо Yl sn= 12 Yl ft(en> fk)(Sf!!' еп")- Меняя местами порядок сумми- „=1 « = 1 Jb = I рования и пользуясь тем, что для каждого А; неравенство Коши — Буняковского дает оценку Ё Кеп> /*IК$/*'' е™)| < ||5||, мы получаем f) sn^||5|| ? *41 откуда STeM(H,L) и ||5T||V< ||5||||Г||^. Наконец, для любых х, у е Я легко видеть, что tr(xO у) = (у, ж). Пусть функционал /: Я(Н)—>С обладает свойством из (iii). Тогда, перемножая в разном порядке некоторые одномерные операторы по рецепту из предложения 1.5.5, мы видим, что /(х О у) = = f(z О z)(y, х) = f(z О z) tr(x О у) для всех x,y,z€ Я, ||z|| = 1. Поэтому если зафиксировать z € Я, ||z|| = 1, и положить А :=f(zO О z), то / = A(tr) на ^(Н) — плотном, как следует из вида ряда Шмидта, подпространстве в (Af(H), \\ ¦ \\м). Теперь сформулируем фундаментальную теорему, описывающую действие функционалов на введенных пространствах компактных операторов. Теорема 4 (Шаттен, фон Нойманн). (БД) Пусть Н и К — {произвольные) гильбертовы пространства. Тогда справедливы следующие утверждения. (i) Каждый ядерный оператор Т: К -» Я задает ограниченный функционал fT на пространстве К.(Н, К) (с операторной нормой) по правилу fT(S) := tr(ST), и каждый ограниченный функционал на /С(Я, К) имеет вид fT для единственного Т eAf(K, Я). Возникающая при этом биекция 1К: Т н-> fT есть изометрический изоморфизм пространства (М(К, Я), || • Ц^) наК(Н,К)\
§ 4. ОПЕРАТОРЫ МЕЖДУ ГИЛЬБЕРТОВЫМИ ПРОСТРАНСТВАМИ 279 (и) Каждый ограниченный оператор Т: К —> Н задает ограниченный функционал fT на пространстве J\f{H, К) (с ядерной нормой) по правилу fT(S) := tr(ST), и каждый ограниченный функционал на (N(H, К), \\-\\м) имеет вид fT для единственного Т е В(К, Н). Возникающая при этом биекция 1Я\ Т *-* fT есть изометрический изоморфизм пространства В(К, Н) (с операторной нормой) на (ЩН, К), || • Идг)*. (iii) Каждый оператор Шмидта Т: К —> Н задает ограниченный функционал fT на пространстве S(H, К) (с нормой Шмидта) по правилу fT(S) := tr(ST), и каждый ограниченный функционал на (S(H, К), || • ||s) имеет вид fT для единственного Т е S(K, Н). Возникающая при этом биекция Is: Гн/Т есть изометрический изоморфизм пространства (S(K, Н), \\ • \\s) на (S(H,K),\\.\\SY. Разумеется, тот факт, что пространства (S(K, Н), \\ • ||5) и (S(#, К), || • ||5)* изометрически изоморфны, сразу следует из теоремы Фишера — Рисса: оба суть сепарабельные гильбертовы пространства. Существенно то, что операторы из S(K, Н) задают функционалы на S(H, К) именно по указанному правилу «посредством следа». Что касается второго из этих утверждений, то впоследствии оно окажется довольно простым следствием интерпретации пространства ядерных операторов в терминах банаховых тензорных произведений, о которой мы расскажем нашим отличникам в конце параграфа (см. упражнение 2). Обратим внимание на некое глубинное сходство этих трех утверждений с описанием действия функционалов на важнейших пространствах последовательностей (упражнения 1.6.1-1.6.3). Не правда ли, пространство К,(Н, К) ведет себя так же, как q,, ЩН,К) — как /, и, наконец, S(H, К) — как ^? Вообще, каждое из обсуждаемых пространств операторов целесообразно мыслить как некую операторную версию соответствующего пространства последовательностей; тогда многое в их поведении можно предугадать. Кстати, мы уже наблюдали другой пример такой аналогии: композиция двух операторов Шмидта есть ядерный оператор, подобно тому как покоординатное произведение двух последовательностей из ^ принадлежит /,. ЗАМЕЧАНИЕ. Если ограничиться рассмотрением диагональных операторов в ^ (пример 1.3.2), то, говоря неформально, теорема Шаттена — фон Нойманна просто превращается в объединенный результат упражнений 1.6.1-1.6.3. Действительно, для произвольного ^ограниченного) диагонального оператора Тх роль индекса А играет любая последовательность из 1^; в то же время диагональ-
280 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ ный оператор является оператором Шмидта тогда и только тогда, когда А е Ц,, и ядерным оператором в том и только том случае, если А е /,. При этом trfT^TJ.) там, где это число определено, есть, разумеется, 5Г -^пМп — та самая сумма, с помощью которой описано действие функционалов на пространствах последовательностей. Пространства 1р для прочих рб[1,оо) также имеют свою операторную версию: это так называемые классы Шаттена — фон Нойманна порядка р. А именно, компактный оператор Т: Н -> К принадлежит, по определению, этому классу, если для его s-чисел выполнено неравенство ^ s* < оо. Зная пространства lv и их взаимоотношения, можно многое предсказать и об их операторных версиях: например, композиция ST, где S и Т лежат соответственно в классах Шаттена — фон Нойманна порядка рид и - + - = 1, есть ядерный оператор, операторы из класса порядка q действуют «функционалами посредством следа» на классе порядка р, и т. п. Подробнее об этих вещах, выходящих за пределы наших лекций, см., например, [14] или [40]. Наш гипотетический отличник должен еще знать об интерпретации ядерных операторов между гильбертовыми пространствами в терминах банаховых тензорных произведений, наподобие доказанной «для широкой публики» теоремы 3, а также о некоторых следствиях этого факта. Мы увидим, в частности, что в контексте гильбертовых пространств определения, связанные с ядерностью, эквивалентны «общебанаховым» определениям из § 2.7. Предупреждение. Но, пока это не сделано, говоря о ядерных операторах и ядерной норме, мы придаем этим понятиям смысл, указанный в этом параграфе. Ради простоты мы по-прежнему считаем, что гильбертовы пространства Я и К сепарабельны и бесконечномерны (так что мы можем всегда говорить о бесконечных рядах Шмидта; ср. сказанное выше). В дальнейшем для каждого ж € Я мы обозначаем через х* соответствующий функционал на Я, действующий по правилу **М = <У,*>(см.§2.3). Теорема 5. Множество М(Н, К) ядерных операторов — подпространство в К,(Н, К), а ядерная норма \\ ¦ \\# (и в самом деле) является в нем нормой. При этом между пространствами (Я* ® К, \\ ¦ \\р) (здесь || ¦ ||р — проективная норма из § 2.7) и (Af(H, К), \\ -1|^) существует изометрический изоморфизм, переводящий элементарный тензор х* ® у в одномерный оператор х о у, х е Я, у е К. « Пусть Gr: Я* ®К —>В(Н, К) — оператор Гротендика, определенный в § 2.7; он как раз действует на элементарные тензоры только что указанным способом. Как мы увидим, наш желанный изометрический изоморфизм окажется коограничением этого оператора на его образ. Лемма 1. Пусть и&Н*®К и S := Gr(u). Тогда для любых ортонорми- рованных систем е{,е?,... в Я и е",е%,... в К справедливо неравенство EJ^.eDl^lhll,.
§ 4. ОПЕРАТОРЫ МЕЖЦУ ГИЛЬБЕРТОВЫМИ ПГОСТРАНСТВАМИ 281 < Пусть элемент и представим в виде суммы абсолютно сходящегося ряда S ек ® Ук (см- предложение 2.7.8). Тогда S = ? etOjt и Ё l<s<,<)l= Ё |( Ё «.«*>%. <)к Ё Ё 1<<С«»>1Ку*,<>1. если только последний ряд сходится. Но, меняя порядок суммирования и пользуясь неравенством Коши — Буняковского (для ^) вкупе с неравенством Бесселя, мы видим, что выражение справа не превосходит ? ||еА||||у4||. Остается перейти * = 1 к нижней грани подобных сумм по всем представлениям элемента и в виде суммы ряда из элементарных тензоров. > Лемма 2. Любой оператор Т из образа Gr —ядерный, причем \\Т\\м<Щ\\и\\р\ч?Н'®К,От(и)=Т}. <. Мы уже знаем из теоремы 2.7.7, что оператор Т разлагается в абсолютно сходящийся ряд из одномерных операторов. Поэтому он аппроксимируется конечномерными операторами и, стало быть, компактен. Пусть ? sne'n О е'Л — 71=1 его ряд Шмидта. Тогда, поскольку sn = {Те'п, ej|), из предыдущей леммы следует, что ? *п ^ Ни11в Д"я любого такого элемента и, что Gr(u)=T. Дальнейшее п=1 очевидно. > Лемма З.^Каждый ядерный оператор Т:Н—>К имеет вид Gr (и) = Т для такого и е Я* ® К, что \\и \\р ^ || Т Нуу. При этом если оператор Т конечномерен, то подобный элемент и можно взять в (алгебраическом тензорном произведении) Я*®А\ < Пусть ? enen0en— Р5 Шмидта для Т. Из ядерности этого оператора и признака Вейерштрасса (предложение 2.1.8) очевидным образом следует, что ряд ? *nen ® еп сходится в банаховом пространстве Я*§АГ к некоторому элементу и. При этом, разумеется, Gr(u)=T и ||и|| < ? ||sne^||||e"|| = ? яп. Осталось напомнить, что ряд Шмидта конечномерного оператора есть конечная сумма, а потому соответствующий элемент и принадлежит Н*®К.> Конец доказательства теоремы 5. Объединяя леммы 2 и 3, мы видим, что множество ядерных операторов есть в точности образ оператора Гротендика, а ядерная норма ядерного оператора Г есть Ы{||и||р | и е Я* ® К, 6г(и) = Т}. На основании теоремы 2.7.7 это означает, что оба определения ядерного оператора — из § 2.7 и этого параграфа — и оба соответствующих определения ядерной нормы эквивалентны в контексте гильбертовых пространств. Отсюда с учетом теоремы 2.7.7 сразу вытекают все утверждения доказываемой теоремы, кроме последнего. Пусть Gr° — коограничение оператора Гротендика на его образ. Мы уже знаем из теоремы 2.7.7 и следствия 2.7.2, что Gr°: (Я* § К, \\-\\р)^>(М(Н, К), \\-\\м) — это коизометрический оператор между банаховыми пространствами. При этом, очевидно, он отображает алгебраическое тензорное произведение Я*® А" на пространство конечномерных операторов Т(Н, К), и его соответствующее биограничение есть не что иное, как оператор Gr$ из предложения 2.7.2.
282 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Однако теперь, в отличие от случая общих банаховых пространств, мы можем пойти дальше. Последнее утверждение леммы 3 вместе с предложением 2.7.2 обеспечивают то, что для любого конечномерного оператора Г найдется единственный такой элемент а 6 Н* ® К, что Gr(u) = Т и ||u||p ^ \\Т\\и. Поскольку неравенство противоположного смысла уже известно, это означает, что Gr§ — изометрический изоморфизм. Далее, из каждого из эквивалентных определений ядерной нормы (выбирайте любое) немедленно следует, что пространство Т(Н, К) плотно в (М(Н, К), || • Нуу). Тем самым оператор Gr осуществляет изометрический изоморфизм между плотными подпространствами в Я* ® К и (ЩН, К), || • Ц^). Осталось воспользоваться вариантом принципа продолжения по непрерывности, выраженным в предложении 2.1.10. » Из доказанной теоремы, в частности, следует, что, сопоставляя ядерному оператору TzN(H) число ttr(u), где элемент u е Я* ®Я таков, что Gr(u)= Т, мы получаем корректно определенный ограниченный функционал на (М{Н), \\ ¦ \\#) — тот, который был назван операторным следом в § 2.7. Следующее утверждение показывает, что такое определение операторного следа эквивалентно определению 4 из этого параграфа. Предложение 9. Пусть Я — сепарабельное гильбертово пространство с ортонормированным базисом е,,^,..., и—элемент пространства Я*®АГ uT:=Gr(u). Тогда ttr(«)= Е (Tek,ek). «а Если Г = ? »пе'пОе'^, ToT:=Gr(u), где и = ? sne'n* ® е|,'. Отсюда ttr(u) = = J2 sn(e"> О- И остается воспользоваться предложением 6. > В заключение заметим, что читатель, освоивший закон сопряженной ассоциативности (см. упражнение 2.7.5), сможет теперь без особого труда сделать Упражнение 2. Докажите утверждение (И) из теоремы 4 (Шаттена — фон Нойманна). Указание. Упомянутый закон задает изометрический изоморфизм В(К, Я**)-» —>(К ®Я*)*, переводящий оператор 5 в функционал fs: у ® е* >-¦ [5(j/)](e*). Отождествляя Н" с Я, мы видим, что последнее число есть tr(eOSy) = tr(SR), где R := е О у. После перемены мест тензорных сомножителей и применения теоремы 5 мы получаем изометрический изоморфизм В(К, Я) -> Л/"(Я, К)*, переводящий оператор Т в такой функционал /т, что fT(R) = ir(TR) по крайней мере для одномерных операторов Л. § 5. Фредгольмовы операторы и индекс Из всего, что уже говорилось о компактных операторах, должно создаться впечатление, что это «малые» операторы, несущие в функциональном анализе приблизительно ту же смысловую нагрузку, что конечномерные операторы в чистой линейной алгебре. В математике часто бывает поучительно, имея нечто «малое», профакторизовать по этому «малому» и посмотреть, что остается. Формализуя эту весьма расплывчатую идею в нашей конкретной ситуации, мы введем в рассмотрение категорию BAN /К., объектами
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 283 которой являются (как и в BAN) банаховы пространства, однако морфизмами между объектами Е и F объявлены не сами ограниченные операторы между этими банаховыми пространствами, а их классы смежности по подпространству компактных операторов. (Таким образом, hBui/lc(E, F) := J3(E, F)/K.(E, F).) Композицией морфизмов (= классов смежности) S + K.(F, G) и Т + JC(E, F) объявлен морфизм ST + К(Е, G). (Ясно, что такое определение корректно, т. е. не зависит от выбора представителей в соответствующих классах смежности: если S' и Т" — другие представители этих классов, то оператор ST - S'T = (S - S')T + S'(T - Т) компактен в силу предложений 3.4 и 3.5 и, стало быть, ST + JC(E, G) = S'T' + K,(E, G).) Аксиомы категории проверяются очевидным образом; в частности, локальной единицей объекта Е служит класс смежности \Е +К(Е). Разумеется, нулевые морфизмы новой категории — это как раз пространства компактных операторов. Но как охарактеризовать те классы смежности, которые являются ее изоморфизмами? — ведь операторы, из которых они состоят, разумно считать «наиболее далекими от компактных», так сказать, «антикомпактными». Настоящий параграф посвящен именно этим операторам. Впрочем, это выяснится не сразу, а начнем мы, как говорится, издалека. Предложение 1. Пусть S: Е —> F —ограниченный оператор между банаховыми пространствами, образ которого имеет конечную коразмерность. Тогда этот образ замкнут. < Поскольку Im E) = Im E), где S: E/Ker (S) —* F — оператор, порожденный оператором S (см. § 1.5), мы вправе, не теряя общности, считать, что оператор S инъективен. Обозначим через Fs произвольное линейное дополнение к Im E) в F; согласно условию оно конечномерно и, стало быть (теорема 2.1.1 (i)), является банаховым пространством. Пусть Е ®FS — банахова прямая сумма указанных пространств (см. § 2.1) и Л — оператор, совпадающий с 5 на ? и тождественный на Fs. Очевидно, оператор R ограничен и биективен; стало быть, согласно теореме Банаха это топологический изоморфизм. Поэтому R отображает замкнутое подпространство Е в Е ф Fs на замкнутое подпространство в F, а это последнее есть Im (S). > Введем главное понятие этого параграфа. Определение 1. Оператор S: Е —> F между банаховыми пространствами называется абстрактным фредгольмовым или просто фредгольмовым, если его ядро имеет конечную размерность, а образ — конечную коразмерность. (Таким образом, не только
284 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ ядро, но и образ фредгольмова оператора автоматически замкнуты.) Целое число dim Кег E) — codim^ ImE) называется индексом нашего фредгольмова оператора и обозначается Ind (S). Сразу же, предваряя возможное недоумение читателя, заявим, что индекс фредгольмова оператора является его более важной, «глубинной» характеристикой, чем сами числа dim Кег E) и coding Im (S), хоть они и «с виду более геометричны». В отличие от этих последних, индекс красиво себя ведет при композиции операторов и обладает свойствами устойчивости. Эту фразу, конечно, мы впоследствии разъясним. Из определения 1 немедленно следует, что два слабо топологически эквивалентных оператора одновременно фредгольмовы или нет. Вот первые примеры. Если речь идет о операторе S, действующем в конечномерном пространстве Е, который, конечно же, фредгольмов, то, как нас учили на первом курсе, dim Кег (S) + dim Im E) = dim Е, откуда Ind E) = 0. Всякий топологический изоморфизм между банаховыми пространствами также фредгольмов и также имеет нулевой индекс; этим же свойством обладает и всякий ограниченный проектор на подпространство конечной коразмерности. Операторы левого и правого сдвига в ^ (пример 1.3.3), очевидно, фредгольмовы, причем первый из них имеет индекс 1, а второй — индекс — 1. Упражнение 1 (опирающееся на курс обыкновенных дифференциальных уравнений). Дифференциальный оператор х ь-> ж(п) + + Mt)x<n- » + ... + /„(*)- /„..., Л G С[а, Ь], из Сп[а, Ь) в С[а, Ь] имеет индекс п. В то же время оператор дифференцирования xi-> х' из С"(Т) в С(Т) имеет индекс 0. Замечание. Пожалуй, наиболее важные для анализа и геометрии фредгольмовы операторы возникают при рассмотрении так называемых эллиптических псевдодифференциальных операторов на компактных многообразиях. Такие операторы связывают банаховы пространства, полученные из пространств сечений векторных расслоений над многообразиями путем пополнения по некоторым специальным (Соболевским) нормам. Теория этих операторов выросла к настоящему времени в объемистую науку, далеко выходящую за рамки наших лекций: ее изучение, помимо соболевских пространств, требует знаний по теории векторных расслоений и алгебраической топологии. Некоторые ее результаты, в том числе знаменитая теорема Атья — Зингера об индексе, изложены в монографии [36]. Говоря о контрпримерах, особо выделим Предложение 2. В случае бесконечномерного пространства Е или F компактный оператор Т: Е —*F никогда не бывает фредгольмовым.
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 285 < Пусть оператор Т фредгольмов. Предположим, что пространство F бесконечномерно. Тогда в силу предложения 1 коограни- чение оператора Г на его образ — это сюръективный оператор на бесконечномерное банахово пространство. Поэтому вследствие принципа открытости и теоремы 2.2 (Рисса) Т(ШБ) заведомо не сверхограничен и оператор Г не компактен. Итак, пространство F конечномерно. Но тогда из конечномерности ядра Кег(Г) очевидным образом следует конечномерность пространства Е. > Теперь достанем пару операторов из нашего мешка примеров. Упражнение 2. Диагональный оператор Т^: lp—>lp, l^p^oo (см. пример 1.3.2), фредгольмов тогда и только тогда, когда нуль не является предельной точкой последовательности А = (А,, А2,...), и если он фредгольмов, то его индекс всегда равен нулю. Указание. Если оператор Тх фредгольмов, то таковы же и его биограничения на подпространства, порожденные любыми семействами ортов. Поэтому ни одно из этих биограничений не может быть компактным оператором. Упражнение 3. Оператор Tf:Lp[a,b]—*Lp[a,b], l^p^oo, где /е1м[о,Ь] (см. пример 1.3.4), фредгольмов тогда и только тогда, когда для некоторого в > 0 выполнено неравенство |/| > в почти всюду на [а, Ь]. (Иными словами, оператор 2} фредгольмов тогда и только тогда, когда он обратим.) Указание. Если мера множества Z :={t е [о, b] |/(t) = 0} положительна, то подпространство Кег (Т}), равное {д \д = 0 вне Z}, бесконечномерно. Если же /z(Z) = 0, то оператор Т} инъективен. Если он к тому же фредгольмов, то он топологически инъективен, а значит, обратим (упражнение 1.4.4). Вернемся к общей теории. Одно из важнейших свойств индекса таково. Теорема 1 (о мультипликативном свойстве индекса). Пусть S: Е -* F и R: F -* G — фредгольмовы операторы. Тогда оператор RS: E->G тоже фредгольмов ulnd(RS) = \nd(R)+lnd(S). < Рассмотрим в F подпространство FQ :=Im (S)nKer(-R); оно конечномерно. Очевидно, Кег (RS) = {х е Е \ Sx € Кег (Л)}, и S отображает Ker(itS) на F0; при этом ядром соответствующего биограничения 50°: Кег (RS)-*F0 является, разумеется, Кег (S). Отсюда dim Кег (RS) = dim Кег E) + dim F0 < сю. Теперь обозначим через F0 любое линейное дополнение к алгебраической сумме ImE) + Кег(Д) в F; оно также конечномер-
286 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ но. Очевидно, образ lm(RS) — он же и ЛAгпE)) — совпадает с R(lm(S) + Кег(Д)), и, следовательно, lm(R) — это алгебраическая сумма lm(RS) + R(F°). Но если случилось так, что некий вектор z € G имеет вид RSx, х?Е,и одновременно вид Ry, у G F0, то Sx-yeKer(R), а значит, у€ (ImE)+Ker (R))nF°; отсюда у=0 и, стало быть, z — 0. Поэтому на самом деле Im (R) есть прямая сумма lm(RS)®R(F°). Отсюда с учетом того, что Ker(i?)nF° = 0 и, стало быть, оператор R |F» инъективен, мы получаем, что codimG Im (RS) = codimG Im (R) + dim F° < oo. Итак, оператор RS фредгольмов, и Ind (RS) = (dim Ker (S) + dim F0) - (codimG Im (R) + dim F°). Теперь обозначим через F, произвольное (необходимо конечномерное) линейное дополнение kF0b Кег(Д). Тогда dim Ker (R) = dim F0 + dim Fx, и в то же время из очевидного совпадения Im(S) + Кег(Д) с Im E) ф F, следует, что coding Im E) = dim F° + dim F,. Дальнейшее очевидно. > Перейдем к рассмотрению весьма важного специального класса фредгольмовых операторов. Он берет свое начало из классической работы шведского математика Э. Фредгольма 1903 г. [79]. С большой долей упрощения и «модернизации», можно сказать, что в этой работе было установлено, что оператор вида 1 - Г, где Г — интегральный оператор, фредгольмов и имеет индекс 0. Разумеется, сам Фредгольм еще ни о каких операторах и не слыхивал, а рассуждал о так называемых интегральных уравнениях второго рода (см. ниже). Впоследствии — в этом заслуга уже известных нашему читателю Рисса и Шаудера — было выяснено, что причина такого явления не в конкретном виде интегрального оператора, а только в том, что он (как мы знаем из теоремы 3.1) компактен. В следующих трех теоремах S: Е —> Е — оператор в банаховом пространстве вида S = 1 - Т, где Т — компактный оператор. (Как говорят, 5 — компактное возмущение тождественного оператора.) Теорема 2. Оператор S фредгольмов.
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 287 < Для любого вектора ж € Ker (S) выполнено равенство х = Тх. Следовательно, Ker(S)— инвариантное подпространство для Т, и оператор T|Ker(S) одновременно тождествен и (вместе с Г) компактен. Поэтому из предложения 3.3 вытекает, что ядро КегE) конечномерно. Теперь мы покажем, что образ Im E) замкнут, а уж потом — что он имеет конечную коразмерность. Пусть последовательность уп = Sx'n, х'п € Е, сходится к некоему вектору уеЕ. Тогда, взяв в Е замкнутое линейное дополнение Es к Ker(S) (существующее в силу предложения 1.6.3) и проектор Р: Е —>Е на Es вдоль КегE) (ограниченный в силу следствия 2.4.3), мы видим, что для векторов хп :=Рх'п е Es последовательность Sxn также сходится к у. Покажем, что множество {xn | n е N} ограничено. Пусть это не так; тогда, переходя, если потребуется, к подпоследовательности, можно считать, что ||z„|| —> оо при п —> сю. Положим х° := яп/||а;п||; тогда, в силу ограниченности сходящейся последовательности Sxn, последовательность Sx° = х° — Тх° сходится к нулю. Но оператор Т компактен, а потому (предложение 2.4 (ii)) Тх° содержит фундаментальную подпоследовательность, которая, ввиду полноты пространства Е, сходится. Снова переходя, если надо, к подпоследовательности, можно считать, что сама последовательность Тх° сходится к некоему вектору z е Е. Но тогда х° сходится к тому же вектору z. Отсюда Sz — О и одновременно z е Es. Стало быть, z е КегE)П Es = 0. В то же время ||z|| = ||х°|| = 1. Получили противоречие. Теперь, снова используя компактность оператора Г, мы видим, что последовательность Тхп содержит сходящуюся подпоследовательность, и снова мы вправе считать, что сама последовательность Тхп сходится в Е; пусть z' — ее предел. Но тогда последовательность хп — уп + Тхп также сходится, а именно ку+z'. Отсюда последовательность Sxn сходится к S(y + z'); стало быть, последний вектор и есть у. Этим показано, что образ ImE) замкнут. Наконец, рассмотрим нормированное (в силу предложения 1.1.2) пространство Е := E/lm (S). Поскольку 1тE) — инвариантное подпространство для 5,_ а^ с ним и для Т, эти операторы порождают операторы 5, Г: Е -* Е. Из участвующих в их определении коммутативных диаграмм (см. предложение 1.5.2) очевидным образом следует, что для любого класса смежности i^€ Е выполнено равенство Sx = х — Тх и в то же время Sx = 0; отсюда оператор Т тождествен на Е. Но естественная
288 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ проекция рг: Е —» Е, участвующая в этих диаграммах, — это (как было отмечено в § 1.5) коизометрический оператор; поэтому (рг о Г)(Ш°) = (Г о рг )(Ш°) = Т(Ш|) = Щ. Поскольку оператор рг о Г компактен вместе с Т (предложение 3.5), отсюда следует, что Ш ~, а с ним и Ш^ — сверхограниченные множества. Применяя теорему 2.2 (Рисса), мы видим, что dim Е < оо, т. е. иными словами, что сосИтя Im (S) < оо. Дальнейшее очевидно. > Теорема 3 (альтернатива1) Фредгольма). Оператор S инъек- тивен тогда и только тогда, когда он сюръективен. (Таким образом, стоящая перед нашим оператором альтернатива такова: или твой образ заполняет все Е, или твое ядро отлично от нуля.) < => Пусть КегE) = 0, но \m(S)^E. Положим En:=\m(Sn), п = 1,2,... Тогда, очевидно, для всех п выполнено условие En + i = S(En) С Еп и каждое Еп — инвариантное подпространство оператора S, а с ним и Т. Возьмем любой вектор х€Е\Е{. Поскольку оператор S инъек- тивен, вектор Sx отличен от любого вектора вида Sy, у е Ех; это означает, что Е2фЕ{. То же рассуждение, проведенное для вектора из Е^Е^ показывает, что Е3фЕ2. Точно так же Е4фЕ3, и вообще En + i —собственное подпространство в Еп для любого п. Пусть Sn,Tn:En—>En — соответствующие биограничения операторов S и Т. Очевидно, Sn = 1Еп - Г„, и оператор Г„ компактен вместе с Т. Но из теоремы 2 следует, что пространство Ех замкнуто и, стало быть, банахово. Поэтому оператор 5, удовлетворяет условиям этой же теоремы, что гарантирует замкнутость пространства Е2. Продолжая подобное рассуждение, мы устанавливаем, что все пространства Еп замкнуты. Теперь, пользуясь леммой о почти перпендикуляре, в каждом пространстве Еп возьмем такой вектор х„, что ||х„|| = 1 и d(xn, En + l) > 1/2. Тогда, очевидно, Тхп - Тхп + Х = хп - z, где z = Sxn + xn + l-Sxn + leEn + l. Отсюда d(Txn, Тж„ + 1)>1/2, и в силу предложения 2.4 (iii) множество {Тхп \ п е N} не сверхограничено. Это противоречит тому, что Г компактен. •Ф= Теперь пусть lm(S) = Е, но КегE)^0. Положим Еп := КегE"), п = 1,2,... Тогда для всех п верно, что Еп +' = {х е Е | Sx е Е"} и?"С?" + |. Взяв х е Е1 \{0} и используя сюръективность оператора S, мы видим, что х = Sy для некоторого ') Альтернатива — как в математике, так и в жизни — это обязательный выбор из двух несовместимых возможностей. (Например, «Быть или не быть?».)
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 289 вектора у, принадлежащего Е2\Е1. Точно так же у = Sz для z € Е3\ Е2, и т. д. Продолжая это рассуждение, мы получаем, что Е" — собственное подпространство в En + l для любого п. Поскольку оператор S непрерывен, прообраз любого замкнутого множества замкнут. Последовательно применяя это соображение, мы устанавливаем, что все пространства Еп замкнуты. Теперь, снова пользуясь леммой о почти перпендикуляре, в каждом Еп, п > 2, мы возьмем такой вектор хп, что ||жп|| = 1 и d{xn, Еп~') > 1/2. Тогда то же рассуждение, что и выше, с использованием леммы о почти перпендикуляре, приводит к неравенству d(Txn, Тхп_х) > 1/2, которое противоречит компактности оператора Г. > Теорема 4. Индекс оператора S равен нулю1). « Пусть Es — произвольное линейное дополнение к ImE) в Е; оно, как и Ker(S), конечномерно и, стало быть, замкнуто. Пусть, далее, подпространство Es и проектор Р — те же, что в доказательстве теоремы 2, a Q:=lE — P; очевидно, Q — проектор на Ker(S) вдоль Es, ограниченный вместе с Р. Лемма. Для любого оператора R: Ker(S)-+J5 оператор S: Е —>Е, xi-> SPx + RQx, имеет вид \Е-Т, где Т —компактный оператор. < Положим Т := \Е - S; этот оператор действует по правилу 1И1- SPx - RQx. Тем самым, с учетом того, что х = Рх + Qx, имеет место равенство T = TP + Q — RQ. Оператор ТР компактен вместе с Т в силу предложения 3.5, aQ и RQ — ограниченные конечномерные операторы; стало быть, они также компактны. Дальнейшее очевидно. > Конец доказательства теоремы 4. Объединяя лемму с альтернативой Фредгольма, мы видим, что для любого R: Ker(S)-+ Es соответствующий оператор S инъективен тогда и только тогда, когда он сюръективен. Но, как легко проверить, КегE) = Кег(Л), a ImE) = Im(S)©Im(fl). Поэтому если Ind(S)>0, т. е. иными словами, dimKer(S) > dim Es, то, взяв сюръективный и не инъективный оператор R, мы получаем, что КегE)?^0 и в то же время lm(S) = E. Если же Ind(S,)<0, т. е. иными словами, dimKerE) < dim Es, то, взяв инъективный и не сюръективный оператор R, мы получаем, что КегE) = 0 и в то же время Im(S)^Im(S)® Es = Е. В обоих случаях мы приходим к противоречию. Остается одно: Ind(S) = 0. >> '* Напомним, что S = 1 - Г, где Г — компактный оператор, а потому по теореме 2 оператор S фредгольмов. 10 А. Я. Хелемский
290 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ Доказанную теорему обобщает Упражнение 4. Оператор S: Е —> F между банаховыми пространствами имеющий вид I — Т, где / — топологический изоморфизм, а Т — компактный оператор, фредгольмов, и IndE) = 0. Указание. Оператор S := /~'5— компактное возмущение тождественного оператора. Он обладает тем же ядром, что и S, а / осуществляет изоморфизм между образами этих операторов. Одна из наиболее интригующих проблем геометрии банаховых пространств, открытая и по сей день (январь 2004 г.), состоит в следующем: существуют ли банаховы пространства Е, настолько «патологические», что В(Е) = span(l, К(Е))"> В силу доказанных выше теорем всякий оператор, действующий в подобном гипотетическом пространстве, либо компактен, либо фредгольмов индекса 0. Все конкретные банаховы пространства, упоминавшиеся в этих лекциях, обсуждаемым странным свойством не обладают. Чтобы в этом убедиться, достаточно предъявить действующий в данном пространстве фредгольмов оператор ненулевого индекса или же оператор, не являющийся ни компактным, ни фредгольмовым. В роли последнего оператора заведомо подойдет проектор, у которого как ядро, так и образ бесконечномерны; в наших конкретных пространствах такие проекторы водятся в изобилии. Трудность поставленной проблемы иллюстрируется тем, что нам уже известно следующее: существуют банаховы пространства, устроенные настолько сложно, что в них нет ни одного проектора с указанным выше свойством, т. е. иными словами (см. следствие 2.4.3), ни одного замкнутого бесконечномерного подпространства, обладающего бесконечномерным замкнутым линейным дополнением! Об этом круге вопросов см., например, [68]. Теперь отдадим дань тем классическим вопросам анализа, которые в конце концов привели к теоремам 2-4. Уравнение вида ь x(s)-^K(s,t)x(t)dt = y(s), A) где К е L2(D) и у е L2[a, b] — заданные функции, а ж € L2[a, Ь] — неизвестная функция, называется еще с позапрошлого века интегральным уравнением второго родах). (Такие уравнения рассматриваются и в других функциональных пространствах, помимо L2[a, b], но мы ограничимся последним.) Если у = 0, то наше уравнение называется однородным; оно, конечно, имеет вид х(з)- [к(з, t)x(t)dt=0. B) '* Интегральные уравнения первого рода — это уравнения вида $К(з, t)x(t)dt = = y(s). Они сложнее, и мы их обсуждать не будем. а
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 291 С алгебраической точки зрения рассматриваемое уравнение является частным случаем операторного уравнения. Так называется уравнение вида Sx = у, где S: Е —> F — оператор между двумя линейными пространствами, у — заданный вектор из F, а х — неизвестный вектор из Е. При у = 0 такое уравнение называется однородным операторным уравнением. Разумеется, в рассматриваемом нами случае Е = F = L2[a, b], a S = 1 — Т, где Т — интегральный оператор в L2[a, b] с производящей функцией К(з, t). При рассмотрении операторных уравнений вообще и интегральных уравнений второго рода в частности возникают два типовых вопроса. 1. При каких правых частях, т. е. заданных функциях у, наше уравнение имеет решение, и как, в случае положительного ответа, описывается множество этих решений? 2. Каково множество решений однородного уравнения; в частности, есть ли у однородного уравнения решение, отличное от нулевого? Очевидно, оба вопроса адекватно переводятся на геометрический язык теории операторов. 1. Каков образ оператора S и каков полный прообраз вектора у? 2. Каково ядро оператора S и, в частности, является ли S инъективным оператором? Оба вопроса тесно связаны: очевидно, если у € Im E) и у = Sx для некоторого хеЕ, то полный прообраз вектора у (= множество решений соответствующего операторного уравнения с правой частью у) есть {х + z \ z G Ker (S)}. Следующая теорема1' теории интегральных уравнений, которую мы нарочито сформулируем в несколько старомодном стиле, по существу является частным случаем теорем 2-4. Теорема 5 (Фредгольм). Рассмотрим интегральное уравнение второго рода вида A). Тогда (i) существует такой конечный набор х,(а),..., xm(s) линейно независимых решений однородного уравнения B), что всякое решение этого однородного уравнения есть линейная комбинация указанных решений; (И) существует такой конечный набор z^s),..., zn(s) линейно независимых функций в L2[a, Ь], что правые части у(з), при которых уравнение A) имеет хотя бы одно решение, — это Иногда эту теорему называют тройной теоремой Фредгольма.
292 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ в точности те функции, для которых §y(t)zk(t)dt = 0 при k = l,...,n; (Ш) указанных в (i) линейно независимых решений однородного уравнения ровно столько же, сколько указанных в (ii) линейно независимых функций (иными словами, т — п). Таким образом, интегральные уравнения второго рода — казалось бы, явный объект бесконечномерного анализа — ведут себя на удивление сходным образом с конечными системами линейных уравнений с тем же числом неизвестных (вспомните молодость — алгебру первого курса). Для математики в целом имело огромные последствия то, что среди «удивившихся» результатам Фредгольма был и Гильберт (ср., например, [6, с. 221]). < Рассмотрим в гильбертовом пространстве Н := L2[a, Ь] оператор 5 := 1 - Т, где Т — интегральный оператор с производящей функцией K(s, t). Ясно, что утверждение (i) равносильно заявлению о том, что ядро этого оператора конечномерно; стало быть, это прямое следствие теорем 2 и 3.1. При этом, конечно, m = dimKerE). Теперь «осовременим» утверждение (ii). Это мы проделаем в несколько этапов. Первая эквивалентная формулировка очевидна: — существует такая линейно независимая система векторов zu ..., zn в Я, что ImE') = (span{2;1,..., гп})х. Поскольку подпространство в правой части последнего равенства замкнуто, в силу предложения 2.3.4 это можно выразить и так: — образ оператора S замкнут, и его ортогональное дополнение конечномерно. Наконец, предложение 2.3.6, устанавливающее, в частности, равенство uimlm(SI = dimH/lm(S), показывает, с учетом предложения 1, что рассматриваемое утверждение равносильно утверждению о конечности coding 1т E); при этом мы видим, что указанная коразмерность есть в точности п. Поэтому утверждение (ii) также следует из теорем 2 и 3.1, а утверждение (Ш) следует из этих теорем, объединенных с теоремой 4. > Замечание. На самом деле Фредгольм сделал еще одну важную вещь (среди прочего, предвосхитившую тот важный факт, который будет сообщен под видом упражнения 8). Он связал решение интегрального уравнения A) с решением так называемого сопряженного интегрального уравнения, в котором производящая функция K(s, t) заменена на K'(s, t):=K(t, а). Об этом, в общем контексте гильбертовых сопряженных операторов, нам предстоит поговорить впоследствии; см. предложение 6.1.10. Теперь напомним о категории BAN /К., введенной в самом начале этого параграфа, и выполним данное там обещание.
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 293 Теорема 6 (С. М. Никольский). Пусть S: Е —>F —оператор между банаховыми пространствами. Оператор S фредгольмов тогда и только тогда, когда существует такой ограниченный оператор R: F -» Е, что RS = 1в - 7], где Тх е К{Е), a SR = = \F — T2, где T2eK.(F). (Иными словами, оператор S фредгольмов тогда и только тогда, когда его класс смежности S + К.(Е, F) есть изоморфизм в категории BAN /К..) При этом оператор R можно выбрать так, что 7] и Т2 конечномерны. < => Пусть Es — замкнутое линейное дополнение к Ker(S) в Е (ср. доказательство теоремы 2), Рх — проектор на Es вдоль Ker(S), Q, := \Е - Рх, Fs —линейное дополнение к Im(S) в F, Р2 — проектор на ImE) вдоль Fs, Q2:=lF-Р2. Все эти проекторы (ср. то же доказательство) ограничены. Обозначим через 50°: Es —»Im (S) соответствующее биограничение оператора 5; это биективный ограниченный оператор, а значит — в силу теоремы Банаха и замкнутости образа Im (S), — топологический изоморфизм. Положим R: F —>Е, xh*(S$)-lP2x. Очевидно, RS = PX, a SR=P2; тем самым, RS = lE-Ql и SR = lF-Q2. Поскольку Q, и Q2 — конечномерные операторы, мы получаем вывод импликации =Ф- вместе с последним утверждением теоремы. <= Как следует из теоремы 2, RS и SR суть фредгольмо- вы операторы. Следовательно, ядро Ker(.RS'), содержащее ядро Ker(S), конечномерно. В то же время образ Im(SiZ), содержащийся в ImE), имеет в F конечную коразмерность. Дальнейшее очевидно. > Упражнение 5. Пусть Ban/.?" — категория, определенная по образцу Ban /К, только с факторизацией по конечномерным операторам вместо компактных. Тогда для оператора S между банаховыми пространствами Е и F его класс смежности 5 + К(Е, F) есть изоморфизм в Ban /К (т. е. оператор 5 фредгольмов) -^=> класс смежности 5 + Т(Е, F) есть изоморфизм в Ban /Г. (Мы видим, что хотя компактных операторов больше, чем конечномерных, но «быть изоморфизмом с точностью до компактных возмущений» — это то же самое, что «быть изоморфизмом с точностью до конечномерных возмущений».) Теорема Никольского позволяет выявить еще одно (помимо теоремы 1) преимущество индекса над отдельно взятыми числами dim Кег E) и coding Im (S). Предложение 3 (об устойчивости индекса относительно компактных возмущений). Если S —фредгольмов оператор, а Т — компактный оператор между банаховыми пространствами Е и F, то оператор S + Т также фредгольмов и Ind (S + Т) = = IndE). < Согласно импликации => предыдущей теоремы существуют операторы R, 7] и Т2 с указанными там свойствами. Тогда
294 Гл. 3. ОТ КОМПАКТОВ ДО ФРЕДГОЛЬМОВЫХ ОПЕРАТОРОВ R(S + T) = lE-Tt+RT и (S + T)R = lF- T2 + TR; поэтому из импликации <== той же теоремы очевидным образом следует, что оператор S + Т фредгольмов. Далее, из той же части той же теоремы с R в качестве исходного оператора следует, что оператор R также фредгольмов. Объединяя тот факт, что операторы RS и R(S + Г) удовлетворяют условиям теоремы 4, с теоремой 1, мы видим, что IndE) = —Ind (R) = Ind E + Г). > Таким образом, подмножество в В(Е, F), состоящее из фредгольмовых операторов, содержит с каждым оператором S целый класс смежности S +К,(Е, F), и индекс на этом классе постоянен. С другим свойством устойчивости фредгольмовых операторов — на этот раз относительно малых по операторной норме возмущений — мы познакомимся в § 5.3, когда вплотную займемся топологическими свойствами операторной композиции. Там же мы узнаем дальнейшие факты о строении множества фредгольмовых операторов. Упражнение 6. Фредгольмов оператор имеет индекс 0 тогда и только тогда, когда он представим в виде суммы топологического изоморфизма и компактного (даже конечномерного) оператора. Указание. Требуемый конечномерный оператор изоморфно отображает Ker(S) на линейное дополнение к ImE). Читателю, освоившему точные последовательности (см. § 2.5), мы предлагаем перевести определение фредгольмова оператора на язык банаховой гомологической алгебры. Упражнение 7°. Оператор S: Е —» F— фредгольмов тогда и только тогда, когда в категории Ban существует точная последовательность ...<—0<—С<—fJ-E<— К*— О*— ... C) с конечномерными пространствами С и К. А вот и конкретная польза от подобного взгляда на вещи. Упражнение 8. Если оператор S: E->F фредгольмов, то таков же и оператор S*: F*->E\ причем dimKer(S*) = codimF Im E), codim?. Im (S*) = dimKer(S), и как следствие, Ind (S*) = -Ind (S). Указание. Это простое следствие из теоремы 2.5.1. Упражнение 9*. Верно и обратное: фредгольмовость S' влечет фредгольмо- вость S. Указание. Вся трудность в том, чтобы установить замкнутость подпространства Im E): тогда мы сможем применить теорему 2.5.1 к точной последовательности вида C), в которой К := Кег E) и С := F/Im E). В силу фредгольмовости оператора S" (см. выше) и свойств канонических вложений а достаточно показать, что замкнуто пространство S"(E) = S**(E.),
§ 5. ФРЕДГОЛЬМОВЫ ОПЕРАТОРЫ И ИНДЕКС 295 Пусть хпеЕх и последовательность S"(xn) сходится к вектору у е F". Пусть, далее, Е* — замкнутое линейное дополнение к К в Е", Р — проектор на Е0 вдоль К, Q :=1 -Р. Если последовательность хп ограничена, все в порядке: тогда можно считать, что Qxn сходится к некоему вектору z в (конечномерном!) пространстве К. В то же время, в силу условия S"Pxn —> у, п-юо, замкнутости образа Im E**) и теоремы Банаха последовательность Рхп сходится в Е0 к некоему вектору w. Поэтому последовательность хп сходится в?, и у = S" ( lim хп J. Если, напротив, нормы векторов хп неограниченно возрастают и х° :=хп/||хп||, то последовательность S"x° (она же S"Px%), а с ней и Рх°, сходится к нулю. Но с учетом неравенства dim К < оо можно считать, что последовательность Qx° сходится к некоему элементу и е К, а значит, х° сходится к тому же вектору и. Мы получили противоречие с выбором .Е,. (Может быть, Вам удастся доказать это проще?)
Глава 4 ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА, СЛАБЫЕ ТОПОЛОГИИ И ОБОБЩЕННЫЕ ФУНКЦИИ § 1. Полинормированные пространства До сих пор нам хватало одной нормы (или преднормы) в линейном пространстве. С помощью этой структуры мы смогли описать большое число различных сходимостей, важных для анализа, — равномерную, сходимость в среднем, в среднем квадратичном, и т. д. Но есть и много других, также весьма естественных и важных сходимостей, которые нельзя охарактеризовать в терминах одной (пред)нормы. Вот несколько примеров. ПРИМЕР 1. Пусть С"[а,Ь]— линейное пространство бесконечно гладких (= бесконечно дифференцируемых) функций на отрезке [а, Ь]. Рассмотрим в нем так называемую классическую сходимость: последовательность функций хп классически сходится к х, если для любого к = 0,1,... последовательность производных х^] равномерно сходится к х(к). (Как обычно, нулевой производной функции считается она сама.) Заметим, что от этой сходимости, говоря неформально, происходят сходимости, фигурирующие в теории обобщенных функций (это мы вскоре увидим), а также дифференциальной геометрии. ПРИМЕР 2. Пусть (9(D°)— линейное пространство функций, голоморфных в открытом единичном круге D0 комплексной плоскости. Рассмотрим в нем так называемую вейерштрассову сходимость: последовательность wn сходится кшпо Вейерштрассу, если для любого замкнутого подмножества К с Ю>° последовательность ограничений wn\K равномерно сходится к w\K. Как знает читатель, это стандартный тип сходимости, применяемый в комплексном анализе. ПРИМЕР 3. Рассмотрим в линейном пространстве с^ (всех последовательностей) покоординатную (или простую) сходимость: ?{п) сходится к ?, если для каждого к последовательность ?[п) сходится к ?к.
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 297 В случае, когда запас сходящихся последовательностей в линейном пространстве Е заранее объявлен, а || • || — некая преднорма вВ, мы будем говорить, что эта преднорма задает указанную сходимость, если любая последовательность хп в Е сходится в объявленном смысле к х тогда и только тогда, когда она сходится к х в преднормированном пространстве (Е, || • ||). Упражнение 1. (i) В пространстве С°°[а,Ъ] не существует преднормы, задающей классическую сходимость. (и) В пространстве 0(ЮР) не существует преднормы, задающей вейерштрассову сходимость. (Ш) В пространстве сто не существует преднормы, задающей покоординатную сходимость. Указание. В каждом из указанных случаев предел последовательности, очевидно, единственен. Поэтому достаточно доказать несуществование нормы, задающей соответствующую сходимость. (i) Когда последовательность хп классически сходится к нулю, то же верно и для х'п. Поэтому для нашей гипотетической нормы из условия ||х„|| ->0 следовало бы, что \\х'п\\ —>0. Но посмотрите на последовательность xn(t) := ' nt. . (ii) Рассуждение сходно с предыдущим и использует то, чему нас учат в комплексном анализе: когда последовательность wn сходится по Вейерштрассу, это же верно и для w'n. (iii) Возьмите последовательность рп/||р"||. Эти три сходимости, да и вообще большинство естественно возникающих сходимостей, не описываемых в терминах преднорми- рованных пространств, допускают адекватное описание в терминах структуры «следующего уровня сложности» — полинормированных пространств. Вот что сие значит. Определение 1. Линейное пространство, снабженное семейством преднорм ||-||„, ь»сЛ (или, говоря дотошно, пара (??, ||-1|„, ^€Л), состоящая из линейного пространства и заданного в нем семейства преднорм), называется полинормированным пространством1,1. (Конечно, точнее было бы говорить «полипреднормированное», а не «полинормированное», но пожалеем же наш родной язык...) Если (Е, || • !!„, v G Л) — полинормированное пространство, то всевозможные преднормы в Е вида тах{|| • || ,..., || • ||„ }, где '' О связи этого понятия с фигурирующим во многих учебниках понятием локально выпуклого пространства будет сказано ниже, в одном из замечаний.
298 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА I/,,..., vn — конечный набор индексов из Л, мы будем называть сопутствующими (подразумевается: сопутствующими преднормами семейства || • ||„, и е Л). Пространство (Е, || • ||), где || • || — сопутствующая преднорма, мы будем также называть сопутствующим (подразумевается: заданного полинормированного пространства). Разумеется, (пред)нормированное пространство — это частный случай полинормированного, соответствующий семейству, состоящему из одной (пред)нормы. Если заданное семейство преднорм счетно, т. е. иными словами, Л = N, мы будем говорить о счет- но-нормированном пространстве. Если пространство Е снабжено семейством преднорм, то ограничения этих преднорм на любое подпространство F в Е задают в F структуру полинормированного пространства, которое мы будем называть полинормированным подпространством в Е. А теперь, как и ожидает наш читатель, соберем мешок примеров. ПРИМЕР 4. Возьмем произвольное линейное пространство Е и снабдим его всеми без исключения существующими в нем преднормами (т. е. всеми функциями, удовлетворяющими условиям (i) и (и) определения 1.1.1). Такие полинормированные пространства называются сильнейшими. (Как мы вскоре увидим, их роль напоминает роль дискретных пространств в топологии.) ПРИМЕР 5. Пространство С°°[а, Ь] из примера 1 рассматривается как полинормированное, будучи снабжено семейством норм ||-||„, где полагают ||х||п ^max^a:**^)! I k =0,..., n; о< t ^ Ь}. (Таким образом, п-я норма здесь — это норма подпространства в Сп[а, &].) Сразу же отметим, что этот пример исключительно важен для теории обобщенных функций (см. § 4.3), играя роль некоего зародыша, из которого разовьются стандартные пространства так называемых пробных функций. Пример 6. Пространство 0(U), состоящее из функций, голоморфных в области U комплексной плоскости, рассматривается как полинормированное, будучи снабжено семейством преднорм || • ||я, К еЛ, где через Л обозначено семейство всех замкнутых ограниченных подмножеств в U, a \\w\\K := max{|u>(z)| | z е К}. (Кстати, ответьте: какие из этих преднорм — нормы, а какие нет?) Эти пространства, а также их «многомерные» разновидности, соответствующие областям в С", суть главные полинормированные пространства, обслуживающие комплексный анализ. ПРИМЕР 7. Пространство сх рассматривается как полинормированное, будучи снабжено семейством преднорм || • ||„, где полагают ||? ||n := |f J.
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 299 Пример 8. Рассмотрим линейное пространство В(Е, F), где Е и F — преднормированные пространства. Ранее оно было наделено (одной) стандартной преднормой (предложение 1.3.2), но теперь, «забыв об этом», мы сделаем то же операторное пространство полинормированным. А именно, мы возьмем Л := Е и снабдим В(Е, F) семейством преднорм || • Ц,., х € Е, положив ||Г||Х равным ||Т(х)||, т. е. преднорме вектора Т(х) в F. Это семейство преднорм в В(Е, F) называется сильно-операторным и обозначается so. Замечание. Весьма важен специальный случай указанного полинормиро- ванного пространства, когда F = С, т. е. наше семейство преднорм определено в сопряженном пространстве Е*. Это семейство преднорм чрезвычайно важно в теории слабых топологий и теории обобщенных функций; мы вплотную займемся им в последующих параграфах этой главы. ПРИМЕР 9. То же пространство В(Е, F) мы сделаем полинормированным по другому рецепту. А именно, возьмем Л := Е х F* и снабдим В(Е, F) семейством преднорм || • ||А/, х е Е, f б F", положив ЦТН^у равным |/(Г(ж))|. Это семейство преднорм в В(Е, F) называется слабо-операторным и обозначается wo. Здесь выдающуюся роль играет случай, когда Е = F = H — гильбертово пространство. В этой ситуации каноническая биекция между Я и Я* позволяет задать то же семейство преднорм с помощью индексного множества Л := Я х Я и правила ЦТЩ,, := \{Тх, у}\. Замечание. Оба семейства преднорм в В(Н) — so и wo—незаменимая вещь в теории операторных алгебр. Там они, среди прочего, участвуют в определении одного из их важнейших классов — алгебр фон Нойманна (ср. далее определение 6.3.5.). Эти же семейства существенно пригодятся нам в § 6.6-8, при рассмотрении вопросов, связанных со спектральной теоремой. Еще несколько важных примеров полинормированных пространств будут рассмотрены в последующих параграфах этой главы. Мы помним, что каждое (пред)нормированное пространство автоматически является (пред)метрическим, а значит — топологическим пространством. Что касается полинормированных пространств, то сейчас будет описан способ, сразу превращающий их в топологические (которые, как мы увидим, не всегда (пред)метризуемы). Эта процедура напоминает введение топологии в метрические пространства при помощи открытых шаров. Пусть (Е, || • II,,, v еЛ) — полинормированное пространство. Возьмем х е Е, конечное число индексов vu ..., ип и г > 0. Каждому такому набору сопоставим подмножество U^ „п,г :={уеЕ\\\у- х\\„к <г;к = 1,...,п}, т. е., иными словами, открытый шар в сопутствующем преднормиро-
ванном пространстве (Е, тах{||-||„,..., ||-||„ }) с центром х и радиусом г. Любое из таких множеств мы будем называть стандартным открытым шаром в Е. Заметим, что U^u = П U^v г. Далее, пусть М — подмножество в Е; мы назовем точку хеМ внутренней точкой этого множества, если она содержится в М вместе с некоторым стандартным открытым шаром. Наконец, подмножество U в Е назовем (опережая события) открытым, если каждая его точка — внутренняя. Как Вы догадались, эту терминологию оправдывает Предложение 1. Совокупность открытых множеств в Е (и вправду) является топологией. Эта топология содержит все открытые множества всех сопутствующих преднормирован- ных пространств. < Из очевидного соотношения ^, *.,ПСТ„ ,m,.2U^ ^ ,т,„ где все индексы принадлежат Л, a t := min{r, s}, следует, что пересечение двух, а значит, и любого конечного числа открытых множеств открыто. Этим установлено свойство (Ш) из определения 0.2.1. Дальнейшее очевидно. > Замечание. Легко убедиться, что описанная только что топология может быть также определена любым из следующих эквивалентных способов. 1) Это единственная топология, предбазой которой служит семейство всех стандартных открытых шаров вида U^UT (см. предложение 0.2.1). 2) Это самая слабая топология, в которой все преднормы || • ||„, и еА, непрерывны. 3) Это самая слабая топология, содержащая все открытые множества всех сопутствующих пространств. Про топологию, построенную указанным способом, мы будем говорить, что она порождена семейством преднорм \\ • \\„, и ? А. В частности, топология в В(Е, F) (и, стало быть, в В(Н)), порожденная сильно- или слабо-операторным семейством преднорм, сама называется соответственно сильно- или слабо-операторной и обозначается тем же символом so (wo), что и порождающее ее семейство преднорм. Выделим очевидное Предложение 2. В полинормированном пространстве (i) (операция суммы совместно непрерывна) отображение топологических пространствЕхЕ-+Е, (х, у)^х+у, непрерывно;
(ii) (операция умножения на скаляр совместно непрерывна) отображение топологических пространств С х Е —> Е, (А, х) t-ч mAi, непрерывно; (Ш) алгебраическая сумма открытого множества и любого множества открыта, в частности, сдвиг любого открытого множества открыт; (iv) растяжение любого открытого множества открыто. < > (На самом деле два последних свойства следуют из двух первых, но нам это не понадобится.) Уже отсюда видно, что не всякая топология в линейном пространстве порождена некоторым семейством преднорм. Но все же как такие топологии охарактеризовать? Подобный вопрос мы уже рассматривали в контексте преднормированных пространств, и полученная там информация нам сейчас пригодится. Упражнение 2. Топология, заданная на линейном пространстве Е, порождена некоторым семейством преднорм тогда и только тогда, когда в Е существует семейство подмножеств, обладающее следующими свойствами: (i) каждое из этих множеств выпукло, уравновешено, и каждое одномерное подпространство в Е содержит хотя бы один ненулевой вектор из этого множества; (ii) семейство множеств U^, := {х -f ty \ у б U}, рассмотренное для всех множеств U нашей системы, х 6 Е и t > О, образует базу заданной топологии. Указание. Рассмотрите функционалы Минковского указанных множеств (ср. упражнение 1.1.6). Замечание. Линейное пространство, снабженное топологией, для которой выполнены оба условия этого упражнения, называется локально выпуклым. Это понятие весьма распространено в литературе, но мы им пользоваться не будем. Различие между понятиями полинормированного и локально выпуклого пространства — того же сорта, что и различие между метрическими и метризуемыми пространствами. Далее, локально выпуклое пространство — это специальный случай топологического векторного пространства, наиболее общего понятия при изучении линейных пространств с разумными топологиями. Так называется линейное пространство, снабженное топологией, относительно которой операции суммы и умножения на скаляр совместно непрерывны, т. е. удовлетворяющей условиям (i) и (ii) предложения 2. Подавляющее большинство работающих в анализе топологических векторных пространств являются локально выпуклыми (полинормируемыми). Впрочем, есть и исключения. Например, сходимость по мере в линейном пространстве измеримых функций (ср. упражнение 1.6.10) есть сходимость по некоторой метрике, и соответствующая топология доставляет топологическое векторное, но не локально выпуклое пространство.
302 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Задав в полинормированных пространствах топологию, мы можем обсудить в их контексте целый ряд стандартных вопросов, относящихся к топологическим пространствам. Мы увидим, что каждый раз рассматриваемое топологическое свойство получает достаточно прозрачное адекватное описание на языке преднорм. Начнем со сходимостей. Предложение 3. Пусть хп — последовательность в полинор- мированном пространстве (Е, ||-||„, v еЛ). Она сходится к некоторому вектору х тогда и только тогда, когда для любого v еЛ выполнено условие \\x-xn\\v-*0, п —юо (иными словами, хп сходится кх в каждом из сопутствующих преднормированных пространств). < =$¦ Для любых v еЛ и е >0 начиная с некоторого п выполнено условие хп б и^цс, т. е. \\х - хп||„ < е. •<= Возьмем произвольную окрестность Ux вектора х; она обязана содержать стандартный шар, скажем, Ux<v „ г. Тогда, поскольку ||х — in||„ —>0 при n-юо для всех к = 1,..., т, начиная с некоторого номера, выполнено неравенство ||х—xm||v < г для всех указанных А;, т. е. все эти хп принадлежат Ux<v „ г, а значит, и Ux. > Мы видим, в частности, что сходимость последовательности в полинормированном пространстве С°°[а, Ь] — это в точности классическая сходимость, сходимость в 0(U) — это равномерная сходимость на каждом компакте (она, как и в рассмотренном ранее случае t7 = D°, называется вейерштрассовой), сходимость в см — это покоординатная сходимость. Таким образом, там, где мы не добились успеха с помощью отдельно взятой преднормы (см. упражнение 1), помогли надлежащим образом выбранные семейства (пред)норм. В связи с этим вспомним, что поточечную сходимость в С[а, Ь] нельзя даже задать с помощью метрики, не то что нормы (упражнение 0.2.1). Но и эта сходимость адекватно описывается в терминах полинормированного пространства. Действительно, если Е — любое пространство функций на произвольном множестве X, то поточечная сходимость в Е есть, очевидно, сходимость в полинормированном пространстве (Е, || • ||,; t 6 X), где ||х||, := |и(*)|. Далее, в полинормированных пространствах (В(Е, F), зо) и (В(Е, F), wo) (см. примеры 8 и 9) сходимость Тп к Т означает в точности, что для любого х^Е (соответственно любых х е Е, f € F') последовательность Т(хп) сходится к Г(х) (соответственно f(Txn) к f(Tx)). В первом случае мы снова получаем
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 303 поточечную (здесь «повекторную») сходимость. Обратим также внимание на то, что сходимость Тп к Т в (#(#), wo), где Я — гильбертово пространство с фиксированным ортонормированвым базисом, влечет сходимость матричных элементов матриц операторов Тп относительно указанного базиса к соответствующим элементам матрицы оператора Т. Что касается сильнейших пространств (пример 4), то там сходимость последовательности может быть описана в чисто алгебраических терминах. Упражнение 3*. Пусть Е — сильнейшее полинормированное пространство, хп — последовательность его векторов, х — еще один вектор. Тогда последовательность х„ сходится к х тогда и только тогда, когда выполнены два условия: (i) все векторы хп и х лежат в одном и том же конечномерном подпространстве, скажем, F пространства Е; (и) для некоторого (а значит, и любого) базиса ек, k = l,...,m, в F и разложений хп = j[) Хкп^ек,х = j~) Хкек для каждого А; выполнено условие Хкп) —» Хк при п—юо. Указание. Если векторы уп := х - хп образуют линейно независимую систему, то, дополнив ее до линейного базиса в Е (упражнение 0.1.2), можно построить такую преднорму (даже норму) в Е, что \\уп\\ = 1. Читатель, освоивший понятие сходящейся направленности, может заметить, что в предложении 3 последовательности (= направленности с областью определения N) могут быть заменены на произвольные направленности. Приведенное доказательство сохраняется с точностью до очевидных изменений. (Все же проведите аккуратное рассуждение.) Однако результат предыдущего упражнения существенно использует то, что речь идет о последовательности, и не переносится на произвольные направленности. (Приведите контрпример.) Предложение 4. Полинормированное пространство (Е, \\-\\v; v е Л) является, как топологическое пространство, хаусдорфо- вым тогда и только тогда, когда для каждого вектора х€Е, х^О, существует такой индекс иеЛ, что \\x\\v>0. (Какговорят, «преднорм достаточно для различения элементов Е*.) < -*= Пусть у и z — разные векторы в Е. Возьмем для x:=y — z указанный в формулировке индекс и. Тогда, очевидно, окрестности ?f„r и С^,цг точек у и z не пересекаются при г $ ||ж||„/2. =>¦ Пусть х е Е \{0}. Мы воспользуемся только тем, что точка О обладает окрестностью, не содержащей х. Тогда х не содержится и в некотором стандартном шаре, скажем, ?/0, «„..., .<„,.•¦ Но это как раз и означает, что для некоторого к, 1 ^ к ^ п, выполнено неравенство ||x||v ^ г. >
304 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Теперь мы видим, что все пространства, фигурировавшие до сих пор в качестве примеров, хаусдорфовы; возможным исключением являются (В(Е, F), so) и (В(Е, F), wo), которые хаусдорфовы тогда и только тогда, когда F — нормированное пространство. Какие же операторы должным образом согласованы со структурой полинормированного пространства? Следующая теорема не должна оставить на этот счет никаких сомнений. Вы подготовлены к ее восприятию, уже зная ответ для специального случая операторов в преднормированных пространствах — теорему 1.4.1 (см. также предложение 1.3.1). Теорема 1. Следующие свойства оператора Т между поли- нормированными пространствами (Е, || • Ц^; ц е Г) и (F, || • ||и, и е еА) эквивалентны: (i) для любого v е Л существуют такая сопутствующая преднорма || • ||' в Е и такая константа С > 0, что для любого х G Е выполнено неравенство \\T(x)\\v ^ С\\х\\' (иначе говоря, оператор Т ограничен как оператор между преднормирован- ными пространствами (Е, || • ||') и (F, \\ ¦ \\v)); (ii) для любой сопутствующей преднормы || • || в F существуют такая сопутствующая преднорма || • ||' в Е и такая константа С>0, что для любого х&Е выполнено неравенство \\Т(х)\\ ^ С||а:||' (иначе говоря, оператор Т ограничен как оператор между преднормированными пространствами (Е, \\ • ||') u(f,\\-№ (Hi) оператор Т непрерывен в нуле (относительно топологий, порожденных заданными семействами преднорм); (iv) оператор Т непрерывен (относительно тех же топологий). < 0) =* (ii) Пусть || ¦ || = тах{ || • ||v | к = 1,..., т}. Тогда для каждого к существуют такая сопутствующая преднорма || • ||'4 в Е и такая константа Ск > 0, что для любого х ? Е выполнено неравенство II^WIL ^ C*llTHib- Ясно, что подойдут сопутствующая преднорма || • ||' := тах{|| • ||t | к = 1,..., п} и С := тах{Ск | к = 1,..., п}. (ii) =*- (iv) Покажем, что оператор Т непрерывен в произвольной точке х е ?\ Пусть U — окрестность точки Т(х) в F. Она содержит некоторый стандартный открытый шар, скажем, U}0) — {у € F | \\у— Тх\\ < г] для некоторой сопутствующей преднормы ||-|| в F и г >0. По условию существует сопутствующая преднорма || • ||' в Е с тем свойством, что оператор Г, как оператор между (Е, II • ||') и (F, || • ||), ограничен и, следовательно (теорема 1.4.1),
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 305 непрерывен. Но тогда существует такая окрестность V точки х в пространстве (Е, \\ • ||'), что T(V) лежит в Uri0) и, стало быть, в U. Остается заметить, что V — заведомо открытое множество в полинормированном пространстве (Е, \\ • \\/, р. е Г). (iv) =s> (Ш) Очевидно. (Hi) => (i) Возьмем v е А и окрестность U0<и,, нуля в F. Согласно условию, существует такая окрестность W нуля в Е, что T(W) С U0 „,. Далее, окрестность W содержит некоторый стандартный открытый шар с центром в нуле; пусть это W}0) = {х € Е | ||х||' < 6}, где || • ||' — некоторая сопутствующая преднорма в Е. Таким образом, оператор Г, будучи рассмотрен как оператор между преднормированными пространствами (Е, \\ • ||') и (^ II • L). отправляет некоторое растяжение открытого единичного шара в ограниченное множество. Ясно, что такой оператор ограничен. > Теперь мы сможем ответить на вопрос о том, как сравнивать топологии, заданные на одном и том же линейном пространстве двумя разными семействами преднорм. Такой вопрос уже обсуждался в контексте преднормированных пространств, и полученная там информация подсказывает нужный ответ. Определение 2. (Ср. определение 1.4.2.) Говорят, что семейство преднорм || • И,,, ц G Г, в линейном пространстве Е мажорирует преднорму || • || в Е, если существует такой конечный набор индексов ци ..., дп, что последнюю преднорму мажорирует преднорма тах{|| • ||м ,..., || • ||м }. Далее, про два семейства преднорм в линейном пространстве" говорят, что первое мажорирует второе, если первое семейство мажорирует любую преднорму из второго. Наконец, два семейства преднорм называются эквивалентными, если каждое из них мажорирует другое. Вот поучительный пример. Упражнение 4. В пространстве В(Е, F), где Е и F — пред- нормированные пространства, семейство, состоящее из одной операторной преднормы, мажорирует сильно-операторное семейство, которое, в свою очередь, мажорирует слабо-операторное. При этом, если Е и F — бесконечномерные нормированные пространства, все три семейства попарно не эквивалентны. Из определения 2 видно, что если заданное семейство преднорм дополнить максимумами любых конечных наборов этих преднорм, то полученное расширенное семейств эквивалентно исходному. Отметим также тот очевидный факт, что конечное семейство преднорм || • И,., к = 1,..., п, эквивалентно одной преднорме — их максимуму.
306 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Предложение 5. Пусть в линейном пространстве заданы два семейства преднорм. Топология, порожденная первым семейством, не слабее топологии, порожденной вторым семейством тогда и только тогда, когда первое семейство преднорм мажорирует второе. Как следствие, два семейства преднорм, определенные на линейном пространстве, задают одну и ту же топологию тогда и только тогда, когда они эквивалентны. < Доказательство предложения 1.4.5 переносится, с очевидными небольшими изменениями, с преднормированных пространств на полинормированные. > Теперь мы в состоянии легко ответить на вопрос о том, когда топология заданного полинормированного пространства на самом деле может быть задана с помощью всего лишь одной преднормы (в этом случае пространство называется преднормируемым), и, затратив несколько больше усилий — на вопрос о том, когда она может быть задана с помощью предметрики, хотя бы и не задаваемой никакой преднормой. (Разумеется, приставка «пред» может быть отброшена, если исходное семейство преднорм удовлетворяет условиям предложения 4.) Предложение 6. Полинормированное пространство пред- нормируемо <=$¦ его семейство преднорм эквивалентно своему конечному подсемейству. < Как уже отмечалось, каждое конечное семейство преднорм эквивалентно одной преднорме (их максимуму). Отсюда сразу вытекает импликация -Ф=, а импликация =>¦ вытекает из предыдущего предложения и следующего очевидного наблюдения: если семейство, состоящее из одной преднормы, эквивалентно некоторому семейству преднорм, то оно эквивалентно некоторому конечному подсемейству этого семейства. > Следствие 1. Счетно-нормированное пространство (Е, \\ • ||„; п е N), в котором каждая последующая преднорма мажорирует предшествующую, но не эквивалентна ей, не преднормируемо. Разумеется, именно так обстоит дело с пространством С°°[а, Ь], а также, после замены || • ||„ на тах{|| • ||,,..., || • ||„}, с пространством ск. Упражнение 5. Полинормированное пространство 0(U) также не преднормируемо. Указание. Семейство преднорм в 0(U) эквивалентно семейст- ВУ II • \\к « п — * > 2, • • -. где Кх с К2 с... — такая последовательность компактов в U, что U = и Кп. Критерий преднормируемости допускает близкую формулировку в следующих терминах. Назовем подмножество полинормирован-
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 307 ного пространства ограниченным, если оно ограничено в любом из сопутствующих преднормированных пространств. (Это понятие, которое в нашем изложении встречается чисто эпизодически, выходит на передний план, если углубиться в теорию топологических векторных пространств достаточно далеко, ср., например, [48] или [44].) Упражнение 6. Полинормированное пространство преднор- мируемо тогда и только тогда, когда оно содержит открытое ограниченное множество. Обратимся к конечномерным пространствам. Мы видели, что любые две нормы в таком пространстве эквивалентны (следствие 2.1.3 (ii)). Обобщением этого факта на полинормированные пространства служит Упражнение 7. Любые два семейства преднорм в конечномерном пространстве, задающие хаусдорфову топологию, эквивалентны. В частности, любое такое семейство эквивалентно некоторой (а значит, и любой) норме. Указание. Главное — это показать, что «хаусдорфово» семейство преднорм || • ||„, v е Л, мажорирует любую норму || • || в Е. Рассмотрим сферу S := {х е i? | ||х|| = 1} с нормовой топологией и возьмем для каждого вектора х е S такой индекс i/(x) € Л, что ||x||„(l) > 0. Из-за конечномерности норма всегда мажорирует преднорму. Поэтому есть такое открытое покрытие {Ux | х е S} нашей сферы, что ||у||„(я, > 0 для всех у е Ux. Но сфера — опять-таки из-за конечномерности — компактна. Взяв конечное подпокрытие {U^,..., Ux }, мы получаем, что преднорма тах{|| • ||„( j | к — 1,..., п} — это норма. Теперь поработайте над условиями предметризуемости. Упражнение 8*. Полинормированное пространство предме- тризуемо •$=>¦ его семейство преднорм эквивалентно своему не более чем счетному подсемейству. Указание. ^= Если (Е, || • ||„; п е N) — счетно-нормированное пространство, то его топология может быть задана предметрикой d(x, у) := J? 2n(i + |iig-vii' г (Обратите внимание на то, что эта предметрика, хотя и инвариантна относительно сдвигов, не задается никакой преднормой уже потому, что диаметр пространства Е не превосходит 1.) =*> Если топология задана предметрикой, то окрестность нуля |х d@, х) < -| содержит некоторый стандартный открытый шар с центром в нуле; тем самым, каждому п соответствует некоторый
308 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА конечный набор преднорм нашего семейства. Объединяя эти наборы по всем n е N, мы и получим требуемое счетное подсемейство. В качестве иллюстрации мы предлагаем Упражнение 9°. Полинормированные пространства С°°[а, Ь], 0(U) и сх метризуемы. В то же время любое бесконечномерное сильнейшее полинормированное пространство не предметризуемо. Указание. По поводу O(U) см. указание к упражнению 5. Если же Е — сильнейшее пространство, en | п е N, — линейно независимая система векторов, а || • ||„, п б N, — какие-то преднор- мы, то, дополнив е„ до базиса, нетрудно построить такую преднорму (даже норму) || • ||, что для любого п выполнено неравенство ||en||^nmax{||en||1)...,||ej|n}. Обретясь ненадолго к просвещенному читателю, мы посвятим несколько строк одному важному классу полинормированных пространств, который выходит на передний план в целом ряде вопросов как общей теории этих пространств, так и их приложений. Определение 3. Полинормированное пространство называется пространством Фреше, если его топология может быть задана с помощью полной метрики, инвариантной относительно сдвигов (т. е. метрики, удовлетворяющей условию d(x, y) = d{x-y, 0) для всех х, у). (Проверьте, что С°°[а, Ь] и все прочие встречавшиеся нам примеры метризуемых полинормированных пространств именно таковы.) Пространства Фреше обладают многими свойствами банаховых пространств. Например, на них переносятся такие фундаментальные результаты, как теорема Банаха об обратном операторе и теорема Банаха — Штейнгауза. Вообще, их целесообразно рассматривать как ближайшее разумное обобщение банаховых пространств. Подробности о них см., например, [42; 48; 44]. Замечание. На самом деле, требование инвариантности метрики относительно сдвигов в определении 3 можно опустить. Это следует из весьма глубокой теоремы В. Кли [84]. Вернемся к операторам, обсуждавшимся в теореме 1. Терминологическое замечание. В контексте полинормированных пространств мы будем называть операторы, удовлетворяющие условиям теоремы 1, непрерывными (и только). Что же касается термина «ограниченный», то он зарезервирован за теми операторами, которые сохраняют ограниченные множества. Здесь, в отличие от специального случая преднормированных пространств, уже не всякий ограниченный оператор непрерывен (см., например, [48, гл. II.8]). Вот некоторые примеры непрерывных операторов, частично предлагаемые в виде упражнений.
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 309 ПРИМЕР 10. Рассмотрим оператор дифференцирования D в полинормированном пространстве (С°°[а, Ь]; \\ ¦ ||„), п = 1, 2,..., сопоставляющий каждой функции ее производную. Из очевидной оценки ||?>(х)||„ ^ ||х||п + 1, п = 0, 1,..., следует, что этот оператор непрерывен. В то же время — на это полезно обратить внимание — оператор дифференцирования не является непрерывным ни в одном из сопутствующих нормированных пространств. Упражнение 10. Аналогично определяемый оператор дифференцирования в O(U) также непрерывен. Указание. Воспользуйтесь интегральной формулой w'(z) = = 2^7 J </" \2^С- Она обеспечивает то, что для таких замкнутых подмножеств К и L в U, что контур j обходит К и содержится в L, и для некоторого С > 0 выполнено неравенство Упражнение 11. Оператор умножения на бесконечно гладкую функцию в С°°[а, Ь] и оператор умножения на голоморфную функцию в O(U) непрерывны. Пример 11. Возьмем пространство (В(Е, F), so), зафиксируем х е Е и рассмотрим оператор «означивания» Тх: В(Е, F) —> F, Т ¦-> Т(х). Из «оценки» (попросту, равенства) ||7^(Т)|| = \\Т\\Х немедленно следует, что он непрерывен. Заметим, что он непрерывен и как оператор из пространства В(Е, F), рассмотренного на этот раз с операторной преднормой, в F. В то же время оператор означивания из (В(Е, F), wo) в F, вообще говоря, не непрерывен (объясните, почему). Вот еще одно наблюдение, важное как для спектральной теории (см. далее § 6.5-7), так и для теории операторных алгебр. Снова возьмем В(Е, F) и зафиксируем операторы S е В(Е) иЯе B(F). Тогда, поскольку композиция непрерывных операторов снова есть непрерывный оператор, возникают отображения М8: В(Е, F) -» В(Е, F), Т ~ TS, и RM: В(Е, F)-> В(Е, F), Т >-* RT. Очевидно, это линейные операторы; они называются операторами композиции (справа на S и слева на R). Из предложения 1.3.4 немедленно следует, что оба они непрерывны относительно операторной преднормы в В(Е, F). Более того, выполнено Предложение 7. Справедливы следующие утверждения: (i) операторы Ms и RM, будучи рассмотрены как действующие в (В(Е, F), so), непрерывны;
310 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА (ii) то же верно, если заменить (В(Е, F), so) на (В(Е, F), wo). < Пусть || • ||1( х G Е, — преднорма из сильно-операторного семейства и Т е В(Е, F). Тогда \\MS(T)\\X = ||Т5(х)|| = |[T||fc и ||ЯМ(Г)||, = ||ЛГ(*Ж||Д||||Г||Х. Если же || • |Ц,. хеЕ, f е F', — преднорма из слабо-операторного семейства, то для того же оператора Т выполнены равенства НА^Т)!,, = |/(Т5ж)|| = = \\T\\^fK\\RM(T)\\^ = \f(RTx)\ = \(R*f)(Tx)\ = \}T\\^R.f.T*KVM образом, во всех случаях выполнены оценки, требуемые в теореме 1 (причем вместо конечного набора преднорм хватает всего одной преднормы, а в двух случаях требуемое неравенство оказалось равенством с константой С = 1). о В терминах операторов мы можем охарактеризовать сильнейшие полинормированные пространства, а также преднормированные пространства с нулевой преднормои, которые в данном контексте естественно называть слабейшими полинормированными пространствами. Упражнение 12°. (Ср. упражнение 0.2.5 о дискретных и антидискретных топологических пространствах.) (i) Полинормированное пространство Е является, с точностью до перехода к эквивалентному семейству преднорм, сильнейшим тогда и только тогда, когда для любого полинормированного пространства F любой линейный оператор из Е в F непрерывен. (ii) Полинормированное пространство Е является слабейшим тогда и только тогда, когда для любого полинормированного пространства F любой линейный оператор из F в Е непрерывен. Другие содержательные примеры непрерывных операторов между полинормированными пространствами появятся далее, при рассмотрении слабых топологий и обобщенных функций. Теперь в нашем изложении появляются две новых категории функционального анализа. Вот они. (i) Категория POL. Ее объекты — это полинормированные пространства, а морфизмы — непрерывные операторы. (ii) Категория HPOL. Это полная подкатегория в POL, объектами которой являются хаусдорфовы полинормированные пространства. Подчеркнем, во избежание недоразумений, что линейное пространство с двумя разными семействами преднорм, хотя бы и эквивалентными (= задающими одинаковую топологию), рассматривается как два различных объекта категории POL. Очевидно, уже известная нам категория PRE является полной подкатегорией в POL, a NOR— в HPOL (и, стало быть, тоже в POL).
§ 1. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 311 Упражнение 13°. В HPol и, стало быть, в Pol есть полная подкатегория, изоморфная (см. § 0.7) Lin: это категория сильнейших полинормированных пространств. В Pol есть еще одна полная подкатегория с тем же свойством: это категория слабейших полинормированных пространств. Таким образом, «линейную алгебру можно считать частью теории полинормированных пространств». Заметим также, что в HPol есть довольно важная полная подкатегория Fr, состоящая из пространств Фреше (см. определение 3) и напоминающая по поведению свою полную подкатегорию Ban. Но она выходит за рамки нашего изложения. Ясно, что изоморфизмы во введенных категориях суть (как и в Pre) непрерывные операторы, обладающие непрерывными обратными операторами. Для них мы сохраним то же название: топологические изоморфизмы. (Категорий, разумно обобщающих в контексте полинормированных пространств категорию PRE, и соответственно понятие изометрического изоморфизма, в математическом обиходе пока нет. Да и вряд ли они когда-нибудь понадобятся.) Множество морфизмов между объектами Е и F наших новых категорий, т. е. множество непрерывных операторов между соответствующими полинормированными пространствами, будет (как и в PRE) обозначаться через В(Е, F), а множество непрерывных функционалов на Е —через Е*. Предложение 8. (Ср. предложение 1.3.2.) Множество непрерывных операторов В(Е, F) — подпространство в С(Е, F) и, стало быть, линейное пространство. < Возьмем S, Т е В(Е, F) и любую сопутствующую преднорму || • || в F. Тогда в силу теоремы 1 существуют такие сопутствующие преднормы || • ||' и || • ||" в Е, что оператор S (соответственно Г) ограничен как оператор из (Е, || • ||') (соответственно (Е, || • ||")) в (F, || • ||). Но тогда оба оператора ограничены как операторы из (Е, тах{|| • ||', || • ||"}) в (F, || ¦ ||), и, стало быть, такова же их сумма. Отсюда в силу той же теоремы 1 мы получаем S + Т е В{Е, F). Проверку того, что в В(Е, F) можно не только складывать, но и умножать на скаляры, оставляем читателю. г> Линейное пространство Е" мы будем, как и в контексте преднор- мированных пространств, называть сопряженным к Е. О некоторых свойствах категорий Pol и HPol мы расскажем в качестве необязательного (даже для отличников) материала. Прежде всего, из предложения 8 следует, что на этих категориях определены функторы морфизмов, принимающие значения в Lin. Читатель может с легкостью восстановить все детали, взяв за образец функторы морфизмов В(Е, ?), В(?, Е): Ban -> Ban из § 2.5.
312 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Здесь у вас, возможно, возникает чувство неудовлетворенности. Почему множество В(Е, F) снабжено только структурой линейного пространства? Разве нельзя его сделать объектом той же категории Pol, подобно тому, как это было сделано для морфизмов в Ban? Оказывается, дела обстоят так. Единого, «канонического» способа сделать В(Е, F) полинормированным пространством нет; вместо этого существует довольно много разных способов, каждый со своими достоинствами и недостатками. Мы ограничимся тем, что укажем, пожалуй, самый простой способ (к тому же, как мы увидим далее, применяемый в теории обобщенных функций); он подсказан примером 8. Пусть Е и (F, \\-\\v,veA) — полинормированные пространства. Возьмем Т:=Е хА и для каждой пары (х е Е, v е А) рассмотрим функцию 1ЫЦ,,: B(E,F) -*R+, положив ||Т|| „ :=||Г(х)||„; очевидно, это преднорма. Полученное семейство пред- норм в В(Е, F) называется (по образцу того же примера) сильно-операторным, а порожденная им топология — сильно-операторной. Теперь Вы можете легко проверить, что для каждого полинормированного пространства Е те же самые сопоставления, что и при определении функторов морфизмов со значениями в Lin (см. выше), но при рассмотрении сильно-операторного семейства преднорм в В(Е, F), доставляют ковариантный и контравариантный функтор из Pol в Pol (либо, смотря по смыслу, из HPol в HPol). Надо только отдавать себе отчет в том, что эти функторы не являются продолжениями функторов, определенных для Ban в § 2.5. Это ясно хотя бы из того, что они даже в том случае, когда Е и F — бесконечномерные банаховы пространства, доставляют заведомо не нормируемые пространства (почему?). Целый ряд свойств категорий Pre и Nor сохраняются и при переходе к более общим категориям Pol и HPol. В частности, с преднормированных пространств на полинормированные переносится понятие топологической прямой суммы подпространств (определение 1.5.1) и связанные с этим вопросы об описании (ко)ретракций (см. упражнение 1.5.3). Это же относится и к характеризации непрерывных проекторов в терминах разложения пространства в топологическую прямую сумму (предложение 1.5.10 и следствие 1.5.1). Наконец, с Pre дословно переносятся на Pol, а с Nor — на HPol результаты о характеризации моно- и эпиморфизмов (предложение 1.5.11), а также «крайних» вариантов этих понятий (упражнение 1.5.6). При желании Вы без труда сможете восполнить все недостающие детали. А вот кое-что поинтереснее. В некоторых отношениях категории Pol и HPol ведут себя гораздо лучше, чем, скажем, Ban (и напоминают скорее Ban,). Мы помним, что (ко)произведениями в Ban обладают только конечные семейства объектов (упражнение 2.5.15). А сейчас окажется, что в наших новых категориях любое семейство объектов обладает и произведением, и копроизведением. Пусть {Е„ | v ? А}, — произвольное семейство полинормированных пространств, || • L, /1 е А„, — семейство преднорм в Ev. Возьмем линейное пространство *{^С I" е^} (= произведение нашего семейства в Lin) и снабдим его семейством преднорм ||| • Ш*, /х € А„, v е А, положив |||/|||J := №»%¦ Упражнение 14. Пространство x{Ev;i/eA], снабженное семейством пред- Н0РМ III • III)!. /* е Л„, v е А, вместе с проекциями жи (см. § 0.6) есть произведение семейства ?„,i/€A,b Pol, а если все наши пространства хаусдорфовы, то и в HPol. Теперь возьмем линейное пространство Е = ®{EV \ v € А} (= копроизведение нашего семейства в категории Lin). Для каждого «/ 6 А условимся отождествлять Ev с подпространством Е, состоящим из тех функций /, для которых /(/х) = 0 при у. ф v (см. § 0.6). Далее, рассмотрим в Е семейство всех преднорм, ограничения которых на Еи для каждого и 6 А мажорируются семейством преднорм || • ||„, v е А, пространства Ev. Обозначим для краткости указанное семейство преднорм через Е.
§ 2. СЛАБЫЕ ТОПОЛОГИИ 313 Упражнение 15*. Пространство ®{Е„ \иеА}, снабженное семейством преднорм Е, вместе с вложениями ги (см. § 0.6) есть копроизведение семейства Ev, i/ € Л, в Pol, а если все наши пространства хаусдорфовы, то и в HPol. ПРИМЕР 12. Рассмотрим счетное семейство экземпляров пространства С. Его произведением служит полинормированное пространство с^, вместе с проекциями т„: с^, -»С, ? |-> ?п, а копроизведением — пространство с™ с сильнейшим семейством преднорм, вместе с вложениями in: С-»^, А >-> Ар"(проверьте). Заканчивая разговор о категориях Pol и HPol, мы отметим, что там есть достаточное число свободных объектов, чтобы существовал функтор свободы. Рассмотрим эти категории как конкретные (см. § 0.7), взяв для пространства Е gPol его подлежащее множество в качестве ОЕ. Упражнение 16*. Пусть К — это Pol либо HPol, Е G ОЬ{К). Тогда (i) Е является свободным объектом в К. тогда и только тогда, когда его семейство преднорм мажорирует любую преднорму (иными словами, Е является, с точностью до топологического изоморфизма, сильнейшим полинормированным пространством); (И) существует функтор свободы Т: Set—»/С, сопоставляющий каждому множеству S линейное пространство f(S) (см. пример 0.7.4) с сильнейшим семейством преднорм. § 2. Слабые топологии В этом параграфе мы сосредоточимся на одном специальном способе задания семейства преднорм, в котором участвуют те или иные семейства функционалов. Возникающие при этом топологии не только играют важную роль при изучении общих полинормиро- ванных пространств, но и позволяют лучше понять объекты классического функционального анализа — нормированные пространства. Для удобства дальнейших ссылок выделим в теореме 1.1 ее частный случай, касающийся функционалов. Везде далее, вплоть до особого объявления, (Е, \\ • ||м; fi € Г) — некоторое полинормированное пространство. Теорема 1. Следующие свойства функционала /: (Е, \\ ¦ ||^; \i е е Г) -»С эквивалентны: (i) существуют такой конечный набор индексов ци...,у.п и такая константа С > 0, что для любого х € Е выполнено неравенство |/(я)| С CmaxfllxH^,..., ЦхИ^} {иначе говоря, функционал f ограничен как функционал на" сопутствующем преднормированном пространстве (Е, тах{|| • || ,..., || • \\И}))', (и) функционал f непрерывен в нуле; (Ш) функционал f непрерывен. < > Подчеркнем, что для непрерывности функционала на полинор- мированном пространстве необходима и достаточна его непрерыв-
314 Гл. 4. ПОЛ НОРМИРОВАННЫЕ ПРОСТРАНСТВА ность относительно хотя бы одной из сопутствующих преднорм, а вовсе не относительно всех. (Частая ошибка на экзаменах!) А много ли непрерывных функционалов на полинормированных пространствах? Испытанное оружие — теорема Хана — Банаха — снова дает исчерпывающую информацию. Теорема 2. (Ср. следствие 1.6.1.) Пространство (Е, \\ • Ц^; р, е 6 Г) хаусдорфово тогда и только тогда, когда для любого вектора хеЕ, хфО, существует такой функционал f €Е*, что /(х)т^О, или, что эквивалентно, для любых векторов х,уеЕ, хфу, существует такой функционал f е Е*, что f(x)^f(y). < ==> Предложение 1.4 дает такой индекс р, что ||х||^ >0, а теорема 1.6.3 дает функционал, отличный от нуля на ее и ограниченный относительно преднормы || • Ц^. Дальше работает теорема 1. <= Если /(х) фО для / е Е", то теорема 1 дает хотя бы одно такое значение р, что ЦхЦ^ ^0. Теперь работает предложение 1.4. > Для изучения слабых топологий, о которых пойдет речь ниже, потребуется несколько стандартных фактов из (чистой) линейной алгебры. Из осторожности мы даже приведем их полные доказательства. (А вдруг Ваш лектор по алгебре рассматривал только конечномерные пространства и ни разу не вышел за их пределы?) Предложение 1. Пусть Т: Е —> F — такой оператор между линейными пространствами, что для некоторого конечного набора функционалов /„ ...,/„ на Е из равенств /,(х) = ... = /„(х) = 0 следует, что Tf = 0 (иными словами, П Ker(/t)CKer(T)). Тогда образ оператора Т конечномерен. < Рассмотрим подпространство в С", состоящее из строк вида (/,(х),.. .,/п(х)), х€Е. Возьмем такие векторы х,,...,хт, что строки (ft(xk),..., fn(xk)), k = l,...,m, образуют базис этого подпространства. Тогда для любого х е Е существуют такие числа А,,..., АтеС, что/,(х) = ? А4/,(х4) для всех 1 = 1,...,п. Отсюда вектор х — ]Г Atxt принадлежит ядру всех функционалов /,, а значит, и ядру оператора Г. Тем самым, Тх е span(Tx,,..., Txm) для любого х € Е. Дальнейшее очевидно. > Следствие 1. Если /j, . . ., /„ — конечный набор функционалов на линейном пространстве Е, то факторпространство Е I П Кег (fh) конечномерно. В качестве приложения можно получить одно из многих доказательств следующего «интуитивно ощущаемого» факта.
§ 2. СЛАБЫЕ ТОПОЛОГИИ 315 Упражнение 1. Пусть Е — бесконечномерное хаусдорфово полинормированное пространство. Тогда его сопряженное пространство Е* также бесконечномерно. Указание. Для любых /,,...,/„€.??* существует функционал / G Е*, отличный от нуля на П Кег (Д). Предложение 2. Пусть Е —линейное пространство, на котором заданы функционалы /j,..., /„ и еще один функционал /. Пусть, далее, для любого хеЕ из равенств /,(i) =...=/п(х)=0 следует, что /(ж) = 0 (т.е. П Ker(/t)C Кег(/)). Тогда /€ 6 span(/, ,...,/„). * = 1 < Рассмотрим оператор Т: Е—>Сп, х \-> (/,(а:),..., f„(x)), и порожденный им инъективный оператор Т: .Е/Кег(Т) —> С", i + Кег (Г) t-> Тх. (С подобной конструкцией Вы встречались в § 1.5.) Так как из условия следует, что Кег (Г) С Кег(/), / порождает функционал /: Я/Кег (Т) -> С, х + Кег (Г)»-»f(x). В силу инъективности оператора Т заведомо существует функционал д, делающий диаграмму Е/Кет(Т) —?-» С" с коммутативной. Остается положить Xk:=g(pk), к = 1,..., п, и увидеть, что для всех хеЕ выполнено равенство f(x) = f(x+Ker(T)) = gf(x) = g(±fk(x)pk) = t\kfk(x). t> Пусть снова Е—линейное пространство, Е° — некоторое пространство линейных функционалов на Е (= подпространство в линейно-сопряженном к Е пространстве Е{). Назовем это пространство достаточным, если для любого ненулевого вектора хеЕ существует такой функционал / е Е°, что f(x) ф0. Например, теорема 2 задним числом означает, что полинормированное пространство хаусдорфово тогда и только тогда, когда непрерывные функционалы на нем образуют достаточное пространство. Предложение 3. Пусть пространство Е° достаточно, хп ..., х„ — линейно независимая система в Е, Xlf...,Xn — произвольные комплексные числа. Тогда существует такой функционал f е Е°, что f(xk) = Xk, k = 1,..., п.
316 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА < Рассмотрим оператор S: Е° —> С", / н-> (/(х,),..., f(xn)). Наша задача — показать, что S(E°) — С". Пусть это не так. Тогда есть ненулевой функционал д на С", равный на S(E°) нулю. Для х := J2 д(Рк)хк е Е и любого функционала f € Е° выполнено равенство f(x)= J2 9(Pk)f(xk) = g[J2 f(xk)pk). Поскольку Yl f(xk)Pk —это (/(xi). ¦ • ¦) f(xn)) e S(E°), выбор функционала g * = i обеспечивает равенство f(x) = 0. В то же время из неравенства дфО следует, что не все числа д(рк) равны нулю, и, стало быть, хфО. Поскольку функционал f еЕ° произволен, мы пришли к противоречию с условием достаточности. > В следующем определении Е — (все еще «голое») линейное пространство, а Л — некоторое множество линейных функционалов на Е (= подмножество в Е*). Определение 1. Семейство преднорм {|| • II/ I / е Л.} в Е, где \\x\\f := \f(x)\, называется А-слабым семейством преднорм, а порожденная имв? топология — А-слабой топологией. Сразу же отметим Предложение 4. Указанное семейство преднорм эквивалентно семейству {\\ -\\f\f пробегает span(A) в Е*}. < Если g = J2 ^kfk^ то Аля любого вектора х е Е выполнено неравенство \g(x)\ < Cmax{|/fc(x)| | к = 1,..., п}, где С :=п max{|Aj | к = 1,..., п}. Дальнейшее очевидно. > Таким образом, говоря о Л-слабых топологиях, мы всегда, когда нам заблагорассудится, вправе считать Л подпространством в Е*. Два пространства с семейством преднорм указанного типа нам уже попадались — это с^ из примера 1.7 и (B(E,F),wo) из примера 1.9. (Укажите в обоих случаях Л.) Но вот два главных класса примеров. Определение 2. Пусть (Е, || ¦ ||„, v е Л) — полинормированное пространство. Слабым (просто «слабым» и всё) семейством преднорм в Е называется семейство {|| • ||г | / е Е*}, где \\х\\, := |/(ж)|. Это семейство, равно как и порожденная им топология в Е, которая также называется слабой, кратко обозначается w. Таким образом, введенное семейство — это то Л-слабое семейство преднорм в Е, когда в качестве Л взято подпространство Е* в ЕК Из этого определения легко усматривается
§ 2. СЛАБЫЕ ТОПОЛОГИИ 317 Предложение б. Для любого полинормированного пространства Е слабая топология в Е не сильнее ( = не тоньше) исходной. < Взгляните на условие непрерывности функционала в теореме 1. Оно в точности означает, что преднорма Ц-Ц,, feE*, мажорируется исходным семейством преднорм. > Определение 3. Снова (Е, \\ ¦ ||„, v е А) — полинормированное пространство. Слабым* (читается: «слабым со звездой») семейством преднорм в Е* (заметьте — на этот раз в сопряженном, а не исходном пространстве!) называется семейство {|| • Ц,. | х G Е}, где ll/IL:=l/(a:)l- Это семейство, равно как и порожденная им топология в Е*, которая также называется слабой*, обозначается w*. Это тоже специальный случай определения 1. А именно, как и в контексте нормированных пространств (см. § 1.6), всякий вектор х Е Е задает функционал ах на Е*, называемый далее функционалом означивания, по правилу / н-> f(x). Всевозможные функционалы означивания образуют некоторое подпространство в (Е'У, и если его обозначить через Л, то ясно, что введенное семейство — это как раз Л-слабое семейство преднорм в Е*. Говоря о Л-слабой и, в частности, слабой или слабой* сходимости, мы будем иметь в виду сходимость относительно соответствующей топологии. Пусть снова пространство Е и множество Л — такие же, как в определении 1. Обратим внимание на следующую особенность Л-слабых топологий, резко отличающую их от нормовых топологий. Предложение 6. Пусть пространство Е бесконечномерно. Тогда, каково бы ни было множество А, любая окрестность нуля в А-слабой топологии этого пространства содержит нетривиальное и даже бесконечномерное подпространство. < Указанная окрестность содержит стандартный открытый шар с центром в нуле, который для некоторых функционалов /,,..., Л е Л и г > 0 имеет вид {х € Е \ \fk(x)\ < г, к = 1,..., п}. Поэтому она заведомо содержит ядро оператора Г: Е —> С", ii-»(/,(i) /„(i)), действующего из бесконечномерного пространства в конечномерное. Дальнейшее очевидно. > Из предложения 1.4 немедленно вытекает Предложение 7. Пространство Е, снабженное А-слабой топологией, хаусдорфово тогда и только тогда, когда пространство span(A) достаточно. < >
318 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА В свою очередь, объединим этот факт с тем же предложением 1.4 и той тавтологической истиной, что функционал отличен от нуля, если он отличен от нуля на каком-либо векторе. Мы сразу получаем Следствие 2. (i) Для произвольного полинормированного пространства Е пространство (Е', w*) хаусдорфово. (ii) Если Е — полинормированное пространство, то пространство (Е, w) хаусдорфово тогда и только тогда, когда само пространство Е (с исходной топологией) хаусдорфово. Упражнение 2. Линейное пространство Е предметризуемо в Л-слабой топологии тогда и только тогда, когда линейная размерность пространства span(A) не более чем счетна. Указание. Используйте упражнение 1.8. ЗАМЕЧАНИЕ. Из упражнения 2 следует, в частности, что слабая топология на бесконечномерном нормированном пространстве и слабая* топология на пространстве, сопряженном к бесконечномерному банахову пространству, неметризуемы (см. упражнение 2.1.1). Функционалы, непрерывные в Л-слабой топологии, мы будем называть А-слабо непрерывными. Выделить их среди всех линейных функционалов — дело нехитрое. Предложение 8. Функционал f е Е* А-слабо непрерывен тогда и только тогда, когда он является линейной комбинацией функционалов из А. < Мы вправе считать, что Л — подпространство в Е* (см. предложение 4). <= Поскольку «тавтологически» выполнено неравенство \f(x)\ ^ ^ ||х||/? мы в рамках действия теоремы 1. =Ф- Согласно той же теореме существуют такие функционалы /„...,/„ 6 Л и С >0, что |/(i)|^Cmax{|/1(x)|,...,|/n(x)|}. Но тогда функционалы /],...,/„ и / удовлетворяют условиям предложения 2. Дальнейшее очевидно. > Следствие 3. ПустьЕ —полинормированное пространство. Тогда (i) функционалы на Е, непрерывные в слабой топологии, суть в точности функционалы, непрерывные в исходной топологии; (ii) функционалы на Е', непрерывные в слабой' топологии, суть в точности функционалы означивания. В дальнейшем, в разного рода конкретных ситуациях, нам понадобится знать, когда то или иное подпространство Е" в Е* плотно относительно слабой* топологии. Вот как об этом судят.
§ 2. СЛАБЫЕ ТОПОЛОГИИ 319 Предложение 9. Если пространство Е° достаточно, то оно плотно в Е* относительно слабой* топологии. < Возьмем функционал деЕ* и любую его окрестность в слабой* топологии. Эта окрестность содержит некий стандартный открытый шар Ugi2, Хп г, а потому в ней заведомо лежат все такие функционалы h еЕ*, что h(xk) = g(xk), к = \,...,п. Наша задача — найти среди этих функционалов h вектор из Е°. Если система хк состоит из нулей, все ясно. Если нет, то она содержит максимальную линейно независимую подсистему; не теряя общности, будем считать, что это хх,...,хт; т ^ п. Условие достаточности вместе с предложением 3 дает такой функционал f?E°, что f(xk) = g(xk), к = 1,...,т. Далее, для любого / = 1,..., п вектор х, имеет вид X) р-кхк> ft? С. Отсюда m m * = 1 f(xi)= ? Vkf(xt)= X) Vk9(xk) = 9(xi)- Дальнейшее очевидно. > Упражнение 3. Если пространство Е хаусдорфово, то верно и обратное. Пусть Т: Е —> F — непрерывный оператор между полинорми- рованными пространствами. Тогда, как легко видеть, корректно определен линейный оператор Т*: F* -*Е*, действующий по правилу fh-t/T. Иными словами, оператор Г* определен с помощью формулы [T*f](x) = f(Tx) или, что эквивалентно, с помощью коммутативной диаграммы Е -^^ F С (ср. определение 2.5.2). Предложение 10. Оператор Т* непрерывен относительно слабых* топологий в F* и Е*. < Возьмем преднорму || • |L х?Е, в (E',w*) и посмотрим на преднорму || • Ц^ в (F*, w*). Из конструкции оператора Т* немедленно следует, что ||Т*/Н* = И/Ни.- Заменяя = на <, мы оказываемся в поле действия теоремы 1.1. \> Определение 4. Для тех же Е, F и Т оператор Г*, рассмотренный как действующий из (F*, w*) в (Е*, w*), называется слабым* сопряженным оператором к Г. (Именно такие операторы нам вскоре понадобятся при изучении обобщенных функций.)
320 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Наиболее важны и продуктивны слабые топологии в том специальном случае, когда Е первоначально задано как нормированное пространство. Отныне вплоть до особого объявления мы предполагаем, что пространство Е именно таково. В указанной ситуации, таким образом, пространство Е наделено двумя семействами преднорм, а Е* — аж тремя. В Е есть исходная норма (= семейство, состоящее из одной этой нормы) и есть слабое семейство преднорм. В Е* есть норма, затем соответствующее этой норме слабое семейство преднорм (т. е. Л-слабое семейство, где А:=Е") и, наконец, слабое* семейство преднорм (т. е. Л-слабое семейство, где Л — это пространство функционалов означивания, которое, предвосхищая дальнейшие события, можно отождествить посредством канонической биекции с Е). Заметим, что слабое* семейство преднорм и, стало быть, одноименная топология в Е* есть не что иное, как специальный случай сильно-операторного семейства преднорм и соответственно топологии в В(Е, F), когда F = С. (Подобный терминологический дурдом объясняется тем, что две независимо образовавшиеся системы определений — одна из теории топологических векторных пространств, а другая из теории операторных алгебр — здесь довольно нелепым образом пересеклись.) Каковы взаимоотношения этих топологий? Предложение 11. Справедливы следующие утверждения: (i) слабая топология в Е не сильнее, а если пространство Е бесконечномерно, то (строго) слабее нормовой; (и) слабая* топология в Е* не сильнее слабой, и эти топологии совпадают в том и только том случае, если пространство Е рефлексивно. < (i) Очевидно, каждая преднорма слабого семейства, (а значит, и все это семейство) мажорируется исходной нормой. Поэтому *не сильнее» следует из предложения 1.5, а «слабее» — из предложения 6. (ii) Поскольку функционалы означивания на Е* непрерывны по норме, слабое* семейство преднорм является частью слабого и, стало быть, им мажорируется. При этом если пространство Е рефлексивно, то оба семейства совпадают. Если же, наоборот, известно, что обе сравниваемых топологии совпадают, то тогда каждый функционал ip G Е", будучи непрерывным в слабой топологии (следствие 3 (i)), непрерывен и в слабой* топологии.
§ 2. СЛАБЫЕ ТОПОЛОГИИ 321 Поэтому согласно части (и) того же следствия он является одним из функционалов означивания. > Таким образом, всякая последовательность хпеЕ, сходящаяся к некоему вектору х по норме, сходится к нему же и слабо, а если речь идет о сопряженном пространстве, то и слабо*. Последовательность ортов в ^ дает, пожалуй, простейший пример последовательности, сходящейся к нулю слабо (а если отождествить ij с Ц, то и слабо*), но не по норме. Те же орты в пространстве /,, отождествленном с с?, дают пример последовательности, сходящейся к нулю слабо*, но не слабо (объясните, почему). Однако далеко не всю информацию о слабых топологиях можно выразить на языке последовательностей. Возьмем пространство /,, где заведомо слабая топология грубее нормовой (предложение 11 (i)). И в то же время имеет место следующий результат. Упражнение 4*. Всякая последовательность в /,, слабо сходящаяся к некоторому вектору, сходится к нему и по норме. Указание. Игра идет на том, что Ц = 1а0- Поскольку слабая сходимость последовательности из I, к нулю влечет покоординатную, можно выбрать подпоследовательность с «почти непересекающимися носителями». Подбирая нужные функционалы из 1Х, мы показываем, что такая подпоследовательность заведомо сходится к нулю по норме. Мы видим, таким образом, что слабая топология в /, не может быть определена в терминах сходящихся последовательностей. (Такие примеры были обещаны в § 0.2.) Согласно следствию 2 оба пространства (Е, w) и (Е*, w*), изготовленные из нормированного пространства Е, хаусдорфовы. Следующее важное утверждение характеризует, в контексте нормированных пространств, сопряженные операторы. Теорема 3. Пусть Е и F — нормированные пространства, S: F* -* Е* —ограниченный (по норме) оператор. Оператор S имеет вид Т* для некоторого ограниченного оператора Г: Е -» —»F в том и только том случае, если оператор S непрерывен относительно слабых' топологий в F' и Е*. < =$¦ Это частный случай предложения 10. -$= Возьмем х е Е. Поскольку функционал означивания аж слабо* непрерывен, согласно условию таков же и функционал ахо S: F' —»С. Поэтому следствие 3 (и) дает такой вектор yEF, что ахоS(д) = д(у) для всех geF', и этот вектор у с учетом следствия 1.6.1 единствен. Сопоставляя каждому вектору х подобный у, мы получаем отображение Г: Е —> F, однозначно определенное 11 А. Я. Хелемский
322 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА правилом д(Тх) = (Sg)(x). Очевидно, Т—линейный оператор. Осталось главное: показать, что он ограничен. Для каждого х б ШЕ рассмотрим функционал j3z = аТх: F* —> С, д >-» д(Тх). Поскольку для любого д е F* выполнено неравенство 1/3,EI = \9(Тх)\ = \(Sg)(x)\ < ||55||||х|| < ||55||, семейство функционалов {/Зх \ х е ШЕ} поточечно ограничено. Но F* — банахово пространство, и поэтому мы в царстве теоремы Банаха — Штеингауза. Эта теорема дает такую постоянную С > О, что ||/3J| ^ С для наших векторов х е ШЕ. С другой стороны согласно предложению 1.6.4 ||/?х|| = ||aTl|| = ||Га:||. Дальнейшее очевидно. > Упражнение 5. Пусть Е и F — нормированные пространства. Линейный оператор Т: Е —»F ограничен тогда и только тогда, когда он непрерывен относительно слабых топологий в Е и F. Теперь мы покажем, что слабые топологии дают альтернативный подход к понятию компактного оператора, обещанный в § 3.3. Для этого нам понадобится некое геометрическое наблюдение, не лишенное самостоятельного интереса. Предложение 12. Пусть Е — конечномерное нормированное пространство. Тогда для любого е > О существует такой конечный набор функционалов /i,..., /„ нормы 1, что для любого хеЕ выполнено неравенство \\х\\ ^ A + е)max{|/t(i)| | к = 1,... ...,п}. < Единичная сфера S в пространстве Е*, будучи сверхограниченной, обладает для fi:=min{|,2} конечной 6-сетью, скажем, /, Де5. Зафиксируем произвольный вектор хеЕ и положим для краткости |||х||| := тах{|Д(а;)| | к — 1,..., п). Согласно теореме 1.6.3, существует такой функционал / е 5, что /(х) = ||я||. Выберем индекс к так, чтобы выполнялось неравенство ||/-/J| < 6. Тогда Ml = 1/(*I ^ К/ - Л)<*I + 1Л<*I ^ *М| + |||х|||. Отсюда A - 6)\\х\\ ^ ||И||, и 11*11 ^ rblMII = <! + гг7>НМН < О + OIINII- > Теорема 4. Следующие свойства ограниченного оператора Т: Е —> F между нормированными пространствами эквивалентны:
§ 2. СЛАБЫЕ ТОПОЛОГИИ 323 (i) оператор Т компактен; (и) ограничение Г|ш: Ш -» F оператора Т на единичный шар Ш в Е непрерывно относительно слабой (= унаследованной из (Е, го)) топологии вШ и нормовой топологии в F; (Ш) то же отображение непрерывно относительно указанных топологий в нуле. < (i) =$¦ (ii) Возьмем произвольные вектор х е Ш и число ? > 0. Очевидно, наша задача — предъявить такой конечный набор функционалов /,, ...,/„€?' и 6 > 0, что для любого вектора х', принадлежащего множеству U^f /5ПШ, иными словами, удовлетворяющего условиям |Д(х'- х)| < й, k = l,...,n, и ||х'||<1, (*) выполнено неравенство ||Тх' - Гх|| < е. Пусть у,,..., ут есть е/5-сеть для Т(Ш). Рассмотрим конечномерное пространство FQ:=span(y , ут, Тх)С F. В силу предложения 12 существуют такие функционалы д°,..., д°: F0—> С, что \Ш = ¦ ¦ ¦ = llffnll = 1 и ||у|| ? 2max{|rf(y)| | к = 1,..., п} для всех у е F0. Для каждого к — 1,...,п продолжим д% с сохранением нормы до функционала дк: F —> С и положим fk := Т*дк и S := |. Пусть теперь х' удовлетворяет условиям (*). Найдется такое Z, U U п, что ||Гх'-2/,|| < f. Тогда ||Гх'- Тх|| < \\у, - Гх|| + §. Но у, и Тх лежат в F0, поэтому \\yt - Тх\\ < 2 тах{|<7°(у, - Тх)\ \ к = 1,..., п} = = 2max{|A(y,-Tx)||fc = l,...,n}. Далее, для каждого к = 1,..., п выполнены неравенства Шу, ~ Тх)\ ^ \дк(у, - Тх')\ + |&(Гх' - Гх)| ^ <1|У,-Гх'|Ц-|Л(х'-х)|<| + § = 2§. Отсюда || Тх' - Гх|| < 2 • 2| +1 = е. (ii) =* (Hi) Очевидно. (Hi) => (i) Мы будем строить Е-сеть в Г(Ш) для заданного е > 0. Из указанного варианта непрерывности очевидным образом следует, что существуют такие функционалы /,,...,/„€ .Е* и 6 > 0, что для любого вектора хе 2Ш, удовлетворяющего условию |Л(х)| < 6, к = 1,..., п, выполнено неравенство ||Гх|| < е. Рассмотрим оператор S: Е -* С?,, S(x) = (/,(х),..., /„(х)). Поскольку ограниченное
324 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА множество 5(Ш) в конечномерном пространстве сверхограничено, найдутся такие векторы х,,..., хт е Ш, что Sx,,..., Sxm образуют 5-сеть в 5(Ш). Мы утверждаем, что Тх,,..., Тхт и есть желанная е-сеть в Т(Ш). В самом деле, возьмем любой вектор х е Ш. Из построения следует, что существует такое I, 1 ^ I < т, что |/fc(x) — /*(х,)| — = \fk(x - х,)| < й для всех к = 1,..., п. Отсюда получаем, что ||Г(х - х,)|| < е, как и требовалось. > Тут естественно поинтересоваться: а что произойдет, если, говоря об указанном условии непрерывности, рассматривать вместо единичного шара в Е само это пространство? Полученную картину дополняет (и проясняет) Упражнение б*. Следующие свойства ограниченного оператора Т: Е —> F между нормированными пространствами эквивалентны: (i) оператор Т непрерывен относительно слабой топологии в Е и нормовой топологии в F; (и) оператор Т конечномерен. Указание, (i) =>• (ii) Заданный вариант непрерывности дает конечный набор функционалов, удовлетворяющий условиям предложения 1. (ii) =$¦ (i) Наш оператор порождает конечномерный инъ- ективный оператор из Е/Кет(Т) в F. Отсюда пространство E/Ksr(T) конечномерно, и на нем существует конечный набор функционалов _/,,.. .,/„ с нулевым пересечением ядер. Оценка ||х|| < С max{\fk(x)\ | к = 1,..., п}, х€ Е/Кег(Т), влечет неравенство ||Гх||^С||Т||тах{|/4(х)|| Jk = l,..., п} для Д:=Дорг и всех векторов хе Е. Слабые топологии проливают новый свет на взаимоотношения нормированного пространства со своим вторым сопряженным. Напомним, что изометрический оператор канонического вложения а: Е —»Е" позволяет отождествить Е с подпространством в Е". Посмотрим, как оно там «сидит». Если пространство Е банахово и не рефлексивно, то, очевидно, это замкнутое по норме собственное подпространство в Е**. Тем самым, оно не плотно (и даже разрежено) в Е** относительно нормовой топологии. Однако, если перейти к другой естественной топологии, картина существенно меняется. Предложение 13. Для любого нормированного пространства Е образ его канонического вложения плотен в Е" :=(Е')' относительно слабой* топологии.
§ 2. СЛАБЫЕ ТОПОЛОГИИ 325 < Если / е Е* \ {0}, то, взяв такой вектор х е Е, что /(х) ф 0, мы видим, что для функционала ах на Е* выполнено неравенство ax(f)^0. Это означает, что подпространство а(Е) в Е" достаточно как множество функционалов на Е*. Остается применить предложение 9 с Е* в роли Е и а(Е) в роли Е°. > На самом деле можно пойти и дальше. Предложение 14. (БД) Для любого нормированного пространства Е образ его единичного шара при каноническом вложении плотен относительно слабой* топологии в единичном шаре пространства Е**. Доказательство см., например, в [15, с. 460]. Мы подошли к наиболее важному из всех результатов о слабых топологиях. Сейчас в нашем арсенале появится еще одно мощное (и часто стреляющее) орудие, носящее клеймо Банаха. Теорема 5 (Банах, Алаоглу). Пусть Е — нормированное пространство. Тогда единичный шар в Е* (относительно нормы) слабо* компактен, иными словами, компактен относительно топологии, унаследованной из (Е*, го*). « Положим для краткости Ш:=ШЯ.. Для каждого вектора же Е обозначим через Ю>х замкнутый круг {z \ \z\ ^ ||х||} в С и рассмотрим множество Q всех таких функций 7 на Е, что 7(ж) €^х для каждого х. Очевидно, Q есть не что иное, как декартово произведение x{Dx | х е Е}; мы рассмотрим его как топологическое произведение (с тихоновской топологией). Из оценки |/(х)| < ||х|| для всех f еШ, хеЕ немедленно следуют соотношения Ш = йпЕ* = ?1ПЕ* (для соответствующих множеств функций на Е) и, в частности, Ш С ?2. Таким образом, в Ш, помимо слабой* топологии, можно рассматривать и другую унаследованную топологию, на этот раз от «тихоновского» множества ?2; ее мы будем также называть тихоновской. Лемма 1. Слабая* и тихоновская топологии в Ш совпадают. < Поскольку мы сравниваем две унаследованных топологии, наша задача — показать, что подмножество в Ш имеет вид V П Ш, где множество V открыто в топологии ?2 тогда и только тогда, когда оно имеет вид J/ПШ, где множество U открыто в топологии (Е*, w*). =» Возьмем / е V П Ш. Из предложения 0.6.4 (и определения топологии комплексной плоскости) следует, что множество V содержит тихоновскую окрестность этого функционала /
326 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА вида Vf = {7 G С11 \f(xk) — f(xk)\ < г; к = 1,..., п} для некоторых xv...,xneE и г > 0. Обозначим через Uf стандартный открытый шар Uf х г в Е* и положим ?7:=и{17/|/€ VnLLI}. Тогда множество U открыто в топологии (Е', го*) и, очевидно, {/ПШ= VnLLI. -<= Возьмем / G U П Ш. Из определения слабой* топологии в Е* следует, что множество U содержит некоторый стандартный открытый шар U/iXi х>г в Е*. Положим У{:={<уеП\Ыхк)-/(хк)\<г,к = 1,...,п}, V:=u{Vf\feUnUl}. Тогда множество V открыто в топологии П и, очевидно, V П Ш = = UnUl.o Лемма 2. Шар Ш —замкнутое подпространство в С1. < Пусть 7 — точка прикосновения для Ш. Тогда для любых х, у б е!?И?>0вее (тихоновской) окрестности {7'еЮ|№)-7(*)|<§. l7'M-7B/)l<f, l7'(s+2/)-7(*+y)l<f } найдется точка (=функционал) / б Ш. В силу линейности / выполняется неравенство \f(x + y)-j(x)-j(y)\ = = Ых + у)- f(x + у)- 7(х) + /(х) - 7(у) + /Ы| ^ ^ Ы* + У)~ fix + у)\ + Ых) - /(х)| + Ыу) - f(y)\ < е. Поскольку е > 0 произвольно, отсюда следует, что ч(х + у) = = j(x) + 'у(у). Аналогичное рассуждение приводит к равенству 7(Ах) = А7(х) для всех х е Е, А б С. Тем самым, f — линейный функционал на Е, и из равенства ПпВ' =Ш (см. выше) следует, что 7 € Ш. > Конец доказательства теоремы. Настал кульминационный момент. Топологическое пространство П, будучи топологическим произведением компактов, на основании теоремы 3.1.3 (Тихонова) само компактно. Отсюда его подмножество Ш, замкнутое по лемме 2, в силу предложения 3.1.5 компактно в тихоновской, а значит (лемма 1), и в слабой* топологии. >> На самом деле указанная формулировка принадлежит Алаоглу, а Банах сделал решающий шаг в подготовке этой теоремы, обнаружив ее следующий секвенциальный (= выраженный на языке последовательностей) прототип. Упражнение 7*. Пусть Е — сепарабельное нормированное пространство. Тогда из всякой равномерно ограниченной по норме
§ 2. СЛАБЫЕ ТОПОЛОГИИ 327 последовательности функционалов /,, /2,... на Е можно выделить слабо* сходящуюся подпоследовательность. Указание. Пусть х,,а^,... — плотное подмножество в Е. Первое наблюдение состоит в том, что если некоторая подпоследовательность /Пк(хт) сходится для каждого т, то /ni(x) сходится для каждого хе Е к некоему д(х), где д € Е*. После этого, взяв последовательность fn(xx), выделим из нее сходящуюся подпоследовательность, скажем, f„(x{), затем из /„'(я^) выделим сходящуюся подпоследовательность /n2(avj) и т. д. Тогда «диагональная» подпоследовательность /п" сходится на каждом векторе х„, п = 1,2,... Мы собираемся рассказать об одном из многочисленных приложений теоремы Банаха — Алаоглу, которое касается компактных операторов. С этой целью мы снова рассмотрим каноническое вложение а: Е -+ Е", связывающее заданное нормированное пространство с его вторым сопряженным (см. § 1.6). Теперь мы наделим пространство Е слабым, а Е" — слабым* семейством преднорм. Оператор а, как мы помним, биективно отображает пространство Е на образ а(Е). Последний мы снабдим семейством преднорм, унаследованным от Е" и также обозначаемым через го*. Предложение 15. Оператор а: (Е, го) —> (Е**, го*) топологически инъективен. Как следствие, в случае рефлексивного пространства Е это топологический изоморфизм. < Оба рассматриваемых семейства преднорм индексированы одним и тем же множеством Е*, элементы которого играют в первом случае роль функционалов, а во втором — «исходных» векторов. Отсюда очевидным образом следует, что оператор а биективно отображает любой стандартный открытый шар в (Е, го) на стандартный открытый шар в (а(Е), to*), а прообраз каждого стандартного открытого шара в (а(Е), го*) есть стандартный открытый шар в (Е, го). Дальнейшее очевидно. > Таким образом, пространство Е отождествляется со своим образом в Е** не только как нормированное (ср. § 1.6), но и как по- линормированное пространство относительно разумно выбранных семейств преднорм. Предложение 16. Пусть Е — рефлексивное банахово пространство. Тогда его единичный шар компактен в слабой (= унаследованной из (Е, го)) топологии. < Согласно предложению 15 каноническое вложение а: (Е, го) —»(Е", го*) — топологический изоморфизм. Это означает,
328 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА в частности, что множество в (Е, w), образ которого — компакт в (Е**, w*), само является компактом. Но оператор а, будучи, в силу рефлексивности пространства Е, изометрическим изоморфизмом относительно соответствующих норм, отображает ШЕ на Шв... Остается использовать теорему Банаха — Алаоглу (рассмотрев Е* в роли фигурирующего там пространства Е). > Упражнение 8. Если принять на веру предложение 14, то верно и обратное утверждение. Указание. Слабо* плотное подмножество а(ШЕ) в ШЕ.. еще и компактно, а значит, замкнуто. Теперь мы сможем значительно усилить предложение 3.4.3 о компактных операторах между гильбертовыми пространствами. Предложение 17. Пусть Т: Е —>F —компактный оператор между рефлексивным и произвольным нормированными пространствами. Тогда Т(ШЕ) — компакт в нормовой топологии пространства F. < Объединяя предыдущее предложение с теоремой 4, мы видим, что множество Т(ШЕ) с нормовой топологией — образ компакта при некотором непрерывном отображении топологических пространств. Поэтому требуемый факт следует из предложения 3.1.7. > Сильному студенту подобает знать еще несколько вещей о полинормированных пространствах и слабых топологиях. 1°. Сейчас мы сформулируем теорему общего характера, открытую много позже теорем Банаха. Однако и она уже давно успела себя зарекомендовать как одно из наиболее мощных средств функционального анализа. Пусть М — множество в линейном пространстве. Точка в М называется крайней точкой этого множества, если она не лежит внутри ни одного отрезка с концами из М. Теорема 6 (Крейн — Мильман). (БД) Всякое компактное выпуклое множество в полинормированном пространстве совпадает с замыканием выпуклой оболочки своих крайних точек. О многочисленных приложениях этой теоремы в самых разных вопросах анализа см., например, [62, гл. 10; 56, гл. 6.2; 9, гл. 2.13]. Здесь мы лишь отметим то, что теорема Крейна — Мильмана в сочетании с теоремой Банаха — Алаоглу гарантирует существование достаточного, в некотором разумном смысле, множества крайних точек в единичных сферах пространств, сопряженных к нормированным. Упражнение 9. Если принять на веру теорему Крейна — Мильмана, то пространство 1ц[а,Ь] не изометрически изоморфно ни одному пространству, сопряженному к нормированному. То же самое верно для пространства %. Указание. В единичном шаре любого из этих пространств нет крайних точек. 2°. На основании предложения 5 (см. также предложение 11) замкнутых множеств в слабой топологии полинормированного пространства, вообще говоря, гораздо меньше, чем в исходной. И всё же, справедливо следующее утверждение.
§ 2. СЛАБЫЕ ТОПОЛОГИИ Упражнение 10. Подпространство Eq полинормированного пространства Е замкнуто относительно слабой топологии тогда и только тогда, когда оно замкнуто относительно исходной. Указание. Для любого х е Е \ Е0 существует такой функционал fxeE*, что fx\E =0 и /1(х)/0. В силу следствия 3 ядро Кег(/.,.) слабо замкнуто, • Е = п{Кег(/.)|хеВ\^}. На самом деле этот факт верен для всех выпуклых множеств в Е, а не только подпространств. Попробуйте это доказать, используя упражнение 1.6.13 о разделении гиперплоскостью выпуклых множеств. 3°. Пусть Е — произвольное линейное пространство, Л — подпространство в ?". Назовем семейство преднорм в Е согласованным со множеством Л, если все функционалы на Е, непрерывные относительно топологии соответствующего полинормированного пространства, суть в точности функционалы из Л. Упражнение 11. Среди всевозможных семейств преднорм в Е, согласованных с Л, есть то, которое задает слабейшую (=грубейшую) из всех соответствующих топологий, и это Л-слабое семейство. В частности, если Е — полинормированное пространство, а Е* —его сопряженное, то всякое другое семейство преднорм, например, v, удовлетворяющее условию (Е, v)* = Е*, мажорирует слабое семейство. Замечание. Интересно, что среди тех же топологий, рассмотренных в этом упражнении, есть и сильнейшая — так называемая топология Макки. В случае, когда пространство Е наделено нормой, а Л — его сопряженное, топология Макки совпадает с нормовой. Но эти факты уже не столь просты; см., например, [48] или [44]. 4°. Пусть Е —нормированное пространство. Вопрос о метризуемости связанных с ним слабых топологий решается следующим образом. Упражнение 12. (i) Пространство Е метризуемо в слабой топологии тогда и только тогда, когда оно конечномерно. (ii) Пространство Е* метризуемо в слабой* топологии тогда и только тогда, когда пространство Е имеет не более чем счетную линейную размерность. В частности, Е* заведомо не метризуемо в слабой* топологии, если Е — бесконечномерное банахово пространство. Указание. Примените упражнения 2 и 2.1.1. Иногда облегчает жизнь то обстоятельство, что единичные шары наших пространств гораздо более «склонны к метризуемости»: Упражнение 13*. (i) Если пространство Е* сепарабельно относительно нормы, то шар ШЕ = {х е Е | ||х|| ^ 1} метризуем в слабой топологии. (ii) Если пространство Е сепарабельно относительно нормы, то шар U1E. = {/ е € Е* | II/H < 1} метризуем в слабой* топологии. Указание. Если /п, п= 1,2,.... — плотное подмножество в Е*, то в качестве расстояния в ШЕ подойдет d(x, у) := ? 2»A+{/,(«-у)|)' 5°. Вот еще одно приложение теоремы Банаха — Алаоглу. Упражнение 14. Каждое нормированное пространство изометрически изоморфно вкладывается в пространство вида С(П), где ft — компакт. Указание. Возьмите ft:=UIB. и сопоставьте каждому вектору хеЕ ограничение на ft соответствующего функционала о
330 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Упражнение 15. Каждое сепарабельное нормированное пространство изометрически изоморфно вкладывается в 1Ж. Указание. Объединяя предложение 3.2.6 и упражнение 13 (ii), мы видим, что Шв. обладает счетным плотным в слабой* топологии подмножеством, скажем, /,,/2,... Отображение j: С(ШЕ.)-> l^, xi-> (x(fx), x(f2),...), — изометрический оператор. Дальше примените предыдущее упражнение. Замечание. Есть и сепарабельное классическое банахово пространство, куда всякое сепарабельное нормированное пространство может быть изометрически вложено: это С[0,1]. Доказательство см., например, в [29]. 6°. С помощью слабых* топологий можно ввести один важный функтор, определенный на Pol и принимающий значения в HPol. Это некоторая разновидность функтора сопряженности из § 2.5. Сопоставим каждому пространству Е 6 Об (Pol) полинормированное пространство (?*, w*); мы помним (следствие 2 (i)), что оно хаусдорфово и, таким образом, является объектом HPol. Далее, сопоставим каждому морфизму в Pol его слабый * сопряженный оператор; это, согласно предложению 10, морфизм в HPol. Тем самым, как легко проверить (сделайте это), мы получаем контравариантный функтор из Pol в HPol, называемый функтором слабой* сопряженности и обозначаемый через (*) (или, если есть опасность путаницы с другими вариантами функтора «звездочки», через ("")). Замечание. Если мы ограничим функтор ("") на подкатегорию Ban в Pol, то он, в отличие от функтора банаховой «звездочки», выводит из этой подкатегории: ведь для бесконечномерного банахова пространства Е пространство (Е*, w ) не нормируемо (на самом деле даже и не метризуемо; см. упражнение 12 (ii)). Поэтому введенный функтор нельзя рассматривать как обобщение (или продолжение) функтора банаховой сопряженности. В заключение — уже в качестве необязательного материала — мы упомянем об одном специальном примере слабой* топологии, играющем весьма важную роль в теории операторных алгебр и, в рамках этой науки, в математическом аппарате современной квантовой физики. Снова, как и в примерах 1.8-9, возьмем пространство операторов, только теперь конкретное пространство В(Н), где Я — гильбертово пространство. Отождествим его с пространством, сопряженным к М(Н) (пространству ядерных операторов в Я), посредством изометрического изоморфизма, обеспеченного теоремой 3.4.4 (ii) (Шаттена — фон Нойманна). Это позволяет, помимо уже введенных в § 1 сильно- и слабо-операторной топологий, рассмотреть в В(Н) еще и слабую* топологию. Последняя согласно той же теореме Шаттена — фон Нойманна порождена семейством преднорм, индексированных множеством Я(Н) и заданных правилом ||T||s:=|tr(TS)|, Т еВ(Я), S zN(H). У слабой* топологии в В(Н) есть специальное название: ультраслабая топология1^ или топология Диксмье. Она была открыта значительно позже сильно- и слабо-операторных топологий, однако с годами выяснилось, что именно она является самой полезной из всех работающих не нормируемых топологий этого пространства. (А таких по крайней мере семь, и все они нужны.) В частности, большую роль играют непрерывные операторы из (В(Н), w*) в различные поли- нормированные пространства, называемые по причинам исторического характера нормальными. Особенно важны нормальные функционалы, которые допускают целый ряд содержательных эквивалентных характеризаций. !) Довольно неудачный термин: это вовсе не «сверхслабая» топология, как увидит читатель, сделавший упражнение 16 (i). Но уж так повелось...
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 331 О топологиях в В(Н), порожденных различными семействами преднорм, кое-что сказано в [56], а гораздо более подробно — скажем, в [103; 82; 83]. Если они Вас заинтересовали, сделайте Упражнение 16*. Пусть Н — бесконечномерное гильбертово пространство. (i) Как сильно-операторная, так и ультраслабая топологии в В(Н) (строго) сильнее (=тоньше) слабо-операторной, а сами они не сравнимы; (И) на единичном шаре в В(Н) слабо-операторная и ультраслабая топологии совпадают, и обе (строго) слабее (=грубее) сильной; (Hi) запас сходящихся последовательностей относительно слабо-операторной и ультраслабой топологий в В(Н) одинаков. Указание. Утверждение (Ш) следует из (ii) и теоремы Банаха — Штейнгауза. Упражнение 17. Опишите пространство, сопряженное к В(Н) со слабо-операторной топологией. Указание. Это пространство конечномерных операторов. § 3. Пространства пробных и обобщенных функций Общее понятие функции требует, чтобы функцией от х называть число, которое дается для каждого х и вместе с х постепенно Н. И. Лобачевский Я с ужасом и отвращением отворачиваюсь от этой разрастающейся язвы функций, не имеющих производной... Ш. Эрмит в письме к Стильтьесу В этом параграфе, а также в следующем речь пойдет о непрерывных функционалах на специальных полинормированных пространствах, состоящих из гладких функций. Эти функционалы носят имя «обобщенные функции». Их и впрямь можно рассматривать как объекты, включающие значительную часть функций действительного переменного в качестве частного случая. Вначале мы попытаемся неформально объяснить, почему традиционное понятие функции, восходящее к Лобачевскому (см. эпиграф) и Дирихле, потребовало обобщения, и именно в указанном направлении. Хорошо, когда функцию можно дифференцировать, — рад и математик, и физик. В стародавние времена, когда все функции, встречавшиеся на практике, были аналитическими, такая фраза звучала бы странно: а разве бывает иначе? Однако по мере того, как все новые виды зависимостей получали звание функции, становилось ясно: увы, бывает. Даже требование непрерывности не спасало положение. Примеры непрерывных функций со все более
332 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА обширными множествами «плохих» точек множились, к сильному огорчению ряда крупных математиков (снова см. эпиграф). Наконец, Вейерштрасс забил последний гвоздь, построив известную Вам непрерывную функцию, вообще нигде не имеющую производной. Словом, дифференцировать хочется, а вроде как нельзя. Уж не издать ли указ о том, что только гладкие функции имеют право на существование, а все остальное — от лукавого? Ясно, что подобный «математический фундаментализм» —дело обреченное. От взгляда на функцию как на произвольную зависимость, столько дающего уму и сердцу математика, никто не откажется, да и область приложений анализа резко сузится. Но нашлись светлые головы — в первую очередь С. Л. Соболев и Лоран Шварц, — которые научили, что надо делать. Оказывается, как это ни странно на первый взгляд, чтобы дифференцировать всё и вся, надо не сужать, а, наоборот, существенно расширять понятие функции. Расширять даже за счет включения таких объектов, которые никак не назовешь функциями (= законами соответствия одних чисел другим), пусть самого общего вида. Но если это не функция, то что? А давайте посмотрим, чем является функция для практического физика. Ведь для него она важна не сама по себе, а важно то, «как она усредняет». Более предметно, важна не функция /(?), а важно, каков интеграл § f(t)tp(t)dt для разных «пробных» функций f(t). То есть, выражаясь по- ученому, важна не функция, а тот функционал, который она задает посредством интеграла на пространстве пробных функций. Раз так, то не сделать ли следующий естественный шаг? (Легко нам теперь, «стоя на плечах гигантов», говорить о естественном...) Может быть, на самом деле важен именно функционал как таковой, а уж то, задан ли он с помощью некоей функции /(?) в виде интеграла, — дело не столь существенное? Так ведь и физики во главе с Дираком работали, осознавая то или нет, именно с функционалами общего вида, не сводящимися к интегралам. Другое дело, что они, не желая и слышать ни о какой математической строгости, называли нужные им функционалы интегралами и писали *<р@) = J 6(t)tp(t)dt», нимало не смущаясь тем, что подобной функции 6(t) нет и в помине (см. далее теорему 2). Указанный подход, во многом благодаря безошибочной интуиции ученых масштаба Дирака, привел к поразительным успехам. Но в науке, как и в обыденной жизни, чтобы выражать свои мысли, нужен адекватный язык. Рано или поздно навести математическую строгость все равно приходится. Иначе специалист постепенно перестаёт понимать, что он, собственно, делает, а рассказ об этом коллегам превращается в мычание...
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 333 Мы готовимся перейти к формальному определению того, что оказалось «правильным» обобщением понятия функции, удовлетворившим (надолго ли?) нужды и физиков, и самих математиков. Прежде всего, уточним, о каких пространствах пробных функций — тех, на которых будут заданы заданы наши функционалы, — пойдет речь. На самом деле в анализе таких пространств огромное множество, и они варьируются в зависимости от рассматриваемых задач (см., например, [11]). Мы ограничимся тремя самыми полезными. ЗАМЕЧАНИЕ. Для ряда приложений, в том числе к теории уравнений с частными производными, целесообразно рассматривать пространства функций от нескольких переменных. Однако нам кажется, что при первом знакомстве с обобщенными функциями разумнее ограничиться одним переменным — действительной прямой — и, не отвлекаясь на переваривание мультииндексов, сосредоточиться на основных идеях и конструкциях. Для любой бесконечно гладкой (= бесконечно дифференцируемой) функции <p(t), t е К, а также n?Z+ и N е N положим ||<p||W:=max{max{|<p<*>(f)| -N< t <N} \ к =0,..., п}. Будем называть это число стандартной преднормой функции <р с индексами N и п. Разумеется, соответствие </з н-» ЦуЦ^' и есть преднорма в любом линейном пространстве, состоящем из бесконечно гладких функций на прямой. Все три предлагаемые пространства пробных функций, говоря нестрого, «растут из полинормированного пространства C^ti.,b]» (пример 1.5), только по-разному. Мы начнем с самого ел :ного и вместе с тем самого важного из них; оно, как мы увидим, даст наибольший запас обобщенных функций. Напомним, что функция на прямой называется финитной, если она равна нулю вне некоторого отрезка. Первым появляется Пространство V. Оно состоит из всех финитных бесконечно гладких функций. Вот простейший содержательный пример такой функции: «горбушка» s(t), которая равна ехр( -^—) при \t\ < 1 и нулю при \t\>l. w ~U Обратим внимание на то, что в V есть возрастающая цепочка подпространств VN := {<р е V | <p(t) = 0при |i| ^ N, N = 1, 2,...}. При этом, разумеется, V = U{VN | N = 1, 2,...}. Мы хотим сделать V полинормированным пространством. Условимся называть какую-либо преднорму || • || в V допустимой, если
334 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА для каждого N eN найдутся такие п еZ+ и С >О, что для любой функции ipeVN выполнено неравенство \\ip\\ ^ C||v3||(nN). Иными словами, преднорма допустима, если она на каждом подпространстве VN мажорируется какой-либо (вообще говоря, зависящей от N) стандартной преднормой1*. Мы объявляем V полинормированным пространством, снабдив его семейством всевозможных допустимых преднорм. Это семейство мы будем часто обозначать через d. Замечание. Для каждого N пространство VN само является полинормированным относительно семейства стандартных преднорм || • ||(nW), п € Z+. Нетрудно усмотреть (ср. теорему 1.1 и предложение 1.5), что семейство d — это «самое сильное» из всевозможных семейств преднорм на V, для которых все вложения VN —у V непрерывны. Разумеется, каждая стандартная преднорма в V допустима. Вот примеры поинтереснее. ПРИМЕР 1. Пусть a(t), t еШ, — произвольная всюду положительная непрерывная функция. Для tp€V положим \\<р\\а := :=max{a(t)\ip(t)\, t еЩ. Очевидно, ||-||а —допустимая преднорма (даже норма) в V, причем в указанной выше оценке для любого N подойдет п = 0. ПРИМЕР 2. Для тех же функций <р положим ||<^|| := JZ lv<fc)(k)l- Очевидно, || • || — также допустимая преднорма. Однако на этот раз в указанной оценке номер производной п должен неограниченно возрастать вместе с N. Отметим несколько очевидных свойств семейства допустимых преднорм: Предложение 1. Справедливы, следующие утверждения: (i) если || • \\к, к = 1,..., т, — допустимые преднормы, то допустима и преднорма || • || := тах{|| • ||t | к = 1,..., т}; (и) если преднорма мажорируется допустимой, то и она допустима; (Ш) если преднорма \\-\\ допустима, то такова же и преднорма ||| • |||, заданная правилом |||<р||| := ||у>'||. < > Переходя к следующему пространству, условимся называть бесконечно гладкую функцию <p(t), ieR, быстро убывающей, если для любых р, q € Z+ функция tpipM(t) ограничена, иными словами, если ??(*) и все ее производи-- убывают при |*|—юо быстрее ') Это же условие, с точностью до эквивалентности, можно задать и с помощью некоей устрашающей формулы [25, с. 99], но нам она, к счастью, не понадобится.
3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 335 любой отрицательной степени любого многочлена. Возможно, самой знаменитой из быстро убывающих функций является функция Гаусса е~°12, столь любимая в теории вероятностей. (Да и у нас она сыграет важную роль, когда пойдет рассказ о преобразовании Фурье.) Итак, появляется Пространство S, называемое также пространством Шварца. Оно состоит из всех быстро убывающих бесконечно гладких функций. Мы его объявляем полинормированным пространством, снабдив семейством преднорм (на самом деле, как легко проверить, — Н0РМ) II • IU- Р. Я € Z+, где |Н|Л, := max{|* V40II * € R}. Это семейство мы будем часто обозначать через s. И вот, наконец, последнее Пространство ?. Оно состоит из всех бесконечно гладких функций (как бы они ни росли). Семейство преднорм, которым мы наделяем это пространство, наиболее просто: в него входят все стандартные преднормы, и только они. Это семейство мы будем часто обозначать через е. Будучи полинормированными, все три пространства V, S и ? автоматически становятся топологическими. Когда же там сходятся последовательности? Условимся говорить, что последовательность бесконечно гладких функций tpm классически сходится к ip на подмножестве MCR, если последовательность <р?) равномерно сходится к <р(п) на М для всех п = 0,1,2,... (ср. сходное употребление этого термина в примере 1.1). Тогда из предложения 1.3 сразу вытекает, что сходимость последовательности ipm к ip в ? — это в точности классическая сходимость на любом отрезке в R. Далее, из того же предложения и выбора преднорм в S легко следует, что <рт сходится к <р в S тогда и только тогда, когда последовательность t*<pm(t) классически сходится к tpip(t) на всей прямой для любого р =0,1, 2,... Что же касается Х>, то ответ, возможно, окажется для Вас неожиданным. Теорема 1. Последовательность ipm сходится к ip в (D,d) в том и только том случае, если выполнены два условия: (i) все функции ipm равны нулю вне одного и того же отрезка (иными словами, принадлежат одному и тому же подпространству VN); (И) на упомянутом отрезке (или, что эквивалентно, на всей прямой) последовательность <рт cxodi/r я к <р классически. < =>¦ (i) Пусть, напротив, для каждого натурального N найдутся такая функция <ртк Этакое число tN,\tN\> N, что <pmit(tN) #0.
336 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Переходя, если потребуется, к достаточно редкой подпоследовательности, мы вправе считать, что (pN(tN)^0, причем последовательность tN, N = 1,2,..., либо неограниченно возрастает, либо неограниченно убывает. Очевидно, есть такая непрерывная функция a(t), t е К, что a(tN) = \pN(tN)\~l, N = 1, 2,..., и a(t) > О для всех t. Но тогда, поскольку функция (р финитна, функция a(t)\<p(t)-<pN(t)\ равна 1 в точке tN для всех значений N, кроме нескольких первых. Отсюда для этих же N и нормы || • ||а из примера 1 выполнено неравенство \\ip - <pN\\a ^ 1. Поскольку норма || • ||а принадлежит семейству d, предложение 1.3 запрещает последовательности ц>т сходиться к <р. Получили противоречие. =>¦ (ii) Поскольку все стандартные преднормы входят в семейство d, последовательность tpm классически сходится к функции tp на любом отрезке. А это, с учетом свойства (i) очевидным образом обеспечивает классическую сходимость последовательности <рт к <р на всей прямой. <= Наша задача — показать, что последовательность <рт сходится к <р относительно любой допустимой преднормы || • ||. Возьмем значение N, указанное в (i). Тогда согласно определению допустимой преднормы, для некоторых чисел п € Z+ и С > О выполнено неравенство ||v?m - (р\\ ^ C\\ipm - y>|lnW)- Но числа в правой части неравенства в силу свойства (ii), сходятся к нулю. Дальнейшее очевидно.> Из предложения 1.4 очевидным образом вытекает, что все три пространстваT>,Sn? хаусдорфовы, а из предложения 1.6 нетрудно усмотреть, что они не нормируемы. Отличнику мы предлагаем Упражнение 1. Пространства ? и S метризуемы и даже являются пространствами Фреше, а пространство V не метризуемо. Указание. Вопрос о метризуемости решается с помощью упражнения 1.8, причем для пространства V можно вместо этого применить теорему 1. Теперь обсудим взаимное расположение всех трех пространств пробных функций и сравним их топологии. Ясно, что V С S С ?. Далее нам понадобится Предложение 2 (о «шляпе»). Для любого отрезка [а, Ь] с R и г >0 в пространстве V существует такая функция e^be(t) («шляпа»), что0^га ь e(t)^ 1, г^ь c(t) равна 1 на [а, Ь\ и 0 вне [а-е,Ь + е]. <з Возьмем «горбушку» e(t) (см. выше). Очевидно, найдутся такие константы с, С>0, что г(с*) = 0при \t\>e/2 и С J e(ct)dt = 1. R
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 337 Теперь легко проверить, что нужная нам функция имеет вид Ь + с/2 *a,bJt):=C J a(c(s-t))ds.> Предложение 3. Пространство V (а с ним и S) плотно в (?,е), и, кроме того, V плотно в (S, s). < Достаточно, зафиксировав <р е ? (соответственно tp е S), указать последовательность фт е V, сходящуюся к уз по любой преднорме из е (соответственно из s). Мы покажем, что подойдет последовательность "фт:=Ч>гт, где гт(*):=г_, , ,(?/т) (см. предложение 2). Мы видим, что на любом отрезке [—N, N] функция <р — фт равна нулю при т ^ N, и поэтому для тех же m и любых п = О, 1,... выполнено равенство || <р - VvJI*, = 0. Таким образом, в пространстве ? нужная сходимость установлена. Если <р е S, то, очевидно, \W - VJL = max{| **(*>(*) - Vm@)(,)l I 1*1 > m}. Из формулы Лейбница следует, что (У - i>m)M = <Pi4) ~ Рмгт + ? с*У('"*)г^) * = i для некоторых постоянных Ск. Далее, г$(Ь) = —j-2(t)(t/m), откуда для всех t еШ и к = \,.. .,q заведомо выполнено неравенство ктЧ*)!^ 11г11о *• Поэтому с учетом того, что |гт(?)|< 1 для всех т и t, для некоторого С > 0 справедлива оценка lk-V-mIL^max{2|«"V'(')(*)l + CEI*',?'(')(Ol|l*l^m}. Но <р е S, и поэтому для всех 1=0, ...,q функции tp<p{t)(t) стремятся к нулю при 11 \ —> оо. Дальнейшее очевидно. > Предложение 4. Топология в V, унаследованная от (S, s), грубее топологии в (V, d), а топология в S, унаследованная от (?, е), грубее топологии в («S, s). (Очевидно, сказанное можно выразить и так: естественные вложения (Z>, d) и (<S, s), a («S, s) в (?, е) — это непрерывные, но не топологически инъективные операторы.) < Поскольку преднормы из s, как легко видеть, допустимы, это семейство является частью семейства d. Далее, любая стандартная преднорма (преднорма из е), очевидно, мажорируется нормой тах{ || • ||0 q 10 ^ q ^ N} для достаточно большого N. Это показывает, что утверждение верно с заменой слов «грубее» на «не тоньше»
338 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА (= «не сильнее»). Далее, положив ipm(t):=cmip(t — m), m = l, 2,..., для любой ненулевой функции р еТ> и взяв достаточно быстро сходящиеся к нулю коэффициенты ст > 0, мы, очевидно, получим последовательность, сходящуюся к нулю в (<S, s), но, с учетом теоремы 1 (i), не в (Х>, d). Наконец, взяв сходную последовательность vm@> но теперь положив ст = 1, мы получим последовательность, сходящуюся к нулю в (?,е), но не в (<S,s). Дальнейшее очевидно. > В пространствах пробных функций действует целый ряд важных операторов. Пожалуй, главный из них — это оператор дифференцирования ipt-np'. Мы будем обозначать его одним и тем же символом D для всех трех пространств; это не вызовет путаницы. Предложение 5. Оператор D, будучи рассмотрен в (V, d), непрерывен. < Рассмотрим для каждой преднормы || • || из d и функции ipeV «оценку» || IV || ^ 1 • ||| <р|||, где ||| • ||| — преднорма из предложения 1 (Ш). Остается применить теорему 1.1. > Упражнение 2. Такое же утверждение верно, если заменить (V, d) на (S, s) и на (?, е). Разберитесь еще с одним классическим оператором. Упражнение 3. Пусть i>(t), t € R, — бесконечно гладкая функция. Тогда «оператор умножения на ф» М^: tp •-> (рф, будучи рассмотрен в (V, d) и в (?, е), непрерывен. Если же ф — функция, каждая производная которой имеет степенной рост, то подобный оператор непрерывен и будучи рассмотрен в (S, s). Но это все была присказка, а вот, наконец, и сказка. Определение 1. (i) Непрерывные функционалы на пространстве (V, d) (= элементы пространства V) называются обобщенны- ми-функциями. (и) Непрерывные функционалы на пространстве E, s) (= элементы пространства S ) называются обобщенными-функциями-уме- ренного-роста. (Hi) непрерывные функционалы на пространстве (?, е) (= элементы ?*) называются обобщенными-функциями-с-компактными-но- сителями. Во всех трех терминах вместо слов «обобщенная-функция» часто говорят «распределение» (такое название больше принято на Западе). Мы пишем соответствующие слова через дефис из осторожности, желая подчеркнуть, что до поры до времени они должны восприниматься только как единый термин. Ведь такое выражение,
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 339 как «обобщенная функция умеренного роста» или «обобщенная функция с компактным носителем» (без черточек), должно, строго говоря, относиться к функционалу на О с какими-то дополнительными свойствами, нам пока неведомыми. Вскоре, однако, окажется, что подобная терминология оправдана и естественна, и мы действительно сможем отождествить функционалы на S и ? с определенными классами функционалов на V и тогда, не боясь путаницы, распрощаться с этими черточками. Разумеется, ко всем только что введенным объектам применим общий критерий непрерывности функционала на полинормирован- ном пространстве, выраженный в теореме 2.1. Однако специальный вид семейств преднорм позволяет, по крайней мере в двух случаях, сделать некоторые упрощения. Предложение 6. Справедливы следующие утверждения: (i) функционал /: V —>С непрерывен ( = является обобщен- ной-функцией) тогда и только тогда, когда для любого N б N найдутся такие числа п б Z+ и С > 0, что |/(у>)| ^ СЦ^Ц^) для (ii) функционал f: ? —»С непрерывен (= является обобщен- ной-функцией-с-компактным-носителем) тогда и только тогда, когда найдутся такие числа N е N, п е Z+ и С > 0, что \f(<p)\?C\\v\\w для всех <ре?. < (i) =э- Объединяя теорему 2.1 и предложение 1, мы видим, что существует такая допустимая преднорма || • || в V, что |/(<р)| < ||?>|| для всех tpeV. Дальнейшее очевидно. (i) •<= Указанное условие в точности означает, что преднорма II • II/. IMI/ :=l/(v)|. допустима. Теперь очевидным образом применима теорема 2.1. (и)=>- Эта импликация следует из теоремы 2.1 и оценки тах{|| • ||JJ*> | Jfc = 1,..., m} ^ || • \\w, где n:=max{nt | Jfc = 1,..., m} HN:=max{Nk\k = l,...,m). (ii) -^= Очевидно. t> Говорят, что обобщенная-функция / имеет конечный порядок, если оценки из предложения 6 (i) имеют место для одного и того же (= не зависящего от N) «номера производной» п. Наименьшее из таких п называется порядком обобщенной-функции /. Какие же бывают обобщенные-функции? Назовем измеримую функцию на прямой локально интегрируемой, если она интегрируема относительно стандартной меры Лебега на каждом отрезке. Множество классов эквивалентности
340 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА (= совпадения почти всюду) локально интегрируемых функций обозначается через Z/',oc. Очевидно, Ь[{* — это линейное простран^ ство относительно поточечных (более аккуратно: поточечных на множествах полной меры в R) операций. Пусть / — локально интегрируемая функция. Рассмотрим отображение /: V —> С, <р н-> $ f(t)<p(t)dt. Очевидно, / — функционал, и при ipeVN выполнена оценка |/(у)| < СЦ^Ц^, где лг л С := I \f(t)\dt. Тем самым, как следует из предложения 6, / — обобщенная-функция. Определение 2. Обобщенная-функция называется регулярной, если она имеет вид / для некоторой локально интегрируемой функции /, и сингулярной в противном случае. Ясно, что функционал / не зависит от замены функции / на эквивалентную. Поэтому корректно определено отображение г: i1,0'—>Т>*, /*->/, разумеется, являющееся линейным оператором. (С этого момента мы употребляем, по обычаю действительного анализа, жаргонные выражения типа «локально интегрируемая функция / из i1,0'». Как всегда, если помнить, что за ними скрывается, к путанице это не приведет.) Таким образом, обобщенная-функция регулярна тогда и только тогда, когда она лежит в образе Im (г). Разумеется, регулярные обобщенные-функции имеют порядок 0. Чтобы двигаться дальше, нам понадобится следующий факт действительного анализа. Предложение 7. Пусть f — такая интегрируемая функция на отрезке [а, Ь], что для любой функции (реТ>, равной нулю вне [а, Ь], выполнено равенство J f(t)tp(t)dt =0. Тогда / = 0 почти всюду на [а, Ь]. а < Очевидно, не теряя общности, мы можем считать, что наша функция принимает действительные значения. Рассмотрим произвольный отрезок [с, d] С [а, Ь] и его характеристическую функцию Xc,d- Возьмем «шляпы» г„(f) := := гс + 1,^(,_1/^1/п(<). Тогда последовательность гп почти всюду стремится к Xc,d на [°i &]• причем всюду выполнено неравенство \f(t)en(t)\ < \f(t)\. Отсюда по теореме Лебега d ь ь j/(*)dt = ^f(t)Xc,d(t)dt =}im |/(«)г.(*)Л =0.
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 341 В частности, J f(t) dt = 0 для каждого х е [а, Ь]. Дифференцируя это тождество по х, получаем равенство f(x) = 0 почти всюду на [а,Ь}.> Вот первое применение. Предложение 8. Оператор i инъективен; иными словами, две локально интегрируемые функции порождают одну и ту же обобщенную-функцию тогда и только тогда, когда они эквивалентны. < Пусть локально интегрируемая функция / такова, что / = 0. Из конструкции функционала / и предложения 7 сразу следует, что функция / почти всюду равна нулю на любом отрезке прямой, а значит, и на всей прямой. > Таким образом, оператор i осуществляет биекцию между L\M и подпространством в V, состоящим из регулярных обобщен- ных-функций. Отождествляя оба пространства посредством этой биекции (привычный для математика «психологический этюд»), мы будем считать Ь*{* частью ТУ. Поскольку V^ содержит, говоря нестрого, «большинство» встречающихся в анализе функций, это в значительной мере оправдывает сам термин «обобщенная функция». (С этого момента естественно убрать дефис, уже не боясь недоразумений.) В дальнейшем, говоря «обобщенная функция /(*). /G-L1,00» (скажем, многочлен или экспонента), мы будем иметь в виду отождествляемую с / регулярную обобщенную функцию, т. е. <(/). А вот и первый, исторически самый знаменитый пример сингулярной обобщенной функции. Определение 3. Функционал 6: V—*С, (р*-кр@), называется S-функцией Дирака или просто S-функцией. Теорема 2. 6 -функция Дирака — это сингулярная обобщенная функция порядка 0. < То, что это обобщенная функция нулевого порядка, сразу следует из оценки |6(<?)| ^ |M|&W) Для любых <р € V и N. Предположим, что она регулярна и отождествлена с некоей функцией / 611,". Тогда для любого отрезка [а, Ь], не содержащего 0, и любой р еТ>, равной нулю вне [а, Ь], выполнено равенство ь J f(t)tp(t)dt = J f(t)(p(t)dt = 6(<p) = 0. Отсюда на основании предложения 7 / = 0 почти всюду на [а, Ь]. Но прямая есть объединение счетного числа подобных отрезков и одноточечного множества {0}. Отсюда / = 0 почти всюду на R, а значит, 6 = f — нулевой функционал. Но ведь по своему определению функционал
342 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА 6(ip) заведомо отличен от нуля при у>@)^0. Получили противоречие. > ЗАМЕЧАНИЕ. Многие физики любят говорить, что 6-функция— это настоящая функция 6(t), для которой 6(t) = О при t ф О, но 6@) «настолько велико», что $ S(t)dt = 1 и, «как R следствие», $ 6(t)ip(t)dt = ч>@) для любой функции <p€V. Но что R для физика — детская шалость, для математика — смертный грех. Еще раз: <5-функция, несмотря на свое название, — это не функция! То же правило у »-кр@), разумеется, корректно определяет функционал из 5* и из ?*. Такие функционалы мы будем также обозначать через 8 и называть по-прежнему 6-функциями; это не вызовет путаницы. Следующий класс обобщенных функций содержит как регулярные обобщенные функции, так и 6-функцию. Пусть ВСЖд, — совокупность борелевских подмножеств отрезка [-N, N], BOR^ := U BORw и ц: BOR^, —> С — такая функция множеств, что для любого N ее ограничение fiN на BOR^ есть комплексная мера на соответствующем отрезке. Упражнение 4. Отображение /: V —> С, <р >-> $ tp(t)dfj.(t), где интеграл понимается как $ tp(t)dnN(t) для достаточно боль- -N ших N, — это корректно определенная обобщенная функция, которая регулярна тогда и только тогда, когда для каждого N мера цк абсолютно непрерывна по мере Лебега. Упражнение 5. Обобщенная функция / имеет порядок О тогда и только тогда, когда она задается некоторой мерой ц из предыдущего упражнения. Указание к импликации =х Из теоремы 1.6.4 (Рисса) следует, что ограничение функции / на VN действует как интеграл по некоторой комплексной мере y.N. Вообще-то к обобщенным функциям могут привести самые разные конструкции. Вот еще пример. Ниже v. р. обозначает интеграл в смысле главного значения. Упражнение 6. Отображение ^бРн v. p. J^-^dt—это R корректно определенная сингулярная обобщенная функция порядка 1. Упражнение 7. Отображение <р еVн-> ? V(i)(*) — это обобщенная функция, не имеющая конечного порядка.
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 343 Теперь мы сделаем первую попытку оправдать слова об «умеренности» и «компактном носителе» в определении 1. Напомним, что для обычной функции слова «умеренный рост» употребляются, как правило, в том же значении, как и слова «степенной рост», а носителем функции часто называют произвольное множество, вне которого она равна нулю. Пусть / — такая локально интегрируемая функция умеренного роста, что для некоторого р е Z+ и всех t е К выполнено неравенство |/@1 ^ СA + 1*|Р)- Тогда функция g(t):= JIJ заведомо интегрируема на прямой, и поэтому для любой функции ip е S существует интеграл j f(t)<p(t)dt = j s(<)(l*r2 + iMt)dt R R Тем самым, определено отображение — и, очевидно, линейный функционал /: S —> С, ц> н-> \ f(t)<p(t)dt. При этом из последнего равенства следует оценка и |Д^2Стах{Ии2,о,Ы11,о}, где С := J |(/(t)|dt, которая, в силу теоремы 2.1, показывает, ^ R что / — обобщенная-функция-умеренного-роста. Сходным образом, пусть / — локально интегрируемая функция, имеющая компактный носитель (т. е., попросту говоря, равная нулю вне некоторого отрезка). Тогда, разумеется, \f{t)^p(t)dt л существует уже для любой функции <р € ? и возникающий по тому же правилу, что и выше, функционал / на ? непрерывен по преднорме || • ||$"> при достаточно больших N (напишите соответствующую оценку). Таким образом, теперь / — это обобщенная-функ- ция-с-компактным>носителем. ^ Функционалы / е S* либо, смотря по смыслу, / е ?*, изготовленные указанным способом из локально интегрируемых функций, мы будем, по аналогии с функционалами из V*, называть регулярными; к конфузу это не приведет. Разумеется, в обеих однотипных конструкциях две локально интегрируемые функции задают один и тот же функционал на соответствующем пространстве пробных функций тогда и только тогда, когда они совпадают почти всюду (ср. предложение 8). Упражнение 8. (i) Непрерывная локально интегрируемая функция порождает обобщенную-функцию-умеренного-роста тогда и только тогда, когда она имеет умеренный рост.
344 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА (И) Непрерывная локально интегрируемая функция порождает обобщенную-функцию-с-компактным-носителем тогда и только тогда, когда она имеет компактный носитель. Указание к (и). Из предложения 6 (ii) следует, что f(tp) = Q для всех функций уэ, равных нулю на некотором отрезке. Итак, перед нами три «пространства обобщенных функций» V,S* и ?*. Сделаем их полинормированными (и, стало быть, топологическими) пространствами, снабдив каждое слабым* семейством преднорм. Это позволяет, в частности, говорить о сходимостях последовательностей: на основании общего предложения 1.3 в каждом из этих пространств последовательность /п сходится к / тогда и только тогда, когда для любой функции <р из соответствующего пространства пробных функций числовая последовательность /„(у) сходится к /(у). Упражнение 9. Пусть последовательность <р„ бV такова, что <рп = 0 вне отрезка ——, — и $ <pn(t)dt — 1 для всех п. Тогда <рп как последовательность регулярных обобщенных функций сходится в ТУ к 6-функции. (Последовательность указанного вида называется S-образной. Уже на ее примере мы видим, что регулярные обобщенные функции могут сходится к сингулярной.) Пусть in — естественное вложение V в S. Поскольку топология в V сильнее, чем унаследованная от S (предложение 4), это непрерывный оператор. Возьмем его слабый* сопряженный in*, сопоставляющий каждому непрерывному функционалу на S его ограничение на V. Из плотности пространства V в S (см. предложение 3) очевидным образом следует, что оператор in* инъективен. Поэтому мы вправе каждую обобщенную-функцию-умеренного-ро- ста отождествить, посредством этого оператора in*, с некоторой («просто») обобщенной функцией — ее ограничением на V. Точно так же, с учетом тех же предложений, мы вправе рассматривать каждую обобщенную-функцию-с-компактным-но- сителем как обобщенную-функцию-умеренного-роста. Возникают включения ? * с 5* С Х>*. Соответствующие операторы естественного вложения, будучи слабыми* сопряженными к естественным вложениям между соответствующими пространствами пробных функций, непрерывны. (Однако они не являются топологически инъективными — проверьте.)
§ 3. ПРОСТРАНСТВА ПРОБНЫХ И ОБОБЩЕННЫХ ФУНКЦИЙ 345 Предложение 9. Функционал из V* лежит (с точностью до указанного отождествления) в 5* -<=*¦ он непрерывен относительно топологии, унаследованной от S. То же верно с заменой пары (V, S) на пару E, ?) и на пару (Р, ?). < Все три утверждения доказываются практически одинаково. (Третье к тому же следует из двух первых.) Поэтому мы ограничимся первым утверждением. =>• Непосредственно следует из конструкции оператора in*. •<= Надо показать, что всякий функционал /: 2?—> С, непрерывный как функционал на подпространстве в (<S, s), есть ограничение функционала из (<S, s)*. Согласно теореме 2.1, функционал / ограничен на хотя бы одном преднормированном пространстве (D, || • ||), где || • || — максимум нескольких преднорм из семейства s. Далее, плотность пространства Т> в (S, s) (предложение 3) означает, в частности, что V плотно в («S, \\ • ||). Но тогда в силу принципа продолжения по непрерывности (и полноты С) существует ограниченный функционал на E, ||-||), продолжающий /. Этот функционал, согласно той же теореме 2.1, принадлежит E,8)*. Дальнейшее очевидно. > А теперь напомним об отождествлении части пространства ТУ с пространством L1,00. Последнее, разумеется, содержит ?, а с ним S и V. Кроме того, пространство S, заведомо состоя из функций умеренного роста, может быть отождествлено с частью пространства S*. Объединяя сказанное с рассмотренными выше взаимоотношениями между пространствами функционалов, мы получаем диаграмму в которой стрелки изображают естественные вложения. В ней мы сейчас обратим особое внимание на «результирующее» вложение Т> в V, а также на вложение S в «5*. с которым мы встретимся при изучении преобразований Фурье. ЗАМЕЧАНИЕ. Тот факт, что каждое из пространств V и S разумным образом вкладывается в свое сопряженное, играет в теории обобщенных функций выдающуюся роль. Но надо подчеркнуть, что это следствие весьма специальной природы обоих пространств. В общем случае полинормированное пространство, пусть даже очень хорошее, вовсе не обязано быть частью своего сопряженного; возьмите хотя бы ?.
346 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Сделаем важное наблюдение. Предложение 10. Пространство V плотно в (V*,w*), a S — в (S\W). < Возьмем ipeV \@). Тогда, разумеется, J <p(t)tp(t)dt >0. Это R означает, что существует такая обобщенная функция, принадлежащая VcV*, а именно Тр~, что Тр(<р)фО. Тем самым пространство V — достаточное подпространство в ТУ, и утверждение о V следует из предложения 2.9, в котором V* выступает в роли Е*, a V — в роли Е". Утверждение о пространстве S доказывается аналогично. > § 4. Обобщенные производные и вопросы строения обобщенных функций Раз пространство V является частью V*, то можно поставить вопрос о распространении на ТУ наиболее важных существующих в V операций, прежде всего дифференцирования. Более предметно, пусть Т — действующий в V оператор. Нас интересуют операторы Т: V* —* V*, бипродолжающие Т, т. е. такие, что для tp€V выполнено равенство T(ip)= Т((р) (см. § 0.1), иными словами, такие, что диаграмма V —^-^ V I . 1 V —^—» Х>* в которой вертикальные стрелки обозначают естественное вложение, коммутативна. Конечно, с точки зрения чистой линейной алгебры таких операторов — несметное множество. Но пространство V* снабжено топологией; поэтому разумно интересоваться теми операторами, которые в этой топологии непрерывны. Такая постановка вопроса, как правило, приводит к полному успеху. Теорема 1. Для оператора дифференцирования D: Т>—*Т> существует единственный оператор D: V —>Т>', бипродолжаю- щий D и непрерывный относительно слабой* топологии. Этот оператор действует по правилу [Df](<p):=f(-D<p), fev\<pev (иными словами, это слабый* сопряженный к оператору —D; см. определение 2.4).
§ 4. ОБОБЩЕННЫЕ ПРОИЗВОДНЫЕ 347 < В силу непрерывности оператора D (предложение 3.6) указанная формула корректно определяет оператор D в V*, который на основании предложения 2.10 слабо* непрерывен. Возьмем функцию <р eV, ее производную у?' и условимся обозначать теми же символами соответствующие им регулярные обобщенные функции. Тогда с учетом финитности функции <р, для любой функции ¦ф е V и достаточно большого N выполнено равенство 5ч>Ц>) = <р{-Щ) = = ~ j V(t)il>'(t)dt = -(<р(*Ж01-лг - j ?>'(*М*)Л) = <рШ К R Это означает, что оператор D бипродолжает D. Далее, пространство ТУ хаусдорфово. Отсюда, с учетом предложения 0.2.14 следует, что любой слабо* непрерывный оператор в V, бипродолжаю- щий D, совпадает с D не только на пространстве V, но и на его слабом* замыкании. Остается применить предложение 3.10. > Определение 1. Обобщенная функция ?>(/) называется обобщенной производной обобщенной функции / и обозначается также через /'. Таким образом, всякая обобщенная функция имеет производную — надо только эту производную разумно определить. В частности, мы вправе говорить о производной любой локально интегрируемой функции; если таковой снова окажется регулярная функция, то обычно говорят об обобщенной производной в смысле Соболева. (Вспомните эпиграф из Эрмита; как жаль, что тот не дожил до открытия обобщенных производных...) Другое дело, что теперь нельзя говорить о производных в отдельных точках — так ведь, если задуматься, то не очень-то и хотелось. Замечание. В современном анализе большую роль играют банаховы пространства, состоящие из тех функций / е Ьр(Щ, у которых есть к обобщенных производных в смысле Соболева, также принадлежащих Lp(R). Это так называемые пространства Соболева, часто обозначаемые W* (К); они являются банаховыми гк относительно нормы ||/|| :="«/? J 1/^(Ог° <**¦ (Наряду с М, в определениях V<-or подобных пространств рассматривают разнообразные области в Rn.) О роли некоторых пространств Соболева см., например, [51], а их общая теория изложена в монографии [64]. Предложение 1. Всякая регулярная обобщенная функция есть, для любого т = 1,2,..., (т + 1) -кратная обобщенная производная от некоторой т раз гладкой функции.
348 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА < Для / е-Ь1,0* положим g(t) := J f(s)ds и возьмем <реТ>. Поскольку функции д и <р удовлетворяют условиям теоремы об интегрировании по частям (см., например, [18, с. 125]), для достаточно больших N выполнено равенство N N <7'Ы = " j 9(t)<p'(t)dt = -g(t)ip(t)\»N + j f(t)<p(t)dt = f(<p). -N -N Поэтому любая регулярная функция есть обобщенная производная непрерывной функции, та — гладкой функции и т. д. > Пример 1. Пусть 0(t) — так называемая функция Хевисайда, сопоставляющая неотрицательным числам единицу, а отрицательным — нуль. Для любой функции tp и достаточно больших N выполнено равенство *'(?>) = - j 0(tL>'(t)dt = - j <p'(t)dt = -<p(t)\» = V@). R 0 Таким образом, обобщенная производная функции Хевисайда — это 6 -функция Дирака. Упражнение 1*. Пусть задана функция на прямой, имеющая на каждом отрезке ограниченную вариацию. Найдите ее обобщенную производную. (Ответ: она среди «мер» из упражнения 3.4.) ЗАМЕЧАНИЕ. Более конкретно, возьмем канторову лестницу. Ее производной в «классическом» понимании является функция, почти всюду равная нулю, а в нашем новом смысле — канторова мера. Согласитесь, что такая «производная» дает об исходной функции гораздо большую информацию. Упражнение 2. Найдите обобщенную производную функции In |г|. Указание. Это интеграл главного значения из упражнения 3.6. Как Вы знаете, бывает и так, что (обычная) функция почти всюду дифференцируема, но ее нельзя восстановить по своей производной. (Классический пример — та же канторова лестница.) И снова теория обобщенных функций избавляет от подобных неприятностей. Упражнение 3. Пусть / — обобщенная функция. Тогда /' = О тогда и только тогда, когда / — постоянная. (Точный смысл подобных заявлений обсуждался выше.) Как следствие, две обобщенные функции, имеющие одну и ту же обобщенную производную, отличаются на постоянную.
§ 4. ОБОБЩЕННЫЕ ПРОИЗВОДНЫЕ 349 Указание. Функционал / равен нулю на всех функциях у?\ Ч> е V, т. е. на всех таких р, что $ p(t)dt = 0. Отсюда / есть R постоянная /(<#,) для любой такой функции <#,, что J <p0(t)dt — 1. R Если / — обобщенная функция, то мы назовем ее обобщенной первообразной такую обобщенную функцию д, что д'' — /. Вот еще одно преимущество обобщенных функций перед обычными. Упражнение 4. Каждая обобщенная функция обладает первообразной, и все ее первообразные отличаются на постоянную. Указание. Зафиксируем такую функцию ip0€Т>, что \ ip0(t)dt = R = 1. В качестве первообразной для функции / подойдет функция д: у"-»-/(^)> гДе V40 — единственная принадлежащая пространству V первообразная к <р(*)— ($ tp(t)dt\<p0(t). Замечание. С этого факта начинается теория дифференциальных уравнений с обобщенными функциями — мощный аппарат современного анализа и физики. О том, как этот аппарат работает, можно прочитать, скажем, в классических руководствах [46; 50; 35] и в современном университетском учебнике [51]. * * * Мы говорили о дифференцировании в ТУ. Однако основная конструкция почти дословно переносится на обобщенные-функ- ции-умеренного-роста. Упражнение 5°. Теорема 1 остается верной при замене V на 5 и соответственно V* на «S*. При этом оператор D, действующий в S*, оказывается сужением одноименного оператора, действующего в (объемлющем) пространстве V*. Другая классическая операция анализа — умножение на достаточно хорошую функцию — также распространяется с обычных функций на обобщенные. Упражнение 6. Пусть У (О. * е R, — бесконечно гладкая функция. Тогда оператор Мф: V—>Т> (см. упражнение 3.3) допускает единственное слабо* непрерывное бипродолжение до некоторого оператора Мф: V* —> V* (называемого оператором умножения на гр в V). Если же вдобавок функция ф и все ее производные имеют умеренный рост, то сказанное остается верным при замене V на 5. Указание. На этот раз Мф — это в точности слабый * сопряженный оператор к Мф.
350 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Напомним о топологической характеристике тех обобщенных функций, которые являются обобщенными-функциями-с-компакт- ными-носителями (предложение 3.9). Они допускают и другое, пожалуй, более наглядное описание. Назовем носителем обобщенной функции / любое такое замкнутое множество М с R, что f(tp) = 0, как только у =0 в некоторой окрестности М. В этом случае также говорят, что функция / сосредоточена на М или что функция / равна нулю вне М. (Таким образом, заявление «функция / равна нулю в такой-то точке» лишено смысла, зато заявление «функция / равна нулю на таком-то открытом множестве» имеет разумное истолкование.) Замечание. Среди всех носителей есть наименьший, а именно, пересечение всех носителей. (Попробуйте это доказать.) Часто в литературе, говоря о носителе, имеют в виду именно этот конкретный носитель, так сказать, «the» носитель. Предложение 2. Функционал f G V принадлежит ?* тогда и только тогда, когда он имеет компактный носитель. (Иными словами — и это не шутка! — обобщенная-функция-с-ком- пактным-носителем — это в точности обобщенная функция с компактным носителем.) < ==>• Из предложений 3.9 и 3.6 (ii) следует, что для некоторых чисел С, N и п выполнено неравенство \f(<p)\ ^ ||C1||M|(nW). Поэтому из равенства <p(t) = Q при t ? [-N, N] следует, что <f= Согласно условию, есть такое число N, что / = 0 вне отрезка [-N, N]. Отсюда для любой функции <реТ> и d:=e_N Ni (см. предложение 3.2) выполнено равенство f(p-(pd)=0, и, следовательно, f(tp) = f(ipd). Но ipd eT>N + l. Поэтому в силу предложения 3.6 (i) найдутся такие числа п и С > 0, что \f(<pd)\ < C||^5||(nw+1). Из формулы Лейбница для высших производных легко следует, что HvdlKf41* < С"||у||<пЛГ+1) Для некоторого С > 0. Тем самым, |/(у)| ^ СС'\\<р\\\?+1\ и, стало быть, функционал / непрерывен относительно топологии, унаследованной от ?. Остается снова применить предложение 3.9. > Мы переходим к теореме, которая описывает структуру обобщенных функций с компактным носителем и показывает, что они в определенном смысле «недалеко ушли от регулярных». Но сперва мы докажем важное предварительное утверждение.
§ 4. ОБОБЩЕННЫЕ ПРОИЗВОДНЫЕ Теорема 2. Пусть f е V* и N е N. Тогда существуют такая квадратично интегрируемая функция h(t) на [-N, N] и такое число п eZ+1 что n f(<p)= \h(t)<p™(t)dt для любой функции tp€VN. « Согласно предложению 3.6 (i) существует такое число п - 1 (сейчас удобнее говорить об п - 1, а не об п), что наш функционал, будучи рассмотрен на VN, ограничен по норме II' lln^i- Зафиксируем соответствующее п и для <р, ¦ф &VN положим R Лемма. Построенная форма (•, •) является скалярным произведением в пространстве VN. Норма \\ ¦ ||2п, заданная равенством IMk„:: \^(t)\4t (от. е. норма соответствующего почти гильбертова пространства), мажорирует в пространстве T>N стандартную норму II • Нп"-1- < Очевидно, что (•, •) — это предскалярное произведение, и, стало быть, || • ||2п — преднорма в VN. Для к = 0,1,..., п — 1 положим |МГ,:=тах{|^>@11*еНУ,ЛГ]}. Поскольку IHI^, =тах{||-||'41 к =0,..., п-1}, достаточно показать, что норма || • ||2 „ мажорирует норму || • ||'п_,, а для каждого А; = = 0,1,..., п - 2 норма || • ||'4 +1 мажорирует норму || • ||'4. Возьмем <pEt>N. Для каждого А; выполнено равенство <pw(—N) = = 0, а потому v?(t>@= X <p{k + i)(s)ds, te[-N,N]. Для к = п - 1 -N это равенство вместе с неравенством Коши — Буняковского для квадратично интегрируемых функций влечет неравенство Отсюда Ц-1Г»-i<V^||-Ik,- N j \vM(t)\>dt \\dt=V2N\\v\\2, -N \ -N
352 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Для остальных А; это же равенство дает оценку \<pik)(t)\ ^ 2N max{|v>(* + 1)(s)| | а € [-JV, N]}, откуда || • \\'к ^ 2JV|| • ||'t + 1. Дальнейшее очевидно. > Конец доказательства теоремы 2. Рассмотрим гильбертово пространство L2[-N,N] и его подпространство VnN, состоящее из п-кратных производных функций из VN. Поскольку любая функция ip&T>N равна нулю со всеми производными в точке — N, из условия у>("> = 0 следует, что ip = 0. Поэтому правило /io(v(n)) := /(у) корректно определяет функционал 1\: Т>^—* С, а из леммы и ограниченности функционала / по норме ЦЦ^! пространства VN следует оценка IWOISC )\4t для некоторого С > 0, т. е. ограниченность функционала fy, по норме, унаследованной из L2[-N, N]. Продолжив /^ до ограниченного функционала на всем пространстве L2[—N, N] и зная общий вид ограниченных функционалов на последнем пространстве (предложение 2.3.10), мы получаем такую функцию h е L2[-N, N], N что ho(ipW) = J h(t)ipM(t)dt для любой функции ip(n)eV^. -N Дальнейшее очевидно. >> Теорема 3. Пусть f — обобщенная функция с компактным носителем. Тогда (i) для некоторого п е Z+ функция f представила в виде Y2 Цк), где все hk —регулярные финитные функции; fc = 0 (и) функция f есть кратная производная от некоторой регулярной обобщенной функции д, которая может быть выбрана сколько угодно раз гладкой. (Разумеется, второе представление нашей обобщенной функции элегантнее первого, но зато функция g уже не обязана быть финитной.) < Согласно условию функция / сосредоточена на некотором отрезке [—(N - 1), N — 1]. Отсюда для любой функции tp е VN_X выполнено равенство /(у) = f(<pd), где д := e_(N_l) N_l ,. Далее, tpd G T>N. Поэтому на основании предыдущей теоремы существует такая функция h е L2[-N,N] и число п, что f(<p) =
§ 4. ОБОБЩЕННЫЕ ПРОИЗВОДНЫЕ 353 = J h(t){ipdYn){t)dt для всех у? € ?>. Продифференцировав произведение, мы получаем, что для некоторых h^,..., hn € L2[—N, N] и тех же функций ip выполнено равенство N /(?>)= ?(-l)*U* ?><*><**. Продолжив каждую функцию /ifc нулем вне [—iV, N] и сохранив то же обозначение для получившейся локально интегрируемой функции, мы немедленно получаем утверждение (i). Далее, предложение 1 обеспечивает то, что для каждого к функция hk имеет вид gin~k) для некоторой функции дк е L',oc. Отсюда, разумеется, f = дм для регулярной функции д := ? дк. *=о Осталось разобраться с гладкостью. Согласно тому же предложению 1 для любого тп найденная выше функция д сама является (тп + 1)-й обобщенной производной некоторой регулярной тп раз гладкой функции. Дальнейшее очевидно. > Следствие 1. Любая обобщенная функция с компактным носителем имеет конечный порядок. Из построения регулярной функции д, дающей исходную обобщенную функцию / в качестве своей кратной производной, Вы могли заметить, что она заведомо имеет умеренный рост. Следующий результат, усиливающий второе утверждение теоремы 3, доказывается похожими рассуждениями, но требует более громоздких оценок. Поэтому мы ограничимся его формулировкой. Теорема 4. (БД) Пусть обобщенная функция f принадлежит пространству S' (= отождествляется с некоторой обобщен- ной-функцией-умеренного-роста). Тогда она является кратной обобщенной производной некоторой регулярной функции умеренного роста, причем (снова) сколько угодно раз гладкой. Структурная теорема 3 позволяет, в частности, дать простое описание обобщенных функций, сосредоточенных в точке (и, стало быть, имеющих минимальный непустой носитель). Сперва сделайте не лишенное самостоятельного интереса. Упражнение 7 (усиливающее упражнение 3). Пусть / — обобщенная функция. Тогда функция /(п) равна нулю на интервале (а, Ь) тогда и только тогда, когда функция / равна на том же интервале некоторому многочлену степени меньше п.
354 Гл. 4. ПОЛИНОРМИРОВАННЫЕ ПРОСТРАНСТВА Указание. Те же соображения, что и для упражнения 3, показывают, что функция /<"-'> равна на (а, Ь) некоторой постоянной с,. Тогда (/<"-2> - с,<)' = 0 на (а, Ь), откуда функция /(n-2) — c,i равна на (а, Ь) новой постоянной, скажем, с^. Но тогда J/(»-3) _ ф, *а + c^t)]' = 0 на (о, 6), и т. д. Упражнение 8. Любая обобщенная функция /, сосредоточенная в точке t б R, является линейной комбинацией обобщенной функции St: tp\-> (p(t) (сдвига 5-функции Дирака) и ее нескольких кратных обобщенных производных. Указание. Пусть t = 0. Объединяя теорему 3 (и) и предыдущее упражнение, мы видим, что та функция д, для которой з(п) = /. совпадает справа от 0 с одним, а слева от 0 с, вообще говоря, другим многочленом степени < п. Поэтому д — линейная комбинация функций **0(*)и tk{\-6{t)), fc=0, ...,п-1, где 9(t) — функция Хевисаида. Дифференцируя п раз каждую из этих функций, мы получаем, с точностью до постоянного множителя, 0("~ *> = ?<"-*-') для некоторого А; < п. Нашему гипотетическому отличнику мы предлагаем доказать еще две структурных теоремы, обобщающие в разных направлениях теорему 3. Ценную информацию о строении обобщенных функций, теперь уже произвольных, дает Упражнение 9. Для всякой функции / б2>* существуют (i) такая последовательность финитных регулярных обобщенных функций дп, которые равны нулю на любом отрезке, начиная с некоторого (вообще говоря, зависящего от отрезка) номера, и (и) такая последовательность неотрицательных целых чисел кп, что для любой <р 6 V и достаточно больших N выполнено равенство /(?>)= Е №D=) и, следовательно, /= ? д^ в слабой* топологии пространства V. Указание. Для каждого m€Z положим дт '•= г„,„,{> Ф(<):= 12 ^m(t) и<=т(*):=%^. Тогда» ет(*)=0вне интервала (m-l.m+l) и ? em(*)sl. Обобщенная функция /ет: ?>>-»/(?зет) имеет носитель [т — 1,т+ 1], а потому ) В наших лекциях набор функций с указанными двумя свойствами возник как эпизод. На самом деле такие наборы функций, называемые разбиениями или разложениями единицы, подчиненными заданному покрытию (в нашем случае — покрытию прямой интервалами (т — 1, т + 1); т е Z играют весьма важную роль в анализе и геометрии. Подробнее о применениях разбиений единицы в теории обобщенных функций см., например, [50], а в дифференциальной геометрии — [37].
§ 4. ОБОБЩЕННЫЕ ПРОИЗВОДНЫЕ 355 представима в виде /ет = ^ ^т< гДе ^t т — регулярные функции, равные нулю вне отрезка [т - 2, т + 2]. Но / = ? /ет. Второе утверждение теоремы 3 для произвольных обобщенных функций уже перестает быть верным (почему?). Но все же отметим следующее. Упражнение 10. Второе утверждение теоремы 3 остается в силе для всех обобщенных функций конечного порядка. Указание. Теперь в представлении для fem (см. предыдущее указание) числа пт ограничены в совокупности. Отсюда следует, что / — конечная сумма обобщенных функций gjfK где дк := ? hk,m-
Глава 5 У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Я развил свою теорию бесконечно многих переменных из чисто математических интересов и даже назвал ее «спектральным анализом», абсолютно не подозревая, что позже она найдет применение в настоящих спектрах физики. Д. Гильберт. Латинское «spectrum» означает «видение», «привидение», «дух». В этой главе мы увидим, что у операторов тоже есть «духи», но обитают они не в старинных полуразрушенных замках, а в комплексной плоскости. Как известно, духи, если их должным образом попросить, могут рассказать весьма важные вещи. Чтобы убедиться в этом, нашему читателю не надо повторять опыт Гамлета или Макбета: пусть он судит, скажем, по теореме Гельфанда — Мазура этой главы или, еще лучше, по спектральной теореме Гильберта, о которой мы поговорим позже. § 1. Спектры операторов и их классификация. Примеры Пусть Г — ограниченный оператор, действующий в банаховом пространстве Е. Условимся, пока пространство Е фиксировано, опускать индекс в обозначении 1Е. Определение 1 (восходящее к Гильберту). Комплексное число А называется регулярной точкой оператора Т, если оператор (Г —А1) — топологический изоморфизм, и сингулярной точкой этого оператора в противном случае. Множество сингулярных точек оператора Г называется спектром этого оператора и обозначается сг{Т). В силу теоремы Банаха сказать «А принадлежит <т(Т)»— это все равно что сказать «(Т — А1) — не биективный оператор». Сразу же выделим простое, но весьма важное свойство спектра.
§ 1. СПЕКТРЫ ОПЕРАТОРОВ И ИХ КЛАССИФИКАЦИЯ 357 Предложение 1. Пусть операторы Т: Е —* Е u S: F -+ F топологически эквивалентны (т. е. — напоминаем — подобны как эндоморфизмы в Ban). Тогда их спектры совпадают. « Очевидно, для любого А е С операторы Г - А 1в и S -XlF топологически эквивалентны друг другу. Следовательно, наше утверждение— это частный случай предложения 0.4.1 для /C = BAN. t> Таким образом, спектр — инвариант топологической эквивалентности. Конечно, сопоставляя оператору его спектр, мы не получим полную систему инвариантов подобия (в смысле, обсуждавшемся в § 0.4). Например, нулевой оператор в С2 не топологически эквивалентен оператору, записываемому матрицей ( « А 1, однако спектры обоих состоят из одного нуля (проверьте!). Таким образом, зная спектр оператора, мы знаем о нем еще не все, однако — и в этом нам предстоит убедиться — очень и очень многое. По каким же причинам точка А может попасть в спектр оператора Т? Таких причин может быть несколько. 1. Самая «грубая» возможная причина — в том, что оператор Т — XI отправляет хотя бы один ненулевой вектор, скажем, х в нуль. (Какая уж там биективность...) Тогда, разумеется, Тх = Ах, а значит, как нас учили на младших курсах, А — это собственное значение оператора Т. Подмножество в <т(Г), состоящее из собственных значений оператора Т, называется его точечным спектром и обозначается ар(Т). Если наш оператор действует в конечномерном пространстве, то, как мы знаем из линейной алгебры, он биективен -Ф=>- он имеет нулевое ядро. Применительно к Т — А1 это влечет то, что в случае такого оператора а(Т) = ор(Т). Вся штука в том, что у операторов функционального анализа, как правило действующих в бесконечномерных пространствах, бывают и другие точки спектра. 2. Теперь предположим, что А не есть собственное значение оператора Т (т. е. оператор Т - XI инъективен). Тогда может случиться, что Im(T-Al) не заполняет все пространство Е. В этом случае также, разумеется, А е сг(Г). Здесь целесообразно выделить два возможных «подслучая». 2а. Образ Im (Г-А1), будучи меньше пространства Е, «хотя бы» плотен в последнем. Подмножество в о(Т), состоящее из таких точек А, называется непрерывным спектром нашего оператора и обозначается ас(Т).
358 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ 26. Наконец, «совсем плохой случай» заключается в том, что, хотя оператор Г —А1 и инъективен, его образ даже не плотен в Е. Подмножество в а(Т), состоящее из таких чисел А, называется остаточным спектром оператора Т и обозначается сгг(Г). Еще раз подчеркнем, что других возможностей у точки А, чтобы быть сингулярной, нет: если одновременно Кег (Г - А1) = 0 и 1т(Г - А1) = Е, то вследствие теоремы Банаха Г - А1 — топологический изоморфизм, и точка А регулярна. Как легко проверить, не только весь спектр, но и каждая из трех его указанных частей также не меняется при переходе к топологически эквивалентному оператору. Замечание (для отличников). Очевидно, спектр оператора можно «по-ученому» охарактеризовать и как множество тех точек А, для которых нарушается точность ...<— 0*-Е ¦ r"A1 Я<— 0<—... В этом заключается «зародыш» подхода к определению многомерного аналога понятия спектра — так называемого совместного спектра системы п перестановочных операторов в банаховом пространстве. Такое определение, увенчавшее многолетние поиски «правильного» определения совместного спектра, было дано в 1970 г. Дж. Тейлором в терминах нарушения точности более сложных последовательностей. (В последних уже п + 1 пространство отлично от нуля.) Теория Тейлора и ее последующее развитие отражены в [104] и сравнительно недавней монографии [78]. Следующие наблюдения часто помогают узнать, какой части спектра заданного оператора принадлежит рассматриваемое число. Предложение 2. Пусть X еа(Т) и существует такое число о 0, что \\Тх - Хх\\ > с\\х\\ для всех хеЕ (иными словами, оператор Т - А1 топологически инъективен). Тогда А е ог(Т). < Это утверждение сразу вытекает из замкнутости образа топологически инъективного оператора между банаховыми пространствами. > Отсюда немедленно следует Предложение 3. Пусть Хесгс(Т). Тогда существует такая последовательность хпеЕ, \\хп\\ — 1, что Тхп-Ххп —*0 при п —> —к». < > Точки спектра можно классифицировать и другими способами, из которых наиболее важным представляется следующий. Точка А называется существенно сингулярной точкой оператора Т, если Т - XI (не только не биективен, но даже) не является фредгольмовым. Подмножество в а(Т), состоящее из существенно сингулярных точек оператора Г, называется его существенным спектром и обозначается ое(Т). Таким образом, спектр ст(Г)
§ 1. СПЕКТРЫ ОПЕРАТОРОВ И ИХ КЛАССИФИКАЦИЯ 359 разбивается, «по степени отдаленности Г - А1 от биективного оператора», на сте(Т) и его дополнение. Заметим, что предложение 3.5.1 обеспечивает включение егс(Т)С ае(Г). Нетрудно показать (сделайте это), что существенный спектр также является инвариантом топологической эквивалентности. Упражнение 1. Спектр оператора Г: Е —> Е совпадает со спектром сопряженного оператора Т*\ Е*—>Е*, т. е. а(Т*) = а(Т). При этом (i) если А е ат(Т), то А € ар(Т*); (И) если А е ар(Т), то либо А е стр(Г*), либо A G <тг(Т*); (Ш) если А е стс(Т), то либо А е ас(Т"), либо А е <тг(Т*); при этом последняя возможность исключена, если пространство Е рефлексивно. Указание. Операция *, будучи, как-никак, функтором, сохраняет топологические изоморфизмы. Отсюда о~(Т) 2 <*(Т*). Положим S := Т - А1. Тогда (i) если х не принадлежит замыканию Im(S), то S*f = 0 для любого такого функционала /, что /|,m(s)=0 и /(х)фО; (и) если Sx = 0 для х^О и f(x)^0, то функционал / не принадлежит замыканию ImE*); (iii) если Im E) плотен в Е, то оператор 5* инъективен, и поэтому если он сюръективен, то 5**, вместе с 5*, — топологический изоморфизм. Дальше работает предложение 2.5.2. Объединяя все уже сказанное, мы получаем1', что о(Т) = о(Т'). Читатель, сделавший упражнения 3.5.8 и 3.5.9, немедленно выведет из них тот факт, что существенные спектры операторов Т и Т* также совпадают, т. е. ае(Т') = *с(Т). Разумеется, для Т = А1, А € С, выполнено равенство а(Т) = = <тр(Т) = {А}, и таков же сге(Т), если пространство Е бесконечномерно. Несколько более интересно Предложение 4. Пусть Е0 и Е{ — ненулевые замкнутые подпространства в Е и Р — проектор на Е0 вдоль Ех. Тогда <т(Г) = сгр(Г) = {0,1} и 0? ас (Г) в томи только том случае, если dim Ех < оо; и 1 ^ ое{Т) тогда и только тогда, когда dim Е0 < оо. < Посмотрев, как действует оператор Р на векторы из наших подпространств, мы видим, что 0, 1 € <тр(Т). Если же А ^0,1, то оператор A - А)'Р - \~lQ, где Q := 1 - Р, является, как легко проверить, обратным к Р — XI. Дальнейшее очевидно. > А вот уже не столь простой факт. '* Впрочем, наш отличник может заметить, с учетом сказанного выше мелким шрифтом, что совпадение <г(Т) и а(Т*) есть частный случай упражнения 2.5.10.
360 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Теорема 1. Пусть Т: Е -+ Е —компактный оператор в бесконечномерном банаховом пространстве. Тогда спектр ст(Г) состоит из 0 и, кроме того, не более чем счетного множества собственных значений, для которого, если оно бесконечно, 0 является его единственной предельной точкой. При этом для каждого ненулевого собственного значения подпространство соответствующих собственных векторов конечномерно. Наконец, а,(Г) = {0}. < Из того, что оператор Т не фредгольмов (предложение 3.5.2), следует, что 0 е ас(Т) и, стало быть, Оеег(Т). Теперь возьмем Ае<т(Т)\{0}; тогда оператор Г-А1, а с ним и1 — А"'Т = — А~'(Г—А1)не имеют обратного. Поэтому выполнено по крайней мере одно из двух условий: КегA - Х~1Т)фО либо Im(l - А-1 Г) Ф Е. Но оператор А~'Т компактен; поэтому, как явствует из альтернативы Фредгольма, вторая возможность влечет первую. Отсюда общее ядро операторов Г — А1и1 — Х~ХТ заведомо отлично от нуля; это означает, что А — собственное значение для Т. Далее, пространство соответствующих собственных векторов, очевидно, совпадает с указанным ядром, а потому из теоремы 3.5.2 следует, что оно конечномерно. В силу этой же теоремы А ^ at(T). Осталось показать, что спектр а{Т) не более чем счетен и 0 — его единственная возможная предельная точка. Предположим, что хоть одно из этих утверждений неверно. Тогда существует последовательность А„ точек спектра, сходящаяся к некоему значению в ф0; мы вправе, не теряя общности, считать, что |АП| > в/2 для всех п и все точки Ап различны. Мы уже знаем, что все Ап — собственные значения. Пусть Тхп = А„х„ для хп ф 0, п = 1, 2,...; тогда система хп, как мы помним из линейной алгебры, линейно независима. Положим ?n:=span{a;1,..., хп}; это, очевидно, инвариантное подпространство оператора Т. Возьмем для каждого п > 1, пользуясь леммой о почти перпендикуляре, такой вектор упеЕп, что \\Уп\\ = ! и d(yniEn-\) > !/2- Так как codim? ?„_, = 1, мы получаем уп = р.пхп + zn для некоторых р. € С \ {0} и zn G Еп_,. Отсюда для каждого А = 1,..., га — 1 выполнено равенство Туп - Тук = р,пХпхп + Tz„ - Ту„ = Апу„ - ип, где ип := Xnzn - Tzn + Тук G Еп_х. Поэтому \\Туп - Тук\\ = \Хп\\\уп - А;ЧИ > в/А- Тем самым, Т переводит ограниченное множество {уп \ п е N} в заведомо не сверхограниченное множество, что противоречит компактности оператора Г. >
§ 1. СПЕКТРЫ ОПЕРАТОРОВ И ИХ КЛАССИФИКАЦИЯ 361 А теперь вытащим из мешка наши дежурные примеры конкретных операторов. Каковы, друзья, Ваши спектры? Впрочем, задавая этот вопрос, мы пока ограничимся тем, что лежит более или менее на поверхности. Некоторые вещи, которые доказывать «в лоб» можно уже сейчас, но без особого удовольствия из-за длинных рассуждений, мы получим впоследствии как немедленные приложения результатов общего характера. Упражнение 2. Пусть Т := Т , р. = (д,, р^,...),—диагональный оператор в 1р, 1 < р ^ оо. Тогда <хG^) есть замыкание множества чисел рп, а 0р(Т^) — само это множество. Кроме того, множество о(Т)\а (Т) есть стсB^) при р<оо и стгG^) при р = оо. Наконец (при всех р), <reGJ,) — это множество предельных точек последовательности р. Указание. Положим S := Т — А1. Если значение А отлично от всех рп, то подпространство c^, плотное в 1р при р < оо, лежит в ImE). Если А —предельная точка последовательности р, то норма ||5(j»")|| может быть как угодно мала; при этом в случае 1Ж выполнено неравенство d(f, Im(S')) ^ 1 для ? := A, 1, 1,...). Остальное с учетом упражнений 1.4.3 и 3.5.2 очевидно. Упражнение 3. Пусть (X, р) — измеримое пространство, Т} — оператор умножения на / б ЬХ(Х, р) в Lp(X, р), 1 ^ ^ р ^ оо. Тогда а(ТЛ есть множество /(-Х")ем существенных значений функции / (т. е. таких чисел А, что для любого е > О мера множества {t е X \ \f(t) — А| < е} положительна). Далее, в обозначении Zx := {t е X \ f(t) = А}, выполнено равенство ар(Т}) = {\ \p(Zx)>0}, а множество а(Т,)\о (Tf) есть ac(Tf) при р < оо и ar(Tf) при р = оо. Наконец, если (X, р) — это отрезок [а, Ь] с мерой Лебега, то crc(Tf) — это весь спектр a(Tf). В частности (и это, по-видимому, наиболее поучительный случай), для оператора умножения на независимую переменную в L2[a, b] выполнено равенство a(Tf) = ac(TJ) = ac(Tf) = [a, b]. Указание. Если p(Zx) > 0, то для любой функции g ? е Lp(X,р) \ {0}, равной нулю вне Zx, выполняется равенство Tjg = Xg. Если p(Zx) = 0, то оператор S := Tf - А1 инъекти- вен. Однако если к тому же А е f(X)eii, то, взяв множества Yn:—{teX\\f(t)-X\<l/n} и их характеристические функции х„, мы видим, что 5'(xn/l|Xnll) ~~? О ПРИ п ~у °°. При этом если р < оо, то подпространство U {д е Lр(Х, р) \ g\Y = 0} лежит в ImE) иплотновХр(Х, /х);еслижер=оо, то d(h, Im(S))^ 1 для h(t) = l. Остальное, с учетом упражнений 1.4.4 и 3.5.3, очевидно.
362 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Упражнение 4. Точечный спектр оператора левого сдвига в 1р, 1 < р ^ со, — это D0 при р < оо и всё множество D при р = оо. Остаточный спектр оператора правого сдвига в 1р, 1 ^ р ^ со, — это D0 при 1 < р < оо и весь D при р = 1. При р = оо остаточный спектр правого сдвига содержит D0. Наконец, точечный спектр правого сдвига пуст при всех р. Указание. Если последовательность ? =A,А,А2,...) лежит в 1р, то Т,? = Af. Если же такая последовательность ? корректно задает функционал /{: г/ •—»• 5^ ?пт7„ на /р, то любой вектор из Im (Тт - А1) лежит в ядре этого функционала. Остальное следует из упражнения 1. (Разумеется, все сказанное в упражнениях 2 и 4 об 1р, 1 <р <оо, верно и для Cq — проверьте.) Замечание. Уже из этих упражнений видно, что каждая из возможностей, указанных в пп. (П) и (ш) упражнения 1, действительно может быть реализована (укажите соответствующие примеры). Следующее общее наблюдение порою облегчает жизнь при изучении спектров. Упражнение 5 (усиливающее предложение 1). Пусть для операторов S: Е -»Е и Т: F —> F операторы 5-А1 и Г-д1, A, fi е С, слабо топологически эквивалентны. Тогда А е <тE) тогда и только тогда, когда ц е о{Т), и то же верно с заменой а на ар, ас, аг и <те. Указание. Внимательно посмотрите на диаграмму, участвующую в определении слабой топологической эквивалентности. Вот типичное приложение. Упражнение 6. Пусть Т — любой из операторов сдвига, действующих в 1р, 1р(Ъ) и (при а^О) в L (R); везде 1 ^р ^ оо. Тогда для любого А е Т операторы Г -1 и Т - А1 слабо топологически эквивалентны. Как следствие, множества о(Т), ар(Т), стс(Т), <тг(Т) и сте(Т) либо содержат всё множество Т, либо не содержат ни одной точки из Т. Указание. В случае Tt: lp —» 1р требуемая эквивалентность осуществляется парой диагональных операторов, задаваемых с помощью последовательностей (А,А2,...) и (А2, А3,...). Похожие пары работают для Тг и Ть. В случае оператора Г0: Ьр(Ж) —»Lp(R) нужная пара состоит из операторов умножения на экспоненты вида efc' с параметрами с, подобранными исходя из А и а.
§ 2. НЕМНОГО АЛГЕБРЫ: АЛГЕБРЫ 363 (Что на самом деле происходит с окружностью для каждого конкретного сдвига, мы окончательно выясним в § 3. Впрочем, некоторые вещи нам известны из упражнения 4, и еще кое-что прояснится из следующих двух упражнений.) Упражнение 7*. Остаточный спектр оператора правого сдвига в 1Х также содержит всё множество D. Указание. Для каждого т] е\т(Тт-1) выполнено равенство lim - X) т)к = 0. Как следствие, расстояние от A,1,1, ...)€/„„ до Im(Tr - 1) равно 1. Упражнение 8. Если р = со, то точечный спектр операторов сдвига в lp(Z) и (при афО) в Ьр(Ш) содержит Т. Если р = 1, то остаточный спектр тех же операторов содержит Т. Указание. Если р=1, то множество 1т(Ть — 1) содержится в ядре функционала ? н-» $3 fn< а Im C^—1) — в ядре функционала х у-* J x(t)dt. Дальнейшее очевидно. Упражнение 9°. Точечный спектр оператора сдвига на а € Т в Ьр(Т) содержит все числа а", п е Z. Дальнейшая информация о спектрах конкретных операторов будет сообщена далее (см. упражнения 3.3-6 и 3.9). Впрочем, об интегральных операторах, в силу их компактности, мы уже знаем многое благодаря теореме 1. § 2. Немного алгебры: алгебры Чтобы лучше познать природу и роль спектров, целесообразно разобраться в том, какие их свойства связаны с анализом, а какие имеют чисто алгебраический характер. («Разделить структуры», как говаривал И. М. Гельфанд1* на своем семинаре.) Вначале мы взглянем на спектры с самых общих позиций, с высоты птичьего полета абстрактной алгебры. Определение 1. Пусть А — линейное пространство. Билинейный оператор m: А х А -* А называется умножением, если он, в обозначении аЬ вместо тп(а, Ь), удовлетворяет тождеству '' И. М. Гельфанд (род. 1913 г.) —один из крупнейших математиков современности, наш соотечественник, последние годы живущий в США. Его огромный вклад в науку включает создание теории банаховых алгебр.
364 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ ассоциативности (ab)c = а(Ьс). Линейное пространство, снабженное умножением (говоря дотошно, пара (А, т), состоящая из линейного пространства и заданного в нем умножения), называется комплексной ассоциативной алгеброй или, поскольку других у нас не будет, просто алгеброй. Пользуясь ассоциативностью и расставляя скобки в выражении a, Oj... а„ как нам заблагорассудится, мы можем говорить о произведении любого числа элементов алгебры. Простейший пример алгебры — это, конечно, С, а основной в этих лекциях пример — это пространство В(Е) всех ограниченных операторов в банаховом пространстве Е, снабженное операторной композицией в качестве умножения. Но у алгебраистов — свои любимые игрушки. Самая любимая, которая весьма пригодится и нам, — это алгебра многочленов C[t] от формальной переменной t (С означает, что речь идет о многочленах с комплексными коэффициентами). Множество М„ матриц размера пх п также является алгеброй, чрезвычайно важной как для алгебры, так и для анализа; как перемножаются матрицы, Вы знаете. Еще один поучительный пример — это алгебра С* всех комплекснозначных функций на (произвольном) множестве X, рассматриваемая с поточечным умножением. Элементы а, Ь заданной алгебры называются перестановочными (или коммутирующими), если аЬ = Ьа. Алгебра называется коммутативной, если все ее элементы перестановочны. (Покажите, что алгебра В(Е) коммутативна тогда и только тогда, когда dim Е = 1.) Определение 2. Элемент 1д алгебры А (обозначаемый также просто 1, если нет опасности путаницы) называется единицей этой алгебры, если al = la=a для любого а€ А. Алгебра, обладающая единицей, называется унитальной. Все упомянутые конкретные алгебры, конечно, унитальны; в частности, единицей в В(Е) служит тождественный оператор (отсюда и общее обозначение). Но бывают и алгебры без единицы; такова, например, алгебра матриц вида I V У 1, А € С. Определение 3. Пусть А — унитальная алгебра и а € А. Элемент ajl (соответственно а~1) в А называется левым (правым) обратным к а, если aj*a= 1 (соответственно аа~х = 1). Элемент о-1 называется (просто) обратным к а, если а~,а=аа~1 = 1. Элемент, обладающий обратным, называется обратимым. Предложение 1 (напоминающее предложение 0.5.1). Если у элемента а е. А есть левый обратный ajl и есть правый
§ 2. НЕМНОГО АЛГЕБРЫ: АЛГЕБРЫ 365 обратный а~\ то элемент а обратим и аг1 = ajl = а;'. Как следствие, у элемента алгебры может существовать не более одного обратного. < Достаточно по-разному расставить скобки в выражении ajlaa~l. > Однако может случиться и так, что у элемента алгебры много левых (или правых) обратных, но нет ни одного «настоящего» обратного. Приведите соответствующий пример, взяв за основу, скажем, сдвиги в ^. Предложение 2. Пусть о,,.. .,апе А. Тогда (i) если все они обратимы, то таков же и элемент а,^... ап, (и) если все они перестановочны, то верно и обратное: из обратимости произведения а^.. .ап следует обратимость всех сомножителей. < (i) Очевидно, а~ха^1_, ... а^1 — обратный элемент к а,^ ... а„. (И) Положим Ь :=(а1а2... а„)-1. Тогда в силу перестановочности (Ьо,.. .ak_lak + l.. .an)ak = l и ak(al.. .ak_lak + l.. .anb) = l для всех k = 1,..., п. Остается применить предложение 1. > Обещанный общий взгляд на спектры состоит в следующем. Определение 4. Пусть А — унитальная алгебра. Комплексное число А называется регулярной точкой элемента ае А, если элемент а— XI обратим, и сингулярной точкой этого элемента в противном случае. Множество сингулярных точек элемента а называется спектром этого элемента и обозначается стл(а) или, если алгебра А фиксирована, просто а(а). Мы видим, что спектр ограниченного оператора в банаховом пространстве Е, определенный в предыдущем параграфе, — это в точности его спектр как элемента алгебры В(Е). ЗАМЕЧАНИЕ. Для элементов произвольных, не обязательно унитальных алгебр спектр также может быть определен; это делается с помощью процедуры так называемой унитизации (присоединения единицы); см., например, [56]. Но нам это не понадобится. Какие подмножества комплексной плоскости могут быть спектрами элементов алгебр? ПРИМЕР 1. Спектр элемента алгебры Сх, т. е. спектр заданной на X функции, есть, очевидно, множество значений этой функции. Таким образом, если множество X имеет мощность континуума, то любое непустое подмножество в С есть спектр некоторого элемента рассматриваемой алгебры.
366 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Пример ?. В алгебре С(?) рациональных функций от формальной переменной t каждый элемент, отличный от кратного единице, очевидно, обладает пустым спектром. Сказанное, разумеется, верно и для алгебры мероморфных функций на плоскости (вспомните комплексный анализ), и вообще для любой алгебры, в которой каждый ненулевой элемент обладает обратным. Уже эти примеры показывают, что любое подмножество комплексной плоскости, в том числе и пустое, может выступить в роли спектра элемента алгебры. Забегая в следующий параграф, отметим, что этой вседозволенности, присущей чисто алгебраическим объектам, в функциональном анализе уже не будет. Упражнение 1. Если а и Ь — элементы унитальной алгебры А и элемент о обратим, то а(аЬ) = а(Ьа). Указание. Воспользуйтесь тем, что Ъа — А1 = a-1 (ab — А1 )а. Как уже неоднократно провозглашалось, введя новую структуру — в данном случае алгебры, — необходимо ввести класс отображений, согласованных с этой структурой. Определение 5. Линейный оператор ч>: А —> В между двумя алгебрами называется гомоморфизмом, если ip(ab) = <p(a)(p(b) для всех о,ЬёА. Пусть вдобавок обе алгебры унитальны. Тогда гомоморфизм называется унитальным, если у?Aл) = 1в. Выделим очевидное Предложение 3. Если у. А—*В —унитальныйгомоморфизм и элемент аеА обратим, то таков же и <р(а) е В. < > Алгебры и их гомоморфизмы образуют категорию, обозначаемую Alg. (Ясно, каков там закон композиции и каковы локальные единицы.) Очевидно, изоморфизмы в ALG (мы будем говорить: изоморфизмы алгебр) могут быть охарактеризованы как биективные гомоморфизмы. Классический пример — это изоморфизм между В(Е), dim Е = п,и Мп, сопоставляющий каждому оператору его матрицу в некотором фиксированном базисе. Категория Alg устроена гораздо сложнее, чем Lin и даже Gr. Если Ван любопытно, можете сделать Упражнение 2*. Мономорфизмы в Alg описываются как инъективные гомоморфизмы, однако не всякий эпиморфизм сюръективен; в то же время крайние эпиморфизмы суть в точности сюръективные гомоморфизмы. Крайних мономорфизмов меньше, чем произвольных. Каждое семейство объектов в Alg обладает как произведением, так и копроизведением.
§ 2. НЕМНОГО АЛГЕБРЫ: АЛГЕБРЫ 367 Указание. Вложение in: C[t]-»C(t) является эпиморфизмом и одновременно не крайним мономорфизмом. Произведения, как множества, суть декартовы произведения, а копроизведения — так называемые свободные произведения по образцу свободного произведения групп. Напомним то общее место, что в «категорно оформленных» разделах математики ценную информацию о строении какого-либо объекта доставляет изучение его морфизмов в простейшие или хотя бы «хорошо понятые» объекты данной категории. Для категории LiN подобную роль играют, конечно, функционалы, а для BAN — благодаря теореме Хана — Банаха — ограниченные функционалы. Что касается Alg, то там много пользы приносят следующие классы морфизмов. Определение 6. Гомоморфизм из алгебры А в С называется характером этой алгебры. Гомоморфизм из А в В(Е) называется представлением этой алгебры в банаховом пространстве Е. Поскольку алгебра В(Е) с одномерным пространством Е совпадает, с точностью до изоморфизма алгебр, с С, характеры естественно рассматривать как частный случай представлений. Замечание. Характеры особенно эффективны как средство изучения коммутативных алгебр. Если же алгебра «далека от коммутативной», то для ее исследования характеры, вообще говоря, мало пригодны. (Вы можете проверить, в качестве примера, что у алгебры М„ при п > 1 вообще нет характеров, кроме нулевого.) Фундаментальная роль в изучении некоммутативных алгебр переходит к представлениям. Подробности см., например, [39] или, уже в контексте функционального анализа, [56]. Спектры реагируют на гомоморфизмы следующим образом. Предложение 4. Пусть <р: А —> В — унитальный гомоморфизм между унитальными алгебрами. Тогда для любого элемента аеА выполнено включение ав(<р(а)) С аА(а). <з Если А е С — регулярная точка элемента а, то, в силу предложения 3 элемент ip(a) — XIв — <р(а— А1Д) обратим и, стало быть, А — регулярная точка элемента <р(а). Дальнейшее очевидно. > Разумеется, при гомоморфизме спектр элемента может сохраниться, а может и уменьшиться (приведите примеры). Мы говорили о гомоморфизмах из произвольных алгебр в некоторые стандартные. А теперь рассмотрим важный класс гомоморфизмов из некоторой стандартной алгебры в произвольные.
368 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Определение 7. Пусть p(t) = c0 + cit + .. . + cntn — многочлен (= элемент алгебры C[t]), А —некая унитальная алгебра, аеА. Тогда элемент сЛ +с,а+.. . + спа" еА называется значением многочлена р от а или многочленомр отаи обозначается р(а). Отображение 7р: C[t]—» А, р>->р(а) (очевидно, являющееся унитальным гомоморфизмом), называется полиномиальным исчислением от а в А. (Индекс в обозначении 7Р намекает на то, что у нас появятся и другие «исчисления».) Полиномиальное исчисление весьма похвально себя ведет по отношению к спектрам. Для комплекснозначной функции /, определенной на множестве М С С, мы будем, как обычно, кратко обозначать множество {/(А) | А е М} через /(М). В частности, говоря о множестве р(М), р е C[t], мы рассматриваем р как соответствующую функцию комплексной переменной. Теорема 1 (закон отображения спектров для полиномиального исчисления). Пусть А — унитальная алгебра, аеА — ее элемент с непустым спектром и реC[t]. Тогда а(р(а)) = р(а(а)). < Возьмем р е С. Согласно основной теореме алгебры многочлен p(t) — р. разлагается в произведение c(t - А,)... (t - А„), где А,,...А„— корни этого многочлена, п— его степень и с ф 0. Из гомоморфности полиномиального исчисления очевидным образом следует, что элемент р(а) — /Л разлагается в произведение с(а— А,1).. .(а—Ап1). Поскольку все элементы о—Afcl, k = l,..., п, перестановочны, предложение 2 обеспечивает то, что обратимость элемента р(а) — /Л эквивалентна одновременной обратимости всех а- АЛ. Отсюда р € ст(р(а)) тогда и только тогда, когда Xk е <г(а) хотя бы для одного из А;, т. е. когда А е а(а) хотя бы для одного корня А многочлена p(t) — р. Последнее условие, разумеется, означает в точности, что р е р(а(а)). о Вот простейшие примеры того, как эта теорема работает. Элемент о какой-либо алгебры называется идемпотентным, если а2 = а, и нильпотентным (говорят также: нульстепенным), если а" = 0 для некоторого п. Предложение б. Пусть А — унитальная алгебра, аеА. Тогда (i) если элемент а идемпотентен и отличен от 0 и 1, то а(а) = {0,1}; (и) если элемент а нильпотентен, то а(а) = {0}.
§ 2. НЕМНОГО АЛГЕБРЫ: АЛГЕБРЫ 369 < (i) Поскольку р(а)=0 для p(t):—t2-t, для такого р выполнено а(р(а)) = {0}. Поэтому согласно теореме 1 из условия А 6 <т(а) следует равенство А2 - А =0, и потому сг(а) не может содержать других чисел, кроме 0 и 1. При этом из того, что а(а— 1) = 0 и оба сомножителя отличны от нуля, очевидным образом следует, что оба они не обратимы. Дальнейшее очевидно. (и) Теперь уже р(а) = 0 для другого многочлена, а именно p(t):= :=tn. Поэтому в силу той же теоремы из условия А е а(а) следует, что А" = 0. > Мы получили, в частности, новое и почти мгновенное доказательство предложения 1.4 о строении спектра проектора. Только что мы брали от элементов алгебры многочлены, а теперь, говоря неформально, возьмем от них функцию 1/i: Предложение 6. Пусть а —обратимый элемент униталь- ной алгебры А. Тогда ст(а~') = {А-11 А е сг(а)}. (Иными словами, а(а-') = /Иа)), где/(А):= 1/А.) < Очевидно, о-(а-1), как и а(а), не содержит 0. Далее, для А ф ф0 выполнено равенство а-1 - А1 = -Аа~'(о- А_11), и поэтому, с учетом предложения 2, элемент а-1 - А1 обратим тогда и только тогда, когда таков же и а- А~Ч. Дальнейшее очевидно. > Теорему 1 и предложение 6 можно собрать воедино следующим образом. Упражнение 3. Пусть r(t) = p(t)/q(t), p,qeC[t], — рациональная функция от формальной переменной * (причем многочлены ри? взаимно просты), о —элемент унитальной алгебры А, спектр которого непуст и не содержит полюсов функции r(t) (= корней многочлена g(t)). Тогда для (существующего в силу теоремы 1) элемента г(а) := р(а)/д(о) (значения рациональной функции г от а) выполнено равенство <т(г(а)) = г(<т(а)), где в правой части равенства г рассмотрена как функция комплексного переменного. Замечание. Пусть а — элемент унитальной алгебры А. Тогда, как легко проверить, подмножество C„(t) в C(t), состоящее из рациональных функций с полюсами вне а(о), является алгеброй относительно тех же операций, что C(t). Сопоставляя каждому г е Ca(t) элемент r(a) е А, рассмотренный в предыдущем упражнении, мы, очевидно, получим гомоморфизм 7r: Ca(t)-* А —так называемое рациональное исчисление от элемента а, продолжающее (как отображение) полиномиальное исчисление. Смысл упражнения 3 — в том, что это более общее исчисление также удовлетворяет закону отображения спектров. Рациональное исчисление — это, пожалуй, самое общее «функциональное исчисление» в рамках чистой алгебры. Перейдя в следующем параграфе из алгебры в анализ, мы сможем говорить о гораздо более широком классе функций от элементов (уже не «чистых») алгебр. Введем еще несколько общих понятий. Определение 8. Пусть А — алгебра. Подпространство В в А называется подалгеброй в А, если из того, что а,ЬеВ следует, что
370 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ abeB. Подпространство I ъ А называется двусторонним идеалом или просто идеалом в А, если из условия а б J следует, что аЬ, Ьа€ Е I для любого b е А. Разумеется, всякая подалгебра В в А сама является алгеброй относительно умножения, очевидным образом унаследованного из А. Далее, каждый идеал заведомо является подалгеброй. Наконец, если речь идет об унитальной алгебре, то из определения идеала следует, что 1 е / тогда и только тогда, когда 1 = А. Поэтому если алгебра А не одномерна, то span{l} — это простейший пример подалгебры, не являющейся идеалом. Во всякой коммутативной алгебре А подмножество {аа^ | а€ А}, где а^ — фиксированный элемент в А, есть идеал. (Покажите, пользуясь алгоритмом деления с остатком, что в C[t] других идеалов нет.) Если X — произвольное множество, a Y — его подмножество, то множество {/ е Сх | f\Y = 0} является идеалом в С*. (Но в случае, когда X бесконечно, есть и другие идеалы; попробуйте их найти.) В классическом функциональном анализе наиболее актуален ПРИМЕР 3. Множество К(Е), состоящее, как мы помним, из компактных операторов в банаховом пространстве Е, является идеалом в алгебре В(Е) всех ограниченных операторов в Е. Это просто «высказанное по-ученому» предложение 3.3.5. Обратим также внимание на множество К.+(Е) := {А1 + Г | Т е К(Е)}. Это, разумеется, подалгебра в В(Е) (подалгебра компактных возмущений скалярных операторов). Как уже обсуждалось в § 3.5, для всех конкретных банаховых пространств, упоминавшихся в этих лекциях, К.+(Е) строго меньше, чем В(Е), однако вопрос о том, всегда ли это так, представляет собой известную открытую проблему. Но мы отвлеклись. Вернемся в чистую алгебру и введем еще одно нужное понятие. Пусть А — алгебра, а / — ее идеал; рассмотрим факторпро- странство А/1. Возьмем a, b € А и произвольные элементы d, Ь' в классах смежности соответственно а +1 и Ь +1. Тогда элемент аЬ — cib' — {a— d)b + d(b — b') принадлежит /; это значит, что класс смежности по / произведения ab не меняется при замене а и b на другие представители их классов смежности. Тем самым, сопоставив паре (a + I, b + I) класс смежности ab + I, мы корректно определим отображение из A/I х А/1 в А/1, очевидно, обладающие свойствами умножения. Определение 9. Пространство А/1, снабженное указанным умножением, называется факпгоралгеброй алгебры А по идеалу I.
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 371 Очевидно, естественная проекция рг: А —> А/1— это гомоморфизм алгебр. Кроме того, если алгебра А унитальна, то такова же и факторалгебра А/1: ее единицей служит 1А +1. Наиболее важный для этих лекций пример факторалгебры — это В(Е)/К(Е), где Е — банахово пространство. Такая алгебра называется алгеброй Калкина и обозначается С{Е). Можно догадаться, что, изучая эту алгебру, мы изучаем свойства операторов с точностью до компактных возмущений. В частности, теорема Никольского для случая Е = F допускает следующую очевидную перефразировку. Предложение 7. Оператор S е В(Е) фредгольмов тогда и только тогда, когда его класс смежности S +!С(Е) является обратимым элементом алгебры С(Е). < > Отсюда, в свою очередь, немедленно вытекает Следствие 1. Существенный спектр оператора Т е В(Е) — это в точности спектр класса смежности Т + К.(Е) как элемента алгебры С(Е). § 3. Банаховы алгебры и спектры их элементов. Еще немного о фредгольмовости Побывав в несколько разреженной атмосфере абстрактной алгебры, посмотрим, что происходит «этажом ниже». Теперь мы взглянем на операторную алгебру В(Е) уже не с чисто алгебраических позиций, а с позиций, как выражался фон Нойманн, «абстрактного анализа». Роль фундамента теперь переходит к следующей структуре. Определение 1. Банахово пространство А, снабженное умножением, называется банаховой алгеброй, если это умножение связано с нормой неравенством ИК1И1Н1- Указанное неравенство называется мультипликативным неравенством (для нормы). Мы видим, в частности, что билинейный оператор умножения заведомо ограничен, к тому же его норма не превосходит 1. Поэтому, как специальный случай предложения 1.4.11, мы получаем Предложение 1. Если в банаховой алгебре последовательность ап сходится к а, а Ьп —к Ь, то последовательность апЬп сходится к ab. < >
372 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ ЗАМЕЧАНИЕ. Из сделанного Вами упражнения 1.4.7 автоматически следует, что билинейный оператор умножения непрерывен относительно тихоновской топологии в А х А. Но мы в дальнейшем, ссылаясь на непрерывность умножения, будем иметь в виду именно предложение 1. На самом деле практически та же структура банаховой алгебры возникает, если потребовать значительно менее тесную с виду связь между умножением и нормой: Упражнение 1. Пусть А — банахово пространство, снабженное умножением, которое, как билинейный оператор, раздельно непрерывно. Тогда в А можно ввести норму || • ||', эквивалентную исходной и такую, что (А, || • ||') — банахова алгебра. Более того, если алгебра А унитальна, то эту норму можно выбрать так, что Р11' = 1- Указание. Воспользуйтесь теоремой 2.4.5. В анализе есть три основных источника банаховых алгебр: теория операторов, теория функций и гармонический анализ. (Вы уже что- то знаете о первых двух науках, а если Вам рассказывали о рядах Фурье, то и о наиболее традиционном разделе третьей.) ПРИМЕР 1. Главные банаховы алгебры теории операторов — это, как Вы догадались, В(Е) и К.(Е); они наиболее изучены и важны для приложений в случае, когда наше пространство — гильбертово. Напомним, что обе алгебры рассматриваются относительного операторной нормы и композиции в качестве умножения. Пример 2 (главная функциональная банахова алгебра). Это банахово пространство С(С1), где О — компакт (см. §3.1), снабженное поточечным умножением. Чуть более общий пример — это банахова алгебра C0(fi), где Г2 — локально компактное пространство (ср. там же). Замечание. К алгебрам из этих двух примеров (прежде всего, к С0(П) и к В(Н), где Я — гильбертово пространство) следует отнестись с особым уважением. Дело в том, что они являются областями значений двух канонических гомоморфизмов — «преобразования Гельфанда» и «универсального представления», играющих фундаментальную роль в общей теории банаховых алгебр (ср. [56, с. 194]). Впрочем, кое-что о них будет сказано ближе к концу этого параграфа и в § 6.3. Пример 3. Банахово пространство 1Ж и, более общо, L^X, ц) также являются банаховыми алгебрами относительно поточечного (для 1Ж лучше сказать: покоординатного) умножения. Говоря о L^X, ц), мы имеем в виду поточечное умножение представителей соответствующих классов эквивалентности; разумеется, класс эквивалентности произведения не зависит от выбора таких представителей.
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 373 (На самом деле эти алгебры — это частный случай алгебр из примера 2. Смысл подобного странного заявления выяснится позже, в § 6.3.) ПРИМЕР 4. Пространство Сп[а,Ь] (ср. пример 1.1.7) — это банахова алгебра относительно нормы 11*11':= Ео h max{xW(t)\a^t^b} (проверьте, что она эквивалентна норме, указанной в упомянутом примере) и поточечного умножения. В последней главе наших лекций будут обсуждены типичные банаховы алгебры гармонического анализа — банаховы пространства LX(G), где G:=Z, R или Т, снабженные так называемым сверточным умножением. Сейчас мы лишь укажем самую простую из них. Пример 5 (одно из обличий винеровой алгебры). Банахово пространство J,(Z) является банаховой алгеброй относительно умножения (?*т])п:= ? ?kVn-k- Здесь произведение элементов f и т) обозначается ? * т\ и называется сверткой. Проверьте, что Ё If/t^n-tl ^ IICIIilMli. так что свертка действительно лежит О другом обличье винеровой алгебры в виде некоторой алгебры непрерывных функций мы расскажем нашему отличнику в той же гл. 7. Подобно банаховым пространствам, банаховы алгебры являются объектами двух естественно возникающих категорий. В одной из них морфизмами объявлены все ограниченные (как операторы) гомоморфизмы, а в другой — только сжимающие гомоморфизмы. В изучение этих категорий мы углубляться не станем. Необходимо только отметить, что изоморфизмы между объектами первой категории, которые мы будем называть топологическими изоморфизмами банаховых алгебр, — это, очевидно, ограниченные гомоморфизмы, обладающие ограниченными обратными; эти же морфизмы в силу теоремы Банаха можно охарактеризовать и просто как биективные ограниченные гомоморфизмы. Изоморфизмы во второй категории, называемые изометрическими изоморфизмами банаховых алгебр, — это биективные изометрические (как операторы) гомоморфизмы.
374 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ А вот и первый содержательный результат теории банаховых алгебр, дающий представление об одной из ее своеобразных черт. Оказывается, в определенных ситуациях непрерывность (= ограниченность) операторов между банаховыми алгебрами может быть выведена из их чисто алгебраических свойств. Вот древнейший пример подобной «теоремы об автоматической непрерывности». Предложение 2. Все характеры банаховых алгебр суть сжимающие операторы. < Пусть, напротив, нашелся такой характер х- А -+С, что х(а) = = 1 для некоторого а, где ||а|| < 1. Тогда вследствие оценки ||а"|| ^ < ||а||" и полноты пространства А ряд ? а" сходится к некоему элементу Ье А. Из непрерывности умножения следует, что а+аЬ = = а+ lim aJ2 ak = b. Но тогда 1 + х(Ь) = х(а +ab) = x(b), чего, конечно, не бывает. > Явлению автоматической непрерывности посвящена целая книга [73], где Вы найдете гораздо более глубокие результаты. Нашему отличнику мы предложим другой яркий результат подобного рода в § 6.3. Среди подалгебр и идеалов банаховых алгебр наибольший интерес вызывают, естественно, замкнутые. Таким, например, является идеал. К.(Е) в В(Е) (см. предложение 3.3.4). Предложение 3. Пусть I — замкнутый идеал банаховой алгебры А. Тогда факторалгебра А/1, снабженная факторнор- мой, —это банахова алгебра. < Наша задача — проверить мультипликативное неравенство. Пусть а,ЬеА/1. Тогда ||й|| = inf{||c|| | с € аЪ} ^ т\{\\аЬ\\ \ а? о, Ь € Ь) ^ СЫ{||а||||Ь|||а€3;ЬеЬ} = ||31|||Ь||. > В частности, мы видим, что алгебра Калкина (см. конец предыдущего параграфа) является банаховой алгеброй относительно факторнормы. Посмотрим, как себя ведут обратимые элементы банаховых алгебр. Если А — унитальная алгебра, то множество ее обратимых элементов мы обозначим через Inv(A). В силу предложения 2.2 это группа относительно унаследованного из А умножения. Через inv: Inv(.A) —»Inv(i4) мы обозначим отображение at-*a~l.
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 375 Предложение 4. Пусть А — унитальная банахова алгебра. Тогда (i) для каждого аеА, ||о|| < 1, элемент 1 - а обратим, и его обратный представим в виде суммы рядаХ) A - а)-1 = 1 + ? а"; (и) отображение inv непрерывно el. n=1 <з (i) Рассмотрим формальный ряд 1 + X) а*. Поскольку ||а*|| ^ * = i ^ ||а||*, «признак Вейерштрасса» обеспечивает сходимость этого ряда к некоему элементу be А. Пусть Ьп — частичные суммы нашего ряда; тогда из очевидного равенства A — а)Ьп = Ь„A — а) = 1 — an + 1 и непрерывности умножения вытекает, что (l-a)b = ft(l-a) = l. (ii) Из вида ряда К. Нойманна следует, что при ||а|| < 1 выполняется оценка ||l-(l-a)->|KEI|anII^EII«ir = T^ii- Отсюда следует, что для Ь:=1 -а выполнено равенство lim inv (Ь) = = lim(l - a)-1 = 1 = inv A). > Предложение б. Пусть А — унитальная банахова алгебра. Тогда (i) группа Inv (А) —ее открытое подмножество; (ii) отображение inv непрерывно на всей группе Inv (А). < (i) Пусть a е Inv (А). Тогда для любого такого b е А, что || 61| < ||а"'||-1, в силу мультипликативного неравенства выполнено неравенство ||а"'Ь|| < 1. Отсюда, с учетом предложения 4 (i) мы получаем а+ b = a(l + о-16) € Inv (А). Тем самым, все множество U(a, г) лежит в Inv (А) при г = ||а_1||_|. (ii) Зададим е > 0. В силу предложения 4 (ii) существует такое 6 > 0, что для любого с € А, где ||с|| < 6, выполнены условия 1 — с е elnv(A) и ||A -с)~1 - 1|| < е/||а_1||. Отсюда если элемент Ь таков, что ||6|| < <5/||а_1|| и, стало быть, ||а-1Ь|| < 6, то ||(а_ Ь)->-о-Ч| = ||(аA-а-'Ь))-'-а-Ч| = ||A-а-'Ь)-'а-'-а-'Н = ||(A-а-'Ь)-'-1)а-'||^||A-а->Ь)->-1||||а-Ч|<||а-Ч|(е/||а-Ч|) = е. Дальнейшее очевидно. е> Посмотрим, как эти факты сказываются на поведении спектров. Мы помним, что спектром элемента абстрактной алгебры может Этот ряд называется рядом К. Нойманна.
376 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ быть любое подмножество в С. В контексте банаховых алгебр картина иная. Теорема 1. Пусть А — унитальная банахова алгебра и о е ЕА. Тогда и (а)—компактное (= ограниченное и замкнутое) множество, лежащее в замкнутом круге {z е С | \z\ ^ ||а||}. < Наша задача — проверить, что множество регулярных точек элемента а содержит все точки А, |А| > ||а||, и что оно открыто. Первое обеспечено тем, что для указанных значений А элемент 1 - А"'а, в силу предложения 4 (i), обратим, а значит, обратим и элемент а- А1 =-АA - А_1а). Второе следует из того, что обратимость элемента а - А1 влечет обратимость достаточно близких к нему элементов нашей алгебры (предложение 5 (i)) и, в частности, всех элементов а — /Л для значений ц, достаточно близких к А. > ПРИМЕР 6. Спектр элемента / алгебры С(?2) есть, очевидно, /(fi), т. е. множество значений функции /. В частности, в алгебре С[а, Ь], о, Ь е R, спектр функции t i-> t (независимой переменной) есть сам отрезок [а, Ь]. Именно этот специальный случай сыграет важную роль при изложении в гл. 6 кусочков спектральной теории. Предложение 6. Пусть а —обратимый элемент униталь- ной банаховой алгебры А, и к тому же такой, что \\а\\ < 1 и || о-11| < 1. Тогда его спектр содержится в единичной окружности. < В силу предыдущей теоремы ст(а), u(o"')cD. В то же время, согласно предложению 2.6 мы получаем, что А € о{а~х) тогда и только тогда, когда А-1 е ст(а). Дальнейшее очевидно. > Следствие 1. Пусть Т —оператор в банаховом пространстве. Тогда если это изометрический изоморфизм (в частности, если это унитарный оператор в гильбертовом пространстве), то сг(Г) с Т. Однако еще более важные вещи будут следовать из того, что спектр элемента банаховой алгебры не может быть пустым. Чтобы в этом убедиться, призовем на помощь комплексный анализ. Везде далее, пока не оговорено обратное, А — унитальная банахова алгебра, а — ее фиксированный элемент, Reg (о) — множество его регулярных точек (т. е. С\а(а)). Из компактности спектра ст(о) следует, что Reg (а) — открытое подмножество в С, содержащее окрестность бесконечно удаленной точки. Для A eReg(a) положим R(X) := (a- А1)-1. Из предложения 5 (ii) очевидным образом
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 377 следует, что отображение R: Reg(a)—> A, A t-+Д(А) (называемое резольвентной функцией элемента а), непрерывно. Предложение 7 (тождество Гильберта). Для любых A, ц е € Reg (а) выполнено равенство Л(А)-Л(/х) = (А-м)Л(м)Л(А). < Умножая оба сравниваемых элемента слева на а— /Л и справа на а- XI, мы получаем один и тот же элемент (А - цI. t> Предложение 8. Для любого ограниченного функционала /: А —>С функция wf: Reg(a)—»С, А >->/(Д(А)), голоморфна. < Зафиксируем A0eReg(a); тогда из тождества Гильберта следует, что для всех А е Reg (а) выполнено равенство В силу непрерывности отображений R и / правая часть имеет предел при А —> А0, а именно /(Д(А0J). Мы проверили определение голоморфности по Риману. > Теорема 2. Спектр любого элемента а унитальной банаховой алгебры — непустое подмножество в С. < Пусть, напротив, а(а) = 0, т. е., иными словами, Reg (о) = С. Тогда юДА) — целая аналитическая функция для любого / е А*. Из непрерывности отображения inv в 1 следует, что lim R(X) = = lim(-A-1(l -A-1a)_1) = 0, откуда, в частности, lim шДА) = 0. Таким образом, функция wf ограничена и по теореме Лиувилля является постоянной. Отсюда wf(X) = 0. Итак, для любых А е С и / е А* выполняется равенство /(Д(А)) = 0. Поскольку функционал / е А' произволен, из теоремы 1.6.3 следует, что Д(А) = 0. Это противоречит тому, что обратимые элементы любой алгебры заведомо отличны от нуля. > Если в теоремах 1 и 2 положить А — В{Е), а также, с учетом следствия 2.1, Л =С(Е), мы немедленно получим Следствие 2. Как спектр, так и существенный спектр любого ограниченного оператора в банаховом пространстве — непустое компактное множество. Заметим, что кроме требований компактности и непустоты никаких других ограничений на поведение спектра произвольного элемента банаховой алгебры уже нет.
378 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Упражнение 2. Любое непустое компактное множество К с. С есть спектр некоторого элемента унитальнои банаховой алгебры. Указание. Спектр функции w(z) — z как элемента алгебры С(К) есть К. То же верно для спектра надлежащим образом подобранного диагонального оператора в 1р (см. упражнение 1.2). Мы подошли к теореме, лежащей в основе большинства результатов всей теории банаховых алгебр. (Но в этом Вы убедитесь, читая другие книги.) Теорема 3 (Гельфанд — Мазур). Пусть А — уншпальная банахова алгебра, являющаяся телом (иными словами, такая, что любой ее ненулевой элемент обратим). Тогда А совпадает, с точностью до изоморфизма алгебр, с полем С. <i В силу предыдущей теоремы, для любого а € А есть хотя бы одно такое А е С, что элемент а — А1 не обратим. Поскольку А — тело, это значит, что а= А1. Отсюда А = {А 11 А е С}. Дальнейшее очевидно. > В этом месте нашего повествования мы предлагаем Вам отвлечься от фактов общего характера и, в качестве первых дивидендов, продвинуться значительно дальше в изучении спектров наших конкретных операторов. Упражнение 3. (Ср. упражнения 1.4 и 1.7.) Спектр операторов как левого, так и правого сдвига в 1р, 1 ^ р < оо, а также в с^, есть D. Более подробно, (i) в случае 1р, 1 <р < оо, и <% выполняются равенства ap(Tt) = = аг(ТТ)=№,ас{Т1) = ос(Тг) = Тистг(Т1) = ар(ТГ) = 0; (и) в случае J, выполняются равенства сгрB]) = Ю>°, ас(Т,) = Т, <хР(Тг) = В и aT(Tt) = ар(Тт) = ас(Тт) = <3\ (Ш) в случае k выполняются равенства a (Tt) = aT(Tr) = D, и *.B]) = <тс(Гр) = <тгC;) = ар(Тт) = 0. Указание. Местоположение всего спектра следует из упражнения 1.4 вкупе с теоремой 1. Для тех случаев, когда речь идет о непрерывном спектре, точки множества Т не являются собственными значениями ни для рассматриваемого оператора, ни для его сопряженного. Поэтому работает упражнение 1.1 (i). Упражнение 4. (Ср. упражнение 1.8.) Для всех I, 1 ^.р ^сх, спектр операторов Ть: lp(Z)^lp(Z) и Та: Lp(R)-+Lp(K), афО, есть Т. Более подробно, при 1 < р < оо весь спектр — непрерывный, при р = 1 — остаточный и при р = оо — точечный.
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 379 Указание. Местоположение спектра следует из его непустоты, следствия 1 и упражнения 1.6. То же упражнение позволяет ограничиться рассмотрением точки 1 е Т. Невооруженным глазом видно, что 1 — собственное значение наших операторов только при р = оо; вместе с упражнениями 1.1 и 1.8 это дает классификацию спектра при 1 ^ р < со. Упражнение 5. Существенный спектр операторов Т„ Tr: I -> - 1р, Т„: lp(Z) -> lp(Z) и Г0: L„(R) -+ Lp(R), а^О (везде U Р ^ оо) есть Т. Указание. Все прояснится на примере оператора 7]. Возьмем A 6D0 и рассмотрим в алгебре Калкина СAр) равенство ((T,-\i)+!C(ip))(Tr + K:(ip)) = (i+ic{ip))-\(Tr+JC(ip)). В силу предложения 4 (i) в правой части стоит обратимый элемент. Поэтому предложение 2.7 с учетом фредгольмовости оператора Тт дает фредгольмовость оператора Т, — XI. Отсюда CTe(ij)CT, и остается воспользоваться непустотой существенного спектра и упражнением 1.6. Упражнение 6. (Ср. упражнение 1.9.) Спектр оператора сдвига нааеТв Lp(T) таков: (i) если a=e2"m/n, где m и п — взаимно простые натуральные числа, то а(Та) = ар(Та) = {е2**'п \ к =0, 1,..., п - 1}; (И) в остальных случаях а(Та) = Т. Указание. В первом случае ввиду равенства Т" — 1 применима теорема 2.1, а во втором — теорема 1. ЗАМЕЧАНИЕ. На самом деле в «гильбертовом» случае р = 2 каждый из фигурирующих в этих трех упражнениях операторов сдвига (кроме 2J) унитарно эквивалентен некоторому оператору умножения на функцию (с виду столь на него не похожему). Если бы мы это уже знали, то мы могли бы немедленно получить соответствующие факты о спектрах как простые частные случаи упражнения 1.3. Осуществляют эти унитарные эквивалентности еще не известные нам операторы Фурье, которые будут рассмотрены в нашей последней главе (см. предложение 7.4.5). Просвещенному читателю мы предложим еще одно любопытное приложение теоремы о свойствах спектра. Упражнение 7 (о сложности квантовой механики). Ни в одной банаховой алгебре нет такой пары элементов о, Ъ, чтобы для некоторого А 6 С, А Ф 0, было выполнено равенство аЬ - Ьа = А1. Указание. Заменяя, если понадобится, она a+(||a||+ 1I, можно считать, что элемент а обратим. Тогда с учетом упражнения 2.1 мы получаем, что ст(аЬ) = <т(а6)+
380 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ +А. Но подмножество в С, не меняющееся при сдвиге на А ^0, либо пусто, либо не ограничено. При чем здесь квантовая механика? Как частный случай полученного результата, в гильбертовом, пространстве нет такой пары ограниченных операторов S и Т, которая удовлетворяла бы «коммутационному соотношению* ST - TS = t'ftl, где h — постоянная Планка. Но именно такая пара должна фигурировать в основных известных математических моделях квантовой механики (давая, в частности, математическую картину принципа неопределенности Гейзен- берга). Вот и приходится искать нужные пары среди неограниченных операторов, с которыми намного труднее работать, чем с ограниченными (ср. эпиграф к гл. VIII в [42]). Теперь введем важную числовую характеристику спектра. Определение 2. Пусть а — элемент унитальной банаховой алгебры А. Его спектральным радиусом называется число г(а):=тах{|А||Аест(а)}. Мы видим, что спектральный радиус определен в чисто алгебраических терминах, независимо от нормы. Тем не менее он допускает явное выражение в ее терминах. Теорема 4 (формула спектрального радиуса). Для любого а из предыдущего определения выполнено равенство г(а)=Нт МЯ < Положим U := {А | |А| >г(а)} и V := {А | |А| > ||а||}; в силу теоремы 1 мы получаем, что V С U. Произвольно возьмем / е А*. Ввиду предложения 8 функция wf голоморфна в множестве U и, стало быть, в V. Но согласно предложению 4 (i) для каждого А е V выполнено равенство Д(А) = -А-'A-А-1а)-1 = - ? А-<* + '>а*, откуда Wj разлагается в V в ряд Лорана - ]Г) Ач* + 1)/(а*). Но тогда на основании известных свойств голоморфных функций этот же ряд Лорана представляет нашу функцию и в 17. Поэтому, в частности, для любого А е U выполнено равенство lim A_<"+l)/(an)=0. Теперь зафиксируем А е U и «отпустим» функционал /. Из последнего равенства с учетом предложения 2.4.5 вытекает, что для некоторого С>0 и всех п выполнено неравенство ||A_(n + 1)an|| ^ С, а значит, У||ап|| ^ |А|^/С|А|. Переходя к верхнему пределу, мы видим, что lim У||а"|| ^ |А|. Поскольку речь идет о любом А, А > г(а), мы получаем, что ШуЩ\^г(а). A)
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 381 А теперь возьмем А 6ст(а); тогда, объединяя теорему 2.1 (рассмотренную для р(*) — t") с теоремой 1, мы получаем, что |А|"< ||а"|| и, следовательно, |А| ^ \/j|a"|| для любого п. Переходя к нижнему пределу, мы получаем, ввиду определения спектрального радиуса, что Mm VlHf^r(o). B) Остается объединить неравенства A) и B). > ЗАМЕЧАНИЕ. Формула спектрального радиуса может быть получена и без применения голоморфных функций; см. [69, с. 22-23]. Обсуждаемая формула вызывает интерес к следующему классу элементов банаховых алгебр, поведение которых напоминает поведение нильпотентных элементов абстрактных алгебр. Определение 3. Элемент а банаховой алгебры называется обобщенным нульстепенным (говорят также: топологически нильпотентным или квазинильпотентным), если lim \/||a"||=0. Разумеется, указанное условие эквивалентно тому, что последовательность ||а" || убывает быстрее е~ап для любой константы а >0. Из формулы спектрального радиуса сразу вытекает Следствие 3. Обобщенные нульстепенные элементы банаховых алгебр — это в точности те, у которых спектр состоит из одного нуля. Упражнение 8. Найти спектр обобщенного нульстепенного элемента, не прибегая к такому сильному средству, как формула спектрального радиуса. +00 Указание. При А ^0 ряд ? A_<n + 1>an сходится к элементу, обратному к А1 — а. п=0 Сделанные наблюдения позволяют узнать, каков спектр еще одного нашего старого знакомого. Упражнение 9. Оператор неопределенного интегрирования Г (в L,[0,1], L2[0,1] и С[0, 1]; см. пример 1.3.5) —обобщенный нульстепенный и, как следствие, его спектр состоит из одного нуля. То же верно и для оператора Вольтерра в L2[a, b] (см. пример 1.3.6) с существенно ограниченной производящей функцией K(s, t). Как следствие, при такой функции К интегральное уравнение ( K(s, T)x(r)dT - Xx(s) = y(s) (так называемое интегральное уравнение Вольтерра; ср. инте-
382 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ тральное уравнение Фредгольма из § 3.5) при любом А 6 С \ {0} и любой правой части у е Ь2[а, Ь] имеет в L2[a, Ь] единственное решение. Указание. Пусть Г — оператор неопределенного интегрирования. Тогда для любого х из единичного шара соответствующего функционального пространства Тп + 1х — это непрерывная функция, удовлетворяющая оценке |T" + 1x(t)| < tn/n\, t € [0,1]. ЗАМЕЧАНИЕ. Указанный результат справедлив и для операторов Вольтерра с произвольной квадратично интегрируемой производящей функцией. Но доказать это гораздо труднее (см., например, [54, задача 147]). Напомним, что от любого элемента абстрактной алгебры можно «брать многочлены». При переходе от чистых алгебр к банаховым наши возможности расширяются: от их элементов можно уже «брать некоторые голоморфные функции». Для нужд наших лекций хватит целых функций. Рассмотрим множество 0(U) голоморфных функций, определенных в области U комплексной плоскости и условимся писать О вместо 0{С). Нам уже известно, что 0{U) и, в частности, О — это полинормированное и, как следствие, топологическое пространство (см. § 4.1); но это множество, разумеется, есть и алгебра относительно поточечных операций. При этом обе структуры, очевидно, согласованы. Предложение 9. Если последовательность v„ сходится к v, a wn—Kw в O(U) (т. е. «сходится по-вейерштрассовски», см. там же), то последовательность vnwn сходится к vw. < > Теперь зафиксируем унитальную банахову алгебру А и ее эле- мент а. Пусть w: С—>С— целая голоморфная функция, Yl ckzk — ее ряд Тейлора. Тогда числовой ряд ^ |cfc|||a||* сходится, и это, в силу оценки ||a"|| ^ ||а|| и признака Вейерштрасса, гарантирует сходимость ряда X) с*а* в банаховом пространстве А. Сумму этого *=о ряда мы обозначим через w(a). Определение 4. Элемент w(a) € А называется значением целой функции w от а. Отображение 7е: О—* A, w у-* w(a), называется цельш голоморфным или просто целым исчислением от а.
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 383 В частности, мы вправе говорить об элементе ехр(а) (обозначаемом также е") или, скажем, элементе sin(a): они определены как %(w), где в первом случае в качестве w е О взята функция exp(z), а во втором — sin(z). Заметим, что известная нам алгебра (формальных) многочленов является, с точностью до изоморфизма алгебр, подалгеброй в О, состоящей из «многочленов как функций». Предложение 10. Целое исчисление (от любого о) — это непрерывный унитальный гомоморфизм алгебр, продолжающий полиномиальное исчисление. < Прежде всего, ясно, что % — линейный оператор. Далее, пусть К с С — круг с центром в нуле и радиусом г > ||о||. На основании классического неравенства Коши (см., например, [61, с. 111]) для любой функции w е О, w(z) = J2 cnzn, выполнено неравенство kl ^ J1?lk Отсюда п=0 1М«)П ^ | J>na"|| < 2 КИНГ ^ С|М|Х> где С := ? Щ-. Поэтому в силу теоремы 4.1.1 % — непрерывный оператор. Пусть теперь функции го,, го2 б О представимы рядами Тейлора 1С с*г* и !С ^tz*- Рассмотрим частичные суммы рп := 53 с*г* 4=0 „ *=0 *=0 и qn := X) dkzk, п е N. Поскольку, как мы знаем, полиномиальное исчисление — это гомоморфизм, (pnq„)(a) = pn(a)qn(a). Далее, последовательность рп сходится в О (т. е. по-вейерштрассовски) к го,, qn — к щ и, как следствие, pnqn — к го,гу2 (предложение 9). Поэтому в силу непрерывности отображения го н+ w(a) мы получаем, что lim pn(a) = wl(a), lim gn(a) = iOj(a) и lim (pngn)(a) = (io,iUj)(a). Но умножение в А также непрерывно (предложение 1); поэтому lim pn(a)qn(a) — wl(a)w2(a). Дальнейшее очевидно. t> Впоследствии (§ 6.2) нам очень облегчит жизнь тот частный случай этого утверждения, который соответствует подстановке ™,(z):=exp(z) и w2(z) := ехр(--г). Следствие 4. Для любого а элемент ехр(а) обратим, и его обратным является ехр(—а). Целое исчисление ведет себя по отношению к спектрам ничуть не хуже, чем полиномиальное.
384 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Предложение 11. Для любой функции w е О выполнено включение w(a(a)) С ст(ги(а)). < Пусть А е ет(а). Положим w0(z) := w(z) - w(X) е О. В силу условия ги0(А) = 0 эта функция представима как (г - A)iu,(z) для некой функции го, е О. Отсюда в силу гомоморфности целого исчисления u,(a)-t«(A)l = 7.K) = 7«(*-AO«K) = (a-Al)t«1(a). Но элемент а- XI не обратим, а из коммутативности алгебры О очевидным образом следует перестановочность элементов а— XI и го,(а) в А. Поэтому из предложения 2.2 (ii) вытекает, что элемент w(a) — го(АI не обратим. Дальнейшее очевидно. > На самом деле имеет место и обратное включение. Доказывать мы его не будем, но знать это как факт Вы должны. Теорема 5 (закон отображения спектров для целого исчисления). (БД) Для любой функции w еО выполнено равенство w(a(a)) = a(w(a)). Замечание (для отличников). Итак, мы знаем, что такое экспонента и синус от элемента банаховой алгебры, в частности от ограниченного оператора. Но можно ли говорить, скажем, о логарифме такого элемента? Ведь функцию log г можно определить только в областях, меньших С. Оказывается, дела обстоят следующим образом (Гельфанд, 1939): для функции w, голоморфной в области Г/С С, можно дать разумное определение элемента w(a) в том и только в том случае, когда U содержит ст(а). При этом соответствующее отображение w^w(a) из 0(U) в А (так называемое голоморфное исчисление от о в U) есть гомоморфизм, для которого к тому же выполнен соответствующий вариант закона отображения спектров. Если U — открытый круг или, более общо, круговое кольцо, то элемент ы(а) легко построить по аналогии с целой функцией от а: надо подставить наш элемент вместо комплексного переменного в разложение Тейлора (или Лорана) заданной функции. Для более сложных областей элемент w(a) строится с помощью техники векторнозначного контурного интегрирования. Подробнее об этом см., например, [56]. Голоморфное исчисление от (одного) элемента банаховой алгебры было определено и практически полностью изучено уже к началу 40-х гг. XX в. Однако оставался открытым вопрос о том, как «правильно» определить голоморфные функции от нескольких перестановочных элементов банаховой алгебры и, как важнейший специальный случай, от нескольких перестановочных операторов в банаховом пространстве. Последняя проблема была решена в 1970 г. Дж. Тейлором с помощью методов гомологической алгебры, функционального анализа и многомерного комплексного анализа. Об этих вещах и главном результате обсуждаемой теории — теореме Тейлора о голоморфном мультиоператорном исчислении — хорошо написано в книге [78]. Сделаем еще одно отступление, на этот раз общего характера. Второй раз в этих лекциях потребности приложений заставляют нас рассматривать умножение в по- линормированных алгебрах, не являющихся банаховыми. Сперва, для изложения спектральной теории, мы рассмотрели умножение в В(Е) со слабо-операторным, а заодно и с сильно-операторным семейством преднорм (см. примеры 4.1.8-9). Теперь объявился новый «зверь» —- 0(U). Все эти «звери» принадлежат породе
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 385 так называемых полинормированных алгебр — полинормированных пространств, снабженных непрерывным, в том или ином разумном смысле, умножением. В случае А = (BBJ), so) и А = (В(Е), wo) умножение раздельно непрерывно, т. е. непрерывно по каждому аргументу (предложение 4.1.7), а в случае A =0(U) умножение, как вы можете с легкостью проверить, обладает более сильным свойством так называемой совместной непрерывности — непрерывности относительно тихоновской топологии в А х А. Нетрудно заметить, что целый ряд других примеров из гл. 4, прежде всего С°°[а, Ь] и пространства пробных функций, также являются полинормированными алгебрами относительно поточечного, а некоторые и относительно сверточного умножения. (Но это важно для приложений, выходящих за рамки нашей книги.) На самом деле теория полинормированных (и более общих топологических) алгебр составляет раздел функционального анализа, тесно примыкающий к теории банаховых алгебр и в то же время обладающий значительным своеобразием. Об этом круге вопросов см., например, [86; 67; 56], а об одном из его важнейших применений — к многопараметрической спектральной теории — см. [78]. Теперь, обращаясь уже ко всем читателям, мы дадим представление об основном результате наиболее традиционной части теории банаховых алгебр — теории коммутативных банаховых алгебр. Суть его в том, что эти алгебры являются, с точностью до некоторого огрубления, алгебрами функций. Назовем коммутативную банахову алгебру полупростой, если в ней нет обобщенных нульстепенных элементов, кроме нуля. (Это специальный случай фундаментального понятия полупростой алгебры, о котором Вы можете прочитать, скажем, в [56].) Теорема 6 (Гельфанд). (БД) Пусть А — полупростая коммутативная банахова алгебра. Тогда существует инъектив- ный сжимающий гомоморфизм этой алгебры в алгебру C0(ft), где С1 — локально компактное (а в случае, когда алгебра А униталъна, —компактное) топологическое пространство. Теорема Гельфанда показывает, что каждая полупростая коммутативная банахова алгебра совпадает, с точностью до изоморфизма в Alg, с некоторой алгеброй непрерывных функций — образом упомянутого выше гомоморфизма. А сильному студенту мы объясним, как этот гомоморфизм действует. Прежде всего, откуда берется упомянутое локально компактное пространство? Ответ таков. Как множество, оно состоит из ненулевых характеров нашей алгебры (т. е. — напоминаем — ненулевых функционалов на А, «уважающих* умножение). В силу предложения 2 его можно отождествить с подмножеством в А*, что позволяет снабдить его топологией, унаследованной от слабой* топологии в последнем пространстве. Введенное топологическое пространство называется гельфандовым спектром нашей коммутативной банаховой алгебры; его мы обозначим через П,(А) или, если алгебра А фиксирована, просто через h. Упражнение 10. Гельфандов спектр — это локально компактное, а если алгебра А унитальна, то компактное хаусдорфово пространство. Указание. Добавив к П нулевой характер 0, мы получаем замкнутое относительно слабой* топологии подмножество в Шл., причем в унитальном случае 0 — это его изолированная точка. Дальше работает теорема Банаха — Алаоглу. 13 А. Я. Хелемский
386 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ Теперь мы познакомимся с одним из важнейших функторов во всем функциональном анализе. Рассмотрим категорию UCBA, объекты которой суть унитальные коммутативные банаховы алгебры, а морфизмы суть унитальные непрерывные гомоморфизмы. Пусть (р: А -* В — морфизм в UCBA. Тогда, как легко видеть, сопряженный оператор <р*: В*-* А* отображает fl.(B) в Sl.(A). Обозначим через П.(у>): П.(В)->П.(Л) соответствующее биограничение; из предложения 4.2.10 следует, что это непрерывное отображение. Очевидно (с учетом упражнения 10), сопоставление А ь-> П.(Л), <р I-» ft.(ip), есть контравариантный функтор из категории UCBA в категорию СНТор. Он называется функтором Гельфанда. Замечание. Чтобы упростить изложение, мы ввели лишь «часть» функтора Гельфанда. На самом деле последний определен на категории всех коммутативных банаховых алгебр и всех их непрерывных гомоморфизмов, а принимает значения в категории локально компактных пространств (морфизмы которых обсуждены в конце § 3.1). Вы можете без особого труда восполнить все недостающие детали. Возвращаясь к обещанной конструкции гомоморфизма, рассмотрим коммутативную банахову алгебру А и ее гельфандов спектр П. Сопоставим каждому элементу аеА функцию д: П-»С по правилу S(x):=x(a). X € П. Теперь мы в состоянии дать развернутую формулировку теоремы Гельфанда. Теорема в'. (БД) Пусть А — коммутативная банахова алгебра, П —ее гельфандов спектр. Тогда (i) для каждого а ? Л функция 3(t), t е П, непрерывна и исчезает на бесконечности; (И) отображение ГА: А -* С0(Л), <и-> о, —это сжимающий гомоморфизм, ядром которого является множество всех обобщенных нульстепенных элементов алгебры А; (Ш) для различных a, t € П существует такой элемент о6 Л, что a\s) фS(t) (образ отображения ГА разделяет точки П). Упражнение 11. Докажите утверждение (i). Указание. Функционал f >-* f(a) на А* непрерывен относительно слабой* топологии. Его ограничение на компактное подмножество в ША., состоящее из всех характеров, (включая 0) равно нулю в 0. Определение 5. Гомоморфизм ГА, введенный в этой теореме, называется преобразованием Гельфанда коммутативной банаховой алгебры А. Пример 7 (от добра добра не ищут). Пусть А := С[,(П), где П — локально компактное хаусдорфово пространство. Тогда, используя теорему Александрова, нетрудно доказать (попробуйте!), что гельфандов спектр этой алгебры совпадает, с точностью до гомеоморфизма, с П, а ГА: А -»С0(й) — это просто тождественный гомоморфизм. Преобразования Гельфанда различных алгебр согласованы друг с другом. В следующем упражнении мы для простоты снова ограничиваемся унитальным случаем. Напомним о функторе С: СНТор-» Ban,, рассмотренном в примере 3.1.1; очевидно, та же конструкция доставляет и функтор из СНТор в UCBA, который мы по- прежнему будем обозначать через С. Упражнение 12. Для любого унитального непрерывного гомоморфизма
§ 3. БАНАХОВЫ АЛГЕБРЫ И СПЕКТРЫ ИХ ЭЛЕМЕНТОВ 387 <р: А —» В между унитальными коммутативными банаховыми алгебрами имеет место коммутативная диаграмма Л -Л— в Ч !'¦ С(П.(у4)) С(ПМ\ С(П.(В)) Иными словами, семейство {ГА | А е UCBA} — это естественное преобразование между тождественным функтором в UCBA и композицией функторов С о П.: UCBA-> UCBA. В заключение этого параграфа, вооружившись установленными выше топологическими свойствами группы обратимых элементов банаховой алгебры, мы вернемся к фредгольмовым операторам. Надо выполнить данное в § 3.5 обещание продолжить разговор об устойчивости индекса. Множество фредгольмовых операторов между банаховыми пространствами Е и F условимся обозначать через Ф(Е, F) и будем писать Ф(Е) вместо Ф(Е, Е). Теорема 7 (устойчивость индекса при малых возмущениях). (Ср. предложение 3.5.3.) Множество Ф(Е, F) открыто в В(Е, F), и функция Ind: Ф(Е, F)-*Z, S>-*Ind(S), непрерывна. < Возьмем S е Ф(Е, F). Наша первая цель — показать, что при малых по норме операторах Т € В(Е, F) оператор S + T также фредгольмов. По теореме Никольского класс смежности S + К,(Е, F) — изоморфизм в категории BAN//С; пусть R +JC(F, Е) — его обратный. Тогда, как легко видеть, для любого Г е В(Е, F) выполнены равенства R(S + Т) + К(Е) = U + К(Е) h(S + T)R+IC(F) = V + 1C(F), где U:=l+RT к V:=l + TR. С этого момента предположим, что ||Г|| < ||Я||-1 и, стало быть, ||ЛГ||, ||ТЛ|| < 1. Тогда в силу предложения 4 (i), рассмотренного для В(Е) и B(F) в качестве А, операторы U и V обратимы. Как следствие, морфизм (S + Т) + К(Е, F) категории BAN /К. обладает левым обратным UlR + K(F, Е) и правым обратным RV~i +K.(F, Е) а значит (предложение 0.5.1), является изоморфизмом. Отсюда по той же теореме Никольского S + Т ? Ф(?, F). Теперь обратимся к индексам. Мы знаем, что RS€l+lC(E) и R(S+T)e U+K(E), причем оператор U обратим. В объединении с теоремой 3.5.1 и предложением 3.5.3 это дает равенства Ind (R)+ + Ind (S) = Ind A) = 0 и Ind (R) + Ind E + T) = Ind (U) = 0. Отсюда Ind (S) = Ind (S + T), т. e. Ind —локально постоянная функция. Дальнейшее очевидно. >
388 Гл. 5. У ВРАТ СПЕКТРАЛЬНОЙ ТЕОРИИ ЗАМЕЧАНИЕ. Однако отдельно взятые размерность ядра и коразмерность образа фредгольмова оператора не являются устойчивыми при малых возмущениях. Рассмотрим, скажем, любой фредгольмов (= имеющий конечномерное ядро) проектор Р. Среди его «как угодно малых возмущений» есть операторы с нулевым ядром, а именно операторы вида Р + А1, которые при достаточно малых А е С обратимы. Сильному студенту мы сообщим кое-что о дальнейших свойствах топологического пространства Ф(Е, F). Как явствует из предыдущей теоремы, оно представимо в виде объединения своих открыто-замкнутых подмножеств Фп(Е, F) := {S е Ф(Е, F) | Ind E) = n}, п е Z. Теорема 8. (БД) Пусть Н и К — гильбертовы пространства. Тогда каждое подмножество Ф„(#, К) непусто и. линейно связно. Упражнение 13*. Доказать часть этой теоремы, касающуюся непустоты. Указание. Рассмотреть операторы, слабо подобные, как морфизмы в Ban, п-й степени операторов левого (при п > 0) и правого (при п < 0) оператора сдвига в ^. Вторая часть теоремы, касающаяся линейной связности, труднее. Она опирается на тот факт, что группа Inv(B(tf)), где Я — гильбертово пространство (с топологией, унаследованной из В(Н)), линейно связна (см., например, [105, с. 76-77]). А Вам предлагается Упражнение 14*. Приняв на веру линейную связность группы Inv(В(Н)), закончите доказательство теоремы 8. Указание. Возьмем операторы 5,, ^еФ.^); если мы сможем соединить их путем, то станет ясен и общий случай. Для к = 1, 2 оператор TtSk имеет вид Uk — - Тк, где оператор Uk обратим, а Тк компактен (упражнение 3.5.6), а потому он соединяется с Uk путем t н-» Uk - tTk. Поэтому линейная связность группы InvB^) дает нам возможность соединить путем 7] 5, с TtS2 в Ф0(^) и, как следствие, TrT,Sl с 7J.1J&2 в Ф_1A2). Но фредгольмов проектор Тг7] соединяется путем с 1 в Ф0(Е, F). Всегда ли множества Фп(Е, F) при п^О (и, разумеется, бесконечномерных пространствах Е и F) не пусты? Для «хороших» пространств Е и F, в частности для всех конкретных примеров из § 1.1, это так. В общем случае, однако, вопрос открыт: ведь из положительного ответа следовало бы, что не существует такого пространства Е, что В(Е) = span{l,?(?)}, т. е. мы бы заодно решили открытую проблему, обсуждавшуюся в § 3.5. Заканчивая разговор о фредгольмовых операторах, упомянем о том, что они нашли приложения в топологии, более точно — в топологической А"-теории. С их помощью доказана важная теорема об интерпретации в терминах этих операторов так называемого /Г-функтора от произвольного компактного пространства П. Эта теорема превращается в теорему 8 для того частного случая, когда П состоит из одной точки. О ней можно узнать из книги [2].
Глава 6 ГИЛЬБЕРТОВЫ СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА § 1. Гильбертова сопряженность: первые сведения Не секрет, что более 90% работ по теории операторов посвящены операторам, действующим в гильбертовым пространствах. Почему это так? А потому что в алгебре В(Н), где Н — гильбертово пространство, определена еще одна важная алгебраическая операция, которой нет в В(Е) для общих банаховых пространств Е. Это переход к гильбертову сопряженному оператору. Вы уже знаете, что такое банахов сопряженный оператор и где он действует: между пространствами, сопряженными к исходным банаховым пространствам, «меняя направление стрелки». Это, конечно, относится и к операторам между двумя гильбертовыми пространствами. Но в этой ситуации, используя «гильбертову» специфику, мы сможем сопоставить исходному оператору оператор, связывающий те же самые пространства (а не их сопряженные). Теперь — от слов к делу. Везде в параграфе, если не оговорено что-нибудь другое, Н и К — произвольные гильбертовы пространства, а Г: Н —> К — произвольный ограниченный оператор. Банахов сопряженный оператор к Г мы будем отныне, опасаясь недоразумений, всегда обозначать Тъ*. Напомним о канонических биекциях /: Я —> Н* и J: К —* К*, доставляемых теоремой Рисса. Предложение 1. Существует единственный ограниченный оператор Th': К —> Н, делающий коммутативной диаграмму Н *^— К ¦{ 1- Н' ^^- К\ < Ясно, что есть только одно отображение, делающее диаграмму коммутативной, и это I-lTb*J. Будучи композицией линейного
390 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА (он в середине) и двух сопряженно-линейных операторов, это, как легко проверить, «настоящий» линейный оператор. То, что он ограничен, очевидным образом следует из ограниченности оператора Г6* и сохранения норм отображениями J и /"'. i> Следующее определение — одно из важнейших во всей этой книге. Определение 1. Построенный оператор Th* (т. е. I-lTb*J) называется гильбертовым сопряженным к оператору Т. Предупреждение. С этого момента на протяжении всей книги мы будем все чаще говорить просто «сопряженный» вместо «гильбертов сопряженный» и все чаще употреблять обозначение Т* вместо Гл*. Введенные операторы можно охарактеризовать с помощью двух эквивалентных фундаментальных тождеств, каждое из которых часто приводится в учебниках как исходное определение гильбертова сопряженного оператора. Теорема 1. Справедливы следующие утверждения: (i) Г* — такой единственный оператор из К в Н, что для всех хеН и уеК выполнено равенство (Тх,у) = (х,Т*у), (и) то же верно, с заменой указанного равенства на соотношение (у,Тх) = (Т*у,х). < (i) С учетом коммутативности приведенной выше диаграммы (Тх, у) = [Jy](Tx) = [Tb*Jy)(x) = [IT*y](x) = (х, Т'у). Теперь об упомянутой единственности. Если для линейного оператора S: К —> Н и всех х е Н,у ? К выполнено равенство (Тх, у) = (х, Sy), то для тех же х, у выполнено условие ж .L (Т* - S)y, откуда S = Т\ (ii) Это утверждение следует из (i) и сопряженной симметричности скалярного произведения. > Указанные тождества мы будем называть соотношениями сопряженности. Вот еще один подход к обсуждаемому понятию. Пусть И: Н х К —> С — ограниченный сопряженно-билинейный функционал. Обозначим через 1V: К х Н —> С отображение (у, х) н-> Щх, у); очевидно, это также ограниченный сопряженно-билинейный функционал. Из соотношений сопряженности очевидным образом следует
§ 1. ГИЛЬБЕРТОВА СОПРЯЖЕННОСТЬ: ПЕРВЫЕ СВЕДЕНИЯ 391 Предложение 2. Пусть ST — сопряженно-билинейный функционал, ассоциированный с Т (см. § 2.3). Тогда Т* — это тот (единственный) оператор, с которым ассоциирован (ST)'. <з с> Наиболее интересен случай, когда Н и К суть одно и то же пространство. Тогда, разумеется, и Г* действует в том же пространстве Н (не в пример Ть'\). В алгебре В(Н) возникает выдающаяся по важности дополнительная структура — операция Т h-* Т* («гильбертова звездочка»), о которой еще многое нам предстоит узнать. Определяя гильбертовы сопряженные операторы, мы, как обычно, говорили о комплексных гильбертовых пространствах. Разумеется, определение 1 может быть дословно повторено и для действительных гильбертовых пространств. Однако в этом контексте гильбертова сопряженность практически не является чем-то новым по сравнению с банаховой. Дело в том, что в «действительном случае» канонические биекции являются настоящими (линейными) изометрическими изоморфизмами. Поэтому диаграмма из определения 1 показывает, что операторы Th* и Tbt слабо унитарно эквивалентны, а в случае Н = К — даже унитарно эквивалентны. Однако для комплексных гильбертовых пространств банахова и гильбертова сопряженность — это далеко не одно и то же. В этом Вас должно убедить уже следующее простое наблюдение. Упражнение 1. Пусть Т:=И: ^ —» ^. Тогда Ть* совпадает, с точностью до унитарной эквивалентности, с тем же оператором г1, в то время как Т* = -г'1. Как следствие, оператор Т* (не только не унитарно, но даже) не топологически эквивалентен Т. Указание. Оператор, осуществляющий унитарную эквивалентность, действует по правилу 7? "^/, (упражнение 1.6.3), а каноническая биекция — по правилу ry i-> /г (Впрочем, чтобы придать точный смысл заявлению о том, что гильбертова и банахова сопряженность — это «одно и то же» в действительном и «не одно и то же» в комплексном случае, нужен язык функторов; см. далее предназначенное для отличников упражнение 2.) Замечание. В то же время в обеих конструкциях есть много общего. Например, банахов сопряженный некоторого оператора является топологически инъективным, топологически сюръективным, изометрическим или коизометрическим тогда и только тогда, когда таков же и гильбертов сопряженный. Это очевидным образом следует из того, что отображения I к J суть изометрии метрических пространств.
392 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Операция «гильбертова звездочка» обладает следующими свойствами. Предложение 3. Пусть Т: Я, —> Кх u S: Н2-> К2 — ограниченные операторы между гильбертовыми пространствами. Тогда (О если Hl=H2uKl = К2, mo(S + Ty = S* + Т* (аддитивность); (ii) (АГ)* = АГ* для всех АеС (сопряженная однородность; сравните это с «простой» однородностью в упражнении 2.5.2 (ii)); (Hi) если Я, = К2, то (TS)* = S'T* (антигомоморфность); (iv) Т" = Т (период 2); (v) ||Г*|| = ||Г|| (изометричность). Кроме того, 1'н = \н для любого гильбертова пространства Я. < Все эти свойства легко следуют из соотношений сопряженности. Мы ограничимся проверкой свойства (iv). Из теоремы 1 применительно к Г* в качестве исходного оператора следует, что для любых х€Я, и уЕКх выполнено равенство (Т*у, х) = (у, Т**х), и в то же время (Т*у, х) = (х,Т'у) = {Тх,у) = {у, Тх). Отсюда в силу упомянутой в теореме 1 единственности Г" = = Т. » Заметим, что равенство 1* = 1, помимо того, что оно легко проверяется непосредственно, следует также из (Ш) и (iv). Сделайте это в качестве легкой разминки. Следствие 1. Отображение Гн»Г из В(Н, К) в В(К, Я) непрерывно по операторной норме; в частности, из условия Тп-*Т при п-*оо следует, что Т* -* Т* при п—юо. Следующий факт имеет настолько важные применения, что заслуживает звания теоремы. Теорема 2. Для любого Т е В(Н, К) выполнено равенство ||т*г|| = ||т||2. Неравенство ^ следует из сохранения нормы операцией «гильбертова звездочка» и мультипликативного неравенства. Неравенство ^ следует из того, что для любого х е Шн выполнено неравенство ||Гж||2 = (Тх, Тх) = {Т'Тх, х) ^ ||Т*Т||||х||2 ^ 11ГТЦ. &
§ 1. ГИЛЬБЕРТОВА СОПРЯЖЕННОСТЬ: ПЕРВЫЕ СВЕДЕНИЯ 393 Установленное равенство называется С* -тождеством. Не очень ласкающее слух, но — что делать — повсеместно и давно установившееся название. (Откуда оно взялось, мы упомянем в § 3.) Кое-что добавим для отличника. Как и подобает уважающей себя конструкции, за переходом Г н-> Th* скрывается функтор. Это контравариантный функтор гильбертовой сопряженности (h*)\ Hil—> На, оставляющий объекты на месте и переводящий каждый морфизм (= ограниченный оператор) Т в Th*. Аксиомы контравариантного функтора сразу следуют из предложения 3 (Hi). Наряду с этим функтором, рассмотрим функтор ('*): HlL—»HlL, определяемый как очевидное «биограничение» функтора банаховой сопряженности из § 2.5. Аналогично определяемая пара функторов действует и в HlL,. Упражнение 2. Будучи рассмотрены в любой из категорий Hil или Н1Ц, функторы (л*) и (ь*) не являются естественно эквивалентными, однако оказываются естественно эквивалентными при замене комплексных гильбертовых пространств на действительные. А теперь достанем из нашего мешка операторов те особи, которые действуют в гильбертовых пространствах. Каковы их (гильбертовы) сопряженные? Элементарная проверка соотношений сопряженности позволяет легко сделать следующие несколько упражнений. Упражнение 3. (i) Сопряженным к диагональному оператору Т\: к~>к является Т^-, где А —комплексно-сопряженная к А последовательность. (ii) Сопряженным к оператору левого сдвига 7J: ^ —> /2 является оператор правого сдвига Тг, и наоборот. (iii) Сопряженным к оператору умножения на функцию Tf: L2(X, fi) —> L2(X, ц) является Tj, где / — комплексно-сопряженная к / функция. (iv) Оператор, сопряженный к оператору неопределенного интегрирования в L2[0, 1], действует по правилу х ь-* у, где y(t):=\x(s)ds. Следующее утверждение, обобщающее последний пример, заслуживает особого внимания. Предложение 4. Пусть Тк\ L2[a, Ь]-+ L2[a, b]—интегральный оператор с производящей функцией K(s, t). Тогда его сопряженный—это интегральный оператор Тк, с производящей функцией K'(s, t) := K(t, s). < Для любых x,ze L2[a, b] выполнено равенство ь ь ь (Ткх, z) = j [TKx](s)z~G)ds = j ( j K(s, t)x(t)dt)^)ds.
394 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Поскольку K(s, t) и x(t)z(s) лежат в L2(D), произведение этих функций интегрируемо на квадрате D. Поэтому в силу теоремы Фубини указанный двойной интеграл равен ь ь ь ь ( ( ( K(s, t)x(tO(s)ds)dt = f x(t)((^(s, t)z(a)da\dt = = f x(t)([ K'(t, s)z(s)ds}dt = (x, TK.z). > Теперь расскажем, как взаимодействуют основные геометрические образы, связанные с заданным оператором и его сопряженным. Следующая теорема — это дальнейшее обобщение наблюдений, сделанных еще Фредгольмом в контексте интегральных уравнений, а затем переосмысленных Гильбертом. Теорема 3. Пусть Т: Я —> К —оператор между гильбертовыми пространствами. Тогда Aш(Г))х = Кег(Т*) и (Кег(Г))^ = Aт(Г*)- (черточка наверху, как обычно, означает замыкание); иными словами, AT = Aт(Г))-©Кег(Г*) и Я = Кег (Г)© 1т (Г*)-- < Первое равенство следует из эквивалентностей х € (Im (Т)I *=> (х, Ту)=0 для всех у е Я Ф=> «=>• (Т*х, у) = 0 для тех же у •<=>• <=> Т'х = 0 ^ х б Кег (Г*). Отсюда с учетом предложений 2.3.4 и 3 (iv) мы получаем (Im(Т')Г = (Im(T'))^ ш(Кег(Т")у- = (Кег(Г))^. Дальнейшее очевидно. > Предложение б. Если оператор Т действует в Н и Н0 — его инвариантное подпространство, то HJ- — инвариантное подпространство для Т". < Поскольку условие у€Н0 влечет Ту€Н0, из равенства (ж, у) = = 0 для всех у € Я0 следует, что (Т*х, у) = {х, Ту) = 0 для тех же у. Дальнейшее очевидно. > Покажем, что целый ряд возможных свойств заданного оператора сохраняется при переходе к его сопряженному.
§ 1. ГИЛЬБЕРТОВА СОПРЯЖЕННОСТЬ: ПЕРВЫЕ СВЕДЕНИЯ 395 Предложение 6. Если Т — одномерный оператор вида хОу (ср. начало § 3.4), то оператор Т* также одномерен и Т* = уОх. < Следует из элементарной проверки соотношений сопряженности. > Предложение 7. Если оператор Т конечномерен, то и Т* конечномерен, причем dim Im (Т) = dim Im (Т*). < Поскольку образ Im(T) замкнут, из теоремы 3 следует, что 1т(Г-)=Г*(Кег(П©1га(Г)) = 1т(Г*|1и(Г)). Поскольку Кег(Т*)п1т(Г) = {0}, оператор T*|Im(T) инъективен. Дальнейшее очевидно. > Упражнение 4. Выведите тот же факт из предложения 6. Указание. Возьмите представление T=?itOyt с линейно независимыми системами {х,,..., хп} и {у,,..., уп}. Предложение 8. Если оператор Т компактен, то и Т* компактен. При этом если Т = ? зпе'пОе'Л — разложение оператора в сумму, фигурирующую в теореме Шмидта, moT* = Y^ sne"Oe'n. < Сам факт компактности оператора Т* не требует такого сильного средства, как теорема Шмидта. А именно, в силу предложения 3.3.7 оператор Т аппроксимируется по операторной норме конечномерными операторами. На основании следствия 1 отсюда следует, что оператор Т* аппроксимируется операторами, сопряженными к конечномерным, которые, ввиду предыдущего предложения, сами конечномерны. Теперь вспомним о теореме Шмидта и рассмотрим указанное там разложение для Т. Тогда из предложения 6 с учетом алгебраических и топологических свойств «гильбертовой звездочки» немедленно следует требуемое разложение для Г*. Из последнего также, конечно, видно, что оператор Т* аппроксимируется конечномерными операторами. & Предложение 9. Если оператор S фредгольмов, то и S' фредгольмов. < Согласно части ^^- теоремы Никольского существуют операторы R, 7], Т2 с указанными там свойствами. Но тогда в силу предложений 3 и 8 условиям той же теоремы, в ее части •<=, удовлетворяют операторы R*,T2*,T*. Дальнейшее очевидно. >
396 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Вооружившись полученными знаниями, мы вернемся в седую классику, к интегральным уравнениям Фредгольма второго рода (см. § 3.5). Теперь, наряду с исходным уравнением x(s)-^K(s,t)x(t)dt = y{s), A) мы рассмотрим и его так называемое сопряженное уравнение x(s)-^Kt(stt)x(t)dt=y(s). (Г) Ранее уже отмечалось, что уравнение A) — это то же самое, что операторное уравнение Sx = у в пространстве L2[a, Ь], где S — 1-T, а Т — интегральный оператор с производящей функцией K(s, t). Столь же очевидно, с учетом предложения 4, что уравнение (Г) — это то же самое, что операторное уравнение S*x = y в том же пространстве. Пусть, далее, x(s)- [k(s, t)x(t)dt=0, B) x(s)- \K'(s,t)x(t)dt=0 B*) — соответствующие однородные уравнения. Сохраняя стиль теоремы 3.5.5, сформулируем ее обещанное добавление. Предложение 10 (Фредгольм). Пусть х,,..., хт и г,,.. .,zn — наборы линейно независимых функций, фигурирующие в теореме 3.5.5". Тогда (i) функции zl,...,zn суть такие решения однородного уравнения B*), что всякое решение этого однородного уравнения есть линейная комбинация указанных решений; (И) правые части y(s), при которых уравнение (Г) имеет хотя бы одно решение, — это в точности те функции, для ь которых \ y(t)xk(t)dt = 0 при к = 1,..., m. < В силу теоремы 3.5.5 (и) справедливо равенство Im E) = = &pat\{zit..., zn}x. Взяв ортогональные дополнения и используя теорему 3, мы получаем, что KerE*) = span{z,,..., zn}, а это равносильно утверждению (i). '> Мы знаем, что m = п, но сейчас это роли не играет.
§ 1. ГИЛЬБЕРТОВА СОПРЯЖЕННОСТЬ: ПЕРВЫЕ СВЕДЕНИЯ 397 Далее, из теоремы 3.5.5 (i) следует равенство КегE) = = span{x,,..., xm}, а предложение 9 обеспечивает замкнутость образа ImE*). Поэтому на основании теоремы 3 мы получаем Im E*) = (Ker E))-1 = {х,,..., хт}±, а это равносильно утверждению (И). > Вот еще одно применение теоремы 3. Упражнение 5. (Ср. упражнения 2.5.6 и 2.5.7.) (i) Оператор между гильбертовыми пространствами, сопряженный к изометрическому, является коизометрическим, и наоборот. (ii) Оператор между гильбертовыми пространствами, сопряженный к топологически инъективному, является топологически сюръ- ективным, и наоборот. Указание. Если оператор V: Нх —>Н2 коизометричен, то проверка соотношений сопряженности показывает, что V* переводит у в тот единственный вектор х ± Кег (V), для которого Vx = у. А сейчас мы покажем, как некоторые классы операторов, определявшиеся в терминах «гильбертовой геометрии», могут быть охарактеризованы чисто алгебраически, с участием операции «гильбертова звездочка». То, что мы сделаем, в сжатой форме будет выглядеть как следующий алгебро-геометрический словарик: U' — U~x унитарный оператор Р* = Р = Р2 ортопроектор J* = J = J-1 ортогональное отражение V* V = 1 изометрический оператор VV* = 1 коизометрический оператор HW'W = W частично изометрический оператор Объясним, что все это значит. Предложение 11. Оператор U: Я, —> Я2 является унитарным тогда и только тогда, когда он обратим, и его обратный совпадает с его сопряженным. < =^ Поскольку оператор U обратим и сохраняет скалярные произведения, для любых х е Я,, у С Н2 выполнено равенство (х, U~ly) = (Ux, UU-ly) = (Ux, у) = (х, U'y). ¦&= Для тех же х, у справедливо равенство (Кг, Uy) = (х, ITUy) = (х, U-1 Uy) = (х, у). >
398 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Предложение 12. Оператор Р: Я —> Я является орто- проектором тогда и только тогда, когда он идемпотентен и совпадает со своим сопряженным. < =Ф Раз Р — проектор, то Р2 = Р, и по условию Ker(P) -Llm(P). Поэтому для любых х,уеН с учетом условия Ру-уЕ Кег (Р) выполнено равенство (Pi, у) = (Рх, у + (Ру - у)) = = (Рх, Ру), и точно так же (х, Ру) = (Рх, Ру). Отсюда, разумеется, Р* = Р. -?= Раз Р2 = Р, то Р — проектор. Теорема 3 с учетом Р* = Р гарантирует условие Кег(Р) 1 Im (Р). > ПРЕДУПРЕЖДЕНИЕ. Начиная с этого момента, везде в главе, говоря «проектор», мы подразумеваем ортогональный проектор: другие проекторы нам не понадобятся. В следующих упражнениях мы, напротив, предлагаем Вам описать геометрическое действие оператора, исходя из его алгебраических свойств. Упражнение 6. Как действует оператор J: Я —> Я, совпадающий и со своим обратным, и со своим сопряженным? (Ответ: существует ортогональное разложение Я = Я+ ® Н_, такое, что J = 1 на Н+ и J = -1 на #_. Действующий описанным образом оператор называется ортогональным отражением.) Указание. Посмотрите на очевидное тождество х = н(х-|-Jx)+ + \(х - Jx). Упражнение 7. Как действуют такой оператор V: Я, —> Я2, что V*V = 1, и такой оператор V: Я, —» Я2, что VV* = 1? (Ответ: первое равенство описывает изометрические, а второе — коизометрические операторы.) Следующий класс операторов содержит все операторы из нашего словарика, кроме ортогональных отражений. Упражнение 8. Как действует такой оператор W: Я, —> Я2, что WWW = W, и как действует его сопряженный? (Ответ: существуют такие замкнутые подпространства Я", С Я, и К^СЩ, что оператор W изометрически (=унитарно) отображает Кх на К2 и переводит Kf в нуль; в то же время оператор W отображает К2 на Я",, действуя там как обратный к W, и переводит K2L в нуль.) Указание. Страшное с виду тождество эквивалентно просто тому, что W*W — ортопроектор, скажем, Р. Поэтому для Кх := := Im (Р) и х, у е К^ выполнено {Wx, Wy) = (х, у).
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 399 Операторы, о которых только что шла речь, называются частично изометрическими. Они играют выдающуюся роль в теории операторов и операторных алгебр (классификация факторов [3], операторная А"-теория [66; 105] и ряд других вопросов; ср. далее упражнения 2.7 и 4.9). Наконец, напомним о спектрах. Читатель, сделавший не столь уж простое упражнение 5.1.1, знает, как ведут себя спектры при операции «банахова звездочка». Гораздо проще установить, как спектры и их выделенные в § 5.1 специальные подмножества реагируют на «гильбертову звездочку». Упражнение 9. Пусть Т\_Н-*Н — оператор в гильбертовом пространстве. Тогда сг(Т"*) = {А | А 6 о(Т)}. При этом (i) если A G ат(Т), то А е ар(Т')\ (и) если А е стр(Т), то Хе <тр(Г*) либо Хе <тг(Г*); (Ш)ае(Г') = {Х|А€ае(Г)}; (iv)ffe(T*) = {A|Aeae(r)}. ЗАМЕЧАНИЕ. Обе возможности, указанные выше в (и), могут быть реализованы. Приведите соответствующие примеры. § 2. Самосопряженные операторы и их спектры. Теорема Гильберта — Шмидта Сосредоточимся на операторах, действующих в одном и том же гильбертовом пространстве Н. Поскольку их сопряженные также действуют в Н (= принадлежат тому же пространству В(Н)), естественно возникает интерес к следующему классу операторов, возникающему во многих задачах математики и физики. Определение 1. Оператор Г е В(Н) называется самосопряженным (еще говорят: эрмитовым), если он совпадает со своим гильбертовым сопряженным (т. е. Т' = Т). Из соотношений сопряженности явствует, что самосопряженный оператор — это в точности тот, который удовлетворяет тождеству (Тх,у) = (х,Ту), х,уеН. A) Предложение 1.2 позволяет охарактеризовать самосопряженный оператор как тот оператор Т, для которого ST — («ST)*. Отсюда
400 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА недалеко до еще одной полезной характеризации, на этот раз в терминах квадратичных форм. Назовем квадратичной формой (пока произвольного) оператора Т функцию QT: Н-+С, x^ST(x,x) (или, что то же самое, и->(Тж, ж)). Предварительно заметим, что из предложения 1.2.1 немедленно следует Предложение 1. Оператор Т равен 0 тогда и только тогда, когда QT =0 (т. е. (Тх, х) =0 для всех х е Н). < > ЗАМЕЧАНИЕ. Здесь существенно то, что речь идет о комплексных линейных пространствах. Возьмите для сравнения оператор поворота на прямой угол в К2. Предложение 2. Оператор Т самосопряжен тогда и только тогда, когда его квадратичная форма принимает действительные значения (т. е. {Тх, х) е R для всех х е Н). < В силу предыдущего предложения Т = Т* тогда и только тогда, когда QT = QT.. В то же время для любого оператора S е В(Н), очевидно, выполнено равенство Qs. = Qs. > Наряду с самосопряженными, заслуживают упоминания и более общие нормальные операторы: так называются операторы, перестановочные со своими сопряженными, т. е. такие операторы Т, что Т*Т = ТТ*. Очевидно, к нормальным операторам принадлежат, помимо самосопряженных, и все действующие в Н унитарные операторы. ЗАМЕЧАНИЕ (ориентировочного характера). На самом деле очень многое из того, что нам предстоит рассказать о самосопряженных операторах, относится и к нормальным. Однако в наших лекциях им будет уделено гораздо меньше внимания, чем самосопряженным, — просто потому, что последние геометрически нагляднее и чаще встречаются в приложениях. Множество самосопряженных операторов в Н обозначается В(Н)№. Заметим, что из предложения 1.3 следует, что это действительное (не комплексное!) банахово пространство. Для любого оператора Т е В(Н), очевидно, существует такая единственная пара Trt, Tm € В(Н)М, что Т = Тп + iTta, B) это Ttt := J(T + 7") и Tim := ^-(Т - Г*). Еще одна пара самосопряженных операторов, изготавливаемых из любого оператора Т, — это Г*Г и ТТ'.
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 401 ЗАМЕЧАНИЕ. Оправдана и плодотворна точка зрения на операторы в гильбертовом пространстве как на далекое «некоммутативное» обобщение комплексных чисел. С этих позиций переход к сопряженному оператору соответствует переходу к комплексно- сопряженному числу, самосопряженные операторы играют роль действительных чисел, а равенство B) обобщает алгебраическую форму комплексного числа (и превращается в таковую при Н:=С). Тут Вы можете спросить: а что же соответствует у операторов полярному разложению (= тригонометрической форме) комплексного числа? Как мы увидим далее, есть два равноправных претендента на роль полярного разложения, различающиеся из-за некоммутативности операторного умножения. Но пока мы еще не готовы к рассказу об этих вещах (см. далее упражнения 7 и 4.9). Сообщим лишь, забегая вперед, что в алгебре В(Н) роль положительных чисел играют операторы вида Т*Т, а роль унимодулярных комплексных чисел — в одних вопросах унитарные операторы, а в других более общие частично изометрические операторы из упражнения 1.8. Вот несколько дежурных примеров. Из сделанного Вами (как нам хочется верить) упражнения 1.3 видно, что 1) диагональный оператор Тх всегда нормален, и он самосопряжен тогда и только тогда, когда последовательность А состоит из действительных чисел; 2) (более общий факт) оператор Tf умножения на функцию также всегда нормален, и он самосопряжен тогда и только тогда, когда функция f почти всюду принимает действительные значения; 3) операторы односторонних сдвигов в ^ не только не самосопряжены, но и не нормальны1^. Т,ТТ = 1, в то время как ТТТ, —проектор с одномерным ядром span(p'). Из предложения 1.4 немедленно вытекает Следствие 1. Интегральный оператор в L7[a, b] самосопряжен тогда и только тогда, когда его производящая функция почти всюду на квадрате О удовлетворяет равенству K(s, t) = K(t, $). (Такие производящие функции называются симметричными.) Отметим несколько простых свойств самосопряженных операторов. ' Вот и мнемоническое правило для экзаменов: чтобы привести пример не нормального оператора, надо вспомнить, что ненормальный — это который со сдвигом...
402 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Предложение 3. Пусть оператор Т самосопряжен. Тогда (i) его собственные значения действительны; (И) его собственные векторы, отвечающие различным собственным значениям, ортогональны; (ш) его ядро и образ связаны соотношениями^ (Im(T))-L = = Кег(Т) и(Кег(Г)I = Aт(Т))-; иными словами, Я = Кег(ТH ёAш(Г))-; (iv) если Н0 — инвариантное подпространство для Т, то таково же и #0Х; (v) подпространство Н0 в Н является инвариантным для Т тогда и только тогда, когда Т перестановочен с ортопроек- тором Р: Н —> Н на Н0; (vi) ||Г! = ||ГЦ2; (vii)r(r) = ||T||. (viii) Если S — еще один самосопряженный оператор, перестановочный с Т, то ST также самосопряжен; как следствие, любая степень Т — самосопряженный оператор. < (i) Если Тх = Хх, хфО, то A(i, х) = (Тх, х) = (х, Тх)=Т(х, х). Дальнейшее очевидно. (И) Если Тх = Хх и Ту = цу,х,уфО,юс учетом утверждения (i) А (я, у) = (х, Ту) = /л(х, у). Отсюда следует, что если А ф р., то (х,у) = 0. (iii, iv, vi, viii) Эти утверждения непосредственно следуют соответственно из теоремы 1.3, предложения 1.5, теоремы 1.2 и предложения 1.3 (iii). (v) =^- В силу соотношения Н = Я0 0 Hq достаточно показать, что РТх = ТРх при хеН0и при х е #о-. Очевидно, в первом случае оба сравниваемых вектора совпадают с Тх, а во втором, с учетом утверждения (iv), равны нулю. (v), «= Если х G Н0, то РТх = ТРх = Тх, откуда и Тх е Н0. (vii) Это утверждение следует из (vi) в объединении с формулой для спектрального радиуса. > Упражнение 1*. Утверждения (ii), (iii), (vi) и (vii) предыдущего предложения сохраняют силу и для нормальных операторов. Указание. Если оператор Т нормален, то ||Г*х|| = ||Тх|| для всех х е Н; вот Вам (Ш). Отсюда Кег (Г*) = Кег (Г) ') Черта, как обычно, обозначает замыкание.
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 403 и Кег(Г - А1) = Кег (Т*-А1); вот Вам (Н). Наконец, С*-тождество дает равенство ||Т*2||2 = ||(Т2)*Т2|| = ||Т*Г||2 = ||Г||4. Что касается классических теорем Фредгольма об интегральных уравнениях, то они в рассматриваемом контексте выглядят наиболее прозрачно. Предложение 4 (Фредгольм). Пусть x(s)- \K(s,t)x(t)dt=y(s), x(s)- \K(s,t)x(t)dt=0 C) — интегральное уравнение второго рода с симметричной производящей функцией и соответствующее однородное уравнение. Тогда существует линейно независимая система ж,,..., хт решений однородного уравнения C), обладающая следующими свойствами: (i) всякое решение однородного уравнения C) есть линейная комбинация указанных решений; (и) правые части y(s), при которых неоднородное уравнение C) имеет хотя бы одно решение, — это в точности те ь функции, для которых J y(t)xk(t)dt =0 при к = 1,..., т. < > А теперь поговорим о спектрах. Те, кто сделал упражнение 1.9, знают, что спектр самосопряженного оператора симметричен относительно действительной оси. Но на самом деле деле справедливо гораздо более сильное утверждение: он просто лежит на этой оси. Такой факт имеет столь серьезные последствия, что мы приведем два его доказательства: «алгебраическое» (или абстрактное) и «геометрическое» (или векторное). Начнем необходимую подготовку. Предложение б. Пусть оператор Т самосопряжен. Тогда оператор U := ехр(г'Т) (см. определение 5.3.4) унитарный. < Согласно определению операторной экспоненты Поэтому из свойств «гильбертовой звездочки» следует,что Отсюда в силу следствия 5.3.4 мы заключаем, что U* и U —
404 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА взаимно обратные операторы, и нужный результат следует из предложения 1.11. > Предложение 6. Пусть оператор Т: Н —> Н самосопряжен и топологически инъективен. Тогда это топологический изоморфизм. < В силу условия образ Im(Т) замкнут и поэтому с учетом предложения 3 (ш) совпадает со всем Я. Дальнейшее очевидно. > Предложение 7. Для любых S е В(Н) u t > 0 оператор R := :=S*S + tl обратим. <з В силу только что сказанного достаточно показать, что оператор R топологически инъективен. Для любого х е Н выполнено неравенство ||Дх||||ж||>|(Дх, x)H<S*Sx, x) + t(x, x)|=<Sx, Sx) + t(x, x)>*||x||2, откуда ||J2x|| ^ *||x||. Дальше работает следствие 1.4.2. > Теорема 1. Спектр самосопряженного оператора Т: Н—>Н лежит на отрезке [-ЦТЦ, ||Т||] и содержит по крайней мере один из его концов. < (Алгебраическое доказательство.) Объединяя следствие 5.3.1 с предложением 5, мы видим, что сг(ехр(г'Г)) С Т. Поэтому, если A G с(Т'), то в силу предложения 5.3.11 применительно к w(z) := :=ехр(г'г), получаем ехр(г'А)еТ. Отсюда, разумеется, АеЕ,и нам остается воспользоваться предложением 3 (vii). > < (Геометрическое доказательство.) Пусть число А е С, А = s+it, таково, что t ф 0. Положим S := Т — si. Тогда на основании предложения 7 оператор S'S+t4 = S2+t4 =(S+itl)(S-itl) обратим, и, стало быть, оба сомножителя, будучи перестановочными операторами, также обратимы (см. предложение 5.2.2). Тем самым, it $ u(S), а это эквивалентно тому, что А ? о(Т). Следовательно, <т(Т)СШ. Теперь мы могли бы закончить доказательство, применив, как и в алгебраическом рассуждении, предложение 3 (vii). Но в нашем геометрическом рассуждении мы можем обойтись более элементарными средствами. Возьмем такую последовательность хп^Н, \\хп\\ — 1, что ||Тхп|| —» —> ЦТ||, п —юо. Тогда для любого п выполнено неравенство ||(Г2 - ||7Т1)х„||2 = <(Т2 - ||Т\\Ч)хп, (Т2 - ||Т||21)х„) = = ||T2xJ|2 -2(Г2х„, ||Т||2х„) + ||Т||4 ^ ^2||Т||4-2||Г||2(Тхп, Тхп) = 2||Т||4-2||Г||2||Тхп||2,
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 405 откуда (Т2 - || Т||21)хп —> 0 при п -* оо. Это означает, конечно, что оператор Т2-||Г||21, он же и (Г + ||Г||1)(Г-||Г||1), не обратим. Отсюда либо ||Г||, либо -||Т|| принадлежит спектру о(Т), и нам остается вспомнить, что т(Т) ^ ||Т|| (теорема 5.3.1). > То, что было сказано, — это максимум информации, которую можно получить о спектрах общих самосопряженных операторов: Упражнение 2. (i) Любое компактное подмножество в R служит спектром некоторого самосопряженного оператора. (и) Любое компактное подмножество в Т служит спектром некоторого унитарного оператора. (iii) Любое компактное подмножество в С служит спектром некоторого нормального оператора. При этом в каждом из указанных случаев оператор можно выбрать так, чтобы его спектр совпадал с его существенным спектром. Указание. Возьмите диагональный оператор ТА: ^ —> ij, где А — такая последовательность, что {А„}~ совпадает с заданным множеством. Из теоремы 1 и предложения 3 (iii) сразу следует Предложение 8. У самосопряженных операторов нет остаточного спектра. < > Упражнение 3. То же самое верно и для нормальных операторов. * * * Мы переходим к подготовке теоремы, позволяющей полностью познать природу операторов, являющихся одновременно компактными и самосопряженными. Теорема 2 (Гильберт — Шмидт). Пусть Г: Н -> Н — компактный самосопряженный оператор в гильбертовом пространстве. Тогда существуют а) такая ортонормированная система е,, %,... в Н конечной или счетной мощности и б) такая (конечная или бесконечная) последовательность Ар А2,... отличных от нуля действительных чисел с индексным множеством той же мощности, сходящаяся к нулю, если она бесконечна, что наш оператор действует по правилу Тх = ^Хп{х,еп)еп, D)
406 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА где ? означает либо конечную сумму, либо сумму ряда в Н. (Иными словами, еп — собственные векторы для Т с собственными значениями А„, и Т переводит в нуль любой вектор, ортогональный всем е„.) < Согласно теореме 3.4.1 (Шмидта) наш оператор представим в виде соответствующей суммы Т — ^2 8пе'пОе^. Из самосопряженности оператора Т и предложения 1.8 следует, что тот же оператор представим и в виде суммы Т = J^sne^O е'„. Отсюда, положив еп '•= К + еп- и еп := К - еп- мы видим, что Те* = ±sne*. Поскольку 5-числа нашего оператора не возрастают, для некоторых натуральных п, < щ < ... имеют место соотношения ai =--- = \> \ + i =¦¦¦ = \ > s„} + 1 = ... > s„4 i + 1 =... = s„k > ... Рассмотрим для к = 1, 2,... пространства L* := span {е* +|,... ..., е* } (здесь мы полагаем л,, :=0). Очевидно, для каждого е € L% выполнено равенство Те = ±зп е. Поэтому из предложения 3 (и) следует, что все эти подпространства в Н попарно ортогональны. Рассмотрим в тех из подпространств L%, которые отличны от нуля, ортонормированные базисы. Собрав все векторы всех этих базисов «в одну кучу» и произвольно их перенумеровав, мы получим некую ортонормированную систему {е,, е,,...}. Очевидно, каждый еп — собственный вектор для Т, и соответствующее собственное значение, которое мы обозначим через А„, совпадает с одним из чисел ±sk для какого-то к. При этом каждое значение А„ встречается не более чем конечное число раз. Далее, линейные оболочки систем {е1,е2,...} и {е,', ej,... ..., е(', е?,...}, очевидно, совпадают, а потому последовательности А,, А2,... и *,, s2,... одновременно конечны или бесконечны. Если они бесконечны, то из известной нам сходимости последовательности а„ к нулю следует подобное же свойство и для Ап. Наконец, возьмем произвольный вектор х ? Н; он представим в виде х = X)(xi еп)е„ + ^Ь. гАе вектор а}, ортогонален всем еп и, стало быть, всем е'п. Поэтому в силу теоремы Шмидта Тхо = 0, и равенство D) очевидным образом следует из свойств оператора Г как непрерывного оператора. > Теорема Гильберта — Шмидта допускает следующую эквивалентную формулировку; сравните ее с результатом упражнения 3.4.1. Предложение 9. Пусть Т: Н —> Н — компактный самосопряженный оператор в гильбертовом пространстве. Тогда
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 407 существуют такая конечная или бесконечная последовательность А = (А,, А2)...) действительных чисел, сходящаяся к нулю, если она бесконечна, и такое гильбертово пространство Н0, что оператор Т унитарно эквивалентен оператору R: I? © Я0 -+ I? е #0, где т ^ оо — число членов последовательности А, который действует на I? как диагональный оператор Тх и переводит Н0 в нуль. < Возьмем в качестве А последовательность, фигурирующую в теореме Гильберта — Шмидта, и положим Н0:=Кег(Т). Тогда оператор Т в силу последней теоремы принадлежит классу операторов из примера 2.2.2. Дальнейшее очевидно. > Упражнение 4. Покажите, что теорема Гильберта — Шмидта, в свою очередь, следует из предложения 9. Напомним, что для любого оператора, действующего в линейном пространстве, кратностью какого-либо его собственного значения называется линейная размерность соответствующего подпространства собственных векторов. Предложение 10. Пусть Т — самосопряженный оператор, Ап — последовательность, фигурирующая в теореме Гильберта— Шмидта. Тогда (i) ненулевые собственные значения оператора Т суть члены последовательности Ап, и каждое собственное значение имеет такую кратность, сколько раз оно встречается в этой последовательности; (ii)||T||=max{|An||n = l,2,...}. < Как норма, так и набор ненулевых собственных значений с учетом кратности, очевидно, не меняются при переходе от оператора к его унитарно эквивалентному. Поэтому обе характеристики у оператора Т те же, что у оператора R из предложения 9 и, как очевидное следствие, те же, что у фигурирующего там диагонального оператора ТА. Но у последнего любое собственное значение /х, очевидно, совпадает с одним из Ап, и пространство соответствующих собственных векторов есть span{p* | Хк = р.]. Кроме того, НЗ^Ц = тах{|А„| | п = 1,2,...} (ср. пример 1.3.2). Дальнейшее очевидно. > ЗАМЕЧАНИЕ. Тот факт, что норма компактного самосопряженного оператора — это наибольший модуль собственного значения, следует также из равенства ||Т|| =г(Г) и того, что спектр компактного оператора, помимо нуля, состоит только из собственных значений (см. теорему 5.1.1).
408 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Наконец, утверждение о разложении оператора в сумму одномерных операторов из теоремы Шмидта можно в «самосопряженном» случае преобразовать следующим образом. Предложение 11. Пусть Т: Н —> Я, еп u Хп те же, что в теореме Гильберта — Шмидта. Тогда наш оператор представим в виде Т = j} Апеп О еп, где Y1 означает, смотря по смыслу, либо конечную сумму, либо сумму сходящегося по операторной норме ряда. < Равенство D) из теоремы Гильберта — Шмидта можно переписать как n Тх= lim ? A„[e„Oen](i). Если число слагаемых конечно, все ясно. Если оно бесконечно и Sk — частичная сумма соответствующего формального ряда, то, очевидно, оператор Т — Sk действует по правилу (T-Sk)x = ? An(x,en)en. n = * + l Отсюда предложение 10, рассмотренное для T — Sk, дает равенство ЦТ-SJI =max{|AJ | n = k + l, k+2,...}. Поэтому последовательность \\Т — Sk\\ сходится к нулю при к —>со вместе с Хк. > Если теорему Шмидта можно рассматривать как результат о классификации с точностью до слабой унитарной эквивалентности, то теорема Гильберта — Шмидта — это результат о классификации с точностью до унитарной эквивалентности (значительно более «жесткого» вида отождествления). В то же время весьма примечательно то, что для рассматриваемого класса операторов оба вида «не слабой» эквивалентности — унитарная и топологическая — совпадают. Упражнение 5. Пусть Г: Н —> Н и S: К —> К — компактные самосопряженные операторы. Тогда они унитарно эквивалентны -*=>• они топологически эквивалентны -«=»• их множества отличных от нуля собственных значений совпадают с учетом кратности, а ядро Кег(Т) унитарно изоморфно Ker(S). Указание. Для произвольных операторов их топологическая эквивалентность влечет совпадение гильбертовых размерностей пространств собственных векторов, соответствующих одному и тому же собственному значению. (На самом деле топологическая и унитарная эквивалентность совпадают во всем классе самосопряженных операторов, но это доказать труднее; см. далее упражнение 4.10.)
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 409 Мы видим, что каждый самосопряженный компактный оператор в гильбертовом пространстве однозначно определен с точностью до унитарной эквивалентности двумя вещами: а) (неупорядоченным) набором А своих ненулевых собственных значений, в котором каждое значение повторяется столько раз, какова его кратность, и б) гильбертовой размерностью своего ядра (см. теорему 2.2.2). Таким образом, полная система инвариантов унитарной эквивалентности для этого класса операторов состоит из всевозможных пар (А, а), где А — не более чем счетный набор ненулевых действительных чисел с возможными конечными повторениями, не имеющий ненулевых предельных точек, а а — некоторая мощность. Моделью компактного оператора с инвариантом (А, а) служит оператор R: Ц" ф К —> ?jm ф К, для которого роль А играет заданный набор, произвольным образом упорядоченный, а К — гильбертово пространство гильбертовой размерности а (скажем, ^(Х), где X — множество мощности а). Все сказанное верно и с заменой унитарной эквивалентности на топологическую. Для случая сепарабельных пространств теореме Гильберта — Шмидта и эквивалентному ей предложению 9 можно придать наиболее прозрачный вид. Предложение 12. Пусть Т: Н —> Н — компактный самосопряженный оператор в сепарабельном бесконечномерном гильбертовом пространстве. Тогда (i) в Н существует ортонормированный базис, состоящий из собственных векторов этого оператора. При этом соответствующая последовательность собственных значений состоит из действительных чисел и сходится к нулю; (ii) оператор Т унитарно эквивалентен некоторому диагональному оператору ТА: Ц* -*1?, где т — гильбертова размерность пространства Н, а последовательность А состоит из действительных чисел и сходится к нулю. < Возьмем ортонормированную систему, фигурирующую в «общей» теореме Гильберта — Шмидта. Наряду с ней, пользуясь тем, что ядро Кег(Г) заведомо сепарабельно, рассмотрим любой ортонормированный базис последнего пространства. Перенумеровав произвольным образом объединение обеих систем, мы, разумеется, получим требуемый ортонормированный базис. Дальнейшее очевидно. > Отсюда, в частности, легко усматривается, что при условии сепарабельности рассматриваемых бесконечномерных гильбертовых
410 Гл.6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА пространств система инвариантов унитарной (так же, как и топологической) эквивалентности для компактных самосопряженных операторов также приобретает более наглядный вид. А именно, теперь в качестве инвариантов можно рассматривать произвольные сходящиеся к нулю последовательности действительных чисел с точностью до перестановок их членов. Простейшей моделью оператора с последовательностью А в качестве инварианта является, разумеется, диагональный оператор Тх: ^ —> ^. Тем временем, настал момент, когда мы в состоянии выполнить одно старое обещание, данное в § 1.3. Упражнение 6*. Норма оператора неопределенного интегрирования в L2[0,1] равна 2/п. ,_, Указание0. Наш Т представим как US, где S: xi-> J x(t)dt, о г U — унитарный оператор x(t) i-+ y(t) := хA — t). Поэтому || Т || = || S ||, и, так как оператор S самосопряжен, предложение 10 сводит задачу к поиску тех ненулевых значений А б R, для которых интегральное уравнение Sx = Xx имеет ненулевое решение. Но это те же А, для которых уравнение Xx'(t) + x(l-t) = 0 имеет ненулевые решения, удовлетворяющие условию хA) = 0, а эти решения заведомо являются решениями уравнения \2x"(t) + x(t)=0 с условием хA) = х'@) = 0. Зная (со второго курса) общее решение последнего уравнения, мы видим, что ненулевые решения с указанными граничными условиями бывают лишь при А = (^ + for)" , fceZ, и для каждого к они кратны cos((?[ + for)i). Отсюда ||Г||^|, и остается проверить, что Sx = —х для x(t) := cos ^-. Заканчивая параграф, вернемся к общей теории. Теорема Гильберта — Шмидта позволяет дать еще одну важную характеризацию s-чисел компактных операторов, которая также свидетельствует о том, что эти числа не зависят от выбора ортонормированных систем, фигурирующих в теореме Шмидта (см. § 3.4). :) Это наблюдение упрощает известное доказательство из E4]. Оно было сделано на упражнениях по функциональному анализу Наташей Гринберг, в то время студенткой третьего курса.
§ 2. ТЕОРЕМА ГИЛЬБЕРТА — ШМИДТА 411 Предложение 13. Пусть Т: Н-*К —компактный оператор между гильбертовыми пространствами с s -числами s^s^^... Тогда последовательность sf, s|,... — это в точности последовательность ненулевых собственных значений, с учетом кратности, каждого из операторов Т*Т: Н^Н и ТТ*: К—>К. < Пусть Т = 5Z зпе'п О е^'; тогда с учетом предложения 1.8 мы получаем, что Т* = ?) sne'^Oe'n. Отсюда Т*Те'п = з*е'п и ТТ* &l = з2пе.1 для любого п; кроме того, Т*Тх = 0 при х±{е[, е^,...} и ТТ'у = 0 при у ± {е", е?,...}. Остается воспользоваться предложением 10, рассмотренным для двух последних операторов. > Следствие 2. Пусть Т — компактный оператор между гильбертовыми пространствами, А,, А2,... — последовательность собственных значений оператора Т*Т (или, что эквивалентно, ТТ*) с учетом кратности. Тогда (i) Г — оператор Шмидта тогда и только тогда, когда (и) Т — ядерный оператор тогда и только тогда, когда ?VA7<oo. Замечание. Теперь, когда в нашем распоряжении есть гильбертовы сопряженные операторы, мы можем задать скалярное произведение в пространстве S(H, К) операторов Шмидта (см. предложение 3.4.4 (И)) при помощи формулы, не привязанной к ортонормированным базисам. А именно, для любых S, Т е S(H, К) справедливо равенство (S, T)-U(T*S). (Попробуйте доказать эту формулу, опираясь на предложение 3.4.8 (ii).) Теперь мы можем показать, как выглядят обещанные полярные разложения операторов — правда, пока лишь для компактных операторов. Назовем компактный оператор, действующий в гильбертовом пространстве, положительным, если он самосопряжен и все его собственные значения неотрицательны. (Это специальный случай определения будущего 4.2.) Упражнение 7°. Пусть Т: Я —> А"— компактный оператор между гильбертовыми пространствами. Тогда существуют такой частично изометрический оператор W: Н —* К и такие положительные операторы S: Н -> Я и S': К -> К, что T = WS = S'W. При этом если Г = ^ зпе'пОе'Л, то указанные равенства выполнены для 5:=53 зпе'пОе'п, S':=^2 s„e^'Oe^' и оператора W, переводящего е'п в е'^ и отправляющего в нуль векторы, ортогональные всем е'п.
412 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА При некоторых естественных условиях указанные полярные разложения единственны. Упражнение 8. При тех же Т, W, S, S' справедливы следующие утверждения: (i) если Т = WlSl, где W{ —частично изометрический, а 5, — положительный компактный оператор, и (Кег(И^))-1-= (Im E,))", то Wl = W и 5, = 5; (П) если Т = S[WX, где W, —частично изометрический, a S[ — положительный оператор, и (КегE,'))± = 1т (W,), то Wx = W и S[ = = S'. Указание к (i). Очевидно, W{T = Wj'WjS, = Su откуда S,2 = Т*Т = S2. Так как оператор 5, к тому же положителен, из предложения 10 усматривается, что некий вектор е является собственным вектором для 5, с собственным значением у. > 0 тогда и только тогда, когда тот же вектор е является собственным вектором для 5[2 с собственным значением ц2. Вместе с соотношением 5,2 = 52, это дает равенство 5, = 5. Полярные разложения произвольных операторов будут указаны ниже; см. упражнение 4.9. § 3. Взгляд сверху: инволютивные алгебры, G*-алгебры и алгебры фон Нойманна Итак, множество В(Н), и без того имеющее богатую структуру банаховой алгебры, приобрело еще одну операцию — переход к гильбертову сопряженному оператору, напоминающий по своим повадкам переход к комплексно-сопряженному числу в С. Настало время взглянуть на то, что получилось, с общих позиций. Возможно, некоторым нашим читателям не нравится, что в этом учебнике много теорем без доказательств. Тогда этот параграф должен вызвать особое раздражение. Попытаемся оправдаться. Теоремы, о которых вскоре пойдет речь, относятся к числу наиболее значительных достижений современной математики; вместе с тем они имеют простую и прозрачную формулировку. Мы убеждены в том, что в основном курсе лекций по функциональному анализу эти факты непременно должны быть упомянуты, и студент, закончивший третий год обучения, должен о них знать. Что же касается доказательств, то они, как правило, совсем не просты и заняли бы, вместе со всей необходимой подготовкой, весьма значительный объем. Поэтому их изложение, на наш взгляд,
§ 3. (Г-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 413 выходит за рамки подобных лекций. Вы можете ознакомиться с ними по книгам [34; 56; 46; 82; 99; 17]. Чтобы лучше понять приведенные ниже общие определения, достанем наш мешок с алгебрами (как чистыми, так и банаховыми; см. § 5.2 и 5.3) и выложим из него несколько особей: С, C[t], М„, В(Е), &[а,Ъ\, 1Х(Ъ), 1Х, Ьх(Х,ц), а на особо заметное место поставим C0(Q) и В(Н). (Здесь С1 — локально компактное топологическое пространство, (X, р.) — измеримое пространство, Н — гильбертово, а Е — произвольное банахово пространство.) На все эти алгебры мы будем посматривать, вводя очередное понятие. Вначале дадим чисто алгебраическое Определение 1. Пусть А —алгебра. Отображение (*): А —* А называется инволюцией в А, если, в записи а* вместо (*)(а), для всех а, Ь € А, А € С выполнены следующие равенства: (i) (а+Ь)* = аЧ-Ь*; (ii) (Аа)* = Аа*; (ill) (ah)' = Ь*а*; (iv) а" = а. Алгебра, снабженная инволюцией (хотите быть дотошными — говорите: пара, состоящая из алгебры и заданной на ней инволюции), называется инволютивной алгеброй или, коротко, * -алгеброй. Элемент а* называется сопряженным^ к а. Все выставленные на обозрение алгебры, за одним существенным исключением, обладают естественными ^нволюциями. В простейшей алгебре С, понятное дело, А*:=А. Сходным образом в С1[а,Ь),Ьж{Х, р) и С0(?2) мы полагаем x'(t) := x(t), а в Jx полагаем f *:=?„. В алгебре многочленов C[t] инволюция задается правилом P(t) = % + ... +cnt"~p'(t) ;=% + ...+ c:tn- (Это также переход к комплексно-сопряженной функции, если многочлены рассматривать как функции на R; если же их рассматривать на С, то действует чуть более сложное правило p*(z):=p(z),) В алгебре матриц М„ для а=(аи) полагают а*ы :=%, а в винеровой алгебре f,(Z) полагают а'п:=аГ^. Наконец — и это главное, — инволюция в В(Н), как Вы уже догадались, — это переход к сопряженному оператору. Что же касается алгебры В(Е) для не гильбертова пространства Е, то там естественной инволюции просто нет; бывает и такое. Чувствуете, откуда ветер дует?
414 Гл.6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Везде далее в параграфе А — инволютивная алгебра. Из свойств инволюции очевидным образом следует Предложение 1. Если алгебра А унитальна, то Г = 1, и для обратимого элемента а е А выполнено равенство (от1)* = (tf )-'.<> Элемент ае А называется самосопряженным, если а* = а, и нормальным, если а*а=аа'. Если алгебра А унитальна, то ее элемент и называется унитарным, если он обратим и и~1 = и*. Среди всех гомоморфизмов между «-алгебрами А и В заслуживают внимания прежде всего те, которые должным образом реагируют на инволюцию. Определение 2. Гомоморфизм <р: А -> В называется инволютивным гомоморфизмом или, коротко, * -гомоморфизмом, если ip(a') = <р(а)* для всех о? А. Как весьма важный специальный случай, *-гомоморфизм из А в В(Н) называется инволютивным представлением или * -представлением алгебры А в гильбертовом пространстве Н (ср. общее определение 5.2.6). Биективные *-гомоморфизмы «-алгебр называются инволютив- ными изоморфизмами или ^-изоморфизмами. Это, разумеется, изоморфизмы в категории *-алгебр и их *-гомоморфизмов. (Дайте развернутое определение этой категории.) Пример 1. Ясно, что полиномиальное исчисление от элемента а унитальной *-алгебры является «-гомоморфизмом тогда и только тогда, когда элемент а самосопряжен. В частности, сопоставляя каждому многочлену peC[t] этот же многочлен в качестве функции на [с, d], мы, очевидно, получим инъективный (как отображение) *-гомоморфизм из C[t] в C[c,d]. Если же заменить в этом примере [с, d] на отрезок [г,, %], не лежащий на действительной оси, то возникнет гомоморфизм из С[*] в C[zx, %], уже не являющийся инволютивным. ПРИМЕР 2. Отображение tp: 1^ —> 0(ij), сопоставляющее каждой последовательности А диагональный оператор Т^, есть, очевидно, «-представление *-алгебры /то в гильбертовом пространстве ^. Как обобщение этого примера, отображение у. ЬЖ(Х, р) -* B(L2(X, р.)), сопоставляющее каждой существенно ограниченной измеримой функции / оператор Tf умножения на /, есть «-представление «-алгебры Ln(X, р) в гильбертовом пространстве L2(X,p). ПРИМЕР 3. Пусть е,,..., еп — ортонормированный базис в конечномерном гильбертовом пространстве Н. Тогда, сопоставляя
§ 3. С'-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 415 каждому действующему в Н оператору его матрицу в этом базисе, мы, как легко проверить, получаем «-изоморфизм между ¦-алгебрами В{Н) и М„. Разумеется, справедливо Предложение 2. При *-гомоморфизмах самосопряженные, нормальные и, если речь идет об унитальных гомоморфизмах, унитарные элементы переходят в элементы того же типа. < > Подмножество М в А называется самосопряженным или, коротко, * -подмножеством, если из того, что аеМ, следует, что а* е М. Аналогичный смысл придается таким терминам, как ^-подалгебра, *-идеал и т. п. Вот пример их употребления. ПРИМЕР 4. Идеал К,(Н) в В(Н), где Н — гильбертово пространство, является, как следует из предложения 1.8, «-идеалом. В то же время подалгебра «компактных возмущений скалярных операторов» К(Н)+ является, в случае бесконечномерного пространства Я, «-подалгеброй, но не «-идеалом. Упражнение 1. Множества S(H) и Л/"(Я), состоящие соответственно из операторов Шмидта и ядерных операторов (см. § 3.4), также являются «-идеалами в В(Н). Выделим очевидное Предложение 3. Пусть I —*-идеал в А. Тогда фактор- алгебра А/1 является * -алгеброй относительно инволюции, корректно определенной равенством (а +1)* := а* +1. < > Отсюда, в частности, следует, что для гильбертова пространства Н алгебра Калкина С(Н) := В(Н)/)С(Н) (см. § 5.2) также обладает естественной структурой инволютивной алгебры. Теперь «спустимся» из абстрактной алгебры в функциональный анализ. Определение 3. Банахова инволютивная алгебра А (т. е. алгебра, снабженная как полной нормой, так и инволюцией) называется звездной банаховой алгеброй, если ||а*|| = ||м|| для всех at А. Из этого определения сразу вытекает Предложение 4. Если А — звездная банахова алгебра, то отображение инволюции *: А —» А непрерывно и, в частности, из того, что ап—у а при п —> со, следует, что а'п —* а* при п —> —>оо. < > На самом деле, с точностью до замены нормы на эквивалентную, верно и обратное.
416 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Упражнение 2. Пусть А — банахова алгебра с заданной непрерывной инволюцией. Тогда в ней можно ввести норму || • ||', эквивалентную исходной и такую, что (А, \\ ¦ ||') — звездная банахова алгебра. Указание. Положите ||о||' :=тах{||а||, ||а*||}. Разумеется, все инволютивные алгебры из нашего мешка примеров, кроме Шп и C[t], суть звездные банаховы алгебры относительно давно введенных норм и только что введенных инволюций. Впрочем, алгебру Мп также легко сделать звездной банаховой алгеброй, и притом многими способами, например, отождествив ее с В(Н) (см. пример 3) или, скажем, задав в ней норму (Что касается алгебры многочленов, то из нее даже нельзя изготовить банахово пространство; это знает тот, кто сделал упражнение 2.1.1.) Подобно общим банаховым алгебрам (см. § 5.3), звездные банаховы алгебры являются объектами двух категорий с ограниченными либо сжимающими гомоморфизмами — только на этот раз инволютивными — в качестве морфизмов. Изоморфизмами этих категорий являются соответственно топологические и изометрические *-изоморфизмы; смысл обоих терминов, равно как, скажем, термина сжимающий или изометрический * -гомоморфизм, очевиден. (Заметим, что отображения, фигурирующие в примере 2, суть изометрические *-гомоморфизмы.) Нашего отличника, как мы надеемся, заинтересует следующий факт из семейства «результатов об автоматической непрерывности» (ср. комментарии к предложению 5.3.2). Предложение 5. (БД) Любое *-представление звездной банаховой алгебры в гильбертовом пространстве является ограниченным и, более того, сжимающим *-гомоморфизмом. Упражнение 3. Убедитесь в этом для случая унитальных алгебр и унитальных представлений. Указание. Если уэ: А-*В(Н) — наше представление, то для самосопряженного элемента аеА оценка ||v(e)|| ^ ||в|| получается последовательным применением предложения 2.3 (vii) (с Т = <р(а)), предложения 5.2.4 и теоремы 5.3.1. В общем случае надо применить только что полученную оценку к элементу а* а и воспользоваться теоремой 1.2 (с Т = <р(а)). Мы переходим к лучшим из «алгебр анализа». Следующее понятие, по-видимому, является самым важным во всей теории алгебр с инволюцией.
§ 3. С'-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 417 Определение 4. Звездная банахова алгебра А называется абстрактной С*-алгеброй или, если нет опасности путаницы, просто С*-алгеброй^', если для любого о€ А выполнено равенство ||а*а|| = ||а||2. Указанное равенство называется (абстрактным) С*-тождеством. Упражнение 4°. Всякая инволютивная банахова алгебра, в которой выполнено С*-тождество, (автоматически) является звездной банаховой алгеброй и, стало быть, С*-алгеброй. Приведем два основных примера — коммутативный и некоммутативный. ПРИМЕР 5. Алгебра C0(fi), где Q — локально компактное пространство, и, в частности, С(П), где С1 — компакт, суть, очевидно, С*-алгебры. Пример 6. Алгебра В(Н), где Я — гильбертово пространство, равно как и все ее замкнутые по норме самосопряженные подалгебры суть С*-алгебры. Это непосредственно следует из операторного С"-тождества (теорема 1.2). Алгебры, указанные в последнем примере, называются конкретными или операторными С -алгебрами. К ним, разумеется, относится ?(#), а также, как легко проверить, алгебра операторов умножения на функции ъ L2(X, ц) (частным случаем которой является алгебра диагональных операторов в ^), и алгебра компактных диагональных операторов в том же ?j. Разумеется, многое из того, что для операторов вытекает из теоремы 1.2, верно и для элементов любых С*-алгебр. В частности, для самосопряженных элементов С*-алгебр выполнено равенство ll°2ll = IHI2- (Соответствующая часть упражнения 2.1 по существу устанавливает то же самое и для нормальных элементов этих алгебр.) А вот и контрпримеры. Упражнение 5. Звездная банахова алгебра С [а, Ь] не является С"-алгеброй и, более того, не топологически *-изоморфна ни одной С*-алгебре. То же верно для S(H) и A/"(i?) (см. упражнение 1). '' Этот термин, быть может, и не столь благозвучен, но он давно и прочно вошел в общий обиход. Его, по-видимому, ввел в употребление И. Сигал A947 г.), первоначально для операторных алгебр. Похоже, что заглавное «С» должно было подчеркивать роль рассматриваемых алгебр как некоммутативных обобщений алгебр С(й) (см. ниже теорему 1 и ее обсуждение), а звездочка — определяющую роль инволюции в рассматриваемых вопросах. 14 А. Я. Хелемский
418 Гл.6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Указание. Найдите такую последовательность самосопряженных элементов а„: ||а„|| = 1, что а*п —>0 при п —> оо. Замечание. Сказанное верно и для винеровой алгебры /[(Z), но установить это несколько сложнее. Два результата большой общематематической ценности состоят в том, что других примеров С*-алгебр, кроме предложенных в примерах 5 и 6, по существу нет: первый описывает все коммутативные алгебры этого класса, а второй — вообще все С*-алгебры. Вот их точные формулировки. Теорема 1 (первая теорема Гельфанда — НаймаркаI*. (БД) Всякая коммутативная С-алгебра А изометрически *-изо- морфна алгебре С0(П), где П —локально компактное топологическое пространство; если же алгебра А вдобавок унитальна, то в качестве П выступает компактное пространство. Авторы теоремы указывают и конкретное отображение, выступающее в роли требуемого изометрического *-изоморфизма: это преобразование Гельфанда Г: А —> C0(QA), где ПА — гельфандов спектр нашей банаховой алгебры. ЗАМЕЧАНИЕ. Читатель, следящий за примерами (и правильно делающий), должен, прочтя эту формулировку, несколько удивиться. А как же с алгебрами ЬЖ(Х, ц) и, в частности, 1Х} Ведь это явно С*-алгебры функций, по виду не относящиеся к классу C0(ft). В том-то и дело, что они являются алгебрами С0(?2), но в скрытом виде, с точностью до изометрического *-изоморфизма, причем этот «невидимый» компакт С1 является важной характеристикой рассматриваемой алгебры. В частности, с точностью до указанного отождествления, 1^ = C(/3N), где /?N (гельфандов спектр алгебры 1Ж) оказывается не чем иным, как стоун-чеховским компактным расширением дискретного пространства N (ср. обсуждение в § 3.1). Теорема 2 (вторая теорема Гельфанда — Наймарка, 1943). (БД) Всякая абстрактная С*-алгебра А изометрически *-изо- морфна некоторой конкретной (= операторной) С*-алгебре. Иными словами, у всякой С -алгебры существует ее изометрическое * -представление в некотором гильбертовом пространстве. (О том, что же это за гильбертово пространство и как возникает требуемое представление, мы сообщим, в качестве необязательного материала, ближе к концу параграфа.) '' Марк Ароновоч Наймарк A909-1978) — крупный российский математик, получивший первоклассные результаты в области функционального анализа.
§ 3. С'-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 419 Непосредственная практическая польза от обеих теорем заключается, в частности, в следующем. Они, говоря неформально, показывают, что все, что позволено делать с непрерывными функциями, можно делать и с элементами коммутативных С*-алгебр, а все, что позволено делать с операторами в гильбертовых пространствах, можно делать и с элементами общих С"-алгебр. Например, в любой алгебре вида C0(Q) уравнение х" = у имеет решение при любой неотрицательной правой части и любом натуральном п; значит, то же самое верно и для любой коммутативной С*-алгебры, скажем, состоящей из операторов. Упражнение 6*. Спектр унитарного элемента С*-алгебры с единицей лежит в Т, а спектр ее самосопряженного элемента — в R. Указание. В первом из двух доказательств теоремы 2.1 нет ничего «специфически операторного». Теперь — немного беллетристики. Сегодня, когда прошло более полувека после появления этих теорем, мы видим, что их место в общем здании математики оказалось, пожалуй, еще значительнее, чем поначалу подозревали сами их творцы. Сейчас они составляют неотъемлемую часть новой важной дисциплины — некоммутативной геометрии. Одна из философских установок этой науки состоит в следующем. Первая теорема Гельфанда — Наймарка означает, говоря неформально, что структура коммутативных С*-алгебр адекватно описывается в чисто топологических терминах ее спектра. (Подобному заявлению может быть придан точный смысл с использованием категорного языка. Мы сделаем это в части, предназначенной для просвещенного читателя.) Поэтому — напустим еще больше тумана — произвольную С*-алгебру можно и, как показывает опыт, должно мыслить как алгебру функций на «некоммутативном локально компактном пространстве» или даже просто как «некоммутативное локально компактное пространство». Странные речи Вы слышите, но подобный взгляд действительно оказался чрезвычайно плодотворным. Зная топологию, можно предугадывать свойства некоммутативных С*-алгебр, а также строить полезные (в том числе и для квантовой физики) «некоммутативные» версии классических объектов топологии, например «некоммутативную сферу» или «некоммутативный тор» (ср. [75]). В то же время более высокий уровень понимания ряда топологических (= «коммутативных») понятий и результатов иногда достигается именно после привлечения некоммутативных С*-алгебр. (При этом некоторые сугубо топологические факты даже получают более прозрачные доказательства; например, знаменитая теорема периодичности Ботта доказана И. Кунцем с использованием — кто бы мог предугадать — компактных операторов; см., например, [105, теорема 11.2.1].) Недаром у теории G*-алгебр есть еще и второе название — некоммутативная топология. Вернемся от литературы к математике. Среди операторных С*-алгебр выделяется их специальный класс, изучение которого началось гораздо раньше, чем изучение общих С*-алгебр (как абстрактных, так и конкретных). Ввел эти алгебры Дж. фон Нойманн в 1930 г. Одним из его основных стимулов служила
420 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА надежда (во многом, хотя и не во всем оправдавшаяся), что эти алгебры, став «вместилищем наблюдаемых квантово-механических систем», помогут поставить квантовую механику на прочный математический фундамент. Алгебры, о которых пошла речь, можно определить в топологических, а можно и в алгебраических терминах, придя к одному и тому же результату. Напомним, что в В(Н), где Я — гильбертово пространство, помимо операторной нормы, существует еще несколько структур полинормированного пространства. Мы уже встречались со слабо-операторным, сильно-операторным (а не ленивые — еще и с ультраслабым) семействами преднорм и одноименными топологиями, порожденными этими семействами (см. § 4.1 и конец § 4.2). Для любого подмножества М С В(Н) его коммутантом называется множество М1 := {b G В(Н) \ Ьа = аЬ для всех аЕ М}, а би- коммутантом — множество М":—(М'У (коммутант коммутанта). Очевидно, всегда выполнено включение М С М" (по принципу «Петя, как тебя зовут?»). Теорема 3 (фон Нойманна о бикоммутанте). (БД) Пусть А — самосопряженная подалгебра в В(Н), содержащая 1. Тогда ее следующие свойства эквивалентны: (i) алгебра А замкнута в слабо-операторной топологии; (и) алгебра А замкнута в сильно-операторной топологии; (ш)А» = А. Упражнение 7. Покажите, что свойство (Ш) влечет (i) и (и). Замечание. Существует еще по крайней мере четыре полезные топологии, которые можно было бы подставить в эту формулировку вместо указанных трех. В их число входит ультраслабая топология, которую к моменту появления первой версии теоремы фон Нойманна еще не открыли. Доказательство «полной» теоремы о бикоммутанте, в котором участвуют все шесть топологий, см., например, в [103]. Подчеркнем, что условие самосопряженности рассматриваемой подалгебры нельзя отбросить. Определение 5. Операторная алгебра, удовлетворяющая условиям сформулированной теоремы, называется алгеброй фон Нойманна. Помимо самой алгебры В(Н), из встречавшихся нам операторных алгебр к числу алгебр фон Нойманна принадлежит алгебра (всех) диагональных операторов в ?, и, как более общий случай, алгебра операторов умножения на функцию в Ь2(Х,ц). (Попробуйте это доказать хотя бы для первой алгебры.) Поскольку топологии, фигурирующие в теореме 3, слабее (=гру- бее) нормовой, всякая алгебра фон Нойманна автоматически замкнута в последней топологии и, стало быть, является операторной
§ 3. С*-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 421 С*-алгеброй. Нетрудно заметить, что алгебр фон Нойманна гораздо меньше, чем общих операторных С*-алгебр. Например, К.(Н), а также алгебра компактных диагональных операторов ъ 1^ — не алгебры фон Нойманна: Упражнение 8. (i) Как слабо-, так и сильно-операторное замыкание алгебры F(H) (и тем более /С(Я)) совпадают со всей В(Н). (И) Как слабо-, так и сильно-операторное замыкание алгебры конечномерных (и тем более компактных) диагональных операторов в /2 совпадают со всей алгеброй диагональных операторов. Можно ли охарактеризовать алгебры фон Нойманна в абстрактных терминах, подобно тому как вторая теорема Гельфанда — Наймарка описывает в абстрактных терминах операторные С*-ал- гебры? Эта выдающаяся проблема оставалась открытой много лет; вот ее впечатляющее решение в классических терминах геометрии банаховых пространств. Пусть Е — банахово пространство. Другое банахово пространство Et называется предсопряженным к Е, если Е совпадает, с точностью до изометрического изоморфизма, с (?,)*. Например, пространство 1Х обладает предсопряженным, а именно /,; в то же время, как можно было бы показать, у пространства с^ или, скажем, К(Н) предсопряженных пространств нет (см. также упражнение 4.2.9). Теорема 4 (Ш. Сакаи, 1957). (БД) (i) Всякая алгебра фон Нойманна обладает, как банахово пространство, однозначно определенным с точностью до изометрического изоморфизма предсопряженным пространством. (и) если С*-алгебра обладает, как банахово пространство, предсопряженным, то она изометрически * -изоморфна некоторой алгебре фон Нойманна. Сакаи показал, как выглядит предсопряженное пространство к алгебре фон Нойманна: это (автоматически замкнутое) подпространство в А*, состоящее из функционалов, непрерывных в ультраслабой топологии. Для А = В(Н) мы уже убедились в этом в конце § 4.2. Если теорема Сакаи несет для алгебр фон Нойманна ту же смысловую нагрузку, что вторая теорема Гельфанда — Наймарка для операторных С*-алгебр, то роль первой теоремы Гельфанда — Наймарка играет следующий факт, обнаруженный гораздо раньше. Теорема б (фон Нойманн). (БД) Всякая коммутативная алгебра фон Нойманна изометрически *-изоморфна алгебре L0C(X, р.), где (X, ц) —измеримое пространство. При этом (фон
422 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Нойманн — Халмош) если наша алгебра действует в сепарабельном гильбертовом пространстве, то она изометрически *-изоморфна либо 1?, где п— конечная или счетная мощность, либо Ьж[0, 1], либо, наконец, 1ж-сумме указанных двух алгебр. ЗАМЕЧАНИЕ. Эта теорема, в частности, показывает, насколько меньше коммутативных алгебр фон Нойманна, чем коммутативных операторных С*-алгебр, по крайней мере, если речь идет об алгебрах, действующих в сепарабельном пространстве. Ведь вторых, как нетрудно было бы показать, уж никак не меньше, чем попарно не гомеоморфных метризуемых компактов... Если первая теорема Гельфанда — Наймарка побуждает относиться к С'-алгебрам как к «некоммутативным топологическим пространствам», то теорема 5 побуждает относиться к алгебрам фон Нойманна как к «некоммутативным измеримым пространствам». Мы уже говорили о теории С*-алгебр как «некоммутативной топологии». Сходные причины позволяют называть теорию алгебр фон Нойманна «некоммутативной теорией меры (или вероятностей)». Вот опять, казалось бы, пустой набор слов, чуть ли не словоблудие какое-то... А между тем это — руководство к действию. Зная теорию меры (= вероятностей), можно предугадывать результаты в теории алгебр фон Нойманна — работает «вероятностная» интуиция. (Так, например, нашла красивую и важную некоммутативную версию классическая теорема Радона — Никодима из теории меры, изучаемая на втором курсе.) Обратно, знание алгебр фон Нойманна помогает лучше разобраться в фактах самой теории меры как некоего предельного, или «классического», случая. Выигрывают и физики, получая новый взгляд на вещи и новую методику. Вот иллюстрация: с этих позиций плодотворно интерпретировать события в квантовой механике как ортопроекторы алгебр фон Нойманна — потому что в коммутативном случае эти проекторы можно естественным образом отождествить с измеримыми подмножествами в X, т. е. «классическими» событиями. Об обеих «некоммутативных науках» в их тесной взаимосвязи, а также о многих других вещах (например, так называемой «некоммутативной дифференциальной геометрии») написано в книге А. Конна «Некоммутативная геометрия» [72]. Теперь мы покажем нашему просвещенному читателю, что за теоремой 1, формулируемой как результат об отождествлении некоторых математических объектов, скрывается более сильный результат об отождествлении «целиком» двух важных категорий. Рассмотрим категорию С*-алгебр, обозначаемую C'*-ALG. Ясно, каковы ее объекты; что же касается морфизмов, то ими мы объявим произвольные «-гомоморфизмы алгебр рассматриваемого класса. На самом деле, однако, эта «произвольность» кажущаяся: все такие отображения исключительно хорошо устроены. Теорема 6. (БД) Пусть <р; А-> В — * -гомоморфизм между двумя С-алгебрами, Тогда существует коммутативная диаграмма
§ 3. С'-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 423 в которой С—еще одна С*-алгебра, с — *-гомоморфизм, являющийся коизо- метрическим оператором, а р — ^-гомоморфизм, являющийся изометрическим оператором1*. Как следствие, всякий ^-гомоморфизм между С*-алгебрами является сжимающим оператором, а всякий инъективный ^-гомоморфизм между С*-алгебрами — сверх того, изометрическим оператором. Замечание. Нетрудно догадаться, откуда берутся С, а и р: С —это факто- ралгебра A/K.tr(<p), а — естественная проекция, а р— оператор, порожденный «-гомоморфизмом <р (см. предложение 1.5.3). Нетривиальная часть теоремы состоит в проверке С*-тождества для С и указанных свойств «тир. Теперь обозначим через UCC* подкатегорию е C*-alg, состоящую из унитальных коммутативных алгебр и унитальных «-гомоморфизмов. Напомним о (контравариант- ном) функторе Гельфанда П. из категории унитальных коммутативных банаховых алгебр в категорию СНТор компактных хаусдорфовых пространств (см. § 5.3). Обозначим через ГН: UCC*-»CHTop «функтор Гельфанда — Наимарка», совпадающий на объектах и морфизмах из UCC* с ft.. Теорема 7. (БД) Категория UCC* совпадает, с точностью до дуальной эквивалентности, с СНТор, и эту дуальную эквивалентность осуществляет функтор ГН. Таким образом, ГН играет роль контравариантного функтора F: К-+ С из общего определения 0.7.7 дуальной эквивалентности категорий. Отметим, что в роли «обратного» функтора G: С->К из того же определения выступает функтор С: СНТор -»UCC*, определяемый дословно так же, как и обозначенный тем же символом функтор из СНТор в Ban, (см. пример 3.1.1). Теорема 7 придает точный математический смысл заявлению о том, что наука о компактных (а с ними и о локально компактных; ср. §3.1) пространствах — т. е. добрая половина топологии — является частью науки о С*-алгебрах. Всякое утверждение первой науки имеет нечто вроде близнеца во второй, только направление стрелок, изображающих присущие первой науке отображения, меняется на противоположное. Оставшийся материал этого раздела не предполагается обязательным даже для отличников. Вначале мы дадим несколько пояснений ко второй теореме Гельфанда — Наимарка (которая «изменила лицо современного анализа», как было сказано в юбилейном сборнике [65, с. 21]). Сформулировав первую теорему, мы явно указали, откуда берутся требуемое локально компактное пространство и требуемый «-изоморфизм. Читатель может полюбопытствовать: а откуда во второй теореме берутся обещанные там гильбертово пространство и «представление заданной алгебры в этом пространстве? Решающую роль в их построении играет так называемая ГНС-конструкция, именуемая так в честь И. М. Гельфанда и М, А. Наимарка, ее создавших, и И. Сигала, который ее усовершенствовал и осознал ее самостоятельную ценность. Мы вкратце, пренебрегая деталями, расскажем, в чем она состоит. Пусть А — (пока произвольная) унитальная «-алгебра. Функционал /: А —»С называется положительным, если /(о*о) > 0 для любого аьА. Задав такой функционал, мы тем самым, как легко проверить, задаем на А предскалярное произведение по правилу (о, Ъ) := /F*о). Положим 1{ := {ае А \ (в, а) = 0}; известная нам процедура (см. предложение 1.2.2) превращает предгильбертово '> Короче: всякий «-гомоморфизм между С*-алгебрами есть композиция коизоме- трического и изометрического «-гомоморфизмов.
424 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА пространство А в почти гильбертово пространство Н? := А/1, а затем, после пополнения (см. предложение 2.6.3), в гильбертово пространство Н1. Нам хотелось бы задать представление алгебры А в Н', т. е. гомоморфизм из_А в B(Hf). Однаков общем случае мы можем лишь задать гомоморфизм из Л в С(Н{) по правилу at-* f/,b + If^ab + V; дело в том, что операторы Tj не обязаны быть ограниченными. Однако (и это уже нетривиальный результат) можно показать следующее: если А —С*-алгебра, то все операторы Tj автоматически ограничены и даже являются сжимающими. Раз это так, мы вправе, продолжив каждый Т* по непрерывности до оператора Tj, получить отображение 7"': А —>В(Н!), а>-> т]. Последнее — это уже нетрудно проверить — является «-представлением алгебры А в ЯЛ так называемым ГНС-представлением, ассоциированным с положительным функционалом /. ГНС-конструкция, т. е. указанная конструкция ГНС-представления, возможна и для некоторых других классов алгебр; например, все до сих пор сказанное остается в силе, если А — любая унитальная звездная банахова алгебра. Однако мы хотим в конце концов получить изометрическое представление и поэтому должны ограничить себя рассмотрением С*-алгебр. Итак, уже предполагая, что А — С*-алгебра, рассмотрим семейство ее ГНС-представлений, ассоциированных со всевозможными положительными функционалами. На практике довольно часто оказывается, что уже среди этих представлений найдется изометрическое. Вот две иллюстрации. Пример 7. Пусть А := С[0,1]и/: а>-> $ a(t)dt. Тогда, очевидно, Н1 = L2[0,1], о a Tj —оператор умножения на функцию a(t) в L2[0,1]. Мы видим, что ГНС-представление ТЛ С[0, 1]—>B(L2[0,1]) изометрично. Упражнение 9. Пусть А :=В(Н), вектор х€Я отличен от нуля и /: В(Н)~* ->С, <и-» (а(х), х). Тогда пространство Н1 унитарно изоморфно Я, а 7"' —это изометрический изоморфизм В(Н) на В(Н}). Замечание. Изометрическое ГНС-представление С*-алгебры заведомо существует, если она сепарабельна. В этом случае среди функционалов на А существует строго положительный, т. е. такой функционал /, что /(о*а) >0 для всех афО. Отсюда легко вывести, что представление Т' инъективно и, стало быть, если принять на веру теорему 6, изометрично. Но чтобы построить такой функционал, надо применить довольно сильные средства. В общем случае, однако, может произойти так, что каждое ГНС-представление нашей алгебры обладает ненулевым ядром, теряя, таким образом, часть информации о ее строении. (Покажите, что это происходит, скажем, с А := с$(Х), где X — несчетное множество.) Поэтому поступают следующим образом. Рассмотрим множество всех таких положительных функционалов на /, что II/H = 1. (Такие функционалы называются состояниями1^; если алгебра А униталь- на, то они характеризуются тем, что /(е)= 1.) Положим Н;=ф{Н* \f — состояние}, т. е. возьмем гильбертову сумму (огромного числа) гильбертовых пространств, отвечающих всевозможным состояниям. Это и есть гильбертово пространство, обещанное в теореме 2. Что же касается обещанного представления, то это отображение 7": А -*В{Н) , сопоставляющее каждому элементу а€ А оператор Та, ') Они имитируют, в некоторых математических моделях квантовой механики, (физические) состояния квантово-механических систем; см., например, [3, с. 13-15].
§ 3. С'-АЛГЕБРЫ И АЛГЕБРЫ ФОН НОЙМАННА 425 переводящий «строку» (..., xf,...), xf е Hf, в (..., T/(xf),...). Проверка того, что эта «сумма ГНС-представлений» сама является ¦представлением, трудностей не вызывает, а вот то, что это представление изометрично, требует нетривиальных рассуждений, использующих специальные свойства С*-алгебр. Замечание. Опять-таки творение оказалось более совершенным, чем предполагали сами творцы. Прием, с помощью которого Гельфанду и Наймарку удалось отождествить абстрактную С*-алгебру с некоторой конкретной — операторной, все же обладал, как поначалу казалось авторам, одним недостатком. Дело в том, что гильбертово пространство, в котором действуют операторы из построенной алгебры, оказалось уж очень большим — заведомо несепарабельным (в гильбертовой сумме слишком много слагаемых), а образ представления Т доставлял лишь «малую часть» всего пространства В(Н). Это вызывало у авторов определенный дискомфорт и желание построить более «экономное» представление1'. И только более двадцати лет спустя было выяснено, что этот кажущийся неэкономным способ представления С*-алгебры в виде операторной на самом деле таит в себе новые огромные возможности. Дело в том, что любое возможное представление заданной С"-алгебры в виде операторной можно в определенном смысле получить как часть того специального представления, которое придумали Гельфанд и Най- марк, — оттого последнее и называется теперь универсальным. Более того, это представление позволяет связать воедино дотоле имевшие мало общего теорию алгебр фон Нойманна (некоммутативную теорию меры) и теорию общих С*-алгебр (некоммутативную топологию): надо взять операторную алгебру, доставляемую представлением Гельфанда — Наймарка, и перейти к ее бикоммутанту в В(Н). Получится так называемая обертывающая алгебра фон Нойманна исходной (абстрактной) С*-алгебры, которая и играет роль связующей нити обеих теорий. Отметим тот замечательный факт, что она, как банахово пространство, изометрически изоморфна второму сопряженному пространству А**. Об этом круге вопросов см.. например, [103; 90; 17]. Наше отступление затянулось. Все же велико искушение рассказать вам еще одну вещь — не лишенную драматизма историю одной старой проблемы «некоммутативной теории меры». Здесь, по необходимости, мы снова должны выступить в жанре математической беллетристики. Введя «свои» алгебры, фон Нойманн пожелал расклассифицировать их с точностью до «-изоморфизма. Ясно осознавая самодовлеющую ценность подобного гипотетического результата, он в то же время считал, что такой результат должен быть чрезвычайно важен для квантовой механики. (Изложение подобных связей, разумеется, выходит за рамки нашего изложения. Мы просто отметим, что фон Нойманн ставил тогда, в начале 30-х годов, перед собой поистине амбициозную цель. Он хотел поставить квантовую механику на прочный математический фундамент, сделать ее столь же стройной, как классическая механика, а в идеале превратить ее в по существу математическую теорию со своей системой аксиом, определениями и теоремами — этакие квантово-механические «Начала» Евклида.) Одновременно фон Нойманн чувствовал, что требуемый для подобной классификации математический аппарат позволит ему убить еще нескольких «чисто математических» зайцев, о которых мы сейчас говорить не будем. (Упомянем только, что речь идет о проблемах теории представлений групп и бесконечномерных аналогах классических теорем Веддерберна.) Автору рассказывал об этом его Учитель — Марк Аронович Наймарк.
426 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Начало исследований, казалось, располагало к оптимизму. Прежде всего, теорема 5, сформулированная выше, дала полное описание коммутативных алгебр фон Нойманна. (С нее началась, как уже говорилось, некоммутативная теория меры.) Что же касается общих алгебр фон Нойманна, то их создатель научился сводить их изучение к рассмотрению неких «ячеек» или «элементарных кирпичиков». Из этих «кирпичиков» любая алгебра фон Нойманна строится с помощью некоторой довольно естественной процедуры — так называемого прямого интеграла операторных алгебр, о котором сейчас говорить подробнее нет смысла. Вот эти ячейки. Определение 6. Алгебра фон Нойманна А называется фактором, если ее центр, т. е. множество {о G А \ об = Ьа для всех 6 € А } состоит только из операторов, кратных тождественному. Заметим, что те факторы, на которые, по рецепту фон Нойманна, разлагаются «его» коммутативные алгебры, т. е., согласно теореме 5, алгебры L00(X, ^), — это просто С в том количестве, какова мощность пространства X. Но какие же бывают факторы? В начале 30-х годов был известен только один тип факторов — В(Н) для любого гильбертова пространства Н. (В Ваших силах проверить, что это действительно фактор.) Естественно было предположить, что других факторов нет. Но в 1935 г. произошло одно из важнейших математических открытий XX века: фон Нойманн и его сотрудник Ф. Мюррей изобрели фактор совершенно другой природы, нежели В(Н). (Одна из его реализаций в изложении, рассчитанном на студента 3 курса, описана в [81].) Продолжая свои исследования, Мюррей и фон Нойманн показали, что факторы разбиваются на три типа в зависимости от поведения принадлежащих им проекторов. Более подробно, каждому из пространств — образов этих проекторов сопоставляется неотрицательное действительное число или оо — его так называемая относительная размерность. (Здесь мы для простоты считаем пространство Н сепарабельным.) Если фактор таков, что относительная размерность образов его проекторов принимает все значения из {0,1,2,..., п} для некоторого n е N, либо из NUoo, то его относят к типу I. Это и есть алгебры В(Н) и ничего более. Следующую степень сложности представляют «факторы типа II», для которых эти числа принимают все значения из отрезка [0,1] (именно таков был упомянутый выше фактор Мюррея — фон Нойманна) либо из расширенного луча Е+ U {оо}. Наконец, третий и последний, как они показали, логически возможный случай состоит в том, что относительные размерности пространств проектирования принимают только значения 0 (для нулевого подпространства) и оо (для всех остальных). Это «факторы типа III», устроенные наиболее сложно. (О том, что они действительно существуют, стало известно только через пять лет после открытия факторов типа II.) Ну хорошо, факторов оказалось больше, чем думали, но все-таки допускают ли они полное описание? И вот здесь оказалось «чем больше в лес, тем больше дров». Вскоре выяснилось, что уже среди факторов типа II довольно много попарно не «•изоморфных. Но самое болезненное: никак нельзя было понять, существуют ли неизоморфные факторы типа III. Первый, технически чрезвычайно сложный пример подобного рода появился только в 1957 г. (Л. Пуканский), и похоже, что смертельно больной фон Нойманн так о нем и не узнал. Следующий крупный шаг был сделан десять лет спустя, когда Р. Пауэре построил целое континуальное семейство попарно не «--изоморфных факторов типа III, зависящих от параметра Л е @,1). Но настоящую революцию совершил в 1973 г. французский математик Алэн Конн. К этому времени уже было осознано, что задача о классификации всех факторов безнадежна — их слишком много, и первой заслугой Конна было выделение содержательного класса, в рамках которого разумно эту задачу ставить. Класс факторов и, более общо, алгебр фон Нойманна, выделенных Конном, может быть — как
§ 4. НЕПРЕРЫВНОЕ ФУНКЦИОНАЛЬНОЕ ИСЧИСЛЕНИЕ 427 и подобает фундаментальному понятию — охарактеризован многими внешне самыми различными способами. Эти алгебры часто называются аменабельными (термин унаследован из гармонического анализа и гомологической теории банаховых алгебр), но, в зависимости от выбора одной из многих дорог, ведущих к этому понятию, их зовут также гиперфинитными, инъективными, полудискретными... Короче всего, следуя Конну, дать определение в банахово-геометрических терминах: алгебра фон Нойманна А СВ(Н) называется аменабельной, если в В(Я) существует проектор нормы 1 с образом А (иными словами, естественное вложение А в В(Н) является коретракцией в Ban,; ср. обсуждение в § 2.4). Аменабельные факторы и оказались тем классом, в рамках которого удалось дать полную классификацию. С факторами типа I (все они заведомо аменабельны) все и так было ясно: они однозначно характеризуются своей размерностью как линейного пространства. Среди аменабельных факторов типа II, как доказал Конн, есть всего два неизоморфных: тот, что был когда-то открыт Мюрреем и фон Нойманном, и еще один. Что же касается аменабельных факторов типа III, то Конн разбил их на подтипы ША, где А пробегает отрезок [0,1]. При этом он показал, что числу из интервала @,1) соответствует в точности один фактор — как раз фактор Пауэрса. Неизоморфных факторов типа Ш0 довольно много, но все они описываются в довольно прозрачных терминах так называемых «факторов Кригера». Единственная загвоздка у Конна вышла с факторами типа III, (кстати, именно они не так давно вошли в большую моду в квантовой теории поля). Конн доказал, что некий известный ранее «фактор Араки — Вудса» является аменабельным фактором указанного типа, но встретил затруднения в ответе на вопрос, есть ли другие аменабельные факторы того же типа. Этот последний пробел в теории Конна был восполнен в 1982 г. датским математиком Уффе Хаагерупом, доказавшим, что других факторов нет, и поставившим, таким образом, в проблеме классификации аменабельных факторов большую жирную точку. Материал этого параграфа сравнительно труден, и Вы, наверное, подустали. Чтобы Вас немного развлечь, мы расскажем об одной из легенд, которыми часто обрастают крупные математические открытия. Рассказывают, что якобы Конн (он был тогда совсем молодой) сделал свое открытие, будучи на математической конференции где-то около Марселя, во время бессонной ночи. Рано утром он побежал рассказать об этом главному специалисту, каковым по праву считался Пауэре. Прибежал к Пауэрсу в номер —а там говорят, что тот пошел купаться. Прибежал на пляж; где Пауэре? «А вот, видишь точку далеко в море; это его голова». И тогда Конн, не умея плавать, бросился в море и на одном энтузиазме добарахтался до Пауэрса и, пуская пузыри, рассказал ему о том, как его осенило. (Назад без поддержки Пауэрса ему бы не доплыть...) § 4. Непрерывное функциональное исчисление и положительные операторы Теорема 2.1 о местоположении спектров — это первый серьезный шаг в изучении самосопряженных операторов. Теперь мы в состоянии двинуться значительно дальше. Вплоть до особого объявления, Г — фиксированный самосопряженный оператор в гильбертовом пространстве Н, а а:=а(Т) —
428 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА его спектр; мы помним, что это непустое компактное множество bR. Напомним, что для произвольных элементов произвольных алгебр мы в свое время научились «брать многочлены», а для произвольных элементов произвольных банаховых алгебр — «брать целые голоморфные функции». Наша очередная цело — показать, что от самосопряженных операторов можно брать любые непрерывные функции, определенные на отрезках (и, более общо, любых подмножествах) в R, содержащих их спектры. Для всякого peC[t] мы обозначим, как обычно, через р\а сужение р, как функции действительного переменного, на а. Выделим подготовительное Предложение 1. Для любого peC[t] выполнено равенство Hp(T)II = IIpUL- < Сперва предположим, что р — самосопряженный элемент в C[t]; тогда из предложения 3.2 с учетом примера 3.1 следует, что таков же и оператор р(Т). Отсюда, объединяя теоремы 2.1 и 5.2.1, мы видим, что ||р(Т)||=тах{|А| | А е а(р(Т))} = тах{|р(А)| | А € eor} = bUL. Перейдем к общему случаю. Поскольку многочлен q := р*р заведомо самосопряжен, на основании уже доказанного выполнено равенство ||g(T)|| = HgUL- Но, в силу С*-тождества и с учетом того же примера 3.1 ||д(Г)|| = \\р'(Т)р(Т)\\ = \\р(ТУр(Т)\\ = ||р(Т)||2. В то же время, как легко убедиться IMJL = тах{|р'р(А)| | А € а) = тгх{\рТ\)р(\)\ | А е а} = \\Р1\Ц. Дальнейшее очевидно. > В следующем определении [а, Ь] — некоторый отрезок в R, a t обозначает сужение на [а, Ь] «независимой переменной» t н-* t. Определение 1. Непрерывным функциональным исчислением, или просто непрерывным исчислением от Т на [а, Ь] называется такой ограниченный унитальный гомоморфизм %: С[а, Ь] - В(Н), что 7c(t) = Г. Теорема 1 (о непрерывном функциональном исчислении). Если отрезок [а, Ь] содержит а, то непрерывное исчисление % от Т на [а, Ь] существует, и оно единственно. При этом (i) 7с — инволютивный гомоморфизм *-алгебр;
§ 4. НЕПРЕРЫВНОЕ ФУНКЦИОНАЛЬНОЕ ИСЧИСЛЕНИЕ 429 00 НтЛЯН = II/LII для любой функции feC[a,b\, и, как следствие, \ —сжимающий оператор; (Ш)КегGс)={/еС[а,6]|/|, = 0}; (iv) если некий ограниченный оператор в Н перестановочен с Т, то он перестановочен и с оператором %(f) для любой функции f е С[а, Ь]. Если же отрезок [а, Ь] не содержит <т, то непрерывного исчисления от Т на[а,Ь] не существует. < Пусть а С [а, Ь]. Обозначим через V подмножество в С[а, 6], состоящее из сужений многочленов. Это, разумеется, *-подалгебра. Ограничение р € С[<] на [а, Ь] условимся обозначать по-прежнему через р; это не вызовет путаницы. Поскольку непрерывное исчисление 7С от ^ на 1а> Ч — Уни" тальный гомоморфизм, выполнено равенство %(р) = р(Т) для всех р€С[?]. Поэтому из непрерывности исчисления jc и аппроксима- ционной теоремы Вейерштрасса вытекает, что существует не более одного такого исчисления. А теперь рассмотрим отображение 7о: V-* В(Н), р*-*р{Т) (совпадающее, при отождествлении V с C[t], с полиномиальным исчислением). Разумеется, это унитальный *-гомоморфизмом ¦-алгебр, переводящий t в Т. Предложение 1 гарантирует, что это сжимающий оператор относительно нормы в V, унаследованной из С[а, Ь]. Поскольку В(Н) — банахово пространство, принцип продолжения по непрерывности дает единственный сжимающий оператор %, продолжающий j0 на С[а% Ь\. Посмотрим, каковы его свойства. Пусть f,g? С[а, Ь\, последовательность рп G V сходится к /, а последовательность qn?V — к д. Тогда из непрерывности % и непрерывности умножения в С[а, Ь] следует, что последовательность 7С(Р„9„) сходится к %(fg), и в то же время из гомоморфности полиномиального исчисления и непрерывности умножения в В(Н) следует, что последовательность lAPnQj = [pnqn\(T) = P„(T)qn(T) = Чс{РпНЮ сходится к 7С(/OСE)- Этим доказано, что 7С—гомоморфизм (и, стало быть, он является непрерывным исчислением от Т на [о, Ь]). Далее, с учетом той же непрерывности %, из «звездности» алгебры С\а, Ь] следует, что последовательность 7С(Ю сходится к 7c(/*)i и в то же время в силу инволютивности полиномиального исчисления от Т (пример 3.1) и «звездности» алгебры В(Н) мы заключаем, что последовательность 7С(Ю = Рп(^)= рА^У — %(РпУ
430 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА сходится к 7С(/)*- Тем самым исчисление % — инволютивный гомоморфизм. Наконец, с учетом того же предложения 1, мы видим, что ||7с(/)|| = Jim 1К0ОИ = Jim ||pn(T)|| = Jim ||p„UL = ||/|JL. Этим установлено свойство (ii) и, как прямое следствие, (Ш). Если некий оператор SeB(H) перестановочен с Г, то, очевидно, Sp(T) = p(T)S для любого многочлена р. Поэтому если /е С[а, Ь] и рп 6 V сходится к / в С[а, Ь], то S%(f) = 5(Jim р„(Г)) = Jim (SPn(T)) = Jim (Pn(T)S) = 7e(/)S Осталось последнее утверждение. Если исчисление jc существует, то согласно предложению 5.2.4 выполнено включение ст(Т) С er(t), а последнее множество есть [а, Ь] (пример 5.3.6). Дальнейшее очевидно. > Непрерывные исчисления на разных отрезках согласованы. Предложение 2. Пусть а С [с, d] С [а, Ь], % и ^—непрерывные исчисления от Т на отрезках соответственно [а, Ь] и [с, d], т: С[а, Ь]-*С[с, d] — отображение ограничения f >-* f\lCii]. Тогда 7с = 7>- < Отображение у^т, очевидно, удовлетворяет определению непрерывного исчисления от Т на [а, Ь]. Поэтому в силу единственности последнего оно совпадает с %. > С этого момента мы условимся для каждой функции /, заданной и непрерывной на произвольном подмножестве в R, содержащем отрезок [а, Ь] D а, обозначать через /(Г) оператор 7c(/l[o,i.i)- В силу предложения 2 этот оператор не зависит от конкретного выбора отрезка. Упражнение 1. Пусть оператор Т компактен и самосопряжен. Тогда если /@) = 0, то и оператор /(Г) компактен. Для бесконечномерного пространства Н верно и обратное. Говоря о непрерывном исчислении от операторов, мы ограничились рассмотрением функций, заданных на отрезках; это несколько упрощает рассуждения, а для дальнейших приложений этого вполне хватает. Но мы могли бы взять в качестве области определения наших функций любой компакт, содержащий а, в том числе и сам с. В следующем упражнении Д — это подобный компакт, t — ограничение на Д независимой переменной, а под непрерывным исчислением от Т на Д понимается такой ограниченный унитальный гомоморфизм 7СД: С(Д)->#(#), что 7cA(t) = Г.
§ 4. НЕПРЕРЫВНОЕ ФУНКЦИОНАЛЬНОЕ ИСЧИСЛЕНИЕ 431 Упражнение 2. Справедливы все утверждения теоремы 1 с заменой [а, Ь] на Д. Как следствие, т/ (т. е. 7СД при Д := а) — изометрический оператор. Указание. Если [о, Ь] — отрезок, содержащий Д, jo всякая функция / е С"(Д) есть ограничение некоторой функции / е С[а, Ь]. С учетом известного вида ядра КегG<.), это позволяет корректно определить отображение />-»7с(/). которое и окажется требуемым исчислением. Замечание. Результат этого упражнения в случае А:=а можно рассматривать как специальный (весьма специальный) случай первой теоремы Гельфанда — Наймарка. В этой ситуации рассматриваемая С*-алгебра есть {р(Т) \ р е C[t]}~, т. е. наименьшая замкнутая по операторной норме алгебра, содержащая Т. Посмотрим, чем оборачивается общее понятие непрерывного исчисления для некоторых конкретных классов операторов. В следующих примерах и упражнениях М — подмножество в R, содержащее какой-либо отрезок, в котором лежит спектр заданного оператора, а / — непрерывная на М функция. ПРИМЕР 0. Пусть Г:=А1 (АеС). Тогда <х = {А}, и/(Т) = = /(АI для любой функции /. ПРИМЕР 1. Пусть Т:=Р— проектор в Н, отличный от 0 и 1. Мы помним, что в этом случае а = {0, 1}. Тогда /(Г) = д(Т) для любой функции де С[0, 1], равной / в точках 0 и 1. Взяв в качестве д линейную функцию /@)A — t) + f(l)t, мы видим, что /(P) = /@)Q+/A)P, raeQ:=l-P. ПРИМЕР 2. Пусть H:=L2([a, Ь], ц), где ц — некоторая боре- лева мера на [а, Ь], и Т — оператор умножения на независимую переменную. Тогда отображение ус: С[а, b] -»B(L2([a, Ь], ц)), переводящее / в оператор Т. умножения на /, есть непрерывное исчисление от Т на [а, Ь]. Таким образом, в рассматриваемом случае f(T) есть Tf. Упражнение 3. Пусть Т := Тх, А = (А,, А2,...), — самосопряженный диагональный оператор в Ц. Тогда множество М содержит все значения Ап и /(Т) — это диагональный оператор ^C/z„:=/(A„). Упражнение 4 (обобщающее предыдущее). Пусть (X, ц) — измеримое пространство, Т := Т^ — самосопряженный оператор умножения на (р е L^X, ц) в L7(X, /л). Тогда множество М содержит p(t) почти для всех t е X и /(Т) — это оператор умножения на функцию t *-* f(y>(t)).
432 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Упражнение 5. Пусть Т — самосопряженный компактный оператор в Н, векторы еп и числа Ап —те же, что в теореме Гильберта— Шмидта. Тогда множество М содержит все значения Ап, а если пространство Н бесконечномерно — то и 0; оператор f(T) переводит е„ в /(А„)е„ и равен /@)х на всех таких векторах х, что х±еп, п = 1,2,... Сравним только что построенное непрерывное исчисление с построенным в § 5.3 целым голоморфным исчислением. Целые функции, как мы помним, можно брать от произвольных элементов произвольных банаховых алгебр. Теперь же исходные требования ужесточились: мы рассматриваем конкретную алгебру В(Н) и в качестве ее элемента — обязательно самосопряженный оператор. Но зато и функций, которые можно брать от элемента, значительно больше: например, мы вправе говорить о «модуле оператора Т», «корне кубическом из Т* и т. п. ЗАМЕЧАНИЕ. На самом деле существенно в построении непрерывного исчисления то, что речь идет о С*-алгебре А и ее нормальном (не обязательно самосопряженном) элементе а. В этой ситуации можно, взяв непрерывную функцию / на компакте в С, содержащем а(а), определить элемент /(а) (см., например, [16]). Но это уже предел возможных обобщений. Употребление сходных символов w(T) для w еО (см. § 5.3) и /(Т) для / G С[а, Ь] в этом параграфе не может вызвать конфуза: Упражнение 6 (о согласованности функциональных исчислений). Пусть 7е — целое исчисление от Т как элемента алгебры В(Н), а [а, Ь] — отрезок, содержащий а. Тогда диаграмма О —j-^ С[а,Ъ] -\ /? В(Н), где j: «л-» w|[a,n> коммутативна. Указание. Множество многочленов плотно в О, а множество их сужений на [а, Ъ] плотно в С[а, Ь]. Отметим привлекательную черту непрерывного исчисления, роднящую это исчисление с рассмотренными ранее. Теорема 2 (закон отображения спектров для непрерывного исчисления). Для любого отрезка [а, Ь], а С [а, Ь] С R, и функции f € С[а, Ь] выполнено равенство ст(/(Г)) = f(<r(T)).
§ 4. НЕПРЕРЫВНОЕ ФУНКЦИОНАЛЬНОЕ ИСЧИСЛЕНИЕ 433 < Вначале покажем, что a(f(T))Cf(a(T)). Пусть А <?/((т(Т)), т. е. /(f) ^ А при t б ст(Т). Рассмотрим на <т(Т) функцию (/(«)-А)-1. Она, как и любая непрерывная функция на <т(Т), может быть продолжена до непрерывной функции, скажем, д, на [а, Ь] (это очевидным образом следует из представления Ш\а(Т) в виде объединения непересекающихся интервалов). Тогда функция 5@(/@ - А) - 1 равна нулю на <т(Т) и, стало быть (теорема 1), принадлежит Кег GС). Отсюда g(T)(f(T)- А1)= 1, а это означает, ЧТ0А?<7(/(Т)). Установим обратное включение. Пусть, напротив, для некоторого s е (т(Т) случилось так, что f(s) ? cr(f(T)); иными словами, оператор f(T) - f(s)l обладает в В(Н) обратным, скажем, S. Рассмотрим для каждого п eN функцию дп е С[а, Ь], равную 1 в точке .s, 0 при \t-s\~Z- и линейную на отрезках [s--, s] и [s, •* + -]• Поскольку 7с — гомоморфизм и HfliJIou = |l5„L(r)IL — 9n(s) = 1> с учетом теоремы 1 мы получаем: ^ = \\9n(T)\\^\\9n(T)(f(T)-f(s)l)SH\\gn(T)(f(T)-f(s)l)\\\\S\\. Отсюда на основании того, что jc —сжимающий оператор, следует, чт0 \\яп(/ — /(,S))IL ^ пой- Но, в силу выбора дп выполняется условие ||5„(/-/(•«))IL-*0 ПРИ п~*°°. Получили противоречие. > Вот еще одно полезное наблюдение: при отождествлении двух операторов посредством топологической (или, как частный случай, унитарной) эквивалентности одновременно отождествляются и непрерывные функции от этих операторов. А именно, справедливо Предложение 3. Пусть I: Н —> К —топологический изоморфизм между гильбертовыми пространствами, осуществляющий топологическую эквивалентность между самосопряженными операторами Т: Н —> Н и S: К —» К. Тогда для любой функции f € С[а, Ь\, где [а, Ь] —отрезок, содержащий (общий в силу предложения 5.1.1) спектр этих операторов, тот же изоморфизм I осуществляет топологическую эквивалентность между операторами /(Г) и f(S). < Рассмотрим отображение ^: C[a,b]^B(K), f н-> If(T)I~x. Очевидно, оно обладает свойствами непрерывного исчисления от S на [а, Ь]. Следовательно, в силу единственности последнего оператор If(T)I~x есть не что иное, как f(S). > Одно из разнообразных приложений непрерывного исчисления состоит в том, что оно позволяет охарактеризовать с разных
434 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА точек зрения некоторый весьма важный класс операторов. Это как раз те операторы, которые при уподоблении самосопряженных операторов действительным числам (см. разговоры в § 2) ведут себя как положительные или, говоря точнее, неотрицательные числа. Определение 2. Элемент а (произвольной) унитальной ин- волютивной алгебры называется положительным (обозначение а^О), если он самосопряжен и ff(a)CR+. В частности, ограниченный оператор в гильбертовом пространстве Я называется положительным, если он таков как элемент инволютивной алгебры В(Н). Разумеется, любой (орто)проектор положителен. Огромное множество примеров положительных элементов дает Предложение 4. При инволютивных унитальных гомоморфизмах унитальных *-алгебр положительные элементы переходят в положительные. < Непосредственно вытекает из предложений 3.2 и 5.2.4. > Следствие 1. Если f 6 С[а, Ь], где [а, Ь] Э а(Т), и f ^ 0, то оператор /(Г) положителен. В частности, заведомо положителен оператор, описываемый следующим определением. Определение 3. Если Г ~& 0, то оператор /(Т), где f(t):= := y/t — функция, заданная на любом отрезке в R+, содержащем ст(Т), называется арифметическим квадратным корнем из Г и обозначается у/Т. (Мы помним, что такой оператор не зависит от выбора упомянутого отрезка.) Из определения очевидным образом следует, что (у/ТJ = Т. (Отсюда и название «корень».) Упражнение 7. Оператор у/Т— это единственный положительный оператор, квадрат которого равен Г. Указание. Пусть последовательность p„(t) сходится к \ft в С[0, || ГЦ]. Тогда, если оператор S^O таков, что S2 = Г, и qn(t) ;=p(t2), то последовательность qnC) = рп(Т) сходится и к 5, и к у/Т. Теорема 3. Следующие свойства оператора Т € В(Н) эквивалентны: (i) оператор Г положителен; (и) Г = S2 для некоторого положительного оператора S; (Ш) Т — S2 для некоторого самосопряженного оператора S;
§ 4. НЕПРЕРЫВНОЕ ФУНКЦИОНАЛЬНОЕ ИСЧИСЛЕНИЕ 435 (iv) T = S'S для некоторого оператора S е В(Н, К), где К — еще одно гильбертово пространство; (v) квадратичная форма оператора Т принимает неотрицательные значения (т. е. {Тх, х) ^ 0 при всех х е Н). < (i) => (ii) Достаточно взять S := у/т. (и) ==>¦ (iii) =*¦ (iv) Очевидно. (iv) =>¦ (v) Следует из равенств (Тх, х) = {S'Sx, х) = {Sx, Sx). (v) =>• (i) Из предложения 2.2 следует, что оператор Т самосопряжен и, стало быть, о(Т) С R. Поэтому наша задача — показать, что при t >0 оператор T + tl обратим. Для любого хеН выполнено равенство \\(T + tl)x\\\\x\\*\((T + t)x,x)\ = (Tx,z) + t(x,xJt\\x\\*. Отсюда оператор T + tl топологически инъективен, и остается воспользоваться предложением 2.6. > Если самосопряженные операторы образуют в В(Н) действительное подпространство, то положительные операторы образуют в последнем так называемый конус. Предложение б. Если S, Т > 0 и t ^ 0, mo S + Т ^ 0 и tS ^ 0. Если же Т ^ 0 и -Т > 0, mo Т =0. < Из теоремы 3 (v) сразу следует первое и, с учетом предложения 2.1, — второе утверждение. > Приведем некоторые из многочисленных приложений арифметических квадратных корней. Предложение 6. Если Т ^ 0, mo \\Т\\ = sup{(Tx, х) \ х € Шя}. < Доказательство следует из равенств ||Т|| = Цл/ТЦ2 и ||v/rx||2 = (v/Tx)v/rx) = (v/Tv/Ti)i> = (rx,x), х е Я. t> Упражнение 8. Для любого самосопряженного оператора Г выполнены равенства max(<x(r))=sup{(Tx, х) | х € Шя}, min(<r(T))= inf{(Tx, х) | х € Шя}. Как следствие, ||Г||=1ир{К2Ъ*)||»еШя}. Указание. Для достаточно больших * > 0 выполнено равенство maxa(T) + t = \\T + tl\\ = sup{(Tx, x) | x e Шя} + t. Положительные операторы дают нам возможность показать, как выглядят обещанные ранее полярные разложения — теперь уже для произвольного ограниченного оператора (ср. упражнение 2.7).
436 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Упражнение 9*. Пусть Т: Н —> К — ограниченный оператор между гильбертовыми пространствами. Тогда существуют такой частично изометрический оператор W: Н —> К и такие положительные операторы S: Н —> Н и R: К—>К, что Т = WS = RW. При этом пара операторов W, S однозначно определена условием (Ker(W))L = (Im(S))", а пара W, R —условием (lm(W)y = Ker(R). Указание. Положим S := VT'T. Тогда ||5х|| = \\Тх\\ для всех х € Н. Поэтому существует частично изометрический оператор W, однозначно определенный тем, что он переводит Sx в Тх и равен нулю на (Im E))-1. Роль R играет у/ТТ'. Полярное разложение, в свою очередь, помогает установить тот важный факт, что для самосопряженных операторов оба вида отождествления — «мягкая» топологическая и «жесткая» унитарная (=изометрическая) эквивалентность — оказываются одним и тем же (ср. упражнение 2.5). Упражнение 10*. Пусть самосопряженные операторы 7]: Н —> Н и Т2: К —> К топологически эквивалентны. Тогда они унитарно эквивалентны. Указание (A.M. Степин). Пусть изоморфизм I: Н—>К осуществляет указанную топологическую эквивалентность и I = WS — его полярное разложение. Тогда заведомо W — унитарный, a S — положительный топологический изоморфизм. Из равенства Щ = Т21 и самосопряженности исходных операторов следует, что оператор 7] перестановочен с /*/, а значит (теорема 1), и с S = \ЛгЧ. Отсюда WTX = WSTXS~{ = T2IS~X = T7W. Упражнение 11*. Всякий самосопряженный оператор есть линейная комбинация двух унитарных операторов. Как следствие, всякий ограниченный оператор есть линейная комбинация четырех унитарных операторов. Указание. Если ||Г|| < 1, то, имитируя представление числа из [—1, 1] в виде суммы двух чисел из Т, рассмотрите операторы U:=T±iy/l-T*. Понятие положительного оператора позволяет ввести в В(Н) еще одну важную структуру — порядок. Определение 4. Пусть S, Т е В(Н). Будем говорить, что S меньше Т, и писать S ^ Т, если Т - S ^ 0 (иными словами, (Sx, х) ^ (Тх, х) для всех х G Н).
§ 4. НЕПРЕРЫВНОЕ ФУНКЦИОНАЛЬНОЕ ИСЧИСЛЕНИЕ 437 Укажем целый ряд свойств отношения <. Они и сами по себе любопытны, а главное — пригодятся впоследствии, при доказательстве одного из вариантов спектральной теоремы. Предложение 7. Отношение ^ обладает всеми свойствами отношения порядка (см. определение 0.1.1), а также следующими дополнительными свойствами: (i) если S, ^ Г, и S2 ^ Г2, то S, + S2 ^ Г, + Г2; (ii) если S $ Г и О 0, то tS ^tT; (iii) если S ^Т и Т ^S, то S = Т; (iv) если S ^ Т, mo R'SR^R'TR для любого R еВ(Н); (v) если S ^ Г, а Р — проектор, перестановочный с обоими операторами, то SP ^ ТР; (vi) для любого самосопряженного оператора Г выполнено неравенство -\\Т\\\ ^ Г ^ ||Г||1; (vii) если (Зля некоторого С > 0 выполняется неравенство -С\ <^Т <^С\, то ||Г||^ С; (viii) (усиление предыдущего) если для самосопряженных операторов S, Г выполнено неравенство -S ^ Г ^ 5, то || ГЦ ^ ||S||; (ix) для S,TeB(H) отношение S'S^T'T эквивалентно тому, что \\Sx\\ ^ ||Гх|| для всех хеН. < Свойства отношения порядка, а также (i)-(iii) сразу следуют из теоремы 3 (v) и предложения 5. Aу)_Если Г ^ 0, то с учетом теоремы 3 (iv) мы получаем R'TR = = (VTRy(y/TR)^0. Дальнейшее очевидно. (v) Утверждение следует из (iv) и предложения 1.12. (vi)TaK как <т(Г)С[-||Г||, || Т||] (теорема 2.1), спектры заведомо самосопряженных операторов ||Г|| 1 - Г и ||Г|| 1 + Г лежат в К+. (vii) Пользуясь той же теоремой 2.1 и заменяя, если потребуется, Т на —Г, мы вправе считать, что ||Г|| е сг(Т), а это равнозначно тому, что (С - ||Г||) е (т(С\ - Г). Но последнее множество по условию лежит в R+. (viii) В силу утверждения (vi) и свойств порядка -||S|| 1 ^ Г ^ ^ || S || 1, и нужная оценка следует из (vii). (ix) Справедливо равенство (S'Sx, х) = ||&с||2, и то же верно с заменой S на Г. Но сказать, что S'S ^ Г*Т — это то же самое, что сказать (S'Sx, х) $ (Г*Гаг, х). > От возможных иллюзий избавляет
438 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Упражнение 12*. Из неравенства 0^ S < Т, вообще говоря, не следует, что S2 ^ Т2 и (как следствие) что ||Sx|| ^ || Тх\\ для всех хеН. Указание. Рассмотрите одномерный проектор и прибавьте к нему другой одномерный проектор, с ним не перестановочный. Предложение 8. Пусть Т — самосопряженный оператор, [а, Ь] —отрезок, содержащий его спектр, f,ge С[а, Ь]. Тогда (i) если f ^g, то /(Г) ^ g(T) (непрерывное исчисление сохраняет порядок); (ii) если |/| < \д\, то ||/(Т)х|| ^ ||д(Т)х|| для всех х е Я. < (i) Утверждение непосредственно вытекает из следствия 1. (ii) Из утверждения (i) следует, что f(T)*f(T) = (ff)(T) меньше д(Т)'д(Т) = (дд)(Т), и остается применить предложение 7 (ix). > В случае проекторов отношение порядка может быть выражено как в геометрических, так и в алгебраических терминах. Предложение 9. Пусть Р u Q — проекторы на подпространства соответственно К и L в Н. Следующие утверждения эквивалентны: (i) Р s? Q; (ii) К С L; (iii) QP = PQ = Р; (iv) Q - Р — проектор. < (i) =>- (ii) Поскольку Р — Р*Р и Q = Q"Q, из предложения 7 (ix) следует, что ||Рх|| < ||Qai|| для всех х е Я. Но если х е К \L, то ||Рх|| = ||х|| и ||Qx|| < ||х||. Получили противоречие. (ii) =>¦ (iii) Для любого х б Я выполнено условие Рх е К; отсюда PxeL и QPx = Px. Для того же х выполнено условие (x-Qx)±L; поэтому (х - Qx) ±К и Рх - PQx = 0. (iii) =Ф- (iv) Очевидно, оператор Q - Р самосопряжен и идемпо- тентен. (iv) =» (i) Будучи проектором, оператор Q — Р положителен. > В заключение отметим еще одно полезное приложение непрерывного исчисления. Оно позволяет разложить самосопряженный оператор на его положительную и отрицательную части — подобно тому, как это делается с функциями, принимающими действительные значения. Вплоть до конца параграфа / е С[а, Ь] — подобная функция. Положим, как обычно, f+(t) := max{/(?),0} f_(t) :=max{—f(t),Q}. А теперь пусть Г — такой самосопряженный оператор, что а(Т) с [а, Ъ]. Рассмотрим операторы /+(Г) и /_(Г); в силу следствия 1 оба они положительны. В частности, при /:=t (независимой переменной) возникают положительные операторы T+:=t+(T) и T_:=t_(T); они называются соответственно положительной и отрицательной частью оператора Т.
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА - СТИЛЬТЬЕСА 439 Оператор Т++ Т_ называется абсолютным значением оператора Т и обозначается \Т\. Упражнение 13. Убедитесь, что \Т\ = у/т*. Как следствие (см. упражнение 9), полярное разложение самосопряженного оператора Г имеет вид T=W\T\ = \T\W. Упражнение 14. Убедитесь, что Кег(Т) = Кег(|Т|) = {хеЯ|(|Т|х,х) = 0} для любого самосопряженного оператора Т. Предложение 10. Пусть f G С[а, Ь] u Im (/) С R. Тогда (i)f(T) = f+(T)-f_(T), (ii)/+(T)/_(T) = /_(T)/+(r) = 0, (Ш)||/(Т)|| = тах{||/+(Г)||,||/_(Т)||}. В частности, Т = Т. - Т_, Т,Т=Т_Т.=0 и \\Т\\ = = тах{||Г+||,||Г||}. < Равенства (i) и (ii) немедленно следуют из соответствующих соотношений для функций /+ и /_ в С[а,Ь] и алгебраических свойств непрерывного исчисления. Равенство (Hi) следует из очевидного соотношения ||/|«r(r)IL = max{ll/+l«(r)IL> ll/-L<r)IL} и тео" ремы 1 (ii). > Упражнение 15. Пара Т+,Т_—это единственная пара положительных операторов, обладающая только что указанными свойствами. Указание. Если S+, S_ — другая подобная пара, то E+ + S_J = = Т2 и поэтому, с учетом упражнений 7 и 13, S+ + S_ = \Т\. Упражнение 16. Выполнены соотношения 1ш(/+(Г))±1т(/_(Г)), Кег(/+(Г)) + Кег(/_(Г)) = Я, Кег(/(Г))-Кег(/+(Г))ПКег(/_(Г)). § 5. Спектральная теорема в облике операторнозначного интеграла Римана — Стильтьеса Мы переходим к рассказу об одном из важнейших достижений математической мысли «всех времен и народов» — спектральной теореме Гильберта о строении самосопряженных операторов1'. На самом деле известен целый ряд близких по смыслу утверждений, '* Когда-то, только поступив в аспирантуру, я оказался свидетелем яростного спора двух выдающихся членов нашей кафедры. Один (ему, между прочим,
440 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА то или иное из которых разные люди (и авторы учебников) берут, в зависимости от вкуса, за основу и именуют спектральной теоремой. Все же, с определенной долей упрощения, можно сказать, что все эти облики великой теоремы распадаются на две группы, которые мы условно назовем ее «аналитической» и «геометрической» формами. Аналитическая форма заключается в том, что каждый самосопряженный оператор порождает некоторое семейство проекторов, а сам с помощью некоторой канонической процедуры по этим проекторам восстанавливается. Таким образом, оказывается, что задание самосопряженного оператора эквивалентно заданию семейства проекторов с определенными свойствами. Упомянутая восстановительная процедура представляет собой интеграл, но только не по обычной, а по так называемой проекторнозначной мере. Определяя соответствующий «операторнозначный» интеграл, можно следовать классической конструкции интеграла Римана — Стильтьеса, а можно и интеграла Лебега. (Первая выигрывает в наглядности и простоте рассуждений, а вторая дает более мощные результаты и допускает дальнейшие обобщения.) Геометрическая форма спектральной теоремы заключается в предъявлении модели рассматриваемого оператора — унитарно эквивалентного ему оператора сравнительно конкретного и «осязаемого» вида. Таковым оказывается оператор умножения на функцию в L2() на некотором надлежащим образом подобранном измеримом пространстве. Собранные воедино, оба подхода после некоторой доработки приводят к полной классификации самосопряженных операторов с точностью до унитарной (или, что в данном контексте оказывается одним и тем же, топологической) экь«..чалентности. С категорной точки зрения это означает полное познание их природы (см. теорему 7.4). Эта классификация обобщает уже известную нам классификацию компактных операторов рассматриваемого класса (см. § 2), но формулируется уже не в столь простых терминах. Нам представляется, что знакомство со спектральной теоремой лучше всего начать с ее сравнительно наглядной формы, использующей интеграл типа Римана — Стильтьеса по так называемому разложению единицы. К тому же и соответствующие рассуждения предстояло стать первооткрывателем суперанализа) утверждал, что спектральная теорема — это самое главное достижение функционального анализа, остальные ей и в подметки не годятся. Другой (ему принадлежат важные работы по уравнениям в частных производных, комплексной аналитической геометрии и топологическим векторным пространствам) говорил, что в функциональном анализе есть и целый ряд других, вполне сравнимых по значимости результатов. Чуть до драки не дошло...
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА — СТИЛЬТЬЕСА 441 будут носить сравнительно элементарный характер, опираясь на такие средства, как непрерывное исчисление и структура порядка. Итак, снова Т — фиксированный самосопряженный оператор в гильбертовом пространстве Н. Напомним, что после проделанной в предыдущем параграфе работы мы получили в наше распоряжение всевозможные операторы /(Г), где / — произвольная непрерывная функция на действительной прямой (вместо которой, как было показано, можно рассматривать ее ограничение на любой отрезок, содержащий ст(Т)). Для каждого А € К положим ЯА:=П{Кег(/(Г))|/(«) = 0 при t < А, / е C(R)} Сразу же заметим, что для определения множества Нх достаточно и одной функции. Предложение 1. Пусть функция / G C(R) такова, что f(t) = 0 при t^X и f(t)^0 при t>\. Тогда #А =Кег(/(Г)). В частности, Нх =Ker((t- А)+(Т)). < Очевидно, достаточно показать, что для любой функции g 6 С(Ш), g(t) = 0 при t ^ А, и для любого х е Н из равенства /(Г)ж = 0 следует, что g(T)x = 0. Возьмем для каждого п = 1, 2,... функцию gn(t) = g[t — -). Выберем также отрезок [а, Ь], содержащий <х(Т). Очевидно, последовательность дп равномерно сходится к д на [а, Ь], а потому дп(Т) сходится к д(Т) в В(Н). Зафиксируем (временно) п и выберем настолько малое число с > 0, что с max{|ffn(OI \a^t^b}^ min{|/(t)| I A + ^< t ^ b}. Тогда \cgn\ ^ |/| на [a, b], и, пользуясь предложением 4.8 (ii), мы видим, что ||cgn(T)i|| ^ ||/(Г)я|| =0. Отсюда дп(Т)х = 0 для любого п, и, стало быть, д(Т)х = 0. > Мы пришли к весьма важному геометрическому объекту, задание которого, как мы вскоре увидим, эквивалентно заданию самого оператора. Определение 1. Семейство Нх, А е R, называется семейством подпространств, ассоциированных с (самосопряженным) оператором Т. Предложение 2. Семейство Нх обладает следующими свойствами: (i) для некоторых a,beR выполнены равенства Нх=0 при А < а и Нх= Н при А ^ b (ограниченность);
442 Гл.6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА (и) если А < р, то ЯА С Ям (возрастание); (iii) для любого А выполнено равенство ЯА =с\{Н^ \ р > А} (непрерывность справа); (iv) все пространства Нх инвариантны относительно д(Т) для любой функции g € C(R) и, в частности, относительно самого оператора Т. < (i) Если А <гшп{ст(Т)}, то существует функция / б C(R), равная нулю при t < А и отличная от нуля на о(Т). Но тогда в силу теоремы 4.2 (об отображении спектров) оператор /(Т) обратим и, стало быть, Нх С Кег(/(Г)) = 0. Если же А ^ тах{<т(Г)}, то для любой функции / е С (Ж), f(t) = 0 при t < А, выполнено равенство /(Г) = 0 (теорема 4.1 (iii)) и, стало быть, ЯА = Я. (и) Это свойство непосредственно следует из определения 1. (iii) Возьмем любую функцию /, равную 0 при t < А, и для любого р. > А положим Д(?) := /(* — (р — X)). Тогда /,,(?) равномерно сходится к f(t) при р —> А +0 на любом отрезке. Отсюда Д(Т) сходится к /(Г) при /х -* А +0 в В(Я). Поэтому если х е Ям, и, стало быть, Д(Г)а; = 0 для всех р > А, то /(Т)х = 0. Обратное вложение следует из (ii). (iv) Наша задача — показать, что условие хеНх влечет равенство f(T)(g(T)x)=0 для любой такой функции / е C(R), что /(*)=0 при t < А. Но /(Г)(д(Т)х) = (/з)(Г)х, а функция fg(t) также равна 0 при t ^ А. Дальнейшее очевидно. > Пример 1. Пусть Р — проектор на подпространство К в Я. Зная вид операторов /(Р), / G C(R) (см. пример 4.1), мы видим, что ЯА = 0 при А < 0, ЯА = К1 при 0 ^ А < 1 и, наконец, НХ=Н при А ^ 1. Пример 2. Пусть Т — оператор умножения на независимую переменную из примера 4.2. Тогда из указанного примера ясно, что Ял=0 при А <а, ЯА ={gGL2[a, b]\g(t) = 0для почти всех* > А} при а^ А < Ь и, наконец, НХ=Н при А > Ь. Упражнение 1. Явно укажите семейство Нх для операторов из упражнений 4.3-4.5. Пусть Нх и Кх, А € R, — семейства подпространств в гильбертовых пространствах соответственно Я и К. Назовем эти семейства топологически (соответственно унитарно) эквивалентными, если для некоторого топологического (соответственно унитарного) изоморфизма U выполнено равенство Кх = U(HX) для всех А.
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА — СТИЛЬТЬЕСА 443 Про такой оператор U мы будем говорить, что он осуществляет эквивалентность соответствующего типа. Предложение 3. Пусть Т: Н —> Я u S: К —> К — самосопряженные операторы, Нх и Кх— их ассоциированные семейства. Пусть, далее, некий изоморфизм U: Я —> К осуществляет топологическую (или, как частный случай, унитарную) эквивалентность этих операторов. Тогда U осуществляет эквивалентность соответствующего типа между ассоциированными семействами обоих операторов. < Из предложения 4.3 очевидным образом следует, что f(T)x = = 0 тогда и только тогда, когда f(S)(Ux) = 0 для любой функции / 6 C(R). Дальнейшее очевидно. > Таким образом, классы унитарной эквивалентности семейств подпространств, ассоциированных с самосопряженными операторами, являются инвариантами унитарной эквивалентности. (Читатель, сделавший упражнение 4.10, знает, что это все равно, что сказать: топологической эквивалентности.) Но мы еще не знаем, является ли подобная система инвариантов полной (т. е. не унитарно эквивалентные операторы приводят к не унитарно эквивалентным семействам), и какие семейства подпространств могут быть ассоциированы с самосопряженными операторами. Все это даст спектральная теорема. Тем не менее, уже сейчас мы можем убедиться в том, насколько важна информация об операторе Г, заключенная в семействе ЯА. Вот две иллюстрации. (Впоследствии Вы сможете при желании получить оба факта как простые следствия спектральной теоремы, но поучительно установить их с помощью уже имеющихся в нашем распоряжении средств.) Назовем А е R точкой возрастания семейства Нх, если в любой ее окрестности найдется такая точка /z, что Н^^Н^, и точкой разрыва этого семейства, если (и{Я/1 | р, < А})" — собственное подпространство в Нх. В дальнейшем мы будем пользоваться следующим обозначением. Если Я — гильбертово пространство и Я, С Я2 С Я — его замкнутые подпространства, то положим по определению Я2 © Я, := Я,-1 п Я2. (Иными словами, Н2еН: — это ортогональное дополнение пространства Я,, взятое «внутри» Я2.) Упражнение 2. (i) Число А принадлежит ст(Т) тогда и только тогда, когда оно является точкой возрастания семейства Нх. (и) Число А — собственное значение для Г тогда и только тогда, когда оно является точкой разрыва семейства Нх.
444 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Указание, (i) <= Если А &а(Т), то (А - е, А + е)П<х(Т) = 0 для некоторого е > 0 и все функции /, равные 0 при t ^ А — е и 1 при t ^ А + е, дают один и тот же оператор /(Г). (i) =Ф- Пусть (для определенности) А =0 и Н^ = Н0 при \р,\ ^ в. Тогда с учетом предложения 1 мы получаем Кег (Т+) = Кег (Г + 01)+= Кег (Г - 01)+. Если хеКет(Т+), то (Т + 9\)х = -{Т + в\)_х, {Тх,х)^-в(х,х) и ||Ti|| Js0||x||. Если же х J. Кег (Г+), то х e[Im(T - в1)+]~ С Кег (Т - в1)_, (Т - dl)x = (Т - 61)+х и снова ||Тх|| >0||х||. Отсюда 0? ст(Т). (И) <==. Пусть х е ЯА 0 Я„ при ц < А. Тогда (Г - А1)+х = 0 и х € [Кег (Г - /Л)+:Г = [Im (Г - /Л)+]" С Кег (Г - ц1)_. Отсюда (Т-А1)_х = lim (Г - /Л)_х = 0, и Тх = Ах. (ii) =>¦ Пусть Гх = Ах. Тогда (Г-А1)_х = 0, откуда в силу неравенства (t - р)_ < (t - А)_ при ц < А следует, что (Т-/Л)_х = 0 при тех же р. Но тогда (А - р)х = (Т— р,1)+х и х±Кег(Т-/Л)+. Теперь нам удобнее перейти с языка подпространств на язык проекторов на эти пространства. Пусть Рд — проектор на Ял. Следующее понятие играет роль визитной карточки самосопряженного оператора. Определение 2. Семейство РА, А е R, называется разложением единицы для (иногда удобнее говорить: относительно) оператора Т. Теорема 1. Разложение единицы для оператора Т обладает следующими свойствами'. (i) существуют такие a, b € К, что РЛ = 0 при А < а и Рл = 1 при Х^Ь (ограниченность); (ii) если А < р, то РХ^РИ (возрастание); (Hi) для любого хеН выполнено равенство Рхх= lim Р^х (сильно-операторная непрерывность справа); с-л+о (iv) все операторы РА перестановочны с д(Т) для любой функции g е C(R) и, в частности, с самим оператором Т.
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА — СТИЛЬТЬЕСА 445 < (i), (ii). Эти утверждения следуют из соответствующих утверждений предложения 2 в объединении с предложением 4.9. (iv) Для вещественной функции д утверждение следует из предложения 2 (iv) вместе с предложением 2.3 (v). Общий случай сводится к вещественному при помощи разложения g = Re(g)+i Im (д). (iii) Очевидно, достаточно установить, что из условий lim /хп = Л, Мп > Ч-п +1 > ^ следует, в обозначении Рп'.=Р11 , что для любого х е Н выполнено равенство lim Рпх = Рхх. Положим Яп:= Н^, Н0:= Я, Кп:= Нп_,0Нп, п = 1,2,..., и обозначим через Qn ортопроектор на Кп. Тогда, очевидно, для любого п имеет место разложение в гильбертову сумму Н = К1®К2Ф...@Кп®Нп. Отсюда, в обозначении уп := ? Qkx> выполнено равенство х = уп + Р„х. Далее, из неравенства J2 \\Qkx\\2 ^ 11х112> обеспеченного теоремой Пифагора, следует, что ряд ?) ||<3*я||2 сходится, и, значит, последовательность уп фундаментальна. Пусть у — ее предел; тогда последовательность Рпх сходится к х — у. Поскольку Qkx 1. #„ при к ^.п, уп± Нп, а значит, уп±Нх и у ± Нх. Далее, х — у„ — РпхеНп; поэтому х — утеНп при всех т^пи, стало быть, х — у е П Нп. А теперь — кульминация: в силу предложения 2 (iii) последнее пространство есть Нх. Следовательно, lim Pnx = x-y = Px(x-y) = Pxx-Рху = Рхх. > Следствие 1 (слабо-операторная непрерывность справа разложения единицы). Для любых х,уеН функция \h->(Pxx,y) непрерывна справа. Мы непосредственно переходим к понятию операторнозначного интеграла Римана — Стильтьеса. Оно является частным случаем понятия одноименного векторнозначного интеграла, которое само по себе заслуживает упоминания. Забудем ненадолго о нашем операторе Т. Рассмотрим банахово пространство Е и некий отрезок [а, Ь]. Пусть ip — функция на [а, Ь], принимающая значения в Е, а / — комплекснозначная функция на том же отрезке (обе пока произвольны). Далее, как и при традиционном определении интеграла Римана, рассмотрим
446 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА всевозможные разбиения Л: а= А0, А,,..., А„ = Ь нашего отрезка и положим d(A):=max{Afc-At_, | к = 1,..., п}. Наконец, каждому разбиению Л сопоставим вектор k = i в Е, который называется интегральной суммой Римана — Стильтьеса, соответствующей разбиению Л. Определение 3. Пусть существует lim ?Л(/, ip) (т. е. вектор х е Е, удовлетворяющий условию: для любого е > 0 найдется такое 6 >0, что ||х-ЕЛ(/, ip)\\ < е, если d(A) < S). Тогда этот предел называется интегралом Римана — Стильтьеса функции f(t) по векторнозначной функции ip(t) и обозначается J f(t)dip(t). Мы не будем сейчас обсуждать довольно деликатный вопрос о том, при каких условиях на / и ip введенный векторнозначный интеграл существует, а сразу перейдем к непосредственно нас интересующему специальному случаю. Интегралы наших функций будут принимать значения в В(Н), и соответственно мы будем их величать операторнозначными. Множество всех проекторов в Н будет обозначаться через V(H). Рассмотрим некое отображение Р: R —»V(H) и условимся писать Рх вместо Р(А). Определение 4. Отображение Р называется абстрактным разложением единицы (или просто разложением единицы, если нет опасности путаницы), если оно обладает свойствами (i)- (iii) из теоремы 1. Всякий отрезок [а,Ь] с концами а и Ь, для которых выполнено указанное в этой теореме свойство (i), мы будем называть допустимым (для Р). Разумеется, теорема 1 как раз и означает, что разложение единицы относительно некоторого самосопряженного оператора является абстрактным разложением единицы. (Вскоре нам предстоит выяснить, верно ли обратное.) Для каждых А, /х е R, А ^ ц, положим Р* := Р^ -РА. В силу предложения 4.9 (iv) это проектор. С помощью того же предложения легко проверяется, что при А, ^ А2 ^ А3 С А4 выполнены равенства Р$Р? = Р?, A) РА*.рА^=0. B) Пусть Р — некоторое (абстрактное) разложение единицы и [о, Ь] — допустимый для него отрезок. Назовем функцию /: [о, 6] —> С ступенчатой, если для некоторого разбиения
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА — СТИЛЬТЬЕСА 447 Л: а=А0,А,,...,Ап = Ь эта функция принимает постоянное значение на каждом полуинтервале (\к, АЛ + 1], к =0,..., п - 1. Множество всевозможных ступенчатых функций на [а, Ь] обозначим через St[o, Ъ]; очевидно, это нормированная (причем не полная) алгебра относительно поточечных операций и равномерной нормы. Отметим ту очевидную вещь, что каждая непрерывная функция на [а, Ь] есть предел некоторой равномерно сходящейся последовательности ступенчатых функций. Задавшись ступенчатой функцией h на [а, Ь], выберем какое- либо разбиение Л, удовлетворяющее указанному выше требованию, и обозначим через 1(h) оператор ]Г) h(\k)Pxki. Очевидно, что это определение не зависит от выбора Л и что I: St[a, b] -* В(Н) — линейный оператор. Предложение 4. Имеет место неравенство \\I(h)\\ ^ ||/i|L- < Из равенств A) и B) очевидным образом следует, что Hhyi(h)=±\h{\h)\>px\>-\ Отсюда с учетом предложения 4.7 (i) мы получаем 0 ^ I(hyi(h) < ± \\Ц%Р^ = \\Ш(РЬ - Ра) = \\h\H 1, а это в силу С*-тождества и предложения 4.7 (vii) приводит к неравенству ||/(ft)ll2 ^ ЦЩ. > Теорема 2. Пусть Р — (абстрактное) разложение единицы и [а, Ь] — допустимый для него отрезок. Тогда для любой непрерывной функции / € С[а, Ь], существует интеграл Римана — Стильтьеса J /(A)dP(A) (скалярной) функции f по (оператор- позначной функции) Р. При этом (i)|j/(A)dP(A)|^||/L; ь (И) интеграл $ /(A)dP(A) перестановочен со всеми операторами РА и, как следствие, со всеми Р„А, А < ц; ь (Ш) интеграл J f(X)dP(X) не зависит от выбора допустимого отрезка [о, Ь]; « ь (iv) отображение f. С[а, Ь] -» В(Н), f н-» $ /(A) dP(A), — это непрерывное исчисление на [а, Ь] от оператора S := $ AdP(A).
448 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА < Из предложения 4 и равенств A) и B) легко следует, что отображение /: St[o, b] —> В(Н), ht-^I(h), — это сжимающий оператор и одновременно унитальный гомоморфизм алгебр. Обозначим через А замыкание множества St[a, b] в пространстве ограниченных функций ^([a, Ь]). По теореме 2.1.2, оператор / продолжается до сжимающего оператора из А в В(Н), который мы будем обозначать тем же символом /. Заметим, что А — подалгебра в 1ж([а, Ь]), а построенное продолжение I также является гомоморфизмом алгебр. В самом деле, если f,geA и последовательности ступенчатых функций hn и h'n равномерно сходятся соответственно к/и j, то, разумеется, последовательность hnh'n равномерно сходится к /д. Отсюда fg?A, так что А —подалгебра. Далее, последовательность I(hnh'n) = I(hn)I(h'n) сходится к I(fg) и в то же время (в силу непрерывности умножения в В(Н)) к I(f)I(g). Стало быть, I: А —у В(Н) — унитальный гомоморфизм, а его ограничение на С[а, Ь] — непрерывное функциональное исчисление от оператора Т :=/(t) (см. определение 4.1). Покажем теперь, что интеграл Римана — Стильтьеса от каждой функции / € С[а, Ь] существует и совпадает с /(/). Зафиксируем е>0 и выберем 6 >0 так, что \f(t')-f(t")\ < е, если \t'- t"\^ S. Пусть Л: а= А0,..., Ап = Ь — такое разбиение отрезка [о, Ь], что d(A)< 6. Возьмем ступенчатую функцию h, принимающую значение /(At) на каждом из полуинтервалов (А*,,, Хк] (к — 1,..., п). Тогда, очевидно, 1(h) = ЕЛ(/, Р). С другой стороны, \\h - /\\х ^ е. Поэтому 1|ЕА(/, Р)" Ш)\\ = Ц/(Л - /)|| ^ ||Л - /L ^ е. Ввиду произвольности выбора разбиения Л, удовлетворяющего ь условию d(A) < 8, это и означает, что интеграл J/(A)dP(A) существует и равен /(/). С учетом сказанного выше, отсюда немедленно следуют (iv) и (i). Далее, очевидно, что для любого А € R и разбиения Л операторы ?А(/, Р) и Рх перестановочны. Отсюда очевидным образом следует утверждение (ii). Чтобы установить (Hi), достаточно рассмотреть случай, когда один допустимый отрезок, скажем, [с, d], содержится в другом отрезке [а, Ь\. Рассмотрим такое разбиение Л: а = А0, Ап ..., An = b большого отрезка, что точки cud находятся среди Хк. Тогда точки разбиения Л, начиная с с и кончая d, дают некоторое разбиение, скажем, Л', отрезка [с, d]. Сравнивая соответствующие интегральные суммы, мы видим, что ЕЛ отличается от ?Л,
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА — СТИЛЬТЬЕСА 449 несколькими слагаемыми вида f(Xk)@ -0) (в начале) и вида /(•^t)(l — 1) (в конце). Поэтому обе суммы дают один и тот же оператор. Остается взять последовательность разбиений Лт с указанным свойством и диаметрами, стремящимися к нулю, и перейти к пределу при m-юо. > Про оператор $ /(A)dP(A) мы будем далее говорить, что он ассоциирован с разложением единицы Р. Довольно часто, желая подчеркнуть его независимость от выбора допустимого отрезка, мы будем обозначать его через $ /(A)dP(A). Отметим полезное R Предложение 5. Пусть для f е C(R) и А, д е R, А < д, выполнено равенство f(t)=0 при А < t ^ д. Тогда ($ /(A)dP(A)) Р* = = 0. * < Мы вправе считать, что интегрирование ведется по допустимому отрезку [а, Ь], содержащему внутри себя Аид. Возьмем такое разбиение Л: а=А0, А,,..., А„ = Ь, что Аид находятся среди точек этого разбиения. Тогда для каждого к = 1,..., п выполнено по крайней мере одно из двух условий: либо (At_,, AJn(A, д] = 0 и тогда Рх*'хР* =0 (см. равенство B) выше), либо /(At) = 0. Поэтому все слагаемые в сумме ЕЛ(/, Р)Р? равны нулю. Остается взять последовательность разбиений Лт с указанным свойством и диаметрами, стремящимися к нулю, и перейти к пределу при т—юо. > ЗАМЕЧАНИЕ. Вы, возможно, заметили, что свойство (Ш) разложения единицы до сих пор не использовалось; в частности, существование интеграла из теоремы 2 обеспечено и без подобного свойства. Но сейчас оно, наконец, вступает в действие. Предложение 6. (Абстрактное) разложение единицы Р является разложением единицы относительно ассоциированного с ним оператора S := J XdP(X). « Пусть ЯЛ — семейство подпространств, ассоциированное с оператором 5, Qx — разложение единицы относительно 5. Наша задача — установить, что РЛ = Qx для всех А € Е. Лемма. Для любых А, д € R, А < д, выполнены неравенства PxZQx<P?- < Снова мы вправе считать, что интегрирование ведется по допустимому отрезку [а, Ь], содержащему внутри себя Аид. Пусть функция / е С(К) такова, что /(*) = 0 при t < А. Тогда предложение 5, рассмотренное для полуинтервала (о, А], Уг 15 А.Я. Хелемский
450 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА дает равенство f(S)Pxa = 0; стало быть, с учетом равенства Рх = Рх выполнено включение Im (Рх) С Кег(/E)). Отсюда в силу определения пространств Нх и операторов Qx мы получаем 1т(Рл) С Нх = Im(QA). На основании предложения 4.9 это дает первое неравенство. Теперь возьмем такую функцию / € C(R), что Ог^/^1,/(?) = () при t < А и f(t) = 1 при t ^ fj,. Тогда, разумеется, Нх С Кег (/E)). Далее, предложение 5 для функции 1 - / и полуинтервала (ц, Ь] дает равенство A - Р)A - f(S)) = 0; отсюда следует, что если f(S)x = О, то A - Р„)х = 0. Тем самым Кег (f(S)) с Кег A - Р„) = = Im(/^), и предложение 4.9 дает второе неравенство. > Конец доказательства предложения 6. Согласно лемме для фигурирующих в ее формулировке чисел А и д и любого х G Н выполнено неравенство (Qxx, х) ^ (Р„х, х). Вот теперь пора вспомнить, что семейство Р, будучи разложением единицы, сильно-операторно непрерывно справа. Отсюда, в частности, (Рхх, х) = lim (Р^х, х), и, стало быть, (Рхх, х) ^ (Qxx, х) для всех х; иными словами, Рх > Qx. Поскольку обратное неравенство также обеспечено леммой, остается применить предложение 4.7 (ш). >> Мы почти созрели для спектральной теоремы. Вот последние приготовления. Снова Т — фиксированный самосопряженный оператор, Нх — ассоциированное с ним семейство подпространств, а Р — (теперь уже не абстрактное) разложение единицы относительно Г. Предложение 7. Пусть функции /, g е С(Е) совпадают на полуинтервале (А, р]. Тогда /(Т)РМА = д(Т)Р*. < Очевидно, достаточно рассмотреть случай д = 0. Представим / в виде /, - /2, /,, /2 е СA), где /,(«) = 0 при t < ц, a /2(t) = 0 при t > А. Тогда Я„ с Кег (/,(Т)), откуда /, (Г)Р„ = 0. Далее, для любой такой функции h е C(R), что h(t) = 0 при f < А, выполнено равенство Л/2=0; отсюда/i(T)/2( Г) =0 и Im (/2(Т)) С Кег (ft(T)). В силу произвольности функции h это означает, что Im(/2(T)) с Яд; следовательно, Im A - Рх) = HXL с Кег (/2(Т)), и /2(Т)A - РА) = 0. Поэтому с учетом перестановочности фигурирующих ниже проекторов f{T)P* = U\(T) - /2(Т))(РД1 - Рх)) = 0. Дальнейшее очевидно. > Предложение 8. Пусть функции /,,/2еСA) принимают действительные значения и /, ^ /2 на полуинтервале (А, /х]. Гогаа/1(Г)Р/1А^/2(Т)РAл.
§ 5. СПЕКТРАЛЬНАЯ ТЕОРЕМА И ИНТЕГРАЛ РИМАНА — СТИЛЬТЬЕСА 451 < Возьмем (очевидно, существующие) функции git д2 € C(R), равные соответственно /, и /2 на (A, /z] и такие, что gi ^ д2 на всей прямой. Тогда д\(Т) ^ д2(Т) (предложение 4.8 (i)), и поэтому на основании предложения 4.7 (v) выполняется неравенство дх(Т)Р? ^ д2(Т)Р1?. Остается заметить, что предложение 7 влечет равенства fk(T)P* = дк(Т)Р*, к = 1, 2. > Наконец мы можем сформулировать главную теорему этого параграфа. Внимание! Теорема 3 (спектральная теорема в терминах операторзначного интеграла Римана — Стильтьеса). Пусть Г — самосопряженный оператор в гильбертовом пространстве Н. Тогда (i) существует, и притом единственное, такое разложение единицы Р, что Т= f AdP(A), R и таковым является разложение единицы относительно оператора Г; (ii) для любой функции f G C(R) выполнено равенство f(T)= j/(A)dP(A). R < Начнем с утверждения (i). Возьмем такой отрезок [а, Ь], что а<тта(Т) и Ь ^ max сг(Т). Зафиксируем п и рассмотрим разбиение Лп: а = А0, А,,..., Ап = Ь этого отрезка на п равных частей. Очевидно, для любого к и любого t е [\к_,, AJ выполнено условие 0 < Хк — t ^ —^А Поэтому из предложения 8 следует, что (К (Atl - Т)Р^к' < i^5pA**-'. Суммируя по к и пользуясь предложением 4.7 (i), мы видим, что О С ?д (*> Р) — Т ^ —^"| и на основании предложения 4.7 (vii) можно заключить, что ||EAn(t, Р)- ГЦ ^ —^. При п—»оо получаем ь Г= J AdP(A), как и требовалось. Отсюда с учетом предложения 6, следует утверждение о единственности, содержащееся в (i). Тем самым утверждение (i) доказано. Утверждение (ii) следует из (i) и теоремы 2 (iv). > Вот одно из непосредственных следствий спектральной теоремы. Следствие 2. Всякий самосопряженный оператор аппроксимируется линейными комбинациями проекторов с действительными коэффициентами.
452 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Объединяя этот факт с наличием у произвольного оператора его «алгебраической формы» (см. равенство B) в § 2), мы получаем, что всякий ограниченный оператор аппроксимируется линейными комбинациями проекторов; иными словами, B(H) = (span(V{H)))~. В этом заключается смысл давно сделанного нами заявления о том, что ортопроектор — это «гораздо больше, чем просто пример оператора». Упражнение 3. В условиях спектральной теоремы для любых / € С[а, Ь) и х,уе Я выполнены равенства 6 ь f(T)x=\f(\)dPxx и </(Г)х,у)= j/(A)d(PAx,y>. Чуть сместив акценты и учтя предложение 3, можно перефразировать утверждение (i) спектральной теоремы следующим образом. Семейство ЯА, А е К, подпространств в Я, обладающих свойствами ограниченности, возрастания и непрерывности справа (т. е. свойствами (i)-(iii) из предложения 2), мы будем называть правильным. Теорема 4. Отображение, сопоставляющее каждому самосопряженному оператору его ассоциированное семейство подпространств, есть биекция между множеством всех самосопряженных операторов в Н и множеством всевозможных правильных семейств подпространств в Я. При этом обратная биекция сопоставляет семейству ЯА оператор Т:— J AdP(A) — R интеграл Римана — Стильтьеса функции t: АнА по опе- раторнозначной функции Р, переводящей каждое значение А в проектор на ЯА. Наконец, два самосопряженных оператора унитарно эквивалентны тогда и только тогда, когда ассоциированные с ними семейства подпространств унитарно эквивалентны. < о Обсудим последнее утверждение этой теоремы. Исходя из него, мы можем предложить некоторую полную систему инвариантов унитарной эквивалентности самосопряженных операторов: это множество классов унитарной эквивалентности правильных семейств подпространств в Я. (Те, кто сделал упражнение 4.10, знают, что она по совместительству служит и полной системой инвариантов топологической эквивалентности (=подобия) тех же самых операторов.) Другое дело, что само понятие «класс унитарной эквивалентности правильных семейств подпространств в Я», хотя и геометрически нагляднее понятия «класс унитарной эквивалентности
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 453 самосопряженных операторов», все же далеко не столь прозрачно, чтобы говорить об удовлетворительном решении проблемы классификации самосопряженных операторов (ср. общие разговоры на подобную тему в § 0.4). Более понятная и «осязаемая» полная система инвариантов унитарной эквивалентности самосопряженных операторов, к тому же формулируемая во внешних по отношению к теории операторов терминах (а именно, в терминах теории меры) будет предложена в § 7. Расскажем, ориентируясь на подготовленного читателя, об одном применении спектральной теоремы. Вспомним о банаховых алгебрах. Встречаясь с подобной алгеброй, мы, как правило, задаем ей следующий типовой вопрос: каковы Ваши замкнутые идеалы? Как показала история, подобный вопрос оказался весьма плодотворным для развития смежных областей анализа, способствуя возникновению в них интересных внутренних проблем (см., например, «проблему спектрального синтеза» в гармоническом анализе [60] или «проблему короны» в комплексном анализе [13]). Большинство подобных вопросов выходят за рамки стандартного курса лекции по функциональному анализу. Но вот перед нами В(Н) — главная банахова алгебра любого учебника по нашей науке. Что она нам скажет? Упражнение 4* (теорема Калкина). Пусть Н—сепарабельное гильбертово пространство. Тогда К(Н) — это единственный замкнутый по операторной норме двусторонний идеал в В(Н), отличный от 0 и (если Я бесконечномерно) всей алгебры В(Н). Указание. Пусть / — такой идеал. Взяв любой оператор Tel, Т ф 0, и умножая его на одномерные операторы, мы видим, что любой одномерный оператор, а значит, любой компактный оператор лежит в /. Если оператор Т не компактен, то таков же и S:=T*T (почему?). Пусть Рх —разложение единицы для S. Из спектральной теоремы для S следует, что по крайней мере один из операторов Р*, А <ц, не компактен. Поскольку SP^ ~& \Р? (это следует из предложения 8), сужение 5 на Im(P^) — обратимый оператор. Умножая S на оператор, «обратный к 5 на lm(P*)* и равный 0 на Im (Р*)х, мы получаем, что Р* el. Так как dim Im (Р*) = оо, найдутся такой изометрический оператор U и такой коизометрический оператор V, что VP* U = 1. Отсюда 1 е I и / = В(Н). § 6. Борелево исчисление и спектральная теорема в облике операторнозначного интеграла Лебега Конечная цель этого параграфа — предъявить несколько иной, хотя и сходный с уже полученным аналитический облик спектральной теоремы, на этот раз в виде операторной версии интеграла Лебега (а не Римана — Стильтьеса). Соответствующее интегрирование будет вестись по так называемой спектральной мере, которая представляет собой геометрически менее наглядный объект, чем разложение единицы из теоремы 5.3. Да и само доказательство, быстрое и красивое, все же не кажется столь 15 А. Я. Хелемский
454 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА естественным движением к намеченной цели, как рассуждения, приведшие к последней теореме. Оно скорее выглядит как двойной фокус, когда иллюзионист вытаскивает из своего цилиндра (вместо пресловутого кролика) сперва комплексную меру, а затем сопряженно-билинейный функционал. Впрочем, это наше субъективное впечатление, с которым Вы, возможно, и не согласитесь. Но зато и достигнутый результат окажется мощнее теоремы из § 5. Одновременно с интегральным представлением заданного оператора мы получим сходное представление целого класса функций «от операторного аргумента», который значительно шире, чем класс непрерывных функций. Зафиксируем отрезок [а, Ь] действительной прямой. Напомним, что комплекснозначная функция на этом отрезке (более общие области определения нам не понадобятся) называется борелевой, если прообраз каждого открытого множества в С является боре- левым множеством. Множество ограниченных борелевых функций на [о, Ь] обозначим через В[а, Ь]. Сразу же отметим, за что математический народ уважает эти функции: их можно интегрировать по любой (обычной = неотрицательной) мере, а стало быть, и по любой комплексной мере. Ясно, что В [а, Ь] — это банахова инволютивная алгебра и, более того, С*-алгебра относительно поточечных алгебраических операций, перехода к комплексно-сопряженной функции в качестве инволюции и равномерной нормы. Столь же очевидно, что В [а, Ь] содержит С[а, Ь] в качестве замкнутой по норме *-подалгебры. Замечание. Разумеется, В[а,Ь] попадает под действие первой теоремы Гель- фанда — Наймарка и, стало быть, является «в скрытом виде» алгеброй С(П) на некотором (на самом деле весьма сложно устроенном) компакте П. Но нам этот факт не понадобится. (О том, как можно прийти к спектральной теореме с помощью соображений подобного рода, см., например, [82].) Но вот что сейчас важно: алгебра В [а, Ь] обладает еще одной структурой — на этот раз полинормированного пространства. А именно, для каждой комплексной меры ц на [а, Ь] рассмотрим преднорму || • ||tf на В[а, Ь], заданную равенством ll/ll,.:=|j/(Od/4*)|- Систему преднорм {Ц-Ц^ | ц еМ[а, Ь]}, равно как и порожденную этой системой топологию, мы будем называть слабо-мерной и обозначать через шт. Предложение 1. Подпространство С[а, Ь] плотно в пола- нормированном пространстве (В[а, b], wm) (по контрасту с нормированным пространством (В[а, Ь], \\ ¦ \\„)).
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 455 < Рассмотрим отображение г: (В[а, о], wm) —> (М[а, b]*, го*), сопоставляющее каждой функции / функционал <pf: /л-* J f(t)dfi(t). Очевидно, это инъективный оператор, позволяющий отождествить В[а, Ь], а с ним и С[а, Ь], с подпространством в М[а, Ь]\ Далее, в силу теоремы Рисса последнее пространство, в свою очередь, может быть отождествлено со вторым сопряженным С[а, Ь]**. Ясно, что при указанном отождествлении ограничение отображения г на С[а, Ь] превращается в каноническое вложение С[а, Ь] в С[а, Ь]'*. Таким образом, мы получаем цепочку вложений С[а, Ь] С В[а, Ь] С С[а, о]**. Но, как частный случай предложения 4.2.13, пространство С[а, Ь] плотно в (С[а, Ь]", го*). Отсюда С[а, Ь] плотно в В[а, Ь] с топологией, унаследованной из (С[а, Ь]", го*) = (М[а, Ь]*, го*). Остается заметить, что эта топология на В[а, Ь] совпадает со слабо-мерной. > Теперь, как и в предыдущих параграфах, зафиксируем самосопряженный оператор Т в гильбертовом пространстве Я. Напомним о том, что в В{Н), кроме нормовой топологии, есть еще несколько топологий, задаваемых различными системами преднорм. Сейчас нам понадобится слабо-операторная топология wo (см. § 4.1). В следующих определении и теореме мы (как и в § 4) обозначаем спектр оператора Т через а, а сужение независимой переменной — через t. Определение 1. Борелевым функциональным исчислением или просто борелевым исчислением от Т на [а, Ь] называется уни- тальный гомоморфизм уь: В[а, Ь] -*В(Н), непрерывный как оператор между полинормированными пространствами (В[а, о], wm) и (В(Н), wo) и такой, что %(t) = Т. Выделим, для удобства дальнейших ссылок, оба обещанных выше фокуса. Напомним, что при а С [а, Ь] существует непрерывное исчисление от Г на [а, Ь] и, стало быть, для любой функции / 6 С[а, Ь] в нашем распоряжении есть «функция операторного аргумента» /(Г). Предложение 2. Пусть отрезок [а, Ь] содержит с. Тогда для любых х,уеН существует такая единственная комплексная мера ц^у, что \f(t)d^v(t) = (f(T)x,y) A) для любой функции f е С[а, Ь]. При этом \\р.у\\ :=var(/x ) ^ ^INIIMI-
456 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА < Положим <р^у: С[а, Ь] —> С, ft-* (f(T)x, у). Из свойств непрерывного исчисления очевидным образом следует, что это ограниченный функционал на С[а,Ь] и \\<р^у\\ ^ ЦжЦЦуЦ. Воспользовавшись теоремой 1.6.4 (Рисса), мы немедленно получаем единственную комплексную меру с требуемыми свойствами. > А теперь зафиксируем произвольную функцию / уже из В [а, Ь). Ее, как мы уже отмечали, можно интегрировать по любой из мер ц^у, х,уеН. Предложение 3. Пусть отрезок [а, Ь] содержит а. Тогда существует такой единственный оператор Sf в Н, ь что {Sfx,y) = J f(t)dp,^y(t) для любых х,уеН. При этом \\sf\\ < II/IL- Есш же вдобавок f е С[а, Ь], то Sf = f(T). ь < Положим Sf: Н х Н —» С, (х, у) ¦-> $ f(t)dp.^y(t). Поскольку отображение (х, у) *-* р,^у, как легко видеть, линейно по первому и сопряженно-линейно по второму аргументу, Sf — сопряженно-билинейный функционал на Н. При этом из оценки ь | J f(t)d^y(t)\ < ||/||J|m„K 11/11-11*11 llvll следует, что \\Sf\\ < Ц/Ц,*,. Но сказать «ограниченный сопряженно-билинейный функционал» — это все равно, что сказать «ограниченный оператор»: согласно теореме 2.3.3, существует единственный действующий в Я оператор Sf, такой, что {Sfx, у) =Sf(x, у) для каждой пары х,уеН; кроме того, ||5у|| = ||5у||. Оставшееся утверждение очевидным образом следует из предложения 2. > С этого момента мы вправе употреблять обозначение /(Г) вместо Sf для любой функции feB[a,b]. Таким образом, этот оператор корректно определен равенством ь (/(Г)ж,у)=|/(*)Ф„@ B) для любых х,уеН. Теорема 1 (о борелевом функциональном исчислении). Справедливы следующие утверждения: (i) существует не более одного борелева исчисления от Т на [а, Ц-
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 457 (П) борелево исчисление от Т на отрезке [а, Ь] существует тогда и только тогда, когда отрезок [а, Ь) содержит а; если эквивалентные условия из п. (ii) выполнены, то: (Ш) отображение % продолжает непрерывное исчисление от Т на [а, Ь]; 0V) Ъ —инволютивный гомоморфизм *-алгебр; (v) Ъ —сжимающий (относительно норм в В[а, Ь] и В(Н)) оператор; (vi) ядро функционала jb содержит все функции, равные нулю на а. < Рассмотрим подмножество V в С[а, Ь), состоящее из сужений многочленов. Топология полинормированного пространства (С[а, b], wm) грубее нормовой. Поэтому с учетом предложения 0.2.3 из плотности множества V в нормированном пространстве (С[а, Ь], || • Ц^) и предложения 1 следует, что V плотно в (В[а, b], wm). Следовательно, гипотетическое борелевское исчисление 7ь> будучи непрерывным отображением (В[а, b], wm) в хаусдорфово пространство (В(Н), wo), однозначно определено своими значениями на V, а значит, будучи гомоморфизмом, своим значением от t. Этим установлено утверждение (i). Далее (как и при рассмотрении непрерывного исчисления), из гомоморфности отображения % и того, что cr(t) = [а, Ь], следует часть =>• в утверждении (ii). Теперь наша задача — считая, что а С [а, Ь], построить требуемое исчисление. Мы покажем, что таковым окажется отображение jb: i?[a, Ь] —> В(Н), / I—* /(Г), где /(Г) — оператор, определенный с помощью равенства B). Прежде всего заметим, что последнее утверждение предложения 3 означает в точности, что отображение уь продолжает непрерывное исчисление от Т на [а, Ь] (ср. (ш)). В частности, оно переводит единицу из В[а, Ь] в единицу из В(Н), at — в Т. Далее, из того, что левая часть равенства B) линейно зависит от стоящего перед х оператора, а правая часть линейно зависит от /, очевидным образом следует, что /(Г) линейно зависит от /. Иными словами, 7ь — линейный оператор. Из полученной в предложении 3 оценки для нормы ||5у|| (она же и НДТ1)!!) следует, что 7» — сжимающий оператор между соответствующими нормированными пространствами (ср. (v)). Теперь, задав преднорму || • \\^у из слабо-операторной системы преднорм в В(Н), рассмотрим преднорму || ¦ || из слабо-мерной системы преднорм в В[а, Ь]. Тогда для любой / еВ[а, Ь] выполнено
458 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА равенство ь 11/<Т)|Ц, = \(/(Т)х, у)\ = 11 /(*)ф„@| = ||/tx v. Отсюда на основании теоремы 4.1.1 следует, что -уь — непрерывный оператор между соответствующими полинормированными пространствами. Мы переходим к доказательству того, что 7б — гомоморфизм. Здесь придется поработать. Возьмем /, д € В[а, Ь], х, у е Н и для каждого борелева множества YC[a, b] положим vg^y(Y):= J g(t)d^y(t). Очевидно, vgx^y— Y это комплексная мера на нашем отрезке; точно так же возникает комплексная мера v^^y Функции fug равномерно аппроксимируются линейными комбинациями характеристических функций борелевских множеств, и к тому же fg = gf; отсюда бь 6 j/(*)A'e„(*)= J/(*M*Lf„<0= \g(t)d^y(t). Поэтому, подставляя в равенство B) функцию fg на место /, мы получаем равенства \f(t)d^v(t) = ((fg)(T)x,y)= \g(t)d»,tXtl>(t), C) а используя соотношение {f(T)g(T)x, у) = (д(Т)х,/(Т)*у) и подставляя в то же равенство B) надлежащие функции и векторы, мы получаем, что 6 6 \f(t)dng{T)Xiy(t) = {f(T)g(T)x,y)= \g(t)d^HTyy(t). D) В силу уже известной гомоморфности непрерывного исчисления при /, д е С[а, Ь\ числа, стоящие в середине равенств C) и D), совпадают. Поэтому, взглянув на левые части этих равенств, мы видим, что меры v^^y и Рд(Т)х,у задают один и тот же функционал на С[а, Ь]. Следовательно, и эти меры совпадают. Но отсюда, в свою очередь, вытекает, что интегралы в лев:>'х частях наших равенств равны и для любой функции / ? В[а, Ъ]. Обратясь к правым частям тех же равенств, мы видим, что стоящие там интегралы равны при всех / е В[а, Ь] и д € С[а, Ь]. Стало быть, меры Vj^y и /^/(D'v — теперь уже для любой функции / 6 В[а, Ь] — задают один и тот же функционал на С[а, Ь] и поэтому совпадают.
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 459 А раз так, то интегралы в правых частях равенств C) и D) равны уже для произвольных функций /, д е В[а, Ь]. Следовательно, для тех же / и д равны и скалярные произведения в середине этих равенств. В силу произвольности векторов хну это означает, что (fg)(T) = f(T)g(T) и, стало быть, 7Ь — гомоморфизм. Таким образом, с учетом его свойств, уже установленных ранее, 7ь — борелево исчисление, обладающее к тому же свойствами (Ш) и (v). Далее, подставим в равенство B) вместо функции / ее комплексно-сопряженную функцию. Тогда G(T)x,y)=^7(t)d^y(t)= j/(«)rf/47(<), E) где через /Z^ обозначена мера, являющаяся, как функция множеств, комплексно-сопряженной к ^ у. В то же время, меняя в B) местами векторы х и у, мы видим, что </(Т)*х, у) = (х, f(T)y) = (f(T)y, х) = j f(t)d^x(t). F) Но при / € С[а, Ь] в силу уже известной инволютивности непрерывного исчисления левые части равенств E) и F) совпадают. Отсюда, переходя к правым частям, мы видим, что меры ~р^у~ и fj. задают «по рецепту Рисса» один и тот же функционал на С[а, о]. Следовательно, ~P^~y~ = nVtX- Но тогда правые части обоих равенств совпадают уже для всех функций / е В [а, Ь], и, стало быть, для тех же функций / равны и левые части. В силу произвольности векторов х,у € Н и вида инволюции в В[а, Ь] это означает, что f'(T) = f(T) = f(T)m. Этим установлено утверждение (iv). Осталось проверить утверждение о ядре отображения -уь. С этой целью зафиксируем (временно) любой отрезок [с, d], лежащий внутри множества U := [а, Ь] \ а, и произвольно возьмем ж, у 6 Я. Рассмотрим для каждого п е N функцию на R, равную единице на [с, d], нулю вне (с — ^i^ + —) и линейную на [с — -^,с] и [d, d + —]. Пусть hn — ограничение этой функции на [о, Ъ]. Очевидно, hn € С[а, Ь], и hn\a =0 для достаточно больших п. Поэтому в силу теоремы 4.1 (Ш) и равенства A) для тех же п выполнено ь равенство J/in(t)d/i =0. Но, как легко видеть, последовательность hn поточечно сходится к Х[с,<*| (здесь и ниже х — символ характеристической функции). Отсюда в силу теоремы Лебега
460 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА о предельном переходе под знаком его интеграла М„Лс- d 1 = { Х,с,„(*) <К„ = Jim j hn(t) dfi^y = 0. Итак, комплексная мера /z^y равна нулю на любом отрезке внутри U, а значит, будучи счетно-аддитивной, и на самом U. ь Поэтому $ Xu(t)df*x,y = Vx,y(U) = Q лля любых х,у?Н, что в объединении с равенством B) дает соотношение Хи(Г) = 0. Отсюда если функция f е В[а,Ь] такова, что /1^ = 0, то в силу уже доказанной гомоморфности оператора jb, выполняются равенства f(T) = (fxu)(T) = f(T)X[j(T) = 0. Дальнейшее очевидно. > Замечание (для отличников). Доказательство гомоморфности отображения -уь было бы куда короче, если бы мы знали, что умножение в алгебрах (С[а, Ь], wm) и (В(Н), wo) непрерывно «по совокупности переменных» (ср. начало доказательства теоремы 5.2). Но это, увы, не так (проверьте!). Борелевы исчисления на различных отрезках согласованы. Предложение 4. Пусть а С [с, d] С [a, b] и т: В[а, Ь] —> —> В[с, d] — отображение ограничения / »-»/||Cidj. Тогда для любой функции f е В[а, Ь] выполнено равенство f(T) = (т/)(Т). < Возьмем любую меру р, е М[с, d] и для любого борелева множества Y на [а, Ъ] положим v{Y) := p(Y П [с, d]). Тогда, очевидно, и е М[а, Ь], и для любой функции / е В[а, Ь] выполнено равенство Цт/Ц^ = ||/||„. Это, разумеется, означает, что оператор т: (В[а, Ь], wm) —> (В[с, d], wm) непрерывен. Пусть теперь 7' — борелево исчисление от Т на [с, d]. Тогда оператор 7 := 7'т: (В[а, Ь], wm) -* (В(Н), wo), будучи композицией двух непрерывных операторов, непрерывен сам. Очевидно, он обладает и остальными свойствами борелева исчисления от Т на [а, Ь]. Но тогда в силу единственности последнего /(Г):=7(/) = 7'т(/)=:('/)(Г).1> С этого момента мы вправе для каждой борелевой функции /, заданной на любом подмножестве прямой, содержащем отрезок [а, Ь) 5 ст, обозначать через /(Г) оператор /|[о,Ь](Т). Мы видим, что этот оператор не зависит от конкретного выбора отрезка [а, Ь]. ЗАМЕЧАНИЕ. Говоря о борелевом исчислении от оператора, мы ограничились рассмотрением функций, заданных на отрезках. Но мы могли бы с тем же успехом взять вместо отрезка любой компакт Д, содержащий ст, в том числе сам а. Читатель может без особого труда дать соответствующий аналог определения 1 и получить соответствующую версию теоремы 1; при этом, как
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 461 легко догадаться, оператор f(T) зависит только от ограничения функции / на ст. Для наших нужд, однако, вполне хватит отрезков. Если речь идет о сходящихся последовательностях в (В[а, Ь], wm), то о поведении соответствующих «функций от Г» можно сказать больше, чем это непосредственно следует из определения 1. Упражнение 1*. (i) Последовательность /„ сходится к / относительно слабо-мерной топологии в В[а, Ь] тогда и только тогда, когда она сходится поточечно и равномерно ограничена; (ii) в этом случае последовательность операторов /„(Г) сходится к в сильно- (а не только слабо-!) операторной топологии пространства Б(Н). Указание, (i) Доказывая импликацию =$¦, надо рассмотреть естественно возникающую последовательность функционалов на М[а, Ь] и применить теорему Банаха — Штейнгауза. Импликация <== следует из теоремы Лебега. (ii) Надо установить равенство ъ \\f(T)x-fn(T)x\\*= j |/-/пГЖ,ДО и применить ту же теорему Лебега. ЗАМЕЧАНИЕ. Теорема о борелевом исчислении допускает содержательное обобщение с самосопряженных операторов на нормальные. От нормальных операторов также можно брать боре- левские функции, определенные на компактных подмножествах, содержащих спектр оператора, — только теперь эти множества уже, вообще говоря, не могут лежать в К, а лежат в С. Подробности см., например, [16]. Теперь, в качестве поучительных иллюстраций, обратимся к тем же «дежурным» конкретным операторам, что и в предыдущих параграфах. Впоследствии мы научимся находить борелевские функции от этих операторов легко и быстро, с помощью сильных средств, которые предоставит еще одна версия спектральной теоремы (ср. далее упражнение 6). Однако целесообразно сделать это уже сейчас, пусть и более медленным способом. Особо выделим важный для дальнейшего ПРИМЕР 1. (Ср. пример 4.2.) Пусть Г — оператор умножения на t в Н := Ь2([а,Ь],ц). Тогда /(Т), где / € В[а, Ь], — это оператор Т{ умножения на /. Чтобы в этом убедиться, достаточно показать, что отображение /ь-*/(Т) обладает свойствами боре- левского исчисления. Нуждается в проверке лишь непрерывность относительно надлежащих систем преднорм. Очевидно, для любых
462 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА х,уеН выполнено равенство ь ь (f(T)x,y)= j f(t)x(t)yTijdn(t)= j f(t)du(t), где комплексная мера v определена на борелевых множествах Y равенством v(Y):= J x(t)y(t)dp,. Отсюда ||/||„ = ||уг(Т")||^, и тре- у буемая непрерывность обеспечена. Упражнение 2. Правило, по которому действуют операторы /(Г) в примере 4.1 и упражнениях 4.3-4.5, также не меняется при замене непрерывной функции / на борелевскую. ЗАМЕЧАНИЕ. Из этих примеров, в частности, видно, что борелево исчисление отличается от непрерывного вот в каком отношении: мы уже не утверждаем, что его ядро в точности состоит из функций, равных нулю на а. Возьмем, скажем, оператор умножения на независимую переменную в L2[a, Ь]. Для такого оператора Г, как мы знаем, а = [а, Ь] (упражнение 5.1.3). В то же время, как легко проверить, /(Т) = 0 для любой функции / G В[а, Ь], почти всюду равной нулю на [а, Ь] относительно стандартной меры Лебега. Напомним предложение 4.3; оно допускает следующее усиление. Предложение б. Предложение 4.3 справедливо с заменой С[а, Ь] на В[а, Ь] (т. е. непрерывных функций на борелевы). < Отображение 7»: В[а, Ь] -» В(К), fy-*If{T)I~\ обладает свойствами борелева исчисления. (Непрерывность относительно надлежащих систем преднорм следует из предложения 4.1.7.) Дальнейшее очевидно. > * * * Теперь посмотрим, какие новые возможности открываются перед нами после значительного расширения класса функций, которые можно «брать от Г». Весьма важным оказывается то, что в нашем распоряжении появляется довольно обширное семейство проекторов, намного большее, чем разложение единицы из § 5. В рамках излагаемой ниже теории операторнозначного интеграла Лебега это семейство несет приблизительно ту же смысловую нагрузку, что семейство характеристических функций измеримых множеств в классической теории интеграла Лебега. Начнем с аксиоматизации тех свойств этого семейства, которые позволяют успешно с ним работать. Напомним, что через BOR мы обозначаем совокупность всех борелевых множеств на действительной прямой, а через V(H) — совокупность всех (орто)проекторов в Я.
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 463 Определение 2. Отображение P.: BOR —> V(H) называется абстрактной спектральной мерой или просто спектральной мерой, если (i) Р.@) = 0 и Р,([а, Ь]) = 1 для некоторого отрезка [а, Ъ]; (и) если У = У; U У2, то P.(Y) = Р.(У,) + P.(Y2) (конечная аддитивность); (Ш) если У = У, П У2> то Р.(У) = Р.(У,)Р.(У2); (iv) если У = II Уп, то для каждых х,уеН выполнено равенство (P,(Y)x, у) = ]П (Р.(Уп)х, у) (слабо-операторная счетная аддитивность). n = 1 (Разумеется, свойство (iv) означает в точности, что для любых х,уеН функция множеств Y>-*(P.(Y)x, у) является комплексной мерой.) Упражнение 3. На самом деле свойства (и) и (Hi), а также равенство Р.@) = О следуют из одной лишь конечной аддитивности мер У >-+ (Р.(У)ж, у), указанных в (iv). Указание. Поясним, почему свойство (ш) следует из (и). Если для ортопроекторов Q, и Q2 выполнено равенство ||Qi + Q2\\ = 1, то Qx Q2 = Q2Qi=<>- Поэтому (Р.(У)+Р.(УЛУ))(РЛ У)+p.(Y2\Y)) = = P.(Yf. Предложение 6 (сильно-операторная счетная аддитивность спектральной меры). Если У= II У„, то для каждого хеН выполнено ? Р.(У„)х = Р.(У)ж." < Элементарные выкладки, использующие свойства спектральной меры, дают равенство \\Р.(У)* - ± P.(Y>)xf = (Р.(У)х, х) - ±(Р.(П)Ъ *>• Поэтому желаемая сильно-операторная счетная аддитивность следует из слабо-операторной. > Теперь, вспомнив о нашем операторе Т, произвольно выберем отрезок [а, Ь], содержащий а, рассмотрим борелевское исчисление от Т на этом отрезке и для каждого У е BOR положим PT(Y)'.= х'у(Т), где x'y — характеристическая функция множества Уп[о, Ъ]. В силу предложения 4 значение PT(Y) не зависит от конкретного выбора отрезка [а, Ь]. Предложение 7. Отображение РТ: BOR -* V(H), У (-> н-> PT(Y), —это спектральная мера.
464 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА < Требует внимания лишь свойство (iv); все остальное немедленно следует из алгебраических свойств борелевского исчисления. Пусть У= II Yn. Возьмем [а, Ь]Э<т. Заменяя, если потребуется, заданные множества на их пересечения с [а, Ь], мы можем, не теряя общности, считать, что все они лежат в этом отрезке. Зафиксируем х,уеН и рассмотрим (счетно-аддитивную!) комплексную меру р^у, доставляемую предложением 2. Тогда в силу определения борелевских функций от Г (см. равенство B)) выполнено равенство {P,(Y)x, у) = fi^y(Y) и такое же равенство с заменой Y на Yn, п = 1, 2,... Дальнейшее очевидно. > Определение 3. Введенное отображение Рт: BOR —> V(H) называется спектральной мерой, ассоциированной с оператором Т, или просто спектральной мерой оператора Т. Наш читатель, наверное, догадывается, что спектральная мера оператора Т согласована с разложением единицы Р: АиРА этого оператора, обсуждавшимся в предыдущем параграфе. Так и есть: первая операторнозначная функция по сути дела является продолжением второй. Предложение 8. Для любого А е К выполнено равенство Рх=РТ(-оо,Х]. < Пусть [а, Ь] Э <т(Г); тогда Рт(-со, А] = Рт[а, А] = 1 - РТ(Х, Ь]. Поэтому наша задача — показать, что i?A=Im(PA) совпадает с Ker(PT(A, Ь]), иначе говоря, проверить, что для любого х€Н X(Aiij(T')x = 0 тогда и только тогда, когда /(Т)х = 0 для всех таких функций /е С[а, Ь], что f(t) = 0 при t ^ А. Пусть Х(л,ы(^,)х==0- Очевидно, что для указанных функций / выполнено равенство / = /х(Л|6). Поэтому, с учетом гомоморфности борелева исчисления, /(Т)г = /(Г)х(А)Ь)(Т')а: = 0. Обратно, пусть /(Т)х = 0 для всех функций / е С[а, Ъ], равных нулю на [а, А]. Для каждого п = 1,2,... рассмотрим функцию /„ € С[а, Ъ], равную нулю при t ^ А, единице при t ^ А + ^ и линейную на [А, А + ^]. Из классической теоремы Лебега очевидным образом следует, что последовательность /„ сходится к Х(д,»] относительно слабо-мерной топологии в В[а, Ь]. Но тогда в силу определения борелева исчисления последовательность (fn(T)x, х) сходится к <х(А,ь)(Г)х, х) = {РТ(Х, Ь]х, х) = ||РТ(А, Ь]х||2. Дальнейшее очевидно. > Читатель, сделавший упражнение 2, легко найдет спектральные меры следующих классических операторов.
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 465 Упражнение 4. (i) Если Т — проектор, то PT(Y) = 0 при 0, 1? У; РГ(У) = 1-Т при ое^1?У; PT(Y) = T при 0$Y,leY; PT(Y) = l при 0, 1 е Y. (и) спектральная мера самосопряженного диагонального оператора Т :— Тх в ^ сопоставляет каждому множеству Y диагональный оператор Тв; в = @,, в2,...), где вп = 1 при А„ б У и 0П = 0 при АП?У. (Ш) спектральная мера самосопряженного оператора умножения Т :=Т^ в L2(X, ц) сопоставляет каждому множеству У оператор умножения Тх, где \ — характеристическая функция множества V-4Y). (iv) спектральная мера самосопряженного компактного оператора из упражнения 4.5 сопоставляет каждому множеству У орто- проектор на Я, := (span{en | Ап е У})", если 0 ^ У, и ортопроектор на Я, 0 {е,, &,,.. .у, если О G У. Особо отметим ПРИМЕР 2. Спектральная мера оператора умножения на независимую переменную в L2([a, Ь], ц) сопоставляет каждому множеству У оператор умножения на Ху Это сразу следует из сказанного в примере 1. Как реагирует введенная характеристика при замене оператора на унитарно эквивалентный? Из определения спектральной меры в терминах борелева исчисления и предложения 5 немедленно вытекает Следствие 1. Пусть Т: Н -* Н u S: К —> К — самосопряженные операторы со спектральными мерами соответственно РТ и Ps, и пусть некий оператор U: Я -» К осуществляет топологическую (или, как частный случай, унитарную) эквивалентность этих операторов. Тогда тот же оператор U осуществляет, для любого борелева множества УСЕ, соответствующую эквивалентность операторов PT(Y) и PS(Y). Иными словами, если для унитарного оператора U имеет место коммутативная диаграмма Н ——* Н "I I» К —?-^ К,
466 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА то для любого множества Y имеет место и коммутативная диаграмма Мы переходим к описанию процедуры, с помощью которой, как мы вскоре увидим, оператор восстанавливается по своей спектральной мере. Пусть Рт: BOR —> V(H) — спектральная мера, до поры до времени произвольная, а [а, Ь] — отрезок, фигурирующий в п. (i) ее определения. Как обычно, назовем борелеву функцию на [а, Ь] простой, если она принимает конечное множество значений, т. е., иными словами, является линейной комбинацией характеристических функций борелевых множеств. Множество простых функций обозначим через S[a, b]; очевидно, это *-подалгебра в В[а, Ь], плотная относительно равномерной нормы и (тем более) относительно слабо-мерной топологии. п Для каждой функции / е S[a, Ъ], /=Z)AtXy. положим 4(Л := 5Г ^jt^(^t)- Тогда для любых х,уеН величина (I0(f)x, у) * = i равна интегралу от / по комплексной мере Y *~* {Pt(Y)x, у) и поэтому не зависит от конкретного представления функции / в указанном виде. Следовательно, то же самое верно и для оператора /0(/). Тем самым корректно определено отображение /0: S[a, Ь] —> В(Н), f и-» /<,(/), которое, разумеется, является линейным оператором. Более того, из свойств спектральной меры очевидным образом следует, что 10 — инволютивный гомоморфизм *-алгебр, к тому же унитальный в силу равенства Р.([а, Ь]) = 1. Наконец, представив / в виде линейной комбинации характеристических функций непересекающихся множеств, мы видим, что для каждого х е Я векторы P,(Yk)x, k — \,...,п, попарно ортогональны, а потому II W)*ll2 = ± \K\'\\P.(Yk)*\\a < max \Xk\'\\x\\» = ||/|№||2. Это означает, что ||/0(/)|| ^ H/IL. т- е. иными словами, 10 — сжимающий оператор. Пусть /: В[а, Ь] —> В(Н) — сжимающий оператор, продолжающий по непрерывности оператор 10 (см. теорему 2.1.2).
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 467 Определение 4. Для / е В[а, Ь] оператор /(/) называется интегралом (подразумевается: Лебега) функции f по спектральной ь мере Р, и обозначается также $ f(t)dP.(t). Из определения, таким образом, следует, что lf(t)dPt(t) есть предел «интегральных сумм Лебега» ? Mm)^i(*t(m)) A"H любой по- *-' »(т) следовательности простых функций /т = 22 А?т)Хк<-ь равномерно сходящейся к /. * -' Упражнение 5. Для каждой из спектральных мер конкретных операторов Т, фигурирующих в упражнении 2, и функции f е В[а, Ь], где [а, Ь] Э а(Т), вычислите $ f(t)dPT(t). (Ответ: ЯП) Предложение 9. Для тех же меры P. и отрезка [а, Ь] отображение I: В[а, Ь] -> В(Н), f к-» /(/), является борелевым исчислением от оператора J * dP,(t) на [а, Ь]. < Пусть f,geB[a,b). Возьмем последовательности простых функций /„ и дп, сходящиеся по норме соответственно к / и д. Тогда I(fngn) = I0(fngn) = Wn)Io(9n) = I(fn)I(9n), причем выражение слева, очевидно, сходится к I(fg), а выражение справа — к I(f)I(g). Отсюда следует, что / — гомоморфизм алгебр. При этом, разумеется, / переводит тождественную единицу в тождественный оператор, а функцию t (независимую переменную) — в J tdP,(t). Осталось показать, что I — непрерывный оператор между полинормированными пространствами (В[а, Ъ], wm) и (В(#), wo). Для этого в силу теоремы 4.1.1 достаточно, взяв произвольную преднорму || ¦ || из системы wo, найти такую преднорму || • || из системы wm, что ||/(/)|Цу ^ ||/||„ для любой функции J€B[a,b]. Рассмотрим функцию множеств /иву: Y i-> (P.(Y)x, у); в силу свойства (iv) спектральной меры это комплексная мера. Далее, из соображений линейности следует, что для любой функции / ? 5[о, Ь] выполнено равенство ь ь J /(*Ж,„(*) = ((| f(t)dP(t))x,y). Поскольку множество S[a,b] плотно в В [a, ft] по равномерной норме, последнее равенство имеет место и для любой функции
468 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА f Е В[а, Ь]. Но тогда для той же функции / выполнено равенство 11Д/)Их,у = II/IL • ^ем самым- желаемое неравенство (на самом деле равенство, но сейчас это не важно) выполнено для р.:=р,^у. t> Наконец, мы пришли к желанной цели. Теорема 2 (спектральная теорема Гильберта в терминах опера- торнозначного интеграла Лебега). Пусть Т — самосопряженный оператор в гильбертовом пространстве Н и [а,Ь] — отрезок, содержащий его спектр. Тогда (i) существует единственная спектральная мера Р,\ BOR—> —*V{H), для которой T=\tdP.(t), G) и таковой является спектральная мера РТ, ассоциированная сТ; (и) при этом для борелевского исчисления от Т на [а, Ь] выполнено равенство f(T)=\f(t)dPT(t). < Сравним отображения jb, I: В[а, Ь]—>В(Н), где % — борелев- ь ское исчисление от Г на [а, 6], а 7: /»—¦ J f(t)dPT(t). Для любого борелевского множества Y С [а, Ь] проектор PT(Y) определен как 7ь(Ху). и этот же проектор есть, в силу определения проекторно- значного интеграла, I(xy)- Тем самым, операторы jb и I совпадают на всех характеристических функциях борелевских подмножеств отрезка [а, Ь], а значит, на S[a, b]. Отсюда, поскольку оба они сжимающие относительно соответствующих норм, а множество S[a,b] плотно в В [а, Ь], они совпадают на всем В [а, Ь]. Из этого вытекает утверждение (И) и, в частности (при / = t), равенство G). Осталось доказать единственность спектральной меры, удовлетворяющей равенству G). Пусть Р,\ BOR —> V(H) — такая мера. Тогда в силу предложения 9 и единственности борелевского исчисления /(Т)= J f(t) dP.(t) для всех функций / е В[а, Ъ], и, в частности, Xy(T) = J Xv(f )^(*) А1 любого борелевского подмножества Y С [а, Ь]. Но первый оператор в этом равенстве есть PT(Y), а второй — P.(Y). Таким образом, PT(Y) = P,(Y) при Y С [о, Ь], и в частности, Р,([а, b]) = l. Но тогда любое из
§ 6. СПЕКТРАЛЬНАЯ ТЕОРЕМА В ОБЛИКЕ ИНТЕГРАЛА ЛЕБЕГА 469 свойств (ii) или (iii) спектральной меры, очевидно, влечет равенство Рг(Г) = Р.(У)=ОприГп[а, Ь] = 0. Отсюда ясно, что PT{Y) = P.(Y) для любого Y G BOR. > ЗАМЕЧАНИЕ. В указанном виде — в терминах операторнознач- ного интеграла Лебега (а не Римана — Стильтьеса) — спектральная теорема допускает естественное обобщение с самосопряженных на произвольные нормальные операторы. А именно, с каждым нормальным оператором Т может быть ассоциирована некоторая проекторнозначная функция борелевых множеств — только уже не на прямой, а на плоскости, — обладающая свойствами, сходными с указанными при определении спектральной меры. Исходный оператор восстанавливается по этой своей «плоской спектральной мере» в виде соответствующего операторнозначного интеграла от функции f(z):=z, заданной на каком-либо компакте в С, содержащем а(Т), и аналогичное интегральное представление имеет место для борелевых функций от Т. Подробности см. в [16]. Отметим, что с помощью теоремы 2 можно гораздо проще, чем раньше, получить результаты упражнений 4 и 2 о спектральных мерах и борелевых функциях для некоторых конкретных операторов. Упражнение 6. Выведите эти результаты из упражнения 5. ь Указание. Раз Г = J tdP.(t) для предложенной спектральной меры, то она и есть та, что ассоциирована с Т. После этого /(Т) ь вычисляется как I f(t)dP,(t). (Впрочем, подобные вещи, как Вы догадываетесь, — это не самые главные приложения спектральной теоремы.) Замечание. Вы могли обратить внимание на то, что при построении интеграла по операторнозначной мере (см. определение 2) использовались только ее свойства (i)-(iii). Более того, уже эти свойства гарантируют то, что возникающее отображение /: В[а, Ъ] -> В(Н) является сжимающим *-гомоморфизмом между банаховыми инволютивными алгебрами. Однако без свойства слабо-операторной счетной аддитивности функции Рш это отображение уже не обязано быть непрерывным относительно соответствующих систем преднорм и, стало быть, борелевым исчислением. Именно поэтому в части спектральной теоремы, касающейся единственности, речь идет о спектральных мерах, а не о более общих функциях множеств. В самом деле, возьмем отображение Р,: bor-*V{H), обладающее всеми свойствами спектральной меры, кроме (iv). (А такие «конечно-аддитивные меры» бывают! См., например, обсуждение в [57, с. 257]). Тогда согласно спектральной теореме у оператора Т :=\ tdP,(t) есть и представление Т — \ tdPT(t) с участием слабооператорной счетно-аддитивной функции, а стало быть, заведомо отличной от Р, меры Рт.
470 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА § 7. Геометрическая форма спектральной теоремы: модели и классификация Спектральная теорема, дополненная теорией кратностей, — это одна из жемчужин математики: это структурная теорема, т. е. теорема, которая описывает все объекты определенного вида с точностью до естественной эквивалентности. М. Рид, Б. Саймон Геометрическая форма спектральной теоремы, как уже говорилось, заключается в предъявлении достаточно прозрачной модели заданного самосопряженного оператора. По-прежнему Т — фиксированный самосопряженный оператор в гильбертовом пространстве Н, [а, Ь] — отрезок, содержащий его спектр, Р%: Y t-> P(Y) := хУ(Т) — его спектральная мера. Напомним, что BOR? — это обозначение семейства борелевых подмножеств отрезка [а, Ь]. Зафиксируем хеН и положим p.x(Y):={P(Y)x, х) для YeBORj (таким образом, в обозначении ц^у предыдущего параграфа, цх:= м*«)- Из того, что P{Y)— проектор, очевидным образом следует, что цх — обычная (= неотрицательная) мера. Определение 1. Мера цх называется личной мерой вектора х (если надо уточнять—относительно оператора Т), Из алгебраических свойств проектора P(Y) сразу следует Предложение 1. Для любого Y е BORJ выполнено равенство p.x(Y) = \\P(Y)x\\2. Как следствие, p.x(Y) = 0 тогда и только тогда, когда P(Y)x = 0. < > Рассмотрим гильбертово пространство L2([a, b], р,х), сокращенно обозначаемое далее через L\. Покажем, что оно по существу является частью пространства Н: Предложение 2. Существует изометрический оператор Ix: L\ —> Н, однозначно определенный тем, что он переводит функцию Ху< У е BORJ в вектор Р(У)х. < Возьмем /, g ё В[а, Ь]; тогда из алгебраических свойств боре- левского исчисления следует, что \f9dnx = ((fg)(T)x, х) = ((g(TYf(T)x, х) = (f(T)x, g(T)x) " ь и, в частности, J \f\2dpx = ||/(Т)х||2. Поэтому на подпространстве
§ 7. ГЕОМЕТРИЧЕСКАЯ ФОРМА СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 471 В[а, Ь]х в Lx, состоящем из (классов эквивалентности по мере р.х) ограниченных борелевских функций, корректно определено отображение 1°: В[а, Ь]х ->Я,/и f(T)x. Ясно, с учетом последнего равенства, что это изометрический оператор. Но подпространство В[а, Ь]х, как хорошо известно, плотно в Lx. Продолжая 1° по непрерывности, мы получаем изометрический оператор (см. теорему 2.1.2) Ix: Lx —> Я. Он действует на функции XY по указанному правилу и в силу тотальности множества этих функций в Lx определен этим однозначно. > Назовем образ оператора 1Х циклическим подпространством (в Н), порожденным вектором х, и обозначим его через Нх. Поскольку Lx содержит как плотное подпространство ограниченных борелевых функций, так и плотное подпространство многочленов (вернее, их классов эквивалентности), верно Предложение 3. Справедливо равенство Нх = (span{P(y)a; | Y е BOR?})" = (span{x, Тх, Т2х,...})". < > Обозначим через Ух действующий в пространстве Lx оператор умножения на независимую переменную t. (Боясь путаницы, мы не решаемся употреблять для этого оператора общие обозначения из примера 1.3.4.) Мы сейчас покажем, что оператор Ух может быть отождествлен с «частью» исходного оператора Г. Вот точный смысл такого заявления. Предложение 4. Диаграмма -•I !'• Я ——> я коммутативна. < Для любого Y g BORJ выполнено равенство Т1х(Хг)=ТР(У)х=ЦТ)Ху{Т)х = $Ху)(Т)х = 1Лху) = 1хУЛХу)- Следовательно операторы Т1Х и 1ХУХ совпадают на множестве {хУ | У ? BORj;}. Остается снова вспомнить, что это множество тотально в L1. > Следствие 1. Подпространство Нх инвариантно относительно Т, и оператор 1Х осуществляет унитарную эквивалентность между Ух и сужением оператора Т на Нх.
472 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Естественно возникает интерес к тем векторам х е Н, для которых указанная выше диаграмма дает унитарную эквивалентность оператора Ух и самого оператора Т. Определение 2. Вектор х е Н называется циклическим вектором оператора Т, если множество х, Тх, Т2х,... тотально в Н. Оператор Г называется циклическим (говорят также: оператором с простым спектром), если он обладает циклическим вектором. Из предложения 3 сразу вытекает Следствие 2. Следующие утверждения эквивалентны: (i) вектор х€ Н является циклическим для Т; (и) множество {P(Y)x \ Y е BOR?} тотально в Н; (Ш) оператор 1Х — изометрический изоморфизм. Вот наш главный ПРИМЕР 1. Оператор умножения на независимую переменную в L2([a, b], р), где р — произвольная борелевская мера, — циклический, и его циклическим вектором, очевидно, служит постоянная /(?) = 1 (точнее, класс эквивалентности этой функции). Упражнение 1. (i) Диагональный оператор Тх в 1% циклический тогда и только тогда, когда все числа Ап, п = 1, 2,..., разные. (и) Оператор умножения на непрерывную функцию / в L2[a, Ь] циклический тогда и только тогда, когда эта функция строго монотонна. (Hi) Проектор в пространстве размерности больше 2 никогда не бывает циклическим. Объединяя оба предыдущих следствия и пример 1, получаем Следствие 3. Самосопряженный оператор Т является циклическим тогда и только тогда, когда он унитарно эквивалентен оператору умножения на независимую переменную в пространстве L2([a, b], /xj, где х —его циклический вектор. Упражнение 2. Опишите меру \ix в предположении, что оператор Т компактен. Итак, у каждого самосопряженного оператора, относящегося к специальному классу циклических, есть «модель» — оператор умножения. Посмотрим, когда такие модели унитарно эквивалентны. Пусть р. и v — борелевы меры на [а, Ь]. Напомним, что мера р называется абсолютно непрерывной по v (обозначение р -с v), если для любого борелева множества Y из равенства г/(У) = 0 следует, что p(Y) = 0. Если одновременно p<g.v и v < р, то
§ 7. ГЕОМЕТРИЧЕСКАЯ ФОРМА СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 473 меры называются эквивалентными (обозначение р ~ v). Класс эквивалентности меры называется ее спектральным типом. Предложение 5. Пусть p,v — борелевы меры на [а,Ь], УМ,У„ — операторы умножения на независимую переменную в пространствах Ь2([а, Ь], р) и L2([a, b], и). Эти операторы унитарно эквивалентны тогда и только тогда, когда p. ~ v (иначе говоря, обе меры принадлежат одному и тому же спектральному типу). < =$¦ Пусть Р() и Q() — спектральные меры наших операторов. Напомним, что P(Y) и Q(Y) суть операторы умножения на Ху в L2([a, b], р) (соответственно в L2([a, b], v). Пусть, далее, оператор U осуществляет заданную унитарную эквивалентность. Тогда в силу следствия 6.1 тот же оператор U осуществляет для каждого множества Y унитарную эквивалентность между P(Y) и Q(Y). Поэтому для любого Y эти операторы могут быть равны нулю только одновременно, а это, разумеется, означает, что u(Y) = 0 тогда и только тогда, когда p(Y) = 0. •Ф= Поскольку /i<i/, согласно классической теореме Радона — Никодима существует функция a(t) ^ О, интегрируемая на [а, Ь] по мере v и такая, что функция f(t) интегрируема по р тогда и только тогда, когда функция a(t)f(t) интегрируема по и, ь ь и при этом \ f(t)dp(t)= J a(t)f(t)dv(t). Отсюда, в частности, если / б Ь2([а, Ъ], р), то функция g(t) := \/a(t)f(t) принадлежит L2([a, b], и) и ъ ь ь ll/ll2 = \ \f(t)\2dp(t)= J a(t)\f(t)\4u(t) = j \g(t)\4v(t) = \\g\\2. Тем самым, корректно определено отображение U: L2([a, b], р)—> —* L2([a, b], v), f h-+ g, и оно является изометрическим оператором. Но ведь еще и v < р, а из этого, очевидно, следует, что а(<)/0 почти всюду по мере v. Отсюда для каждой функции g€L2([a, Ъ], v) функция f(t):=-j==g(t) определена почти всюду по!/ и \\g(t)\4v(t) = \a(t)\f(t)\Uv(t). Но тогда feL2([a,b], р) и Uf = д. Это означает, что оператор U сюръективен. Дальнейшее очевидно.> Соберем воедино полученные факты.
474 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Теорема 1. Самосопряженный оператор Т является циклическим тогда и только тогда, когда он унитарно эквивалентен оператору умножения на независимую переменную в пространстве L2([a, b], р) для некоторой меры р., и эта мера определена однозначно с точностью до эквивалентности. В качестве такой меры можно взять рх, где х — циклический вектор нашего оператора. При этом если х и у — два циклических вектора для Т, то рх~ ру. <¦ > Разумеется, эта теорема дает полную классификацию циклических самосопряженных операторов с точностью до унитарной эквивалентности. А именно, в качестве полной системы инвариантов операторов этого класса можно рассматривать множество классов эквивалентности (= множество спектральных типов) мер на действительной прямой, сосредоточенных на отрезках. Моделью оператора с заданным инвариантом является оператор умножения на независимую переменную в пространстве L2([a, Ь], р), где р принадлежит соответствующему спектральному типу. Мы видели, однако, что далеко не каждый оператор является циклическим. Можно ли, в духе теоремы 1, сказать что-либо вразумительное об общих самосопряженных операторах? Здесь окажется полезным следующее понятие, которое представляет и самостоятельный интерес. Определение 3. Говорят, что пространство Я разлагается в гильбертову сумму своих подпространств {Hff | /3 еЛ}, если эти подпространства замкнуты, попарно ортогональны и их линейная оболочка плотна в Я. В § 2.1 нам встречалось такое понятие, как гильбертова сумма семейства гильбертовых пространств. Покажем, что оба понятия согласованы. Предложение 6. Пусть пространство Н разлагается в гильбертову сумму своих подпространств {Нр | /3 е Л}. Тогда существует унитарный изоморфизм U: Н—*®{Н* \ j3 еЛ}, однозначно определенный тем, что он переводит х€Нв в ^строку*, в которой на <{3-м* месте стоит х, а на остальных местах — нули. < Очевидно, указанное правило корректно определяет унитарный изоморфизм из линейной оболочки подпространств Hff в Я на алгебраическую прямую сумму этих пространств, являющуюся плотным подпространством в ®{Н0 \ C е Л}. Далее применимо предложение 2.1.10. >
§ 7. ГЕОМЕТРИЧЕСКАЯ ФОРМА СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 475 Кроме всего прочего, это предложение позволяет нам, не опасаясь путаницы, употреблять для только что введенной «внутренней» гильбертовой суммы ту же символическую запись «ф{Я„ \ /3 еЛ}», что и для уже известной ранее «внешней». Следующий результат позволяет до некоторой степени сводить произвольные самосопряженные операторы к циклическим. Предложение 7. Для любого самосопряженного оператора Т, действующего в Я, существует такое семейство {Н0 |/3 G Л} циклических относительно Т подпространств в Я, чтоН = ®{Нр\реЛ}. < Опять, после долгого перерыва, вытаскиваем лемму Цорна. Рассмотрим множество М, состоящее из всевозможных наборов попарно ортогональных подпространств в Я, циклических относительно Т; оно, разумеется, упорядочено по включению. Если М0 — линейно упорядоченное подмножество в М, то, взяв объединение всех входящих в М0 наборов, мы, очевидно, получаем элемент множества М, являющийся верхней границей множества М0. Лемма Цорна немедленно нам дает максимальный элемент упорядоченного множества М; пусть это набор {Н* \ C е А}. Покажем, что (зрап{Я/3 | /3 е Л})~ = Я. Если это не так, то в силу теоремы об ортогональном дополнении, существует вектор х, ортогональный всем подпространствам Нр. Но тогда из предложения 2.3 (iv) очевидным образом следует, что каждый вектор Тпх, п= 1, 2,..., также обладает этим свойством. Положим Я0 := (span{x, Тх, Т2х,...})"; это циклическое подпространство в Я относительно Т. Но тогда набор подпространств, содержащий все подпространства Я^ и еще Я0, является элементом множества М. Этот набор включает набор {Я„ | /3 еЛ} и не совпадает с ним, что противоречит максимальности последнего набора. > Теперь мы можем предъявить нечто вроде сырья для модели произвольного самосопряженного оператора. Вначале договоримся о терминах. Пусть {Нр | C е Л} — семейство гильбертовых пространств и Я := ®{Н0 | /3 € Л} — их гильбертова сумма. Пусть, далее, в каждом подпространстве На действует свой ограниченный оператор S^, причем sup{||^|| | /? € А} < оо. Для элемента в Я, т. е. такой «строки» / = (...,/„,...). h е НР' что ? WfWW < оо. мы положим 5/ := (..., S0fp,...). Как легко проверить, отображение S: Н —у Н, /и5/, — это корректно определенный ограниченный оператор нормы ||5|| =sup{||5/3|| | /3 еЛ}. Такой оператор мы назовем гильбертовой суммой операторов S0 и будем обозначать его через ё{^|/ЗеЛ}.
476 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА (Читатель, сделавший упражнение 1.5.2, уже знаком с подобной конструкцией.) В следующей теореме, а также и далее, пригодится очевидное Предложение 8. Пусть Se,Ra, /3 € Л, — такие операторы, действующие в гильбертовых пространствах, что Se и Re унитарно эквивалентны для каждого /3 € Л. Тогда операторы ®{Sg | /3 G Л} и ®{RB | /3 € Л} также унитарно эквивалентны. < > Теорема 2 (геометрическая форма спектральной теоремы). Пусть Т — произвольный самосопряженный оператор в гильбертовом пространстве. Тогда на некотором отрезке [а, Ь] существует такое семейство мер {р,в | /3 е Л}, что оператор Т унитарно эквивалентен оператору Ув := ®{Ув | /3 е Л}, где Ув — оператор умножения на независимую переменную в пространстве L$ := L2([a, b], р.в). < Пусть {Нв | /3 €Л} — семейство из предложения 7. Для каждого /3 обозначим через xfi вектор, порождающий Н0, а через Тв — сужение Т на Нв. Из предложения 8 явствует, что оператор Г равен (или, если проявлять дотошность, унитарно эквивалентен) оператору ®{Тв \ /3 € Л}. Но Тв — циклический оператор. Поэтому в силу следствия 3 для каждого /3 существует такая мера р.в на [а, Ь], что операторы У3 и Т3 унитарно эквивалентны. Остается воспользоваться предыдущим предложением. > Унитарно эквивалентный исходному («абстрактному») оператору Т «конкретный» оператор Уш, фигурирующий в доказанной теореме, мы будем называть в дальнейшем спектральной картиной оператора Т. Заметим, что в силу большого произвола в выборе семейства циклических подпространств Нв подобных «картин» у нашего оператора может быть очень много. ЗАМЕЧАНИЕ. Мы вывели «геометрическую форму» спектральной теоремы из «аналитической». В свою очередь, если принять на веру теорему 2, то из нее легко следуют все утверждения теоремы 6.2 о спектральной мере, кроме, пожалуй, единственности этой меры. А именно, спектральной мерой оператора Т, после его отождествления с Ув, оказывается отображение из BOR в V(H), сопоставляющее множеству У оператор, однозначно определенный тем, что он переводит / 6 L2([a, b], р,а) в Xyf, гДе Y :=Y'n [а, Ъ]. За счет некоторой потери информации можно добиться еще большей наглядности, сведя дело к одному единственному оператору умножения на функцию.
§ 7. ГЕОМЕТРИЧЕСКАЯ ФОРМА СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 477 Теорема 3. Пусть Т — произвольный самосопряженный оператор в гильбертовом пространстве. Тогда существуют такое измеримое пространство (X, р.) и такая существенно ограниченная измеримая функция tm на X, что оператор Т унитарно эквивалентен оператору умножения на t. в L2(X, р). < Возьмем меры pfi из теоремы 2 и обозначим через X дизъюнктное объединение семейства копий [а, Ь]0 отрезка [а, Ь]. Рассмотрим в X совокупность подмножеств вида Y:=Н{^ | /3 е Л}, Ур Q [а, Ь]р, причем таких, что (i) Y0 ф<2> для не более чем счетного числа индексов, (и) каждое множество Y0 измеримо по мере pfi и (Ш) 53 fi„(Y0) < оо. Как легко проверить, эта совокупность есть ст-кольцо, а функция множеств Ун ?) Мл(^) является мерой. 0€\ (Последняя, в отличие от «составляющих» мер р^, уже не обязана быть конечной, но нам это не мешает.) Теперь возьмем функцию t, на X, сопоставляющую каждому t в любой из копий отрезка, составляющих X, само это число t. Наконец, рассмотрим гильбертово пространство L2(X, р) и действующий в нем оператор У. умножения на введенную функцию. Легко убедиться в том, что между пространствами С := '•— Ф{?г([°1 Ъ]р, р,р) | /3 Е Л} и L2(X, р) существует унитарный изоморфизм V, однозначно определенный тем условием, что он переводит функцию / из прямого слагаемого L2([a, b]ff, р0) в С в функцию на X, равную / на [а, Ь]0 и равную нулю на остальных экземплярах нашего отрезка. Элементарная проверка показывает, что V осуществляет унитарную эквивалентность между оператором Уе из теоремы 2 и У.. Но согласно той же теореме оператор Т унитарно эквивалентен Уе. Дальнейшее очевидно. > Упражнение 3. Пусть пространство Я сепарабельно. Тогда (i) семейство подпространств Нр из предложения 7 не более чем счетно; (ii) семейство отличных от нуля мер /^ из теоремы 2 не более чем счетно; (Ш) меру р из теоремы 3 можно выбрать конечной. Наверное, Вы согласитесь с нами, что теоремы 2 и 3 весьма содержательны. Они относятся к классу математических теорем, называемых теоремами реализации. Эти теоремы (подобно теореме Фишера — Рисса в виде следствия 2.2.1, теореме Шмидта, обеим теоремам Гельфанда — Наймарка и т. п.) дают реализацию абстрактного объекта (в данном случае самосопряженного оператора)
478 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА в виде конкретного (в данном случае возникающего из оператора умножения на функцию). Но аппетит приходит во время еды. Ведь нам хотелось бы получить полную систему инвариантов унитарной эквивалентности (ср. общие разговоры в § 0.4) — подобно тому, как это было сделано в теореме 1 для специального класса циклических самосопряженных операторов (а еще раньше, в теореме Гильберта — Шмидта, для компактных самосопряженных операторов). А обе теоремы 2 и 3 ответа не дают. Произвол в выборе спектральных картин слишком велик, и непонятно, как по заданным спектральным картинам двух операторов судить о том, являются ли эти операторы унитарно эквивалентными или нет. И все же, как показал в свое время более тщательный анализ проблемы, среди всевозможных спектральных картин заданного самосопряженного оператора есть и такие, которые позволяют ответить на поставленный вопрос. Соответствующий результат дает полную классификацию самосопряженных операторов с точностью до унитарной эквивалентности и, стало быть (если придерживаться теоретико-категорного взгляда на математические объекты) «абсолютное знание» их природы. Иногда, говоря о спектральной теореме, имеют в виду именно этот ее завершающий облик. Формулировку обсуждаемого результата мы, конечно, выставим на всеобщее обозрение — она того заслуживает; разве что для большей прозрачности мы ограничимся случаем сепарабельного пространства Н. Напомним, что носителем борелевой меры р на действительной прямой или ее отрезке [а, Ь] — других мы сейчас не рассматриваем — называется такое борелево множество Z, что наша мера равна нулю на дополнении CZ к Z (пишут Z = supp(p)). Разумеется, носителей у меры может быть очень много. Далее, меры р. и v называются взаимно сингулярными или, короче, ортогональными (обозначение р ± и), если для некоторого множества Z одновременно выполнены равенства Z — supp (р) и CZ = supp (и). (Классический пример — это стандартная мера Лебега и мера, сосредоточенная на канторовом множестве.) Спектральные типы взаимно сингулярных мер называются независимыми. Для меры р. на отрезке [а,Ь] мы будем обозначать через У^ оператор умножения на независимую переменную в пространстве L2([a, Ь], р). Гильбертову сумму п, п = 1, 2,..., копий таких операторов мы обозначим через п х У^, а гильбертову сумму счетного числа таких копий — через оохУ^,
§ 7. ГЕОМЕТРИЧЕСКАЯ ФОРМА СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 479 Теорема 4 (завершенная спектральная теорема (Хеллингер1')). (БД) Пусть Т — произвольный самосопряженный оператор в се- парабельном гильбертовом пространстве Н. Тогда существует такой упорядоченный набор р., = (/х,, р^, рг,..., /О попарно взаимно сингулярных борелевых мер на некотором отрезке [а, Ь], что оператор Т унитарно эквивалентен оператору Ум.:= У^ Ф B х У^) ф C х У^) ©... ф (оо х y„J. При этом операторы Ум и У„, соответствующие по указанному правилу наборам д. и и, = (i/,, v2, v3,..., v^), унитарно эквивалентны тогда и только тогда, когда меры цп и vn эквивалентны для каждого п = 1, 2,..., оо (иначе говоря, соответствующие наборы спектральных типов совпадают). Упражнение 4*. Докажите теорему 4 в предположении, что оператор Т Оператор указанного вида, унитарно эквивалентный заданному оператору Т, называется упорядоченной спектральной картиной оператора Т. Упорядоченный набор спектральных типов мер /х„, п < оо, называется набором спектральных типов оператора Т. Как явствует из теоремы 4, этот набор однозначно определен нашим оператором. Доказательство теоремы 4 требует значительно более тонких рассуждений, чем те, что привели к «неупорядоченным» спектральным картинам в теореме 2. О том, как это делается в рамках так называемой теории кратностей, мы расскажем в следующем параграфе, ориентируясь на нашего просвещенного читателя. А сейчас подведем некоторый итог. Из сформулированной теоремы ясно видно, какие вещи можно выбрать в качестве полной системы инвариантов унитарной эквивалентности самосопряженных операторов в сепарабельных пространствах (более торжественно: полной системы инвариантов подобия эндоморфизмов указанного класса в HlL относительно HlL,; ср. § 0.4). А именно, такой системой является множество всевозможных наборов попарно независимых спектральных типов, индексированных «числами» 1, 2, 3,..., оо и сосредоточенных на одном и том же отрезке в R. Моделью оператора с данным инвариантом является оператор Ум, где /х. — набор мер из соответствующих спектральных типов. Разумеется, у многих операторов бывает так, что весь их набор спектральных типов состоит из классов эквивалентности нулевых ') Э. Хеллингер — немецкий математик, еще один блестящий ученик Гильберта.
480 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА мер, за исключением стоящего на п-и (снова п < оо) месте. Тогда, понятное дело, наш оператор совпадает, с точностью до унитарной эквивалентности, с пхУл:=У^ф...фУл. В этом случае говорят, что наш оператор Т — однородный оператор кратности п. ПРИМЕР 2. Пусть Т — это проектор с fc-мерным ядром и m-мерным образом, A:, m ^ оо. Легко проверить, что если k = т, то Т — однородный оператор кратности А;, а соответствующая мера цк сосредоточена в точках 0 и 1. Если же А: ф тп, то меры р,п из теоремы 4 таковы, что мера р.к сосредоточена в точке 0, р,т — в 1, а остальные меры равны нулю. Упражнение 5. Найдите последовательность спектральных типов оператора Т: L2(D) —> L2(D), x(s, t) *-* sx(s, t), где D := [a, b] x [a, b]. (Ответ: это однородный оператор кратности оо, и ц^ — стандартная мера Лебега на [а, Ь].) Упражнение 6. Пусть Т — циклический оператор, унитарно эквивалентный оператору У^ из теоремы 4. Покажите (не используя теорему 4), что все прямые слагаемые к xYh при А: ^ 2 (а также пространства, в которых действуют эти операторы) нулевые. Иными словами, оператор является однородным кратности 1 тогда и только тогда, когда он циклический. Упражнение 7. Спектр оператора Т совпадает, в обозначениях теоремы 4, с дополнением в [а, Ь] до максимального открытого подмножества, на котором все меры цп, п ^ оо, равны нулю. § 8. Отличнику: доказательство завершенной спектральной теоремы Теперь, ориентируясь на наших отличников, мы постараемся аккуратно доказать объявленную теорему. Предварительно выделим несколько фактов, а также терминов и обозначений из теории меры, которые нам предстоит использовать. Мы рекомендуем Вам сразу начать читать непосредственное доказательство, а вспомогательные утверждения пока принять на веру. Потом можно вернуться и убедиться в их справедливости (а лучше всего — доказать их самому; они не столь уж сложны). Говоря «мера», мы имеем в виду обычную — неотрицательную — конечную борелеву меру на отрезке [о, Ь] (содержащем, как мы помним, о(Т)). Меры будут обозначаться буквами А, ц, и, а борелевы подмножества отрезка — буквами X, Y, Z, дополнение к X до [а,Ь] — через СХ. Сумму двух ортогональных мер ц и и мы
§ 8. ДОКАЗАТЕЛЬСТВО ЗАВЕРШЕННОЙ СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 481 обозначим через р. © v, а сумму конечного или счетного семейства таких попарно ортогональных мер цп, что ? var(/i„) < со, — через ® рп. Предложение 1. Пусть ц » v. Тогда существует такая мера А, что р. ~ А ф < Положим Л/»:= {У ИУ) = 0} и С :=sup{/i(y) | У еЛ/»}- Возьмем такие множества У„еЛ/», что lim p,(Yn) = C, и У^^иУ,,; очевидно, ^(Уоо) = 0 ийУ00) = С. Теперь для каждого X положим Х(Х):= р.(Х П У^,); ясно, что А1си А<^. Пусть (Аф1/)(Л") = 0. Положим З^ХПСУ^,. Тогда 1/(?) = 0, поэтому и ^(У^и П ?) = 0. Отсюда С + p(Z) = ^(У^ II Z) $ С, и, следовательно, ^(Z) = 0. Но по выбору А еще и р(Х П У^) = 0. Поэтому р-(Х) = 0, и, таким образом, р. «: А ф v. Дальнейшее очевидно. > Предложение 2. Пусть pk ~АА ®v, к = 1,2. 7оеда если ^, ~^, mo А, ~ А2. •з Выберем Zk=supp(v) так, чтобы CZt = supp(At). Тогда, разумеется, Z := := ZlnZ2 = supp (i/) ч CZ = supp (Afc); A; = 1,2. Возьмем некоторое множество X и положим Y:—XnCZ. Тогда выполнены следующие эквивалентности: А1(Л') = 0*=оА1(У) = 0^=^(А1ф1')(У) = 0-!=(.^(У) = ОФ=> ^/^(У) = Оч=!>(А2е«/)(У) = 0<=>А2(У) = 0«=ФА2(Х) = 0. > Предложение 3. Пусть меры р.п, п = 1, 2,..., попарно ортогональны. Тогда существует разбиение [а, Ь]= II Zn, где Zn = supp(/*„). < Построим по индукции некоторую последовательность множеств Хп. Согласно условию для любых тфп существует такое множество Z? = supp (fim), что CZ^ = = supp (pn). Положим Xt:= n ?,*; очевидно, X, = supp (д,) и CXl = supp (/ifc) для всех к e N, fe ^ 1. Если множества ^f,,..., ЛГП построены, притом так, что для всех к = 1,...,п выполнены равенства Хк = supp (рк) и СХк = supp (/*,) для / G N, IФ к, то положим Лп+1:=СЛ'[П...пСХпп( n Z*+ j); тогда, очевидно, предыдущее заявление об Хк и СХк выполнено уже для всех к = 1,..., п + 1. Ясно, что построенные носители Хп, п= 1,2,..., попарно не пересекаются и для Хж := С( II Хп) выполнено равенство pn(ZCl0) = 0 для всех п. Остается положить Я, := Л", Ы З^о и zn := *„ ПРИ п > 1- > Предложение 4. Пусть последовательность р,п состоит из попарно ортогональных мер и такова же последовательность ип. Пусть, далее, для некоторых множества X и номера п выполнено равенство цп(Х) = 0, но vn(X)^0. Тогда существуют такое множество Y С X и такое число тфп, что ^(У) = 0 для всех i ф т, 1/п(У) > 0 и v^Y) = 0 при i ф п. < Возьмем, пользуясь предложением 3, разбиение отрезка на носители Zk = = supp (vk), ? = 1,2,..., и положим Xk:= X Г\ Zk. Тогда, очевидно, vk(Xn) > О тогда и только тогда, когда к = п. Теперь, пользуясь тем же предложением, возьмем разбиение отрезка на носители Zf =supp (jjj), I — 1,2,.... и положим Y, :—Xnr\Z^. Тогда Xn = II У,, и поэтому существует такое /, что vn(Yt) > 0; в то же время, конечно, /ит(У() = 0 при т ф I. Остается положить Y :=Y,.> Добавим к этому несколько простых связей между векторами х G Н, их личными мерами рх и некоторой спектральной мерой Рт: Y i-*P(Y).
482 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Предложение 5. Если X П Y = 0, то Р(Х)х X P(Y)y для любых х,уеН. < Утверждение следует из равенства (Р(Х)х, P(Y)y) = (х, Р(Х П Y)y). > Предложение 6. Если Z = supp (/jz), то х = P(Z)x. < Из предложения 7.1, рассмотренного для Y := CZ, следует, что P(CZ)x = 0. Дальнейшее очевидно. > Предложение 7. Если р.х±цу, то Нх±Ну. < Возьмем Z = supp (у.х), CZ = supp (/i ). Тогда в силу предложения 6 для любых множеств ХиУ выполнены равенства P{X)x = P(XnZ)x и Р(У)у = Р(УпС2)у, а значит, в силу предложения 5 мы получаем, что Р(Х)х ± P(Y)y, Остается напомнить, что векторы указанного вида образуют тотальные множества в Нх и соответственно в Н. > Предложение 8. Если у&Нх, то /*х » р.у- < Пусть nz(Y) = 0, т. е., иными словами (см. предложение 7.1), P(Y)x = 0. Отсюда P(Y)z = 0 для любого вектора z вида Р(Х)х, X е bor?. Но вектор у, сидя в Нх, аппроксимируется линейными комбинациями векторов указанного вида. Поэтому P(Y)y = 0 или, что то же самое, ny(Y) = 0. > Предложение 9. Пусть для х е Я и некоторых мер цп, п = 1,2,..., выполнено условие fix ~ ©цп. Тогда существуют такие векторы хп € Нх, что цх ~ цп и, в обозначениях Нп := Нх ,Нх = &Нп. < Возьмем носители Zn мер цп из предложения 3, после чего положим хп := :=P(Zn)x. Из предложения 7.1 следует, что для любого множества Y и X:=ZnnY выполнено равенство р.х (Y) = fix(X). Отсюда Это означает, что цх ~/i„. А это, в свою очередь, гарантирует, что при т^п выполнено условие цх 1 цх и, стало быть (предложение 7), Нт ± Яп. Далее, любой вектор из "Нх аппроксимируется линейными комбинациями векторов вида P(Y)x, а эти векторы в силу сильно-операторной счетной аддитивности спектральной меры (предложение 6.6) аппроксимируются векторами вида Y, P(Zk)P(Y)x= ? P(Y)xk, т. е. векторами из алгебраической суммы пространств Я„. Это, конечно, влечет совпадение Нх с ФПЯП. > 44 Теперь, вооружившись всеми этими фактами, мы непосредственно приступаем к доказательству теоремы 7.4. Назовем вектор х € Я большим (относительно Т); ест для любого j/ е Я выполнено условие/^ з> цу. Лемм* 1. Большие векторы существуют, и, более того, для любого ееЯ существует такой большой х, что е е Нх. < Рассмотрим множество М, элементами которого являются всевозможные семейства отличных от нуля личных мер векторов из Я, попарно ортогональных друг другу и ортогональных мере р.г. Оно упорядочено по включению. Привычный трюк с леммой Цорна дает нам его максимальный элемент; пусть это некое семейство цу , /3 € А. Тогда в силу предложения 7 все векторы у0 ортогональны друг другу
§ 8. ДОКАЗАТЕЛЬСТВО ЗАВЕРШЕННОЙ СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 483 и вектору е. Поэтому из-за сепарабельности пространства Я их не более чеы счетное множество, и мы вправе обозначать их через уп, а их личные меры через fin. Умножая эти векторы на подходящие числа, можно считать, что ? lll/„l|2 <°°. В силу последней оценки корректно определен вектор х:=е + ?у„. Если Z = supp(/ie) и Zn = supp (/in) — носители, предоставленные предложением 3, то, с учетом предложения 7.1 и предложения 6 мы получаем е = P(Z)e = P(Z)e + ? P(Z)yn = P(Z)x. Отсюда заведомо е е Нх. Осталось показать, что х — большой вектор. Пусть, напротив, обнаружились такой вектор z' € Я и такое множество У, что ^(У) = 0, но /^(У) > 0. Положим z := Р(У)г'; тогда /*,(У) = /^(У) > 0 и /i,(CY) = 0, т. е. ц, X ^. Но /i„, цс « *»„; отсюда, очевидно, следует, что р.п i./ir (для всех п) и /ie X/i„. Поэтому семейство /in, п=1,2,.... не является максимальным элементом множества М. Получили противоречие. > (Используя сепарабельность пространства Я, мы могли бы доказать эту лемму и без участия Цорна, но так быстрее. Да и вообще, как обычно бывает с попытками обойтись без Цорна, ослиные уши царя Мидаса все равно вылезут...) Заметим, что, если какие-то подпространства Я,,...,ЯП инвариантны для Т, то таково же и подпространство Я" := Нх ф ... ф Яп, а стало быть (предложение 2.3 (iv)), и (Я")х. При этих обозначениях условимся обозначать сужение оператора Т на (Я"I через Гп. Лемма 2. Пусть еп, п = 1,2,..., — ортонормированный базис в Я, и пусть для некоторого п, существуют такие векторы х1,..., хп, что (i) подпространства Я„ := Нх попарно ортогональны, (И) вектор хп большой относительно Тп _,, W'l е„ед». Тогда если Я" / Я, то существует такой вектор xn+i ей, что система х1,...,хп + 1 удовлетворяет тем же условиям (i)-(iii), но с заменой п на п+\. < Если Я" — еще не всё пространство Я, то среди векторов е„ существуют векторы вне Я"; пусть е — наименьший вектор по номеру. Возьмем проекцию у этого вектора на (Я")-1. Поскольку оператор Т„ (см. выше) самосопряжен вместе с Г, лемма 1 дает такой большой вектор относительно Тп — его мы и обозначим через хп+1, что у?Нп+1. Проверим условия (iWiii) с заменой пнап+1. Первое следует из очевидного включения Яп+, С(Н") , второе — из построения хп + 1. Наконец, из условий у?Яп, | ие-уеЯ" следует, что вектор е, а с ним, разумеется, и еп +,, лежит вЯ"+Т. > Леммш 3. Существует такая конечная или бесконечная последовательность хп что, в обозначениях Яп := Нх и vn := их , выполнено равенство Я = © Нп о Зафиксируем ортонормированный базис е,,^,... и обозначим через х, вектор, большой относительно («всего») Г. Если ЩфН (наш вектор не оказался циклическим!), то применим предыдущую лемму для п — 1. Если для х, и только что возникшего вектора а^ все еще выполнено условие Я, ffi Я2 7* Н< то применим эту лемму для п = 2, и т. д. В результате мы построим либо такой конечный набор х,,..., хт, что Я = Я,ф ... ФЯт, либо бесконечный набор хп, п = 1,2,... При этом в первом случае для всех п = 1,..., т, а во втором для всех п 6 N выполнены
484 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА свойства (i)-(iii) из леммы 2. Поскольку во втором случае каждый базисный вектор лежит в каком-либо из подпространств Я", Я совпадает с Ф . Наконец, пусть векторы хп и хп +, имеют смысл. Тогда, как мы помним, хп — большой вектор для Тв_,: (Я"~ 1I ->(Я"" 1)±, а хп+ , 6 (Яп~ 1)±. Но личная мера любого вектора из (Яп_ 'J1 относительно Тп_ ,, разумеется, не меняется при замене последнего на «весь» оператор Т. Это означает, что vn~»vn+i. Дальнейшее очевидно. > Продолжим доказательство теоремы 7.4. Пусть векторы хп и меры vn:=vx те же, что в предыдущей лемме. Если этих векторов (и мер) всего m штук, мы положим ит+ , = vm + 2 = . ¦. :=0. В силу предложения 1 для каждого п е N существует такая мера цп, что vn ~ цп ф ип , ,. (В частности — и это вполне может произойти — (tn = 0, когда ип ~ ип +!.) При этом, умножая наши меры на достаточно малые числа, мы вправе считать, что J2 var(^n) <оо. Рассмотрим, с учетом того очевидного наблюдения, что все меры fin попарно ортогональны, конечную меру и^ :=©/in. Если для yeBORj случилось так, что 1/,(У) = 0, то цх(У) = u2(Y) = 0, а это влечет равенство /^(У) = »з(У) = 0, и т. д. Мы видим, таким образом, что pn(Y) = = 0 для всех п, и стало быть, ^(Y) = 0. Тем самым, их » их, и в силу того же предложения 1 существует такая мера ц^, что vx ~i,M®''i»- Меры цп, п ^ оо, построены. Теперь надо показать, что это то, что нам нужно (вспомните формулировку). Вначале установим, что для всех п е N выполнено условие vn ~ ( ф цк J ф цх. Проведем индукцию по п. Для п = 1 все ясно из определения меры /i^. Пусть утверждение верно для некоторого п. По выбору цп мы имеем, что vn ~ /хп ф vn + ,. Поэтому индуктивный переход обеспечен предложением 2. Теперь вступает в действие предложение 9. Для каждого n е N оно дает такие векторы хпп, х^ п + ,,..., хпоо е Я„, что, в обозначении ЯпА. :=Я,. , есть разложение Я„= I я^ёя^, и при этом ^t ~ цх для всех п < оо, п ^ А: < оо. Из полученных подпространств можно составить таблицу язз ¦ • • ЯЗоо Я22 Я23 • ¦ • Я2оо яи я12 я13 ... я1оо, в которой гильбертова сумма п-в снизу строки есть Я„ := Ях и, стало быть, гильбертова сумма всех пространств этой таблицы есть наше исходное пространство И. Далее, га-й столбец этой таблицы состоит ровно из п пространств, в том числе последний — из «счетного» числа пространств. (Разумеется, никто не запрещает каким-то столбцам состоять сплошь из нулей.) А теперь, вместо того, чтобы складывать гильбертовы суммы пространств, стоящих в одной и той же строке, сделаем то же со столбцами. А именно, для Кп := Z Я. ; то * = п я= ё кп®кс
§ 8. ДОКАЗАТЕЛЬСТВО ЗАВЕРШЕННОЙ СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 485 Но вспомним: подпространство Яы, будучи порождено вектором 1ы, инвариантно относительно Т. Следовательно, соответствующее сужение оператора Т — это оператор, унитарно эквивалентный оператору У^, где р.— личная мера вектора хкп (см. следствие 7.1), а значит, в силу предложения 7.5 и оператору У^ . Отсюда с учетом предложения 7.8 сужение оператора Г на Кп, п= 1,2, ...,оо, унитарно эквивалентно оператору п х У^ , а «весь» оператор Т — гильбертовой сумме последних операторов по всем п < оо. Упорядоченная спектральная картина оператора Т построена. Нам остается показать, что спектральные типы мер, участвующих в упорядоченной спектральной картине оператора Т, определены однозначно. Здесь пригодится следующая лемма, представляющая самостоятельный интерес. Лемма 4. Пусть Т = ®Тп, где Тп —сужение оператора Т на инвариантное подпространство Нп в Я, и пусть для каждого п отображение Рщп: BOR —» ->Р(Нп), Y >-+Pn(Y), — спектральная мера оператора Тп. Тогда P.: bor-»P(#), Y >-> P(Y), где P(Y) := ё Pn(Y) — спектральная мера оператора Т. < Как легко проверить, отображение Рч обладает свойствами абстрактной спектральной меры. Рассмотрим оператор /: В[а, Ь]—*В(Н), участвующий в определении операторнозначного интеграла по этой «мере» (см. § 6), и возьмем для каждого п аналогичный оператор /„: В[а, Ь]—>В(ЯП), соответствующий заданным спектральным мерам операторов Тп. Пусть последовательность простых функций fm € В[а, Ь] равномерно сходится к t (независимой переменной). Тогда согласно спектральной теореме последовательность /n(/m) сходится к Тп в В(Нп) для каждого п. Но из вида отображения Р. ясно, что J(/m) = ffi In(fm), а отсюда легко усматривается, что I(fm) сходится к ® Тп, т. е. к Т. Это означает, что Т= $ tdP(t), а значит, по той же теореме Р, и есть спектральная мера нашего оператора. > Применим лемму к оператору вида У . Пространство, в котором он действует, теперь удобно представить в виде L$• := ф nLj" ©ooL^", где через пЬ^", п<оо, обозначена гильбертова сумма п копий пространства L?". Таким образом, элементы пространства nLgn суть строки / = (/[ /„), fkeL$n, а скалярное произведение 6 п задано равенством (f, д) := $ ? /ДОМОФпО- Поскольку спектральная мера операторов У^ нам хорошо известна (см. пример 6.2), из предыдущей леммы немедленно следует Лемме б. Спектральная мера оператора У/( —это отображение X i-»P(X), где последний проектор однозначно определен 'тем, что переводит (/,, ...,/„) е ?ПЬ%" в (Хх /,,... ,Хх fn).<> Итак, перед нами два оператора — У^ и Уи . Если цп ~ vn для всех n ^ оо, то согласно предложению 7.5 Уд унитарно' эквивалентен У„п для тех же п. Отсюда с учетом предложения 7.8 оператор пхУц унитарно эквивалентен пхУ,, и, наконец, сами У^ и Yv унитарно эквивалентны. Докажем обратное.
486 Гл. 6. СОПРЯЖЕННЫЕ ОПЕРАТОРЫ И СПЕКТРАЛЬНАЯ ТЕОРЕМА Пусть, напротив, некий унитарный изоморфизм V осуществляет унитарную эквивалентность наших операторов Ум иУ„, но для некоторого п меры цп и ип не эквивалентны. Наша задача —вывести отсюда заведомо абсурдные вещи. Из-за равноправия обоих наборов мер мы можем предположить, что для некоторого п $оо и борелева множества X выполняется равенство цп(Х) = 0. но ип(Х)фО. Тогда мы в условиях предложения 4, с той лишь разницей, что теперь множество индексов наших мер содержит, кроме натуральных чисел, еще и оо. Зафиксируем множество Y и индекс m ^ оо, тфп, доставляемые этим предложением. Обозначим спектральные меры операторов Уд и У,,, описанные в предыдущей лемме, соответственно через Р(-) и Q(). В силу следствия 6.1 для любого Z CborjJ имеет место коммутативная диаграмма Она, в частности, показывает, что при Z CY оператор U осуществляет изометрический изоморфизм между подпространствами Im \P(Z)) С L^' и Im (Q(Z)) С L%'. Но первое из них в силу леммы 5 и выбора Z — это подпространство в mi?m, состоящее из строк / = (/[,..., /т), в которых все функции равны нулю ^т-почти всюду вне Z. Обозначим такое подпространство через mL%(Z). В свою очередь, Im (Q(Z)) — это подпространство в nL%n, также состоящее из строк, равных нулю vn-почти всюду вне Z (только теперь в этих строках п функций). Обозначим его через nL%(Z). Мы видим, таким образом, что для любого Z С Y следующие условия равносильны: mL$(Z) = 0-<=s- nL%(Z) = 0; это, очевидно, эквивалентно тому, что /*m(Z) = ()•«=>• «/„(?) = 0. В частности, из условия vn(Y)>0 (см. предложение 4) следует, что оба пространства nL%(У) и mL%(Y) отличны от нуля. Напомним, что тф п. Поменяв, если потребуется, местами меры ц,т и vn (и Условимся для / = (/j, ...,/m) е mL$(Y) и Z С Y обозначать строку (Xzf]>--->Xzfm) чеРез Xzf и употреблять аналогичные обозначения для строк из nL?(Y). Заметим, что коммутативность нарисованной выше диаграммы для указанных множеств Z означает попросту, что U(x2f) = XzW- Теперь (учитывая, что возможен случай т = оо) зафиксируем такое произвольное *: е N, что n < к ^ т, и возьмем в mL$(Y) для каждого г = 1,..., к, строку /*' := :=@,..., О, I, 0,...) с тождественной единицей на i-м месте. Эти к строк, очевидно, образуют ортогональную систему. Поэтому, полагая дг = (д,\ ,,., д^) := U(f'), мы получаем ортогональную систему в nL?(Y). Лемма 6. Для любого i = \,. ..,к функция Ё |р/(*)|2, <6У, отлична от нуля на множестве полной меры vn. < Если, напротив, для некоторого i указанная функция равна нулю на Z С Y, un(Z)>0,TO llxz</i2= ( Е 19,'12<Ч = о. J ( = 1
§ 8. ДОКАЗАТЕЛЬСТВО ЗАВЕРШЕННОЙ СПЕКТРАЛЬНОЙ ТЕОРЕМЫ 487 Но Хг9*=Х2и(Г)=и(Х2ГУ, поэтому **/* =0 и, стало быть, »m(Z) = 0. Но тогда и i/n(Z) = 0. Получили противоречие. > Лемма 7. Для любых i,j=\,...,k, i ф j, функция ?*/(*)*/(*). *?У, равна нулю на множестве полной меры ип. < Для любого Z C.Y строки Xzf'< i = \,...,k, ортогональны в mL^(Y); следовательно, таковы же и строки Xz9' = U(xzfl) в nLJ(V). Это означает J Ё в/(*)я/(*)А'»'(*) = Остается воспользоваться произвольностью выбора Z. > Конец доказательства теоремы 7.4. Объединяя обе последние леммы, мы видим, что почти для всех t по мере vn векторы (tfi'(t),..., #?(*))• »' = 1,..., п, арифметического пространства С" отличны от нуля и попарно ортогональны. Взяв хотя бы одно такое t, мы получаем линейно независимую систему в n-мерном пространстве, состоящую из к > п векторов, о > Чтобы лучше уяснить суть доказательства, сделайте следующее Упражнение 1. В предположении, что оператор Т i возникающие в процессе построения спектральной картины пространства Нп, Н^, Кп и меры vn, р.п. Найдите размерность пространства Нпк. Напомним, что доказанная теорема дает классификацию, с точностью до изоморфизма, объектов одной из важнейших категорий функционального анализа. Эти объекты суть самосопряженные операторы, действующие в гильбертовых пространствах, а морфизмами между объектами Г: Я —> Я и S: К —> К объявлены е операторы R, делающие диаграмму Я —> Я 1« коммутативной. (Если подзабыли, снова загляните в § 0.4 и 1.4.)
Глава 7 ПРЕОБРАЗОВАНИЕ ФУРЬЕ § 1. Классическое преобразование Фурье В курсе математического анализа Вам уже что-то рассказывали о представлении 27г-периодических функций на прямой рядами Фурье1*. Теперь мы обращаемся к студенту третьего курса или выше, знающему основы как действительного, так и комплексного анализа. Учитывая Ваш расширившийся кругозор, можно выразить то, что, собственно, тогда происходило, следующим образом. Вот нам задана 27г-периодическая комплекснозначная функция, скажем, ip(t), t е R. Предположим, что она интегрируема (теперь мы можем сказать: по Лебегу) на отрезке [—п, п]. Тогда для каждого n е Z мы полагаем cn:=^p f ip(t)e~int dt и называем это число п-м коэффициентом Фурье функции <p(t). (На втором курсе, возможно, рассматривали функции, принимавшие действительные значения, а вместо экспонент е~ш фигурировали cos nt и sin nt, п — 1, 2,.... а также постоянная. Но мы здесь рассматриваем только «вариант для взрослых».) Итак, каждой функции <р е !/,[—тг, тг] (как обычно, мы говорим о функции, а подразумеваем ее класс эквивалентности) сопоставлен по указанному правилу набор комплексных чисел cn, п е Z, зависящих от целого индекса, — как иногда говорят, двусторонняя последовательность. Дальше происходит нечто вроде обратного процесса: взяв некую двустороннюю последовательность с„, n?Z, " Жозеф Фурье A768-1830 гг.) — выдающийся французский математик. В своей богатой приключениями жизни он участвовал во злосчастной египетской экспедиции Наполеона и даже был с ним во время «битвы у пирамид». (Там же был и другой из известных Вам классиков математической науки — Гаспар Монж ) Если Вы помните, в разгар этой битвы Наполеон отдал свой знаменитый приказ: «Ослов и ученых — в середину!» Как видите, в те времена отношение властей к представителям фундаментальных наук было, пожалуй, более бережным, чем сейчас.
§ 1. КЛАССИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ 489 мы ей сопоставляем формальный функциональный ряд J2cneini. (Отметим, что такой ряд заведомо сходится, причем равномерно и абсолютно, если J2 lcJ < °°) Традиционный вопрос состоит в том, как восстановить функцию <p(t) по указанному ряду, если числа сп не «взяты с потолка», а являются для этой функции ее коэффициентами Фурье. В этой главе, однако, мы будем рассматривать не столько ряды Фурье, сколько группу родственных понятий, которые исторически от них произошли. В их основе лежит еще одно открытие Фурье — так называемый интеграл Фурье. Сам его первооткрыватель в своей классической работе «Аналитическая теория тепла» A822 г.) пришел к нему приблизительно из следующих соображений. Мы говорили о 27г-периодических функциях. Но есть ли разумный аналог коэффициентов и рядов Фурье для других функций на прямой? Пусть сперва речь идет о 27riJ-периодической функции </? для какого-то фиксированного / = 1,2,... Тогда, переходя от у к 27г-периодической функции ip(t):—ip(lt), мы видим, что в качестве аналога ряда Фурье для tp естественно рассмотреть формальный ряд »( ? 7сп/<е'(п/0'. W <Vi==EF J <Р(*)в-'(ч/,,,А -id — числа, индексированные дробями n/l, п е Z. Но что делать с произвольной функцией ip(t), вообще говоря, не имеющей периода? Имитируя (с определенной долей упрощения) то, как рассуждали в старину, и не заботясь о математической строгости, сделаем нечто вроде формального перехода к пределу при I —> со. Тогда в качестве «(нормированного) коэффициента Фурье нашей функции, зависящего от непрерывно меняющегося действительного параметра s», появляется формальное выражение Па)--Ъ, j 4>(t)e-btdt. Это и есть формальный интеграл Фурье, который, разумеется, представляет некую реально существующую функцию от я, если функция <p(t) интегрируема. Что же касается указанного выше аналога ряда Фурье, то наличие множителя 1/1 позволяет видеть в нем нечто вроде интегральной суммы, и формальный «предельный переход» приводит к выражению вида $ ф(з)еш<И. 16 А. Я. Хелеыский
490 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Вопросом о том, дает ли этот последний интеграл исходную функцию yj(t) или, выражаясь более осторожно, какое отношение имеет этот интеграл к исходной функции, мы займемся не сразу. Вначале необходимо изучить — уже со всей подобающей математической строгостью — сам процесс перехода от заданной функции к ее интегралу Фурье. Определение 1. Классическим преобразованием Фурье (на прямой) или интегралом Фурье функции p(t), t € R, называется функция F(v')(a):=^i?'(f)e"i"dt' sGR- R (Множитель -j== взят для удобства — чтобы некоторые дальнейшие утверждения приобрели более простой и красивый вид.) ЗАМЕЧАНИЕ. Выше мы упоминали о тех эвристических соображениях, с помощью которых преобразование Фурье появилось на свет как «непрерывный аналог коэффициентов Фурье». Но подчеркнем с самого начала, что его роль оказалась гораздо больше, чем можно было предполагать при его открытии. В настоящее время это одно из самых мощных средств анализа и дифференциальных уравнений, а также — в его достаточно общем понимании — топологической алгебры и теории представлений. У введенного преобразования Фурье есть несколько разновидностей — идейно близких, но формально иных вариантов этого понятия. В этой книге мы встретимся с двумя: гильбертовым преобразованием Фурье и преобразованием Фурье обобщенных функций умеренного роста. Слово «классическое» в определении 1 напоминает, что этот вариант преобразования Фурье вводится с помощью явной формулы. В то же время, как мы увидим далее, обе упомянутые разновидности преобразования Фурье с помощью одних лишь формул определены быть не могут. Средств классического анализа не хватает, и требуется аппарат функционального анализа. Если вернуться к рядам Фурье, то их теория дает нам две конструкции, похожие на преобразование Фурье на прямой, но более простые. Мы будем обращаться к ним время от времени, оттеняя те или иные свойства нашего основного понятия. Определение 2. Пусть v(t) — функция на единичной окружности Т комплексной плоскости, интегрируемая относительно стандартной (= происходящей от длины дуги) меры Лебега. Классическим преобразованием Фурье этой функции на Т называется
§ 1. КЛАССИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ 491 функция целочисленного аргумента F(<p)(n):=-^[<p(t)t-ndt, n€Z. т Напомним, что задание функции ip(t) на окружности Т эквивалентно заданию 27г-периодической функции ip(t') на прямой К по правилу (p{t'):= <р(е*г). Очевидно, при таком переходе только что введенное классическое преобразование Фурье функции на окружности превращается в последовательность коэффициентов Фурье функции Ip(t') с точностью до множителя. Определение 3. Пусть tp(n) е Z,(Z) (с целью единообразия с предыдущими определениями можно сказать, что (р — интегрируемая функция на Z относительно считающей меры «•»; ср. § 1.1). Классическим преобразованием Фурье этой функции на Z называется функция на окружности Т, заданная правилом z +оо (т. е., попросту говоря, F(ip)(t):=-^= ? cnt~n, где сп:=<р(п)). Снова переходя к 27г-периодической функции, мы видим, что это новоявленное «преобразование Фурье» имитирует ряд Фурье с заданными коэффициентами Фурье, причем в той ситуации, когда этот ряд заведомо сходится. Единственное отличие — в том, что (опять-таки ради единообразия с двумя предыдущими определениями) мы пишем e~int вместо eint. ЗАМЕЧАНИЕ. Не правда ли, смутно чувствуется внутреннее родство всех трех определений? На самом деле существует общее понятие преобразования Фурье, в котором роль R, Т и Z как областей определения исходных функций переходит к произвольной группе из достаточно широкого класса. Но мы об этом поговорим, в качестве дополнительного материала, позже, в последнем параграфе этой книги. Вернемся к исходному определению 1 и приведем два важных примера. ПРИМЕР 1. Пусть Ха,ь — 9Т0 характеристическая функция отрезка [о, Ь]. Тогда, как легко видеть, Обратим внимание на то, что эта функция везде непрерывна и исчезает на бесконечности (= стремится к нулю при \з\ —> оо).
J Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ ПРИМЕР 2. Пусть <p(t) := е"'2/2. Зафиксировав s, рассмотрим целую голоморфную функцию е~*2/,2е-"*, z 6 С. Согласно интегральной теореме Ко- ши для любого геК\ {0} и N > 0 ее интеграл по прямоугольному контуру равен нулю (см. рис.). Но, как легко видеть, интеграл этой функции по верхнему горизонтальному отрезку есть — J е +J e~"(t + *r)di, а интегралы по вертикальным отрезкам (при постоянном г) стремятся к нулю при N —> со. Отсюда R R для любого г. Положив r:=—s, мы получаем, что R Таким образом, преобразование Фурье, будучи взято от функции Гаусса (или, что то же самое, начальной функции Эрмита; см. пример 1.2.8), оставляет эту функцию на месте. Что можно наверняка сказать о функции, являющейся чьим- то преобразованием Фурье? Напомним о банаховом пространстве C0(R) непрерывных функций на прямой, исчезающих на бесконечности (ср. пример 1.1.6'"). Предложение 1. Для любой функции ipeL^R) функция F(ip) лежит в С0(Ш), и отображение F: L,(K) -> C0(R), tp ьч F(ip), —это ограниченный оператор нормы —т=- < Для любого s справедлива оценка \РШ*)\4^ J МОИ" ч/2^" Кроме того, для любой неотрицательной функции ц> С L ,(К) выполнено равенство |F(y?)@)| = -Tk=IMIi- С учетом линейных свойств интеграла это означает, что определен оператор из ?,(R) в пространство 1Х(Щ всех ограниченных функций на R, переводящий <р в F(tp) и имеющий норму -=.
§ 1. КЛАССИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ 493 Далее, пример 1 показывает, что этот оператор отправляет характеристические функции отрезков, а стало быть, и их линейные комбинации в C0(R). Но последние аппроксимируют любую функцию peL^R); следовательно, функция F(<p) аппроксимируется по норме в /„(К), т. е. равномерной норме, функциями из C0(R). Отсюда ясно, что F(<p) е C0(R). > Определение 4. Оператор F: Z,(R) —»C0(R) называется классическим преобразованием Фурье, а также классическим оператором Фурье. Для уточнения иногда говорят «преобразование (или оператор) Фурье на прямой» и пользуются обозначением FR. Таким образом, термин «преобразование Фурье» может, в зависимости от контекста, обозначать как конкретную функцию, так и целый оператор. Но к путанице это не приведет. Упражнение 1. (i) Корректно определен оператор Fr: L,(T)—>c^(Z), iph-+F(ip), нормы -/=, так называемое классическое преобразование Фурье на окружности. (ii) Корректно определен оператор Fz: /,(Z) —> С(Т), ip*~+F(<p), нормы -т=, так называемое классическое преобразование Фурье на группе Z. Следующие свойства оператора Фурье на прямой играют важную роль в классических вопросах теории преобразования Фурье. Везде далее, если явно не оговорено обратное, символом F обозначен именно этот оператор. Теорема 1. (БД) Справедливы следующие утверждения: (i) (теорема единственности) оператор F инъективен (иными словами, из равенства F(ipl) = F(ip2) следует, что ipx = <p2 почти всюду); (ii) оператор F не сюръективен (иными словами, существуют функции из С0(Щ, не являющиеся преобразованиями Фурье никакой интегрируемой функции). (В то же время образ оператора F плотен в С0(Щ. Это следует, например, из того, что Im (F) содержит все быстро убывающие бесконечно гладкие функции. Последнее будет показано в следующем параграфе.) Доказательство теоремы единственности, использующее некоторые тонкие соображения классического и действительного анализа, можно найти в учебниках [26] или [49]. Мы же докажем ее в § 3, используя аппарат теории обобщенных функций.
494 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ ЗАМЕЧАНИЕ. Два других классических оператора Фурье — на Т и на Z — также инъективны и не сюръективны, хотя и обладают плотным образом. (Проверьте это последнее заявление.) Фундаментальное свойство преобразования Фурье, являющееся источником огромного числа его приложений, состоит в тим, что оно как бы меняет местами операции дифференцирования и умножения на независимую переменную. Точный смысл сказанного состоит в следующих двух утверждениях. Предложение 2. Пусть <р е-L,(R) и ip — функция класса С", причем ее производная ip' также лежит в L,(R). Тогда F(<p')(s) = isF(<p)(s). < Поскольку функция ip интегрируема на прямой, заведомо существуют такие числа ап, Ьп е Ш, п = 1, 2,..., что lim ап — -оо, lim bn = +oo и lim <^(а„)= l'm ?>(*>„) = 0. Поэтому правило интегрирования по частям дает V2nF(<p')(s)= [ <p'(t)e-"'dt= lim f ip'{t)e-«'dt = R К a" К = lim v(Oe_i"lo" - "т I tfi(t)de~it' — lim is I <p(t)e~u'dt = = y/2irisF(<p)(s). > Привлекая предложение 1, немедленно получаем Следствие 1. Если y>eL,(R) и <р — функция класса С", причем все ее п производных также интегрируемы, то F(<p™)(s) = i»s»F(<p)(s), и поэтому F(<p)(s) = o(\s\~n) при \з\ -юо. Если же ip e?,(R) — бесконечно гладкая функция с интегрируемыми производными, то F((p)(s) убывает быстрее любой отрицательной степени величины \в\. Предложение 3. Пусть <p(i)?^i(R) " к тому же t<p(t) е €jL,(R). Тогда F(<p)(s) —функция класса С1, и F(<p)'(s) = -iF(t<p{t))(s). < Положим a(r):=F(t(p(t))(r), reR. Функция двух переменных /3(t, г) := t(p(t)e~irt интегрируема в полосе R х [0, а] для любого
§ 1. КЛАССИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ 495 s е R. Поэтому из теоремы Фубини следует, что О OR КО = Ж \ vW*'*" ~ e"ir0)dt = iF(v)<s) - w(v№- R В силу непрерывности функции а(г) (предложение 1), неопределенный интеграл в начале этой цепочки равенств — функция класса С". Остается выполнить дифференцирование. > Следствие 2. Если tktp(t) € Ь^Ш) для всех к = 0,1,..., п {например, если функция tp измерима, ограничена и ip(t) = — 0(\t\~n~2) при t -»оо), mo F((p)(s) является функцией класса С и F(<pr\s) = (-i)nF{t«<p(t))(s). Если же tn4?(t)eLl(R) для ecexneN (например, если функция <р измерима, ограничена и убывает быстрее любой отрицательной степени переменной t), то F(ip)(s) — бесконечно гладкая функция. Что касается преобразований Фурье на Т и на Z, то там, конечно, можно говорить только о гладкости либо, смотря по смыслу, о быстроте убывания исходной функции. В этом случае гладкость обеспечивает быстроту убывания коэффициентов Фурье, либо, смотря по смыслу, «наоборот». Упражнение 2. Сформулируйте и докажите аналог предложения 2 для преобразования Фурье на Т и аналог предложения 3 для преобразования Фурье на Z. Снова взглянем на следствие 2. Вспомним, что убывать быстрее отрицательных степеней многочленов — это еще далеко не предел возможной быстроты убывания заданной функции: ведь бывает и экспоненциальное убывание, и многое другое. Что же происходит с преобразованием Фурье в подобных случаях? Естественно ожидать, что они должны в каком-то разумном смысле стать «еще глаже, чем бесконечно гладкие функции». (В некоторых самоучителях игры на фортепиано пишут «играйте быстро, как только возможно», а на следующей странице — «еще быстрее!».) Частичный ответ дает Упражнение 3. Пусть функция tp(t) такова, что для некоторого Ь > О выполнено условие eb^ip(t) е Ь^Ш). Тогда ф := F((p), как функция на действительной оси комплексной плоскости,
496 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ может быть продолжена до голоморфной функции в полосе {z б еС|-Ь <Im(z)< Ь), а именно, V(-z):=-4= $ f(t)e-"'dt. Указание. Функция a(z):—\ tip(t)e~ilt dt определена в данной R полосе и непрерывна. Ее интеграл по любому отрезку [^.г,], лежащему в этой полосе, равен \/27гг'(^B2) - Ф^)). Поэтому ее интеграл по любому треугольному контуру внутри полосы равен нулю. Отсюда a(z), а с ней и ее первообразная у/2тггф(г) — голоморфные функции. Этот факт имеет многочисленные приложения. Упражнение 4. Пусть <р — такая же функция, как в предыдущем упражнении, и к тому же J tn<p(t)dt =0 для всех R п = О, 1,2,... Тогда ip = 0 почти всюду. Указание. Предложение 3 и упражнение 3 вместе гарантируют, что F(ip) есть ограничение на R голоморфной в полосе функции, равной нулю в начале координат вместе со всеми своими производными. Тем самым, F(<p) = 0, и работает теорема 1 (i) (единственности). А теперь вспомним об одном нашем старом обещании, данном в § 1.2 и касающемся функций Эрмита. Упражнение 5. Система функций Эрмита р„(*)е~'а/2 (см. пример 1.2.8) является ортонормированным базисом в гильбертовом пространстве L2(R). Указание. Достаточно показать, что из условия ф ± tne~''/2, п = 0, 1, 2,..., следует, что ^=0в L2(R). А для этого достаточно заметить, что функция p(t) := tl>(t)e~t,/2 удовлетворяет условиям предыдущего упражнения. Наконец, рассмотрим предельный случай, когда исходная функция финитна — «убывает так быстро, как только возможно, и даже еще быстрее». Упражнение 6°. Пусть функция <p{t) равна нулю вне отрезка [—а, а]. Тогда ее преобразование Фурье продолжается до целой функции -ф(г), допускающей для некоторого С > 0 оценку \ф(г)\ ^ Сеа1,га<'I. Заметим, что подобный рост не выше экспоненты на мнимой оси и ее сдвигах — это уже предел возможных требований к целой функции, ограниченной на действительной оси. Функций, удовлетворяющих последнему условию и имеющих более медленный рост, чем eal'm(z)' при любом о>0, просто не существует, за исключением постоянных. (См., например, [32].)
§ 1. КЛАССИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ 497 Помимо операций «у> н-> у?'» и *<р н-> *^о», есть еще две операции, которые меняются местами после преобразования Фурье, причем на этот раз без каких-либо дополнительных предположений относительно исходной функции. Для aeR обозначим через Та оператор сдвига на а, действующий в ЬХ(Ш) либо, смотря по смыслу, в C0(R) (ср. пример 1.3.7), а через Еа — действующий в том или ином из этих пространств оператор умножения на е~ш, t е R. Предложение 4. Диаграммы L,(R) —5_> L,(R) L,(R) —^ L,(R) 'I 1F " 'I 1' C0(R) —*- C0(R) C0(R) -^-> q,(R) каил<|/татм8ны. < Утверждение о первой диаграмме следует из равенств 1 ip(t - a)e-utdt = 1 p(t)e-"<' + tt>di = e~*" f <рЦ)е~"'dt. R R R Вторую диаграмму оставляем читателю. > Перейдем, наконец, к вопросу о том, как восстановить функцию по ее преобразованию Фурье. Сам Фурье, совершив описанный в начале параграфа формальный предельный переход, настаивал на том, что это и есть доказательство формулы ip(t) — -j== J F(v?)(s)e"'ds. Однако у некоторых его современников, скажем, у Лагранжа, подобного рода рассуждения уже вызывали чувство неудовлетворенности. С точки зрения современной математической строгости бросается в глаза то обстоятельство, что функция, являющаяся чьим- то преобразованием Фурье, не обязана быть интегрируемой по Лебегу — возьмите хотя бы F(xab) из примера 1. Отсюда ясно, что в общем случае, как минимум, требуется какая-то более сложная процедура, чем простое интегрирование на прямой. Во-вторых (а может быть, и во-первых), говоря о восстановлении функции по ее преобразованию Фурье, мы должны отдать себе отчет в том, чего мы, собственно, добиваемся. Что значат слова «восстановленная функция совпадает с исходной»? Идет ли речь о совпадении этих функций на заданном множестве точек или, скажем, о совпадении почти всюду?
498 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Что касается «индивидуальных» точек, то в наших лекциях мы ограничимся тем, что решим этот вопрос для функций из пространства Шварца. (Этого вполне хватает для большинства приложений.) Однако, чтобы дать представление о том, как могут выглядеть более общие результаты, мы приведем одну классическую теорему без доказательства. Возможно, со сходно звучащей теоремой Вас знакомили в той или иной форме при рассказе о рядах Фурье. Пусть tp — интегрируемая функция на прямой (сейчас — именно функция, а не ее класс эквивалентности). Будем говорить, что функция tp удовлетворяет в точке ^ е R условию Дини, если функция (от t) ^-2—j—fMsl интегрируема на каком-либо отрезке, содержащем нуль. (Грубо говоря, это условие означает, что если указанная функция и растет при t —> (), то не так уж быстро.) Далее, хотя функция F(tp) и не обязана быть интегрируемой, никто не запрещает рассматривать ее интегралы на конечных отрезках. Теорема 2. (БД) Пусть функция <р удовлетворяет в точке *о условию Дини. Тогда последовательность N -N сходится к <рA^) при N —>оо. Но в наших лекциях функции, служащие чьим-то преобразованием Фурье, будут по большей части интегрируемы. Имея это в виду, целесообразно дать Определение 5. Обратным преобразованием (или интегралом) Фурье функции <p(s), s € R, называется функция R Таким образом, обратное преобразование Фурье определяется с помощью почти той же формулы, что и «прямое»; разница лишь в том, что теперь отсутствует минус в показателе экспоненты. Поэтому если для tpeL^R) положить (?<р)(<) := <p(—t), то выполнены равенства P(<p)(t) = (EF((p))(t) = (FI](ip))(t). Отсюда ясно, что обратное преобразование Фурье обладает свойствами, весьма похожими на свойства прямого; оставляем Вам точную формулировку и доказательство аналогов предложений 1-4, следствий 1-2 и т. п.
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 499 Сходным образом вводятся обратные преобразования Фурье на окружности и на целых числах. Первое задается для <?€1»,(Т) и n € Z формулой ?(<Р)(п) := vfc 1 ^)t-ndt, neZ, т а второе — для tp € J,(Z) и t € Т формулой ^)(*):=ТЬ j *>(")'"<*-и. Z Для них, разумеется, справедливы утверждения, аналогичные содержащимся в упражнениях 1 и 2 (дайте точные формулировки). Справедлив для них и аналог теоремы 2; при этом для окружности он представляет собой классическую теорему о восстановлении 27г-периодической функции по ее ряду Фурье. Что же касается аналога теоремы 2 для целых чисел, то он имеет особенно прозрачный вид. Упражнение 7. Композиция прямого преобразования Фурье на Z и обратного преобразования Фурье на Т — это тождественный оператор в пространстве 1Х(Ъ). Сформулируем еще одну важную теорему, в которой речь идет о восстановлении исходной функции не в индивидуальных точках, а как элемента пространства LX(R). Теорема 3. (БД) Пусть, для tpeL^R) случилось так, что функция F(<p) также принадлежит пространству L,(R). Тогда P(F(ip)) совпадает с <р почти всюду. (Теорема 3.1 —теорема обращения в классе S, — см. ниже, по существу явится частным случаем этой теоремы.) § 2. Свертка и преобразование Фурье как гомоморфизм Фундаментальный факт современного анализа состоит в том, что классическое преобразование Фурье — это не только ограниченный оператор между банаховыми пространствами, но и (с точностью до постоянного множителя) гомоморфизм банаховых алгебр. О каких же алгебрах идет речь? С областью значений оператора F все ясно: C0(R) — это весьма респектабельная банахова алгебра относительно поточечного умножения; ср. пример 5.3.2. Однако попытка сходным образом подойти к области определения нашего оператора немедленно приводит к конфузу: поточечное умножение функций из L,(R), вообще говоря, выводит из этого
500 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ пространства. (Возьмите хотя бы функцию, равную 1/л/Т на @, 1] и нулю в остальных точках, и возведите ее в квадрат.) И все же в L^R) есть умножение, и притом весьма полезное; только вводится оно по совсем другому правилу. Прежде чем мы его объявим, давайте сделаем «мотивировочное» упражнение, относящееся к преобразованию Фурье на Z (где, как правило, вещи проще, чем на R); см. упражнение 1.1 (и). Вспомним, что пространство /,(Z)— оно же и L,(Z, •)— обладает некоторым умножением, называемым сверткой (пример 5.3.5). В обозначениях определения 1.3 это умножение задается правилом г т. е., попросту говоря, (?>*V)(n):= ? Р(*Ж«-*). Упражнение 1. Классическое преобразование Фурье V2ttFz: J,(Z) —> С(Т) — это унитальный гомоморфизм между банаховой алгеброй J,(Z) со сверточным умножением и банаховой алгеброй С(Т) с поточечным умножением. Кроме того, этот гомоморфизм является инволютивным (относительно инволюций, введенных в начале § 6.3). Из указанного результата, в частности, следует, что подпространство Im (Fz) в С(Т) является алгеброй относительно поточечного умножения. Эта алгебра (функций на окружности) называется винеровой и часто обозначается W, а также А(Т). Принадлежащие ей функции V@ могут быть охарактеризованы как имеющие вид Ф(*)= ? спе~ш, где ? |сп|<оо, иными словами, как функции, разлагающиеся в абсолютно сходящийся ряд Фурье. Далее, поскольку Fz, как было сообщено в предыдущем параграфе, — инъективное отображение (см. упражнение 1.7), коэффициенты сп однозначно определены функцией ¦ф. (А именно, сп = —={р(п) для той единственной функции <р € ^(Z), для которой ф — Fz(ip)). Отсюда ясно, что в W корректно определена норма +0о llV-||:=n?Jc„|, превращающая W в банахову алгебру, и коограничение Fz\w\ lx (Z) —> W — это изометрический изоморфизм банаховых алгебр. Таким образом, с категорной точки зрения J,(Z) и W(= А(Т)) — это одна и та же банахова алгебра, но «в разных обличьях».
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 501 Замечание (только для любопытных). Каждое из этих обличий имеет весьма содержательное обобщение, в котором вместо J,(Z) (соответственно А(Т)) выступает алгебра функций на группе G из достаточно широкого класса. Речь идет о локально компактных группах, которые будут определены, в качестве необязательного материала, в конце главы. Обобщением i,(Z) служат банаховы алгебры LX(G) со сверточным умножением, рассмотренные там же. А в качестве обобщений А(Т) фигурируют так называемые алгебры Фурье A(G) с поточечным умножением, открытые значительно позже П. Эймаром. Об этих алгебрах см., например, [98]; там же доказана важная теорема Руана о роли этих алгебр в квантовом функциональном анализе. Мы переходим к понятию, которое естественно рассматривать как «непрерывный» вариант известной нам «дискретной» свертки двусторонних последовательностей. Как и прежде, для функции ip(r), т е R, и t е R мы будем часто обозначать функцию тм ц>(т — t) через Ttip, а функцию тн </?(—т) через ?<р. Ясно, что для функций <р(т) и ф(т) выполнены тождества Г,Е?> = ЕГ_|у», A) ЕЕ?> = у, B) j[7>](T)V(T)dT= ^(r)[Tt^)(r)dr, C) R К J[E<p](T)dT= Jv>(t)A- D) R R (каждое из двух последних равенств имеет смысл и справедливо в предположении, что хотя бы один из фигурирующих в нем интегралов существует). Определение 1. Пусть для некоторых функций <р(т) и ф{т) существует, по крайней мере для почти всех t G R, интеграл jpOXt-т) «frit (он же и J ip(T)[TtT,%j)](T)dT). Тогда этот интеграл как функция от t к называется сверткой функций tp и ф и обозначается (ip*ip)(t). Предложение 1. Пусть свертка функций ц>*ф существует. Тогда (i) (коммутативность свертки) существует иф*(р, причем для почти всех t выполнено равенство (<р * i>)(t) = (ф * <?)(*); (ii) (инвариантность свертки относительно сдвигов) для каждого aeR почти для всех t имеет смысл и справедливо равенство (ТаAр*ф))A) = (та<р*ф)A) = (<р*таф)(г).
502 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ < Пусть для t б R число (<р* ifr)(t) имеет смысл. Тогда с учетом тождеств A)-D) получаем {v(T)[rfE^](r)dT= |[Г_,?>](т)[Е^](т)Лт = R R = j[ST_(vp](T)V(r)dr= j[r,EV](T)V»(T)dT, R R откуда следует утверждение (i). Далее, (V*^)(t-a)= j?J(r)[rt_0SV](r)dr = R = j v(T)[r<r_.SV](r)dT= |р(т)[Т,Е2>](т)А-, R R откуда следует второе равенство в (ii). А это в объединении с (i) дает первое равенство в утверждении (ii). > ПРИМЕР 1 (свертка «горба» со ступенькой дает «шляпу»). Пусть г(т) — «горбушка» из §4.3. Зададим е > 0 и положим д(т) := С г (ст), где постоянные С, с > 0 выбраны так, что д(т) = 0 вне отрезка [-е/2, е/2] и $ д(т)<1т = 1. Тогда, как легко видеть, R для любого отрезка [а, Ь] и его характеристической функции Ха,ь свертка д *Ха-ф,ъ + ф— эт0 не что иное, как «шляпа» г^Ьс(т) из предложения 4.3.2. ПРИМЕР 2 (свертка усредняет). Пусть tpeL^, а функция ф(Ь) для некоторого a > 0 равна ^ при 11 | ^ а и нулю при остальных 1 '+в значениях t. Тогда, очевидно, (у?*V)(*) = 5^ J ?>(т) <*т- Таким образом, эта свертка является для каждого * е R средним значением функции tp на отрезке [t - a,t +а]. Упражнение 2 (свертка сглаживает). Пусть iptL^R), а ф— финитная функция класса С. Тогда (очевидно, существующая при всех t) свертка (р * ip)(t) — также функция класса С", причем всюду на R выполнено равенство (ip * ф)' — tp * ф'. Указание. Сперва убедитесь, что функция <р * ф непрерывна. Затем, пользуясь теоремой Фубини, покажите, что неопределенный интеграл функции ip *ф' совпадает, с точностью до постоянного слагаемого, с ip * ф. Теперь опишем наиболее важную ситуацию, в которой существование свертки гарантировано.
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 503 Теорема 1. Пусть р, ф е L^R). Тогда свертка <р*ф существует и принадлежит i,(R). При этом (для нормы в Lt(R)) выполнена оценка \\у> * ф\\ ^ IMIIMI- < Очевидно, справедливо равенство \\<p(T)\(\\<Ht-T)\dt)dT = \\<p\\M\\. Я R Как хорошо известно из действительного анализа, это влечет интегрируемость по Лебегу функции двух переменных у>(т)^(* — т). Поэтому теорема Фубини гарантирует существование повторного интеграла $($ \<р(т)ф(г -т)\ dr) dt, также равного ||y||||V>||> и, как следствие, оценку \\\ <PirI>(t -r)dr\dt *Ы\Ш R R Дальнейшее очевидно. > Свертки существуют и при некоторых других часто выполняющихся условиях. Об этом свидетельствует, например, следующее Упражнение 3. (i) Пусть у? € L^R), а ф € ?«,(№). Тогда свертка у> * ф существует и всюду определена; к тому же она ограничена и равномерно непрерывна. То же самое верно, если V?, ф G L2(K). (и) Пусть tpeL^R), а ф €L2(R). Тогда свертка <р*ф существует и принадлежит Ь2(Ш); к тому же для норм соответствующих пространств выполнена оценка ||<?>*V'll2^ IMIillVHk- Указание к (и). Из условия и из теоремы 1 следует, что функция (от т) \/\<р(т)\\ф^ — т)\ лежит в Z>2(R). Теперь можно применить к этой функции и функции \/|у(т)| неравенство Коши — Буняковского. Тогда требуемая оценка норм вытекает из оценки, содержащейся в теореме 1. Вернемся к нашему основному случаю, когда обе функции лежат bL,(R). Теорема 2. Пространство L ,(R)—это коммутативная банахова алгебра относительно умножения *: L^MJxL^KJ^i^R): (ч>,ф)^-ир*ф. < Из линейных свойств интеграла немедленно следует, что * — билинейный оператор. Далее, пусть ipu tp2, tp3 б L,(R). Тогда, пользуясь теоремой Фубини и (в четвертом равенстве) подстановкой
¦1A- 504 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ т - р = т', мы получаем, что почти для всех t е R выполнены равенства [(<Р\ * <Р2) * ft](') = J (Vi*V2)(/r)V3(*-T)d'r = I VlO»)^ - Ж?) V3(* - r)dT = и = JVi(p)(] fiir-p)^{t-T)dTJdp = = \ <P\(P)( \ Ыт')ч>зA;-Р-Т')<1т')Aр= \ tPi(p)(iP2*lP3)(t-p)dp = Это показывает, что билинейный оператор «свертка» обладает свойством ассоциативности, т. е. является умножением. При этом оценка, указанная в теореме 1, означает в точности, что это умножение связано с нормой мультипликативным неравенством. Итак, свойства банаховой алгебры проверены. То, что эта алгебра коммутативна, обеспечено предложением 1 (i). > Упражнение 4. Алгебра i^R) является звездной банаховой алгеброй относительно инволюции, переводящей <р в rl>(t):=<p(—t). Чем примечательна новоявленная банахова алгебра? Прежде всего, она (в отличие от ^(Z)) не обладает единицей, но это мы предложим Вам доказать чуть позже. Сейчас мы покажем, что в ней есть нечто, служащее, до определенной степени, заменой единицы, так сказать, «коллективной единицей». Предложение 2. Пусть 6п — такая последовательность неотрицательных интегрируемых на R функций, что 6п = 0 вне отрезка [--, -] и $ <5n(r)dr = 1. Тогда для любой функции я Ф € L{(R) последовательность 6п*-ф сходится в L,(R) к гр. < Пусть сперва ф —характеристическая функция отрезка [а, Ь]. Тогда, очевидно, 6n*if>(t)= J 6„(t - r)dr. Отсюда ясно, что эта функция принимает значения в [0, 1], при достаточно больших п равна 1 внутри отрезка ["+-,&--] и равна 0 вне отрезка [а - -, Ь + —]. Поэтому а+ i »+ ; \\6п*ф-ф\\ = [ 6п*гр(т)с1т+ \ 5n*V(r)dr^J.
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 505 Итак, последовательность 8п * ф сходится к ф, если ф — характеристическая функция какого-либо отрезка. Но тогда в силу линейности свертки по каждому аргументу это верно и для произвольной ступенчатой функции ф. Пусть теперь ф е L^R) произвольна. Зададим е > 0 и, воспользовавшись тем, что ступенчатые функции плотны в i>i(K), возьмем такую ступенчатую функцию </э, что \\ф - <р\\ < е/3. Теперь возьмем такое N € N, что при п > N выполнено неравенство \\6п* tp — <р|| < е/3. Тогда при тех же п мы получаем II *„ * Ф ~ ФII = II <5„ * (Ф - ?>) + sn * <Р ~ Ч> + Ч> ~ ФII < ^ Ш\\\ч> - Ф\\ + ||*п * Ч> - Ч>\\ + Ik - ^11 < ^ 114. * V - Ч>11 + 21\ч> - Ф11 < § + 2f = е. Дальнейшее очевидно. > Последовательность 6п, обладающая свойствами, описанными в доказанной теореме, называется 6-образной. Она, будучи рассмотрена в V, сходится к ^-функции (упражнение 4.3.9), которая «хочет» быть единицей в ?,(№), но, увы, этому пространству не принадлежит. (Правда, <5-функция является единицей в некоей другой алгебре; см. далее предложение 3.) Упражнение 5. «Настоящей» единицы в алгебре L,(R) нет. Указание. Если е(t) — гипотетическая единица, то 6-образная последовательность 8п = 6п*е должна сходиться к е. Но она никуда не сходится. А вот чуть ли не главное достоинство свертки. Оно состоит в ее особых отношениях с преобразованием Фурье. Теорема 3. Для любых функций <рх, <?2 ? L, (R) и любого s 6 R выполнено равенство ПЪ * W.X*) = v/^rF^K^i^X*). Иными словами, отображение V2ttF: L,(R) —v C0(R)—это гомоморфизм из алгебры со сверточным умножением в алгебру с поточечным умножением. <\ Ставший привычным для нас прием, основанный на теореме Фубини, приводит к равенствам
Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ = ?Ь J ( I ^'(Т)^(* " r)dr)e-t = R R = j ^(г)е-^(^= j ft(t)e-"d«)dT= j ^(r)e-^F(^)(S)dr = К R R = V^F(^.1)(S)F(?32)E). > ЗАМЕЧАНИЕ. Если бы в определении преобразования Фурье не было множителя -т==, то, конечно, такой оператор сам бы служил гомоморфизмом между рассматриваемыми алгебрами. Но такое определение доставило бы нам неудобство в будущем. Дело в том, что мы в дальнейшем собираемся строить, исходя из классического преобразования Фурье, некий унитарный оператор F, в L2(M), а для этой унитарности множитель —т= как раз и нужен. Есть, правда, способ «убить обоих зайцев»: определить преобразование Фурье формулой \ ?3(t)e~2™'d*. Все же мы предпочли более R традиционную формулу. Упражнение 6. Гомоморфизм V2nF являетсяинволютивным (относительно инволюции, указанной в упражнении 4, и стандартной инволюции в C0(R)). Обратим внимание на то, что в доказательстве теоремы 3 мы не пользовались ассоциативностью и коммутативностью свертки. Напротив, если принять на веру теорему 1.1 (единственности), то оба эти свойства свертки являются немедленными следствиями соответствующих свойств поточечного умножения и теоремы 3. Итак, Вы знакомы со свойствами сверточного умножения в ?](№) (а не ленивый — еще и в /[(Z)). Добавим к этому, для полноты картины, случай функций на окружности: Упражнение 7. (i) Для любых функций tp, ф е Ь^Т) и почти всех t еТ существует (tp * ip)(t) := $ 1р(т)ф(т 1t)dr. Функция т (ip*tp)(t) (называемая сверткой функций ip(t) и V(*)) интегрируема на окружности и удовлетворяет (для нормы в L,) оценке \\<р*Ф\\^\\<р\\Ш (И) Отображение *: L^T) х L^T) -> i,(T), (tp, ф) i-> <р * ф, — это умножение, превращающее Ь{(Т) в коммутативную банахову алгебру.
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 507 (iii) В этой алгебре нет единицы, но есть такая последовательность 6п, что 6п * tp сходится к ip для любой функции tp е ?,(Т). (iv) Отображение V2irFT: i,(T) —> Cg(Z) — это гомоморфизм из алгебры со сверточным умножением в алгебру с покоординатным умножением. Теперь мы расскажем несколько вещей, предназначенных для нашего просвещен- 1°. Еще о свертках. Оказывается, при некоторых условиях можно дать содержательное определение свертки обычной функции с обобщенной и даже свертки двух обобщенных функций. Прежде всего сделаем то очевидное наблюдение, что любая функция tp еТ> корректно задает оператор ©^: V—>V, ф>-*ф*<р, непрерывный в топологии этого полинормированного пространства. Упражнение 8. Существует единственный слабо* непрерывный оператор ©^, V* -»ТУ, бипродолжающий ©р, т. е. такой, что диаграмма 1 I в которой вертикальные стрелки обозначают естественное вложение, коммутативна. Этот оператор действует по правилу [©^/](Ф):= /(Ф *^v>), иными словами, он .слабо* сопряжен оператору ©Е„, свертки с Etp(t) := tp(—t). Обобщенная функция ©^/ называется сверткой функций f и <р н обозначается f*<p; таким образом, / * tp е V*. Проверьте (это очень легко), что 6 *tp = tp для каждой функции tp. Упражнение 9. Пусть 6Х е V—обобщенная функция, сопоставляющая каждой функции tp G V ее значение tp(x) в х. Найдите 6Х * tp. Упражнение 10*. (i) Для любых функций tpet>H feV* обобщенная функция f * tp регулярна и отождествляется с обычной функцией т >-> /(ТтЕу>) (т. е. функцией, переводящей т в значение / от функции t >-* <р(т - *)). которая к тому же бесконечно гладка (= принадлежит ?). (и) Для любой функции /еО* отображение ©^: Z>—>?, tp>-*f*tp, — непрерывный оператор между соответствующими полинормированными пространствами, причем ©f Тт = Тт©, для всех т б 1. (Ш) Каждый непрерывный оператор S: Т>^>?, удовлетворяющий соотношению STr = TrS для всех т € R, имеет вид ©j для некоторой функции f?V*. Указание, (i) Функционал / «загоняется под интеграл», а именно, значение /(а), где <ф):= J *<т)»>(т- t)dr, равно $ Ф(т)ЦРт)йт. где 0T(t) := <р(т - t). R В (iii) Чтобы найти нужную функцию /, вначале убедитесь, что g(<p) = ©j(T,tp)@) для любых д € V, tp € V. Упражнение П. Пусть tp е Т> — фиксированная функция. Непрерывен ли оператор V -*?, f*-*f*tp, по отношению к слабой* топологии на 23*?
508 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Замечание. Сходным образом определяется свертка быстро убывающей бесконечно гладкой функции с обобщенной функцией умеренного роста; при этом получается регулярная бесконечно гладкая функция умеренного роста. Что касается свертывания обобщенных функций друг с другом, то, не рискуя Вас более утомлять, мы ограничимся формулировкой некоторых наиболее важных фактов. Содержательного понятия свертки двух произвольных обобщенных функций, равно как и двух обобщенных функций умеренного роста, нет. Однако справедлива Теорема 4. (БД) Пусть д — обобщенная функция с компактным носителем (иными словами, д принадлежит подпространству ?* в V*). Тогда корректно определен непрерывный оператор ©g: Т>-*Т>, ip*-*g*ip. У этого оператора существует единственное бипродолжение ©д до оператора, действующего в ТУ. (Нарисуйте надлежащую коммутативную диаграмму!) При этом обобщенная функция ©g(f), f € ТУ, совпадает с (®Sf)*g, где^ Е/(у>) := 1(?ф) (иными словами, для ф е V выполнено равенство !©,</)]<*> = Р(Е/**)). ^ Обобщенная функция ©gf называется сверткой функций g е ?' и f еТ>* и обозначается g *f. Предложение 3. (БД) Свертка двух обобщенных функций с компактным носителем сама имеет компактный носитель. Соответствующее отображение *: ?* х ?* —* ?*, (/, g)h-t f * g, есть умножение в ?', непрерывное относительно слабой* топологии по каждому аргументу. Алгебра ?' со сверточным умножением коммутативна и унитальна, причем ее единицей является 6 -функция. 5г. Аппроксимативные единицы. Полезно взглянуть на свойство ^-образных последовательностей, выраженное в предложении 2, с общих позиций теории банаховых алгебр. Определение 2. Пусть А — (произвольная) банахова алгебра. Направленность (см. § 0.2) ее элементов ev, v е Л, называется аппроксимативной единицей, если для любого аеА направленности е„а и ае сходятся к о, и ограниченной аппроксимативной единицей, если вдобавок ||е„|] ^ С для некоторого С>0. Если у алгебры есть ограниченная аппроксимативная единица, то надо радоваться. В этом случае при решении многих (хотя и не всех) вопросов, касающихся нашей алгебры, мы можем поступать с ней как с унитальной. Вот иллюстрация. Теорема 5 (факторизационная теорема Коэна)". (БД) Если банахова алгебра обладает ограниченной аппроксимативной единицей, то любой ее элемент представим в виде произведения двух других. Объединяя теорему Коэна и предложение 2, мы получаем, что всякая интегрируемая на прямой функция представима в виде свертки двух других. То же, с учетом упражнения 7 (III), верно и для интегрируемой функции на окружности. Разумеется, случай таких алгебр, как L, (R) или L, (Т), особенно благоприятен: ограниченную аппроксимативную единицу удается найти уже среди обычных последовательностей (а не направленностей общего вида). В таких ситуациях говорят о счетной ограниченной аппроксимативной единице. Вы можете проверить, что алгебра С0(й) (см. пример 5.3.2), не будучи, вообще говоря, унитальной, обладает ограниченной аппроксимативной единицей, а алгебры С0(Щ и cq(Z), а также 1С(Н) (для сепарабельного пространства Я) —счетной ') Того самого Пола Коэна, который впоследствии прославился тем, что справился с проблемой континуума.
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 509 ограниченной аппроксимативной единицей. Ограниченной аппроксимативной единицей обладает всякая С*-алгебра (но это не столь уж просто; см., например, [57]). В то же время — и это уже достаточно простые факты — алгебры i( и ^ с поточечным умножением, а также их «некоммутативные аналоги» — алгебры Af(H) и S(H) — обладают аппроксимативной единицей, но не обладают ограниченной аппроксимативной единицей. Наконец, подалгебра в С1[а, Ь] (пример 5.3.4), состоящая из функций, равных нулю в фиксированной точке отрезка, аппроксимативной единицей, хотя бы и не ограниченной, не обладает. 3°. Преобразование Фурье как одно из воплощений преобразования Гельфанда. Напомним, что для каждой коммутативной банаховой алгебры существует ее канонический гомоморфизм в алгебру непрерывных исчезающих на бесконечности функций на некотором локально компактном топологическом пространстве, а именно гельфандовом спектре данной алгебры. Это так называемое преобразование Гельфанда (определение 5.3.5). Разумеется, сказанное касается и алгебры i^R) со сверточным умножением. Так вот: классическое преобразование Фурье и есть, с точностью до надлеокащих отождествлений, конкретная форма преобразования Гельфанда для нашей алгебры. Вначале мы снова рассмотрим, в качестве мотивировки, более простую алгебру l\(Z). Каков гельфандов спектр этой алгебры? Очевидно, каждая точка а е Т задает ненулевой характер (= элемент гельфандова спектра) нашей алгебры по правилу Х,(?)= ? ?„s_n, причем разным числам на окружности соответствуют разные характеры. Далее, каждый орт р", neZ, есть n-я «сверточная степень» (положительная, отрицательная или—для 1 = р° — нулевая) орта р'. Как следствие, линейные комбинации степеней орта р' плотны в J,(Z). Отсюда ясно, что любой ненулевой характер X: /,(Z)-»C рассматриваемой алгебры имеет вид Хг для s = (X(p'))_l. (То, что з бТ, очевидным образом следует из того, что X не увеличивает нормы.) Таким образом, в обозначении fi:=n.(J,(Z)), возникает биективное отображение ш: Т-»П, si-» Л,, которое, как легко усмотреть, непрерывно. Следовательно, на основании теоремы Александрова и — гомеоморфизм, и гельфандов спектр алгебры /, (Z) оказался, как топологическое пространство, окружностью. Теперь рассмотрим отображение C(w): С(П) -¦ С(Т), сопоставляющее каждой функции х: П — С функцию С(и)х: а н* х(ш(а)). (Под другим соусом оно уже нам встречалось в примере 3.1.1.) Оно, как легко проверить, — изометрический изоморфизм банаховых алгебр. Отождествляя обе алгебры посредством этого изоморфизма, мы видим, что преобразование Гельфанда алгебры /,(Z) оказывается не чем иным, как умноженным на \/27г преобразованием Фурье. Говоря более формально, имеет место коммутативная диаграмма, С(П) С{ш) < С(Т) BKOTopoflr:=rMZ)HF:=Fz. Перейдем к нашему основному объекту — алгебре L, (R). Сразу же сформулируем основной результат; это, как мы считаем, каждый отличник должен
510 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ знать. А дальше мы предложим, в качестве необязательного материала, t упражнений, которые дают представление о том, как сформулированная теорема С этого момента П уже обозначает гельфандов спектр алгебры L, (R), а Г — преобразование Гельфанда этой алгебры. Теорема 6. (БД) Существует гомеоморфизм и: R -* П, сопоставляющий каждому числу s е R характер X,, действующий по правилу Х,(ч>)= \ Ч>(> t)e-"*dt (иными словами, характер Хв, взятый от функции у>, есть умноженное на VSir значение преобразования Фурье этой функции в точке s). При этом имеет место коммутативная диаграмма, LX(Z) в которой С(ш) — (корректно определенный) изометрический изоморфизм банаховых алгебр, сопоставляющий функции х е С0(П) функцию С(ш)х: s~x(u(s)). Таким образом, при отождествлении обеих банаховых алгебр посредством изометрического изоморфизма С(ш), преобразование Гельфанда алгебры Lj(R) превращается в преобразование Фурье. А вот и обещанный эскиз доказательства. Упражнение_12*. Для любого X е?1 существует такая единственная непрерывная функция X: R-»C, что для любой <р е ?](R) выполнено равенство X(V>)=^(t)X(t)dt. Эта функция корректно определена правилом * i—> lim X (jrXt, t+hj- Указание. Возьмем такую функцию tp, что X(tp) ф 0. Из равенства lim {<р * ^Xt, t + h) = Tt (v) (ср. доказательство предложения 2) следует, что для любого e< t функция а(т):=Х(х^ т), т > а, имеет в точке t производную, равную Х(Тгч>)/Х(ч>) (и, стало быть, не зависящую ни от выбора а, ни от выбора <р). Ее мы и обозначим через X(t). Из непрерывности отображения R-¦ L,(R), t>->Tt(<p), следует, что функция X(t) непрерывна. Далее, поскольку a(t) = \ X(r)dr, то Х(<р) = $ f(t)X(t)dt для всех функций у>, являющихся характеристическими функциями отрезков. Но такие функции образуют тотальное множество в L|(R), а характер X непрерывен. Упражнение 13. Функция X принимает значения в Т и удовлетворяет функциональному уравнению X(t + T) = X(t)X(r). E)
§ 2. СВЕРТКА И ПРЕОБРАЗОВАНИЕ ФУРЬЕ КАК ГОМОМОРФИЗМ 511 Указание. Из предложения 1 (и) и свойств характеров следует, что X(Tt + T<p)X(ip) = X{TtV>)X(TT<p). Остается поделить на Х(ч>>*. Следующий факт, имеющий многочисленные приложения в анализе, возможно, Вам уже встречался. Упражнение 14. Всякая непрерывная функция X: R-+T, удовлетворяющая равенству E), имеет вид X(t) = e~ut для некоторого однозначно определенного ^Указание. Ясно, что Х@) = 1. Поэтому если п € N достаточно велико, то число ХA/2") есть е~"/2" для единственного такого я е R, что -тг/2 < -s/2n < 7г/2. Отсюда X(t) = е-"' для всех двоично-рациональных, а значит, в силу непрерывности характера X, и для всех действительных чисел t. Единственный момент в доказательстве теоремы 6, не охваченный этими тремя упражнениями, — то, что возникшая непрерывная биекция R-»fi, X >-> Xt, есть гомеоморфизм. Непрерывность обратной биекции Л -»R можно доказать «в лоб», зафиксировав X, б П и усмотрев, что из малости величины \Хг(Ха,ь) - Х,(Ха,ь)\- где [а, Ь] — подходящий отрезок, следует малость \г - в\. Но можно вместо этого заметить, что исходная биекция продолжается до непрерывной биекции из александровской компактификации R+ в пространство П, дополненное нулевым характером. (Непрерывность этой продолженной биекции следует из того, что Xt(tp) или, что то же самое, V2~irF(tp)(s) стремится к нулю при \з\—юо.) Поэтому теорема Александрова обеспечивает гомеоморфность продолженной биекции, а стало быть, и ее ограничения на R. Параллельный результат, как Вы догадались, имеет место и для преобразования Фурье на окружности: оно также является специализацией преобразования Гель- фанда, только теперь для алгебры L, (Т). Характеры последней алгебры задаются уже не произвольными действительными, как в случае i[(R), а целыми числами. А именно, каждое число п е Z задает характер ^П:?,(Т)-»С V~Jv<t)t-»A {=VbiFT(lp)(n)) т (n-й характер — это n-й коэффициент Фурье). Гельфандов спектр алгебры L, (Т) оказывается дискретным счетным топологическим пространством, отождествляемым с Z. Соответственно алгебра C0(n.(i,(R))) отождествляется с <fl(Z), и при этом отождествлении классическое преобразование Фурье на окружности превращается, после его умножения на на V2n, в преобразование Гельфанда. (Нарисуйте соответствующую коммутативную диаграмму.) Доказательство этого составного утверждения следует курсу доказательства теоремы 6. В частности, имеют место очевидные аналоги фактов, выраженных в упражнениях 12 и 13. Основное различие между случаем прямой и случаем окружности проявляется тогда, когда мы переходим к явному описанию функций X. Роль упражнения 14 теперь играет Упражнение 15. Всякая непрерывная функция X: Т->Т, удовлетворяющая функциональному уравнению X(tr) = X(t)X(r), имеет вид X{t)— t~n для некоторого однозначно определенного числа n е Z. Указание. Функция на прямой т*+Х(е") удовлетворяет функциональному уравнению E). Поэтому для некоторого я € R и всех т 6 R выполнено равенство Х(е,т) = е~ит. Отсюда, в частности, е-"(т + 2'0 = е~"т, а это означает, что з — целое число.
512 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ § 3. Преобразование Фурье пробных и обобщенных функций Результаты о классическом преобразовании Фурье получают наиболее законченный и элегантный вид, если в качестве исходных функций мы будем рассматривать те, которые в § 4.3 были названы быстро убывающими бесконечно гладкими функциями. Они, как мы помним, образуют одно из наиболее уважаемых пространств пробных функций — пространство Шварца S. Предложение 1. Пусть у> eS u V>(s) := F(ip)(s). Тогда ф — бесконечно гладкая функция и для любых p,qeZ+ функция sptpM(s) является линейной комбинацией функций вида F(tk<p(l)(t)), к =0, 1,..., g, I —0,1,.. .,р, с коэффициентами, не зависящими от ip. Как следствие, ф eS. < Согласно следствию 1.2 функция гр(з) бесконечно гладка, и для любого q е Z+ выполнено равенство ij)M(a) = (—i),F(tqtp(t))(s). Отсюда, теперь уже благодаря следствию 1.1, функция spV(,)(s) есть, с точностью до постоянного множителя, преобразование Фурье функции (t4<p(t))(p). Дальнейшее очевидно. > С этого момента мы вправе рассматривать биограничение оператора F из определения 1.1 на пару (S,S). Полученный линейный оператор в 5 мы будем по-прежнему обозначать F; это не вызовет путаницы. В пространстве S (чего нельзя сказать о первоначальной области определения оператора Фурье — Lt(R)) корректно определены операторы D: v?"-> <р' и М: <p{t)>-* tip(t). Поэтому теперь взаимосвязь между дифференцированием и умножением на независимую переменную, указанная в предложениях 1.2 и 1.3, может быть выражена следующим наглядным образом. Предложение 2. Имеют место коммутативные диаграммы F[ [F U F[ J/ «* S —^5 S -^-> S Теперь вспомним, что «5 — полинормированное пространств^ относительно введенного в § 4.3 семейства преднорм s. Предложение 3. Оператор F, будучи рассмотрен в поли- нормированном пространстве (S, s), непрерывен.
§ 3. ПРЕОБРАЗОВАНИЕ ФУРЬЕ ОБОБЩЕННЫХ ФУНКЦИЙ 513 < Возьмем <р € <S и V(s) := -F(v)(s)- Зададим p,qe Z+. Из предложения 1 очевидным образом следует, что для некоторого С, > 0 выполнена оценка \\РШЛ, ^ Сх max{||F(tV°(*))L | * =0, 1,..., g, / =0, 1, • • , р), гДе II - IL — норма в C0(R). Но для каждой пары к, I из предложения 1.1 следует, что 11*4* VWNL < 7= {I* VWI* ^ ^= { Ц^л + R R + тЬ \ **k + *?pt)]dt = С2(|ИМ + И1* + 2,,), R где С2:— -^= \ * 2. Отсюда легко усматривается, что ||J!,(?»)||„<2C1Qmax{||v»||M|fc=0ll,...,? + 2,Z=0ll,...,p}. Дальнейшее очевидно. > Очевидно, D и М также суть непрерывные операторы в 5 (см. упражнения 4.3.2 и 4.3.3). Поэтому обе диаграммы предложения 2 состоят из непрерывных операторов в этом полинормиро- ванном пространстве. Пространство Шварца является тем счастливым классом функций, в рамках которого задача о восстановлении функции по ее преобразованию Фурье получает наиболее простое и естественное решение. Обозначим через Е: S-*S оператор, действующий по правилу Sy?(?):=<p(-t). (Сходный оператор, только действующий в других пространствах, нам по существу уже встречался в предыдущем параграфе.) Ясно, что Е2 = 1 (здесь и далее 1 :=ls). Из предложения 1 очевидным образом следует, что обратное преобразование Фурье, так же, как и «прямое», отображает S в «S, и соответствующее биограничение, по-прежнему обозначаемое через F, связано с F и Е равенствами ?F = irs = A A) Начнем подготовку теоремы, полностью оправдывающей, в рамках пространства Шварца, термин «обратное преобразование Фурье». Она, как будет видно из ее формулировки, немедленно следует из теоремы 1.3 и по существу является ее частным случаем. Но для этого частного случая мы дадим полное доказательство. Рассуждение будет носить преимущественно алгебраический характер. Основная идея — в том, что операторов,
514 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ перестановочных как с дифференцированием, так и с умножением на независимую переменную, совсем немного. Предложение 4. Всякий оператор G: S—>S, перестановочный с М, есть оператор умножения на некоторую бесконечно гладкую функцию. « Для доказательства предложения нам потребуется следующая Лемма. Если функция <р € S равна нулю в точке а, то и функция G(ip) равна нулю в той же точке. < Из курса математического анализа хорошо известно, что функция <p(t), будучи бесконечно гладкой и равной нулю в точке о, должна иметь вид (t — a)ip(t), где ф —другая бесконечно гладкая функция. Отсюда, продифференцировав нужное количество раз функцию %jj(t) = (t — a)~lfp(t), мы убеждаемся в том, что функция ф, так же, как и ip, принадлежит S. Поэтому мы вправе написать р = Мф — аф, откуда согласно условию G<p = GM-ф - aGip = МОф - aGj>. Но [MGi()](a) — это значение функции t(Gip)(t) в точке а. Поэтому Gtp(a) = 0. > Конец доказательства предложения 4. Возьмем а € R и положим ea{t) := га_1 +1 ,(f) (см. предложение 4.3.2) и a(a):=[Gea](a). Возьмем любую функцию ip eS. Тогда функция <p(t) — tp(a)ea(t) удовлетворяет условию леммы, и поэтому GW)(a) = ч>{а)[Сга)(а) = а(а)<р{а). Поскольку число а произвольно, мы видим, что G — это оператор умножения на функцию a(t). Теперь о гладкости. Вспомним, что для любого а функция ea(t) равна 1 на целом отрезке [о- 1, а+ 1]. Отсюда функция [Gea](t), будучи, как мы уже знаем, равной a(t)ea(t), совпадает на этом отрезке са((). Поэтому, с учетом того, что Gaa€S, функция a(t) бесконечно гладка в интервале (а— 1, а+1) — и это выполнено для любого числа обК. Дальнейшее очевидно. >> Предложение б. Пусть G: S —> S — оператор умножения на некоторую бесконечно гладкую функцию a(t). Тогда если оператор G перестановочен с D, то a(t) — постоянная. < Снова возьмем г0(<):=га la+11(t). Тогда функция GDea{t), очевидно, равна нулю на интервале (а-1,о+1), в то время, как DGea(t) совпадает на этом же интервале с a'(t). В силу произвольности числа а это означает, что a'(t) = 0. Дальнейшее очевидно. >
§ 3. ПРЕОБРАЗОВАНИЕ ФУРЬЕ ОБОБЩЕННЫХ ФУНКЦИЙ 515 Теорема 1 (об обращении). Оператор Фурье F: S —*S обладает обратным, и таковым является Р: S-*S. Как следствие, F и Р суть топологические изоморфизмы полинормированного пространства S на себя. « Из A) следует, что PF = F'EF = FP. Поэтому наша задача — показать, что оператор PF равен тождественному. Лемма. Оператор PF перестановочен с D и М. < Согласно предложению 2 выполняются равенства PFD = iPMF = iZFMF = -Y.DFF Но, очевидно, ED = -DE. Отсюда с учетом тождества A) мы видим, что PFD = DUFF = DpF. Аналогичным образом, используя очевидное соотношение ЕМ = = -МЕ, мы получаем, что оператор PF перестановочен с М. о Конец доказательства теоремы 1. Объединяя лемму с предложениями 4 и 5, мы получаем, что PF — оператор умножения на постоянную. Но по крайней мере для одной функции из S, а именно tp(t):= e"'s/2, нам известно, что F((p) = <p (пример 1.2). Поскольку еще и Е<р = tp, с учетом равенств A), мы заключаем, что pFip = FE<p = >р. Поэтому упомянутая выше постоянная равна 1. Дальнейшее очевидно. > > Объединяя теорему обращения с равенствами A), немедленно получаем Следствие 1. Выполнены соотношения F2 = Р2 = Е и F* = = Р* = 1. Пространство Шварца можно сделать алгеброй, притом двумя с виду совершенно разными способами: задав там сверточное или же поточечное умножение. Нетрудно проверить, что оба эти умножения непрерывны по совокупности переменных, и, таким образом, мы получаем две полинормированные алгебры. (Что это такое, обсуждалось в § 5.3.) Тогда теорема обращения, в объединении с теоремой 2.3, показывает, что эти полинормированные алгебры топологически изоморфны, а именно, \/2irF — это топологический изоморфизм первой яз указанных алгебр на вторую. Таким образом, с категорией точки зрения сверточное умножение в S ничем не отличается от поточечного. Упражнение 1. Опишите операторы из S в S, перестановочные с D. А теперь предлагаем Вам вопрос, любопытным образом дополняющий упражнение 1.4. Упражнение 2. Пусть функция <р€$ такова, что J tntp(t) dt = R = 0 для всех п = 0,1,... Следует ли отсюда, что цз = О? Указание. Нет, не следует. Возьмите любую функцию -ф, равную нулю со всеми производными в точке 0, но не равную
516 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ нулю тождественно. (Конечно, такая функция не продолжается до аналитической ни на какую полосу.) После этого рассмотрите ip := Обратимся на время к «упрощенным версиям» преобразования Фурье на прямой R — преобразованиям Фурье в Т и в Z. Как мы помним, исходные области определения этих операторов — L,(T) и ЬХ(Ъ). Сейчас мы увидим, что они содержат по подпространству, обладающему, говоря нестрого, каждое — «своей половиной» свойств подпространства S в ЬХ(Щ. Придадим этому заявлению точный смысл. Говоря о функциях на окружности, нет смысла говорить о быстром убывании, зато естественно говорить о гладкости. Производной функции <p(t), t е Т, в точке t проще всего называть производную соответствующей функции ip(t') на прямой (ср. § 1) в (любой) такой точке t', что е"'= t, — если, разумеется, такая производная существует. Подпространство в L,(T), состоящее из бесконечно гладких (= бесконечно дифференцируемых) функций, мы обозначим через ST (оно же часто обозначается С°°(Т)). Мы снабдим его семейством норм И1„ := max{|v>w(OI I * е т> * =0, 1,.... п}, где л € Z+. Это семейство, разумеется, отвечает за классическую сходимость на окружности. Напротив, при рассмотрении двусторонних последовательностей (— функций на Z) нет смысла говорить о гладкости, но зато можно говорить о быстром убывании. А именно, двусторонняя последовательность y(n), neZ, называется быстро убывающей, если для любого р G Z+ последовательность пр<р(п) ограничена. Быстро убывающие двусторонние последовательности образуют подпространство в J,(Z), обозначаемое <SZ. Его мы снабдим семейством норм |Mlp:=sup{|n'y(ra)||neZ}, где p€Z+. Вот несколько фактов, оттеняющих свойства преобразования Фурье в S(R) и имеющих большей частью более простые доказательства. Мы предлагаем их Вам в качестве упражнений. Положим D: ST —> <ST, уз ь-> tp', и М: Sz —> Sz, ip(n) ь-> ntp(n). Упражнение 3. Операторы Fr и РТ отображают <ST в Sz, в то время как Fz и Fz отображают Sz в ST. При этом все эти операторы, а также D и М, непрерывны как операторы между соответствующими полинормированными пространствами.
§ 3. ПРЕОБРАЗОВАНИЕ ФУРЬЕ ОБОБЩЕННЫХ ФУНКЦИЙ 517 С этого момента обозначения FT, Рг и т. п. будут употребляться именно для соответствующих биограничений. Упражнение 4. Имеют место коммутативные диаграммы sT -?-» sT sz -*-» sz *} ]* И ц| |ц 5Z -^-> 5Z 5T ^U <ST. Что касается следующих «облегченных» вариантов теоремы 1, то в своей основной части они по существу Вам уже известны из курса математического анализа. Упражнение 5 (теоремы обращения для FT и Fz). (i) Оператор Fr обратим, и его обратным является Рг. (и) Оператор Fz обратим, и его обратным является Рт. Как следствие, все четыре упомянутых оператора суть топологические изоморфизмы соответствующих полинормированных пространств. Указание. Ряд Фурье функции ip е <ST равномерно сходится к ней вместе со всеми производными (см., например, [21]). (Вместо математического анализа можно использовать функциональный: этот ряд сходится к (р и в среднем квадратичном; см. теорему Фишера — Рисса и пример 1.2.10.) Безупречное поведение преобразования Фурье в пространстве Шварца позволяет определить одно из важнейших «неклассических» преобразований Фурье — тех, которые нельзя задать с помощью явной формулы (ср. сказанное в § 1). Напомним, как нам удалось распространить оператор дифференцирования, действующий в пространстве пробных функций Т>, на пространство обобщенных функций V. Возможно ли сделать нечто подобное с оператором Фурье? И если да, то где продолженный оператор будет действовать? Попробовав определить гипотетический «продолженный» оператор Фурье в Х>* — самом большом из пространств обобщенных функций, — мы сталкиваемся со следующим затруднением: преобразование Фурье, в отличие от дифференцирования или, скажем, умножения на бесконечно гладкую функцию, выводит из V (ср. упражнение 1.3). Поэтому ясно, что мы не можем, как
518 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ в случае упомянутых операторов, определить наш продолженный оператор как сопряженный (ср. определение 4.4.1). Подумав чуть более, мы приходим к выводу, что в пространстве V* оператора с необходимыми свойствами просто нет. Упражнение 6. Не существует оператора Т: V* —>Z>*, который был бы слабо* непрерывен и совпадал бы на V с классическим преобразованием Фурье. Указание. Зафиксируем ф1 еТ>. Функционал /i-> (Т/)(^) на V слабо* непрерывен, а потому (Tf)(rpl) = /(ф2) для некоторой функции ф2 е V. Отсюда для любой функции (peVcV* выполнено равенство (IVHM= J ip(8L>2(s)ds. R Ho Ttp = F(ip), а это влечет равенство (Т<р)Ш= J *>(*)[W,)](t)d*. R Следовательно, V^@ = [-F'(V'i)](*) почти всюду. Но T>nF(V) = {0} (см. упражнение 1.3), откуда V>2 = 0, и поэтому Т = 0. Получили противоречие. Замечание. На самом деле оператор, имеющий областью определения V и продолжающий F, все же есть. Но он не действует в V*, а отправляет это пространство в пространство функционалов на некотором другом, отличном от Т> пространстве. Подробности см., например, [50, § 14]. Ну теперь уж, как говорится, сам Бог велел обратиться к пространствам S и S*. Всякая функция <р е S заведомо умеренно растет (ибо вовсе не растет), а потому может быть рассмотрена как регулярная обобщенная функция умеренного роста, т. е. функционал V» •-* I <p(t)ip(t)dt, ф б5. Таким образом, S отождествляется с подпространством в S* (ср. большую диаграмму ближе к концу § 4.3). Теорема 2. Существует единственный оператор F: S* -*S*, непрерывный в слабой* топологии и продолжающий преобразование Фурье (т. е. такой, что диаграмма S -!— S I I «S* —?—> s%
§ 3. ПРЕОБРАЗОВАНИЕ ФУРЬЕ ОБОБЩЕННЫХ ФУНКЦИЙ 519 в которой вертикальные стрелки изображают естественное вложение, коммутативна). А именно, таковым является слабый* сопряженный оператор F* к F. Далее, F —топологический изоморфизм пространства (S',w*) на себя. < Поскольку пространство (S*,w') хаусдорфово, а пространство <5 в нем плотно (предложение 4.3.10), существует не более одного слабо* непрерывного оператора, продолжающего F с S на S*. Далее, оператор F* слабо* непрерывен (предложение 4.2.10), а из теоремы 1 очевидным образом следует, что он обладает слабо* непрерывным обратным, а именно Р*. Остается показать, что F' продолжает F. Пусть tp, -ф е S. Тогда теорема Фубини обеспечивает следующую цепочку равенств: (F»(V) = <й(Рф) = -±= j <p(a) j 4,(t)e-«dtds = R R = vfc I (I <p(s)e~i"da)^t )dt=(*V)(V0- R R Дальнейшее очевидно. > Определение 1. Если / — обобщенная функция умеренного роста, то ее преобразованием Фурье называется обобщенная функция умеренного роста F(f), где F (он же и F*) — оператор из предыдущей теоремы. Сам оператор F называется преобразованием Фурье обобщенных функций умеренного роста. ПРИМЕР 1. Пусть / :— 6 е S*. Тогда для любой функции <р € S выполняется цепочка равенств [FE)](v) = S(FV) = [F(<p)]@) = ^= { <p(t)dt = ^(y>), R (через 1 здесь и далее обозначена регулярная обобщенная функция умеренного роста, равная тождественной единице). Таким образом, ПРИМЕР 2. Теперь пусть, наоборот, /:= -т=. Тогда с учетом теоремы обращения % = Ж \ рШ*)е«* ds = [#(F(<P))№ = V@) = *(*>).
520 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Таким образом, F( -щ=) = 8- (Получите тот же факт из соотношений FP* = 1, FY.' = Р* и S*(<5) = 6.) Упражнение 7. Придав точный^смысл действующим в 5* операторам D (дифференцирования), М (умножения на независимую переменную), Еа (умножения на е~ш) и Та (сдвига на а), покажите, что имеют место коммутативные диаграммы S* —i?_> S* S* —?-» 5' 5* —^-» 5* 5* —-5-» 5* 1? 4 1' 4 I' 4 I' 4 5* -^- S\ S' —^— S*, S' —^- 5*, 5' *' , 5*. Сделав это упражнение, с его помощью сделайте еще два. Упражнение 8. Найдите преобразование Фурье обобщенных функций умеренного роста: J2 e"kttk и <р н-> ]Г <р(к)(ак), ак еШ. (Ответ: ^ v^ ?(-i)V*>K) и -±= E(-i)*e-"*'t*.) Упражнение 9. Преобразование Фурье функции в (Хевисай- да) равно ~^v + lk^ где «(^):=^|«ШЛ (ср. упражнение 4.3.6). R Указание. Для j?e5 положим ф(г) := уз - ^@)e_t'/2 иа(«):=!^1.Тогда J?@)(?>) = F@)(V) + HOH(F(e-<V2)), и первое слагаемое равно [MF@)](a) = --|=(а) = --^^(у?). Теперь, вооружившись теоремой 2, мы можем выполнить данное в § 1 обещание и доказать теорему 1.1 (i) (единственности). Теорема 3 (единственности). Классическое преобразование Фурье F: L ,(R) —> C0(R) — инъективный оператор (иными словами, из равенства F(ipt) = F(f2) следует, что <р{ = у>2 почти всюду). < Как и в § 4.3, отождествим S* с подпространством в I?*. Напомним о каноническом вложении г: L^C-*T>*, сопоставляющем каждой локально интегрируемой функции <р регулярную обобщенную функцию ip (см. § 4.3). Покажем, что образ подпространств Ll С ?'°с и С0 С ?'°с при вложении i содержится в S*.
§ 4. ПРЕОБРАЗОВАНИЕ ФУРЬЕ В L 2 521 Пусть вначале <р € L,; тогда справедливая для любой функции ф е S оценка ?>(*№(*)<**|<l№lkolMli R показывает, что i((p)eS* и, следовательно, i(L,)c<S*. Если же (р € С0, то для любой функции V € <S выполнены равенства | j <р(*Ж*)л| < IMLj ^^idt^ ci^Ldlvilco + IIV-Iko). где С = $ —Ц. Это означает, что i(v?) 6 5*, т. е. i(C0) С 5*. R l + t Наконец, повторяя рассуждения, проведенные при доказательстве теоремы 2, мы получаем коммутативную диаграмму L, —?— С0 I . I 5* —?—» 5*, в которой вертикальные стрелки обозначают соответствующие биограничения канонического вложения г. Остается воспользоваться тем, что F — изоморфизм. > Упражнение 10. Используя аналогичные соображения, докажите теорему 1.3. § 4. Преобразование Фурье квадратично интегрируемых функций Как видно из уже сказанного, слова «преобразование Фурье» без каких-либо дополнительных разъяснений должны восприниматься как видовое понятие. Мы знаем, что такое классическое преобразование Фурье и что такое преобразование Фурье обобщенных функций умеренного роста. Теперь мы переходим к третьей и последней в наших лекциях особи этого вида. Она, возможно, является самой важной. Классическое преобразование Фурье, как мы помним, имеет в качестве своей области определения пространство L^R). Нельзя ли определить нечто подобное в геометрически гораздо лучше устроенном— гильбертовом! — пространстве L2(R)? Такая конструкция была бы весьма желательна, даже необходима с точки зрения потребностей как внутри самой математики, так и математической физики. 17 А. Я. Хелемский I
522 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Полезно сперва взглянуть на меньших братьев преобразования Фурье на прямой, соответствующих случаям окружности и целых чисел. Рассмотрим гильбертовы пространства L2(T) и ij(Z). В первом из них возьмем ортонормированный базис en(t) := -75=*". t е Т, где п пробегает Z. (При отождествлении функций на окружности с 27г-периодическими функциями на прямой эти функции, разумеется, переходят в «тригонометрические одночлены» t'^eint'.) Во втором пространстве возьмем ортонормированный базис из ортов р":=(.. .,0,. ..,0, 1,0,.. .,0,...) A на n-м месте), где снова neZ. Тогда теорема Фишера — Рисса немедленно дает два унитарных изоморфизма, которые мы сейчас обозначим Fj: L2(T) -¦ ^(Z) и Fz: ?j(Z) —> L2(T); первый из них однозначно определен правилом еп*-*рп, а второй — правилом р" »-» е_„. Назовем оператор Е? гильбертовым преобразованием Фурье на Т, a Fz — гильбертовым преобразованием Фурье на Z. Отметим, что пространство L2(T) содержится в ?,(Т) и гильбертово преобразование Фурье на Т есть биограничение классического преобразования Фурье (на окружности) Fr: L,(T)—k^(Z). Оно же, в свою очередь, является бипродолжением упомянутого в предыдущем параграфе оператора FT: ST -* Sz. В то же время, переходя от окружности к целым числам, мы видим, что 4B) не является частью ^(Z), а напротив, содержит это пространство. Соответственно при отождествлении С(Т) с подпространством в ?2(Т) гильбертово преобразование Фурье на Z оказывается бипродолжением классического преобразования Фурье Fz: J,(Z) —> С(Т) и «тем более» бипродолжением оператора Fz: Sz -> <ST. Таким образом, имеют место коммутативные диаграммы ST > Sz Sz > ST I I I I L,(T) —*—» lt(Z) и /,(Z) —^—> C(T) I I I I L,(T) —*—> cb(Z) 4(Z) —*—* i2(T), хорошо иллюстрирующие сказанное; вертикальными стрелками в них изображены естественные вложения, а символом F обозначен тот или иной, смотря по смыслу, вариант преобразования Фурье.
§ 4. ПРЕОБРАЗОВАНИЕ ФУРЬЕ В L2 523 Приняв все это как информацию к размышлению, мы приступаем к нашему главному преобразованию Фурье — тому, что на прямой. Здесь, как мы помним еще из § 1.1, L2(R) не является частью L,(R) (отличие R от Т!) и в то же время не содержит L ,(R) (отличие R от Z!). Первое из этих обстоятельств говорит о том, что для функций из L2(R) исходная формула, содержащаяся в определении 1.1, вообще говоря, не имеет смысла. Например, мы не можем говорить о классическом преобразовании Фурье функции tp(t):= . , v 1-м поскольку функция е-*" , не интегрируема по Лебегу ни при каких s е R. v 1 + * На помощь математическому анализу приходит функциональный. Его методы, как мы сейчас увидим, позволят определить действующий в L2(R) «оператор Фурье», притом обладающий гораздо более привлекательными свойствами, чем его классический прародитель. Классическая формула преобразования Фурье, лишенная смысла для квадратично интегрируемых функций общего вида, заведомо имеет смысл для функций из некоторых подпространств в L2(R). В частности, это так для V и, что окажется сейчас решающим обстоятельством, для <S. Рассмотрим S как почти гильбертово пространство относительно скалярного произведения, унаследованного из L2(R). Предложение 1. Оператор Fs: S—>S является унитарным изоморфизмом почти гильбертова пространства S на себя. < Поскольку оператор Fs биективен (теорема 3.1), достаточно показать, что он сохраняет скалярные произведения. Возьмем ip,ip?S. Тогда с учетом той же теоремы обращения и теоремы Фубини (F(<p), F№)) = J F(V)(s)F(r/,)(8)da = R = jF(^)(SK^b(<)e"<''d*)da=jfeli;,(V))(S)ei''dS)^^'ii = R R R R = \tp(t№ffldt = {<p,l>). > R Теперь посмотрим, как пространства V и S сидят в некоторых объемлющих пространствах. Положим для краткости L, 2(R) :=L,(R)nL2(R) и для <p€?1>2(R) определим |Mli,2 := :=тах{||у>||,, ||у>||2}- Д1 k = \,2 условимся отождествлять подпространство в Lk(R), состоящее из функций, равных нулю вне отрезка [-N,N\, с Lk[-N,N]. Напомним, что L2[-N, N] с L^-N, N]
524 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ (ибо мера отрезка конечна) и сходимость в первом пространстве влечет сходимость во втором. Наконец, обозначим характеристическую функцию (любого) отрезка [с, d] через xc,d- Предложение 2. Пространство V, а с ним и S, плотно в L2(SL). Более того, пусть <р е Ll(R)UL2(R). Тогда существует последовательность rpN е V, N = 1, 2,..., обладающая следующим свойством: если <р € ?,(К), то фк сходится к ip по норме || • ||,, а если ip е L2(R), —то по норме \\ ¦ \\2. Как следствие, если tp е Z-, 2(R), то фы сходится к у по норме || • ||,2. << Для доказательства предложения нам потребуется следующая Лемма. Для каждого N е N пространство T>N (см. § 4.3) плотно в L2[—N, N]. < Рассмотрим произвольный отрезок [с, d] С [—N, N] и последовательность гп(Ь):—гc+l/nii_l/^i/„(t)e/D (см. предложение 4.3.2). Очевидно, эта последовательность принадлежит пространству VN и сходится в L2[—N, N] к Хс,а- Поэтому все характеристические функции отрезков внутри [—N, N], а значит, и все их линейные комбинации (=ступенчатые функции) аппроксимируются функциями из VN. Но в действительном анализе нас учили: в L2(-) на любом отрезке ступенчатые функции образуют плотное подмножество. Дальнейшее очевидно. > Конец доказательства предложения 2. Поскольку любая функция tp из указанного множества очевидным образом представима в виде линейной комбинации четырех неотрицательных функций, мы вправе, не теряя общности, считать, что <р ^ 0. Положим <pN :=min{(px_NtN,N]. Очевидно, ipN е L, 2(R); кроме того, нетрудно проверить, что если tp eLk(R), k = 1, 2,' то последовательность vN сходится к <р по норме || • \\к. Согласно лемме для каждого N существует последовательность <фы>п е VN, п = 1, 2,..., сходящаяся к <pN по норме || • ||2 и, как следствие, по норме || • ||, 2. Следовательно, для каждого N найдется такое п = n(N), что \\<pN — Vv,nuv)lli,2 < Jf- Отсюда ясно, что последовательность Фн :— -0JV, n(w) обладает требуемыми свойствами. & > Предложение 3. Пусть <рп — последовательность непрерывных квадратично интегрируемых функций на прямой. Предположим, что она сходится в среднем квадратичном к функции <р, а равномерно — к функции <ф. Тогда ф = -ф почти всюду. < Из условия следует, что для любого N последовательность fnX-N,N сходится к <PX-N,N п0 норме пространства L2[-N,N], а к V*X-N,Ar — по равномерной норме. Но в L2[—N, N] (в отличие от
§ 4. ПРЕОБРАЗОВАНИЕ ФУРЬЕ В L2 525 L2(R)!) из равномерной сходимости следует сходимость в среднем квадратичном. Поэтому <p„X-n,n сходится по норме пространства L2[—N,N] как к 4>X-n,n< так'и к r/rx_NtN. Отсюда обе функции представляют один и тот же элемент пространства L2[—N, N]. Это означает, что <р и V совпадают почти всюду на [—N, N]. Дальнейшее очевидно. > Теперь все готово для доказательства одной из важнейших теорем этой книги. Теорема 1 (Планшерель). Существует ограниченный оператор Fm: L2(R) —>L2(R), однозначно определенный тем, что для любой функции <p€Ll2(R) функция F,(<p) почти всюду совпадает с классическим преобразованием Фурье (т. е. с F(<p)). Этот оператор является унитарным, и (что эквивалентно) для любой <р е L2(R) выполнено равенство \\F.(<p)(S)\4s= j|v(*)Pd*- К R < Предложения 1 и 2 вместе дают унитарный оператор, а именно, Fs: S —> S, действующий в плотном подпространстве пространства L2(R). Тогда благодаря предложению 2.1.10 немедленно возникает унитарный оператор F. в L2(R), однозначно определенный тем, что он совпадает на S с Fs. Теперь посмотрим, что делает оператор F. с функцией <peLu2(R). Возьмем, пользуясь предложением 2, последовательность >рп е1> С S, сходящуюся к (р одновременно по нормам в Ь2(Ш) и ?,(R). Тогда в силу непрерывности оператора F, последовательность F,(vn) — она же и F(ipn) — сходится в LZ(R) к F,(ip). Но в силу того, что ipn, tpEL^R), и предложения 1.1 последовательность F(ipn) равномерно сходится к F(<p). Полому из предложения 3 следует, что почти всюду F,((p) — F(<p). Наконец, поскольку Ll2(R) плотно в L2(R) (хотя бы потому, что содержит 5), оператор F, однозначно определен своими значениями на этом подпространстве. > Определение 1. Для р € L2(R) функция (строго говоря, класс эквивалентности) F,(<p) е L2(R) называется гильбертовым преобразованием Фурье от <р, а сам оператор F.: L2(R)-»L2(R) называется гильбертовым преобразованием Фурье или гильбертовым оператором Фурье. Это и есть тот обещанный зверь, для которого давно стояла пустая клетка в нашем зоопарке операторов (ср. конец § 1.3). Посмотрим на некоторые его повадки.
526 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Обозначим через Е. оператор в L2(R), переводящий <р в функцию t h-» tp(-t). (Если Вы сделали упражнение 6.1.6, то узнаете в этом операторе одно из описанных там ортогональных отражений.) Разумеется, оператор Е из предыдущего параграфа — это сужение оператора Е. на <S, и Е* = 1 (тождественный оператор в L2(R)). Предложение 4. Выполнены соотношения F.2 = E. и F* = l. < Объединяя теорему Планшереля и следствие 3.1, мы видим, что оператор F,2 совпадает на плотном в L:(R) подпространстве S с действующим там оператором Е. Дальнейшее очевидно. > Обратим внимание на связь всех трех разновидностей преобразования Фурье, рассмотренных в наших лекциях. Разумеется, каждая функция из ii(R), C0(R) или L2(R) может быть рассмотрена как регулярная обобщенная функция умеренного роста. Поэтому все эти три пространства могут быть рассмотрены как подпространства в5\ Упражнение 1. Покажите, что в рамках указанного отождествления как классическое, так и гильбертово преобразование Фурье суть соответствующие биограничения оператора F. Сформулируйте и докажите аналогичный результат для преобразований Фурье на окружности и на целых числах. Теперь обозначим через Та действующий в L2(R) оператор сдвига на ае R (см. пример 1.3.7), а через Еа — действующий в том же пространстве оператор умножения на е-"", t 6 R. Предложение 5. Операторы Та и Еа унитарно эквивалентны, и эту унитарную эквивалентность осуществляет оператор F, (иными словами, диаграмма L2(R) —^— L2(R) -¦[ !'• L2{R) -^ L2(R) коммутативна). < Это утверждение очевидным образом следует из предложения 1.4, совпадения гильбертова и классического преобразований Фурье на Lx 2(R) и плотности последнего пространства в L2(R). > Разумеется, точно так же гильбертово преобразование Фурье на Т (соответственно на Z) осуществляет унитарную эквивалентность
§ 4. ПРЕОБРАЗОВАНИЕ ФУРЬЕ В ?2 527 между оператором сдвига на аеТв L2(T) и умножения на о"п, п е Z, в ^(Z) (соответственно оператором сдвига на п € Z в ^(Z) и умножения на е~ш, t е R в L2(T)). ЗАМЕЧАНИЕ. Эти наблюдения позволяют, в частности, дать другое, и притом более быстрое решение вопроса о том, как устроены спектры операторов сдвига в пространствах L2(R), i2(T) и ij(Z). (Это было обещано в § 5.3.) Ведь мы знаем, что спектры унитарно эквивалентных операторов совпадают, и то же самое верно и для их выделенных подмножеств, таких, как точечный спектр и т. п. Поэтому задача сводится к описанию спектра оператора умножения на ту или иную экспоненту, а здесь никаких трудностей не возникает (ср. более общее упражнение 5.1.3). Напомним о функциях Эрмита, полученных с помощью процесса ортогонализации из системы ine""r в L2(R) (см. пример 1.2.8). Они имеют вид K(t) = pn(t)e-t,/2, п = 0,1,2 где pn(t) — некоторый многочлен степени п. В следующем предложении ключевую роль играет тот факт, что преобразование Фурье оставляет функцию е~',/2 на месте (см. пример 1.2). Предложение 6. Функция hn — это собственный вектор оператора F, с собственным значением (—*)"¦ < Для neZ+ положим Я„ := span{/ifc | & = 0,..., п}; это же пространство, очевидно, есть и span{t*e~',/21 к =0,..., п}. В силу следствия 1.2 функция F.(t*e~'J/2), она же и F(t*e"',/2), равна t*F(e~',/2)(*> = ii(e~',/2)(l:). Отсюда очевидным образом следует, что F,(hn) € #„. Те же соображения с учетом предложения 4 показывают, что для любой функции g€Hn_l выполнено равенство ¦^_1 (flO = K3(g) е Нп _,. Отсюда в силу унитарности оператора F, мы получаем (F.K, 9) = (F.K, F.F.-lg) = (hn, F.~lg) =0. Следовательно, Ft(hn)±Hn_l, и, стало быть, этот вектор, как и /inI принадлежит одномерному пространству HnQHn_l. Это означает, что векторы F,(hn) и hn линейно зависимы. Итак, hn — собственный вектор для F,. Но каково его собственное значение? По построению hn(t) = (atn + q(t))e~*tJ2, где q(t) — какой-то многочлен степени не выше п — 1, афО. Поэтому из указанного выше вида функции i^(t*e_,,/2) следует, что F.K = ((-i)natn + r(t))e~,t/2, где г(*) — еще один многочлен степени не выше п - 1. Поскольку оба вектора пропорциональны, это необходимо влечет равенство F,hn = (—i)nhn. >
528 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ А теперь, уважаемый гильбертов оператор Фурье, предъявите, пожалуйста, Ваш спектр! Теорема 2. Спектр оператора F, совпадает с его точечным и с его существенным спектром.; это множество из четырех чисел {1, -г, —1, г'}. < Объединяя предложение 4 с теоремой 5.2.1, мы видим, что каждое число А € a(Ft) удовлетворяет уравнению А4-1 =0 и, стало быть, совпадает с одним из указанных чисел. Далее, из предыдущего предложения следует, что каждое из этих чисел действительно принадлежит спектру оператора F„ и притом его «точечной» части. Наконец, для п =0,1,2,3 ядро оператора F, — (-г) содержит векторы h4k + n, к =0,1, 2,..., и, следовательно, бесконечномерно. Поэтому оператор F, — (—i)"l не фредгольмов, а это как раз и означает, что (—г)" — точка существенного спектра оператора F.. > Если Вы не поленились сделать упражнение 1.5, то в награду можете полностью познать структуру гильбертова оператора Фурье. Упражнение 2. Оператор F. унитарно эквивалентен диагональному оператору Тл: 4 ~* 4- гл-е ^ —это последовательность (-г)", га = 1,2,... Указание. Унитарную эквивалентность осуществляет оператор, переводящий n-ю функцию Эрмита в (п + 1)-й орт, га е Z+. Вообще, гильбертов оператор Фурье во многих отношениях более удобен в обращении, чем классический оператор Фурье из § 1, и позволяет получать более законченные результаты. Вот поучительный пример. Выше уже говорилось, что полностью описать образ классического преобразования Фурье в каких-либо разумных терминах — по-видимому, безнадежная задача. Точно так же никто не знает, как описать классические преобразования Фурье финитных интегрируемых функций. В то же время имеет место следующий глубокий факт: Теорема 3 (Пэли — Винер). (БД) Для любого a€R, a > 0, следующие свойства функции ijj(t), t €. К, эквивалентны: (i) функция ф(Ь) есть гильбертово преобразование Фурье некоторой функции, квадратично интегрируемой на прямой и почти всюду равной нулю вне отрезка [—а, а]; (и) функция ф{г) сама квадратично интегрируема и может быть продолжена до целой функции ф(г), z€C, удовлетворяющей оценке \ф(г)\ ^ Cea|Im(z)l, где С > 0 — некоторая (зависящая от ф) постоянная.
§ 5. КОЕ-ЧТО О ГАРМОНИЧЕСКОМ АНАЛИЗЕ НА ГРУППАХ 529 Замечание. Гильбертово преобразование Фурье играет выдающуюся роль в математическом аппарате квантовой механики, осуществляя унитарную эквивалентность между некоторыми наиболее важными для этой науки операторами. Следует, правда, оговориться, что речь идет, как правило, не об обычных ограниченных операторах, фигурирующих в наших лекциях, а о некоторых более сложных отображениях — так называемых неограниченных операторах, которые могут быть определены не на всем пространстве L2(U), а лишь на тех или иных его плотных подпространствах. Тем не менее, понятие унитарной эквивалентности сохраняет смысл и для неограниченных операторов. Среди последних выделяются по своему значению «оператор координаты» и «оператор импульса»; области определения обоих включают пространство S, и там первый оператор действует по правилу (p(t) >-» t(p(t), а второй — по правилу tpt-»itp'. Тот факт, что преобразование Фурье осуществляет унитарную эквивалентность этих операторов, позволяет, в частности, получить в качестве математической теоремы один из основных принципов квантовой механики — принцип неопределенности Гейзенберга (см., например, [49, § 6 гл. 7]). Многое о роли преобразования Фурье в математической физике и, в частности, в аксиоматической квантовой теории поля содержится в [43]. § 5. Кое-что о гармоническом анализе на группах Материал этого параграфа рассчитан только на любопытных и не предполагается обязательным. Что такое гармонический анализ? С известной долей упрощения можно сказать, что предмет этой науки — это пространства функций, в которых определена операция сдвига; в первую очередь это пространства функций на группах, снабженных топологией. Что же касается методов изучения этих пространств, то они так или иначе связаны с преобразованием Фурье. Классическая часть гармонического анализа, имеющая давнюю и богатую историю, изучает «под большим увеличением» пространства функций на трех традиционных множествах с групповой структурой: окружности, прямой и целых числах (а также на их декартовых степенях). Более молодое направление, так называемый абстрактный гармонический анализ (говорят также: анализ Фурье на группах) имеет дело с функциональными пространствами на группах гораздо более общего вида. Предшествующие параграфы этой главы, разумеется, целиком относятся к классическому гармоническому анализу, точнее к его пересечению с функциональным анализом. Основное внимание мы уделили преобразованию Фурье на R, а также на Т и Z. Сейчас мы попытаемся кратко и неформально рассказать о некоторых начальных понятиях и результатах абстрактного гармонического анализа. (Далеко не полный список литературы по этой науке включает солидный двухтомник [59; 60] и недавно вышедшую книгу [97]; см. также [20; 24; 7].) Прежде всего у нас речь пойдет о том, какое общее понятие скрывается за тремя рассмотренными выше «конкретными» преобразованиями Фурье. На самом деле в предыдущих параграфах, не называя вещи своими именами, мы широко пользовались тем обстоятельством, что три традиционных области определения преобразования Фурье — К, Т и Z — суть локально компактные абелевы группы. Объясним, что это такое. Определение 1. Пусть G — группа и одновременно хаусдорфово топологическое пространство. Мы говорим, что G — топологическая группа, если обе групповых операции — умножение m: CxC-iG, (j, 1) н j«, и переход к обратному элементу inv: G -* G, t н-+1~\ суть непрерывные отображения. Топологическая группа называется абелевой (=коммутативной), локально компактной и т. п.
530 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ в зависимости от соответствующих свойств ее подлежащей группы либо, смотря по смыслу, подлежащего топологического пространства. Топологические группы образуют категорию, морфизмами которой объявлены непрерывные гомоморфизмы групп. В этой категории выделяется по важности полная подкатегория локально компактных групп, содержащая, в свою очередь, полную подкатегорию локально компактных абелевых групп. Последнюю мы обозначим через LCAb. В ней тоже выделяются две важные полные подкатегории. Первая состоит из дискретных групп и, стало быть, представляет собой не что иное, как уже встречавшуюся нам в гл. О категорию абелевых групп Ав; вторая, обозначаемая САв, состоит из компактных групп. Очевидно, изоморфизмами во всех этих категориях являются непрерывные гомоморфизмы, обладающие непрерывными обратными гомоморфизмами; они (как и в категории Ban или, скажем, UCBA) называются топологическими изоморфизмами. Следующий класс морфизмов топологических групп заслуживает особого названия. Определение 2. Пусть G — топологическая группа. Ее групповыми характерами называются ее морфизмы (= непрерывные гомоморфизмы) в группу Т. (Мы будем говорить просто «характер», если не будет опасности путаницы с алгебраическими характерами, т. е. характерами алгебр, определенными в § 5.2.) Множество характеров топологической группы G по традиции обозначается через G. Очевидно, это также группа, но только теперь обязательно абелева, относительно поточечного умножения, и ее единицей служит характер «тождественная единица», который мы далее будем называть тривиальным и обозначать через 1. (Это не вызовет путаницы.) Но множество G обладает и некоторой естественной топологией. А именно, рассмотрим G как подмножество в линейном пространстве C(G) всех непрерывных функций на G. Последнее наделено семейством преднорм \\х\\к :=max{|z(t)| 11 е К}^ где К пробегает совокупность всех компактных подмножеств в G. Топология в G, унаследованная из полинормирован- ного пространства (C(G), {||я||^}), часто называется понтрягинской; очевидно, сходимость в этой топологии — это равномерная сходимость на компактах. Теорема 1. (БД) Если G —локально компактная группа, то группа G также локально компактна относительно^хонтрягинской топологии. При этом если группа G компактна, то группа G дискретна, а если группа G дискретна, то G компактна. Упражнение 1. Докажите часть этой теоремы, касающуюся компактных и дискретных групп. Указание. Если точка t €Т\{1} лежит в правой полуплоскости, то некоторая степень этой точки оттуда выскакивает. Поэтому, если jrpynna G компактна и для XeG выполнено неравенство \\Х - 1\\в < %/2, то X s\. Если же группа G дискретна, то группа G гомеоморфна замкнутому подмножеству в топологическом произведении семейства экземпляров Т, индексированных элементами G. Если группа Сне абелева или же не локально компактна, то может случиться так, что группа G весьма мала или даже состоит из одного лишь тривиального характера. Разумеется, у простых групп есть только тривиальный характер; то же верно, скажем, и для группы SUB, С) унитарных матриц второго порядка с определителем 1. С другой стороны, у аддитивной группы пространства, указанного в упражнении 1.6.10, также нет ни одного (непрерывного) нетривиального характера.
§ 5. КОЕ-ЧТО О ГАРМОНИЧЕСКОМ АНАЛИЗЕ НА ГРУППАХ 531 Однако для групп, которые одновременно абелевы и локально компактны, т. е., иными словами, для категории LCAb, понятие характера, как мы вскоре увидим, играет центральную роль. Там эта роль сходна с ролью ограниченных функционалов в теории нормированных пространств или ролью алгебраических характеров в теории полупростых коммутативных банаховых алгебр. (И тех, и других^ и третьих «достаточно много»; см. ниже.) В контексте категории LCAb группа G носит специальное название *группа, двойственная по Понтрягину* (или просто ^двойственная группа*) группы G. А сейчас посмотрим, во что превращается общее определение характера для трех наших «дежурных» групп. Следующее утверждение, если не считать его почти очевидной первой части, — это просто перефразировка уже сделанных Вами упражнений 2.14 и 2.15. групп Z = T, R = RhT = Z. Более подробно, корректно определены и являются топологическими изоморфизмами (i) отображение, сопоставляющее каждому характеру X G Z единственное такое число в € Т, что Х(п) = в~", n е Z; (И) отображение, сопоставляющее каждому характеру X е К такое единственное число * € К, что X(t) = е-**', t € R; (Ш) отображение, сопоставляющее каждому характеру X е Т такое единственное число neZ, что X{t)=t~n, t б Т. Таким образом, во всех трех случаях классическое преобразование Фурье можно было бы (пренебрегая множителем -4=) записать единой формулой Fto)(X):=\vWXWdt, A) благодаря которой, отправляясь от интегрируемой функции на G, мы получаем непрерывную исчезающую на бесконечности функцию на G. Возникающий оператор Фурье получает единообразную запись F = FG: LX(G)-* Cq(G). Раз подобная формула написана, возникает желание распространить ее и на другие топологические группы. Но обратите внимание: в рассмотренных конкретных конструкциях, помимо алгебраической и топологической структуры в Z, Т и R, существенным образом участвует еще одна структура: мера. Та самая мера, по которой мы интегрируем: стандартная мера Лебега на R и Т и считающая мера на Z. Поэтому, желая придать смысл формуле A) для заданной новой группы G, мы должны интегрировать заданные на G функции по некоторой мере, обладающей теми же хорошими свойствами, что л упомянутые конкретные меры. И одновременно «задним числом» возникает вопрос: а почему именно эти конкретные меры фигурируют в классических определениях? Чем они, собственно, лучше других? Оказывается, все образуется идеальным образом; надо только, чтобы рассматриваемая группа была локально компактна. Чтобы сформулировать соответствующий результат, нам потребуется небольшая подготовка. Пусть G — (пока произвольное) топологическое пространство. Говоря о мерах на G, мы подразумеваем счетно-аддитивные функции борелевских множеств, принимающие значения в расширенном луче [0, оо]. (Таким образом, меры могут принимать и бесконечные значения — как стандартная мера Лебега на прямой и считающая мера на Z.) Далее, желательно, чтобы мера была согласована с топологией на G.
532 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Определение 3. Мера ц на G называется регулярной, если (i) для любого измеримого множества М конечной меры и любого е > 0 найдутся такое открытое множество U ЭМ и такой компакт К СМ, что p.(U\К)<е; (И) мера любого компакта конечна («ибо он мал»). А теперь пусть G вдобавок является группой. Тогда можно говорить о сдвигах ее подмножеств: для М С G и о 6 G левым сдвигом множества М на а называется множество аМ := {at | t е М}. Нетрудно догадаться, что уважающая себя мера должна реагировать на сдвиги следующим образом. Определение 4. Мера р. на топологической группе G называется левоинвари- антной, если из измеримости множества М следует измеримость множества аМ для любого ае G, и при этом р(аМ) = р(М). Нетрудно показать, что стандартная мера Лебега на прямой и окружности, а также считающая мера на целых числах — это единственные, с точностью до множителя, (лево)инвариантные регулярные меры. (Потому-то они и фигурируют в соответствующих преобразованиях Фурье.) Следующая теорема лежит в основе всего абстрактного гармонического анализа. Она имеет довольно долгую историю и связана, прежде всего, с именами Хаара, фон Нойманна и Андре Вейля. Теорема 2. (БД) Пусть G —локально компактная группа. Тогда на ней существует левоинвариантная регулярная мера, и эта мера определена однозначно с точностью до постоянного множителя. Если топологическая группа обладает свойством так называемой полноты (в случае метризуемой группы оно совпадает с обычной полнотой), то верно и обратное: если на ней существует левоинвариантная регулярная мера, то она локально компактна. Левоинвариантная мера, фигурирующая в этой теореме, называется мерой Хаара. Она, таким образом, неявно заложена в алгебро-топологической структуре локально компактной группы: последняя как бы «сама знает свою меру». Замечание. Если группа G не абелева, то на ней, вообще говоря, различаются понятия лево- и правоинвариантной меры. Существование последней (что это такое, ясно) сразу следует из теоремы 2: надо просто поменять заданное умножение в G на «противоположное» умножение а о Ь, равное прежнему Ьа. Впрочем, для весьма широкого класса групп левоинвариантная мера одновременно является правоинвариантной. Такие группы называются унимодулярными. К ним, помимо (понятное дело) абелевых и, как легко видеть, дискретных групп, принадлежат и все компактные группы. А вот, скажем, группа всех матриц ( q ? J с действительными а Ф 0 и Ь (она же — группа аффинных преобразований прямой zi-*ax+ Ь) не унимодулярна. Зафиксируем на каждой локально компактной группе какую-либо ее меру Хаара и условимся везде в дальнейшем, говоря «мера Хаара», подразумевать именно эту меру. (То, что подобная акция требует аксиомы свободного выбора, нас не остановит.) Обозначая эту меру через т, мы будем для пространства L^Gfm) употреблять сокращенное обозначение L\(G). Теперь, приняв на веру теорему 2, мы дадим общее Определение 5. Пусть G — локально компактная группа, G — ее группа характеров с понтрягинскои топологией, tp — интегрируемая по мере Xaaga функция на G. Преобразованием Фурье этой функции называется функция на G, заданная
§ 5. КОЕ-ЧТО О ГАРМОНИЧЕСКОМ АНАЛИЗЕ НА ГРУППАХ 533 формулой F(<p)(X) := ( <p(t)X(t) dm(t), XeG. Функция F(ip) непрерывна на G (это нетрудно доказать; можете попробовать) и исчезает на бесконечности (это уже труднее). Таким образом, возникает отображение F: Ll(G)—*C0{G), являющееся, как легко видеть, ограниченным оператором нормы 1; это так называемый оператор Фурье группы G. До сих пор речь шла о произвольных локально компактных группах. Однако преобразование Фурье становится содержательным понятием только в предположении, что рассматриваемая группа абелева. Дело в том, что только в этом предположении верна следующая нетривиальная Теорема 3 (единственности; ср. теорему 1.1). (БД) Пусть локально компактная группа G коммутативна. Тогда ее оператор Фурье инъективен. Иными словами, если две интегрируемые по мере Хаара функции на G имеют одно и то же преобразование Фурье, то они почти всюду совпадают. Отсюда, уже без особых затруднений, выводится следующий важный факт о взаимоотношениях групп G и G. Теорема 4 (о достаточности множества характеров). (БЩ^Для любых различных элементов s,teG существует такой характер XeG, что Х(з) ф X(t). Упражнение 3. Выведите эту теорему из предыдущей. Указание. Пусть элемент ае G отличен от единицы и таков, что Х(а) = 1 для всех XeG, U — такая окрестность единицы, что aU nU = 0, х — ее характеристическая функция. Тогда в силу инвариантности меры Хаара X(t)X(t)dm(t)= ( X(a-lt)X(t)dm(t) G G для любого XeG. Не правда ли, эта теорема весьма сходна по смысловой нагрузке со следствием 1.6.1 о достаточности множества ограниченных функционалов на нормированном пространстве? Последнее, очевидно, эквивалентно тому факту, что каноническое вложение а: Е -»Е** нормированного пространства в его второе сопряженное (см. § 1.6) — инъективное отображение. Но нечто подобное каноническому вложению существует и в контексте локально компактных^абелевых групп. А именно, для G е 06(LCAb) рассмотрим двойственную группу в. Поскольку она ничем не хуже группы G — тоже абелева и тоже локально компактна, мы вправе рассмотреть ее двойственную группу G, называемую второй двойственной группой группы G. Теперь, взяв элемент t € G, мы можем сопоставить ему характер 67, на G, действующий по правилу St(X):— X(t); очевидно, этот характер непрерывен. Возникает отображение a: G -fG. Ясно, что это гомоморфизм групп, причем — в силу теоремы 4 — инъективный. Однако между гомоморфизмом S в теории топологических групп и оператором а в теории нормированных пространств есть одно существенное различие. Мы помним, что а, вообще говоря, не является изоморфизмом в Nor и даже в Ban; иными словами, банаховы пространства не обязаны быть рефлексивными. А вот объекты категории LCAb «всегда рефлексивны».
534 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ Теорема 5 (принцип двойственности Понтрягина1)). (БД) Для любой локально компактной абелевой группы G гомоморфизм a: G -»G — это топологический изоморфизм. Как и в случае другого результата большой общематематической ценности — первой теоремы Гельфанда — Наймарка (см. § 6.3), — за принципом Понтрягина скрываются факты об отождествлении «целиком» некоторых с виду различных важных категорий. Вспомним о контравариантном функторе сопряженности (*), действующем в категории Ban. Подобно ему, в категории LCAb действует так называемый функтор двойственности О, сопоставляющий каждой группе ее двойственную группу, а каждому морфизму /: G, -» G2 — «двойственный морфизм» /: G^-tG^ определяемый равенством (fX)(t) := X(f(t)), X 6 G2, t 6 G,. В силу результата упражнения 1 этот функтор переводит компактные группы в дискретные и наоборот, так что можно говорить о его коограничениях на соответствующие категории. Теорема 6. Справедливы следующие утверждения: (i) категория LCAb дуально эквивалентна себе самой (иными словами, эквивалентна своей дуальной категории; ср. § 0.7); (ii) категория Ав дуально эквивалентна категории САв; (Hi) эти дуальные эквивалентности осуществляет функтор двойственности либо его соответствующее коограничение. Отметим, что в роли «обратного» функтора (ср. определение 0.7.7) выступает тот же самый функтор двойственности либо его коограничение, определенное на САв и принимающее значения в Ав, а в роли естественной эквивалентности между функторами 1 и О — как раз канонический изоморфизм а, рассмотренный для всех G е LCAb (либо, смотря по смыслу, для всех G € Ав). К принципу Понтрягина можно прийти двумя совершенно разными дорогами (причем в обоих случаях массу интересных вещей можно найти и на обочине). Доказательство самого Понтрягина было основано на глубоком изучении структуры локально компактных абелевых групп и, говоря неформально, сведении общих групп этого класса к «элементарным кирпичикам», каковыми являются группы R, Т, Z и еще Z/Z„ (см., например, [41, § 24]). Другое доказательство, появившееся позже и принадлежащее Д. А. Райкову (см., например, [38, §31]), основано на понятии гильбертова преобразования Фурье на произвольной группе. Оно использует теорему, обобщающую теорему 4.1 (Планшереля), равно как и сделанные чуть раньше нее наблюдения о гильбертовых преобразованиях Фурье на Т и Z. Вот эта общая форма теоремы Планшереля, имеющая большой самостоятельный Теорема 7. Пусть G —локально компактная абелева группа. Тогда существует ограниченный оператор Ft: L2(G)-*L2(G), однозначно определенный тем, что он совпадает на Ll(G)nL2(G) с (классическим) преобразованием Фурье из определения 5. Этот оператор является, с точностью до положительного множителя, унитарным. ' Л. С. Понтрягин A908-1988 гг.) — выдающийся российский математик. Ему принадлежат фундаментальные результаты в обширной области науки, прежде всего в теории топологических групп, алгебраической топологии, дифференциальных уравнениях и теории экстремальных задач.
§ 5. КОЕ-ЧТО О ГАРМОНИЧЕСКОМ АНАЛИЗЕ НА ГРУППАХ 535 Если группа не абелева, то ее преобразование Фурье перестает приносить ощутимую пользу при ее изучении. Причина нами уже обсуждалась: с помощью характеров, вообще говоря, нельзя различить элементы такой группы. Здесь вместо характеров приходится рассматривать их довольно далеко идущие обобщения — так называемые неприводимые унитарные представления заданной группы. Это гомоморфизмы группы G в группу унитарных операторов, действующих в том или ином гильбертовом пространстве Н. Они предполагаются непрерывными относительно сильно-операторной топологии (унаследованной из В(Н)), а слово «неприводимое» означает, что образ группы G состоит из операторов, не имеющих общих замкнутых инвариантных подпространств, отличных от {0} и Я. (Если группа абелева, то оказывается, что все гильбертовы пространства неприводимых унитарных представлений одномерны, и мы получаем не что иное, как обычные характеры.) Конечно, работать с представлениями гораздо сложнее, чем с характерами. Но все же и с их помощью удается решить ряд важных вопросов. Особенно благоприятен случай, когда изучаемая группа компактна: тогда все гильбертовы пространства неприводимых унитарных представлений обязательно конечномерны. Для компактных групп установлен так называемый «принцип двойственности Танна- ка — Крейна», играющий для них роль, напоминающую роль принципа Понтрягина для абелевых групп (см. [60] или [24]). Этот принцип позволяет эффективно восстанавливать группу по ее неприводимым унитарным представлениям. Что же касается общей теории локально компактных групп, то одним из основных ее результатов является так называемая теорема Гельфанда — Райкова, обобщающая теорему о достаточности характеров для абелева случая. Она гласит, что для любого отличного от единицы элемента t локально компактной группы существует неприводимое унитарное представление этой группы, переводящее t в оператор, отличный от 1. (Тоже «достаточность», но на этот раз указанного семейства представлений.) Фундаментальную роль в гармоническом анализе на группах играет общее понятие свертки. Вспомним о том, что для трех классических групп G = R, Т, Z пространство LX(G) было сделано банаховой алгеброй относительно сверточного умножения. Теперь пусть G — произвольная локально компактная группа. Определение в. Сверткой функций <р, ф € L\(G) называется функция y>*ttt):= [игЖт-'О*: Как и в классических случаях, рассмотренных нами в § 2, свертка существует почти для всех 1еСи принадлежит L{(G). Далее, банахово пространство LX{G) является банаховой алгеброй со сверткой в качестве умножения; иными словами, операция * ассоциативна и удовлетворяет мультипликативному неравенству. (Эти факты, конечно, существенно используют левоинвариантность меры Хаара.) Далее, алгебра LX(G) коммутативна тогда и только тогда, когда коммутативной (=абе- левой) является исходная группа G, Кроме того, наша алгебра всегда обладает ограниченной аппроксимативной единицей (см. определение 2.2), а настоящей единицей она обладает в точности тогда, когда группа G дискретна. В заключение вернемся к преобразованию Фурье на группах: как и для наших трех дежурных групп, оно, после умножения на некоторый положительный множитель, переводит свертку в поточечное умножение, т. е. является гомоморфизмом между алгебрами LX(G) (со сверточным умножением) и C0(G). Это обстоятельство выходит на передний план в той ситуации, когда группа G и, стало быть,
536 Гл. 7. ПРЕОБРАЗОВАНИЕ ФУРЬЕ алгебра L,(G) коммутативны. Тогда теорема 2.6 принимает следующую общую форму. Теорема 8. Пусть G — локально компактная абелева группа. Тогда гель- фандов спектр П алгебры ?[(G) совпадает, с точностью до гомеоморфизма, с подлежащим пространством двойственной по Понтрягину группы 6. Более подробно, отображение ш: G-+fi, сопоставляющее каждому групповому характеру X алгебраический характер X по правилу X(<p):=\<p(t)X(t)dt, является гомеоморфизмом. Далее, при соответствующем отождествлении пространств П и G преобразование Гельфанда алгебры L{(G) превращается в преобразование Фурье на G. (Предлагаем Вам нарисовать соответствующую коммутативную диаграмму.) Замечание (для тех, кто поймет). Итак, понтрягинская группа G = гельфан- дов спектр fi.(L,(G))... Вот такая хитрая штука — математика. Своих истинных творцов она всегда объединит, порою даже не спрашивая их разрешения. Сформулировав эту красивую и важную теорему, мы желаем Вам всего наилучшего.
СПИСОК ЛИТЕРАТУРЫ 1. Александров П. С. Введение в общую теорию множеств и функций. — М.: ОГИЗ-Гостехиздат, 1948. 2. Атья М. Лекции по К-теории. — М.: Мир, 1967. 3. Браттели У., Робинсон Д. Операторные алгебры и квантовая статистическая механика. Т. I. —М.: Наука, 1982. 4. Букур Й., Деляну А. Введение в теорию категорий и функторов. — М.: Мир, 1972. 5. Бурбаки Н. Общая топология. Использование вещественных чисел в общей топологии. — М.: Наука, 1975. 6. Бурбаки Н. Очерки по истории математики. — М.: Наука, 1963. 7. Бурбаки Н. Спектральная теория. — М.: Мир, 1972. 9. Гамелин Т. Равномерные алгебры. — М.: Мир, 1973. 8. Ганнинг Р., Росси X. Аналитические функции многих комплексных переменных.—М.: Мир, 1969. 10. Гельфанд С. И., Манин Ю. И. Методы гомологической алгебры. — М.: Наука, 1988. 11. Гельфанд И. М., Шилов Г. Е. Пространства основных и обобщенных функций. — М.: Физматгиз, 1958. 12. Голдблатт Р. Топосы. Категорный анализ логики. — М.: Мир, 1983. 13. Гофман К. Банаховы пространства аналитических функций. — М.: ИЛ, 1963. 14. Гохберг И. Ц„ Крейн М. Г. Введение в теорию несамосопряженных линейных операторов. — М.: Наука, 1965. 15. Данфорд Н., Шварц Дж. Линейные операторы. Т. I. — М.: ИЛ, 1962. 16. Данфорд Н., Шварц Дж. Линейные операторы. Т. II. — М.: Мир, 1966. 17. Диксмье Ж. С*-алгебры и их представления. — М.; Наука, 1974. 18. Дьяченко М. И., Ульянов П. JI. Мера и интеграл. — М.: Факториал, 1998. 19. Дэй М. М. Нормированные линейные пространства. — М.: ИЛ, 1961. 20. Желобенко Д. П. Компактные группы Ли и их представления. — М.: Наука, 1970. 21. Зорин В. А. Математический анализ. Т. 2.—М.: МЦНМО, 1998. 22. Кахан Ж-П. Абсолютно сходящиеся ряды Фурье. — М.: Мир, 1976. 23. Келли Дж. Л. Общая топология. —М.: Наука, 1981. 24. Кириллов А. А. Элементы теории представлений, — М.: Наука, 1972. 25. Кириллов А. А., Гвишиани А. Д. Теоремы и задачи функционального анализа. — М.: Наука, 1979. 26. Колмогоров А. Н„ Фомин С. В. Элементы теории функций и функционального анализа. —М.: Наука, 1972. 27. Куратовский К., Мостовский А. Теория множеств. — М.: Мир, 1970. 28. Ленг С. Алгебра. —М.: Мир, 1968.
538 СПИСОК ЛИТЕРАТУРЫ 29. Люстерник Л. А., Соболев В. И. Элементы функционального анализа. — М.: Наука, 1965. 30. Маклейн С. Гомология. — М.: Мир, 1966. 31. Маклейн С. Категории для работающего математика. — М.: Физматлит, 2004. 32. Маркушевич А. И. Теория аналитических функций. — М.: Гостехиздат, 1950. 33. Медведев Ф. А. Ранняя история аксиомы выбора. —М.: Наука, 1982. 34. Мерфи Дж. С*-алгебры и теория операторов. — М.: Факториал, 1997. 35. Мизохата С. Теория уравнений с частными производными. — М.: Мир, 1977. 36. Мищенко А. С. Векторные расслоения и их применения.—М.: Мир, 1984. 37. Мищенко А. С, Фоменко А. Т. Курс дифференциальной геометрии и топологии. —М.: Изд-во МГУ, 1980. 38. Наймарк М. А. Нормированные кольца. — М.: Наука, 1968. 39. Пирс Р. Ассоциативные алгебры. — М.: Мир, 1986. 40. Пин А. Операторные идеалы. — М.: Мир, 1982. 41. Понтрягин JI. С. Непрерывные группы. — М.: Наука, 1974. 42. Pud М., Саймон Б. Методы современной математической физики. Т. I: Функциональный анализ. — М.: Мир, 1977. 43. Рид М., Саймон Б. Методы современной математической физики. Т. II: Гармонический анализ. Самосопряженность. — М.: Мир, 1978. 44. Робертсон А., Робертсон В. Топологические векторные пространства. — М.: Мир, 1967. 45. Рохлин В. А. Избранные работы. —М.: МЦНМО, ВКМ НМУ, 1999. 46. Рудин У. Функциональный анализ. — М.: Мир, 1975. 47. Шабат Б. В. Введение в комплексный анализ. Т. I. — М.: Наука, 1985. 48. Шефер X. Топологические векторные пространства. — М.: Мир, 1971. 49. Шилов Г. Е. Математический анализ. Специальный курс. — М.: Физматгиз, 1960. 50. Шилов Г. Е. Математический анализ. Второй специальный курс. —М.: Наука, 1965. 51. Шубин М. А. Лекции об уравнениях математической физики. — М.: МЦНМО, 2001. 52. Федоров В. М. Теория функций и функциональный анализ. Часть первая. Теория функций. — М.: Изд-во мех-мат. ф-та МГУ, 2000. 53. Федоров В. М. Теория функций и функциональный анализ. Часть вторая. Функциональный анализ.—М.: Изд-во мех-мат. ф-та МГУ, 2000. 54. Халмош П. Гильбертово пространство в задачах. —М.: Мир, 1970. 55. Хартсхорн Р. Алгебраическая геометрия. — М.: Мир, 1977. 56. Хелемский А. Я. Банаховы и полинормированные алгебры. Общая теория, представления, гомологии.—М.: Наука, 1989. 57. Хелемский А. Я. Гомология в банаховых и топологических алгебрах. — М.: Изд-во МГУ, 1986.
СПИСОК ЛИТЕРАТУРЫ 539 58. Ху Сы-цэян Теория гомотопий. — М.: Мир, 1964. 59. Хьюшпт Э., Росс К. Абстрактный гармонический анализ. Т. I. — М.: Наука, 1975. 60. Хьюитт Э., Росс К. Абстрактный гармонический анализ. Т. II. — М.: Мир, 1975. 62. Эдварде Р. Функциональный анализ. — М.: Мир, 1969. 63. Энгелькинг Р. Общая топология. — М.: Мир, 1986. 64. Adams R. A. Sobolev Spaces. —New York: Academic Press, 1975. 65. C'-Algebras: 1943-1993. A Fifty Year Celebration. (Ed. R. S. Doran.) — Providence: AMS, 1994. 66. Blackadar В. К -Theory for Operator Algebras. — Berlin: Springer, 1986. 67. Beckenstein E., Narici L., Suffel С Topological algebras.—Amsterdam: North Holland, 1977. 68. Bolobas B. The work of William Thimothy Gowers // Proc. of the Int. Congr. of Math. Berlin 1998. V. I. —Berlin: Doc. Math. J. DMV, 1998. 69. Bonsall F. F., Duncan J. Complete Normed Algebras, r-Berlin: Springer. 1973. 70. Bottcher A., Silberman B. Analysis of Toeplitz Operators. — Berlin: Akademie-Verlag, 1989. 71. Bratteli 0., Robinson D. W. Operator Algebras and Quantum Statistical Mechanics. V. II. —Berlin: Springer, 1981. 72. Connes A. Noncommutative geometry. — London: Academic Press, 1990. 73. Dales H. G. Banach Algebras and Automatic Continuity. — Oxford: Clarendon Press, 2000. 74. Defant A., Floret K. Tensor Norms and Operator Ideals. — Amsterdam: North-Holland, 1993. 75. Effros E. G. Why the circle is connected: an introduction to quantized topology // Math. Intelligencer.—1989. —V. 11, № 1. —P. 27-34. 76. Effros E. G., Ruan Z.-J. Operator spaces. — Oxford: Clarendon Press, 2000. 77. Eilenberg S., MacLane S. General theory of natural equivalenses // Trans. AMS. — 1945. — V. 58. — P. 231-294. 78. Eschmeier J., Putinar M. Spectral Decompositions and Analytic Sheaves. — Oxford: Clarendon Press, 1996. 79. Fredholm I. Sur une classe d'equations fonctionnelles // Acta Math. — 1903. — V. 27. —P. 365-390. 80. Jones V. F. R. Subfactors and Knots. — Providence: AMS, 1991. 81. Helemskii A. Ya. An elementary realization of a nondiscrete factor // Russlon J. of Math. Phys. — 2000. — V. 7, ЛЬ 2. — P. 187-194. 82. Kadison R. V., Ringrose I. R. Fundamentals of the theory of operator algebras. V. I—London: Academic Press, 1983, 83. Kadison R. V., Ringrose J. R. Fundamentals of the theory of operator algebras. V. II.— London: Academic Press, 1986. 84. Klee V. L. Invariant metrics in groups (solution of a problem of Banach) // Proc. Amer. Math. Soc. — 1952. —V. 3. - P. 484-487.
540 СПИСОК ЛИТЕРАТУРЫ 85. Kodiyalam V., Sunder V. S. Topological Quantum Fieeld Theories from Subfactors // Chapman & Hall/CRC (ISBN: 1-58488-241-7. www.crcpress.com). 86. Mallios A. Topological algebras. Selected Topics. —Amsterdam: North Holland, 1986. 87. Von Neumann J. The mathematitian // In: The Works of the Mind. (Ed. R. B. Hewood.) —Chicago: Chicago Univ. Press, 1947. P. 180-196. 88. Von Neumann J. Uber Funktionen von Funktionaloperatoren // Ann. of Math. — 1931. —V. 32. —P. 191-226. 89. Paulsen V. Completely bounded maps and dilations. — New York: Longman, Wiley, 1986. 90. Pedersen G. K. C*-algebras and their automorphism groups. — London: Academic Press, 1979. 91. Pedersen G. K. Analysis now. —Berlin: Springer, 1989. 92. Pelczynski A., Bessaga Cz. Some aspects of the present theory of Banach spaces // In: Banach S. Oevres. V.II. — Warzsawa: PWN, 1979. 93. Pisier G. A polynomially bounded operator on Hilbert space which is not similar to a contraction // J. Amer. Math. Soc— 1997. —V. 10, № 2. —P. 351-369. 94. Pisier G. Similarity Problems and Completely Bounded Maps. — Berlin: Springer, 1995. 95. Pisier G. Introduction to the Theory of Operator Spaces. — Cambridge: Cambridge Univ. Press, 2002. 96. Read С J. A solution to the invariant subspace problem on the space J, // Bull. London Math. Soc. — 1985. — V. 17. — P. 305-317. 97. Reiter H., Stegeman J. D. Classical Harmonic Analysis and Locally Compact Groups. — Oxford: Clarendon Press, 2000. 98. Runde V. Lectures on Amenability. — Berlin: Springer, 2002. 99. Sakai S. C*-Algebras and W*-Algebras. — Berlin: Springer, 1971. 100. Segal I. E. Equivalences of measure spaces // Amer. J. Math.— 1951.— V. 73. —P. 275-313. 101. Segal I. E. Noncommutative geometry, by Alain Connes (review) // Bull. Amer. Math. Soc. — 1996. — V. 33. № 4. — P. 459-465. 102. Semadeni Z. Banach spaces of continuous functions. — Warzsawa: PWN, 1971. 103. Takesaki M. Theory of operator algebras. V. I. —Berlin: Springer, 1979. 104. Vasilescu F. H. Analytic functional calculus and spectral decompositions. — Dordrecht: Reidel, 1982. 105. Wegge-Olsen N. E. tf-theory and C*-algebras. — Oxford: Oxford Univ. Press, 1993. 106. Wojtaszczyk P. Banach spaces for analysts. — Cambridge: Cambridge Univ. Press, 1991.
УКАЗАТЕЛЬ ОБОЗНАЧЕНИЙ Z+ 16 Т 16 D 16 М" 16 И* 17 Ч>\" 17 И? 17 Yx 17 Af + ЛГ 17 М + х 17 AAf 17 F©G 18 span(X) 18 Ker(T) 18 C(E,F) 18 ?(Д) 18 S* 18 </,*) 18 Я* 18 p" 19 c«, I9 ««) 19 i-<y 20 2* 21 dim Я 22 coding F 22 BOR, BORg 24 ««(¦,•) 24 d(s,A0 25 С(П) 34 06(K) 38 hK(X, Y) 38 1* 39 h(X, Y) 39 hjc 39 Set 40 Lin, FLin 40 Ab, Gr 40 Rin 40 Ord 40 Met, ГЛеТц, Met, 41 Top, HTop 41 Meas 41 Д 42 /C° 42 C# 46 End(?) 48 Мог(Х!) 50 Ш*„кеЛ} 57 Х,ПХ257 Ш^кеЛ} 58 XtuX2 58 x{^|i/6A} 60 ®{Х„\иеА} 61 xs...ex„ 61 СА 64 1/с 66 1° 66 Cat 67 М*.?)-М?.*) 68 ?* 75 IIII 77 (Е, || ||) 77 Mh. iifiii. neiL. и\\Р 80 с; во со, с, lp, ^ 80 неnv 81 i; si '»(*) 81 1И» 81 С,,(П), С(П) 81 q>(R), Cfoflt) 82 С"[а,6] 82 ??(*,/i), ?°(JY,/i) 82 ? ?,(*,/*) 82 11*11? 82 ll-lloo 82 L°p(Xtfi) 82 INI, 83 /„(Л-) 83 L„(X,A») 83 var(/*) 84 M[o,6] 84 Qm{E„\veA} 86 II-L 86 ll-lln 86 Q,{E„\veA} 87 11/11, 87 ll/lln 87 ©oo^J"^} 87 U1B, III, Il4 88 Pw(x) 88 (x,y) 90 ||T|| 102 B(E,F) 102 В(Я) 103 JF(J5, F), F(E) 103 TA 105 T, 105 Гь 106 7} 106 D 108 L2(D) 108 T„ 109 Bi/(? x .F, G) 121 /Oji 124 E" 142 af 142 Mn(?) 147 Mn 147 Mir 150 II-II™ 150 ?m«x 150
542 УКАЗАТЕЛЬ ОБОЗНАЧЕНИЙ *m.n 150 imu is» CB(E,F) 151 D 152. 155 ф 160 х1, х±М 177 рщ, ,78 СВН(Н) 180 ST 181 Г((р) 187 В(Е,ч>), В(<р,Е) 193 (*), Т* 193 Г) 195 ? 206 Linb-f 214 EOF 215 ?®F, х®у 215 Gr§ 216 Ban*-*' 218 E®pF 218 ?§F 219 S§T 223 Gr 225 ||T||^ 225. 275 M(E, F) 225, 275 M(E) 225, 275 ttr 226 tr 226 H®K 229 Sir 231 СЬ(П) 237 С 242 П+ 244 K.(E, F), K.(E) 255 eOs 262 ||T||5 269 S(H, K), S(H) 269 BAN//C 282 Ind(S) 284 C°°[a,b] 296 O(D0) 296 (?,|HI„."€A) 297 so, wo 299 Afs, ДМ 309 E* 311 u; 316 w' 317 (*). (•¦) 330 V, VN 333 г(<) 333 d 334 III'III 334 a, e 335 ЧмО 336 2> 338 Z,1,00 340 ? 341 borw, BOR,,, 342 in. In* 344 a(T) 356 <7p(T). ^(T) 357 aT(T), at(T) 358 C[t], C* 364 aj\ o;1 364 <т(а), cA(a) 365 C(t) 366 7„ 368 7r 369 /С+(Я) 370 C(E) 371 Inv(A). inv 374 r(o) 380 0A0 382 u-(o) 382 %<¦) 382 exp(a), e" 383 Sin(a), C0S(a) 383 XA 386 Tbt 389 Th*, T* 390 (л*) 393 H1 394 В(Я)И 400 Tre, 3Jra 400 /(T) 430 t 430 y/T 434 T+, T . |Г| 439 Яд 441 V(H) 446 P 446 PA" 446 St[a, 6] 447 B[a,6] 454 II-II, 454 «m 454 1ъ 455 5[a, 6] 466 LI 470 /x 470 Ух 471 i/</i 472 M~«/ 473 ц±и 478 У„ 478 CZ 478 supp(/i) 478 пхУм 478 оохУ„ 478 FR, FT. Fz 493 Ta 497 J? 498 <Р*Ф 500 W, Л(Т) 500 ?<? 501 ©,. ©„ 507 D, M 512, 516 G 530 8 533 C) 534
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Аддитивность счетная сильно-операторная, слабо-операторная 463 аксиома выбора (Цермело) 19 алгебра 364 — банахова 371, 379. 508 звездная 415-417 коммутативная 385, 386 унитальная 375-378, 380 — винерова, А(Т) 373, 500 — инволютивная (*-алгебра) 413, 416 — Калкина 371, 415 — коммутативная 364 — матриц, М„ 364, 367, 413, 415, 416 — многочленов, C[t] 364, 370, 413, 414, 416, 428 — унитальная 364, 368 — фон Нойманна 420, 421, 425, 426 обертывающая 425 — функций, С* 364, 365, 370 борелевских, В [о, 6] 454 голоморфных, 0(Щ 382, 384, 385 рациональных, C(t) 366 — В(Е), В(Н) 364, 365, 370, 372, 401, 415, 417, 420, 424 — К(Е), К(Н) 370, 372, 374, 415, 417, 421, 453, 508 — С(П), С[а, Ь), С(Т) 372, 376, 417, 424 — Ц,(П) 372, 385, 413, 417, 418, 508 — Gj(R) 505, 508 — С\а, Ь] 373, 413 — lj(Z) 373,413.418.509 — /„ 372. 413. 414 — ?,(G) 373, 501. 531. 535, 536 — L,(R) 503-505, 509, 510 — L,(T) 506,511 — ЬЖ(Х, ц) 372, 413, 414, 421, 422 С'-алгебра 417-419, 421-425, 509 — операторная (конкретная) 417, 418 альтернатива Фредгольма 288 аппроксимация гротендика 226 База топологии 26 базис линейный 22 — объекта конкретной категории 71 — ортонормированный 270 — счетный 24 — топологический 100 — Шаудера 100, 101, 260 биекция каноническая 180 бикоммутант 420 биморфизм 52 биограничение отображения 17 Вариация меры 84 вектор ближайший 175 — циклический 472 векторы ортогональные 96 вложение 58 — естественное 121 — каноническое 143, 195, 324, 327 Гиперплоскость 136 — опорная 136 — разделяющая подмножества 145 гомеоморфизм 34, 43 — равномерный 44 гомоморфизм алгебр 366 инволютивный (*-гомоморфизм) 414, 415, 422, 423 унитальный 366, 367 график отображения 187 группа двойственная 531, 536 — топологическая 529 абелева 529 локально компактная 529, 530, 532, 534, 536 Двойственность естественная 226 диаграмма 47 — коммутативная 47 диаметр множества 32 дополнение линейное 18 — ортогональное 177 вектора 176 подмножества 177 — прямое топологическое 126, 183, 188 Единица алгебры 364 — аппроксимативная 508 ограниченная 508 — локальная 39 Закон сопряженной ассоциативности 221 закон отображения спектров для исчисления полиномиального 368 непрерывного 432 целого 384 — параллелограмма 95 замыкание множества 27
544 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ значение абсолютное самосопряженного оператора 439 — многочлена, р(а) 368 — целой функции, р(а) 382 Идеал 370, 374 — двусторонний 370 ¦ идеал 415 изометрия 24, 44 изоморфизм 43, 51, 56 — алгебр 366 инволютивный («-изоморфизм) 414 — изометрический ПО, 166, 168, 196, 280, 376 банаховых алгебр 373 полный 151 сопряженно-линейный 179 — осуществляющий подобие 48, 50 — сопряженно-линейный 18 — топологический ПО, 113, 166, 168, 186, 196,311,327 банаховых алгебр 373 полный 151 — унитарный 111, 168, 273, 275 инволюция в алгебре 413 индекс фредгольмового оператора, Ind (S) 284, 285 , 289, 387 интеграл Римана — Стильеса 446, 447 — по спектральной мере 467 — Фурье 490, 498 исчисление борелево 455-457,460, 467, 468 — голоморфное 384, 432 — непрерывное 428, 430-432, 438, 439, 447 — полиномиальное 368 — рациональное 369 — целое 382, 383 Картина оператора спектральная 476 упорядоченная 479 категории эквивалентные 75 дуально 75 категория 38 — алгебр, Alg 366, 367 унитальных коммутативных банаховых, UCBA 386 — С*-алгебр, С*-аш 422 унитальных коммутативных, UCC* 423 — дуальная 42 — групп, Gr 40, 53-55, 62, 69, 72, 76 категория групп абелевых, Ав 40, 53- 55, 62, 69, 72, 76, 530, 534 локально компактных, LCAb 530, 534 компактных, САв 530 — колец, Rin 40, 53-55, 76 — конкретная 70, 71 уравновешенная 71 — морфизмов, Мог(/С) 50 — пространств банаховых. Ban 167, 168, 170, 172, 187, 190, 193, 195, 198, 199, 201-205, 224 Ban, 71, 167, 168, 172, 201, 202, 204-206, 242 Ban /К 282, 283, 292 гильбертовых, Hil 167, 168, 170, 172, 189, 202-205, 393 Hil, 167, 168. 170, 172, 189, 202, 205, 393 измеримых, Meas 41, 44, 46 линейных, Lin 40, 43, 46, 53-55, 61, 62, 69, 72, 74, 76 конечномерных, FLlN 40, 44, 48, 53, 75 метрических Met 41, 43, 53, 54, 56, 64, 65, 71, 72, 157 МеТц 41, 43, 53, 55, 65, 157, 167, 247 Met, 41, 44, 53, 55, 65 нормированных, Nor 109-111, 116-118, 125, 126, 129, 130, 167, 310 Nor, 109-111, 116, 118, 129, 130, 167 квантовых, QNor 151, 199 QNor, 151 максимальных, MQNor 155 MQNor, 155 полинормированных, Pol 310- 313, 330 хаусдорфовых, HPOL 310-313, 330 — — преднормированных, PRE 109- 111, 116-118, 125, 126, 129, 130, 167, 310 PRE, 109-111, 116, 118. 129, 130. 167 топологических, Top 41, 43, 53, 54, 56, 63, 64, 71, 72, 236, 239 компактных 239, 241, 242 хаусдорфовых, HTop 41, 53, 55, 56, 63, 64 компактных, СНТор 56, 239, 241, 242, 386,423
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 545 — множеств, Set 40, 43, 45, 46, 53-55, 60, 67, 69, 71, 74 упорядоченных, Ord 40, 53-56 — стандартная симплициальная 42, 54 — функторов Ск 75 — Cat 67, 75 квантование нормы 149 — максимальное, минимальное 150 — пространства нормированного 149 — столбцовое, строчечное 150 класс Шаттена — фон Нойманна 280 коммутант 420 компактификация одноточечная (александровская) 244, 245 композиция морфизмов 38 конец морфизма 38 ГНС-конструкция 423 коограничение отображения 17 копродолжение отображения 17 копроизведение 58, 125, 126, 202, 203 коразмерность подпространства 22 корень квадратный арифметический из оператора 434 коретракция 51, 56, 189 коэффициенты Фурье вектора 98 функции 488 кратность собственного значения 407 Лемма о почти перпендикуляре 252 — Цорна 21 Матрица оператора 119 — лоранова 174 мера абсолютно непрерывная 472 — комплексная борелева 84 — левоинвариантная 532 — личная вектора относительно оператора 470 — регулярная 532 — спектральная 463, ассоциированная с оператором 464, 465. 468 — Хаара 532 меры взаимно сингулярные (ортогональные) 478 — эквивалентные 473 метрика дискретная 30 — порожденная нормой (нормовая метрика) 78 — унаследованная 25 многочлен от элемента алгебры, р(а) 368 — Эрмита 98 множество всех проекторов, V(H) 18 — выпуклое 446 — измеримое 24 — открытое 35, 37 — упрядоченное 20, 21 линейно 21 направленное 36 — уравновешенное 18 — элементов алгебры обратимых, Inv (А) 374, 375 мономорфизм 52 — крайний 56 морфизм категории 38 — левый (правый) обратный 51 — обратный 43 морфизмы слабо подобные 49 относительно подкатегории 50 мор-функтор 68, 74 Набор спектральных типов оператора 479 направленность 36 начало морфизма 38 неравенство Бесселя 99 — Коши — Буняковского 92 — мультипликативное 371 для операторных преднорм 103 — треугольника 77 норма 77 — гильбертова 94, 178 — квантовая 148 — операторная 103, 117 — порожденная скалярным произведением 94 — равномерная 81 — унаследованная 79 — Шмидта 230, 269, 272 — ядерная 225, 275 — п-го этажа 148 sup-норма 81 нормы эквивалентные 188 носитель обобщенной функции 350 Оболочка линейная 18 объединение семейства множеств дизъюнктное 16 объект 38 — инициальный 42, 43 — модельный (объект) 45 — нулевой 42 — представляющий 76 — свободный 72 — финальный 42, 43
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ /С-объект косимплициальный 73 — симплициальный 73 объекты изоморфные 43 ограниченность равномерная 191 — поточечная 191 окрестность точки 26 оператор 18 — абстрактный фредгольмовый 283 — ассоциированный с билинейным оператором 213/220 с разложением единицы 449 — билинейный сжимающий 120 вполне ограниченный 155 мультипликативно ограниченный 155, 156 совместно ограниченный 120, 192, 218 раздельно ограниченный 120,192 Шмидта 230 — бипродолжающий 346 — Вольтерра 108 — вполне изометрический 151 ограниченный 151, 152 сжимающий 151, 154 — второй сопряженный 195 — Гротендика 225, 226, 261 — диагональный 105, 114, 257, 285, 361, 393, 401, 410, 431, 465, 472 — дифференцирования 109, 259, 309, 338, 346 оператор идемпотентный 127 — изометрический 104, 122, 189, 197, 396, 398, 470, 472 частично 397, 398 — интегральный 108, 258, 259, 273, 274, 393, 397, 401 — канонический изометрический 142 — коизометрический 104, 123, 189, 197, 397, 398 — компактный 255, 256, 262, 267-269, 284, 286, 293, 323, 328, 360, 395, 405, 406,408,409,411,465 — композиции 309 — конечномерный 19, 162, 395 — неопределенного интегрирования 107, 257, 381, 393, 410 — непрерывный 304, 308, 319 — нормальный 400-402, 405, 469 — нулевой 104 — п-мерный 19 — ограниченный 102, 103, 112, 115, 116, 165, 175, 181, 184-187, 223, 231, 279, 283, 308, 321, 322, 356, 371, 392, 404, 452 — одномерный 19, 124, 262, 395 — однородный кратности п 480 — открытый 113 — положительный 411, 434, 435 — порожденный оператором 123 — самосопряженный (эрмитовый) 399- 409, 427. 433-439, 443, 444, 451, 452, 462, 465, 468, 472, 474-477, 479 — сдвига 105, 257. 362, 401 двустороннего 106 левого 106, 196, 361, 378. 393 правого 106. 196, 361, 378, 393 на а 109 — сжимающий 104 — слабо* сопряженный 319 — следового класса 275 — Соболева 347 — сопряженно-линейный 18 — сопряженный банахов 193,194,197, 359 гильбертов 390-392, 394 — тёплицев 174 — тождественный 104 — топологически инъективный 113, 122, 123, 197, 327, 358 сюръективный 113, 197 — умножения на независимую переменную 431, 442, 461, 465, 471, 473, 474, 476 оператор умножения на функцию 106, 107, 114, 257, 285, 309, 361, 393, 401, 431,472,477,480 — унитарный 111, 166, 397, 403 — фредгольмовый 283-286, 293, 294, 395 — Фурье гильбертов 109. 525-528 классический 493, 494 на локально компактной группе 533 — ханкелев 174 — циклический (с простым спектром) 472, 474, 480 — Шмидта (Гильберта — Шмидта) 269, 270, 273, 274, 277, 279, 411 — ядерный 224, 275-278. 281. 411 операторы слабо изометрически эквива- эквивалентные 116 — изометрически эквивалентные 1 Г? — топологически эквивалентные 117, 357, 362, 408 — унитарно эквивалентные 173, 408, 476
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 547 ортопроектор 178, 179, 397, 398, 402 отношение порядка на операторах 436- 438 — предшествования 20 отображение биективное 16 — голоморфное целое 382 — измеримое 24 — изометрическое 24 — инъективное 16 — монотонное 41 — непрерывное 25, 33, 36 в точке 25, 33 — открытое 34 — равномерно непрерывное 24, 247 — сжимающее 24 — сюръективное 16 собственное 24 — топологически инъективное 34, 237 сюръективное 34, 237 — inv 374,375 отображения эквивалентные 24 отражение ортогональное 397, 398 Первообразная обобщенная 349 подалгебра 369, 370 «-подалгебра 415 поднаправленность 235 подпокрытие 234 подкатегория 39 — полная 39 подмножество компактное 234, 235 — нигде не плотное 158 — ограниченное 32, 307 — открытое 300 — относительно компактное 243 — плотное (всюду плотное) 28 — равностепенно непрерывное 253 — разреженное 158 — самосопряженное (¦-подмножество) 415 — сверхограниченное 246-248, 251, 253 — собственное 17 — тотальное 99 — тощее, тучное 158 подпространство инвариантное относительно оператора 18, 394, 402 — квантовое 148 — метрическое 25 — топологически дополняемое 126, 128, 162, 184 — топологическое 27 — полинормированное 298 подпространство циклическое, порожденное вектором х 471, 475 покрытие открытое 234 пополнение 207, 208, 209, 211, 212 порядок на множестве 20, 23 дискретный 21 линейный 20 — обобщенной функции 339 последовательность быстро убывающая 516 — в категории 198 — сопряженная 197 — сходящаяся 34 — точная 197 — фундаментальная 157 предбаза топологии 26 предел направленности 37 — последовательности 34 предметрика 31, 89 преднорма 77-79, 87, 88, 93 — билинейного оператора 120 — гильбертова 94, 95 — допустимая 333, 334 — мажорирующая 114 — операторная 102, 117 преднорма, порожденная скалярным произведением 94 — проективная 218 — унаследованная 79 преднормы сопутствующие 298 — эквивалентные 115 представление алгебры 367 инволютивное («-представление) 414,416 ГНС-представление 424 преобразование Гельфанда 386, 509 — естественное функторов 73, 74, 195 — Фурье классическое на прямой 490, 493-497, 505, 506 на окружности 490 наг 490, 500 гильбертово 525 на локально компактной абеле- вой группе 532 обобщенных функций 512, 515, 517-519, 523 обратное 498, 499 признак Вейерштрасса 164 принцип вложенных замкнутых подмножеств 158 — открытости 186 — продолжения по непрерывности 165 — равномерной ограниченности 190
548 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ продолжение отображения 17 проектор 127, 128, 188, 255, 359, 369, 398, 431, 438, 442, 451, 465, 472, 480 — ортогональный (ортопроектор) 178 проекция 57 — естественная 121 произведение предскалярное 90, 95, 228 — прямое банахово 159 — семейства объектов 57, 59 множеств декартовое 60 — скалярное 91 — тензорное алгебраическое 213, 216 банахово 217, 221 операторов 223, 224 гильбертово 229 проективное 217, 221 функционалов 215 — тихоновское (топологическое) топологических пространств 63, 240, 241, 244 — унаследованное 91 производная обобщенная 347 в смысле Соболева 347 пространство банахово 158, 159, 163, 164, 165, 172, 184, 190, 192, 206, 256, 260, 261, 356 — Варопулоса 224 — второе сопряженное к Е, Е" 142, 324, 327 — гильбертово 159, 168-170, 175, 177-180, 184, 185, 260, 262, 276, 282, 331, 470 рефлексивное 180 — достаточное 315, 319 — измеримое 23, 222, 231 — квантовое 148, 151, 152, 154, 156 конкретное 149 максимальное 150 минимальное 150 — комплексно-сопряженное 18, 94 — линейное локально выпуклое 301 — линейно-сопряженное, Я" 18 линейных, C(E,F),?.(E) 18 — метрическое 89, 94, 249, 250 сверхограниченное 246-248 сепарабельное 89 — нормированное 77, 78, 85, 94, 125, 127, 139, 147, 161, 162, 191, 207, 209- 211, 219, 220, 251-253, 321, 322, 324- 326, 329, 330 квантовое 148 конкретное 149 подлежащее 149 пространство операторов вполне ограниченных, СВ (Е, F) 151,200 компактных, К(Е, F) 255, 278 конечномерных, Т(Е, F) 103 непрерывных, В(Е, F) 309, 311, 312 ограниченных, В(Е, F) 102, 103, 255, 279, 280, 290, 299, 300, 305 действующих в пространстве Е, В(Е) 103, 261, 300, 330, 331, 364 фредгольмовых, Ф(Е, F) 387,388 действующих в пространстве Е, Ф(Е) 387 Шмидта, S(H, К) 269, 272, 275, 277, 415 ядерных, ЩЕ, F) 225, 261, 275, 277-280, 415 {В(Е, F), so) 299, 302, 309, 385 (В(Е, F), wo) 299, 302, 303, 309, 316, 385 — полинормированное 297, 299, 300, 302-304, 306, 307, 312-318, 328, 329, 334, 335, 345 пространство полинормированное сильнейшее 298, 310 слабейшее 310 — почти гильбертово 91, 94-101, 211, 228 — предгильбертово 91, 93, 228 — предметрическое 31, 94, 157 — преднормированное 77-80, 94, 128, 133, 134, 137, 138, 142, 165, 184 — преднормируемое 306, 307 — предсопряженное 421 — рефлексивное 143, 144, 163, 320, 325, 328 — самосопряженных операторов, В(Н)и 400 — сопряженное к Я, Я* 103,311,315, 318-320 (Е*,ы) 318, 321 (?*, w*) 318, 319, 321, 325, 330 — сопутствующее 298 — счетно-нормированное 298, 306 — топологическое 26, 27, 94 векторное 301 компактное (компакт) 234-237, 238. 241. 242. 244 линейно связное 34 локально компактное 243, 244, 245 метризуемое 30 предметризуемое 31
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 549 пространство топологическое сепара- бельное 28, 29 хаусдорфовое 30, 94, 237, 238, 244, 245 — Фреше 308 — функций борелевых, В[а, Ъ] 454, 461 — функционалов непрерывных на Е, Е" 311, 313 — Шварца, S 335, 512-515 — с 80, 328 — с,, 80, 81, 85, 131,144, 159,183, 195, 208, 260, 279, 362, 378, 421 — Со(Х), Co(Z) 237, 493 — сю 19, 81,99, 131, 208 — <:„, 19, 131, 296-298, 302. 308, 316 — J, 95, 131, 132, 144, 171, 175. 195, 279, 321, 421 — г,(Х) 83 — /,(Z) 493,499,500 — tj 91, 96, 99, 132, 143. 150, 152, 169, 195, 257, 279, 321, 391, 393, 410, 417 — 4, q 150,153, 200, 227 — фт 200 — q*in 153,200 — ij(Z) 522 — ЦХ) 93 — lp 80, 81, 83-85, 101, 104, 208. 252. 254, 257, 280, 285, 362, 378 — у 105, 111 — lp(X) 83-85 — /p(Z) 106, 172, 257, 362, 363, 378. 379 — lm 80, 81, 86, 132, 183, 195, 330, 363. 378, 421 — 1Ж(Х) 81. 83. 159 — (С, || ||p). С; 80. 81, 83. 88. 104, 111. 118. 159,246,251 — C(il) 34, 144, 237, 329 — Cb(il) 81. 159. 237 — q,(fi) 237. 245 — C]a, b] 81. 84. 85. 95, 107, 140. 144. 159, 183. 208. 224, 243, 454 252. 253. 254, 257, 330. 434 — Cn[a, b] 82. 85, 159, 254. 298. 373 — C"[a,i] 296-298. 302, 306, 308, 309 333 — 'q,(R) 82, 237, 492, 493, 496 — CqoW 82, 84 — C(T) 84, 493, 500 пространство L°(X, p) 82 — L,(X,|i) 84.95, 144, 171 — L,[a, 6] 107, 171, 208, 257, 328 — i,(R) 492-495, 497, 499. 500, 503, — L,(T) 493 — LJX,n) 84, 93, 94, 181, 393, 417 — ЩХ, fi) 92, 94 — L2[a, b) 93, 96-99, 257, 258, 273, 291,361,393 — L2(R) 93, 98, 99, 503. 524 — L,(T) 93, 97, 522 — L°(X, fi) 82-85 — Ьр(Х,ц) 83, 85, 106, 132, 143, 160, 361 — Lp[a, b] 84, 85, 252, 257, 285 — Lp(R) 84, 85, 257. 362. 363. 378. 379 пространство L°[a, 6]. L°(R), L°(T) 85 — L (T) 84. 85. 363, 379 — L°,(X, fi) 82, 86 — Ьх(Х,ц) 86, 144, 159 — M[a, b] 84, 85, 140 — P[a, b] 208 — O(D0), O(U) 296-298, 302, 306, 308,309 — (D,d) 333-339, 344-346, 350, 351 — (S, <r) 335-338, 344-346, 499, 512 — (€, e) 335-339, 344, 345, 350 процесс ортогонализации 98 Равенство Парсеваля 100 — Пифагора 96 радиус спектральный 380, 402 разложение единицы абстрактное 446- 448 для оператора Г 444, 445, 448- 451 — полярное 401, 411, 412 размерность гильбертова 170 — линейная пространства 22 распределение 338 расстояние от элемента до подмножества 98 растяжение множества 17 ретракция 51, 189 ряд сходящийся 79 абсолютно 164 — Фурье вектора 98 — Шмидта 265, 270, 276
550 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Свойство аппроксимации 259-261 — универсальности 206, 213 свертка 373, 501-503, 505 — обобщенных функций 507, 508 — функций на локально компактной группе 535 сдвиг множества 17 семейства преднорм эквивалентные 305, 306, 307 семейство подмножеств центрированное 235 — преднорм сильно-операторное, so 299, 305, 312 слабо-операторное, wo 299, 305 слабое, А-слабое 316 слабое* 317 согласованное со множеством А 329 мажорирующее преднорму 305, 306 — пространств, ассоциированных с оператором Т 441-443, 452 правильное 452 е-сеть Хаусдорфа (е-сеть) 246 система векторов ортогональная 96 ортонормированная 96, 97, 99, 100, 262 тригонометрическая 97, 98 — инвариантов 45 — функций Радемахера 97 Эрмита 98,496 Уолша 97 — тотальная 99 — элементов линейно независимая 22 след 226. 276, 277 — операторный 226 — тензорный, ttr 226, 282 соотношения сопряженности 390 состояние 424 спаривание пространств 226 спектр Гельфанда коммутативной банаховой алгебры. П.М) 385, 386 спектр оператора 117, 356-360, 365, 399, 404. 405. 443 непрерывный 357, 359 остаточный 358, 405 существенный 358, 359. 371, 377 точечный 357 — элемента 365, 367. 368, 376. 377 сужение оператора 18 сумма алгебраическая множеств 17 — гильбертова 160 операторов 475 сумма интегральная Римана — Стильеса 446 — прямая банахова 159 гильбертова 160, 474 матриц 147 — подпространств 17 семейства линейных пространств 61 топологическая 126 Cg-сумма семейства 87 1р-сумма операторов 124 — семейства 87 сфера единичная 88 сходимость в среднем 84 — вейерштрассова 296, 302 — классическая 196, 335 квадратичном 84 — покоординатная 2% — слабая, слабая*, А-слабая 317 Тензор элементарный 215 теорема Александрова 71, 238 — Арвесона — Виттстока 156 — Арцела 253 — Банаха —Алаоглу 325, 327, 329 — Банаха об обратном операторе 71, 186 — Банаха — Стоуна 242 — Банаха — Штейнгауза 190 — Бэра 158 — Гауэрса 172 — Гельфанда 385 — Гельфанда — Мазура 378 — Гельфанда — Наймарка 418, 423, 431 — Гельфанда — Райкова 535 — Гильберта — Шмидта 405-408 — Гротендика 222, 261 — единственности 208, 214, 217. 493. 520, 533 — Калкина 453 — Коэна факторизацнонная 508 — Крейна — Мильмана 328 — Куратовекого 241 — Лиденштраусса — Цафрири 184 — Милютина 243 — Никольского 293 — о замкнутом графике 187 — о борелевом исчислении 456 — о непрерывном исчислении 428, 431 — о достаточном множестве характеров 533 — об обращении 515
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 551 теорема Планшераля 525 — Понтрягина (принцип двойственности) 534 — Пэли — Винера 528 — Рисса 140. 179, 182, 253 — Руана 151 — Сакаи 421 — спектральная 451, 468, 476 теорема спектральная завершенная 479, 480 — существования 209, 215, 220 — Тихонова 240 — фон Нойманна 421 — фон Нойманна — Йордана 95 — фон Нойманна о бикомыутанте 420 — Филлипса 183 — Фишера — Рисса 168 — Фредгольма 291, 396, 403 — Хана —Банаха 134, 137, 145, 156, 166 — Цермело 23 — Шаттена — фон Нойманна 278 — Шмидта 262, 268. 408 — Энфло 260 — Энфло —Рида 175 тип спектральный 473 независимый 478 тождество Гильберта 377 — полярное 90 для преднормы 95 С*-тождество 393, 417 топология 26, 300 — Диксмье 330 — Зарисского 33 — Макки 329 — метризуемая 30 — порожденная (индуцированная) метрикой 29 — порожденная преднорыой 78, 89, 115 — порожденная нормой (нормовая топология) 78, 320 предметрикой 31 семейством преднорм 300, 301, 306 — сильно-операторная, и» 300, 312, 320 — слабо-операторная, wo 300 — слабо-мерная 454 — слабая 316-318, 320, 327 — слабая* 317. 318, 320. 330 — Л-слабая 316, 317 — тихоновская 63 топология ультраслабая 330 — унаследованная 27 точка бесконечно удаленная 244 — разрыва семейства подпространств 443 — возрастания семейства подпространств 443 — внутренняя 26, 300 линейно 145 — крайняя 328 — прикосновения 26 — предельная 26 — оператора регулярная 356 сингулярная 356 существенно сингулярная 358 — строго предельная 26 Уравнение интегральное Вольтерра 381 второго рода 290, 396, 403 однородное 290 — операторное 291, 396 однородное 291 — сопряженное 396 условие Дини 498 Фактор 426 факторалгебра 370, 374 ¦-факторалгебра 415 факторнорма 79 факторпреднорма 79 факторпространство топологическое 28 форма квадратичная 90 оператора 400, 435 функтор банаховой сопряженности (банахов функтор звездочки) 193 — верный 67 — Гельфанда 386, 423 — гильбертовой сопряженности, (л*) 393 — двойственности 534 — дуальности 66 — забывающий 69, 70, 201 — ковариантный 65, 67 — контравариантный 66, 67 — морфнзмов ковариантный, контрва- риантный 68 — непрерывных функций, С 242, 386 — полный 67 — представимый 76 — свободы 70, 72 — слабой* сопряженности 330
552 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ функтор тензорного произведения бана- хового 224 гильбертового 233 — тождественный 66 функционал 18, 179, 219 — Минковского 88, 89 — на банаховой алгебре 377 — на пространстве преднормирован- ном 133, 134, 137, 138 — на пространстве Lp(X, /i) 132 — на пространстве L2{X, /i) 181 — на пространстве С[а, Ь] 140 — на пространстве гильбертовом 179 К(Н,К) 278 ЩН,К) 279 — непрерывный на полинормирован- ном пространстве 311, 313-315 на пространстве (D, d) (функция обобщенная) 338, 344, 345 на пространстве (S, а) (функция обобщенная умеренного роста) 338, 344, 345 на пространстве (?, е) (функция обобщенная с компактным носителем) 338, 344, 345 — А-слабо непрерывный на полинор- мированном пространстве 318 — означивания 142, 317 — сопряженно-билинейный 90, 180 ассоциированный с оператором Г, 5Г 181, 391 ограниченный 180, 181 — строго положительный 424 — тензорный следовой 226 функция борелевская 454 простая 466 — быстро убывающая 334 — Гаусса 335, 492 — голоморфная 382, 384 — исчезающая на бесконечности 87, 237 — квадратично интегрируемая 524 — локально интегрируемая 339, 341, — ' обобщенная 338-342, 344, 347- 349, 353, 354 регулярная 340, 341, 343, 347, 352 сингулярная 340 сосредоточенная на множестве 350 умеоенного роста 338, 343, 344, 349 функция обобщенная с компактным носителем 338, 339,343,344,350, 352,353 — производящая 108, 273, 401 — ступенчатая 446 — существенно ограниченная 82 — финитная 333 — Хевисайда 348 — Эрмита 98, 492 б-функция Дирака 341, 342, 505 Характер алгебры 367 банаховой 374 — групповой 530 Часть самосопряженного оператора отрицательная, положительная 438 «числа оператора 265, 266, 269, 275 Шар единичный 88, 253, 323, 325, 327, 328, 329 замкнутый 88, 122 открытый 88 — открытый стандартный 300 Эквивалентность естественная 74 дуальная 74 — изометрическая 172 — категорий 75 дуальная 75 — слабо унитарная 118 — унитарная 118,172,274 элемент алгебры самосопряженный 413 положительный 434 сопряженный 413 унитарный 413, 419 — ближайший 98 — идемпотентный 368 — нильпотентный 368 — нульстепенный обобщенный 381 — обратимый 364, 365, 369, 376 — обратный, левый, правый 364 — топологически нильпотентный 381 элементы перестановочные 364, 365 эндоморфизм 39 эндоморфизмы подобные 48 относительно подкатегории 49 Ядро оператора 18