Гильбертово пространство в задачах - Халмош П.

Автор: Халмош П.

Теги: дифференциальные, интегральные и другие функциональные уравнения конечные разности вариационное исчисление функциональный анализ математика

Год: 1970

Похожие

Некорректные задачи математической физики и анализа

Меры и дифференциальные уравнения в бесконечномерных пространствах

Задачи по функциональному анализу

Вариационное исчисление в примерах и задачах

Текст

A HILBERT SPACE
PROBLEM BOOK
PAUL R. HALMOS
Professor of Mathematics
The University of Michiyan
D. VAN NOSTRAND COMPANY, INC.
PRINCETON, NEW JERSEY
TORONTO LONDON
1967

П. ХАЛМОШ
ГИЛЬБЕРТОВО
ПРОСТРАНСТВО
В ЗАДАЧАХ
Перевод с английского
И. Д. НОВИКОВА и Т. В. СОКОЛОВСКОЙ
Под редакцией
Р. А. МИНЛОСА
Издательство «Мир»
МОСКВА 1970

УДК 517.948, 513.88
Имя Пауля Халмоша весьма популярно в математическом
мире и хорошо известно советскому читателю, высоко
оценившему его книги «Теория меры», «Лекции по эргодической теории»
и «Конечномерные векторные пространства». Его новая книга
представляет собой оригинальный учебник по теории
гильбертовых пространств и их применений, рассчитанный на активного
читателя.
Книга, несомненно, полезна широкому кругу читателей,
особенно студентам и преподавателям функционального анализа
а также всем тем, кто желает освежить и пополнить свои знания
в одном из важнейших разделов современной математики —
теории гильбертовых пространств. Заинтересуются ею и физпкп-
теоретики.
Редакция литературы по математическим наукам
Инд. 2-2-3
17-70

ПРЕДИСЛОВИЕ РЕДАКТОРА ПЕРЕВОДА
Эта книга написана специалистом по гильбертовым
пространствам, педагогическое мастерство которого общеизвестно. Почти
уникальный способ изложения, продуманность деталей,
виртуозность конструкций и доказательств, а также многообразие тем,
обилие и новизна фактов, по большей части малоизвестных,—
все это делает книгу превосходной.
Читатель, который поработает над книгой, овладеет не только
большим числом тонких результатов, но и довольно развитой
техникой теории гильбертовых пространств.
Следует, однако, предостеречь читателя от мысли, что он
найдет в книге все, что известно про гильбертовы пространства. Автор
ограничился кругом близких ему тем, оставив без внимания другие
аспекты теории. Но это еще не беда. Хуже то, что гильбертовы
пространства превращаются у Халмоша в самоцель. Увлеченный
филигранной отделкой деталей и стремясь к логической
завершенности, он оставляет в тени первоначальные импульсы, породившие
ту или иную задачу, а также связи с анализом и физикой.
Впрочем, этот упрек по отношению к так превосходно
написанной книге, быть может, не оправдан. Во всяком случае он не
умаляет тех явных ее достоинств, о которых уже говорилось.
Р. Минлос

ПРЕДИСЛОВИЕ
Единственный способ овладеть математикой — делать
математику. На этом принципе построен Сократов метод обучения,
который называют также техасским методом. Преподаватель при
таком методе играет роль всеведущего, но малообщительного
посредника между учеником и фактами. Этот метод обычно (а
может быть, и обязательно) предполагает устное общение с
преподавателем. Тем не менее в этой книге сделана попытка
воспользоваться им для ознакомления с некоторыми вопросами теории
гильбертовых пространств.
При правильном чтении математической литературы следует
сначала прочитать определения понятий и формулировки теорем,
а затем, отложив книгу в сторону, попытаться самому найти
соответствующие доказательства. Если теорема нетривиальна, то такая
попытка может оказаться неудачной, но даже в этом случае она
очень поучительна. Пассивный читатель с равной простотой
воспринимает стандартные вычисления и чудо изобретательности, но
потом, когда ему приходится действовать самому, оказывается,
что все исчезло так же быстро, как когда-то было воспринято.
Активному читателю, который понял, какие средства непригодны
для доказательства, и разобрался в причинах успеха авторского
подхода, в дальнейшем легче самому находить ответы, которых
нет в книгах.
Эта книга рассчитана на активного читателя. Ее первая часть
состоит из задач. Перед формулировкой задачи часто излагаются
определения и наводящие соображения, а иногда приведены
следствия и исторические замечания. Большинство задач представляют
собой утверждения, которые нужно доказать, но есть и вопросы,
на которые нужно ответить (является ли? что является?);
некоторые задачи содержат призыв (построить, определить). Во второй
части книги, очень краткой, собраны указания, состоящие из од-

Предисловие
ного слова или абзаца и обычно призванные помочь читателю
найти решение задачи. Указание не обязательно представляет
собой экстракт решения; часто оно просто указывает на то, в чем
я вижу существо дела. Задача иногда содержит ловушку, и
указание должно предостеречь читателя от слишком безрассудного
шага. Третья часть, самая длинная, состоит из решений,
доказательств, ответов и построений — в зависимости от задачи.
Задачи, собранные в этой книге, должны наводить на
размышления, не обязательно связанные с технической стороной дела.
Читатель, который ищет только решения в узком смысле слова
(вот, что спрашивалось, и вот, как это делается), многого не
заметит и потеряет большую часть удовольствия. Не удовлетворяйтесь
поэтому формальным ответом, а попытайтесь подумать над
близкими вопросами, обобщениями (а что, если оператор не является
нормальным?) и частными случаями (что происходит в
конечномерном пространстве?). Подумайте, из-за чего утверждение верно
и какое изменение сделает его ошибочным.
Если вы не можете решить задачу и указание вам не помогло,
то лучше всего перейти к следующей задаче. Не стесняйтесь в
дальнейшем использовать утверждение, содержащееся в нерешенной
вами задаче: его правильное и даже неправильное использование
может существенно прояснить решение. Если, с другой стороны,
вы решили задачу, все равно посмотрите указание, а затем и
решение. Там вы можете найти модификации, обобщения и частные
случаи, о которых вы не подумали. В решении могут вводиться
стандартные термины, описываться история предмета и
указываться соответствующая литература.
В книге рассматриваются самые разные вопросы — от
совершенно стандартных учебных задач до границ известного. Я
старался избегать скучных вопросов со стандартными ответами;
каждая задача из этой книги хоть один раз ставила меня в тупик.
Я не пытался достичь максимальной общности во всех
направлениях, с которыми связаны приведенные задачи, а хотел только
сообщить идеи и технику, оставив обобщения читателю.
Чтобы извлечь из этой книги максимальную пользу, читатель
должен владеть элементарной техникой и результатами общей
топологии, теории меры, вещественного и комплексного анализа.
Я использую, без особых упоминаний и ссылок, такие понятия,

Предисловие
как подбаза топологии, прекомпактные метрические
пространства, пространства Линделёфа, связность, сходимость сетей,
и такие результаты, как метризуемость компактного пространства
со счетной базой и компактность произведения компактных
пространств (см. Келли [1]). Из теории меры я использую такие
понятия, как а-алгебра и пространства L'', и такие результаты, как
существование для всякой последовательности, сходящейся
в смысле Lr>, почти всюду сходящейся подпоследовательности и
теорему Лебега о мажорированной сходимости. (см. Халмош [2]).
Из вещественного анализа мне необходимы сведения о
производных абсолютно непрерывных функций и теорема Вейерштрасса
о приближении полиномами (см. Хьюитт, Стромберг [1] 1)).
Из комплексного анализа понадобятся ^ такие понятия, как
ряды Тейлора и Лорана, субравномерная сходимость и принцип
максимума модуля (см. Альфорс Ц] 2)).
Настоящая книга не является введением в теорию
гильбертовых пространств. Некоторые факты из этой теории требуются
с самого начала; в крайнем случае элементы теории гильбертовых
пространств нужно изучать одновременно с чтением этой книги.
В идеале читатель должен иметь подготовку, соответствующую
первым двум главам книги Халмоша [3].
Я старался указывать, откуда я узнал задачу и решение и где
найти дальнейшую информацию, но во многих случаях мне это
не удалось. Когда я приписываю кому-нибудь результат без
указания в квадратных скобках соответствующей работы, я имею
в виду устное сообщение или препринт. Если ссылка отсутствует,
то это не означает, что я претендую на оригинальность; более
вероятно, что эта теорема из «математического фольклора».
Обозначения и терминология, как правило, стандартны
и употребляются без особого объяснения. В том, что касается
гильбертовых пространств, я следую моей книге [3], за исключением
небольших деталей. Так, например, для обозначения векторов
я использую буквы / и g вместо х и у (последние, как правило,
обозначают точки пространств с мерой) и, как это теперь принято,
пишу «ядро» вместо «нуль-пространство». (Троякое использование
й) См. также Шилов [1].— Прим. пгрев.
2) См. также Маркушевич [1].— Прим. перев.

Предисловие
термина «ядро» для обозначения A) нуль-пространства, B)
непрерывного аналога матрицы и C) производящей функции,
ассоциированной с функциональным гильбертовым пространством,
неприятно, но неизбежно; надеюсь, что оно не приводит к недоразумениям.)
Ядро и область значений обозначаются через ker и ran
соответственно, размерность — через dim, след — через tr, а
вещественная и мнимая части — через Re и Im. Знак комплексного числа г,
т. е. zl] z | для г ^0 и 0 для z = О, обозначается через sgn z.
Коразмерностью подпространства в гильбертовом пространстве
называется размерность его ортогонального дополнения (или
совпадающая с ней размерность соответствующего факторпростран-
ства). Символ v употребляется для обозначения замкнутой
линейной оболочки, так что М м N представляет собой наименьшее
замкнутое линейное многообразие, содержащее М и N; аналогично
У Мj является наименьшим замкнутым линейным многообразием,
содержащим все Mj. Заметим еще, что подпространством
называется замкнутое линейное многообразие, а оператором —
ограниченное линейное преобразование-
Стрелка используется в двух смыслах: fn -*~ f означает, что
последовательность {/„ } стремится к пределу /, а х ->¦ х2 обозначает
функцию ф, определенную равенством ср (х) = х2. Так как
скалярное произведение двух векторов / и g всегда обозначается через
(/, g), то для составленной из них упорядоченной пары необходим
другой символ; я пишу (/, g). Это приводит к систематическому
употреблению таких скобок при координатной записи векторов,
например (/0, /j, /2, . . . ). В соответствии с непоследовательной,
но широко распространенной манерой я использую фигурные
скобки для обозначения и множеств, и последовательностей: {х}
обозначает множество, состоящее из единственного элемента х,
а {хп} — последовательность с тг-ж членом хп (п = 1, 2, 3, . . .).
Это могло бы привести к путанице, но из контекста всегда понятно,
что имеется в виду. Число, комплексно сопряженное кг, я
обозначаю через z*. Это, возможно, непривычно для математиков, но
широко используется физиками, превосходно согласуется с
общепринятым обозначением сопряженного оператора и
предпочтительно с типографской точки зрения. (Образ множества М
комплексных чисел при отображении z -+ z * обозначается через М *;
символ М употребляется для топологического замыкания.)

10 Предисловие
Я обучал" гильбертовым пространствам с помощью задач в
течение многих лет. В этом мне постоянно помогали мои друзья
из числа студентов и коллег. Их было значительно больше, чем
я могу здесь перечислить, и всем им я выражаю свою сердечную
благодарность. Без их помощи эта книга не могла бы появиться;
книгу такого рода нельзя написать без постоянного общения с
другими математиками. Я хочу особенно поблагодарить Рональда
Дугласа, Эрика Нордгрена и Карла Пирси; каждый из них прочел
всю рукопись (или почти всю) и предостерег меня от многих глупых
ошибок.
Пауль Р. Халмош
Мичиганский университет

ЗАДАЧИ
ГЛАВА 1. ВЕКТОРЫ И ПРОСТРАНСТВА
1. Пределы квадратичных форм. Наиболее интересными
объектами при изучении гильбертовых пространств являются не
векторы в пространстве, а действующие в нем операторы. Большинство
из тех, кто говорит, что они занимаются теорией гильбертовых
пространств, на самом деле изучают теорию операторов. Дело
в том, что алгебра и геометрия векторов, линейных функционалов,
квадратичных форм, подпространств и т. п. проще, чем теория
операторов, да и разработаны лучше. Некоторые из этих простых
и известных вещей полезны, другие забавны, а иногда то и другое
сочетается.
Напомним сначала, что такое билинейный функционал на
комплексном векторном пространстве Н. Его обычно определяют
как функцию, принимающую комплексные значения и заданную
на прямом произведении пространства Н с самим собой, линейную
по первому аргументу и антилинейную по второму. Некоторые
математики в подобных случаях вместо «антилинейный
функционал» говорят «полулинейная форма». Следуя этой терминологии,
правильнее было бы называть билинейный функционал полуто-
ралинейной формой.
Квадратичная форма определяется (см. Халмош [3, стр. 12])
как функция ср~, порождаемая полуторалинейной формой ф
с помощью равенства ф~ (/) = ф (/, /). Точнее говоря,
квадратичной формой называется функция г|з, для которой существует
такая полуторалинейная форма ф, что г|з (/) = ф (/, /). При таком
определении, апеллирующем к существованию чего-то
дополнительного, ответы на самые простые алгебраические вопросы
становятся чрезвычайно затруднительными; например: будет ли
сумма двух квадратичных форм квадратичной формой (да), будет
ли произведение двух квадратичных форм квадратичной формой
(нет).
Задача 1. Является ли предел 1) последовательности
квадратичных форм квадратичной формой?
J) Имеется в виду поточечная сходимость: функция Ф служит пределом
последовательности квадратичных форм фп, если фй (/) -*¦ Ф (/) при п ->¦ оо
для любого / ? Н. —Прим. перев.

12 Задачи
2. Представление линейных функционалов. Теорема Рисса
о представлении линейного функционала утверждает, что
каждому ограниченному линейному функционалу \ в гильбертовом
пространстве Н соответствует такой вектор g из Н, что | (/) =
= (/, g) для любого / ? Н. Это утверждение «инвариантно», или
«бескоординатно» (т. е. не зависит от выбора координат в Н),
поэтому в соответствии с принятой сейчас математической этикой
доказательство должно быть непременно таким же. Беда, однако,
в том, что большинство «бескоординатных» доказательств (таких,
например, как в книге Халмоша [3, стр. 321) настолько элегантны,
что затмевают истинный смысл происходящего.
Задача 2. Придумать «координатное» доказательство теоремы
Рисса о представлении линейного функционала.
3. Строгая выпуклость. В вещественном векторном
пространстве (а поэтому, в частности, и в комплексном) отрезком,
соединяющим два вектора / и g, называется множество всех
векторов вида tf + A — t) g, где 0 ^ t ^ 1. Подмножество
вещественного векторного пространства называется выпуклым, если вместе
с любой парой векторов / и g оно содержит весь соединяющий их
отрезок. В современной теории векторных пространств понятие
выпуклости приобретает все большее значение. Но гильбертово
пространство так богато другими, более мощными структурами,
что в нем роль этого понятия иногда менее заметна, чем в других
пространствах. Простым примером выпуклого множества в
гильбертовом пространстве служит единичный шар, т. е. множество
таких векторов /, для которых || / || ^ 1. Другим примером может
служить открытый единичный шар, т. е. множество таких
векторов /, для которых ||/||<1. (Прилагательным «замкнутый»
обычно пользуются для того, чтобы отличить единичный шар
от открытого единичного шара, и лишь в том случае, когда надо
особенно подчеркнуть это отличие.) Эти примеры интересны с
геометрической точки зрения даже в таком простейшем случае,
как (комплексное) гильбертово пространство размерности 1, где
получается соответственно замкнутый и открытый круг на
комплексной плоскости.
Если точка h = tf + A — t) g принадлежит отрезку,
соединяющему fug, причем 0 < t <с 1 (существенно, что t =?= О и t =?= 1),
то h называется внутренней точкой этого отрезка. Если точка
выпуклого множества не служит внутренней ни для какого
лежащего в нем отрезка, то она называется крайней точкой этого
множества. Крайние точки замкнутого единичного круга на
комплексной плоскости — все точки его границы (единичной окружности).
У открытого единичного круга на комплексной плоскости нет
крайних точек.

Гл. 1. Векторы и пространства 13
Множество всех комплексных чисел z, для которых | Re z | +
-f- ] Im z |<;1, выпукло. Оно состоит из внутренности и границы
квадрата с вершинами 1, i, —1, —i. У этого выпуклого множества
только 4 крайние точки: 1, i, —1, —i.
Замкнутое выпуклое множество в гильбертовом пространстве
называется строго выпуклым, если все его граничные точки
крайние. Термин «граничная точка» используется здесь в обычном
топологическом смысле. В отличие от выпуклости, понятие
строгой выпуклости не чисто алгебраическое. Оно имеет смысл и во
многих других пространствах, кроме гильбертова. Для этого,
однако, нужно, чтобы пространство было наделено топологией,
причем желательно, чтобы эта топология была согласована с его
линейной структурой.
Замкнутый единичный круг на комплексной плоскости
представляет собой строго выпуклое множество.
Задача 3. Единичный шар в любом гильбертовом пространстве —
строго выпуклое множество.
Сама по себе эта задача очень легкая и не претендует ни на
какую глубину; она приведена здесь только для того, чтобы привлечь
внимание к данному кругу идей и подготовить почву для
дальнейшей работы.
4. Непрерывные кривые. Бесконечномерное гильбертово
пространство еще просторнее, чем это может показаться с первого
взгляда. Его вместимость поразительно проявляется при изучении
расположенных в нем непрерывных кривых. Непрерывной кривой
в гильбертовом пространстве Н называется непрерывная функция,
отображающая единичный отрезок числовой оси в Н. Кривая
называется простой, если это отображение взаимно однозначно.
Хордой кривой /, соответствующей отрезку [а, Ъ] значений
параметра, называется вектор / F) ¦— / (а). Две хорды,
соответствующие отрезкам [а, Ъ] и [с, d], называются неперекрывающимися,
если отрезки [а, Ь] и [с, d] имеют самое большее один общий конец.
Если две неперекрывающиеся хорды ортогональны, то кривая
поворачивает на прямой угол при переходе между дальними
концами этих хорд. Если бы так происходило для любых двух
неперекрывающихся хорд, то казалось бы, что кривая внезапно
поворачивает на прямой угол в каждой точке, и поэтому, в частности,
нигде не может иметь касательную.
Задача 4. Построить для любого бесконечномерного гильбертова
пространства простую непрерывную кривую, у которой любые
две неперекрывающиеся хорды ортогональны.
5. Линейная размерность. Понятие размерности гильбертова
пространства Н может иметь два различных смысла. Так как Н —

14 Задачи
векторное пространство, то у него есть линейная размерность,
а так как, кроме того, в Н определено скалярное произведение, то
у него есть ортогональная размерность. Существует единый способ
ввести оба эти понятия: сначала доказывается, что все базисы в Н
имеют одинаковую мощность, а затем эта мощность и объявляется
размерностью пространства. При таком подходе различие между
двумя понятиями размерности возникает из-за различия в
определениях базиса. Базисом Гамеля в Н (или линейным базисом)
называется максимальное линейно независимое подмножество
в Н. (Напомним, что бесконечное множество называется линейно
независимым, если любое его конечное подмножество линейно
независимо. Заметим, хотя здесь это и не понадобится, что каждый
вектор представляет собой конечную линейную комбинацию
векторов из любого базиса Гамеля.) Ортонормированным базисом
в Н называется любое максимальное ортонормированное
подмножество в Н. (Для этого случая аналогом конечного разложения,
свойственного линейным базисам, служит постоянно используемое
в теории гильбертовых пространств разложение Фурье.) В
дальнейшем ортогональная размерность называется просто
размерностью, а линейная — линейной размерностью.
Задача 5. Существует ли гильбертово пространство счетной
линейной размерности?
6. Бесконечные определители Вандермонда. Гильбертово
пространство I2 состоит по определению из всех бесконечных
последовательностей (?о> ii> ?21 • • •) комплексных чисел, для которых
со
2 I ?i |2 < 00. Операции над векторами производятся покоорди-
г=0
натно, а скалярное произведение определяется по формуле
оо
(Но, lu h, ¦¦.), <%>, Ль ч2, • ¦ •» = 2 ЬЧ*-
{=0
Задача 6. Пусть 0 < [ а | < 1. Определите замкнутую
линейную оболочку в I2 множества всех векторов
/ft = (l, а\ а2\...>, А=1, 2
Полученный результат обобщите (на другие наборы векторов);
рассмотрите частный случай конечномерного пространства.
7. Близкие базисы.
Задача 7. Если {еь е2, es, . . .} — ортонормированный базис
в гильбертовом пространстве Н, а {/4, /2, /з> • • •} — такое
со
ортонормированное множество векторов в Н, что 2 II ei — fj II2 <

Гл. 1. Векторы и пространства
< оо, то замкнутая линейная оболочка множества {/;} совпадает
со всем Н (и тем самым {/j, /2, /3, • • •} — ортонормированный
базис).
Это трудная задача. Существует много проблем такого рода;
первая из них принадлежит, по-видимому, Пэли и Винеру.
Изложение этих вопросов и подробные ссылки можно найти в книге
Рисса и Секефальви-Надя [2]. Один из вариантов этой задачи
рассматривается у Биркгофа и Роты [1].
8. Векторные суммы. Если М и N — ортогональные
подпространства гильбертова пространства, то сумма М + N замкнута
(и, следовательно, M + N = M v N *)). Ортогональность,
разумеется,— достаточное условие для справедливости этого
утверждения, хотя, быть может, слишком сильное. Однако известно, что
какое-то допущение относительно подпространств М и N
необходимо: если его не сделать, то множество М + N может оказаться
незамкнутым (см. Халмош [3, стр. 28] и задачу 41 ниже).
Предлагаю доказать аналогичное утверждение при других
дополнительных условиях, тоже очень сильных, но часто оказывающихся
удобными.
Задача 8. Если М — конечномерное линейное многообразие
в гильбертовом пространстве Н, а N — подпространство (т. е.
замкнутое линейное многообразие) в Н, то векторная сумма М + N
обязательно замкнута (и поэтому совпадает с замкнутой
линейной оболочкой М V N)
Отсюда в качестве следствия (которое, впрочем, легко
получается и непосредственно) выводится, что всякое конечномерное
многообразие замкнуто: достаточно положить N = {0}.
9. Решетка подпространств. Совокупность всех подпространств
гильбертова пространства образует решетку 2). Это значит, что
эта совокупность частично упорядочена (по включению) и для
любых двух ее элементов М и N существует наименьшая верхняя
грань (замкнутая линейная оболочка М v N) и наибольшая
нижняя грань (пересечение Mf]N). Решетка называется
дистрибутивной, если для любых ее элементов L, М и N
(Здесь используются обозначения, принятые для подпространств.)
Существует ослабление условия дистрибутивности,
называемое модулярностью; решетка называется модулярной, если ука-
*) Так обозначается (см. предисловие) замкнутая линейная оболочка
теоретико-множественной суммы MIJN подпространств М и N.— Прим. ред.
2) Употребляется еще термин «структура».— Прим. перев.

1G Задачи
занный выше закон дистрибутивности выполняется для случая
N cL. Тогда L |~| N = N, и предыдущее тождество приобретает
вид
L П (М v N) = (L П М) V N
(по-прежнему в предположении N с: L).
Так как два гильбертовых пространства одинаковой
размерности геометрически неотличимы друг от друга, то ясно, что
модулярность или дистрибутивность решетки подпространств
гильбертова пространства могут зависеть только от его размерности.
Задача 9. Для каких мощностей ха гильбертово пространство
размерности m имеет модулярную решетку подпространств?
Для каких дистрибутивную?
10. Локальная компактность и размерность. Многие вопросы
о топологии «в целом» гильбертова пространства допускают
простые ответы. Ответы могут быть «да» иди «нет» во всех случаях,
а могут зависеть от размерности пространства. Так, например,
всякое гильбертово пространство связно, но гильбертово
пространство компактно в том и только в том случае, когда оно
представляет собой вырожденное пространство размерности 0. Задачи
такого сорта можно ставить и в обратную сторону: при заданной
информации о размерности гильбертова пространства (например,
известно, что пространство конечномерно) найти топологические
свойства, отличающие такие пространства от гильбертовых
пространств всех других размерностей.
Задача 10. Гильбертово пространство локально компактно
тогда и только^ тогда, когда оно конечномерно.
11. Сепарабельность и размерность.
Задача 11. Гильбертово пространство сепарабелъно тогда
и только тогда, когда его размерность не более чем счетна.
12. Мера в гильбертовом пространстве. Бесконечномерные
гильбертовы пространства следует рассматривать как наиболее
удачные бесконечномерные обобщения конечномерных евклидовых
пространств. Последние, кроме своих алгебраической и
топологической структур, наделены мерой. Было бы полезно обобщить
еще и этот атрибут на бесконечномерный случай. В этом
направлении были предприняты различные попытки (см. Лёвнер [1]
и Сигал [2]). Естественный подход состоит в отыскании счетно
аддитивной функции ц., определенной (по крайней мере) на всех
борелевских множествах (т. е. на ст-алгебре, порожденной
открытыми множествами) и такой, что 0< \i (М) < оо для любого
борелевского множества М.

Гл. 1. Векторы и пространства 17
Для того чтобы мера \х была согласована с другими
структурами пространства, имеет смысл потребовать, чтобы каждое
непустое открытое множество имело положительную меру и чтобы
мера была инвариантна относительно сдвигов. (Второе условие
означает, что ц (/ + Л/) = jj, (М) для любого вектора / и любого
борелевского множества М.) Если теперь под «мерой» понимать
функцию множеств, удовлетворяющую этим условиям, то
следующая задача показывает, что такой естественный подход обречен
на провал.
Задача 12. Для любой меры, в бесконечномерном гильбертовом
пространстве мера всякого непустого шара бесконечна.

ГЛАВА 2. СЛАБАЯ ТОПОЛОГИЯ
13. Слабая замкнутость подпространств. Гильбертово
пространство является метрическим, а следовательно, и
топологическим пространством. Метрическая топология (топология,
порожденная нормой) часто называется сильной топологией. Базой
для сильной топологии служит система открытых шаров, т. е.
множеств вида
{/: ||/-/о||<е},
где /о — вектор (центр шара), as- положительное число (радиус).
В теории гильбертовых пространств важную роль играет
другая, так называемая слабая топология. Базой для нее служит
система множеств
{/: |(/-/о, gt)\<e, *=1. 2, ..., к},
где /; — натуральное число, /0, gu ft, .... ft - векторы, а е —
положительное число.
Прилагательные «сильный» и «слабый» всегда указывают,
в какой топологии рассматривается соответствующий факт. Так,
например, можно говорить о слабо непрерывной функции или
о сильно сходящейся последовательности и смысл таких
выражений должен быть ясен. Если же топологические термины
употребляются без этих прилагательных, то речь всегда идет о сильной
топологии; этим соглашением мы фактически уже пользовались
в предыдущих задачах.
Как только в множестве вводится топология, сразу же
приходится обращать внимание на многие технические вопросы. (Каким
аксиомам отделимости удовлетворяет пространство? Компактно
ли оно? Связно ли?) Если рассматривается широкий класс
множеств (например, класс всех гильбертовых пространств), то
возникают проблемы классификации. (Какие из них локально
компактны? Какие из них сепарабельны?) Если множество (или
множества) уже обладало (обладали) некоторой структурой, то
нужно исследовать связь между старой структурой и новой
топологией. (Компактен ли замкнутый единичный шар? Непрерывно
ли скалярное произведение?) Наконец, если рассматриваются
несколько топологий, то должны быть выяснены связи между
ними. (Является ли слабо компактное множество сильно
замкнутым?) За малым исключением, такие вопросы, хотя они естественны

Гл. 2. Слабая топология 19
и неизбежны, вряд ли могут кого-нибудь вдохновить. Поэтому
большинство из них здесь не затрагивается. Что касается тех
вопросов, которые мы здесь рассмотрим, то их выбор оправдан
некоторыми (возможно, субъективными) критериями, такими,
как неожиданный ответ, остроумное доказательство или важное
приложение.
Задача 13. Каждое слабо замкнутое множество сильно замкнуто,
но обратное неверно. Однако каждое подпространство гильбертова
пространства (т. е. каждое сильно замкнутое линейное
многообразие) слабо замкнуто.
14. Слабая непрерывность нормы и скалярного произведения.
Для каждого фиксированного вектора g функция / —>• (/, g) слабо
непрерывна; в этом и заключается фактически определение слабой
топологии. (Последовательность или сеть г) {/„} слабо сходится
к / тогда и только тогда, когда (/„, g) -> (/, g) для каждого g.)
Из этого факта и из (эрмитовой) симметричности скалярного
произведения следует, что для любого фиксированного / функция
S ~^ (Л 8) слабо непрерывна. Эти два утверждения означают, что
отображение, переводящее упорядоченную пару векторов //, g )
в их скалярное произведение (/, g), слабо непрерывно по
каждому из двух аргументов в отдельности.
Естественно спросить, будет ли скалярное произведение слабо
непрерывно по совокупности двух переменных. Легко видеть,
что ответ отрицательный. Опровергающий пример построен в
решении 13* там он использован в несколько других целях. Если
{е4. е2, е3, ... } — ортонормированная последовательность, то
еп —>~ 0 (слабо), но (еп, еп) = 1 для всех п. Одновременно этот
пример показывает, что норма не является слабо непрерывной
функцией. В действительности можно сказать, что единственное
различие между слабой и сильной сходимостями возникает из-за
возлюжного разрыва нормы: слабо сходящаяся последовательность
или сеть, на которой норма ведет себя прилично, автоматически
сходится сильно.
Задача 14. Если fn -*¦ f (слабо) и \\ fn [| -> || / ||, то /„ ->-
(сильно).
15. Слабая сепарабельность. Так как сильное замыкание
любого множества содержится в его слабом замыкании (см.
решение 13), то сепарабельное гильбертово пространство (т. е. сильно
сепарабельное) оказывается и слабо сепарабельным. А обратно?
В оригинале «net».— Прим. перев.

20 Задачи
Задача 15. Всякое ли слабо сепарабелъное гильбертово
пространство сильно сепарабелъно?
16. Равномерная слабая сходимость.
Задача 16. Слабая сходимость, равномерная на единичной сфере,
совпадает с сильной сходимостью. Точнее говоря, \\fn — / || —>¦ О
тогда и только тогда, когда (/„, g) ->- (/, g) равномерно по всем g,
для которых \\ g \\ = 1.
17. Слабая компактность единичного шара.
Задача 17. Замкнутый единичный шар в гильбертовом
пространстве слабо компактен.
Этот результат иногда называют теоремой Тихонова — Алаог-
лу. Он очень важен и столь же труден.
18. Слабая метризуемость единичного шара. Компактность —
хорошее свойство, но даже компактные множества лучше, если
они метризуемые. Поскольку единичный шар слабо компактен,
естественно спросить, не будет ли он также слабо метризуемым.
Задача 18. Метризуема ли слабая топология единичного шара
в сепарабельном гильбертовом пространстве?
19. Слабая метризуемость и сепарабельность.
Задача 19. Если в гильбертовом пространстве слабая топология
единичного шара метризуема, то непременно ли оно сепарабелъно!
20. Равномерная ограниченность. Знаменитый «принцип
равномерной ограниченности» (верный для всех банаховых
пространств) состоит в следующем: множество ограниченных линейных
функционалов, значения которых в каждой точке пространства
ограничены в совокупности, является ограниченным множеством.
Условие и заключение этого принципа можно выразить в
терминах гильбертова пространства Н. Условие поточечной
ограниченности подмножества Т гильбертова пространства Н можно
назвать слабой ограниченностью; оно означает, что для каждого
вектора /из Н найдется такая положительная константа а(/), что
I (/> ё) 1< «II / II Для всех g из Т. Вывод, который мы хотим
получить, означает, что существует такая положительная константа р,
что | (/, g) |< р||/ || для всех / из Н и всех g из Т. Это эквивалентно
утверждению, что \\ g ||< P для всехg из Т. Ясно, что всякое
ограниченное подмножество гильбертова пространства слабо
ограничено. Принцип равномерной ограниченности (применительно
к векторам в гильбертовом пространстве) утверждает обратное:
каждое слабо ограниченное множество ограничено. Доказатель-

Гл. 2. Слабая топология 21
ство общего принципа равномерной ограниченности несколько
запутано соображениями, связанными с категориями множеств.
За доказательством этого принципа обычно отсылают к книге
Данфорда и Шварца [1, стр. 67].
Задача 20. Придумать элементарное доказательство принципа
равномерной ограниченности для гильбертовых пространств.
(В этом случае доказательство считается «элементарным», если
оно не использует теорему Бэра о категориях.)
Часто пользуются таким следствием из принципа равномерной
ограниченности: каждая слабо сходящаяся последовательность
векторов ограничена. Доказательство вполне элементарно: так
как сходящаяся последовательность чисел ограничена,то любая
слабо сходящаяся последовательность векторов слабо ограничена.
Ничего подобного нельзя, конечно, утверждать о сетях. Простое
обобщение предыдущего результата о слабо сходящихся
последовательностях состоит в том. что каждое слабо компактное
множество ограничено. В самом деле, для каждого / отображение
S ->" (/¦ 8) переводит слабо компактное множество векторов g
в компактное и потому ограниченное множество чисел, так что
слабо компактное множество слабо ограничено.
21. Слабая метризуемость гильбертова пространства.
Некоторые из предыдущих результатов, особенно слабая компактность
единичного шара и принцип равномерной ограниченности,
показывают, что слабая топология хороша для ограниченных множеств.
Для неограниченных множеств это не так.
Задача 21. Слабая топология бесконечномерного гильбертова
пространства неметризуема.
Самое краткое доказательство этого факта довольно хитроумно.
22. Линейные функционалы в Р. Если
<а„ а2, а3, ...)?12 и (|5Ь |32, |33, ...)?1\
то
(афи а$2, «зРз, ...N^-
Утверждение, в некотором смысле обратное этому, гласит, что
I2 содержит все последовательности, дающие в произведении с
любой последовательностью из I2 последовательность из I1.
Задача 22. Если 2 I апр„ \ < оо для любой последовательности
п
{а„}. для которой 2 I ап |2 < оо, то 2 I Pn I 2 < °°-

22 Задачи
23. Слабая полнота. Последовательность векторов {gn} в
гильбертовом пространстве называется слабо фундаментальной
(конечно, легко догадаться, каким должно быть определение), если
последовательность чисел {( /, g,,)} фундаментальна для любого вектора
/ из этого пространства. Слабо фундаментальная сеть
определяется точно так же: надо только слово «последовательность» всюду
заменить словом «сеть». Гильбертово пространство или его
подмножество называется слабо полным, если каждая слабо
фундаментальная сеть имеет слабый предел (принадлежащий
рассматриваемому множеству). Если этим свойством обладают лишь слабо
фундаментальные последовательности, то пространство называется
секвенциально слабо полным.
Задача 23. (а) Никакое бесконечномерное гильбертово
пространство не является слабо полным, (в) Какие гильбертовы
пространства секвенциально слабо полны"}

ГЛАВА 3. АНАЛИТИЧЕСКИЕ ФУНКЦИИ
24. Аналитические гильбертовы пространства. Аналитические
функции появляются в теории гильбертовых пространств
несколькими способами; в частности, они доставляют много поясняющих
примеров. Вот типичный способ построения таких примеров:
рассмотрим область D («область» означает непустое открытое
связное подмножество колшлексной плоскости); пусть \i — плоская
мера Лебега на D, a A2 (D) — множество всех комплекснозначных
функций, аналитических в D и квадратично интегрируемых по
мере и. Наиболее важен случай, когда D — открытый
единичный круг {z : | г | < 1}: соответствующее функциональное
пространство обозначается просто А2. Независимо от того, что
представляет собой область D, множество A2 (D) есть векторное
пространство по отношению к поточечным операциям сложения и
умножения на число. Скалярное произведение вводится по формуле
(f,g)=[f(?)g*(z)d]i{z).
Задача 24. Будет ли пространство A2 (D) квадратично
интегрируемых аналитических функций в области D гильбертовым
или его надо для тгого пополнить?
25. Базис в А2.
Задача 25. Функции еп (z) = У{п-\-\Iп zn при | г | < 1 и п =
= 0. 1, 2, ... образуют ортонормированный базис в А2. Если
со
f G А2 и У апьп — ряд Тейлора для /, то а„ = ]/(п+1)/я (/. е,)
71=0
для п = 0,1, 2, ....
26. Вещественные функции в Н2. Гильбертовы пространства
очень похожи друг на друга и отличаются только размерностью.
Однако гильбертово пространство становится интереснее других,
если оно обогащено какой-нибудь дополнительной структурой.
Так, например, пространства A2 (D) интересны благодаря
аналитическим свойствам своих элементов. Другое важное гильбертово
пространство, обозначаемое через Н2 (здесь уже Н — в честь
Харди), также наделено структурой, которой нет в абстрактном
гильбертовом пространстве. Пространство Н2 определяется еле-

24 Задачи
дующим образом. Пусть С — единичная окружность на
комплексной плоскости, С = {z: | z | = 1}, и пусть и. — мера Лебега
(совпадающая на дугах с их длиной) на борелевских множествах
в С, нормированная так, что \i (С) = 1 (вместо обычной
нормировки ц. (С) = 2я). Функции еп (z) = zn для | z | = 1 (п = О, ±1,
+2, . . .), как показывают простые вычисления, образуют орто-
нормированное множество в L2 (\i). Из стандартной теоремы
об аппроксимации (из теоремы Вейерштрасса о приближении
полиномами) легко следует, что функции еп образуют ортонорми-
рованный базис в L2 (ц) (конечные линейные комбинации этих
функций называются тригонометрическими полиномами).
Пространство Н2 определяется как подпространство в L2 (и.),
порожденное базисными функциями еп при п ^ 0. Другими словами,
Н2 — ортогональное дополнение к множеству {e_j, e_2, . . .}
в пространстве L2 (и,). Сопряженное к нему пространство Н2*
совпадает с замкнутой линейной оболочкой функций еп при
0
Разложение функции в ряд Фурье по ортонормированному
базису {еп: п =0+1, . . .} формально похоже на разложение Лорана
в теории аналитических функций. Ввиду этой аналогии функции
из Н2 называют аналитическими элементами в L2 (ц); элементы
сопряженного пространства Н2* называются коаналитическими.
Большой интерес представляет подмножество в Н2 (линейное
многообразие, но не подпространство), обозначаемое через Н"
и состоящее из всех ограниченных функций из Н2. Другими
словами, Н03 — множество всех тех функций / из L°° (u.), для которых
t fen d\i = 0 (п= —1, —2, —3, . . .). Точно так же Н1 —
множество всех тех элементов / из L1 ()i). для которых выполняются
эти тождества. Особую специфику пространствам Н\ Н2 и Н°°
придает то обстоятельство, что множество {еп (z)} изоморфно
относительно умножения полугруппе неотрицательных целых чисел.
Об элементах таких пространств, как Н\ Н2 и Н°°, принято
говорить как о функциях, что мы и делали в предыдущих абзацах.
Это не может сбить с толку, если все время иметь в виду оговорку
«почти всюду». Так, например, «ограничена» означает
«существенно ограничена», а утверждения типа / = 0, или / вещественна,
или !/| = 1 следует понимать, как выполняющиеся почти всюду.
Некоторые авторы определяют пространства Харди так, чтобы
сделать их настоящими функциональными пространствами
(состоящими из функций, аналитических в единичном круге). При
этом подходе (см. задачу 28) остаются все имевшиеся до сих пор
трудности (связанные с необходимостью оюворки «почти всюду»),
но теперь они появляются в другом месте, а именно в вопросах
(которые должны быть поставлены и решены) о предельном пове-

Гл. 3. Аналитические функции 25
дении функций на границе. Независимо от того, какой подход
используется для их изучения, функции из Н2 стремятся вести
себя подобно аналитическим функциям. Об этом говорит, в
частности, следующее утверждение.
Задача 26. Всякая вещественная функция из Н2 постоянна.
21. Произведения в Н2. Наиболее глубокие результаты о
пространствах Харди связаны с их мультипликативной структурой.
Вот один из них; его легко доказать.
Задача 27. Произведение двух функций из Н2 принадлежит Н1.
Верно в некотором смысле обратное утверждение: любую
функцию из Н1 можно представить в виде произведения двух
функций из Н2 (см. Гофман [1, стр. 80]). В теории гильбертовых
пространств чаще используется прямое утверждение, и техника,
применяемая при его доказательстве, ближе по духу этой книге.
28. Аналитическая характеристика пространства Н2. Если
со со
/ 6 Н2 и/= 2 апеп — разложение Фурье для/, то 2 \ап Р < °°>
?i=0 п=0
со
и радиус сходимости степенного ряда 2 anz" не меньше 1. Из обыч-
ного выражения радиуса сходимости через коэффициенты ряда
со
Тейлора следует, что ряд 2 a«zU определяет аналитическую функ-
~ 71 = 0 ___
цию / в открытом единичном круге D. Отображение / —>- /
(очевидно, линейное) устанавливает взаимно однозначное соответствие
между Н2 и множеством Н2 тех аналитических функций в D. у
которых последовательность коэффициентов Тейлора квадратично
суммируема (т. е. сходится ряд из квадратов модулей этих
коэффициентов).
Задача 28. Пусть ср — аналитическая функция в открытом
оо
единичном круге, ср (z) = У] anzn и срг (z) = ср (rz) для 0 << г < 1
п=0
СО
и | z | = 1. Тогда срг ? Н2 при всех г; ряд 2 I ап I2 сходится тогда
и только тогда, когда нормы || срг || ограничены.
Многие авторы определяют Н2 так, как мы определили Н2,
т. е. у них Н2 представляет собой множество аналитических
функций в единичном круге, для которых сходится ряд из
квадратов модулей коэффициентов ряда Тейлора, или, другими словами,

26 Задачи
аналитических функций с ограниченными концентрическими
оо
Ъ2-нормами. Если ср и \|) — две такие функции, ф (z) = 2 anz"
п=0
оэ
и ^ (z) = У! Pnz™, то скалярное произведение (ср. г|;) полагается
¦"О
равным 2 апРп- Такое определение обеспечивает сохранение
п=0
скалярного произведения при взаимно однозначном отображении
/ ->¦ / между Н2 и Н2. Если/ ? Н2, то об образе функции / в Н2
можно говорить, как о ее продолжении во внутренность единичного
круга (ср. с решением 32). Так как пространство НЛ вложено в Н2,
то это имеет смысл и для элементов из Н^. Множество всех
продолжений функций из Н°° будет обозначаться через H°°.
29. Функциональные гильбертовы пространства. Многие
распространенные примеры гильбертовых пространств называются
функциональными пространствами, хотя и не являются таковыми.
Если пространство с мерой содержит непустое множество меры
нуль (а это обычный случай), то L2 (\х) на этом пространстве состоит
не из функций, а из классов эквивалентных функций —
совпадающих с точностью до множества меры нуль. При этом нет
естественного способа отождествить классы эквивалентности с их
представителями. Существует, однако, обширный класс гильбертовых
пространств, элементами которых служат настоящие функции;
эти пространства мы и будем называть функциональными
пространствами. Функциональное гильбертово пространство — это
гильбертово пространство Н комплекснозначных функций на
(непустом) множестве X; структура его связана с X двояким образом
(возможны только два естественных требования). Требуется:
A) если fug принадлежат Н, а и |3 — числа, то (<z/ + fig) (x) =
= а/ (х) -г р# (х) для всех х из X, т. е. вычислимые г)
функционалы на Н линейны, и B) каждому х из X соответствует такое
положительное число ух, что | / (х) \*С yx\\f \\ Для всех / из Н, т. е.
вычислимые функционалы на Н ограничены. Обычные
пространства последовательностей дают тривиальные примеры
функциональных гильбертовых пространств (независимо от того, конечна
или бесконечна длина последовательностей); роль X играет в
данном случае множество индексов. Более типичные примеры
функциональных пространств — пространства аналитических функций
А2 и Н2.
а) Вычислимыми автор называет функционалы F на Н, определяемые
точками из X, т. е. F (/) = / (х), f ? Н, х ? X.— Прим. перев.

Гл. 3. Аналитические функции 27
Существует тривиальный способ представить каждое
гильбертово пространство в виде функционального. Пусть дано
пространство Н; положим X = Н, и пусть Н обозначает множество всех
ограниченных полулинейных функционалов / на X (= Н).
Существует естественное отображение /^-/ю Н вН,
определяемое равенством / (g) = (/, g) для всех g из Н. По теореме Рисса
о представлении линейного функционала это отображение
взаимно однозначно, а так как (/, g) линейно зависит от/, то оно линейно.
Положим (/, g) = (/, g) (в частности, ||/ || = ||/ ||). Тогда
пространство Н станет гильбертовым. Так как | / (g) \ = | (/, g) | <;
<; || / || • || g || = || / || || g ||, то Н — функциональное гильбертово
пространство. Соответствие / —>- / между Ни Н будет
изоморфизмом гильбертовых пространств.
Задача 29. Придумать пример гильбертова пространства
функций, в котором векторные операции производятся поточечно, но не
все вычислимые функционалы ограничены.
По поводу функциональных гильбертовых пространств
полезно посмотреть работу Ароншайна [1].
30. Производящие ядра. Если Н —функциональное
гильбертово пространство над X, то линейный функционал / -> / (у)
на Н ограничен для каждого у из X и, следовательно, для каждого
у из X существует такой элемент Ку из Н, что / (у) = (/, Ку) для
всех/. Функция К на X X X, определенная равенством К (х, у) =
= К у (х), называется производящим ядром (или просто ядром)
пространства Н.
Задача 30. Если {ej} — ортонормированный базис
функционального гильбертова пространства Н, то ядро К имеет вид
Какой вид имеют ядра пространств А2 и Н2?
Ядра пространств А2 и Н2 называются соответственно ядром
Бергмана и ядром Сегё.
31. Непрерывность продолжения.
Задача 31. Отображение продолжения f ->¦ / (Н2-^- Н2)
непрерывно не только как отображение гильбертовых пространств,
но и в смысле сходимости аналитических функций. Другими
словами, если in —*¦ f в Н2, то /„ (z) —у / (г) для | z | < 1 и сходимость
равномерна на каждом круге {z: \ z | <С г}, 0 < г < 1.

28 Задачи
32. Радиальные пределы.
Задача 32. Если для функции f из пространства Н2
соответствующая аналитическая функция / из Н2 ограничена, то и f
ограничена (т. е. / ? Н°°).
33. Ограниченность продолжения.
Задача 33. Будет ли функция f ограничена, если / ? Н03.
34. Мультипликативность продолжения.
Задача 34. Мультипликативно ли отображение /-»-/?
35. Задача Дирихле.
Задача 35. Каждой вещественной функции и из\? соответствует
единственная вещественная функция v из L2, для которой {и, ео)= О
и и + iv ? Н2. Другими словами, каждой функции и из L2
соответствует единственная функция / из Н2, для которой (/, е0) —
вещественное число и Re / = и.
Функцию у называют сопряженной к и, или преобразованием
Гильберта от и.

ГЛАВА 4. БЕСКОНЕЧНЫЕ МАТРИЦЫ
36. Матрицы с конечными столбцами. Многие задачи об
операторах в конечномерных пространствах решаются с помощью
матриц; матрицы сводят качественные геометрические
утверждения к явным алгебраическим выкладкам. На бесконечномерные
пространства из теории матриц переносится не многое, а то, что
переносится, не так уж полезно, но иногда все-таки помогает.
Предположим, что {ej} — ортонормированный базис в
гильбертовом пространстве Н. Если А — оператор в Н, то каждый
элемент Ав] разлагается в ряд Фурье:
при этом возникает матрица с элементами
Множество индексов здесь произвольное, оно не обязано состоять
из натуральных чисел. Однако знакомые слова (такие, как строка,
столбец, диагональ) используются в их обычном смысле. Заметим,
что если первый индекс, как обычно, обозначает строку, а второй—
столбец, то коэффициенты разложения элемента Aet образуют
;-й столбец матрицы.
Соответствие между операторами и матрицами (при фиксиро-
ванжш базисе) обладает обычными алгебраическими свойствами.
Нулевую и единичную матрицы вводят так, как их и следует
вводить; линейные операции определяются очевидным образом,
сопряжению операторов соответствует сопряжение матриц (т. е.
переход к транспонированной и комплексно сопряженной), а
операторному умножению соответствует умножение матриц, которое
производится по известной формуле
УН = S aih$hj-
Существует несколько способов показать, что здесь не возникает
затруднений со сходимостью; вот один из них. Так как aik =
= (ек, A*et), то при каждом фиксированном i последовательность
aih квадратично суммируема; поскольку также Cftj- = (Bej, ek),
при каждом фиксированном / последовательность {рд/} квадратич-

30
Задачи
но суммируема. Поэтому (в силу неравенства Шварца) при
фиксированных i и / последовательность {atk$hj} (абсолютно)
суммируема.
Из предыдущего абзаца следует, что для каждого оператора
все строки и все столбцы соответствующей матрицы представляют
собой квадратично суммируемые последовательности. Это условие
необходимо для того, чтобы матрица отвечала какому-нибудь
оператору, но не достаточно. (Пример: диагональная матрица,
у которой п-ж член, стоящий на диагонали, равен п.) Достаточным
условием будет квадратичная суммируемость последовательности
~У
такой оператор А, что а^ =
для любого вектора /
при всех г, то
j, e;). (Доказательство: так как
i
Но это условие не является необходимым. (Пример: единичная
матрица.) Условия же, необходимого и достаточного,
сформулированного к тому же сколько-нибудь удобным и изящным образом,
не существует Конечно, условие того, что линейное
преобразование всюду определено и ограничено, можно записать в матричных
терминах, но этот результат уже не будет ни удобным, ни изящным.
Это и есть первое существенное отличие теории бесконечных
матриц от теории конечных: каждому оператору соответствует
матрица, но не каждой матрице соответствует оператор, причем
трудно даже сказать, каким матрицам отвечают операторы.
Пока базис фиксирован, соответствие между операторами и
матрицами взаимно однозначно. Если же базис меняется, то одному
оператору ставится в соответствие много матриц. Поиск базиса,
в котором матрица данного оператора имеет наиболее простой вид,
представляется увлекательной игрой. Вот простая теорема,
впечатляющая, но не такая полезная, как кажется.
Задача 36. Каждый оператор может быть записан матрицей
с конечными столбцами. Точнее говоря, для любого оператора А
в гильбертовом пространстве И можно выбрать такой ортонор-
мированный базис {ej} в И, что для каждого j элементы (Aej, е;)
отличны от нуля лишь для конечного числа индексов i.
См. Теплиц [1].
37. Критерий Шура. Аналитические свойства бесконечных
матриц изучены значительно хуже, чем алгебраические. Вопросы

Гл. 4. Бесконечные матрицы 31
о нормах и спектрах таких матриц с трудом поддаются
исследованию. Каждый из немногих известных ответов считается
значительным математическим достижением. Примером такого рода
служит следующий результат (по существу принадлежащий Шуру).
Задача 37. Пусть а,ц >0 (i, / = 0, 1, 2, ... .); pt > 0 (i =
= 0, 1, 2, . . .), Р « у — такие Положительные числа, что
2rMjPi<\ipj (/ = 0, 1, 2, ...),
i
У_аиР1<ЧР1 (г-0, 1, 2, . ..).
j
Тогда существует оператор А (определенный, разумеется, на
сепарабелъном бесконечномерном гильбертовом пространстве) с нормой
II ^ IP^CPYi которому в подходящем ортонормированием базисе
соответствует матрица (a,j).
Родственный результат и соответствующие ссылки на
литературу приведены в задаче 135.
38. Гильбертова матрица.
Задача 38. Существует оператор А (в сепарабелъном гилъберто-
eo.w пространстве), задаваемый матрицей^ / (г, ; = 0, 1,
2. . . .), причем его норма \\ А \\ не превосходит а.
Эта матрица называется гильбертовой; норма ее фактически
равна л (Харди, Литлвуд, Полна 11, стр. 226]).

ГЛАВА 5. ОГРАНИЧЕННОСТЬ И ОБРАТИМОСТЬ
39. Ограниченность на базисах. Ограниченность — полезное
и естественное условие, но для линейных преобразований оно
оказывается очень сильным. Это условие приводит к важным
следствиям во всей теории операторов от ее простейших
алгебраических до наиболее сложных топологических вопросов. Чтобы
избежать элементарных ошибок, важно понимать, что ограниченность
означает больше, чем просто совокупность бесконечного числа
требований — для каждого элемента базиса в отдельности. Если
А — оператор в гильбертовом пространстве Н с ортогональным
базисом {еи е2, . . .}, то числа || Аеп || ограничены; если,
например, || А || -< 1, то || Аеп || < 1 для всех п, и, разумеется, если А =
= 0, то Аеп — 0 для всех п. Упомянутые элементарные ошибки
основаны на допущении, что верны утверждения, обратные только
что сформулированным.
Задача 39. Привести пример неограниченного линейного
преобразования, ограниченного на базисе; привести пример оператора
произвольно большой нормы, ограниченного единицей на базисе
(т. е. || Аеп || <; 1); привести пример неограниченного линейного
преобразования, обращающего в нуль все векторы базиса.
40. Равномерная ограниченность линейных преобразований.
Линейные соответствия между двумя гильбертовыми
пространствами бывают важны даже в том случае, когда нас интересуют
операторы в одном гильбертовом пространстве. Многое в теории
преобразований двух пространств представляет собой тривиальное
обобщение соответствующих фактов из теории операторов в одном
пространстве.
Пусть Н и К — гильбертовы пространства. Линейное
преобразование А из Н в К называется ограниченным, если существует
такое неотрицательное число а, что || Af || < а|| / || для всех / из Н.
Нормой оператора А, обозначаемой через \\ А ||, называется точная
нижняя грань таких а. Если задано такое линейное отображение
А, то скалярное произведение (Af, g) определено для всех / из Н
и вс&х g из К. (Скалярное произведение вычисляется, естественно,
в К.) Для фиксированного элемента g из К это скалярное
произведение определяет ограниченный линейный функционал на Н, и,
следовательно, (Af, g) тождественно совпадает с (/, g) для некото-

Гл. 5. Ограниченность и обратимость 33
рого вектора g из Н. Отображение, переводящее вектор g в g,
называется сопряженным к отображению А. Оно обозначается
через А* и является ограниченным линейным отображением из К
в Н. По определению
для всех / из Н и всех g из К. Скалярное произведение в левой
части этого равенства вычисляется в К, а в правой части — в Н.
Алгебраические свойства сопряженного отображения,
определяемого таким образом, можно установить и доказать точно так же,
как и при обычном определении сопряженного оператора.
Особенно важна (но не менее легко доказываема) связь между А и А*,
заключающаяся в том, что ортогональное дополнение к образу
оператора А совпадает с ядром оператора А*. Так как А** = А, то
это утверждение остается верным, если поменять местами
операторы А и А*.
Все эти алгебраические утверждения тривиальны. Обобщение
принципа равномерной ограниченности для линейных функциона-
тов на линейные преобразования несколько хитрее. Это
обобщение можно сформулировать почти так же, как и в частном случае:
поточечно ограниченное множество ограниченных линейных
преобразований ограничено. Предположение поточечной
ограниченности можно формулировать «сильно» и «слабо». Множество Q
танейных преобразований (из Н в К) называется слабо
ограниченным, если для каждого / из Н и каждого g из К найдется такая
положительная константа а (/, g), что | (Af, g) | << а (/, g) для
всех преобразований А из Q. Множество Q называется сильно
ограниченным, если для каждого / из Н найдется такая
положительная константа Р (/), что || Af || < р (/) для всех
преобразований А из Q. Ясно, что каждое (равномерно) ограниченное
множество сильно ограничено и что каждое сильно ограниченное
множество слабо ограничено. Принцип равномерной ограниченности
для линейных преобразований гарантирует выполнение обратного
утверждения в самой сильной форме.
Задача 40. Каждое слабо ограниченное множество ограниченных
линейных преобразований ограничено.
41. Обратимые преобразования. Ограниченное линейное
преобразование А гильбертова пространства Н в гильбертово
пространство К называется обратимым, если существует такое
ограниченное линейное преобразование В из К в Н, что АВ = 1 (т. е.
тождественному оператору в К) и В А = 1 (т. е. тождественному
оператору в Н). Если А обратимо, то оно взаимно однозначно
отображает Н на К. В рамках чистой теории множеств обратное
также верно: если А отображает Н на К взаимно однозначно, то

34 Задачи
существует единственное отображение А'1 из К в Н, для которого
АА~1 = 1 и А'1 А = 1; отображение А'1, разумеется, линейное.
Однако не очевидно, что линейное преобразование А'1 должно быть
ограниченным; можно себе представить, что А обратимо в
теоретико-множественном смысле, но не обратимо как оператор. Для
того чтобы гарантировать ограниченность отображения А ~\ обычно
усиливают условие взаимной однозначности. Надо потребовать,
чтобы А было ограничено снизу, т. е. чтобы существовало такое
положительное число б, что || Af || ^ б|| / || для всех / из Н.
(Легко доказать, что если А ограничено снизу, то оно взаимно
однозначно.) Если это усиленное условие выполняется, то другое
(обычное) условие (отображение на все К) можно ослабить: вместо
требования, чтобы образ пространства Н при отображении А
совпадал с К, можно потребовать, чтобы он был всюду плотен в К.
Итак, отображение А обратимо тогда и только тогда, когда оно
ограничено снизу и его область значений всюду плотна (см. Хал-
мош [3, стр. 38]). Заметим, что линейные преобразования А к А*
обратимы одновременно, и если они обратимы, то Л и А*-1—
сопряженные операторы.
Возможно, стоит сделать короткое отступление и рассмотреть
случай, когда область значений оператора не замкнута, и то, к
каким последствиям это приводит. Если, например, оператор А
задан на Z2 формулой
/11 \
А ill, ёг? ё"з> • • •) = \S"i> ~2 ?г> "з~ё"з> •••/¦>
то его область значений состоит из всех векторов <т]±, гJ, ть> • • •),
для которых 2 п2 \Чп I2 < °°- Так как эта область содержит все
71
финитные последовательности, то она плотна в I2, но поскольку
при этом в ней нет последовательности A, 1/2, 1/3, . . .), она
не замкнута. Другой пример: оператор А в пространстве L2 @, 1),
действующий по формуле (Af) (x) = xf (x). Эти операторы,
конечно, не ограничены снизу, иначе их области значений были бы
замкнуты.
Операторы с незамкнутой областью значений можно
использовать для построения простого примера двух подпространств
с незамкнутой векторной суммой (см. Халмош [3, стр. 110]). Пусть
А — оператор в гильбертовом пространстве Н; все построение
ведется в прямой сумме Н 0 Н. Пусть М обозначает «ось ж», т. е.
множество векторов в Н 0 Н вида (/, 0), и пусть N —«график»
оператора А, т. е. множество векторов вида (/, Af).
Тривиально доказывается, что М и N — подпространства
пространства Н 0 Н. Спрашивается, когда вектор (/, g)
принадлежит M+N?Hcho, что тогда и только тогда, когда он имеет вид

Гл. 5. Ограниченность и обратимость 35
{и, 0) + {v, Аи) = (и + v, Аи). Так как и и v произвольны, то
вектор из Н © Н имеет такой вид тогда и только тогда, когда его
вторая координата принадлежит области значений R оператора А.
(Другими словами, М + N = Н 0 R.) Замкнуто ли М + N? Это
значит, что если (/„, gn > -> {/, g), где fn 6 Н и gn € R, то следует ли
отсюда, что / ? Н? (ясно, что да) и что g ? R? (возможно, нет). Итак,
М+ N замкнуто в Н © Н тогда и только тогда, когда R
замкнуто в Н. Так как оператор А можно выбрать так, чтобы R было не
замкнуто, то векторная сумма двух подпространств тоже может
быть не замкнута.
После этих примеров и теорем может показаться, что
обратимость в теоретико-множественном смысле и обратимость
операторов — действительно разные вещи; но на самом деле это одно и то
же — и это один из самых приятных и полезных фактов в теории
операторов.
Задача 41. Если Н и К — гильбертовы пространства и А —
ограниченное линейное преобразование, отображающее Н на К
взаимно однозначно, то А обратимо.
Соответствующее утверждение относительно банаховых
пространств обычно доказывается с использованием теоремы Бэра
о категориях.
42. Сохранение размерности. Что же может делать оператор
с геометрией (т. е. с размерностью) основного пространства?
Из теории конечномерных пространств хорошо известно, что
линейное преобразование может понижать размерность
пространства. Крайний случай дает нулевой оператор, отображающий
любое пространство в нульмерное. Однако если линейное
преобразование конечномерного векторного пространства взаимно
однозначно (т. е. его ядро состоит только из нулевого вектора), то
оно не может понижать размерность. Поскольку это можно
сказать и об обратном преобразовании (отображающем область
значений на область определения), то ясно, что размерность
сохраняется. Следующее утверждение в каком-то смысле обобщает этот
конечномерный результат на произвольные гильбертовы
пространства.
Задача 42. Если существует взаимно однозначное линейное
отображение гильбертова пространства Н в гильбертово
пространство К, то dim H<dimK. Если образ пространства Н
плотен в К, то размерности равны.
43. Проекторы одинакового ранга.
Задача 43. Если Р uQ — такие проекторы, что \\ Р — Q || < 1,
то Р и Q имеют одинаковый ранг.

НВ Задачи
Это частный случай задачи 101.
44. Теорема о замкнутом графике. Г рафиком линейного
преобразования А (не обязательно ограниченного), действующего
из унитарного пространства Н в унитарное пространство К
(пространства не обязательно полные), называется множество всех
упорядоченных пар (/, g), принадлежащих прямой сумме Н 0 К,
для которых g = Af. (Эта терминология, как ни странно,
общепринята. Напомним, что обычно множество упорядоченных пар,
удовлетворяющих определенному условию однозначности,
называют функцией. Согласно этому определению, график оператора
совпадает с самим оператором, и трудно понять, чего мы достигаем,
вводя новое название. Тем не менее большинство математиков
восторженно принимают это лишнее слово. Оно по крайней
мере служит предупреждением, что тот же самый объект
рассматривается с другой точки зрения.) Линейное преобразование А
называется замкнутым, если его график — замкнутое множество.
Задача 44. Линейное преобразование одного гильбертова
пространства в другое замкнуто тогда и только тогда, когда оно
ограничено.
Это утверждение известно под названием теоремы о замкнутом
графике; его доказательства для произвольных банаховых
пространств обычно основаны на категорных соображениях (см. Дан-
форд и Шварц [1, стр. 70]).
Эта теорема оставляет открытым вопрос о замкнутых, но
неограниченных линейных преобразованиях. Такие преобразования
часто встречаются в приложениях функционального анализа.
Единственное, что утверждает о них теорема о замкнутом
графике — это то, что они могут быть определены лишь на неполных
унитарных пространствах (или на незамкнутых линейных
многообразиях в гильбертовых пространствах).
45. Неограниченные симметрические преобразования.
Линейное преобразование А (не обязательно ограниченное) на
унитарном пространстве Н (не обязательно полном) называется
симметрическим, если (Af, g) = (/, Ag) для всех векторов / и g из Н.
Желательно использовать этот нейтральный термин (а не «эрмитов»
или «самосопряженный»), поскольку в обычном определении
эрмитова оператора (А = А*) уже в самой формулировке
определения обязательно предполагается ограниченность. Но
существует ли это различие на самом деле?
Задача 45. (а) Всякое ли симметрическое линейное
преобразование на унитарном пространстве Н ограничено? (б) А что можно
сказать, если Н — гильбертово пространство"?

ГЛАВА 6. ОПЕРАТОРЫ УМНОЖЕНИЯ
46. Диагональные операторы. Теорию операторов, как и
всякую другую математическую теорию, нельзя изучить глубоко,
не рассмотрев большого числа конкретных примеров. Несколько
следующих задач посвящены построению конкретных операторов
и изучению их норм, обратных операторов и спектров.
Рассмотрим сначала гильбертово пространство Н и семейство
векторов {ej}, образующих в нем ортонормированный базис.
Оператор А называется диагональным, если вектор Ае^ отличается
от et скалярным множителем, т. е. Ав] = a^j для каждого ;'.
Совокупность чисел {<Xj} можно называть просто диагональю
оператора А.
Определение диагонального оператора зависит от выбора
базиса {ej), но в большинстве случаев, когда речь идет о
диагональных операторах, базис фиксируется (быть может, молчаливо)
с самого начала и больше никогда не упоминается. С другой
стороны, диагональные операторы можно описать инвариантно как
нормальные операторы, собственные векторы которых порождают
все пространство. (Эквивалентность этих определений легко
доказать.) Обычно диагональные операторы ассоциируются с орто-
нормированной последовательностью векторов. Ударение на слове
«последовательность» подчеркивает как мощность (n0), так и
порядковый тип (со) рассматриваемого множества индексов. В этом
частном случае можно пользоваться соответствующим языком
(например, говорить о «первом элементе диагонали») и
соответствующей техникой (например, построениями по индукции).
Задача 46. Для того чтобы совокупность чисел {ctj} была
диагональю диагонального оператора, необходимо и достаточно,
чтобы она была ограничена; если это условие выполнено, то
равенства Ав] = afj однозначно определяют оператор А и |[ А |( =
= sup 1 а, \.
з
47. Умножения в ?2. Каждая последовательность комплексных
чисел индуцирует линейное преобразование А, отображающее I2
в векторное пространство всех (не обязательно квадратично
суммируемых) последовательностей; положим А { ?4, |2i Ез> • • • )--
= (aili, a2g2. а3|з> • • ¦ )• Такое преобразование А называется
умножением. Из первого утверждения задачи 46 следует, что

38 Задачи
если А — оператор (т. е. ограниченное линейное отображение
пространства I2 в себя), то последовательность {ап} ограничена.
А что произойдет, если отказаться от ограниченности
преобразования А!
Задача 47. Может ли неограниченная последовательность чисел
индуцировать {хотя бы неограниченное) преобразование
пространства Р в себя?
Акцент здесь делается на том, что областью определения этого
преобразования должно служить все пространство Z2, т. е. если
<|1? g2. h, ...)el2, то и <ttiii, a2g2, а?3, . . .) 6 I2. Этот
вопрос следует сравнить с задачей 22. В ней рассматривались
последовательности, отображавшие I2 в Z1 (и утверждалось, что
все они принадлежат пространству Z2), здесь же рассматриваются
последовательности, переводящие Z2 в I2 (и спрашивается, должны
ли они принадлежать Z°°). Обобщение этой задачи на пространство
L2 содержится в задаче 51.
48. Спектр диагонального оператора. Ограниченные
последовательности {а„} комплексных чисел образуют алгебру (операции
производятся покоординатно) с единицей (ап = 1 для всех п),
инволюцией ({а„}->- {а*}) и нормой (|| {а„} ||=sup | ап |). Огра-
п
ничейная последовательность {а^} называется обратимой, если
у нее существует обратный элемент в этой алгебре, т. е. если
существует такая ограниченная последовательность {Р„}, что а„р„ = 1
для всех п. Для этого необходимо и достаточно, чтобы
последовательность {ап} была отделена от нуля, т. е. чтобы нашлось такое
положительное число б, что | ссге | ^> б при всех п.
Пусть Н — гильбертово пространство с ортонормированным
базисом {еп}. Легко убедиться, что соответствие {ап}—>¦ А (где
А — такой оператор в Н, что Аеп = апеп для всех п) представляет
собой изоморфизм (вложение) алгебры последовательностей в
алгебру операторов на пространстве Н. Это соответствие сохраняет
не только простейшие алгебраические операции, но и инволюцию:
если {сс„} -*- А, то {а*}-*- А*. Оно сохраняет также и норму
(см. задачу 46).
Задача 48. Диагональный оператор с диагональю {ап} обратим
тогда и только тогда, когда последовательность {ап} обратима.
Следствие: спектр диагонального оператора совпадает с
замыканием множества его диагональных элементов.
Из этого результата вытекает, что каждое непустое
компактное подмножество комплексной плоскости является спектром
некоторого оператора (и даже некоторого диагонального
оператора). Доказательство: возьмем последовательность комплексных

Гл. в. Операторы умножения 39
чисел, всюду плотную в рассматриваемом множестве, и построим
диагональный оператор с этой последовательностью на диагонали.
49. Норма умножения. Диагональные операторы представляют
собой частный случай одной общей конструкции, известной из
теории меры. Предположим, что X — пространство с мерой |л.
Если ф — ограниченная (т. е. существенно ограниченная)
измеримая комплекснозначная функция, то оператором умножения
(или просто умножением), индуцированным функцией ср,
называется оператор А на пространстве L2 (\i), заданный формулой
(Af)(x)=q>(x)f(x)
для всех точек х в X. (Здесь, как и всюду в теории меры, две
функции считаются тождественными, если они отличаются только
на множестве меры нуль. Это соглашение относится к
ограниченным функциям ф, а также к квадратично интегрируемым
функциям /.) Если X — множество всех натуральных чисел и и. —
считающая мера (т. е. мера каждого множества равна числу его
элементов), то операторы умножения превращаются в диагональные
операторы.
Задача 49. Выразить через ф норму оператора умножения,
индуцированного функцией ц>.
50. Ограниченность множителя. На операторы умножения
на пространствах с мерой переносится многое из теории
диагональных операторов, но детали рассуждений иногда становятся
несколько более тонкими. Примером может служить обобщение
утверждения о том, что если последовательность является диагональю
диагонального оператора, то она ограничена.
Задача 50. Если оператор А в пространстве L2 (и.) с о-конечной
мерой ц. таков, что Af = ф/ (где ф — некоторая функция) для всех
f из L2 ([л,), то функция ср измерима и ограничена.
51. Ограниченность умножения. Каждая измеримая
комплекснозначная функция ф индуцирует линейное преобразование А,
отображающее L2 в векторное пространство всех (не обязательно
квадратично интегрируемых) измеримых функций: (Af) (x) =
= ф (х) / (х). В задаче 50 утверждается, что если А — оператор
(т. е. ограниченное линейное преобразование пространства L2
в себя), то функция ф ограничена. Что произойдет, если отказаться
от предположения об ограниченности преобразования А?-
Задача 51. Может ли неограниченная функция ц> индуцировать
(пусть неограниченное) преобразование пространства L2 (ji) (с а-
конечной мерой) в себя!

\Q Задачи
Эта задача обобщает задачу 47 на пространства с мерой.
52. Спектр умножения. Некоторые факты из теории
диагональных операторов распространяются на операторы умножения
почти дословно, как, например, следующий. Все ограниченные
измеримые функции (функции, отличающиеся лишь на множестве
меры нуль, отождествляются) образуют алгебру, операции в
которой осуществляются поточечно. В этой алгебре есть единица
(ф (х) = 1 для всех х), определены инволюция (ср ->- ср *) и норма
(II Ф Ноо)- Ограниченная измеримая функция ср называется
обратимой, если для нее в этой алгебре существует обратная, т. е. такая
ограниченная функция ip, что ср (х) я|) (ж) = 1 для почти всех х.
Для этого необходимо и достаточно, чтобы функция ср была
отделена от нуля почти всюду, т. е. чтобы нашлось такое
положительное число б, что | ф (х) |>б для почти всех х.
Соответствие ср —>• А, где А —• оператор умножения,
определяемый равенством (Af) (х) = ср (х) f (x), представляет собой
изоморфизм (вложение) алгебры функций в алгебру операторов
на пространстве L2. Это соответствие сохраняет не только обычные
алгебраические операции, но и инволюцию: если ц>-*-А, то
Ф* -»- А*. Если мера ст-конечна, то оно сохраняет и норму (см.
решение 49).
Роль, которую в случае последовательностей играло множество
значений, в общем случае играет так называемая существенная
область значений функции ср, т. е. множество всех таких
комплексных чисел Я, что для каждой окрестности N числа к
множество ф (N) имеет положительную меру.
Задача 52. Оператор умножения в пространстве L2 {в случае
а-конечной меры), индуцированный функцией ср, обратим тогда
и только тогда, когда обратима функция ф. Следствие: спектр
умножения совпадает с существенной областью значений
множителя.
53. Умножения в функциональных гильбертовых
пространствах. Если умножение на функцию ф переводит пространство L2
в себя, то эта функция необходимо ограничена (решение 51),
и потому умножение, индуцированное ею, будет оператором в IA
Верны ли аналоги этих утверждений в функциональных
гильбертовых пространствах ?
Задача 53. Пусть Н — функциональное гильбертово
пространство над множеством X и ц> — такая комплекснозначная функция
на X, что ср-/ 6 Н, как только / ? Н. (а) Ограничено ли линейное
преобразование Af = ср-/? (б) Вытекает ли из ограниченности
линейного преобразования Af = (p-f ограниченность функции ф?

Гл. 6. Операторы умножения
54. Мультипликаторы функциональных гильбертовых
пространств. Предположим, что Н — функциональное гильбертово
пространство на множестве X. Функция ср на X называется
мультипликатором пространства Н, если ф / ? Н для каждой
функции / из Н. Решение 53 показывает, что каждый
мультипликатор ограничен. Описание всех мультипликаторов
функционального гильбертова пространства часто оказывается важной и
интересной задачей.
Для Р, простейшего бесконечномерного пространства, легко
доказать, что необходимое и достаточное условие того, чтобы
функция (т. е. последовательность) была мультипликатором,
состоит в ее ограниченности. В некотором смысле у пространства
Z2 слишком много мультипликаторов: большинство из них не
принадлежит самому пространству.
В пространстве А2 все по-другому. Здесь, для того чтобы
функция была мультипликатором, необходимо и достаточно, чтобы
она была ограничена и принадлежала пространству А2. В
некотором смысле у этого пространства слишком мало мультипликаторов:
в их число не входит большинство элементов самого пространства.
Если множество X конечно, а пространство Н образовано всеми
функциями на X, то множество мультипликаторов пространства Н
не слишком мало и не слишком велико: оно совпадает со всем
пространством Н. Может ли так быть в бесконечномерном случае?
Задача 54. Построить такое бесконечномерное
функциональное гильбертово пространство Н, мультипликаторами которого
были бы все его элементы и только они.
Утверждение, что каждый элемент пространства Н является
мультипликатором, эквивалентно тому, что пространство Н
замкнуто относительно умножения, т. е. Н — алгебра. Постоянная
функция, равная 1, будет мультипликатором для любого Н;
поэтому утверждение, что все мультипликаторы пространства Н
принадлежат ему, очевидно, эквивалентно г1 тому, что 1 ? Н. Если
1 6 Н, то, разумеется, в алгебре Н есть единица, но тривиальные
примеры показывают, что обратное неверно. Таким образом,
построение бесконечномерного функционального гильбертова
пространства, являющегося алгеброй с единицей (относительно
поточечного умножения функций),— это не совсем, но почти то,
что требуется в задаче 54.
В силу решения задачи 53.— Прим. ред.

ГЛАВА 7. ОПЕРАТОРНЫЕ МАТРИЦЫ
55. Коммутативный операторный детерминант. Выбор орто-
нормированного базиса позволяет представить гильбертово
пространство в виде прямой суммы одномерных подпространств.
Некоторые элементы теории матриц, связанной с ортонормирован-
ным базисом, полезно было бы обобщить на прямые суммы более
общего вида. Положим для определенности Н = Hi 0 Н2 0
0 Н3 0 .... (Точно так же можно рассматривать несчетные
прямые суммы; конечные же суммы — еще проще.) Если считать
прямую сумму «внутренней», т. е. слагаемые Н; считать
подпространствами в Н, то элементами / пространства Н будут суммы
/=/l + /2 + /3+..-,
где fi принадлежит Н*. Если А — оператор в пространстве Н, то
Af Af + Af + Af+
Каждый вектор Afj принадлежит Н и потому допускает
разложение
гДе gu? Н,. Элементы g^, разумеется, зависят от /_,-, и эта
зависимость линейна и непрерывна. Это означает, что
где Ajj — ограниченное линейное преобразование из Н;- в Hj.
Построение на этом кончается: каждому оператору А в
пространстве Н соответствует матрица (Ац), в которой элемент, стоящий
на пересечении ?-й строки и /-го столбца, представляет собой
проекцию на i-ую компоненту Н, сужения оператора А на
подпространство Н/.
Это соответствие между операторами и матрицами
(индуцированное фиксированным прямым разложением пространства) обладает
всеми естественными алгебраическими свойствами. Если .4=0, то
^4г-;-=0 привсех i ц/; если .4=1 (на Н),то-4г^-=0 при 1ф) яАц=1
(на Н,). Линейные операции для операторных матриц
определяются очевидным образом. Матрица, соответствующая сопряженному
оператору А*, получается из матрицы оператора А
транспонированием и сопряжением, т. е. на пересечении i-й строки и/-го столб-

Гл. 7. Операторные матрицы 43
ца матрицы оператора А* стоит элемент A*i. Умножению
операторов соответствует умножение матриц по обычной формуле {AB)ij=
= 2 AihBhj- Здесь не возникает никаких затруднений со сходи-
h
мостью, но могут быть неприятности с коммутативностью; нужно
внимательно следить за порядком сомножителей.
Теория операторных матриц не становится тривиальной, даже
когда число прямых слагаемых невелико (скажем, два) и даже
когда все они одинаковы. Особенно часто встречается следующая
ситуация: дано гильбертово пространство Н, а роль прямой суммы
Н, рассматриваемой в предыдущих абзацах, играет пространство
Н @ Н. Операторы в этой прямой сумме записываются
квадратными матрицами второго порядка, элементы которых —
операторы в Н.
Задача 55. Пусть А, В, С и D — попарно коммутирующие
операторы в гильбертовом пространстве. Тогда для обратимости
операторной матрицы
необходимо и достаточно, чтобы формальный детерминант AD —
—ВС был обратимым оператором.
56. Операторный детерминант. Во многих вопросах основную
роль играет обратимость операторной матрицы
элементы которой, вообще говоря, не перестановочны; любой
результат такого рода заслуживает внимания.
Задача 56. Если операторы С и D коммутируют и оператор
D обратим, то для обратимости матрицы
С D
необходимо и достаточно, чтобы детерминант AD — ВС был
обратим. Построить примеры, показывающие, что если отказаться
от требования обратимости оператора D, то это условие
перестает быть и достаточным, и необходимым.
Для конечных матриц известно больше (ср. Шур [1]): если
матрицы С и D перестановочны, то у матриц
'А В)
D)

'Л Задачи
и AD — ВС один и тот же детерминант. Доказательство теоремы,
сформулированной в задаче 56, в общем случае можно провести
так, чтобы в конечномерном случае из него вытекало ото ботее
сильное утверждение.
57. Операторный детерминант с конечным углом. Если А, В
и D — операторы в гильбертовом пространстве Н, то
операторная матрица
M-\0 D
индуцирует оператор в прямой сумме Н @ Н (ср. с задачей 56):
если оба оператора А и D обратимы, то и оператор М обратим.
Обратное (если М обратим, то обратимы А и D) неверно (см. снова
задачу 56).
Операторные матрицы определяют операторы на прямых
суммах гильбертовых пространств вне зависимости от того,
одинаковы слагаемые или нет. Обратное утверждение,
сформулированное в предыдущем абзаце, по крайней мере в одном интересном
частном случае, оказывается верным.
Задача 57. Если Н и К — гильбертовы пространства.
dim H<oo ц матрица
[А В\
мЧо в)
определяет обратимый оператор на Н @ К, то оба оператора
А и D обратимы. Следствие: спектр оператора М равен
объединению спектров операторов А и D.
Заметим, что А действует в пространстве Н, D — в К, а В
отображает К в Н.

ГЛАВА 8. СВОЙСТВА СПЕКТРОВ
58. Спектры и сопряжение. Часто бывает полезно выяснить,
почему данная точка спектра оператора принадлежит спектру.
Если точка X принадлежит спектру оператора А, то это значит,
что оператор А — X необратим. Поэтому вопрос сводится к
следующему: почему этот необратимый оператор необратим?
Существует несколько различных ответов на этот вопрос; они приводят
к разным, никак не связанным между собой классификациям
спектров.
Самый простой подход, по-видимому, таков. Вспомним, что
оператор обратим тогда и только тогда, когда он ограничен снизу
и его область значений всюду плотна. Отсюда следует, что если
А (А) — спектр оператора А, П (А) — множество комплексных
чисел X, для которых А — А- не ограничен снизу, и Г (А) —
множество таких X, что замыкание области значений оператора А — X
является собственным подпространством в Н (т. е. не совпадает
с Н), то
Л(А) = ЩА)\)Т(А).
Множество П (А) называется предельным спектром оператора А;
число X принадлежит множеству П (А) тогда и только тогда, когда
существует такая последовательность {/„} единичных векторов,
что ]| (А — X) fn || —»- 0. Важное подмножество предельного спектра
образует точечный спектр По {А), состоящий из тех и только тех
чисел X, для которых найдутся единичные векторы f(¦,,,),
удовлетворяющие условию Af(i) = Xf^x) (т. е. По (А) — множество
собственных значений оператора ^4) х). Множество Г (А) называется
спектром сжатия оператора А. Грубо говоря, мы представляем
себе спектр А (А) в виде двух пересекающихся кругов (П (А)
и Г (А)), один из которых (П) разделен на две части (По и П\П0)
диаметром, перпендикулярным к их общей хорде. Таким образом,
спектр А разделен на 5 частей, каждая из которых может в
конкретном случае присутствовать или отсутствовать. Прирожденный
калькулятор может развлечься выяснением вопроса, какие же
из 25 a priori возможных вариантов на самом деле реализуются,
х) Согласно более распространенной терминологии, предельным спектром
называют множество П(Л)\П0(Л) (т. е. точечный спектр не причисляют
к предельному).— Прим. ред.

46 Задачи
но мы советуем ему отложить эту попытку до тех пор, пока он не
познакомится с некоторыми примерами операторов, приведенными
дальше в этой книге.
Сейчас представилась возможность объяснить несколько
запутанную сторону терминологии теории операторов. Существует
нечто, называемое спектральной теоремой для нормальных
операторов (см. задачу 97), и для каждого оператора определено нечто,
называемое спектром. Изучение спектров можно назвать (и так
иногда делают) спектральной теорией. В случае нормальных
операторов спектральная теорема дает некоторую информацию
о спектральной теории, но обычно эту информацию легче получить
из других соображений. Спектральная теория в этом смысле
представляет собой один из самых легких разделов теории
операторов.
Никакого определенного соглашения о том. какие понятия
и символы наиболее удобны в этой части теории операторов, не
существует. Б каждой книге вводится собственная терминология,
и наша книга не составляет исключения. Обычно делят спектр
на три непересекающиеся части: точечный спектр По, остаточный
спектр Г \ По и непрерывный спектр П\(ГиП0). (Множества
П и Г могут пересекаться; примеры мы легко построим немного
позже.) Что касается символов, то спектр часто обозначают буквой
а (или 2), а не Л.
Для того чтобы овладеть этими понятиями, лучше всего,
конечно, привести поясняющие примеры. Но мы сначала докажем
несколько общих фактов; они помогут нам при изучении
примеров. Полезнее всего познакомиться с тем, как связаны спектры
с алгеброй и топологией комплексной плоскости. По-видимому,
самые легкие алгебраические вопросы связаны с сопряжением.
Задача 58. Что произойдет с точечным спектром, спектром
сжатия и с предельным спектром, если заменить оператор его
сопряженным!
59. Теорема об отображении спектра. Утверждение типа: если
А — оператор и р — многочлен, то Л (р (А)) = р (Л (А)) (см.
Халмош [3, стр. 53]), называется теоремой об отображении
спектра. Подобные утверждения могут относиться уже не к
многочленам, а к другим функциям, таким, как 1/z, а также к
широким классам аналитических функций (Данфорд и Шварц [1,
стр. 609]).
Задача 59. Верна ли теорема об отображении спектра для
многочленов, если вместо А рассматривать По или П, или Г?
Верна ли эта теорема для функции р (z) = 1/ z (z ф 0) в
применении к обратимым операторам, если рассматривать По или
П, или Г?

Гл. 8. Свойства спектров 47
60. Подобие и спектр. Операторы А и В называются подобными,
если существует такой обратимый оператор Р, что Р~1АРк = В.
Задача 60. У подобных операторов совпадают спектры,
точечные спектры, предельные спектры и спектры сжатия.
61. Спектр произведения. Если из двух операторов А и В
хотя бы один обратим, то операторы АВ и В А подобны. (В самом
деле, В А — А'1 (АВ) А, если А обратим, и В А = В (АВ) В'1,
если В обратим.) Поэтому (в силу задачи 60), если один из
операторов А и В обратим, то АВ и В А имеют одинаковые спектры.
В конечномерном случае известно больше: характеристические
многочлены операторов АВ и В А всегда совпадают (без всяких
предположений об обратимости). В бесконечномерном случае,
если и А, и В необратимы, то спектры этих двух произведений
не обязаны совпадать (ниже будет много таких примеров), но и не
могут сильно отличаться друг от друга. Вот точное утверждение.
Задача 61. Ненулевые элементы спектров Л (АВ) и Л (ВА)
совпадают.
62. Замкнутость предельного спектра.
Задача 62. Всегда ли замкнут предельный спектр!
63. Граница спектра.
Задача 63. Граница спектра оператора содержится в
предельном спектре.

ГЛАВА 9. ПРИМЕРЫ СПЕКТРОВ
64. Остаточный спектр нормального оператора. Рассмотрим
теперь частные случаи. Покажем в первую очередь, что у
нормальных операторов, которые из известных классов операторов
составляют самый большой и легко поддающийся изучению класс, особых
патологий в спектре не бывает.
Задача 64. Если А — нормальный оператор, то Г (А) = По (А)
и потому А (А) = П (А). Другими словами, остаточный спектр
нормального оператора всегда пуст.
65. Части спектра диагонального оператора. Спектр
диагонального оператора совпадает (задача 48) с замыканием его
диагонали. Для определения точной структуры спектра требуется
дополнительное рассмотрение.
Задача 65. Для каждого диагонального оператора найдите
точечный спектр, спектр сжатия и предельный спектр.
66. Части спектра оператора умножения.
Задача 66. Определите точечный спектр, спектр сжатия и
предельный спектр оператора умножения.
67. Односторонний сдвиг. Одним из наиболее важных
операторов, играющим существенную роль во всех разделах теории
гильбертовых пространств, является оператор одностороннего
сдвига. Проще всего определить его, рассмотрев гильбертово
пространство Р всех квадратично суммируемых
последовательностей. Односторонним сдвигом называется оператор U в Р,
действующий по формуле
U {%о, 1и g2, ...} = @, |0, 1и 12, ...)
(односторонний сдвиг уже встречался в этой книге, но до сих
пор мы его так не называли (см. решение 56)). Линейность этого
оператора очевидна. Что касается ограниченности, то это
свойство выполняется с запасом: норма векторов не только остается
в нужных границах, но сохраняется полностью, т. е.
односторонний сдвиг — изометрический оператор. Областью значений
оператора U служит не все пространство Р, а его собственное подпро-

Гл. 9. Примеры спектров 49
странство, образованное векторами, у которых нулевая
координата равна нулю. Существование изометрического оператора,
область значений которого не совпадает со всем пространством,
характерно для бесконечномерных пространств.
Обозначим через еп вектор <?0» 5i> Ег> ••¦)¦, Для которого
?л = 1 и ?; — 0 при i фп (п = 0, 1, 2, . . . ). Векторы еп
образуют ортонормированный базис в I2. Действие оператора U в нем
описывается равенствами
Uen = eM (» = 0, 1, 2, ...).
Эти равенства однозначно задают оператор U и их часто
принимают за его определение.
Другим пространством, в котором, как и в Z2, существует
естественный базис, занумерованный натуральными числами,
является Н2 (см. задачу 26). Так как в этом пространстве еп = г", то
результат одностороннего сдвига совпадает с результатом
умножения на е4. Иными словами, оператор одностороннего сдвига
совпадает с оператором, задаваемым в пространстве Н2 формулой
(Uf)(z)=zf(z).
Говоря, что эти операторы «совпадают», и фактически подразумевая
при этом совершенно определенный оператор одностороннего
сдвига, мы допускаем некоторую неточность языка, которая,
однако, удобна, и мы сохраним ее в дальнейшем. Строго говоря,
односторонний сдвиг — это класс унитарно эквивалентных операторов,
но никакой путаницы не произойдет, если рассматривать их всех
как различные представления одного оператора.
Задача 67. Определите спектр одностороннего сдвига и его
части (точечный спектр, спектр сжатия и предельный спектр).
То же для оператора, сопряженного к оператору одностороннего
сдвига.
68. Двусторонний сдвиг. Весьма близок к оператору
одностороннего сдвига оператор двустороннего сдвига. Чтобы определить,
его, возьмем в качестве гильбертова пространства Н пространство
двусторонних квадратично суммируемых последовательностей.
Векторы этого пространства удобнее всего записывать в виде
(• • ч 5-2» 5-1) (io)i 5l> ^2i •¦•)»
где элемент в круглых скобках соответствует индексу 0. Оператор
двустороннего сдвига W в пространстве Н определяется
равенством

30 Задачи
Линейность очевидна, ограниченность тоже. Более того,
двусторонний сдвиг, как и односторонний, является изометрией. А так
как образ двустороннего сдвига совпадает со всем пространством Н,
то оператор W унитарный.
Если, как и раньше, обозначить через еп вектор (. . ., ?_t,
(lo). ?i> • • •>. У которого 1п = 1, ^ = 0 при / фп (п = 0,
±1, ±2, . . .), то векторы еп образуют ортонормированный базис
в Н. Действие оператора W в этом базисе задается равенствами
Wen = en^ (л = 0, ±1, ±2, ...)•
Задача 68. Определите спектр оператора двустороннего сдвига
и его части {точечный спектр, спектр сжатия и предельный спектр).
То же для оператора, сопряженного к оператору двустороннего
сдвига.
69. Спектр умножения в функциональном пространстве.
Каждый из изученных до сих пор операторов был оператором
умножения либо в собственном смысле (в L2), либо в
расширенном (в функциональных гильбертовых пространствах). Последний
случай обычно труднее для изучения, но его преимущество состоит
в том, что такой оператор умножения можно точно
охарактеризовать в терминах его спектра.
Задача 69. Оператор А в гильбертовом пространстве Н можно
представить оператором умножения в функциональном
гильбертовом пространстве тогда и только тогда, когда собственные векторы
оператора А* порождают пространство Н.
Внимание: примеры операторов умножения в L2 показывают,
что эта характеристика применима только к функциональным
пространствам. Этот результат, по-видимому, впервые получен
Халмошем и Шилдсом.
70. Относительный спектр оператора сдвига. Оператор А
называется относительно обратимым, если существует такой
оператор В, что ABA = А. Это довольно специальное понятие,
не слишком полезное, но обладающее некоторыми любопытными
свойствами. Каждый обратимый оператор относительно обратим;
на самом деле относительно обратим даже оператор, имеющий
только левый или правый обратный. Это совершенно очевидно.
Значительно менее очевидно (но, однако, верно), что каждый
оператор в конечномерном пространстве относительно обратим.
(Указание: представьте оператор в виде прямой суммы обратимого
и нильпотентного.) Понятие относительной обратимости
принадлежит общей теории колец; в частности, приведенное утверждение
относительно конечномерных операторов можно выразить, сказав,

Гл. 9. Примеры спектров 51
что полная конечномерная алгебра матриц над полем комплексных
чисел является регулярным кольцом (см. фон Нейман [3]).
Относительным спектром оператора А (в гильбертовом пространстве
любой размерности) называется множество комплексных чисел X,
для которых оператор А — А, не будет относительно обратимым.
Задача 70. Найдите относительный спектр оператора
одностороннего сдвига.
Понятие относительного спектра было введено и изучено
Асплундом [1].
71. Замкнутость относительного спектра.
Задача 71. Всегда ли относительный спектр замкнут?

ГЛАВА 10. СПЕКТРАЛЬНЫЙ РАДИУС
72. Аналитичность резольвенты. Предположим, что А —
оператор в гильбертовом пространстве Н. Если точка X не
принадлежит спектру оператора А, то оператор А — X обратим. Положим
р [X) = (А — X). (Когда нам потребуется выделить зависимость
функции р (X) от оператора А, мы будем писать рА (X) вместо
р (X).) Функция р называется резольвентой оператора А. Она
определена на дополнении к спектру Л (А), а ее значениями служат
операторы в пространстве Н.
Резольвента определяется совершенно явным и
конструктивным образом и потому весьма правдоподобно, что она должна
быть хорошей функцией от X. Чтобы точно сформулировать это
утверждение, рассмотрим функцию ср, заданную на некотором
открытом множестве комплексной плоскости, значениями которой
служат операторы в пространстве Н. Назовем такую функцию
аналитической, если для любых векторов / и g из пространства Н
комплекснозначная функция X -v (ц>(Х) /, g) (с той же областью
определения, что и ф) аналитическая в обычном смысле. (Чтобы
отличить это понятие от других близких понятий, его иногда
называют слабой аналитичностью.)
Если функции 1]з, заданной равенством г|з (X) = ф A/Х), можно
приписать такое значение в нуле, что она станет там
аналитической, то (так же, как и в случае числовых функций) говорят, что
функция ф аналитична на бесконечности, и полагают значение ф
в точке оо равным значению i|) в нуле.
Задача 72. Резольвента каждого оператора — аналитическая
функция в каждой точке своей области определения и в точке
оо; значение ее на бесконечности — нулевой оператор.
Подробное изучение резольвенты можно найти в книге Данфор-
да и Шварца ([1, гл. VII, § 3]).
73. Непустота спектра. Каждый ли оператор обладает непустым
спектром? Рано или поздно этот вопрос должен возникнуть. Уже
конечномерный случай показывает, что вопрос не тривиален.
Утверждение о том, что каждая конечная матрица имеет
собственное значение, эквивалентно тому, что характеристический
многочлен каждой конечной матрицы имеет по крайней мере один нуль.
А это в точности означает, что каждый полином (с комплексными

Гл. 10. Спектральный радиус 53
коэффициентами) имеет по крайней мере один (комплексный)
корень. Другими словами, в конечномерном случае общий вопрос
о непустоте спектра так же глубок, как и основная теорема
алгебры, доказательство которой обычно основано на теории
аналитических функций комплексного переменного. Не удивительно
поэтому, что при изучении операторов эта теория появляется во всех
случаях (независимо от размерности пространства).
Задача 73. Каждый оператор имеет непустой спектр.
74. Спектральный радиус. Спектральный радиус оператора А,
который мы будем обозначать через г (А), определяется по
формуле
Ясно, чта 0<г(Л) < || А ||. Теорема об отображении спектра
утверждает, что г (Ап) = (г (А))п для любого натурального п.
Спектральный радиус часто легко вычислить даже тогда, когда
сам спектр определить трудно. Рецепт, облегчающий нахождение
спектрального радиуса, содержится в следующем утверждении.
Задача 74. Для каждого оператора А
r{A)=hm\\An\\i/n
п->со
в том смысле, что предел справа всегда существует и имеет
указанное значение.
Из этого результата легко следует, что если операторы А
и В коммутируют, то
r(AB)<r(A)r(B).
Менее очевидное следствие, для получения которого, однако,
не требуется ничего, кроме некоторой возни с неравенствами,
состоит в том, что для коммутирующих операторов А и В
r(A-j-B)<r(A) + r(B).
Если не требовать коммутативности, то уже такой двумерный
пример, как
А (° °V В 1°
показывает, что оба следствия перестают быть верными.
75. Взвешенные сдвиги. Оператором взвешенного сдвига
называется произведение оператора сдвига (одностороннего или
двустороннего) на диагональный (в этом же базисе) оператор.
Более подробно: пусть {еи} — ортонормированный базис {п =
= 0, 1, 2, ... или п = 0, +1, ±2, . . .), и пусть {а„} — ограни-

54 Задачи
ченная последовательность комплексных чисел (п пробегает те же
значения, что и выше). Оператором взвешенного сдвига
называется оператор вида SP, где S — оператор сдвига (Sen = en + i) и Р —
диагональный оператор с диагональю {а„} (Реп = апеп). Об
операторах взвешенного сдвига известно далеко не все, но и то
немногое, что известно, делает их почти незаменимыми при построении
примеров и контрпримеров.
Задача 75. Если Р и Q — диагональные операторы с
диагоналями {ап} и {Рп}, и если | а„ | = | р„ | при всех значениях п, то
операторы взвешенного сдвига А = SP и В = SQ унитарно
эквивалентны.
Если речь идет о двух операторах взвешенного сдвига,
следовало бы, строго говоря, рассматривать два различных ортонор-
мированных базиса, но достигаемая таким образом общность
оказывается поверхностной. Действительно, если {еп} и {/„} —
ортонормированные базисы, то существует такой унитарный
оператор U, что Uen = fn для всех п, и любое доказательство
унитарной эквивалентности двух операторов (определенных с
помощью одного и того же базиса) введением оператора U без
всяких хлопот переносится на общий случай.
Из сформулированного результата об унитарной
эквивалентности операторов взвешенного сдвига вытекают два полезных
следствия. Первое состоит в том, что взвешенный сдвиг с весами
ап унитарно эквивалентен взвешенному сдвигу с весами |а„ |.
Так как унитарно эквивалентные операторы «абстрактно
неразличимы», то мы можем всегда, не умаляя общности рассуждений,
рассматривать операторы взвешенного сдвига только с
положительными весами. Именно этим соображением оправдывается
употребление слова «вес». Второе следствие состоит в следующем.
Пусть А — оператор взвешенного сдвига, а — комплексное
число, по модулю равное единице. Тогда, поскольку аА — также
оператор взвешенного сдвига, веса которого равны по модулю
соответствующим весам оператора А, операторы А и аА унитарно
эквивалентны. Другими словами, с точностью до унитарной
эквивалентности, оператор взвешенного сдвига не меняется при
умножении на комплексное число, по модулю равное единице.
Отсюда следует, в частности, что спектр оператора взвешенного
сдвига обладает круговой симметрией: если Я принадлежит
спектру и | а | — 1, то аЯ также принадлежит спектру.
76. Подобие операторов взвешенного сдвига. Верно ли
утверждение, обратное задаче 75? Другими словами, пусть А и В —
унитарно эквивалентные операторы взвешенного сдвига с весами
{ап} и {$п}; верно ли, что | ап \ = | $п \ для всех и?

Гл. 10. Спектральный радиус 55
Ответ трудно угадать, но при правильном подходе он
получается легко. Ответ отрицателен; причина этого для
двустороннего сдвига состоит в том, что сдвиг весов приводит к унитарно
эквивалентному оператору. Например, если Аеп = апеп + 1 и Веп =
= ал + 1е71 + 1 (п — 0, +1, +2, . . .), то операторы А и В унитарно
эквивалентны. В самом деле, обозначим через W оператор
двустороннего сдвига (Wen = en+i, n = 0, ±1, ±2, . . .). Тогда
И7*^^ =В. Но если последовательность {] а„ |} не постоянна,
то ] ап } Ф | an+i "| по крайней мере для одного п.
Односторонние сдвиги ведут себя по-разному. Если некоторые
веса могут обращаться в нуль, то ситуация отчасти неприятна,
отчасти тривиальна. В хорошем случае (когда все веса не равны
нулю) ядро оператора Л*, сопряженного к оператору
одностороннего сдвига, порождается вектором е0, ядро оператора (А*J
порождается векторами е0 и б! и, в общем случае, ядро оператора
(А*)п порождается векторами е0, е4, . . ., е„_4 (п = 1, 2, . . .).
Если А и В — унитарно эквивалентные операторы одностороннего
сдвига, то и операторы (А*)п и (В*)" унитарно эквивалентны; если,
например, А = U*BU, то оператор U должен отображать ядро
оператора (А*)п на ядро оператора (В*)п. Отсюда вытекает, что
линейная оболочка множества {е0. . . ., en_i} инвариантна
относительно U, а из этого в свою очередь следует, что U —
диагональный оператор. Поскольку диагональные элементы диагонального
унитарного оператора по модулю равны единице, для каждого п
вектор Аеп действительно отличается от вектора Веп только
числовым множителем, модуль которого равен единице.
На этом теория унитарной эквивалентности операторов
взвешенного сдвига с ненулевыми весами закончена. Что же можно
сказать о подобии?
Задача 76. Если А и В — операторы односторонних взвешенных
сдвигов с ненулевыми весами {ап} и {(Зд}, то для их подобия
необходимо и достаточно, чтобы последовательность частных
а0 ... а
Ро • • • Рга
была отделена от 0 и от оо.
Подобие — менее жесткое ограничение, чем унитарная
эквивалентность. На вопросы о подобии операторов отвечать обычно
легче. Достаточное условие для подобия операторов двустороннего
сдвига, аналогичное условию задачи 76, можно получить,
модифицировав рассуждения для одностороннего сдвига (причем
трудности этой модификации состоят скорее в обозначениях, чем в
существе дела). Это условие впервые получил Р. Келли.

56 Задачи
77. Норма и спектральный радиус взвешенного сдвига.
Задача 77. Найдите выражение для нормы и спектрального
радиуса оператора взвешенного сдвига через его веса.
78. Собственные значения операторов взвешенного сдвига.
Точное определение спектра и его частей для произвольного
оператора взвешенного сдвига — задача нетривиальная. Вот ее
полезный фрагмент.
Задача 78. Найдите все собственные числа произвольного
оператора одностороннего взвешенного сдвига (с ненулевыми весами}
и сопряженного к нему оператора.
Наличие нулевых весов не создает существенной трудности,
но усложняет рассуждения. Односторонний взвешенный сдвиг,
один из весов которого обращается в нуль, разлагается в прямую
сумму конечномерного оператора и другого оператора
одностороннего взвешенного сдвига. Наличие бесконечного числа нулей
может привести к интересным осложнениям (см. задачу 81),
но прежде чем их рассматривать, стоит решить несколько задач
об операторах сдвига с ненулевыми весами.
79. Взвешенные пространства последовательностей. Термин
«взвешенный сдвиг» обозначает уже определенное понятие, но им
можно с тем же успехом обозначить и нечто другое. В уже
введенном смысле он модифицирует понятие обычного оператора сдвига
в обычном пространстве последовательностей I2, так что веса
«привязаны» к преобразованию. В другом смысле он может
обозначать модификацию, при которой веса привязываются к
пространству.
Чтобы точно описать это обобщение, рассмотрим
последовательность р = {р0, pi, p2, • • •} строго положительных чисел
Pi и обозначим через I2 (р) множество последовательностей
оо
(?о> ?i> ?г> • • •) комплексных чисел, для которых 2 Рп] ?д I2 < °°-
п=0
Это множество будет гильбертовым пространством по отношению
к покоординатным линейным операциям и скалярному
произведению, заданному формулой
оэ
Его естественно называть взвешенным пространством
последовательностей. (Все это относилось к односторонним
последовательностям. Аналогично можно поступить и с двусторонними.) В каком
случае сдвиг будет оператором в этом пространстве? Другими ело-

Гл. 10. Спектральный радиус 57
вами, верно ли, что если / = (?о> Si, • • •> ? 22 (?)¦> то и 5/ =
= @> ?о> ?i> • • •) 6 I2 (p), и если / пробегает все пространство
I2 (р), то || Sf || < с||/ ||, где с — положительная постоянная?
На этот вопрос легко ответить. Очевидно, что необходимо
существование такой положительной постоянной а, что |]en + i ||<! а,]\еп ||,
где еп — вектор, у которого координата с номером п равна 1, а все
остальные координаты равны 0. Поскольку || еп ||2=^„, это
условие означает, что последовательность {pn+Jpn} должна быть
ограниченной. Почти очевидно, что это условие также и
достаточно. Если Pn+Jpn<aZ Для всех п, то
со со
n=i n=l
n=0
Любой вопрос об операторе взвешенного сдвига в обычном
пространстве последовательностей можно переформулировать для
оператора обычного сдвига во взвешенном пространстве
последовательностей. Вот пример.
Задача 79. Пусть р = {рп} — такая последовательность
положительных чисел, что частные pn+i/pn ограничены. Найдите
выражение спектрального радиуса оператора сдвига в
пространстве I2 (р) через последовательность {рп}.
80. Одноточечный спектр. Решение задачи 48 (каждое непустое
компактное подмножество комплексной плоскости является
спектром некоторого оператора) недостаточно гибко, чтобы с его
помощью привести примеры всех возможных способов поведения
частей спектра. Это решение использовало диагональные
операторы, у которых всегда есть собственные значения. Из него
невозможно усмотреть существование операторов, точечный спектр
которых пуст. На помощь приходят операторы умножения. Пусть
D — ограниченная область комплексной плоскости, ср (z) = z-
при z ? D и А — оператор умножения, индуцированный функцией
ф в пространстве L2 на D с обычной плоской мерой Лебега. Тогда
спектр оператора А совпадает с замыканием D области D;
точечного спектра у оператора А нет.
Аналогичная техника показывает, что существуют, например,
операторы А, у которых По (А) = 0 и Л (А) = [0, 1]. Нужно
только использовать линейную меру Лебега на отрезке [0, 1].
Если компактное множество М на плоскости служит носителем
меры (определенной на борелевских множествах), при которой

58 Задачи
вес каждой точки равен нулю, то оно совпадает со спектром
некоторого оператора без собственных значений. (Множество М
называется носителем меры \а, если для любого открытого множества
N из равенства \i(M[)N) = 0 следует, что M(\N=0.)
Доказательство утверждения о том, что каждое непустое
компактное совершенное множество (без изолированных точек) на
плоскости служит носителем меры (определенной на борелевских
множествах), при которой вес каждой точки равен нулю, представляет
стандартное упражнение по топологической теории меры. (Это
доказательство не имеет никакого отношения к теории
гильбертовых пространств.) Из него следует, что каждое такое множество
совпадает со спектром некоторого оператора без собственных
значений. А что можно сказать о множествах, не являющихся
совершенными?
Можно дать вполне удовлетворительный ответ, если
воспользоваться одним подходящим аналитическим обобщением
алгебраического понятия нильпотентности. Оператор называется нилъпо-
тентным, если некоторая его степень — нулевой оператор
(и наименьшая такая степень называется индексом
нильпотентности). Оператор А называется квазинилъпотентным, если
lim || Ап ||1/™ = 0. Очевидно, что из нильпотентности вытекает
п
квазинильпотентность. Из теоремы об отображении спектра
следует, что если А — нильпотентный оператор, то Л (А) = {0}.
Выражение для спектрального радиуса через норму оператора
показывает, что если А — квазинильпотентный оператор, то
Л (А) — {0}, и что верно обратное. Нильпотентные операторы
всегда имеют непустое ядро и, следовательно, непустой точечный
спектр. Для квазинильпотентных операторов это уже не так.
Задача 80. Постройте пример квазинилъпотентного оператора
с пустым точечным спектром.
Заметим, что в конечномерном пространстве такая
конструкция явно невозможна.
81. Спектр прямой суммы. Спектр прямой суммы двух
операторов равен объединению их спектров, то же верно для точечного
спектра, предельного спектра и спектра сжатия. По индукции
эти утверждения тривиально обобщаются на любое конечное число
слагаемых. Что же происходит, когда число слагаемых беконечно?
Возможный ключ к ответу — поведение диагональных операторов
в бесконечномерных пространствах. Такой оператор представляет
собой бесконечную прямую сумму, каждое слагаемое в которой
является оператором в одномерном пространстве. Спектр
диагонального оператора совпадает с замыканием объединения их
спектров (задача 48).

Гл. 10. Спектральный радиус 59
Задача 81. Всегда ли спектр прямой суммы операторов
совпадает с замыканием объединения их спектров!
82. Неравенство Рида. Алгебраические свойства оператора,
такие как эрмитовость или положительность, до сих пор не играли
заметной роли в этой книге. В следующей задаче они встречаются,
но они там также не основные. Мы приводим здесь эту задачу
главным образом из-за ее отношения к спектральному радиусу.
Задача 82. Если А и В — такие операторы, что А
положителен, а АВ эрмитов, то
\{ABf,f)\<r(B)(Af,f)
для всех векторов /.
Несколько более слабая формулировка этого результата
принадлежит Риду [1]: у него вме то г (В) фигурирует \\ В ||.

ГЛАВА 11. РАВНОМЕРНАЯ ТОПОЛОГИЯ
83. Метрическое пространство операторов. Если расстояние
между операторами А и В положить равным \\ А — В ||, то
множество всех операторов в гильбертовом пространстве Н станет
метрическим пространством. Не все стандартные вопросы о
метрике и топологии этого пространства одинаково интересны. Так,
например, только из вежливости можно поинтересоваться, полно
ли это пространство. Ответ — да. Доказательство получается
стандартными рассуждениями, которые каждый математик
должен проделать хотя бы один раз в жизни. Оно не содержит
никаких сюрпризов. Этот результат, кстати, мы уже молчаливо
оо
использовали. В решении 72 сходимость ряда 2 ^п выводилась из
п=0
условия || А || < 1. Внимательный читатель мог бы заметить, что
справедливость этого вывода основана на упомянутой выше
полноте пространства операторов. (Меньше внимания требуется,
чтобы заметить, что само понятие сходимости предполагает
некоторую топологию.)
Но хватит о полноте. Что можно сказать о сепарабельности?
Если рассматриваемое гильбертово пространство несепарабельно,
то нельзя ожидать, чтобы оказалось сепарабельным пространство
операторов в нем. И действительно, легко показать, что в этом
случае оно несепарабельно. Остается еще один более естественный
вопрос такого рода.
Задача 83. Будет ли метрическое пространство операторов
в сепарабелъном гильбертовом пространстве сепарабелъным?
84. Непрерывность обращения. После введения топологии
в множество с алгебраической структурой, такое как пространство
операторов, действующих в гильбертовом пространстве,
естественно (и необходимо) выяснить, будут ли алгебраические операции,
определенные в этом множестве, непрерывны. В нашем случае
ясно, что все элементарные алгебраические операции (линейная
комбинация, сопряжение, умножение) непрерывны по всем
переменным в совокупности. Норма оператора также непрерывно
зависит от оператора. Доказательства этих фактов довольно
скучны.

Гл. 11. Равномерная топология 61
Из основных алгебраических операций мы не упомянули о
переходе к обратному оператору. Поскольку не каждый оператор
обратим, вопрос о непрерывности этой операции имеет смысл
только на подмножестве обратимых операторов.
Задача 84. Множество обратимых операторов открыто.
Отображение А -у А ~г этого множества на себя непрерывно.
Утверждение, что множество обратимых операторов открыто,
не исчерпывает всех вопросов о его геометрической структуре.
В частности, оно не показывает, может ли это множество
полностью окружать сингулярный (т.е. необратимый) оператор.
На более стандартном языке: существуют ли изолированные
сингулярные операторы? Ответ отрицательный: множество необратимых
операторов (линейно) связно. И вот почему: если А —
сингулярный оператор, то и tA — сингулярный оператор при всех
значениях числового множителя t. Отображение t —>¦ tA представляет
собой непрерывную кривую, соединяющую оператор А с нулевым
оператором. А вот вопрос, связно ли множество обратимых
операторов, намного труднее (см. задачу 110).
85. Непрерывность спектра. Спектр (ограничимся сейчас
операторами, действующими в каком-то одном фиксированном
гильбертовом пространстве) представляет собой функцию,
сопоставляющую каждому оператору компактное подмножество
комплексной плоскости. Было бы естественно попытаться определить для
таких функций понятие непрерывности. Является ли спектр
непрерывной функцией? Следующий пример показывает, что как
бы ни интерпретировать этот вопрос, ответ на него всегда
отрицателен.
Задача 85. Пусть к принимает значения 1, 2, 3, ... и оо.
Обозначим через Ah двусторонний взвешенный сдвиг, такой, что
Ahen = en + i (п ФО) и Ahe0 = (l/k)ei (полагаем 1/оо = 0).
Каковы спектры операторов Ak (к = 1, 2, . . ., оо)?
86. Полунепрерывность спектра. Пример задачи 85 показывает,
что существуют операторы с широким спектром, в каждой
окрестности которых находятся операторы с относительно малым
спектром. Может ли быть наоборот? Могут ли операторы с большим
спектром неограниченно приближаться к операторам с малым
спектром? Ответ оказывается отрицательным. Точное
утверждение состоит в том, что спектр полунепрерывен сверху в
следующем смысле.
Задача 86. Каждому оператору А и каждому открытому
множеству Ло, содержащему спектр А (А), соответствует такое
положительное число е, что если \\ А — В || <Z г, то А (В) а Ло-

62 Задачи
Это широко известный результат. Одна из стандартных
ссылок — книга Хилле и Филлипса [1, стр. 216], другая — книга
Риккарта [1, стр. 35]. Полунепрерывность подобных функций
исследовали Халмош и Люмер [1].
87. Непрерывность спектрального радиуса. Поскольку спектр
полунепрерывен сверху (задача 86), то же верно и для
спектрального радиуса. Итак, для каждого оператора А и каждого
положительного числа б найдется такое положительное число е, что
если || А — В И < е , то г (В) < г (А) + б. (Доказательство
немедленно следует из результата задачи 86.) Но спектр разрывен
(задача 85). А что можно сказать о спектральном радиусе?
Задача 87. Верно ли, что для каждого оператора А и каждого
положительного числа б найдется такое положительное число е, что
если || А — В || < е, то \ г (А) — г (В) | < б? Другими словами,
вытекает ли из условия Ап —>¦ А, что г (Ап) -> г (А)?
Это трудный вопрос. Заметим, что пример задачи 85 не дает
никаких указаний на этот счет: спектральный радиус у всех
членов построенной последовательности операторов был равен
единице — так же, как и у предельного оператора.

ГЛАВА 12. СИЛЬНАЯ И СЛАБАЯ ТОПОЛОГИИ
88. Топологии в пространстве операторов. В гильбертовом
пространстве есть две полезные топологии (сильная и слабая).
В множестве операторов, действующих в гильбертовом
пространстве, их уже несколько. Одна из них — метрическая топология,
индуцированная нормой: чтобы отличить эту топологию от других,
ее часто называют равномерной топологией. Следующие две
топологии для операторов естественно возникают из сильной и слабой
топологий векторов. Подбазой сильной операторной топологии
служит совокупность всех множеств вида
{А: ||(Л-Л)/]|<е},
а база состоит из всех множеств
{A: \\(A-A0)ft\\<e, i = l, . .., к}.
Здесь к-—натуральное число, fu . . ., Д — векторы, 8 —
положительное число. Подбазой слабой операторной топологии служит
совокупность всех множеств вида
{A: \((A-A0)f, g)\<e},
где fug — векторы, е > 0. Как и выше (и как всегда), база
состоит из всевозможных конечных пересечений множеств,
входящих в подбазу.
Легко описать соответствующее понятие сходимости (для
последовательностей и сетей): Ап —>¦ А сильно тогда и только
тогда, когда Anf -»- Af сильно для каждого вектора / из Н (т.е.
|| (Ап — А) / || ->¦ 0 для каждого вектора /), и Ап ->- А слабо
тогда и только тогда, когда Anf -> Af слабо для каждого / (т. е.
(Anf, g) ->¦ (Af, g) для любых векторов / и g).
Легче всего ответить на вопросы о соотношении этих топологий.
Слабая топология слабее сильной, а сильная топология слабее
равномерной. Другими словами, каждое слабо открытое множество
сильно открыто и каждое множество, открытое в сильной
топологии, открыто и в равномерной. Или иначе: каждая слабая
окрестность любого оператора содержит некоторую сильную
окрестность этого оператора, а каждая сильная окрестность содержит
некоторую метрическую (равномерную) окрестность. Или еще:
из сходимости по норме вытекает сильная сходимость, а из сильной

64 Задачи
сходимости вытекает слабая сходимость операторов. Все эти
утверждения немедленно следуют из определений.
Если сходимость равномерна на единичной сфере, то последнее
утверждение можно обратить (ср. с задачей 16).
Задача 88. Если (Anf, g) ->¦ (Af, g) равномерно относительно
векторов g, у которых \\ g || = 1, то || Anf — Af || -> 0, и если
|| Anf — Af \\-+ 0 равномерно относительно векторов /, у которых
||/|| = 1, то \\Ап-А ||->0.
89. Непрерывность нормы. При изучении топологических
алгебраических структур (таких, как алгебра операторов,
действующих в гильбертовом пространстве, наделенная одной из
операторных топологий), обычно скучно доказывать, что что-то
непрерывно: интересные задачи появляются при доказательстве того,
что нечто разрывно. Так, например, линейные операции (аА +
+ $В) в пространстве операторов непрерывны по совокупности
переменных и доказательство этого стандартно. (Читателю,
который никогда не проделывал этой стандартной процедуры,
рекомендуется выполнить ее, перед тем как читать дальше.) Вот еще
один близкий вопрос, легкий, но не такой «механический».
Задача 89. В какой из топологий (равномерной, сильной или
слабой) норма (т. е. функция А ->- \\ А ||) непрерывна?
90. Непрерывность сопряжения.
Задача 90. В какой из трех топологий (равномерной, сильной
или слабой) сопряжение (т. е. отображение А —>¦ А*) непрерывно?
91. Непрерывность умножения. Наиболее полезные и наиболее
трудные вопросы касаются умножений. Так как произведение
(в отличие от нормы и сопряжения) представляет собой функцию
двух переменных, то непрерывность умножения можно
толковать в «раздельном» и «совместном» смыслах. Обычно, если не
оговорено противное, имеется в виду «совместный» смысл, т. е.
умножение понимается как отображение упорядоченной пары (А, В)
на произведение АВ.
Задача 91. Умножение непрерывно (по совокупности
переменных) в равномерной топологии и разрывно в сильной и слабой
топологиях.
Доказать непрерывность совсем просто, а вот построить
противоречащие примеры для доказательства разрывности трудно.
Самое краткое построение использует недозволенные трюки.
92. «Раздельная» непрерывность умножения. Хотя
умножение разрывно по совокупности переменных и в сильной, и в ела-

Гл. 12. Сальная и слабая топологии 65
бой топологиях, оно в обоих случаях непрерывно по каждому
аргументу в отдельности. Несколько более точное утверждение
выглядит так:
Задача 92. Оба отображения А —>¦ АВ {при фиксированном В)
и В —>- АВ {при фиксированном А) сильно и слабо непрерывны.
93. Секвенциальная непрерывность умножения. Раздельная
непрерывность (сильная и слабая) является ослабленным
заменителем совместной непрерывности. Другой неполноценный
(хотя иногда и полезный) суррогат — секвенциальная
непрерывность по совокупности переменных.
Задача 93. (а) Пусть {Ап} и { Вп} — последовательности
операторов, сильно сходящиеся к операторам А и В соответственно.
Тогда и произведения АпВп сильно сходятся к пределу АВ.
(б) Останется ли это утверждение верным, если сильную
сходимость всюду заменить слабой"?
94. Неубывающие последовательности эрмитовых операторов.
Ограниченная неубывающая последовательность эрмитовых
операторов слабо сходится (и ее предел обязательно эрмитов). Чтобы
убедиться в этом, предположим, что {Ап} — неубывающая
последовательность эрмитовых операторов (т. е. {Anf, /)< {An+if, /) для
всех / и всех п), ограниченная сверху числом а (т. е. (Anf, /)<
•< ct11 /2 || для всех f и всех п). Если обозначить i]?n (/) = {Anf, /), то
каждая из функций г|зп оказывается квадратичной формой. Наши
предположения означают, что последовательность {tyn} сходится и,
следовательно (решение 1), ее предел я|) — квадратичная форма.
Отсюда я)) (/) = {Af, /), где А — некоторый (обязательно эрмитов)
оператор. Переходя к билинейной форме, получаем, что Ап ->- А
(слабо). Остается ли это заключение справедливым для сильной
и равномерной топологий?
Задача 94. Будет ли всякая ограниченная неубывающая
последовательность эрмитовых операторов сильно сходиться! равномерно
сходиться!
95. Квадратные корни. Из спектральной теоремы легко следует,
что у каждого положительного оператора существует единственный
положительный квадратный корень. Но в некоторых изложениях
спектральной теории сначала доказывается существование
квадратного корня, а потом на этом основывается доказательство
спектральной теоремы. Следующее утверждение показывает, как
получить квадратный корень без спектральной теоремы.
Задача 95. Пусть А — самосопряженный оператор, 0^ А ^ 1,
и последовательность {Вп} определяется рекуррентными соотно-

63 Задачи
шениями
#0 = 0, Вп+1 = ±(A-А)+В*п), га = 0, 1, 2, ... .
Тогда последовательность {В„} сильно сходится. Если обозначить
В = lim ?„, то Л = A — ВJ.
п
96. Точная нижняя грань двух проекторов. Пусть Е и F —
операторы проектирования на подпространства М и N
соответственно. Можно попытаться выразить с помощью проекторов Е
и F операторы проектирования на различные подпространства,
связанные с М и N. Это нетрудно, если Е и F коммутируют. Так,
например, если М с N, то легко найти оператор проектирования
на подпространство N П М-1-, а если М J_ N, то легко найти
проектор, областью значений которого служит подпространство
MvN. При отсутствии такого рода специальных предположений
задача становится намного интереснее.
Задача 96. Пусть Е и F — проекторы на подпространства М
и N соответственно. Найти проектор Е Л F, областью
значений которого служит подпространство М П N.
Задача состоит в отыскании «выражения» для указанного
проектора. Хотя большинство математиков с благосклонным
пониманием отнесутся к подобной задаче, нужно согласиться, что,
строго говоря, она ничего не означает. Наиболее естественный
способ придать ей точный смысл — рассмотреть некоторый класс
.операторов, замкнутый относительно известных алгебраических
и топологических операций, и затем попытаться доказать, что
если операторы Е и F принадлежат этому классу, то ему же
принадлежит и оператор Е л F. К наиболее известным и полезным
классам, получающимся таким образом, относятся алгебры фон
Неймана (называемые по фон Нейману «кольцами операторов»).
Алгебра фон Неймана — это алгебра операторов (т. е. множество,
замкнутое относительно сложения и умножения операторов и
умножения на числа), симметричная (т. е. замкнутая относительно
сопряжения операторов), содержащая 1 и сильно замкнутая
(т. е. замкнутая в сильной операторной топологии). Для алгебр фон
Неймана задача, таким образом, состоит в том, чтобы доказать, что
если эта алгебра содержит проекторы Е и F, то она содержит
и EaF. См. фон Нейман [4, т. 2, стр. 55].

ГЛАВА 13. ЧАСТИЧНЫЕ ИЗОМЕТРИИ
97. Теорема об отображении спектра для нормальных
операторов. Из известных классов операторов самый важный и легко
изучаемый класс составляют нормальные операторы. Основной
результат теории нормальных операторов — спектральная
теорема. Те, кто изучают теорию операторов, обычно считают, что
конечномерный вариант спектральной теоремы — теорема о
приведении к диагональному виду. (Каждая конечная нормальная
матрица унитарно эквивалентна диагональной.) Но в общем
случае применительно к бесконечному пространству нельзя указать
универсальную и всеми признанную формулировку. Иногда
основную роль играет представление ограниченных операторов как
алгебры функций, а иногда — интегралы Стильтьеса с
необычными мультипликативными свойствами. Существует короткое,
эффективное и простое утверждение, не самое общее (оно применимо
к отдельному оператору, а не сразу к алгебре операторов), из
которого легко вытекают все классические варианты спектральной
теоремы. Преимущество этой формулировки еще и в том, что она
непосредственно обобщает известный результат о приведении к
диагональному виду. Это утверждение, которое в дальнейшем будет
называться спектральной теоремой, состоит в том, что каждый
нормальный оператор унитарно эквивалентен умножению. Его
можно доказать, используя технику, обычно применяемую при
доказательстве спектральной теоремы (см. Халмош [10], Данфорд
и Шварц [2, стр. 65 и далее]).
У мультипликативного варианта спектральной теоремы есть
один технический недостаток: фигурирующая в ней мера может
не быть а-конечной. Но это не страшно по двум причинам.
Во-первых, предположение о с-конечности меры при определении
умножения не обязательно и делается лишь для удобства (см. Сигал [1]).
Во-вторых, не ст-конечные меры возникают только в том случае,
когда основное гильбертово пространство несепарабельно;
патология меры тем самым связана с патологией операторов. В
дальнейшем при ссылках на спектральную теорему читатель может
поступать двояко: исследовать общий случай, соблюдая
соответствующую осторожность, или ограничиться сепарабельными
пространствами и действовать с легкостью, достигаемой за счет потери
общности.

68 Задачи
Различные авторы часто избегают доказательств,
использующих спектральную теорему, даже если другое доказательство
длиннее и сложнее. Эта почти узаконенная уклончивость
свойственна и другим разделам математики: судьба большинства
великих теорем такова, что они чаще пребывают в бездеятельном
почете, чем в употреблении. Причина этого не только во вредном
упрямстве математиков. Более длинное, но «элементарное»
доказательство часто дает большее понимание и приводит к более
плодотворным обобщениям, чем доказательство краткое, которое этой
краткостью обязано использованию сильного, но излишне
специального средства.
Это вовсе не означает, что нужно любой ценой избегать
пользоваться спектральной теоремой. Мощные общие теоремы затем
и существуют, чтобы их использовали, и упрямое пренебрежение
ими приводит к потере понимания по меньшей мере так же часто,
как и к достижению его. Так, например, спектральная теорема
дает немедленное и ясное доказательство существования
положительного квадратного корня у каждого положительного
оператора (поскольку он существует у каждой положительной
измеримой функции). Трюк с аппроксимациями в задаче 95 забавен
и имеет свои достоинства, но он несравненно менее прозрачен.
В качестве другого примера рассмотрим утверждение о том, что
эрмитов оператор, спектр которого состоит только из нуля и
единицы, является проектором. Чтобы доказать это, обозначим
этот оператор через А и положим В = А — Аг. Ясно, что оператор
В эрмитов, и по теореме об отображении спектра Л (В) = {0}.
Отсюда следует, что \\ В \\ = г (В) = 0, и потому В = 0. (Норма
совпадает со спектральным радиусом у всех нормальных операторов, но
для эрмитовых операторов это совершенно очевидно, см. Халмош
[3, стр. 55].) Сравним это с доказательством, использующим
спектральную теорему: если функция ср принимает только
значения 0 и 1, то ф2 = ф. И последний пример: попытайтесь без
обращения к спектральной теореме доказать, что каждый нормальный
оператор с вещественным спектром (т. е. со спектром,
принадлежащим вещественной оси) эрмитов.
Спектральная теорема делает возможным ясное и эффектное
построение так называемого функционального исчисления. Если
А—нормальный оператор и F—ограниченная измеримая по
Борелю функция на Л (А), то функциональное исчисление позволяет
определить оператор F (А). Для этого представим А как оператор
умножения, скажем, на функцию ф, заданную на пространстве X
с мерой. Тогда оператор F (А) будет оператором умножения,
индуцированным сложной функцией F (ф). Чтобы быть уверенным, что
это имеет смысл, нужно убедиться, что ф отображает почти каждую
точку пространства X в спектр Л (А), т. е. если удалить из области

Гл. 13. Частичные изометрии 69
определения функции ср, в худшем случае, множество меры нуль,
то множество значений функции ф окажется содержащимся в
множестве ее существенных значений. Доказательство получается
следующим образом. По определению у каждой точки дополнения
к спектру Л (А) есть окрестность, прообраз которой при
отображении ф имеет меру нуль. Так как плоскость является пространством
Линделёфа, то дополнение к спектру Л (А) можно покрыть счетной
системой таких окрестностей. Поэтому прообраз всего дополнения
к спектру Л (^4) имеет меру нуль.
Отображение F ->- F (А) обладает многими приятными
свойствами. Главное из них заключается в том, что это отображение —
алгебраический гомоморфизм, сохраняющий также и сопряжение
(F* (А) = (F (А)) *). Отсюда следует, например, что если F (к) =
= |А|2, то F{A)=A*A. Функции F, встречающиеся в
приложениях функционального исчисления, бывают разрывными
(например, характеристические функции борелевских множеств,
играющие важную роль), но иногда легче обращаться с непрерывными
функциями. Следующая задача представляет собой теорему об
отображении спектра.
Это очень специальная теорема, поскольку в ней говорится
только о нормальных операторах, и в то же время очень общая,
поскольку она применима к любым непрерывным функциям.
Задача 97. Пусть А — нормальный оператор, a F —
непрерывная функция на его спектре А (А). Тогда A (F (А)) = F (А (А)).
Может оказаться, что нечто подобное F (А) можно определить
не только для нормальных операторов А, но предыдущий
результат в этом случае может стать неверным. Предположим, например,
что F (X) = k*k (=| Я |2), и определим F (А) для всех операторов
А как произведение А *А. Надеяться на то, что равенство F (Л (А))=
= Л (F (А)) сохранится, нельзя; в качестве противоречащего
примера рассмотрите односторонний сдвиг.
98. Частичные изометрии. Изометрией (или изометричным
оператором) называется такое линейное отображение U
(гильбертова пространства в себя или одного гильбертова пространства
в другое), что || Uf || — || / || для всех векторов /. Изометрия
сохраняет расстояние: \\Uf — Ug || = || / — g \\ для любых / и g. Для
того чтобы линейное преобразование U было изометрией,
необходимо и достаточно, чтобы выполнялось равенство U* U = 1.
Действительно, условия A) || Uf ||2 = ||/ ||2, B) (V*Vf, f) = (/, /),
C) (U*Uf, g) = (/, g) и D) U*U = 1 эквивалентны. (Чтобы вывести
из B) равенство C), рассмотрите полярную полуторалинейную
форму.) Предостережение: условия U*U = 1 и UU* = 1 не
эквивалентны; последнее выполняется, если U* — изометрия. В этом
случае оператор U называется коизометрией.

70 Задачи
Иногда удобно рассматривать линейное преобразование U,
изометричное лишь на подмножестве (обычно являющемся
линейным многообразием, но не обязательно подпространством)
гильбертова пространства. Это означает, что || Uf || = || / || для всех
элементов / этого подмножества. Линейное преобразование,
изометричное на ортогональном дополнении к своему ядру,
называется частичной изометрией. Есть два больших класса примеров
частичной изометрии, которые в некотором смысле представляют
два противоположных крайних случая. Это изометрии (и в
частности, унитарные операторы) и проекторы. Определение частичной
изометрии обманчиво просто, и эти примеры поддерживают этот
обман. На самом деле структура частичной изометрии может
быть очень сложной. Но легко убедиться, во всяком случае, что
частичная изометрия U всегда ограничена; действительно, если
оператор U не нулевой, то || U |] = 1.
Ортогональное дополнение к ядру частичной изометрии часто
называют ее начальным пространством. Легко показать, что
начальное пространство частичной изометрии U совпадает с
множеством всех векторов /, для которых || Uf || = || / ||. (Нужно
доказать только, что если || Uf || = || / ||, то / J_ ker U. Положим / =
= g -у- h, где g ? ker U, h ± ker U. Тогда || / || = || Uf \\ =
= || Ug + Uh H = || Uh || = || h ||. А так как || / ||2 = || g ||2 +
+ || h ||2, то g = 0.) Множество значений частичной изометрии
совпадает с образом начального пространства и обязательно
замкнуто. (Так как оператор U изометричен на начальном
пространстве, то его образ — полное метрическое пространство.)
Множество значений частичной изометрии часто называют ее
финальным пространством.
Задача 98. Ограниченное линейное преобразование U будет
частичной изометрией тогда и только тогда, когда U* U будет
проектором.
Следствие 1. Если U — частичная изометрия, то ее начальное
пространство совпадает с областью значений оператора U*U.
Следствие 2. Оператор, сопряженный оператору частичной
изометрии,— также частичная изометрия, у которой начальное
и финальное пространства меняются ролями.
Следствие 3. Ограниченное линейное преобразование будет
частичной изометрией тогда и только тогда, когда U = UU*U.
99. Максимальные частичные изометрии. Естественно
определить (частичный) порядок в множестве частичных изометрии:
если U и V — частичные изометрии, то будем считать, что U^V,
если V и U совпадают на начальном пространстве оператора U.

Гл. 13. Частичные изометрии 71
Отсюда следует, что начальное пространство оператора U
содержится в начальном пространстве оператора V. (См. характе-
ризацию начального пространства, данную в задаче 98.) Поэтому
если f/.<F в смысле этого порядка, то ?/*?/.: F*F в смысле
обычной упорядоченности множества операторов Эта «обычная»
упорядоченность, которая, как правило, рассматривается только
для эрмитовых операторов, означает, что А<В тогда и только
тогда, когда (Af, f) < (Bf, f) для всех векторов /. (Заметим, что
соотношение ?/*?/<F*F в этом смысле эквивалентно
неравенству || Uf ||< \\Vf || для всех векторов /.) Обратное неверно:
если о частичных изометриях U и V известно лишь, что U*U<C
~CV*V, то начальное пространство оператора U, разумеется,
содержится в начальном пространстве оператора F, но на меньшем
начальном пространстве U и V не обязательно совпадают.
Если U* U = 1, т. е. U — изометрия, то единственной
частичной изометрией, мажорирующей U, будет сам оператор U:
изометрия всегда является максимальной частичной изометрией.
Существуют ли другие максимальные частичные изометрии?
Ответ можно получить, заметив, например, что если ?/<. V, то
финальное пространство оператора U (т. е. начальное пространство
оператора U*) должно содержаться в финальном пространстве
оператора V (или, что то же, в начальном пространстве оператора
V*), и, кроме того, операторы V* и U* совпадают на начальном
пространстве оператора U*. Другими словами, если U^.V, то
?/*<F*, и потому, в частности, ?/?/*< FF*. Отсюда следует,
что если UU* = 1, т. е. U — коизометрия, то она максимальна.
Если же частичная изометрия U не является ни изометрией, ни
коизометрией, то оба оператора U и U* имеют ненулевые ядра.
В этом случае легко расширить оператор /7 до частичной изометрии,
отображающей заданный едршичный вектор из ker U на заданный
единичный вектор в ker U* (и, конечно, совпадающей с оператором
U на подпространстве (ker U)^-). Вывод: частичная изометрия
максимальна тогда и только тогда, когда она изометрия или
коизометрия.
Тривиальный пример максимальной частичной изометрии —
любой унитарный оператор. Пусть U — унитарный оператор
в пространстве Н и М — подпространство в Н. Для того чтобы М
приводило г) U, необходимо и достаточно, чтобы ?ЛИ = М. Если
U — только частичная изометрия, то может случиться, что ?/М =
= М, но М не приводит оператор С/, и наоборот, хотя и UM =^=М,
но подпространство М приводит оператор U. А как будет, если
U — максимальная частичная изометрия?
х) Напомним, что проводимость оператора U подпространством М
означает, что М инвариантно относительно U и найдется такое инвариантное
подпространство N, что Н = М V N.— Прим. ред.

72 Задачи
Задача 99. Пусть U — максимальная частичная изометрия.
Определите, какое из утверждений «?/М = М» и «подпространство
М приводит оператор U» следует из другого.
100. Замкнутость и связность множества частичных изометрии.
Некоторые утверждения о частичных изометриях выглядят
несколько неуклюже из-за того, что нулевой оператор тоже является
частичной изометрией и оказывается изолированной точкой
в множестве частичных изометрии. Это — единственная частичная
изометрия, лежащая внутри единичного шара. По этой причине,
например, множество всех частичных изометрии очевидно не
связно. А что можно сказать о частичных изометриях, лежащих
на единичной сфере?
' Задача 100. Множество всех ненулевых частичных изометрии
замкнуто, но не связно (в равномерной операторной топологии),
101. Ранг, коранг и дефект. Для произвольной частичной
изометрии U (в пространстве Н) введем обозначения: р (U) —
= dim ran U, р' (U) = dim (ran U) -L и v (U) = dim ker U.
(Для этих определений несущественно, что U — частичная
изометрия. Аналогичные понятия можно ввести для любых
операторов.) Нельзя сказать, что эти три кардинальных числа, называемых
соответственно рангом, корангом и дефектом оператора V,
независимы: суммы р + р' и р + v равны размерности основного
гильбертова пространства Н. (Предостережение: отсюда не следует, что
v = р'; вычитать бесконечные кардинальные числа нельзя.)
Легко видеть, что если р, р' и v — такие кардинальные числа, что
р + р' = р + v, то существует частичная изометрия с рангом
р, корангом р' и дефектом v. (Для симметрии следовало бы ввести
кодефект v' (U) = dim (ker U)-)-, но в этом нет смысла: так как
оператор U изометричен на (ker f/)J-, то v' = p.)
Напомним, что если U — частичная изометрия, то таков же
и оператор U*. Его начальное пространство совпадает с финальным
пространством оператора U, и обратно. Отсюда следует, что
v (U*) = р' (U) и р' (?/*) == v (U).
Одна из причин, по которым функции р, р' и v оказываются
полезными, заключается в их непрерывности. Это утверждение
означает следующее. Введем в пространстве Р частичных
изометрии (действующих в фиксированном гильбертовом пространстве)
равномерную топологию, а в множестве кардинальных чисел —
дискретную. Теперь предыдущее утверждение допускает
единственное толкование: если операторы U и V достаточно близки, то
у них одинаковые ранг, коранг и дефект. Следующая задача
представляет собой точную количественную формулировку этого
результата.

Гл. 13. Частичные изометрии 73
Задача 101. Если U и V — частичные изометрии и
|| U - V ||< 1, то 9(U) = p(V), р' (?/) = р' (F) u v (U) =
= v(F).
Для любых фиксированных кардинальных чисел р, р' и v
обозначим через Р (р, р', v) множество всех частичных изоыетрий
(фиксированного гильбертова пространства) с рангом р, корангом
р' и дефектом v. Ясно, что множества вида Р (р, р', v) образуют
разбиение пространства Р всех частичных изометрпй. Из
результата задачи 101 следует, что все эти множества одновременно
открыты и замкнуты. В частности, одновременно открыты и замкнуты
множество всех изометрии (v = 0) и множество всех унитарных
операторов (р' = v = 0).
102. Компоненты пространства частичных изометрии. Для
каждой измеримой функции ср, заданной на пространстве с мерой
и такой, что || ср || = 1 почти всюду, существует такая измеримая
вещественная функция 6 на этом пространстве, что ср = еге почти
всюду. Это легко доказать. В сущности, это означает, что у
измеримой функции всегда существует измеримый логарифм. Это
следует из того, что у показательной функции есть измеримая (по
Борелю) обратная (и даже много обратных), определенная на
комплексной плоскости с выкинутым нулем. (Выберем непрерывный
логарифм на дополнении к отрицательной вещественной полуоси
и доопределим его, потребовав односторонней непрерывности,
скажем, на верхней полуплоскости.)
На языке функционального исчисления результат
предыдущего абзаца означает, что если U — унитарный оператор, то
найдется такой эрмитов оператор А, что U = eiA. Положим Ut =
= eitA @< ?< 1). Тогда отображение t-> Ut дает
непрерывную кривую в множестве унитарных операторов, соединяющую
единичный оператор ( = Uq) и оператор U (= U\). Следовательно,
множество всех унитарных операторов линейно связно. Итак,
открыто-замкнутое множество Р (р, 0, 0), рассмотренное в
замечании к задаче 101, линейно связно; оно является компонентой
(связности) множества Р всех частичных изометрии. Вопрос: что
представляют собой другие компоненты? Ответ: множества вида
Р(Р, Р', v).
Задача 102. Каждую пару частичных изометрии {действующих
в одном и том же гильбертовом пространстве) с одинаковыми
рангом, корангом и дефектом можно соединить непрерывной
кривой, целиком состоящей из частичных изометрии с теми же рангом,
корангом и дефектом.
103. Унитарная эквивалентность частичных изометрии. Если
А — сжатие (это означает, что \\А ||<1), то оператор 1 — АА*

74 Задачи
неотрицателен. Отсюда следует, что существует единственный
неотрицательный оператор, квадрат которого равен 1 — АА*.
Назовем его А'. Утверждение: операторная матрица
'А А'\
О )
является частичной изометрией. Доказательство (использующее
задачу 98): покажите, что ММ*М = М. Следствие: каждое
сжатие можно расширить до частичной изометрии.
Задача 103. Если А и В — унитарно эквивалентные операторы
сжатия, то операторы М (А) и М (В) тоже унитарно
эквивалентны. Если сжатия А и В обратимы, то верно и обратное.
Существует много способов использовать «плохой» оператор А
для построения «хорошего» оператора, например А + А* или
U*
Ни один из этих способов не дает достаточного количества
полезных унитарных инвариантов для А. Обычно легко доказать,
что если операторы А и В унитарно эквивалентны, то
эквивалентны и полученные с их помощью различные конструкции. Но
утверждение, что если эти конструкции унитарно эквивалентны, то
унитарно эквивалентны и исходные операторы, обычно неверно.
Задача 103 интересна как раз тем, что для той специальной
конструкции частичной изометрии, о которой говорится в этой задаче,
верно и обратное.
Результат состоит в том, что проблема унитарной
эквивалентности для, казалось бы, очень узкого класса операторов
(частичные изометрии) эквивалентна той же проблеме для значительно
более широкого класса обратимых сжатий. В свою очередь
проблема унитарной эквивалентности для обратимых сжатий
тривиально эквивалентна проблеме унитарной эквивалентности для
произвольных операторов. Дело в том, что при помощи сдвига (А —>¦
->¦ A -f- а) и изменения масштаба (А —>- f>A) каждый оператор
превращается в обратимое сжатие, а сдвиг и изменение масштаба
не нарушают унитарной эквивалентности. Итак, мы свели общую
проблему унитарной эквивалентности к частному случаю
частичных изометрии.
104. Спектр частичной изометрии. Каким условиям должно
удовлетворять множество комплексных чисел, чтобы быть
спектром некоторой частичной изометрии? Поскольку частичная изо-
метрия является сжатием, ее спектр целиком лежит в единичном
круге. Если спектр частичной изометрии не содержит нуля, т. е.

Гл. 13. Частичные изометрии, 75
эта частичная изометрия обратима, то она является унитарным
преобразованием, и поэтому ее спектр лежит на единичной
окружности. Каждое непустое компактное подмножество единичной
окружности служит спектром некоторого унитарного оператора
(см. задачу 48). Таким образом, задача описания спектров
обратимых частичных изометрии полностью решена. А как обстоит дело
с необратимыми?
Задача 104. Каким условиям должно удовлетворять множество
комплексных чисел, чтобы быть спектром некоторой неунитарной
частичной изометрии?
105. Полярное разложение. Каждое комплексное число можно
представить в виде произведения неотрицательного числа на число,
по модулю равное 1, причем для всех чисел, кроме нуля,
единственным образом. Этот факт обобщается на конечномерные матрицы:
каждую комплексную матрицу можно представить в виде
произведения положительной матрицы на унитарную. Если исходная
матрица обратима, а порядок сомножителей оговорен (UP или
PU), то опять-таки такое разложение единственно. Можно
привести удовлетворительные теоремы единственности для
произвольных матриц, но только ценой изменения допустимых видов
сомножителей. Именно здесь с наибольшей пользой вводятся в
теорию конечномерных векторных пространств частичные изометрии.
В бесконечномерном случае без частичных изометрии уже нельзя
обойтись. Утверждение, что каждый оператор в гильбертовом
пространстве равен произведению UP, где U — унитарный, а Р —
положительный оператор, неверно. Оно не станет верным, даже
если потребовать, чтобы оператор U был только изометрией
(Конструкция конкретного противоречащего примера может быть
сейчас и не очевидна, но она скоро возникнет как побочный
продукт общей теории.) Правильное утверждение так же легко
доказывается для отображений одного пространства в другое, как и для
операторов в одном пространстве.
Задача 105. Если А — ограниченное линейное отображение
гильбертова пространства Н в гильбертово пространство К,
то существуют такая частичная изометрия U {из Н в К) и такой
положительный оператор Р (действующий в Н), что А = UP.
Преобразования U и Р можно выбрать так, чтобы выполнялось
равенство ker U = кег Р, и тогда U и Р определяются
однозначно.
Представление отображения А в виде произведения
единственной пары преобразований U и Р, удовлетворяющей перечисленным
условиям, называется полярным разложением оператора А, или,
более аккуратно, правосторонним полярным разложением. Соот-

7 6 Задачи
ветствующее левостороннее разложение (А = PU) получается
последовательным использованием сопряженных операторов.
Следствие 1. Если А = UP — полярное разложение оператора
А, то U*A = Р.
Следствие 2. Пусть А = UP — полярное разложение
оператора А. Для изометричиости оператора U необходимо и достаточно,
чтобы отображение А было взаимно однозначным; для того чтобы
преобразование U было коизометрией, необходимо и достаточно,
чтобы область значений оператора А была всюду плотна.
106. Максимальное полярное разложение.
Задача 106. Каждое ограниченное линейное преобразование
можно представить в виде произведения максимальной частичной
изометрии и положительного оператора.
107. Крайние точки. В пространстве операторов замкнутый
единичный шар — выпуклое множество. Для каждого выпуклого
множества интересно определить его крайние точки.
Задача 107. Найдите крайние точки единичного шара в
пространстве операторов, действующих в гильбертовом пространстве.
108. Квазинормальные операторы. Условие нормальности
можно ослаблять разными способами. Самый простой из них
приводит к понятию квазинормальности. Оператор А называется
квазинормальным, если А и А*А коммутируют. Ясно, что каждый
нормальный оператор квазинормален. Обратное, очевидно,
неверно. Если, например, А — изометрия, то А*А = 1 и потому А*А
коммутирует с А, но если А не унитарен, то он не может быть
нормальным. (В качестве конкретного примера рассмотрите
односторонний сдвиг.)
Задача 108. Оператор с полярным разложением UP квазинорма-
лен тогда и только тогда, когда UP = PU.
Квазинормальные операторы (под другим названием) были
впервые введены и изучены Брауном [1].
109. Плотность множества обратимых операторов. Иногда
теорема, которую легко доказать для обратимых операторов,
трудна в общем случае. Поэтому полезно иметь в виду, что каждая
конечномерная (квадратная) матрица есть предел обратимых.
В бесконечномерном случае техника аппроксимаций для
нормальных операторов работает без всяких затруднений. (Используя

Гл. 13. Частичные изометрии 77
спектральную теорему, представьте данный оператор как
умножение и, изменяя малые значения множителя, приблизьте его
ограниченными снизу операторами (такими, что || Af \\l\\ / || ^ s > 0).
Но если пространство бесконечномерно, а оператор не
нормальный, то это уже не так просто.
Задача 109. Множество всех операторов, обладающих правым
или левым обратным, всюду плотно. Множество всех
операторов, у которых существуют оба обратных (т. е. множество всех
обратимых операторов), не всюду плотно.
110. Связность множества обратимых операторов.
Задача 110. Множество всех обратимых операторов связно.

ГЛАВА 14. ОДНОСТОРОННИЙ СДВИГ
111. Приводящие подпространства нормальных операторов.
Одно из основных следствий спектральной теоремы — возможность
свести изучение нормальных операторов во всем пространстве
к изучению их в подпространствах с различными удобными
свойствами. В частности, спектральная теорема позволяет найти
много приводящих подпространств нормального оператора.
Задача 111. Бесконечномерное гильбертово пространство Н
можно представить в виде счетной прямой суммы подпространств,
приводящих любой наперед заданный нормальный оператор А
и имеющих одинаковую бесконечную размерность.
112. Произведения симметрий. Симметрией называется
унитарная инволюция, т. е. такой оператор Q, что Q*Q = QQ* =
= Q2 = 1. Заметим, что если оператор обладает двумя из трех
свойств «унитарный», «инволютивный» и «эрмитов», то он обладает
и третьим. Доказательство состоит в простых алгебраических
выкладках.
Задача 112. Верно ли утверждение: каждый унитарный
оператор равен произведению конечного числа симметрий?
113. Односторонний сдвиг и нормальные операторы. Задача
111 полезна главным образом потому, что помогает решить задачу
112 (и при этом демонстрирует нетривиальное применение
спектральной теоремы). А главный смысл задачи 112 состоит в указании
особой роли некоторых операторов сдвига. Сдвиги (включая
простые односторонние и двусторонние сдвиги, введенные раньше)
являются основным инструментом в теории операторов. В
частности, односторонний сдвиг обладает многими замечательными
свойствами, как алгебраическими, так и аналитическими. Техника
исследования и доказательства этих свойств часто оказывается
полезной, даже если сами по себе эти свойства не имеют
непосредственных приложений. Вот три примера.
Задача 113. (а) Можно ли представить односторонний сдвиг
в виде произведения конечного числа нормальных операторов?
(б) Какова норма вещественной части одностороннего сдвига?
(в) Каково расстояние от одностороннего сдвига до множества
нормальных операторов?

Гл. 14. Односторонний сдвиг 79
В последнем пункте ставится серьезный и неформальный вопрос:
«Насколько односторонний сдвиг избегает быть нормальным
оператором?» Этот вопрос можно задать для каждого оператора,
а не только для сдвига. Ответ на него унитарно инвариантен, и это
иногда оказывается полезным.
114. Квадратный корень из сдвига.
Задача 114. Существует ли у одностороннего сдвига квадратный
корень! Другими словами, если обозначить через U оператор
одностороннего сдвига, то найдется ли такой оператор V, что V2 = U!
115. Коммутант двустороннего сдвига. Коммутантом
оператора (или множества операторов) называется множество
операторов, коммутирующих с исходным (или с каждым оператором из
заданного множества). Это один из самых полезных объектов,
связанных с оператором.
Описание коммутантов нормальных операторов составляет
одну из главных целей так называемой мультипликативной теории.
В некоторых частных случаях коммутант можно найти
сравнительно элементарными методами, например для двустороннего сдвига.
Двусторонний сдвиг W можно рассматривать как умножение
на ei в L2 на единичной окружности (см. задачу 68). Здесь еп (z) =
= z11 (n = О, +1, ±2, . . .) при | z | = 1, a L2 построено с
помощью нормированной меры Лебега на окружности.
Задача 115. Коммутантом двустороннего сдвига служит
множество всех операторов умножения.
Следствие. Каждое приводящее подпространство
двустороннего сдвига определяется борелевским подмножеством М единичной
окружности и состоит из всех функций (из L2), обращающихся
в нуль вне этого множества.
Как основное утверждение, так и следствие допускают
естественные обобщения, которые можно получить без дополнительных
усилий. Надо только заменить единичную окружность
произвольным ограниченным борелевским множеством X на комплексной
плоскости, а меру Лебега произвольной борелевской мерой на X.
Обобщением двустороннего сдвига будет оператор умножения,
индуцированный функцией е4 (где е± (z) = z для всех z из X).
116. Коммутант одностороннего сдвига. Односторонний сдвиг
представляет собой сужение двустороннего сдвига на
пространство Н2. Если рассматривать двусторонний сдвиг как умножение,
то его коммутант можно описать как множество всех умножений
в том же пространстве L2 (задача 115). Тогда, казалось бы,
коммутант одностороннего сдвига должен состоять из сужений на Н2

30 Задачи
всех умножений. Но немного подумав, можно понять нелепость
такого предположения: подпространство Н2 не обязано быть
инвариантным относительно умножения, а потому сужение умножения
на пространство Н2 не обязано быть оператором в Н2. Если же,
однако, сам множитель принадлежит Н2 (и, следовательно, Н/^),
то Н2 инвариантно относительно индуцированного оператора
умножения (см. задачу 27), и тогда наше предположение имеет
смысл.
Задача 116. Коммутантом одностороннего сдвига служит
множество всех сужений на пространство Н2 операторов умножения
с множителями, принадлежащими И°°.
Следствие. Односторонний сдвиг неприводим в том смысле, что
его единственными приводящими подпространствами являются
{0} и Н2.
Г Так же как и для двустороннего сдвига, основное утверждение
допускает естественное обобщение. Заменим единичную окружность
произвольным ограниченным борелевским подмножеством
комплексной плоскости, а меру Лебега произвольной конечной борелев-
ской мерой ц на X. Обобщением пространства Н2 (иногда
обозначаемым через Н2 (|л)) будет замкнутая линейная оболочка в L2 (\i)
множества функций еп (п = 0, 1, . . .), где еп (z) = zn при всех z
из множества X. Обобщением одностороннего сдвига будет
сужение на подпространство Н2 (\i) оператора умножения,
индуцированного функцией ег.
Следствие нельзя обобщить так просто, как основное
утверждение. Дело в том, что структура множества Н2 (\.i) в L2 (\i) сильно
зависит от X и [х; может случиться, например, что Н2 (u) = L2 (\i).
Характеризация коммутанта одностороннего сдвига U дает
другое любопытное доказательство отсутствия у оператора U
квадратного корня (решение 114). Действительно, если U = F2,
то V коммутирует с U, и потому V — сужение на Н2 умножения,
индуцированного функцией <р из И°°. Применив операторы V2
и U к вектору е0, получим, что (ф (z)J = z почти всюду. Тогда
(ср (z)J = z в единичном круге (см. решение 34), т. е. функция
et (z) имеет аналитический квадратный корень, что, как известно,
неверно.
117. Коммутант одностороннего сдвига как предел.
Задача 117. Каждый оператор, коммутирующий с оператором
одностороннего сдвига U, равен пределу (в сильной операторной
топологии) некоторой последовательности многочленов от U.

Гл. 14. Односторонний сдвиг 81
118. Характеризация изометрий. На что может быть похож
оператор изометрий? Одни изометрий унитарны, другие нет.
Примером последних может служить односторонний сдвиг.
Поскольку прямая сумма изометрий (конечная или бесконечная)
есть снова изометрия, возможно и то, и другое. Например, прямая
сумма унитарного оператора и некоторого количества (конечного
или бесконечного) операторов одностороннего сдвига является
лзометрией (нет смысла образовывать прямую сумму унитарных
операторов — она так же унитарна, как и слагаемые). Есть
полезная теорема о том, что это единственный способ получения
изометрий. Отсюда видно, что односторонний сдвиг больше, чем
просто пример изометрий с интересными и своеобразными
свойствами. Фактически он дает один из основных блоков для
построения любой изометрий.
Задача 118. Каждая изометрия либо унитарна, либо равна
прямой сумме некоторого количества операторов одностороннего
сдвига, либо прямой сумме унитарного оператора и некоторого
количества операторов одностороннего сдвига.
Изометрия, у которой нет унитарного прямого слагаемого,
называется чистой.
119. Расстояние от одностороннего сдвига до множества всех
унитарных операторов.
Задача 119. Каково расстояние от одностороннего сдвига до
множества всех унитарных операторов!
120. Приведение унитарной частью. Каждая изометрия
разлагается на унитарную и чистую части (задача 118).
Подпространство М, в котором действует унитарная часть, приводит данную
изометрию и, следовательно, каждый многочлен от этой изометрий.
Приводит ли подпространство М каждый оператор,
коммутирующий с данной изометрией?
Задача 120. Приводит ли область определения унитарной
части изометрического оператора каждый коммутирующий с ним
оператор!
121. Сдвиги как универсальные операторы. Пусть U —
изометрия в гильбертовом пространстве Н. Если существует такой
элемент е0 из Н, что векторы е0, Ue0, U2eo, . . . образуют ортонор-
мированный базис в Н, то оператор U унитарно эквивалентен
одностороннему сдвигу. Допуская некоторую вольность речи, можно
сказать, что U — оператор одностороннего сдвига. Эту характери-
зацию одностороннего сдвига можно сформулировать еще и так:

82 Задачи
оператор U является изометрией гильбертова пространства Н,
для которой существует такое одномерное подпространство N, что
подпространства N, C/N, /72N, . . . попарно ортогональны и
порождают все пространство Н. Если такое подпространство N
существует, то оно должно совпадать с кообразом (UHI- оператора U.
В силу этого замечания возможна и несколько другая
формулировка: односторонний сдвиг является такой изометрией U в
гильбертовом пространстве Н с корангом 1, что подпространства (?/Н)-Ц
U (?/H)-L, U2 (?/Н)-Ц . . . порождают Н (так как U — изометрия,
то они оказываются попарно ортогональными). Большинство этих
замечаний встречается в решении 118.
Обобщение совершенно очевидно. Рассмотрим такую изометрию
U гильбертова пространства Н, что подпространства (С/Н)-1,
?/(Е/Н)-Ц С/2(?/Н)^, . . . попарно ортогональны и в сумме
порождают все пространство, но не будем налагать никаких ограничений
на значение коранга. Каждую такую изометрию можно назвать
сдвигом (односторонним). Коранг сдвига (называемый также его
кратностью) составляет полный набор его унитарных
инвариантов. Исходный односторонний сдвиг определяется (с точностью
до унитарной эквивалентности) как сдвиг кратности 1 (простой
односторонний сдвиг).
Односторонние сдвиги более высокой кратности так же важны,
как и простой. Задача 118 показывает, что они совпадают с
чистыми изометриями. Они играют важную роль в теории всех
операторов, а не только изометрий. Эти сдвиги, или скорее
сопряженные к ним, оказываются в некотором смысле «универсальными»
операторами.
Частью оператора называется сужение его на инвариантное
подпространство. Каждая часть изометрий — сама изометрия.
Изучение частей односторонних сдвигов не обещает ничего нового.
А каковы части операторов, сопряженных к односторонним
сдвигам? Если U — односторонний сдвиг, то || U || = || U* || = 1
и потому, если оператор А — часть оператора U*, то || А || ^ 1.
Кроме того, так как (?/*)" —>- 0 в сильной операторной топологии,
то и Ап —>¦ 0 (сильно). Удивительный и полезный факт состоит
в том, что эти два очевидно необходимых условия также и
достаточны (см. Фояш [1], де Бранж и Ровняк [1, 2]).
Задача 121. Каждое сжатие, степени которого сильно сходятся
к О, унитарно эквивалентно части оператора сопряженного
к одностороннему сдвигу.
122. Операторы, подобные частям сдвигов. Для многих целей
подобие операторов ничуть не хуже унитарной эквивалентности.
Когда оператор А подобен части оператора, сопряженного
одностороннему сдвигу ?7? Поскольку подобие не сохраняет нормы,

Гл. 14. Односторонний сдвиг 83
не очевидно, что условие \\ А || = 1 должно выполняться.
Существует, однако, характеристика оператора, которую подобие
сохраняет, а именно спектральный радиус. Так как г (U*) = 1,
то г (>!)< 1. Легко видеть, что это условие необходимо, но не
достаточно. Дело в том, что другое необходимое для унитарной
эквивалентности условие (Ап -> 0 сильно; см. задачу 121)
необходимо также и для подобия. Действительно, если Аи -> 0 сильно
п В = S^AS, то Вп -»- 0 сильно. Поскольку есть операторы А,
у которых г (Л)<1, но степени Ап не сходятся к нулю сильно
(например, А = 1), то такого ограничения на величину
спектрального радиуса, очевидно, недостаточно. Существует другое
ограничение, само по себе достаточное для того, чтобы оператор был
подобен части оператора, сопряженного одностороннему сдвигу.
Но оно несколько сильнее, чем условие г(А)<1: требуется,
чтобы было г (А) <С 1.
Задача 122. Каждый оператор, спектр которого содержится
строго внутри единичного круга, подобен сжатию, степени
которого сильно сходятся к 0.
Следствие 1. Каждый оператор, спектр которого содержится
строго внутри единичного круга, подобен части оператора,
сопряженного одностороннему сдвигу.
Следствие 2. Каждый оператор, спектр которого содержится
строго внутри единичного круга, подобен истинному сжатию.
Истинным сжатием называется такой оператор А, что
\\А ||<1.
Следствие 3. Каждый квазинильпотентный оператор подобен
оператору с произвольно малой нормой.
Этот простой, но красивый и общий результат принадлежит
Роту [11.
Следствие 4. Спектральный радиус каждого оператора А
совпадает с точной нижней гранью множества чисел || S'1 AS || (где S
пробегает множество всех обратимых операторов).
123. Блуждающие подпространства. Пусть А — оператор
в гильбертовом пространстве Н. Подпространство N пространства
Н называется блуждающим для оператора А, если оно
ортогонально всем своим образам под действием степеней оператора А. Это
понятие особенно полезно при изучении изометрий. Если U —
изометрия, а N — блуждающее подпространство для U, то
Z7mN J__ ?7nN для любых различных неотрицательных чисел т и п.
Другими словами, если векторы fug принадлежат
подпространству N, то Umf J_ Ung. (Доказательство: положим для определен-

84 Задачи
ности т > п и заметим, что (Umf, Ung) = {(U*)nUmf, g) =
__ (ijm-n^ gj^ Если U — унитарный оператор, то верно даже
больше: t/mN J_ Un~S для любых различных целых чисел т и п.
(Доказательство: найдем такое к, чтобы числа т -\- к и п -\- к
были положительными, и заметим, что (Um+kf: Un+kg) =
= (Umf, Ung).)
Блуждающие подпространства важны потому, что они просто
связаны с инвариантными подпространствами: для каждой изо-
метрии U существует естественное взаимно однозначное
соответствие между всеми блуждающими подпространствами N и
некоторыми инвариантными подпространствами М. Это соответствие
аз
получается, если положить М = \/ ?/nN. (Чтобы доказать, что
п=0
СО
это соответствие взаимно однозначно, заметим, что UM = \J UnN,
n=l
так что N = М П (f/M)-L.) По крайней мере для одного оператора,
а именно для одностороннего сдвига, это соответствие обратимо.
Задача 123. Если U — (простой) односторонний сдвиг и М —
ненулевое инвариантное относительно U подпространство, то
существует (и притом единственное) одномерное блуждающее
со
подпространство N, для которого М = V UnN.
п=0
Связь между М и N можно выразить, сказав, что каждая
ненулевая часть простого одностороннего сдвига есть сдвиг.
Дополнительное уточнение, состоящее в том, что dim N = 1,
быть может, и неудивительно, но важно и нетривиально.
В силу этого замечания следующее краткое утверждение
представляет собой просто переформулировку задачи 123: каждая
ненулевая часть простого одностороннего сдвига является (с
точностью до унитарной эквивалентности) простым односторонним
сдвигом. Почти без дополнительных усилий, изменив только
очевидным образом все формулировки, можно распространить эти
результаты на односторонние сдвиги большей кратности.
124. Специальные инвариантные подпространства оператора
сдвига. Одна из самых неприступных проблем в теории
гильбертовых пространств — существует ли у произвольного оператора
нетривиальное собственное подпространство? В связи с этим
многообещающим, увлекательным и полезным делом представляется
накопление большего числа экспериментальных фактов при
исследовании конкретных частных случаев и выяснение, как устроены
соответствующие инвариантные подпространства. Особенно удобно
рассматривать эту проблему на частном случае оператора
одностороннего сдвига.

Гл. 14. Односторонний сдвиг 85
Существуют два вида инвариантных подпространств: к одному
виду относятся такие, у которых ортогональные дополнения
инвариантны (приводящие подпространства), к другому — все
остальные. У одностороннего сдвига нет приводящих подпространств
(задача 116). Вопрос в том. сколько инвариантных подпространств
второго вида и как они выглядят.
Проще всего получить инвариантное подпространство
одностороннего сдвига, зафиксировав натуральное число к и рассмотрев
замкнутую линейную оболочку Mft векторов еп, п ^> к. После
этого элементарного замечания большинство читателей должно
остановиться и подумать: вовсе не очевидно, что существуют
какие-нибудь другие инвариантные подпространства. Здесь
полезно вспомнить о спектральных свойствах оператора U. В самом
деле, поскольку каждое комплексное число X, по модулю меньшее
1, является простым собственным значением оператора U* (реше-
со
ние 67) с собственной функцией/д, = 2 Хпеп, ортогональное допол-
71=0
нение к этому вектору /*, есть нетривиальное инвариантное
подпространство оператора U.
Задача 124. Если М^ (Я) — ортогональное дополнение к
множеству {/?,, . . ., С/А~1/я.}, то все подпространства Mft (Я) (к =
= 1, 2, 3, . . .) инвариантны относительно оператора U,
dim м? (Я) = к и \/ М?[- (Я) = Н2.
Заметим, что рассмотренные выше подпространства Мй
совпадают с подпространствами М& @).
125. Инвариантные подпространства сдвига. Каковы
инвариантные подпространства одностороннего сдвига? Примерами
могут служить подпространства Mfe и их обобщения Мй (X) (см.
задачу 124). Применяя к ним операции, введенные в решетке
подпространств (образование замкнутой линейной оболочки и
пересечения), можно получить еще несколько не слишком
удивительных примеров, и здесь, по-видимому, этот поток иссякнет.
Новый источник вдохновения можно найти, отказавшись от
пространства последовательностей и перейдя к функциональной точке
зрения. В соответствии с этим будем считать оператор U сужением
на пространство Н2 умножения, индуцированного функцией е1#
Задача 125. Ненулевое подпространство М в Н2 инвариантно
относительно U тогда и только тогда, когда существует функция
Ф, принадлежащая пространству Н°°, с модулем, почти всюду
равным 1, и такая, что подпространство М служит областью
значений сужения на пространство Н2 оператора умножения на
функцию ф.

80 Задачи
Этот основной результат восходит к Бёрлингу [1]. С тех пор
он вызывает значительный интерес, см. Лаке [1], Халмош [8]
и Хелсон [1].
На более неформальном языке подпространство М — это
множество всех функций, «кратных» ср (причем множителями
служат функции из Н2). Поэтому естественно писать М = срН2.
Па этом основании функции такого типа, как ф (т. е.
принадлежащие пространству Н°° и по модулю равные 1 почти всюду),
называются внутренними.
Следствие 1. Пусть ф и г|) — такие внутренние функции, что
фН2 с я|)Н2. Тогда ф делится на я|) в том смысле, что найдется
внутренняя функция 8, для которой ф = i|N. Если же фН2 = г|)Н2,
то функции ф и ip отличаются постоянным множителем, по
модулю равным 1.
Само по себе описание инвариантных подпространств сдвига
в терминах внутренних функций еще не решает всех задач об этих
подпространствах, но некоторые оно позволяет решить. Вот
пример такого рода.
Следствие 2. Если Ми N — ненулевые подпространства,
инвариантные для одностороннего сдвига, то Mf|N ^={0}.
Следствие 2 показывает, что решетка инвариантных
подпространств одностороннего сдвига отличается от решетки с
дополнениями настолько, насколько это возможно.
126. Циклические векторы. Вектор / называется циклическим
для оператора А, действующего в гильбертовом пространстве Н,
если векторы /, Af, A2f, . . . порождают Н. Другими словами,
вектор / называется циклическим для оператора А, если
множество векторов вида р (А) / (где в качестве р берутся всевозможные
полиномы) всюду плотно в пространстве Н. У простого
одностороннего сдвига много циклических векторов; тривиальным
примером служит вектор е0.
В конечномерном пространстве наличие у оператора
циклического вектора означает нечто вроде простого спектра. Точнее
говоря, у конечной диагональной матрицы А существует
циклический вектор тогда и только тогда, когда все ее диагональные
элементы различны (т. е. все собственные числа простые). В самом
деле, если Я4, . . ., Кп — диагональные элементы, а р — полином,
то р (A) (li, . . ., In) = (p (Xi) 1{, . . ., р (К) In)- Для того
чтобы вектор /— (li, . . ., \п) был циклическим, очевидно,
необходимо, чтобы |; фО при всех i. В противном случае i-я
координата вектора р (А) / при любом выборе полинома р была бы равна
нулю. Если не все числа Я г различны, то подобрать циклический

Гл. 14. Односторонний сдвиг 87
вектор невозможно. Пусть, например, Я4 = л2. Тогда вектор
(|*, — ?*, 0, . . ., 0) ортогонален всем векторам вида р (А) /.
Если же все числа ?ц различны, то значения р (Я4), . . ., р (Кп)
можно выбирать совершенно произвольно, так что если ни одна
из координат |г не обращается в нуль, векторы р (A) / заполняют
все пространство.
Некоторый отпечаток той связи между существованием
циклического вектора и простотой спектра, которую мы установили для
диагональных матриц, прослеживается и в случае недиагональных
матриц. Так. например, если А — конечная матрица, то у прямой
суммы А @ А не может быть циклического вектора. Действительно,
в силу уравнений Гамильтона — Кэли среди матриц 1, Л, А2, . . .
не более п линейно независимых (п — порядок матрицы А);
следовательно, для любых fug среди векторов A3f @ A3g не более
п линейно независимых, а потому их замкнутая линейная оболочка
не может быть 2и-мерной.
Если матрица А в каком-то смысле однократна, то естественно
ожидать, что это верно и для А*. Это оправдывается замечанием,
что если у матрицы А есть циклический вектор, то он есть и у А*.
Для конечномерных матриц это верно. Для доказательства
достаточно заметить, что если у матрицы есть циклический вектор, то
он, конечно же, есть и у комплексно сопряженной к ней;
напомним еще, что каждая матрица подобна своей транспонированной.
Методы предыдущего абзаца специфически конечномерные.
Поэтому естественно ожидать, что теория циклических векторов
в бесконечномерных пространствах должна быть очень трудной,
и это на самом деле так. С самого начала возникают тривиальные
трудности с кардинальными числами. Если циклический вектор
существует, то найдется счетное множество, порождающее все
пространство, и потому пространство сепарабельно. Другими
словами, в несепарабельных пространствах не бывает циклических
векторов. Эту трудность можно обойти; в этом — одно из
достижений теории кратности спектра нормальных операторов (Халмош
[3, III]). Для нормальных операторов тесная связь между
простотой спектра и существованием циклического вектора сохраняется
и в бесконечномерных пространствах и, при подходящей
интерпретации, даже в пространствах с несчетной размерностью.
Для операторов, не являющихся нормальными, ситуация
особая. Может случиться, что у прямой суммы А @ А имеется
циклический вектор; может случиться, что у оператора А имеется
циклический вектор, а у А* — нет. Эти факты впервые заметил
Сарасон.
Задача 126. Если U — односторонний сдвиг кратности не
больше х0) то U* имеет циклический вектор.

88 Задачи
Очевидно, что у простого одностороннего сдвига есть
циклический вектор, но вовсе не очевидно, что такой вектор найдется
и у сопряженного оператора. В действительности он существует,
но это само по себе не так поразительно. Первое странное следствие
предыдущего утверждения состоит в том, что если U — оператор
простого одностороннего сдвига, то у оператора U* @ U*
(сопряженного к одностороннему сдвигу кратности 2) также есть
циклический вектор. Странность полностью проявляется в том, что
у оператора U @ U нет циклического вектора (и тем более это
верно для большего числа слагаемых). Чтобы доказать отсутствие
циклического вектора у оператора U @ U, рассмотрим возможного
претендента на его роль:
«So, li, ¦ • • ), (%, "Hi. ••¦»•
Если (а, р) — произвольный ненулевой вектор, ортогональный
вектору (!о. чо) в обычном двумерном унитарном пространстве, то
вектор
«а, 0,0, ...), <р, 0, 0, ...»
ортогонален векторам
{U@U)n {{10,1ь ¦¦.), (rio.ru, ...»
при всех п (= 0, 1, . . .). Это доказывает, что циклического
вектора нет.
127. Теорема Ф. и М. Риссов. Всегда приятно видеть, как
быстро (и легко) проникают математические понятия в прошлое
и тем самым проясняют и упрощают результаты, найденные когда-
то с помощью (трудного) анализа. Примером этого может служить
характеризация инвариантных подпространств одностороннего
сдвига. Элементы пространства Н2 связаны с определенными
аналитическими функциями на единичном круге (задача 28), и, хотя
эти элементы сами определены только на единичной окружности
(и даже на ней только почти всюду), они стремятся вести себя
подобно аналитическим функциям. Основное свойство
аналитических функций состоит в том, что они не могут очень часто
обращаться в нуль без того, чтобы не обращаться в нуль всюду. Важная
теорема Ф. и М. Риссов утверждает, что элементы пространства Н2
ведут себя точно так же. Вот одна из ее формулировок.
Задача 127. Функция из пространства Н2 равна нулю либо
почти всюду, либо почти нигде.
Следствие. Если fug — функции из Н2 и fg = 0 почти всюду,
то либо / = 0 почти всюду, либо g = 0 почти всюду.

Гл. 14. Односторонний сдвиг 89
Короче: в пространстве Н2 нет делителей нуля.
Более общее обсуждение теоремы Ф. и М. Риссов содержится
в книге Гофмана [1, стр. 63].
128. Обобщенная теорема Ф. и М. Риссов. Теорема Ф. и
М. Риссов утверждает, что если функция / (/ ? Н2) обращается
в нуль на множестве положительной меры, то / = 0 почти всюду.
Сказать, что / ? Н2, все равно, что сказать «коэффициенты Фурье
функции / с отрицательными номерами равны нулю». Отсюда
следует, что если / = 2 aneni то «тга-тг = 0 для всех ненулевых
п
значений п. Достаточно ли это условие для справедливости
теоремы Ф. и М. Риссов?
Задача 128. Пусть / ? L2 и / = 2 апеп — разложение Фурье
п
для /. Пусть ада_„ = 0 для всех п фО и / обращается в нуль
на множестве положительной меры. Верно ли, что / = 0 почти
всюду!
129. Приводимые взвешенные сдвиги. Для взвешенных
сдвигов из теории приводящих и инвариантных подпространств
двустороннего и одностороннего сдвигов известно очень немного.
Существует, однако, один замечательный факт, заслуживающий
упоминания. Он относится к приводимости двусторонних
взвешенных сдвигов. Впервые его доказал Р. Келли.
Задача 129. Пусть А — двусторонний взвешенный сдвиг со
строго положительными весами ап (п = 0, ±1, ±2, . . .). Для
приводимости оператора А необходимо и достаточно, чтобы
последовательность {о.п} была периодической.

ГЛАВА 15. ВПОЛНЕ НЕПРЕРЫВНЫЕ ОПЕРАТОРЫ
130. Смешанная непрерывность. В каждом гильбертовом
пространстве Н имеются две топологии: сильная (s) и слабая (w).
Поэтому понятие непрерывности отображения пространства Н
в себя допускает четыре толкования. Мы обозначим их символами
(s —>- s), (w->w), (s-»-w), (w ->- s). Например, утверждение, что
преобразование А непрерывно (s —>¦ w), означает, что при
преобразовании А прообраз каждого w-открытого множества s-открыт.
Эквивалентная формулировка: при преобразовании А образ
сильно сходящейся к вектору / сети слабо сходится к вектору Af. Было
бы чересчур много иметь четыре различных понятия
непрерывности; к счастью, три из них совпадают.
Задача 130. Для линейного преобразования А три понятия
непрерывности (s ->- s), (w -v w), (s —>- w) эквивалентны (и поэтому
каждое эквивалентно ограниченности преобразования А),
непрерывность (w —>¦ s) означает, что у преобразования А конечный ранг.
Следствие. Любой оператор, действующий в гильбертовом
пространстве, переводит замкнутый единичный шар этого
пространства в сильно замкнутое множество.
Возможно, стоит заметить, что для линейных преобразований
с конечным рангом все четыре понятия непрерывности совпадают;
это — очевидное утверждение, относящееся по существу к
конечномерным пространствам.
131. Вполне непрерывные операторы. Линейное
преобразование А, действующее в гильбертовом пространстве, называется
компактным (или вполне непрерывным), если его сужение на
единичный шар (w -*- в)-непрерывно (см. задачу 130). Иначе
говоря, линейное преобразование вполне непрерывно, если оно
переводит каждую ограниченную слабо сходящуюся сеть в сильно
сходящуюся. Поскольку слабо сходящаяся последовательность
ограничена, вполне непрерывное линейное преобразование
переводит каждую слабо сходящуюся последовательность в сильно
сходящуюся.
При вполне непрерывном линейном преобразовании образ
замкнутого единичного шара компактен в сильной топологии.
(Доказательство: замкнутый единичный шар слабо компактен.)

Гл. 15. Вполне непрерывные операторы 91
Отсюда следует, что образ каждого ограниченного множества
прекомпактен (т. е. его замыкание компактно в сильной
топологии). (Доказательство: ограниченное множество содержится в
некотором замкнутом шаре.) Верно и обратное: если линейное
преобразование переводит ограниченные множества в прекомпактные,
то оно переводит замкнутый единичный шар в компакт (в сильной
топологии). Для доказательства достаточно заметить, во-первых,
что компактные (и прекомпактные) множества ограничены и,
во-вторых, что поэтому преобразование, переводящее ограниченные
множества в прекомпактные, обязательно ограничено. (Это показывает,
между прочим, что каждое вполне непрерывное линейное
преобразование ограничено.) Из следствия задачи 130 вытекает, что образ
замкнутого единичного шара сильно замкнут. Отсюда и из того,
что этот образ — прекомпактное множество, следует, что на самом
деле он компактен. (Это утверждение в банаховых пространствах
не всегда верно.) Условие компактности получено здесь как
следствие условия непрерывности, фигурирующего в определении
вполне непрерывных операторов. В действительности можно
показать, что оба эти условия эквивалентны, и при определении вполне
непрерывных операторов часто исходят из свойства компактности
(см. Данфорд и Шварц [1, стр. 522]).
Часто оказывается полезным тот факт, что вполне непрерывные
операторы «достигают своей нормы». Точнее говоря, если А —
вполне непрерывный оператор, то существует такой единичный
вектор / (|| / || = 1), что || Af || = || А ||. Дело в том, что
отображение / -*• Af непрерывно (w ->- s) на единичном шаре, а
отображение g —>- || g || сильно непрерывно, поэтому функция / —>- || Af ||
слабо непрерывна на единичном шаре. Поскольку единичный
шар слабо компактен, эта функция достигает на нем своей верхней
грани, так что || Af || = \\А || для некоторого вектора / с нормой
не более 1. Если .4 = 0, то вектор / можно выбрать с нормой 1;
если же А Ф 0, то норма этого вектора обязательно равна 1. В
самом деле, так как / ф 0 и 1/|| / || ^ 1, то
и Лп ^ МП _ II -4/ II .-н л н
II/II ~ 11/11 ^" "•
Задача 131. Множество С всех вполне непрерывных операторов,
действующих в гильбертовом пространстве, представляет собой
замкнутый симметричный двусторонний идеал.
Здесь «замкнутый» относится к равномерной топологии,
«симметричный» означает, что А ? С влечет А* ? С, а «идеал»
означает, что линейная комбинация операторов из С принадлежит С
и произведение двух операторов, из которых хотя бы один
принадлежит С, само принадлежит С.

92 Задачи
132. Диагональные вполне непрерывные операторы. Является
ли тождественный оператор вполне непрерывным? Поскольку в
конечномерных пространствах сильная и слабая топологии
совпадают, для них ответ утвердительный. Для бесконечномерных
пространств это неверно. Дело в том, что при действии
тождественного оператора единичный шар отображается на единичный шар,
а в бесконечномерном пространстве единичный шар не может
быть сильно компактным (задача 10).
Неразличимость сильной и слабой топологий в конечномерных
пространствах позволяет построить широкий класс вполне
непрерывных операторов: операторы конечного ранга. Используя
замкнутость множества вполне непрерывных операторов, можно
получить и более сложные примеры.
Задача 132. Диагональный оператор с диагональю {а„} вполне
непрерывен тогда и только тогда, когда ап -> 0 при гс->оо.
Следствие. Оператор взвешенного сдвига с весами {а„: п =
= 0, 1, 2, . . .} вполне непрерывен тогда и только тогда, когда
ап ->¦ 0 при п ->¦ оо.
133. Нормальные вполне непрерывные операторы. Легко
видеть, что если у нормального оператора каждая ненулевая точка
спектра изолирована (т. е. не служит предельной точкой спектра),
то такой оператор диагоналей. (Для каждого ненулевого
собственного значения X оператора А выберем ортонормированный базис
в подпространстве {/: Af = Я/}; объединение всех этих базисов
и базиса в ядре оператора А дает базис во всем пространстве.)
Если, кроме этого, каждое ненулевое значение имеет конечную
кратность, то оператор вполне непрерывен. (Сравните с задачей
132; заметьте, что при наложенных ограничениях множество
собственных значений счетно.) Замечательный и полезный факт
содержится в обратном утверждении.
Задача 133. Спектр вполне непрерывного нормального оператора
счетен; все ненулевые точки спектра — собственные значения
конечной кратности.
Следствие. Каждый вполне непрерывный нормальный оператор
можно представить в виде прямой суммы нулевого оператора
(на подпространстве, которое может совсем отсутствовать, быть
конечномерным, бесконечномерным сепарабельным или даже несе-
парабелъным) и диагонального оператора (действующего в сепара-
белъном пространстве).
Вот менее четкая, но более короткая формулировка этого
следствия: каждый нормальный вполне непрерывный оператор
диагоналей.

Гл. 15. Вполне непрерывные операторы 93
134. Ядро тождественного оператора. Понятие матрицы
допускает различные «непрерывные» обобщения. Идея состоит в замене
сумм на интегралы, и она оказывается действенной — в
определенных границах. Чтобы увидеть, когда эта идея становится уже
неприменимой, рассмотрим пространство X с мерой \х (как обычно,
0-конечной) и измеримую функцию К на произведении X X X.
Такую функцию двух переменных естественно считать обобщенной
матрицей. Предположим, что А — оператор в L2 (\i), который
записывается с помощью функции К подобно тому, как оператор
выражается через свою матрицу. Это означает, что для каждой
функции / € L2 (|х)
(Af) (x) =
для почти всех х. В этом случае оператор А называется
интегральным, а К называется его ядром.
Выбор ортонормированного базиса гильбертова пространства
Н есть один из способов определить представление Н в
пространстве L2. Многие явления в пространствах L2 естественно
«непрерывно» обобщают хорошо известные явления в пространствах
последовательностей. Один из простых фактов, относящихся
к пространствам последовательностей, состоит в том, что
каждому оператору в них соответствует матрица и это не зависит от
того, конечны или бесконечны последовательности (или, более
общо, семейства чисел), образующие пространство. (В бесконечном
случае обратная процедура становится неприменимой. При
переходе от операторов к матрицам все хорошо, но при обратном
переходе появляются осложнения.) Исходя из этих очевидных
замечаний естественно предположить, что каждый оператор в L2 имеет
ядро, т. е. что каждый оператор интегральный. Это
предположение неверно, безнадежно неверно, и трудности связаны не с
какими-нибудь патологическими операторами и патологическими
мерами; они возникают даже для тождественного оператора и лебегов-
ской меры (на прямой или на интервале).
Задача 134. Если \х — мера Лебега, то тождественный оператор
в L2 (fx) не интегральный.
135. Операторы Гильберта — Шмидта. При каких условиях
ядро индуцирует оператор? Поскольку этот вопрос включает
соответствующий вопрос для матриц, неразумно искать
необходимые и достаточные условия. Одно специальное условие,
естественное и полезное, состоит в том, что ядро должно быть
квадратично интегрируемым.
Пусть X — пространство с сг-конечной мерой и. и К — такая
комплекснозначная измеримая функция на произведении X X X,

Задачи
что функция | К |2 интегрируема по мере ц X ц. Тогда для почти
всех х функция у —>- К (х, у) принадлежит пространству L2 (\\),
и потому функция у -v К (х, у) f (у) интегрируема, если только
/ ? L2 (ц). А так как, кроме того,
j А' (х, у) f (у) dpi (у) |*
| К (х: у) р ф (z/) J | / (у) |2 dji (у)) ф (^ = || К |
(где || К || — норма функции К в пространстве L2 (j.i X |л)), то
равенство
определяет оператор в L2 (ц) (с ядром К). Предыдущее
неравенство утверждает также, что
Интегральные операторы такого типа (т. е. с ядром,
принадлежащим пространству L2 (\i X (i)) называются операторами
Гильберта — Шмидта. Хороший обзор их свойств содержится в книге
Шаттена [1].
Соответствие К-+А взаимно однозначно отображает
пространство L2 (|i X \i) в множество операторов в пространстве L2 (и).
Если функция К (из L2 (ц X ц)) служит ядром оператора А, то
ядро К оператора А* определяется равенством
Если операторы А и В имеют ядра Н и К (из пространства
Ь2(|ххц)), то ядром оператора АВ служит функция НК,
определяемая равенством
(НК) (х, у) = j Н (х, z) К (z, у) dp (z).
Доказательство всех этих алгебраических утверждений состоит
в непосредственном вычислении.
С аналитической стороны положение столь же приятно. Пусть
{Кп} — такая последовательность ядер, принадлежащих L2 (jj. X |i)>
что Кп -v К по норме пространства L2 (\л X ]i). Если А и Ап —
операторы, соответствующие ядрам К и Кп, то || Ап — А || -> 0.
Доказательство немедленно вытекает из неравенства между
нормой интегрального оператора и нормой его ядра.
Задача 135. Каждый оператор Гильберта — Шмидта вполне
непрерывен.

Гл. 15. Вполне непрерывные операторы 95
Предыдущие рассуждения применимы, в частности, тогда, когда
роль пространства X играет множество натуральных чисел со
считающей мерой (т. е. такой, что мера каждого числа равна 1).
Поэтому, если сумма квадратов модулей элементов матрицы конечна,
то она ограничена (в том смысле, что она определяет оператор)
и вполне непрерывна (в силу утверждения задачи 135). Следует
также отметить, что критерий Шура (задача 37) для
ограниченности матриц допускает непосредственное обобщение в виде теоремы
о ядрах, см. Браун, Халмош, Шилдс [1].
136. Операторы Гильберта — Шмидта в сравнении с вполне
непрерывными.
Задача 136. Каждый ли вполне непрерывный оператор будет
оператором Гильберта — Шмидта?.
137. Пределы операторов конечного ранга. При доказательстве
полной непрерывности каждого из рассмотренных нами вполне
непрерывных операторов (диагональных операторов, взвешенных
сдвигов, интегральных операторов) мы каждый раз доказывали,
что он служит пределом конечномерных. И это не случайно.
Задача 137. Каждый вполне непрерывный оператор является
равномерным пределом операторов конечного ранга.
Это утверждение еще не удалось обобщить на произвольные
банаховы пространства.
138. Идеалы в кольце операторов. Идеал в кольце операторов
называется собственным, если он не содержит всех операторов.
Простой пример идеала в кольце операторов — множество всех
операторов конечного ранга; если пространство бесконечномерно,
то этот идеал собственный. Другой пример — множество всех
вполне непрерывных операторов; если пространство
бесконечномерно, то, по-прежнему, это собственный идеал. Второй идеал
замкнут, первый же в бесконечномерном случае незамкнут.
Задача 138. Если гильбертово пространство Н сепарабелъно, то
единственный ненулевой замкнутый собственный идеал в кольце
всех операторов, действующих в Н, образуют вполне непрерывные
операторы.
Аналогичный результат верен и в несепарабельном случае, но
и формулировка и доказательство его более сложны и значительно
менее интересны.
139. Квадратный корень из вполне непрерывного оператора.
Легко построить пример не вполне непрерывного оператора,

96 Задачи
квадрат которого вполне непрерывен. В самом деле, легко
построить оператор, который не будет вполне непрерывным, но
будет нильпотентным с индексом 2 (см. задачу 80). А как
обстоит дело в нормальном случае?
Задача 139. Существует ли нормальный не вполне
непрерывный оператор, квадрат которого вполне непрерывен!
140. Альтернатива Фредгольма. Основной факт о спектре
вполне непрерывного оператора в гильбертовом пространстве
(нормального или нет) состоит в том, что число (отличное от нуля)
принадлежит спектру этого оператора лишь в том случае, если оно
принадлежит точечному спектру. Более точно, пусть С — вполне
непрерывный оператор, а/. — комплексное число, не равное нулю.
Тогда либо К — собственное значение оператора С, либо оператор
С — К обратим. Разделив оператор на К, мы сведем все к случаю
X = 1. Наше утверждение при этом принимает следующий вид:
Задача 140. Если оператор С вполне непрерывен и ker A — С) =
— {0}, то оператор 1 — С обратим.
Это утверждение часто называют альтернативой Фредгольма.
Альтернатива Фредгольма допускает любопытную и почти точную
переформулировку, если перейти к уравнению A — С) f = g,
в котором функция g считается заданной, а функция / неизвестна.
В этом случае альтернатива Фредгольма гласит, что если это
уравнение может иметь не более одного решения, то это решение
существует.
Следствие. Вполне непрерывный оператор с пустым точечным
спектром квазинилъпотентен.
141. Область значений вполне непрерывного оператора.
Задача 141. Каждое (замкнутое) подпространство,
принадлежащее области значений вполне непрерывного оператора,
конечномерно.
Следствие. Каждое собственное значение вполне непрерывного
оператора имеет конечную кратность.
142. Теорема Аткинсона. Оператор А называется оператором
Фредгольма, если A) его область значений замкнута, а оба
подпространства ker А и (ran АI- конечномерны (или, что то же, дефект
и коранг оператора А конечны). Оператор А называется
обратимым по модулю идеала операторов конечного ранга, если B)
существует такой оператор В, что у операторов 1 — А В и 1 — В А
конечный ранг. Оператор А называется обратимым по модулю

Гл. 15. Вполне непрерывные операторы 97
идеала вполне непрерывных операторов, если C) найдется такой
оператор В, что операторы 1 — АВ и 1 — В А вполне непрерывны.
Задача 142. Утверждения: 1) оператор А является оператором
Фредголъма, 2) он обратим по модулю идеала операторов конечного
ранга и 3) он обратим по модулю идеала вполне непрерывных
операторов, эквивалентны.
Этот результат принадлежит Аткинсону [1].
143. Теорема Вейля. Добавление вполне непрерывного
оператора к заданному иногда называют возмущением.
Распространенное мнение о возмущениях состоит в том, что вполне непрерывные
операторы «малы»; добавление вполне непрерывного оператора
не может (или не должно) привести к существенным изменениям.
Задача 143. Если разность между двумя операторами вполне
непрерывна, то их спектры совпадают, с точностью до множества
собственных значений. Точнее говоря, если оператор А — В вполне
непрерывен и X ? Л (А) \ По (А), то % ? А (В).
Заметим, что если В = 0, то это утверждение следует из
задачи 140.
144. Возмущенный спектр. При добавлении вполне
непрерывного оператора спектр исходного оператора, разумеется,
изменяется, но в определенном смысле не очень сильно. Собственные
значения могут появляться и исчезать, но в остальном спектр
остается неизменным. Однако в другом смысле спектр может
претерпеть при этом глубокие изменения.
Задача 144. Существуют такой унитарный оператор U и такой
вполне непрерывный оператор С, что спектр суммы U + С
совпадает с единичным кругом.
145. Сдвиг по модулю вполне непрерывных операторов.
Из теоремы Вейля (задача 143) вытекает, что если U —
односторонний сдвиг, а С —¦ вполне непрерывный оператор, то спектр
суммы U + С содержит единичный круг. (Здесь мы встречаемся
с небольшим курьезом. Спектр суммы U -\- С содержит единичный
круг из-за того, что у оператора U нет собственных значений.
У сопряженного оператора U* их сколько угодно, так что это
объяснение к нему неприменимо, а факт этот для него верен.
В самом деле, спектр оператора U* + С получается из спектра
оператора U + С* симметрией относительно вещественной оси,
а оператор С* так же, как и С, вполне непрерывен.) Верно даже
большее: Шталшфли [2] доказал, что каждая точка открытого

98 Задачи
единичного круга служит собственным значением оператора
(U + С)*.
Из результатов предыдущего абзаца следует, что оператор
U -f- С не может быть обратимым (спектр содержит нуль) и не
может быть квазинильпотентным (спектр состоит не только из
нуля). Короче, если считать обратимость и квазинильпотентность
хорошими свойствами, то не только оператор U плох, но его нельзя
исправить при помощи возмущения. По-видимому, наилучшим
свойством, которым может обладать оператор (и им не обладает
оператор U), является нормальность. Может ли возмущение
исправить U в этом смысле?
Задача 145. Пусть U — односторонний сдвиг. Существует ли
такой вполне непрерывный оператор С, что U -\- С — нормальный
оператор?
Фриман [1] получил результат, относящийся к этому же кругу
идей. Он доказал, что для широкого класса вполне непрерывных
операторов С возмущенный (односторонний) сдвиг U + С подобен
невозмущенному сдвигу U.
146. Ограниченные ядра Вольтерры. Понятие интегрального
оператора обобщает понятие матрицы. Опыт вычислений с
матрицами показывает, что чем больше нулей в матрице, тем легче с ней
обращаться; в частности, удобны треугольные матрицы. Какие
интегральные операторы обобщают треугольные матрицы? Для
ответа удобно сильно ограничить вид рассматриваемого
пространства с мерой. В дальнейшем X будет обозначать только
единичный интервал, а ц — только меру Лебега. (Эту теорию
можно построить и в более общем виде; см. Рингроуз [1].)
Ядром Вольтерры называется такое ядро К в пространстве
L2 ((х X (.i), что К (х, у) = О при х <; у. Другими словами, ядро
Вольтерры — это ядро Гильберта — Шмидта, треугольное в том
смысле, что оно обращается в нуль над диагональю (х = у)
единичного квадрата. В силу этого определения действие интегрального
оператора А (оператора Вольтерры), индуцированного ядром
Вольтерры К, можно задать формулой
Если все диагональные элементы конечной треугольной
матрицы равны нулю, то эта матрица нильпотентна. Так как
диагональ единичного квадрата имеет меру нуль и так как с точки
зрения теории гильбертовых пространств множеством меры нуль
можно пренебречь, обращение в нуль всех диагональных элемен-

Гл. 15. Вполне непрерывные операторы 99
тов матрицы не имеет естественного непрерывного аналога. Тем
не менее оказывается, что нулевые значения ядра Вольтерры выше
диагонали подавляют ненулевые значения ниже диагонали.
Задача 146. Волътерровский оператор с ограниченным ядром
квазинилъпотентен.
Внимание: слово «ограниченный» относится здесь не к
оператору, а к ядру; условие состоит в том, что ядро ограничено почти
всюду в единичном квадрате.
147. Неограниченные ядра Вольтерры. Насколько существенно
предположение об ограниченности ядер Вольтерры, сделанное
в задаче 146?
Задача 147. Всякий ли волътерровский оператор
квазинилъпотентен?
148. Вольтерровский оператор интегрирования. Ядром
простейшего нетривиального вольтерровского оператора служит
характеристическая функция треугольника {(х, у) : 0 -^ у <С х<
<С 1}. Этот оператор V в L2 @, 1) задается формулой
(Vf) (х) = j / (у) dy.
Другими словами, V — оператор неопределенного
интегрирования, в котором постоянная интегрирования выбрана так, что все
функции, принадлежащие его области значений, обращаются
в нуль при х = 0. (Заметим, что все они непрерывны. Точнее
говоря, каждый вектор из области значений оператора V,
рассматриваемый как класс функций, эквивалентных по модулю
множества меры нуль, содержит единственную непрерывную
функцию.)
Оператор V* также интегральный, его ядро получается
«сопряженным транспонированием» из ядра оператора V. Поэтому ядро
оператора F* представляет собой характеристическую функцию
треугольника {(х, у): 0 <; х -< у -< 1}. У суммарного оператора
V -\- V* ядро равно 1 почти всюду в единичном квадрате.
(Операторы V* и V + V*, конечно, не будут вольтерровскими.) V + V* —
очень простой интегральный оператор; минутное размышление
показывает, что это просто оператор проектирования, область
значений которого — (одномерное) подпространство констант.
Поэтому ReV имеет ранг 1. А так как V = Be V + i Im V, то
очевидно, что оператор V получается возмущением (с помощью
оператора с рангом 1) косоэрмитова оператора. Из общей теории

100 Задачи
операторов Гильберта — Шмидта и, в частности, операторов
Вольтерры, легко получить ответы на многие вопросы об
операторе V. Так, например, будучи оператором Гильберта — Шмидта,
V вполне непрерывен, будучи оператором Вольтерры, V квазиниль-
потентен. Существует множество других естественных вопросов
об операторе V; на одни ответить легко, на другие трудно. Вот
легкий вопрос: переводит ли V какой-нибудь ненулевой вектор
х
(•
в нуль? Ответ отрицательный. Действительно, если \ / (у) dy=O для
J
о
почти всех х, то в силу непрерывности равенство выполняется
для всех х. А так как функции, принадлежащие множеству
значений оператора V, не только непрерывны, но на самом деле
дифференцируемы почти всюду, то это равенство можно
продифференцировать. Отсюда следует, что / (х) = 0 для почти всех х. А вот
простой пример естественного вопроса, на который не так легко
ответить.
Задача 148. Какова норма оператора F?
149. Кососимметрический оператор Вольтерры. В пространстве
L2 (—1. +1) (мера Лебега) существует оператор Fo, имеющий
обманчивое формальное сходство с оператором V в пространстве
L2 @, 1). По определению
+х
(У of) (х) = j / (У) dy.
— х
Заметим, что Vo — интегральный оператор, ядром которого
служит характеристическая функция «бабочки»
{(х,у): 0<\у\<\х\<1}.
Задача 149. Найти спектр и норму кососимметрического
оператора Волътерры Vo.
150. Норма 1, спектр {1}. Каждая конечная матрица унитарно
эквивалентна треугольной. Если на диагонали треугольной
матрицы стоят только единицы, то ее норма не меньше 1; она равна
единице только в случае единичной матрицы. Отсюда мы
заключаем, что в конечномерном гильбертовом пространстве
единственным сжатием, спектр которого состоит только из единицы, будет
тождественное преобразование. Использованные в этом
рассуждении аргументы существенно конечномерны. Можно ли переделать
их так. чтобы обосновать соответствующае утверждение в
бесконечномерных пространствах?

Гл. 15. Вполне непрерывные операторы 101
Задача 150. Существует ли оператор А, отличный от 1, для
которого А (А) = {1} и || А ]| = 1?
151. Решетка Доногю. Одна из самых важных, самых трудных
и самых интригующих проблем теории операторов — проблема
инвариантных подпространств. Вопрос формулируется очень
просто: верно ли, что у любого оператора в бесконечномерном
гильбертовом пространстве существует нетривиальное
инвариантное подпространство? «Нетривиальное» означает отличное от {0}
и от всего пространства; «инвариантное» означает, что оператор
отображает это подпространство в себя. В конечномерном случае
такой проблемы, разумеется, нет. Если используется поле
комплексных чисел, то из основной теоремы алгебры вытекает
существование собственных векторов.
Как утверждает Пойя, для каждой нерешенной задачи
существует более легкая нерешенная задача, и первая забота
исследователя — найти эту последнюю. Но даже этот принцип в данном
случае трудно применить: многие ослабления проблемы
инвариантных подпространств либо тривиальны, либо так же трудны, как
и исходная задача. Если, например, пытаясь добиться
положительного результата, заменим «подпространство» на «линейное
подмногообразие» (не обязательно замкнутое), то ответ получится
утвердительный и притом легко. (Изящное рассмотрение можно
найти у Шефера [1].) Если, с другой стороны, пытаясь построить
противоречащий пример, заменим «гильбертово пространство»
на «банахово», то ничего не выйдет; нпкому ни в каком
пространстве еще не удалось построить противоречащий пример.
Положительный результат известен для некоторых
специальных классов операторов. Самый простой способ — с помощью
спектральной теоремы показать, что у нормальных операторов
всегда существуют нетривиальные инвариантные подпространства.
Первый глубокий результат такого рода состоит в том, что
нетривиальные инвариантные подпространства всегда есть у вполне
непрерывных операторов (Ароншайн и Смит [1]). Эта теорема
получила дальнейшие обобщения (Бернштейн и Робинсон [1],
Халмош [12]), но все они тесно связаны с полной непрерывностью.
В общем случае известно немного. Вот пример. Если А — такое
сжатие, что ни одна из последовательностей {Ап} и {Л*п} не
сходится к нулю сильно, то у оператора А существует нетривиальное
инвариантное подпространство (Секефальви-Надь и Фояш [2]).
Сравнительно современный общий обзор этих вопросов можно
найти у Хелсона [1]; более полная библиография приведена
у Данфорда и Шварца [2].
Полезно подойти к предмету с другой стороны: вместо попыток
построения противоречащего примера изучить, как устроены те

102 Задачи
примеры, для которых инвариантные подпространства имеются.
Для этого можно, например, сосредоточить внимание на
определенном операторе и охарактеризовать все его инвариантные
подпространства. Первым значительным шагом в этом направлении
была работа Бёрлинга [1] (задача 125).
На этом пути нет легких задач. Вторым оператором,
инвариантные подпространства которого были подробно изучены, оказался
вольтерровский оператор интегрирования (Бродский [1], Доногю
[2], Калиш [1], Сахнович [1]). Соответствующий результат легче
сформулировать, чем для оператора сдвига, но доказать труднее.
X
Пусть (Vf) (х) = \ / (у) dy для всякой функции /?L2@, 1). Для
о
каждого а ? [0, 1] обозначим через Ма подпространство всех
функций, принадлежащих L2 @, 1) и равных нулю почти всюду на
отрезке [0, а]. Такие подпространства Ма инвариантны
относительно оператора V. Основной результат состоит в том, что
любое инвариантное подпространство оператора V совпадает
с одним из Ма. Изящный способ получения подобных
результатов —¦ свести изучение вольтерровского оператора интегрирования
(в той части, которая касается инвариантных подпространств)
к изучению одностороннего сдвига. Этот способ был предложен
Сарасоном [1].
Инвариантные подпространства фиксированного оператора
образуют решетку (замкнутую относительно взятия пересечения
и замкнутой линейной оболочки). Упомянутый результат об
операторе V можно сформулировать и так: решетка его
инвариантных подпространств антижзоморфна замкнутому единичному
интервалу («анти», ибо при росте а подпространства Ма стягиваются).
Решетка инвариантных подпространств оператора V* очевидным
образом изоморфна замкнутому единичному интервалу.
Существует ли оператор, решетка инвариантных
подпространств которого изоморфна решетке неотрицательных целых
чисел? Этот вопрос следует сформулировать несколько более точно:
существует ли оператор, для которого можно построить взаимно
однозначное и сохраняющее порядок соответствие п -> М„ между
натуральным рядом и множеством всех инвариантных
подпространств? Ответ —¦ да. Первый такой оператор найден Доногю
[2]; более широкий класс описан Никольским [1].
Предположим, что последовательность положительных чисел
со
{ап} монотонна (а„ >- an+i, п = 0, 1, 2, . . .) и 2 ап < °°-
п=0
Односторонний взвешенный сдвиг с последовательностью весов
{ап} естественно назвать монотонным 12-сдвигом. Замкнутая

Гл. 15. Вполне непрерывные операторы 103
линейная оболочка базисных векторов еп, en + it еп+2, . . .
(п = 0, 1, 2, . . .) инвариантна относительно такого сдвига.
Ортогональное дополнение (т. е. замкнутая линейная оболочка М„
векторов е0, eit ег, ... еп -i) инвариантно относительно
сопряженного оператора при всех значениях п. Основной результат
состоит в том, что каждое инвариантное подпространство этого
сопряженного оператора совпадает с одним из перечисленных
ортогональных дополнений.
Задача 151. Обозначим через А оператор, сопряженный к
монотонному 12-сдвигу, и пусть М — нетривиальное
подпространство, инвариантное относительно А. Тогда найдется такое
п (= 1, 2, 3, . . .), что М = М„.

ГЛАВА 16. СУБНОРМАЛЬНЫЕ ОПЕРАТОРЫ
152. Теорема Путнама — Фуглида. Ответы на некоторые
естественные вопросы о нормальных операторах в
бесконечномерном и в конечномерном случаях одинаковы, так же как и
техника их доказательства. С другой стороны, некоторые вопросы
по существу бесконечномерны в том смысле, что в конечномерном
случае они либо бессмысленны, либо тривиальны. К числу
последних относятся, например, вопросы о сдвигах или, более общо,
о субнормальных операторах (см. задачу 154). Промежуточное
положение занимают вопросы, ответы на которые не зависят от
размерности, а доказательство зависит. Иногда, конечно, вопрос
или ответ нужно переформулировать, чтобы достичь единообразия
в конечномерном и бесконечномерном случаях. Опыт показывает,
что доказательство в бесконечномерном случае обычно можно
применить и в случае конечной размерности; поэтому замечание
о различии в технике доказательства означает, что естественные
конечномерные рассуждения не обобщаются на бесконечномерный
случай. Однако следует добавить, что иногда доказательства
в конечномерном и бесконечномерном случаях по существу
различны, так что никаким из них нельзя воспользоваться, чтобы
получить результат противоположного случая. Таково, например,
утверждение о том, что любые два базиса имеют одинаковую
мощность. Спектральная теорема может служить типичным примером
результата, формулировка которого обобщается с конечномерного
случая на бесконечномерный, а доказательство —¦ нет. Более
удивительный пример такого рода — теорема Фуглида о
коммутативности. Она более удивительна уже потому, что многие годы
оставалась недоказанной. Соответствующий результат в
конечномерном случае был известен и тривиален; для бесконечномерных
пространств вопрос оставался открытым.
Теорему Фуглида (см. решение 115) можно формулировать
по-разному. Алгебраически простейшая формулировка гласит,
что если А — нормальный оператор, а оператор В
коммутирует с А, то операторы А* ж В тоже коммутируют. Другими
словами, если А* коммутирует с А, а А коммутирует с В, то А*
и В коммутируют. Последняя формулировка означает, что в
некоторых частных случаях коммутативность транзитивна (вообще
говоря, это не так).

Гл. 16. Субнормальные операторы 105
В теореме Фуглида оператор А играет двойную роль. Часто
оказывается полезным модифицированное утверждение, в котором
эти две роли оператора А поделены между двумя нормальными
операторами. Вот точная формулировка:
Задача 152. Если А^ и Аг — нормальные операторы, а В —
такой оператор, что АгВ = ВА2, то А*В = ВА*.
Заметим, что теорема Фуглида тривиальна, если оператор В
эрмитов (даже если оператор А и не нормальный): в равенстве
АВ=ВА, которое по условию предполагается выполненным,
нужно перейти к сопряженным операторам. Обобщение Путнама
(т. е. задача 152) не очевидно даже в этом случае. Переход к
сопряженным операторам в равенстве AiB = ВА2 вместо нужного
равенства дает В А* = А*В.
Следствие. Если нормальные операторы подобны, то они
унитарно эквивалентны.
Будет ли произведение двух коммутирующих нормальных
операторов снова нормальным оператором? Да, будет, и
доказательство не зависит от размерности. Для доказательства, по всей
видимости, следует воспользоваться теоремой Фуглида. В этой
связи нужно упомянуть, что произведение двух не коммутирующих
нормальных операторов очень редко бывает нормальным.
Внгман [1] получил следующий положительный результат:
если гильбертово пространство Н конечномерно, & А, В ж АВ —
нормальные операторы в Н, то и В А — нормальный
оператор. В бесконечномерном пространстве даже этот факт становится
нетривиальным. Он остается справедливым для вполне
непрерывных операторов (Вигман [2]), но оказывается неверным в общем
случае (Капланский [1]).
153. Спектральная мера на единичном круге. Один из
технических приемов, которые можно использовать для доказательства
теоремы Фуглида, состоит в том, чтобы описать в терминах
гильбертова пространства спектральные подпространства, связанные
с нормальным оператором. Этот прием полезен и в других
случаях.
Для того чтобы комплексное число по модулю не
превосходило 1, необходимо и достаточно, чтобы все его степени обладали
этим же свойством. Это тривиальное наблюдение
распространяется и на комплекснозначные функции: {х: | ц> (х) | <^ 1} =
= {х: [ ф (х) \п <; 1, п = 1, 2, 3, . . .}. Между комплекснознач-
ными функциями и нормальными операторами существует тесная
связь. Операторный аналог предыдущих числовых наблюдений
должен был бы выглядеть примерно так. Пусть А — нормальный

106 Задачи
оператор, действующий в гильбертовом пространстве Н. Тогда
множество Е векторов / из Н, для которых \\ Aaf ||-^ || / ||,
п = 1, 2, 3, . . ., должно быть в некотором смысле той частью
пространства Н, на которой оператор А не превосходит 1. Это
верно; точная формулировка утверждает, что Е —¦
подпространство в Н, а оператор проектирования на Е совпадает со
спектральной мерой, ассоциированной с Л на замкнутом единичном круге
в комплексной плоскости. Тот же результат можно
сформулировать более элементарно на языке операторов умножения.
Задача 153. Если А — оператор умножения, индуцированный
ограниченной измеримой функцией ф, заданной на пространстве
с мерой, aD — множество {z: \ z | ^ 1}, то вектор f изЪ2
удовлетворяет уравнению Хф-ч^) / = / ^^огда и только тогда, когда
II Anf II ^ II / II пРи всех натуральных значениях п.
Здесь, как обычно, % обозначает характеристическую функцию
множества, указанного в нижнем индексе.
Используя сдвиги и изменение масштаба, можно аналогично
охарактеризовать спектральные подпространства, ассоциирован
ные с любым кругом. В частности, для того чтобы вектор / не
изменялся при умножении на характеристическую функцию
множества {х: | ф (х) | ^ е} (е > 0), необходимо и достаточно,
чтобы он для всех п удовлетворял неравенству || Anf || <! еп || / ||.
Этот результат иногда может оказаться очень полезным по
следующим соображениям. Если для некоторого положительного числа е
в L2 нет таких векторов / (кроме нулевого), что || Anf || ^ еп || / [|
при всех п, то подпространство функций /, равных нулю на
дополнении к множеству {х: | ф (х) | -^ г}, состоит только из 0.
Поэтому множество {х: | ф (х) | ^ е} пусто (почти). Отсюда вывод:
при этих предположениях \ ц> (х) | > s почти всюду и,
следовательно, оператор А обратим.
154. Субнормальные операторы. Теория нормальных
операторов настолько хороша, что многие теории других классов
операторов создаются по ее образцу. Чтобы распространить удачную
теорию, естественно слегка ослабить некоторые ее предпосылки,
надеясь, что ослабление результатов тоже будет небольшим.
Одно из ослаблений понятия нормальности — квазинормальность
(см. задачу 108). Значительно более важное и более глубокое
обобщение, полученное совершенно другим путем,—
субнормальные операторы.
Оператор называется субнормальным, если у него есть
нормальное расширение. Точнее говоря, оператор А в гильбертовом
пространстве Н называется субнормальным, если существует
такой нормальный оператор В в некотором гильбертовом про-

Гл. 16. Субнормальные операторы 107
странстве К, что Н является подпространством в К,
инвариантным относительно В, а сужение оператора 5наН совпадает с А.
Каждый нормальный оператор, очевидно, субнормален.
В конечномерном пространстве каждый субнормальный оператор
нормален, но это нуждается в доказательстве; ср. с решением 159
или с задачей 160. Более интересный и типичный пример
субнормального оператора дает односторонний сдвиг, нормальным
расширением которого служит двусторонний сдвиг.
Задача 154. Каждый квазинормалъный оператор субнормален.
Из нормальности вытекает квазинормальность, но не обратно
(доказательство: односторонний сдвиг). Данная задача утверждает,
что из квазинормальности вытекает субнормальность, но обратное
опять-таки неверно. Для построения противоречащего примера
достаточно к одностороннему сдвигу добавить ненулевой
скалярный оператор. Суммарный оператор будет, как и односторонний
сдвиг, субнормальным, но прямое вычисление показывает, что
если бы он был квазинормальным, то односторонний сдвиг должен
был бы быть нормальным оператором.
155. Минимальные нормальные расширения. Нормальное
расширение В (действующее в пространстве К) субнормального
оператора А (действующего в пространстве Н) называется
минимальным, если не существует приводящего подпространства
оператора В, содержащего подпространство Н. Другими словами,
оператор В называется минимальным расширением оператора А,
если из того, что М приводит В иНс М, следует, что М = К.
Сколько же существует минимальных нормальных расширений?
Задача 155. Если операторы Bt и В2 {действующие на Kt и К2)
представляют собой минимальные нормальные расширения
оператора А, действующего на Н, то существует изометрическое
отображение U пространствa Ki на К2, переводящее В4 вВ2 (т. е. такое,
что UBi=B2U), сужение которого на Н есть тождественное
преобразование.
Этот результат позволяет говорить об определенном
минимальном расширении субнормального оператора. Типичный пример:
минимальным нормальным расширением одностороннего сдвига
служит двусторонний сдвиг.
156. Подобие субнормальных операторов. Из подобия
нормальных операторов следует их унитарная эквивалентность
(задача 152). Субнормальные операторы призваны имитировать
свойства нормальных; удается ли им это в данном случае?

108 Задачи
Задача 156. Обязательно ли унитарно эквивалентны два
подобных субнормальных оператора!
157. Теорема о включении спектра. Если А — сужение
оператора В на подпространство Н, инвариантное относительно В,
и / — его собственный вектор (т. е. / 6 Н и Af = "kf для
некоторого комплексного числа X), то, конечно, / — собственный вектор
и для оператора В. Другими словами, если А сг В, то По (^1) с:
cz По (В). Это означает, что с ростом оператора растет его
точечный спектр. Так же легко убедиться, что с ростом оператора
растет его предельный спектр. В силу этих очень естественных
замечаний соблазнительно предположить, что с ростом
оператора растет весь его спектр; в частности, если В —
минимальное нормальное расширение субнормального оператора А, то
Л (А) с Л(В). Однако уже простейший пример субнормального
оператора показывает, что это предположение ошибочно. Если
в качестве А взять оператор одностороннего сдвига, то В будет
двусторонним сдвигом. Спектром оператора А служит единичный
круг на комплексной плоскости, в то время как спектр оператора В
состоит из границы этого круга. Этот противоречащий пример
иллюстрирует общую ситуацию лучше, чем это делают
правдоподобные доводы, основанные на поведении собственных значений
или предельного спектра.
Задача 157. Если А — субнормальный оператор, а В — его
минимальное субнормальное расширение, то Л (В) с Л (А).
См. Халмош [4].
158. Заполнение «дыр». Теорему о включении спектра
(задача 157) для субнормальных операторов можно интересно
уточнить в неожиданном направлении. Оказывается, что спектр
субнормального оператора всегда получается из спектра его
минимального нормального расширения «заполнением некоторых дыр».
Этому неформальному выражению можно придать точный смысл.
Дырой в компактном подмножестве комплексной плоскости
называется всякая ограниченная связная компонента его дополнения.
Задача 158. Если А — субнормальный оператор, В — его
минимальное нормальное расширение u A — дыра в Л (В), то А либо
целиком входит в спектр оператора А, либо не пересекается с ним.
159. Расширения конечной коразмерности.
Задача 159. Может ли субнормальный, но не нормальный
оператор в гильбертовом пространстве Н обладать нормальным
расширением в гильбертовом пространстве К, если размерность
dim (К П H-L) конечна!

Гл. 16. Субнормальные оператора 109
160. Гипонормальные операторы. Как связаны между собой
операторы ^4* и В*, если А — субнормальный оператор
(действующий на Н), а В — его нормальное расширение (действующее
на К)? Ответ легче всего сформулировать в терминах оператора
проектирования Р из К на Н. Пусть векторы / и g принадлежат
лространству Н. Тогда
(A*f, g) = (/, Ag) = (/, Bg) = (B*f, g) = (B*f, Pg) = (PB*f, g).
Так как оператор РВ*, определенный в пространстве К, оставляет
подпространство Н инвариантным, то его сужение на Н будет
оператором в Н. Из предыдущей цепочки равенств следует, что это
сужение совпадает с А*. Таким образом,
A*f = PB*f
для всех / из Н.
Из этого соотношения между А* и В* вытекает любопытное
следствие. Пусть / 6 Н, тогда || A*f || = || PB*f \\ < || B*f || =
= || Bf || = || Af || (в силу нормальности). Полученный результат
(II A*f || <; || Af ||) имеет другую полезную форму:
АА*<А*А.
Действительно, || A*f ||2 == {AA*f, /), а || Af ||2 = (A*Af, /).
Это любопытное неравенство, верное для всех субнормальных
операторов, можно также получить с помощью матричных
вычислений. В соответствии с разложением К = Н © Н-1- каждый
оператор в К можно задать операторной матрицей; в частности, это
верно для оператора В. Соотношение (А с В) между А и В легко
выражается в терминах матрицы оператора В; для этого
необходимо и достаточно, чтобы A) первым (северо-западным) элементом
этой матрицы был оператор А и B) чтобы нижним (юго-западным)
элементом был нулевой оператор. Условие B) означает, что Н
инвариантно относительно .В, а условие A) говорит, что сужение
оператора В на Н совпадает с А. Таким образом,
В =
так что
А* 0
Так как оператор В нормальный, то матрица
А*А A*R \ (AA* + RR* RS*
1 I
I
~~ ~V#*^ R*R + S*S)\ SR* SS*

110 Задачи
должна быть равна нулю. Поэтому
и, следовательно, А*А —
Это неравенство любопытно нарушением в нем симметрии.
Почему роли операторов А*А и АА* так различны? Уяснить
ситуацию поможет односторонний сдвиг. Если А (= U) —
односторонний сдвиг, то он субнормален, и потому А* А = 1,
в то время как А А* — нетривиальный проектор; ясно, что в этом
случае А'* А ^ А А*. Если же А = U*, то оператор А не
субнормален. (Доказательство: если бы А был субнормальным, то он
удовлетворял бы неравенству А*А^-АА*, т. е. UU* ^ U*U,
н тогда оператор U был бы нормальным.) Если уж очень нужно,
то симметрию можно восстановить, введя двойственное понятие
косубнормальности. (Предполагаемое определение: сопряженный
оператор субнормален.) Если оператор А косубнормален в этом
смысле, то АА* ;> А*А. Оператор А, для которого А*А ^-АА*,
называется гипонормалъным. (Двойственное понятие можно
определить как когипонормальность. Заметим, что «гипо»
по-гречески то же, что «суб» по-латыни. Эти наименования не очень
продуманы, но такими они сложились и, по-видимому, такими п
останутся.) Выше было показано, что каждый субнормальный оператор
гипонормален. Двойственное утверждение: каждый косубнормаль-
ный оператор копшонормален.
На конечномерном пространстве каждый пшонормальный
оператор нормален. Простейшее доказательство основано на
рассмотрении следа операторов. Так как tr (АБ) = tr (BA), то
tr (А* А — А А*) = 0. Поэтому оператор А* А — АА*, будучи
положительным оператором с нулевым следом, равен 0. Это
обобщает утверждение, что каждый субнормальный оператор в
конечномерном пространстве нормален (задача 154).
Задача 160. Приведите пример гипонормального, но не
субнормального оператора.
Это нелегко. Используемой для этого техники почти
достаточно, чтобы установить внутреннюю характеризацию
субнормальности, полученную Халмошем [1] и уточненную затем Бремом [1].
«Внутреннюю» означает, что эта характеризация выражена через
действие оператора на векторы из его области определения, а не
апеллирует к существованию чего-то вне ее (в отличие от самого
определения субнормального оператора.— Ред.). Эта
характеризация «конечного характера» в том смысле, что зависит от
поведения оператора на всевозможных конечных множествах векторов.
Продвигаясь дальше в том же направлении, можно получить
изящную топологическую характеризацию субнормальности; впервые

Гл. 16. Субнормальные операторы 111
это сделал Бишоп [1]. Результат Бишопа легко сформулировать:
множество всех субнормальных операторов совпадает с сильным
замыканием множества всех нормальных операторов.
161. Нормальные и субнормальные частичные изометрии.
Задача 161. Частичная изометрия нормальна тогда и только
тогда, когда ее можно представить в виде прямой суммы
унитарного и нулевого операторов; она субнормальна тогда и только тогда,
когда представима в виде прямой суммы изометрии и нулевого
оператора.
В обоих случаях одно из слагаемых прямой суммы может
отсутствовать.
162. Нормы степеней и степени нормы. Множество Т
операторов А, для которых || Ап || = || А ||™ при всех натуральных
значениях п, важно по крайней мере в одном отношении. Если
А ?Т, то \\Ап Ц1/* = \\А ||, и потому г (А) = \\ А ||. Обратно,
если г (А) = || А ||, то || Ап ||< \\ А \\п = (г (А))п = г (Ап) <
•^ || Ап ||, так что все неравенства превращаются в равенства.
Итак: А ?Т тогда и только тогда, когда г (А) = || А ||.
Из этого определения множества Т следует, что оно содержит
все пормальные операторы (это же видно и из предыдущего
абзаца). Для квадратных матриц второго порядка нудным
вычислением доказывается справедливость усиленного обратного
утверждения: если || Аг || = || А ||2, то оператор А нормален.
Поскольку пи утверждение, ни его доказательство ничем не
примечательны, последнее мы опускаем. Однако если размерность больше 2,
то это обращение неверно. Например, если
/1 0
л = о о о
Vo 1 0/
то || А" || = 1 при всех п, но оператор А, очевидно, не нормален.
Кратчайшее (но не самое элементарное) доказательство прямого
утверждения (если А — нормальный оператор, то А ? Т)
использует спектральную теорему. Но поскольку для субнормальных
и гшгонормальных операторов спектральной теоремы нет, такое
доказательство этот естественный вопрос оставляет для них без
ответа. Можно показать, однако, что и для них ответ
утвердительный.
Задача 162. Если А — гипонормалъный оператор, то \\ Ап || =
= || А ||п при всех натуральных значениях п.
Следствие. Единственным гипонормалъным квазинилъпотент-
ным оператором является 0.

112 Задачи
163. Вполне непрерывные гипонормальные операторы. Из
рассмотрения гипонормальных операторов в конечномерных
пространствах (задача 160) следует нормальность гипонормальных
операторов конечного ранга (даже в бесконечномерном
пространстве). Что можно сказать о пределах операторов конечного ранга?
Задача 163. Каждый вполне непрерывный гипонормалъный
оператор нормален.
См. Андо [1], Берберян [2], Штампфли [1].
164. Степени гипонормального оператора. Всякая степень
нормального оператора нормальна. Из этого тривиального
замечания вытекает почти такое же тривиальное следствие: всякая
степень субнормального оператора субнормальна. Для
гипонормальных операторов это уже не так.
Задача 164. Приведите пример гипонормалъного оператора,
квадрат которого не гипонормален.
Это не легко. Во всяком случае это не легче, чем построить
пример гипонормального, но не субнормального оператора
(задача 160), поскольку каждое решение задачи 164 автоматически
удовлетворяет задаче 160. Обратное неверно: у гипонормального
оператора, построенного в решении 160, все степени также гипо-
нормальны.
165. Сжатия, подобные унитарным операторам.
Задача 165. Унитарно ли всякое сжатие, подобное унитарному
оператору?

ГЛАВА 17. ЧИСЛОВОЙ ОБРАЗ
166. Теорема Теплица — Хаусдорфа. На заре изучения
гильбертовых пространств (Гильбертом, Хеллингером, Теплицем и др.)
квадратичные формы были главным предметом исследования.
В наши дни они отошли на второй план. В гильбертовом
пространстве Н сначала появляется оператор А, а затем после некоторых
размышлений — числовая функция / -> (Af, /), определенная
на Н. Это не означает, что подход с точки зрения
квадратичных форм мертв. При этом подходе возникают интересные вопросы
с полезными ответами.
Большинство «квадратичных» вопросов об операторах касаются
числового образа оператора, иногда называемого его полем
значений. Числовым образом (или полем значений) оператора А
называется множество W (А) всех комплексных чисел,
являющихся значениями квадратичной формы (Af, f) на единичной
сфере. (Обратите внимание: || / [| = 1, а не || / || <С 1.) Числовой
образ оператора А — это множество значений сужения на
единичную сферу квадратичной формы, ассоциированной с А. Одна из
причин выделения образа единичной сферы состоит в том, что в его
терминах легко описать образ единичного шара, а также образ
всего пространства, но не обратно. (Образ единичного шара
совпадает с объединением всех отрезков, соединяющих начало
координат с точками числового образа; образ всего пространства —
объединение лучей, исходящих из начала координат и
пересекающих числовой образ.)
Иногда найти числовой образ оператора нетрудно. Вот
несколько простых результатов. Если
то W (A) — замкнутый единичный интервал (это легко); если
4 = 1
то W (А) — замкнутый круг с центром 0 и радиусом х/г (легко,
но более интересно); если
-С !)•

114 - Задачи
то W (А) — замкнутый эллиптический диск с фокусами 0 и 1,
большой осью У2 и малой осью 1 (аналитическая геометрия в ее
наихудшем виде). Существует теорема, перекрывающая все эти
частные случаи. Если А — квадратная матрица второго порядка
с различными собственными значениями аир, соответствующими
нормированным собственным векторам / и g (|| / || = || g \\ = 1),
то W {А) представляет собой замкнутый эллиптический диск
с фокусами а и р, большой осью | а — р |/б и малой осью
у | а — р |/б, где у = I (/> ё) \> б = V1 — У2- Если у матрицы А
единственное собственное значение а, то W (А) — круг с центром
а и радиусом \\ А — а ||/2.
Следующая пара трехмерных примеров показывает, что
двумерный случай нетипичен. Если
где % — комплексное число, по модулю равное 1, то W (А) —
равносторонний треугольник (внутренность и граница), вершинами
которого служат три значения кубического корня из X (ср. с
задачей 171). Если
то W (А) совпадает с объединением всех замкнутых отрезков,
соединяющих единицу с точками замкнутого круга с центром
в 0 и радиусом х/2 (ср. с задачей 171).
Чем выше размерность, тем удивительнее может быть
числовой образ. Если А — вольтерровский оператор интегрирования
(см. задачу 148), то W (А) — множество, заключенное между
кривыми
1 — cos t . t — sint n „ „
(значение в точке t = 0 понимается как предел справа).
< vj Важнейшее общее свойство всех этих примеров
формулируется в следующей задаче.
Задача 166. Числовой образ оператора всегда выпуклый.
Этот результат известен как теорема Теплица — Хаусдорфа.
Все известные доказательства основаны на вычислениях. Эти
вычисления можно провести хорошо или плохо, но от этого они

Гл. 17. Числовой образ 115
не перестанут быть вычислениями. Хотелось бы получить идейное
доказательство, пусть даже (или особенно?) с использованием
менее элементарных понятий, чем в вычислительном
доказательстве.
Еще одно относящееся к делу замечание. Рассмотрение
вещественной и мнимой частей показывает, что теорема Теплица —
Хаусдорфа представляет собой частный случай (при п = 2)
утверждения: если Аи . . ., Ап — эрмитовы операторы, то множество
всех и-членных последовательностей вида {(A if, /), . . ., (Anf, /)),
где ||/|| = 1, является выпуклым подмножеством га-мерного
вещественного евклидова пространства. Истинное или ложное,
это утверждение выглядит естественным обобщением теоремы
Теплица — Хаусдорфа; жаль только, что оно неверно. Оно
ошибочно уже для трех операторов в двумерном пространстве:
легко построить соответствующий пример.
Первая статья на эту тему написана Теплицем [2]. Он доказал,
что числовой образ W (А) ограничен выпуклой кривой, но оставил
открытым вопрос о возможности существования в W (А)
внутренних дыр. Хаусдорф [1] доказал, что это невозможно. Доногю [1]
вновь исследовал эти факты и проделал некоторые существенные
вычисления. Результат о вольтерровском операторе
интегрирования принадлежит А. Брауну.
167. Многомерный числовой образ. Числовой образ можно
рассматривать как одномерный случай многомерного понятия.
Чтобы понять, как это сделать, напомним выражение
проектора Р ранга 1 через единичный вектор / из области значений
проектора:
Pg = {g,f)f
для всех g. Если А — произвольный оператор, то РАР —
оператор ранга 1, и потому такие конечномерные понятия, как след,
имеют для него смысл. След оператора РАР можно вычислить,
найдя A X 1)-матрицу сужения оператора РАР на область
значений оператора Р в базисе {/}. Так как Pf = /, то этот след равен
Эти замечания можно суммировать так: W (А) есть множество
комплексных чисел вида tr PAP, где Р пробегает множество всех
проекторов ранга 1. Заменив здесь 1 на произвольное
натуральное число к, получим определение к-числового образа оператора А,
который будем обозначать через Wk (А). Итак, Wk (A) —
множество комплексных чисел вида tr РАР, где Р — всевозможные
проекторы ранга к. Обычный числовой образ совпадает с /с-число-
вым образом при к = 1.
Задача 167. Всегда ли к-числовой образ выпуклый"?

116 Задачи
168. Замкнутость числового образа.
Задача 168. Приведите примеры операторов с незамкнутым
числовым образом.
Заметим, что в конечномерном случае числовой образ
оператора — это непрерывный образ компакта и, следовательно, компакт.
169. Спектр и числовой образ.
Задача 169. Замыкание числового образа содержит спектр.
Тривиальное следствие, утверждающее, что если А = В -\- iC,
где В и С — эрмитовы операторы, то Л (A) cz W (В) + iW (С),
называется теоремой Бендиксона — Хирша.
170. Квазинильпотентность и числовой образ. Если А —
квазшгальпотентный оператор, то, согласно задаче 169,
0 ? W (А). Из решения 168 видно, что множество W (А) может
не быть замкнутым, поэтому 0 ? W (А) не влечет (вообще говоря)
0 ? W {А). Верно ли это в данном случае?
Задача 170. Приведите пример квазинильпотентного
оператора А, для которого 0 ? W (А).
Заметим, что каждый такой пример удовлетворяет задаче 168.
171. Нормальность и числовой образ. Может ли замыкание
числового образа оператора быть намного шире его спектра?
Да, может. Обескураживающий пример дает оператор
°У
о)'
его спектр мал ({0}), а замыкание числового образа велико
({z: ] z | <^ V2})- Среди нормальных операторов нельзя найти
таких крайних примеров; для них замыкание числового образа
мало настолько, насколько это позволяют общие свойства спектра
и числового образа.
Чтобы точно сформулировать предыдущее утверждение,
введем понятие выпуклой оболочки множества М, которую будем
обозначать через conv M. По определению conv M — это
наименьшее выпуклое множество, содержащее М. Другими словами,
conv M —¦ это пересечение всех выпуклых множеств,
содержащих М. Замкнутость выпуклой оболочки компактного множества
представляет собой нетривиальный факт из геометрии
конечномерного евклидова пространства. Наиболее полезная его
формулировка в случае плоскости следующая: выпуклая оболочка
компактного множества совпадает с пересечением всех замкнутых

Гл. 17. Числовой образ 117
полуплоскостей, содержащих это множество. По этому поводу
см. Валентайн [1].
До сих пор говорилось о получении выпуклых множеств
из замкнутых. Обратный процесс получения замкнутых множеств
из выпуклых более прост; в частности, легко доказать, что
замыкание выпуклого множества выпукло.
Задача 171. Замыкание числового образа нормального оператора
совпадает с выпуклой оболочкой его спектра.
В качестве приложения рассмотрим матрицу
'О 0 %\
где | К | = 1. Поскольку эта матрица унитарна и, следовательно,
нормальна, только что полученный результат означает, что ее
числовой образ совпадает с выпуклой оболочкой множества ее
собственных значений. Эти собственные значения легко
вычисляются (ими будут три значения кубического корня из X), и это
доказывает результат, сформулированный в введении к задаче 166
(числовым образом этой матриць! будет треугольник с вершинами
в кубических корнях из Я).
Общий результат задачи 171 обобщает утверждение о том,
что числовой образ каждой конечной диагональной матрицы
совпадает с выпуклой оболочкой множества ее диагональных
элементов. Другое обобщение этого утверждения состоит в том,
что числовой образ прямой суммы совпадает с выпуклой оболочкой
числовых образов слагаемых. Доказательство этого обобщения
стандартно. В качестве примера рассмотрим прямую сумму
слагаемых
'О 0>
/О 0\
(i о) - <*>
и вновь получим утверждение, сделанное в введении к задаче 166:
числовой образ оператора
/О 0
10 0
\0 0
имеет форму круга, накрытого конусом.
172. Субнормальность и числовой образ.
Задача 172. Останется ли верным утверждение задачи 171,
если в ее условии слово «нормальный)} заменить на «субнормальный»?

118 Задачи
173. Числовой радиус. Числовой образ, так же как и спектр,
связывает с каждым оператором множество; это функция на
операторах, значениями которой служат подмножества комплексной
плоскости. Существует тесно связанная с ней числовая
функция w, называемая числовым радиусом, она определяется
равенством
leW (A)}
(ср. с определением спектрального радиуса в задаче 74). Некоторые
свойства числового радиуса очевидны, другие очень глубоки.
Легко доказать, что w может служить нормой. В самом
деле, w (А) ^-Оию (^4) = 0 тогда и только тогда, когда А = 0;
w (а А) = \ а \ ¦ w (А) для любого числа аи w (A + В) <С
^ w (A) + w (В). Эта норма эквивалентна обычной операторной
норме в том смысле, что каждая из них не превосходит другой,
умноженной на постоянное число:
(см. Халмош [3, стр. 33]). У нормы w много других
приятных свойств. Так, например, w (A*) = w (A); w (А*А) = \\ А |р;
норма w — унитарный инвариант в том смысле, что w (U*AU) =
= w (А) для любого унитарного оператора U.
Так как Л (A) cz W (А) (задача 169), то спектральный и
числовой радиусы связаны неравенством
r(A)<w(A).
Существование квазинильпотентных (и даже нильпотентных)
операторов показывает, что обратное неравенство неверно ни
в каком виде.
Задача 173. (а) Если w A — А) < 1, то оператор А обратим.
(б) Если w {А) = \\А ||, то г (А) = \\ А ||.
174. Нормалоидные, выпуклоидные и спектралоидные
операторы. Если А — нормальный оператор, то w (А) = \\ А ||. Уинтнер
назвал операторы А, обладающие этим свойством, нормалоидными.
Другое полезное (но безымянное) свойство нормального
оператора А состоит в том, что W (А) совпадает с выпуклой оболочкой
спектра Л (^4) (задача 171). Будем временно называть операторы
(не обязательно нормальные), обладающие этим свойством, выпук-
лоидными. Еще одно (безымянное) свойство нормального
оператора А состоит в том, что г (А) = w (А); назовем операторы,
обладающие этим свойством, спептралоидными. Из задачи 173 следует,
что каждый нормалоидный оператор спектралоидный. Верно

Гл. 17. Числовой образ 119
также, что каждый выпуклоидныи оператор спектралоидный.
В самом деле, поскольку замкнутый круг радиуса г (А) с центром
в 0 содержит Л (А) и выпуклый, то он содержит и W {А). Поэтому
w (А) ^ г (А) и> следовательно, оператор А спектралоидный.
Задача 174. Рассмотреть соотношения между свойствами нор-
малоидности и выпуклоидности.
175. Непрерывность числового образа. В каком смысле
числовой образ непрерывно зависит от своего аргумента?
(Ср. с задачами 85 и 86.) Лучше всего сформулировать этот вопрос
с помощью метрики Хаусдорфа для компактных подмножеств
плоскости.
Для определения этой метрики положим
Здесь М — произвольное множество комплексных чисел, а е —
любое положительное число. В этих обозначениях расстояние
Хаусдорфа d (M, N) между двумя компактными множествами
М и N определяется как точная нижняя грань тех
положительных е, для которых одновременно М сг N + (е) и N cz M + (е).
Поскольку метрика Хаусдорфа определена для компактов,
мы должны рассматривать функцию W, а не W. Вопрос о
непрерывности этой функции допускает столько же толкований, сколько
имеется топологий в множестве операторов. Непрерывна ли
функция W слабо? сильно? равномерно? А что можно сказать о wl
Сразу очевидно лишь, что если функция W непрерывна в какой-
нибудь топологии, то это же верно для и>. Следовательно, если
w — разрывная функция, то разрывна и W.
Задача 175. Исследовать непрерывность функций W и w в
слабой, сильной и равномерной операторных топологиях.
4 176. Степенное неравенство. Лучшие свойства числового образа
и числового радиуса связаны с выпуклостью и линейностью; связи
между числовым образом и мультипликативными свойствами
операторов значительно слабее.
Так, например, функция w определенно не мультипликативна,
т. е. w (АВ) не всегда совпадает с w (A) w (В). (Вот пример,
использующий коммутирующие нормальные операторы. Пусть
oj' в = \о ij-
Тогда w (А) = w (В) = 1 и w (АВ) = 0.) Так что самое большее,
на что можно надеяться, это субмультипликативность (w (АВ) ^

120Задачи
у \о о)'
w (A) w (В)), но и это неверно. (Пример: если
ГО 0\ /О
О,
то w (А) = w (В) = У2 и w (АВ) = 1.) Но для нормальных
операторов функция w субмультишгакативпа, поскольку w (АВ) <С
<^ |j АВ || ^ || А |[ • || В ||, а для нормальных операторов
|| А || = w (А) и || В || = w (В). В общем случае w (АВ) <
<; Aw (A) w (В) (так как \\ А || ^ 2w D) и || 5 || <; 2w (В)).
Приведенный пример, показывающий, что функция w не
субмультипликативна, показывает также, что константа 4 не улучшаема.
Часто выручает коммутативность, но здесь — нет. Пример
коммутирующих операторов А и В, для которых w (АВ) >
> w (A) w (В), найти несколько труднее, но они существуют.
Вот они:
0
1
0
0
0
0
1
0
0
0
0
1
0
0
0
0
Легко видеть, что w (Az) = w (А3) = 1/2. Труднее найти w (A),
но это и не нужно. Достаточно использовать почти очевидное
соотношение w (А) «< 1. В самом деле,
w (АВ) = w (A3) = ~>w(A).j = w(A)w (В).
Из мультипликативных свойств числового радиуса мы еще
не рассмотрели только степенное неравенство
Оно верно, но его доказательство очень сложно. Даже для
квадратных матриц второго порядка не существует простого
вычисления, приводящего к нужному результату. Если же зафиксировать
не размерность, а степень, например, если положить п = 2, то
можно найти сравнительно простые доказательства, но даже они
требуют неожиданно деликатных рассмотрений. В общем случае
необходимы либо грубая сила, либо искусство.
Задача 176. Если А — такой оператор, что w (A) ^ 1, то
w (Ап) ^ 1 при всех натуральных значениях п.
Это утверждение, очевидно, вытекает из степенного
неравенства. Чтобы показать, что оно также влечет степенное
неравенство, поступим следующим образом. Если w (А) = 0, то А = 0

Гл. 17. Числовой образ 121
и все очевидно. Если w (А) ФО, то, положив В = А/го (А),
заметим, что w (В) ^ 1. Используя утверждение задачи 176, получим,
что w (Вп) ^1 и, следовательно, w (An) ^ (w (А))п.
Известны различные обобщения этой теоремы. Вот один
изящный пример: если р (z) — такой полином, что р @) = 0
и I P (z) I <^ 1 ПРИ I 2 I <J I, a A — такой оператор, что
w (А) -^ 1, то w (р (А)) -^ 1. С некоторой осторожностью можно
заменить полиномы аналитическими функциями и с большой
осторожностью — единичный круг (который возникает в
основном условии | z | <С 1) другими выпуклыми компактными
множествами.
Степенное неравенство первым доказал Бержер, первые
обобщения этого неравенства, упомянутые в предыдущем абзаце, получил
Штампфли. В самом общем виде эта теорема впервые была
опубликована Като [1]. Интересное обобщение совсем в другом
направлении приведено у Секефальви-Падя и Фояша [3].

ГЛАВА 18. УНИТАРНЫЕ ПРОДОЛЖЕНИЯ
177. Унитарные продолжения. Пусть Н — подпространство
гильбертова пространства К, а Р — оператор (ортогонального)
проектирования из К на Н. Каждый оператор В, действующий
на К, естественным образом индуцирует оператор А на
подпространстве Н: для каждого вектора / из Н
Af = PBf.
Соотношение между операторами А ж В можно выразить
равенством
= РВР.
В этом случае оператор А называется ограничением оператора В
на подпространство Н, а В называется продолжением оператора
А на К. Эти геометрические определения ограничения и
продолжения обобщают обычные понятия сужения и расширения.
Если подпространство Н инвариантно относительно В, то нет
нужды проектировать вектор Bf обратно в Н (он и так там лежит);
в этом случае оператор А будет сужением оператора В на
подпространство Н, а В — расширением оператора А на все
пространство К. Сужение и расширение представляют собой частные
случаи ограничения и продолжения, когда оператор, действующий
в большем пространстве, оставляет меньшее пространство
инвариантным.
Ограничение и продолжение можно определить алгебраически
ничуть не хуже, чем геометрически. Одно из таких определений
использует квадратичные формы. Для этого нужно взять
квадратичную форму, определяемую оператором В, и рассмотреть ее
только на векторах подпространства Н (т. е. сузить ее на Н). Это
сужение будет квадратичной формой на подпространстве Н,
поэтому оно определяется некоторым оператором А в Н. Этот
оператор А назовем ограничением. Другими словами, ограничение
и продолжение не только аналоги (и обобщения) понятий сужения
и расширения, но с точки зрения квадратичных форм они сами
сужение и расширение: квадратичная форма, соответствующая
оператору А, представляет собой сужение квадратичной формы
оператора В на подпространство Н, а квадратичная форма
оператора В есть расширение квадратичной формы оператора А на
пространство К.

Гл. 18. Унитарные продолжения 123
Ограничение и продолжение возникают в теории гильбертовых
пространств еще и в связи с операторными матрицами. Пусть
пространство К разложено в прямую сумму подпространств Н
и Н-Ь операторы в К записываются в виде матриц (элементами
которых служат операторы, действующие в Н и Н-Ц и линейные
преобразования из Н в H-L и обратно). Тогда, для того чтобы
оператор В был продолжением оператора А, необходимо и
достаточно, чтобы его матрица имела вид
Задача 177. (а) Если \\ A || ^ 1, то у оператора А существует
унитарное продолжение, (б) Если О ^ А ^ 1, то оператор А
можно продолжить до проектора.
Заметим, что в обоих случаях сделанные предположения,
очевидно, необходимы. Если у оператора А есть продолжение В,
являющееся сжатием, то || Af \\ = \\ PBf || ^ || Bf || <1 || / || для
всех / из Н. Если у А есть положительное продолжение В, то
(Af, f) = (Bf, /) > 0 при всех / из Н.
Следствие. У каждого оператора есть нормальное продолжение.
178. Унитарные степенные продолжения. Наименьшим сжатием
является нулевой оператор, но даже у него есть унитарное
продолжение. Конструкция решения 177 в этом случае приводит
к оператору
/О 14
Эта конструкция в известном смысле каноническая, но полезных
алгебраических свойств у нее немного. Например, квадрат
продолжения оператора не обязательно совпадает с продолжением
квадрата. В самом деле, квадратом указанного выше продолжения
нулевого оператора будет матрица
/1 0>
которая не совпадает с продолжением квадрата нуля. Существует ли
унитарное продолжение нулевого оператора, выдерживающее
возведение в квадрат? Оказывается, существует. Вот пример:
0
1
0
0
0
1
1
0
0

121 Задачи
Квадрат этого продолжения, равный
'О 1 0\
О 0 1 ,
\1 О О/
равен продолжению квадрата нуля. Но, к сожалению, и ото
продолжение столь же несовершенное; его куб
1
0
0
0
1
0
0
0
1
не совпадает с продолжением куба нуля. Неувязку с кубом можно
исправить, рассмотрев продолжение
у которого, однако, не подходит четвертая степень. Эти
построения можно продолжать бесконечно. В конце концов естественно
возникает вопрос о существовании унитарного продолжения
нулевого оператора, все степени которого были бы продолжениями
нуля. Говоря на матричном языке, мы ищем унитарную матрицу,
у которой один из диагональных элементов равен нулю, причем
он равен нулю у всех ее степеней. Верный ответ может подсказать
изучение конечномерных примеров: подходит двусторонний сдвиг
с выделенным элементом @, 0). (Внимание: односторонний сдвиг
не унитарен.) Предыдущие рассуждения подсказывают такое
общее определение: оператор В называется степенным
продолжением (иногда его называют сильным продолжением) оператора А,
если при любом п = 1, 2, 3, . . . оператор Вп служит
продолжением оператора Ап.
Задача 178. У каждого сжатия есть унитарное степенное
продолжение^
Для справедливости следует упомянуть, что всякое
продолжение обладает по крайней мере одним полезным алгебраическим
свойством: если В — продолжение оператора А, то В*—
продолжение оператора А*. Короче всего это доказывается с помощью
квадратичных форм. Если (Af, /) = E/, /) для каждого вектора /
из подпространства Н, то для тех же /
(A*f, /) = (/, Af) = (Af, /)• = (В/, /)* = (/, Bf) = (В f, /).

Гл. 18. Унитарные продолжения 12е)
Отсюда, в частности, следует, что если В — степенное
продолжение оператора А, то В* — степенное продолжение оператора А*.
Теорема о степенном продолжении впервые была доказана
Секефальви-Надем [1]. С тех пор эти вопросы привлекали
внимание многих математиков. Хорошие обзоры полученных
результатов есть у Секефальви-Надя [2] и Млака [1]. Особенно
интересные задачи в этой теории связаны с минимальными унитарными
степенными продолжениями. Их определение аналогично
определению минимальных нормальных расширений (задача 155),
и по заданному оператору они также определяются однозначно
{с точностью до унитарной эквивалентности). Любопытно, что
минимальное унитарное степенное продолжение оператора
оказалось не таким полезным, как можно было бы думать. Шрейбер [1]
доказал, что у всех собственных сжатий (см. задачу 122) в сепара-
бельном гильбертовом пространстве одно и то же минимальное
унитарное степенное продолжение, а именно двусторонний сдвиг.
Секефальви-Надь [3] распространил это утверждение на несепара-
бельные пространства.
179. Эргодическая теорема. Если и — комплексное число,
по модулю равное 1, то средние
п-1
образуют сходящуюся последовательность. Это любопытное и
простое утверждение классического анализа с далеко идущими
обобщениями. Для доказательства рассмотрим отдельно случаи и = 1
и и Ф 1. Если и = 1, то все средние тоже равны 1 и пределом
будет 1. Если и Ф 1, то
п-1
1-й™
— >, и
п ~J
j=0
«A-Й)
il —и
и пределом будет 0.
Самое эффектное операторное обобщение этого факта известно
под названием эргодической теоремы для унитарных операторов.
Она утверждает, что для любого унитарного оператора U в
гильбертовом пространстве средние
п-1
образуют сильно сходящуюся последовательность. Более
содержательная часть этой эргодической теоремы состоит в описании

126 Задачи
предела: им оказывается оператор проектирования на
подпространство {/: Uf = /}, т. е. на подпространство неподвижных
точек оператора U.
Менее очевидно, что похожая эргодическая теорема верна
не только для унитарных операторов, но для всех сжатий.
Задача 179. Если А — сжатие в гильбертовом пространстве Н,
то средние
— У А'
п —
э=о
образуют сильно сходящуюся последовательность операторов в Н.
180. Спектральные множества. Пусть F — ограниченная ком-
плекснозначная функция, определенная на множестве М.
Положим
Если А — нормальный оператор со спектром Л, a F —
ограниченная измеримая по Борелю функция на Л, то || F (A) || ^ \\ F \\А.
(В общем случае равенство не выполняется: функция F может
принимать большие значения, которые с точки зрения теории
меры не окажут никакого влияния на F (А).) Неясно, как
обобщить это неравенство для операторов, не являющихся
нормальными. Такому обобщению мешают два обстоятельства: в общем
случае F (А) не имеет смысла, а когда имеет, неравенство может
не выполняться. Существует простой способ обойти оба
препятствия. Рассмотрим только такие функции F, для которых F (А)
имеет смысл, и только такие множества Л, для которых нужное
неравенство выполняется. При этих дополнительных
предположениях удается построить жизнеспособную теорию.
В том случае, когда мы рассматриваем только полиномы,
можно не налагать никаких ограничений на сам оператор. Однако,
если спектр оператора слишком мал, то неравенство между
нормами нарушается. Например, если А — квазинильпотентный
оператор, а р (z) = z, то || р (А) |] = || А || и || р ||д(Л) = 0. В этом
случае неравенство [| р (А) || ^ \\ р \\а(А) выполняется только
для А = 0. Первым положительным результатом в этой области
была теорема фон Неймана — Гайнца, которая до сих пор остается
самой эффективной и содержательной (см. фон Нейман [5], Гайнц
Ш)
Задача 180. Если || А |] ^ 1 и D — замкнутый единичный
круг, то для всякого полинома р

Гл. 18. Унитарные продолжения 127
Теорема фон Неймана — Гайнца принадлежит теории
спектральных множеств. В этой теории рассматриваются
рациональные функции, а не только многочлены. Грубо говоря,
спектральным множеством оператора называется такое множество, что
соответствующее неравенство между нормами выполняется для
всех рациональных функций. Точное определение: множество М
называется спектральным множеством оператора А, если
A (A) cz М и \\ F (А) || ^ || F \\м для всякой рациональной
функции F, ограниченной на М (т. е. не имеющей полюсов
в замыкании множества М). (В силу соглашения относительно
полюсов допустимых функций F для каждой такой функции
F (А) имеет смысл.) Оказывается, что теория не потеряет
общности, если от спектрального множества дополнительно потребовать,
чтобы оно было замкнутым и даже компактным. Обычно так
и делают. Однако если потребовать, чтобы неравенство между
нормами выполнялось только для полиномов, то получится
существенно другое определение. С помощью довольно тонких
соображений из теории функций комплексного переменного (см. Лебов
[1]) можно показать, что для достаточно простых множеств эти
определения совпадают. (В данном случае множество считается
достаточно простым, если оно компактно, а дополнение к нему
связно.) Имея в виду последнее замечание, теорему фон Неймана—
Гайнца часто формулируют так: замкнутый единичный круг
является спектральным множеством для любого сжатия.
181. Продолжения положительно определенных
последовательностей. В теореме об унитарном степенном продолжении
(задача 178) говорится, что некоторые последовательности операторов
можно получить ограничением последовательности степеней одного
унитарного оператора. Более точно, если А — сжатие в
пространстве Н, Ап = Лппри п >¦ 0 иА„ = (А*)п при п <Г 0, то
существует такой унитарный оператор U в пространстве,
содержащем Н, что ограничения степеней Un на Н совпадают с Ап,
п = О, ±1, + 2. .... Какие еще последовательности {Ап}
можно получить таким образом? Существует ли удобная внутренняя
характеризация таких последовательностей? На эти вопросы
легче всего ответить в терминах положительно определенных
последовательностей операторов. Можно показать, что
последовательность степеней унитарного оператора положительно
определена в некотором естественном смысле, ограничения положительно
определенной последовательности сами образуют положительно
определенную последовательность и при подходящей
нормировке последовательности для существования унитарного
продолжения необходимо и достаточно чтобы последовательность
была положительно определена.

128 Задачи
Перейдем теперь к подробным объяснениям и определениям.
Последовательность операторов {Ап: п = О, +1, ±2, . . .}
называется положительно определенной, если
для каждой конечной ненулевой последовательности векторов
{/„}. Стандартные рассуждения, использующие переход к
полярной билинейной форме, показывают, что положительно
определенные последовательности эрмитово симметричны, т. е. Ап = А_п
для всех п.
Если Ап = Un, где U — унитарный оператор, то
так что
т. е. последовательность степеней унитарного оператора
положительно определена.
Предположим теперь, что U — унитарный оператор в
пространстве К, Н — подпространство в К, а Р — оператор
проектирования из К в Н. Если Anf = PUnf для всех / из Н (т. е. Ап—
ограничение оператора U'1 на подпространство Н), a {fn} —
конечная ненулевая последовательность векторов из Н, то
Отсюда видно, что последовательность {Ап} тоже положительно
определена. Кроме того, она нормирована в том смысле, что
Ао = 1 (поскольку U0 = 1).
В предыдущих абзацах мы ввели понятие положительно
определенной последовательности операторов и показали, что это
свойство необходимо для существования унитарного продолжения.
(Говоря об унитарном продолжении последовательности
операторов, мы, как и раньше, имеем в виду, что каждый член
последовательности является ограничением соответствующей степени
фиксированного унитарного оператора.) Главная задача — доказать
достаточность этого условия (см. Секефальви-Надь [2]).
Задача 181. Если {Ап} — положительно определенная
последовательность операторов в гильбертовом пространстве Нм4о= 1,
то существует такой унитарный оператор U в гильбертовом
пространстве, содержащем Н, что ограничение оператора Un на
подпространство Н совпадает с Ап.
Эта теорема нетривиальна, даже если гильбертово
пространство Н одномерно. Тогда она означает, что если {сх„} — положи-

Гл. 18. Унитарные продолжения 129
тельно определенная последовательность комплексных чисел
и а0 = 1, то существуют гильбертово пространство К, единичный
вектор / в нем и унитарный оператор U в пространстве К такие,
что ап = (Unf, /) при всех целых п. Если оператор U представлен
как умножение, индуцированное функцией <р в некотором
пространстве L2 (и), то это утверждение означает, что ап= \ Ф™ | / \2о1ц.
С помощью обычной замены переменных его можно
переформулировать так: существует нормированная мера v, заданная на борелев-
ских множествах единичной окружности, для которой ап =
= I Xndv (Я) при всех п. В таком виде это утверждение иногда
называют теоремой Герглотца; она имеет широкие обобщения на
другие группы, отличные от группы целых чисел. Таким образом,
теорему Герглотца можно вывести из теории продолжений и
спектральной теории, хотя это и не самый экономный способ ее
получения. Во всяком случае полезно знать еще об одной связи между
теорией гильбертовых пространств и классическим анализом.

ГЛАВА 19. КОММУТАТОРЫ ОПЕРАТОРОВ
182. Коммутаторы. Знаменитый принцип неопределенности
Гейзенберга математически состоит в том, что некоторая пара
- линейных преобразований Р и Q при соответствующей нормировке
удовлетворяет уравнению PQ — QP = 1. Довольно легко
привести конкретные примеры таких пар. Рассмотрим пространство
L2 (—оо, оо), а в качестве Р и Q соответственно
дифференцирование и умножение на независимую переменную (так что (Pf) {х) =
= /' (х) и (Qf) (х) = xf (x)). Эти линейные преобразования неогра-
ничены, их области определения далеко не исчерпывают всего
пространства, да и во многих других отношениях они ведут себя
плохо. Можно ли этого избежать?
Чтобы поставить этот вопрос точно, введем новое понятие,
назвав коммутатором оператор вида PQ — QP, где Р и Q —
операторы в гильбертовом пространстве. Это слово часто встречается
в литературе и в более широком смысле (например, коммутатор
для операторов в банаховых пространствах), но в большинстве
случаев оно согласуется с предыдущим определением. Оно
предназначено главным образом для того, чтобы исключить
неограниченный случай. Теперь можно сформулировать поставленный
вопрос: «Является ли единичный оператор коммутатором?»
Оказывается, нет.
Задача 182. Единственным скалярным коммутатором
является 0.
Конечномерный случай легко рассмотреть, поскольку там
всегда имеет смысл понятие следа. След оператора — линейная
функция, ж след произведения двух операторов не зависит от
порядка сомножителей. Поэтому след коммутатора равен нулю,
а единственный скалярный оператор со следом 0 — нулевой
оператор. Так устанавливается невозможность представить
скалярный оператор в виде коммутатора. Известно, однако, больше:
квадратная матрица конечного порядка, будет коммутатором
в том и только том случае, если ее след равен 0 (Шода [1], Альберт
и Макенхоупт [1]).
В общем (не только конечномерном) случае известны два
замечательных доказательства, совершенно непохожие друг на друга.
Они были получены Уинтнером [2] и Виландтом [1]. Оба они
применимы без всяких изменений к произвольным комплексным

Гл. 19. Коммутаторы операторов 131
нормированным алгебрам с единицей. Нормированная алгебра —
это нормированное линейное пространство, являющееся в то же
время и алгеброй, причем
\\fg\KWf\\-\\g\\
для всех fug. Единицей нормированной алгебры называется такой
элемент е, что ef = fe — / для всех /. Обычно требуют, кроме того,
чтобы || е || = 1. Можно воспользоваться алгебраическим
характером доказательств Уинтнера и Виландта с тем, чтобы получить
дополнительную информацию о коммутаторах, как мы это и делаем
ниже.
Тождественный оператор представляет собой проектор; это
единственный проектор с нулевым дефектом. (Напомним, что
дефектом оператора называют размерность его ядра.) Что можно
сказать о проекторах с дефектом 1 (в бесконечномерных
гильбертовых пространствах); могут ли они быть коммутаторами?
Интуиция подсказывает отрицательный ответ, и на этот раз она
оказывается права (Халмош [9]). Рассмотрим нормированную алгебру
всех операторов и в ней идеал вполне непрерывных операторов.
Факторалгебра тоже нормирована. Единица этой алгебры
(согласно Уинтнеру и Виландту) не может быть коммутатором.
Возвращаясь назад к операторам, получим, что тождественный оператор
не представим в виде суммы вполне непрерывного оператора
и коммутатора. Поскольку проектор с дефектом 1 представляет
собой весьма частный случай такой суммы, нужный результат
получен. Сформулируем его в виде отдельного утверждения.
Следствие. Сумма вполне непрерывного и ненулевого скалярного
операторов не может быть коммутатором.
Это следствие дает достаточные условия того, что оператор
не является коммутатором. Самое удивительное, что в сепарабель-
ном пространстве оно оказывается необходимым (Браун и Пирси
[1]). Другими словами, в сепарабельном гильбертовом
пространстве каждый оператор, не представимый в виде суммы скалярного
и вполне непрерывного операторов, есть коммутатор.
Доказательство довольно длинно.
183. Предел коммутаторов. Итак, тождественный оператор —
не коммутатор. Представим ли он по крайней мере в виде предела
коммутаторов? Существуют ли, другими словами, такие
последовательности операторов {Рп} и {Qn}, что Ц 1 — {PnQn — QnPn) W-+-
->- 0 при п -> оо?
Критерий Брауна — Пирси (см. задачу 182) показывает, что
такие последовательности существуют (см. также задачу 187).
Легче получить более скромный результат.

132 Задачи
Задача 183. Если последовательности операторов {Рп} и {Qn}
ограничены (т. е. существует такое положительное число а, что
II Рп || <С а и || Qn || <^ а при всех п) и последовательность
{PnQn — QnPn), сходится по норме к оператору С, то С Ф 1.
Иными словами, тождественный оператор не может быть
пределом коммутаторов, образованных ограниченными
последовательностями (см. Браун, Халмош, Пирси [1]).
184. Теорема Клейнеке — Широкова. Согласно задаче 182,
если С = PQ — QP, где С — скалярный оператор, то С — 0.
Как же используется в доказательстве условие, что С —
скалярный оператор? Анализ доказательства Виландта подсказывает
по крайней мере часть ответа: существенно, что операторы Р и С
коммутируют. Коммутаторы с этим дополнительным свойством
всегда привлекали внимание. Естественно изучать исходный
вопрос (PQ — QP = 1?) в связи с теорией таких коммутаторов.
Коммутатор PQ — QP перестановочен с оператором Р, например,
в том простом случае, когда он равен Р. Пример:
'0
По индукции легко показать, что тогда PnQ — QPn = nPn7 откуда
при всех натуральных значениях п. Но так как неравенство
п ^ 2 || Q I! не может выполняться при всех п, то найдется такое п,
что Рп = 0, т. е. оператор Р ( = PQ — QP) нильпотентен.
Первая общая теорема такого рода принадлежит Джекобсону
[1], который доказал, что при подходящих условиях конечности
всякий оператор С = PQ — QP, коммутирующий с Р, обязательно
нильпотентен. Это утверждение можно считать обобщением
теоремы о скалярных коммутаторах, поскольку единственный
скалярный нильпотентный оператор — нулевой.
В бесконечномерных гильбертовых пространствах условия
конечности не выполняются. Капланский предположил, что если
заменить нильпотентность соответствующим ее обобщением
(а именно квазинильпотентностью), то теорему Джекобсона можно
будет распространить на операторы в гильбертовых
пространствах, и оказалось, что он был прав. Доказательство независимо
друг от друга получили Клейнеке [1] и Широков [1].
Задача 184. Если Р и Q — операторы, а С = PQ — QP
коммутирует с Р, то оператор С квазинилъпотентен.
185. Расстояние между коммутатором и тождественным
оператором. Согласно Уинтнеру и Виландту, коммутатор не может

Гл. 19. Коммутаторы операторов
133
равняться 1; согласно Брауну и Пирси, коммутаторы могут
неограниченно приближаться к 1. Однако обычно коммутаторы стараются
располагаться подальше от 1.
Задача 185. (а) Если С = PQ — QP и Р — гипонормалъный
оператор (в частности, если Р — изометрический или
нормальный оператор), то || 1 — С \\ ~^> 1. (б) Если операторы Р и С
коммутируют, то || 1 — С || > 1.
Если изучаемое гильбертово пространство конечномерно, то
|| 1 — С || ^> 1 для всех коммутаторов С. Доказательство
представляет собой простое упражнение из линейной алгебры
186. Операторы с обширными ядрами. Результаты всех
предыдущих задач были негативными в том, что касалось конструкции
коммутаторов: все они утверждали, что нечто — не коммутатор.
Чтобы получить положительный результат, предположим, что
Н — бесконечномерное гильбертово пространство, и рассмотрим
бесконечную прямую сумму Н © Н© Н © . . . . Операторы в этом
большом пространстве можно представить в виде бесконечных
матриц, элементами которых служат операторы, действующие
в Н. Если, например, А — произвольный оператор в пространстве
Н (он может быть даже тождественным), то матрица
'О А О О
О О А О
'=| О О О А
0 0 0 0
определяет оператор в большом пространстве. Легко проверить,
что если обозначить через Q оператор в Н 0 Н © Н ф . . .,
определенный матрицей
/0000
10 0 0
0 10 0
0 0 10
то
/А 0 0 0
0 0 0 0
0 0 0 0
0 0 0 0

134 Задачи
Так как бесконечная прямая сумма счетного числа экземпляров
пространства Н равна прямой сумме первого экземпляра и всех
остальных, а прямая сумма всех остальных изоморфна (унитарно
эквивалентна) исходному пространству Н, то каждая операторная
матрица второго порядка, имеющая вид
о о
будет коммутатором (Халмош [5; 6]).
Заслуживает внимания формулировка этого результата, не
использующая операторных матриц. Назовем подпространство М
гильбертова пространства Н обширным, если dim М = dim H.
(Эту идею мы уже использовали, хотя и без соответствующего
термина, ср. с задачей 111.) Если пространство Н бесконечномерно,
то (рассматриваемое как одно из слагаемых прямой суммы Н 0 Н)
оно обширно в Н@Н. Если матрица оператора В в пространстве
Н ® Н имеет вид
О О
то у этого оператора обширное ядро и оно приводит оператор В.
И обратно, если у оператора в бесконечномерном гильбертовом
пространстве обширное приводящее ядро, то его можно
представить матрицей вида
О 0}'
(Представьте пространство в виде прямой суммы ядра и
ортогонального дополнения к ядру. Если размерность ортогонального
дополнения слишком мала, расширьте его, присоединив
«половину» ядра.) Учитывая эти замечания, результат, полученный
ранее на языке матриц, можно переформулировать следующим
образом: каждый оператор с обширным приводящим ядром —
коммутатор. Этот результат можно еще улучшить (Пирсп [1]).
Задача 186. Каждый оператор с обширным ядром —
коммутатор.
Следствие 1. Коммутаторы образуют сильно плотное
подмножество в множестве всех операторов, действующих в
бесконечномерном гильбертовом пространстве.
Следствие 2. Каждый оператор в бесконечномерном
гильбертовом пространстве представим в виде суммы двух коммутаторов.

Гл. 19. Коммутаторы операторов 135
Следствие 2 показывает, что в алгебре всех операторов,
действующих в бесконечномерном гильбертовом пространстве, нельзя
определить никакого аналога понятия следа. Дело в том, что
линейный функционал, заслуживающий названия «след», должен
был бы обращаться в нуль на всех коммутаторах и поэтому в силу
следствия 2 быть тождественным нулем.
187. Прямые суммы как коммутаторы.
Задача 187. Если оператор А в сепарабелъном гильбертовом
пространстве отличен от скалярного, то бесконечная прямая
сумма А @ А © ... — коммутатор.
Хотя этот результат дает далеко не полную характеристику
коммутаторов, но с его помощью можно ответить на многие
естественные вопросы. Так, например, из него немедленно следует, что
спектр коммутатора может быть каким угодно; более точно,
каждое непустое компактное подмножество комплексной
плоскости (т. е. любое множество, которое вообще может служить
спектром) служит спектром некоторого коммутатора. Другое
очевидное следствие состоит в том, что тождественный оператор
можно представить в виде предела (равномерного) коммутаторов;
ср. с задачами 183 и 185.
Техника, необходимая для решения задачи 187, содержит
зачаток (конечно, очень рудиментарный) тех средств, которые нужны
для получения общей характеристики коммутаторов (Браун
и Пирси [1]).
188. Положительные самокоммутаторы. Самокоммутатором
оператора А называется оператор А*А — АА*. Теория
самокоммутаторов представляет определенный интерес. Известно, что
квадратная матрица конечного порядка будет самокоммутатором
в том и только том случае, если она эрмитова и ее след равен нулю
(Томпсон [1]). Ясно также, в каком месте самокоммутаторы
возникают в теории гипонормальных операторов: для гипонормальности
оператора необходимо и достаточно, чтобы его самокоммутатор
был положительным. Возможность самокоммутатора быть
нетривиально положительным представляет собой довольно редкий
феномен (между прочим, существенно бесконечномерный).
Естественно спросить, насколько самокоммутатор может быть
положительным. Оказывается, не очень.
Задача 188. Положительный самокоммутатор необратим.
См. Путнам [1].
189. Проекторы как самокоммутаторы. Если самокоммутатор
С = А* А — А А* положителен, то, согласно задаче 188, он не

136 Задачи
может быть обратимым. Простейшей причиной необратимости
оператора С может служить наличие у него нетривиального ядра.
Среди всех положительных операторов с нетривиальными ядрами
самые простые — проекторы. Может ли оператор С быть
проектором, и если да, то при каких условиях?
Очевидно, что самокоммутатор С будет проектором, когда
А — нормальный оператор; в этом случае С = 0. Любой другой
оператор, самокоммутатор которого — проектор, можно
скомбинировать с нормальным (образовав прямую сумму) и получить
еще один оператор с тем же свойством. Однако различие между
этими случаями естественно считать тривиальным. Аналогичный
вопрос интересно поставить для так называемых абнормальных
операторов, т. е. таких, у которых нельзя выделить прямого
слагаемого, являющегося нормальным оператором. Другими
словами, оператор А абнормален, если ни одно ненулевое
подпространство ядра оператора А* А — А А* не приводит А.
Нетрудно привести пример абнормального оператора,
самокоммутатор которого — проектор: им может служить любая
не нормальная изометрия. Если А — не нормальная изометрия
(т. е. прямая сумма одностороннего сдвига ненулевой
кратности и унитарного оператора, см. задачу 118), то || А || = 1
и С = А* А — А А* = 1 — А А* — оператор проектирования на
ядро оператора А*. Интересно, что при условии \\ А ]| = 1 ничего
другого по существу быть не может.
Задача 189. (а) Если А — абнормалъный оператор с нормой 1,
а самокоммутатор А* А —А А* —проектор, то оператор А
изометрический, (б) Верно ли это утверждение без условий на
норму оператора А?
190. Мультипликативные коммутаторы. Словом «коммутатор»
в математике обозначаются два различных понятия: PQ — QP
(аддитивные коммутаторы) — в теории колец и PQP^Q'1
(мультипликативные коммутаторы) — в теории групп. Несколько
простых догадок, вытекающих из сопоставления следа и детерминанта,
или, более общо, логарифма и экспоненты, могут, вероятно,
подсказать формулировку мультипликативных аналогов теорем,
полученных для аддитивных коммутаторов. Некоторые из этих
теорем действительно оказываются верными. Что можно сказать
об аналоге аддитивной теоремы, согласно которой единственный
скалярный (аддитивный) коммутатор — 0?
Задача 190. Для того чтобы скалярный оператор а был
мультипликативным коммутатором в бесконечномерном гильбертовом
пространстве, необходимо и достаточно, чтобы \ а | = 1.

Гл 19. Коммутаторы операторов 137
В конечномерном случае можно воспользоваться
детерминантом. Детерминант всякого мультипликативного коммутатора
равен 1. Единственные скалярные операторы в и-мерном
пространстве, определитель которых равен 1,— корни п-й степени
из 1. Таким образом, в п-мерном пространстве для того, чтобы
скаляр а был мультипликативным коммутатором, необходимо,
чтобы а" = 1. То, что это условие и достаточно, можно получить
с помощью модификации рассуждений, применяемых в
аналогичных случаях для бесконечномерного пространства.
Оказывается, что доказательство необходимости условия
| а | = 1 алгебраично, как и в аддитивной теории, в том смысле,
что оно устанавливает это же необходимое условие для
произвольной комплексной нормированной алгебры с единицей. Отсюда,
как и в аддитивной теории, получается, что если
мультипликативный коммутатор эквивалентен скаляру по модулю идеала всех
вполне непрерывных операторов, то абсолютная величина этого
скаляра обязательно равна 1.
191. Унитарные мультипликативные коммутаторы.
Утверждение задачи 190 о том, что всякий скаляр, равный по модулю
единице, является мультипликативным коммутатором, можно
значительно усилить. Один из крупнейших шагов к более сильной
теории состоит в следующем.
Задача 191. В бесконечномерном гильбертовом пространстве
каждый унитарный оператор представляет собой
мультипликативный коммутатор.
192. Подгруппа коммутаторов. Подгруппой коммутаторов
данной группы (или просто коммутантом группы) называется
наименьшая подгруппа, содержащая все элементы вида PQP~lQ~x.
Другими словами, это подгруппа, порожденная всеми
коммутаторами (разумеется, мультипликативными). Обратимые
операторы в гильбертовом пространстве образуют группу относительно
умножения. По аналогии с конечномерным случаем ее естественно
назвать полной линейной группой пространства Н.
Задача 192. Определите подгруппу коммутаторов полной
линейной группы бесконечномерного гильбертова пространства.

ГЛАВА 20. ТЕПЛИЦЕВЫ ОПЕРАТОРЫ
193. Операторы и матрицы Лорана. Прототипом нормальных
операторов служат операторы умножения. Большинство
естественных вопросов об этих операторах (т. е. вопросы об их
числовом образе, норме и спектре) допускают естественные ответы. (Это
но значит, что на каждый такой вопрос уже получен ответ.) Кроме
того, операторы умножения не слишком чувствительны к
изменениям пространства. За исключением неприятной возни с атомами *)
и патологиями, связанными с несчетностью, все, что происходит
на единичном интервале или единичном круге, типично дтя
общей ситуации.
Если ф — ограниченная измеримая функция на единичном
круге, то умножение, индуцированное ею в L2 (по отношению
к нормированной мере Лебега \х), иногда называют оператором
Лорана, индуцированным функцией ф, и обозначают его через Ьч.
Матрица оператора L^ в стандартном ортонормированном базисе
в L2 (en (z) = zn; n = 0, +1, ±2, . . .) имеет простую форму,
красиво связанную с самой функцией ф. Чтобы описать эту связь,
введем понятие матрицы Лорана — бесконечной (во все
стороны) матрицы (Xij), у которой
для всех i, ] (=0, ±1, ±2, . . .). Другими словами, матрицей
Лорана называется матрица, у которой все диагонали,
параллельные главной, постоянны.
Задача 193. Для того чтобы оператор в пространстве L2 был
оператором Лорана Ьф, необходимо и достаточно, чтобы его
матрица (Хц) в базисе {еп; п = 0, ±1, ±2, . . .} была матрицей
Лорана. Если это условие выполнено, то Хц = аг-_;-, где ф =
— 2 апеп — разложение Фурье функции ф.
п
194. Теплицевы операторы и матрицы. Операторы Лорана
(умножения) выделены в пространстве L2 (на единичном круге),
а Н2 — выделенное подпространство в IA Интересно посмотреть,
что происходит, если ограничить операторы Лорана на Н2. Описа-
1) То есть с точками положительной меры,— Прим, перев.

Гл. 20. Теплицевы операторы. 139
ние этой ситуации называется теорией теплицевых операторов.
Точное определение: пусть Р — оператор проектирования из L2
на Н2, а ф — ограниченная измеримая функция. Тогда теплице-
вым оператором Ту, индуцированным функцией ср, называется
оператор, определенный равенством
для всех функций / из Н2. Простейший нетривиальный пример
оператора Лорана — двусторонний сдвиг W (= Lei);
соответственно простейший нетривиальный пример теплицева оператора—
односторонний сдвиг U (= Tei).
В L2 существует естественный базис; в нем матрица оператора
Лорана выглядит особенно просто. Соответствующее утверждение
верно н для пространства Н2 и теплицевых операторов. Чтобы
показать это, определим теплицеву матрицу как такую бесконечную
(вправо и вниз) матрицу (%ij), что
при всех i и i (= 0, 1, 2, . . .). Другими словами, матрица
называется теплпцевой, если все ее диагонали (параллельные главной)
постоянны. Различия между теориями Лорана и Теплица
глубоки, а между соответствующими матрицами поверхностны и их
легко описать: в матрице Лорана оба индекса изменяются в обе
стороны от нуля, а в теплицевых матрицах — только вправо.
Задача 194. Для того чтобы оператор в пространстве Н2 был
теплицевым оператором Ту, необходимо и достаточно, чтобы его
матрица (Kij) в базисе {еп; п = 0, 1, 2, . . .} была теплицевой.
Если это условие выполнено, то h^ = a-i-j, где ср = 2 апеп — ро-з-
п
ложение Фуръе функции ср.
Необходимость этого условия не удивительна. В несколько
неопределенных, но само собой понятных терминах, это означает,
что матрицей ограничения оператора служит ограничение матрицы.
Односторонний сдвиг U для теплицевых операторов играет
ту же роль, что двусторонний сдвиг W для операторов Лорана.
Следствие 1. Для того чтобы оператор А в пространстве Н2
был теплицевым, необходимо и достаточно, чтобы U*AU = А.
Поскольку оператор W унитарный, соотношения W*AW = A
и AW = WA эквивалентны. Для оператора U соответствующие
равенства означают совершенно различные условия. Первое,
U*AU = А, характеризует теплицевы операторы. Второе,
AU = UA, характеризует аналитические теплицевы операторы

140 Задачи
(см. задачу 116). Теплицев оператор Tv, индуцированный
функцией ср, называется аналитическим, если ф — аналитическая
функция (см. задачу 26), т. е. принадлежит не только L°°, но и Н°°.
(Чтобы оправдать это определение, заметим, что из утверждения
задачи 194 следует, что соответствие ср —>- Гф взаимно
однозначно.) Заметим еще, что аналитические теплицевы операторы
субнормальны; они не только ограничения, но и сужения
соответствующих операторов Лорана.
Следствие 2. Единственным вполне непрерывным теплицевым
оператором является 0.
195. Теплицевы произведения. Алгебраическая структура
множества всех операторов Лорана не таит в себе никаких
сюрпризов: все естественные утверждения верны и их легко
доказать. Отображение ср ->¦ L,f множества всех ограниченных
измеримых функций в множество операторов представляет собой
алгебраический гомоморфизм (оно сохраняет единицу, линейные
операции, умножение и сопряжение) и одновременно изометрию,
(если норма функции вводится как точная верхняя грань модуля,
а норма оператора обычная). Спектр оператора Lp совпадает
с существенной областью значений функции ср. Поскольку
коммутантом сдвига W служит множество всех операторов Лорана
(задача 115) и поскольку произведение W'^AW слабо непрерывно
относительно А, множество всех операторов Лорана слабо (а
значит, и сильно) замкнуто.
Некоторые подобные утверждения о теплицевых операторах
частью верны и их легко доказать, частью трудны, или неверны,
или о них вообще ничего не известно. Самые легкие из них
касаются единицы, линейных операций и сопряжения: поскольку
оба отображения ср ->¦ ?ф и Lv ->- (PL^) |нг (где {PL,e)\H2 —
сужение оператора PL,f на Н2, т. е. Гф) сохраняют названные
алгебраические структуры, это же верно и для их композиции, т. е. для
отображения ф •—*- Уф (сохранение сопряженного оператора верно
для сужений вообще; см. задачу 178). Доводы, показывающие,
что множество операторов Лорана слабо замкнуто, остаются
в силе и для теплицевых операторов; нужно только заменить
W~XAWя& U*AU (ср. со следствием 1 из задачи 194).
Из предыдущих рассмотрений тривиально следует, что
теплицев оператор Гф эрмитов тогда и только тогда, когда функция ср
вещественна. В самом деле, Гф = Т%, тогда и только тогда, когда
ср* = ср. Верно также, что оператор Гф положителен тогда и только
тогда, когда положительна функция ср. Действительно, так как
(Гф/, /) = (Lyf, /) для всех / ? Н2, то оператор Тф положителен
тогда и только тогда, когда (?Ф/. /) ^ 0 для всех / ? Н2. Последнее
эквивалентно условию (WnL^i, W"f)^-0, если только / ? Н2

Гл. 20. Теплицепы операторы 141
(an. — произвольное целое число). А так как оператор Lv
коммутирует со сдвигом W, то это условие можно записать в виде
(L(fWnf, Wnf) ;> 0, где / ? Н2. Но множество всех векторов вида
Wnf, где / ? Н2, плотно в пространстве L2, поэтолгу последнее
условие эквивалентно требованию L^ ^ 0. Отсюда ср ^ 0.
Простейшие утверждения о мультипликативных свойствах
теплицевых операторов имеют негативный характер: множество
всех теплицевых операторов не замкнуто относительно
умножения, а умножение в нем некоммутативно. В качестве примера,
подтверждающего оба утверждения, достаточно взять оператор
одностороннего сдвига и сопряженный к нему. U и U* — тепли-
цевы операторы, но произведение U*U (равное теплицеву
оператору 1) не совпадает с произведением UU* (это вообще не теплицев
оператор). Проще всего доказать, чго UU* — не теплицев
оператор, с помощью следствия 1 из задачи 194: достаточно заметить, что
U* (UU*) U = (VU) (U*U) = 1(ФUU*).
Другим способом этот отрицательный результат можно вывести
из задачи 194, непосредственно рассмотрев матрицу оператора
UU*.
Когда произведение двух теплицевых операторов снова
теплицев оператор? Оказывается, это случается редко. (См. Браун и Хал-
мош [1].)
Задача 195. Для того чтобы произведение Т^Т^ теплицевых
операторов само было теплицевым оператором, необходимо и
достаточно, чтобы хотя бы одна из функций ср* или г|) была
аналитической. Если это условие выполнено, то Т^Т^ = Т^.
Теплицев оператор Гф, индуцированный функцией ср,
называется ко аналитическим, если коаналитична функция ср (см.
задачу 26). В этих терминах задача 195 означает, что произведение
двух теплицевых операторов теплицево тогда и только тогда,
когда либо первый сомножитель коаналптичен, либо второй
аналнтичен.
Следствие. Для того чтобы произведение двух теплицевых
операторов было нулевым, необходимо и достаточно, чтобы хотя бы
один из сомножителей был нулевым.
Короче, среди теплицевых операторов нет делителей нуля.
196. Теорема о включении спектра для теплицевых операторов.
Вопросы о нормах и спектрах для теплицевых операторов
значительно труднее, чем для операторов Лорана. Что касается нормы
оператора Гф, то с первого взгляда очевидно лишь неравенство
|| Уф || <J || 1/ф || (= || ф ||со), поскольку Гф—ограничение операто-

142 Задачи
pa L,,. 0 спектре оператора Т сразу ничего сказать нельзя. Однако
существует сравнительно простое неравенство (принадлежащее
Хартману и Уинтнеру И У), которое дает ответ на многие
естественные вопросы.
Задача 196. Если L и Т — операторы Лорана и Теплица
соответственно, порожденные одной и той же ограниченной измеримой
функцией, то П (L) cz П (Г).
Эта теорема о включении спектра формально аналогична
утверждению задачи 157. Здесь тоже «больший» оператор имеет
меньший спектр. Этот результат рождает надежды, которые следует
сразу пресечь. Если Гф ограничен снизу, так что О (J II (Т^), то,
согласно задаче 196, О (J П (Ьф). Это эквивалентно тому, что
оператор L(f ограничен снизу, и потому функция ср отделена от нуля
(т. е. | ср (х) |> s для некоторого е > 0 и почти всех х). Если бы
было верно обратное, то спектральная структура оператора Tv
значительно бы легче предсказывалась по функции ср, чем это
происходит на самом деле; к сожалению, обратное неверно.
В самом деле, если ср = e-i, то функция ср отделена от нуля,
но Т<рв0 = Pe-i = 0, так что у оператора Гф нетривиальное ядро.
Хотя спектры теплицевых операторов устроены сравнительно
плохо, из результата задачи 196 можно вывести, что в некоторых
отношениях теплицевы операторы ведут себя как нормальные
операторы. Вот несколько примеров таких свойств.
Следствие 1. Если ср — ограниченная измеримая функция, то
г(Гф) = || Гф || = ||<р И».
Следствие 1 утверждает, кроме всего прочего, что соответствие
ср —*- Ту сохраняет норму. Отсюда снова вытекает (см. задачу 194),
что это соответствие взаимно однозначно.
Следствие 2. Не существует квазинилъпотентных теплицевых
операторов, отличных от нулевого.
Следствие 3. Каждый теплицев оператор с вещественным
спектром эрмитов.
Следствие 4. Замыкание числового образа теплицева оператора
совпадает с выпуклой оболочкой его спектра.
197. Аналитические теплицевы операторы. Простейшие
теплицевы операторы — аналитические, но даже с ними нужно
обращаться значительно осторожнее, чем с|'операторами
умножения. Слово «аналитический» оказывается очень действенным.
Напомним, что с каждой функцией ср из пространства Н°° связана
функция ср, аналитическая в открытом круге D (см. задачу 28).

Гл. 20. Теплицевы операторы 1ЛЗ
Устройство спектра оператора Т ф определяется комплексно-
аналитическим поведением функции ср в значительно большей
степени, чем чисто теоретико-множественным поведением функции ср
(см. Уинтнер [1]).
Задача 197. Если ср ? Н°°, то спектр оператора Гф совпадает
с замыканием образа открытого единичного круга D при
соответствующем отображении ср ? Й°°. Другими словами, Л (Гф) = cp(Z)).
Существует и другой способ сформулировать этот результат.
Если ф ? Ьте, то спектр оператора ?ф совпадает с существенной
областью значений функции ср; если ср ? Н°°, то спектр
оператора Гф совпадает с тем, что естественно назвать существенной
областью значений функции ф.
198. Собственные значения эрмитовых теплицевых операторов.
Может ли аналитический теплицев оператор иметь собственные
значения? Если исключить тривиальный случай скалярных
операторов, то ответ отрицателен. Дело в том, что если функция ср
•шалптична и ср/ = Xf для некоторой функции / из Н2, то по теореме
Ф. и М. Риссов (задача 127) либо ц> = X, либо / = 0. Грубо говоря,
дело в том. что аналитическая функция, отличная от константы,
не может быть константой на множестве положительной меры. Для
эрмитовых теплицевых операторов эти соображения неприменимы:
вещественной функции, отличной от константы, ничто не мешает
быть постоянной на множестве положительной меры.
Задача 198. Определить точечный спектр эрмитова теплицева
оператора Тф no заданной вещественнозначной функции ф из L°°.
199. Спектр эрмитова теплицева оператора.
Задача 199. По заданной вещественнозначной функции ф из L00
определить спектр эрмитова теплицева оператора Т^.
Более полное и общее исследование спектров теплицевых
операторов можно найти у Уидома [1; 2].

УКАЗАНИЯ
ГЛАВА 1. ВЕКТОРЫ II ПРОСТРАНСТВА
Задача 1. Рассмотрите соответствующие полуторалинейные
формы.
Задача 2. Воспользуйтесь единственностью: если / = ~У_ сс;-е7.
Т
? (/) = S а,-? (е,).
Т
Задача 3. Используя скалярное произведение, сведите задачу
к строгой выпуклости единичного круга.
Задача 4. Рассмотрите в L2 @,1) множество характеристических
функций. Те, кто знаком со спектральными мерами, могут
рассмотреть спектральные меры.
Задача 5. В счетном множестве существует несчетное семейство
таких бесконечных подмножеств, что пересечение любых двух
из них конечно.
Задача 6. Рассмотрите ортогональное дополнение к замкнутой
линейной оболочке этих векторов.
Задача 7. Если /0 _[_ /; при всех i и 2 II ei —ft I!2 < 1, то век-
торы /о, /i, ...,/„ линейно зависимы.
Задача 8. Докажите, что пространство М -р N полно.
Не теряя общности, можно считать, что dim М = 1.
Задача 9. В бесконечномерном пространстве всегда существует
пара подпространств, векторная сумма которых не совпадает
с замыканием их линейной оболочки.
Задача 10. Сколько элементов базиса может содержать
открытый шар диаметра ]/^2?
Задача 11. Если счетность базиса известна, то воспользуйтесь
рациональными коэффициентами. Если известно, что существует
счетное всюду плотное множество, то приблизьтесь к каждому
элементу базиса настолько, чтобы оказаться достаточно далеко
от всех остальных элементов.

Гл. 2. Слабая топология 14Г>
Задача 12. Поместите бесконечно много одинаковых
непересекающихся шаров внутри заданного шара положительного
радиуса.
ГЛАВА 2. СЛАБАЯ ТОПОЛОГИЯ
Задача 13. Рассмотрите ортонормированные множества.
Внимание: всегда ли слабое замыкание совпадает с секвенциально
слабым замыканием?
Задача 14. Раскройте выражение для ||/„ —/||2.
Задача 15. Замкнутая линейная оболочка слабо всюду
плотного множества совпадает со всем пространством.
Задача 16. Предположите, что | (/„, g) | «< е для всех единичных
векторов g, и замените g на fnl\\ fn \\.
Задача 17. Рассмотрите множество всех таких комплексно-
значных функций | на Н, что I S (/) ! -^ || / II Для всех /. Задайте
в нем топологию (тихоновского) произведения и покажите, что
линейные функционалы, нормы которых не превосходят 1,
образуют замкнутое подмножество.
Задача 18. Пусть задано счетное всюду плотное множество.
Определим слабые базисные окрестности для каждого из его
элементов, используя всевозможные конечные подсистемы из этого
множества в качестве векторных параметров и обратные величины
всевозможных натуральных чисел в качестве числовых параметров.
Покажите, что этот набор окрестностей действительно служит
базой слабой топологии. Другой способ: используя
фиксированный ортонормированный базис {et, e2, . . .}, введите расстояние
по формуле
3=1
Задача 19. Если единичный шар слабо метризуем, то он слабо
сепарабелен.
Задача 20. Если утверждение неверно, то можно (по индукции)
построить такую ортонормированную последовательность, что
скалярное произведение каждого члена этой последовательности
с соответствующим элементом заданного слабо ограниченного
множества достаточно велико. Рассмотрите затем подходящую
(бесконечную) линейную комбинацию элементов построенной
последовательности.

Hfi Указания
Задача 21. Постройте последовательность, у которой есть
слабо предельная точка, но норма элементов которой стремится
к оо.
Задача 22. Рассмотрите частичные суммы и воспользуйтесь
принципом равномерной ограниченности.
Задача 23. (а) По заданному неограниченному функционалу ?
постройте слабо фундаментальную сеть {gj} так, чтобы (/, gj) ->
-v I (/) для каждого /.
(б) Если {gn} —слабо фундаментальная последовательность,
то § (/) = li111 (/> gn) определяет ограниченный линейный функ-
п
ционал.
ГЛАВА 3. АНАЛИТИЧЕСКИЕ ФУНКЦИИ
Задача 24. Значение аналитической функции в центре круга
равно ее среднему значению в этом круге. Поэтому значение в точке
круга D будет ограниченным линейным функционалом в A2 (D)
и каждая фундаментальная по норме последовательность будет
фундаментальной и в смысле равномерной сходимости на
компактных подмножествах.
Задача 25. Как связаны понятия сходимости степенного ряда
и ряда Фурье?
Задача 26. Непрерывно ли сопряжение?
Задача 27. Совпадает ли ряд Фурье про
формальным произведением рядов Фу
Задача 28. Для выполнения условия
Задача 27. Совпадает ли ряд Фурье произведения двух функций
с формальным произведением рядов Фурье сомножителей?
необходимо и достаточно, чтобы числа
ЕЫ ()
п=0
были ограничены в совокупности. Для доказательства
воспользуйтесь непрерывностью частичных сумм при г = 1.
Задача 29. Начните с «хорошего» функционального гильбертова
пространства и присоедините точку к его области определения.
Задача 30. Для вычисления ядер Бергмана и Сегё
воспользуйтесь общим выражением для разложения ядра в ряд.

Гл. 5. Ограниченность и обратимость 147
Задача 31. Используйте ядро пространства Н2.
Задача 32, Приблизьте функцию / по норме пространства
значениями / на расширяющихся концентрических окружностях.
Задача 33. Используйте принцип максимума модуля и теорему
Фейера о сходимостр: ио Чезаро рядов Фурье.
Задача 34. Предположите, что один множитель ограничен,
и воспользуйтесь задачей 27.
Задача 35. Сначала по заданному разложению Фурье функции
из Н2 найдите разложение Фурье ее вещественной части, а затем
попробуйте эту процедуру обратить.
ГЛАВА 4. БЕСКОНЕЧНЫЕ МАТРИЦЫ
Задача 36. Рассмотрите только случай размерности х0. При
построении нужного ортонормированного множества
воспользуйтесь индукцией; для того чтобы оно оказалось базисом, выбирайте
каждый следующий элемент так, чтобы линейная оболочка его
и ранее выбранных содержала очередной элемент некоторого заранее
фиксированного базиса.
Задача 37. Представьте 2 aa%i B виДе
i
а воспользуйтесь неравенством Шварца.
Задача 38. Примените результат задачи 37, положив
Pi = l/|/i + 1/2.
ГЛАВА 5. ОГРАНИЧЕННОСТЬ И ОБРАТИМОСТЬ
Задача 39. Для получения примеров неограниченных
операторов дополните ортонормированный базис до базиса Гамеля;
для получения ограниченных воспользуйтесь матрицей с
большой, но конечной первой строкой.
Задача 40. Дважды примените принцип равномерной
ограниченности для линейных функционалов.
Задача 41. Докажите, что оператор А* ограничен снизу,
показав, что прообраз единичной сферы пространства Н при
отображении А* ограничен.

148
Указания
Задача 42. Запишите данное линейное преобразование в
матричной форме (по отношению к ортонормированным базисам в
пространствах Н и К). Если n0 <^ dim К. < dim H, то обязательно
найдется строка, целиком состоящая из нулей.
Задача 43. Воспользуйтесь результатом задачи 42.
Задача 44. Примените утверждение задачи 41 к отображению,
проектирующему график на область определения.
Задача 45. Для построения противоречащего примера
рассмотрите диагональную матрицу, у которой диагональные
элементы в совокупности неограничены. Для доказательства
воспользуйтесь теоремой о замкнутом графике.
ГЛАВА 6. ОПЕРАТОРЫ УМНОЖЕНИЯ
Задача 46. [ос_,-| = |[Ле7-|[ и
2№|2<(sup|cc;|J-2l^-12
Задача 47. Если | ап
принадлежит I2.
3 1
п, то последовательность
Задача 48. Обратный оператор должен переводить еп в
еп.
Задача 49. Если 8>0 и / — характеристическая функция
множества положительной меры, на котором | ср (х) | > |[ ф Цех. — е,
то || Af || >(|1 Ф |U-e) ||/ ||.
Задача 50. Если || А \\ = 1, то || ф" •/||<||/|| для всех
натуральных п и любого элемента / из L2. Отсюда следует, что
| ф (х) 1-^1. если только / (х) =^= 0.
Задача 51. Воспроизведите рассуждения, использованные
в дискретном случае (решение 47). Другой способ: докажите, что
умножение всегда замкнуто, и воспользуйтесь теоремой о
замкнутом графике.
Задача 52. Обобщите «дискретные» рассуждения (решение 48).
Задача 53. Для доказательства ограниченности оператора
умножения воспользуйтесь теоремой о замкнутом графике. Для
доказательства ограниченности множителя предположите, что для
произвольной точки i(I в Н найдется такая функция f, что
/ (х) Ф 0. Затем повторите «прямое» доказательство из
решения 50.

Гл. 8. Свойства спектров 149
Задача 54. Рассмотрите множество всех абсолютно
непрерывных на отрезке [0, 1] функций, производные которых принадлежат
I? @, 1).
ГЛАВА 7. ОПЕРАТОРНЫЕ МАТРИЦЫ
Задача 55. Если оператор AD — ВС обратим, то можно
формально указать матрицу, обратную к
(А
по аналогии с тем, как это делается для числовой матрицы
второго порядка. Если матрица
обратима, то оператор AD — ВС ограничен снизу; для
доказательства рассуждайте так же, как при решении двух линейных
уравнений с двумя неизвестными.
Задача 56. Умножьте справа на матрицу
/1 04
\Т 1)'
где оператор Т выбран так, чтобы нижний левый элемент
произведения обращался в нуль. Для построения противоречащего
примера рассмотрите оператор, действующий в I2 по формуле
(to, lu H2, ...}-»<0, t0) li ...),
и сопряженный к нему.
Задача 57. Если конечномерное подпространство инвариантно
относительно оператора, то оно инвариантно и относительно
обратного к нему.
ГЛАВА 8. СВОЙСТВА СПЕКТРОВ
Задача 58. Ядро оператора совпадает с ортогональным
дополнением к области значений сопряженного оператора.
Задача 59. Для доказательства включения ll0 (p (A)) a
cz p (По (А)) возьмите а ? По (р (А)) и рассмотрите разложение
на множители многочлена р (Я) — а. Используйте те же
рассуждения для П, а для Г воспользуйтесь полученным
результатом, заменив А на А*.
Задача 60. Для П: если || /п || = 1, то нормы векторов
Р'1 fn ограничены снизу числом 1/|1 Р \\. Для Г: область значений

150 Указания
оператора Р'1АР содержится в образе (относительно Р 1) области
значений оператора А.
Задача 61. Предположите сначала, что разложение бинома
A — АВ)~1 в геометрическую прогрессию законно.
Задача 62. Докажите, что дополнение открыто.
Задача 63. Предположите, что %п (± Л (А), Я ? Л (А) и 7., -> Я.
Если / Ф 0 и / _L ran (A — Я,), то
ГЛАВА 9. ПРИМЕРЫ СПЕКТРОВ
Задача 64. Если А — нормальный оператор, то По (А) =
- (По (Л*))*.
Задача 65. Используйте результат задачи 64.
Задача 66. Если ф •/ = Я,/ почти всюду, то ф = Я, почти всюду,
где / ф 0.
Задача 67. Проверьте, что С/* (|0, Ei, . . .> = (?i, S2, • ¦ •>•
Покан<ите, что точечный спектр По (U) пуст, а По (U*) совпадает с
открытым единичным кругом. Если | Я, [ < 1, то оператор U — /.
ограничен снизу.
Задача 68. Представьте W как оператор умножения.
Задача 69. Рассмотрите минимальное порождающее множество
собственных векторов оператора А* как область определения
функционального гильбертова пространства и для каждого / из
этой области определите значение множителя как величину,
комплексно-сопряженную к соответствующему собственному значению
оператора А*.
Задача 70. Для операторов с тривиальным ядром относительная
обратимость совпадает с левой; левая же обратимость для любых
операторов совпадает с ограниченностью снизу.
Задача 71. Рассмотрите операторную матрицу
/1 04
U и)'
в которой U — оператор одностороннего сдвига.

Гл. 10. Спектральный радиус 1Г>1
ГЛАВА 10. СПЕКТРАЛЬНЫЙ РАДИУС
Задача 72. Если Яо не принадлежит спектру оператора А
и число | Я — Яо I достаточно мало, то
рл (/.) = (А - Яо)-1 2 ((А - Яо)-1 (Я - Яо))".
Задача 73. Примените к резольвенте теорему Лиувилля
об ограниченных аналитическиv функциях.
Задача 74. Положите
и используйте аналитичность резольвенты для доказательства
аналитичности функции т (Я) при Я < Иг (А), а затем примените
принцип равномерной ограниченности.
Задача 75. Найдите такой диагональный оператор D, что
AD =DB.
Задача 76. Если А = S~XBS, то матрица S должна быть
нижне-треугольноп; найдите матричные элементы sn ri п (п =
= 0, 1, 2, . . .).
Задача 77. О норме: так как S — изометрия, то |[ S || =
= || SP ||. О спектральном радиусе: воспользуйтесь задачей 74.
Задача 78. Примените координатную технику, использованную
для невзвешенного одностороннего сдвига.
Задача 79. Если / = (Но, %it с,2: • • •) € ^2 (р)> т0- положив
ilt- VP2.
2, ¦¦•)¦
докажите, что U — изометрия из Р (р) в I2 и она переводит сдвиги
в I2 (р) во взвешенные сдвиги в I2.
Задача 80. Рассмотрите односторонние взвешенные сдвиги
и воспользуйтесь результатом задачи 77.
Задача 81. Рассмотрите односторонние взвешенные сдвиги
с бесконечным количеством нулевых весов и примените результат
задачи 77.
Задача 82. Докажите по индукции неравенство

1.12 Указания
ГЛАВА 11. РАВНОМЕРНАЯ ТОПОЛОГИЯ
Задача 83. Подумайте о проекторах, действующих в L2 @, 1).
Задача 84. Если Ао — обратимый оператор, то 1 — АА~г =
= (Ао — A) Aq1; используйте прием с геометрической
прогрессией, чтобы доказать, что оператор А обратим, и получить оценку
для нормы || А*1 \\.
Задача 85. Найдите спектральные радиусы операторов Ah и Аи1.
Задача 86. Расстояние от А — Я до множества необратимых
операторов положительно на дополнении к спектру А (А). Другой
способ: норма резольвенты ограничена на дополнении к Ло;
обратная величина оценки нормы может быть выбрана в качестве е.
Задача 87. Приблизьте односторонний взвешенный сдвиг
с положительным спектральным радиусом взвешенными сдвигами
с таким количеством нулевых весов, чтобы они оказались ниль-
потентными.
ГЛАВА 12. СИЛЬНАЯ И СЛАБАЯ ТОПОЛОГИИ
Задача 88. Используйте результаты и методы задачи 16.
Задача 89. Для построения опровергающего примера для
сильной топологии рассмотрите операторы проектирования на
убывающую последовательность подпространств.
Задача 90. Для построения опровергающего примера для
сильной топологии рассмотрите степени оператора, сопряженного
к одностороннему сдвигу.
Задача 91. Множество всех нильпотентных операторов
индекса 2 всюду плотно в сильной топологии.
Задача 92. Используйте сети.
Задача 93. (а) Используйте принцип равномерной
ограниченности, (б) Рассмотрите степени одностороннего сдвига.
Задача 94. Если последовательность операторов {Ап}
возрастает и слабо сходится к А, то положительные квадратные корни
из операторов А — Ап сильно сходятся к 0. Для построения
опровергающего примера для равномерной топологии рассмотрите
последовательность проекторов.
Задача 95. Операторы Вп образуют ограниченную
возрастающую последовательность.
Задача 96. Рассмотрите последовательность степеней
оператора EFE.

Гл. 13. Частичные изометрии 153
ГЛАВА 13. ЧАСТИЧНЫЕ ИЗОМЕТРИИ
Задача 97. Если N — окрестность точки F (к), то F'1 (N) —
окрестность точки К. Если % (? F (Л (А)), то некоторая
окрестность точки Я не пересекается с F (Л (А)).
Задача 98. Пусть U — частичная изометрия с начальным
пространством М; вычислите (U*Uf, f) при / ? М и при / _|_ М. Если
U* U — проектор с областью значений М, то рассуждайте точно
так же.
Задача 99. Единственная трудность состоит в нахождении
коизометрии U и неприводящего подпространства М, таких, что
?/М = М. Для этого рассмотрите в качестве U оператор,
сопряженный к одностороннему сдвигу, а в качестве М (одномерное)
подпространство собственных векторов с фиксированным
ненулевым собственным значением.
Задача 100. О замкнутости: оператор А будет частичной
изометрией тогда и только тогда, когда А = А А* А. О связности:
если U — частичная изометрия, V — изометрия и ]| U — V |] < 1,
то U — изометрия.
Задача 101. О ранге: сужение оператора U на начальное
пространство частичной изометрии V взаимно однозначно.
О дефекте: если / 6 ker V и / J_ ker U, то || Uf — Vf || = || / ||.
Задача 102. Найдите два унитарных оператора — один,
отображающий одно начальное пространство на другое и второй,
отображающий соответственно финальные пространства, а затем
постройте непрерывные кривые, соединяющие их с тождественным
оператором.
Задача 103. Если А ж В — обратимые сжатия и унитарный
оператор отображает М (А) на М (В), то он отображает
подпространство всех векторов вида (/, 0) на себя.
Задача 104. Пусть компактное подмножество Л замкнутого
единичного круга содержит 0. Найдите сжатие А со спектром А
и расширьте его до частичной изометрии.
Задача 105. Положите Р2 = А*А и определите U равенствами
UPf = Af на ran P и Uf = 0 на ker P.
Задача 106. Каждая частичная пзометрия обладает
максимальным расширением.
Задача 107. Для доказательства того, что максимальные
частичные изометрии являются крайними точками, воспользуйтесь

154 Указания
задачей 3. Чтобы доказать обратное, покажите, что каждое сжатие
равно среднему арифметическому двух максимальных частичных
изометрий; используйте для этого задачу 106.
Задача 108. Если оператор UP коммутирует сР2, то он
коммутирует и с Р, так что UP — PU переводит ran P в нуль.
Задача 109. Для получения утвердительного результата
воспользуйтесь задачей 106. Для получения отрицательного —
тем, что необратимый оператор, у которого есть односторонний
обратный, не может быть пределом обратимых операторов.
Задача 110. Рассмотрите полярное разложение UP и соедините
операторы U и Р с 1.
ГЛАВА 14. ОДНОСТОРОННИЙ СДВИГ
Задача 111. Предположите, что пространство Н сепарабельно,
и покажите, что достаточно доказать существование двух
бесконечномерных ортогональных приводящих подпространств. Докажите
это, рассмотрев спектральные меры.
Задача 112. Применив результат задачи 111, представьте
заданный унитарный оператор в виде произведения двух, один из
которых сдвигает двустороннюю последовательность инвариантных
пространств вправо, а другой — влево.
Задача ИЗ. (а) Если у нормального оператора есть
односторонний обратный, то он обратим, (б) Поскольку 1 принадлежит
предельному спектру одностороннего сдвига, то это верно и для
его вещественной части, (в) В единичной окрестности
одностороннего сдвига нет обратимых операторов.
Задача 114. Если F2 = U*, то dim ker F<1 и V отображает
основное гильбертово пространство на себя.
Задача 115. Пусть оператор W коммутирует с А, а я|; —
ограниченная измеримая функция на единичном круге. Тогда по
теореме Фуглида о коммутативности г|) (И7) коммутирует с А.
Положив Ае0 = ф, докажите, что Aip = q>ty, и примените технику
решения 50.
Задача 116. Начните, как в решении 115, воспользуйтесь
решением 50, повторите решение 51.
Задача 117. Каждую функцию из Н°° почти всюду можно
представить в виде предела ограниченной последовательности
полиномов; ср. с решением 33.

Гл. 14. Односторонний сдвиг 1,15
Задача 118. Если V — изометрия на Н и N — ортогональное
со оо
дополнение к ее области значений, то (~) ^"Н = П (^"N)-1.
П=0 Г! = 0
Задача 119. Воспользуйтесь результатом задачи 118 и
вспомните, что —1 принадлежит спектру одностороннего сдвига.
Задача 120. Рассмотрите прямую сумму одностороннего сдвига
и бесконечного числа двусторонних.
Задача 121. Пусть ||Л||<1 и Ап —> 0 сильно. Рассмотрите
оператор Т = j/"l — A*A и свяжите с каждым вектором
последовательность
(Tf, TAf, TA*f, ...).
СО
Задача 122. Если г (А) < 1, то 2 || Ап \\Чп сходится при z = 1,
п=0
оо
и потому норма ||/ || о = S II ^™/ II2 эквивалентна исходной.
Задача 123. Рассмотрите подпространство N = М f| (UMI-
и примените результат решения 118. Чтобы доказать, что
dim Лг = 1, предположите, что в N существуют два ортогональных
единичных вектора / и g, и, используя равенство Парсеваля,
найдите || / ||2 -\- \\ g ||2. Полезно при этом рассматривать оператор
U как сужение двустороннего сдвига.
Задача 124. Докажите, что подпространства Мь~ (к)
инвариантны относительно U*.
Задача 125. Используя результат задачи 123, выразите М
в терминах блуждающего подпространства N и рассмотрите
разложение Фурье единичного вектора из N.
Задача 126. Для простого сдвига рассмотрите вектор
(lo, |i, S2, . . .), удовлетворяющий равенству,
п=\
Для кратных сдвигов рассмотрите векторы, компоненты которых
составляют подпоследовательности выбранной
последовательности {1п}.
Задача 127. Для заданного вектора /? Н2 рассмотрите
наименьшее подпространство М в Н2, содержащее / п инвариантное
относительно сдвига U. Примените к нему результат задачи 125.

156 Указания
Задача 128. Пусть g — ненулевой элемент в L2,
обращающийся в нуль на множестве положительной меры. Рассмотрите
/ (г) = zg (z*).
Задача 129. Необходимость: возьмите эрмнгов оператор,
коммутирующий с А (а следовательно, и с А" и А*А), и рассмотрите
его матрицу. Достаточность: предположим, что последовательность
{а„} периодична с периодом р. Пусть М,- — замкнутая линейная
оболочка векторов ?п, для которых п == / (mod р). Заметьте, что
каждый вектор единственным образом представляется в виде суммы
/о + /i — • • • + /p-i) где/г 6 Mf, для каждого измеримого
подмножества Е единичного круга рассмотрите множество всех векторов /',
для которых f j (z) = 0 при всех j и всех z из дополнения к Е.
ГЛАВА 15. ВПОЛНЕ НЕПРЕРЫВНЫЕ ОПЕРАТОРЫ
Задача 130. Используйте сети. При рассмотрении (\v —> s)~
непрерывности учтите, что базисные окрестности в слабой
топологии задаются конечным числом векторов, н рассмотрите
ортогональное дополнение к замкнутой линейной оболочке этих векторов.
Задача 131. Для доказательства самосопряженности
воспользуйтесь полярным разложением.
Задача 132. Приблизьте диагональными операторами
конечного ранга.
Задача 133. Если сужение вполне непрерывного оператора
на инвариантное подпространство обратимо, то ото подпространство
конечномерно. Отсюда в силу спектральной теоремы следует,
что часть спектра нормального вполне непрерывного оператора,
лежащая вне произвольного замкнутого круга с центром в начале
координат, состоит из конечного числа собственных значений
конечной кратности.
Задача 134. Если К — ядро тождественного оператора, то для
любых измеримых множеств F nG
FXG
Отсюда следует, что неопределенный интеграл от К сосредоточен
на диагонали.
Задача 135. Приблизьте простыми функциями.
Задача 136. Если А — оператор Гильберта — Шмидта, то
сумма собственных значений оператора А*А конечна.

Гл. 15. Вполне непрерывные операторы 157
Задача 137. Используйте полярное разложение и результат
задачи 133.
Задача 138. Каждый оператор ранга 1 принадлежит всем
ненулевым идеалам. Каждый не вполне непрерывный эрмитов оператор
ограничен снизу на некотором бесконечномерном подпространстве.
Его сужение на это подпространство обратимо.
Задача 139. Используйте спектральную теорему.
Задача 140. A) Если ran A — С) = Н, то ker A — С) = {0}.
(Последовательность подпространств {ker A, ker Л2, ker А3, . . .}
строго возрастает.) B) Оператор 1 — С ограничен снизу на
(ker A — С))-1-. После того, как утверждения A) и B) доказаны,
примените их не только к оператору С, но и к С*.
Задача 141. Если М — подпространство, содержащееся в ran A,
то сужение оператора А на прообраз пространства М обратимо.
Задача 142. От A) к B): сужение оператора А на (ker A)-"~
обратимо. От C) к A): если оператор 1 — В А вполне непрерывен,
то примените к нему решение 140.
Задача 143. Предположите, что Я = 0; заметьте, что если
оператор В обратим, то А = В A -f В'1 (А — В)).
Задача 144. Рассмотрите возмущение двустороннего сдвига
оператором ранга 1.
Задача 145. Если оператор С вполне непрерывен, a U + С
нормален, то у U -~ С большой спектр, а у (U + C)*(U + С)
маленький.
Задача 146. Если А — вольтерровский оператор, ядро
которого ограничено константой с, то Ап — вольтерровский оператор,
ядро которого ограничено константой сп/(п — 1)!.
Задача 147. Докажите сначала, что если А — вольтерровский
оператор, а е — произвольное положительное число, то
существуют вольтерровские операторы В и С и такое натуральное число &,
что A) А = В — С, B) || В || •< е, и C) каждое произведение
операторов В и С. в которое оператор С входит сомножителем не
менее к раз, равно 0. Чтобы получить ядро оператора С,
переопределите ядро оператора А в узкой полоске вдоль диагонали,
положив его там равным нулю.
Задача 148. Представьте V*V в виде интегрального оператора.
Дифференцированием преобразуйте уравнение V*Vf = Я/ в
дифференциальное и решите его.

158 Указания
Задача 149. Отождествите L2 (— 1, -fl) с L2 (О, 1)@L2(O, 1)
и определите операторную матрицу второго порядка,
соответствующую такому изоморфизму. Внимание: указанное отождествление
можно произвести многими разумными способами.
Задача 150. Рассмотрите оператор А = A 4- У)'1, где V —
вольтерровский оператор интегрирования.
Задача 151. Сведите задачу к случаю, когда М содержит вектор
/, у которого бесконечно много ненулевых коэффициентов Фурье.
Докажите, что тогда существуют такие скаляры ?.„, что Хп Anf ->
->¦ е0, так что подпространство М содержит е0. По индукции
докажите, что М содержит векторы е^ при всех натуральных к.
ГЛАВА 16. СУБНОРМАЛЬНЫЕ ОПЕРАТОРЫ
Задача 152. Примените теорему Фуглида к операторной
матрице второго порядка, составленной из операторов Аи А2 и В.
Задача 153. Если [|Лп/]|<< || /1| при всех п и
Мт = {х: |
то
j
Mr
Задача 154. Покажите, что ker А приводит А и отбросьте его.
Теперь, когда ker А = {0}, рассмотрите полярное разложение
оператора А; расширьте затем изометрический сомножитель до
унитарной операторной матрицы второго порядка, а
положительный сомножитель — до положительной операторной матрицы
второго порядка, и сделайте это таким образом, чтобы полученные
расширения коммутировали.
Задача 155. Нужная изометрия U должна быть такой, чтобы
для любого конечного подмножества {/ь . . ., /„} в Н
выполнялось равенство U (S Bffj) = J^Bffj.
з i
Задача 156. В качестве пространства с мерой рассмотрить-
единичную окружность и ее центр, где мера на окружности
совпадает с нормированной мерой Лебега, а масса центра равна единице.
Определите субнормальный оператор, рассмотрев сужение
подходящего умножения в L2 на замыкание множества всех
полиномов от z.
Задача 157. Достаточно показать, что если оператор А
обратим, то обратим и оператор В. Используйте результат задачи 153

Гл. 17. Числовой образ 159
Задача 158. Оба множества Л — Л (А) и Af|A (А) открыты.
Используйте результат задачи 63.
Задача 159. Каждое конечномерное подпространство,
инвариантное относительно нормального оператора В, приводит В.
Задача 160. Если оператор А (на Н) субнормален и векторы
/0, ...,/„ принадлежат пространству Н, то матрица {(Alfj, AJft))
положительно определена. Взвешенный сдвиг с весами
{а0, сц, . . .} гипонормален тогда и только тогда, когда | ап [2 ^
<; | а„ + 1 | 2 при всех п.
Задача 161. Воспользуйтесь результатом задачи 118.
Задача 162. Если оператор А гипонормален, то
\\A"f ||2 < || А™ || -|| 4-11| -|| /||2
для любого вектора /.
Задача 163. Если оператор А гипонормален, то замкнутая
линейная оболочка множества всех его собственных векторов
приводит его. Если оператор А еще и вполне непрерывен, то
рассмотрите его сужение на ортогональное дополнение к этой
оболочке и примените результаты задач 140 и 162.
Задача 164. Представьте пространство Н в виде (бесконечной
в обе стороны) прямой суммы двумерных гильбертовых пространств
и рассмотрите взвешенный сдвиг в Н с операторами в качестве
весов.
Задача 165. Если С = Р'1 UP, где Р — положительный,
a U — унитарный операторы, то для того, чтобы оператор С был
сжатием, необходимо и достаточно, чтобы произведение UP было
гипонормальным.
ГЛАВА 17. ЧИСЛОВОЙ ОБРАЗ
Задача 166. Достаточно показать, что если fug — такие
единичные векторы, что (Af, /) = 1, (Ag, g) = 0 и (Af, g)
вещественно, то числовой образ W (А) полностью содержит единичный
интервал. Рассмотрите tf + A — t) g @ <С t ^ 1) и
воспользуйтесь непрерывностью скалярного произведения.
Задача 167. Если М и N представляют собой /с-мерные
гильбертовы пространства, а Г — линейное отображение из М на N,
то существуют такие ортонорыированные базисы {/ь . . ., fk}
в Ми {gi, . . ., gu} в N и такие положительные числа а4, . . ., ah,
что Tft = atgi при i = 1, 2, . . ., к. Если Р и Q —
проекторы ранга к, то примените это утверждение к сужению

160 Указания
оператора QP на область значений оператора Р и к раз
воспользуйтесь теоремой Теплица — Хаусдорфа.
Задача 168. Попробуйте взять диагональный оператор.
Попробуйте односторонний сдвиг.
Задача 169. Замыкание числового образа содержит и спектр
сжатия (множество, комплексно-сопряженное к точечному спектру
сопряженного оператора), и предельный спектр.
Задача 170. Пусть V — вольтерровский оператор
интегрирования. Рассмотрите 1 — A — F).
Задача 171. Воспользуйтесь спектральной теоремой; сведите
задачу к доказательству того, что если все значения функции
лежат в правой полуплоскости, то там же лежит значение ее
интеграла по любой положительной мере.
Задача 172. Воспользуйтесь результатами задач 157, 169 и 171.
Задача 173. (а) Докажите теорему, обратную к
противоположной, (б) Если Ц А Ц = 1 и (Afn, fn) -+ 1, то Afn — fn -v 0.
Задача 174. Пусть
'0 0\
о)
и N — нормальный оператор, спектр которого представляет собой
круг с центром в 0 и радиусом 1/2. Рассмотрите
<М 0>
<0
Задача 175. Если || А — В || < е и ||/ || = 1, то (Af, /) 6
? W (В) -j- е. Пусть U, как обычно, обозначает односторонний
сдвиг. Рассмотрите операторы (U*)n(n = 1, 2, 3, . . .).
Задача 176. Для того чтобы выполнялось неравенство
w (А) ^ 1, необходимо и достаточно, чтобы Re A — zA)-1 ^> 0
при всех z из открытого единичного круга. Рассмотрите
разложение дроби 1/A — z") на простейшие и замените в нем z на zA.
ГЛАВА 18. УНИТАРНЫЕ ПРОДОЛЖЕНИЯ
Задача 177. (а) Возьмите в качестве гильбертова пространства
одномерное вещественное евклидово пространство, а в качестве
пространства продолжения — плоскость. Разберите, что означает
наше утверждение в этом случае, и докажите его. Полученные
формулы подскажут решение в общем случае, (б) Повторите
схему доказательства (а).
(М 0\ A
[О N) И 1(

Гл. 19. Коммутатора операторов 161
Задача 178. Найдите решение в виде бесконечной во все
стороны матрицы. Воспользуйтесь результатами и техникой
решения 177.
Задача 179. Воспользуйтесь спектральной теоремой, чтобы
доказать утверждение задачи для унитарных операторов, а затем,
используя существование унитарного степенного продолжения,
распространите полученный результат на все сжатия.
Задача 180. Найдите унитарное степенное продолжение
оператора А.
Задача 181. Если {fn} и {gn} — конечные двусторонние
последовательности векторов из пространства Н, а и} = 2 A-i-jh
г
и Vj = ^\Ai-jgi, положите [и, v] = 2 (цл vj) и используйте это
» з
как определение скалярного произведения в пространстве
продолжения К.
ГЛАВА 19. КОММУТАТОРЫ ОПЕРАТОРОВ
Задача 182. Уинтнер: предположите, что оператор Р обратим,
и исследуйте, как связан спектр операторов PQ = QP + 1 и QP.
Виландт: предположив, что PQ — QP = 1, вычислите оператор
PnQ — QPn и, используя полученную формулу, оцените его
норму.
Задача 183. Рассмотрите банахово пространство всех
ограниченных последовательностей векторов из Н, профакторизован-
ное по подпространству последовательностей, сильно сходящихся
к нулю, и заметьте, что каждая ограниченная последовательность
операторов индуцирует оператор в этом пространстве.
Задача 184. Зафиксируйте оператор Р и рассмотрите
коммутатор AQ = PQ — QP как функцию от Q; найдите Дп(?™.
Задача 185. (а) Обобщите формулу для «производной» степени
на некоммутативный случай и воспроизведите доказательство
Виландта. (б) Используйте теорему Клейнеке — Широкова.
Задача 186. Представьте пространство в виде бесконечной
прямой суммы так, чтобы все слагаемые, кроме первого, лежали
в ядре оператора. Рассмотрите соответствующее матричное
представление заданного оператора и попытайтесь представить его
в виде коммутатора PQ — QP, где Р — соответствующий
односторонний сдвиг.
Задача 187. Найдите такой обратимый оператор Т, что у
оператора А + Т~ХАТ ненулевое ядро. Примените затем результат

162 Указания
задачи 186 к прямой сумме бесконечного числа таких операторов.
Докажите лемму о том, что если В + С — коммутатор, то это
верно и для В @ С, и воспользуйтесь ей.
Задача 188. Если С = А*А — АА*> 0, то, выбрав К в П (А),
найдите последовательность векторов {/„}, для которых \\fn || = 1
и (А — Я) /„ —>- 0, и докажите, что С/„ -н>- 0.
Задача 189. (а) Докажите, что A) оператор А квазинормален,
B)подпространствоker(l — А*А)приводите! и C) ker A — A*A) -Lc
crker(^4*^4—АА*). (б) Рассмотрите взвешенный двусторонний
сдвиг, веса которого равны либо 1, либо \Г2.
Задача 190. Для доказательства достаточности рассмотрите
(двусторонний) диагональный оператор и двусторонний сдвиг;
для доказательства необходимости видоизмените рассуждения
Уинтнера в аддитивной теории.
Задача 191. Используйте результат задачи 111, затем
рассмотрите диагональную операторную матрицу и двусторонний
сдвиг и, видоизменив технику, использованную в задаче 190,
примените ее к операторным матрицам.
Задача"|192. Воспользуйтесь результатом задачи 111 и хмульти-
пликативным аналогом рассуждений, приведенных в введении
к задаче 186, чтобы доказать, что каждый обратимый нормальный
оператор можно представить в виде произведения двух
коммутаторов.
ГЛАВА 20. ТЕПЛИЦЕВЫ ОПЕРАТОРЫ
Задача 193. Для доказательства необходимости вычислите
матричные элементы; для доказательства достаточности
воспользуйтесь результатом задачи 115.
Задача 194. Необходимость доказывается непосредственным
вычислением. Для доказательства достаточности рассмотрите такие
операторы Ап, что Anf = (W*)n APWnf для всех / из L2(rc = 0, 1,
2, . . .), и докажите, что последовательность {Ап} слабо сходится.
Задача 195. Если (уи) — матрица оператора TVT^, то
Ум, j+i = Уц + аг+ip-j-i, где ср = 2 aiei и ^ = S РЛ-
i j
Задача 196. Докажите, что {W*)n TPWn^L сильно.
Воспользовавшись этим, докажите, что 0 6 П (L) влечет 0 ? П (Т).

Гл. 20. Теплицевы операторы 163
Задача 197. Пусть К — ядро пространства Н2. Для
фиксированного у ? D и фиксированной функции / из Н2 положим
g (zl= (ф (z) — ф (у)) 7 (z). Так как ~g (у) = 0, то g J_ Ky, и
потому ф (у) принадлежит спектру (сжатия) оператора Т^.
Задача 198. Если функция ф вещественна и Гф/ = 0, то функция
Ф ¦/* •/ тоже вещественна и принадлежит пространству Н1.
Задача 199. Если функция ф вещественна и оператор Тч
обратим, то ф /* ? Н2, и потому знак функции ф не изменяется.

РЕШЕНИЯ
ГЛАВА 1. ВЕКТОРЫ И ПРОСТРАНСТВА
Решение 1. Предел последовательности квадратичных форм
является квадратичной формой.
Доказательство. С каждой функцией ф двух переменных
связана функция ф~ одной переменной, определяемая равенством
Ф~ (/) = ф (/, /), а с каждой функцией т|р одной переменной можно
связать функцию я|)+ от двух переменных:
D с/-*
Если ф — полуторалинейная форма, то ф = ф~+; если tj) —
квадратичная форма, то гр = я|) + ~.
Пусть теперь {tyn} — последовательность квадратичных форм
и tyn -* ty (т- е- tyn (/) -*- 41 (/) Для каждого вектора /). Тогда
г|)? —vi])+ и -ф^"—>-г|)+~. Так как г|зп — квадратичная форма для всех и,
то ij)n — полуторалинейная форма для всех п и потому "ф+ — тоже
полуторалинейная форма. А так как, кроме того, tyn = г|;^", то
t|) =ij;+~, и потому я|) — квадратичная форма.
Мы нигде не использовали того, что {г|зл } — последовательность
(т. е. того, что множеством индексов служит множество
натуральных чисел). Поэтому наше доказательство справедливо для
упорядоченной «последовательности» любого порядкового типа и даже
для сетей любой структуры.
Решение 2. Чтобы пояснить наш подход, предположим пока,
что уже известно, что ? (/) = (/, g) для некоторого g. Выберем
произвольный, но фиксированный ортонормированный базис {е;-}
н разложим по нему вектор g:
i
Так как
f>J = (g,ej) = (e},g
то вектор g можно записать в виде

Гл. 1. Векторы и пространства 165
Если уже известно, что представление Рисса существует, то
приведенные рассуждения доказывают единственность и позволяют
определить координаты представляющего вектора. При
доказательстве существования главная задача состоит в доказательстве
сходимости ряда 2 Pjej> гДе Pj = \ (ej)*-
з
Для каждого конечного множества индексов J положим
gj = 2 РЛ- Тогда
и потому
1,|2
Отсюда следует, что
поэтому
Этот результат оправдывает запись g = 2 р^-.
j
Если / = 2 ctjSj, то
j
U/)=Sa^(^) = S«;PJ = (/,«f),
i i
и доказательство закончено.
Решение 3. Граничные точки замкнутого единичного шара —
точки единичной сферы (т. е. единичные векторы — векторы /,
для которых || / || = 1). Поэтому надо доказать, что если/ = tg -f-
+ (l-t)h, где 0<*<1, 11/11 = 1, ||g||<l и || h || <1,
то / = g = h. Заметим сначала, что
1 = (/, /) - (/, tg + (l-t) h) = t(f, g) + A-0 (/, h).
Так как | (/, g) |< 1 и | (/, А) | < 1, то (/, g) = (/, h) = 1.
Мы воспользовались здесь строгой выпуклостью замкнутого
единичного круга. Полученный результат показывает, что
неравенство Шварца вырождается в равенство и для пары векторов
/, g, и для пары h, /. Поэтому векторы g и h отличаются от / лишь
числовыми множителями. Пусть g = а/ и Л = р/. Тогда
1 = (/, g) = (/, a/) = а* и аналогично 1 = (/, К) = [3*.
Доказательство закончено.

166 Решения
Решение 4. Так как любое бесконечномерное гильбертово
пространство содержит подпространство, изоморфное L2 @, 1), то
достаточно описать конструкцию для этого частного случая. Это
довольно просто. Пусть 0 <; t ^ 1; определим / (t) как
характеристическую функцию отрезка [0, t]. Другими словами, (/ (t)){s) = 1, если
О <^ s <^ t> и 0. если ?<s<;i. Если 0 <; а <! Ь < 1, то
ь
(Ь) - / (а) |р = j | (/ F)) (s) - (/ (a)) (S) |* ds = j ds = Ь- а,
откуда следует, что кривая / непрерывна. Доказательства
простоты этой кривой и ортогональности (любых двух
неперекрывающихся хорд) очевидны.
Относительно существования касательных: легко видеть, что
отношения приращений не стремятся к пределу ни в одной точке.
В самом деле.
f(t-rh)-f(t)
h
h
а это значит, что функция / нигде не дифференцируема.
Хотя эта конструкция с математической точки зрения не
единственна, но опыт показывает, что этот пример психологически
единственный; по-видимому, каждый, кто попытается это
продумать, придет к такому же ответу.
Бесконечномерность была явно использована в приведенном
выше частном доказательстве, но из этого еще не следует, что она
необходима. Так ли это? Исследование конечномерного случая
очень поучительно.
Похожие конструкции хорошо известны в теории спектральных
мер (см. Халмош [3, стр. 58]). Если Е — такая спектральная мера
на борелевских множествах отрезка [0, 1], что Е (М) для каждого
борелевского множества М представляет собой умножение на
характеристическую функцию этого множества, и если е —
функция, тождественно равная единице, то рассмотренная кривая /
задается равенством
f(t)=E([O,t])e.
Это замечание показывает, как построить много примеров
подобных «резко поворачивающих» непрерывных кривых:
использовать различные спектральные меры и применять их к разным
векторам. Совсем не обязательно рассматривать только
непрерывные меры, носителями которых служат целые отрезки, но это
разумно, так как при этом любой ненулевой вектор может играть
роль е.
Решение 5. Если ортогональная размерность гильбертова
пространства бесконечна, то его линейная размерность не менее 2К°.

Гл. 1. Векторы и пространства 167
(Напомним, что если одна из размерностей гильбертова
пространства — линейная или ортогональная — конечна, то и
другая конечна, и в этом случае они совпадают.)
Доказательство. Доказательство использует следующее
любопытное замечание из теории множеств, которое имеет и другие
приложения: существует такое семейство {Jt} мощности 2Ко,
состоящее из бесконечных множеств натуральных чисел, что
пересечение /s f) Jf конечно при s ^=t. Вот беглый набросок
возможной конструкции. Так как существует взаимно однозначное
соответствие между натуральными и рациональными числами,
то достаточно доказать существование множеств рациональных
чисел с указанным свойством. Для этого поставим в соответствие
каждому вещественному числу t бесконечное множество /;
рациональных чисел с единственной точкой накопления t.
Предположим теперь, что {еь е2, е3, . . .} — счетное
бесконечное ортонормированное множество векторов в гильбертовом
пространстве Н, а / = 2 \пеп (разложение Фурье) — произволь-
п
ный вектор, для которого 1пф0 при всех п. Пусть {Jt} — набор
множеств натуральных чисел описанного выше типа. Рассмотрим
векторы /< = 2 tnen- Утверждается, что семейство векторов {/4}
линейно независимо. В самом деле, предположим, что конечная
линейная комбинация векторов ft обращается в нуль, скажем
к
2 а;/г. = 0. Так как для каждого 1ф1 множество Ju содержит
бесконечно много целых чисел, не принадлежащих Jt., то оно
содержит по крайней мере одно число, скажем п, не
принадлежащее ни одному из /(. (г'^1). Тогда а^п = 0, а так как ?n=/=0,
то а4 = 0. Точно так же доказывается, что а; == 0 для всех
i = 1, . . . к.
В этом и заключается главная причина того, что понятие
линейной размерности гильбертова пространства не представляет
интереса. Слово «размерность» в теории гильбертовых пространств
всегда означает «ортогональная размерность».
Существуют и более короткие решения этой задачи, но все они
менее элементарны. Так, например, можно считать, что каждое
бесконечномерное гильбертово пространство содержит L2 @, 1),
а векторы f (t), 0<?<;1, построенные в решении 4, образуют
линейно независимое множество мощности 2*°. Или можно считать,
что каждое бесконечномерное гильбертово пространство содержит
I2, а векторы g (t) = A, t, t2, . . .), 0 < t <; 1, образуют линейно
независимое множество мощности 2No.

168 Решения
Решение 6. Если 0 < | а | < 1 и fh — A, а\ a2k, . . . )
(k = 1, 2, 3, . . .)> m0 замкнутая линейная оболочка векторов fk
совпадает со всем пространством Р.
Доказательство. По-видимому, самый быстрый способ состоит
в том, чтобы рассмотреть вектор /, ортогональный всем /^. Если
/ = <?о, li, Izi • ¦ ¦ >. то
О = (/./*) = 1 1пО.*гА.
п=0
со
Другими словами, степенной ряд 2 ?nz" обращается в нуль для
п=0
z = а* (к = 1, 2, 3, . . .) и, следовательно, тождественно равен
нулю. Итак, Ъ,п = 0 для всех /г и потому / = 0.
Формулировка задачи обманчива. В решении никак не
используются арифметические свойства степеней ah; тот же метод
применим, если степени ак заменить произвольными числами а&
(и соответственно брать а™ вместо апй). Нужно только, чтобы
числа ak имели точку накопления где-нибудь внутри единичного
оэ
круга. (Заметим, что если 2 i ?и I2 <1 °°! то радиус сходимости
п=0
со
степенного ряда 2 ?nz" He меньше 1.)
п=0
Этот результат слегка обобщает хорошо известные факты о
матрицах Вандермонда, и предложенное выше доказательство можно
приспособить и к конечномерному случаю. Если 1т есть т-мерное
гильбертово пространство последовательностей (?0 . . ., |m-i>
длины т (= 1, 2, 3, . . .), а векторы fh (к = 1, . . ., т) заданы
равенством fk= (I, ak, . . ., а") (где 0 < | ah |< 1 и все ak
различны), то замкнутая линейная оболочка векторов </t, . . ., fm)
совпадает с Гт. Действительно, если вектор/= (|0> • ¦ ¦> lm-i)
7П-1
ортогонален каждому вектору fh, то 2 ^аГ = 0> т- е-
п=0
т-1
полином 2 ?п2" степени не выше, чем т — 1, обращается в
нуль в т различных точках и поэтому тождественно равен нулю.
Решение 7. Надо доказать, что если /0_]_/г (г = 1, 2, 3, ... ).
то /о = 0. Если /q Ф 0, то {/0, /ь /2, . . .} — ортогональное
множество ненулевых векторов, а потому оно линейно независимо.
Покажем, что этого не может быть. Рассуждения здесь по существу
такие же, как у Биркгофа и Роты, но несколько проще; это
доказательство впервые было найдено Розенбаумом.

Гл. !• Векторы и пространства 169
Выберем сначала такое натуральное число п, что
при этом, как мы увидим, п4 1 векторов /0, /lt ...,fn
оказываются линейно зависимыми. Положим
3=1
Так как каждый вектор g^ принадлежит (тг-мерной) замкнутой
линейной оболочке векторов еи . . ., еп, а векторов gk всего
п + 1, то они линейно зависимы. Пусть
2
п=0
Тогда
0= S aft 2 (/ft, ^)е,= § ( S
ft=0 j=l j=l ft=0
Так как векторы ej линейно независимы, то все коэффициенты
последней суммы должны быть нулями; другими словами, если
п
h= 2 «ft/ft,
ft0
то h _]_ ej, ..., е„. Вычислим норму вектора А, исходя из его
разложения Фурье по векторам еу.
(первое равенство справедливо потому, что h J_ е;- при / -^ п,
а второе — потому, что h по определению принадлежит замкнутой
линейной оболочке векторов /0, fu . . ., fn, откуда h _L fj при
/ > n).
Из определения п получаем, что при h Ф 0 последнее
выражение строго меньше, чем || h ||2, а потому || h || = 0, т. е. векторы
/о. /ii • ¦ -1 in действительно линейно зависимы.
Есть другой способ подойти к этому доказательству. Он кажется
менее элементарным, но связан с меньшими выкладками и,
по-видимому, более прозрачен. Найдем п так же, как раньше, и зададим
линейное преобразование А сначала только на конечных линейных
комбинациях векторов ej формулой
ej, если jjCn,
fj, если ]>п.

170 Решения
Если / = 2 \fij (конечная сумма), то
/и*=|| Si, (^-/Л II2 <
И/
Отсюда вытекает, что оператор 1 — А ограничен (там, где он
определен) числом
строго меньшим, чем 1. Но тогда (см. Халмогп [3, стр. 52]) А
расширяется (единственным образом) до обратимого оператора на всем
пространстве Н (который по-прежнему можно обозначать через А).
Из обратимости оператора А следует, что замкнутая линейная
оболочка векторов еи ... еп, fn + i, /n+2> • ¦ • (которые являются
образами векторов еи . . ., еп, еп+1, еп+2, . . . при
преобразовании А) совпадает с Н. Если обозначить через М замкнутую
линейную оболочку векторов fn+u /п+2> • • •> т0 dim М1- = п. Поэтому
замкнутая линейная оболочка векторов/ь . . ., fn,fn+i, fn+zi ¦ ¦ •
совпадает с Н.
Решение 8. Достаточно доказать, что если dim М = 1, то
многообразие M-f- N замкнуто; общий случай можно получить
индукцией по разхлгерности подпространства М. Предположим поэтому,
что М порождается одним вектором /0, так что М + N состоит
из всех векторов вида а/0 + g, где а — число, a g ? N. Если
/о 6 N, то М -f- N = N и доказывать нечего. Если /0 (| N, то
обозначим через g0 проекцию вектора /0 на N; т. е. такой
единственный вектор в N, что /0 — go J_ N.
Заметим теперь, что если g — вектор из N, то
(так как /0 — go J_ ago + g), или
поэтому
Из этих неравенств следует, что М + N (множество всех векторов
вида а/о + g) замкнуто. В самом деле, если а„/0 + gn -*- h, так
что {anfo + gn} — фундаментальная последовательность, то

Гл. 1. Векторы и пространства 171
{ап} и {gn} — также фундаментальные последовательности.
Значит, ап ->- а и gn ->• g, причем g, разумеется, принадлежит N;
следовательно,
h = lira (а„/0 -р gn) = а/0 + g-
п
Решение 9. Решетка подпространств гильбертова
пространства Н модулярна тогда и только тогда, когда dim Н < н0
(т. е. Н конечномерно), а дистрибутивна тогда и только тогда,
когда dim H <; 1.
Доказательство. Если Н бесконечномерно, то в нем найдутся
такие подпространства М и N, что М П N = {0} и М -f- N =?
=7^= М v N (см. задачу 41). Возьмем вектор /0 в М v N, не
принадлежащий сумме М + N, и пусть L обозначает замкнутую линейную
оболочку множества, составленного из элементов подпространства
N и /0. Согласно задаче 8, L совпадает с векторной суммой
подпространства N и одномерного подпространства, порожденного
вектором /о, т. е. каждый вектор из L имеет вид а/0 + g, где
а — число, а вектор g принадлежит N.
Вектор /о содержится в L и в М v N, следовательно, в их
пересечении. С другой стороны, L П М= {0}. Действительно, если
«/о + g ? М (где g 6 N), то <х/0 ? М -f N, поэтому а = 0, откуда
g = 0. Таким образом, (L [) М) V N = N, а потому (L Г] М) V N не
содержит /о-
Эти рассуждения составляют ту часть доказательства, которая
относится к бесконечномерным пространствам. В остальном
нужны только простые факты из геометрии конечномерных
пространств. Соответствующие рассмотрения читатель может
проделать сам, и мы настоятельно рекомендуем ему не бросать задачу,
пока он не убедится, что действительно может ее сделать.
Решение 10. В гильбертовом пространстве размерности
п (< х0) (замкнутый) единичный шар представляет собой
замкнутое ограниченное подмножество 2и-мерного вещественного
евклидова пространства, поэтому он компактен. Так как сдвиги и
преобразования подобия являются гомеоморфизмами, то всякий
замкнутый шар компактен. А поскольку открытые шары образуют
базу топологии, тг-мерное гильбертово пространство локально
компактно.
Обратно, пусть Н — локально компактное гильбертово
пространство. Предыдущие рассуждения можно обратить: из
предположения о локальной компактности следует, что каждый
замкнутый шар компактен и, в частности, компактен замкнутый
единичный шар. Чтобы заключить отсюда, что размерность
пространства конечна, вспомним, что расстояние между двумя

172 Решения
ортогональными единичными векторами равно 1/~2, так что каждый
открытый шар диаметра ]^2 (или меньше) не может содержать
более одного элемента любого ортонормированного базиса. Все
открытые шары диаметра У~2 образуют открытое покрытие
замкнутого единичного шара; в силу компактности последнего каждый
ортонормированный базис конечен, а потому пространство Н
конечномерно.
Решение 11. Если dim Н < х0, то в пространстве Н есть
не более чем счетный ортонормированный базис. Так как каждый
вектор пространства можно представить в виде предела конечных
линейных комбинаций векторов базиса, то каждый вектор из Н
можно представить в виде предела линейных комбинаций базисных
векторов с рациональными вещественными и мнимыми частями
коэффициентов. Множество всех таких рациональных линейных
комбинаций счетно, и, следовательно, пространство Н сепара-
бельно.
Обратно, пусть {/l7 /2, . . .} — счетное множество, всюду
плотное в Н. Если {gj} — ортонормированный базис в Н, то для
каждого индекса j существует такой индекс П], что || /„. — gj ||<
< У~2/2. Так как два открытых шара радиуса у 2/2 с центрами
в различных векторах gj не пересекаются, то отображение / -*• п}
взаимно однозначно, откуда мощность множества индексов / не
превосходит х0.
Обратная часть доказательства допускает и другой подход,
основанный на процессе Грама — Шмидта. Поскольку этот
процесс часто описывается только для линейно независимых
последовательностей, начнем с того, что выбросим из последовательности
{fn} все члены, являющиеся линейными комбинациями
предыдущих. После этого применим процесс ортонормализации Грама —
Шмидта. Получившееся ортонормированное множество,
разумеется, счетно. А так как его замкнутая линейная оболочка совпадает
с замкнутой линейной оболочкой последовательности {fn}, то оно
и есть базис.
Решение 12. По определению мера инвариантна относительно
сдвигов, поэтому можно без ограничения общности рассматривать
шары только с центром в точке 0. Пусть В — такой шар с радиусом
г (>0) и {ех, е2, е3, . . .} — бесконечное ортонормированное
множество векторов пространства. Рассмотрим открытые шары В„
с центрами в точках (г/2) еп и радиусами г/4, т. е. В„ =
= {/: ||/ — (г/2) еп ||<г/4}.
Если / ? В„, то

Гл. 1. Векторы и пространства
173
так
что
В„с
г
:В.
г
~~2
Если /
i»m, TO
_|т а I —I— а , р
I \ ' О | I б О ^
I I "
Следовательно, если т фп, то || / — g \\ >- г 1^2/2 — г/4 —
— г/4 > 0, а потому при п фпь шары Вд и Вт не пересекаются.
В силу инвариантности меры шары В„ при всех п имеют
одинаковую меру. Поэтому шар В содержит бесконечно много
непересекающихся борелевских множеств одинаковой положительной
меры и его мера оказывается бесконечной.

ГЛАВА 2. СЛАБАЯ ТОПОЛОГИЯ
Решение 13. Пусть S — слабо замкнутое множество в
пространстве II и {/„} —такая последовательность векторов из S,
что /„-»-/ (сильно). Тогда
так что /„ —>- / (слабо), и потому / ? S. Это доказывает, что слабо
замкнутое множество сильно замкнуто и даже что сильное
замыкание любого множества содержится в его слабом замыкании.
То, что обратное неверно (т. е. сильно замкнутое множество не
обязательно слабо замкнуто), вытекает из такого любопытного
наблюдения: если {еь ег, е?, . . .}— ортонормированная
последовательность, то еп -v 0 (слабо). В самом деле, так как для каждого
вектора / скалярные произведения {/, еп) равны его коэффициентам
Фурье, то они образуют квадратично суммируемую
последовательность. Поэтому множество всех векторов еп не замкнуто
в слабой топологии; в сильной же топологии оно дискретно,
а потому замкнуто. Можно действовать и по-другому —найти
сильно открытое множество, которое не будет слабо открытым; одно
из таких множеств — открытый единичный шар. Для
доказательства заметим, что в бесконечномерном пространстве слабо
открытое множество не может быть ограниченным.
Осталось доказать, что всякое подпространство слабо замкнуто.
Если {/„} — последовательность векторов из подпространства М
и /„—>-/ (слабо), то по определению (/„, g) -*- (/, g) для всякого g.
Так как все векторы fn ортогональны подпространству М-1-, то
/ _L М1, поэтому / ? М. Это рассуждение показывает, что М
содержит пределы всех слабо сходящихся последовательностей своих
векторов, но это еще не значит, что М слабо замкнуто. Мы пока
не знаем, что слабая топология метризуема; секвенциальная
замкнутость может не совпадать с замкнутостью. Но от этой
неприятности легко избавиться; достаточно заметить, что если в нашем
рассуждении о последовательностях всюду заменить слово
«последовательность» словом «сеть», а остальное оставить без
изменений, то оно по-прежнему будет верно. А замкнутость
относительно сетей всегда совпадает с обычной замкнутостью.

Гл. 2. Слабая топология 175
Решение 14. Доказательство заключается в известной
тривиальной выкладке:
||/п-/||2 = (/п-/, /„-/) = ||/, ||2 ~U,fn)-(fn, /)
Так как/„ -у f (слабо), то члены со знаком минус стремятся к || / |р,
а по условию к этому же пределу стремится первый член.
Следовательно, ||/„ — / ||2 —>¦ 0, как и утверждалось.
Решение 15. Каждое слабо сепарабелъное гильбертово
пространство сепарабелъно.
Доказательство. Замкнутая линейная оболочка счетного
множества всегда (сильно) сепарабельна, поэтому достаточно доказать,
что если счетное множество S слабо плотно в гильбертовом
пространстве Н, то замкнутая линейная оболочка множества S
совпадает с Н. Это очевидно, если взглянуть на это с правильной точки
зрения. Замкнутая линейная оболочка множества S по
определению является (сильно замкнутым) подпространством, поэтому
в силу задачи 13 она слабо замкнута. А так как она в то же время
слабо плотна в Н, она должна совпадать с Н.
Предостережение: рассуждение, не использующее
последовательностей, не только элегантнее, но и надежнее. A priori
совершенно не очевидно, что если вектор / содержится в слабом
замыкании множества S, то его можно представить в виде предела
последовательности элементов из S.
Решение 16. Достаточно исследовать случай / = 0. Если
||/„ ||-*0,то(таккак|(/п, g) \<\\ fn\\-\\g\\-=\\fn || при || g || = 1)
(/„, g) —>¦ 0 равномерно, как и утверждалось.
Обратно, пусть для любого положительного е и достаточно
большого п
\(fn,g)\<e, если только ||g|| = l.
Равномерность проявляется здесь в том, что п не зависит от g.
Отсюда следует, что если п достаточно велико, то
) |
, если только gФ и,
v " \\g\\ i I
а потому
|(/„, g)|<e|]g|| для всех g.
Следовательно, если п достаточно велико, то, полагая g = fn,
получаем
||/„||2<8||/„||, ИЛИ ||/„||<8.
Заметим, что это рассуждение носит общий характер; оно
годится не только для последовательностей, но и для сетей.

176 Решения
Решение 17. Пусть дано гильбертово пространство Н.
Каждому вектору / из Н поставим в соответствие круг на комплексной
плоскости D/ = {z: I z | <С ||/ |]}; обозначим через D прямое
произведение всех кругов Dy с обычной топологией произведения.
Каждому вектору g из единичного шара с помощью
отображения / -v (/, g) ставится в соответствие точка, принадлежащая D;
обозначим ее б (g). Определенное таким образом отображение б
представляет собой гомеоморфизм единичного шара (со слабой
топологией) в D (с топологией произведения). Действительно,
если б (gt) = б (g2), т. е. (/, gt) = (/, g2) для всех /, то gi = gz,
так что отображение б взаимно однозначно. Кроме того, оно
непрерывно, так как gt -> g (слабо) тогда и только тогда, когда
(/> gt) ~*~ (/> 8) Для всех / из Н, а это в свою очередь равносильно
тому, что б (gi) —>- б (g) в D. Из теоремы Рисса о представлении
линейного функционала на Н вытекает, что область значений
отображения б состоит в точности из тех элементов ?¦ из D
(комплекснозначных функций на Н), которые на самом деле
являются линейными функционалами на Н с нормой меньшей или
равной 1.
Итак, мы построили гомеоморфизм ё из единичного шара в
компактное хаусдорфово пространство D и определили образ
единичного шара при этом отображении. Осталось только показать, что
этот образ замкнут (и потому компактен) в D; отсюда и будет
следовать, что единичный шар слабо компактен.
Свойство быть линейным функционалом — это свойство
«конечного характера». Точнее говоря: | будет линейным функционалом
тогда и только тогда, когда будет удовлетворять бесконечному
числу равенств, каждое из которых включает только конечное
число элементов из Н. Поэтому множество всех линейных
функционалов замкнуто в D. Более подробно: рассмотрим фиксированную
пару чисел аи а2 и векторы /ь /2 и образуем подмножество
Е (сс1? а2, /i, /2) пространства D, определенное формулой
Е (сч, а2, fu /а) = {? ? D: I К/4 + а2/2) = а? (ft) 4- а2Е (/2)}.
«Свойство конечного характера» означает здесь, что множество всех
линейных функционалов в D (образ единичного шара при
отображении б) совпадает с пересечением всех множеств вида
Е (cti, a2, /i, /2)- Так как из определения топологии произведения
следует, что каждая из функций ? ->¦ | (/t), ? —> ? (/2)
и \ -> Ъ, (ах fi + а2/2) непрерывна на D, то каждое множество
Е (<Xi, a2, /4, /2) замкнуто, и поэтому область значений
отображения б компактна.
Это доказательство только обозначениями отличается от
доказательства более общей теоремы Тихонова — Алаоглу (единичный
шар в пространстве, сопряженном к банахову, слабо компактен).

Гл. 2. Слабая топология 177
Решение 18. В сепарабелъном гильбертовом пространстве
слабая топология единичного шара метризуема.
Доказательство 1. Так как единичный шар В слабо компактен
(задача 17), то достаточно доказать существование счетной базы
для его слабой топологии.
Пусть {hf j = 1, 2, 3, . . .} — счетное всюду плотное в В
множество. Рассмотрим базу слабых окрестностей (в В), определенных
формулой 159
U(p, q, !¦)={/ 6 В: \(f-hp,hj)\<±, 7 = 1,..., г} ,
1де р, q, r=l, 2, 3 ... . Надо доказать, что если /0?В,
к — натуральное число, git . . ., gk — произвольные векторы,
е—положительное число и
то существуют такие целые числа р, q и г, что
/oeu(p,?,r)cu.
Доказательство основано на простом неравенстве
l(/-/o, gi)\<\(f-hP, hj)\ + \(hp-f0, hj)\ + \(f-f0, gi-h})\<
Будем рассуждать так: для каждого i (=1, 2, . . ., к) выберем jt
так, чтобы норма || gi — Нц \\ была мала, и выберем р так, чтобы
норма || /ip — /о || была очень мала. А именно, возьмем q,
удовлетворяющее неравенству llq < е/3, и выберем jt так, чтобы
выполнялось неравенство || g; —hj. || < l/2g. Затем возьмем r^>jt
для i = l,..., к, наконец, выберем р так, чтобы \\hp —/0 ||
было меньше ilqm, где т = max {|| hj \\: / = 1, . . ., г}.
Если / = 1, . . ., г, то
\{fo-hp,h})\<\\fo-hp\\.\\hj\\<m.± = -L,
так что /о 6 U (p, q, г). Если f?U(p,q,r) и ?= 1, . .., к, то
и
(вспомним, что || / || < 1 и || /о || < 1). Поэтому / ? U, и
доказательство закончено.

178 Решения
Доказательство 2. Существует и другое рассуждение, которое
проливает некоторый свет на задачу и имеет то достоинство (если
только это достоинство), что указывает конкретную метрику
для слабой топологии шара В. Пусть {el7 е2, . . .} — ортонорми-
рованный базис в Н. (Без ограничения общности можно считать,
что базис бесконечен; в конечномерном случае все эти
топологические вопросы тривиальны.) Для каждого вектора / положим
Так как | (/, е}) |<||/||, то ряд сходится и определяет норму.
Если d (/, g) = | / — g |, где / и g лежат в В, то d — метрика в В.
Чтобы показать, что d метризует слабую топологию шара В,
достаточно показать, что fn -> 0 (слабо) тогда и только тогда, когда
\ fn I ->• 0. (Предупреждение: метрика d определяется для всего
пространства Н, но она связана со слабой топологией
пространства Н не так, как со слабой топологией шара В. Сейчас нам
понадобится равномерная ограниченность элементов из В.)
Предположим, что fn —*- 0 (слабо), так что, в частности,
(Ли ?/) ->¦ 0 при п -> оо для каждого ), Хвост ряда для | fn |
равномерно мал для всех п (действительно, хвост ряда для | / |
равномерно мал для всех векторов / из шара В). В нашем случае из
предположения слабой сходимости следует, что каждая отдельная
частичная сумма ряда для | fn | уменьшается при увеличении п,
поэтому \ fn | -> 0.
Предположим теперь, что \fn | ->- 0. Так как сумма ряда для
| fn [ больше каждого из своих членов, то (/„, е;) -> 0 при п —>¦ оо
для каждого ;'. Тогда если g — конечная линейная комбинация
векторов ej, то (/„, g) ->- 0. Такие линейные комбинации образуют
всюду плотное множество. Если k 6 Н, то
\(fn,h)\<\(fn,h-g)\ + \(fn,g)\.
Выберем g так, чтобы норма \\h — g \\ была мала (тогда и
величина | (/„, h — g) | будет мала), и выберем п так, чтобы | (/„, g)\
была мала. (Это стандартное рассуждение иногда выделяют как
лемму: ограниченная последовательность, слабо сходящаяся на
всюду плотном множестве, слабо сходится.) Итак, /„ -»- 0 (слабо).
Решение 19. Если слабая топология единичного шара в
гильбертовом пространстве Н метризуема, то Н сепарабельно.
Доказательство. Если единичный шар В слабо метризуем, то он
слабо сепарабелен (так как он слабо компактен). Пусть
{fn: п = 1, 2, 3, . . .} — счетное множество, слабо плотное в В.
Множество всех векторов вида mfn (т, п = 1. 2, 3, . . .) слабо

Гл. 2. Слабая топология 179
плотно в Н. (В самом деле, для фиксированного т векторы mfn
слабо плотны в mB, a U тВ = Н.) Для окончания доказательства
т
заметим, что слабо сепарабельные гильбертовы пространства
сепарабельны (решение 15).
Решение 20. Предположим, что Т — слабо ограниченное
множество в Н, а именно | (/, g) | < а (/) для всех g из Т. Если
пространство Н конечномерно, то доказательство тривиально.
Действительно, если {еь . . ., еп} — ортонормированный базис в Н, то
t=l
УД
< УДК/' ei) I2' V% I iei' S) I2< II / И-max {«(«,), ...,a(en)},
и все в порядке.
Предположим теперь, что Н — бесконечномерное пространство,
и пусть заключение неверно. Тогда существуют такой элемент gi
изТ и такой единичный вектор е4, что | (et, g4) | ^> 1. Спрашивается,
будут ли функционалы, индуцированные векторами изТ (т. е.
отображения / -> (/, g), где вектор g принадлежит Т), ограничены на
ортогональном дополнении к линейной оболочке векторов ei и gx.
Если да, то они ограничены на Н, что противоречит нашему
предположению. Значит, существуют элемент g2 из Т и такой
единичный вектор е2, ортогональный к е4 и gt. что ] (<?2, g2) I ^> 2 B +
-f | a (ej) |). Продолжаем рассуждать тем же способом. Как
и выше, доказываем, что линейные функционалы, индуцированные
векторами из Т, не могут быть ограничены на ортогональном
дополнении к подпространству (не более, чем четырехмерному),
натянутому на векторы еи ег, gi и g2; отсюда, как и раньше,
заключаем, что существуют вектор g3 из Т и такой единичный вектор е3,
ортогональный к еи е2 и gu g2, что
\(ея, gs)\>3(\a(ei)\ + -ja(e2) + 3).
Продолжая по индукции, получаем после п шагов элемент gnArl
из Т и такой единичный вектор еп+и ортогональный к еи ..., еп
и gu ..., gn, что
П
>(п+ 1) ( 2 у»
г=1

ISO
Решения
Пусть теперь / = 2j A/?)ег- Тогда
г=1
1
— 2 т а
г=1
г=1
г=1
Таким образом, если множество Т не ограничено, то оно не может
быть и слабо ограниченным.
Это доказательство принадлежит Сарасону. Частные случаи
встречаются у фон Неймана [1, сноска 32] и Стоуна [1, стр. 59],
наиболее общий случай рассмотрен у Ахиезера и Глазмана [1].
Решение 21. Пусть векторы (е4, е2, е3, . . .) образуют
бесконечное ортонормированное множество в пространстве Н, а Е
обозначает множество всех векторов вида Уп еп, п = 1, 2, 3, . . . .
Утверждение: начало координат принадлежит слабому замыканию
множества Е. В самом деле, пусть
{/•• I f,gt\< e, г = 1, -.., к}
со
— базисная слабая окрестность нуля. Так как 2 I (gti en) 12<
1
°°
2
п=1
оэ k
для каждого i, то 2B I (Sii en) I ) < °° (поскольку сумма
n=l i=l
конечного числа квадратично суммируемых последовательностей
квадратично суммируема). Тогда существует хотя бы одно значе-
k
и (в противном случае,
ние п, для которого 2 I (#ь е«) I <
г=1
возведя в квадрат обе части, получим гармонический ряд). Если п
удовлетворяет этому неравенству, то, в частности, | (gi, en) \ <
<С г1\/~п для каждого i, и потому \(V~nen, gt) | < е для всех
i (= 1, . . ., Л).
Чтобы установить, что Н нельзя слабо метризовать, достаточно
доказать, что'ни одна последовательность из Е не сходится слабо
к нулю. Так как всякое бесконечное подмножество в Ене
ограничено, то нужный результат немедленно следует из принципа
равномерной ограниченности.

Гл. 2. Слабая топология 181
Первая конструкция такого типа была предложена фон
Нейманом [1, стр. 380], но приведенная нами конструкция проще; ее
придумал Шилдс.
Решение 22. Положим gk = {E*, . . ., $t, 0, 0, . . .}.
Понятно, что gh ? Z2, к = 1, 2, 3, . . . . Если вектор / = {аи а2, а3, . . .}
к <х>
принадлежит Z2, то (/, gh) = 2 a$j -+¦ 2 a$j- Поэтому для каждого
3=1 3=1
вектора/ из Z2 последовательность {(/, gh)} ограничена, т. е.
последовательность {gh} слабо ограничена. Из принципа равномерной
ограниченности получаем, что существует такая положительная
константа Р, что || gk ||2 <; р для всех к и, следовательно,
.1 I P, I2 < Р.
Этот метод обобщается на многие пространства с мерой, включая
все cr-конечные меры. Пусть X — пространство с а-конечной мерой
[X, a g — измеримая функция на X, обладающая тем свойством,
что ее произведение с любой функцией из L2 (ix) принадлежит
L1 (ц). Докажем, что g принадлежит L2 (jj.).
Пусть {Eh} — такая возрастающая последовательность
множеств конечной меры, что (J Е^ = X и на каждом множестве Е^
к
функция g ограничена. (Здесь используется cr-конечность.)
Положим gk = %Ehg* (где %Bh — характеристическая функция
множества Еь), к = 1, 2, 3, .... Оставшаяся часть доказательства,
очевидно, обобщает предыдущие «дискретные» рассуждения: надо
заменить суммы интегралами.
Для тех, кто знает теорему о замкнутом графике, возможен
другой подход: примените эту теорему к отображению / —>• fg*
из L2 в L1.
Почти в самой общей форме (хотя и не вполне) теорема о
замкнутом графике обсуждается в задаче 44.
Решение 23. (а) Идея состоит в том, что достаточно «большая»
фундаментальная сеть может оказаться сходящейся к
«неограниченному вектору», т. е. к чему-то вне пространства. Попытаемся
выразить это точно. Выберем какой-нибудь неограниченный
линейный функционал и зафиксируем его (пусть это будет |);
в бесконечномерном гильбертовом пространстве такие
функционалы всегда можно построить (используя для этого базис Гамеля).
Пусть {е;} — базис Гамеля. Каждому конечному подмножеству /
множества индексов поставим в соответствие (конечномерное)
подпространство М7, порожденное всеми векторами ej, ) ? /.
Рассмотрим линейный функционал \j, равный \ на Mj и нулю
на Mj. Так как функционалы \1 ограничены (ибо Mj конечно-

182 Решения
мерно), то существует сеть / ->¦ gj таких векторов, что \j (/) =
— (/> Sj) Для каждого/ и каждого /. (Конечные множества /
упорядочены, разумеется, по включению.) Для заданного вектора /о
рассмотрим такое конечное множество /0, что /о 6 Mj0 . Если оба
множества / и К содержат /0, то (/0, gj) — (/о, ?к) = 0. Поэтому
{gv} — слабо фундаментальная сеть. Она не может сходиться
ни к одному из векторов пространства. В самом деле, предположим,
что gj —>¦ g слабо, так что |j (/0) —»- (/о, g1) для любого
фиксированного /0. Если /0 'ыково, что /0 6 Mj,,, то gjo(/0) = Е (/о), откуда
g (/0) = (/0, g) для всех/0. Но это невозможно, так как ? —
неограниченный функционал.
(б) Каждое гильбертово пространство секвенциально слабо полно.
Доказательство. Если {gn} — слабо фундаментальная
последовательность в пространстве Н, то последовательность {(/, gn)}
фундаментальна, а потому ограничена для каждого / из Н, так что
{gn} слабо ограничена. В силу принципа равномерной
ограниченности последовательность {gn) ограничена. Так как Km (/, gn) =
n
= ? (/) существует для всех / из Н, и так как из ограниченности
{gn} следует, что линейный функционал \ ограничен, то найдется
такой вектор g из Н, что lim (/, gn) = (/, g) для всех /. Это значит,
п
что gn-^~g (слабо), так что у последовательности {gn}
существует слабый предел.

ГЛАВА 3. АНАЛИТИЧЕСКИЕ ФУНКЦИИ
Решение 24. Для любой области D унитарное пространство
А* (?>) полно.
Доказательство. Доказательство удобно провести в три этапа.
A) Пусть D — открытый круг с центром в точке X и радиусом г,
и пусть / g A2 (D). Тогда
D
Без ограничения общности можно выбрать в качестве В
единичный круг Di = {z: | z | < 1}; общий случай получается из этого
подходящим переносом и изменением масштаба. Пусть функция /
принадлежит А2 (= A2 (Z>j)) и ее разложение в ряд Тейлора имеет
оо
вид 2 anZn. В каждом круге В т = {z: | z | < г}, 0 < г<1, ряд
п=0
Тейлора для функции/ сходится равномерно, и его можно
интегрировать почленно, поэтому
z) = 2 a
Так как функция | / | интегрируема на Du то \ fd\i ~-*- \ fd\i
Dr D%
при г -*- 1, а так как а0 = / @), то доказательство утверждения A)
закончено.
Вернемся теперь к случаю произвольной области D.
B) Если Vx (/) = / (X), когда Я 6 D и / ? A2 (D), то при каждом
фиксированном X функционал у*, линеен. Если г = г {%) — радиус
наибольшего открытого круга с центром в точке X, целиком
содержащегося в области D, то

184
Решения
Действительно, пусть Do — наибольший открытый круг с
центром к, целиком содержащийся в области D. Тогда
D
1
= ЯГ*
л 2
\ / (z) <2ц (z) (в силу неравенства Шварца)
= яг21 / (к) |2 (в силу утверждения A)).
C) Теперь уже нетрудно доказать основное утверждение.
Предположим, что {fn} — фундаментальная последовательность в
пространстве A2 (D). Из B) следует, что
||/n/m||
у Л-Г (К)
для всякого к из D; здесь, как и раньше, г (к) — радиус
наибольшего открытого круга с центром в точке к, целиком содержащегося
в области D. Поэтому, если К — компактное подмножество
области D, так что значения г (к) отделены от нуля для всех к ? К,
то последовательность функций {/„} сходится на К равномерно.
Тогда существует такая аналитическая на области D функция /,
что /„ (%) -> / ф) для всех к из D. В то же время из полноты
гильбертова пространства L2 (р.) вытекает, что существует такая комплекс-
нозначная квадратично суммируемая, но не обязательно
аналитическая функция g на D, что/„ -v gno нормеL2 (|л). Это значит,
что подпоследовательность последовательности функций {/„}
сходится к g почти всюду, а потому / = g почти всюду. Поэтому
функция / квадратично интегрируема, т. е. / 6 A2 (D) и, следовательно,
пространство A2 (D) полно.
Эти вопросы впервые были рассмотрены Бергманом [1, стр. 24].
Доказательство, приведенное выше, принадлежит Халмошу,
Люмеру и Шефферу [1]. Теорема Рисса — Фишера (полнота L2)
в нем используется явно, а не доказывается кустарно в этом
частном случае, и поэтому с точки зрения теории гильбертовых
пространств наше доказательство проще аналитических рассуждений
Бергмана.
Решение 25. Вычисление скалярного произведения (еп, ет)
представляет собой стандартную процедуру. В самом деле, если
DT= {z: | z | <r}, то
2л г
(z) =
Dr
e* <"-"
p dp dQ =
0 0

Гл, 3. Аналитические функции 185
Отсюда следует (если положить г = 1), что если п фт, то
(еп, ет) = О, и (если положить т. = п) \\еп ||2 = 1. Это доказывает
ортонормальность.
Чтобы доказать, что векторы еп образуют полное ортонормиро-
ванное множество, казалось бы, можно рассуждать так:
Пусть / ? А2 и 2 anz™ — РЯД Тейлора для /. Тогда / (z) =
со
= 2 ccn ]/Vt/ (n + l)-en(z), откуда видно, что каждую функцию /
из А2 можно представить в виде линейной комбинации векторов е„,
что и требуется доказать. Это рассуждение почти правильно. Беда
оо
лишь в том, что нам нужен другой тип сходимости. Хотя 2 °<тгП
п=0
сходится к / (z) в каждой точке z и даже равномерно на каждом
компактном подмножестве круга, из этого не вытекает еще, что ряд
сходится по норме А2.
Эту трудность легко обойти: попробовать доказать по-другому.
Например, достаточно показать, что если / ? А2 и / _]_ е„ для
п = 0, 1, 2, . . . , то / = 0; это очевидное следствие из второй
части задачи 25 (утверждение о соотношении между
коэффициентами Тейлора и коэффициентами Фурье). Соответствующее
утверждение непосредственно обобщает пункт A) в решении 24 (там
рассматривается только е0). Доказательство для этого частного
случая переносится на общий: в каждом круге Dr, 0 <С г <С 1, ряд
/ (Z) Z*m = 2 CCnZnZ*m
n=0
сходится равномерно, поэтому, проинтегрировав его почленно,
получим
/ (z) z
(z) = 2
п=0
Так как функция \f-e%, | интегрируема на Du то \ f*emd\i -*¦
Dr
-*¦ \ f-e'md[i = (/, ет) при г->-1, и доказательство закончено.
Заметим, что приведенное выше рассуждение неявно
использует полноту пространства А2. Мы доказали, что ортонормирован-
ное множество {е0, еь ег, . . .} максимально, а максимальное
ортонормированное множество будет базисом только в полном
пространстве. Дело в том, что если пространство неполно, нельзя
гарантировать сходимость разложения Фурье.

186 Решения
Вот другое доказательство того, что векторы еп образуют базис.
00
Оно более явно использует полноту. Если / ? А2 и 2 a"z —Ря^
п=0
Тейлора для /, то (/, еп) — У п/(п + 1) а„. Тогда в силу
неравенства Бесселя ряд
2 Я I
сходится. Поэтому ряд
Я I «п I2
п=0
f
п=0
сходится по норме L2 (в этом доказательстве встречается та же
трудность, что и в нашем наивном рассуждении с разложением в
степенной ряд, но здесь она преодолевается).
Этот результат устанавливает естественный изоморфизм между
А2 и гильбертовым пространством всех последовательностей
(а0, а4, а2, ...), для которых
п=0
со скалярным произведением векторов (aoi otj, a2, ...) и
<Ро, Pi, Рг> • • •>, равным
п=0
Решение 26. Утверждение задачи формально почти очевидно.
Для любой функции из L2 (не только из Н2) с разложением в ряд
Фурье / = 2 an.sn комплексно сопряженная функция имеет вид
га
/* = 2 а*еп = 2 апе-п = 2 a-n^n.
п п п
Поэтому если / = /*, то ап = a!_n для всех ?г. Если же / 6 Н2,
то а„ = 0 при п <; 0, а тогда а„. = 0 при п фО, откуда / = а0.
В этом доказательстве использовалось утверждение, что
комплексное сопряжение перестановочно с разложением в ряд Фурье.
Его нужно или доказать, или обойти. Доказательство: частичные
суммы ряда 2 апеп сходятся по нормеL2 к/, поэтому их подпоследо-
п
вательность сходится к / почти всюду. Отсюда получаем нужный
результат в силу непрерывности комплексного сопряжения. Упо-

Гл. 3. Аналитические функции 187
мянутое утверждение можно и обойти: так как ап = \ /e?d^,
то Пп= ( \ fend\y\ = \ /*е?йц; поэтому, если / = /*, то,
действительно, ап = а* ~п. Иногда полезно знать, что это последнее
рассуждение применимо не только к1Д но и к L1, поэтому
единственные вещественные функции в Н1 — константы.
Решение 27. Так же, как и утверждение задачи 26 о
вещественных функциях, это формально очевидно. Пусть функции / и g
принадлежат Н2, а их разложения в ряд Фурье имеют вид
Тогда
fg = 2 2 v-T$men.en =2B v-nh-n) eh.
n in h n
Если, кроме того, fug принадлежат Н2, то ап = |3„ = 0 при
п < 0, и потому 2anPfc-ra = O ПРИ & < 0. В самом деле, если
п
п <; 0, то an ^ 0, а если п>0, то /с — п < 0, поэтому Efc-n = 0.
В обоих случаях an$h-n = 0.
Здесь использовалось недоказанное утверждение о том, что
ряд Фурье произведения двух функций равен формальному
произведению рядов Фурье сомножителей. Оно доказывается
с применением той же техники подпоследовательностей, которая
использовалась в решении 26. Это утверждение можно и обойти:
скалярное произведение (/, g*) равно 2 anP-n (это следует из ра-
п
венства Парсеваля и из результатов решения 26 о коэффициентах
Фурье для комплексно сопряженной функции); другими словами,
нулевой коэффициент Фурье функции fg равен
Заменим теперь g на ge%. Так как коэффициенты Фурье уп
функции ge% вычисляются по формуле
Уп= ge%etd\i= \ get+nd\i = fih+n.
то
fge% d\i = 2 a«T-n = 2 ar$h-n-

188 Решения
Отсюда сразу следует, что если / ? Н"° и g ? Н2, то fg ? Н2. Верен
и другой факт: если / ? Н°° и g ? Н1, то /# 6 Н1, но его
доказательство связано с дополнительными аналитическими трудностями.
оэ
Решение 28. Если <р (z) = 2 anz" Для I z I < 1> то Фг (z) =
71=0
со
= 2 anrnzn для 0<г<1и|г|<1. Так как для любого фикси-
п=0
рованного г последний ряд сходится на единичной окружности
равномерно то он сходится и в любом другом полезном смысле;
в частности, это значит, что разложение в ряд Фурье функции срг
сю
в пространстве L2 имеет вид фг = 2 сс„гпе„, а потому фг f Н2.
71=0
Так как
со
II ФПГ = 2 К12г2\
71 = 0
то второе (и главное) утверждение можно переформулировать так:
со со
если р = 2 I ап |2 и рг = 2 | ап\2г2П, то Р ¦< оо тогда и только
71=0 71=0
тогда, когда числа рг @ < г < 1) ограничены в совокупности.
В одну сторону результат тривиален: так как fir -^ р для всех
г, то если р < оо, числа рг ограничены. Обратно, пусть pr ^ у
для всех г. Тогда для каждого натурального к
2 К|2 = B KI2- 2 Ы2г2п)+ 2 K[V"<
П=0 71=0 71=0 71=0
h
n=0
2/4
2 ||() 7
n=0
k
Зафиксируем к и выберем г так, что 2 I anl2(l — г%п) •< 1; это
71=0
можно сделать, поскольку конечная сумма является многочленом
от г (а потому непрерывна), обращающимся в нуль при г = 1.
h
Таким образом, 2 I ап I2 ^С У ~т 1 Для всех /с, следовательно,
71=0
Решение 29. Начнем с бесконечномерного функционального
гильбертова пространства Н над множеством X и присоединим

Гл. 3. Аналитические функции 189
к X точку, которая действует как неограниченный линейный
функционал. Точнее говоря: пусть ср — неограниченный
линейный функционал на пространстве Н (такой обязательно найдется,
потому что пространство Н бесконечномерно); положим Х+ ==
— X U {ф}. Пусть Н+ обозначает множество (векторное
пространство с поточечным сложением) всех таких функций/+ на Х+,
сужения которых на X (обозначаемые через /), принадлежат
пространству Н, а значения в точке ср совпадают с <р (/). (Другими
словами, продолжим каждую функцию / из Н до функции /+
на Х+, положив /+ (ф) = ср (/).) Если /+ и g+ принадлежат Н+,
то по определению (/+, g+) = (/, g), где fug — сужения на X
функций /+ и g+. (Иначе говоря, скалярное произведение
расширений /+ и g+ равно скалярному произведению функций / и g).
Векторное пространство Н+ с таким скалярным произведением
изоморфно пространству Н с первоначальным скалярным
произведением, следовательно, Н+ — функциональное гильбертово
пространство. Поскольку ф ? Х+, а /+ (ф) = ф (/) для всех / из Н
и функционал ф неограничен, модуль | ф (/) | может быть как
угодно большим для единичных векторов /, и поэтому | /+ (ф) |
может быть как угодно большим для единичных векторов /+.
Решение 30. Пусть Н — функциональное гильбертово
пространство над множеством X с ортонормированным базисом {е7} и
ядром К. Для каждого у из X рассмотрим разложение функции
Ку в ряд Фурье
i з
Из равенства Парсеваля получаем
К (х, у) = (Ку, Кх) = S ej (x) е| (у).
з
В пространстве А2 функции еп, определенные равенствами
образуют ортонормированный базис (см. задачу 25); отсюда
следует (в соответствии с только что полученным результатом), что
ядро К пространства А2 можно представить в виде
со
К(х у) =— У. (п + 1)хпу*п
п = 0
(Здесь жиг/ — комплексные числа из открытого единичного кру-
оэ
га.) Так как 2 (п + 1) z" = A — z)~2 ПРИ I z I < 1 (это можно
п=0
доказать интегрированием левой части или разложением пра-

190 Решения
ВОЙ), ТО
4 ' ¦" Л A — ху*)*
Рассмотрим теперь пространство Н2. По определению оно
состоит из функций / на единичном круге, соответствующих эле-
оо
ментам / пространства Н2. Если / = 2 апеп и \ у | < 1, то / (у) =
п=0
ОО СЮ
= 2 апУп и> следовательно, / (у) = (/, Ку), где Ку= 2 */*%•
п=0 п=0
Таким образом, мы доказали сразу два утверждения:
отображение / -*¦ / (у) представляет собой ограниченный линейный
функционал (так что Н2 — функциональное гильбертово пространство)
и ядро пространства Н2 имеет вид
К{х, у)= 2 *пУ*п, \х\<1,
п=0
или, короче,
с. У)=т^:-,„*
-ху*
Решение 31. Пусть К — ядро пространства Н2 (см.
решение 30). Если /„ ->- / в Н2 и | у |< 1, то
I In (У) —7B/) | = I Gп — Ту Ку) | < || /„ -/ || -|| Ку ||.
Так как
п=о
то при | у | < г
1-1 У \
Решение 32. Функция / определяет / — но каким образом?
Разложения в ряды Фурье и Тейлора не могут дать достаточной
информации о таких структурных свойствах, как
ограниченность. Постараемся лучше доказать, что значения / (на единичной
окружности) служат в каком-то смысле пределами значений
функций / (на единичном круге). Для этого положим
fT{z)=J{rz), 0<г<1, |г| = 1.
Функции /г принадлежат пространству Н2 (см. задачу 28); наше
утверждение состоит в том, что /r -> f (при г -> 1) в смысле схо-

Гл. 3. Аналитические функции 191
димости по норме Н2. (Ограниченность функции / пока ни при
чем.)
СО СО
Сначала вспомним, что если /= 2 апеп, то /г= 2 anr"e<i
п=0 п=0
и, следовательно,
Поэтому для каждого натурального к
f
и=0
п=к+1
Теперь уже легко получить нужный результат (норма || / — /г ||
мала, когда г близко к 1): выберем такое большое к, чтобы второе
слагаемое было достаточно мало (оно не зависит от г), и затем
выберем г настолько близким к 1, чтобы первое слагаемое было
достаточно мало.
Сходимость в L2 влечет существование подпоследовательности,
сходящейся почти всюду, поэтому /г„ -> / почти всюду для
подходящей подпоследовательности {гп}, гп —>• 1; отсюда сразу
следует ограниченность функции /.
Утверждение, что /г ->• /, верно и в другом смысле (может
быть, лучшем?), чем сходимость в среднем квадратичном; на самом
деле /r —v / почти всюду. Другими словами, если точка z круга,
передвигаясь по радиусу, стремится к граничной точке z0, то
значение функции / (z) стремится к / (z0) для почти всех точек z0
границы. Этот результат можно усилить: например, сходимость
по радиусу можно заменить сходимостью по любому
некасательному направлению. Эти аналитические тонкости находятся в
центре внимания некоторых областей математики, но с точки зрения
гильбертовых пространств достаточно сходимости по норме.
Решение 33. Если f ? Н°°, то функция f ограничена, причем
II? II» =11/П..
(Нормы || Па, определяются как верхняя грань значений
функции!/^ круге и существенная верхняя грань значений функции |/ |
на границе.)
Доказательство. Рассмотрим следующие два утверждения.
A) Если / 6 L°° и ] / | ^ 1, то существует последовательность
{/„} тригонометрических полиномов, сходящаяся к / по норме L2
и такая, что | /„ 1^1 для всех п; если, кроме того, /
принадлежит пространству Н00, то функции fn тоже принадлежат Н°°.

192 Решения
B) Если р — многочлен и | р (z) | <Г 1 при | z | = 1, то
\p{z) |<1 при \z |<1.
Оба эти утверждения известны в анализе: A) вытекает из
теоремы Фейера о сходимости по Чезаро ряда Фурье, а B)
представляет собой принцип максимума модуля для многочленов. Второе
из этих утверждений, по-видимому, известно гораздо более широко.
Во всяком случае утверждение B) будет в дальнейшем
использовано без дополнительных обоснований; A) мы тоже используем
дальше, а потом приведем набросок его доказательства.
Из утверждений A) и B) легко получить ограниченность
функции /. Пусть / принадлежит пространству Н°°; предположим
(тут дело только в нормировке), что | / | ^ 1, и, используя A),
найдем такие тригонометрические полиномы fn, что \ fn | ^ 1
и fn -> / по норме L2. В силу A) полиномы fn можно выбрать так,
чтобы все они принадлежали пространству Н°°, поэтому их
продолжения fn во внутренность круга — тоже полиномы. Так как
fn ->¦ / по норме Н2, то из задачи 31 следует, что fn (г) -> / (z)
при \ z | < 1. Согласно B), \ fn (z) | <; 1 для всех п и для всех z.
Поэтому | / (z) | <^ 1 для всех %.
Приведенное рассуждение доказывает неравенство H/IU-s^
<П1/ ||оо- Для доказательства обратного утверждения нужно
использовать решение 32 (/г ->• / при г -»- 1).
Остается доказать утверждение A). Пусть / = 2 ®-пеп\ обозна-
п
k
чим sk — 2 ajej (& = 0> 1. 2, . ••)• Понятно, что sh -> / в про-
j=-fe
странстве L2, но этого еще недостаточно; отсюда еще не следует
ограниченность. (Если | / | ^ 1, то это еще не значит, что | sk \ ^
<;1.) Выход состоит в том, чтобы рассмотреть средние
п- 1
1
«„=12
(Заметим, что если / ? Н2, то fn ? Н2.) Ясно, что tn ->¦ f в
пространстве L2. (На самом деле известно, что ?п —*- f почти всюду,
но доказательство этого факта нетривиально и, к счастью, нам
это здесь не понадобится.) Последовательность tn уже обладает
нужным свойством: если | / | <^ 1, то \tn \ <^ 1.
к
Докажем это. Обозначим через Dk сумму 2 е^ (А: = 0, 1, 2, ...)
n-i j=—k
и положим Zn == (llri) 2 Dh (n = 1, 2, 3, . . .). Функции Z)fe
й=0
и if,, называются ядрами Дирихле и Фейера соответсвенно.

Гл. 3. Аналитические функции 193
Так как \ Dkd\i = \ eod\i = 1, то I Knd[i = 1. Основное
свойство ядер Кп состоит в том, что их значения вещественны
и даже положительны. Это доказывается прямым
вычислением: для z = 1 очевидно, а для z Ф 1 (но, разумеется, | z | =
k
= 1) запишем Dh (z) = 1 + 2Re 2 zj (к = 1, 2, 3, . . .) и, при-
3=1
менив формулу для суммы геометрической прогрессии, получим
(При вычислениях мы воспользовались следующим приемом:
если | z | = 1, то |1 —z |2 = 2Re A — z).) Подставив найденное
выражение в формулу для Кп и свернув полученную сумму,
получим
Теперь очевидно, что функции Кп вещественны. А так как, кроме
того, Re zn <; 1 (напомним, что | zn | = | z \п = 1), или 1 —
— Re zn ^> 0, то Кп (z) ^> 0, как и утверждалось.
Применим этот результат к функции /. Заметим, что
sh (z) = 2 J / (У) У*^} dp (У) = J Dh (y*z) f (y) dp (у) =
j=-k
= \Dh(y)f(y*z)dlL(y),
поэтому
Следовательно, если |/]<Cl, то
[ tn (z) | < J Kn (у) | / (y*z) j ф (у) < J Кп (у) ф (у) = 1.
Доказательство закончено. Еще одно техническое замечание,
которое иногда бывает полезно: в условиях утверждения A) нет
разницы между сходимостью по норме и сходимостью почти
всюду. В самом деле, если последовательность сходится по норме,
то ее подпоследовательность сходится почти всюду, а если она
сходится почти всюду, то по теореме Лебега о сходимости
ограниченной последовательности она будет сходиться и по норме.
Решение 34. Если f ? 1Г°, g ? Н2 и h = fg, то h — J-g.
Доказательство. В том виде, в каком вопрос был
сформулирован, самое трудное — точно поставить задачу. Если функции /

194 Решения
и g принадлежат пространству Н2 и h = fg, то функция h не
обязана принадлежать пространству Н2, и поэтому к ней нельзя
применить определение, данное в задаче 28; в этом случае может
оказаться, что функция h не определена.
Проще всего выйти из положения, предположив, что один
из сомножителей (например, функция /) ограничен. Тогда, как
показано в задаче 27, функция h принадлежит пространству Н2
и вопрос приобретает смысл. (Существует и другой выход:
заметить, что h принадлежит пространству Н1 (см. задачу 27) и
распространить процесс продолжения во внутренность круга на
функции из Н1. При этом появляются некоторые, не слишком большие,
но ненужные трудности.) Теперь, когда вопрос приобрел смысл,
ответ на него легко следует из решения 27: коэффициенты Фурье
произведения fg выражаются через коэффициенты Фурье
функций / и g точно так же, как коэффициенты Тейлора функции fg
выражаются через коэффициенты Тейлора функций / и g. Другими
словами, формальное умножение рядов годится как для рядов
Фурье, так и для рядов Тейлора, а поэтому отображение одних
в другие мультипликативно.
Решение 35. Для того чтобы объяснять конструкцию, при
помощи которой можно получить, например, функцию / из
функции и, разумно обратить вопрос и посмотреть, каким способом
получается функция и из /. Предположим, что / ? Н2 и / =
= 2 ап^п — ряд Фурье для /. Положим и = Re /. Поскольку
п=0
I и I <С I / 1> функция и принадлежит пространству IA Если и
разлагается в ряд Фурье и = 2 \пеп, то (см. решение 26)
п
=4-
= Reao+ 2 \
п>0
{уСС„ (П > 0) ,
откуда
-cctn
Теперь ясно, как идти в обратном направлении. Пусть дана
функция и = ^1пеп, причем %п—— |*п и, в частности, ?0 —

Гл. 3 Аналитические функции 195
вещественное число. Положим
ао=|о, а„ = 2&, = 2?* „ = &, + ?!.„ (ra>0).
Так как последовательность {ап} квадратично суммируема, то
ряд /= 2 а"еп определяет элемент / пространства И2. Обозначим
0
(Z) в честь Дирихле); тогда Re Du — и для всех вещественных
функций и из пространства IA Строго говоря, нельзя утверждать,
что D Re / = / для всех функций / из Н2, но это почти так:
разность / — D Re / представляет собой чисто мнимую константу,
которую можно выбрать произвольно.
Что касается функции v, то при заданной функции и положим
v—lmDu. Поскольку \mDu= — Re (iDu), легко получить явное
выражение для коэффициентов Фурье функции гл Если, как
и раньше, м = 2^еп и f — Du= 2 апеп, то
0
П
Если у = 2 ТЬ^П) то
Если |о = О, то полученный результат можно выразить кратко:
т)л = (— i sgn тг) |„
для всех п.
Если рассматриваются функции из L2 на единичной
окружности, то задача Дирихле исчерпывается этими алгебраическими
тривиальностями. Формальное выражение функции v через и
имеет смысл, даже если функция и не вещественна.
Терминология (сопряженная функция, преобразование Гильберта) остается
той же самой. Важно заметить, что преобразование Гильберта
ограниченной функции не обязано быть ограниченным. Другими
словами (рассматривается продолжение во внутренность круга),
неограниченная аналитическая функция может иметь
ограниченную вещественную часть. Стандартный пример: /(z) = ?log(l—z).

ГЛАВА 4. БЕСКОНЕЧНЫЕ МАТРИЦЫ
Решение 36. Поскольку пространство Н распадается в прямую
сумму сепарабельных подпространств, приводящих оператор А,
можно без ограничения общности считать, что пространство Н
с самого начала было сепарабельным. Это замечание очень мало
используется в доказательстве, но оно освобождает от
необходимости постоянно думать о трудностях, связанных с несчетностью.
Есть один заманчивый путь доказательства, который обречен
на провал, но тем не менее поучителен. Пусть et — произвольный
единичный вектор. Пространство, натянутое на векторы ех и Аеи
имеет размерность не больше, чем 2, поэтому, если только
размерность пространства Н не равна 1, существует такой единичный
вектор е2, ортогональный к еь что Аеу ? \J {еь е2}. Пространство,
натянутое на векторы еи е2 и Ае2, имеет размерность не больше,
чем 3, поэтому, если только размерность пространства Н не
равна 2, существует такой вектор е3, ортогональный к е{ и е2, что
Аег 6 V (ei> е2: ез}- Повторяя эти рассуждения по индукции,
приходим к такой ортонормированной последовательности
векторов {еи е2, е3, . . .} (конечной только в том случае, если
пространство Н конечномерно), что Аеп ? \J {еи . . ., еп, en + i).
В конечномерном случае все очевидно и, с нашей точки зрения,
неинтересно. В бесконечномерном случае (Aej, ei) = 0 при i >
>/ -j- 1, и кажется, что все в порядке. На самом деле здесь
возникает трудность: нет никаких оснований предполагать, что
векторы еп образуют базис. А если это не так то при дополнении
их до ортонормированного базиса свойство конечности столбцов
Соответствующей матрицы может нарушиться, т. е. может
получиться так, что для некоторого вектора е, ортогонального ко всем
векторам еп, бесконечно много коэффициентов Фурье {Ае, et)
будет отлично от нуля.
Если оператор А эрмитов, то такая неприятность возникнуть
не может. Замкнутая линейная оболочка векторов еп инвариантна
относительно оператора Лив силу его эрмитовости приводит его.
Поэтому если включить последовательность векторов еп в орто-
нормированный базис, то новые матричные элементы не попадут
в старые столбцы.
Таким образом, для эрмитова случая мы показали даже
больше, чем собирались. Мы показали, что каждому эрмитову
оператору соответствует матрица Якоби. (Матрицей Якоби называется

Гл. 4. Бесконечные матрицы
197
эрмитова матрица, у которой все ненулевые элементы
расположены или на главной диагонали, или на двух соседних. Некоторые
авторы требуют, чтобы матрица была еще и неприводима, т. е. что
бы все элементы, стоящие на диагоналях, соседствующих с
главной, были бы ненулевыми.) В самом деле, если (Ае^, е{) = О
при i > j -f- 1, то (ej, AeL) = О при i > / -+- 1. Для того чтобы
закончить это рассуждение, нужно достроить по индукции
последовательность векторов еп до ортонормированного базиса, выбирая
новые векторы так же, как это делалось для векторов еп.
Для неэрмитова случая рассуждение можно
усовершенствовать (заключение при этом будет ослаблено и примет
первоначальный вид). Рассмотрим произвольный ортонорхмнрованный
базис {/j, /2, • • •} пространства Н. Положим е4 = /4. Найдем
такой единичный вектор е2, ортогональный к еи что Aet ? \/ {eive2}.
(Будем снова рассматривать только бесконечномерный случай.)
Потом найдем такой единичный вектор е3, ортогональный к е4 ие2,
что /2 G V {еь е%' ез}> а затем такой единичный вектор е4,
ортогональный к et, e2 и е3, что Ле2 6 V (еь е2» ез> е4}- Продолжая
этот процесс, будем захватывать каждый раз один из векторов /„,
а затем незахваченный еще вектор Аеп. При этом нужный нам
новый вектор е всегда найдется. Можно сформулировать общую
лемму: для любого конечномерного подпространства М и любого
вектора g "найдется такой единичный вектор е, ортогональный к М,
что g ? М\ {е}. Таким образом, последовательность {еи е2, . . .}
будет ортонормированной по построению; она будет базисом,
потому что ее замкнутая линейная оболочка содержит каждый
вектор /„ и для каждого номера п найдется такой номер in
(который, если нужно, легко вычислить), что Аеп ? \/ {et, . . .,е^п}.
Из этого последнего условия следует, что {Aej, е}) = 0 при i > ij.
Доказательство закончено.
Решение 37. Если (?0, |t, |2, . . . } — последовательность
комплексных чисел с конечным числом ненулевых членов
(т. е. |п = 0 для достаточно больших номеров п), то
;= ^

198 Решения
Из этих неравенств следует, что оператор А, действующий
в пространстве I2 по формуле
-<4Aо> iii ?2, • • •) =\2j аоДм ^очДу, /ЬагАь •••/>
i з i
удовлетворяет условиям задачи.
Решение 38. Этот резулыат вытекает из задачи 37. Для
доказательства положим в задаче 37 pt = 1/ |/~i -|- 1/2. Поскольку
гильбертова матрица симметрична, достаточно проверить одно из двух
неравенств (при |3 = 7 = я). Проверка состоит в элементарной
выкладке

ГЛАВА 5. ОГРАНИЧЕННОСТЬ И ОБРАТИМОСТЬ
Решение 39. Пусть {ej, e2t e3, . . .} — ортонормированный
базис в гильбертовом пространстве Н; рассмотрим базис Гамеля
в пространстве Н, содержащий все векторы еп. Пусть /0 —
произвольный, но фиксированный элемент базиса Гамеля, не
совпадающий ни с одним из элементов еп (см. решение 5). Определим
линейное преобразование А пространства Н так, чтобы Af0 = /о
и Af = 0 для всех остальных элементов выбранного базиса Гамеля.
(А определяется этими требованиями единственным образом.)
В частности, Аеп = 0 для всех п. Если бы оператор А был
ограничен, он был бы нулевым, поскольку он обращается в нуль на
всех векторах ортонормированного базиса. Тем самым решены
первая и третья части задачи.
Для решения второй части выберем произвольное, но
фиксированное натуральное число к и зададим оператор А (зависящий
от к) формулой
Понятно, что Аеп = е4 при n^Ai Аеп = О при п> к.
Следовательно, [| Аеп (|^1 для всех п. Легко проверить, что A*f =
= (/, е4) (ег-\- • • • + ek) для всех /, и, в частности, А*е^ =
+ .. + ек. Поэтому
Все это можно выразить по-другому, выписав матрицу
оператора А в базисе {ej, e2, е3, . . .}; все ее элементы равны нулю,
кроме первых к элементов первой строки, каждый из которых
равен единице.
Решение 40. Нужно дважды применить принцип равномерной
ограниченности для векторов (см. задачу 20). Пусть Q — слабо
ограниченное множество ограниченных линейных преобразований
из пространства Н в пространство К, т. е. | (Af, g) | <^ a (/, g)
для всех А из Q. Зафиксируем произвольный вектор go из К
и положим То = {yl*|?o: A ? Q}. Так как
К/, A*go)\ = \(Af, go)\<a(f, g0),
то множество То слабо ограничено в пространстве Н, а потому
существует такая константа f> (g0), что || A*g0 \\ ^ р (g0) для
всех А из Q.

200 Решения
Рассмотрим теперь множество Т = {Af: А ? Q, / ? В}, где
В — единичный шар в пространстве Н. Поскольку
множество Т слабо ограничено в пространстве К, а потому
существует такая константа у, что ||Л/||<у при ^4 6Q и /?В.
Отсюда следует, что ||Л||<7, и доказательство закончено.
Решение 41. Достаточно показать, что преобразование А*
обратимо. Область значений этого преобразования плотна в
пространстве Н (так как ядро преобразования А тривиально).
Поэтому достаточно показать, что преобразование А* ограничено снизу.
Это значит, что || A*g || ^- б || g || для некоторого числа 6 >• 0
(и для всех g из К). Для этого достаточно доказать, что если
|| A*g || = 1, то || g || -^ 1/6 для некоторого б. Внимание:
последняя редукция использует предположение, что ядро преобразования
А* тривиально, а это верно потому, что область значений
преобразования А плотна в пространстве К. Чтобы понять, при чем
здесь эта плотность, рассмотрите в качестве А* нулевое
преобразование: в этом случае заключение от || A*g || = 1 к || g || ^ 1/6
верно, потому что бессодержательно. (Предположение о том,
что А отображает Н на все К, мы скоро используем в полной
мере.)
Итак, достаточно доказать, что множество S = {h: || A*h || =1}
ограничено; для этого докажем, что оно слабо ограничено.
Возьмем вектор g из пространства К и найдем такой вектор / из
пространства Н, что Af = g. Заметим, что
\(g, h)\ = \(Af,h)\ = \(j,A*h)\<
для всех h из S. Доказательство закончено.
Решение 42. Если dim К <; dim H, то без ограничения
общности можно считать, что К с Н. Пусть А — оператор в
пространстве Н, область значений которого лежит в
подпространстве К; надо доказать, что ядро оператора нетривиально.
Предположим, что К бесконечномерно; это предположение исключает
только тривиальные случаи. Пусть {/;} (г?7) и {gj}(j?J) — ор-
тонормированные базисы пространств Н и К соответственно.
Каждый вектор A*gj разлагается в счетную линейную комбинацию
векторов /;. Множество /' всех таких i, что вектор ft участвует
в разложении хотя бы одного A*gj, равномощно /. Поэтому /\/'
непусто. Пусть i?l\I'; тогда (/г, ^4*^^) = 0 для всех ). Так как
(/j, A*gj) = (Afi, gj), то вектор Aft ортогонален каждому
вектору gj, а потому всему подпространству К. А так как, кроме
того, область значений оператора А содержится в К, то Aft = 0.

Гл. 5. Ограниченность и обратимость 201
Рассмотрим теперь утверждение, относящееся к равенству
размерностей. Если пространство Н конечномерно, то все
тривиально. Если же пространство Н бесконечномерно, то существует
множество мощности dim H, плотпое в Н. (На to использовать
рациональные линейные комбинации; см. решение 11.) Тогда
множество мощности dim Н плотно в К, откуда dim К ^ dim H.
Приведенное выше доказательство элементарно, но в то время
как само утверждение вполне естественно, доказательство не
совсем очевидно. (Оно принадлежит, между прочим, Вайссу; ср. Хал-
мош и Люмер [1].) Существует и более короткое доказательство,
но оно опирается на нетривиальную теорию (полярное
разложение). Вот его схема. Пусть А — взаимно однозначное линейное
преобразование из пространства Н в пространство К с полярным
разложением UP (см. задачу 105). Тогда, так как кег А = {0},
то U — изометрия. В случае равенства размерностей, если область
значений преобразования А плотна в К, то ran U = К.
Решение 43. Заметим сначала, что если ненулевой вектор
принадлежит области значений оператора Р, то оператор Q не может
переводить его в нуль. В самом деле, если Pf = / и Q/ = 0, то
|| Pf - Qf ||= |j/ ||. Поэтому, если /^=0, то || Р - Q \\ > 1.
Отсюда следует, что сужение оператора Q на область
значений оператора Р представляет собой взаимно однозначное
линейное преобразование этой области в область значений оператора Q,
а потому ранг оператора Р не превосходит ранга оператора Q
(задача 42). Требуемый результат получаем по симметрии.
Решение 44. Пусть А — линейное преобразование из
гильбертова пространства Н в гильбертово пространство К.
Предположим сначала, что А ограничено. Пусть {(/„, Afn}} — сходящаяся
последовательность векторов из графика преобразования А,
например, пусть (fn, Afn) ->¦ (/, g). Так как /„ -»- / и
преобразование А непрерывно, то Afn —v Af. В то же время Afn —>¦ g,
поэтому g = Af. Следовательно, вектор (/, g) тоже принадлежит
графику преобразования А.
Доказательство обратного утверждения менее тривиально;
оно основывается на результате задачи 41. Обозначим буквой G
график преобразования А и рассмотрим преобразование В из G
в Н, определенное формулой В (/, Af) = f. Ясно, что В —
взаимно однозначное отображение из G в Н; поскольку
\\B(f, Л/>||з = ||/||*<Ш2 + ||А/Ц^|</, Af)\\\
оно ограничено. Так как G — замкнутое подмножество полного
пространства Н @ К, то оно само полно. Если воспользоваться
теперь задачей 41, то получим, что отображение В обратимо.

202 Решения
Итак, отображение В'1, действующее из Н в G по формуле B~lf =
= (/, Af), является ограниченным линейным преобразованием.
По определению это означает, что
для некоторого числа а (и для всех / из Н); отсюда сразу следует
ограниченность оператора А.
Полезно заметить, что вывод нашего результата из задачи 41
можно обратить: ее утверждение представляет собой частный
случай теоремы о замкнутом графике. Это замечание, конечно,
не представляет особенно большой ценности для тех, кого
интересует только доказательство теоремы о замкнутом графике, а не
то, как можно переходить от одной ее формулировки к другой.
Решение 45. (а) На неполном унитарном пространстве
существует неограниченное симметрическое преобразование, (б) Каждое
симметрическое линейное преобразование гильбертова
пространства ограничено.
Доказательство, (а) Пусть Н — комплексное векторное
пространство всех бесконечных последовательностей с конечным
числом ненулевых членов. Последовательность (?ь ?2, ?3, • • • )
принадлежит пространству Н, если |п = 0 для всех достаточно
больших номеров п; что значит «достаточно большие», зависит
от последовательности. Определим скалярное произведение в
пространстве Н естественным образом: если / = (%i, ?2» ?з> • • • )
оо
и g= <T|i Лг. т)з, • • • ). положим (/, g) = 2 ln?&- Пусть А —
линейное преобразование, отображающее каждую
последовательность (%i, |2, ?з> • ¦ • > в последовательность Ци 2?2, 3?3, • • • >•
Очевидно, что преобразование А задается диагональной матрицей
с последовательностью диагональных элементов A, 2, 3, . . . }.
Линейное преобразование А симметрично; действительно,
оэ
(Af, g) = (f, Ag)= 2 п%пЦп- Линейное преобразование А неограни-
чено; действительно, если {/„} — последовательность, п-ш член
которой равен единице, а все остальные равны нулю, то \\fn || = 1,
а || Ajn || = п.
(б) Это легко следует из теоремы о замкнутом графике. В
самом деле, если преобразование А симметрично и /„ ->¦ /, Afn ->- /',
то для всех g
(Г, g) = lim(Afn,g) = lim(fn, Ag) = (f, Ag) = {Aj, g)
n n
и потому /' = Af. Тем самым доказано, что преобразование А
замкнуто, а, следовательно, ограничено.

ГЛАВА 6. ОПЕРАТОРЫ УМНОЖЕНИЯ
Решение 46. Если оператор А диагональный, причем
j = a.jej, то
так что последовательность {а^} ограничена и sup|aj| <|| А \\.
з
Противоположное неравенство следует из соотношения
< (sup | а} | )* • S | Ь |2 = (sup | ^ | )
3 3 3 3
Если дана ограниченная последовательность {a7}, зададим
оператор А равенством А ^ %fit = 2 a?jej- Предыдущие вычис-
з з
ления показывают, что А — оператор. Ясно, что А —
диагональный оператор с диагональю {сс7}. Доказательство единственности
содержится в самом построении: разложение Фурье позволяет
однозначно определить поведение оператора на всем пространстве
по его поведению на базисе.
Решение 47. Если {ап} — последовательность комплексных
чисел, для которой 2 I Q-n^n I2 < °°> если только 2 I %n I2 < °°i
п п
то последовательность {| ап |} ограничена.
Доказательство. Можно сформулировать это предложение
иначе: если последовательность {ап} неограничена, то существует
такая последовательность {?„}, что 2 I %п I2 <^ °°> но Si an%n\2=
П 71
= оо. Доказательство проводится непосредственным построением.
Если последовательность {ап} неограничена, то | ап \ принимает
какие угодно большие значения. Без ограничения общности
можно считать, что | ап \ ^- п, к этому случаю можно прийти,
меняя обозначения и, возможно, опуская некоторые а. Если
в этом случае положить ?„ = 1/ал, п = 1, 2, 3, . . ., то
п
но ряд 2 I ап1п I2 расходится.

204 Решения
Решение 48. Утверждение состоит в том, чю если диагональный
оператор А с диагональю {ап} обратим, то и последовательность
{а71} обратима. Действительно, если {$п} — такая ограниченная
последовательность, что ап$п = 1 для всех п, то диагональный
оператор В с диагональю {Р„} действует как обратный к
оператору А. Обратно, если оператор А обратим, то А~1(апеп) = еп,
так что
^ ^п:г= ~ @п\
ап
а так как \\ А~геп || <; H^l II, то последовательность {1/а„}
ограничена, а потому последовательность {ап} обратима.
Теперь о спектре: утверждается, что оператор А — X обратим
тогда и только тогда, когда число X не принадлежит замыканию
диагонали {а„}. (Педант мог бы возразить. Диагональ — это
последовательность комплексных чисел, а не множество;
выражение «замыкание диагонали» не имеет точного смысла. Это
пример неправильного, но заслуженно популярного выражения,
сжатого и недвусмысленного, и упорствующий педант в данном
случае достоин сожаления.) Это утверждение эквивалентно
следующему: последовательность {ап — X} отделена от нуля тогда
и только тогда, когда X не принадлежит замыканию множества
{а„}. Наоборот, нуль служит предельной точкой
последовательности {ап — X} тогда и только тогда, когда X принадлежит
замыканию множества {ап}. Так как это очевидно, доказательство
закончено.
Решение 49. Если А — оператор умножения на ограниченную
измеримую функцию ц>, определенную на пространстве X с о-ко-
нечной мерой, то \\ А || = ||ф \\х (где || ср ||с» — существенная
верхняя грань функции | ср |).
Доказательство. Обозначим рассматриваемую меру через
[х. Полезно проследить, как далеко можно продвинуться в
доказательстве без предположения о 0-конечности меры; вплоть до
особого замечания мы не будем пользоваться этим предположением.
Так как
то || А || -^ || ф ||ос. В доказательстве противоположного
неравенства можно наткнуться на непредвиденные трудности.
Естественно было бы начать доказательство так: заметим, что
если е > 0, то | ф (х) | > || ф ||оо — s на множестве
положительной меры. Назовем его М. Если / — характеристическая функция

Гл. 6. Операторы умножения
205
множества М, то
м
Отсюда следует, что || Л/ || > (|| Ф IU — е) || / ||, и поэтому
II -^ II ^ II Ф IIоо — е; а так как это верно для всех е, то \\ А || ^>
^> || Ф ||оо- Доказательство закончено, но оно неверно.
Неверно потому, что мера множества М может быть
бесконечной. Может показаться, что это возражение не слишком серьезно.
Действительно, если даже измеримое множество {х: | ф (а;) | ~^>
^> II ф 11°° — е} имеет бесконечную меру, то все приведенные
выше рассуждения прекрасно работают, если только взять в
качестве множества М его измеримое подмножество конечной
положительной меры. Это, конечно, верно. Трудность, однако, состоит
в том, что пространство с мерой может быть очень плохо устроено,
например, оно может содержать измеримые множества
положительной (на самом деле бесконечной) меры, все измеримые
подмножества которых имеют меру равную 0 или оо. И эта трудность
уже по существу непреодолима. В самом деле, если X состоит
из двух точек хи х2 и если \х {{xi}) = 1, \i ({х2}) = оо, то Ь2(\х) —
одномерное пространство, состоящее из тех функций на X,
которые обращаются в нуль на {х2}- Если ф —характеристическая
функция множества, состоящего из единственной точки xz, то
||ф||0О = 1, но норма соответствующего умножения равна 0.
Таким образом, если мера локально конечна (т. е. любое
измеримое множество положительной меры имеет измеримое
подмножество конечной положительной меры), то норма
оператора умножения равна существенной верхней грани множителя;
в противном случае можно утверждать только, что справедливо
неравенство || А \\ -^ || ф Цс*,. Каждая конечная или а-конечная
мера локально конечна. Практически, чтобы избавиться от крайне
патологических случаев без существенной (как правило) потери
общности, предполагают, что мера 0-конечна. Если это сделано,
то доказательство (как было показано выше) закончено.
Решение 50. Измеримость доказать легко. Так как мера
ст-конечна, существует элемент / из пространства L2, нигде не
обращающийся в нуль; так как функция ф-/ принадлежит
пространству L2, она измерима, следовательно, ее частное от деления на /
тоже измеримо.
Чтобы доказать ограниченность, заметим сначала, что

206 Решения
для любого натурального числа п. Если А = 0, то ср = 0, и
доказывать нечего; если же это не так, то введем функцию ч|з = ср/[| А \\
и перепишем предыдущее неравенство в виде
(Здесь [х обозначает заданную а-конечную меру.) Отсюда следует,
что если / ^=0 на некотором множестве положительной меры,
то | г|) | <; 1 (или | ф | <; || А ||) почти всюду на данном множестве.
Если элемент / выбран (как и раньше) отличным от нуля почти
всюду, то | ф | -< || А || почти всюду.
Это короткое, но, пожалуй, слишком гладкое доказательство.
Такое рассуждение не сразу приходит в голову. Более
естественно (и столь же быстро) предположить для доказательства
выполнения неравенства | ф | <J \\ А || почти всюду, что М — измеримое
множество конечной меры, на котором | ф | > ]| А ||. а затем
доказать, что мера множества М обязательно равна нулю.
Действительно, если / — характеристическая функция множества М,
то или / = 0 почти всюду, или
1И/ II2 = ( I Ф- / I2 Ф = j I Ф I2 Ф > \\А ||>(М) = \\А ||2-
ы
последнее невозможно. Однако первое доказательство, кроме
технического совершенства, имеет и другое достоинство: в отличие
от второго более естественного доказательства оно применимо
в несколько изысканной, но полезной ситуации. Вот в какой:
предположим, что Н — подпространство пространства L2,
содержащее функцию, нигде не обращающуюся в нуль, а оператор А
на Н таков, что Aj = ф-/ для всех / из Н. Вывод будет таким
же, как и раньше: функция ф измерима и ограничена (числом
|| А ||). Доказательство прежнее.
Решение 51. Если ф — такая комплекснозначная функция, что
ф-/ ? L2 при всех / ? L2, то {в случае о-конечной меры) функция ср
существенно ограничена.
Доказательство. Один способ заключается в том, чтобы
обобщить конструкцию, использованную для дискретного
(диагонального) случая (см. решение 47). Если функция ф неограничена,
то существует такая последовательность непересекающихся
измеримых множеств {Мп} положительной конечной меры, что ф (х) ^
;> п при х ? Мп. (Нетрудно доказать, что функция ф измерима;
см. решение 50.) Зададим функцию / следующим образом: если
х ? Мп для некоторого п, положим
4 t \ *¦

Гл. 6. Операторы умножения 207
в противном случае пусть / (х) = 0. Так как
P (Mn) I Ф I
n Mn
1 М^)
n Mn
то / принадлежит L2, а так как
n Mn
то ф •/ не принадлежит L2.
Другое доказательство. Пусть А — линейное преобразование,
умножающее каждый элемент из пространства L2 на ср; докажем,
что А замкнуто. Предположим, что векторы (/n, gn) принадлежат
графику преобразования А (т. е. gn — ср-/п) и </„, #„> ->¦ (/, g)
(т. е. fn -*- f ж gn -*- g). Без ограничения общности можно считать,
что /„ —» / почти всюду и §¦„ —> g- почти всюду; если это неверно
для самой последовательности {/„}, то верно для подходящей
подпоследовательности. Так как }п -> / почти всюду, то и ф-/д ->¦
—v ф-/ почти всюду; а так как, кроме того, ф-/л —>¦ g почти всюду,
то g = ф-/ почти всюду, т. е. {/, g} принадлежит графику
преобразования А. Таким образом (в силу теоремы о замкнутом
графике), преобразование А ограничено, а потому (см. задачу 50)
ограничена функция ф.
Понятие оператора умножения имеет смысл обобщить на
случай неограниченного множителя. Если ф — произвольная (не
обязательно ограниченная) измеримая функция, то обозначим через М
множество (линейное многообразие) всех функций / из L2, для
которых ф-/ ? IA Из второго доказательства следует, что
линейное преобразование (из М в L2), отображающее каждую функцию /
из М на функцию ср-/. замкнуто. (Тут мы столкнулись с
операторным аналогом туманного, но хорошо известного и правильного
принципа из теории меры. В теории меры каждая функция,
которую можно записать, измерима; в теории операторов каждое
преобразование, которое можно записать, замкнуто!) Короче,
умножения (ограниченные или нет) замкнуты. Можно использовать
теорему о замкнутом графике, чтобы доказать, что если, кроме
того, область определения умножения совпадает со всем
пространством L2, то оно обязано быть ограниченным.
Решение 52. Сначала насчет обратимости: если ф-яр = 1,
то оператор умножения, индуцированный функцией ip, действует
как обратный к оператору А. Обратно, пусть оператор А обратим.
Тогда ф может обращаться в нуль только на множестве нулевой

208 Решения
меры. (В противном случае возьмем в качестве функции /
характеристическую функцию множества положительной конечной
меры, на котором ф обращается в нуль.) Так как ср А'1} = /,
то A~lf = A/ф) /, если /6L2. Следовательно (см. решение 50),
I 1/ф I ^ II А~х ||, а потому | ф | J> 1/|| А~х || почти всюду.
Утверждение относительно спектра сводится к только что
доказанному утверждению об обратимости. Новичку советуем
провести его во всех подробностях. Понятие существенной области
значений не менее четко, чем другие понятия из теории меры,
которые нечувствительны к изменениям на множествах меры
нуль, но при первом знакомстве оно часто кажется расплывчатым.
Решение 53. (а) Умножение в функциональном гильбертовом
пространстве обязательно ограничено.
Доказательство. Можно воспользоваться теоремой о
замкнутом графике. Пусть векторы (/„, gn), п= 1, 2, 3, . . .,
принадлежат графику преобразования А и (fn, gn) -> (f, g) (т. е. /„->-/
и gn —>¦ g). Поскольку из сходимости в пространстве Н следует
поточечная сходимость (если fn-+-f сильно, то fn—*~ f слабо),
in (х) -> / (х) и gn (х) -> g (x) при всех х. Так как gn = Afn =
= (f-fn и ф (х) fn (х) ->- ф (х) f (х) для всех х, то g = Af.
Следовательно, преобразование А замкнуто и потому
ограничено.
Вопрос (б) допускает положительный ответ лишь с некоторыми
оговорками. Трудность состоит в том, что в определении
функционального гильбертова пространства нигде не оговорено, что
в множестве X нет таких точек х, что / (х) = 0 для всех /из Н.
Такую ситуацию при желании всегда можно создать: пусть дано
функциональное пространство Н над множеством X, расширим X
произвольным образом и продолжим каждую функцию из Н так,
чтобы она была равна нулю в новых точках. В то же время эти
«нулевые точки» легко устранить так же, как они были добавлены;
исключим их из X и сузим каждую функцию из Н на
оставшееся множество. Но пока в X присутствует бесконечно много
нулевых точек, ответ на вопрос (б) должен быть отрицательным.
И вот почему: любую функцию, заданную на множестве X, можно
переопределить так, что она станет неограниченной, но ее
произведения с элементами пространства Н останутся без изменения.
Нулевые точки для функциональных гильбертовых пространств
играют ту же роль, что и точки бесконечной меры для пространств
L2 (см. решение 49).
(б) Если Н — функциональное гильбертово пространство без
нулевых точек, то каждое (необходимо ограниченное) умножение
в Н индуцируется ограниченным множителем.

Гл. в. Операторы i/мпожения 209
Доказательство. Заметим, что
ИФ*./И = цл"./у <цл|Г.||/||,
если п — натуральное число и / принадлежит пространству Н
(см. решение 50). Если А = 0, то ср = 0, и доказывать нечего;
в противном случае положим ар = ф /|| А || и перепишем
предыдущее неравенство в виде
WV-fW '11/11-
Отсюда следует, что если / (х) Ф 0, то | ар (х) | < 1 (т. е. | ф (х) |^
< || Л ||). В самом деле, (грд /) (ж) — вычислимый функционал,
и поэтому | (ар"/) {х) | не превосходит некоторого кратного нормы
|| гр11 / ||. А так как для каждой точки х существует такая
функция /, что / (х) Ф 0, то | ф | < || А || всюду.
Существует п другое доказательство, более близкое по духу
к стандартным рассуждениям в функциональных гильбертовых
пространствах; оно принадлежит Шилдсу. Пусть К — ядро
пространства Н (см. задачу 30). Так как АКХ = ($-Кх для каждого х
и в то же время (АКХ) (у) = (АКХ, Ку), то
\<р(х)К (х, х) | = | (АКХ, Кх) | < || А || • || Кх f.
Гак как || Кх \\2 =- (Кх, Кх) и всегда (Кх, Ку) = Кх (у), то || Кх |j2 =
— А." (х. х), откуда
\<?(х)К(х, х)\^\\А\\.\К(х, х)\.
Из соотношения К (х, у) = Ку (х) = (Ку, Кх) следует, что
«матрица» К положительно определена, поэтому, в частности, \К (х, у) \ <
«С у К (х, х) У К (у, у). Следовательно, если К (х, х) = 0 для
некоторого х, то К (х, у) = 0 для всех у, т. е. Кх = 0, а потому
/ (х) = (/, Кх) = 0 для всех /. Но мы предполагали, что нулевых
точек нет, и поэтому так случиться не может. Таким образом,
1<Г(а:) \<\\А ||.
В доказательстве использовалось неравенство Шварца для
по строго положительных полугоралинепных форм. Некоторые
из стандартных доказательств неравенства Шварца применимы
л в этом случае, но то, которое рассмотрено в книге Халмоша
13, стр. 15], не пригодно. Задача состоит в том, чтобы доказать,
что если ф — неотрицательная симметричная полуторалинейная
форма, то
|Ф(/, ?)|2<<ср (/,/)• cp(g, g).
(Тут временно возникла некоторая путаница в обозначениях:
буква ф в этом абзаце в отличие от предыдущего обозначает
не множитель, определенный на X, а полуторалинейную форму
на Н.) Для доказательства возьмем строго положительную сим-

210 Решения
метричную полуторалинейную форму ф+ на то.м же пространстве
и для каждого положительного числа е положим:
Форма фЕ строго положительна; применим к ней неравенство
Шварца и устремим е к нулю. Для построения строго
положительной формы ф+ (на любом вещественном или комплексном
векторном пространстве) можно использовать базис Гамеля. Если
{е;} — такой базис, положим ф+ (У a}ej, 2 $jej) = 2 а$Ь Сум-
i } j
мы формально бесконечны, но в них только конечное число членов
отлично от нуля.
Все эти рассуждения о неравенстве Шварца представляют собой
отступление, но оно довольно интересно; вот еще добавление
к нему. Доказательство неравенства Шварца для скалярного
произведения (строго положительной формы) состоит в проверке
одного равенства, а именно
1ШМИР-К/- ^)!2 -^HIkll2/-(/. e)g\\2-
Возможно, это тождество выпядело бы изящнее, если бы оно
было еще умножено на || g jj2, потому что тогда оно выполнялось
бы и для случая g = 0, но так оно понятнее. Из этого выражения
видно также, что неравенство вырождается в равенство только
в том случае, когда / и g линейно зависимы. Обратное тривиально:
если векторы fug линейно зависимы, то один из них равен
другому, умноженному на скаляр; пусть, например, g = а/. Тогда оба
числа | (/, g) |2 и (/, /) (g, g) равны | а |2 | (/, /) |2.
Решение 54. Пусть Н — множество всех таких абсолютно
непрерывных (комплекснозначных) функций на отрезке [0, 1],
производные которых принадлежат пространству L2; зададим
скалярное произведение в Н форму той
(/, g) -f(O)g*(O)
Если || / || = 0, го | /' (ж) |2 dx = 0, так что]'{х) = 0 почти всюду,
о
а потому / (х) — константа. Так как, кроме того, / @) = 0, то
/ (х) ^н 0. Тем самым доказано, что скалярное произведение
строго положительно. Если {/„} — фундаментальная
последовательность в Н, то {fn @)} — числовая фундаментальная
последовательность и {/,',} — фундаментальная последовательность в
пространстве IA Поэтому /„ @) -> а и f'n ->• g для некоторого ком-

Гл. 6. Операторы умножения 211
плексного числа а и некоторой функции g из IA Положим / (х) =
X
= а т \ ? (*) ^- Мы получили такую функцию /, что /„ ->¦ / в Н,
о
и этим доказали, что Н полно. Если 0 -< х < 1, то
-=211/11".
Это доказывает, что вычислимые функционалы ограничены,
следовательно, Н — функциональное гильбертово пространство.
Если fug принадлежат пространству Н, то они ограничены,
поэчому (/?¦)'(= fg' -{- f'g) принадлежит пространству L2 и fg ? Н.
Так как 1 очевидно принадлежит Н, то наше пространство
удовлетворяет всем требованиям задачи.
Этот пример построил Шилдс.

ГЛАВА 7. ОПЕРАТОРНЫЕ МАТРИЦЫ
Решение 55. Положим A^-AD—ВС. Если оператор А
обратим, то произведение операторных матриц
B\ t DA'1 — 5A
KC DJ " \ — С A-1 A A
в любом порядке равно
/1 О
тем самым достаточность условия доказана. (Заметим, что здесь
1 и 0 не числа, а операторы в соответствующем гильбертовом
пространстве.)
Предположим теперь, что операторная матрица
С D
обратима, а потому, в частности, ограничена снизу. Это значит,
что
для некоторого положительного числа б. Два частных случая
этого неравенства можно с успехом скомбинировать. Сначала
положим одну из двух координат элемента '7, g) равной нулю (в обоих
случаях ненулевую координату будем обозначать буквой /),
получим
Затем подставим {Df, —С]) и ( — 5/, Af) вместо (/, g) (сравните
это с двумя столбцами предполагаемой обратной матрицы):
\\(AD-BCI\\*>b(\\Cf\\*-\-\\Dif),

Гл. 7. Операторные матрицы 213
Сложим последние два неравенства, поделим на два и, применив
первую пару неравенств, получим
Вывод, оператор AD — ВС ограничен снизу.
Поскольку операторы А, В, С и D попарно коммутируют,
то же верно и для операторов А*, В*, С* и D*; так как
операторная матрица
X D,
обратима, то обратима и сопряженная матрица
М- ГЛ
\В* D*) "
Из результатов предыдущего абзаца следует, что оператор
A*D* — В*С* ограничен снизу, и потому его ядро тривиально,
а отсюда в свою очередь следует, что область значений
оператора AD — BC плотна в Н.
Так как оператор AD — ВС ограничен снизу и имеет плотную
область значений, то он обратим, и доказательство закончено.
Решение 56. Так как операторная матрица
/1 04
\Т 1)
всегда обратима, а обратная к ней равна
/ 1 (А
\-Т 1)'
то матрицы
'А В\A О
X D)\T 1
(А В\ (А В\(
\С D) И \С d)[
обратимы одновременно. Произведение имеет вид
(А^-ВТ В\
\C + DT D)-
Полагая Т = — D~XC, находим, что матрица
\С D

21/i Решения
ооратима тогда и только тогда, когда матрица
/a—bd-ч: в\
[ О D)
обратима.
Введем временно сокращенное обозначение Е = А — BD~XC и
посмотрим, обратима ли матрица
Мы все еще предполагаем, что оператор D обратим. Если
оператор Е тоже обратим, то матрица
<Е *Ч
О D)
ооратима, а ооратная к ней равна
Е-1 -E-
О Я
{
Обратное тоже верно: если матрица
IE Дч
VO D)
обратима, то оператор Е обратим. Это доказывается простой
выкладкой. Предположим, что операторная матрица
\R S)
ооратна к матрице
тогда
(РЕ PB + QD\ (EP + BR EQ l-BS\ A 0\
\RE RB + Sd) "V DR DS /VO 1/'
Так как DR = 0 и оператор D обратим, то R = 0; так как Pi? = 1
и Z?P f BR = 1, то оператор Е обратим (действительно, Е~г = Р).
Если теперь вспомнить, что Е = А —BD~lC, то получим,
что операторная матрица
С D

Гл. 7. Операторные матрицы 215
обратима тогда и только тогда, когда оператор А — BD~lC обратим.
Поскольку оператор В обратим, то от умножения на него свойство
обратимости не меняется; поэтому
/Л /Л
\С в)
обратима тогда и только тогда, когда оператор AD — ВВ~гСВ
обратил:. До сих пор предположение, чго операторы С и В
перестановочны, нигде не использовалось; если его применить, то наш
результат будет выглядеть гораздо приятнее. Так как С и В
коммутируют, то и операторы С п Д коммутируют, поэтому
BB~lCB = ВС. Таким образом, матрица
1Л К
\с о)
обратима тогда и только тогда, когда оператор AD — ВС обратим.
Песимметрия гипотезы (почему С и В? и почему Z)^1?) не так уж
противоестественна, как это кажется с первого взгляда. Ведь
и само утверждение столь же несимметрично. Чем выражение A)
AD —ВС лучше, чем B) DA —ВС, или C) В А - СВ, или D)
AD — СВ? Симметрия может быть восстановлена не изменением
утверждения, а его расширением. Эта теорема — одна из четырех.
Предположил!, что оператор D обратил!, а коммутируют
операторы A) С и В или B) В и В, или предположил!, что А обратим,
а коммутируют операторы C) А и В пли D) А и С.
Хорошо известно (и очевидно), что если рассматриваемое
гильбертово пространство конечномерно, то обрапшые операторы
образуют плотное лшожество в метрическом пространстве всех
операторов. Из этого замечания (вместе с доказанным выше
результатом) следует, что в конечномерном случае требование
обратимости излишне: если операторы С и В колшутируют, то
операторная матрица
'А В
С В
обратима в тол! и только в тол! случае, когда оператор АВ — ВС
обратил!. На салюл! деле здесь доказывается нечто большее:
поскольку умножение на матрицу
/1 04
\Т 1)

2]E Решения
не только не меняет свойство обратимости, но и сохраняет
числовое значение детерминанта, фактически было доказано, что
'А В^
det
(А
В бесконечномерном случае противоречащие этим утверждениям
примеры удобно искать в I2. Определим операторы А и D
равенствами
и положим #~С = 0. Ясно, что AD — BC = I, но у оператора
С D
нетривиальное ядро. (Рассмотрите вектор (/, g). где / =
— <1, 0, 0, 0, . . .) и g = 0.) Если, с другой стороны, оператор В
определен по формуле
В(lo, lu g2, ...)-<lo, 0, 0, ...>,
то операторная матрица
\о а)
обратима, и обратная к ней равна
но ее формальный детерминант DA имеет нетривиальное ядро.
Решение 57. Удобно начать с леммы, представляющей и
самостоятельный интерес: если конечномерное подпространство
инвариантно по отношению к некоторому обратимому оператору,
то оно инвариантно и по отношению к обратному. (Легко
привести пример, показывающий, что требование конечномерности
здесь обязательно.) Чтобы не вводить дополнительных
обозначений, обозначим все пространство через Н @ К, подпространство
через Н, а оператор через М. (Разумеется, Н на самом деле
не будет подпространством в Н@К, но его можно отождествить
с соответствующим подпространством этого пространства.)
Поскольку МН с; Н и (в силу обратимости) М сохраняет
линейную независимость, то dim MH = dim H, а потому (в силу
конечномерности) МП = Н. Тогда М-1Н = Н, и лемма доказана.

1л. 7 Операторные матрицы 217
Применим теперь эту лемму к нашему случаю. Если
А
то пространство Н инвариантно относительно М. Из леммы
следует, что если оператор М обратим, то М~х имеет вид
А' В"
О 1
До сих пор использовалась конечномерность пространства Н,
оставшаяся часть рассуждения верна всегда. Раз известно, что
треугольная матрица имеет треугольную обратную, то независимо
от размерности соответствующих подпространств каждый
диагональный элемент матрицы обратим, а его обратный является
соответствующим элементом обратной матрицы. Для
доказательства нужно перемножить обе матрицы в разных порядках.

ГЛАВА 8. СВОЙСТВА СПЕКТРОВ
Решение 58. Пусть А — оператор. Тогда П0(А*) = Г*(А)
и ЩА*)[]П*(А) = \(А*).
Доказательство. Если Я ? По (А*), то ядро оператора А* —X
нетривиально, поэтому множество зпачений оператора А — К*
имеет ненулевое ортогональное дополнение; оба эти
утверждения обратимы.
Второе равенство дает исчерпывающие сведения о
соотношении между предельным спектром П и его комплексным
сопряжением. Утверждение состоит в том, чю если оператор А* — X
необратим, то один из операторов ^4* — I п я i — к* не
ограничен снизу. Или, что то же самое (при очевидной замене
обозначений), если оба оператора А* и А ограничены снизу, то опера-
юр А* обратим. Доказательство тривиально: если А ограничен
снизу, то его ядро тривиально, и потому область значений
оператора А* всюду плотна; а так как, кроме того, предполагается,
что оператор А* ограничен снизу, то он обратим. (Это
рассуждение уже было использовано при рассмотрении частного случая
этой задачи; см. решение 55.)
Следствие. По (А) = Г* (Л*) и П (A) |J U* (А*) = А (А).
Доказательство. Замените А на А*.
Решение 59. Есги А — оператор и р — многочген, то
По (р (А)) = р (По (А)), П (р (А)) = р (П (А)) и Г (р (А)) =
= р (Г (А)); такие же равенства верны и тогда, когда оператор А
обратим и р (z) = Hz для z Ф 0.
Доказательство. Перед началом доказательства удобно
заметить следующее. Если произведение конечного числа операторов
A) обладает ненулевым ядром, или B) не ограничено снизу,
ити C) имеет не плотную область значений, то хотя бы один из этих
операторов должен обладать тем же свойством; если сомножители
коммутируют, то верны и обратные утверждения.
Мы укажем только схему соответствующих доказательств.
Если оператор АВ отображает A) ненулевой вектор в 0 или B)
последовательность единичных векторов в последовательность,
сходящуюся к нулю, то, рассуждая «справа», можно показать,

Гл. 8. Свойства спектров 219
что если оператор В не обладает таким свойством, то им обязан
обладать оператор А. C) Если область значений оператора АВ
не плотна, то, рассуждая «слева», можно показать, что при
плотной области значений оператора А область значений оператора В
не может быть плотной.
Перейдем теперь к доказательствам теорем об отображении
спектров. Без ограничения общности можно считать, что степень
многочлена р положительна и старший коэффициент равен 1.
Так как многочлен р {к) — р {к0) делится на Я — к0, то в силу A)
л0 6 По (А) втечет р (Хо) 6 По (р {А)), откуда р (По (А)) а
а По (р (А)). (Эту часть утверждения можно доказать гораздо
проще- если А\ = kof, то р (A) f = р {к0) /. Но наше более
длинное рассуждение применимо и в других случаях и в дальнейшем
сэкономит нам время.) Если же а ? Г10 (р (А)), то выразив р (к) —
— а в виде произведения сомножителей вида к — к0 и
применив A), получим, что а = р (к0) для некоторого числа к0 из По (А).
Это значит, что а ? р (По (А)), и поэтому По (р (A)) cz р (И0(А)).
Рассуждения относительно П или Г точно такие же, только
вместо A) используются B) пли C). В случае Г можно использовать
и другой метод, применим результат относитетъно По к А*
и воспользуемся решением 58.
Рассмотрим теперь отображение р (z) = l'z. Если оператор А
обратил! и Af = kf при / Ф О, то к =^= 0. Применив оператор А~х
к обеим частям равенства и поделив на к, получим
откуда
1
По (Л) ^""V" /•
Заменяя Л на i и переходя к обратным величинам, получаем
противоположное включение. Используя тот же метод, но исходя
из соотношения Afn — kf,, ->- 0 (|| /„ || = 1), получаем
соответствующую теорему об отображении предельного спектра П а
теорему дтя спектра сжатия Г можно вывести из теоремы для По
переводом к сопряженному оператору.
Решение 60. A) Если оператор А — к обратим, ю и оператор
Р~1 (Л — к) Р = Р~1АР — к обратим.
B) Если Af = kf, то Р-1АР {Р~Ч) =к{Р~Ч)-
C) Если Afn - kfn -> 0 при ||/„ И = I, то Р~ЫР (Р~Чп) -
— к (Р-Чп) = Р-1 {А1п — kfn) ->- 0. Нормы || Р~Чп II ограничены
снизу числом 1/|| Р ||, следовательно, деление на || Р~Чп \\ не повлияет
на сходимость последовательности к нулю. Поэтому
Р-1АР ( Р~Ч" )
1 М \\\Р-Чп\\)

220 Решения
D) Есчи вектор g принадлежит области значении операюра
Р~1АР — л (= Р'1 (А — X) Р), то Р g принадлежит области
значений оператора А — X; поэтому, если замыкание области
значений оператора А — X не совпадает с Н, то и замыкание области
значений оператора Р (А — X) Р не совпадает с Н.
Эти рассуждения показывают, что каждая из названных частой
спектра оператора А содержится в соответствующей части спектра
оператора Р~1АР. Чтобы получить противоположное включение,
достаточно заменить А на Р~гАР и Р на Р'1.
Решение 61. Надо доказать, что если А. ^ь 0, то операторы
АВ — Я и В А — X обратимы или необратимы одновременно. Если
разделить оба оператора на —X, то наше утверждение сведется
к следующей теореме из теории колец: если элемент 1 — АВ
обратим, то обратим и элемент 1 — В А. Наводящие соображения для
доказательства этой общей теоремы возникают, если
предположить, что элемент, обратный к 1 — АВ (обозначим его С),
представим в виде 1+АВ -f ABAB -f . . ., а обратный к 1 —В А
представим в виде l^-BA -f В ABA + . . . =1 + 5 A-} АВ --
+ -45^45-t- . . .) A =l-i-BCA. Само же доказательство состош
в проверке того, что если
то
A + ВС А) A — ВА) = A — В А) A + ВС А) = 1.
Это проверяется непосредственно. Проверка облегчается, если
первое равенство для С переписать в виде CAB = ABC = С — 1.
Решение 62. Для всякого оператора А предельный спектр П (А)
замкнут.
Доказательство. Удобно доказывать, что дополнение к П (А)
открыто. Если Яо не принадлежит П {А), то оператор А — Хо
ограничен снизу: || Af — Xof || ^> б |] / || для всех / и
некоторого S -> 0.
Так как
\\Ai-Xof\\<\\Af-Xf\\
для всех /, то
Поэтому, если число | X — Я,о I достаточно мало, то оператор
А — % ограничен снизу.
Решение 63. Удобно (но не обязательно) доказать
следующее несколько более общее утверждение: если {Ап} —
последовательность обратимых операторов, а А — такой необратимый

Гл. 8. Свойства спектров 221
оператор, что || Ап — А \\ —>- 0 при п —>¦ оо. то 0 ? П (А), Так как
оператор А необратим, то либо 0 ? П (А), либо 0 ? Г (А). Если
О ? П (Л), то все доказано. Поэтому достаточно доказать, что
оператор А не ограничен снизу (т. е. О ? П (А)) при условии, что
область значений оператора А не плотна. Пусть / — ненулевой
вектор, ортогональный к области значений оператора А; положим
Гак как ||/„|| = 1, то || (Ап — A) fn\\ <|| Ап — А\\ —> 0, а так как
Af4 ? ran Jl и Anfn JL ran ^4 то
II Anfn-Afn ||2 = || 4n/n ||2-f || -4/n ||2> || Afn ||2,
а потому || Afn || -^ 0.
Чтобы вывести отсюда требуемое утверждение относительно
спектра, предположим, что К принадлежит границе спектра Л (А).
Тогда существуют такие числа Хп, не принадлежащие Л (А), что
X, ->- К. Операторы А —Хп обратимы, а оператор А — К необра-
iим. Поскольку
-Ь\ -> 0,
пз предыдущих рассуждений следует, что А, ^ П (А).

ГЛАВА 9. ПРИМЕРЫ СПЕКТРОВ
Решение 64. Из нормальности оператора А получаем
|| Af || = || A*f || для каждого вектора /, откуда \\ (А — Я) / || —
= || (А* — Я*) f 1] для каждого числа Я, а потому По (А) =
= (По (А*))*. Утверждение задачи следует из решения 58.
Решение 65. Если А — диагональный оператор, то По
и Г (А) совпадают с диагональю, а П (А) (= Л (А)) совпадает
с замыканием диагонали.
Доказательство. Пусть {е^} — такой ортонормированныи
базис пространства, что Ав; = а;-е;-. Первое утверждение состоит
в том, что число Я служит собственным значением оператора А
тогда и только тогда, когда оно равно одному из чисел сс^. В одну
сторону утверждение тривиально: каждое число а;- служит
собственным значением оператора А. Другая часть утверждения,
очевидно, сводится к следующему: если оператор А обладает
ненулевым ядром, то по крайней мере одно из чисел а7- равно
нулю. Другими словами, если а7- -ф 0 для всех у. то Af = 0
влечет / = 0. В самом деле, если /= 2 fe/j- т0 Af = ^ «Д/r Но ра-
3 }
венство Af = 0 эквивалентно тому, что а;-|7- = 0 для всех j;
а так как ни одно из чисел сс;- не обращается в нуль, то ?7- = 0
для всех /.
Теперь, когда точечный спектр По (^4) известен, достаточно
применить результат задачи 64. Поскольку диагональный
оператор нормален, спектр сжатия Г (А) тоже обязан совпадать с
диагональю, а предельный спектр совпадает со всем спектром.
Решение 66. Если А — умножение, индуцированное
множителем ср (на пространстве с а-конечной мерой), то По (А) и Г (А)
совпадают с множеством тех комплексных чисел К, для которых
множество ср ({Я}) имеет положительную меру, и П (А) (=
= Л (А)) совпадает с множеством существенных значений
функции ср.
Доказательство. Если / ? L2 и ср (х) / (х) = Я/ (х) почти всюду,
то ф (х) = К в тех точках х, где / (х) =#= 0. Поэтому, для того
чтобы число Я было собственным значением оператора А,
функция ср должна принимать значение Я на множестве положитель-

Гл. 9. Примеры спектров 223
ной меры. Обратно, пусть <р (х) = X на множестве М
положительной меры. Тогда, если / — характеристическая функция
измеримого подмножества .множества М, обладающего конечной
положительной мерой, то / g L2, / Ф 0 и Af = Xf, так что X будет
собственным значением оператора А.
Остальные утверждения доказываются точно так же, как
в решении 65.
Решение 67. Если U — оператор одностороннего сдвига, D —
замкнутый единичный круг и С — единичная окружность, то
A{U)=D, По (U) = 0, П (U) = С и Г (U) = D — С. Для
сопряженного оператора Л (?/*) = D, По {U*) = D — С, П (U*) ~
= D и Г (U*) = 0.
Доказательство. Удобно рассматривать оба оператора U
и U* одновременно: каждый из них может дать информацию
о другом. Для исследования оператора U* независимо от того,
будем ли мы его рассматривать вместе с оператором U или
отдельно, желательно было бы узнать, что он собой представляет.
Так как (для i, ) = 0, 1, 2, . . .)
{U*et. ej) - (et, Uej) =- (<?г. ej+1) = 6i: J+1.
то
и если ?>0. то
6j, ,^=--bt.u 1=-{ег-1, ej).
Поэтому
и*ех = е^ (/=1,2,3, . . .),
или, в координатной записи,
и VSOj Sli Ь2) • • •/ — \Sli 62- Ь3 7 • • • Л
Функциональное представление оператора U (т. е. его
представление в виде умножения в пространстве И2) обманчиво.
Поскольку оператор, сопряженный к умножению, представляет собой
оператор умножения на комплексно сопряженную функцию,
можно было бы подумать, что если / ? Н2, то (?/*/) (z) = z*j (z).
Однако ото не только неверно, но н бессмысленно: пространство
Н2 не инвариантно относительно умножения на e-j. Соответствие
между сопряжением операторов и комплексным сопряжением
функций хорошо работает в пространстве L2, но это еще не дает
оснований предполагать, что оно будет работать и в его
подпространствах. Корректное выражение для оператора U* на Н2 та-

Решения
ково:
(?/•/) (z) = z*(/(z)-(/, e0)).
Теперь о спектре и его частях. Так как U — изометрия,
то И U || == 1, а потому ее спектр содержится в единичном круге;
то же верно и для U*.
Если Щ = If, где / = <|0, lu ?2, • • • >, то
@,10, |ь g2, ...> = <^|о, ^ii, Ц2, •• •>,
так что 0 = А,?о и In = ^In+i для всех ге. Отсюда следует, что
\п = 0 для всех п (рассмотрите отдельно случаи I = 0 и Я Ф 0),
поэтому По (С/) = 0. Следовательно, Г (С/*) = 0.
Существует и другое доказательство того, что у оператора U
нет собственных значений. Это доказательство имеет некоторую
геометрическую ценность. Следующий тривиальный факт верен
для любого оператора А: если / — собственный вектор
оператора А, отвечающий ненулевому собственному значению, то /
принадлежит области значений оператора А'1 для любого
натурального числа п. (Доказательство по индукции. Для п = 0
тривиально. Если / = Ang, то / = (HI) Af = {ill) An+lg.) Область
значений оператора U'1 состоит из векторов, ортогональных
ко всем векторам et, где 0 <; / < п, и, следовательно, р) ran Un
п
состоит из одного нуля. Поэтому оператор U не может иметь
отличных от нуля собственных значений, а нулевое собственное
значение исключается, так как оператор U изометричен: если
?7 = 0, Т00= || Щ || = ||/ ||.
Если U*f = If, то
Н
и
1ак что ln + i = lln или ln + l = lnl0 для всех п. Если 10 = 0,
то / = 0; в противном случае получившиеся числа ?„ будут
координатами какого-нибудь вектора из I2 (т. е. образуют
квадратично суммируемую последовате юность) тогда и только тогда, когда
I | < 1. Таким образом, По (U*) — открытый единичный круг
(следовательно, Г (U) — открытый единичный круг). Каждое
число к в этом круге будет простым собственным значением опера-
гора U* (т. е. его кратность равна 1); соответствующий
собственный вектор fx (нормированный так, что (/?,, е0) = 1) имеет вид
Поскольку спектр всегда замкнут, оба спектра Л (U) и Л (U*)
содержат замкнутый единичный круг и поэтому совпадают с ним.
Осталось только найти П (U) и П (U*). Так как граница спектра
каждого оператора содержится в предельном спектре, то П (U)

Гл. 9. Примеры спектров 225
и П (С/*) содержат единичную окружность. Если | к | < 1, то
для всех /, так что оператор U — Я ограничен снизу, а потому
П (U) в точности совпадает с единичной окружностью. Для
оператора U* ситуация другая, поскольку По всегда содержится в П,
а По (U*) представляет собой открытый единичный круг, то
П (U*) — замкнутый единичный круг.
Решение 68. Если W — двусторонний сдвиг, то Л (W) = С
(где С — единичная окружность), По (W) — 0, П (W) = С,
Г (W) = 0. Все эти равенства верны и для сопряженного
оператора.
Доказательство. Можно определять спектр оператора W и его
структуру так, как это было проделано для оператора
одностороннего сдвига (решение 67), но можно действовать и другим, лучшим
способом. Оператор двустороннего сдвига W имеет естественное
функциональное представление в пространстве L2 (^) (где |_i —
нормированная мера Лебега на единичной окружности, см.
задачу 26), аналогичное представлению оператора U в
пространстве Н2. Функции еп (z) = zn (n = 0, ±1, ±2, . . .) образуют
ортонормированный базис в пространстве L2. Сдвиг индекса
на единицу вперед для этих функций равнозначен умножению
на в\. Поэтому двусторонний сдвиг — это не что иное, как
умножение на z в L2:
Отсюда следуют все утверждения об операторе W; все
вытекает из решения 66.
Изучение оператора W* можно свести к изучению
оператора W. В самом деле, так как W унитарен, то сопряженный к нему
совпадает с обратным. Оператор W~x совсем нетрудно найти;
ясно, что W'1 сдвигает назад так же, как W сдвигает вперед.
Операторы W и W* совершенно симметричны; один можно
получить из другого, заменив и на —п. Выражаясь более педантично,
W и W* унитарно эквивалентны, и унитарная эквивалентность
осуществляется оператором R, действующим по формуле Ren =
= е-п (п = 0, ±1, ±2, . . .), т. е. R^WR = W*. Итак, спектр
оператора W* совпадает со спектром оператора W, и то же верно
для всех рассматриваемых частей спектра.
Решение 69. Предположим сначала, что замкнутая линейная
оболочка множества собственных векторов оператора А*
совпадает со всем пространством Н. Обозначим через X такое
множество индексов, что каждому х из X соответствует один и только

226 Решения
один собственный вектор Кх оператора А*. Замкнутая линейная
оболочка векторов Кх совпадает со всем пространством Н.
Обозначим собственное значение, соответствующее вектору Кх, через
Ф (х)* (эти собственные значения можно было бы обозначить
и через ср (х), но ср (х)* удобнее). Ясно, что А*КХ = ср (х)*Кх.
Для каждого / из Н определим функцию /на X равенством/ (х) =
= (/, Кх). Соответствие / ->¦ / линейно. Если / = 0, т. е. (/, Кх) =
= 0 для всех х, то / = 0 (так как замыкание линейной оболочки
векторов Кх совпадает со всем пространством Н). Поэтому
определение скалярного произведения равенством (/, g) = (/, g)
корректно. Теперь множество Н функций вида / (где / ? Н) стало
функциональным гильбертовым пространством. (Замечание:
|f(z)|=|(/, Kx)\ <\\f\\.\\Kx\\=\\n-\\Kx\\.) Пусть/-
образ оператора А при изоморфизме f —*¦ f (т. е. А / — (Af)), тогда
(x) = (A~f)(x)--= (Af, Kx) = (f, A*KX) =
= (/, Ф (*)• Кх) = ф (х) (/, Кх) = Ф (х) f(x),
так что оператор Л^иредставляет собой умножение.
Чтобы доказать обратное утверждение, надо проделать
последние выкладки в обратном порядке. Более подробно, если А —
умножение (скажем, с множителем ц>) на функциональном
пространстве Н с областью определения X и ядром К, так что
(Af) (х) = Ф (х) f (х), то (Af, Кх) = Ф (х) (/, Кх) (где Кх (у) =
= К (у, х)), и потому (/, А*КХ — ф (х)*Кх) = 0 для всех /.
Отсюда следует, что А*КХ = ф (х)*Кх. Поскольку в
функциональном гильбертовом пространстве замкнутая линейная
оболочка множества векторов Кх всегда совпадает со всем пространством,
то доказательство закончено.
Сравните эту конструкцию с тем, что известно об
одностороннем сдвиге (решение 67).
Решение 70. Относительным спектром одностороннего сдвига
служит единичная окружность.
Доказательство. Рассуждение основано на двух простых
леммах. A) Для оператора с тривиальным ядром понятия
относительной обратимости и левой обратимости совпадают. B) Левая
обратимость равносильна ограниченности снизу для всех
операторов.
Доказательство A) в одну сторону тривиально; левая
обратимость всегда влечет за собой относительную обратимость.

Гл. 9. Примеры спектров 227
Чтобы доказать обратное утверждение, предположим, что ABA =
= А, так что А A — В А) = 0. Если ядро оператора А
тривиально, то 1 — В А = 0, и потому А обратим слева.
Чтобы доказать B), предположим, что оператор А обратим
слева, скажем В А = 1; тогда || / || = \\BAf || < \\ В \\-\\Af || для
любого вектора /, и потому А ограничен снизу. Обратно, если А
ограничен снизу, то отображение А обладает однозначно
определенным обратным отображением В, переводящим (замкнутую)
область значений оператора А на все пространство.
Отображение В представляет собой ограниченное линейное
преобразование; продолжим его до оператора, например, положив его равным
нулю на ортогональном дополнении к области значений
оператора А. Это продолженное преобразование В и будет левым
обратным для А.
Из лемм A) и B) следует, что если точечный спектр оператора
пуст, то относительный спектр совпадает с предельным спектром.
Отсюда немедленно получается утверждение для оператора
одностороннего сдвига (см. решение 67).
Решение 71. Пусть А — оператор в гильбертовом
пространстве Н и а — число, не равное нулю. Операторная матрица
М
(а 04
VI А)
относительно обратима тогда и только тогда, когда
относительно обратим оператор А.
Числа а и 1, участвующие в записи матрицы М, понимаются
здесь как операторы в Н.
Доказательство. Предположим сначала, что матрица М
относительно обратима. Если
(Р О\
S)
— относительно обратная матрица для М, т. е. MNM = М,
то аОА = 0 и QA -\-ASA = А. (Нужно перемножить указанные
матрицы и рассмотреть второй столбец произведения.) Так как
а Ф 0. то QA = 0 и потому ASA = А, т. е. А относительно
обратим. Обратное утверждение также доказывается легким
вычислением: пусть оператор А относительно обратим, т. е. ABA =
— А; положите
/ -Lab 1-
N=\ Г
\ —-в в
и убедитесь, что MNM = М.

228 Решения
Из полученного результата следует, что существуют
операторы, относительные спектры которых не замкнуты. Для
доказательства рассмотрим случай а = 0. Операторная матрица
/°
М = \
G
всегда относительно обратима независимо от того, что
представляет собой оператор А. Действительно, если
/О V
Но
то MNM = М.
Таким образом, относительный спектр операторной матрицы
/1 0
M=(l A
почти совпадает с относительным спектром оператора А;
единственное, чем они могут различаться, это число 1. Точнее, если
относительные спектры операторов М и А обозначить через Ф
и 4я соответственно, то Ф = W — {1}. Поэтому если 1 — точка
накопления для относительного спектра оператора А, то
относительный спектр операторной матрицы М не замкнут. Для
примера можно взять операторную матрицу, в которой А —
односторонний сдвиг; см. решение 70.

ГЛАВА 10. СПЕКТРАЛЬНЫЙ РАДИУС
Решение 72. Для доказательства аналитичности операторной
функции часто пользуются тождеством
Если || А || <; 1, то ряд сходится (по операторной норме), и
простые алгебраические вычисления показывают, что его сумма
действует как оператор, обратный к 1 — А. (Заменив А на 1 — А,
получим, что при || 1 — А || << 1 оператор А обратим, см. Хал-
мош [3, стр. 52]; см. также задачу 83.)
Предположим теперь, что число Яо не принадлежит спектру
оператора А, так что оператор А — Яо обратим. Чтобы доказать,
что (А — Я) — аналитическая функция от Я в некоторой
окрестности точки Яо, выразим А — К через А — Яо:
Если число ]Я— Яо| достаточно мало, то оператор А — Я
обратим, и
{А - Л)-* = {А - Яо) f ({А - Яо)-1 (к - К))п-
п=0
Поэтому, если / и g принадлежат Н, то в окрестности точки Яо
со
(р(Ц f,g)= 2 ((А-К)-"-1!, g)(b-h)n,
п=0
т. е. р — аналитическая функция в точке Яо.
В случае Я = с» заметим, что
при Я^О, а потому оператор А — 1/Я обратим, если число |Я|
достаточно мало (но отлично от нуля). Так как

230 Решения
то применим снова разложение в ряд:
т(Я) = р D") = — Л.(Ц
Ряд, заключенный в скобки, сходится для малых Я, а
множитель — Я гарантирует нам, что т @) = 0.
Решение 73. Предположим противное. Если спектр оператора
А пуст, то функция (рА/, g) (или Х-+((А — Я)-1/, g)) — целая
при всех / и g. Поскольку рА (оо) = 0, она ограничена в
окрестности оо, а потому и на всей плоскости. Тогда по теореме
Лиувилля (рд, /, g) — константа. Так как рА (оо) = 0, то
((А-к)~Ч, g) = 0
тождественно по /, g и Я. Но это неверно (заменим / и g на
(А—Я)/и/), и, значит, предположение о том, что спектр пуст,
ошибочно.
Решение 74. Так как (г (А))п = г (Ап) < |[ Ап ||, так что
г (Л) < || Лп ||1/п для всех п, то
Доказательство противоположного неравенства основано на
аналитическом характере резольвенты (задача 72).
Е ели
то т (л) = —- X A — ЛЛ) при X Ф 0, если только ИХ не
принадлежит спектру оператора А. Поскольку числовая функция
(т/ g) при всех f is. g аналитическая, если | ИХ \ > г (А)
(т. е. | Я [ < Иг (А)), то ее ряд Тейлора
-?. 2 bn(Anf,g)
сходится, если ] Я 1 < 1/г (А). Поэтому для каждого такого числа
последовательность {(XA)nf, g} ограничена. В силу принципа
равномерной ограниченности последовательность {| Я |"-1| Ап ||}
тоже ограничена. Если |Я |п-||Лп||<а для всех п то
а потому
Я • lim |UnH1/"<l.

Гл. 10. Спектральный радиус 231
Так как это верно при | Я| < Иг (А), то
Доказательство закончено.
Решение 75. Унитарную эквивалентность, о которой идет речь,
можно осуществить при помощи диагонального оператора. Чтобы
увидеть, какой диагональный оператор нужен, будем действовать
в обратном направлении. Пусть D — диагональный оператор
с диагональю {8п} и AD =DB. Тогда (применим оба оператора
к вектору еп)
для всех п. Положим б0 = 1 и определим остальные б
рекуррентными формулами. Сначала рассмотрим положительные п. Если
Рп тф 0, положим 6П+! = (ап/$п) Ьп. Если рл = 0, то ап = 0 (так
как по условию | ап \ = \ $п |); в этом случае положим 8n + i = 1.
Для отрицательных п (если такие существуют) применим тот
же процесс, но в другом направлении: если ап Ф 0. положим
8п = (Р„/а„) 8n + i\ если ап = 0, положим 8п = 1. Получится
последовательность {бп} комплексных чисел, равных по модулю 1.
Рассуждения, при помощи которых мы получили эту
последовательность, можно обратить. Если дана последовательность, то она
индуцирует диагональный оператор D. Так как | 6„ | = 1 для
всех п, то оператор D унитарный. Наконец, заметим, что ADen —
= DBen для всех п, и потому оператор D переводит А в В.
Решение 76. Предположим сначала, что существует такой
обратимый оператор S, что А = S^BS. Тогда А* = S*B* (S*),
откуда (А*)п = S* (B*)n (S*)~K
С помощью тех же рассуждений, что и при доказательстве
унитарной эквивалентности, докажем, что оператор S*
отображает ker (В*)п на кег (А*)п. Отсюда будет следовать, что матрица
{ojj} оператора S — треугольная с нулями выше диагонали.
Рассмотрим равенство SA = BS и вычислим матричные элементы
в обеих частях на пересечении (п + 1)-й строки и п-то столбца
(п = 0, 1, 2, . . .). Получим ал+1, n+ian = §пап, „, откуда
Q О
Р0 • • • Рп
«о ... а„
во, о
(Sen
о, о
о, о I
Таким образом, последовательность \ о°'" " V отделена от
11 Ро • • • Рп IJ
нуля. Для доказательства ограниченности (последовательность
отделена от оо) достаточно рассмотреть оператор S'1 (вместо S)
и равенство AS'1 = Б~ЛВ (вместо SA = BS).

232 Решения
Обратно, если условия ограниченности выполнены, положим
о ft
о = 1, crrt + i = ° " *—— и рассмотрим (обратимый) диагональный
оператор S с диагональной последовательностью {о. сг4, сг2, . . .}.
Равенство SA = BS проверяется непосредственно.
Решение 77. Если А — оператор взвешенного сдвига с весами
й-1
а„, то \\А || = sup \ ап \ и г (А) = lim sup | [[ а„ + г |v\
п к п i = 0
Выражение для г выглядит несколько сложным, но иногда
оно оказывается удобным для различных вычислений.
Доказательство. Так как оператор А можно представить в виде
произведения сдвига и диагонального оператора с диагональю
{art}, a сдвиг изометричен, то норма оператора А равна норме
соответствующего диагонального оператора.
Для доказательства утверждения о спектральном радиусе
вычислим степени оператора А. Если Аеп = anen + i, то
Агеп = anan+ien+2, A3en = aPan+lan+2en+3, ... .
Теперь ясно, что Ак можно представить в виде произведения
изометрии (k-ii степени соответствующего сдвига) и
диагонального оператора (у которого п-й диагональный член равен
произведению к последовательных чисел а, начиная с а„).
Следовательно, норма оператора Ак равна верхней грани модулей
«скользящих произведений» длины к. т. е.
|| Л" || = sup | П о*+*| (Л= 1,2,3,...).
п г=0
Отсюда сразу получается выражение для величины спектрального
радиуса.
Решение 78. Если А — односторонний взвешенный сдвиг с
весами {а0, at, а2, . . .} и ап ф 0 для всех п, то По (А) = 0,
п-1
а По (А*) — круг с центром 0 и радиусом lim [] аг\1/п. Круг
п~>оэ i=0
может быть открытым или замкнутым и может выродиться
в точку 0.
Доказательство. Доказательство для оператора А такое же, как
и для обыкновенного одностороннего сдвига (решение 67). Вот оно
в терминах последовательностей (координат): если Af = Я/, где
/ = (So, Si, lz, ¦ ¦ ¦ ), то Af = @, ao?0, atSi, a2?2, • ¦ • ), так
что 0 = X?o и а„|„ = Я|„+1 для всех п. Рассматривая отдельно
случаи X = 0 и X Ф 0, получаем \п = 0 при всех п.

Гл. 10. Спектральный радиус 233
Для того чтобы исследовать оператор А*, полезно знать, что
он собой представляет. Его можно получить, рассматривая
матричные представления операторов А я А* (диагональ, прилегающая
снизу к главной диагонали в матрице А, превращается для А*
в диагональ, прилегающую к главной диагонали сверху),
примерно таким же образом, как при нахождении оператора U*
(решение 67). Другой способ: записать А в виде произведения
оператора U и диагонального оператора и применить известный
результат для U*. В обоих случаях легко видеть, что оператор А*
действует по формулам А*еп = 0 при п = О и А*еп = a^-^-j
при п > 0. Следовательно, если / = (|0, |ь |2> • • ¦ )> то A*f =
= {a*li, аЦ2, аЦ3, . . . >. Поэтому A*f = Kf тогда и только
тогда, когда
для всех п. Отсюда получаем, что при я>1
5" = So' п_ 1 •
Так как последовательность чисел определяет вектор тогда и
только тогда, когда она квадратично суммируема, то X ? По (А*)
тогда и только тогда, когда
п-\
п=1 П
оо.
и
Это условие означает, что степенной ряд по степеням К2 должен
сходиться. Числа X, удовлетворяющие этому условию,
образуют круг. Радиус этого круга можно найти, пользуясь формулой
для радиуса сходимости степенного ряда.
п-1
Если ап = 1 (п = 0, 1, 2, . . .), то [] аг = 1 (п = 1, 2, 3, . . .),
г=0
поэтому степенной ряд сходится в открытом единичном круге;
см. решение 67. Если
п-1
то [] аг = (п + IJ, поэтому степенной ряд сходится в замкнутом
единичном круге, который в этом случае совпадает со спектром;
п-1
см. решение 77. Если а„ = 1/(ге + 1), то П а, = 1/п!, поэтому
г=0
степенной ряд сходится только в начале координат.

234 Решения
Решение 79. Если р = {рп} — такая последовательность
положительных чисел, что частные {pn + ilpn} ограничены в
совокупности, то оператор сдвига S в пространстве I2 (р) унитарно
эквивалентен взвешенному сдвигу А с весами {]/Pa+JPn) в ^2-
Доказательство. Если / = (|0, |4, ?2> • • ¦) ?12 (р), положим
Uf = \ V~p~o lo, Vpv It, Vp% 1г, • ¦ ¦ /•
Преобразование U отображает I2 (p) в l2; оно, разумеется, линейно
и изометрично. Если <ТH, r\u r\z, . . .} ? I2 и \п = цп/УТп, т°
оо со
2 Рп I ?л I2 = 2 I Т1л '2! а эт0 и значит, что С/ отображает
п=0 п=0
Z2 (р) на I2.
Докажем, что U преобразует S в А. Действительно,
_ 77 /о
\
_П2
__
VPo У Pi У
Р2
Отображение U переводит обыкновенный сдвиг в
пространстве последовательностей с весом во взвешенный сдвиг в
обыкновенном пространстве последовательностей.
Имея в виду этот результат, можно на все вопросы,
относящиеся к пространствам последовательностей с весом, отвечать
в терминах взвешенных сдвигов. Например, спектральный радиус
ь-1 ,
оператора S равен lim sup ( ТТ I/ Pn±i±±\ ^CM_ решение 77).
ft п ^ . \ * Pn+i I
Решение 80. Если А — односторонний взвешенный сдвиг с
положительными весами ап. ап —>- 0, то Л (А) = {0} и По (А) = 0.
Доказательство. Для вычисления г (А) используем решение 77.
Во многих частных случаях это совсем легко сделать. Если,
например, а„ = 1/2п, то верхняя грань (по всем п) выражения
( [] l/2n+t)i/k достигается при п = 0, она равна
1=0
k-i
i/k i

Гл. 10. Спектральный радиус 235
где
i=0
Ясно, что она стремится к 0 при А; —*¦ оо.
k-i
В общем случае заметим сначала, что ( [] a;I/h->-0 при /с->оо.
(Это утверждение — мультипликативный аналог того факта, что
u:s сходимости следует сходимость по Чезаро. Аддитивный аналог
fc-i
состоит в том, что если ап -у 0, то {ilk) 2 аг->-0. Оба доказатель-
г=0
ства просты и похожи друг на друга. Кроме того,
мультипликативный вариант легко вывести из аддитивного.) Так как an+i ->¦ О,
fc-i k-i
го и ( [] aj+iI//A ->- О, а в более общем случае ( [j а^ + гI^ -> О
t=0 i=0
при к ->¦ оо для любого п.
fe-i
Нужно доказать, что верхняя грань sup ( [J ап+{I^мала при
n i=0
достаточно больших А. Пусть заданы s (>0) и п (= 0, 1,2, . . .);
k-i
аапцеч такое к0 (п, г), что (П an + iI/k •< s при к ]> Ao (re, е).
i=0
Если 7г0 таково, что а„ < s для п ^> ге0, то max (/с0 @, е), /с0 A, е),
к0 B, е), . . ., к0 (щ — 1, е)) можно считать уже достаточно
«большим»: если к больше или равно этому максимуму, то
k-i к-1
sup([] a,j+jI/ft< е. Всамомделе, если n<n0, то ([] an + i)i/h<.e
п г= ' г==0
k-i
именно потому, что к ^> к0 (п, г); если /г ^> гг0. то ([] ал+1) 7*<:е
г=0
потому, что каждый множитель в этом произведении меньше е.
Для того чтобы убедиться в том, что точечный спектр По (А)
пуст, примените решение 78.
Решение 81. Существует такое счетное множество операторов,
что спектр каждого из них равен {0}, а спектральный радиус
прямой суммы равен 1.
Доказательство. Вот пример в терминах взвешенных сдвигов.
Рассмотрим (одностороннюю) последовательность
{1, 0, 1, 1, 0, 1, 1, 1, 0, 1, 1, 1, 1, 0, ...},
и пусть А — односторонний взвешенный сдвиг с такими весами.
Нули в этой последовательности гарантируют, что оператор А

236 Решения
равен прямой сумме операторов, заданных матрицами
спектр каждой из которых состоит только из нуля. Однако, так
как в последовательности весов блоки единиц имеют как угодно
большую длину, то из формулы для спектрального радиуса
взвешенного сдвига (решение 77) следует, что г (А) = 1.
Этот пример обязан своим существованием «плохому
поведению» предельного спектра. Для точечного спектра справедливо
(и легко доказывается) следующее естественное утверждение:
точечный спектр прямой суммы равен объединению точечных
спектров слагаемых. Переходя к сопряженному оператору, легко
показать, что это же верно и для спектра сжатия.
Решение 82. Центральный пункт доказательства — неравенство
\(ABf, /)|2"<DЯ2"/, f).(Af, if'1.
Докажем его по индукции. При п = 0 оно очевидно. Для
доказательства справедливости индуктивного перехода применим
неравенство Шварца к скалярному произведению, задаваемому
оператором А. Получим
\(ABf,f)\2 = (\(ABf,f)\2J<
<((AB2nf,f)(Af,ff-1f<
<(AB2nf, B2nf) (Af, f) (At, ff+1-2<
<(E*J AB2 f, /) (Af, /J -1.
Нужное неравенство получим, если покажем, что (B*)hA =
= АВк при всех к. Это легко доказать по индукции при к > 1.
Для доказательства начального шага (к = 1) заметим, что по
условию оператор АВ эрмитов, т. е. АВ = (АВ)* = В*А.
Доказательство оценки для спектрального радиуса
оператора В теперь уже очевидно. Из только что установленного
неравенства следует, что
Осталось только извлечь корень степени 2™ из обеих частей
последнего неравенства и перейти к пределу при п—>¦ оо.

ГЛАВА 11. РАВНОМЕРНАЯ ТОПОЛОГИЯ
Решение 83. Метрическое пространство операторов,
действующих на бесконечномерном гильбертовом пространстве, несепара-
белъно.
Доказательство. Поскольку каждое бесконечномерное
гильбертово пространство имеет сепарабельное бесконечномерное
подпространство, а каждое сепарабельное бесконечномерное
пространство изоморфно L2 @, 1), можно без ограничения общности
с самого начала считать, что рассматриваемое гильбертово
пространство — этоЬ2 @. 1). Пусть ф4 — характеристическая функция
отрезка [0, t], a Pt — оператор умножения, индуцированный
функцией фг, 0 <С t ^ 1. Если s <Ct, то Pt — Ps будет
оператором умножения, индуцированным характеристической функцией
множества (s, t], поэтому || Pt — Ps \\ = 1. Таким образом,
существует несчетное множество таких операторов, что расстояние
между любыми двумя из них равно 1, что противоречит
сепарабельности. Другим примером такого несчетного множества может
служить множество диагональных операторов, у которых на
диагоналях стоят только 1 и 0.
Решение 84. Множество обратимых операторов открыто,
и операция перехода к обратному оператору непрерывна на этом
множестве.
Доказательство. Напомним сначала, что если || 1 — А || < 1,
оо
то оператор А обратим, и А'1 = 2 A—А)п (см- решение 72);
поэтому
и=0
Пусть теперь оператор Ао обратим. Так как
для любого оператора А, то неравенство || Ао — А ||< 1/|| Ао i \\
влечет || 1 — АА^1 \\ < 1. Поэтому если Що — А \\ < 1/|| Л о1|, то А

238 Решения
обратим (ибо обратим AAq ), и
II Л11 =
^ i-\\A0-A\\-\\A^\\ *
Итак, множество обратимых операторов открыто, причем если
операторы находятся в достаточной малой окрестности
обратимого оператора, то они не только обратимы, но обратные к ним
ограничены в совокупности.
Теперь уже нетрудно доказать непрерывность. Заметим, что
Если оператор Ао фиксирован, а А достаточно близок к Ао,
то средний множитель в правой части неравенства мал, а два
других ограничены.
Решение 85. Последовательность весов оператора Ah такова:
/ 111 (— \ 111 \
Поскольку ilk ^ 1, верхняя грань скользящих произведений,
которые входят в формулу для спектрального радиуса оператора
взвешенного сдвига (см. решение 77), равна 1, а потому г (Ah) = 1.
Следовательно, спектр оператора А^ содержится в замкнутом
единичном круге при к = 1, 2, 3, . . ., оо.
Если к < оо,, то оператор Ah обратим, а А^1 — оператор
взвешенного сдвига. Так как А~?еп = еп-.^ при d^l и А^е^ =
= ке0, то Аи1 сдвигает векторы назад (умножая их на некоторые
веса, как только что было указано). Так как сдвиги вперед и назад
неразличимы с точки зрения унитарной эквивалентности (см.
решение 68), то к оператору Ak1 можно применить теорию
взвешенных сдвигов. Вот последовательность весов для этого
оператора:
{..., 1, 1, 1, A), к, 1, 1, 1, ...}.
Теперь верхняя грань скользящих произведений длины т равна к,
откуда г {Ah1) = lim ki/m = 1. Следовательно, спектр операто-
т
pa At1 содержится в замкнутом единичном круге при к = 1. 2,
3, ... (но не для к = оо).
Из этих двух результатов и из теоремы об отображении
спектра для обратных операторов вытекает, что спектр оператора А^
(а также спектр оператора Аи1) лежит на единичной окружности.
В свою очередь этот факт с учетом круговой симметрии спектров

Гл. 11. Равномерная топология 239
взвешенных сдвигов (см. задачу 75) влечет совпадение с
единичной окружностью спектра оператора Ah (к = 1, 2, 3, . . .).
Спектр оператора А«,, разумеется, не совпадает с единичной
окружностью: так как А оое0 = 0, то этот спектр содержит начало
координат. Таким образом, он очень сильно отличается от спек-
тров'остальных операторов Ak, и никакой непрерывности тут нет.
(Заметим, что А^ —> А со, т. е. \\ А^ — А «, |] —*- 0 при к —»- оо.)
Спектр оператора А «, на самом деле совпадает с единичным
кругом. Кратчайшее доказательство: замкнутая линейная оболочка
векторов еп при п > 0 приводит А со (как само это
подпространство, так и его ортогональное дополнение инвариантны
относительно А ж), а сужение оператора А со на это подпространство
представляет собой односторонний сдвиг. Поскольку спектр
любого оператора включает в себя спектры всех своих прямых
слагаемых, доказательство закончено.
Этот пример принадлежит Люмеру.
Решение 86. Пусть Т ¦— множество сингулярных операторов
(действующих в фиксированном гильбертовом пространстве).
Возьмем какой-нибудь оператор А и зафиксируем его. Пусть
Ф (X) обозначает расстояние (в метрическом пространстве
операторов) от оператора А — X до множества Т. Функция ф
непрерывна. (Это элементарный факт из теории метрических пространств;
для этого даже не нужно, чтобы множество Т было замкнутым.)
Если Ло — открытое множество, включающее Л (^4), А —
замкнутый круг с центром в 0 и радиусом 1 + || А || и X ? А — Ло,
то ф (X) > 0. (Для этого уже надо, чтобы множество Т было
замкнутым; действительно, если ф (X) = 0, т. е. d (А — X, Т) = 0,
то А — X ? Т, т. е. к ? Л (А).) Так как множество А — Ло
компактно, то существует такое положительное число е, что ф (X) ^> е
для всех X из А — Ло", разумеется, можно без ограничения
общности считать, что е -< 1. Теперь предположим, что \\ А —В || < е.
Тогда, если X ? А — Ло, то
\\(A-X)-(B-X)\\<e<d(A-X, T).
Поэтому В — X не принадлежит множеству Т, а потому X не
лежит в Л (В). Следовательно, множества /V (В) и А — Ло не
пересекаются. В то же время, если X ? Л (В), то
\к\<\\В\\<\\А\\ + \\А-В\\<1 + \\А\\,
так что Л (В) а А. Из этих двух свойств спектра Л (В) вытекает,
что Л (В) ci Ло; доказательство закончено.
Существует и другое доказательство, опирающееся на
известные свойства резольвенты. Если ф (X) = || (А — X)'1 ||, то
функция ф определена и непрерывна вне Ло; поскольку она обращается

240 Решения
в нуль в оо, она ограничена (см. задачу 72). Если, скажем,
ср (А,) < а при К (? Ло, положим е = 1/а. Если || А — В |) •< е
и Ц Ло, то
Отсюда, как и в решении 84, получаем, что оператор В — Я
обратим.
Доказательство, использующее теорию метрических
пространств, принадлежит Васютинскому; доказательство с
резольвентой принадлежит Нордгрену.
Решение 87. Существует такая сходящаяся
последовательность нильпотентных операторов, что спектральный радиус
предельного оператора положителен.
Доказательство. Для построения выберем некоторую
последовательность положительных чисел {еге}, сходящуюся к 0.
Как именно выбрать эти числа еп, мы укажем после того, как
поймем, что мы от них хотим. Зададим последовательность чисел
{ап} следующим образом: каждое второе а равно е0 (т. е. а0 =
= е0, а2 = е0, а4 = е0, . • .); из оставшихся а каждое второе
равно 8} (т. е. СЦ = г±, а5 = ъи а9 = г1 . . .); из оставшихся а
каждое второе равно е2 и так до бесконечности.
Последовательность {ссп} имеет вид
80i 8l> e0> 82i e0> eli e0i еЗ) е0> еЬ e0t e2j e0i eli e0i • • • •
Пусть А будет односторонним взвешенным сдвигом с весами
{а„}; определим для каждого неотрицательного целого числа А;
односторонний взвешенный сдвиг Ak с весами {а„}, только теперь
все &k заменены нулями. Так, например, последовательность
весов для оператора Az имеет вид
80i eli E0> "i e0i eli e0> E3i e0i eli 80i Oj e0i 8j, 8q . . . .
Из построения следует, что индекс нильпотентности оператора Ah
равен 2''+1, а норма оператора Ak — А (который тоже будет
взвешенным сдвигом) равна eft.
Осталось доказать, что числа е^ можно выбрать так, чтобы
г (А) > 0. Для этого заметим, что
И вообще, если п = 2р — 2 (р=1, 2, 3, ...), то]
а0 . . . ап = в^р х .. . гр_1.

Гл. 11. Равномерная топология 241
Поэтому
log («0 .. . ап) = 2 2'-' lQg s, = 2" 2
или
р-1
log (сс0 . . . сс„I/(п+1) = ^—г 2 ~~~ •
Таким образом, если ряд
со
•у log Eft
Й=0
сходится (так будет, например, если 6^ = 1/2''), то
limlog(a0... anI(n+1)>-oo,
?г->со
откуда
Все остальное следует из решения 78.
Этот пример принадлежит Какутани; см. Рпккарт [1, стр. 282].

ГЛАВА 12. СИЛЬНАЯ И СЛАБАЯ ТОПОЛОГИИ
Решение 88. Первое утверждение, касающееся равномерности,
не связано с операторами; это просто частный случай задачи 16.
Для доказательства второго, не умаляя общности, положим А = 0.
В этом случае условие состоит в том, чго для всякого
положительного числа е
|| Anf || < s при ||/|| = 1,
если п достаточно велико; равномерность здесь проявляется в том,
что число п не зависит от /. Поэтому при достаточно больших п
<е, если ]ф0,
л !_
71 11/1
откуда
\\Anf ||<е|| / 1| для всех /.
Следовательно, если п достаточно велико, то
Это общее рассуждение применимо не только к
последовательностям, но и к сетям.
Решение 89. Норма непрерывна в равномерной и разрывна
в сильной и слабой топологиях.
Доказательство. Доказательство для случая равномерной
топологии содержится в неравенстве
Это неравенство означает полуаддитивность нормы; из него
следует, что в равномерной топологии норма непрерывна. Из этого
доказательства нельзя сделать никаких выводов о непрерывности
нормы в других топологиях. Вообще, норма всегда непрерывна
по отношению к той топологии, которую она определяет; с
другими топологиями дело может обстоять иначе.
Для того чтобы показать, что норма разрывна в сильной и,
значит, в слабой топологии (даже относительно сходимости по
последовательностям), рассмотрим следующий пример. Пусть {Мд} —
убывающая последовательность ненулевых подпространств

Гл. 12. Сильная и слабая топологии 2/i3
с общим пересечением, равным {0}, а {Рп} — соответствующая
последовательность проекторов. Последовательность {Рп} сильно
сходится к 0. (Для доказательства построим ортонормированные
базисы для подпространств М^, М4 П Мг~, М2 П Мз" и т. д.
и, объединив их, получим базис для всего пространства. См.
также решение 94.) Последовательность норм {|| Рп ||} не
сходится к 0; в самом деле, || Рп || = 1 для всех п.
Решение 90. Операция сопряжения непрерывна в равномерной
и слабой и разрывна в сильной топологиях.
Доказательство. Доказательство для случая равномерной
топологии содержится в тождестве
Если функция, отображающая одно пространство в другое,
непрерывна, то она остается непрерывной при усилении
топологии в области определения или при ослаблении топологии в
области значений. (Именно поэтому из разрывности нормы в сильном
смысле следует ее разрывность в слабом смысле.) Однако если
отображение пространства в себя непрерывно, то непонятно, как
оно будет себя вести при изменении топологии; каждое изменение
работает в обе стороны. На самом деле,.как показывает пример
операции сопряжения, может быть все, что угодно. При
ослаблении топологии (от равномерной к сильной, а затем к слабой)
сопряжение сначала становится разрывным, а затем вновь
непрерывным.
Докажем теперь разрывность сопряжения в сильной
топологии. Пусть U — односторонний сдвиг. Положим Аъ = (U*)h,
к = 1, 2, 3, ... . Тогда Ah ->¦ 0 сильно, но {А%} не сходится
в сильной топологии ни к одному оператору. В самом деле,
так что |] A hf |р для каждого / представляет собой хвост
сходящегося ряда и потому AjJ —>- 0. Для того чтобы доказать, что
{Ak} не сходится, достаточно убедиться, что при / =^=0
последовательность {Aff} не фундаментальна. Действительно,
|| A*m+nf-A*f ||2 = || Un+mf-Unf ||* - || Umf-f |p =
= || Umf |P - 2 Re (?/, /) + || / ||2 = 2 (|| / ||2 - Re (/, U*mf)).
Так как || (U*)mf || ->- 0 при m -+ oo, то || A^+J — A$f \\ не
может неограниченно уменьшаться при увеличении т и п. На са-

244 Решения
мом деле, если т велико, то норма || 4J,+n/ — AfJ ||
приблизительно равна ]/^2 || / ||.
Непрерывность операции сопряжения в слабой топологии
следует из тождества
$A*f, g)-(B*f, g)\ = \(f, Ag)-(f, Bg)\ = \(Ag, f)-(Bg, f)\.
Решение 91. Доказательство для случая равномерной
топологии содержится в неравенствах
\\AB- А0В0 \\<\\АВ-АВ0\\^ \\АВ0 ~ А0В0 || <
<(\\А-АоН\\А0\$\\В-В0\\ + \\А-А0\\-\\В0
Для случая сильной топологии можно построить изящный
опровергающий пример, опираясь на тот факт, что множество
всех нильпотентных операторов с индексом нильпотентности 2
(т. е. множество таких операторов А, что А2 = 0) всюду плотно
в сильной топологии. (Идея принадлежит Арнольду Лебову.)
Вот доказательство этого факта. Пусть
{А: \\Aofi-Aft\\<e, i = l,..., к}
— произвольная сильная базисная окрестность. Без ограничения
общности можно считать, что векторы /г линейно независимы
(или даже составляют ортонормированную систему); в противном
случае заменим их линейно независимым (или даже ортонормиро-
ванным) множеством, имеющим ту же самую линейную оболочку,
и, если это необходимо, возьмем е немного меньше. Для каждого
i (=1, . . ., к) найдем такой вектор gt, что \\ Aoft — gt || < е
и замкнутая линейная оболочка векторов g пересекается с
замкнутой линейной оболочкой векторов / только в 0; это возможно,
если гильбертово пространство бесконечномерно. Пусть А —
такой оператор, что
и
Ah = 0, если h ± fi и h _L gt (i = 1, . . ., k).
Ясно, что оператор А нильпотентен с индексом 2 и принадлежит
описанной окрестности.
Если бы возведение в квадрат было сильно непрерывно,
то множество нильпотентных операторов индекса 2 было бы
сильно замкнуто, и поэтому все операторы должны были бы быть
нильпотентными с индексом 2, а это, разумеется, не так.
Из этого результата следует, что умножение разрывно в
сильной топологии по совокупности переменных. Поскольку сильная

Гл. 12. Сильная и слабая топологии 245
топология сильнее слабой, сильно плотное множество слабо
плотно, и потому вспомогательное утверждение о нильпотентных
операторах выполняется для слабой топологии (поскольку оно
выполняется для сильной). Итак, возведение в квадрат разрывно
в слабой топологии и, следовательно, умножение разрывно в
слабой топологии по совокупности переменных.
Решение 92. Простейшее доказательство получается при
использовании сходимости. В общей топологии сходимости
последовательностей бывает недостаточно, а сходимости сетей
(обобщенных последовательностей) уже достаточно. Предположим поэтому,
что Aj-^-A сильно, т. е. Aj/-> Af для всех /. Отсюда следует,
в частности, что AjBf ->¦ ABf для всех /; этим доказана сильная
непрерывность по А. Если Вj -> В сильно, т. е. 2? _;/—>-2?/для
всех /, то, применяя оператор А, получаем, что АВjf —>• ABf для
всех /; этим доказана сильная непрерывность по В. Точно так
же можно проверить слабую непрерывность. Если (Ajf, g) —>•
->¦ (Af, g) для всех fug, то, в частности, (AjBf, g) ->- (ABf, g)
для всех / и g; если (Bjf, g) ->- (Bf, g) для всех / и g, то, в
частности, (ABjf, g) = {Bjf, A*g) -»- (Bf, A*g) = (ABf, g) для всех / и g.
Решение 93. (а) Основная трудность заключается в
доказательстве ограниченности. Предположим сначала, что
последовательность норм {|| Ап ||} ограничена. (Можно было бы вместо
этого предполагать ограниченность последовательности {|| Вп ||}.)
Поскольку для каждого /
\\AnBnf-ABf\\<
< || AnBnj - AnBf H + ll AnBf - ABf || <
<||4п||.||(Я„-Д)/|| Y\\(An-A)Bf\\,
наше предположение об ограниченности последовательности
{|| Ап ||} приводит к нужному соотношению AnBnf-^-ABf.
Теперь мы должны избавиться от сделанного предположения.
Оказывается, что ограниченность можно не предполагать, а
доказать. Она следует из принципа равномерной ограниченности
для операторов: если последовательность операторов слабо
сходится (и тем более если она сходится сильно), то она слабо
ограничена, а потому ограничена.
(б) В слабой топологии умножение не будет секвенциально
непрерывным.
Доказательство. Пусть U — односторонний сдвиг. Положим
Ап = (U*)n, Вп = Un, п = 1, 2, 3, ... . Так как Ап -> 0
сильно, то Ап ->- 0 слабо, поэтому Вп ->• 0 слабо (см. решение 90).
Но так как АпВп = 1 для всех п, то АпВп не может слабо
сходиться к 0.

24G Решения
Решение 94. Ограниченная возрастающая последовательность
эрмитовых операторов сходится в сильной топологии, но может
це сходиться в равномерной.
Доказательство. Один из способов доказательства утверждения
для сильной топологии состоит в том, чтобы перейти к случаю
слабой топологии. Пусть {Ап} —ограниченная возрастающая
последовательность эрмитовых операторов, а А — ее слабый
предел. Поскольку Ап <С А, оператор А — Ап положителен,
следовательно, из него можно извлечь положительный
квадратный корень. Обозначим его через Вп (см. задачу 95). Так как
10 последовательность {Вп} сильно сходится к 0. Поскольку
последовательность {\\ А —Ап ||} ограничена, ограничена и
последовательность {\\ Вп ||}. Пусть || Вп || <; (J для всех п.
Сильная сходимость следует теперь из соотношения
Как и в решении 1, то обстоятельство, что операторы Ап образуют
последовательность, несущественно; вместо нее можно
рассматривать любую сеть.
Иногда предпочитают обходиться без теорем о существовании
положительного квадратного корня. Только что полученный
результат, если нужно, можно доказать и без нее, но
доказательство с квадратными корнями более наглядно. Сейчас мы покажем,
как можно провести доказательство без их помощи. Без
ограничения общности можно считать, что ^4^1. Если т < п, то
\\(An-Am)f\\* = ((An-Am)f, (An-Am)f)*<.
<((An-Am)f, f)((An-Am)*f, (An-Am)f)
в силу неравенства Шварца для скалярного произведения,
определенного с помощью положительного оператора Ап — Ат.
Так как Ап — Ат ^ 1, так что || Ап — Ат || < 1, то
\\Ani~AmffK{(Anf, f)-(Amf,
Часто используемое следствие из доказанной теоремы о
сильной сходимости относится к проекторам. Если {М„} —
возрастающая последовательность подпространств, то соответствующая
последовательность проекторов {Рп} будет возрастающей (и,
очевидно, ограниченной) последовательностью эрмитовых
операторов. Следовательно, найдется такой эрмитов оператор Р, что
Рп -> Р сильно. Тогда Р — оператор проектирования на
замкнутую линейную оболочку (назовем ее М) всех подпространств М„
(см. решение 89).

Гл. 12. Сильная и слабая топологии
В самом деле, если / принадлежит какому-нибудь
подпространству М„, то Pf = /, и если вектор / ортогонален ко всем М„,
то Pf = 0. Поэтому существует плотное множество, на котором
Р совпадает с оператором проектирования на М.
Возрастающие последовательности проекторов, кроме того,
показывают, что утверждение о монотонной сходимости в
равномерной топологии неверно. Действительно, если
последовательность {М„} строго возрастает, то последовательность {Рп} не
может сходиться по норме к Р (да и вообще ни к какому оператору),
потому что она даже не фундаментальна. Монотонная
последовательность проекторов фундаментальна только в тривиальных
случаях: если Рп Ф Рт, то || Рп — Рт \\ = 1.
Решение 95. Для дальнейших ссылок удобно разбить
доказательство на несколько этапов.
A) Все целые положительные степени положительных
операторов положительны. Действительно, (A2nf, /) = || Ar'f ||2
и (А2п~^, f) = (A-Anf, Anf); первое число положительно, так
как нормы положительны, а второе,— потому что положителен
оператор А. В дальнейшем нам понадобится этот результат не для
оператора А, а для оператора 1 — А. (Замечание: доказанное
утверждение тривиально следует из спектральной теоремы.)
B) Каждый оператор Вп представляет собой многочлен от
1 — Ас положительными коэффициентами (по индукции),
поэтому (в силу A)) каждый оператор Вп положителен.
C) В силу B) все операторы Вп попарно коммутируют,
поэтому
Вп+2 — Вп+! = у {В2п_г — В2п) = у (-Sn+l — Вп) (Вп+1 "Г В„).
Отсюда получаем (с учетом B) и по индукции), что оператор
Bn + i — Вп есть многочлен от 1 — А с положительными
коэффициентами, и потому он положителен; значит, последовательность
{Вп} возрастает.
D) Из определения оператора Bn+i через Вп следует (по
индукции), что \\Вп || -^ 1 для всех п, т. е. последовательность
{Вп} ограничена.
(о) Из C) и D) вытекает, что {Вп} — ограниченная
возрастающая последовательность положительных операторов, и потому
она сильно сходится к некоторому (обязательно положительному)
оператору В. Заметим, что в этом рассуждении используется
решение 94. Для того чтобы при этом не получилось замкнутого
круга, необходимо иметь в виду тот вариант решения 94, в
котором не используются квадратные корни.
Сходимость доказана, осталось вычислить предел. Это легко
сделать, если использовать решение 93. Так как Вп-+В (сильно),

248 Решения
то Вп —>• В2 (сильно), поэтому
Это значит, что
A = i — 2B + 52 = A — ВJ,
и доказательство закончено.
Это стандартное доказательство; см. Рисе и Секефальви-Надь
[2, § 104].
Решение 96. Даже небольшой опыт обращения с некоммути-
рующими проекторами показывает, что обычных алгебраических
операций, по-видимому, недостаточно для того, чтобы выразить
Е л F через Е и F. Следующее изящное геометрическое
рассмотрение показывает, как в этой задаче появляется топология,
а также служит указанием к самому доказательству.
Предположим, что рассматриваемое гильбертово
пространство Н представляет собой двумерное вещественное евклидово
пространство, а М и N — две разные, но не ортогональные
прямые, проходящие через начало координат. Возьмем произвольную
точку / в пространстве Н, спроектируем ее на М (получим Ef),
результат спроектируем на N (FEf), затем снова спроектируем
на М (EFEf) и будем продолжать так до бесконечности;
по-видимому, полученная таким образом последовательность сходится
к 0, с которым в этом случае совпадает (Е ,\ F) /. Это наводит
на мысль рассмотреть последовательность операторов
Е, FE, EFE, FEFE, EFEFE, ....
Однако мы будем работать с последовательностью
EFE, EFEFE, EFEFEFE, ....
так как это удобнее с технической точки зрения.
Поскольку || EFE || ^ 1, степени оператора EFE образуют
убывающую (и даже коммутативную) последовательность
положительных операторов. Поэтому {{EFE)n} слабо сходится к
некоторому оператору G. Так как в этом случае слабая и сильная
сходимости совпадают, то оператор G принадлежит к той же
алгебре фон Неймана, к которой принадлежат F и Е. Утверждение:
G = Е ,\ F. Доказательство: ясно, что оператор G эрмитов.
Так как (EFE)mG = G для всех т, то G2 = G, так что G —
проектор. Так как (EFE)mFG = G для всех т, то GFG=G. откуда
G < F. (В самом деле, 0 = G — GFG = G A — F) G = G A -
— F)(\—F)Gti{\-F)G = {G{1 — F))*.) Так как Е (EFE)n =
= (EFE)n для всех п, то EG = G, откуда G ^ Е. Если, наконец,

Гл. 12. Сильная и слабая топологии 249
Go — такой проектор, что Go < Е и Go < F, то Go (EFE)n = G(h
откуда G0G = Go, так что Go ^ G. Доказательство закончено.
Теорема, двойственная к доказанной, получается из нее
в качестве простого следствия. Утверждение состоит в том, что
проектор Е v F на подпространство М v N принадлежит любой
алгебре фон Неймана, содержащей Е и F. Доказательство
немедленно следует из тождества
Если просмотреть все доказательство, то мы увидим, что
в нем используются не все свойства алгебры фон Неймана; важно
только, чтобы это было секвенциально сильно замкнутое
множество операторов, которому вместе с операторами А и В
принадлежат операторы ABA (для теоремы о Е л F) и
(для теоремы о EyF). Заметим, что даже в последнем случае
не требуется, чтобы 1 принадлежала этому множеству; ведь такое
выражение, как
— это только удобный способ записи того, что при желании может
быть легко (хотя и неуклюже) записано без единицы.

ГЛАВА 13. ЧАСТИЧНЫЕ ИЗОМЕТРИИ
Решение 97. Используя спектральную теорему, представим
оператор А в виде умножения на функцию ср. Если к ? А (А),
а N — произвольная окрестность точки F (К), то F (N) —
окрестность точки X, и поэтому множество ср (F (N)) имеет
положительную меру. Так как ф (F'1 (TV)) = (Fofp)'1 (N), то Я
принадлежит существенной области значений функции F°q>, так
что I ? Л (F (А)). Это доказывает, что F (Л (А)) с Л (F (А)).
Доказательство противоположного включения равносильно
доказательству того, что если Я (J F (Л (А)), то X (J Л (F (А)).
Множество F (Л (А)) компактно (потому что Л (А) — компактное
множество, а функция F непрерывна.) Поэтому если точка к не
принадлежит этому множеству, то у нее есть окрестность,
не пересекающаяся с ним. Если N — такая окрестность, что
N Г) F (Л (А)) = 0, то F-1 (N) (] Л (А) = 0, и потому
Ф ^-i (дг) q ф-i (д ^^ _ 0_ pj0 так как множество
Ф" (А (А)) может отличаться от всего пространства не более,
чем на множество нулевой меры, то мера множества (F о у)-1 (IV)
равна нулю, и?, не принадлежит спектру оператора F (А).
Доказательство закончено.
Решение 98. Предположим, что Н и К — гильбертовы
пространства, a U — частичная изометрия, отображающая Н в К,
с начальным пространством М (такие преобразования и
сопряженные к ним изучались в задаче 40). Если Е — проектор из Н
на М и / ? М, то
([/*[//,/) = II W = II/II2 = (?/,/);
если / _]_ М, то
(U*Uf,f) = O = (Ef,f).
Следовательно, (U*Uf, /) = (Ef, f) для всех / из Н, откуда U*U =
= Е.
Обратно, пусть U — такое ограниченное линейное
преобразование из Н в К, что U* U — проектор с областью определения Н
и областью значений М. Тогда
\\ \
для всех /, а потому || Uf \\ = || / ||, если / б М, и || Uf || = 0,
если / _]_ М.

Гл. 13. Частичные изометрии 251
Для доказательства следствия 1 заметим, что ker U*U =
= ker U (это верно для любого ограниченного линейного
преобразования U).
Доказательство следствия 2 требует некоторой хитрости. Если
оператор U*U идемпотентен, то (UU*K = U (U*UU*U) U* =
= (UU*J. В силу спектральной теоремы эрмитов оператор А, для
которого А3 = А2, идемпотентен. Утверждение о начальном
и финальном пространствах вытекает из соотношений (ker UU*I- =
= (ker f/*)J- = ran U (так как ran U — замкнутое множество).
Теперь относительно следствия 3: если U — частичная изомет-
рия, то ее произведение на проектор U*U совпадает с U на ker U
и на ортогональном дополнении к ker U. Обратно, если U =
= UU* U, то, домножив обе части слева на U*, получим, что
оператор U*U идемпотентен.
Решение 99. Если U — изометрия и UM = М, то
подпространство М приводит U; если U — коизометрия и М приводит U,
то UM =М. Первое утверждение неверно для коизометрий, второе
неверно для изометрий.
Доказательство. Если U*U = 1 и UM = М, то U*M =
= U*UM = М. Если UU* = 1, причем UM cz M и U*M cz M,
то, применяя оператор U ко второму включению, получаем
включение, противоположное первому.
Первое утверждение не выполняется, например, если U —
оператор, сопряженный к одностороннему сдвигу, а М — (одномерное)
подпространство собственных векторов, отвечающих ненулевому
собственному значению (см. решение 67). В этом случае UM = М,
но М не приводит U. Второе утверждение нарушается, если U —
односторонний сдвиг, а М — все пространство. В этом случае
М приводит U, но UM =^=М.
Решение 100. Утверждение о замкнутости очевидно, так как A)
отображение А —>- А А* А непрерывно и B) равенство А = А А* А
характеризует частичную изометрию.
Замкнутость множества всех изометрии можно доказать еще
проще: надо рассмотреть отображение A) А —>¦ А*А и равенство B)
А*А = 1. Это замечание становится существенным, когда мы
переходим к вопросу, связно ли множество всех ненулевых частичных
изометрии. Один из способов показать, что это не так, состоит
в том, чтобы доказать, что множество всех изометрии не только
замкнуто, но и открыто в множестве всех частичных изометрии
(в относительной топологии последнего). Оказывается, что если
частичная изометрия достаточно близка к изометрии, то она
тоже изометрия. Точнее, если U — частичная изометрия, V —
изометрия и \\ U — F ]] <С 1, то U — изометрия. Достаточно

252 Решения
доказать, что если Uf = О, то / = 0. В самом деле, так как
\\f\\ = \\Vf\\ = \\Uf-Vf\\<\\U-V\\-\\f\\,
то || U — V || ;> 1, если / 9^=0, а это противоречит
предположению о том, что || U — V || < 1.
То же рассуждение показывает, что если основное гильбертово
пространство бесконечномерно, то множество всех изометрий
несвязно. В самом деле, множество всех унитарных операторов
(непустое собственное подмножество!) одновременно открыто
и замкнуто в множестве всех изометрий.
Решение 101. Ядро оператора U и начальное пространство
оператора V могут пересекаться только по нулю. Действительно,
если / — такой ненулевой вектор, что Uf = 0 и || F/ || = || / ||,
то || Uf — Vf || = || / ||, а это противоречит условию \\ U —
— V || < 1. Это значит, что сужение оператора U на
начальное пространство оператора V взаимно однозначно, и потому
(задача 42) размерность начального пространства оператора V
не больше размерности области значений оператора U. Другими
словами, мы доказали, что р (F) ^ р (?/); утверждение о рангах
получается по симметрии.
Утверждение о дефектах можно сформулировать так: если
v (U) фу (V), то || U — V || ^ 1. Действительно, если v (U) Ф
ф\ (V) (положим для определенности v (U) < v (V)), то
существует хотя бы один единичный вектор /, принадлежащий ядру
оператора V и ортогональный ядру оператора U. Вектор /
ортогонален ядру оператора U тогда и только тогда, когда он
принадлежит начальному пространству оператора U. Поэтому 1 =
= Ц/||=|| Uf \\=\\Uf-Vf\\< \\U-V ||, и доказатель-
ство утверждения о дефектах закончено.
Утверждение о корангах получается теперь в качестве
простого следствия, если || U — V \\ < 1, то || U* — V* \\ < 1, и
потому р' (U) = v (U*) = v (V*) = р' (V).
Для частного случая проекторов этот результат встречается
у Рисса и Секефальви-Надя [2, § 105] (он составляет, по
существу, задачу 43). Теорема, которую мы сейчас доказали, обобщает
его, но ее доказательство значительно проще. Однако
доказательство Рисса и Секефальви-Надя более конструктивно; там
доказывается не только, что два подпространства имеют
одинаковую размерность, но и строится изометрия, для которой первое
пространство — начальное, а второе — финальное. Предлагаемое
здесь обобщение приведено в статье Халмоша и Маклауфлена [1].
Решение 102. Предположим, что Vt и V2 — частичные
изометрий с одинаковыми рангами, корангами и дефектами; пусть
Ni и N2 — их ядра, Mt и М2 — начальные пространства, a R4

Гл. 13. Частичные изометрии 2тН
и R2 — их области значений. Пусть U — произвольный
унитарный оператор, отображающий N4 на N2 и М4 на М2. Пусть W —
линейное преобразование, отображающее R^ изомотрично на R^;
для векторов f из Ri положим Wf = V2UV*f. Легко доказать,
что при таком определении W будет линейным преобразованием,
отображающим R4 на R2 изометрично, поэтому существует
унитарный оператор W, отображающий R4 на R2 и RJ- на R^ так,
как было указано. Если g ? N4, то
WVlg = 0--VzUg;
если g ? Mj то
Отсюда следует, что WV\ = V2U, или WV\U* = V2. Если t ->¦ Wt
и t ->• JJi — непрерывные кривые унитарных операторов,
соединяющие 1 с W и с U, то t —>- WtVtU* — непрерывная кривая
частичных изометрии с одинаковыми рангами, корангами и
дефектами, соединяющая операторы Vt и V2.
Это доказательство — упрощенный вариант доказательства
Халмоша и Маклауфлена [1]; оно принадлежит Дугласу.
Решение 103. Пусть операторы А и В унитарно
эквивалентны. Если U — унитарный оператор, переводящий А в В, то U
переводит А* в В*, а потому тот же оператор U переводит А' =
= У 1 — АА* в В1 =1/1 — 55*. Следовательно,
,о с/,
С
переводит М (А) в М (В).
Предположим теперь, что операторы А и В обратимы, а
операторы М (А) и М (В) унитарно эквивалентны. Область значений
оператора М (А) состоит из всех упорядоченных пар вида
(Af — A'f, 0). Это множество содержится в множестве
упорядоченных пар, у которых вторая координата равна нулю. Так как
оператор А обратим, то область значений оператора М (А) совпадает с
множеством всех пар с нулевыми вторыми координатами. Но то же
верно и для оператора М (В), поэтому каждая унитарная
операторная матрица, переводящая М (А) в М (В), отображает
множество всех векторов вида (/, 0) на себя. Отсюда следует, что
это подпространство приводит каждую такую операторную
матрицу (см. решение 99), и поэтому эта унитарная операторная матрица
диагональна. Поскольку диагональные элементы унитарной
диагональной матрицы являются унитарными операторами, из
унитарной эквивалентности операторов М (А) и М (В) вытекает
унитарная эквивалентность операторов А ж В.

254 Решения
Решение 104. Если Л — компактное подмножество замкнутого
единичного круга, содержащее начало координат, то существует
частичная изометрия со спектром Л.
Доказательство. Пусть А — сжатие со спектром А (см.
задачу 48). Если, как в задаче 103,
М =
,А АЛ
1о оI
где А'=у1 — АА*, то М — частичная изометрия. Как устроен ее
спектр? Вопрос сводится к следующему: для каких значений Я
матрица
(А—% А'\
М~Н о -я)
необратима? Так как оператор М* аннулирует каждую пару с
нулевой первой координатой, то 0 принадлежит спектру оператора Л1*
и, следовательно, спектру оператора М. Если X Ф0, то можно
применить задачу 56. Тогда получим, что число К принадлежит
спектру А (М) тогда и только тогда, когда оно принадлежит
спектру Л (А). Итак,
В конечномерном случае можно утверждать большее. Если
Л — конечное подмножество замкнутого единичного круга,
содержащее 0, и каждому элементу из Л отнесена целая положительная
кратность, то существует частичная изометрия со спектром А,
причем кратности всех собственных значений в точности
соответствуют заданным; см. Халмош и Маклауфлен [1].
Решение 105. Начнем с построения оператора Р. Так как
А* А — положительный оператор, действующий на
пространстве Н, то у него существует (единственный) положительный
квадратный корень. Обозначим его буквой Р. Так как
для всех векторов / из Н, то равенство
UPf = Af
однозначно определяет линейное преобразование U,
отображающее область значений R оператора Р в пространство К.
Оператор U изометричен на R. Поскольку он ограничен на R, у него
имеется единственное ограниченное расширение на замыкание R
и, следовательно, единственное расширение до частичной изомет-
рии из Н в К с начальным пространством R. Равенство А = UP

Гл. 13. Частичные изометрии 235
следует из построения. Так как ядро частичной изометрии
совпадает с ортогональным дополнением к ее начальному пространству,
а ортогональное дополнение к области значений эрмитова
оператора совпадает с его ядром, то ker U = кег Р. Доказательство
существования закончено.
Для доказательства единственности положим А = UP, где
U — частичная изометрия, Р — положительный оператор
и ker U = ker P. Тогда А* = PU*, откуда
где Е — проектор из пространства Н на начальное пространство
оператора U. Так как это начальное пространство совпадает
с (ker E/)-L, а потому и с ran Р, то Р = ЕР и, следовательно,
А*А = Р2. Так как равенство UPf = Af однозначно задает U для
векторов / из области значений оператора Р и Uf = О, если
вектор / принадлежит ker P, то оператор U при этих условиях
определен однозначно.
Для того чтобы получить следствие 1, умножим А = UP
слева на оператор U* и используем равенство U*U = Е (см.
решение 98). Для доказательства следствия 2 заметим, что ker U =
= ker P = ker A*A = ker А и ker U* = (ran t/)-L = (ran A)±.
Решение 106. Пусть А — ограниченное линейное
преобразование, действующее из гильбертова пространства Н в
гильбертово пространство К. Пусть А = UP — полярное разложение
оператора А, М (cz H) — начальное пространство частичной
изометрии U и R (с К) — область значений оператора U (или, что
то же самое, замыкание области значений оператора А). Если
dim M-L <^ dim R-Ц то существуют изометрии из Н в К,
совпадающие с U на М (таких изометрии много). Для построения нужно
изометрично отобразить М-1- в R-L и скомбинировать это
отображение с уже известным отображением U на М. Если, с другой
стороны, dim R-L- ^ dim M-L, то существуют изометрии из К в Н,
совпадающие с U* на R; оператор, сопряженный с любой из них,
будет коизометрией из Н в К, совпадающей с U на М. В любом
случае найдется такое линейное преобразование V из Н в К, что
либо F, либо V* будет изометрией, а V будет совпадать с U на М.
Так как область значений оператора Р содержится в М, то VP —
= UP = A.
Решение 107. Граничными точками единичного шара в
пространстве операторов, действующих на гильбертовом
пространстве, служат максимальные частичные изометрии.
Доказательство. Предположим сначала, что U — изометрия
и U = aA + $B, где а > 0, р > 0, а + 0 = 1, || А ||< 1,
|| В Ц -^ 1. Если / — единичный вектор, то Uf — тоже единичный

2,36 Решения
вектор и Uf = aAf + f>Bf, где \\ Af ||< 1 и || Б/ || < 1. Так как
замкнутый единичный шар в гильбертовом пространстве
представляет собой строго выпуклое множество (задача 3), то Af =
= Bj = Uf, а потому А = В = U. Следовательно, изометрии
являются крайними точками. Отсюда непосредственно получаем
соответствующий результат для коизометрий.
Для доказательства обратного утверждения достаточно
показать, что каждый оператор А, для которого \\ А [[ ^ 1, можно
представить в виде выпуклой комбинации (на самом деле в виде
среднего арифметического) двух граничных точек уже
найденного типа.
Воспользуемся теорией полярных разложений (или, скорее,
следствием из нее). В силу задачи 106 можно считать, что А =
= VP, где V — максимальная частичная изометрия и 0 ^ Р <С 1-
(Верхняя оценка оператора Р вытекает из того, что \\ А || <; 1.)
Утверждение: существует такой унитарный оператор W, что
Р = (W -j- W*)/2. (Это утверждение и доказательство,
приводимое ниже, остаются верными и при —1 -^ Р <С 1; если основное
гильбертово пространство одномерно, то и утверждение и
доказательство имеют простой геометрический смысл.) Для
доказательства положим
W = Р + i Vl^pl
и убедимся, что все требования действительно выполнены. Так как
А = VP и Р = {W i- W*)/2, то А = (VW* 4- VW)/2. Поскольку
произведение максимальной частичной изометрии на унитарный
оператор само является максимальной частичной изометрией,
доказательство закончено.
Кадисон [1] доказал, что для некоторых алгебр операторов
граничные точки единичного шара — это те частичные
изометрии U, которые удовлетворяют равенству
(l — U*U)A(l — UU*} = 0
для всех операторов А из алгебры. Для алгебры всех операторов,
действующих на гильбертовом пространстве, это согласуется
с тем, что уже было доказано. Действительно ясно, что если U
или U* — изометрия, то условие Кадисона выполнено. Обратно,
пусть это условие выполнено и 1 — UU* Ф 0; нужно доказать,
что 1 — U* U = 0. Другими словами, нужно показать, что если
A — UU*) f Ф0 для некоторого /, то A — U*U) g = 0 для
любого g. Это просто: пусть дан вектор g, тогда найдем такой
оператор А, что А A — UU*) f = g.
Решение 108. Положим UP = А. Если U коммутирует с Р,
то U коммутирует и с Р2, а так как Р тоже коммутирует с Р2,
то А (= UP) коммутирует с А*А (= P2)-J^

Гл. 13. Частичные изометрии 257
Обратное доказать труднее. Если А — квазинормальный
оператор, то А коммутирует с Р2 (= А*А). Используя
функциональное исчисление в его самом простом виде, получаем, что А
коммутирует с Р. (Сравните с задачей 95, которая показывает, что
положительный квадратный корень из положительного оператора
можно представить в виде слабого предела последовательности
многочленов от этого оператора. Еще иначе, применяя теорему
Вейерштрасса о приближении непрерывной функции
многочленами, покажем, что «слабый» предел можно заменить на
«равномерный*.) Это значит, что (UP — PU) Р = О, так что оператор
UP — PU переводит ran Р в 0. Поскольку ker U = ker P,
оператор UP — PU аннулирует и ker P, откуда UP — PU = 0.
Решение 109. В силу задачи 106 каждый оператор имеет вид
VP, где V — максимальная частичная изометрия, а Р —
положительный оператор. Пусть е — положительное число. Найдем
такой обратимый оператор Q (который, если надо, можно сделать
положительным), что \\ Р — Q || < е. Тогда |] VP — VQ || < е.
Заметил! теперь, что если V — максимальная частичная
изометрия, то оператор V односторонпе обратим (он обратим слева, если
V — изометрия, и справа, если V* — изометрия), и произведение
односторонне обратимого оператора на обратимый есть снова
односторонне обратимый оператор. Этим и заканчивается
доказательство теоремы о том, что множество односторонне обратимых
операторов всюду плотно.
Докажем теперь, что для обратимых операторов это уже
неверно. Пусть А — односторонне обратимый, но не обратимый
оператор (пример: односторонний сдвиг). Тогда у него имеется
окрестность, не содержащая ни одного обратимого оператора.
Предположил! (без ограничения общности), что В — левый обратный
для А, причем \\ В || <^ 1. При такой нормировке утверждение
можно сделать более точным: открытый шар с центром в точке А
и радиусом 1 не содержит обратимых операторов. Заметим
сначала, что оператор В не может быть обратимым, потому что из его
обратимости следовало бы, что А = В~^ВА = В'1, т. е. что А
обратил!. Надо показать, что если \\ А — Т |] < 1, то оператор Т
необратим. В самом деле,
\\\-ВТ\\ = \\В(А — Т)\\<\\А-Т\\<\,
и, значит, оператор ВТ обратим. Поэтому если бы оператор Т
тоже был обратимым, то и В был бы обратимым, а это не так
Решение НО. Вот один из способов доказательства: покажем,
что любой обратимый оператор А можно соединить с 1
непрерывной кривой (обратимых операторов). Для этого рассмотрим

258 Решения
полярное разложение UP оператора А. Поскольку А обратим,
то и операторы U и Р обязаны быть обратимыми. Отсюда следует,
что U унитарен, а Р строго положителен. Соединим U с 1
непрерывной кривой t ->¦ Ut унитарных операторов (см. задачу 102),
а Р соединим с 1 непрерывной кривой t ->¦ Pt строго
положительных операторов. (Последнее даже не требует применения
спектральной теоремы; рассмотрите tP + A — t), 0 ^ t ^ 1.) Если
At = UtPt, то t-+¦ At — непрерывная кривая обратимых
операторов, соединяющая А( = А1) с 1( = А0).

ГЛАВА 14. ОДНОСТОРОННИЙ СДВИГ
Решение 111. Если пространство Н несепарабельно, то его
можно представить в виде прямой суммы сепарабельных
бесконечномерных подпространств, приводящих А, и поэтому без
ограничения общности можно считать, что с самого начала
пространство Н было сепарабельным. В сепарабелыюм пространстве
все бесконечномерные подпространства имеют одну и ту же
размерность; утверждение, таким образом, равносильно тому, что
пространство Н разбивается в прямую сумму счетного числа
бесконечномерных подпространств, приводящих А.
Другими словами, достаточно доказать, что для всякого
нормального оператора в сепарабелъном бесконечномерном
гильбертовом пространстве существует такое приводящее подпространство,
что оно само и его ортогональное дополнение бесконечномерны.
В самом деле, если это верно, то существует такое приводящее
подпространство Н4 пространства Н, что оба подпространства
Hj и Hj1- бесконечномерны. Применяя тот же результат для
сужения оператора А на подпространство Н^Ц получаем, что
существует такое приводящее подпространство Н2 пространства HjL,
что Н2 и HJ- П H2-L бесконечномерны. Продолжая по индукции,
получаем бесконечную последовательность {Н„} попарно
ортогональных бесконечномерных приводящих подпространств. Если
оо
пересечение П HJ- не равно нулю, присоединим его, напри-
п=1
мер, к Hj.
Осталось доказать утверждение, выделенное курсивом. Из
спектральной теоремы следует, что без ограничения общности можно
считать А оператором умножения на ограниченную измеримую
функцию ф на некотором пространстве с мерой. Каждому борелев-
скому подмножеству М комплексной плоскости поставим в
соответствие оператор умножения Е (М) на характеристическую
функцию множества ср (М). Этот оператор будет проектором
на подпространство функций, обращающихся в нуль на
дополнении к множеству ср (М). Очевидно, что Е (М) коммутирует
с А. т. е. его область значений приводит А. Если для некоторого
М оба оператора Е (М) и 1 — Е (М) имеют бесконечномерные
области значений, то сформулированное утверждение верно.

260 Решения
В противном случае для любого М один из двух операторов
Е (Л/) н 1 — Е (Л/) должен иметь конечный ранг. Рассмотрим
последовательность все более и более мелких квадратных решеток
на плоскости, и пусть каждый квадрат в каждой решетке играет
роль множества М. Если Е (М) имеет положительный ранг,
то М содержит хотя бы одну такую точку X, что Е ({Я}) имеет
положительный ранг. Таких чисел X не может быть бесконечно
много, потому что иначе их можно было бы разбить на два
бесконечных подмножества, что противоречило бы нашему главному
предположению. Отсюда заключаем, что найдется по крайней
мере одна такая точка X, что ранг оператора Е ({к}) бесконечен.
Пусть М — область значений этого оператора. Сужение
оператора А на подпространство М будет скаляром и потому будет
приводиться любым подпространством пространства М. Разобьем
М на два бесконечномерных подпространства Мо и Mj. Если
положить Но = Мо и Н4 = Mt V М-1-, то подпространства Но и Hj
будут удовлетворять всем сформулированным требованиям.
Решение 112. Каждый унитарный оператор, действующий
на бесконечномерном гильбертовом пространстве, можно
представить в виде произведения четырех симметрий; трех иногда
недостаточно.
Если основное гильбертово пространство Н конечномерно,
то приобретает смысл понятие детерминанта. Поскольку
детерминант симметрии равен +1, ни один унитарный оператор,
у которого детерминант не веществен, нельзя получить как
произведение симметрий.
Доказательство. Предположим, что Hj — бесконечномерное
гильбертово пространство, и начнем с его представления в виде
прямой суммы последовательности подпространств {Н„} с
одинаковой размерностью, каждое из которых приводит данный
унитарный оператор U (задача 111). Удобно будет считать, что
индекс п пробегает все целые числа — положительные,
отрицательные и нуль.
Зафиксируем разложение в прямую сумму Н = 2 Н„ и опре-
п
делим правый сдвиг как такой унитарный оператор S, что SHn =
= Hn+t, и левый сдвиг как такой унитарный оператор Т, что
ТЯп = Нга_1, п = 0, +1, + 2, .... Такие сдвиги существуют,
потому что размерности пространств Н„ равны. Пусть 5 —
произвольный правый сдвиг, положим Т = S*U. Поскольку
ТЯп = S*UKn = S*Rn = Hn_i для всех п, оператор Т
представляет собой левый сдвиг. Ясно, что U = ST; доказательство
будет закончено, если мы докажем, что любой сдвиг равен
произведению двух симметрий.

Гл. 14. Односторонний сдвиг 2t.il
Так как оператор, обратный (или, что в данном случае одно
и то же, сопряженный) к левому сдвигу, является правым
сдвигом, то достаточно рассмотреть только правый сдвиг. Пусть S —
правый сдвиг; обозначим через Р оператор 5'"-" на
пространстве Н„ и через Q оператор S~m на пространстве Н„ (п = 0, ±1,
±2, . . .)• Если / е Нп, то Qf = S~2nf e S-2rilin = Н_„, так что
PQf = PS~2nf = 5l-2t-nM-2n / = Sf, и доказательство
существования закончено.
Докажем теперь, что на любом гильбертовом пространстве
найдется унитарный оператор, который нельзя представить в виде
произведения трех симметрий. Пусть oj — комплексный
кубический корень из единицы (со ^=1); положим U = col. Оператор U
принадлежит центру группы всех унитарных операторов, его
порядок равен 3. Оставшаяся часть доказательства уже не
относится к теории операторов: надо доказать, что ни в одной группе
центральный элемент порядка 3 нельзя представить в виде
произведения трех элементов порядка 2. В самом деле, пусть и —
центральный элемент и и = xyz, где х2 = у2 = z2 = 1; тогда
и4 = uxuyuz = и (хи) у (uz) = и (yz) у (ху) = у (uz) у (ху) = уху -уху = 1.
(см. Халмош и Какутани [1]).
Решение ИЗ. (а) Односторонний сдвиг нельзя представить
в виде произведения конечного числа нормальных операторов.
(б) Норма вещественной и мнимой частей одностороннего сдвига
равна единице, (в) Расстояние от одностороннего сдвига до
множества нормальных операторов равно 1.
Доказательство, (а) Важно заметить, что если у нормального
оператора есть односторонний обратный, то у него есть и
обратный. (В самом деле, для каждого оператора левая обратимость
совпадает с ограниченностью снизу; см. решение 70 B).
Ограниченность снизу для нормального оператора совпадает с
ограниченностью снизу для его сопряженного.) Предположим теперь,
что U = Ai ... Ап, где U — односторонний сдвиг, а
операторы Аи . . ., Ап нормальны. Так как U* = А,г . . . А*, то
An . . . A*Ai ... Ап = 1, поэтому оператор Ап левообратим.
Принимая во внимание предыдущее замечание, можно утверждать, что
Ап обратим, а потому обратим ж Ап- Обратимый оператор можно
переставить из конца произведения в начало. Повторяя все
рассуждения п раз, получаем, что каждый оператор А обратим,
а следовательно, обратим и оператор U. Но ото не так, и потому
наше допущение неверно.
(б) Если U — односторонний сдвиг и А = (U — U*)I2, то
\\ А || <^ 1. Поскольку 1 принадлежит предельному спектру
оператора U, найдется последовательность {/„} единичных векторов

262 Решения
для которой Ufn — fn —>- 0. Применяя оператор U* и изменяя
знак, получаем U*fn — /„ ->¦ 0; складывая и деля на 2,
получаем Л/„ —/„-»- 0. Таким образом, 1 принадлежит предельному
спектру оператора Л и, значит, \\ А ]] ^ 1. Для того чтобы
получить результат для мнимой части, заметим, что если U = А + iB,
то — Ш = В — iA, и оператор — iU унитарно эквивалентен
оператору U (см. задачу 75).
(в) Очевидно, что существует нормальный оператор на
расстоянии 1 от оператора U, а именно 0; менее тривиальная часть
утверждения состоит в том, что если оператор А нормален, то
|[ U — А ||^>1. Если А обратим, то ото вытекает из решения 109;
из утверждения задачи 109 следует, что в открытом шаре с
центром в точке U и радиусом 1 не содержится обратимых операторов.
Отсюда получается и общее утверждение, поскольку множество
обратимых нормальных операторов плотно в множестве всех
нормальных операторов.
Решение 114. У одностороннего сдвига нет квадратного корня.
Доказательство. Оказывается, что оператор U* исследовать
легче, чем оператор U, а результат будет тот же. Предположим,
что F2 = U* и No — ядро (одномерное) оператора 17*. Так как
кег V а кег F2 = No, то dim ker F^ 1. Если бы ядро
оператора V было тривиальным (нульмерным), то же было бы верно
и для оператора F2; поэтому dim кег V — 1, откуда ker F = No.
Так как оператор U* отображает основное гильбертово
пространство на себя, то же должно быть верно и для оператора F. Отсюда
следует, в частности, что пространство No содержится в области
значений оператора V, а потому найдется такой вектор /, что
вектор F/ не равен нулю и принадлежит пространству No. Так как
No — ядро оператора F, то F2/ = 0, т. е. U*f = 0 и, значит,
/ ? No- Повторим снова то же самое: так как пространство No —
ядро оператора V, то F/ = 0, а это противоречит выбору
вектора /. Заключение: таких операторов не существует.
Подобные отрицательные результаты впервые получены в
работе Халмоша, Люмера и Шеффера [1]; используемая там техника
могла бы пригодиться и здесь. Приведенное выше гораздо более
простое доказательство принадлежит Дж. Томпсону. Другие
интересные результаты, относящиеся к проблеме квадратного
корня, получены Декардом и Пирси [1] и Шеффером [2].
Решение 115. Очевидно, что каждый оператор умножения
на пространстве L2 коммутирует с оператором W. Если А —
оператор умножения, порожденный ограниченной измеримой
функцией ф, то

Гл. 14. Односторонний сдвиг 263
Отсюда следует, что любая попытка показать, что некоторый
оператор А действует как умножение на пространстве L2,
приводит к однозначно определенному множителю: если множитель
есть, он равен Ае0.
Предположим теперь, что AW = WA, и положим ц> = Ае0.
Первая (и главная) трудность состоит в том, чтобы доказать, что
функция ф ограничена. Вот один из способов доказательства.
Если г|з — произвольная ограниченная измеримая функция и В —
умножение, индуцированное ею, то В = хр> (W) в обычном смысле
функционального исчисления для нормальных операторов.
Поскольку W коммутирует с А, каждая функция от W
коммутирует с А, поэтому
ф. г|) = \|). ф = Вц> = ВАе0 = АВе0 = Aty.
Утверждение, что каждая функция от W коммутирует с А,
нетривиально; это теорема Фуглида для нормальных операторов (см.
Халмош [3, стр. 68] и задачу 152). В этих рассуждениях не
обязательно использовать все измеримые ограниченные функции,
достаточно было бы использовать только тригонометрические полиномы
(т. е. конечные линейные комбинации векторов еп). Теорема
Фуглида еще появится; здесь она нужна, чтобы показать, что
если W коммутирует с А, то и W* коммутирует с А.
В этом месте почти применимо решение задачи 50. Там
предполагалось, что оператор А на пространстве L2 таков, что Af = ф/
для всех функций / из L2; здесь другая ситуация: оператор А
на пространстве L2 таков, что Aty = фг|з для всех ограниченных
измеримых функций т|з. Это различие достаточно велико, так что
одно из доказательств, которое приводилось в том случае, здесь
теряет свою силу. Однако второе, более «естественное»
доказательство здесь все-таки проходит. Заключение: функция ф
ограничена.
Оставшаяся часть доказательства тривиальна. Поскольку
функция ф ограничена, она индуцирует оператор умножения.
Поскольку оператор А совпадает с оператором умножения на
плотном множестве ограниченных функций, он совпадает с ним всюду.
Для того чтобы доказать следствие, заметим, что если
умножение является проектором, то множитель представляет собой
характеристическую функцию.
Решение 116. Как и в решении 115, необходимо положить
Ф = Ае0 и попытаться доказать, что ф — искомый множитель.
Так как пространство Н2 инвариантно по отношению к
умножению на еп для каждого п, то ц>еп ? Н2. Так как, кроме того,
ф?п = ^лф = Uncp = UnAeQ = AUneQ = Аеп,

264 Решения
то для каждого многочлена р произведение ц;р принадлежит
пространству Н2 и ц>р = Ар. Если бы ограниченность функции ф
была известна, то доказательство было бы закончено (оператор
умножения, индуцированный функцией ср, совпадает с
оператором А на плотном множестве), а если бы было известно, что ф/ =
= Af для всех / из Н2, то функция ф была бы ограничена (см.
последнее замечание в решении 50). Поскольку сейчас нам не
известно ни одно из этих «если», придется что-нибудь доказать. Самый
естественный способ, пожалуй, состоит в том, чтобы приспособить
к нашему случаю второе доказательство из решения 51.
Если / ? Н2, то существуют многочлены рп, стремящиеся
к / в пространстве Н2. Отсюда, разумеется, следует, что Арп —>- Af
в пространстве Н2. Без ограничения общности можно считать,
что рп -*¦ f почти всюду и Арп -*- Af почти всюду; если это не
верно для самой последовательности {рп}, то верно для подходящей
подпоследовательности. Так как рп -> / почти всюду, то ц>рп -*- ф/
почти всюду. В то же время ц>рп -> Af почти всюду, так что ф/ —
= Af почти всюду.
В этом дважды используемом доказательстве есть две идеи:
A) если замкнутое преобразование совпадает на плотном
множестве с ограниченным, то оно ограничено, и B) умножения
всегда замкнуты.
Следствие эквивалентно утверждению: если Е — проектор,
коммутирующий с оператором U, то либо Е = 0, либо Е — 1.
Из доказанного результата вытекает, что Е представляет собой
сужение оператора умножения на пространство Н2, причем
множитель принадлежит пространству W°. Поскольку идемпотент-
ное умножение индуцируется идемпотентным множителем
(примените к е0), множитель должен быть характеристической
функцией какого-нибудь множества и поэтому, в частности, должен
быть вещественным. Нужное заключение следует из задачи 26.
Между прочим, следствие не обязательно выводить из
основного утверждения; простое непосредственное доказательство
см. Халмош [3, стр. 41].
Решение 117. Пусть U — односторонний сдвиг, представленный
в виде сужения на пространство Н2 оператора умножения
на е4 (см., например, задачу 116). Если оператор А коммутирует
с U, то (задача 116) найдется такая функция ф в пространстве Н°°,
что Af = ф/ для всех / из Н2. Прежде всего надо воспользоваться
тем, что функцию ф почти всюду можно представить в виде
предела последовательности таких многочленов {рп}, что \\ рп \\с° ^С
¦^ || Ф ||оо для всех чисел п (см. решение 33). Поэтому, если/ ? Н2,
то

Гл. 14. Односторонний сдвиг 265
почти всюду. Так как pnf —>¦ ср/ почти всюду, то применима теорема
Лебега о мажорируемой сходимости. Следовательно, pnf ->• ф/
в пространстве Н2. Так как умножение на многочлен рп
представляет собой многочлен от оператора U (а именно, рп (С/)),
то доказательство закончено.
Решение 118. Изометрия V на гильбертовом пространстве
может не быть унитарным оператором только тогда, когда она
отображает пространство Н на его собственное подпространство.
Ото наводит на мысль, что подпространство, на которое FH
отличается от Н, служит естественной мерой неунитарности опера-
юра V. Первое применение оператора V сжимает пространство Н
до пространства FH, второе применение оператора V сжимает VII
до F2H и т. д.
Несжимаемое ядро пространства Н, по-видимому, совпадает
с пересечением всех подпространств F"H. Это верно, и тут
содержится главная трудность: главный пункт в доказательстве состоич
в том, что это несжимаемое ядро приводит оператор F. Часто
используется несколько более точный результат, описывающий
ортогональное дополнение к этому ядру. Положим N = (FH)-1;
в терминах подпространства N основной результат имеет вид
П FnH = п (У1*)
71=0 П=0
Утверждение (и доказательство, приводимое ниже) становится
интуитивно очевидным, если ортогональные дополнения заменить
обычными теоретико-множественными дополнениями. (Помогав!
картинка.)
Для начала заметим, что FM-L cr (FM)-1- для всех
подпространств М. (В самом деле, если / ? M-L, так что F/ —
произвольный элемент пространства FM-Ц п если g ? М, так что Vg —
произвольный элемент пространства FM, то Vg J_ F/,
поскольку F — изометрия и / J_ g.) Поэтому
это \же составляет половину доказательства. Для того чтобы
доказать противоположное включение, предположим, что
/ б П (F'lN)-L, и докажем по индукции, что / ? F"H для всех п.
?г=0
При п = 0 это тривиально. Если / ? F"H, так что / = V"g для
некоторого вектора g, то F"g-J_F'li4 (так как/ g (V11^I),
поэтому g_LN. Отсюда получаем, что g ? FH и, значит, / ? Fn+1H,
что и требовалось. Равенство доказано.

260 Решения
Остальное уже легко. Пространство П VaK, очевидно, инва-
п=0
риацтно относительно оператора V. Так как по доказанному его
оо
ортогональное дополнение равно пространству V F"N, тоже
71=0
оо
инвариантному относительно оператора V, то (~| VnIl приводит
п=0
оператор V. Сужение оператора V на это приводящее
подпространство унитарно (так как оно представляет собой изомет-
рию, у которой область значений совпадает с областью
определения). Сужение оператора V на ортогональное дополнение
со
V F'lN представляет собой прямую сумму односторонних сдвигов,
причем число слагаемых в этой сумме равно dim N.
Решение 119. Если U — оператор одностороннего сдвига, то
|| U — V || = 2 для любого унитарного оператора V.
Доказательство. Для начала заметим, что если —1
принадлежит спектру оператора А, то —2 принадлежит спектру
оператора А — 1. Поэтому если А — ненормальная (т. е. неунитарная)
изометрия, то г (А — 1) >¦ 2, откуда || А — 1 || >- 2.
(Используйте задачу 118 и вспомните, что спектром одностороннего
сдвига служит замкнутый единичный круг.) Если оператор V
унитарный, то || U — V |] = || V*U — 1 ||. Так как V*U —
ненормальная изометрия, то || U — V || ^ 2; противоположное
неравенство тривиально.
Это очень удивительный геометрический результат.
Односторонние сдвиги расположены на единичной сфере в пространстве
операторов, так же как и унитарные операторы. Только что
доказанный результат геометрически означает, что если
оператор V унитарный, то U и V диаметрально противоположны; они
находятся на таком расстоянии друг от друга, как если бы они
располагались на разных концах одного диаметра. Удивительно
то, что это верно для любого V.
Решение 120. Существуют такие коммутирующие изометрии
V'о и Fo, что область определения унитарной компоненты
оператора Uо не приводит оператор Vo.
Доказательство. Пусть оператор С/о равен прямой сумме
оператора одностороннего сдвига и бесконечного числа операторов
двусторонних сдвигов; пусть Vo — изометрия, переводящая
одностороннюю компоненту в первую двустороннюю компоненту
и сдвигающая вперед все двусторонние компоненты. Чтобы эти
операторы можно было записать явно, обозначим через U одно-

Гл. 14. Односторонний сдвиг 267
сторонний сдвиг и положим Е = 1 — UU*. Определим
операторы Uo и Fo как бесконечные операторные матрицы
'U
0
0
0
0
0
и*
Е
0
0
0
0
и
0
0
0
0
0
и*
Е
0 >
0
0
о
и.
О
1°
- Fo- *
' °
О
О
О
О
О
1
О
О
О
О
О
1
О
О
О
О
О
О
О
О
О
О
(Замечание: нули и единицы в Fo — это операторы, то же
относится к элементам матрицы Uo.) Легко проверить, что U0V0 =
= V0U0. Область определения унитарной компоненты
оператора Uo состоит из всех «хвостов» (т. е. всех векторов, у которых
первая координата обращается в нуль); ясно, что ортогональное
дополнение к множеству всех «хвостов» (т. е. множество векторов,
у которых все координаты, кроме первой, обращаются в нуль)
не инвариантно относительно оператора Fo.
Северо-западные углы размера 3x3, вырезанные из матриц Uo
и Fo, обладают тем же свойством, но только Fo уже не изометрия,
а частичная изометрия.
Решение 121. Даны гильбертово пространство Н и такое сжатие
А в Н, что Ап —>• 0 сильно. Требуется построить гильбертово
пространство Н и на нем сдвиг U с нужным^свойством унитарной
эквивалентности. При этом построении могут помочь такие
соображения: если вектор / из пространства Н заменить на Af, то
последовательность
(f,Af, АЧ, ...)
сдвинется на один шаг назад, т. е. заменится последовательностью
(Af, A*f,A*f, ...).
Это наводит на мысль, что пространство Н должно быть чем-то
вроде прямой суммы
Н©Н®Н0... .
Но это не помогает. Не понятно, почему последовательность
</, Af, A2f, . . .) должна принадлежать прямой сумме (ряд
со
2 II Anf ||2 не обязан сходиться), но даже если она принадлежит,
п=0
то соответствие между / и (/, Af, A"f. . . . > не обязано сохранять
со
норму (даже если ряд 2 II ^'7 II2 и сходится, то его сумма равна
п=0
||/ ||2 только в том случае, когда Af = 0).

268 Решения
Можно, однако, преодолеть эти трудности, если применить
к каждому члену последовательности /, Af, A2f, ... такой
оператор Т, чтобы получившийся ряд квадратов норм
очевидным образом сходился к !| / Ц-. Заменим (/, Af, A2f, . . . } на
(Г/, TAf, TA2f, . . . > так, чтобы
IIW =41/II2-М/II2,
и т. д. Из первого равенства, если оно выполняется для всех /,
следует, что Т*Т = 1 — А*А, и, обратно, если Т*Т = 1 — А*А,
то все эти равенства выполняются.
Перейдем теперь от наводящих соображений к доказательству.
Поскольку А — оператор сжатия, оператор 1 — А*А
положителен. Положим Т = У 1 — А *А, и пусть R обозначает
замыкание области значений оператора Т. Определим пространство Н
как прямую сумму R © R © R © . . . . Если / 6 Н, то TAnf 6 R
для всех п и
2 II TAnf f = 2 (A -A* A) A'1], Anf) =
n=0 n=0
?i=0
Так как по условию || Ah+1f || —> 0. то отображение V, заданное
равенством
V] = J],TAf,TA-f, ...)
для всех функций / из Н, нзометрично отображает
пространство Н в пространство Н. Если U — очевидный сдвиг на
пространстве Н (т. е. U (/о, /i, /2, . . . > = @, /о, /i, • . .}), то
VA] = U*Vf для всех /. Поскольку образ пространства Н в Н при
отображении V инвариантен относительно U*, доказательство
закончено.
Заметим, что кратность сдвига, построенного в
доказательстве, равна рангу оператора 1 — А*А, где «ранг» означает
размерность замыкания области значений оператора.
Решение 122. Предположим, что А — такой оператор в
гильбертовом пространстве Н, что r(=r(A))<Cl. Так как г =
со
= lim || Ап \\1/п, то степенной ряд У\ || Ап || zn сходится в круге
П 71=0

Гл. 14. Односторонний сдвиг 269
радиуса (= 1/г), большего 1, с центром в 0. Поэтому 2 11 Ап \\ <
71=0
< оо и тем более 2 II -^ "IF < °°- Пусть Но — гильбертово
п=0
пространство, полученное из Н переопределением скалярного
произведения; новое скалярное произведение задается формулой
(f,g)o = I (A"f,Ang).
71 = 0
Так как
то никаких трудностей со сходимостью не возникает. Если ||/||о
= (/» /)о, то
1Ш11Ш2
зг=0
а потому тождественное отображение / пространства Н на
пространство Но будет ограниченным обратимым линейным
преобразованием. (Это, между прочим, гарантирует полноту
пространства Но.) Если Ао = IAI~l, то Ао — оператор, действующий
в Но, подобный А. Если f Ф0, то
со
2 1Мпл(г
М/!1 i
II/IIS a ^
n=l
2
71=1 ¦
— <- 1.
71=1 71=1
Таким образом, Ло — истинное сжатие. Отсюда следует, что
степени оператора Ао стремятся к нулю не только сильно, но и по
норме.
Следствие 1 вытекает из задачи 121. а следствие 2 — из
данного выше доказательства того, что || Ао || <; 1. Следствие 3:
если оператор А квазинильпотентен, то
г I — А
для любого положительного числа е; если оператор A/е) А
подобен сжатию С, то А подобен еС.

270 Решения
Следствие 4 требует некоторого рассуждения. Ясно, что
г (A) = г E-M5) < || S^AS ||, и потому г (А) < inf || S^AS \\.
в
Для того чтобы доказать противоположное неравенство,
предположим, что число t принадлежит открытому единичному
интервалу, и положим
г (А)
(Если г (А) = 0, применим вместо этого следствие 3.) Из
следствия 2 вытекает, что || S^BS || < 1 для некоторого оператора S,
так что t || S-XAS ||< r D). Заметим, что Mnf || 5-^5 || < г (А),
s
и затем устремим ( к 1.
Решение 123. Сужение оператора U на подпространство М
является изометрией. Если N= M f) (C/M)-L, то N —
ортогональное дополнение к области значений этого сужения. Применив
результат, полученный в решении 118, к этому сужению,
получим
ею со
П ?/11М = М П П (C^N)-1-.
со
Так как П ^7"Н2 = {0}, то
71=0
M-v V ^'"N = H2.
Так как, с другой стороны, ?/"N a UnM cz M, то
со
V СТсМ,
Замкнутая линейная оболочка объединения пространства М"~
и собственного подпространства пространства М не может совпасть
со всем пространством, поэтому
V ?/"N = M.
п=0
Остается доказать, что dim N := 1. Для этой цели удобно
рассматривать односторонний сдвиг U как сужение на
пространство Н2 двустороннего сдвига W на большем пространстве L2.
Если fug — ортогональные единичные векторы в пространстве N,
то все векторы вида Wnf или Wmg (т, п = 0, +1, ±2, . . .)
образуют ортонормальную систему в L2. (Это утверждение
основано на правильном поведении блуждающих подпространств для

Гл. 14. Односторонний сдвиг 271
унитарных операторов.) Отсюда следует, что
+ II g ||2 = 2 | (/, еп) |2 + 2 | (g, em)
(неравенство Бесселя). Из этого противоречия получаем, что
векторы / и g не могут существовать одновременно. Таким
образом, размерность пространства N должна быть меньше 2, а так
как она не может равняться нулю, то доказательство закончено.
Последняя часть доказательства принадлежит Гальперину
(см. Секефальви-Надь и Фояш [1, стр. 108]). Это геометрическое
доказательство; первоначальное доказательство в работе Хал-
моша [8] было аналитическим. См. также Робертсон [1].
Решение 124. Подпространство M;f (Я) натянуто на векторы
/;,, . . ., Vk~xj%., и поэтому ясно, что dim Mjf- (Я) <^ к. Для того
чтобы доказать равенство, заметим сначала, что М^ (Я)
инвариантно относительно оператора U*. (В самом деле, U*f% — Я/?, и если
7>1, то U*UJh= U*UU1-1f}.= г/'/?.. Этим доказана также
инвариантность пространства М& (Я) относительно оператора 17.)
ft—1
Если dim М^ (Я) ¦< к, то 2 аг^г/я = 0 для подходящих чисел аг,
г=0
или, другими словами, найдется такой полином р степени,
меньшей к, что р (U) /я, = 0. Поэтому /7"/д, можно представить в виде
линейной комбинации векторов /?,, . . ., Uh~lji для всех и, так
что Mft (Я) инвариантно также и относительно U. Но это
невозможно, и потому dim Ми (Я) = А.
Так как /я - М7Д = 2 ^"еп - Я, 2 ^" = ео, то е0 6 Mjf (Я)
п=0 п=1
при /с > 1. Отсюда вытекает, что С/;Д — ЯС/и1/я = С/7е0 =
= е,- ^ Мй (Я) при /с>/-|- 1 и, следовательно, W М?г (Я) содержит
все векторы е;-.
Решение 125. Если М = ср-Н2, то f/M = ei -M = е1 -фН2 =
= ф-ejH2 с: ф-Н2 = М, и достаточность доказана. Другое
доказательство того же включения использует теорию блуждающих
подпространств. Если N — (одномерное) подпространство,
порожденное функцией ф, то оно блуждающее, поскольку (Un(p, ?/тф) =
= \ епегп^=^пт- Для доказательства необходимости предполо-

272 Решения
жим, что М инвариантно относительно U, и воспользуемся зада-
оо
чей 123 для того, чтобы представить М в виде V f/'lN, где N —
71^0
блуждающее подпространство оператора U. Возьмем единичный
вектор ф из N. Так как по условию (?/т"ср, q) = 0 при п > 0, или
\ еп | ф \2d[i = 0 при п > 0. то (заменим подинтегральное выра-
жепие комплексно сопряженным) \ еп | ср |2dii = 0 при п < 0,
т. е. ] ф |2 — такая функция пз L1, что все ее коэффициенты Фурье
с ненулевыми индексами равны нулю. Таким образом, функция
1 ф | постоянна почти всюду, а так как \ | ф |2с?ц, = 1, то она
почти всюду равна 1. (Предыдущее рассуждение содержит
доказательство, отличное от доказательства из решения 123, того,
что каждое ненулевое блуждающее подпространство оператора U
одномерно.) Поскольку q" порождает N, функции ф-е,, (п =
--0, 1, 2, . . .) порождают все пространство М, т. е. множество
всех функций видаф-р, где р — полином, порождаетМ. Оператор
умножения на ф (рассматриваемый на пространстве Н2) изометри-
чен, поэтому область его значений замкнута. Так как М —
замкнутая линейная оболочка образа плотного множества при изометрин,
то М на самом деле совпадает с областью значений этой изометрин
и потому М = q"H2.
Для того чтобы доказать первое утверждение следствия 1.
заметим, что если фН2 с я)-Н2, то ф = фе0 = i|>/ для некоторой
функции / из Н2; так как / = ф-г^*, то | / | =1, так что / —
внутренняя функция.
Для доказательства второго утверждения достаточно
показать, что если функции 0 и 8* одновременно внутренние, то В —
константа. (В этом случае Re 8 и Im 0 — вещественные функции
из Н2, поэтому (задача 26) обе постоянны.) Итак, если М = фН2
и N = грН2, то фт|> ? М Л N.
Решение 126. Рассмотрим сначала простой односторонний
сдвиг U. Пусть (Но, ?1( |2, . . .} — последовательность
комплексных чисел, для которой
n=l
A{онкретный пример: %п = 1'nl.) Докажем, что тогда / =
— (Eoi iii 1г> • • •)—циклический вектор для оператора U*. Заметим

Гл. 14. Односторонний сдвиг
273
сначала, что U*h f = (Eft, ?ft + i, lh+2, • • • >. откуда
~(U*)kf-e0
1, b_ +
eft
Sft
• /-A,0,0, ...)
0.
Ik
ih +
Ih
•0.
Таким образом, е0 принадлежит замкнутой линейной оболочке
векторов /, U*f, (U*Jf, ..., а потому ей принадлежат и векторы
(U*)h-4-ik^e0=:0, h, S/iM, ...) (Л= 1,2,3. ...)•
Так как
•0.
?г=1
то вектор ej тоже принадлежит этому пространству. По индукции
доказываем, что ему принадлежат векторы еп при всех п, а это
и означает, что вектор / циклический.
Теперь уже случай более высоких кратностей тривиален. Если
кратность равна 2, рассмотрим ту же последовательность {Е,,}
и образуем вектор
Для более высоких конечных кратностей и даже для кратности
к0 можно поступать аналогично. Так, например, циклический
вектор для сдвига кратности х0 равен вектору, г-я компонента
которого представляет собой ?-ю строку таблицы
ёо h 0 |3 0 О Нв 0 0 0
0
о
0
0
0
0
0
0
ёа
0
0
0
0
0
•с
ё4
0
0
0
е
?5
0
0
0
0
Н7
0
0
0
1
0
(Правило построения: диагонали удлиняются; каждый столбец
должен содержать только один ненулевой элемент; каждая строка
содержит бесконечную подпоследовательность
последовательности {Ел}-) Все дело в том, что любая подпоследовательность
последовательности чисел {?„}, обладающей тем свойством, что
частные от деления
У]
2 на | gft |2 стремятся к 0, тоже обла-
дает таким свойством.
Решение 127. Пусть вектор / принадлежит Н2, а М —
наименьшее подпространство пространства Н2, содержащее / и инвариант-

Решения
ное относительно U. Как следует из задачи 125, либо / = О,
либо М содержит такую функцию ф, что | ср | ===== 1 почти всюду.
Заметим, что р (U) / ? М для любого полинома р, а замыкание
множества всех векторов вида р (U) / содержит / и инвариантно
относительно U. Поэтому ср — предел последовательности
векторов вида р (U) f в пространстве Н2. Так как каждая функция
такого вида равна нулю по крайней мере во всех точках, где /
равна нулю, то и <р равна нулю там, где / равна нулю.
Докажем теперь следствие. Если функция / не равна нулю
почти всюду, то по теореме Ф и М. Риссов она почти нигде не
обращается в нуль, поэтому функция g должна обращаться в нуль
почти всюду.
Решение 128. Существует такой ненулевой элемент f про-
странства L2, обращающийся в нуль на множестве положительной
меры, что (/, еп) (/, е~п) = О при п О
Доказательство. Пусть g — любой ненулевой элемент
пространства L2, обращающийся в нуль на множестве положительной
меры; положим / (z) = zg (zs). Ясно, что / — ненулево11 элемент
из L2, обращающийся в нуль на множестве положительной меры.
Если g=2 Р«е«' т0 / — S Рпезге + 1 (это нуждается в проверке),
п п
так что (/, еп) =0, если только пф! (mod 3). Если же п = 1
(mod 3), то — п == 2 (mod 3), и потому (/, еп) (/, е-п) = 0 для
всех п.
Решение 129. Предположим сначала, что последовательность
весов {ап} периодична с периодом р (= 1, 2, 3, . . .),а М;- (/ =
== 0, . . ., р — 1) — подпространство, натянутое на все те
базисные векторы е„, для которых n = j (mod p). Каждый вектор /
единственным образом представим в виде /0+ ... -г fr-i, где
/,• 6 Mj. Рассмотрим функциональное представление
двустороннего сдвига и, используя его, введем следующее определение. Пусть
Е — произвольное измеримое подмножество окружности;
определим М (= ШЕ) как множество всех векторов j, для которых
р-1
fj (г) = 0 при j = 0, . . ., р - 1 и z $ Е. Если / = У> f} (/;- 6 М;),
;'=0
ТО
И
2

Гл. 14. Односторонний сдвиг 275
Это доказывает, что М приводит А. (Заметим, что WMj = М;- + 1
и VF*M;- = Mj-i, где сложение и вычитание производятся по
модулю р.)
Покажем теперь, что эта конструкция не всегда дает
тривиальное приводящее подпространство. Пусть Ео — измеримое
множество, пера которого заключена в интервале @, Ир), a E —
его прообраз при отображении z —>¦ z1'. Множество Е измеримо,
и его мера заключена строго между 0 и 1. Если g — функция,
обращающаяся в 0 на дополнении к множеству Еа, и /0 (z) =
= g (z")), то /о обращается в нуль на дополнении к Е. Если, кроме
того, fj (z) = zJf0 (z), j =. 0, . . ., p — 1, то то же самое верно
и для любой функции /;-. Ясно, что fj 6 Mj и /0— ... — /p-i —
типичный нетривиальный пример вектора из М. Этим
заканчивается доказательство достаточности условия.
Необходимость этого условия довольно неожиданна.
Предположим сначала, что В — оператор с матрицей {Р,7-},
коммутирующий с оператором А. Тогда
±Aej, еш) = ± (Bej, А*еш) = 2±р^.
Следствие 1: главная диагональ матрицы {$ij} постоянна
(положите i = j).
Следствие 2: если Р^ = 0 для каких-то i, /, то pi+ft>;-+ft =0
для всех к.
Если оператор В эрмитов, то он коммутирует и с
оператором А*, а поэтому и с 4*4. Так как А*Аеп = агпеп, то
Следствие 3: если а; Ф а7-, то р^- = 0.
Предположим теперь, что последовательность {ап} не
периодическая, и покажем, что каждый эрмитов оператор В,
коммутирующий с А, является скаляром. Из нашего предположения
следует, что если тип — разные положительные числа, то
существуют такие числа i и /, что а, Ф а7- и i — /' = т — п. Отсюда
вытекает, что
0 = Рг^ (в силу следствия 3) =
= Рг_л-п, j-j+n (в силу следствия 2),
т- е- Pmn = 0 при всех т Фп. Значит, матрица оператора В
диагональная, и потому (следствие 1) В — скаляр.

ГЛАВА 15. ВПОЛНЕ НЕПРЕРЫВНЫЕ ОПЕРАТОРЫ
Решение 130. Если оператор A (s ->- з)-непрерывен, а {7
сеть, w-сходящаяся к вектору /, то (Afj, g) = (fjt A*g) ->¦
->- (/, A*g) = (Af, g) для всех g, так что Afj -v Af слабо. Это
показывает, что оператор A (w -*¦ \у)-непрерывен. Предположение
об (s —>¦ 8)-непрерывности существенно; оно нам понадобилось
в том месте, где мы воспользовались существованием
сопряженного оператора А*.
Если оператор A (w —>- \у)-непрерывен, а {/7} — сеть, s-cxo-
дящаяся к вектору /, то /,¦ ->¦ / слабо, и потому Afj ->¦ Af слабо.
Это показывает, что оператор A (s ->- \у)-непрерывен.
Для доказательства ограниченности всякого (s -»- \у)-непре-
рывного преобразования предположим противное. Тогда найдется
такая последовательность {/„} единичных векторов, что \\Afn \\ ^>
~>- п2. Но так как
то по условию
(сильно),
0 (слабо),
и потому последовательность
U-
ограничена, что противоречит неравенству
Допустим, наконец, что оператор A (\v —>- з)-непрерывен.
Тогда прообразом открытого единичного шара при отображении А
будет слабо открытое множество, содержащее поэтому слабую
базисную окрестность нуля. Другими словами, найдутся такие
векторы /i, . . ., fh и такое положительное число е, что || Af \\ < 1
при | (/, ft) | < б, i = 1, 2, . . ., к. Если вектор / ортогонален
ко всем /;, то, разумеется, [ (/, /г) | < е, ? = 1, 2, . . ., к, и,
значит, || Af || < 1. Так как это верно для любого вектора,
пропорционального /, то Af = 0. Это показывает, что оператор А
переводит в 0 подпространство конечной коразмерности, а это

Гл. 15. Вполне непрерывные операторы 277
эквивалентно тому, что оператор А имеет конечный ранг. (Если
существует бесконечномерное подпространство, на котором
преобразование А действует взаимно однозначно, то множество
значений оператора А бесконечномерно; чтобы доказать обратное
утверждение, заметим, что множество значений оператора А
совпадает с образом ортогонального дополнения к его ядру.)
Для доказательства следствия воспользуемся тем, что
оператор (т. е. (s -> з)-непрерывное линейное преобразование) (w —>¦
-> \\*)-непрерывен. Поскольку замкнутый единичный шар слабо
компактен, его образ тоже слабо компактен, а значит, и слабо
замкнут, и, следовательно, сильно замкнут.
Решение 131. Доказательство того, что С — идеал,
элементарно. Из полярного разложения легко получить, что идеал С
симметричный. В самом деле, если А ? С и А = UP, то Р =
= U*A (см. следствие 1 из задачи 105), так что Р 6 С, но так
как А* = PU*, то А* ? С.
Предположим теперь, что Ап ? С и || Ап — А \\ —>¦ 0. Нужно
доказать, что Afj-^-Af для любой ограниченной сети {/;-}, слабо
сходящейся к /. Заметим, что
|| Afj-Af ||< || Afj-Anfj\\ + || Anjj-Anj H + ll Anf-Af ||.
Первое слагаемое правой части не больше || Ап —A ||-||/j ||;
поскольку нормы ||/.; II ограничены в совокупности, этот
член равномерно по / становится сколь угодно малым при
больших п. Последнее слагаемое мажорируется величиной
\\ А — Ап ll'll/ II и, следовательно, тоже становится малым при
больших п. Зафиксируем достаточно большое п; так как
оператор Ап вполне непрерывен, то второе слагаемое становится малым
при «больших» j. Тем самым замкнутость идеала С полностью
доказана.
Задача 132. Пусть А — диагональный оператор с диагональю
{а„}. Рассмотрим для каждого натурального числа п
диагональный оператор Ап с диагональю {а0, . . ., an_i, 0, 0, . . .}. Так как
разность А — Ап будет диагональным оператором с диагональю
{0, . . ., 0, an, an + i, . . .}, то || А — Ап || = sup | an+h |, и из
к
условия а„->0 вытекает, что \\А — Ап || -> 0. Поскольку
равномерный предел вполне непрерывных операторов вполне
непрерывен, ясно, что если an ->• 0, то оператор А вполне непрерывен.
Чтобы доказать обратное утверждение, выберем ортонорми-
рованный базис {еп}, в котором оператор А диагоналей. Если А
вполне непрерывен, то Аеп ->- 0 сильно (потому что еп ->- 0 слабо;
ср. с решением 13). Другими словами, если оператор А вполне
непрерывен, то || апеп || ->¦ 0, а это в точности означает, что ап ->- 0.

278 Решения
Если Sen = е„+ь то операторы А и SA отличаются друг
от друга множителем (напомним, что S*S — 1), а потому
свойством полной непрерывности они обладают или не обладают
одновременно. Это замечание и доказывает следствие.
Решение 133. Доказательство будет легким, если применить
достаточно мощные средства (а именно спектральную теорему).
Заметим сначала, что вполне непрерывный оператор в
бесконечномерном пространстве не может быть обратимым. (В самом деле,
образ единичного шара при обратимом преобразовании сильно
компактен тогда и только тогда, когда сам единичный шар сильно
компактен.) Поскольку сужение вполне непрерывного
оператора на инвариантное подпространство вполне непрерывно,
каждое инвариантное подпространство конечномерно.
Предположим теперь, что А — нормальный вполне
непрерывный оператор. Согласно спектральной теореме, можно, не умаляя
общности, считать, что А — оператор умножения,
индуцированный ограниченной измеримой функцией ср на некотором
пространстве с мерой. Для любого положительного числа е
обозначим через Мг множество {х: | ср (х) | > е}, и пусть МЕ
обозначает подпространство в L2, состоящее из функций, равных нулю
всюду вне Ме. Ясно, что подпространство Ме приводит
оператор А, и сужение оператора А на Ме ограничено снизу,
а потому Ме конечномерно.
Спектр оператора А совпадает с существенной областью
значений функции ф. Из рассмотрений предыдущего абзаца следует,
что при любом п часть спектра, лежащая вне круга {Я: | X | ^
<^ 1/м}, может содержать лишь конечное число собственных
значений, каждое из которых имеет конечную кратность. Этим
и заканчивается доказательство.
Решение 134. Предположим, что тождественный оператор
является интегральным оператором с ядром К- Это означает, что
если / 6 L2 (над пространством X с cr-конечной мерой р), то
для почти всех х. Поэтому, если функции fug принадлежат L2, то
(f,g)=^K(x,y)f (у) g* (х) ф (х) dp (у).
Если, в частности, / и g — характеристические функции
измеримых множеств F и G, то предыдущее равенство принимает вид
H(F[\G)= { ^K(x, у) dp (х) dp (у).
FxG

Гл. 15. Вполне непрерывные операторы 279
В такой форме это уравнение связывает два множества функций.
Правую часть можно рассматривать как значение
неопределенного интеграла от ядра К на множестве F X G. Для удобного
описания левой части введем оператор Т, отображающий X на
диагональ в X X X (т. е. Тх = {х, х)), и обозначим через v меру,
определяемую на измеримых подмножествах Е пространства
X X X равенством
Если /' и G — измеримые подмножества в X, то Т'1 (F x G)—F(]G,
откуда
Итак, неопределенный интеграл от ядра К совпадает с мерой v
на всех «прямоугольниках», а значит, и на всех измеримых
множествах. Отсюда, в частности, следует, что неопределенный интеграл
от К (х, у) сосредоточен на диагонали. Последнее означает, что
если обозначить диагональ произведения X X X через D (т. е. D=
= {(х, у): х = у}), то неопределенный интеграл от К обращается
в нуль на дополнении к D (поскольку это верно для меры v),
а потому К (х, у) = 0 для почти всех точек дополнения к D.
Предыдущие рассуждения верны для всех (cr-конечных) мер
и не используют никаких особых свойств меры Лебега. В
частности, они применимы к считающим мерам на счетных множествах
и показывают, что в этом случае матрица тождественного
оператора диагональна, что, впрочем, неудивительно. Если применить
их к мере Лебега и заметить, что лебеговская мера диагонали
на плоскости равна 0, то получается, что К = 0 почти всюду.
Но ввиду связи скалярного произведения и ядра К это
невозможно. Доказательство закончено.
Решение 135. Напомним, что простой функцией мы называем
измеримую функцию, принимающую лишь конечное число
значений. Другими словами, простой функцией называется конечная
линейная комбинация характеристических функций измеримых
множеств. Простая функция принадлежит L2 тогда и только
тогда, когда мера прообраза дополнения к нулю конечна. Это
эквивалентно тому, что простую функцию можно представить в виде
конечной линейной комбинации характеристических функций
измеримых множеств конечной меры. Так как простые функции,
принадлежащие L2 (и), плотны в L2 (и.), то конечные линейные
комбинации характеристических функций измеримых
«прямоугольников» конечной меры плотны в L2 ((.i X u). Поэтому
достаточно доказать, что если А — интегральный оператор с ядром К,

280
Решения
где
п
К{х,у)= ^gi{u-)hi(y),
1=1
а функции gi и ht пропорциональны характеристическим
функциям измеримых множеств конечной меры, то оператор А вполне
непрерывен. Это так же просто, как и доказательство более
общего утверждения: если все функции gi и ht принадлежат
пространству L2 (li), to оператор А имеет конечный ранг. Действительно,
область значений оператора А принадлежит замкнутой линейной
оболочке векторов g;. Доказательство тривиально: если / ? L2 (ii),
то
Решение 136. Для всякого оператора Гильберта — Шмидта
А сумма собственных значений оператора А*А конечна.
Доказательство. Условие, что А — оператор Гильберта —
Шмидта, означает, что А — интегральный оператор в
пространстве L2 (и.) с ядром К, принадлежащим пространству L2 (ц. X и.).
Поскольку А*А — вполне непрерывный нормальный оператор,
существует ортонормировании! базис {/;-}, состоящий из
собственных векторов оператора А*А (задача 133). Пусть A*Afj =
= Xjfj. Полезно объединить два предыдущих утверждения. Для
этого рассмотрим соответствующий базис в L2 (и. X ,и) и,
используя равенство Парсеваля, выразим норму ядра К в пространстве
L2 (и. X (д,) (которая, очевидно, конечна) в терминах этого базиса.
С первого взгляда виден единственный разумный базис. Он состоит
из функций gij, rnegij (x, у) =/г (х) fj {у). Однако более удобным
оказывается другой, с первого взгляда менее естественный базис.
Он состоит из функций gtj, где gtl {х, у) = /; (х) /* {у).
Осталось провести простую выкладку:
| К21| =
^) i2 (ВВИДУ Равенства Парсеваля) =
Zj Zj
г i
Zj Zj
ft (x) dn (x)

Гл. 15. Вполне непрерывные операторы 281
= 2 2 I (Ah' ^) I2 = 2 II Ah II2 (ВВИДУ Равенства Парсеваля) =
j i j
-. ^-) = 2 (А*АЬ> fj) = 2 v
Доказательство закончено. Теперь уже легко построить
конкретный пример вполне непрерывного оператора, не
удовлетворяющего условию Гильберта — Шмидта. Рассмотрим бесконечную
матрицу (т. е. «ядро» в I2). По определению если сумма квадратов
модулей элементов матрицы конечна, то эта матрица задает
оператор Гильберта — Шмидта. В частности, это верно для
диагональной матрицы. Только что доказанная теорема утверждает,
что в этом случае условие конечности суммы собственных
значений оператора А*А не только достаточно, но и необходимо для
того, чтобы соответствующий оператор был оператором
Гильберта — Шмидта. Итак, в случае диагональных матриц разница
между вполне непрерывными операторами и операторами
Гильберта — Шмидта — это разница между сходящимися к нулю
и квадратично суммируемыми последовательностями.
Решение 137. Если оператор А вполне непрерывен, a UP —•
его полярное разложение, то и оператор Р {= U*A) вполне
непрерывен. Из задачи 133 следует, что Р можно представить
в виде прямой суммы нулевого оператора и диагонального
оператора, который действует в сепарабельном гильбертовом
пространстве и последовательность диагональных элементов
которого стремится к 0. Это означает, что Р — (равномерный) предел
последовательности {Рп} операторов конечного ранга. Поэтому
А — U lim Рп = lim UPn, и доказательство закончено, посколь-
п п
ку операторы UPn имеют конечный ранг.
Решение 138. Предположим, что I — нулевой замкнутый
идеал в кольце операторов. Покажем сначала, что I содержит
каждый оператор ранга 1. Для этого заметим, что если и и v —
ненулевые векторы, то оператор А, определенный равенством
Af = (/, u) v, имеет ранг 1, и, обратно, все операторы ранга 1
можно задать таким образом. Чтобы показать, что каждый такой
оператор принадлежит идеалу I, рассмотрим ненулевой оператор
Ао из I и такие ненулевые векторы и0 и v0, что AqU0- = v0. Зададим
оператор В равенством Bf = (/, и) щ, и пусть С — произвольный
оператор, для которого Cv0 = v. Тогда
CA0Bf = СА0 (/, и) щ = (/, u) Cv0 = (/. и) v = Af,
т. е. СА0В = А. А так как I — идеал, то А ? I. Поскольку
идеал I содержит все операторы ранга 1, он содержит все one-

282 Решения
раторы конечного ранга, а поскольку I — замкнутый идеат,
он содержит все вполне непрерывные опера юры. (Заметим, что
до сих пор мы не использовали сепарабельность пространства.)
Осталось показать только, что если идеал I содержит
оператор А, не являющийся вполне непрерывным, то он содержит все
операторы. Пусть UP — полярное разложение этого оператора А.
Оператор Р принадлежит идеалу I (так как Р = U*A) и не
обладает свойством полной непрерывности (поскольку А = UP).
Поэтому (напомним, что оператор Р эрмитов) существует
бесконечномерное подпространство М, инвариантное относительно Р,
на котором оператор Р больше, чем еЕ при некотором е > 0.
(В противном случае оператор Р был бы вполне непрерывным.)
Пусть V — изометрия, отображающая Н на М. (В этом месте
мы пользуемся сепарабельностью пространства Н.) Так как
РШ = М, то F*PFH = V*PM = V*M = Н. Так как, кроме того,
Vf 6 М для всех / 6 Н, то
II v*pvj || = || pvf || > s || vf у = e(|/|j.
Из этих двух замечаний вытекает обратимость оператора V*PV.
А так как V*PV f I и идеал, содержащий обратимый элемент,
совпадает со всем кольцом, то доказательство закончено.
Решение 139. Если А — нормальный оператор и для
некоторого натурального числа п оператор Ап вполне непрерывен, то
и оператор А вполне непрерывен.
Доказательство. Можно считать, что А — оператор
умножения, индуцированный ограниченной измеримой функцией ср
на подходящем пространстве с мерой. В этом случае Ап
автоматически оказывается оператором умножения на функцию ф".
В силу задачи 133 Ап можно представить в виде прямой суммы
нулевого оператора и диагонального оператора, диагональные
члены которого стремятся к нулю. Поэтому существенная область
значений функции ф" — счетное множество с единственной точкой
накопления в нуле. Отсюда следует, что оператор А равен
прямой сумме нулевого оператора и диагонального оператора,
диагональные элементы которого стремятся к нулю, и поэтому он
вполне непрерывен.
Решение 140. Пусть С — вполне непрерывный оператор,
действующий на гильбертовом пространстве Н. Положим А =
= 1 — С. Нужно доказать, что если кег А = {0}, то оператор А
обратим. Удобно предварительно доказать две следующие леммы.
A) Если ran А = Н, то кег А = {0}. B) На подпространстве
(кег А)-*- оператор А ограничен снизу.

Гл. 15. Вполне непрерывные операторы 283
A) Пусть К„ = кегЛ", п = 1, 2, 3, .... Если К4 =^0,
выберем ненулевой вектор ft в Ki и по индукции построим
последовательность векторов /„ так, что /„ = Afn + i. Из этого
равенства видно, что /„ 6 К„ при всех значениях п и наименьшая
степень оператора А, переводящая вектор /„ в 0, равна п. Поэтому
последовательность подпространств К„ строго возрастает и, значит,
существует такая ортонормированная система {еи е2, е3, . . .},
что еп ? К„ при всех п. Но Aen + i ? Кп, так что Aen+l ± en + i,
откуда
|| Сеп^ ||2 = || е„+1 - Ае„т1 \\2 = || еп+11|2 +1| Аеп^ ||2 > 1.
Так как последовательность {е„} слабо сходится к нулю, то
последнее неравенство противоречит полной непрерывности
оператора С. Итак, кег А = {0}.
B) Если оператор А не ограничен снизу на подпространстве
(кег А)-^, то найдется такая последовательность {/„} единичных
векторов из этого подпространства, что Afn —>- 0. В силу полной
непрерывности оператора С можно без ограничения общности
считать, что последовательность {Cfn} (сильно) сходится к
вектору /. Так как /„ = Afn -r Cjn -+ f, то / 6 (ker А)± и || / || = 1.
А так как Afn -> Af, то Af = 0 и / ? ker А. так что / = 0.
Полученное противоречие доказывает, что на подпространстве (ker AI-
оператор А ограничен снизу.
Утверждения A) и B) применимы к операторам С* и А*, так
же как к С и А. Поскольку ran А = АН = A ((ker АI), из B)
следует, что подпространство ran А всегда замкнуто, а в силу
только что сделанного замечания подпространство ran А* также
замкнуто.
Предположим теперь, что ker A = {0}. Очевидно, что тогда
подпространство ran А* всюду плотно в Н, а так как оно
замкнуто, то оно совпадает с Н. Поэтому к А* можно применить
утверждение A). Итак, кег А* = {0} и потому (кег А*)-^ = Н.
Применяя B) к А*, получаем, что этот оператор ограничен снизу.
Это утверждение в совокупности с уже доказанной плотностью
подпространства ran Л* гарантирует обратимость оператора А*,
а значит, и оператора А. Доказательство полностью закончено.
Решение 141. Предположим, что оператор А вполне
непрерывен, а подпространство М содержится в ran А. Прообраз
пространства М при отображении А, который мы обозначим через N,
является подпространством, то же относится к пересечению
Nf|(ker^l)-L. Сужение оператора А на это пересечение будет
взаимно однозначным ограниченным линейным отображением
этого подпространства на М, и потому в силу задачи 41 оно
обратимо. Образ замкнутого единичного шара пространства N

284 Решения
(т е. пересечения замкнутого единичного шара с пространством N)
сильно компактен в М и в силу обратимости содержит некоторый
замкнутый шар пространства М (т. е. пересечение замкнутого
шара с пространством М). Отсюда следует конечномерность
подпространства М, которую и требовалось доказать
Решение 142. Покажем, что из A) вытекает B). Оператор А
всегда взаимно однозначно отображает (кег АI- на гаи Л,
шитому обратное преобразование взаимно однозначно отображает
ran А на (кег А)—. Так как в данном случае оператор А замкнут,
то в силу теоремы о замкнутом графике это обратное отображение
ограничено. Обозначим через В оператор, совпадающий с этим
обратным на множестве ran А и равный нулю на (ran A)~. Пусть
Р — оператор проектирования на ker A, a Q — на (ran А)~.
Заметим, что у обоих проекторов конечный ранг. Поскольку
В А = 1 — Р на ker А и на (ker A)-L, a AB = 1 — Q на ran A
и (ran -4)-Ц ясно, что оба оператора 1 — АВ и 1 — В А имеют
конечный ранг.
Из B) вытекает C). Это очевидно: всякий оператор конечного
ранга вполне непрерывен.
Из C) вытекает A). Если С = 1 — АВ и D = 1 — В А и оба
оператора С и D вполне непрерывны, то кет В "А* и ker В А
конечномерны, а потому конечномерны ker А* и ker Л и, значит,
(ran Л)-1- и ker А. Чтобы доказать замкнутость множества ran A.
заметил! сначала, что оператор В А ограничен снизу на (ker BA)±-
(см. решение 140). Так как \\BAf ||< Ц В \\ ¦ [\ Af \\ при всех /,
то оператор А ограничен снизу на (ker BA)-^, п потому образ
этого подпространства при преобразовании А замкнут. Поскольку
подпространство ker В А конечномерно, его образ при
преобразовании А тоже конечномерен и, следовательно, замкнут. Л
множество ran А равно сумме A (ker В А) + A (ker BA)-L. (Напомнил!,
что сулша двух подпространств, одно из которых конечнолхерно,
всегда представляет собой залшнутое подпространство, ель
задачу 8.)
Решение 143. Сдвинув на X, лш сведем наше утверждение
к такому: если оператор А необратил!, но ker A = {U}, то
оператор В тоже необратим. Другими словами, если В обратил!, то либо
ker А Ф {0}, либо А обратил1.
Для доказательства предположил!, что оператор В обратим.
Тогда
А = В -И (А -1- В) = В A + В-1 (А - В)).
Оператор В'1 (А — В) вполне непрерывен, так же как и
оператор А — В. Поэтолгу либо —1 будет собственные значениел!
оператора В {А — В) (и тогда ker А Ф {0}), либо оператор
1 + В~г (А — В) обратил: (тогда обратил! и оператор А).

Гл. 15. Вполне непрерывные операторы 28")
Решение 144. Примером мол-сет служить двусторонний сдвиг.
Предположил!, что {еп; п = О, ±1, ±2, . . .} — сдвигаемый
базис (Wen = en + J), а оператор С определяется равенством Cf =
= (/, e-i) e0. Его ранг равен 1 (поскольку его областью значений
служит одномерное подпространство векторов,
пропорциональных е0), и потому он вполне непрерывен. Что можно скачать
об операторе W — С? Поскольку пространство Н2 (замкнутая
линейная оболочка векторов еп при п ^ 0) инвариантно
относительно W и С, оно инвариантно относительно W — С.
Ортогональное дополнение к Н2 (т. е. линейная оболочка векторов ег
при п < 0) не инвариантно ни относительно W, ни
относительно С (так как We~^ = Ce_t == е0), но инвариантно относительно
W — С (Дело в том, что W — С переводит еп в еп+1 при п < —1,
a (W — С) е-1 = 0.) Поэтому подпространство Н2 приводит
оператор W — С. Теперь уже просто описать оператор W — С:
он совпадает с односторонним сдвигом на Н2 и с оператором,
сопряженным к одностороннему сдвигу, на ортогональном
дополнении к Н2. Другими словами, оператор W — С равен прямой
сумме U* @ U, и, следовательно, его спектр равен объединению
спектров операторов U и U*.
Полезно разобрать все это с точки зрения матриц. В матрице
оператора W (в сдвигаемом базисе) элементы, стоящие
непосредственно над главной диагональю, равны 1, а все остальные
равны 0. При вычитании из него оператора С одна из единиц (та
которая стоит на пересечении строки с номером 0 и столбца с
номером — 1) заменяется нулем.
Решение 145. Ни при каком возмущении оператор
одностороннего сдвига не становится нормальным.
Доказательство. Для доказательства рассмотрим спектр и
воспользуемся устойчивостью его относительно возмущений.
Если U = В — С, причем оператор В нормален, а С вполне
непрерывен, то
где
D = C*B^B*C — C*C,
так что оператор D вполне непрерывен. Так как U*U = 1
и Л A) = {1}, то в ситу задачи 143 любое число из спектра Л (В*В),
кроме, быть может, 1, должно быть собственным значением
оператора В*В. (Другой способ: используйте альтернативу Фред-
гольма.) Поскольку у эрмитова оператора в сепарабельном
гильбертовом пространстве не более счетного множества собственных
значений, спектр оператора В*В счетен. Так как Л (U) пред-

286 Решения
ставляет собой замкнутый единичный круг и у оператора U нет
собственных значений, то, как утверждает другое следствие
из задачи 143, спектр оператора В может отличаться от
единичного круга только множеством собственных значений оператора В.
А нормальный оператор в сепарабельном гильбертовом
пространстве может иметь только счетное множество собственных
значений. Следовательно, с точностью до счетного множества Л (В)
совпадает с единичным кругом, поэтому (задача 97) Л \В*В]
с точностью до счетного множества совпадает с отрезком [0, 1].
Но это противоречит счетноеги спектра А \В*В].
Решение 146. Если Н и К — ядра Вольтерры, то их
«произведение» (композиция матриц) — тоже ядро Вольтерры.
Действительно,
(НК)(х,у) = [Н(х, z)K{z,y)dz.
о
Если х < у, то при любом z либо г<г, так что Н (х, z) = О,
либо z <С у, так что К (z, у) = 0. Поэтому (ЯК) (х, у) =¦ 0 при
х •< у. Если же х ^> у, то
(НК)(х,у)=
У
поскольку если значение z не заключено между х и у, то либо
Н (х, z) = 0, либо К (z, у) = 0. Таким образом, если К —
ограниченное ядро Вольтерры, так что ] К (х, у) I ^ с, и если х ^> у, то
х
| Ю (х, у) \ = | j К (х, z) /v (z, у) dz < с2 {х- у).
V
(В этом контексте символы К2, Ks и т. д. обозначают «матричные
произведения» КК, ККК и т. д.) Следовательно, при х> у
X
[-| j К (х, z)K2(z,
(z -
Мы проделали первые два шага очевидной индукции. Общее
утверждение состоит в том, что если /г>1, ж>г/, то
Это означает, в частности, что
\п— i)l

Гл 15. Вполне непрерывные операторы 287
Если обозначить соответствующий интегральный оператор через А, то
а так как
(напомним, что у разложения показательной функции в
степенной ряд радиус сходимости бесконечный), то
квазинильпотентность оператора А доказана
Решение 147. Каждый волътерровский оператор квазинилъ-
потентен.
Доказательство. Естественно доказывать эту теорему,
используя аппроксимации. Если задано ядро, равное нулю всюду над
диагональю, то переопределим его в узкой полоске вдоль
диагонали, положив его там равным нулю, и докажем, что полученное
таким образом приближенное ядро задает нильпотентный
оператор. Этот подход будет удачным только при соответствующем
выборе аппроксимирующих ядер. Напомним, что предел квазп-
нильпотентных операторов может не быть квазинильпотентным
(решение 87). Необходимые условия сформулируем в виде леммы.
Лемма. Пусть А — волътерровский оператор, а в —
положительное число. Тогда найдутся такие волътерровские операторы
В и С и такое натуральное число к, что A) А = В — С, B) \\ В ||<
<е и C) любое произведение операторов В и С, в котором оператор
С входит сомножителем не менее к раз, равно нулю.
Доказательство леммы. A) Пусть К — ядро Вольтеррьг.
индуцирующее оператор А. Чтобы разложить К в сумму
маленького слагаемого М и нильпотентного N, естественно разбить
правый нижний треугольник Е = {{х, у ): х > у) на диагональную
полоску D (б) = { (х, у ): 0 ^ х — у ^ 6} и треугольник Е6,
подобный первоначальному (т. е. Е& = {(х, у): х > у -I- б}). Этот
естественный путь оказывается удачным. Используя абсолютную
непрерывность неопределенного интеграла, выберем б так, чтобы
И. | К (х, у) |2 dx dy < е2. Пусть ядро М равно К на D (б) и нулю
D (б)
во всех остальных точках, а ядро N равно К на Е (б) и нулю вне
Е (б). Пусть В и С — интегральные операторы, индуцированные
этими ядрами. Ясно, что А = В + С.
B) Доказательство неравенства \\В || < е тривиально: так
как Ь2-норма ядра оператора В не превосходит е, то и операторная
норма оператора В не больше е.

288 Решения
C) Доказательство того, что С обладает необычно сильной
нильпотентностью, основано на простых вычислениях. Ядро опе-
х
ратора ВС равно \ М (х, г) N (z, у) dz при х ^ у. (Если х < у,
v
то оно, естественно, равно нулю.) Если точка (х, у )принадлежи!
D (б), то соответствующий интеграл равен нулю. Действительно,
если у -^ z -^ х, то 0 ^ z — у ^. х — у ^. 8, а потому N (z, у) =
= 0. Более общо, если В и С — волыерровские операторы (не
обязательно построенные описанным способом) и ядро оператора
С равно нулю на D F), то и ядро произведения ВС равно нулю
на D (б). (Доказательство точно такое же.) Далее, ядро оператора
X
СВ равно \ N (х, z) M (z, у) dz при х ^ у. Опять: если (х, у ) ?
v
6 D (б), то этот интеграл равен нулю В самом деле, если у <^ z ^
<Сж, то 0 ^ а: - z -^ х — г/<Сб, и потому Л' (х, z) = 0. Верно
и более общее утверждение (доказываемое так же). Если В и С —
вольтерровские операторы и ядро оператора С равно нулю
на D (б), то и ядро произведения С В равно нулю на D (б).
Итак, при люболх положительном 8 вольтерровские операторы,
ядра которых равны нулю на D (б), образуют двусторонний идеал
в алгебре всех вольтерровских операторов. И наконец, ядро опера-
X
тора С2, задаваемое формулой \ N (х, z) Л" (z, у) dz при х ~^> у,
v
равно нулю в точке (х, у ), если только х — у ^ 26. В самом деле,
если 0 -^ х — у -^ 26 и х ^ z ^> у, то либо х — z <^ б, либо
z — у ^ 6. Поэтому либо N (х, z) = 0, либо Л' ('-, у) = 0. Точно
так же доказывается и более общее утверждение: если С^ и С2 —
вольтерровские операторы, ядра которых равны нулю на D (8Г)
и D F2) соответственно, то ядро произведения СХС2 равно нулю
всюду на D (8i -4- б2). Из этих трех алгебраических утверждений
(о ВС, СВ и С\С2) вытекает нужный результат. Рассмотрим
некоторый набор из операторов В ж С и начнем перемножать их.
Каждый раз при умножении на оператор С ширина полосы, в которой
обращается в нуль ядро произведения, увеличивается на б, а при
умножении на оператор В во всяком случае не уменьшается.
Поэтому если обозначить через к наименьшее натуральное число,
для которого &8 > 1, то полученное произведение будет равно
нулю всякий раз, когда оператор С входит сомножителем не менее
к раз. Доказательство леммы закончено.
Итак, мы доказали лемму об аппроксимации: она утверждает,
что каждый вольтерровский оператор можно приблизить «очень
нильпотентным» вольтерровским оператором. Отсюда уже легко

Гл, 15. Вполне непрерывные операторы 289
получить, что для любого положительного е неравенство
II Ап ]|1/П <J е выполняется при всех достаточно больших п. Для
доказательства применим лемму об аппроксимации, заменив для
удобства е на е/2. Так как Ап = (В + С)п, то при п > к (к здесь
такое же, как и в лемме)
г=0
Действительно, все остальные слагаемые в разложении бинома
содержат не менее к сомножителей, равных С, и потому они
(в силу C)) равны нулю. Если теперь O^i^/c — 1, то
С)
(это очень щедрая оценка), откуда
i=0
Второй и третий сомножители в правой части стремятся к 1
с ростом п; для завершения доказательства осталось выбрать п
так, чтобы их произведение не превосходило 2.
Решение 148. ||F|| = 2/я.
Доказательство. Попытка решить эту задачу «в лоб»,
по-видимому, ни к чему не приведет. Мы воспользуемся довольно
естественным приемом: найдем || V*V || и затем извлечем квадратный
корень. Такой путь предпочтителен потому, что оператор V*V
не только вполне непрерывен (как V), но и эрмитов. Поэтому
мы можем считать его диагональным, и, чтобы вычислить норму
оператора V*V, очевидно, достаточно найти его наибольшее
собственное значение. (Оператор V*V положителен, так что его
собственные значения тоже положительны.) Поскольку оператор
V* определяется равенством
нетрудно найти ядро, задающее V*V. Простые вычисления
показывают, что это ядро (назовем его К) равно
f 1-х при 0<г/<ж<1,
К (х, у) = 1 — max (х, у) = { , п „ „ ¦
v ' у; К у> \ 1 — у при 0 <х<#<1.

290 Решения
Поэтому
1 х 1
(V*Vf) (х) =]f(y)dy-x\f (у) dy~jyf (у) dy
0 0 х
при почти всех х, если только / ? L2 @, 1). Отсюда легко явно
определить собственные значения оператора V*V. Положим
V*Vf = Xf, продифференцируем по % (дважды, чтобы освободиться
от всех интегралов) и решим дифференциальное уравнение. Это
совсем просто. В результате получим, что функции
Cft (х) = ^Г (e(+
при /с = 0, 1, 2, ... (образующие ортонормированный базис
в L2) — собственные функции оператора V*V, а соответствующие
собственные значения равны \1{к -\- х/2J я2. Наибольшее
собственное значение получается при к = 0.
Приведенные рассуждения показывают, как найти
собственные числа и собственные функции. Если же интересоваться только
ответом на поставленный вопрос (какова норма оператора V*V?),
то достаточно лишь убедиться в том, что функции ch —
собственные для оператора V*V с найденными собственными значениями
и они образуют базис в IA Первое требует стандартного
вычисления. Второе необходимо, чтобы гарантировать, что у оператора V*V
нет других собственных значений, которые могли бы быть больше
любого из найденных.
Вот простой способ показать, что функции ch образуют базис.
Для каждой функции / ? L2 положим
(Uf) (x) = —=¦ (f (x) e^/2 + f(l-x) e-^li).
Легко проверить, что оператор U унитарный. Если еп (х) = e2ninx,
п = 0, ±1, ±2, ..., то
( с2п при и = 0, 1, 2, .. .,
б" Ч с_Bп+1) при п= — 1, —2, —3
Решение 149. Л (Fo) = {0}, \\V0\\ = 4/л.
Доказательство. Самое существенное — заметить, что
множество значений оператора Fo содержится в множестве всех
нечетных функций из пространства L2 (—1, 1). (Напомним, что
функция / (х) называется четной, если / (х) = / (—х), и нечетной,
если / (х) = — / (— х)-) Следующее замечание (подсказанное
первым) состоит в том, что если функция / нечетна, то Fo/ = 0. Отсю-

Гл. 15. Вполне непрерывные операторы 291
да ясно, что Vo — нильпотентный оператор с индексом
нильпотентности 2, и потому спектр Л (Fo) состоит только из нуля.
Для определения нормы оператора Fo можно попытаться
отождествить L2 (—1, 1) cL2 @, 1) @ L2 @, 1) и определить
операторную матрицу второго порядка, соответствующую оператору
Vo, в надежде, что элементы этой матрицы окажутся настолько
простыми и знакомыми, что можно будет с их помощью найти
норму || Vo \\- Естественно отождествить пространство L2 (— 1, 1)
с L2 @, 1) © L2 @, 1), поставив в соответствие каждой функции
/ (х) (е L2 (-1, 1)) пару {g, h), где g{x)=j (х) и h (х) = f (-x)
(О <_ х < 1). Действительно, можно поступить и так, но это не
лучший способ. Для наших целей более удобно другое
отображение пространства L2 (—1, 1) на L2 @, 1) © L2 @, 1): сопоставим
каждой функции / пару (g, h), где
. Обратное отображение переводит (g, h) в /, где
f(x) = k(x) + g(x),
f( — x)=h(x) — g(x),
1. Так как
то при xg @, 1)
(V0f)(x) = 2(Vh)(x) и (V0f)(-x)=-2(Vh)(x).
Этот результат можно записать в виде
V0{g,h) = BVh,0).
Теперь ясно, как выглядит матрица оператора Fo. Она равна
/о ох
V2F 0J '
Отсюда снова следует, что F' = 0 и ||F0|| = 2|]F||.
Решение 150. Если V — волътерровский оператор
интегрирования и А = A + F), то Л (А) = {1} и || А || = 1.
Доказательство. Этот простой пример требует для исследования
либо догадки, либо опыта; простых рассуждений здесь мало.

292 Решения
Для доказательства напомним, что Л (F) = {0} (ср. с
задачами 146 и 74). Тогда Л A — V) = {1}, так что оператор l-\-V
обратим, и потому оператор А имеет смысл. Так как Л A }- F) — {1},
то Л (А) = {1}, а так как г (А) = 1, то \\ А \\^- 1. Ясно, что
А =т^1. Итак, доказаны все необходимые свойства, кроме одного:
не установлено неравенство \\ А || ^ 1.
Чтобы доказать, что \\ Af || -^ || / ||, т. е. оператор А ограничен
сверху тождественным оператором, достаточно, например,
показать, что оператор А~х ограничен тождественным оператором
снизу. Поскольку
|| А~Ч |р = || A + V) f Ц= = (/ + Vf, f + Vf) =
достаточно показать, что ((F -f V*) f, f) ^> 0 (т. е. вещественная
часть оператора F положительна). А это известный факт: V +
-\- V* — оператор проектирования на (одномерное)
подпространство констант (см. задачу 148).
Решение 151. Пусть {а„} —• такая последовательность весов,
со
что «о^ ai^a2 ^-. . ., а„^0ж 2а«< °°- Оператор А задает-
2
п=0
ся равенствами Аеп = an-ien_4 при п > 0 и Ае0 = 0.
Для каждого вектора / из заданного гильбертова пространства
Н можно определить его «степень» deg / как такой наибольший
номер п, что коэффициент Фурье (/, еп) отличен от нуля (степень
равна оо, если такого наибольшего номера нет). Предположим,
что / 6 М и deg / = п < оо. Легко видеть, что векторы /, Af, . . .
. . ., Anf линейно независимы. Дело в том, что deg Alf = п — i,
i = 0, 1, . . ., п, так как веса а не обращаются в нуль.
Поскольку Alf ? Мга при i = 0, 1, . . ., п, линейная оболочка векторов
/, . . ., Anf совпадает с Мл, откуда Mn cr M.
Степени ненулевых векторов из М могут быть или не быть
ограниченными в совокупности. В первом случае, если обозначить
наибольшую степень через п, то М cz М„, и из предыдущего
утверждения следует равенство М = М„. Осталось показать, что
если М — инвариантное относительно А подпространство и
степени векторов из М в совокупности неограничены, то М = Н. Это
почти очевидно, когда в М содержатся векторы сколь угодно
большой конечной степени, так как тогда М„ с М для бесконечного
множества значений п и, следовательно, М = Н. Осталось
разобрать единственный случай, когда в М содержится вектор
бесконечной степени.
Рассмотрим лемму: если подпространство М, инвариантное
относительно оператора А, содержит вектор бесконечной степени,

Гл. 15. Вполне непрерывные операторы 293
то оно содержит и е0. Легко доказать, что сформулированная
теорема следует из этой леммы. Для этого покажем, что в
условиях леммы Mft cz M при всех к. Идея доказательства состоит в том,
что ничего не изменится, если выкинуть несколько первых
векторов базиса. Точнее говоря, доказательство проводится индукцией
по к. Первый шаг индукции — сама лемма. Предположим теперь,
что Mft cr M, и обозначим через Ph оггератор проектирования
на М/К а через Ah — оператор на подпространстве М^г,
действующий по формуле Ahf = PhAf при всех /^М^. По
предположению индукции Pkf 6 М при всех /, так что подпространство
М(~|Мй инвариантно относительно Ah. Поскольку Ah —
взвешенный сдвиг на Мь (в базисе {ek, eh + i, ...}), можно
воспользоваться леммой. Поэтому пересечение М f] Мь содержит вектор ek
(так что, в частности, eh ? М, если Mft cr M). Теорема, таким
образом, вытекает из леммы.
Докажем теперь лемму. Предположим, что/ ? М и deg / = оо.
со
Если / = 2^е;, то
о
со
Anf=: 2 iiOti-i • • ¦ at-net-n.
Если п таково, что Е„^0, то
Т~п W f ==eoJrfn,
bna7i-l • • • а0
оо
/ "V ёг гаг-! ••• сс;-тг„
Достаточно показать, что для любого положительного е можно
выбрать п так, чтобы ||/?»||<е. Для этого по заданному е найдем
сначала такое к, чтобы
со
2 a? <e2a,j,
а затем выберем п так, чтобы п > к и
\1п\> тах{||г|, г>к).
Если при таком выборе |„(^0) взять i>w, то |Hj/|n|<l.
Заметим, что если г>/г+1, то ai_2<a7j-i, ¦¦¦-, а^п^щ (здесь мы
воспользовались монотонностью последовательности весов). Поэтому
i=n+l

ГЛАВА 16. СУБНОРМАЛЬНЫЕ ОПЕРАТОРЫ
Решение 152. Для получения этого обобщения можно
приспособить любое известное доказательство теоремы Фуглида. Но
утверждение о двух нормальных операторах можно легко вывести
из соответствующего утверждения для одного, используя
операторные матрицы.
Положим
А =
/А 0\ ~ /О В\
(о J- Чо о)'
Оператор А нормальный, п непосредственное вычисление
показывает, что он коммутирует с оператором В. По теореме Фуглида
В коммутирует и с А*, откуда (перемножая матрицы А* и В в
различных порядках и сравнивая элементы полученных матриц)
получаем нужное утверждение.
Следствие доказывается несколько труднее. Пусть оператор
В обратим и UP — его полярное разложение, так что U —
унитарный оператор, а Р — положительный квадратный корень из В*В.
Если А^ и А2 — такие нормальные операторы, что А^В = ВА2, то
А2 (В*В) = (AZB*) В = (В*А1) В = В* (А{В) = В* (ВА2) = (В*В) А2,
т. е.
откуда
А2Р = РА2
(ср. с решением 102). Так как AiUP = UPA2 (по
предположению) = UA2P ("как только что показано), то AiU = UA2, и
следствие доказано.
Простое и элегантное доказательство теоремы Путнама —
Фуглида содержится у Розенблюма [1]. Первоначальное
доказательство изложено у Фуглида [1] и с незначительными
изменениями — у Халмоша [3, § 41, 10]. Обобщение для двух операторов
впервые опубликовано Путнамоы [2]. Остроумный вывод
обобщения Путнама из теоремы Фуглида, использующий операторные
матрицы, предложен Берберяном [1].

Гл. 16. Субнормальные оператора 295
Решение 153. Если %ф-1 (Д) / = /, то {х: / (х) Ф 0} с= qr1
и потому
^11 Л[2
Обратно, если |[ Лп/ ||< || / || при всех п, то
Mr
где
Mr = {z: | ф (ж) |> г > 1}.
Если функция f не равна тождественно нулю на множестве МТ,
то последний интеграл с ростом п стремится к бесконечности.
Таким образом, функция / тождественно равна нулю на
множествах Мг при всех г, и потому {х: / (х) Ф 0} cz ф-1 (D).
Решение 154. Удобно с самого начала заметить, что если
оператор А квазинормален, то кег А приводит А. Действительно,
кег А = кег А*А для любого оператора А. Квазинормальность
означает, что А* коммутирует с А*А, откуда следует, что ядро
кет А*А инвариантно относительно А*.
В силу этого каждый квазинормальный оператор можно
представить в виде прямой суммы нулевого оператора и оператора
с тривиальным ядром. Поскольку прямые слагаемые можно
рассматривать отдельно, можно с самого начала предположить, что
кег А = {0}. Пусть А = UP — полярное разложение оператора
А. В нашем случае U — изометрия и (задача 108) U*P = PU*
и UP = PU. Если обозначить через Е проектор UU*, то
A — Е) U — U* A — Е) = 0 (в силу изометричности
оператора U). Исходя из этих алгебраических соотношений, можно
доказать субнормальность оператора А, явно построив его нормальное
расширение. Пусть оператор А действует в пространстве Н. Его
нормальное расширение В можно построить так, чтобы оно
действовало в пространстве Н @ Н (если отождествить пространство
Н с Н 0 {0}, то можно считать, что Н — подпространство
в Н © Н).
Операторы в Н ф Н задаются квадратными матрицами второго
порядка, элементами которых служат операторы в Н. Если,
в частности,
U l-E\ (P 0
/U l-E\ (P
=(o и*) и Но

296 Решения
то оператор V унитарный, а Р положительный. Они коммутируют
друг с другом, так что
(UP
\0
(UP (i-E)P
\0 U*P
— нормальное расширение оператора А.
Решение 155. Обозначим через Mj множество всех конечных
сумм вида 2 (В*K fj, где /;- ? Н при всех /(= О, 1,2,.. .). Мно-
j
жество Mj является линейным многообразием. Поскольку
Вх B W fj) = 2 (в$> (Bjj) и 2 №)i+1 fj = BtC2 (Biy f^
3 J j 3
замыкание множества М4 приводит оператор 54. А так как
пространство Н содержится в М4, то из минимальности Вi следует, что
К4 = М4. Точно так же показывается, что множество М2 всех
конечных сумм вида 2 (В?K fj, где все векторы fj принадлежат
i
пространству Н, всюду плотно в К2.
Соблазнительно закончить доказательство, положив
U B (В*)' fj) = 2 (В^K f]¦ Это возможно, но с некоторыми предо-
3 3
сторожностями. Во-первых, определяет ли это равенство хоть
что-нибудь? Иными словами, вытекает ли из равенства 2 (Bt)Jfj =
з
= 2 (В*)] gj (где векторы fj и gt лежат в Н), равенство
i
2 (В%У fj = 2 {В1У gj? По существу вопрос состоит в следую-
зз.
тем: пусть 2 С^ГУ fj == ®> верно ли тогда, что 2 (В%K fj = О?
з з
Да, верно. Доказательство содержится в выкладке
= S 2 (B*fj, b[u) = 2 2 (Ahf}, A}fk).
Эта выкладка показывает не только, что оператор U корректно
определен, но и то, что он изометрически отображает М4 на М2
и потому имеет единственное изометрическое расширение,
отображающее Kt на К2. Из нее видно также, что на Н оператор U
сводится к тождественному. Другая выкладка показывает, что
UBi=B2U. Для этого достаточно убедиться, что операторы

Гл. 16. Субнормальные операторы 297
UBi и Вги совпадают на Mt, а это вытекает из равенств
UB, (S (В*гУ fj) --= U B (Bt)j BJj) = S W ^ =
i i i
- S (ЩУ B2fj = 52 2 E^)j /; = B2U B E*)j /,•).
i з j
Решение 156. Существуют подобные, но не унитарно
эквивалентные субнормальные операторы.
Доказательство. Рассмотрим объединение единичного круга
и его центра и зададим на нем меру, совпадающую с
нормированной мерой Лебега на круге и такую, что мера центра равна 1.
Пусть В — оператор «координаты» в L2 (v) (т. е. В] (z) = z/ (z)),
a. A — сужение оператора В на замыкание Н2 (v) множества
всех полиномов. Очевидно, что В нормальный, а А —
субнормальный операторы.
Ортонормированный базис в пространстве Н2 (v) состоит из
всех функций zn = еп (п = 1, 2, . . .) и функции е0, равной ilV.
Легко понять, как действует оператор А на векторах этого базиса:
Ае0 = A/^2) еи Аеп = еп+1 при п = 1, 2, 3, . . . . Другими
словами, А — односторонний взвешенный сдвиг с
последовательностью весов {1/У~2, 1, 1, . . .}.
Из задачи 76 следует (впрочем, здесь в этом легко убедиться
непосредственно), что оператор А подобен обычному невзвешенно-
му одностороннему сдвигу U. Тот факт, что операторы А и U
не унитарно эквивалентны, можно доказывать разными способами.
Например, можно воспользоваться тем, что два взвешенных
односторонних сдвига унитарно эквивалентны тогда и только тогда,
когда модули соответствующих весов равны (ср. с задачей 76).
Но проще всего заметить, что оператор U изометрический, а
оператор А не изометрический.
Следует заметить, что В — минимальное нормальное
расширение оператора А (см. задачу 155). С первого взгляда это не
очевидно, но доказать это совсем просто. Отсюда опять следует, что
операторы А и U не унитарно эквивалентны. Дело в том, что не
унитарно эквивалентны их минимальные нормальные расширения.
Этот пример был найден Сарасоном.
Решение 157. Нужно доказать, что если X — такое комплексное
число, что оператор В — Я не обратим, то это же верно и для А —
— Я. После сдвига операторов и перехода к противоположной
теореме исходное утверждение принимает вид: если А обратим,
то обратим и В. Предположим поэтому, что оператор А обратим.
Не теряя общности можно считать, что || А'1 || = 1. Пусть е —
произвольное число из интервала @, 1), фиксированное во всех

298 Решения
дальнейших рассуждениях. Положим Е = {/: || Bnf || <! еп || / ||,
п = 1, 2, 3, . . .}. Пусть Н и К — области определений
операторов А и В, и пусть / ? Е, §¦ 6 Н. Тогда при всех п
\(f,8)\ = \ (/, AnA~ng) ] = [(/, ?M-*g) | =
= | (B*nf, A~ng) | < || B*nf || • || A~ng || =
откуда (/, g) = 0. Другими словами, E _L H, и потому Н с: Е-1-.
Так как (задача 153) подпространство Е приводит оператор В,
то E-L = К, и потому Е = {0}. Из последнего утверждения
следует (см. задачу 153), что оператор В обратим.
Решение 158. Доказательство основано на нетривиальном
соотношении между спектрами операторов А и В, а именно на
теореме о включении спектра
Л (Я) с: Л (А)
и на очевидном включении
П(А)аП(В).
Исходное утверждение верно для любой пары операторов,
спектры и предельные спектры которых связаны таким образом.
Никакие более глубокие или более специальные свойства
субнормальных и нормальных операторов нам не понадобятся.
Рассмотрим множества А" = А — Л (А) и А+ = А [~)Л (.4).
Поскольку А открыто, а Л (А) замкнуто, множество А" открыто.
Оказывается, что А+ тоже открыто. Для доказательства
рассмотрим произвольную точку Я в А+. Поскольку X ? А, а А —
дыра в множестве Л (В), точка X не может принадлежать
спектру Л (В). Отсюда вытекает, что X не принадлежит П (В),
а потому и П (А); следовательно, X не лежит на границе спектра
Л (А) (см. задачу 63). Но так как ^ Д*иА+сЛ {А), то X может
быть только внутренней точкой спектра Л (А). Эти рассуждения
показывают, что А+ совпадает с пересечением множества А
и внутренности спектра Л (А). Отсюда следует, что А+ —
открытое множество, как и утверждалось.
Поскольку множество А равно объединению двух
непересекающихся открытых множеств А~ и А+, из его связности вытекает,
что одно из этих множеств пусто.
Этот результат принадлежит Брему 11], обобщения см. Ито [1].
Простое доказательство, приведенное выше, найдено Пароттом.
Решение 159. Каждое конечномерное подпространство,
инвариантное относительно нормального оператора, приводит его.
Доказательство. Поскольку у каждого оператора в
конечномерном пространстве есть собственный вектор, достаточно дока-

Гл. 16. Субнормальные операторы 299
зать, что каждое одномерное инвариантное относительно
нормального оператора В подпространство приводит В. Это уже просто.
Действительно, каждый собственный вектор оператора В будет
собственным и для В* (если Bf = Xf, то
О = || (Я-А,)/|| = || (Я*-*•)/||,
так как В — нормальный оператор).
Следствие. В конечномерном пространстве каждый
субнормальный оператор нормален.
Доказательство. Сужение нормального оператора на
приводящее подпространство нормально.
Таким образом, из только что доказанного результата следует,
что вопрос о размерности, поставленный в нашей задаче, имеет
отрицательный ответ. Дело в том, что если В — нормальное
расширение оператора А на пространство К, то пересечение К (~| H-L
инвариантно относительно нормального оператора Я*. Поэтому
если dim (К f) Н-1-) < оо, то Н приводит оператор В, а это
противоречит предположению, что оператор А не обладает свойством
нормальности.
Решение 160. Трудность состоит в доказательстве того, что
оператор не субнормален. Поскольку определение
субнормальности апеллирует к существованию чего-то еще,
сформулированное утверждение представляет собой теорему «не существования».
Лучший способ доказательства подобных теорем (а, возможно,
и единственный?) состоит в том, чтобы, предположив
существование, вывести удобные «конструктивные» необходимые условия
(которые, если повезет, могут одновременно оказаться и
достаточными) и затем показать, что эти необходимые условия не
выполняются.
Пусть оператор В (на пространстве К) — нормальное
расширение оператора А (действующего на пространстве Н) и векторы
/о, ...,/„ принадлежат Н. Тогда || 2 (В*У fj 11^-0. Это три-
з
виальное неравенство можно переписать в следующем
нетривиальном виде:
2 S ((В*У B% ft) =

300 Решения
Заменив каждый вектор/; на ?j/,-, получим 22 (^7л А- /;) \*i
\i%i
5
5
^ 0, что означает положительную определенность конечной
матрицы {(Alfj, A}fj)). Это и есть искомое «конструктивное»
необходимое условие, вытекающее из субнормальности. Им мы
воспользуемся при отыскании гипонормального оператора, не
являющегося субнормальным. Заметим также, что это условие
достаточно для субнормальности. Точнее говоря, если для каждого
конечного набора векторов /0, ...,/„ соответствующая матрица
((Alfj, A3fi)) положительно определена, то оператор А
субнормален. Доказательство довольно сложно и в дальнейшем мы не будем
пользоваться этим фактом.
Искомый пример можно найти среди взвешенных сдвигов.
Когда взвешенный сдвиг S с весами {<х0, at, a2, • • •} гипонорма-
лен? Поскольку оба оператора S*S и SS* диагональны, ответ
легко выразить в терминах весов а;. Диагональ оператора S*S
имеет вид {| а0 |2, | а4 р, | а2 |2, . . .}, а у оператора SS* —
{0, I а0 |2, | а4 |2, | а2 |2, . . .}. Отсюда видно, что оператор S
гипонормален тогда и только тогда, когда последовательность
{] а; |} монотонно возрастает (не убывает).
Располагая столь значительной информацией, отыскать пример
среди такого рода операторов (если только это вообще возможно)
уже довольно просто. После нескольких проб кажется
естественным рассмотреть взвешенный сдвиг S с весами {а, Р, 1, 1, 1, . . .},
где 0 < а < р •< 1. Предыдущее рассуждение показывает, что
S — гипонормальный оператор. Для доказательства того, что
он не субнормален, рассмотрим матрицу ((Slej, S'e^)), где
{е0, е±, е2, • • •} — тот ортонормированный базис, который
сдвигается оператором S, a i, / принимают значения 0, 1, 2. Выпишем
эту матрицу:
¦ 1 а
Р
Ее определитель равен —а2 A — Р2J, т. е. отрицателен.
Примеры такого типа изучал Штампфли.
Решение 161. «Тогда» для нормальных частичных изометрий
очевидно, а для субнормальных вытекает из задачи 118. (Дело
в том, что типичная не унитарная изометрия — односторонний
сдвиг, а он субнормален.) Чтобы доказать «только тогда»,
предположим, что U — частичная изометрия, так что U*U — проектор
на начальное пространство (ортогональное дополнение к ядру),
a UU* — проектор на финальное пространство (множество значе-

Гл. 16. Субнормальные операторы 301
ний) частичной изометрии U. Если U — субнормальный оператор,
то он гипонормален, и потому финальное пространство содержится
в начальном. Отсюда следует, что начальное пространство
инвариантно относительно U и, следовательно, приводит U. Ясно, что
сужение оператора U на начальное пространство будет изометрией.
Если к тому же U — нормальный оператор, то начальное и
финальное пространства совпадают, так что его сужение на начальное
пространство унитарно.
Интересно отметить (как следствие этого доказательства), что
частичная изометрия субнормальна тогда и только тогда, когда
она гипонормальна.
Решение 162. При п = 1 равенство очевидно. Продолжим
по индукции:
\\Anf\\* = (Anf, Anf) = (A*Anf, Ап~Ч)<
< || A*Anf || • || Ап~Ц || < || An+1f || • || Л"'1/1| <
<Ип+1|1-М"-111-11/11а
для каждого вектора /, поэтому
||i4n||s<||An+1||-||^n-1||.
По предположению индукции (|| А'11| = || A \\h при 1 <! к ¦< п) это
последнее неравенство эквивалентно неравенству
\\А\Г<\\А^\\.\\А\\п~\
откуда
Поскольку противоположное неравенство верно всегда,
индуктивный переход полностью проделан.
См. Андо [1], Штампфли [1]. Приведенное выше доказательство
отличается от простого доказательства Штампфли лишь
несущественными упрощениями.
Решение 163. Пусть А — гипонормальный оператор. План
доказательства заключается в том, чтобы доказать, что замыкание
линейной оболочки множества собственных векторов оператора
А приводит А; пока полная непрерывность еще ни при чем. В
случае вполне непрерывного оператора удобно рассмотреть
ортогональное дополнение к этой линейной оболочке, после чего
применение результата задачи 162 приводит к нужному выводу.
A) При любом комплексном к
{/: Af = Xf}c{f: Л*/ = Я*/}.
Для доказательства заметим, что оператор А — к гипонормален
одновременно с А и для всех операторов, а не только для гипо-

302 Решения
нормальных, {А* — %*) / = 0 тогда и только тогда, когда
B) Для каждого комплексного X подпространство {/: Aj = >./}
приводит А. Действительно, инвариантность относительно А
очевидна, а инвариантность относительно А* вытекает из A).
C) Если Xi ^Ф Х2, то
{/: Af = X1f}±{f: Af^hJ).
Вот прямое и часто встречающееся доказательство: если Afi^XJi
и Л/2 = Я2/2, то
M/i, h) = (Afu /2) = (/i, A*fz) = Kz(h, f2).
D) Замкнутая линейная оболочка множества всех собственных
векторов оператора А приводит А, а сужение оператора А на
это подпространство нормально. Доказательство: используем B)
и заметим, что в силу C) сужение оператора А на каждое
собственное подпространство нормально (и даже является
скаляром).
E) Предположим теперь, что А — вполне непрерывный
оператор. Рассмотрим сужение оператора А на ортогональное
дополнение замкнутой линейной оболочки его собственных
векторов. Получившийся оператор по-прежнему гипонормален (в силу
D)) и по-прежнему вполне непрерывен. Поскольку точечный
спектр этого вполне непрерывного оператора пуст, оператор
квазинильпотентен (задача 140), а тогда из задачи 162 вытекает,
что он равен 0. Если ортогональное дополнение, на котором
действует этот оператор, не равно {0}, то мы приходим к
противоречию: ненулевые векторы в нем должны быть собственными
векторами с собственным значением 0, и в то же время они не могут быть
собственными.
Решение 164. Пусть V — гильбертово пространство и Н —
прямая сумма счетного множества экземпляров пространства V,
занумерованных целыми числами (положительными,
отрицательными и нулем). Это значит, что пространство Н состоит из таких
последовательностей
/ = <••., /-1, (/о), /i, •••>
векторов из V, что 2 II/п II2 < °°. Скалярное произведение
п
векторов / и g задается формулой (/, g) = 2 (fn, ёп)-
п
Если {Sn: п = 0, ±1, ±2, . . .} — такая
последовательность положительных операторов, действующих в пространстве V,

Гл. 16. Субнормальные операторы 303
что последовательность {]| Sn ||} ограничена, то равенство (Sf)n =
= Snfn определяет оператор в Н. Сдвиг W, задаваемый равенством
(W7)re =/„_!, будет оператором в Н. Легко найти операторы,
сопряженные к только что введенным: (?"*/)„ = S*fn = Snfn (так
что S — эрмитов и даже положительный оператор) и {W*f)n =
= fn + i (так что W— обратимый и даже унитарный оператор).
Если А = WS, то (Af)n = Sn-ifn-i, и так как А* = SW*,
то (A*f)n = Snfn + i. Из этих соотношений видно, что fA*Af)n =
= Snfn и (AA*f)n = Sn-ifn- Поэтому оператор А гипонормален
тогда и только тогда, когда последовательность {Sn} не убывает.
С другой стороны, (Azf)n = ?„_!?„_2/п_2 и {A*2f)n == SnSn + Jn+,.
откуда D*4% = SnSl+iSJn и D4«/)„ = S^SUSn-Jn-
Таким образом, оператор А2 гипонормален тогда и только тогда,
когда Sn-iSn-zSn-i -^ SnSn+iSn при всех п.
Осталось выбрать операторы Sn так, чтобы А был гипонормаль-
ным оператором, a Az нет. Построение основано на существовании
таких положительных операторов С и D, что неравенство С ^. D
верно, а С2 ^ D2 неверно. Если, например, пространство V
двумерно, так что операторы в V задаются квадратными матрицами
второго порядка, то можно взять
1 0\ /2
) 4
/1 0\
с=(о о)- 4
Тогда
а у матрицы
3
2
7 Vo о)
отрицательный определитель. Если определить Sn как
положительный квадратный корень из С (который совпадает с С) при
и^Ои как положительный квадратный корень из D при п > 0,
то 3?n <^ ?n+i при всех п, так что оператор А гипонормален. Если
п = 1, то Sn-iS^Sn-i = С2 и iSn^n+i^n = D2, так что
оператор 42 не гипонормален.
Решение 165. Пусть U — унитарный оператор, Р —
положительный и обратимый, С = P~rUP и А = UP. Для того
чтобы оператор С был сжатием, необходимо и достаточно, чтобы
оператор А был гипонормалъным.

304 Решения
Доказательство. При сформулированных условиях неравенства
(UP) (UP)*< (UP)* (UP),
попарно эквивалентны.
Теперь уже довольно просто ответить на вопрос, поставленный
в задаче 165. Пусть W — унитарный оператор, S — обратимый
и С =s S^WS. Рассмотрим полярное разложение VP оператора S
и заметим, что С = P~XUP, где U (=V~1WV) — унитарный
оператор, а Р — положительный. Поэтому достаточно рассмотреть
преобразование унитарных операторов при помощи
положительных, а в этой ситуации применимо только что доказанное
утверждение.
Заметим далее, что если в выписанных выше соотношениях
заменить -^ на =, то вновь получившиеся соотношения будут
по-прежнему попарно эквивалентными. Следствие 1: в
конечномерном пространстве сжатие, подобное унитарному оператору,
само унитарно. Доказательство: в конечномерном гильбертовом
пространстве каждый гипонормальный оператор нормален.
Следствие 2: в бесконечномерном пространстве сжатие, подобное
унитарному оператору, может не быть унитарным. Дело в том, что
существуют обратимые гипонормальные операторы, не
являющиеся нормальными. (Заметим, что если оператор А гипонормальный,
то и оператор А + X при любом к тоже гипонормальный.)
Это доказательство принадлежит Дугласу.

ГЛАВА 17. ЧИСЛОВОЙ ОБРАЗ
Решение 166. Пусть А — оператор в гильбертовом пространстве
и | = (Af, /), Ti = (Ag, g), где / и g произвольные, но
фиксированные единичные векторы. Нужно доказать, что каждая точка
отрезка, соединяющего | и г), принадлежит множеству W (А).
Два предварительных замечания упрощают задачу.
Если | = т), то все очевидно. Если % ф\\, то существуют такие
комплексные числа аир, что а5+Р = 1иат) + р = 0.
Достаточно доказать, что единичный отрезок [0, 1] содержится в
числовом образе W (аА + Р) (= «И7 (А) + р"). Действительно, если
a (Ah, h) + $ = t, то
а
Следовательно, не теряя общности, можно с самого начала
считать, что ? = 1 и т] = 0.
Положим Л = Б + W, где В ж С — эрмитовы операторы.
Так как (Af, f) (== 1) и (Л#, g) (= 0) — вещественные числа, то
(Cf, /) = 0 и (Cg, g) = 0. Если заменить / на %f, где ] X | = 1,
то значение (Af, f) не изменится, а (С/, g) заменится на Я (С/, #).
Итак, не теряя общности, можно считать, что скалярное
произведение (Cf, g) чисто мнимое.
Положим теперь h (t) = tf + A — it) g @< t < 1). Тогда h(t)
никогда не обращается в 0. Так как (Af, /) ф(А%, g), то векторы
/ и g линейно независимы. В самом деле, если бы они были
линейно зависимы, то, поскольку это единичные векторы, они
отличались бы числовым множителем, модуль которого равен 1. Но тогда
(Af, f) = (Ag, g). Так как
(Ch(t),h(t)) =
= I* (Cf, f) + t(l-t) ((Cf,g) + (Cf, g)*) -f A -t*) (Cg, g),
то из условий (Cf, f) = (Cg, g) = 0 и Re (Cf, g) = 0 вытекает,
что (Ch (t), h (f)) = 0 при всех t. Поэтому скалярное
произведение (Ah (t), h (t)) вещественно при всех t. А это все, что нужно.
Действительно, вещественная функция
(Ah(t), h(t))
II h (t) II2

306 Решения
непрерывна на замкнутом единичном интервале и в точках 0 и 1
принимает значения 0 и 1 соответственно. Поэтому множество
значений этой функции содержит замкнутый единичный интервал.
Это доказательство принадлежит де Боору.
Решение 167. Для любого оператора А и любого натурального
числа к к-числовой образ Wk (А) представляет собой выпуклое
множество.
Доказательство. Пусть сначала М и N будут А-мерными
гильбертовыми пространствами, а Т — линейным отображением
из М в N. Преобразования Г и Г* (из N в М) можно одновременно
привести к диагональному виду: выбрать такие ортонормирован-
ные базисы {/4, . . ., /ft} в М и {gi, . . ., gh} в N и такие
неотрицательные числа at (i = 1, . . ., к), что Tft = аг#, и T*gt = а,/;
при всех i. Для доказательства рассмотрим полярное разложение
UP оператора Т и приведем Р к диагональному виду. Другими
словами, найдем ортонормированный базис {/ь ...,/„} в
пространстве М и такие неотрицательные числа аьчто Pft — а,/;.
Если даже частичная изометрия U не является изометрией, то ее
всегда можно продолжить до изометрии (так как dim М = dim N=
= fc). Будем считать, что это уже сделано. Тогда положив gi =
= Uft,i = l,2,... к, получим Tft = UPj% = Uatft = aiUfi=
= aigi и T*gi = PU*gt = Pft = aj/j.
Итак, лемма доказана. Вернемся к теореме. Предположим, что
Р и Q — проекторы ранга к, областями значений которых служат
подпространства М и N. Если обозначить через Т сужение
оператора QP на М, то к нему можно применить предыдущую
лемму. Для каждого i (= 1, 2, . . ., к) обозначим через L; линейную
оболочку векторов /, и g-t. Тогда подпространства Lt попарно
ортогональны. В самом деле, пусть i Ф /. Поскольку /г J_ f} и gt _L g3,
достаточно показать, что /; _L gj (fj _L gt будет следовать из
симметричности рассуждений относительно индексов i и /). Это почти
очевидно:
f Q)
Теперь уже нетрудно доказать выпуклость множества Wh (A).
Пусть 0-^ ?<J! 1. Применив классическую теорему Теплица —
Хаусдорфа к раз, получим такие единичные векторы ht в L,-, что
(Aht, hi) = t(Aft, fi) + (l-t)(Agu gt).
Поскольку множество {hu'...,hh} ортонормировано, оператор
проектирования на его линейную оболочку имеет ранг к и
@S
Доказательство закончено.

Гл. 17. Числовой образ 307
Эта задача была поставлена Халмошем [11]. Первое решение,
несколько более сложное, чем рассмотренное, получил Берже.
Решение 168. Пусть А — оператор и X — такое комплексное
число, что \% \= \\ А \\ и X ? W (А). Тогда X — собственное
значение оператора А.
Доказательство. Если X = (Af, f) и || / || = 1, то
\\A\\ = \-k\ = \{Af,f)\<\\At\\.\\f\\<\\A\\,
так что все неравенства вырождаются в равенства. Как известно,
неравенство Шварца превращается в равенство только в том
случае, если Af = Xof для некоторого Хо. Отсюда в свою очередь
следует, что
так что X — собственное значение оператора А.
Из доказанной теоремы вытекает, что если число X
принадлежит W (А), |Я|=||.<4||иЯне является собственным значением
оператора А (в частности, если у оператора вообще нет
собственных значений), то X не принадлежит множеству W (А). Исходя
из этого замечания легко построить примеры операторов с
незамкнутым числовым образом.
A) Заметим, что собственные значения всякого оператора
содержатся в его числовом образе W (А). (Доказательство: если
Af = Xf и ||/ || = 1, то (Af, f) — X.) Если А — нормальный
оператор, то \\ A || = sup{)A,|: X^W(A)}, так что в W (А)
всегда найдется такое число X, что \ X \ = \\ А ||. Поэтому, если
у нормального оператора достаточно много собственных значений,
приближающихся к его норме, но нет ни одного, модуль которого
равен норме, то его числовой образ не замкнут. Конкретный
пример: диагональный оператор, у которого модули
диагональных членов не принимают наибольшего значения. Другой
пример: рассмотрим диагональный оператор А с диагональю
{1, У2, У3, . . .}. Так как А > 0 и кег А = {0}, то Of W(A);
на самом деле W (А) — @, 1]. Этот пример показывает, между
прочим, что числовой образ может быть незамкнутым даже для
вполне непрерывных операторов.
B) Рассмотрим в качестве оператора А односторонний сдвиг.
Поскольку каждое число из открытого единичного круга служит
собственным значением оператора А*, открытый единичный круг
содержится в W(А*). А так как W (А*) всегда совпадает с (W(А))*
(ибо (A*f, f) = (Af, /)*), то открытый единичный круг
содержится и в ТУ (А). Поскольку, наконец, у оператора А нет
собственных значений, доказанная выше теорема показывает, что числовой

308 Решения
образ W (А) не может содержать чисел, модуль которых равен 1.
Итак, числовой образ W (А) одностороннего сдвига совпадает
с открытым единичным кругом.
Решение 169. Если X принадлежит спектру сжатия оператора
А, то Я,* — собственное значение оператора А*, а потому X* ?
? W (А*) и X ? W (А). Следовательно, числовой образ оператора
содержит его спектр сжатия.
Если X принадлежит предельному спектру оператора А, то
существует такая последовательность единичных векторов /„,
что (А — X) fn -*- 0. Так как
\(Afn, /Л)-а,| = |(D-я)/„, fn)\<HA-k)fn\\,
то (Afn, fn) —»- X. Следовательно, замыкание числового образа
содержит предельный спектр оператора А.
Эти два замечания завершают доказательство. Другое
доказательство можно получить, комбинируя только что полученное
утверждение о предельном спектре со следующими двумя: граница
спектра содержится в предельном спектре; числовой образ —
выпуклое множество.
Решение 170. Если V — волътерровский оператор
интегрирования и А = 1 — A + У) (= V (I — У)), то оператор А ква-
зинильпотентен, но W (А) не содержит 0.
Доказательство. Квазинильпотентность оператора А очевидна
(задача 146). Поэтому достаточно доказать, что если (Af, /) = 0,
то / = 0. Пусть (Af, /) = 0. Тогда
\\f\\* = ((i + V)-4, /X 11A + У)'111-11 /II2 = II/II2-
(См. решение 150. Трюк с использованием оператора A + У)
применяется очень часто.) Отсюда получаем (если вспомнить,
когда неравенство Шварца превращается в равенство), что / —
собственный вектор оператора A + У). Так как Л (A + У)) =
= {1}, то A + V)-1 / = /, или / = A + V) /, и потому F/ = 0.
Следовательно (задача 148), / = 0, и доказательство закончено.
Заметим, что оператор А вполне непрерывен.
Решение 171. Предположим, что А — нормальный оператор.
Так как множество W (А) выпукло и Л (A) cz W (А) (задачи 166
и 169), то conv Л (A) cz W (А). Докажем обратное включение.
Если вспомнить, как выпуклая оболочка определяется в терминах
полуплоскостей, нужный результат можно сформулировать таким
образом: если замкнутая полуплоскость содержит Л (А), то она
содержит и W {А). Если заменить оператор А на аА + $ (где
аир — комплексные числа), то Л (А) и W (А) заменятся на «Л +

Гл. 17. Числовой образ 309
+ Р и aW+ P соответственно. Это замечание позволяет
«нормировать» задачу, сведя ее к изучению одной фиксированной
полуплоскости (например, правой координатной). В этом случае нужный
результат выглядит так: если у каждого числа в спектре оператора
А вещественная часть неотрицательна, то это верно и для всех
точек из числового образа оператора А. (Редукция к этому
утверждению не использует нормальности оператора А, а при его
доказательстве предположение нормальности уже существенно.)
В силу спектральной теоремы можно считать оператор А
умножением, индуцированным ограниченной измеримой функцией ср
на пространство с мерой ц. Если / ? L2 (|х), то (Af, f) =
= \ ф I / I2 d\i. В этих терминах последнее утверждение означает,
что если Re ф ^> 0 почти всюду (это и значит, что существенная
область значений функции ф содержится в правой полуплоскости),
то 0 <; Re I ф | / |2 d\i = \ (Re ф) | / |2 d\i. Последнее очевидно:
если dv = | / |2 d[i, то мера v неотрицательна, и утверждается, что
интеграл от неотрицательной функции по неотрицательной мере
неотрицателен.
Решение 172. Замыкание числового образа субнормального
оператора совпадает с выпуклой оболочкой его спектра.
Доказательство. Пусть А —субнормальный оператор, а В — его
минимальное нормальное расширение (см. задачу 155). Тогда
Л(В)сЛ {А) (задача 157) и W {A) с= W (В). Поэтому
W (В) = conv Л {В) (задача 171) с
czconvA(A)aW(A) (задачи 166 и 169) с: И7(Б),
а значит, все эти множества совпадают друг с другом.
Из приведенного доказательства вытекает такое следствие:
замыкание числового образа субнормального оператора совпадает
с замыканием числового образа его минимального нормального
расширения.
Решение 173. (а) Если оператор А необратим, то 0 ? Л (А),
и потому 1 ? Л A — ^1), откуда 1 ^ г A — А) -^ w A — А).
(б) Не теряя общности, можно считать, что \\ А || = 1
(умножьте А на подходящее положительное число). Из условия w (A) =
= || А || в этом случае следует существование такой
последовательности {/„} единичных векторов, что | (Afn, fn) \ —у 1. Не теряя
общности, можно считать, что (Afn, /„) -> 1 (умножьте /„
на подходящую константу, модуль которой равен 1). Так как

310 Решения
f (Afn, /„) |< \\Afn ||< 1 и (Afn, /„) -> 1, то || Л/„ || -*- 1, откуда
так что 1 принадлежит предельному спектру оператора А, и
потому г (А) = 1.
Решение 174. Существуют выпуклоидные операторы, не
являющиеся нормалоидными, и обратно.
Доказательство. Пусть
/О 0\
M = (i о)
и N — нормальный оператор, спектр которого совпадает с
замкнутым кругом радиуса V2 с центром в 0. Если
<М 0^
то А{А) = {0}[_)?> = D и W {А) = conv (W (M) U W (N)) =
= D. Это доказывает, что оператор А выпуклоидный. Но так как
|| А || = 1 (на самом деле уже || М || = 1), то оператор А не
нормалоидный.
Рассмотрим теперь оператор
(М С
Так как || А \\ = 1 и W (А) = conv (D \j {1}), то w(A) = l,
и потому А — нормалоидный оператор. Но поскольку Л (А) =
= {0} U {1}, так что conv Л (А) совпадает с замкнутым
единичным интервалом, оператор А не выпуклоидный.
Многие из этих понятий впервые были рассмотрены Уинтне-
ром [1]. Его статья содержит ошибку: он считал, что каждый
нормалоидный оператор выпуклоидный.
Решение 175. Функция W непрерывна в равномерной
топологии] если основное гильбертово пространство бесконечномерно,
то она разрывна в сильной топологии ( а значит, и в слабой).
Доказательство. Пусть || Л — В || < е, а/ — единичный
вектор. Тогда
|((Л-2?K/, /)|<е,
и потому
(Af, f) = (Bf, f) + ((A-B)f, f)eW(B) + (s),
откуда W(A)c=W(B) + (e). Аналогично W (В) cz W (A) + (e).
Эти включения вместе доказывают первое утверждение
(доказательство принадлежит Брауну).

Гл. 17. Числовой образ 311
Для доказательства второго утверждения рассмотрим
односторонний сдвиг U. Последовательность {(U*)n) сильно сходится
к нулю (по мере роста п пропадает все больше и больше
коэффициентов Фурье), но w ((U*)n) = 1 при всех п.
Решение 176. Пусть а — такое комплексное число, что
I а | < 1. Если | z | < 1, то Re A — za) = 1 — Re (za) > 1 —
— | z | > 0. Обратно, пусть комплексное число а таково, что
Re A — za) >0 для всех z, для которых | z | < 1. Возьмем z =
== t-1 а \1а, где 0 < t < 1. Тогда 1 — t | а \ = Re A — t \ а \) >
>0, откуда (устремите { к 1 слева) \ а | -^ 1.
Утверждение об операторах, аналогичное этому числовому
факту (и содержащее его как частный случай), состоит в том,
что w (А) ^ 1 тогда и только тогда, когда Re A — гЛ)>0 для
всех z, для которых \ z | < 1. В самом деле, следующие
утверждения об операторе А попарно эквивалентны:
\(Af, /)|<1, если только ||/|| = 1;
(Re(l — zA)f, /)>0, если только ][ / || = 1 и |z|<l.
Если w (А) -^1, то г (А) ^ 1, и потому оператор 1 — zA
обратим, как только | z | < 1. У обратимого оператора
вещественная часть положительна тогда и только тогда, когда
положительна вещественная часть обратного оператора (если В — обратимый
оператор, то E-1/, /) = (Б/, 55/) = {В (В'1}), E/))*).
Отсюда вытекает, что w (A) ^ 1 тогда и только тогда, когда
Re A — zA)~x ;> 0 на единичном круге.
Заметим теперь, что если п — натуральное число и со —
первообразный корень п-ж степени из 1 (т. е. п — наименьшее
натуральное число, для которого со™ = 1), то
п-1
1 1 чл 1
i-z« п Za 1_ш^
для всех 2, отличных от степеней числа со. Это тождество, в
сущности, представляет собой разложение правой части в сумму
простых дробей. Оно проверяется непосредственно умножением обеих
его частей на 1 — z™. В результате правая часть становится
полиномом степени не выше п —¦ 1, инвариантным относительно
замены z -v ahz (к = 0, . . ., п — 1). Поэтому значение этого
полинома постоянно и его можно найти, подставив z = 0.
Предыдущее тождество означает, что если ю (А) ^ 1, то
п-1
fe=0

312 Решения
при всех z, для которых \ z | < 1. Поскольку вещественная часть
каждого слагаемого в правой части положительна (ибо w {(лкА) ^
¦^ 1), вещественная часть оператора A — znAn)~1 тоже
положительна, и потому w (Ап) <; 1.
Одно место в этом доказательстве в силу своей непривычности
заслуживает повторного рассмотрения. Доказательство равенства
операторов путем подстановки их в соотношение, связывающее
рациональные функции, по существу, использует функциональное
исчисление для рациональных функций (ср. с задачей 97). Вот
точное утверждение: пусть ср! и ср2 — рациональные функции,
обладающие тем свойством, что их полюсы расположены вне
спектра оператора А (так что cpt (А) и ф2 (^4) имеют смысл). Тогда
этим свойством обладает любой полином р от этих функций. Если
ф(Я) = р(ф!(Х), ф2(Я)), то ф(Л) = р(ф4(Л), ф2(А)). Доказательство
очевидно.
Эквивалентность соотношений w (А) ^ 1 и Re A — zA)^1 ^ 0
при всех z, у которых | z | << 1, элементарна, но играет основную
роль в приведенных рассуждениях; в этой эквивалентности
и состояла основная новая идея Берже. Приведенное
доказательство упрощает рассуждения Пирси [2].

ГЛАВА 18. УНИТАРНЫЕ ПРОДОЛЖЕНИЯ
Решение 177. (а) Рассмотрим сначала очень частный случай,
когда гильбертово пространство Н ¦— одномерное вещественное
евклидово пространство, а пространство продолжения К —
обычная плоскость. В этом случае данное сжатие А равно числу
а (| а | <; 1) и на геометрическом языке исходное утверждение
состоит в том, что всякое умножение на а (на прямой) можно
получить из подходящего вращения (в плоскости) и последующего
проектирования (на прямую). Это совершенно ясно из чертежа;
простое упражнение по аналитической геометрии показывает, что
матрица такого вращения имеет вид
а у л _а2
Доказательство в общем случае по существу повторяет
предыдущие рассуждения. Нужно сделать несколько попыток, чтобы
выяснить, следует ли роль а2 передать оператору А2, или А*А,
или АА*, или иногда одному, а иногда другому. Результат можно
описать следующим образом. Пусть задано пространство Н;
возьмем К = Н © Н и отождествим исходное пространство Н с первым
слагаемым. Каждый оператор в К можно записать в виде
квадратной операторной матрицы второго порядка, элементами которой
служат операторы в Н. В частности,
Р~\0 О
Для заданного оператора А положим
S = ]/l—AA* и Т =
где под радикалом понимается, разумеется, положительный
квадратный корень. Поскольку ]|Л||<;1, операторы 1 — АА* и 1 — А*А
положительны. Нужное продолжение В задается матрицей
A S
5=1 _г А*
)•

314
Решения
Ясно, что В — продолжение оператора А. Поскольку
/ А* Т\
B* = \-S A)'
непосредственное вычисление показывает, что
А*А-\ Т2 A*S — TA*
AT S2 + AA*
ВВ
, (А*А^
=\sa-
1=(
)•
— AT + SA\
TA* + A*S
Осталось проверить, что AT = SA. Очевидно, что AT2 = S2A,
и по индукции легко показать, что AT2n = S2nA при га = 0, 1,
2, ... . Отсюда следует, что Ар (Т2) = р (S2) А для любого
полинома (ср. с решением 108), и потому AT = SA, что и
требовалось.
(б) Доказательство аналогично предыдущему и даже проще.
Пусть задан такой оператор А, что 0 ^ А ^ 1. Обозначим через
R положительный квадратный корень из А A — А) и положим
A
Проверка того, что В — проектор, не вызывает затруднений.
(Результат (б) получил Майкл; см. Халмош [1].)
Решение 178. Доказательство чисто конструктивное. Для
заданного Н рассмотрим в качестве К прямую сумму счетного
множества экземпляров пространства Н, занумерованных всеми
целыми числами (положительными, отрицательными и нулем).
Каждый оператор в К представляется бесконечной операторной
матрицей. В частности, оператор проектирования из К в Н имеет
вид
Р =
0 0 0
0 A) 0
0 0 0

Гл. 18. Унитарные продолжения
315
(Скобки выделяют элемент с индексами @, 0).) Для заданного
оператора А положим
Л
в =
V
0
1
0
0
0
0
0
0
0
1
0
0
0
0
0
0
0
S
-А*
0
0
0
0
0
(А)
Т
0
0
0
0
0
0
0
1
0
0
0
0
0
0
0
1
0
0
0
0
0
0
0
¦\
¦¦!
где операторы S и Т определяются, как в решении 177. Поскольку
матрица В треугольная, все ее степени тоже треугольные, а
диагональные элементы степеней равны соответствующим степеням
диагональных элементов. Поэтому В — степенное расширение
оператора А. Унитарность его проверяется очевидным
вычислением (использующим результаты решения 177).
Хотя это доказательство не самое прозрачное, оно бесспорно
самое короткое; впервые его нашел Шеффер [1].
Решение 179. Эту теорему можно доказать непосредственно,
но доказательство с помощью унитарных операторов и теории
продолжений обладает элегантностью, которую вряд ли можно
превзойти. Для случая унитарных операторов ее можно
доказывать, применяя довольно элементарные и широко обобщаемые
геометрические методы (ср. Халмош [7, стр. 246]). Но более
прозрачно обычное для теории гильбертовых пространств
доказательство, использующее спектральную теорему.
Пусть U — унитарный оператор в гильбертовом пространстве
Н. Спектральная теорема утверждает, что Н совпадает с
пространством L2 (fx) функций, заданных на таком пространстве X с мерой
ц, что оператор U действует как умножение на измеримую
функцию ф, модуль которой почти всюду равен 1. Если/ ? Н (= L2 (\i)),
то
п-1
j=o
п-1
3=0

316
Решения
Так как | ср | = 1 почти всюду, то
3=0
почти всюду. Более того, из условия | <р
кает, что средние
п-1
= 1 почти всюду
выте3=0
образуют последовательность, сходящуюся почти всюду. (Ее
пределом служит характеристическая функция множества, на котором
ф = 1.) Отсюда следует, что к последовательности
з'=о
можно применить теорему Лебега о мажорированной сходимости
(но нельзя — об ограниченной сходимости). На этом
доказательство заканчивается. Из него легко понять также, каким будет
предельный оператор.
Пусть А — произвольное сжатие в пространстве Н.
Рассмотрим его унитарное степенное продолжение U на гильбертово
пространство К и обозначим через Р оператор проектирования
из К в Н. Это означает, что если / ? Н, то 4n/ = PUnf, n =
= О, 1, 2, . . ., откуда
3=0
Так как у последовательности
п-1
—
П
3=0
при п -> сю существует предел, а оператор Р непрерывен (т. е.
ограничен), ^ то при любом / у последовательности
п-1
4- 2 ^
3=0
существует предел (при п -^ об).
Основная эргодическая теорема для унитарных операторов
была впервые доказана фон Нейманом [2]. Распространение ее
на произвольные сжатия получено Риссом и Секефальви-Надем

Гл. 18. Унитарные продолжения 317
II]. Доказательство, использующее унитарные продолжения,
принадлежит Секефальви-Надю [2]. Хороший современный обзор
по общей эргодической теории см. Якобе [1].
Решение 180. Можно дать довольно трудное аналитическое
доказательство, но если применить теорию продолжений, все
становится просто (Секефальви-Надь [2]). Пусть задан оператор А,
действующий в пространстве Н. Обозначим через U его унитарное
степенное продолжение на К, а через Р — проектор из К на Н.
Если р — полином, а / — вектор из Н, то
j \ p (A) f || = || Рр (U) f || (по определению степенного продолжения) <
<||p(*7)||-||/|| (потому что |Н| = 1)<
< || р \\D-\\ f || (потому что U — нормальный оператор).
Это и означает, что || р {А) \\ ^ \\ р \\D.
Решение 181. Пусть Но — векторное пространство всех
финитных последовательностей векторов из Н (с покоординатными
векторными операциями). Обозначим через Ко векторное пространство
всех последовательностей вида {и^: п = 0, +1, +2, . . .}, где
для некоторой последовательности {/„: п = 0, ±1, +2, . . .} в
в Но (операции в Ко тоже определяются покоординатно). Если
и = {ип} и v = {vn} — два элемента из Ко, причем Uj =
= 2 Ai-itu a vj = 2 Ai-jgu то
г i
[U, V] = ^
j
Это определение кажется сомнительным, поскольку оно,
казалось бы, зависит от представления последовательности v в
терминах пространства Но. Но поскольку
S(ч, gj) = 2 S(Ai-jft, gj) = 2S(/h Aj^gj) = 2(/«, vth
i г i г j i
эта зависимость только кажущаяся. Это определение вводит
в Ко скалярное произведение. Проверка его полуторалинейности
и эрмитовости не вызывает затруднений, а положительность
вытекает из предположения о положительной определенности
последовательности {4,j}. В доказательстве нуждается лишь
строгая положительность (невырожденность) этого скалярного
произведения, но и это нетрудно. Из неравенства Шварца, спра-

318 Решения
ведливого не только для строго положительных скалярных
произведений, получаем
| [и, y]|2<![w, м]-[у, v].
Поэтому, если [и, и] = О, то [и, v] = 0 для всех v из Ко.
Зафиксируем индекс i и выберем последовательность {gn} так, чтобы
gt = и; и gn = 0 при тг Ф1. Тогда
|| Ы; ||2 = (Ut, gl)=^i(Uj, gj) = [U, г^] = 0,
i
откуда и = 0.
Векторное пространство Ко с таким скалярным произведением
может не быть полным. Обозначим через К его пополнение.
Каждому элементу / из Н соответствует последовательность {/„} из Но,
определяемая условиями /0 = / и /„ = 0 при п Ф 0. В свою
очередь этой последовательности {/„} соответствует
последовательность {iin} из пространства Ко:
Если / и g — векторы из пространства Н, а и = {и7г}иу= {vn} —
соответствующие им последовательности из Ко, то по определению
скалярного произведения в Ко получаем
[и, v] = (f, g).
Поэтому отображение / —> и изометрически вкладывает
пространство Н в К. В оставшейся части доказательства пространство Н
будет отождествляться с его образом в К.
Пусть Р — оператор проектирования из К в Н, и = {ип} —
элемент из Ко, a g ? Н. Тогда
[Ри, g] = [u, g] = (u0, g),
и потому
Ри = и0
для всех таких последовательностей и.
Пусть и = {ип} — элемент пространства Ко. Положим Uu =
= v = {vn}, где vn = un-i. Если Uj = 2 Ai-jfit гДе
последовательность {/„} принадлежит Но, то
Отсюда следует не только то, что U — взаимно однозначное
линейное преобразование, но и то, что оно переводит пространство Ко
в себя. Если {/„}, {gn} — произвольные последовательности из

Гл. 18. Унитарные продолжения 319
Но и и = {iin}, v = {vn} — соответствующие им
последовательности из Ко, то
(Uu, Uv) = 2 (uj-i, gj-i) =
i
так что f/ — изометрия. Из всего сказанного вытекает, что U
единственным образом продолжается до унитарного оператора
в К (который поэтому можно обозначить тем же символом U).
Так как PUnu = (UnuH = u_n = 2 A-i+nfu то
г
PUnf = Anf
для любого / 6 Н. Доказательство закончено.

ГЛАВА 19. КОММУТАТОРЫ ОПЕРАТОРОВ
Решение 182. Доказательство Уинтнера. Пусть PQ — QP = а.
Заменив Р на Р + ~к, где К — произвольный скалярный оператор,
получим, что новый оператор Р удовлетворяет тем же
соотношениям коммутации. Таким образом, можно без потери общности
считать оператор Р обратимым. В этом случае QP = Р'1 (PQ) P,
и потому Л (QP) = Л (PQ). Но равенство PQ = QP + а влечет
Л (PQ) = A(QP + a) = A (QP) 4 а = Л (PQ) + а.
Единственным сдвигом, переводящим непустое компактное
подмножество комплексной плоскости (такое, как Л (PQ)) в себя,
является тривиальный сдвиг (тождественное преобразование),
другими словами, а = 0.
Доказательство Виландта. Пусть PQ — QP = а, тогда
P2Q — QP2 = P2Q — PQP + PQP — QP2 =
= P (PQ — QP) + (PQ — QP) P = 2Pa
и вообще (индукция по п)
PnQ-QPn = nPn~1a, n =1, 2, 3, ... .
Если Р—нильпотентный оператор индекса п, то пРп~1а = 0,
и потому а = 0. Если же оператор Р не нильпотентен, то из
неравенства
верного для п=1, 2, 3, ..., следует, что
откуда опять получаем, что а = 0.
Решение 183. Пусть задано гильбертово пространство Н.
Обозначим через В пространство всех ограниченных
последовательностей / = (/4, /2, /3, . • • ) векторов из Н (векторные
операции определяются покоординатно, норма задается как верхняя
грань норм). Пусть N — подпространство всех
нуль-последовательностей из В (т. е. таких последовательностей /, что
I /п II = 0)- Факторпространство B=B/N будет нормирован-

Гл. 19. Коммутаторы операторов 321
ным векторным пространством. Каждая ограниченная
последовательность А = (Аи А%, А3, . . -) операторов, действующих в Н,
индуцирует оператор в пространстве В: образом
последовательности i'/j, /2, /3, • • •) под действием оператора (At, Az, A3, . . .)
служит последовательность {AJi, Azf2, A3f3, . . .). Поскольку
подпространство N инвариантно относительно каждого
построенного таким образом оператора, последовательность А обычным
образом индуцирует оператор в пространстве В. Обозначим его
через Л. Ограниченные последовательности операторов,
действующих в Н, образуют нормированную алгебру (операции
покоординатные, норма задается как верхняя грань норм). Отображение
А ->¦ А из множества всех таких ограниченных
последовательностей во множество операторов на В гомоморфно и не уменьшает
нормы. Если последовательности Р = (Pt, Р2: Р3, . . .) и Q =
= (Qu <?2, <?з, • • •> таковы, что PnQn - QnPn -> С, то PQ -
— QP 1) — коммутатор на В. Поскольку этот коммутатор не
может быть равен 1 (т. е. тождественному оператору на В),
доказательство закончено.
Решение 184. Зафиксируем Р и рассмотрим оператор
С = AQ = PQ — QP как функцию от Q. Очевидно, что операция
А — линейное преобразование векторного пространства
операторов. Поскольку
это линейное преобразование ограничено (в банаховом пространстве
операторов) и
||Л||<2||Р||.
Такого рода отображения часто оказываются важными с
алгебраической точки зрения. Основное свойство преобразования А состоит
в том, что оно является дифференцированием в том смысле, что
Действительно, PQR - QRP = (PQP - QPR) + (QPR - QRP).
Дифференцирования обладают многими алгебраическими
свойствами классической операции дифференцирования функций, но
как видно из определения, в «некоммутативном виде». Важнейшее
пз них — формула Лейбница для «производного» произведения:
A (Qi . . . Qn) есть сумма п слагаемых; чтобы получить слагаемое
с номером/, нужно заменить в произведении Qi . . . Qn оператор
Ql на AQj. Доказательство легко получается по индукции. При
1) PQ — QP = C, где С = (С, С, С, ...).—Прим. перев.

322 Решения
п = 1 все очевидно; чтобы обосновать переход от п к п -\- 1,
запишем Qi . . . Qn + i в виде ((?i . . . Qn) Qn+i и воспользуемся уже
доказанной формулой для двух сомножше шй. Полученный
результат применим, разумеется, и в том случае, когда все Qj
совпадают, но при этом он не становится намного привлекательнее.
Особенно важно, что AZQ = 0. Здесь А2 обозначает, как
обычно, композицию преобразования А с самим собой, т е.
A2Q = A (AQ) = Р ¦ AQ — &Q ¦ Р.
Обращение в нуль произведения A-Q в точности означает, что
операторы AQ и Р коммутируют.
Используя формулу Лейбница и обращение в нуль оператора
A2Q, легко получить явные формулы для «старших производных»
от степеней оператора Q. Процесс начинается с AQn: этот оператор
равен сумме п возможных произведений, каждое из которых
содержит один сомножитель AQ и п — 1 сомножителей, равных
Q. Если применить преобразование А к какому-нибудь из этих
произведений, то результат будет содержать уже только п — 1
слагаемое. (Дело в том, что при применении А к AQ получается 0.)
Каждое из п — 1 полученных таким образом произведений
содержит по два сомножителя AQ и п — 2 сомножителя, равных Q.
Следствие: оператор AzQn равен сумме п (п — 1) всевозможных
слагаемых такого рода. Продолжая так же дальше, мы без всяких
осложнений получаем описание для AhQn. При к = п
это и есть узловое место в доказательстве, так как нужный
результат легко вытекает из него. В самом деле,
н потому
откуда видно, что оператор AQ квазинильпотентен.
Из полученного выражения для A"Qn вытекает следующий
оригинальный алгебраический результат Джекобсона: если
элемент Q в алгебре над полем характеристики больше, чем п\,
удовлетворяет алгебраическому уравнению степени л, а А —
дифференцирование этой алгебры, причем A2Q = 0, то элемент AQ
нильпотентен с индексом п. Доказательство: из равенства A (AQ) =
= 0 вытекает, что A (AQ)h = 0 при всех натуральных к; а потому

Гл. 19. Коммутаторы операторов 323
m формулы для AnQ11 получаем, что An+1Qn = 0. Следствие:
AnQJ = 0, если только п > j. Запишем уравнение, которому
п-1
удовлетворяет элемент Q, в виде Qn — 2 aiQ'- Тогда AnQn = 0.
7 — U
Отсюда, снова используя равенство для Л'Х?", получаем, что
?г! (AQ)" = 0, а так как характеристика основного поля больше,
чем п\, то доказательство закончено.
Решение 185. (а) Трюк состоит в обобщении формулы
«дифференцирования» степени на некоммутативный случай (ср. с
решениями 182 и 184). Это обобщение удобнее всего записать в виде
п-1
(доказательство проводится по индукции). Отсюда следует, что
п-1
pnQ — QPn = 7iPn-1— 2 Pn-l-l{\— C)Pl,
i = 0
поэтому
п\\Р^\\<2\\Р\\.\^\\.\\Рп-^^\\\-с{^ H^-'-MI-P'll-
До сих пор оператор Р мог быть каким угодно. Поскольку он
предполагается гипонормальным, последняя из написанных сумм
равна п || Рп~Л || (см. задачу 162). Поделим обе части на п \\ Р'1'1 ||.
(Если Р = 0, то все очевидно, а если Р Ф 0, то Р" Ф 0.)
Получим
откуда и вытекает нужное утверждение.
(б) Если || 1 — С || < 1, то оператор С обратим, что
противоречит его квазинильпотентносш (которая следует из теоремы Клей-
неке — Широкова).
Решение 186. Если у оператора А обширное ядро, то это ядро
можно представить в виде прямой суммы счетного множества
подпространств одной и той же бесконечной размерности.
Ортогональное дополнение к эюму ядру может быть обширным, а может
и не быть. Однако если присоединить одно из прямых слагаемых
к этому ортогональному дополнению, то основное гильбертово
пространство можно будет разложить в прямую сумму
Н © Н 0 Н 0 . . . . Оператор А обращает в нуль сумму всех
слагаемых, начиная со второго. Матрица оператора А, соответ-

324
Решения
ствующая этому разложению, должна иметь вид
(А
\
.000
А{ 0 0 0
А2 0 0 0
А3 0 0 0
где все Ап (и все 0) обозначают операторы в Н. Положим
^0000 ^
10 0 0
0 10 0
0 0 10
\
и
Аг
А3
А,
-Ао
0
0
0
0
-Ао
0
0
0 ^
0
— Ао
0
V
это (ограниченные) операторы, и непосредственным вычислением
можно убедиться, что PQ — QP = A. Доказательство основного
утверждения закончено.
Для доказательства следствия 1 предположим, что {/4, ...
• ¦ •> fn} — конечное множество векторов в бесконечномерном
гильбертовом пространстве Н и М — их замкнутая линейная
оболочка. Пусть А — оператор в Н, а С — оператор, совпадающий
с А на М и равный нулю на М-1-. Как только что было показано,
С — коммутатор, и он совпадает с А на всех векторах /; (i =
= 1, 2, . . ., п). Это означает, что каждая сильная окрестность
оператора А содержит коммутаторы.
Следствие 2 доказывается аналогично. Выберем в заданном
гильбертовом пространстве Н обширное подпространство М
с обширным ортогональным дополнением. По заданному
оператору А построим оператор С, как это сделано в предыдущем абзаце,
и положим В = А — С. Поскольку А = В + С и оба оператора
В и С — коммутаторы, доказательство закончено.

Гл. 19. Коммутаторы операторов 325
Решение 187. Так как оператор А не скалярный, то найдется
такой вектор /, что / и Af линейно независимы. Пусть Т — такой
обратимый оператор, что Tf = / и TAf = — Af. Тогда
(А + Т-ЫТ) f = Af-Af = O
и потому прямая сумма
S = (А -Ь Т-*АТ) ®{А + Т~1АТ) © ...
обладает обширным ядром. (На самом деле отсюда следует только
бесконечномерность ядра, но в сепарабельном пространстве этого
достаточно, чтобы ядро было обширным.) В силу задачи 186
прямая сумма S оказывается коммутатором. Если
В = А@А@А@...
и
С = Т-гАТ © Т^АТ © Т~ХАТ © .. .,
то
Следующий шаг состоит в доказательстве несколько странной
леммы: если Б и С — такие операторы, что В + С — коммутатор,
то и В © С — коммутатор. Доказательство, по существу,
элементарно алгебраическое. Если В + С = PQ — QP, то положим
R = С + QP = PQ — В и вычислим коммутатор матриц
Получим
с
с
o)U
PQ 0\
0 /?/
(Го)-
,Q 0Д1
0 \ IB
0) =
0>|
Итак, В © С — коммутатор. Но так как оператор В подобен С,
то В © 5 —тоже коммутатор. Для завершения доказательства
заметим, что прямая сумма В © В унитарно эквивалентна
оператору В.
Решение 188. Пусть С = А*А — АА* > 0. Нужно доказать,
что 0 ? Л (С). Достаточно показать, что существует такая
последовательность {/„} единичных векторов, что Cfn —>- 0 (т. е. 0 ?
? П (С)). Для этого возьмем комплексное число Я, принадлежащее
предельному спектру оператора Л, и найдем последовательность
{In} единичных векторов, для которой (А —а) /„ —>¦ 0. Так как

326 Решения
самокоымугатор оператора А — к равен С, а С^О, то
(А — к)* (А — к) > (А — к) (А — к)*.
Так как (А - к) /„ -> 0, то (А — к)* (А - к) /„ -» 0. Из
последних двух замечаний следует, что (Л — к) (А —к)* fn ->- 0. Но
оператор С равен разности двух операторов, каждый из которых
переводит последовательность {/„} в последовательность,
стремящуюся к нулю, а потому это же верно и для С.
Решение 189. (а) Для доказательства покажем, что A) оператор
А квазинормален, B) ker A — А*А) приводит оператор А
и C) ортогональное дополнение к ker A — А*А) содержится
в ker (A*A — А А*).
A) Положим Р = А*А —АА*. При любом /
Поэтому, если Pf —f, то А*Р = 0. (Условие относительно нормы
оператора А было использовано в первом неравенстве.) Отсюда
следует, что А*Р = 0и потому РА = 0, а это эквивалентно
равенству
{А*А)А = А{А*А).
B) Положим M = ker(l — А*А). Если /gM, то f — A*Af = O,
откуда
Af - (A* A) Af = Af-A {A* A) f = A(f — A*Af) = 0.
Поэтому подпространство М инвариантно относительно
оператора А. Точно так же показывается, что М инвариантно
относительно А* (вместо того, чтобы заменять / на Af, заменим / на A*f)
(ср. с решением 154).
C) Так как оператор Р идемпотентен, то
А* А — АА* = А*АА*А — АА*А*А — А*ААА* + АА*АА*.
Поскольку оператор А*А коммутирует с А и с А*, последнее
равенство можно переписать в виде
А*А — АА* = А*А (А*А — АА*).
Другими словами,
Р = А*АР,
или
A — А*А)Р = 0.
Отсюда видно, что
гапР с М,

Гл. 19. Коммутаторы операторов 327
ИЛИ
Мхсг keri\
Воспользуемся теперь абнормальностыо оператора А, которая
означает, что ker Р не содержит ненулевых подпространств,
приводящих А. Получим, что M-L = {0} и А — изометрия.
(б) Пусть А — двусторонний взвешенный сдвиг с весами {ап},
причем ап = 1 при п <С 0 и ап = V'l при п > 0. Тогда оператор
А абнормален, а его самокоммутатор — проектор.
Доказательство. Самокоммутатор оператора А легко
вычисляется. Он оказывается проектором ранга 1 и его образ
порождается вектором et.
Абнормальность оператора А вытекает из задачи 129; в
соответствии с ней оператор А неприводим и потому в высшей степени
абнормален.
Решение 190. Всякое бесконечномерное гильбертово
пространство можно представить в виде прямой суммы гильбертовых
пространств размерности х0. Поэтому, чтобы доказать, что каждый
скаляр, по модулю равный единице, является коммутатором,
достаточно проверить, что в гильбертовом пространстве
размерности х0 каждый скаляр, по модулю равный 1, является
коммутатором двух унитарных операторов. (Унитарность сомножителей
гарантирует ограниченность (возможно несчетной) прямой суммы.
Выберем в гильбертовом пространстве размерности х0 ортонор-
мированный базис {еп; и = 0,± 1> +2, . . .}. Для заданного
а (| а 1 = 1) рассмотрим диагональный оператор Р, определяемый
равенствами Реп = и"еп, а в качестве Q выберем оператор
двустороннего сдвига Qen = en+i. Операторы Р wQ унитарны;
непосредственное вычисление показывает, что PQP^Q'1 = a.
Доказательство того, что | а | = 1, получается модификацией
рассуждений Уинтнера (решение 182). Так как PQ = aQP, то
Л (PQ) — сеЛ (QP). Но операторы PQ и QP подобны, так что
Л (PQ) = A (QP), откуда Л (QP) = аЛ (QP). Поскольку Л (QP) —
непустое компактное подмножество комплексной плоскости,
отличное от {0} (напомним, что оператор QP обратим),
единственной гомотетией (преобразование вращения и растяжения),
переводящей Л (PQ) в себя, может быть вращение. Итак, | а | = 1.
Решение 191. Доказательство представляет собой
модификацию решения 190. Сначала с помощью решения 111 представим
данное пространство в виде прямой суммы счетного множества
подпространств одинаковой размерности, каждое из которых
приводит заданный оператор U. Разложение в прямую сумму
нужно для того, чтобы представить U в виде диагональной опера-

328 Решения
торной матрицы, п-й диагональный элемент которой мы
обозначаем через Un, n = 0, +1, +2, ....
Решение 190 подсказывает, что и в этом случае можно
использовать мультипликативный коммутатор диагонального оператора
и двустороннего сдвига. Чтобы избежать выписывания громоздких
матриц, введем еще несколько обозначений. Будем считать, что
заданное гильбертово пространство состоит из всех
последовательностей /={/„; п = 0, ±1, ±2, . . .} векторов /„, принадлежащих
фиксированному гильбертову пространству (которые
удовлетворяют, разумеется, обычному условию 2 II /п II2 < °°)- Диагональ
п
ная операторная матрица Р определяется равгнствами
(Pf)n = Vnfn,
а двусторонний сдвиг Q — равенством
(<?/)п = /„-1.
Их коммутатор легко вычисляется:
Из уравнений
можно выразить операторы Vn через Un. Если, например, взять
F0=l, то
Vn = Un ... Ui при п > 1
и
F_(n+1) = t/I^/I^+1 ... Щ1 при и<0.
Из унитарности операторов Un вытекает, что преобразование Р,
задаваемое такими операторами Vn, унитарно. Решение, таким
образом, полностью закончено.
Решение 192. В бесконечномерном гильбертовом пространстве
коммутант полной линейной группы совпадает с ней самой.
Доказательство. Утверждение состоит в том, что каждый
обратимый оператор можно представить в виде произведения
конечного числа мультипликативных коммутаторов. Число
сомножителей зависит от оператора и может не быть ограниченным
в совокупности. На самом деле каждый обратимый оператор
представим в виде произведения двух коммутаторов (Браун и Пирси
[2]). Доказательство этого факта намного сложнее, чем решение
поставленной задачи. Для нас более чем достаточно доказать,
что каждый обратимый оператор можно представить в виде
произведения трех коммутаторов, а это намного проще.

Гл. 19. Коммутаторы операторов
329
Пусть в бесконечномерном гильбертовом пространстве задан
обратимый оператор А. Рассмотрим бесконечные операторные
матрицы
0
0
0
0
0
0
0
1
0
0
0
0
0
0
0
1
0
0
0
0
0
0
0
1
@)
0
0
0
0
0
0
А
0
0
0
0
0
0
0
А
0
0
0
0
0
0
0
А
0
и
<?=
0 0 0 0 0 0 0
10 0 0 0 0 0
0 10 0 0 0 0
0 0 1 @) 0 0 0
0 0 0 10 0 0
0 0 0 0 10 0
0 0 0 0 0 10
Прямое вычисление показывает, что
PQP-1Q-1 =
10 0 0 0 0 0
0 10 0 0 0 0
0 0 1 0 0 0 0
0 0 0 (Л) 0 0 0
0 0 0 0 10 0
0 0 0 0 0 10
0 0 0 0 0 0 1

,330 Решения
Рассмотрим прямую сумму пространств, в которых действует
эта бесконечная матрица, как прямую сумму нулевого слагаемого
и суммы всех других, и отождествим последнюю с одним из ее
сла1аемых. Изменив обозначения, предыдущий результат можно
сформулировать так: каждая операторная матрица одного из видов
(А 0\ /1 0\
(о 1) или (о а)
является мультипликативным коммутатором (предполагается, что
элементы этой матрицы действуют в бесконечномерном
пространстве и оператор А обратим).
У каждого обратимого нормального оператора в
бесконечномерном гильбертовом пространстве существует обширное
приводящее подпространство с обширным ортогональным дополнением
(задача 111). Поэтому каждый такой оператор представим в виде
произведения двух матриц указанного вида. Итак, каждый
обратимый нормальный оператор представим в виде произведения
двух коммутаторов. А так как каждый обратимый оператор равен
произведению унитарного и обратимого положительного
операторов (полярное разложение), то всякий обратимый оператор можно
представить в виде произведения трех коммутаторов. (Для
разложения унитарного множителя воспользуйтесь задачей 191.)

ГЛАВА 20. ТЕПЛИЦЕВЫ ОПЕРАТОРЫ
Решение 193. Если ф = 2а"е«- то матричные элементы опе-
п
ратора Z/ф имеют вид
j, е;) = B anen+j. et) = 2 «А-л г = о^_
п п
Обратно, пусть оператор 4 в L! таков, что
(AeJTl, el.i) = {Aej, et)
при всех г и /. a И7 —двусторонний сдвиг (умножение на et).
Тогда
(AWej, е1) = (Аеы, ег) = {Ае^, e^) = {Aeh W%)^(WAej. ei),
т. с. А коммутирует с W, а потому (задача 115) А — умножение.
Решение 194. Доказательство необходимости состоит в простом
вычислении: если ?, ] = 0, 1, 2 то
Для доказательства достаточности предположим, что А — такой
оператор в Н2, что
(Aej+l. ei+i) = (Aej, et) (г. / = 0. 1. 2, . . .)•
Нужно доказать, что А — теплицев оператор. Рассмотрим для
каждого неотрицательного целого числа п оператор в L2.
задаваемый равенством
Ап = (W*)n APWn
(где W, как и раньте, обозначает двусторонний сдвиг). Если
г, ;>0, то
(Anej, ег) = (АоеНп, е^») = (Ае}-. et).
Нечто похожее верно и для отрицательных индексов.
Действительно , для достаточно больших п оба числа / — п и i -\- n поло-

332 Решения
жителыш, поэтому элемент (Лое_,-+П, е^п) не зависит от п.
Следовательно, если р и q — тригонометрические полиномы (т. е. конечные
линейные комбинации векторов et, где i = 0, +1, ±2, ...),
то последовательность {(Апр, q)} сходится. Кроме того,
Из простых общих соображений получаем, что такая
последовательность {Ап} слабо сходится к оператору Ах в L2. Так как
для всех i и /
(Axej, ei) = lim((W*)nAPWnej, et) =
n
= lira ({W*)n+l APWn+4j, et) =
П
= lim ((W*)n APWne^, eM) = (Axej+l, eM),
n
то оператору Ах соответствует матрица Лорана и, следовательно,
Асо — оператор Лорана (задача 193). Если функции / и g
принадлежат пространству Н2, то
f, g) = (Axf, g) = lim((W*)nAPWnf, g) = (Af, g)
и, значит, PAXJ = Af для всех / из Н2. Итак, оператор А есть
ограничение на пространство Н2 оператора Лорана, а это по
определению означает, что оператор А теплицев.
Как восстановить функцию <р, индуцирующую оператор А,
по матрице этого оператора? Если А = Ту, то Ах = Ьщ\ поэтому
коэффициентами Фурье функции ср служат элементы нулевого
столбца матрицы Ах. Это, конечно, ответ, но его нельзя считать
удовлетворительным. Естественно искать ответ в терминах
матрицы оператора А, а не А«,. Это оказывается совсем просто. Если
i, ] > 0, то
(Aej, ei) = (Axej, е;) = (ф, et-j).
Это означает, что
(ф, et) = (Ae0. а) при J>0
и
(ф, е.}) = {Ае}, е0) при />0.
Таким образом, коэффициентами Фурье функции ф с
положительными индексами служат элементы нулевого столбца матрицы
оператора А, а коэффициентами Фурье с отрицательными
индексами — элементы нулевой строки этой же матрицы.
Для доказательства следствия 1 следует учесть, что
А ej, et).

Гл. 20. Теплицевы операторы 333
Чтобы доказать следствие 2, заметим, что если ср —
ограниченная измеримая функция, а оба целых числа п и п-\-к
неотрицательны, то
(ф, eh) = (T4en, emh).
Если оператор Гф вполне непрерывен, то || Т^еп || —>- 0 (поскольку
еп -*¦ 0 слабо). Отсюда следует, что (ср, ек) = 0 при всех к
(положительных, отрицательных и 0), и потому ср = 0.
Решение 195. Пусть С = ТЩТ$ и {уи) — матрица оператора
С (не обязательно теплицева). Пусть ср = 2aie? и т|э = 2fbe./ —
г э
разложения функций фИ(|)в ряд Фурье, так что матрицы
операторов Ту и ГФ имеют вид (аг_/> и <pf__,- > соответственно. Тогда
где ?, / ^ 0. Это равенство проверяется непосредственно.
Действительно, так как
УН S
h—v
ТО
fe=0
Пусть теперь я[ — аналитическая функция. Тогда
для всех / из Н2, так что Т^ТЧ, = Т^,. Если аналитична
функция ср*, то
Это доказывает достаточность условия и последнее утверждение
задачи. Обратно, пусть Т^Т^ — теплицев оператор. Тогда его
матрица — теплицева (задача 194). Из уравнения для yi+i, j+t
вытекает, что a,+iP-j-i = 0 для всех i, ] ~^> 0. Поэтому либо
a,+1 := 0 для всех i ^- 0, либо Р_;_1 = 0 для всех / ^ 0, а это
эквивалентно сформулированному результату.

334 Решения
Теперь о следствии. Достаточность очевидна. Пусть Т9Т^ = 0.
Так как нулевой оператор теплицев, то из задачи 195 следует, что
либо функция я|), либо ср* аналитична, так что ц^ = 0. Применяя
теорему Ф. и М. Риссов (задача 127), получаем, что если
аналитична функция ф*, тог|з = 0, а если аналитична функция г|;, то ф = 0.
Решение 196. Полезно начать с некоторых качественных;
рассуждений. Рассмотрим матрицу Лорана, записанную так. что
индексы строк возрастают (от —со до -роо) сверху вниз, а индексы
столбцов возрастают (от —со до -г°о) слева направо. Выделим
некоторый элемент на главной диагонали и рассмотрим
бесконечную вправо и вниз матрицу, которая начинается с этого элемента.
Все матрицы, полученные таким образом из фиксированной
матрицы Лорана, выглядят одинаково; все они совпадают с
соответствующей теплицевой матрицей. Интуитивно ясно, что если
выбранный элемент сдвигается по диагонали влево — вверх, то
получающиеся теплицевы матрицы раздуваются и стремятся
к исходной матрице Лорана.
Эффективный способ описания ситуации без помощи матриц
можно получить следующим образом. Обозначим через Рп
проектор на замкнутую линейную оболочку векторов {е_„, ... е_1?
е0, ех, . . .}, п = 1, 2, 3, . . .. Каждый оператор Лорана
представляет собой сильный предел операторов PnLPn, аналогичных
теплицевым. Так как Рп = (W*)nPWn, а операторы W и L
коммутируют, то (W*)nPLPWn -v L (сильно) при п-+оо. Это
означает, что если Т — теплицев оператор, соответствующий оператору
L, то (W*)n TPW" ->- L (сильно). Полезно сравнить этот результат
с решением 194, где мы обошлись слабой сходршостью.
Теперь уже все готово для доказательства теоремы о включении
спектра для теплицевых операторов. Достаточно показать, что
если 0 принадлежит предельному спектру оператора L, то он
принадлежит и предельному спектру оператора Т. Ненулевые
собственные значения можно получить с помощью очевидных
соображений о сдвиге оператора. Предположим поэтому, что для любого
положительного числа 8 найдется такой единичный вектор /Е,
что || L/e || < е. Из рассмотрений предыдущего абзаца следует,
что (W*)n PWnfe-+fe и {W*)" TPWnfE-+ LfE (сильно). Поэтому
II PWafe || -v 1 и || TPW'lfs || -> 0. Первое из этих утверждений
показывает, что при больших п норма вектора PW"fE почти равна
единице, а второе — что оператор Т переводит этот вектор почти
в нуль. Отсюда вытекает, что 0, как и было обещано,
принадлежит предельному спектру оператора Т.
Следствие 1 теперь очевидно. Так как L — нормальный
оператор, то || L || = г (L) и, как только что доказано, г (L) ^ г (Т),
откуда \\ L || ^ |1 Т ||. Обратное неравенство уже было доказано,

Гл. 20. Теплицееы операторы 3,Г>
так что следствие 1 вытекает из известных свойств операторов
умножения.
О следствии 2: если спектр оператора Tv состоит только из О,
то таков же и спектр оператора ЬФ, а потому ср = 0.
Следствие 3 доказывается аналогично следствию 2: если спектр
оператора Гф веществен, то это же верно и для Ltp, а потому
функция ср вещественна.
Доказательство следствия 4 аналогично решению 172:
W Щ cz conv A (L) cz conv Л (Г) cz W (Г) с= W (L).
Решение 197. Полезно вспомнить, что II2 — функциональное
гильбертово пространство и поэтому обладает ядром (задача 30);
конкретный вид этого ядра для нас не важен. Обозначим через
ГФ оператор, получающийся из оператора Гф при переходе от
пространства Н2 к Н2. Из решения 34 следует, что T^f = ф7" для
каждой функции/ из Н2. Если у — комплексное (!) число, модуль
которого меньше 1, то / (у) = (J, Ку), а потому J (у) = 0 тогда
и только тогда, когда/ JL Ку. Зафиксируем у, положим Я = ср (у),
временно зафиксируем элемент / из Н2 и зададим функцию g
равенством g (z) == (ф (z) — Я) J (z). Так как g (у) = (ср (у) —
— ^) / (у) = 0, то g _L Ky. Отсюда следует, что подпространство
(Гф — Л) Н2 содержится в ортогональном дополнении к Ку и,
значит, это собственное подпространство в Н2. Поэтому X
принадлежит спектру (сжатия) оператора Гф. Итак, ср (D) cz А (Гф),
и потому ср (D) cz А (Гф).
Обратное еще проще. Если | ср (z) — X | ^ б > 0 для всех z,
для которых | z | < 1, то 1/(ф — Л) — ограниченная
аналитическая функция на открытом единичном круге. Ее произведение
с функцией, аналитической на единичном круге и со сходящимся
рядом квадратов коэффициентов Тейлора, снова аналитическая
функция, обладающая теми же свойствами. Поэтому функция
1 '(ф — ).) индуцирует ограниченный оператор умножения в
пространстве Н2. Таким образом, оператор Гф — X обратим, т. е.
Я $ А (Г*).
Решение 198. Эрмитов теплицев оператор, отличный от
скалярного, не имеет собственных значений.
Доказательство. Достаточно показать, что если ф — измеримая
ограниченная вещественнозначная функция и ГФ/ = 0 для
некоторой функции / из Н2, то либо / = 0, либо ф = 0. Так как ф /* =
= Ф*/* е Н2 (ибо Р (ф •/) = 0) и так как / 6 Н2, то ф /* ¦/ 6 Н1

336 Решения
(задача 27). Но функция ср/*/ вещественна и потому она должна
быть постоянной (решение 26). А так как \ ср/*/ d\i = (ср/, /) =
= {T(pf, /) — 0 (ибо Гф/ = 0), то она равна 0. Из теоремы
Ф. и М. Риссов (задача 127) следует, что либо / = 0, либо ср /* =
= 0. Если / =/=0, то функция /* может обращаться в 0 только
на множестве меры нуль и, значит, ср = 0.
Решение 199. Пусть ср — ограниченная измеримая
вещественная функция; ее существенную нижнюю и верхнюю грани обозначим
соответственно через а и р. Тогда Л GV) совпадает с отрезком
[а, р].
Доказательство. Если а = |3, то функция <р постоянна и все
очевидно. Пусть теперь а < X < р. Нужно показать, что оператор
Гф — X необратим. Предположим противное, т. е. допустим, что
оператор Гф—Я обратим. Слегка изменив обозначения, можно считать,
что X = 0. Из обратимости оператора Tv вытекает, в частности,
что вектор е0 принадлежит множеству его значений. Поэтому
существует такая функция / из Н2, что Гф/ = е$. Это означает,
что ср/ — е0 _L Н2, что эквивалентно тому (напомним, что е0 (г) = 1
ири всех г), что функция, сопряженная к ср/, лежит в Н2. Исходя
из этого, можно показать, что функция sgn ср постоянна (так что
либо ф > 0 почти всюду, либо ф < 0 почти всюду).
Так как функция ф вещественна, то (ф /)* = ср-/*, а так как
ф/* и / лежат в Н2, то в силу задачи 27 произведение ср /* •/
принадлежит Н1. Применяя решение 26, получаем, что функция
ф •/* •/ постоянна почти всюду. Поскольку / =? 0, то / =^ 0 почти
всюду (задача 127), и, следовательно, функция ф почти всюду имеет
один и тот же знак, совпадающий со знаком произведения ф •/¦/*•
В исходных обозначениях полученный результат означает, что
знак разности ф — X постоянен, а поскольку а <С X <; р, этого
не может быть. Это противоречие показывает, что [а, р] с A (Tv).
Обратное включение доказывается проще. Так как а ^ ф ^ р,
то а <; ?ф <! р, а так как Tvf = PL^f для всех/ ? Н2, то (T^f, f) =
= (PL9f, f) = (?ф/, /), откуда а < Гф< р, и потому Л {Т„) <=
с: [а, р].

ЛИТЕРАТУРА1)
Альфорс (Ahlfors L.)
1. Complex analysis, New York, 1953.
Альберт, Макенхоупт (Albert A., Muckenhoupt B.)
1. On matrices of trace zero, Michigan Math. J., 4 A957), 1—3.
А н д о (A n d б Т.)
1. On hyponormal operators, Proc. Amer. Math. Soc, 14 A963), 290—291.
Ароншайн (Aronszajn N.)
1. Theory of reproducing kernels, Trans. Amer. Math. Soc, 68 A950),
337-404.
Ароншайн, Смит (Aronszajn N., Smith K.)
1. Invariant subspaces of completely continuous operators, Ann. Math.,
60 A954), 345—350. (Русский перевод: сб. Математика, 2 : 1 A958),
97—102.)
Асплунд (Asplund E.)
1. A non-closed relative spectrum, Arkiv. for Mat., 3 A958), 425—427.
Аткинсон (Atkinson F.)
1. Нормальная разрешимость линейных уравнений в нормированных
пространствах, Машем, сб., 28 A951), 3—14.
Ахиезер Н. И., Глазман И. Н.
1. Теория линейных операторов в гильбертовом пространстве, «Наука»,
М., 1966.
Еу рберян (Berberian S.)
1. Note on a theorem of Fuglede and Putnam, Proc. Amer. Math. Soc,
10 A959), 175—182.
2. A note on hyponormal operators, Pacif. J. Math., 12 A962), 1171 — 1175.
Бергман (Bergman S.)
1. Sur les fonctions orthogonales de plusieurs variables complexes avec
les applications a la theorie de fonctions analytiques, Paris, 1947.
Бернштейн, Робинсон (Bernstein A., Robinson A.)
1. Solutions of an invariant subspace problem of К. Т. Smith and P. R. Hal-
mos, Pacif. J. Math., 16 A966), 421—431.
Вер л инг (Beurling A.)
1 On two problems concerning linear transformations in Hilbert
space, Acta Math., 81 A949), 239—255.
Биркгоф, Рота (Birkhoff G., Rota G.)
1. On the completeness of Sturm — Liouville expansions, Amer. Math.
Monthly, 67 A960), 835—841.
Бишоп (Bishop E.)
1. Spectral theory for operators in Banach space, Trans. Amer. Math.
Soc, 86 A957), 414—445.
деБранж, Ровняк (deBrange L., Rovnyak J.)
1. The existence of invariant subspaces, Bull. Amer. Math. Soc, 70 A964),
718—721.
2. Corrections to «Existence of invariant subspaces», Bull. Amer. Math.
Soc, 71 A965), 396.
Браун (Brown A.)
1. On a class of operators, Proc. Amer. Math. Soc, 4 A953), 723—728.
Браун, П и р с и (Brown A., Pear су С.)
1. Structure of commutators of operators, Ann. Math., 82 A965), 112—127.
2. Multiplicative commutators of operators, Canad. J. Math., 18 A966),
737-749.
1) Звездочкой отмечены работы, добавленные при переводе. Для монографий,
переведенных на русский язык, в скобках указан год издания оригинала,
на который ссылается автор.— Прим. перев.

338 Литература
Браун, Хал мош (Brown A., Halmos P.)
1. Algebraic properties of Toeplitz operators, /. retne aneew. Math. 231
A963), 89—102.
Браун, Халмот, Пирс и (В го луп A.,Halmos Р.,Реагсу С.)
1. Commutators of operators on Hilbert space, Canad. J. Math., 17 A9651
695-708.
Браун, Халмош, Ш и лдс (Brown, Halmos, Shields A.)
1. Cesaro operators, Ada Szeged, 26 A965), 125—137.
Б р е м (В г а т J.)
1. Subnormal operators, Duke Math. J., 22 A955), 75—94.
Бродский М. С.
1. Об одной задаче И. М. Гельфанда, УМЕ, 12 A957), 129—132.
Валентайн (Valentine F.)
1. Convex sets, New York, 1964.
Вигман (Wiegmann N.)
1. Normal products of matrices, Duke Math. /., 15 A948), 633—638.
2. A note of infinite normal matrices, Duke Math. J., 16 A949), 535—538.
Виландт (Wielandt H.)
1. Ueber die Unbeschranktheit der Operatoren des Quantenmechanik
Math. Ann., 121 A949), 21.
Г а й н ц (Heinz E.)
1. Ein v. Neumannscher Satz iiber beschrankte Operatoren im Hilbertschen
Raum, Gottingen Nachr. A952), 5—6.
Гофман К.
1. Банаховы пространства аналитических функций, ИЛ, М., 1963 A962).
Д ацфорд Н., Шварц Дж.
1. Линейные операторы, часть I, ИЛ, М., 1962 A958)
2. Линейные операторы, часть II, «Мир», М., 1966 A963).
Декард, Пирси (Deckard D., Р е а г с у С.)
1. Another class of invertible operators without square roots, Proc. Amer.
Math. Soc, 14 A963), 445—449.
Джекобсон (Jacobson N.)
1. Rational methods in the theory of Lie algebras, Ann. Math., 36 A935)
875—881.
Доногю (Donoghue W.)
1. On a numerical range of a bounded operator, Michigan Math. /., 4
A957), 261—263.
2. The lattice of invariant subspaces of completely continuous quasi-
nilpotent transformation, Pacif. J. Math., 7 A957), 1031—1035.
И т о (I t б Т.)
1. On the commutative family of subnormal operators, /. Fac. Sci.
Hokkaido University, 14 A958), 1—15.
Кадисон (Kadison R.)
1. Isometries of operator algebras, Ann. Math , 54 A951). 325—338.
Калиш (Kalisch G.)
1. On similarity, reducing manifolds, and unitary equivalence of certain
Volterra operators, Ann. Math., 66 A957), 481—494.
К "а планский (Kaplansky J.)
1. Products of normal operators, Duke Math. J., 20 A953), 257—260.
К а т о (К a t о Т.)
1. Some mapping theorems for numerical range, Proc. Japan. A cad. Sci.,
41 A965), 652—655.
К е л л и Дж.
1. Общая топология, «Наука», М., 1968 A955).
Клейнеке (Kleinecke D.)
1. On operator commutators, Proc. Amer. Math. Soc, 8 A957), 535—536.

Литература 339
Лаке (Lax P.)
1. Translation invariant spaces, Ada Math., 101 A959), 163—178.
Лебов (Lebow A.)
1. On von Neumann's theory of spectral sets, /. Math. Anal. Appl., 7
A963), 64—90.
Лёвнер (Lovner K.)
1. Grundziige einer Inhaltslehre in Hilbertschen Raume, Ann. Math.,
40 A939), 816—833.
Маркушевич А. И.
*1. Теория аналитических функций, Гостехиздат, М.— Л., 1950.
М л а к (М 1 a k W.)
1. Unitary dilations of contraction operators, Rozprawy Mat., 46 A965).
фон Нейман (von Neumann J.)
1. Zur Algebra der Funktionaloperation und Theorie der normalen Ope-
ratoren, Math. Ann., 102 A929), 370—427.
2. Proof of the quasi-ergodic hypothesis, Proc. Amer. Math. Soc, 18 A932),
70-82.
3. On regular rings, Proc. Amer. Math. Soc, 22 A936), 707—713.
4. Functional operators, Princeton University Press, Princeton, 1950.
5. Eine Spectraltheorie fur allgemeine Operatoren eines unitaren Raumes,
Math. Nachr., 4 A951), 258—281.
Никольский Н. К.
1. Инвариантные подпространства некоторых вполне непрерывных
операторов, Вестник ЛГУ A965), 68—77.
Пирси (Реагсу С.)
1. On commutators of operators on Hilbert space, Proc. Amer. Math. Soc,
16 A965), 53—59.
2. An elementary proff of the power inequality of the numerical radius.
Michigan Math. J., 13 A966), 289—291.
П у т н а м (Putnam C.I
1. On commutators of bounded matrices, Amer. J. Math., 73 A951).
2. On normal operators in Hilbert space, Amer. J. Math., 73 A951),
357—362.
Рид (Reid W.)
1. Simmetrizable completely continuous linear transformations in Hilbert
space, Duke Math. /., 18 A951), 41—56.
P и к к а р т (R i с k a r t C.)
1. General theory of Banach algebras, Princeton, 1960.
Рингроуз (Ringrose J.)
1. On the triangular representation of integral operators, Proc London
Math. Soc, 12 A962), 385-399.
Рисе Ф., Секефальви-Надь Б. (Riesz F., Sz - N a g у B)
1. Ueber Kontraktionen des Hilbertschen Raumes, Acta Szeged, 10 A943);
2. Лекции по функциональному анализу, ИЛ, М., 1954 A952)
Робертсон (Robertson J.)
1. On wandering subspaces of unitary operators, Proc. Amer. Math. Soc,
lb A9b5), Zoo—Zob.
Розенблюм (Rosenblum M.)
1. On a theorem of Fuglede and Putnam, /. London Math. Soc 33 A958)
Рота (Rota G.)
1. On models for linear operators, Comm. Pure Appl. Math., 13 A960),
Сарасон (Sarason D.)
1. A remark on the Volterra operator, J. Math. Anal Appl., 12 A965),
244—246.

340 Литература
Сахнович Л. А.
1. О приведении вольтерровских операторов к простейшему виду и об
обратных задачах, Изв. АН СССР, 21 A957), 235—262.
С е к е ф а л ь в и - Н а д ь (S z.- N a g у В.)
1. Sur les contractions de l'espace de Hilbert, Ada Szeged, 15 A953), 87—92.
2. Prolongements des transformations de l'espace de Hilbert, qui sortent
de cet espace, 1955. (Добавление к книге Рисса и Секефальвп-Надя [2].)
3. Sur les contractions de l'espace de Hilbert. II, Ada Szeged, 18 A957),
1 — 14.
С е к е ф а л ь в и - Н а д ь, Ф о я ш (S г.- N a g у В., F о i a s С.)
1. Sur les contractions de l'espace de Hilbert. V, Translations bilaterales,
Ada Szeged, 23 A962), 106—129.
2. Sur les contractions de l'espace de Hilbert. IX, Factorisations de la
fonction caracteristique. Sousespaces invariants, A eta Szeged, 25 A964),
283—316.
3. On certain classes of power-bounded operators in Hilbert space, Ada
Szeged, 27 A966), 17—25.
Сигал (Segal I.)
1. Equivalences of measure spaces, Amer. J. Math., 73 A951), 275—313.
2. Algebraic integration theory, Bull. Amer. Math. Soc, 71 A965), 419—489.
Стоун (Stone M.)
1. Linear transformations in Hilbert space and their applications to
analysis, Amer. Math. Soc, 15 A932).
Теплиц (Т о e p 1 i t z O.)
1. Zur Theorie der quadratischen Formen von unendlichvielen Verander-
lichen, Gottingen Nachr. A910), 489—506.
2. Das algebraische Analogen zu einem Satze von Fejer, Math. Z., 2 A918),
187-197.
Томпсон (Thompson B.)
1. On matrix commutators, /. Wash. Acad. Sci., 48 A958), 306—307.
Уидом (Widom H.)
1. Inversion of Toeplitz operators, II, III. J. Math., 4 A960), 88—89.
2. On the spectrum of Toeplitz operator, Padf. J. Math., 14 A954), 365—
375.
Уинтнер (Wintner A.)
1. Zur Theorie der beschrankten Bilinearformen, Math. Z., 30 A929),
228—282.
2. The unboundedness of quantum-mechanical matrices, Phys. Rev., 71
A947), 738—739.
Ф о я ш (F о i a § С.)
1. A remark on the universal model for contractions of G. C. Rota, Com.
Acad. R. P. Rom'ine, 13 A963), 349—352.
Фриман (Freeman J.)
1. Perturbations of shift operator, Trans. Amer. Math. Soc, 114 A965),
251-260.
Фуглжд (F u g 1 e d e B.)
1. A commutativity theorem for normal operators, Proc. Amer. Math. Soc ,
36 A950), 35—40.
X а л м о ш П. (H a 1 m о s P.)
1. Normal dilations and extensions of operators, Summa Brasil, 2 A950),
125—134.
2. Теория меры, ИЛ, М., 1953 A950).
3. Introduction to Hilbert space and the theory of spectral multiplicity,
New York, 1951.
4. Spectra and spectral manifolds, Ann. Soc. Pol. Math., 25 A952), 43—49.
5. Commutators of operators, Amer. J. Math., 74 A952), 237—240.

Литература 341
6. Commutators of operators, II, Amer. J. Math., 76 A954), 191 — 198.
7. Конечномерные векторные пространства, Физматгиз, М., 1963 A958).
8. Shifts on Hilbert spaces, /. reine angew. Math., 208 A961), 102—1112.
9. A glimpse into Hilbert space, Lectures on modern mathematics, New
York, 1963, т. 1, стр. 1 — 22.
10. What does the spectral theorem say? Amer. Math. Monthly, 70 A963),
241—247.
11. Numerical ranges and normal dilations, Ada Szeged, 25 A964), 1—5.
12. Invariant subspaces of polynomially compact operators, Pad]. J.
Math., 16 A966), 433—437.
Халмош, Какутани (Halmos P., Kakutany S.)
1. Products of symmetries, Bull. Amer. Math. Soc, 64 A958), 77—78.
Халмош, Л ю мер (Halmos P., L u m e r G.)
1. Square roots of operators. II, Proc. Amer. Math. Soc, 5 A954).
Халмош, Лю мер, Шеффер (Halmos P., Lamer G., Schaf-
f e r J.)
1. Square roots of operators, Proc. Amer. Math. Soc, 4 A953), 142—149.
Халмош, Маклауфлен (Halmos P., McLaughlin J.)
1. Partial isometries, Padf. J. Math., 13 A962), 585—596.
Харди Г., Литлвуд Дж., Полна Г. (П о й я)
1. Неравенства, ИЛ, М., 1948 A934).
Хартман, Уинтнер (Hartman P., Wintrier A.)
1. On the spectra of Toeplitz's matrices, Amer. J. Math., 72 A950).
Хаусдорф (Hausdorff F.)
1. Der Wertvorrat einer Bilinearform, Math. Z., 3 A919), 314—316.
Хелсон (Helson H.)
1. Lectures on invariant subspaces, New York, 1964.
Хилле Э., Филлипс Р.
1. Функциональный анализ и полугруппы, ИЛ, М., 1962 A957).
Хьюитт, Строи берг (Hewitt E., Stromberg К.)
1. Real and abstract analysis, New York, 1965.
Шаттен (Schatten R.)
1. Norm ideals of completely continuous operators, Berlin, 1960.
Шефер (Schaefer H.)
1. Eine Bemerkung zur Existenz invarianter Teilraume linearer Abbil-
dungen, Math. Z., 82 A963), 90.
Шеффер (S chaffer J.)
1. On unitary dilations of contractions, Proc. Amer. Soc, 6 A955), 322.
2. More about invertible operators without roots, Proc Amer. Math.
Soc, 16 A965), 213—219.
Шилов Г. Е.
*1. Математический анализ (специальный курс), Физматгиз, М., 1961.
Широков Ф. В.
1. Доказательство гипотезы Капланского, УМН, И A956), 167—168.
Шода (Shod а К.)
1. Einige satze iiber Matrizen, Japan. J. Math., 13 A936), 361—365.
Шрейбер (Schreiber M.)
1. Unitary dilations of operators, Duke Math. J., 24 A956), 579—594.
Штампфли (Stampfli J.)
1. Hyponormal operators, Padf. J. Math., 12 A962), 1453—1458.
2. Perturbations of the shift, /. London Math. Soc, 40 A965), 345—347.
Шур (Schur J.)
1. Uber Potenzreihen, die im Innern des Einheitskreises beschankt sind,
/. reine. angew. Math., 147 A917), 205—232.
Якобе (Jacobs K.)
1. Neuere Methoden und Ergebnisse der Ergodentheorie, Berlin, 1960.

УКАЗАТЕЛЬ ОБОЗНАЧЕНИИ
А2 23
conv 116
dim 8
H1 24
H2 23
Н2 25
Н°° 24
1Ш О
кег 8
/^-числовой образ 115
Iх 21
Z2 14
« го
Г 00
ran 8
Re 8
sgn 8
tr 8
w 118
W 113
Wk 115
Г 45
A 45
V Id,
П 45
П / ~
ll0 4o
p 72
о-алгебра

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Абсолютно непрерывная функция 210
Алгебра фон Неймана 66
Альтернатива Фредгольма 96
Аналитическая функция 52
— характеристика 25
Аналитический элемент в L2 25
Аналитическое гильбертово
пространство 23
Аналитичность резольвенты 52
Базис 14
— в А2 23
— Гамеля 14
— ортонормпрованный 14
Билинейный функционал 11
Близкие базисы 14
Блуждающее подпространство 83
Борелевское множество 16
Векторная сумма 15
Вещественная функция в Н2 23
Взвешенное пространство
последовательностей 56
Взвешенный сдвиг 53
Внутренняя точка 12
— функция 86
Возмущение 97
Возмущенный спектр 97
Выпуклая оболочка 116
Выпуклость 12
Вычислимый функционал 26
Граница спектра 47
График 36
Двусторонний идеал 91
— сдвиг 49
Делитель нуля 89
Дефект 72
Диагональ 37
Дифференцирование 321
Доказательство Виландта 320
— Уинтнера 320
Задача Дирихле 28
Замкнутое преобразование 36
Замкнутость множества
субнормальных операторов 111
— — частичных изометрий 72
— относительного спектра 51
— предельного спектра 47
— числового образа 116
Замкнутый график 36
— единичный шар 12
— идеал 91
Заполнение дыр 108
Идеал 91
— в кольце операторов^ 95
Изометрия 69
— частичная 69
— чистая 81
Инвариантное подпространство 101
— — сдвига 85
Истинное сжатие 83
Квадратичная форма 11
Квадратный корень 65
— — из вполне непрерывного
оператора 95
— — — оператора сдвига 79
Квазинильпотентность 58
— и числовой образ 116
Коаналитнческип элемент 24
Кодефект 72
Коизометрия 69
Кольцо операторов 67
Коммутант 79
— сдвига двустороннего 79
— — одностороннего 79
— — — как предел 80
Коммутативный операторный
детерминант 42
Коммутатор 130
Компоненты пространства частичных
изометрий 73
Кообраз 82
Коразмерность 8
Коранг 72

344
Предметный указатель
Кососимметрический оператор Воль-
терры 100
Крайняя точка 12
Кратное 86
Кратность сдвига 82
Критерий Шура 30
Левый сдвиг 260
Линейная размерность 13
Линейный базис 14
— функционал 11
в г2 21
Локальная компактность и
размерность 16
Максимальная частичная изометрия
70
Максимальное полярное разложение
76
Матрица 29
— Гильберта 31
— с конечными столбцами 29
— Якоби 196
Мера в гильбертовом пространстве 16
Метрика Хаусдорфа 119
Метрическая топология 60
Метрическое пространство
операторов 60
Минимальное нормальное
расширение 107
Многомерный числовой образ 115
Модулярная структура 15
Монотонный сдвиг 102
Мультипликативность продолжения
28
Мультипликативный коммутатор 136
Мультипликатор функционального
гильбертова пространства 41
Начальное пространство 70
Незамкнутая векторная сумма 34
— область значений 34
Неограниченное симметрическое
преобразование 36
Неперекрывающиеся хорды 13
Непрерывная кривая 13
— — унитарных операторов 73
Непрерывность дефекта 73
— коранга 73
— нормы 64
— обращения 60
— продолжения 27
— ранга 73
— сопряжения 64
— спектра 61
— спектрального радиуса 62
— умножения 64
Непрерывный спектр 46
Неприводимость одностороннего
сдвига 80
Неравенство Рида 59
— Шварца 209
Нечетная функция 290
Норма 1, спектр {1} 100
— взвешенного сдвига 56
— вольтерровского оператора
интегрирования 100
— линейного преобразования 34
— умножения 43
Нормальная частичная изометрия 111
Нормальное продолжение 123
Нормальные и субнормальные
частичные изометрип111
Нормированная алгебра 131
Нормы степеней и степени нормы 111
Носитель меры 57
Нулевая точка 208
Область 23
— значений 96
Обратимость по модулю идеала
вполне непрерывных операторов 97
— последовательности 38
— преобразования 33
— функции 40
Обширное подпространство 133
Ограниченное линейное
преобразование 32
Ограниченность множителя 39
— на базисе 32
— продолжения 28
— снизу 34
— умножения 39
Односторонне обратимый оператор
77
Односторонний сдвиг 48
— — кратный 82
Одноточечный спектр 57
Оператор 8
— абнормальнып 136
— Волыерры 98
— — кососимметрический 100
— вполне непрерывный 90
— — — гипонормальный 112
— — — диагональный 92
— выпуклопдный 118
— Гильберта — Шмидта 93
— диагональный 37

Предметный указатель
345
Оператор и матрица Лорана 138
— интегральный 93
— интегрирования, вольтерровский
99
— квазинильпотентный 58
— квазинормальный 77
— координаты 297
— косубнормальный 110
— нормалопдный 118
— сингулярный 61
— спектралоидный 118
— субнормальный 106
— — в сравнении с пшонормаль-
ными 110
квазпнормальными 107
— теплицев 139
— — аналитический 142
— — эрмитов 143
— умножения 39
— — в функциональном
гильбертовом пространстве 40
Z2 37
— Фредгольма 96
Операторный детерминант 43
— — с конечным входом 44
Определитель Вандермонда 14
Ортогональная размерность 14
Ортонормированный базис 14
Остаточный спектр 46
— — нормального оператора 46
Открытость множества обратимых
операторов 61
Открытый единичный шар 12
Относительный спектр 50
Отрезок 12
Плотность множества обратимых
операторов 77
Подгруппа коммутаторов 137
Подобие взвешенных сдвигов 54
—частям сдвигов 82
Подобные операторы 47
— — нормальные 105
— — субнормальные 107
Подпространство 8
Поле значений 113
Полная линейная гр5'ппа 137
Полнота пространства операторов 60
Положительная определенность
последовательности операторов 184
Положительный самокоммутатор 135
Полулинейный функционал 11
Полунепрерывность спектра 61
Полуторалпнейная форма 11
Полярное разложение 75
Предел квадратичных форм 11
— коммутаторов 131
Представление линейного
функционала 12
Приведение унитарной частью 81
Приводимый взвешенный сдвиг 89
Приводящие пространства
нормального оператора 78
Принцип максимума модуля 192
— неопределенности Гейзенберга 130
— равномерной ограниченности 20
Продолжение 122
— (внутрь) 25
— оператором проектирования 123
— положительно определенной
последовательности 127
Проектор как самокоммутатор 135
Проекторы одинакового ранга 35
Произведение в Н2 25
— нормальных операторов 105
— симметрий 78
Простая кривая 13
Простой односторонний сдвиг 82
Процесс Грама — Шмидта 172
Прямая сумма как самокоммутатор
135
Равномерная ограниченность 20
— — линейных преобразований 32
— сходимость сильная 64
— — слабая 20, 64
— топология 60
Радиальный предел 28
Раздельная непрерывность
умножения 64
Размерность 14
Ранг 72
Расстояние от множества
коммутаторов до тождественного
оператора 133
— — сдвига до множества
нормальных операторов 261
— — — — — унитарных
операторов 81
Регулярное кольцо 51
Резольвента 53
Решетка дистрибутивная 15
— Доногю 101
— подпространств 15
Самокоммутатор 135
Связность множества обратимых
операторов 77
Сдвиг по модулю идеала вполне не

346
Предметный указатель
прерывных операторов 97
Сдвиги как универсальные
операторы 81
Секвенциальная непрерывность
умножения 65
— слабая полнота 22
Сепарабельность и размерность 16
— — слабая метризуемость 20
— пространства операторов 60
Сжатие 73
— подобное унитарному оператору
112
Сильная ограниченность 33
— операторная топология 63
— сходимость 18
— топология 18
Сильное продолжение 124
Симметрическое преобразование 36
Симметричный идеал 89
Симметрия 78
Слабая аналитичность 53
— замкнутость подпространства 22
— компактность единичного шара 20
— метризуемость гильбертова
пространства 21
— — единичного шара 20
— непрерывность 18
— — нормы и скалярного
произведения 19
— ограниченность 33
— операторная топология 63
— полнота 22
— сепарабельность 19
— топология 18
Слабо фундаментальные
последовательность и сеть 22
Смешанная непрерывность 90
Собственное значение взвешенного
сдвига 56
— — эрмитова теплипева оператора
143
Собственный идеал 95
Сопряженная функция 28
Сопряженное преобразование 29
Сохранение размерности 35
Спектр диагонального оператора 38
— и подобие 47
— — сопряжение 45
числовой образ 116
— коммутатора 135
— предельный 45
— произведения 47
— прямой суммы 58
— умножения 40
— — в функциональном
гильбертовом пространстве 50
Спектр частичной изометрии 74
— эрмитова теплицева оператора 143
Спектральная мера 166
— — на единичном кр}ге 105
— теорема 67
Спектральное множество 127
Спектральный радиус 53
— — взвешенного сдвига 56
Специальные инвариантные
подпространства сдвига 85
Степени гипонормального оператора
112
— нормы 111
Степенное неравенство 119
— продолжение 123
Степень вектора 292
Строгая выпуклость 12
Субнормальная частичная изометрия
111
Субнормальность и гипонормаль-
ность 111
— — квазинормальность 106
— — числовой образ 117
Сужение 122
Существенная область значений 40
Сходимость в среднем (по Чезаро) 192
Считающая мера 39
Теорема Аткинсона 96
— Бендиксона — Хирша 116
— Бэра о категориях 21
— Вейля 97
— Герглотца 129
— Клейнеке — Широкова 132
— Лиувилля 230
— о включении спектра 108
— — — — для теплицевых
операторов 141
— об отображении спектра 46
для нормальных
операторов 67
— Путнама — Фуглида 104
— М. и Ф. Риссов 88
— — — — — обобщенная 89
— Рисса о представлении 12
— Рпсса — Фишера 184
— Теплица — Хаусдорфа 113
— Тихонова — Алаоглу 20
— фон Неймана — Гайнца 127
— Фейера 192
— Фуглида 104
Теплицево произведение 140
Топологии в пространстве
операторов 63
Топология, порожденная нормой 18.
63

Предметный указатель
347
Точечный спектр 45
Точная верхняя грань 15
— нижняя грань 15
— — — двух проекторов 66
Тригонометрические многочлены 24
Унитарная эквивалентность
подобных нормальных операторов
105
— — — слбнорчальных операторов
108
— — частичных изометрий 73
Унитарное продолжение 123
— — степенное 123
Унитарный мультипликативный
коммутатор 137
Финальное пространство 70
Форма 11
Формула Лейбница 321
Функциональное гильбертово
пространство 24
— исчисление 68
Характеризация изометрий 81
Хорда 13
Циклический вектор 86
Части спектра диагонального
оператора 48
— — умножения 48
Частичный порядок в множестве
частичных изометрий 70
Четная функция 290
Числовой образ 113
— — и нормальность 116
— радиус 118
Шар 12
Эргодическая теорема 125
Ядро Бергмана 27
— Вольтерры неограниченное 99
— — ограниченное 98
— Дирихле 192
— интегрального оператора 93
— производящее 27
— Сегё 27
— тождественного оператора 93
— Фейера 192

ОГЛАВЛЕНИЕ
Предисловие редактора перевода
Предисловие
Глава 1. Векторы и пространства 11 144 164
1. Пределы квадратичных форм 11 144 164
2. Представление линейных функционалов 12 144 164
3. Строгая выпуклость 12 144 165
4. Непрерывные кривые 13 144 166
5. Линейная размерность 13 144 166
6 Бесконечные определители Вандермонда 14 144 168
7. Близкие базисы 14 144 168
8. Векторные суммы 15 144 170
9. Решетка подпространств 15 144 171
10. Локальная компактность и размерность 16 144 171
11. Сепарабельность и размерность 16 144 172
12. Мера в гильбертовом пространстве 16 145 172
Глава 2. Слабая топология 18 145 174
13. Слабая замкнутость подпространств 18 145 174
14. Слабая непрерывность нормы и скалярного произведения . . 19 145 175
15. Слабая сепарабельность 19 145 175
16. Равномерная слабая сходимость ... 20 145 175
17. Слабая компактность единичного шара 20 145 176
18. Слабая метризуемость единичного шара 20 145 177
19. Слабая метризуемость и сепарабельность 20 145 178
20. Равномерная ограниченность 20 145 179
21. Слабая метризуемость гильбертова пространства . . . 21 146 180
22. Линейные функционалы в I2 21 146 181
23. Слабая полнота . 22 146 181
Глава 3. Аналитические функции 23 146 183
24. Аналитические гильбертовы пространства 23 146 183
25. Базис в А2 23 146 184
26. Вещественные функции в Н2 23 146 186
27. Произведения в Н2 25 146 187
28. Аналитическая характеристика пространства Н2 . . . 25 146 188
29. Функциональные гильбертовы пространства 26 146 188
30. Производящие ядра ... 27 146 189
31. Непрерывность продолжения . ... 27 147 190
32. Радиальные пределы 28 147 190
33. Ограниченность продолжения . . 28 147 191
34. Мультипликативность продолжения . 28 147 193
35. Задача Дирихле 28 147 194
Глава 4. Бесконечные матрицы 29 147 196
36. Матрицы с конечными столбцами 29 147 196

Оглавление 349
37. Критерий Шура 30 147 197
38. Гильбертова матрица 31 147 198
Глава 5. Ограниченность и обратимость 32 147 199
39. Ограниченность на базисах ^ 32 147 199
40. Равномерная ограниченность линейных преобразований . . 32 147 199
41. Обратимые преобразования 33 147 200
42. Сохранение размерности 35 148 200
43. Проекторы одинакового ранга 35 148 201
44. Теорема о замкнутом графике 36 148 201
45. Неограниченные симметрические преобразования 36 148 202
Глава 6. Операторы умножения 37 148 203
46. Диагональные операторы 37 148 203
47. Умножения в I2 37 148 203
48. Спектр диагонального оператора 38 148 204
49. Норма умножения 39 148 204
50. Ограниченность множителя 39 148 205
51. Ограниченность умножения 39 148 206
52. Спектр умножения 40 148 207
53. Умножения в функциональных гильбертовых пространствах 40 148 208
54. Мультипликаторы функциональных гильбертовых
пространств 41 149 210
Глава 7. Операторные матрицы . ... 42 149 212
55. Коммутативный операторный детерминант 42 149 212
56. Операторный детерминант 43 149 213
57. Операторный детерминант с конечным углом 44 149 216
Глава 8. Свойства спектров 45 149 218
58. Спектры и сопряжение 45 149 218
59. Теорема об отображении спектра 46 149 218
60. Подобие и спектр 47 149 219
61. Спектр произведения 47 150 220
62. Замкнутость предельного спектра 47 150 220
63. Граница спектра . 47 150 220
Глава 9. Примеры спектров 48 150 222
64. Остаточный спектр нормального оператора . . 48 150 222
65. Части спектра диагонального оператора .... . . 48 150 222
66. Части спектра оператора умножения ... 48 150 222
67. Односторонний сдвиг . . . 48 150 223
68. Двусторонний сдвиг 49 150 225
69. Спектр умножения в функциональном пространстве ... 50 150 225
70. Относительный спектр оператора сдвига 50 150 226
71. Замкнутость относительного спектра 51 150 227
Глава 10. Спектральный радиус ... 52 151 229
72 Аналитичность резольвенты . . 52 151 229
73. Непустота спектра 52 151 230
74. Спектральный радиус . . . 53 151 230
75. Взвешенные сдвиги 53 151 231
76. Подобие операторов взвешенного сдвига .... . . 54 151 231
77. Норма и спектральный радиус взвешенного сдвига .... 56 151 232
78. Собственные значения операторов взвешенного сдвига . . 56 151 232
79. Взвешенные пространства последовательностей ... . 56 151 234
80. Одноточечный спектр 57 151 234
81. Спектр прямой суммы . 58 151 235
82. Неравенство Рида . . 59 151 236

350 Оглавление
Глава 11. Равномерная топология 60 152 237
83. Метрическое пространство операторов . . 60 152 237
84. Непрерывность обращения 60 152 237
85. Непрерывность спектра 61 152 238
86. Полунепрерывность спектра 61 152 239
87. Непрерывность спектрального радиуса . . . . 62 152 240
Глава 12. Сильная и слабая топологии 63 152 242
88. Топологии в пространстве операторов ... 63 152 242
89. Непрерывность нормы . . . 64 152 242
90 Непрерывность сопряжения ... .... . 64 152 243
91. Непрерывность умножения . . 64 152 244
92. «Раздельная» непрерывность умножения 64 152 245
93. Секвенциальная непрерывность умножения 65 152 245
94. Неубывающие последовательности эрмитовых операторов 65 152 246
95. Квадратные корни 65 152 247
96. Точная нижняя грань двух проекторов 66 152 248
Глава 13. Частичные изометрии 67 153 250
97. Теорема об отображении спектра для нормальных
операторов 67 153 250
98. Частичные изометрии . . . . ... . ... 69 153 250
99. Максимальные частичные изометрии 70 153 251
100. Замкнутость и связность множества частичных изометрнй 72 153 251
101. Ранг, коранг и дефект 72 153 252
102. Компоненты пространства частичных изометрии ... 73 153 252
103. Унитарная эквивалентность частичных изометрии .... 73 153 253
104. Спектр частичной изометрии 74 153 254
105. Полярное разложение 75 153 254
106. Максимальное полярное разложение 76 153 255
107. Крайние точки 76 153 255
108. Квазинормальные операторы 76 154 256
109. Плотность множества обратимых операторов . . . . 76 154 257
110. Связность множества обратимых операторов 77 154 257
Глава 14. Односторонний сдвиг 78 154 259
111. Приводящие подпространства нормальных операторов . . 78 154 259
112. Произведения симметрий 78 154 260
113. Односторонний сдвиг и нормальные операторы . . .78 154 261
114. Квадратный корень из сдвига 79 154 262
115. Коммутант двустороннего сдвига 79 154 262
116. Коммутант одностороннего сдвига 79 154 263
117. Коммутант одностороннего сдвига как предел ... 80 154 264
118. Характеризация изометрий 81 155 265
119. Расстояние от одностороннего сдвига до множества всех
унитарных операторов 81 155 266
120. Приведение унитарной частью . 81 155 266
121. Сдвиги как универсальные операторы . . . . . 81 155 267
122. Операторы, подобные частям сдвигов 82 155 268
123. Блуждающие подпространства 83 155 270
124. Специальные инвариантные подпространства оператора
сдвига ч 84 155 271
125. Инвариантные подпространства сдвига 85 155 271
126. Циклические векторы 86 155 272
127. Теорема Ф. и М. Риссов ... 88 155 273
128. Обобщенная теорема Ф и М. Риссов . 89 156 274
129. Приводимые взвешенные сдвиги 89 156 274

Оглавление 351
Глава 15. Вполне непрерывные операторы 90 156 276
130. Смешанная непрерывность 90 156 276
131. Вполне непрерывные операторы 90 156 277
132. Диагональные вполне непрерывные операторы . . . . 92 156 277
133. Нормальные вполне непрерывные операторы 92 156 278
134. Ядро тождественного оператора . . 93 156 278
135. Операторы Гильберта — Шмидта 93 156 279
136. Операторы Гильберта — Шмидта в сравнении с вполне
непрерывными . ... 95 156 280
137. Пределы операторов конечного ранга 95 157 281
138. Идеалы в кольце операторов 95 157 281
139. Квадратный корень из вполне непрерывного оператора 95 157 282
140. Альтернатива Фредгольма 96 157 282
141. Область значений вполне непрерывного оператора . . 96 157 283
142. Теорема Аткинсона 96 157 284
143. Теорема Вейля 97 157 284
144. Возмущенный спектр 97 157 285
145. Сдлг по модулю вполне непрерывных операторов . . 97 157 285
146. Ограниченные ядра Вольтерры 98 157 286
147. Неограниченные ядра Вольтерры . . 99 157 287
148. Волыерровский оператор интегрирования ... 99 157 289
149. Кососимметрический оператор Вольтерры 100 158 290
150. Норма 1, спектр {1} 100 158 291
151. Решетка Доногю 101 158 292
Глава 16. Субнормальные операторы 104 158 294
152. Теорема Путнама — Фуглида 104 158 294
153. Спектральная мера на единичном круге 105 158 295
154. Субнормальные операторы 106 158 295
155. Минимальные нормальные расширения 107 158 296
156. Подобие субнормальных операторов . . . . . . 107 158 297
157. Теорема о включении спектра . . 108 158 297
158. Заполнение «дыр» 108 159 298
159. Расширения конечной коразмерности 108 159 298
160. Гипонормальные операторы 109 159 299
161. Нормальные и субнормальные частичные изометрии . . 111 159 300
162. Нормы степеней и степени нормы 111 159 301
163. Вполне непрерывные гипонормальные операторы .... 112 159 301
164. Степени гипонормального оператора 112 159 302
165. Сжатия, подобные унитарным операторам 112 159 303
Глава 17. Числовой образ ИЗ 159 305
166. Теорема Теплица — Хаусдорфа 113 159 305
167. Многомерный числовой образ ... . .... 115 159 306
168. Замкнутость числового образа 116 160 307
169. Спектр и числовой образ 116 160 308
170. Квазинильпотентность и числовой образ 116 160 308
171. Нормальность и числовой образ 116 160 308
172. Субнормальность и числовой образ . 117 160 309
173. Числовой радиус 118 160 309
174. Нормалоидные, выпуклоидные и спектралоидные
операторы 118 160 310
175. Непрерывность числового образа 119 160 310
176. Степенное неравенство 119 160 311
Глава 18. Унитарные продолжения 122 160 313
177. Унитарные продолжения 122 160 313
178. Унитарные степенные продолжения . ... 123 161 314

352 Оглавление
179. Эргодическая теорема 125 161 315
180. Спектральные множества 126 161 317
181. Продолжения положительно определенных последова-
тельностей 127 161 317
Глава 19. Коммутаторы операторов 130 161 320
182. Коммутаторы 130 161 320
183. Предел коммутаторов 131 161 320
184. Теорема Клейпеке — Широкова 132 161 321
185. Расстояние между коммутатором и тождественным опе-
ратором 132 161 323
186. Операторы с обширными ядрами 133 161 323
187. Прямые суммы как коммутаторы 135 161 325
188. Положительные самокоммутаторы 135 162 325
189. Проекторы как самокоммутаторы 135 162 326
190. Мультипликативные коммутаторы 136 162 327
191. Унитарные мультипликативные коммутаторы 137 162 327
192. Подгруппа коммутаторов 137 162 328
Глава 20. Теплицевы операторы 138 162 331
193. Операторы и матрицы Лорана 138 162 331
194. Теплицевы операторы и матрицы 138 162 331
195. Теплицевы произведения 140 162 333
196. Теорема о включении спектра для теплицевых операторов 141 162 334
197. Аналитические теплицевы операторы 142 163 335
198. Собственные значения эрмитовых теплицевых операторов 143 163 ЗЗ5
199. Спектр эрмитова теплицева оператора 143 163 336
Литература 337
Указатель обозначении 342
Предметный указатель 343
п. халмош
Гильбертово пространство в задачах
Редактор Л. Б. Штейнпресс
Художник Б. II. Астафьев Художественный редактор В. И. Шаповалов
Технический редактор Н. Д. Толстякова Корректор В. И. Бсдель
Сдано в производство 23/1 1970 г.
Подписано к печати 7/VII 1970 г.
Бумага Л» 2 60x901/16=11 бум. л.
печ. л. 22 Уч.-изд. л. 19,41 Изд. Л5 1/4956
Цена 1 р. 52 к. Зак. 78
ИЗДАТЕЛЬСТВО «МИР»
Москва, 1-й Рижский пер., 2
Московская типография Л? 16 Главполиграфпрома Комитета по печати
при Совете Министров СССР. Москва, Трехпрудный пер., 9