Текст
                    и*л
Издательство
к но стран ной
Хы*е#ат9Р&>


ACTUALITES SCIENTIFIQUES ET INDUSTRIELLES- 869 PUBLICATIONS DE L'INSTITUT 4 DE MATHEMATIQUES DE CLEPMONT-FERRAND IV ^INTEGRATION DANS LES CROUPES TOPOLOGIQUES ET SES APPLICATIONS PAR ANDRE WEIL PARIS 1940
А. ВЕЙЛЬ ИНТЕГРИРОВАНИЕ В ТОПОЛОГИЧЕСКИХ ГРУППАХ И ЕГО ПРИМЕНЕНИЯ Перевод с французского Г. М. АДЕЛЬСОН-ВЕЛЬСКОГО и М. И. ВИШИКА Под редакцией Н. Я. ВИЛЕНКИНА 1950 ИЗДАТЕЛЬСТВО ИНОСТРАННОЙ ЛИТЕРАТУРЫ Москва
ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ Книга А. Вейля „Интегрирование в топологических группах" посвящена весьма важной области современной математики—теории топологических групп. Эта теория как самостоятельная ветвь математики возникла весьма недавно — 15—20 лет тому назад. Первыми работами, определившими дальнейшие пути развития топологической алгебры вообще и теории топологических групп в частности, были работы Л. С. Понтрягина по. теории, характеров топологических абе- лгвых групп. Эти работы неразрывно связаны с исследованиями Л. С. Понтрягина в области топологических законов двойственности. Как известно, эти законы дают, связь между гомологическими свойствами множества и свойствами его дополнения. Первоначально законы двойственности были установлены П. С. Александровым лишь для полей коэффициентов, являющихся вычетами по некоторому модулю. После этого П. С. Александров поставил вопрос о возможности обобщить их на другие поля коэффициентов, в первую очередь на случай целочисленных коэффициентов. Эта важная проблема и была решена Л. С. Понтрягиным. Оказалось, что для установления законов двойственности в этом более широком случае необходимо расширить понятие группы Бетти. Наряду с употреблявшимися до того в качестве полей коэффициентов группой целых чисел, конечными циклическими группами и другими дискретными группами понадобилось ввести и иные группы, как, например,, группу вращения окружности. Так как эти новые поля коэффициентов обладали определенной топологией, назрела необходимость создать развернутую теорию топологических групп. Существовавшие до того исследования по теории топологических групп носили отрывочный характер и, за редкими исключениями (к которым относится, например, работа А.А.Маркова (доп. лит. [23]) о конечномерных векторных пространствах), не выходили за рамки довольно поверхностных результатов. Лишь создание понтрягинской теории характеров сделало топологическую алгебру самостоятельной ветвью математики.
6 Предисловие к русскому изданию Теория характеров позволила Л. С. Понтрягину полностью решить упоминавшуюся выше проблему о законах двойственности для компактов. Однако значение этой теории отнюдь не исчерпывается ее применениями в комбинаторной топологии. Теория характеров устанавливает взаимно однозначное соответствие между множеством компактных абелевых групп со второй аксиомой счетности и множеством дискретных счетных абелевых групп, благодаря чему теория компактных абелевых групп полностью сводится к теории дискретных абелевых групп. В частности, Л. С. Понтрягин, пользуясь теорией характеров, опроверг ряд ошибочных утверждений зарубежных ученых, касавшихся теории топологических абелевых групп (ван Данцига, Пётрковского, Александера и Коэна и др.). Методы, развитые Л. С. Понтря- гиным, позволили ему в дальнейшем построить и теорию некоммутативных компактных групп. Он доказал, что всякая компактная группа с любой степенью точности аппроксимируема группами Ли, откуда получил новое решение так называемой пятой проблемы Гильберта для компактных групп, которая до'того иными методами была решена фон Нейманом. Ранее он решил эту проблему и для локально компактных абелевых групп со второй аксиомой счетности, указав при этом пути построения для этих групп теории характеров. Дальнейшие исследования, связанные с пятой проблемой Гильберта, принадлежат А. И. Мальцеву (Матем. сб., 19 (1946), 165), автору ряда весьма глубоких исследований по теории групп Ли, удостоенных в 1945 г. Сталинской премии. Основоположные результаты Л. С. Понтрягина вызвали ряд работ по теории характеров. Используя идеи Понтрягина, ван Кампен распространил его результаты на локально бикомпактные группы, освободившись от Предположений счетности. Никаких новых методов это от него не потребовало. Тем не менее некоторые зарубежные авторы пытаются выдать ван Кампена нуть ли не за соавтора теории характеров и умалить тем самым приоритет русской науки б создании одной из наиболее замечательных теорий современной математики. , Итоги исследований Л. С. Понтрягина в области топологических групп изложены в егб классической монографии „Непрерывные группы", вышедшей в свет в 1938 г. и удостоенной * Сталинской премии в 1940 г. После появления этой книги еще более усиливаются исследования в области топологической4 алгебры. Среди них следует, несомненно, отметить
Предисловие к русскому изданию 7 "цикл работ, посвященных алгебраической структуре топологических групп. Первые работы в этой области принадлежат ленинградскому математику А. А. Маркову. В ряде своих работ он, пользуясь замеченной им глубокой аналогией между топологическими и дискретными группами, строит теорию свободных топологических групп, аналогичную теории свободных дискретных групп. При помощи этой теории ему удалось построить пример топологической группы, групповое пространство которой не является нормальным. Исследования А. А. Маркова были продолжены молодым советским математиком М. И. Гра- евым. Позже появился ряд работ японских математиков (Каку- тани и др.), в которых они развивали идеи А. А. Маркова. В том же плане лежат работы А. Г. Куроша о силовских подгруппах топологических групп и автора этих строк о прямых разложениях топологических групп. Этому направлению в теории топологических групп будет посвящен обзор в журнале „Успехи математических наук*, принадлежащий М. И. Грз- езу и автору данного предисловия. А. Д. Александрову и Д. А. Райкозу принадлежат интересные результаты о полных труппах. О г работ Л. С. Понтрягина ведет свое начало и гармонический анализ на топологических группах. Как известно, характеры компактной топологической абелезой группы образуют полную ортогональную нормированную систему функций, аналогичную по своим свойствам системе функций einx (эти последние являются характерами группы вращения окружности). Характеры же локально компактных абелезых групп образуют систему функций, аналогичных по своим свойствам системе функций eikx на прямой (функции ей-х являются характерами аддитивной группы вещественных чисел). Поэтому на топологических абелевых группах оказалось возможным строить ряды и интегралы Фурье, а также построить теорию почти периодических функций. Отметим, чго^ связи между теорией характеров и теорией почти периодических функций были открыты Л. С. Понтрягиным для случая почти периодических функций действительного переменного. Исследования по теории почти периодических функций на группах были проведены фон Нейманом, Фрейденталем и другими. Кроме того, Д. А. Райковым и М. Г. Крейном были доказаны основные теоремы об интеграле Фурье на группах {были получены обобщения теорем Бохнера, Планшереля и др.). Приблизительно одновременно
8 Предисловие к русскому изданию эти результаты были получены и А.- Вейлем. Ряд работ был посвящен аксиоматическому изучению инвариантной меры на группах. щ ''.'•• Предлагаемая читателю книга А. Вейля „Интегрирование в. топологических группах и его применения" представляет собой попытку систематического изложения этих -вопросов. Как видно из названия книги, в ней затронуты в основном те разделы теории топологических групп, в которых применяется теория инвариантной меры на группах, построенная венгерским математиком А. Хааром. Иными словами, книга посвящена теории представлений групп матрицами, теории компактных групп, теории характеров локально компактных абелевых групп и теории почти периодических функций на группах., К числу несомненных достоинств книги следует отнести последовательный отказ от излишних предположений счетности, позволивший азтору доказать ряд теорем в наибольшей общности, а также весьма сжатое и ясное изложение основных свойств меры Хаара. Весьма интересна также доказанная в приложении к книге обратная теорема теории инвариантной меры, позволяющая по данной мере находить такую тогюлогизацию группы, при которой эта мера становится мерой Хаара. .Наконец, следует отметить упоминавшееся выше доказательство основных теорем теории интеграла Фурье на группах, а также систематическое исследование однородных пространств. В доказательства ряда известных ранее теорем автором были внесены существенные упрощения (к числу их относятся, например, теоремы о. существовании инвариантной меры и об ее единственности). Методы, применявшиеся А. Вейлем и другими авторами при построении гармонического анализа на группах, существеннейшим образом опирались на проведенный Л. С. Понтрягиным тонкий анализ строения локально компактных абелевых групп и компактных групп. Позже автор данного предисловия, также используя понтрягинские методы, распространил теорию характеров на некоторые классы групп, не обладающие инвариантной мерой (доп. лит. [3], [4]). Однако указанные методы не позволяли строить гармонический анализ на произвольных локально компактных группах. Новые методы, необходимые для этого, были открыты московской школой функционального анализа. Одним из наиболее мощных средств доказательства явилась созданная И. М. Гельфандом теория нормированных колец. Пользуясь теорией нормированных колец
Предисловие к русскому изданию 9* и теорией положительно определенных функций на группах, Д. А. Райков доказал в 1940 г. основные теоремы гармонического анализа на группах, независимо полученные и А. Вейлем. Необходимо указать, что метод Д. А. Райкова имеет принципиальные преимущества по сравнению, с методом А. Вейля. Д. А. Райков не опирался в своих рассуждениях на теорию характеров и даже доказал понтрягинскую теорему двойственности, пользуясь теорией интеграла Фурье на группах. Класс групп, изучаемый Д. А. Райковым, выделяется не топологическими требованиями, как, например, локальная компактность и т. д., но лишь требованием существования инвариантной меры. Д. А. Райков провел также весьма интересные исследования по аксиоматике инвариантной меры. Некоторые результаты в этой области получил А. Д. Александров (доп. лит. [2]). Несколько раньше, чем Д. А. Райковым, теорема План- шереля на группах была доказана иными методами М. Г. К рей- ном, ряд работ которого посвящен гармоническому анализу на группах (доп. лит. [15]—[19] и [28]). Новым поворотным пунктом в развитии теории топологических групп явилась работа И. М. Гельфанда и Д. А. Райкова об унитарных представлениях локально компактных групп (доп. лит. [9]). До появления этой работы былс доказано лишь, что локально компактные абелевы группы и компактные группы обладают полной системой конечномерных унитарных представлений. В то же время было показано существование локально компактных некоммутативных групп, не допускающих ни одного такого представления, за исключением тривиального представления единичной матрицей. Естественным обобщением представлений унитарными матркцзми являются представления унитарными операторами в комплексном гильбертовом пространстве Я, т. е. такие отображения g—*U группы G в топологическую группу унитарных операторов гильбертова пространства, что Ugh = UsUh для всех ^^Ои \\Uhr\ — U т^\ —> 0 при h—>g для всех 7j. Попытки построения теории представлений унитарными операторами были сделаны ради приложений к физике Дираком, Вигнером и др. Однако даже для одной из простейших локально компактных некоммутативных групп — группы Лоренца — им не удалось показать существования полной системы неприводимых унитарных представлений. И. М. Гельфанд и Д. А. Райков показали существование такой системы для любой локально компактной группы. Методы, примененные ими в этойг
uo Предисловие к русскому изданию работе, широко используют развитый Д. А. Райковым аппарат положительно определенных функций на группах, а также известную теорему щ одесских математиков М. Г. Крейна и Д. А. Мильмана об экстремальных точках выпуклого тела *(доп. лит. [20]). Позже Д. А. Райков изучил вопрос о различных типах сходимости положительно определенных функций на группах (доп. лит. [29]). После доказательства существования полной системы неприводимых унитарных представлений, естественно, встал вопрос о возможности разложения любого унитарного представления на неприводимые. Этот вопрос был решен А. Н. Колмогоровым для унитарных представлений в сепарабельных гильбертовых пространствах и доложен в 1943 г. на заседании Московского математического общества. Позже этим вопросом занимался Б. М. Левитан (доп. лит. [21]). Для представлений в несепарабельных гильбертовых пространствах вопрос был решен Г. М. Адельсон-Вельским (доп. лит. [1]). В работах А. Кар- тана и Р. Годемана были даны упрощения доказательств теорем Гельфанда и Райкова и получены некоторые новые результаты. В основе большинства рассуждений этих авторов лежит теорема Крейна и Мильмана, превратившаяся, таким образом, в сильное орудие математических доказательств. В дальнейшем появился цикл работ И. М. Гельфанда и М. А. Наймарка (доп. лит. [5]—[7]), посвященный унитарным представлениям полупростых групп Ли. Эги работы тесно связаны с проблемами современной физики, так как в них дается полное исследование унитарных представлений группы Лоренца, играющей основную роль в теории относительности (как уже упоминалось, попытки решения этого вопроса были сделаны Дираком и др.). В этих работах были открыты новые закономерности, не имеющие аналогов ни в теории представлений компактных групп, ни в теории представлений коммутативных групп. Так, например, Гельфанди Наймарк показали, что неприводимые представления полупростых групп Ля не исчерпываются представлениями, получающимися при разложении регулярного представления. Ими установлено также понятие следа оператора Ug и введены характеры представления. Кроме того, ими получен аналог формулы. Планшерэля. Эгот цчкл вопросов не может никоим образом рассматриваться как, законченный. Точнее будет сказать, что изучение унитарных представлений локально компактных групп лишь начато, ибо
Предисловие к русскому изданию 11 работы Гельфанда и Наймарка открывают широкие перспективы дальнейшего продвижения в этой области, тесно связанной с квантовой механикой, теорией относительности и т. д. Мы сочли необходимым снабдить настоящую книгу некоторыми примечаниями, дополняющими и разъясняющими текст автора. В частности, так как в предлагаемой книге изложена лишь теория кэнечномерных представлений, а потому совершенно недостаточно отражена роль советских математиков в развитии теории топологических групп, мы дали в этих примечаниях (см. примечания (VIII) —(X) и (XIII)) краткое изложение основных результатов теории представлений групп унитарными операторами. Н. Я- Виленкш.
ВВЕДЕНИЕ За последние годы появился ряд монографий по теории групп; укажем, в частности, на известную книгу Э. Картана [16]. Однако эти книги в большинстве случаев оставляют в стороне все, что касается интегрирования, на группе. Этот плодотворный метод, впервые, насколько нам известно, примененный Гурвицем в 1897 г. [25] и позволивший впоследствии И. Шуру [57], Г. Вейлю [70] и Э. Картану [15] изучить линейные представления компактных групп Ли, был в последнее время значительно обобщен. В 1933 г. А. Хаар [21] доказал, что существование инвариантной меры в группе связано с очень простыми и общими топологическими свойствами, а именно в основном с локальной компактностью группы. Это важное открытие почти сразу позволило получить далеко идущие результаты в теории компактных групп, абелевых групп и их представлений. В этой книге объединены и систематически изложены эти результаты; кроме того, здесь эти результаты несколько дополнены и несколько уяснены и упрощены методы, что, мы надеемся, даст предпосылки нового продвижения. Разбираемые в этой книге вопросы породили обширную литературу, разбросанную в периодических изданиях; определения и обозначения меняются от одной работы к другой; многие результаты доказаны только при излишних ограничениях, от которых нам не всегда было легко освободиться. Мы старались облегчить чтение, давая краткие, но полные доказательства. В то же время мы не могли делать каждый раз исчерпывающие библиографические указания, поэтому отсутствие ссылки при определении или теореме вовсе не означает, что последние являются новыми. В основном, кроме случаев, когда речь идет о теориях и результатах, не излагаемых в книге, мы не приводили в тексте библиографических ссылок; зато в конце каждого параграфа даны библиографические и критические замечания, а в конце книги приведена библиография, которая, впрочем, не может претендовать на полноту; к сожалению, мы не могли учесть работы, появившиеся после
14 Введение 1938 г. В вопросах, где определения и. обозначения недостаточно установились, мы старались, выбрать те, которые нам казались наиболее подходящими Для будущего развития теории; поэтому иногда мы переделывали установившуюся терминологию Для л^НГГчИеЯниВй.К0НЦе КНИГИ "Р-Дены указатели о„РеДдЛе- О содержании книги скажем здесь, что нам пришлось уделить много места чисто топологическим вопросам теории групп но при этом мы в первую очередь выбирали вопросы та7иЛН~ иначе связанные с методом интегрирования
Г ЛАВА 1 ТОПОЛОГИЧЕСКИЕ ГРУППЫ Обозначения. Во всей книге мы, как правило, придерживаемся обозначений и терминологии * Элементов математики "• Н. Бурбаки [13]» В частности, А[)В означает объединение- множеств An Bf т.е. множество элементов, принадлежащих по крайней мере одному' из этих множеств; А(]В означает их. пересечение, т. е. множество тех точек, которые принадлежат им обоим; таким же образом иД означает объединение мно- t жеств At и ПД—их пересечение (индекс t пробегает произ- вольное множество). Если х принадлежит Л, мы пишем х £ А; если А содержится в В (в широком смысле, т. е. равенство* не исключается), то пишем АаВ или ВзЛ. Символ ф обозначает пустое множество; {х}— множество, состоящее из единственного элемента х; £ — отрицание знака £, Если А — подмножество топологического пространства, то А обозначает его замыкание (наименьшее замкнутое множество, содержащее Л). § L Абстрактные группы. Группой называется непустое множество G, в котором определена функция ху двух аргументов x£Gt y£G, принимающая значения из G и удовлетворяющая следующим аксиомам: I. Для любых х, у, z, (ху) z = x (yz), II. Для любых xt у существует такой элемент z, что> xz=y, и такой элемент z', что z'x=y. Отсюда следует, что существует такой элемент е — единица группы,— что для любого х и что всякому х соответствует такой единственный элемент л:-1,, что хх~1 = х~1х = е; mxz=y следует z = x'1y и из zfx==y следует z' =ух-К.
J 6 Глава L Топологические 'группы Множество элементов абстрактной группы мы будем рассматривать как пространство труппы, в котором действуют две группы преобразований, изоморфные G: группа левых сдвигов (х—^^-1лг) и группа правых сдвигов (х—>xs). В пространстве группы действуют также группа всех автоморфизмов, которую мы не будем рассматривать, и группа внутренних автоморфизмов или присоединенная группа, т. е. группа преобразований (х—*s-1.x:s). Мы будем обозначать через sE, Es, E-1 множества, которые получаются из подмножества Е группы G преобразованиями (л:—>sx)\ (х—>xs) и (д:—*лг-1) соответственно; через E-F (Е и F — подмножества группы G) — множество произведений ху, где х принадлежит Е, а у принадлежит F. Если в G дана некоторая подгруппа g", то группа G распадается на множества вида xg, называемые классами смежности по g (когда рассматривается также разбиение на множества gx, то их называют правыми классами смежности, а классы xg—левыми). Если классам xg ставятся во взаимно однозначное со.тзегствие точки, Р нового пространства Я, то через sP мы будем оббзначать точку, соответствующую классу sxg; G определяет таким образом транзитивную группу преобразований пространства Н(Р—^s~1P); H называется однородным пространством, определенным группой G и подгруппоид, и обозначается так: H = G[g. Преобразования, оставляющие точку P=xg неподвижной, порождаются элементами подгруппы xgx-K 1 * * ■' Определенную на Н функцию f(P) можно рассматривать как функцию f{x), определенную на G и постоянную на каждом из классов смежности по g, т. е. такую, что f(x£)=f(x) для любых x£G и $£g\ Преобразование (Р—^-ф) тождественно, если s принадлежит пересечению всех подгрупп xgx'1. В частности, если g инвариантна*), т. .е. если xgx-x—g для любого х, то преобразования. (Р—► з-ф) и _(Р—*t^*P) совпадают, когда 5 и t принадлежат одному и тому же классу смежности по g\ тогда можно рассматривать И как группу. Зга группа называется фактор-группой G по g* Пусть даны группы G и G'; представлением, или гомоморфизмом группы G в G', называется определенная в G функция f{x), принимающая значения в G' и удовлетворяющая соотношению f(xy)=f(x) f(y): *) Инвариантная подгруппа называется также нормальным делателем. (Прим. ред.)
§ 2. Топологические группы 17 Если образом группы G при-отображении f(x) является вся группа G', то мы будем говорить, что f(x) есть представление или гомоморфизм G на G'. Элементы группы G, переходящие при отображении f(x) в единицу группы G, образуют инвариантную подгруппу g группы G. Если g состоит только из единицы группы G, то мы назовем f(x) точным представлением или изоморфизмом группы G в G' (на G', если образ G есть всё G'). В общем случае f(x) равно f(y) тогда, и только тогда, когда х и у принадлежат к одному и тому же классу смежности по g; таким образом, f(x) можно рассматривать как изоморфизм Gig в G'. Обратно, если g—инвариантная подгруппа группы G, то функция, ставящая в соответствие каждому х £ G класс xg в //= Gjg, является гомоморфизмом, который называется естественным гомоморфизмом G на Gjg. Ниже, когда речь будет Ихти о топологических группах, мы вернемся к этим определениям и, в частости, установим некоторое различие между представлением и гомоморфизмом. Для ознакомления с основами теории абстрактных групп можно посоветовать, кроме работы Картана [16], книги Шпайзера [58] и Цассенхауза [72]*). Понятие однородного пространства, определенного при помощи некоторой подгруппы какой-либо группы, было изучено главным образом Картаном (см. [16], §§ 17, 29); в конечных группах оно совпадает с понятием „группы подстановок.п элементов", с которого, как известно, началась.теория групп. Мы не вводили в нашей книге понятие фактор-пространства для однородного пространства и понятие, эквивалентное понятию гомоморфизма, для однородных пространств: это можно сделать, и притом так, чтобы сохранилось большинство теорем, справедливых для гомоморфизмов. В частности, понятие фактор-пространства в однородных пространствах вводится в этой теории при помощи отношения эквивалентности (см. [13]). § 2. Топологические группы. Топологической группой называется группа G, в которую каким-либо образом, например при помощи семейства окрестностей точек, введена такая топология, что функция х~гу пары точек (л:, у) непрерывна. Это равносильно тому, что в пространстве группы G задано семейство Ф множеств V или, как говорят, определяющая система окрестностей V единицы, удовлетворяющая следующим аксиомам: *) На русском языке см., например, ГА, Г. Курош» Теория групп, ГТТИ, 1944. (Прим. ред.) 2 А. Вейль
18 Глава I. Топологические группы GT I. Пересечение всех множеств V равно единице е группы G. GT Н. Для любых множеств V и V, принадлежащих Ф, существует такое множество V" из той же системы Фг что VczVOV. GT III. Для любого множества V, принадлежащего Фг существует такое множество УаФ, что V,-1>VfczV. GT IV. Для любых x£G и УсФ существует такое У'£Ф, что V'czxVx-1. Две определяющие системы окрестностей называются эквивалентными и рассматриваются #как вводящие в G одну и ту же топологию, если всякая окрестность из одной системы содержит некоторую окрестность из другой и обратно. Окрестностью единицы называют всякое множество, содержащее какое- либо множество системы Ф*). Таким образом, если V и V— окрестности единицы, то V[\V и хУх~г также являются окрестностями единицы. Из GT IV следует, что если V пробегает систему всех окрестностей единицы, то семейства sV и Vs совпадают. Если их принять за систему окрестностей точки sr то G превращается в топологическое пространство; при этом функция х"гу непрерывна на GxG (см. [66], стр. 11). Система всех окрестностей единицы эквивалентна системе г открытых окрестностей единицы, системе замкнутых окрестностей единицы и системе окрестностей, удовлетворяющих условию V=V'1. Иногда приходится рассматривать систему Ф множеств V, удовлетворяющих аксиомам GT II, GT III, GT IV и следующей аксиоме (более слабой, чем GT I): GT Г. Всякое множество V системы Ф содержит единицу е. Из GTIII и GTIV следует, что пересечение всех множеств Vy принадлежащих Ф, является инвариантной подгруппой g в G. Следовательно, если в фактор-группе Gjg рассматривается система множеств Vg, то она удовлетворяет аксиомам GTI, GTII, GTIII, GTIV, и, таким образом, в группе Gjg определена топология, при которой она является топологической группой, однако* часто бывает удобнее вместо Gjg рассматривать саму группу G **). *) Отметим, что при таком определении окрестности не обязаны быть открытыми множествами. (Прим. ред.). **) Группы, удовлетворяющие аксиомам GT Г, GT II, ОТ III* GT IV, называются общими топологическими группами. (Прим. ред
§ 2. Топологические группы 19 Всякая подгруппа g топологической группы G является топологической группой, если за окрестности единицы принять множества VC\g. Если подгруппа g замкнута в G (и толь/со в этом случае), то в однородном пространстве H = Gfg можно ввести топологию, выбирая в качестве семейства окрестностей точки p=zxg семейство множеств VP= Vxg, где V пробегает семейство окрестностей единицы; VP—это множество точек $Р, полученных из точки Р всевозможными сдвигами s> где s £ V. Для непрерывности функции f(P) в Н необходимо и достаточно, чтобы соответствующая ей функция f{x), постоянная в G на классах смежности по g, была непрерывна в G. Более общо, пусть А — множество в G, тогда Ag, т. е. множество тех классов, к которым принадлежат элементы из Л, можно рассматривать как образ Л в Я; значит, для того чтобы определенную на А функцию f(x) можно было рассматривать как непрерывную на образе А в Н, необходимо и достаточно, чтобы она была непрерывна на А в G и принимала одинаковые значения в точках множества Л, принадлежащих одному и тому же классу смежности по g. В частности, если^*— замкнутая инвариантная подгруппа в G (и только в этом случае), можно превратить G/g в топологическую группу при помощи окрестностей единицы Vg. Каждой группе, определенной алгебраически в смысле § 1, можно приписать по крайней мере одну топологизацию, а именно такую, которая получается, если окрестностью единицы е считать всякое содержащее е множество. Это равносильно существованию окрестности единицы, состоящей из одной точки е. Такая группа называется дискретной; на дискретной группе всякая функция непрерывна. Если G и G' — две топологические группы, то мы будем называть, если не оговорено противное, представлениями только те функции х' =/(х), удовлетворяющие условиям §1, которые непрерывны на G. Впрочем, достаточно, чтобы такая функция была непрерывна в одной какой-нибудь точке, например в е. В рассматриваемом нами случае множество g точек x£G> отображающихся при представлении f(x) в единицу группы G', есть замкнутая инвариантная подгруппа, и f(x) определяет взаимно однозначное представление Gjg в G': если это последнее представление непрерывно в обе стороны, мы 2*
20 Глава I. Топологические группы будем говорить, что f(x) е:ть гомоморфизм G в G'. Если g состоит лишь из единицы, мы будем называть представление f(x) изоморфизмом G в G''. Пусть, например, G'—недискрет- ная топологиче:кая групла; пусть G — группа, состоящая из тех же элементоз с дискретной топологией; тождественное отображение G в G' язляется представлением (так как оно непрерывно), нэ не является гомоморфизмом. Для того чтобы представление f(x) группы G в G' было гомоморфизмом, необходимо и достаточно, чтобы при отображении f(x) образ вся/сой окрестности единицы в О был окрестностью единицы в G' (или иначе, чтобы образ всякого открытого множества в G был открытым множеством в G'). Более общо, пусть x'=f(x), x = g(x')— взаимно однозначное и взаимно непрерывное соответствие между подмножеством Л группы G и подмножеством Л' группы G'; будем гозорить, что это соответствие является изоморфизмом (т. е. чго Л и Л' изоморфны), если f(xy)=f(x)f(y) для всех х,у, таких, что х, у и ху принадлежат Л, и если g(х'у') = = g(x')g(y') Для всех х',у\ таких, что х', у' и х'у* принадлежат Л\ В частности, G и G' называются локально изоморфными, если некоторая окрестность единицы в G изоморфна некоторой окрестности единицы в G'. Фактор-группа топологи- че:кой группы G по инвариантной замкнутой дискретной подгруппа всегда локально изоморфна G. Пусть f(x) — гомоморфизм G в G' и пусть g — подгруппа элементов из G, отображающихся в единицу группы G\ Если Gx — подгруппа группы G, содержащая g, то представление f(x) группы Gx в G' также является гомоморфизмом. Если f(x) — гомоморфизм G на О' и g{x') — гомоморфизм G' на G7, то £"[/(.*:)]—гомоморфизм G на G", т. е. при приведенных выше условиях имеет место транзитивность гомоморфизмов. Если g и у — Дв~ инвариантные замкнутые подгруппы в G и g э у, то группа G\g изоморфна фактор-группе G/y по образу g в G/y, который изоморфен группе 'g/y. Этот результат можно записать символически формулой I о&=(01ч)1Ш |- Из предыдущего следует, что если f(x) есть гомоморфизм G в G' и g(x')—гомоморфизм G' в G" и если образ G в G' содержит подгруппу, состоящую из элементов группы G', пере-
§ 2. Топологические группы 21 ходящих при отображении g(x') в единицу группы G"*), то g[f(x)]—гомоморфизм G в G"; этот результат, вообще говоря, неверен, если отказаться от последнего ограничения. Если Q с G открыто, то Q"1 также открыто; далее, если Q открыто, а Е a G произвольно, то EQ и QE также открыты как объединения открытых множеств. В частности, какова бы ни была окрестность V единицы и каково бы ни было множество Е, существует такое открытое множество й, что Е а й с EV; достаточно взять Q = EV\ где V — открытая окрестность единицы, содержащаяся в V. С другой стороны, для заданного Е пересечение всех множеств EV совпадает с замыканием Е множества Е; действительно, если х £ £*, то для любого V имеем xV Л Е=/= ф, т. е. х £ EV"1, и обратно. Сказанное выше позволяет изучить подгруппы, порожденные окрестностями единицы. Подгруппой группы G, порожденной множеством Е с G, называют множество тех элементов из G, которые могут быть выражены конечными произведениями элементов из Е U Е~г. Заменяя при необходимости Е через Е[)Е-г, можно ограничиться случаем, когда Е = Е"'1. Для всякого целого положительного п положим Ег = Е и Еп = Еп"1-Е; подгруппа группы G, порожденная множеством Е, является объединением множеств Еп для я=1, 2,... и обозначается через Е°°. Пусть, в частности, V — такая окрестность единицы, что V=V"1; тогда группа V00 открыта, так как существует такое открытое множество Q, что Vе0 с Q с с Vх• V= V°°, и она замкнута, так как ее замыкание содержится в V°°- V= V°°. Подгруппа, порожденная окрестностью единицы, одновременно открыта и замкнута; в частности, если G связна, то всякая окрестность единицы в G порождает всю группу G^**). Отсюда следует, например, что в связной группе G всякая инвариантная дискретная подгруппа v принадлежит центру группы G. Действительно, если $ — элемент из у, то хЬх"1—непрерывная функция от х со значениями в у; следовательно, для каждого S^V существует такая окрестность единицы V, что для всех х £ V имеет место равенство хЬх~1 = Ь, а значит х§х~1 = Ъ и для любого элемента х из V°°=G. Если подгруппа ^одновременно открыта *) Эта подгруппа называется ядром гомоморфизма g. (Прим. ред). **) Римские цифры в круглых скобках указывают на примечания редактора, помещенные в конце книги. (Прим. ред.)
22 Глава /. Топологические группы и замкнута в G, то однородное пространство Gjg {г. если g — инвариантная подгруппа, то фактор-группа G\g) дискретно. Если g открыта и замкнута, то, каково бы ни было х, подгруппа xgx*1 также открыта и замкнута, значит, такова же будет и подгруппа xgx~1r\g- Если, в частности, g связна, то xgx'1f\g совпадает с g; таким образом, подгруппа g инвариантна в G и является компонентой единицы в G (так называется объединение всех связных множеств, содержащих единицу). В частности, если G локально изоморфна группе Ли, то в G существует окрестность V единицы, изоморфная окрестности единицы в некоторой связной группе Ли L; тогда подгруппа g группы G, порожденная V, изоморфна связной „ накрывающей группе* U группы Z,, поэтому g является компонентой единицы в G и, значит, фактор-группа Gjg дискретна. Воэбще компонента у единицы G является инвариантной замкнутой подгруппой группы G. Действительно, если а£у, то а"1 у связна и содержит единицу, значит а_1у с у, т. е. у-^у с у. Итак, у — подгруппа группы G; очевидно, что компонента единицы у инвариантна при всех автоморфизмах группы G; она замкнута, так как если бы замыкание у не было связно, то сама у не была бы связной. Пусть g—инвариантная подгруппа группы G, содержащаяся в у; пусть у' — связная компонента единииы в фактор-группе Gig; тогда у' является образом у в Gjg. Действительно, образ у в Gjg связен и, следовательно, содержится в у'; значит, у содержится в множестве уг тех элемен- тоз из. G, образ которых в Gjg принадлежит у'; если бы уг не было связно, то мы имели бы у1 = /7и/7/, где F и F — замкнутые непустые множества без общих точек. Если лг£у1? то лгу полностью содержится или в F, или в F', так как у связно; значит, F и F' являются объединениями классов смежности по у и тем более классов смежности по g; им соответствуют в Gjg непустые замкнутые множества без общих точек объединение которых составляет у', что невозможно, так как у' связно. В частности, если gr = y, то компонента единицы в группе G/y состоит, очззиднэ, только из единицы, и, следовательно, компонента всякой точ.<и сзэдигся к этой точке (G/y „вполне несвязна"*)), у содержится, очезидно, в каждом одновре- *) В-русской литературе такие группы называются „нульмерными". (Прам^ред.) , . ,
§ 2. Топологические группы 23 менно открытом и замкнутом множестве группы G, содержащем единицу е (в частности, у содержится в каждой из подгрупп Vго0). При этом пересечение G' всех одновременно открытых и замкнутых множеств Е, содержащих единицу е, является замкнутой подгруппой группы G. В самом деле, если a:£G', то х лежит в каждом содержащем е открытом и замкнутом множестве Е, и, следовательно, от*- крытое и замкнутое множество х~г Е содержит е, откуда вытекает, что G' с л:"1 Е. Но тогда Е z) xG' и, следовательно, Е z) G'2, а потому G'2 с Л E = G'. Кроме того, очевидно, что G' = G'_1 и G' замкнуто и инвариантно в G. Если действовать таким же образом в G', то получим подгруппу G" группы G' (которая инвариантна не только в G', но и в G, так как она инвариантна относительно всех непрерывных автоморфизмов группы G'). Продолжая этот процесс трансфинитно, мы получим у, т. е. компоненту единицы (так как мощность последовательности операций не может превосходить мощности множества всех инвариантных замкнутых подгрупп группы G). Пространство топологической группы является не только топологическим пространством, в нем можно определить (различными способами) равномерную топологию (см. [13 Ъ] или [66]). В частности, функция /(л), принимающая численные значения и определенная для всех х £G, называется равномерно непрерывной слева, если для всякого- s ^> 0 существует такая окрестность V единицы, что из y£Vx (т. Q. ух~г £V) следует \/(у)—/(х)\^в; она называется равномерно непрерывной справа, если для всякого г^>0 существует такое V, что из y^xV (или х~1у£ V) следует |/(у)—/(*)(<;£. Если f(x) равномерно непрерывна слева, то /{х~г) равномерно непрерывна справа, и наоборот. Таким же образом определяется равномерная структура пространства H = Gjg, где g—замкнутая подгруппа группы G; всякой окрестности V единицы в G ставится в соответствие окрестность, являющаяся множеством пар (Р, Q)£H X //,. таких, что Q£VP. Числовая функция /(Р), определенная в Я,. равномерно непрерывна, если для всякого е^> 0 существует такая окрестность V, что \f{Q)—/(<Р)|^е, если Q^VPl это равносильно тому, что соответствующая функция f(x) в G равномерно непрерывна слева. По теореме, которая была доказана впервые Понтрягиным для топологических групп, всякое
24 Глава I. Топологические группы: равномерное пространство*) вполне регулярно ([66]). Следовательно, всякое однородное пространство H = G\g, определенное топологической группой G и замкнутой подгруппой gr вполне регулярно; оно метризуемо, если система окрестностей единицы в G эквивалентна счетной системе окрестностей. В частности, это имеет место для самой группы G, если взять g={e}. Из теории равномерных пространств следует еще, что равномерное пространство и, в частности, топологическая группа G и всякое однородное пространство H=Gjg полно, или может быть пополнено присоединением новых точек. Если H=Gjg не полно и если // — соответствующее полное пространство, то каждое преобразование из G можно продолжить на все //, но в Я группа G не будет, вообще говоря, транзитивной. Если группа G не полна и если G — ее пополнение (как равномерного пространства), то G можно рассматривать как группу, по крайней мере в том случае, когда G — абелева или удовлетворяет условиям, из которых следует, что G локально- компактна [66]. Так как полное подмножество равномерного пространства обязательно замкнуто, то образ полной группы G при изоморфном отображении в любую группу G' есть замкнутая подгруппа в G\ Обратно, всякая замкнутая подгруппа полной группы полна. Первые основные положения теории топологическихгрупп развили в 1926 г. Шрейер[56]в связи с локально эвклидовыми группами и в 1927 г. Ф. Лежа [33J. Позднее общие свойства топологических групп были исследованы (в связи с вопросами, являющимися предметом гл. VI и VII нашей книги) ван Кампеном [27], А. Марковым [36] и Фрейденталем [18]; часть результатов этого параграфа и следующих заимствованы у перечисленных авторов. В частности, Фрейдентгль первый отметил значение различия между представлениями и гомоморфизмами (которые он называет соответственно гомоморфизмами и открытыми гомоморфизмами) и тот факт, что „теоремы об изоморфизмах" из теории конечных групп (т. е. теоремы Gig — = (G/t)/{gh) из § 2 nH/(Hf[g) = Hg/g из § 3) не всегда верны для топологических групп без соответствующих ограничений. Л. Пон- трягин первый заметил, что всякая топологическая группа вполне регулярна (см. [66], стр. 13, примечание 1, а также [6] и [26]). Теория равномерных пространств и ее приложения к теории групп изложены в «Элементах математики" Н. Бурбаки [13 Ь]. *) То есть пространство с равномерно Л топологией. (Прим. ред.)
§ 3. Компактные множества в группах 2Ъ- § 3. Компактные множества в группах. Говорят, что* замкнутое множество F в топологическом хаусдорфовом пространстве компактно, если всякая система принадлежащих F замкнутых подмножеств с пустым пересечением содержит конечную подсистему с пустым пересечением (или, что все равно, всякая центрированная система замкнутых множеств (фильтр) в F имеет непустое пересечение, см. [13 Ь]). Пространство называется локально компактным, если каждая точка имеет компактную замкнутую окрестность*); следовательно, топологическая группа является локально компактной, если существует замкнутая и компактная окрестность единицы; такая группа обязательно полна. Рассмотрим произвольную топологическую группу. Пусть F—замкнутое множество, С — такое компактное множество, что F{]C=0; тогда существует такая окрестность единицы V, что СУГ\ЕУ=ф- Действительно, наше предложение будет доказано, если мы найдем такое V, что С П ЕУ • У'1 = = ф; обозначим через Fy замыкание множества FV-V'1, тогда Fycz FV*V~l* V, и потому пересечение всех Fy является замыканием F, т. е. самим F. Таким образом, Fy П С образуют семейство замкнутых подмножеств множества С, и пересечение всех Fy П С пусто. Следовательно, существует конечное число таких Viy чго (]Fvi ПС=ф.Положим V=^Vt, тогда Fv()C=0~ Пусть теперь F замкнуто и С компактно, тогда множества FC и CF замкнуты. Действительно, пусть xiFC\ тогда /7-1л:ПС=ф, следовательно (так как F~lx замкнуто одновременно с F), существует такое V9 что F"xxVV\ С= ф , т. е. хУ{]ЕС=ф, и, значит, x$Fc. Если С и С — компактные множества, то таким же является множество СС\ так как оно представляет собой образ множества, компактного в GxG, при непрерывном отображении (л:; у) —► ху (см. § 4), а известно, что всякий непрерывный образ компактного множества в хаусдорфовом пространстве компактен. Для того чтобы замкнутое подмножество F полной группы было компактным, необходимо и достаточно, чтобы каждой окрестности V единицы можно было поставить в соответствие конечное число точек s£y таких, что Fez \Js(V. С другой - t* *) Известно, что компактное множество замкнуто в любом содержащем его топологическом хаусдорфовом пространстве [4]. (Прим. ред.)
26 Глава /. Топологические группы -стороны, если G— топологическая группа и V0 — некоторая окрестность единицы в G, такая, что для каждой окрестности V единицы можно найти конечное число элементов s{1 для которых V0 с (J S{ V', то G изоморфна некоторой всюду плотной подгруппе однозначно определенной, с точностью до изоморфизма, локально компактной группы; см. [66]. Пусть g—инвариантная компактная подгруппа группы G; *если Я—замкнутая подгруппа в G, то Hg тоже замкнуто. Пусть f(x) — естественный гомоморфизм группы G на G'=Gig и Я'— образ подгруппы Я при этом гомоморфизме; тогда Hg совпадает с множеством элементов группы G, образы которых принадлежат Я', следовательно, Hg есть подгруппа группы G, и, согласно § 2, H' = Hgjg. Так как группа Hg замкнута, то и Я' замкнута в G'. Но f{x) определяет представление группы Н на Я', причем Hflg—множество тех элементов, которые переходят при этом представлении в единицу; таким образом, f(x) можно рассматривать как взаимно однозначное представление H/Hfig на Н'. Докажем, что это представление является изоморфизмом. Для этого надо доказать, что для всякого элемента х£Н из того, что f(x) достаточно близко к единице в G', следует, что x£V (Hf)g), где V—заданная окрестность единицы в G; иначе говоря, нужно доказать существование такой окрестности единицы 1/', что если х £ ЯП V'g, то x£V(H[\g)> Но если x£Hf[V'g, то найдутся такие элементы a£gK z^V, что a = z~lx, и предполагая, что V'= l/'-1, получим G£gf)V'H. Если обозначить через U такую открытую окрестность единицы, что U2czVy через g' — множество элементов из g, не принадлежащих U(H()g)y то g' компактно; в g' не существует ни одного элемента, принадлежащего для всех V замыканию VH {так как такой элемент принадлежал бы Я в силу замкнутости Я), следовательно, существует конечное число таких 1/,-, что ни один элемент из gf не принадлежит всем V\H. Пусть, далее, V. содержится в пересечении всех V\ и U; g' П VH будет пусто, следовательно, gf)V'H содержится в U(H()g)', тогда если x = za, z£V' и GZgriV'H, то x£W{H[\g) <zV(H[\g). Полученный результат можно выразить символически формулой Hl(Hf]g) = Hglg
§ 3. Компактные множества в группах 27 справедливой, если инвариантная подгруппа компактна и подгруппа Н замкнута в G. Отсюда следует, что если f(x) — гомоморфизм G в G', a g(x') — гомоморфизм G' в G", то g\f{x)\ будет гомоморфизмом G в G", если только множество элементов, отображающихся гомоморфизмом g(x') в единицу группы G"; образует в G' компактную подгруппу. Пусть g—компактная подгруппа в G (которая может быть неинвариантной); пусть F'— замкнутое компактное множество в однородном поостранстве H=Glg. Множество F тех точек гоуппы G, образ которых в Gjg принадлежит F\ компактно. Действительно, так как F' замкнуто, то и F замкнуто. Пусть Ф — семейство замкнутых подмножеств множества F; пусть Фг — семейство, полученное присоединением к семейству Ф всевозможных пересечений множеств из Ф, взятых в конечном числе. Надо доказать, что если пересечение всех множеств семейства Ф пусто, то Фг содержит пустое множество (р. Так как xg для всякого х есть, очевидно, компактное множество, то, если пересечение множеств семейства Ф пусто, всякому х соответствует множество FA семейства Фг, такое, что xgf\Fl—(f) и, следовательно, xgr\F1g=0; значит, замкнутые множества /^имеют пустое пересечение. Так как они являются объединением классов смежности по g, то их обра?ы в Gjg являются замкнутыми множествами, содержащимися в F' и имеющими пустое лересечение. Таким образом, существует конечное число множеств Fxg (для разных Fx), а значит, и множеств /^бФх, пересечение которых пусто. Отсюда следует, в частности, что если g —компактная подгруппа группы G и если Gjg локально компактна, то ■G сама локально компактна (п). Эта книга будет посвящена в основном локально компактным группам. Всякая замкнутая подгруппа g группы G, всякое однородное пространство G'g(u, в частности, факторгруппа Gjg, если g инваоиантна) локально компактны, если G локально компактна;, они компактны, если G компактна. Всякая локально компактная группа полна; отсюда следует, что образ такой группы при гомоморфизме в произвольную группу G' замкнут в G', Известно, далее, что всякое взаимно однозначное и, непрерывное в одну сторону соответствие между двумя компактными пространствами непрерывно в обе стороны. Следовательно, всякое взаимно однозначное представ-
28 Глава /. Топологические группы ление компактной группы является изоморфизмом и всякое представление компактной группы является гомоморфизмом. Среди локально компактных групп можно выделить те, которые порождаются компактными окрестностями единицы. Такую группу представим в виде G = Cccy где С — компактная окрестность единицы. Если G — такая группа, то любая фактор-группа группы G обладает тем же свойством. Действительно, если g— инвариантная замкнутая подгруппа группы G и #=G/g\ то Н—С°°, где С—образ множества С в И. Если группа G^C™ дискретна, то существует конечное число порождающих ее элементов. Действительно, во всяком дискретном хаусдорфовом пространстве всякое компактное множество состоит из конечного числа элементов. Кроме того, во всякой локально компактной группе G компонента единицы у является пересечением подгрупп V00 группы G, порожденных окрестностями единицы G. Действительно, так как Vе0 открыто и замкнуто, то У°°:эу; образ V°° в G/y есть подгруппа группы G/y, порожденная образом V; следовательно, достаточно доказать это предложение для G/y, т. е. (§ 2) для нульмерной локально компактной группы. Пусть G — такая группа, С — компактная окрестность единицы в G и F — граница этой окрестности. Можно рассматривать С как компактное топологическое пространство; компонента единицы в С является пересечением тех множеств, одновременно замкнутых и открытых (относительно С), которые содержат е. Пересечение всех этих множеств и F пусто, поэтому существует конечное число этих множеств, пересечение С которых не имеет общих точек с F; С компактно и замкнуто в С, а следовательно, и в G; С открыто в С и не имеет общих точек с F, следовательно, оно открыто в G и его дополнение F' в G замкнуто. Отсюда вытекает существование такой окрестности V единицы, что V=V~l и C'V[)F' — ф. Следовательно, C'V=C, и потому C'Vn = C для любого пу откуда C'VGO=C и, значит, К°°сС'сС. Более того, связная компонента единицы в локально компактной группе является пересечением открытых и замкнутых множеств, содержащих единицу. Пусть G — локально компактная группа, g — замкнутая подгруппа группы G и С—некоторое компактное множество в однородном пространстве H=G\g; тогда существует компактное в G множество С, образ кото-
§ 4. Прямые произведения 29 рого в Н совпадает с С. Действительно, пусть V'•—некоторая компактная окрестность единицы в G; так как С компактно, то можно найги конечное число таких точек s{ £ G, что С содержится в образе множества Сг= U^V; Сг компактно. Тогда за С можно взять компактное множество элементов из Сг, образ которых принадлежит С. Наконец, всякая непрерывная функция (принимающая численные значения), заданная на компактной группе, равномерно непрерывна слева и справа; это оке справедливо для локально компактной группы и непрерывной функции (принимающей численные значения), обращающейся в нуль вне некоторого компактного множества [66]. В терминологии, которой придерживаются некоторые авторы, множества, называемые в этой книге компактными, называются бикомпактными, а термину „компактный" дается смысл, который .не представляет интереса, кроме случая, когда выполняется вторая лксиома счетности, т. е. в случае, когда понятия, обозначаемые этими двумя терминами, являются эквивалентными. Часть результатов этого параграфа заимствована из мемуаров Фрейденталя [18| и ван Кампена [27]; последнему мы обязаны, в частности, теоремой о том, что связная компонента единицы в локально компактной группе является пересечением подгрупп, порожденных окрестностями единицы (см. замечания к § 32). Можно локазать (см. [36]), что если g является инвариантной компактной подгруппой группы G, то отображение G на G/g не только ^открыто" (т. е. отображает открытые множества в открытые), но также и „замкнуто" (отображает всякое замкнутое множество в замкнутое); этими свойствами отличаются данные гомоморфизмы от произвольных гомоморфизмов. § 4, Прямые произведения. Пусть Оъ G2 — две топологические группы и G—-множество пар вида х = (хг, х2); хх £Gt, x2£G2. В G можно определить групповую операцию, если произведением элементов х = (хг, х2) и y=(yvy2) считать элемент ху=(хгуг, х2у2). Если еъ е2 — единичные элементы групп Gj и G2, то единичным элементом в G будет 4 = (ег, е2). Если ExczQx и Е2а02, то Е1хЕ2 будет означать множегтво таких элементов (хг, х2) группы G, что хг £ Еи jc2£E2. Если Уг и V2 — фундаментальные системы окрестностей единицы в группе Gx и G2 соответственно, то система множеств VXXV2 удовлетворяет аксиомам GT § 2 и, следовательно, определяет G как топологическую группу; эта топологическая группа называется прямым произведением групп Ох и G2; она обозначается символом G±XG2.
30 Глава L Топологические группы Множество элементов вида (ег, х2) группы G = GlxGz образует подгруппу, изоморфную группе G2, которую мы будем обозначать также через G2 (если это не будет вводить в заблуждение); аналогично подгруппу, образованную элемен- тами вида (хг, е2), мы будем обозначать через Gx; эти подгруппы замкнуты и инвариантны в G, не имеют общих элементов, кроме единицы, и всякий элемент из Gx перестановочен с любым элементом из G2. Фактор-группа G/Gx изоморфна G2, и фактор-группа GjG2 изоморфна Gv Если, всякому элементу х = (хг, х2) группы G = GlxG2; поставить в соответствие элемент <р (лг) = (д:1, е2) подгруппы Gt, то <р(х) будет гомоморфным отображением G на Gv При этом если х£Ог, то <р(х) = х. Обратно, пусть g — инвариантная замкнутая подгруппа группы G; предположим, что определено представление у (х) группы G на группу g, причем <р(*) = лг, если x£g. Тогда G изоморфно прямому произведению gX(Gjg). Действительно, пусть g' — замкнутая подгруппа группы G, отображающаяся функцией <р(х)в единицу; пусть х — какой-нибудь элемент группы g и <р(х) = о; тогда (р(а~гх) = о~гу(х) = еу следовательно, af = a^1x ^gf к x — gg'. Так как gf\g'—{e}, то всякий элемент а, принадлежащий gy перестановочен со всяким элементом а', принадлежащим g'; действительно, так как подгруппа g' инвариантна,, то gg'g*1 £g' и аналогично g'gg'*1 £ g, следовательно^ GGfG-lG'-l€gr\g'i откуда GGfG-1G'-1 — e. Положим /(а, а') = = gg'\ f является взаимно однозначным представлением группы ёУ\ё' на О; более того, если x = gg' достаточно близка к е, то и а = ср (х) также сколь угодно близко к е; следовательно, это имеет место и для G,= G~1xi а потому/является, изоморфизмом. Отсюда следует, что g' и Gjg изоморфны.. Приведем еще один результат, полезный для изучения структуры групп. Пусть g—инвариантная замкнутая подгруппа группы G и f(x) — естественный гомоморфизм G на Gjg; пусть <р(х) — та/сое представление группы Н в G, что f (и) для любого и£Н перестановочно со всяким G£g. Тогда, для того чтобы отображение F(u, а)—► уМ'^"1 было гомоморфизмом Hxg в G, необходимо и достаточно,, чтобы f[(p (и)] было гомоморфизмом Н в Gjg. Действительног пусть h — множество элементов v группы И, таких, чта ?(v)€#» иначе говоря, образ которых при отображении f[f(u)] есть единица. Элемент группы Hxg при отображе-
§ 4. Прямые произведения 3L нии F переходит в единицу, если этот элемент имеет вид, (v, co(v)), где v£#. Во всяком случае, при указанных условиях F — представление группы Hxg в G. Оно будет гомоморфизмом, если для любой окрестности W единицы в Н найдется такая окрестность V единицы в G, что из <з (и) а"1 £ \Г следует u£Wh, ибо тогда из <р(и) о-1 £V следует существование такого элемента vg/г, что «£№v; поэтому, если. W' — образ W при отображении <р, то а £ V-iW'v (v), и, при соответствующем выборе V и F(u, а) € V, элемент (я, а) сколь угодно близок к (v, <p (v)). С другой стороны, f['f{u)]' является гомоморфизмом, если всякой окрестности W соответствует такая окрестность V, что из <р (и) £ Kg* следует и £ ^%; оба эти условия эквивалентны. Например, согласно § 3,/[у(я)} будет гомоморфизмом, если ср (и)—гомоморфизм, и если подгруппа g компактна; в частности, если И—замкнутая подгруппа группы G, каждый элемент которой перестановочен с некоторой инвариантной компактной группой g, то Hg будет изоморфно фактор-группе группы HXg по подгруппе, изоморфной H[\g. С другой стороны, для. того чтобы F(u, а) было представлением группы Hxg на G, необходимо и достаточно, чтобы f[v (и)] было представлением^ И на G\g или чтобы G — H'g, где Н' — образ Н в G. Определение прямого произведения можно непосредственно* распространить на случай любого конечного числа групп. Более того, пусть Gt — топологические группы, зависящие от индекса I, который пробегает произвольное множество / (любой мощности); пусть G — множество всех элементов x = (xt), которые получаются, если отнести всякому индексу i £ / элемент хк £ Gt. Если в G определить умножение, приняв за произведение элементов х=(хь) и у=(уь) элемент ,ху = (xiyi)i то G станет группой. Рассмотрим в G семейство всех таких множеств V, которые можно определить конечным числом условий вида xt^Vt, где V% — окрестности единицы в Gt; это семейство удовлетворяет аксиомам GT § 2 и определяет в G топологию так, что G становится топологической группой*); эту группу мы будем называть прямым произведением групп GJlll\ Если / — конечное множество, то это определение сводится к определению, данному выше для двух групп. *)Идея указанной топологизации принадлежит А. Н. Тихонову: [62]. (Прим. ред.)
32 Глава L Топологические группы Пусть J—часть множества /; произведение Gj групп Gt, отвечающих индексам t £ У, называется частичным произведением произведения G; всякому элементу х=(х) (группы О) соответствует тогда элемент Xj£Gj, Xj=(xt) для i£J; элемент Xj называется проекцией элемента х на Gyy соответствие (л:—>Xj) является гомоморфизмом G на G7. Обозначим через J' дополнение множества J в /; Gjf называется дополнительным к Gj частичным произведением. Группа G изоморфна произведению GjXGj,, a Gj изоморфна подгруппе тех элементов из G, которые проектируются в единицу Gj,; эту подгруппу мы часто будем идентифицировать с Gj. Пусть V — произвольная окрестность единицы в G; она содержит множество, определенное конечным числом условий вида хь £ V\. Пусть J — конечное множество соответствующих индексов t. Мы будем называть Gj конечным частичным произведением. Если xt равно единице группы Gt для любого t £ /, то х £ V\ другими словами, частичное произведение, дополнительное к G^ содержится в V. Можно доказать также, что всякая окрестность единицы в V содержит некоторое частичное произведение, для которого дополнительное частичное произведе- .ние конечно. Если / конечно, то это тривиально. Всякое прямое произведение полных групп есть снова полная группа. Всякое прямое произведение компактных групп есть компактная группа (см. [2] и [62]). Всякое конечное прямое произведение локально компактных групп локально компактно. Пусть G — произвольная группа, и пусть G'— прямое произведение групп Gt. Предположим, что для всякого t задано представление fi(x)=^xi группы G в группу Gr Если положить -/W —(/tW)> т0 из непрерывности/Ддг) следует непрерывность f(x) в вышеуказанной топологии. f(x) есть представление G в G'; обратно, всякое представление G в G' имеет вид f(x) = — (ft(x))i где /Лх) — представление G в G[. Для того чтобы представление f(x) было взаимно ' однозначным, необходимо и достаточно, чтобы для всякого x£G нашелся бы такой индекс I, что /е (л:) было бы отлично от единицы G[. Если хотя бы одно представление /е (дг) является изоморфизмом, то f(x) является изоморфизмом G в G'. § 5. Проективные пределы. Пусть А — неограниченное «частично упорядоченное множество (так называемый фильтр); это
' § 5. Проективные прг$глы 33 значит, что для некоторых пар а, 0 элементов из А определено отношение а< [J, удовлетворяющее следующим аксиомам: I. Если а<$ и £<у> то а<у. II. Если а<(5 и [J<a, то а-=($, и обратно. III. Каковы бы ни были элементы а> § из Л, найдется такой элемент у, что а<у и [*<Y- (Примером такого множества является совокупность окрестностей некоторой точки, если Л<5 означает, что AzsB.) Пусть каждому а £ А поставлена в соответствие топологическая группа Ga и для всякой пары а, ($, такой, что а < р, определено представление лга=/а8 (л;р) группы Gs в группу Ga. В прямом произведении GaX G8''точки (*а, *р), удовлетворяющие условию .*V=/ap(*p)» образуют, по определению функции/^д, замкнутую подгруппу; поэтому множество G точек je = (A;a) прямого произведения всех (Эх, удовлетворяющих всем условиям вида xa—fap(Xa), является замкнутой подгруппой в этом прямом произведении. Если все Ga полны, то же самое верно и для G. Пусть V—множество точек этой группы, удовлетворяющих конечному числу условий вида хч £ V4, где VH—некоторая окрестность единицы в Ga.; тогда существует такой индекс а, что все аг-<а, и, вследствие непрерывности отображений /ai*, существует такая окрестность Va единицы в Ga, что из ха£ Va следует, если х = (ха) лежит в G, что х £ V; итак, топологию в G можно задать при помощи окрестностей, каждая из которых определена одним лишь условием вида лга £ V'a. Предположим теперь, что представления /а8 удовлетворяют следующему условию: LP I. Если а<ИТ. «о.Лг(*т) = /^[^т(*7)]- Пусть х = (ха) — элемент группы G, определенной при помощи групп Ga и соотношений л:я=/Ва(хв); положим -*V— =/«(■*)» тогДа Для а<р мы будем иметь /Ах)=/^Щ(х)]. Очевидно, что /а(х) — представление G в Оа. В дальнейшем мы будем обозначать через ga множество элементов из G, образ которых при представлении /а есть единица еа группы' Ga, и через g^ a<j5,— множество элементов из GB, образом которых при отображении /а8 является еа. , « . Подмножество А' множества А индексов а мы назовем конфшалъной частью Л, если для всякого а£А существует такое а' £Л', что; a<a'j такое цодмножество также частично 3 А. Вейль
34 Глава I. Топологические группы упорядочено и неограничено; в частности, если а£А> то множество Аа индексов а'>а конфинально А, Если А счетно,, можно найти конфинальное А множество А\ состоящее из элементов ап с соотношением ап< un+i(n = Oy 1, ...); такое множество мы будем называть последовательностью. Пусть- А' конфинально Л, G— группа, построенная, как указана выше, при помощи групп Ga и гомоморфизмов jf., удовлетворяющих условию LP I; тогда можно определить группу G' при. помощи групп Ga, и гомоморфизмов /а/р>, соответствующих индексам, принадлежащим А'. Легко видеть, что G' изоморфна G; действительно, всякому элементу х=(хЛ) из G соответствует, очевидно, х' = (хаь) из G'; обратно, пусть лг' = (д:а/) — элемент группы G', а£Л и а' £Л', где а'>а; положим лга==/аа,(лгаО- В силу условия LP I элемент ха не изменится, если а' заменить индексом $'£А'7 таким, что р'>а', следовательно, ха не изменится (Л' частично упорядочено и неограничено), если заменить а' любым элементом у'>а из Л';, кроме того, в силу условия LP I, элементы дга, определенные для всех а £ А, удовлетворяют соотношению xa=f^ (ju) и, значит, определяют элемент дг=(лга) группы G* Соответствие между G и G' взаимно однозначно; легко проверить, что оно и непрерывно в обе стороны. Наиболее интересен случай, когда, кроме аксиомы LPI,, выполняются следующие два условия: LP II. /ар (Xq) является гомоморфизмом G^ на Ga. LP III. fa(x) является представлением G на Ga. Если эти условия выполнены, то мы будем называть (г проективным пределом групп Ga относительно гомоморфизмов f«f v . Если условия LP I и LP II выполнены, то LP III достаточно проверить на множестве индексов Л', конфинальном А; тогда. из /«(*)=/««' [/«' (х)] и из LP II условие LP III следует для всех а£А, и G будет проективным пределом как по отношению к Ga и'/др, так и по отношению к Ga, (а' £ А') и /«/р*. Из LP I и LP II (полагая в LPI Л={$) получаем, что /aa является тождественным представлением Ga на Ga. Из LPIr. II и III следует, что из /а(х) — не только представление, но* также и гомоморфизм G на Ga. Чтобы проверить справедливость этого, необходимо доказать, что всякой окрестности V единицы в G соответствует такая окрестность Va единицы, в Ga, что из/а (х) £ Va следует х£ Vga. Из предыдущего вытекает., что существует такой индекс fj и такая окрестность V'^
§ 5. Проективные пределы 35 в группе Gp, что из f^(x)^V^ следует x£V. При этом можно полагать, что а < ji. Так как f^ — гомоморфизм, то существует такая окрестность Va, что из /а (л:) £ Va следует /р W € ^pg"«p» если fa(*)€ v*> T0 существует такой элемент *з ^ ^р»чт0^Р*1/? (х) € #V Так как/р — представление G#a Gp, то существует такой элемент z из (J, что /-(£)==£' но тогда z£V> z~1x^ga и тем более x^Vg^ Итак, Ga изоморфно фактор-группе G/g*a; всякая окрестность единицы группы G содержит некоторую подгруппу g^ и если a<ji, то g^g^. Обратно, пусть ga—инвариантные замкнутые подгруппы группы G; предположим, что вы-* полнены следующие условия: A) Всякая окрестноШъ единицы в G содержит некоторую подгруппу ga. Б) Каковы бы ни были а, [}, существует такое у, что g^g«ftgr B) Группа G полна'илй хотя бы бона из ga компактна* Тогда О есть проективный предел групп Gjga. Действительно, упорядочим множество индексов а, полагая, что а<^ тогда, и только тогда, когда ga^>gf положим О. = G/&. Согласно § 2, если а<$, то 0/ft = (0/ft)/(ft/^). Это равенство определяет гомоморфизм/^ группы G„z=Gjgb на Ga—Gjga; докажем, что проективным пределом групп Ga относительно гомоморфизмов /а« является группа G', изоморфная G. Действительно, условия LPI, II выполнены, LP III также выполнено, так как если fa(x) — гомоморфизм группы G на G0L = Gjga и ха—элемент из g-a, то существует такой x£G9 что xa=fa(x), и, следовательно, элементы х^=/^(х) определяют элемент из G'; но, каков бы ни был элемент х £ G, элементы xa=fa(x) определяют некоторый элемент х' = (ха) из G', и если положить х'—/(х), то f(x) является представлением группы G в G'. Пусть V — окрестность единицы в G, пусть ga£ V и Va — образ множества V при гомоморфизме /а. Если /а(*)€ Va1 то л:£ Kg;с: К2. Итак, /(*) есть изоморфизм G в G'. Пусть л:' = (лга)£ G'; лга определяем класс saga по £а в G. Если a<{S, то xa=f^(x^), или, что то же самое, Sa&a^Spgp- Следовательно, s^ образуют в G такое семейство замкнутых непустых множеств, что пересечение любого конечного числа этих множеств содержит множество из этого семейства; значит, если одно из них — компакт, то они имеют общий элемент; это справедливо также и тогда, когда группа G 3*
36 Глава L Тспэлогические группы лолна, так как всякой, окрестности V единицы соответствует множество. s^gai содержащееся в множестве sV: Итак, существует такой элемент x£G, что x^sagai т., е. /а(л:) = д:а. для всякого а; следовательно, /(*)-?-изоморфизм G на.С. ^. Всякое бесконечное прямое произведение G групп Gv можно рассматривать как проективный предел конечных частичных произведений G. Действительно, пусть А — семейство всех конечных подмножеств множества / индексов t; А— частично упорядоченное множество, если его элементы упорядочить по включению.. Всякой конечной части а множества / соответствует частичное произведение Ga. Если аср, то Ga—частичное произведение относительно группы Ggj проекцию элемента лгр^ро на Ga мы обозначим через /^(хЛ. Таким образом, G— проективный предел групп Ga относительно гомоморфизмов. Лр. Пусть L — группа, в которой существует окрестность единицы . W, не содержащая , никакой инвариантной подгруппы группы L; это будет иметь место, например, во всех группах Ли, что легко увидеть, рассмотрев окрестность W единицы, в которую можно ввести канонические координаты ([16], §20). Дусть G — проективный предел групп Ga и пусть f(x) — представление, группы G в группу /,. Существует такой инде.<с a и такая окрестность Va единицы bv Ga, что из ха £ Vu следует f(x)£ W; но тогда образ группы gq при f(x) является инвариантной подгруппой в I, содержащейся в W, и, следовательно, рводится к единице. Поэтому функция f(x) постоянна в G на классах смежности по ga и является представлением Ga в L. В частности, всякое представление в L бесконе шого прямого произведения G сводится к представлению конечного частичного произведения. Среди условий LP I, LP II, LP III, определяющих проективный предел, только третье содержит в своей формулировке ' понятие проективного предела, в то время как в формулировках остальных двух говорится лишь о G^ и /^. Но существует важный случай, когда III является .следствием 1,'II." Предположим, что существует такое'а, что ^ компактно для любых $>а; тогда, если a<$<Y> то gp'j компактно как замкнутая подгруппа компактной группы. Докажем теперь, что в этом .случае условие LP III выполнено. Действительно, достаточно проверить LP III для, множества индексов, конфинального Д, в частности для множества р>а. Пусть дано некоторое
§ 5. Проективные пределы * 37- 8>а; для проверки LP III мы можем ограничиться множеством В индексов у > Р- Зададим sp € G^; всякому у € # поставим в соответствие такой элемент $т G G^ что ^=/рт(5т)» тогда 5 ^в есть множество элементов в G, образом которых в Go при отображении /^ является 5р. Это множество замкнуто и компактно; если ^<у<5, то образ множества sTg^ при гомоморфизме /^ совпадает с^Д. Пусть Z — топологическое произведение множеств s pv для всех у£В; Z — компактное множество, состоящее из всех таких точек z = {z^ что z £s g^ для любого.Y- Если (5<Y<§, то множество точек из Z, удовлетворяющих соотношению я =/т,(г8), образует в Z замкнутое множество F-v Пересечение конечного числа множеств Т7 непусто, так как существует такой индекс 8£ Ву что все Yi"^^ и все h<&'? Т0ГДа, если 2rT=/^(5s) ПРИ P<Y<S и 2y=sY для остальных Y» точка z = (z) принадлежит всем F ь . Итак, множества /\-8 имеют в Z по крайней мере одну общую точку z = (zj), которая удовлетворяет условиям Zp=Sp и всем соотношениям z^=f^\z^). Следовательно, группыGaHMeioT проективный предел относительно гомоморфизмов /\р,если выполнены условия LP I, LP II и, кроме того, условие LP ИГ. Существует такое а £А> что g^ компактны для всех [$>а. Условие LP ИГ необходимо и достаточно для того, чтобы группа ga была компактной. Действительно, во-первых, если g"a компактна, то компактна и подгруппа gaa — образ ga при /ор; во-вторых, ga — проективный предел групп gjg^ = g^ для (5 > а, а всякий проективный предел компактных групп компактен как замкнутая подгруппа прямого произведения компактных групп. Можно также доказать, что если LP НГ выполнено и Ga локально компактна, то и G локально компактна. Впрочем, если условие LP III' выполнено и если рассматривать только индексы р>а, то мы получим случай, когда все ga компактны, т. е. выполнена аксиома: LP НГ. Каковы бы ни были а, [}, а < [5, группа g^ компактна. Пусть условия LP 1,11 и ИГ выполнены. Предположим, что для любого а заданы замкнутые подгруппы Ga групп Ga, такие, что при и < р подгруппа Ga является образом подгруппы Gp при отображении/^. Тогда (§ 3)/ар является гомоморфизмом Gp на Ga; G^ и /^ удовлетворяют условиям LP I,'LP И, \
38 Глава I. Топологически? группы LP III, следовательно, G« имеют проективный предел G' относительно/^, который, очевидно, представляет собой замкнутую подгруппу группы G, состоящую из таких элементов х £ G, что Л(*)€Ф* для любого а. Обратно, если задана замкнутая подгруппа G' группы G и Ga—образ G' при /а, то G' будет проективным пределом групп G«. Действительно, G« замкнута в Ga (§ 3), и образ Gp при /вр для а < [J совпадает с G« . Следовательно, существует группа G" с: G', являющаяся проективным пределом групп Ga. Более того, если х' = (х'Л) £ G', то для любого а существует такой элемент х" = (ха) £G", что ха=х(Х, следовательно, G" всюду плотна в G', и так как G" замкнута, то G" = G'. В частности, если рассматривать бесконечное прямое произведение как проективный предел частичных произведений, то оно будет удовлетворять условиям LP I, II, ИГ, если все сомножители, кроме конечного числа, компактны. В этом случае всякая замкнутая подгруппа поямого пооизведения G является проективным пределом своих проекций на частичные конечные произведения в G. Пусть снова G — проективный предел, удовлетворяющий условиям LP I, II, ПГ, и пусть G'—инвариантная замкнутая подгруппа группы G. Ее образ G« при /а есть инвариантная замкнутая подгруппа группы Ga. Для а < ($ множество тех элементов из G«, образ которых при /а(3 принадлежит Ga, совпадает с G$gay Это замкнутая подгруппа группы Gp, и, вследствие § 2, GjGai изоморфна GJG$gaa, а значит, изоморфна и фактор-группе группы GJG§ по образу G$ga!> в последней группе. Таким образом определен гомоморфизм /as группы G^\G§ на Ga/Ga. С другой стороны, образы ga в GJG' составляют семейство замкнутых компактных подгрупп G\G\ удовлетворяющих условиям А), Б), сформулированным выше, поэтому GIG' — проективный предел соответствующих факторгрупп, изоморфных группам G/Ga относительно гомоморфизмов /а'(3. Если LP I, II, ИГ' выполнены, то для того, чтобы G была связна, необходимо и достаточно, чтобы все Ga были связны. Необходимость этого очевидна. Обратно, пусть Ga связны и пусть Е — непустое открытое и замкнутое множество в G;
§ 5. Проективные пределы 39 Eg также открыто и замкнуто, и то же самое верно для образа Е в Ga. Так как Ga связна, то этот образ совпадает с Ga, т. е. Ega=G; следовательно, Е всюду плотно в G, откуда E = G. Пусть, наконец, G — проективный предел Ga и пусть па — размерность Ga, а п — размерность G. Так как Ge — образ G лри /а, то па^п^у\ С другой стороны, пусть V—окрестность гединицы в G, тогда существуют а и Va такие, чтоизлга£ УЛ •следует х £ Vy и, кроме того, Ga может быть представлено как объединение замкнутых множеств F', каждое из которых содержится в множестве xaVa, и таких, что каждые па-\-2 из множеств F' имеют пустое пересечение. Следовательно, если обозначить через F множество всех элементов из G, образ которых при /а содержится в заданном F', то всякое F содержится в xV\ их объединение есть все G, и всякие #а-|-2 из них имеют пустое пересечение. Поэтому, если па^р для любого а, то п^р, Другими словами, п есть верхний предел чисел пЛ. Впервые понятие проективного предела последовательности конечных групп было введено, повидимому, Ж. Эрбраном [22]. Ранее П. С, Александров [3] ввел в топологию понятие проекционного спектра — частный случай понятия топологического проективного предела, аналогичного рассматриваемому здесь. Проективные пределы конечных абелевых групп неявно рассматривались в работе Л. С. Пон- трягина [47]. Л. С. Понтрягин [50] впервые рассматривал пределы последовательностей компактных групп. Понятие проективного предела последовательности групп (и аналогичное понятие для топологических пространств) было введено во всей общности Фрейден- талем [20], терминология которого лишь несущественно отличается ют нашей; он предложил также другого рода предел, к которому мы вернемся в примечаниях к § 28. Понятие проективного предела по частично упорядоченному множеству для случая компактных групп несколько лет назад сообщил мне К. Шевалле, соответствующее расширение понятия проекционного спектра принадлежит Курошу |32|. Ранее Р. Бэр [5] дал эквивалентное определение для частного случая проективного предела конечных абелевых групп; он, очевидно, избегал вводить топологию в определяемые им группы и поэтому был вынужден ввести два лишних условия (условия 1G и 1Н, стр. 872 его мемуара, следуют из остальных). I
ГЛАВА И МЕРА ХААРА § 6. Меры и интегралы. Множество называется не более чем счетным, есло оно конечно или имеет мощность множества всех целых чисел. Семейство множеств называется боре- левским телом, если оно содержит разность двух любых множеств семейства, объединение и пересечение любого конечного или счетного количества множеств семейства. Функция jjl4, принимающая численные неотрицательные или бесконечные значения, определенная на борелевском теле % подмножеств А множества Е, называется вполне аддитивной, если для любого А £ St, равного сумме конечного или счетного числа непересекающихся множеств Ач, имеем ji4-=V|i4N. V Такая функция будет называться мерой, а множества семейства— измеримыми, если она вполне аддитивна и если, кроме того, всякое А из % является объединением не более чем счетного числа множеств Av из £, мера которых конечна. Мера \х называется полной, если всякое подмножество любого измеримого множества меры нуль измеримо; если она не полна, то можно однозначно распространить меру ja на наименьшее борелевское тело %', содержащее Sfc и каждое подмножество любого множества меры нуль из S£. Таким образом, можна ограничиться рассмотрением полных мер. Функция f{x), определенная на Е и принимающая действительные неотрицательные значения, называется измеримой, если для любого а^>0 множество тех точек х, в которых f(x)^a, измеримо. Если f(x) измерима, то существует предел сумм Лебега, конечный или бесконечный, который мы будем называть интегралом функции f(x); если он "конечен,, то функцию f{x) мы будем называть суммируемой. Комплексную функцию f(x), т. е. функцию, принимающую комплексные значения, мы будем называть измеримой, если ее можно представить в виде /=/2—/г + */з— #4» где // не~ отрицательны и измеримы; она называется суммируемой, если ее можно так представить в указанном выше виде, что функ-
§ 6. Меры и интегралы 41 ции fi суммируемы и неотрицательны. В этом случае она имеет конечный интеграл, который мы будем обозначать \ f(x)d\i(x} или \f(x)dx (х означает точку множества Е). Всякая функ- ция, образованная из измеримых функций при помощи обычных процессов анализа (алгебраических операций и перехода к пределу по счетной последовательности),, будет измеримой. • Пусть для 1 ^/? <^-|-оо LP есть класс таких измеримых функций f(x), что |/(дг)1р суммируемо; положим \\f\\p=\\\f(*)\p<t*]1,p- Тогда, если fug принадлежат LP, то ||/—g"|| имеет свойства расстояния (неравенство Минковского). Относительно этой метрики Lp является полным метрическим пространством, (теорема Фишера-Рисса); в то же время оно является векторным пространством (точнее, банаховым пространством). Условимся раз навсегда, что если 1^/?^4~°°> то р' = - _ .•. Если 1 <С^р <СЧ~ °°» то также и l^P'^H-00^ если f£Lp, a£LP', то произведение fg суммируемо и имеет место неравенство Гельдера \'jjf(x)g(x)dx\^\\f\\p\\g\\pi. То же самое неравенство верно для р=1 и p'=-j-oo при условии, что П^Цоо для любой измеримой функции g(x) означает наименьшее из таких чисел а, что | g(x) | ^ а почти всюду. При р = 2 получается пространство L2; если в нем определить скалярное произведение формулой {f, g)= \ f(x)g(x)dx, то это будет гильбертово пространство (мы понимаем под этим, что оно будет удовлетворять аксиомам А, В, Е [38], гл. I; число измерений L2 конечно, счетно или имеет большую мощность). Наконец, пусть Е, F—два пространства (может быть, совпадающие), 1Л — мера, определенная на борелевском теле подмножеств А пространства £, и jjl8—т-мера, определенная на борелевском теле подмножеств В пространства /\ Обозначим, через х произвольную точку из Е, а через\у — произвольную точку из F. Пусть ЛУ^В— множество точек (х, у) про^ *€транства £ X ^ таких, что х £ Л, у £ В. Тогда в Е X F можно
-42 Глава II. Мера Хаара определить такую меру v, называемую произведением мер X, }Л, что если А измеримо по X и В измеримо по pi, то v(AxB) = — \A']iB; интеграл, образованный по мере v, имеет тогда все свойства классического двойного интеграла и, в частности, что особенно существенно, для него справедлива теорема Лебега- -Фубини: • \f(x,y)dv(x, y)=\dk{x) <\f(x,y)dit(y) = = [dV.{y)\f{x)y)dl{x) для любой суммируемой по мере V функции f(x? у). Общее значение этих интегралов записывают тогда так: [[f(x,y)dl(x)dy.(y). Таким же образом определяется понятие произведения мер и для случая любого конечного числа компонент; оно распространяется также на случай бесконечного числа компонент, если только каждая компонента имеет меру единицу. Произведение мер ассоциативно. Понятие меры особенно интересно для локально компактных пространств. Мы будем обозначать через L класс непрерывных в таком пространстве функций, принимающих комплексные значения и обращающихся в нуль вне некоторого компактного множества; через £+—множество всех неотрицательных функций из L. Пусть \i — мера, относительно которой всякая функция из L суммируема; тогда/(/)= \f(x)d$(x)— позитивный линейный функционал на L+. Обратно можно доказать, что всякому позитивному линейному функционалу /(/) на L+ соответствует одна, и только одна, мера jx, определенная на борелевском теле, содержащем все компактные множества из Е, такая, что если множество F компактно, то \iF равно нижнему пределу значений 1(f) для таких функций /из Z.+ , что /^ 1 на F) определенная таким образом мера называется мерой Радона. Итак, существует взаимно однозначное-соответствие между мерами Радона и функционалами/(/). Пусть ja— мера Радона; если построить по этой мерз пространство /Д l^p<[oo, то функции из L образуют всюду плотное множество в каждом таком Lp; пространство D* можно получить, замыкая по норме ||/—g"|| класс L ^можно легче всего выяснить с этой точки зрения свэйствд
* § 7. Мера Хаара 43 пространства Lp, если исходить из функционала /(/) на £+). По аналогии с этим результатом, пространство, полученное пополнением L пэ норме ||/—g"||oo> мы будем обозначать через L00; это множество равномерных пределов функций из L; другими словами, если функция ср непрерывна и если для ? любого е^>0 существует компактное множество, вне которого. jcp|<^s, то она принадлежит Z,00. По абстрактной теории меры и интегрирования можно рекомендовать книгу С. Сакса [55], см. также отчетливое, но очень сжатое изложение в начале интересной работы Е. Хопфа [24] по эргоди- ческой теории, где, однако, сделаны слишком ограничительные предположения относительно счетности. Можно рекомендовать также „Элементы математики" Бурбаки [13]; в этой книге имеется изложение теории интегрирования в локально компактных пространствах, основывающееся на понятии линейного функционала на множестве функций, обозначенном выше через L\ те результаты этой теории, которыми мы здесь пользовались, можно легко подучить непосредственно. § 7. Мера Хаара. Пусть Е— пространство, в котором действует группа преобразований G; мы будем говорить, что мера |хЛ, определенная на борелевском теае подмножеств А пространства Е, инвариантна относительно G, если для любого измеримого А и любого s £ G преобразованное множество sA •' измеримо и m(sA) — m(A). Тогда интеграл также инвариантен, т. е. если обозначить его через \f(P)dP и если Р—общая точка пространства Е, a sP — точка, полученная из Р преобразованием s, то функция f(sP) будет измеримой одновременно с f(P), причем, если f(P) суммируема (или измерима и неотрицательна), то \f(P)dP=\ f{sP)dP. В этой книге дифференциал будет символом меры, и указанную выше инвариантость мы будем изображать символически равенством d(sP)=dP. Мы будем заниматься в этой книге только однородными пространствами. Если, в частности, т — мера в пространстве группы G, то мы будем называть ее инвариантной (или, точнее, левоинвариантной), если справедливо одно из эквивалентных равенств mA=m(sA)y j f(x) dx=\ f(sx)dx, d(sx) = dx.
44 Глава II. Мера Хаара Кроме того; если т инвариантна относительно преобразования '(л:—^jc_1), мы будем еще иметь mA — m(sA)^m(A-1)^m(A-1s-^)===m{t-'1A''1s-^==m{sAt)y откуда [ f-(x) dx = [ f(sxt) dx = [ /(л:-1) dx. и символически , : : dx = d (sx) = d (ats) = d (sxt) — d (a:-1), Мы будем говорить, что мера т биинвариантна, если она инвариантна слева и справа одновременно. Понятие произведения мер позволяет определить инвариантную меру в конечном прямом произведении групп, если в каждой группе известна инвариантная мера, и в произведении групп (как конечном^ так и бесконечном), если в , каждой из них известна инвариантная мера, причем мера каждой группы равна единице. В локально компактной группе мера Радона, инвариантная слева и не равная тождественно нулю, называется мерой Хаара. Докажем следующую теорему: ч Во всякой локально компактной группе существует ? единственная (с точностью до постоянного множителя) 9 мера Хаара. Согласно § 6, достаточно доказать существование и единственность (с точностью до постоянного множителя) линейного 'функционала 1(f), заданного на L, неотрицательного на £+ и такого, что I (Sf)=I(f) для любых/£Z.+ , s £ G, где через Sf мы обозначаем /(s-1*). Введем следующее определение. Пусть /, g—произвола ные неотрицательные функции на G; рассмотрим всевозможные конечные системы * (если они существуют) элементов s- £ С? и положительных чисел ci9 таких, что /^2^5^, т. е. для любого х /(*)<2^(вГ^). Обозначим через (/; g) нижнюю грань сумм 2 с{, соответствующих всем таким системам, если они существуют, или -j- <x>, если нет ни одной такой системы. Ясно, что {Sf;g) = (f:g), что {cf:g) = c{fig) для любого действительного неотрицательного с и что (/+/': g) ^ <(/: «') + (/':^). Далее, (/:£)< (/:/*) - (ft : g), так как если /< 2 с&к и Л < 2 tf; Tjg, то /< 2 с( dj S{ Tfg.
§ 7. Мера Хаара 45 Если функция g ограничена и / не равна тождественно нулю, то (/:£)>0, так как (/: g)^ sup//supg\ С другой стороны, если / равна нулю вне компактного множества С и ограничена на С и если существует открытое множество Q, на котором нижняя грань т функции g положительна, то (/: g) конечно, так как С можно покрыть- конечным числом множеств Sj.Q, и если /^Ж, то f^Mjm • 2S£-g*. Начиная отсюда, мы будем предполагать, что g имеет положительную нижнюю грань в окрестности единицы; тогда, если /£ L+, то (/: g) конечно, и если / и /0 принадлежат L+, то Выберем в L+ некоторую фиксированную функцию/0, неравную тождественно нулю. Положим Af (g) = (f: g)/(/o : £")• Вследствие написанного выше неравенства число Af (g) принадлежит замкнутому ограниченному интервалу Jf=[\j(f0:/), (/:/0)], не содержащему нуля. Пусть J—топологическое произведение всех интервалов Jf для всех f£L+; так как каждое Jf компактно, то J тоже компактно. Числа AAg) можно рассматривать, как координаты точки A(g) = (Af(g)) пространства J. Пусть Fv—замыкание множества всех точек A (g) в 7, соответствующих функциям g, удовлетворяющим вышеуказанным условиям и обращающимся в нуль вне окрестности V единицы G. «Так. как J компактно, то Fv имеют непустое пересечение; в противном случае существовало бы конечное число множеств Fvt, соответствующих окрестностям 1/., пересечение которых было бы пусто; но тогда для содержащейся в пересечения Vt окрестности V множество Fv было бы пусто, что неверно. Пусть, следовательно, /=(/^)—- точка, содержащаяся во всех FVi т. е. такая, что для. любого V существует такая функция g, равная 0 вне V, что A(g) сколь угодно близко к /; тогда, если If — координата точки / относительно Jf, то, каковы бы ни были окрестность V и конечное число функций j^gl+, найдется такая функция g, обращающаяся в 0 вне Vr что Afy(g) для этих значений i будет СКОЛЬ УГОДНО блиЗКО К Ifi . Мы уже знаем, что Af+f(g)^Af(g)-{-Af>(g); следовательно, „ . • .
46 Глава II. Мера Хаара С другой стороны, чш кж Acf(g) = cAf(g) и Asf (g) = Af{g)yf то /^=с/уг и ISj = If. Покажем, что If+j' = If-]-If>; отсюда будет следовать, что /^ является искомым линейным функционалом. Рассмотрим сначала функцию /из Z,+, равную нулю вне компактного множества С. Пусть А £ £+, n' £ £+ и h-\-h' ^ 1. Функции А и А' равномерно непрерывны, и потому существует такая окрестность единицы V, что \h(x)—A (s) | ^ а п\п'(х)—h'{s)\^e для всех х £ sV. Пусть g обращается в нуль вне V; если f^SCjS-g, то член S>g обращается а нуль вне SfK, и, следовательно, для всякого х имеет место неравенство где в 2' участвуют лишь те индексы /, для которых x£stV+ Так как h (х) ^ Л (^.) -\- е, то также /(*)*(*)<2Ч^/) + Ф^, и, следовательно, для всякого л: то же самое верно и для А'. Отсюда следует, что (/»:*) + (/&':*)<(2<7)(1+2е), и так как сумму ct можно [взять сколь угодно близко к (f'*g), то, каково бы ни было $]>0, если только £f обращается в нуль вне соответственным образом выбранной окрестности V. Значит, при подходящем выборе g имеем AfA(g) + A//t>(g)^Af(g)(l+e) и, следовательно, Пусть теперь f£L+ и /'£Z,+ , причем /+/' равно нулю вне компактного множества С. Выберем функцию f'£L. так, что ее нижняя грань на С положительна. Положим F=f-f-f -\-ef, и пусть А равно //F на С и равно 0 вне С, таким же образом А' равно f'jF на С и равно 0 вне С. Функции F, А, А' принадлежат Z+ и A4-A'^l, hFz=±.f, h'F=f. Имеем:
§ 7. Мера Хаара 47 If-\-Ij,^IF\ но lF^If+f"\-*If"i следовательно, так как а можно выбрать сколь угодно малым, '/Ч"'/'^'/+/4 Итак,, функционал I* имеет все нужные свойства, и существование меры Хаара доказано. Остается доказать ее единственность. Рассмотрим для этого * какую-нибудь меру Хаара, и пусть I(f)=\f(x)dx— соответствующий ей интеграл. Если f^^c^g и если /£Z,+, g£L+, то, интегрируя оба члена неравенства, получим /(/)^ < 2 CJ (£)> следовательно,, (f-g)^I (/)// (g)> Предположим теперь, что / принадлежит"множеству Z+; функция /равномерно непрерывна, и потому существует такая окрестность единицы V, что из х £ sV следует \/{х) —f(s) | ^ е. Пусть g£L+ равна нулю вне V и g{x"1)=^g{x). Рассмотрим интеграл \f{s)g (s'^x) ds; функция g (s-lx) равна нулю для x$s V, а если x£$V, то f{s)^f(x)— s, следовательно, имеет место неравенство \f(s)g(s-ix)ds^[f(x) — s][g(s-iX)ds; но g(s~1x) = g(x~1s)i значит, это неравенство может быть написано в виде /(*) —е < 1// (g) • J f(s)g{s-*x)ds. Так как g равномерно непрерывна, то мы можем выбрать такую окрестность единицы W, что при у £ Wz имеем \g(y)—g(z)\^ri- Предположим, что / обращается в нуль вне некоторого компактного множества С. Вследствие известного результата о свойствах компактных пространств [17], можно выбрать конечное число таких элементов st £ G и функ- чций ht €^+> что на C2fy=l и всякое ht равно нулю вне fiW(hi образуют „разбиение Дьедоне"). Следовательно, J [f(s)g(s-'x)ds=^j:\f(s)hi(s)g(s^x)ds. ВД тмеем: h^s) равна нулю, если s £ st\ft а если s^s^, то ш1х£ Ws"lx и, значит, g(s~1x)^g(s~rlx)-\-ri. Следова- или си^ ^f(s)g(s^x)ds^^lI(fhi)[g(sT^x) + ril 4 А. Вейль
48 Глава II. Мера Xdapa Положим c/ = /(//rI-)//(gp). TOr*a 2 с, =:/(/)//(£). Мы имеем, следовательно, Пусть /'£Z,+ и /'=1 на С; неравенство, написанное выше, эквивалентно /(*) < (S -f Г; 2 С,)Л*) + 2 Ct Stg, и потому, так как 7) можно взять как угодно малым, if-'g)^*if--g)4-№He)> . где s также как угодно мало, если только g обращается в нуль вне подходящей окрестности единицы. Отсюда следует, что, если /0£Z.+, a g удовлетворяет условиям g£L+, g(x~'1) = g(x) и g обращается в нуль вне достаточно малой окрестности единицы, то (/ : g)j(fo : g) сколь угодно близко к 1(f)/I (/о). Следовательно, отношение7(/)// (/0) целиком определяется структурой группы; таким образом, тео- * рема полностью доказана. Метод, примененный здесь для доказательства существования меры Хаара, сохраняет основную идею Хаара [21]; последний предполагал выполненной „вторую аксиому счетности", что позволило ему применением диагонального процесса обойтись без аксиомы Цермело. Аксиома Цермело участвует неявно в нашем доказательстве, так как мы пользуемся теоремой Тихонова [62]: „Всякое топологическое произведение компактных пространств компактно'. Вместо того чтобы пользоваться этой теоремой, можно было бы применить фильтры А. Картана (см. [13 Ь]); определив на множестве функций g подходящий „ультрафильтр", можно было бы „обобщенную последовательность" Af (g) сделать сходящейся для любой/; ее предел и был бы искомым функционалом /(/). Это доказательство, впрочем, только с виду отличается от доказательства в тексте (и для доказательства теоремы существования ультрафильтров нужна аксиома Цермело, которой она, впрочем, эквивалентна). См. также доказательство Банаха теоремы Хаара , ([55], приложение, он. там по ль-' зуется своим обобщенным пределом). Что же касается единственности и вытекающих из нее основ-' ных свойств, то они были получены также и фон Нейманом у I который раньше доказал единственность и биинвариантность у / Хаара в компактных группах при помощи, определения среднс/у значения функций [40] (см. § 34 этой книги). ' § 8. Свойства меры Хаара. Являясь мерой Радона^ мера Хаара конечна для всякого компактного множества С, гак как в L+ существует равная единице на С функция /, • а тогда
§ 8. Свойства меры Хаара 49 mC*^I(f). Обратное, вообще говоря, неверно, но "тем не менее для того, чтобы множество Е имело в G компактное замыкание, достаточно, чтобы в G существовало такое множество Л положительной меры с компактным замыканием Л, что Е-А имеет конечную внутреннюю меру (внутренняя мера множества равна верхнему пределу мер измеримых множеств, содержащихся в нем). Действительно, если последнее имеет у место, то можно построить последовательность таких элемен-- ,тов s^E, что s^s^A-A-1, т. е. для pi<v svA f]siLA= ф. Объединение множеств ^Л, s2A, ... , ъ\А имеет меру у-/иЛ; оно содержится в />Л, значит, число v ограничено, и, следовательно, Е содержится в объединении конечного числа мно- . жеств s^A • Л"1; каждое из этих множеств содержится в компактном множестве s^ A • А"1, поэтому Е содержится в компактном множестве. В частности, для компактности самой группы G необходимо и достаточно, чтобы ее мера была конечна. Выведем из единственности меры Хаара полезные для применений правила исчисления (мы рассмотрим еще эти правила в другом аспекте в приложении II). Прежде всего, если 1(f)—функционал, соответствующий мере Хаара тЕ> то функционал /'(/) = J/(^-1) dx имеет те же свойства, что и 1(f), и, следовательно, отличается от 1(f) лишь постоянным множителем A(s), который является действительным положительным числом: [f{xs-1)dx = b(s) - \f(x)dx. Из равномерной непрерывности функции / следует, что A(s)— непрерывная функция от $; ясно, что Д (st) = A (s)- k(t). Функционал {Г (f) соответствует мере m'E=m(Es), и, следовательно, имеет место следующее равенство: *m(Es) = A(s)mE, или символически d(xs) = A(s) • dx 4 А. Вейль
О Глава IL Мера Хаара Если A(s) = l для любого s, то мера тЕ инвариантна л справа; miE-1)— мера Хаара, следовательно, т(Е-г) = ктЕ> *■ mE=k2mE, откуда k—\ и т(Е~1 ) = тЕ; в этом случае мера Хаара биинвариантна (§ 7), и группа G называется унимоду- лярной. Если Д(5) не постоянна, то уравнение Д (s) = 1 определяет замкнутую в G инвариантную подгруппу U, фактор- \У группа GJU по которой изоморфна некоторой подгруппе аддитивной группы действительных чирел; если G связна, то ё GJU изоморфна аддитивной группе всех действительных чисел. * В компактной группе это невозможно, так как в этом слу- * чае GJU должна быть компактной группой; невозможно это также, если G — полу простая группа Ли (так как ни одна фактор-группа полупростой группы Ли не абелева); итак, компактные группы и полупростые группы Ли унимодулярны- Рассмотрим теперь функционал JW=[f(x-*)b(x-i)<rx. Подставляя сюда xs вместо х и применяя найденную выше формулу, можно убедиться, что J(Sf) = J(f); итак, ввиду единственности меры Хаара J отличается от интеграла l{f)=\f{x)dx точько постоянным множителем. Но Д(^) = 1, следовательно,, существует окрестность V единицы, в которой Д(дг) отличается как угодно мало от единицы; если теперь выбрать функцию/, равную нулю вне V и такую, что /{х~г)=/(х)у то J {/)j1(f) также будет сколь угодно мало отличаться ©т единицы, следовательно, 7=/, что можно выразить символическим равенством d(x'1) = H(x'1)^dx ; отсюда можно вывести: т(Е-*)=\ b(x~l)dx* Ь { В частности, если Е имеет меру нуль или конечную положительную меру, то и Е-1 имеет соответственно меру нуль иди конечную положительную меру.
§ 8. Свойства меры Хаара 51 ** Наконец, легко определить меры, относительно инвариантные на G; мы назовем, по определению, меру Радона относительно инвариантной, если при преобразовании (х—Acs) она( умножается на постоянный множитель. Если /'(/) — соответ- * ствующий такой мере линейный функционал, то /' (Sf) = = l(s)»I'(/), откуда следует, как выше для A(s), что i(s) непрерывна и удовлетворяет равенству X(st)=:X(s)'l(t). Но тогда 5(г1/) = Х(*)-Г^/> °™уда I'CrlSf) = I'(Г1/) и, следовательно, /'(Х"1/)* рассматриваемый как функционал от/, отличается pi I(f)=\f(x)dx только постоянным множите^ лем. Тогда, умножая, если это нужно, Г (f) на такой постоянный множитель, получим I'W = )l(x)fix)dx. Обратно, если x(s)"—непрерывное неотрицательное решение уравнения % (st) = %(s)i (t), то написанная выше формула определяет функционал /'(/), удовлетворяющий условию Г (Sf) = — Х(^)^Ч/)> которому соответствует относительно инвариантная мера. На локально компактной группе можно образовать относительно меры Хаара определенные в § 6 пространства LP. Так как мера инвариантна, то Sy £ Lp для любых s g G и у £ I**, и 11*5?lip = llyll/> Для 1^р<С + °°; эта формула верна также и для р == оо. Если 1^/7^-[-оо, то функции класса L всюду плотны в LP (§ £). Следовательно, если tp£jrp9 то существует такая непрерывная функция /, обращающаяся в нуль вне компактного множества С, что ||ф—/\\Р<:В, и, следовательно, ||S<p— Sf\\p^e. Пусть С/ — некоторая компактная окрестность единицы; так как / равномерно непрерывна, то существует такая окрестность единицы I/, что V a U и из s£V следует \f(s"1x)—/(x)\^rh т. е. \Sf—/|<i), или, иначе, II*У—/Ноо^Ч* ^° так как ^ компактно, то существует такая функция f£L+, что/=1 на £/С; тогда, если s£F, то S/=0 вне КС, значит, 5/—/=0 вне £/Сг поэтому |S/—/|<7]/', и, положив с = ||/'||р, мы получим ||S/—/!!,< =s^£ij (для l^/?^-f-°°)' Следовательно, J|Sy — <р|| <;' s^2e-f-£7j. Мы можем выбрать произвольно 8, найти последовательно / и /', что дает нам величину с, а затем выбрать произвольное 7j. Отсюда мы получаем предложение: 4*
52 Глаза II. Мера Хаара Если со £ Lp{\ ^p *^-{- оо), то всякому е]>0 соответствует, такая окрестность единицы V, что из s£V следует \\S-f — ?1!р<е. Так как для любого 5 функция Sep принадлежит LP однозре- менно с ср, то Sep можно рассматривать как функцию от s со значениями в LP, причем, вследствие инвариантности меры, ||5ср — 7>|1р =||Г-15у — ср||р. Следовательно, flS<p —7>И/,<е, если только ^-^б V, т. е. если s£ tV. Другими словами, Sep, рассматриваемая как функция от s со значениями в Lp, равномерно непрерывна справа. Таким же образом, вследствие свойств меры, ср (xs-1) £L? одновременно с <р, а Цу (jc^-1)||p== = k(s)llp\\<p\\p (это остается верным и для p=-f-oo). Тоже самое рассуждение, что и выше, показывает, что если выбрать соответствующую окрестность V, -го [|ср (xs-1)—ъ (x)IL^s для всех s£ V, и что cp^s-1), рассматриваемая как функция от s со значениями в LP, равномерно непрерывна справа. Для р = -f- оо этот результат не зависит от теории меры и означает просто, что всякая функция из Z.00 равномерно непрерывна слева и справа (в обычном смысле). Итак, если ср £Lp (1 ^р^-\-ос), то множество тех элементов s, для которых ср (xs) = ср (л:) почти всюду, образует в G замкнутую подгруппу; если функция ср, принадлежащая LP, постоянна на классах смежности по какой-нибудь подгруппе g группы G, то она постоянна на классах смежности по подгруппе g; в частности, если g всюду плотна в G, то ср постоянна на классах смежности по g тогда, и только тогда, когда ср — константа. Поэтому множество элементов смежных классов по всюду плотной подгруппе, если оно измеримо и имеет конечную меру, либо является множеством меры нуль, либо (если мера G конечна) дополнением до множества меры нуль. Для группы сдвигов на прямой и при р = \ непрерывность Sy для <р£ LP как функции от 5 со значениями в Lp есть известная теорема Лебега, доказательство которой совпадает с приведенным выше для общего случая. ^§9. Меры* в однородных пространствах. Пусть H=Gjg—однородное пространство, определенное локально компактной группой G и ее замкнутой подгруппой g^wl\ Относительно инвариантной мерой в Н называется такая мера Радона в //, которая умножается на постоянный множитель, если
§ 9. Меры в однородных пространствах 53 в И совершается преобразование из группы G. Пусть Z+ — множество непрерывных в Н функций h (Р), принимающих неотрицательные значения, каждая из которых обращается в нуль вне некоторого компактного множества. Пусть J(h) — = \ h(P)dP — функционал на /,+ , соответствующий некоторой относительно инвариантной мере в //. Тогда J(Sh) = — \ h(s-1P)dP — i(s)-J(h), откуда следует, что % (s) — непрерывная функция и X(st) = i(s)i(t); это можно записать символически: d( sP) = I (s) dP. Но так как g локально компактна, в g существует мера Хаара; и если \f(£)dZ— соответствующий интеграл (£ здесь и во всем этом параграфе будет обозначать элемент подгруппы g), то вследствие § 8 для любого a £g имеют место символические равенства: d(Gz) = d£y */(£a) = 8(a)tf£, где 8(a)—непрерывная на g функция, удовлетворяющая уравнению 8(ат) = 8(а)«(т). Пусть теперь f£L+; рассмотрим тогда функцию \f(x£)d£; если а £ g, то она не меняет своего значения при замене х на лга, в чем легко убедиться, подставив в получающееся выражение а-1£ вместо S. Следовательно, она постоянна на классах смежности xg no g, т. е. ее можно рассматривать как функцию на И\ /</>)=j/(*e)de, и если /££+, то /££+. Таким образом мы получили линейный оператор, который всякой функции / из L ставит в соответствие функцию / из L . Далее, если h£L+, то существует такая функция / из Z,+, что /=й. Действительно, k обращается в нуль вне некоторого компактного множества С в Н; пусть С — компактное множество в G, имеющее С своим образом (§ 3); пусть F— такая функция из L+, что F положительно на С; тогда ~F(P)=^F(x£)d% положительно на С При этих условиях функция f(v,F(x).h(P) НХ)- F(P) '
54 Глава II. Мера Хаара где Р обозначает класс смежлости х&, содержащий х (мы полагаем, что f{x) равна нулю, если F(P) = 0), принадлежит Z.+ , причем/== h. Следовательно, оператор (/--*/) отображает L+ на Г+. Предположим тепэрь, что в Н существует такая относительно инвариантная мера, которой соответствует функционал J{h)=\h{P)dPy что d (sP)-i(s) dP. Пусть /£ Z,+; будем рассматр ивать J (f)— \ dP \ f(xz)d$ как некоторый функционал /'(/): /' (Sf)=X(s)I' (/), значит (с точностью до постоянного множителя, который можно сделать равным единице, умножая </Яна постоянный множитель), согласно § 8, Г (f)=\x(x)f(x)dx, т. е. \dP[f(j£)dZ=\i(x)f(x)dx или символически dP-dZ = X(x)dx. Если в этом равенстве f{x) заменить на /(лга-1), где a£g, то, подставляя £а вместо £, получим, что первый член умножится на 8(a), второй же член умножится на ^(а)Д(а), в чем легко убедиться, подставив х<з вместо х. Отсюда имеем: 8(a) = x(a)A(a). Итак, мы получили необходимое условие для того, чтобы в Н существовала относительно инвариантная мера с множителем x(s). В частности, если g—инвариантная подгруппа в G и H=Gjg—фактор-группа, то существует мера Хаара с множителем Х^'^** Следовательно, для всякой инвариантной подгруппы g группы G 8(а) = Д(а); а потому, в частности, подгруппа £/, определенная условием Д(^)=1, и всякая инвариантная подгруппа группы U унимодулярны; U — максимальная унимодулярная подгруппа в G. Обратно, предположим, что при заданной подгруппе g существует такое непрерывное положительное на G решение % (х) уравнения х(^) = Х(5)Х(')» что *(6) = X(a)'Ma) Для всякого a£g\ Пусть для /££+ r(f)=\l(x)f(x)dx.
§ 9. Меры в однородных пространствах 55 Если / переводится оператором (/—►/) в тождественно равную нулю функцию /, то Г(/) = 0; действительно, равенство [/(хс,)а*£ = 0 при замене $ на £-* дает 0=J/(*5->)e(5-1)rfSl откуда, умножая на F (х) % (х) dx (где F— произвольная функция из L+)y интегрируя по х и изменяя порядок интегрирования, получим 0=^(Z-i)dZ^F(x)i(x)f(xZ-*)dx; далее, подставляя лг$ вместо х и воспользовавшись сделанными предположениями относительно X (х)> dx и &+, получим 0=[dZ[F(xZ)i(x)f(x)dx, т. е. 0 = ^l(x)f(x)dx[F(xZ)d*. Если /—функция, обращающаяся в нуль вне некоторого компактного множества С, то, выбирая такую функцию F£L+, что F (Р) — \ F (jcS) d% равняется единице для любого х £ С, получаем из этого равенства, что /'(/)=:0. Другими словами, /' (/) зависит только от функции /(Р), -и его можно рассматривать как линейный функционал л/(/), определенный на L+. Мы имеем /' (Sf) = %(s)r (/), следовательно, J(Sf) = x(s)'J(f). Таким образом, функционал /(/) обладает всеми желательными свойствами. Равенство 5 (а) = % (а) • Д (а) необходимо и достаточно для того, чтобы в H = Gjg существовала относительно инвариантная мера, умножающаяся на % (s) при преобразовании 5. Эта мера, если она существует, однозначно определена (с точностью до постоянного множителя) равенством ^dP[f(xZ)dt = ^f(x)i(x)dx или символически dP-dt = i(x)dx
56 Глава II Мера Хаара В частности, если g унимодулярна, то в H=Gjg существует относительно инвариантная мера, а для того чтобы в H=Gjg существовала инвариантная мера, необходимо и достаточно, чтобы на g выполнялось равенство 8 (з) = Д (с) (VI1). Для однородного пространства, определенного замкнутой подгруппой группы Ли, полученные здесь результаты относительно существования и единственности инвариантной меры легко вывести непосредственно, во всяком случае, если ограничиться теми мерами, которые можно определить при помощи кратного интеграла в классическом смысле. Если группа является группой движений плоскости, пространства или, более общо, эвклидова пространства любого числа измерений, то можно считать, что однородное пространство представляет собой множество линейных многообразий определенного числа измерений. Если перевести это на язык теории вероятностей, то мы получим понятие геометрической вероятности, так удачно использованное В. Бляшке и его школой в их трудах. „Интегральная геометрия" (см., например, [7]). Существование и. единственность инвариантной меры при отмеченных выше условиях можно получить из их теорем. 4
ГЛАВА III СВЕРТКА ФУНКЦИЙ § 10. Операторы в группе. Пусть О — произвольная группа и А — такое множество числовых функции на G, что всякая конечная линейная комбинация (с постоянными коэффициентами) функций из А принадлежит этому множеству. Линейное преобразование 7\ ставящее всякой функции f(x) из А в соответствие числовую функцию f{x), называется оператором группы G, если для любых /£ А и s £ G f(xs) £ A и T[f(xs)]=f(xs). Другими словами, линейное преобразование Т называется оператором группы, если оно перестановочно с преобразованиями \f(x)—>f(xs)]. Эти операторы можио было бы назвать операторами левых сдвигов в противоположность операторам, перестановочным с преобразованиями [/(х)—>f(s~1x)], которые можно было бы назвать операторами правых сдвигов, однако эти последние мы не будем рассматривать. Если Т — оператор, определенный на А, и h (x) — функция из А, постоянная на классах смежности xg группы G па какой-нибудь подгруппе g, то h=Th тоже постоянна на классах смежности xg; таким образом, всякий оператор Т группы G индуцирует для любой подгруппы g оператор, действующий на некотором множестве функций однородного пространства Gjg. Простейшие из операторов группы G мы уже рассматривали, это — операторы S/, которые всякую функцию f(x) переводят в f(s~lx). Они образуют группу, изоморфную группе G. Их конечные линейные комбинации образуют кольцо, состоящее из операторов вида A/=Itcif(s-1x). i Если \i£ — мера, определенная на группе G, то ей можно поставить в соответствие оператор
58 Глава III. Свертка функций Если мера ]iE сосредоточена в конечном числе точек s- (т. е. обращается в нуль на всяком множестве, не содержащем ни одной из этих точек), то оператор Т f сводится к оператору Д/= 2 с&/ рассмотренного выше типа. Для локально компактных групп интересно рассматривать операторы 7 , соответствующие мерам Радона, и их линейные комбинации (с действительными или комплексными коэффициентами). Будем называть комплексной мерой Радона линейную комбинацию мер Радона с комплексными коэффициентами, а операторами Радона— соответствующие этим мерам операторы. В частности, комплексная мера Радона будет называться ограниченной, если она является линейной комбинацией ограниченных на G мер Радона, т. е. таких мер, что p.G — конечное число; оператор 7^, соответствующий такой мере, мы также будем называть ограниченным. Равенство TJixz) — Т^(х) = J [f(y-*xz) —f(y~lx)\ dti(у) показывает, что такой оператор преобразует всякую ограниченную равномерно непрерывную справа функцию f(x) в имеющую те же свойства функцию Г /. Произведение двух ограниченных операторов Радона также является ограниченным оператором Радона, так как TJJ=[\f(y-*z-ix)dHy)dp.(z), откуда Т TV/=T /, где р — комплексная мера Радона, соответствующая функционалу I(F)=[P (х) d?(x)=\[F (yz) tfv (у) dv. (z) И pG = |xG.vG*). Итак, ограниченные операторы Радона образуют колыю. Кроме того, эти операторы определены для всех функций из LP и преобразуют каждую такую функцию опять в некоторую функцию из LP. Это достаточно доказать для оператора 7^, соответствующего такой положительной мере *) На языке теории вероятностей это означает: если р. и v — такие меры Радона, что jiG = vG=l, то р — мера, определяющая композицию этих законов, т. е. закон распределения ху9 когда законы распределения случайных величин х, у заданы мерами ji, v соответственно.
§ 11. Свертка функций 59 Радона ja, что jiG=l. Но если f(x) и g(x) принадлежат L (§ 6), то \T^gdx=^d]x(y)[f(y-ix)g(x)dx, откуда следует, что при сделанных предположениях и, значит, вследствие известных неравенств, ЦГ^/Ц ^ 11/[|р- Соответствие (/—> Т /) может быть продолжено по непрерывности на все LP (1 ^ р <: -|т оо); и, какова бы ни была функция <р из Lp, результат преобразования Т^ср будет принадлежать /Л При этом ||Т^||р< ||<р||р> и если g£L, то J TiLfgdx=[dii(y) J cp (y-*x)g(x)dx. Последнее равенство можно получить, переходя к пределу в соответствующем равенстве для функций из L (аналогичный переход к пределу позволит заменить функцию g произвольной функцией из LP'). В частности, если <р£1р, V — такая окрестность единицы, что ||5'f—jp|L^s Для каждого эаемента s из V (§ 8), и ji — такая положительная мера Радона, обращающаяся в нуль вне V, что jaG=:1, то [(Т ? — <p)gdx= \dp.(s) \{Su — >f)gdxy откуда вследствие неравенства Гёльдера \\{T^ — i)gdx\^'\\g\\p,, и, следовательно, *- \\т^ — ?11Р<е. § 11. Свертка функций. Особенно интересный класс ограниченных мер Радона составляют комплексные меры Радона, определенные символически равенством d\L(x) — <b(x)dx, где ф€£х. Докажем важную для дальнейшего теорему о мере Хаара в группе G X G. Пусть J(F)=[F(x,y)d(x,y)
60 Глава III. Свертка функций означает интеграл, соответствующий этой мере. Тогда, вследствие единственности (с. точностью до множителя, который можно предположить равным 1) меры Хаара, имеем J(F)^[F(xyy)d(xyy)= \\F{x,y)dxdy, или символически d(x, y) = dxdy. Но двойной интеграл можно написать в форме \ dy \ F(x, y)dx, и, подставив во втором интеграле у~гх вместо лг, мы получим J{F)^[[F{x,y)dxdy=§F{y-*x,y)dxdy, что можно записать символически формулой d(x, y) = d(y~ix, у) Следовательно, гомеоморфное отображение [(лг, у)—>(у~1х, у)] группы GxG на себя оставляет неизменной меру Хаара группы GxG. Пусть (f (л:), сЬ (х)—две функции, измеримые на G; по теореме о произведении мер функция со (х)^(у) измерима на GxG; то* же самое верно для функции $(у)\у (у~гх), и, следовательно, почти для всех х функция tyiy^'fiy*1*) измерима по у. Отсюда следует, что если <Ь£Ьг и Т —оператор, соответствующий мере d\i(x) = <h(x) dx, то результат преобразования Г^ср функции y£LP будет определен почти для всех х формулой »(*) = $ ф (у) Viy-tx) dy.. Функция & называется сверткой функций t!> и ср и обозначается символом & = ф*ср. Подставляя ху вместо j/ в выраже- ние для &, получаем, что Ь(х) изображается также формулой »(*)=Uto')¥0'-,)rfy. Вследствие результатов § 10, мы имеем 11<И>11р*£||ф,[|НМ1р. J Следовательно, свертка ф*ср, рассматриваемая как функция пары (ф, ср) из пространства L1 xLp со значениями в Z/, непрерывна.
§11. Свертка функций 61 Если f(x) — чистовая функция на группе G, то функцию f{x~l) мы будем во всей этой книге обозначать символом f(x). При помощи этого обозначения свертку можно записать так: ф#у== \ Xf^dy= \ X-1<b-ydy. Из этой формы записи видно, что свертка определена, если ф£/>' и y(zLp, и что \¥*\<Шр>'Ыр- Кроме того, из приведенных выше выражений для свертки следует, что ф#;р— непрерывная функция (это получается при помощи результатов § 8). Если <р обращается в нуль вне множества А, а ф— вне множества £, то ф*ср равняется нулю вне множества В А. В частности, если fug принадлежат классу L (§6), то же самое верно и для свертки g*f. Так как класс L всюду плотен в D*' и в Lp9 то из написанного выше неравенства следует, что если <Ь £ LP\ <р £ Lp, то V * * * <Ь#р принадлежит Ь°°, равномерно непрерывна справа и 1 V слева и потому является непрерывной функцией от пары (ф, и) из пространства LP' x Lp> принимающей значения из Z,00. Например, если А и В— измеримые множества положительной конечной меры, <рА — характеристическая функция множества Л и <рв — характеристическая функция множества В, то <?A*<?B = m(Af)xB), следовательно, т(А(]хВ) является функцией класса Z.00, равномерно непрерывной справа и слева и равной нулю вне множества А*В~г, причем из равенства \ т(АГ\хВ)Ях = тА»т(В-1) » следует, что эта функция не обращается тождественно в нуль. В частности, если А = £, то т(А(]хА) непрерывна, не равна нулю в точке х = е и, следовательно, не равна нулю в некоторой окрестности V единицы. Каково бы ни было измеримое множество А конечной положительной меры, А-А"1 является окрестностью единицы. Если группа G связна, то в силу § 2 она порождается элементами каждого такого множества А. Беря компактное множество В, легко получаем, что всякое измеримое множество А конечной положительной
62 Глава III. Свертка функций меры содержит измеримое множество А' положительной меры с компактным замыканием. Это позволяет дать следующий критерий компактности (§ 8): для того чтобы множество Е группы G имело компактное замыкание, необходимо и достаточно, чтобы существовало такое измеримое множество Л конечной положительной меры, что внутренняя мера множества Е-А конечна. Если теперь в формуле, определяющей свертку &(л:) = ф*<р, подставить z~lx вместо х и z~ly вместо у, то мы получим b(z-1x)=^(z-1y)^p{y-'ix)dy; . следовательно, операция свертывания ассоциативна: ш*(ф*<р) = (ш *ф) *<р = \ \ (j>(z)ty(z-[y)® (y~1x)dy dz; эта формула верна всегда, когда она имеет смысл, т. е.> согласно сказанному выше, когда w, cb, у принадлежат L1 или же когда wgl1, $£Lp', <f£L?. Из написанной выше формулы для Ь(г~гх) следует, если положить х = е, что соотношение & = ф#<р влечет за собой &=(р#ф и обратно. Мы будем пользоваться обобщением этого результата для матриц, элементы которых являются заданными функциями на G; для этого введем следующие обозначения. Пусть Л*(*)=1НУ(*)|| (/=1,2, ...,г; 7=1,2, ...,г') — матрица с г строками и г' столбцами, где т^(х) — числовые функции на G. Мы будем всегда обозначать через МТ(х) матрицу, транспонированную по отношению к Ж (т. е. полученную из М заменой строк на столбцы), и через М матрицу, определенную равенством М(х) = Мт(х"1). Пусть N (х) — другая матрица с г' строками и г" столбцами; обозначим через M*N матрицу R(x), определенную формулой R(x) = M*N=[M(y)N(y-1x)dy, если только это выражение имеет смысл в соответствии со сказанным выше (произведение под знаком интеграла является обычным произведением матриц). При этих условиях соотношение R=M*N влечет за собой jR = N*M, и обратно.
§ П. Свертка функций 6$ Во всей этой книге мы будем обозначать через М матрицу,, комплексно сопряженную с М\ в частности, если f(x)— комплексная функция на G, то /(х)=/(х-г). При этом очевидно, что из R — M*N следует R = N *ЛТ. Наконец, применяя к свертке результаты § 10, мы видим, что если у — заданная функция из LP', то существует такая окрестность единицы V\ что для каждой принимающей неотрицательные значения функции сЬ£^Л равной нулю вне V и такой, что \ ty(x)dx = 1,, выполнено неравенство ||(ф*у) —у||р<е. Легко видеть также, что в этих условиях при подходящем выборе окрестности V имеем ||(у*ф) — у\\р^е. Например, если А — содержащееся в V измеримое множество конечной положительной меры, <рл — характеристическая функция мно- жества А и сЬ=—— , то <р#ф=-^ I y(y)dy, откуда, по- хА лагая для всякого измеримого множества Еу на котором ср- интегрируема, ]iE— \ y(y)dx> получим у. (хА) . ч тА • l ' Понятие свертки (по-французски nle produit de composition", по-немецки „Faltung", по-английски „Faltung" или „convolution")' играет основную роль во многих отделах математики. Частные случаи этого понятия встречаются очень часто. Свертка, которую мы исследуем здесь в группах, является частным случаем свертки функций двух переменных, которая для действительных функций двух переменных была впервые определена и исследована В. Воль- терра (см., например, [63]); В. Вольтерра исследовал также (под названием „свертки ядер замкнутого цикла") свертку в группе R1 сдвигов на прямой. В случае группы Г1 (аддитивной группы действительных чисел по модулю 1) свертка появилась впервые в теории 1 тригонометрических рядов. Роль, которую она играет в теории компактных групп, была, как нам кажется, впервые выяснена Г. Вейлем, который рассматривал свертку как обобщение понятия произведения в гиперкомплексной алгебре, определенной на конечной группе (см. [68] и [70])(vU1).
64 Глава III. Свертка функций § 12. Компактные семейства в Lp. Пусть Ф — некоторое семейство функций в ZA По известному критерию (см. [4], гл. II, или [13Ь]), для того чтобы Ф имело в LP компактное замыкание, необходимо и достаточно, чтобы для всякого положительного s можно было найти конечное число таких функций 0/ £ LP, что всякая функция из Ф находится на расстоянии меньше £ по крайней мере от одной из функций и(. Пусть опять Ф — множество функций из Lp (\ ^р ^-\- оо). Для того чтобы Ф имело компактное замыкание, необходимо и достаточно, чтобы были выполнены следующие условия: 1. Существует такое число М, что \\у\\р<:М для всех 2. Всякому е^>0 соответствует такое компактное множество С в группе G,. что для любой функции <р £ Ф имеем || ср — <р'|]р< s, где через <р' обозначена функция,равная у на С и нулю вне С. 3. Всякому б^>0 соответствует такая окрестность V единицы, что из s£V, <р£Ф следует \\Sf — у||р^е. Эти условия необходимы. Действительно, пусть Ф имеет компактное замыкание. Тогда существует конечное число таких функций /j, что расстояние любой функции из Ф хотя бы от одной из /. не превосходит -q-; класс L всюду плотен в L^y поэтому можно предположить, что все f- принадлежат Z,. Теперь можно за М принять наибольшее из чисел H/fHp+4"» за С — то компактное множество, вне которого все ft обращаются в нуль, и за V—такую окрестность единицы, что если s£V, то \\Sf{—fi\\P<>\ Для всех /;• Чтобы доказать достаточность наших условий, разберем сначала тот случай, когда р=-\-оо и семейство Ф состоит из непрерывных функций, обращающихся в нуль вне компактного множества С: условие 1 означает, что функции семейства Ф равномерно ограничены; условие 3—что они равностепенно непрерывны. Пусть V выбрано согласно условию 3; покроем ^ С конечным числом множеств К-1^; можно выбрать конечное ( число таких функций /,£Ф, что для любой/^Ф найдется индекс у, для которого
§ 12. Компактные семейства в Lp 65 для всех Sj. Так как любая точка х множества С принадлежит одному из множеств V^1si, т. е. х = г"гз£9 где z£V, то (по условию 3) \f{x)—/у (л:) | ==^ 3s; то же самое верно, если лгСС, так как тогда f(x)=fj(x) = 0. Таким образом, в нашем случае теорема доказана. Перейдем к общему случаю. Пусть М, С, V выбраны согласно условиям 1,2, 3; можно считать, что К компактно. Пусть g—непрерывная неотрицательная функция, обращающаяся в нуль вне V, и такая, что \ gdx=\. Пусть, далее, <р — произвольная функция из Ф и <р' — функция, равная у на С и нулю вне С. Положим (p"=g*(p'. В силу условия 2 W — <Pll/7^s> значит, \\Sy' — 5<р||р<з, откуда, по условию 3, ц£у' — <р ||р=^3е для всякого s£ V; следовательно, согласно §§ 10 и 11, ||(g-*<p') — р'|КЗги, значит, \\<р"—yl^^s. С другой стороны, у"= \ g{y)<p' (У~гх)Лу, причем подинте- «у гральная функция отлична от нуля только тогда, когда y£V и у"1х £ С. Следовательно, <р" обращается в нуль вне VC. Обозначая через D максимум функции Д (лг""1) на С, мы имеем liy'll^D^llcp'H^D1^; следовательно, |<р"| < \\g\\p' • \\у'\\р^М', где М* не зависит от С и g. Далее, ISf — f \=\(Sg — g) * *' | < ||S* — g\\p,. \\i'\\pi значит, если выбрать соответствующим образом окрестность единицы W, то \Sif" — у"| будет сколь угодно мало для всех s из W. Из доказанного выше частного случая нашей теоремы следует, что семейство Ф" функций <р" имеет компактное замыкание в Z,00. Следовательно, для любого 8^>0 существует конечное число таких функций <f>/, что для любой функции f неравенство [|<р" — у/||оо<# выполнено по крайней мере для одной из <pj. Если /><^-|-оо, то отсюда имеем II/—Ъ\\р^Ъ-т(УС)Чри, следовательно, ||<р — у*|| p<4e-f- -\-Ь-т{УС)Ъ\ еслижер = + оо,то ||у —^||00<4е + *. Та- ким образом, теорема доказана. Для/? = + оо доказанная теорема является обобщением известных теорем о компактности равностепенно непрерывных семейств функций; см. об этом § 33. 5 А. Вейль
"" Глава IIL Свертка функций Щ § 13. Свертка в унимодулярных группах. Если <р— задан- f ная на унимодулярной группе функция из LP, то, очевидно, > <р££р и ||¥Пр=Нтр11р. в частности, если /gZ., g-gZ., то мы имеем неравенство 11*»/11со<||*11р'-11Я1,. С другой стороны, мы видели, что \\g*A\p^\\g\\i'\\f\\p. Зафиксируем / и рассмотрим g"*/ как преобразование функции g*. Тогда, применяя неравенства М. Рисса [54] (или [73], 9.2} и вышеприведенные неравенства, мы получим для любого #, удовлетворяющего условию l^qz^p', т. е. такого, что q^\ 1 f I - и, j ^1, неравенство \\g*A\r<\\g\\q-\\f\\p' где г определено соотношением — =-—| 1 . / Продолжая оператору*/понепрерывности, мы докажем, что для любых функций ф££я и <р{;£р определена их свертка ф*<р, принадлежащая V и удовлетворяющая неравенству 11ф*»11г<11фН^11?1|р> где р, #, г связаны условиями /?^ 1, #^ 1, — = 1 — 1^0. Заметим, что с этой точки зрения имеет м^сто двойственность между сверткой и обычным умножением функций. Если обозначить через q' и г' числа, определяемые равенствами 1—? = — -|—г = 1 (р? #, г остаются такими, как они выбраны выше), то для любых ф £/,?', y£Z,P' неравенство Гёльдэра показывает, что ф-ср принадлежит U' и 11Ф-?1^<11Ф11,-||?11^ Для абелевой группы эта двойственность находит свое выражение в преобразовании Фурье (см. гл. VI). Укажем еще одно важное свойстзо унимодулярной группы. N Будем называть следом функции f(x) на группе G и обозначать симзолом Sp (/) значение f(e) функции /в единице группы.
§ 14. Положительно определенные функции 67 В унимодулярной группе след свертки не изменяется при циклической перестановке сомножителей. Производя в свертке п множителей Д */2 * . . . */п циклическую перестановку, мы получим /2 #./3 * . .. #/п #/2, и положив f=fu g=fz*h* . • • */«> получим, что Sp{f*g)=Sp{g*f), так как это равенство можно написать в виде следующей формулы: \f(y)g(y"1)dy=\g{y)f{y^)dy, которая верна для унимодулярной группы. Для группы Т1 (аддитивной группы действительных чисел, приведенных по модулю 1) неравенство || Ф*?||г^||ф|и« ||<plU доказано Юнгом (см. [73], 4.16). 14. Положительно определенные функции. Пусть <р — функция из L2; тогда можно написать Il?ll2=j <p(x)y(x)dx=^ у (х) у (x~i) dx = Sp (<p * у). Функция F— ®*ш обладает важными свойствами. Прежде всего она непрерывна (а также равномерно непрерывна слева и справа; см. § 11), следовательно, если она равна нулю почти всюду, то она тождественно обращается в нуль. Далее, F—F; это свойство выражают, говоря, что функция F обладает эрмитовой симметрией. Пусть теперь фб£!, тогда ф#<р принадлежит L2. Имеет место равенство 11ф*?112 = 5/7(ф * 0*0 *ф)==5/>(ф* F*5), откуда Sp (ф * F * ф) = \[F{y^x)¥{x)i){y)dxdy'^0. Вообще, если Т— ограниченный оператор Радона (§ 10), то откуда мы получаем неравенство II7> 115= \ f F (У-1*) W dp. (у) S* 0. Бгря, например, Т y = 'Le.!o(sTix)1 мы получим 'EF(sr1sJfcic/^0. 5*
68 Глава IIL Свертка функций Вообще мы будем гозорить, что функция Н(х) имеет тип Р00 или принадлежит классу Р00, если она непрерывна и для всякой ограниченной на G комплексной меры Радона [х (§ 9) [\H{y^z)l^)d\i{y)^0. Для того чтобы функция И (х) имела тип Р00, достаточно, чтобы она была непрерывна и выполнялось бы одно из следующих условий: а) какова бы ни была функция g£L, [[H(y-iz)W)g(y)dydz^O; •J V б) для любого конечного числа точек s{£G и констант ct %H(s}Sj)ctcf^Q. Действительно, так как Н непрерывна, то из а) следует б), что легко • доказать, выбирая функцию g равной нулю всюду вне достаточно малых окрестностей точек st и такую, что интеграл ее по окрестности точки S; равен ct. Предположим теперь, что услоаие б) выполнено. Так как левая часть данного неравенства должна всегда быть действительным числом, то Н—Н. Пользуясь условием б) для элементов e\\s} получим, что эрмитова форма от двух переменных с коэффициентами #(<?), Н (s), H(e) положительно определена; для этого необходимо и достаточно, чтобы выполнялось неравенство | H(s)\ ^H{e) = Sp(H); итак, функция Я ограничена. Теперь мы воспользуемся одним приемом Ф. Рисса [53]. Пусть \х{ — такие положительные меры Радона, что ji|.G=l(/== = 1, 2, . . . /?), и пусть jJtr^rSCj.ji/, где с( — произвольные константы. Возьмем пр элементов sio группы G(l <;/^/?, 1 ^ р ^ п)\ согласно условию б) имеем Умножим это выражение на произведение пр символов d\ii (sio) и проинтегрируем по всем sio; получим S(я2—Ьцп) {[Н(ГЧ)ciCj.dp.{(г)diLj(у) + пН(е)• Jс&^О, ij * - i откуда, деля на п2 и увеличивая п неограничено, получаем желаемый результат.
§ 14. Положительно определенные функции 69 ^&Af£. Ж.И :— Пусть Я (л;) — функция типа Р°°. Рассмотрим неравенство б) для трех элементов е, s, t\ мы получим положительно определенную эрмитову форму трех переменных; условие положительной определенности выражается некоторыми неравенствами для коэффициентов, именно: ч H(s~4) H(s) H(t) Н(е) Н{е) ' И(е) fl-U^l2! |~1 _l^>) l2l ^ L kwlJL \Н{е)\\- Отсюда мы заключаем, что в силу непрерывности функции Я элементы а группы G, в которых Н(<з) = Н(е), образуют замкнутую подгруппу^ g группы G, причем если a£g, то Н(сх) = Н(хз)=:Н(е) для любого х, т. е. Я постоянна на множествах gsg. Из этого же неравенства следует, что Я равномерно непрерывна слева и справа. Действительно, если \H(s)—H(e)\^ е, то | H(s-4)— H(t) | < 2s. В частности, если Я принадлежит одновременно классам Я00 и U (1 ^ г<+оо), то Я будет принадлежать Z,00, так как если а>0 и если F—множество тех элементов x£Gy в которых \Н(х)\^а, то можно так выбрать окрестность V единицы, что на FV будет выполнено неравенство \Н\^г*а — 8. Но тогда, так как Я£//, множество FV должно иметь конечную меру, следовательно (§ 8), F компактно; таким образом, Я^!00. Если f(s) = с, где с — действительное число, то f(s) принадлежит типу Я00. Поэтому, если группа G не компактна, то класс Р°° не содержится в классе Z,00. Предположим теперь, что группа G унилодулярна. Если ср £ LP, причем 1 </>'< 2, то, согласно § 12, можно рассмотреть функцию F=<p*0 класса Z,r, где г определено равенством V —"77 — * • 0пРеДелим # равенством 1 = — ; какова бы ' Р р ' q 2 ни была функция ф из Z,?, свертка ф*<р будет функцией класса I2 и, так же, как и выше, ||ф*у||2==5/>(ф*/7*ф), откуда vS/?(i*F*(|) = ^F(^-ijc)^(A:)cl>(#y)^A:^^0. Отсюда следует, в частности, что, если F обращается в нуль почти всюду, то это же самое имеет место и для ф*<р, какова бы ни была функция ф^/?. Так как ф можно выбрать таким образом, чтобы ф*ср принадлежала Lp\ была бы сколь
70 Глава III. Свертка функций угодно близка к функции <р (§ 11), то F=cp*(f) равна нулю почти всюду лишь в случае, когда <р равна нулю почти всюду. Вообще заданная на унимодулярной группе функция Ф(х) называется функцией типа Рг или принадлежащей классу Рг, если она принадлежит классу I/ (1 <; г<^ + <х>), и если, какова бы ни была функция 4 из U, где q определено равен- 1 1 1 ством-^1-^, Sp (ф * Ф * ф) = [ \ Ф 0>~1*) Щх) ф (у) dxdy ^ 0. Так как функции из L всюду плотны в Z.?, то Ф {х) будет принадлежать классу Рг, если Ф £ //* и если для любой g£L _ \[^{y"lx)^)g{y)dxdy^0. Если Ф — функция типа Рг, то для любой функции ф из Lq (q определено так же, как и выше) ф*ф*ф будет функцией типаР00. То же самое верно для функции ф$#*Ф, если Н — функция типа Р00, а ф££!; вообще, если Н—'функция типа Р°° и \х — ограниченная на G комплексная мера Радона, то также будет функцией типа Р00.* Всякая линейная комбинация функций типа Рк с постоянными положительными коэффициентами также будет функцией типа Рг(1 ^ r^-f-°°)- Следовательно, если 1 ^ г <^-(-зо, то Рг будет выпуклым множеством в Lr\ кроме того, класс Рг замкнут в U. -*^ Функции типа Рг удовлетворяют неравенствам Обобщающим неравенство Буняковского. Чтобы убедиться в этом, заменим в неравенстве, выражающем принадлежность Ф классу Рг (\^г^-\-оо), функцию ф линейной комбинацией сф-|-*/а>. Мы получим эрмитову форму Асе -f- Bed -(- Bed + Add двух переменных с и d. Для того чтобы она была неотрицательной при любых end, необходимо и достаточно выполнение неравенства ВВ^АА'. В нашем случае это дает | Sp (ф * Ф * ш) |2 ^ Sp (ф * Ф * ф) • Sp (со * Ф * со).
§ 14. Положитрлько определенные функции 71 Таким же образом, если мы подставим в определяющее тип Р00 неравенство вместо меры р. линейную комбинацию cjA-{-dv, то получим более общее неравенство для функций Fi типа Р00, справедливое для мер Радона. Если, например, взять меру V, сосредоточенную в точке s, то получится неравенство и, в частности, если ф££\ то | ф * Я |2 < Sp (Я) -Sp (ф * Я * ф). Заметим, наконец, что если Н(х) и И'(х)—функции типа Р°°, то это же имеет место для их произведения Я {х)*Н'{х). Действительно, если 2 cii/cic/ и ^a'ijc-cj — положительно определенные эрмитовы формы от переменных с£», то это же верно и для формы ILcL'jaijCfi. (так как это верно для форм LaiajCiCj,yElaiajCi Cj, а всякую положительно определенную эрмитову форму можно рассматривать как сумму форм: этого вида). Пусть теперь Ф — функция типа Рг, Ч* — функция типа m 1 , 1 - lil I Р% причем 1 ^ 1, и пусть 1 = у-; тогда произведение Ф-Ч* принадлежит классу V (§ 12). Пусть g— непрерывная неотрицательная функция, обращающаяся в нуль вне некоторой окрестности единицы V; пусть, далее, Я= = g*<$>* g, Я' = g*lY *g\ Тогда Я и Я', а следовательно, Н*Н' будут функциями типа Р00. Окрестность V можгно выбрать так, чтоэы Я была сколь угодно близка к Ф в Z^7*, a//' была сколь угодно близка к 4s в U (§ 11), следовательно, Н'Н' в U сколь угодно близка к Ф-Ф. Так как Н-Н'— функция типа Р°° и принадлежит классу Z/, то Н»Н' будет функцией типа Р', следовательно, то же самое имеет место для Ф-Ч*. Произведение Ф«¥ функций Ф типа Рг и Чт типа Ps является функцией типа Р\ где у = 1 . Если группа О компактна, то, положив §"=1, мы получим из Sp(g*4> *g)^0, что \ Ф(х)йх^0 для любой функции Ф типа Р1. (В гл. VII мы увидим, что тот же результат* имеет место для абелевых групп. Было бы интересно знать, в^рно ли это для всякой унимодулярной группы или нет.) Отсюда
72 Глава III. Свертка функций следует, что, каковы бы ни были функции Ф типа Рг и Ч? типа Р", всегда ^'ф (л:) *Р (х) dx ^ 0(1Х). До сих пор функции положительного типа (или положительно определенные) понимались как функции типа Р00 на группе /^сдвигов на прямой или, более общо, на группе Rn параллельных переносов в евклидовом пространстве; функции типа Р00 на Т1 (аддитивной группе действительных чисел по модулю 1) и на двойственной ей группе Д1 (аддитивной группе целых чисел) рассматривались также в теории тригонометрических рядов. При изучении этих функций всегда пользовались теоремой Бохнера (см. § 30) и связанными с ней результатами.
ГЛАВА IV ОБЩИЕ СВОЙСТВА ЛИНЕЙНЫХ ПРЕДСТАВЛЕНИЙ § 15. Линейные представления. Линейным представлением группы G степени г мы будем называть представление этой группы в группу линейных преобразований г переменных с комплексными коэффициентами. Иными словами, это непрерывная на G функция М (s), ставящая в соответствие каждому элементу s группы G невырождающуюся матрицу с г строками и г столбцами и удовлетворяющая уравнению М{ху) = М{х)*М{у). В этой и следующей главах мы под представлением будем всегда понимать линейное представление. Если M(s) — представление степени г и А — невырождающаяся матрица линейного преобразования г переменных, то соотношение Ж' (s) = A'1 M (s) А также определяет линейное представление Ж' (s) группы G- Если рассматривать M{s) как матрицу линейного преобразования переменных Хъ Х2> ...,ХГ, то М (s) будет матрицей этого же преобразования в другой системе координат; два таких представления мы будем называть эквивалентными. Отношение эквивалентности симметрично и транзитивно. Множество представлений, эквивалентных представлению M(s), образует класс 25; мы будем говорить, что 2) реализуется каждым представлением из этого класса. JU Всякому представлению Ж ($) соответствует представление Ж(5) = ЖГ($-1) (в обозначениях § 11), которое мы будем называть контраградиентным представлению Ж (s); если 2)— класс представления M(s), то класс представления M(s) мы будем обозначать символом 2). С Ж (s) связано также комплексно сопряженное представление M(s)> класс которого мы будем обозначать через 2).
74 Глава IV. Общие свойства линейных представлений Класс представлений называется приводимым, если он содержит представление вида \\A(s) B(s)\\ I ° c(s)¥ где Л, В, С — матрицы и 0 — матрица, все элементы которой равны нулю. Для того чтобы класс, содержащий линейное представление M(s), был приводимым, необходимо и достаточно, чтобы в векторном пространстве (Х{) существовало такое р-мерное линейное подпространство Vp(0<^p<^r), что ■образ каждого вектора из V при любом из преобразований, входящих в М (s)> принадлежит V . Такое подпространство называется инвариантным. Если класс 2> приводим, т.е. содержит представление указанного выше типа, то стоящие в записи этого представления матрицы A (s) и С (s) сами являются представлениями. Мы будем говорить, что соответствующие им классы 2\ и 2)2 являются составляющими класса 2). Предположим, кроме того, что B(s)=:0; тогда 2) зависит только от 2)х и 2)2; мы будем говорить в этом случае, что 2) является прямой суммой классов 2)х и 2)2, и записывать это в виде <D = !D1-j-!D2. Если 2) является прямой суммой представлений 2)2 и 2)2 степеней р и г—р соответственно, то представление М (s) класса 2) оставляет инвариантными линейные подпространства Vp и Vr„p, имеющие р и г—р измерений соответственной дополнительные друг к другу (т. е. такие, что пересечение подпространств Vp и Vr_p состоит только из нуля, и всякий вектор подпространства (Х£) представим в виде суммы векторов из Vpn Vr_p); обратно, если существуют дополнительные инвариантные подпространства Vp и Vr_p, то класс 2) является прямой суммой классов 2\ и 2)2 степеней р и г—р соответственно. Аналогично можно определить прямую сумму произвольного конечного числа классоз. Если класс не является приводимым, то он называется неприводимым или простым; класс называется полупростым, если он простой или является прямой суммой простых классов. Представление называется неприводимым, если оно принадлежит неприводимому классу. Пусть 2), 2)' — классы представлений M(s) и № (s) степеней г и г'. Если над г переменными Хх, . .., Хг выполнить преобразование M(s), а над г' переменными Yly ..., Krt — преобразование М' (s), то пространство гг' переменных XtYj
§ 16. Лемма Шура 75 линейно преобразуется в себя; матрица этого преобразования, каждый элемент которой является произведением элемента матрицы М (s) на элемент матрицы М (s), называется кро- жкеровским произведением M(s) и М' (s) и обозначается символом М {s)/\M (s). M(s)AM'(s) является представлением степени /г', его класс, зависящий только от S и £)'*), называется къонекеровским произведением классов Э и JD' и обозначается символом ©Л®'- Сложение и кронекеровское умножение классов представлений являются ассоциативными и коммутатизными операциями, умножение дистрибутивно относительно сложения. Класс 33/\©' контраградиентен классу ФАЗУ. v Единичное представление — это представление степени 1, для которого М {s) = 1 для всех s € G; его класс обозначается через 3V Для того чтобы класс £)0 был составляющим приводимого представления, необходимо и достаточно, чтобы это представление оставляло неизменным какой-нибудь вектор или линейную форму. Вопросы, разбираемые в этом и следующем параграфах, являются классическими. См., например, [64]. § 16. Лемма Шура. Пусть дано множество матриц М, т. е. множество преобразований г переменных Х1ч Хг, .. ., Х„; предположим, что они приводимы; это означает, что существует такое /7-мерное линейное многообразие V„(0<^/?<V), что всякий вектор из V каждой матрицей М перезолится в вектор, также принадлежащий Vp. Пусть векторы Лг, Л2, . . ., АГ1 (мы не предполагаем их линейно независимыми) порождают пространство Vp. Каждый из векторов МА{ принадлежит V , следовательно, его можно представить в виде / J другими словами, если А обозначает матрицу, состоящую из г строк и г' столбцов, каждый столбец которой состоит из компонент одного из векторов At, то всякой матрице М из рассматриваемого множества соответствует по крайней мере одна такая матрица М'=- \\т' ||, что М-А = А»М'. Обратно, пусть *)А не от выбора представлений M(s)hM'(s) из этих классов. (Прим. ред.)
76 Глава /V. Общие свойства линейных представлений дана матрица А (из г строк и г'столбцов); если Av Л2, ..., Аг,— векторы, определенные столбцами матрицы Л, то матрицы М, удовлетворяющие соотношению М-А = А*М\ преобразуют всякую линейную комбинацию векторов Лг- в линейную комбинацию тех же векторов At. Следовательно, если ранг матрицы А меньше г (в частности, если г'<^г), то векторы At образуют приводимую систему. Приложив эти рассмотрения к линейным представлениям группы G, мы получим лемму Шура: если М (s) и М' (s) — неприводимые представления группы G степеней г и г', принадлежащие классам- 3D и ЗУ, я если существует такая ненулевая матрица А, что для любого s выполнено равенство M(s)-A = A-AT (s), то r=r', матрица А имеет ранг г и 2)= ЗУ. Более того, если 3) ==£)', то матрица Л, для которой М(s)-A = A'Mr (s), определяется однозначно (с точностью до численного множителя), так как если матрица Л' имеет то же свойство, то можно найти такое число t, что \A'—tA\ = 0, и ранг матрицы Л'—tA, которая тоже имеет указанное свойство, меньше г; отсюда следует, что A' = tA. Можно дать другую' формулировку леммы Шура, эквивалентную предыдущей. Пусть M(s) и М! (s) — линейные неприводимые представления, принадлежащие классам 2) и 2)', тогда если 23' =^33, то не существует ни одной линейной формы, инвариантной относительно M{s)f\M'(s), а если 2)' = 33, то существует одна, и только одна, такая форма. В самом деле, пусть 2а,. XtYj — форма, остающаяся инвариантной при преобразованиях переменных Xi матрицами /И (s) и переменных Yj матрицами М' (s) соответственно. Обозначая через Л== ||я£у|| матрицу коэффициентов формы, мы можем записать эту инвариантность равенством MT(s)-A-M'(s) = A, т. е. A.M'(s) = M(s)-A, и применить лемму Шура к M{s), M (s) и Л. Применяя к ЗУ и 2D полученный выше результат, мы докажем, что если 2)' 7^2), то не существует ни одного вектора, инвариантного относительно М (s) A М' (s), а если 2)' = 2), то существует один, и только один, инвариантный вектор.
§ 17. Представления прямых произведений 77 Из леммы Шура следует также, что если все матрицы М (s) представления класса © перестановочны с матрицей А, которая не кратна единичной матрице, то класс 5) призодим. § 17. Представления прямых произведений. Рассмотрим прямое произведение GxG' двух групп G и О'. Пусть ё, ё— единичные элементы этих групп, и пусть М(лг, у)— представление группы GxG'. Положим М{х, ё)=М {х) и М(е, y) = N{y). Тогда М(х) и М(у) будут представлениями групп G и G' соответственно. Каковы бы ни были х, у, М(х) коммутирует с N(y) и М{х, y) = M(x)-N{y)=N(y)-M(x). Обратно, если матрицы М(х) и N (у) представлений групп G и О' перестановочны между собой, то написанная выше формула определяет представление группы GxG', которое непри- водимо, если совокупность матриц М(х), N(y) неприводима. Ограничимся теперь случаем, когда М(х) и N(y) принадлежат полупростым классам (так будет, например, если они ограничены, см. § 19); мы собираемся найти, при каких условиях представление М(х, у) неприводимо. Заменяя это представление, если понадобится, эквивалентным, мы можем предположить, что М(х) приведено к „вполне приведенной" форме IIМ*) о ... о М(*)= 0 \х2(х) ... О II 0 0 ...\хп(х)\ где \Lj(x)—неприводимые представления порядков г{ соответственно. Каждый „ящик" матрицы М(х) представляет собой в действительности матрицу с г( строками и /у столбцами. Символ 0 будет обозначать, как всегда, матрицу, все элементы которой равны нулю, каково бы ни было число строк и столбцов в этой матрице. Пусть Л — матрица, перестановочная со всеми матрицами М(х); разбивая таблицу коэффициентов А на ящики, соответствующие ящикам матрицы М(х), можно написать Л=||Л^.||, где Atj — матрица с г( строками и г. столбцами. Имеем M(x)-A=\\V.i(x)Ai/\\, А.М{х)=\\АиЬ{х)\\. Следовательно, если А и М (х) перестановочны, то \i{ (х) А{. = = Л/у|Ху(лг), откуда, по лемме Шура, /1^ = 0, если представ-
78 Глава ЛЛ Общие свойства линейных представлений ления а- (х) и и,- (х) неэквивалентны. Применим это, в частности, к каждой из матриц N(y): если не все представления ц.(лг) эквивалентны, то система всех матриц М(х), N(y) приводима. Следовательно, если М(х, у)—неприводимое представление, то все \1;(х) эквивалентны, и можно считать (заменив, в случае необходимости, представление М (х, у) эквивалентным), что все они совпадают с неприводимым представлением \х(х) степени г. Итак, М(х) представляет собой не что иное, как матрицу \i(x)Als, где 1^ означает единичную матрицу порядка s. С другой стороны, если матрица А перестановочна с М(х)у то \х(х)-А{/ — А{;--)1(х), откуда, по лемме Шура, Ау = а(/*1Г, т. е. А=\Г/\А\ где Л'= jjfl/уЦ. В частности, можно написать N(y)—\r;\v(y), причем у (у) является представлением группы G' степени s. Следовательно,, мы имеем по определению М(х, у) = ц{х)Лч>(у), где jx(at) и v(j/) — неприводимые представления групп G и С соответственно (если бы v (у) было приводимо, то М(ху у) было бы также приводимо). Обратно, если р.(х) и V (у) — неприводимые представления, то написанная выше формула определяет представление М(ху у) группы GxG'; из теоремы Бернсайда ([64], т. II,, стр. 183) следует, что М (х, у) также неприводимо. Полученный нами результат распространяется на случай прямого произведения любого конечного числа групп. Пусть JJ; (*,•)—неприводимое представление группы G( (/= 1, . .. > п)\ формула М(хи х2, ..., хп) = ]11{х1)Лр*{х2)Л ... Лрп{х) определяет неприводимое представление прямого произведения o=G1xG2x...xan. Обратно, всякое неприводимое представление М (xl9x2t... ухп) эквивалентно представлению этого вида, если только М(ех, ..., et_x, х{, ei+l, ..., еп) принадлежит для /= 1, ..., п к некоторому полупростому классу представлений группы Gt. В случае бесконечного прямого произведения топологических групп из § 5 видно, что всякое представление такого произведения сводится к представлению частичного конечного произведения; изложенные выше результату остаются в силе.
§ 18. Представления локально компактных групп 791 § 18. Представления локально компактных групп. Пусть теперь G — некоторая локально компактная группа. На любом измеримом множестве всякая непрерывная функция измерима; то же имеет место, в частности, для любого непрерывного представления, и поэтому к таким представлениям можно применить теорию интеграла и свертки. С другой стороны, если представление линейно, то непрерывность является следствием измеримости. Пусть М (•*;) — такое представление порядка г, которое мы временно предположим не непрерывным, а только измеримым на некотором измеримом множестве Е положительной конечной меры. Пусть W—окрестность единицы в группе линейных преобразований г переменных; в этой группе можно найти счетное число таких преобразований /Hv, что множества W-M^ покрывают всю группу. Пусть Лу — множество таких точек х из Е, что М(х)£ W'Mj если, например, W открыто, то множества Л7 будут измеримы, так как М (х), по предположению,, измеримо на Е; их объединение образует Е, следовательно, но крайней мере одно из них (скажем, Д,) имеет положительную меру; но тогда (§11) соответствующее множество Д • ЛГ содержит некоторую окрестность V единицы группы G. Следовательно, значения, принимаемые М(х) на этом множестве, принадлежат W^M^'M^1 •W-l==W*W-1\ другими словами, из того, что x£V, следует, что М (х) £ W»W-1, т. е. М(х) непрерывно в еу а так как М{х) является представлением, то отсюда следует, что оно непрерывно всюду. Итак, в приложениях теории интегрирования к представлениям мы можем ограничиться в дальнейшем непрерывными представлениями. Рассмотрим такое представление М(х). Пусть <р — такая функция на G, что свертка ЛГ*<р имеет смысл; имеем Ж*<р= [м {ху) у (у-1) dy = М (х)- [М{у)^{у~1)йу. Если М(х)и(х)— суммируемая матрица (т. е. если все коэффициенты матрицы M'f суммируемы), то имеем М (ъ) = [м (х) <р (х) dx. Тогда можно написать
£0 Глава IV, Общие свойства линейных представлений Отсюда следует, в силу §11, что ср * М==^МТ(ъ)'М(х). Заменяя здесь М на М и ср на ср, получим <р * м= Мт(<р)-М (х) = [ [М (у1) ср (у) dyJM (x). На этой формуле проверяется следующий принцип, верный Д1Я произвольных групп: преобразование представления М(х) оператором Т группы (в смысле § 10) всегда (если оно определено) имеет вид С»М(х), где С — постоянная матрица. Действительно, если положить N (х) = Т[М(х)], то вследствие определения операторов группы N (xs) = Т[М (xs)] = Т[М{х)-М (s)] = Т [М(х)] .M(s) = = N(x)-M(s). Следовательно, N(x) = N(e)*M(x). Обратно, пусть М(х)— такая матричная функция, что М(е) равно единичной матрице, причем, каков бы ни был оператор Т группы, преобразование Т[Л1(л;)], если оно определено, может быть представлено в виде С'М(х). Тогда, в частности, полагая, как обычно, 5/=/(5~1jc)> мы будем иметь SM{x) = C(s)-M(x), т. е. M(s~1x) = C(s)-M(x). Отсюда, положив s = x, мы получим €(s) = M(s)-1, и, следовательно, M(s~1x) = M(s)-1»M(x), т. е. М(х) является представлением. Это свойство лежит в основе той важной роли, которую играют представления в теории групп, и, в частности, преимущественного применения разложения функций времени по тригонометрическим функциям в большей части физических проблем (физические операторы чаще всего являются операторами группы сдвигов по времени ty и их собственные функции имеют вид ect). Матрица М (ср), определенная выше, имеет смысл, в частности, всегда, когда ср — функция из Z.1, равная нулю вне некоторого компактного множества, так как на таком множестве представление М(х) ограничено. Если М(<р) имеет смысл, то имеет смысл и M(Su), и| M(Sy) = [м(х) <р {s~*x) dx = ^M(sx) ср (x) dx. Следовательно, М (S<p) =M(s)-M{<p)
§ 19. Ограниченные представления 81 Предположим далее, что М{Ь) также имеет смысл; тогда можно написать М(ч)*М($)=[[м{у)М{х)у{у)Ь (х) dydx, и, подставив (у-1х, у) вместо (х, у) (см. § 10), получим М{<р) М Ш = [[ М (х) ш (у) (1> (у~*х) dxdy. Отсюда следует, что \ M(x)<f(y)<b(y~1x)dy существует и имеет для почти всех х конечную величину. Так как М(х)' всюду отлична от нуля, то можно сказать, что <р*ф определена почти всюду, и мы получаем равенство М(у).Ж(ф)==Ж (<р«ф), верное всегда, когда его левая часть имеет смысл. Хорошо известно, что всякое измеримое представление группы R1 сдвигов прямой, т. е. всякое измеримое решение уравнения f(x-\-y)=f(x)'f(y), непрерывно (и имеет вид &*); Б. С. Наги [37] показал, что то же самое имеет место для всякой группы Ли (а также, что для этих групп всякое измеримое представление является аналитическим; это легко проверяется примененным в тексте методом). Формулы М(S?) = М(s) М(ср), М(ср* с|>) = ЛГ(ср).ЛГ(<1>) означают в сущности, что представление группы определяет представленние ее группового кольца (каким бы способом оно ни было определено, в частности, если оно определено как кольцо функций из L1 относительно свертки; этот результат имеет также место, если групповое кольцо определяется как кольцо операторов Радона (см. §10, а также [31]); эти формулы появляются более или менее явно во всех работах по представлениям компактных групп (см. замечания к §§ 20, 21). § 19. Ограниченные представления. Мы будем говорить, что представление М(х) принадлежит LP (lsQ^-f-oo), если все его коэффициенты принадлежат Lp. Если М (х) принадлежит Lp, то оно непрерывно; следовательно, если непрерывная функция / обращается в нуль вне соответственно выбранной окрестности единицы и \ fdx = 1, то матрица М (/) будет как угодно близка к М(е), и, значит, ее детерминант будет отличен от нуля; таким образом, можно написать M{x) = (M*f).M{f)~1. А. Вейяь
82 Глава IV. Общие свойства линейных представлений Так как М принадлежит LP, a / принадлежит Lpf', то матрица M*f ограничена (см. § 11). Следовательно, всякое принад~ лежащее Lp (1 ^р ^ оо) представление ограничено. Пусть теперь М(х) есть представление степени г, принадлежащее L2. Пусть ^а^.Х.Х;—произвольная эрмитова положительно определенная форма от г переменных Л^,, . . . , Хг и. Л = ||а^||—матрица ее коэффициентов. Если подвергнуть^ преобразованию /ЩдГ"1), то эта форма преобразуется в положительно определенную форму с матрицей МТ(х"г)^А -М(х"1), коэффициенты которой, вследствие предположения относительна М(х), принадлежат L1. Проинтегрировав ее, мы получим также положительно определенную форму, матрица которой имеет вид. C=['MT(x-1).A.M{x-1)dx. Если в это выражение вместо х подставить sx, то мы получим формулу C = MT(s-1)*C*M (s-*), которая показывает, что матриц! С инвариантна относительно преобразований М{s~l). Но, согласно теории эрмитовых форм,, заменой координат в пространстве {Xt) можно привести матрицу С к каноническому виду ^Х(Х.; представление М(х) заменится тогда эквивалентным представлением, состоящим из преобразований, оставляющих инвариантной форму 2 XjX(; такие преобразования называются унитарными. Итак, М(х) эквивалентно унитарному представлению. Более того, найденная, формула показывает, согласно предположениям об М(х), что матрица С принадлежит Z.1, и так как она постоянна и отлична от нуля, то группа G имеет конечную меру и, следовательно, компактна (§ 8). Таким образом, если существует хоть одно представление, принадлежащее Z,2, то группа G компактна. То же самое имеет место, если существует представление, принадлежащее Lp для 1^/7^2, так как тогда оно ограничено, а всякая ограниченная функция, принадлежащая LP, где 1^/?^2, принадлежит L2. Если группа G компактна, то всякое представление, принадлежащее Lp(1 ^р^-\- сю), ограничено, принадлежит L2 и эквивалентно унитарному представлению.
§ 19. Ограниченные представления 83 Пусть теперь М(х) — ограниченное представление степени г некоторой группы и g0— замыкание множества преобразований М (х) в группе G0 всех линейных преобразований г переменных; g0 будет компактной подгруппой группы G0. К ней тогда применимы все вышеизложенные результаты, и потому она эквивалентна группе унитарных преобразований; поэтому то же самое имеет место для преобразований М(х), образующих некоторую подгруппу группы g0. Итак, вся/сое ограниченное представление произвольной группы эквивалентно некоторому унитарному представлению. Если унитарное представление степени г оставляет инвариантным /7-мерное линейное пространство V', то оно оставляет также инвариантным г—/7-мерное пространство V , ортогональное Vp; следовательно, всякий класс ограниченных представлений является полупростым. (Это позволяет, например, применить к ограниченным представлениям результаты § 16.) Если МТ-М=\Г, т. е. если М=(МТ)~1 или, иначе, М = (Мту~1, то М — унитарная матрица степени г; следовательно, представление М(х) будет унитарным, если М(х) = = М(л:) или, иначе, М(х) = М (х) (обозначения здесь такие же, как в § 11). Если 2) — соответствующий класс предста- . V влений, то 2) = 23; однако обратное неверно (можно доказать только, что если класс SD неприводим и SD = 2D, то всякое представление класса © оставляет инвариантной некоторую эрмитову форму, которая может оказаться неопределенной). Наконец, если М (х) = \\т^(х)\\ — унитарное представление степени г и если £/=||иг.||— постоянный вектор (т. е. не зависящая от х матрица из г строк и одного столбца), то F (х) = UT- М • (х) U= 2 Щ; (х) utUj будет функцией типа Р00. Действительно, мы будем иметь %F (s-^TfCj = VT • (2 7tM (sT1). 2 M (sj) с,) ■ U. i. J i J Следовательно, так как М = МТ, ^iF(s^1sJ)'cic/=:'wT- W=^lwiwi s> 0, где W— \\w.\\ означает вектор 2 M (st) ci - U. В частности, каждый i из „диагональных коэффициентов" mH (x) — функция типа Р°°, и 6*
84 Глава IV. Общаг свойства линейных представлений то же самое имеет место для их суммы %(х) = ^ти(х), ко- i торая будет играть важную роль в следующей главе. Если, кроме того, предположить, что группа G унимоду- лярна, то легко видеть, что М(f)=zMT(f), откуда, в частности, следует, что если ф = ф, то М(Ф) — эрмитова матрица. При условиях, указанных в конце § 14, т. е. во всяком случае если группа G компактна, из того, что Ф принадлежит классу Р1, следует, что \ UT* M {х)-и-Ф (х) dx ^=0; другими словами, при этих условиях Ж(Ф) — матрица неотрицательной эрмитовой формы. По вопросам, разбираемым в этом параграфе, см., например
ГЛАВА V ТЕОРИЯ КОМПАКТНЫХ ГРУПП § 20. Представления компактных групп. Во всей этой главе под G понимается локально компактная группа конечной меры, или, что то же самое, компактная группа (§ 8); такая группа всегда унимодулярна. Выберем постоянный множитель, с точностью до которого определена мера Хаара, таге, чтобы мера всей группы G была равна единице, тогда \f(x) dx можно рассматривать как среднее значение функции f{x) на G, а меру тЕ — как вероятность того, что х принадлежит Е. На G, как на всяком пространстве конечной меры, всякая измеримая ограниченная функция интегрируема и, кроме того, для 1 ^p^q^+ ocLPzdW. Напомним, что прямое произведение компактных групп компактно, и мера Хаара в таком произведении вследствие единственности является произведением мер Хаара множителей (это последнее произведение определено также для случая бесконечного числа множителей, благодаря тому, что полная мера каждого множителя равна единице). Мы будем рассматривать исключительно измеримые представления. Вследствие §§ 18—19 такое представление непрерывно, ограничено и эквивалентно некоторому унитарному представлению; всякий класс измеримых представлений является полупростым. Пусть М(х) — представление; применим формулу M(Sf) = M{s) *M(f) (§ 18) к функции, равной 1 в каждой точке группы О; мы получим, что для любого s M(\) = M(s)'M(\)y другими словами, каждый столбец матрицы М{\) является вектором, инвариантным относительно всех линейных преобразований M{s). Следовательно, если преобразования М (s) не имеют ни одного инвариантного вектора, то M(l)=[M(x)dx=0.
86 Глава V. Теория компактных групп Пусть, в частности, М(х) = \\ти(х)\\ и М' (х) = \\т'и(х)\\ — два неприводимых представления степеней г и г', принадлежащие классам 35 и 35'. По лемме Шура (§ 16), если Ф^ЗУ, то представления, принадлежащие классу 35 Д£)', не имеют ни одного инвариантного вектора, следовательно, для любых /, У А, / \ mif(x)mki{x~1)dx=0. Если, наоборот, 35=35', то представление М(х)/\М(х) оставляет инвариантным единственный вектор с компонентами S/. (где 8^=1, если /=/', и S/y. = 0, если Ьф]), и, следовательно, всякий столбец матрицы \ [М (х)/\М (х)] dx будет кратен этому вэктору, т. е. мы получим соотношение вида J Щи (■*) тч (л:-*) dx = biflkl; из этих соотношений можно найти значения коэффициентов lkl при помощи формул lki= 72 lmik (х)ти (*~!) dx=y j 8wdx = ^ . i Из этих формул вытекают следующие соотношения: т1н(х)*т'п(х) =0, если 35^35', mik{x)*mfl(x) = 0, если }фЫ, mik (х) * %/ (*) = ути (х). Если, кроме того, представление М(х) унитарно, то /%,(лг~3)=/%(л;). Условимся, как это обычно делается, называть две функции у и ф из Z,2 ортогональными, если их скалярное произведение (<р, ф)= \ 0(лг) ф(л:)^л: равно нулю. Написанные выше формулы означают, следовательно, что коэффициенты двух унитарных неприводимых представлений, принадлежащих различным классам, равно как и различные коэффициенты одного и того же представления, ортого-
§ 21. Теорема Петера-Вейля 87 налъны в L2. Кроме того, если mik(x)— коэффициент неприводимого унитарного представления М(х) степени г, то ^mik(x)mik{x)dx =1. Результаты .этого параграфа принадлежат в основном И. Шуру [57]. § 21. Теорему Петера-Вейля. Пусть Ф — такая функция из Z,1, что Ф = Ф; ф также обладает этим свойством, следовательно, для любого унитарного представления М(х) матрица М{Ф) является эрмитовой (§ 19) и может быть приведена унитарным преобразованием к диагональной форме; это преобразование переводит М(х) в эквивалентное унитарное представление. Другими словами, если задана функция Ф, то в каждом классе представлений группы G можно найти такое унитарное представление уИ(лг), что М(Ф) будет диагональной матрицей вида || цД-у ]| с действительными коэффициентами \kt. Тогда формула § 18, определяющая Ф*ЛГ, дает Ф\*ти = ъти(х)у где М(х) = \\тц(х)\\; как известно, это означает, что mtj являются собственными функциями оператора 7<р = Ф * <р, принадлежащими соответственно собственным значениям \Lt. До сих пор мы исходили из того, что представление М(х) известно. Если же задать сначала функцию Ф из Z.1, удовлетворяющую соотношению ф = Ф, то оператор Т<р ^=Ф#<р преобразует всякую функцию <р £Z.2 в такую функцию Ту £Z.2, что || Т<р\\2 ^ || Ф Id • || ср ||2 (§ 11), и потому является ограниченным оператором в L2. Этот оператор эрмитов, т. е. для любых tp и ф из L2 выполнено равенство (7<р, ф) = (<а, 7ф), где через ^, ф)=\ <р(лг) <b(x)dx = Sp (<р *ф) обозначено скалярное произведение в ZA В самом деле, (Тер, ф) = £/?(Ф# <р *ф) и {^ Тф) = 5/?(:р *ф* Ф). Кроме того, так как группа О компактна, то оператор 7<р — вполне непрерывен, т. е. он преобразует множество функций <р, удовлетворяющих условию Ц^Цг^Ь в компактное в L2 множество. Действительно, применим к этому последнему множеству критерий § 12: условие 1 удовлетво-
88 Глава V, Теория компактных групп ряется, если принять Л^==||Ф||г; условие 2 — если принять C = G; условие 3 выполнено в силу неравенства ||5(7'<?)-Ту|12<||5Ф-Ф||1.||(р||2. Следовательно, к 7\р можно применить теорию вполне непрерывных эрмитовых операторов [51] (или доп. лит. [25]), откуда вытекают следующие факты: 1° оператор Ту имеет по крайней мере одно отличное от нуля собственное значение pt; 2° всякое собственное значение действительно, и множество собственных значений (спектр) не имеет предельных точек, отличных от нуля; 3° всякому отличному от нуля собственному значению соответствуют собственные функции, не равные тождественно нулю, среди которых имеется лишь конечное число линейно независимых. Итак, пусть ср;(л;) (/= 1, 2, ... , п) — собственные функции, соответствующие ненулевому собственному значению ji, т. е. линейно независимые решения уравнения ф * ср = jxcp в ZA Можно предположить, что они ортогональны и нормированы, т. е. что (ср/? сру.) == §/у.. Функции ^i(xs) также являются решениями в Ьг написанного выше уравнения, следовательно, для любого 5 они являются линейными комбинациями с коэффициентами mki функций и>;(х), т. е. ®i(xs) = '£mki{s)<pk(x). Коэффициенты ты k определяются равенствами ты (s) = j Ь (xs) <Pk(x)dx> т. е. (как это видно, если вместо х подставить х~*х) mktz==(?k*(?i и> значит, mk!(s) — непрерывные функции. Если положить iif(s) = ||/TCfy (s) |[ и выразить y{(xst) через »,-(.*), то легко видеть, что M(st) = M (s)-M (t); более того, функции <f;(xs) образуют, как и f;(x), ортогональную нормированную систему, следовательно, при любом s преобразование M(s) унитарно, т. е. М (s) — унитарное представление группы G. Кроме того, вследствие равенства Ф*^-=}1»£. мы можем написать b(s)=\l<b(x)b(X-xs)dx, откуда, заменяя х-1 на х и выражая f{(xs) через <р,- (дг), получим Ь (*) = "Г 2«м (*) * J ф (Х~Ч Ъ (х)dx-
§ 22. Разложение функций в ряд по представлениям 89* Следовательно, ^-(s) — линейная комбинация функций mki(s). Отсюда вытекает, что /И(Ф)=^0, так как если М (Ф) = 0, то, согласно § 18, Ф *М= 0, и,^ значит, Ф*(р; = 0. Разлагая M(s) на неприводимые составляющие, мы получаем, что существует по крайней мере одно такое неприводимое представление N(x) группы G, что /У(Ф)=^=0, т. е. что Л/(Ф)= [м(х)Ф(х)с1х^0. Пусть теперь <р(х) — произвольная функция из &\ если <р не равно почти всюду нулю, то это же самое верно для ф = ф*<р (§ 14); следовательно, существует такое неприводимое представление М (х), что М (Ф)^0 и, значит, М (со) =£ 0. Другими словами, мы доказали следующее предложение: Если ср £ Z.1 я для любого неприводимого представления М(х) выполнено равенство Ж(<а) = 0, то ср почти всюду равна нулю. Если, в частности, ср £ Z.2, то из ортогональности ш к коэффициентам всех неприводимых представлений следует, что ср равна нулю. Комбинируя этот результат с соотношениями ортогональности Шура, мы получаем теорему Петера-Вейля: Если в каждом классе неприводимых представлений группы выбрать унитарное представление, то коэффициент ы всех этих представлений образуют в L2 полную ортогональную систему. В основном мемуаре Петера-Вейля [70] говорилось лишь о ком ' пактных группах Ли, но примененные рассуждения были таковы- что для перенесения их на произвольные компактные группы понадобилось только доказательство существования меры Хаара. За тем эта теория была развита далее и изложена вновь в различных вариантах для случая самых общих компактных групп многими авторами: с алгебраической точки зрения — Г. Кете [31], с точки зрения почти периодических5 функций — И. фон Нейманом [41], с точки зрения однородных пространств (см. §, 23) — Э. Картаном [15] и самим Г. Вейлем [69]. Часть содержания §§ 22—24 заимствована у этих авторов; в остальном она является обобщением, с одной стороны, теории рядов Фурье, а с другой — теории конечных групп; обе эти теории являются частными случаями рассматриваемой здесь (первая относится к группе Г1, вторая — к группам, компактным и дискретным одновременно, т. е. к конечным группам). § 22. Разложение функций в ряд по представлениям. Из теории гильбертовых пространств следует, что если в каждом классе неприводимых представлений выбрать унитарное
90 Глава V. Теория компактных групп представление M(x)=\\mij.{x)\\ степени г, то всякая функция <р £ I2 разлагается в сходящийся в смысле L2 ряд: V (*) = 2 r'mu W \ти (У) V М йУ> где суммирование распространяется на все коэффициенты всех представлений М(х). Пусть М(х) — одно из таких представлений степени г; рассмотрим тогда совокупность г членов: г. 2 mif (х) \ mif(y) <р (у) dy. J Подставляя у-1 вместо у, получим г^ти(х)[т/{(у)<р (jj-ty/y = г- [mu(xy)<р(y^)dy=r-ma*ср. / Функция е.(х) = г-ти(х) имеет тип Р°° (§ 19) и удовлетворяет, согласно § 20, соотношению ei ^ei = ei. Такая функция называется идемпотентом. Сумма всех членов разложения функции ср, соответствующих коэффициентам представления М(х)> равна, таким образом, r-2w/£*<p=r-x*<p> i где Х(х)—^ти(х). Являясь суммой диагональных элементов матрицы М(х), функция у (x) не зависит от выбора того или иного представления М(х) из класса неприводимых представлений, а зависит только от самого класса 35 представлений М(х); она называется характером неприводимого класса 35. Итак, группируя члены разложения функции <р с коэффициентами одного и того же представления, можно написать (Р=2Г'Х** г где суммирование распространено по всем характерам и г является степенью класса, соответствующего характеру ^; кроме того, можно написать, что r = Sp (у). Для любой функции v£L2 ряд, стоящий в правой части этой формулы, сходится в смысле L2; отсюда следует, в частности, что не более чем счетное число членов этого ряда отлично от нуля.
§ 22. Разложение функций в ряд по представлениям 91 Так как указанное разложение сходится в смысле Z.2, из § 11 следует, что, свертывая его справа с функцией ф£12, эмы получим ряд X А сходящийся в смысле Z.00, т. е. равномерно сходящийся. Иначе говоря, каковы бы ни были функции <р и ф из L2, разложение функции <р # ф по коэффициентам представлений сходится равномерно. Пусть, в частности, /—произвольная непрерывная функция, a g— такая непрерывная неотрицательная функция, обращающаяся в нуль вне подходяще выбранной окрестности единицы, что \gdx = 1; тогда f*g отличается от/ как угодно мало (§ 11); с другой стороны, функция/*g- разлагается в равномерно сходящийся ряд по коэффициентам представлений и может быть равномерно аппроксимирована частными суммами этого ряда. Отсюда мы получаем следующее предложение: Всякую непрерывную функцию f(x) на компактной группе ложно с любой степенью точности аппроксимировать конечными линейными комбинациями коэффициентов представлений („теорема аппроксимации" Г. Вейля). Та форма разложения в ряд по коэффициентам представлений, которая дана выше, удобна при вычислениях, благодаря важным соотношениям, которым удовлетворяют характеры и которые непосредственно следуют из соотношений, найденных в § 20: 1 = Ъ1*1=уЪ [l(x)i(x)dx = \ и если 1 и %' — характеры двух различных неприводимых классов, то Оценим, например, скорость, с которой сходится в смысле L2 разложение функции ср £ /А Рассмотрим некоторое конечноз число характеров £;, и пусть rv — степени соответствующих
92 Глава V. Теория компактных групп представлений; положим Ф = <р * ф, тогда откуда, по приведенным выше и в § 13 правилам, получаем следовательно, разложение -функции <р сходится в смысле L2 столь же быстро, как в обычном смысле разложение функции Ф в точке х=е. Что же касается последнего разложения, то заметим, что вследствие § 21 в каждом классе 3) можно выбрать такое унитарное представление М (х), что М (Ф) будет диагональной матрицей |||^§/у||. При этом если г— степень класса 2), a jj — его характер, то г • Sp (X * Ф) = г ^ Г ти (х) Ф (х) rfx = г2 ty, где, согласно § 21, каждое из чисел jxz- является собственным значением оператора Гф=Ф*ф, которому соответствуют г собственных функций т(;-(х); поэтому ряд Ir-Sp (j(* Ф) (члены которого расположены в известном порядке) является рядом» составленным из собственных значений оператора Тф, взятых каждое со своей кратностью. Наконец, пусть <р— произвольная функция из £Л Разложение г в котором каждый член также является линейной комбинацией коэффициентов унитарного представления, имеющего характер 1, не обязано сходиться в смысле L1. Однако, согласно § 21, функция <р определяется этим разложением. Более того, его „сумму" можно получить следующим способом. Пусть g(x) — такая непрерывная неотрицательная функция, равная нулю вне некоторой окрестности V единицы, что \gdx = \. Свертка <р * g будет тогда принадлежать Z.2, и, следовательно, разложение х
§ 23. Однородные пространства 93 которое получается из предыдущего сверткой каждого члена с g, сходится в смысле L2 к cp*g\ Значит, если g можно представить, как .свертку, например в виде g' * g' (где g' {х)— функция с такими же свойствами, что и g)y то оно сходится равномерно, так как тогда cp*g- будет сверткой двух функций, ср*^' и g' из L2. При этом, если соответствующим образом выбрать окрестность V, то эта функция ср * g будет как угодно близка к ср в смысле D-. Можно, как мы увидим в § 24 (беря в качестве g одну из „центральных функций"), добиться того, чтобы ряд 2г-)( *<£>*£• получался из ряда 2г«^*ср просто умножением на числовые множители (называемые „множителями суммирования"). Расширяя несколько условия, наложенные на g в тексте (условия достаточные,но не необходимые для того,чтобы у*g стремилась к ср в том смысле, который мы хотим придать введенному здесь понятию сходимости), мы получим схему, охватывающую все „процессы суммирования", применяемые при изучении тригонометрических рядов, рядов по фУнкииям Лапласа и т. д. Если сделан определенный выбор последовательности функций g, то изучение соответствующего процесса суммирования всегда состоит в определении класса тех функций ср> для которых ср * g сходится (в определенном смысле) к ср. § 23. Однородные пространства. Пусть #=G/g—однородное пространство, определенное компактной группой G и ее замкнутой подгруппой g. Обозначим, как в § 9, через Р элемент из //, соответствующий элементу л: из G, т. е. тот класс *£•, к которому принадлежит х. В этом простом случае не нужно обращаться к результатам § 9, чтобы доказать существование инвариантной меры в Я, так как если f(P) — непрерывная функция на Я, то можно рассматривать /(Р) как функцию f(x), непрерывную на G и постоянную на каждом классе xg. Формула J(f)^=^\fdx вполне определяет удовлетворяющий условию 7 (Sf) = 7 (/) функционал на множестве непрерывных на И функций и, следовательно, инвариантную меру на Н. Пусть £— некоторый элемент группы g. Определенные на Н функции ср (Р), принадлежащие пространству LP относительно инвариантной меры, можно рассматривать как такие принадлежащие LP функции ср(лг) на G, что для всякого элемента £ из g выполняется равенство ср (д:£) = ср (л:) (в смысле LP, т. е. если р <^ сю, то это равенство выполнено почти всюду).
94 Глава V. Теория компактных групп Если у(х) обладает этим свойством, то им обладает и Т<р> где Т — оператор группы, определенный на V (см. § 10), иу в частности, этим свойством обладает сЬ * у, какова бы ни была функция cb£ZA Следовательно, в разложении 7. такой функции каэюдый член является функцией, постоянной на классах смежности xg по группе g. Так как такой член является линейной комбинацией ^iCjimij(x) коэффициентов и i некоторого унитарного представления М(х)=\\т^>(х)\\, то> каков бы ни был элемент £ £ gy имеем 2 cjimik № mkj (5) = S cji^u (*)• h J, k i, j Так как функции mif(x) линейно независимы, мы можем приравнять соответствующие коэффициенты при них в правой и левой частях. Если обозначить через С матрицу Цс^Ц, то это даст M(S).C=C, и, следовательно, каждый столбец матрицы С является инвариантным вектором представления Ж (5) группы g.. Е;ли класс представления М ($) содержит h компонент, являющихся единичными представлениями, то существует h линейно независимых между собой инвариантных векторов. Пусть Л=||а..||—- матрица из г строк и h столбцов, причем еэ столбцами являются эти h векторов. Каждый столбец матрицы С является линейной комбинацией столбцов матрицы Л, т. е. c-.= ^aisdv- или C=A'D, где D — некоторая матрица с h строками и гстолбцами. Если положить Л/(дг) = Ж(д:)-Л=:||/г^ (л:) ||, тоЛ/(лг> будет матрицей с г строками и h столбцами, удовлетворяющей условиям N(sx)=:M(s)-N{x)y N(xz) = N(x); N (х) можно рассматривать как матричную функцию N(P) на пространстве Н, удовлетворяющую условию N (sP) = M(s) x X Af (Р), т. е. такую, что если в пространстве Н произвести принадлежащее группе G преобразование s, то всякий столбец
§ 23. Однородные пространства 95- N (Р) подвергается линейному преобразованию M(s) (напри- мер, если Н—сфера в эвклидовом пространстве, a G— группа ее вращений вокруг центра, то элементы матрицы N (Р) явх ляются сферическими функциями). Далее, если С=Л-/), то ^c/imi/{x) = ^nh(x)d^ т. е. всякий член /••)(* <р разложения функции ш(Р) является линейной комбинацией коэффициентов соответствующей матрицы N (лг). Если столбцами матрицы А являются взаимно ортогональные векторы, т. е. такие, что 2ai>fl/v —^v» то со~ i отношения ортогональности § 20 показывают, что коэффициенты N(x) также ортогональны между собой. Следовательно,. если каждому классу представлений группы G поставить в соответствие указанным выше способом матрицу N(P), то коэффициенты всех этих матриц образуют полную ортогональную систему функций в пространстве L2 функций на Н, интегрируемых в квадрате по мере, инвариантной относительно сдвигов однородного пространства Н. Можно обобщить сказанное выше, если взять неприводимое представление jx (£) степени р группы g, принадлежащее классу Ь, и рассмотреть все векторы V(x) на G, т. е. матрицы с одной строкой и р столбцами, удовлетворяющие условию V(*S) = V (*).}* (5). Если V (х) обладают этим свойством, то им обладает также и V(sx); в частности, если G—конечная группа порядка N и g—ее подгруппа порядка п, то мы будем иметь лишь pN конечное число, а именно —, линейно независимых векто- ' п у ров V(x), и линейное преобразование, переводящее V'(x) в V(sx), будет не чем иным, как „импримитивным" представлением группы G, порожденным представлением jji (£) ([58], стр. 196). Более общо, если V'(x) обладает этим свойством, то им обладает и 7[К(л^)], каков бы ни был оператор Т группы G, для которого определено T(V); например, если V'(x) принадлежит Z.1, то всякий вектор г-^*1/ из разложения V обладает тем же свойством. Следовательно, он может быть представлен в виде Н2с//«т//(*)Н (а=1> 2> •• Ь i P)*
96 Глава К. Теория компактных групп откуда, как и выше, Если обозначить через С{ матрицу с г строками и р столб цами, элементами которой являются с#а (1 ^j ^ г, 1 ^ а ^ р), то это равенство можно написать следующим образом: Af(5).C£ = C/.jl(5). Заменив, в случае необходимости, представление М (х) эквивалентным, можно считать, что Ж(£) записано как сумма неприводимых представлений группы^; пусть (2):Ь) — число тех из этих представлений, которые принадлежат классу.b представления jx(£), это число зависит только от классов 3D и b представлений М и \х. При этих условиях из леммы Шура (§ 16) следует,, что существует (ЗУ.Ь) лилейно независимых матриц Л^ удовлетворяющих соотношению М(£)-Л = А«M-(S); каждая из матриц С( является линейной комбинацией 2^viA» этих матриц. Мы видим, что существует (2):Ь) линейно независимых матриц К^(х) = М (х)-А^ из г строк и р столбцов, удовлетворяющих соотношениям K(sx) = M(s)-\(x), A(*S) = A(*).jt(£). Из формул cJia='2 ^4? или, иначе, ^с/ыти=^^гтиа{}1 v i,j /, v следует, что всякий вектор. V(x) из L1 такой, что У(лг$) = = V(x)'\i($), разлагается по строкам этих матриц. Если G— конечная группа, то этот результат совпадает с известной теоремой о том, что импримитивное представление группы G, порожденное pi (5), содержит (25:Ь) раз класс 35 ([58], стр. 198). Если представление jji (£) задано, то удовлетворяющий соотношению ¥(-£) = V (л;) • jx (5) вектор V(x) можно всегда определить формулой V{x)=[w(jA)\L(^1)dif тде в качестве W(x) можно взять, например, вектор (т. е. матрицу с одной строкой и р столбцами) с непрерывными ета G компонентами, а интеграл берется по мере Хаара на g\ при этом можно добиться того, чтобы определенный этой формулой вектор V (х) с непрерывными компонентами не обра-
§ 24. Центральные функции 97 щался тождественно в нуль. Для этого достаточно в качестве компонент вектора W(х) взять такие функции, которые на g сводятся к соответственно выбранным функциям (например, к характеру класса Ь). Следовательно^ существует по крайней мере одна такая матрица А (л:), не обращающаяся тождественно в нуль, и, значит, такой класс 2), что (ф:Ь)^0. Другими словами, если взять все неприводимые относительно g компоненты неприводимых представлений группы G, то получатся все классы неприводимых представлений группы g. Результаты о разложении функций на однородном пространстве Gig по представлениям группы G принадлежат в основном 3. Картану fl5]; см. также [69]; они являются, как известно, обобщением классических результатов о разложении функций на сфере в ряд Лапласа. Эти последние можно вывести из результатов данного параграфа, если за G принять группу всех вращений пространства вокруг некоторой точки, а за g—подгруппу вращений вокруг некоторой оси, проходящей через эту точку; определенное таким образом однородное пространство Gjg будет не чем иным, как сферой. Остальные результаты этого параграфа являются обобщением на произвольные компактные группы классических теорем Фробе- ниуса о представлениях конечных групп. § 24. Центральные функции. В этом параграфе мы будем рассматривать такие функции ср(лг) из Z,1, которые пере- станозочны в смысле свертки со всеми функциями из Z.1. Если рассматривать L1 как групповое кольцо, то эги функции образуют центр, и мы будем называть их центральными функциями на G. Если ф(х) — такая функция, то, в частности, для любой непрерывной на G функции f(x) при любом значении х имеет место равенство Заменяя в правой части ^у-1 на j/, мы получим, что для всех х <?{ху) = у{ух) для почти всех значений у. Тем более это равенство будет справедливо почти всюду на GxG; то же самое остается верным (§ 11), если (д:, у) заменить на {у~1х, у). Таким образом мы получаем, что почти всюду на GxG <Р {*) = <? (У~1ХУ), ? А. Вейль I
93 Глава V. Теория компактных групп а следовательно, для почти всех значений х и тем более: в смысле L1 имеем: <t(x)= \ u(y-1xy)dy. Эта формула показывает, что всякая центральная функция инвариантна (в смысле Z,1) относительно внутренних автоморфизмов (х—^s~1xs) группы G. Обратно, если функция <р из /^удовлетворяет равенству <р (лг) = у (6_1Jrs), to аналогичным образом можно проверить, чю <р— центральная функция. Сумма и свертка двух центральных функций также являются центральными функциями. Пусть, например, УИ (д:) == Ц /п/у- (л:) || — некоторое представление группы G; сумма % (х) = V ти (х) не изменится, если заменить М(х) эквивалентным ему представлением M(s~1xs) — — Al (s~l)-M (х)-М (s), следовательно, %(х) — центральная функция; она зависит только от класса представления М(х). В частности, всякий характер неприводимого класса является центральной функцией. Отсюда следует, что всякий член г-рср разложения центральной функции <р по представлениям, является центральной функцией. . . Для того чтобы уточнить этот результат, рассмотрим некоторую, центральную функцию <р. Если М (х)— представление, то, согласно формулам § 18, получим М*<р = у*М= (\ М (x-1)<f{x)dxJM{x)^= = [[ J М [х-1) 9 (у~гху) dx dy)M (x).. Заменим сначала (х, у) на (ух, у), затем х на л;-1 и, наконец, (л:, у) на (ух, у); тогда последний интеграл превратится в. ЭД M{yxy1)y(x-l)dxdy = \ <р (x'l)dx\M(yxy^1)dy. Предположим теперь, что М(х) — неприводимое представление степени г; при помощи соотношений ортогональности § 20- можно легко вычислить Л(х)=\ М (yxy~l)dy. Можно заметить также, подставляя sy вместо у в интеграл, определяющий А(х), что для любого х выполнено равенство А(х) = — M(s)-A (x)-M (s-1). Следовательно, по лемме Шура (§ 16),. А(х) является матрицей, кратной единичной матрице 1г;.
§ 24. Центральные функции но сумма диагональных элементов матрицы А (х) равна \ X (x)dy = x(x). Мы получаем, что A(x)=§M{yxy-*)dy = №-.ir9 откуда, какова бы ни была центральная функция <р, М *у:=<р*Ж =—( \ f(x^1)x(x)dxj M (х); беря сумму диагональных элементов и подставляя в интеграл х"1 вместо л:, получим r-x*tp={^(x)x{x)dx)x(x). Следовательно, всякая центральная функция разлагается по характерам; характеры образуют полную ортогональную систему в множестве центральных функций из L2. Пусть, в частности, V — некоторая окрестность единицы и V — такая окрестность единицы, что V'B сК'и Vf-1 = V,m Пусть, далее, si (/= 1, 2, ... , п) — такие элементы группы G, что множества s£Vf покрывают G; наконец, пусть V" — окрестность единицы, удовлетворяющая п условиямsr гУ"8{ а V. Для любого элемента s £ G существует такой индекс /, что s £ stV', поэюму s-iV"s€V4-1s7-*VHsiV'c:Vf*c.V [следовательно, объединение множеств s~ 1Vf,s для всех s£ G является содержащейся в V окрестностью единицы, инвариантной относительно внутренних автоморфизмов (х—►s-1.*^)]. Пусть теперь g'(х) — такая неотрицательная, обращающаяся в нуль вне V" непрерывная функция, что \ g'dx==l, тогда функция g(x)=^g'{y'1xy)dy центральна, неотрицательна и непрерывна; она обращается в нуль вне V и \ gdx = 1. Этим можно воспользоваться, как это указано в конце § 22, для „суммирования" разложений функций из L1 по представлениям. Пусть g = %r.i*g = 2lc(i)-x у. г — разложение функции g, которую, как мы видели выше, можно разложить в ряд по характерам; пусть сЬ — произволь- 7* i
100 Глава V. Теория компактных групп ная функция из L1 и х — ее разложение. Тогда разложение функции ty*g будет иметь вид г t /. то есть оно получается из разложения функции <1> умножением каждого члена на „суммирующий множитель" с(%). Рассмотрим теперь разложение суммы Х{х)=^^ти (х) i диагональных элементов представления М (х) = |[ mtj (x) || класса 35 по характерам. Так как всякий класс—полупростой, то 35 можно записать в виде прямой суммы неприводимых представлений, т. е. в виде S = VavSv, где все 35 v V различны и неприводимы и ан — целые положительные числа. Обозначая через ^ характер класса 35v, мы получим следующую формулу: Х(х) = ^аУхАх); таким образом, разложение функции Х(х) по характерам со держит лишь конечное число членов, а его коэффициенты — положительные числа; так как класс 35 вполне определен числами tfv, то его можно влоляе определить также функцией Х(х); при эгом неприводимый класс с характером / имеет в 35 неотрицательную крагнэсть а, определяемую равенством а=] X(x)i(x)dx. Пусть, например, g— замкнутая подгруппа группы G, 35— неприводимый класс представлений группы G с характером 1$ (х), и Ь — неприводимый класс представлений группы g с характером у^ (£); число (35 :Ь) из § 23 будет тогда определяться равенством (2):b)=5x»(S)»W«, где интеграл взят по g. Следовательно, если / (д:)—центральная функция на G, которая разлагается по характерам
§ 24. Центральные функции 101 в равномерно сходящийся ряд (например, f(x)— свертка двух центральных функций из Z.2, см. § 22), т. е. то можно написать (£ обозначает элемент группы £•) . f /(S)XM^ = S ($: Ь) • \f{x) j^jdx. Для конечных групп эта формула принадлежит Фробениусу (см. [58], стр. 202). Пусть, наконец, М(х)—некоторое неприводимое представление степени г. Выше мы вычислили \ M(yxy~l)dy. Из полученного результата следует формула 1 М (xsx-Ч) dx=^M (t), откуда, взяв сумму диагональных элементов, получим i %{xsx-tydx= yx(s)x(f). Г Таково функциональное уравнение для характеров {см. [68], добавление II). Обратно, пусть функция сЬ (лг) принадлежит^1 и удовлетворяет уравнению \ ф {xsx-Ч) dx — § (s) ф (*). Если ф отлична от нуля, то существует (§ 21) такое неприводимое представление М(х), что Ж (ф)=т^0; тогда ф(s)• М(4s) = f if (s)i)(t)M(t)dt=[[b (xsx-Ч) M{t)dxdt, откуда, подставляя последовательно (л:, xt), вместо (x,t), 5"1 вместо t, (ху х~Ч) вместо (л:, t), получим ф(фМ(ф) = №b(t)lti(xs-1x-4)dxdt=^-M(ty, где 1 и г — характер и степень представления М(х) соответственно; следовательно, ф = -£. Результаты, изложенные в этом параграфе, отчасти заимствованы из мемуаров, цитированных в замечаниях к § 21, отчасти являются обобщением фактов, известных для конечных групп, на компактные группы.
102 Глава V. Теория компактных групп § 25. Структура компактных групп. Пусть G— компактная группа; если s — отличный от единицы е элемент группы G, то существует такое унитарное представление М (л:) группы G, что матрица M(s) — не единичная. Действительно, так как любая непрерывная функция f(x) на G может быть равномерно аппроксимировала линейными комбинациями коэффициентов унитарных представлений, то в противном случае для любой непрерывной функции f(x) было бы f(s)=f(e), что не имеет места. Выберем тепэрь в каждом неприводимом классе 35 представлений G унитарное представление М<т>(х); еспи г—степень класса £), то М$> есть представление группы G в группу U$> унитарных преобразований г переменных. Пусть U — прямое произведение всех групп U© (соответствующих всем представлениям группы G); тогда 9К (х) = (М® (х)) — взаимно однознач - ное представление группы G в U, т. е. изоморфное отображение G на замкнутую подгруппу группы U (§§ 3 и 4). Итак, всякая компактная группа изоморфна замкнутой подгоуппе прямого произведения унитарных гоупп. Но такая подгруппа является проективным пределом своих проекций на конечные частичные произведения групп U® (§ 5); эти последние произведения являются компактными группами Ли, а согласно теореме Э. Картана ([16], § 27) всякая замкнутая подгруппа группы Ли сама является группой Ли, вообще говоря, несвязной. Следовательно: Всякая компактная группа G является проективным пределом компакпных групп Л% Ga; для того чтобы G была связна, необходимо и достаточно, чтобы все Ga были связны; размерность гоуппы G является верхним пределом размерностей групп Ga (см. примечание (V)). В частности, если в компактной группе G имеется окрестность единицы, не содержащая никакой инвариантной подгруппы, то G — группа Ли. Итак, пусть G—компактная труппа, т. е. проективный предел компактных групп Ли Ga. Мы будем пользоваться обозначениями § 5. Связная компонента единицы группы Ga является связной группой Ли G'a и GjG'a — конечная группа; далее, если a<(J, то гомоморфизм /^ группы G« на Ga отображает Gg на &а\ множество G' элементоз G, образ которых во всех Ga принадлежит G^, является, следовательно,
§ 25. Структура компактных групп 103 проективным пределом групп G^, т. е. связной и компактной труппой. Так как образ компоненты единицы группы G в Ga содержится в G^, то она совпадает с G', и G\G' является проективным предеюм групп GJG'^ т. е. конечных групп. Кроме того, G и G' имеют одинаковые размерности (так как ;это имеет место для G^ и G'). ■* ОС' Начиная отсюда, будем предполагать, что группа G связна и компактна; следовательно, она является проективным пределом связных и компактных групп Ли Ga = G/g,a. Известно '([16], § 52), что всякая компактная группа Ли L локально изоморфна прямому произведению абелевой группы и полупростой группы, точнее, в группе L существуют такая связная и компактная абелева подгруппа La,—компонента единицы центра группы /,, и такая инвариантная полупростая подгруппа Lsy что L = La-L, и Laf)Ls состоит из конечного числа элементов. (Таким образом, согласно § 4, L изоморфна фактор-группе группы LaxLs по конечной инвариантной под- труппе.) Если, кроме того, существует гомоморфизм группы/, на Z/, причем в этих группах определены, как и выше, подгруппы La, Ls и L'a, Z/, то этот гомоморфизм отображает La на V и £, на L'. Применим это к Ga: пусть Ла и 2а— абе- леза и полупростая группы, определенные для Ga; /eg отображает Лр на Да и 2р на 2а, следовательно, Ла имеют проективный предел А и 2а—проективный предел 2. А является •связной и компактной абелевой группой, содержащейся в центре группы G, так как если s£A, x£G, то образ элемента sxs~1x-1 во всех Ga совпадает с единицей группы Ga. Для любого а имеем Ge = -4,2a, и потому G = /42g"a, следовательно, С = Л2; образ пересечения ЛП2 в Ga содержится в Лап2^, следовательно, он является конечной группой, поэтому ЛГ|2— проективный предел конечных абелевых групп. Согласно § 4, G изоморфна фактор-группе прямого произведения А X 2 по подгруппе из центра этого произведения, которая изоморфна ЛП2 и, следовательно, является проективным пределом конечных групп. Кроме того, размерность труппы G равна сумме размерностей А и 2 (так как это справедливо дпя Ga, 2„ и Ал). (См. примечание (V).) Исследуем группу 2, которая является проективным пределом полупростых групп 2а. Пусть 2* — односвязная накрывающая группа для 2а, это ([16], § 52) компактная группа Ли,
104 Глава V. Теория компактных групп представимая как прямое произведение простых групп; ее центр—конечная абелева группа, и 2* изоморфна факторгруппе 2* по некоторой подгруппе Za из центра; пусть aa = cpa(a*) — гомоморфизм 2* на 2в, который является изоморфизмом некоторой достаточно малой окрестности единицы группы 2* на ее образ в 2а. Вследствие существования локальных изоморфизмов (в окрестности единицы) <ра и срр гомоморфизм a.=/^(jp) группы 2р на 2, определяет, по крайней мере в некоторой окрестности единицы, гомоморфизм /^ группы 2« на 2*, т. е. гомоморфизм окрестности единицы: в 2L* на окрестность единицы в 2*, такой, что Лр[*р(в?)]=?.[^К)]. Далее, так как группа 2g односвязна, то этот гомоморфизм/^ г определенный в окрестности единицы, можно продолжить на всю группу 2р, в результате чего получается гомоморфизм 2^ на 2*, удовлетворяющий для любого at £ 2^ написанному выше соотношению. Из равенства / (^)=f^[f^(at)]> имеющего место, если а<р<у, можно вывести сначала для окрестности единицы, а затем для любых элементов аналогичное соотношение для /*р, следовательно, так как условия LP I, LP II, LP ИГ' § 5 удовлетворяются, группы 2* имеют относительно гомоморфизмов f* проективный предел 2* ; и если с* = (а*) £ 2* , то равенства aa = <pa (a*) определяют, вследствие написанного выше соотношения, некоторый элемент <у из 2. Соответствие а = ф(а*) является представлением группы 2* в 2, причем так как 2* —компактна, то оно будет даже гомоморфизмом: если а* пробегает 2*, то а* пробегает 2* и, следовательно, aa=/a(a*) пробегает 2а; отсюда вытекает, что образ группы 2* при отображении <р всюду плотен в 2 и, так как он замкнут, совпадает с 2; следовательно, <р является гомоморфизмом 2* на 2. Пусть Z— множество тех элементов из 2* , образом которых при гомоморфизме <р является единица группы 2; для того чтобы a* £Z„ необходимо и достаточно, чтобы a*£Za для всех а; итак,, образ подгруппы Z в 2* будет подгруппой Z'a группы Z7; следовательно, Z — проективный предел конечных абелевых.
§ 25. Структура компактных групп 10S групп Z'a и содержится в центре группы 2* . С другой стороны, гомоморфизм /*о прямого произведения 2^ простых групп Ли на аналогичное произведение 2* необходимо является проекцией ([16], § 52); следовательно, если а<$> то 2^ является частичным произведением для 2^, и, значит, (§ 5) проективный предел 2* групп 2а есть не что иное, как прямое произведение простых групп Ли. Группа 2 есть проективный предел полупростых ком- пактных групп Ли, следовательно, она изоморфна факторгруппе 2* /Z прямого произведения 2* простых и односвязных- групп Ли (в конечном или бесконечном числе) по подгруппе Z, содержащейся в центре группы 2* ; группы 2* и 2 имеют' одинаковые размерности и являются группами Ли, если только их размерности конечны. Возвратимся к группе G; из сказанного выше следует,, что всякая компактная группа G является фактор-группой произведения Лх2* по некоторой подгруппе, содержащейся в центре этого произведения. Если группа G имеет конечную размерность, то 2* и 2 являются группами Ли, центр группы 2 состоит из конечного числа элементов, и, следовательно, G будет фактор-группой группы А X 2 (или Лх2*) по конечной' абелевой группе, и потому G локально изоморфна группе А X 2. Остается исследовать А; это исследование является составной частью общего исследования локально компактных абелевых групп, которому посвящена гл. VI. Здесь мы установим структуру компактной и связной абелевой группы А. в том случае, когда ее размерность конечна. Тогда, согласно предыдущему, А является проективным пределом связных и компактных абелевых групп Ли Ла; размерности па групп Агх имеют конечный верхний предел п. Существует такое а, для которого п0, = п; ограничиваясь рассмотрением только таких |j, что р>а (§5), можно предположить, что па, = п для всех а; тогда каждая из групп Ла изоморфна я-мерному тору Тп (прямому произведению п групп, изоморфных аддитивной группе действительных чисел по модулю 1, см. § 26). Гомоморфизм /е~. определяет А^ как накрывающую группу группы Аа. Пусть а фиксировано и Rn — универсальная накрывающая группы Лаг Rn — аддитивная группа векторов в эвклидовом пространстве «-измерений; Ла можно рассматривать как фактор-группу группы Цп по подгруппе D0 векторов из Rn, имеющих целочис-
106 Глава V. Теория компактных групп ленные координаты. Тогда /^ определяет Лр как фактор-группу группы Rn по подгруппе Ь^ группы Da = D0, порожденной п линейно независимыми векторами из D0; так как DQ имеет счетное число подгрупп, то группу А можно рассматривать как проективный предел последовательности групп Л^ = Rn\D^ где ро = 2, Pv<[*v+i> и' следовательно, DVZ)DV+1. Другими словами, любую связную и компактную абелеву группу А размерности п можно получить следующим образом. Пусть Rn и DQ определены, как выше; пусть Dv (v = 1, 2,...) — последовательность подгрупп группы D0 конечного индекса, причем Dv:dDv+,; пусть, наконец, а^ = ^^(х)— естественный гомоморфизм Rn на A^=Rn\D^ и / при pt ^v^- гомоморфизм Av на Л^, определенный формулой Тогда А будет проективным пределом групп Лv относительно гомоморфизмов / . Если, начиная с некоторого номера |х, все Д, будут совпадать, то А изоморфна А , т. е. тору Тп. Для любого х £ Rn отображения av = cpv (л:) всегда определяют некоторый элемент a = (av) группы А. Пусть а = у(х)— определенный таким образом гомоморфизм группы RJ1 в Л. Пусть '0 = (av)€ ^ и я»=Л(я) (v = °» 1> 2,...), положим тогда /v[?(Ar)] = ¥v(;c)? B частности, /о[<р(*)] является гомоморфизмом группы Rn на A0 = RnjD0. Обозначим через D множество тех элементов 8 группы Л, которые при отображении /0 переходят в единицу. Пэ одной из теорем § 4 отображение *Ф (x,i) = tp (х)-Ь"г будет гомоморфизмом группы R^XD на А. Те элементы из RnxD, которые переводятся гомоморфизмом Ф (х,Ь) в единицу, образуют множество вида (d, f(d)), где d — такой элемент, что <р (#)££), т. е. такой, что /о I? W] = <Ре (я0 есть единица, иными слозами, d—произвольный элемент из группы D0. Эти элементы образуют дискретную подгруппу Dq группы RnxD, изоморфную D0. Образ группы D в iv совпадает с образом группы D0 в Лv = = RnjD^, следовательно, группа D является проективным пределом фактор-групп D0/Dv относительно гомоморфизмов/^; -поэтому она нульмерна (см. § 2), и легко показать, что если бесконечное число групп Dv различны между собой, то группа D гомеоморф is. канторову совершенному множеству; в этом случае Л локально изоморфна группе RnxD, и всякая достаточно
§ 25. Структура компактных групп 107 малая окрестность единицы в Л не связна; тогда говэрят, что группа А не является локально связной. Комбинируя эти результаты с прэдшегтвуюш/ши, мы получим следующее предложение: Всякая связная конечномерная компактная группа может быть представлена в виде (Z.xZ))/v, где L — группа Ли, являющаяся поямым произведением полупростой компактной группы Ли и группы Rn, D — проективный предел последовательности конечных абелевых групп, у—некоторая дискретная подгруппа центра группы LxD, имеющая конечное число образующих. В частности: Всякая связная и локально связная компактная группа конечного числа измерений является группой Ли. Результаты настоящего параграфа принадлежат в основном Л. Понтрягину [50], который ограничился случаем связных компактных групп, удовлетворяющих второй аксиоме счетности. Ранее •(непосредственно после открытия Хааром инвариантной меры) И. фэн Нейман доказал, что всякая компактная локально эвклидова группа является группой Ли [39]; этот результат менее глубок, чем результаты Понтрягина, но уже и он является решением известной проблемы („пятой проблемы Гильберта") для компактных групп. .Эта проблема в общей постановке не поддается решению при помощи тех средств, которыми мы располагаем в настоящее время См. также [23] и [29] (X).
ГЛАВА VI ТЕОРИЯЛОКАЛЬНО КОМПАКТНЫХ АБЕЛЕВЫХ ГРУПП § 26. Предварительные результаты. Пусть G — дискретна* абелева группа; предположим, что она вполне упорядочена, и sx — элемент группы G с порядковым числом X. Любое соотношение между элементами группы G можно представить- в форме s™l sT* . . . s\* = e, где мы можем считать, что Х1<^Х2<^. . .<^ХГ. Рассмотрим среди таких соотношений, в которых участвуют только элементы с порядковыми числами, не превосходящими X, одно из тех соотношений, в которые s^ входит с наименьшим положительным показателем; его можно написать в виде s"1 =s™* s™* . .. sjj, где Цг<^Х; всякое соотношение, содержащее только элементы, порядковые числа которых не превосходят X, является следствием этого соотношения и соотношений, в которых участвуют только элементы с порядковыми числами меньше X. Следовательно, если для каждого X выбрать такое соотношение, то все другие соотношения будут следствиями выбранных. Из этих замечаний вытекает следующая лемма: Лемма 1. Пусть G — топологическая абелева группа и g— такая ее замкнутая подгруппа, что Gjg дискретна. Пусть G' — абелева группа, всякий элемент которой для любого целого п имеет корень п-й степени {т. е. такой элемент vy что vn — u*); пусть f (х)— представление группы g в G'. Тогда существует представление F (х) группы G на G', совпадающее с f(x) на g. Действительно, пусть sx — представители классов смежности по g в группе G (мы предположим, что они вполне упорядочены), всякому элементу х из G соответствует один, и только один, элемент sx, такой, что x£s,g. Нам достаточно определить элементы F(sx) = ux. Но в силу предыдущего все соотношения, которым удовлетворяют элементы sXr являются следствиями соотношений вида S\x =sjT11 s™*. . • sjT &x> *) Такие группы называются „полными" или „безгранично делимыми". (Прим. ред.)
§ 26. Предварительные результаты 109 где £х € S и все JvO> причем всякому X соответствует ле более чем одно такое соотношение. Следовательно, достаточно определить их рекуррентными трансфинитными -соотношениями и\х=и™1 и™*. .. щ£ /($х), что возможно вследствие сделанных предположений. Эта лемма полезна, когда нужно найти представление абе- левой группы в виде прямого произведения. Пусть, например, О — абелева группа, g—ее замкнутая подгруппа; предположим, что G\g дискретна и что каждый элемент группы g для любого целого числа п имеет корень п-й степени. Тогда вследствие леммы 1 и § 4 G изоморфна прямому произведению gX(Gjg). Среди локально компактных абелевых групп имеются четыре типа групп, которые можно рассматривать как наиболее простые и которые играют в последующем существенную роль; это: а) Аддитивная группа целых чисел Д=Д!. Прямое произведение п групп, изоморфных Д, мы будем обозначать через Дл; это — свободная абелева группа с п образующими. Всякая под- труппа группы Дл изоморфна Д^, причем р^п. б) Фактор-группы группы Д по не сводящимся к единице подгруппам. Это — конечные циклические группы; всякая конечная абелева группа Ф является прямым произведением таких трупп; всякая фактор-группа группы Дл изоморфна группе типа Д^ХФ ср<л. в) Аддитивная группа действительных чисел R^R1. Прямое произведение п групп R мы будем обозначать через Rn; это — группа параллельных переносов в эвклидовом пространстве п изменений; всякая замкнутая подгруппа группы Rn изоморфна прямому произведению /?РХД^, причем p-\-q^n. г) Мультипликативная группа Т=Тг комплексных чисел, равных по модулю единице. Она*изоморфна аддитивной группе действительных чисел, приведенных по модулю 1; прямое произведение п групп Т мы будем обозначать через Тп: это — тор п измерений. Всякая замкнутая подгруппа группы Тп изоморфна группе Т^хФ, причем р^п. Всякая фактор-группа труппы Rn изоморфна прямому произведению RpxTqt причем Группы а), б), в), г) заслуживают в некотором смысле названия циклических групп. Д1 и ее фактор-группы порождаются одним элементом, R1 и Т1 — одним бесконечно малым
110 Глава VL Теория локально компактных абелевых групп преобразованием. Сходство между R1 и Д1 проявляется, например, в эргодической теории [24]. Оно проявляется также в следующей лемме: Лемма 2. Обозначим через g группу Д1 или группу R}'r пусть f(t) — представление группы g в некоторую локальна компактную группу G. Тогда либо f(t) является изоморфизмом g в G, либо замыкание образа g в G является компактной абелевой подгруппой группы G; во втором случае каждой окрестности У единицы группы G можно поставить в соответствие такое положительное число Т, что всякий интервал длины Т в группе g [содержит элементг образ которого принадлежит V. Заметим сначала, что если/ (t) не является изоморфизмом,, то для любой окрестности У единицы группы G и для любого положительного числа М существует такой элемент t группы gr что f(t)£V и \t\^>M. Действительно, в противном случае существовала бы окрестность У и число М такие, что из f(t)£V следовало бы \t\^M\ но тогда представление f{t) было бы взаимно однозначным, так как множество таких элементов /, что f(t) = e, или состоит только из точки / = 0, или неограничено. Далее, так как множество — M^t^-\-M компактно, то взаимно однозначное соответствие между ним и его образом в G непрерывно в обе стороны; следовательно,. t была бы непрерывной функцией от /(/), если бы f(t) принадлежала пересечению У и образа группы g, и представление f(t) было бы изоморфизмом. Чтобы закончить доказательство, достаточно рассмотреть случай, когда G является замыканием образа g. Для любого открытого в G множества Q существует такое положительное tr что f(t)£Q. Действительно, так как образ группы g всюду плотен в G, то существует такой элемент z£gy что f(z)£Q; пусть V—V"1-—такая окрестность единицы, что /(^)-КсЙ; существует такой элемент и £ gy что f(u)£V и | и \ > | г \г отсюда f(z -\-\u\)£Q и *-|-|«|>0. Пусть теперь У=У-г— открытая окрестность единицы, замыкание которой компактно; для любого х существует такое положительное ty что f(t) 6 хУ> т. е. x£f(t)-V; в частности, всякий элемент х£У при некотором положительном ^ принадлежит множеству f(t)-V; следовательно, так как У компактно, существует конечное множество таких положительных чисел tiy что Уа Uf(^)9V- Пусть
§ 26. Предварительные результаты 111 Т—наибольшее из этих чисел tt\ пусть, далее, х— произвольный элемент группы G, а т — наименьший неотрицательный элемент группы g, такой, что /(т)*"*1 принадлежит V; следовательно, /(х)х~г принадлежит одному из множеств fit^Vy значит, /(т — t^x-1 принадлежит V. По определению числа т имеем т — ^-<С0 и» следовательно, 0=^;т<^7\ Пусть I — образ множества тех элементов группы g, для которых при представлении / 0 ^ т ^ Т. Так как #€V*/(t), to GaV'Ir а так как множества Vu I компактны, то и группа G компактна. Далее, если положить #==/(—t), ю легко видеть, что можно выбрать число т, 0^т<^Г, так, что /(£-[-т)£1Л Наконец, очевидно, что G—абелева группа, так как она содержит всюду плотную абелеву подгруппу. Если положить g-=A1, то из этсй леммы следует, что в локально компактной группе G степени sn любого элемента s или образуют бесконечную дискретную подгруппу, или всюду плотны в некоторой, компактной подгруппе группы G. Пусть G=C°°—: локально компактная абелева группа, порождаемая некоторой компактной и симметричной окрестностью С=С~г единицы. Так как множество С2 компактно (§ 3),„ то существует конечное число таких элементов si £ С, что Czcz\Js£Ct Пусть Г — счетная группа, порождаемая элемен- i тами s(. Тогда. С2сГС. Если для некоторого п ^ 2, СпаТСг то С/г+1сГС2сГ2С = ГС; следовательно, СпаТС для любого я, откуда G=TC. Если G не компактна, то замыкание Г не может быть компактным множеством, поэтому, согласно . лемме 2, хотя бы один из элементов s{ порождает бесконечную дискретную группу. Эта бесконечная дискретная группа содержит подгруппу у конечного индекса, пересекающуюся с С только в единице. Пусть С— образ С в фактор-группе G' = G/y, а Г' = Г/у— образ группы Г. К G' можно применить те же рассуждения и, если G' не компактна, найти в Г' бесконечную дискретную подгруппу yi, пересекающуюся с С только в единице. Элементы группы Г, образ которых принадлежит Yi, образуют группу у1? изоморфную Д2 и пересекающуюся с С только в единице. Далее можно начать построение с фактор-группы G/yx. Так как группа Г имеет конечное число образующих, то указанное построение оборвется после конечного числа шагов. Следовательно:
112 Глазх VI. Теория локально компактных абелевых групп Если абелева группа G порождается некоторой компактной окрестностью единицы С, то существует такая подгруппа Дг группы G, пересекающаяся с С только в единице, что фактор-группа Gj\r компактна. Согласно § 25, компактная группа Ar=G/Ar является проективным пределом абелевых групп Ли Ка=К\к^ Пусть g^ — множество тех элементов группы G, образ которых в G/Ar=/C принадлежит ka; тогда g«z>kr и (§ 2) Glg^^K/k^^K^ Так как всякая окрестность единицы в К содержит одну из гюд- групп kay то для любой окрестности W единицы в G найдется ga> содержащееся в Дг- W. Пусть W=W~l замкнуто ,и W*cz С; тогда W* Л Дг= {е\, откуда W* П Дг- W= W. Пусть, далее, g*cz£f- W и g(X=g^f\ W; g^ является замкнутым множеством. Если x^g^g^ то x£g'aczbr- W и х£ W2, поэтому х £ W и, значит, х £ ga. Таким образом доказано, что ga является компактной подгруппой группы G. Группы ga образуют семейство подгрупп группы G, удовлетворяющее условиям А), Б), В), § 5, следовательно, группа G — проективный предел групп Ga —G/g"a. Пусть уа—образ g[ в Ga. Образ W в Ga не содержит ни одного элемента из уа, крэме единицы, следовательно, уа— дискретная подгруппа. Отсюда следует, что Ga локально изоморфна фактор-группе Ga/ya. Так как 4§ 2) Ga/ya изоморфна G/^ = /^a, тэ в Ga существует окрестность единицы, изоморфная окрестности единицы в торе Тп\ ,эта окрестность порождает подгруппу G'a группы Ga, являющуюся связной абелевой группой Ли, следовательно, ее можно представить в виде RpxTQ. Фактор-группа Ga/Ga'дискретна. Юна, как и группа G, порождается компактной окрестностью единицы (§ 3) и, следовательно, имеет конечное число образующих (§ 3). Поэтому ее можно представить в виде Д^ХФ- .Наконец, согласно лемме 1 и § 4, Ga изоморфна прямому произведению групп G« и Ga/Ga, Следовательно: Всякая абелева группа G, порожденная компактной .окрестностью единицы, является проективным пределом групп Ga = Glga вида RPxT^X^X Ф. Так как группа ga компактна, то множество элементов труппы G, образ которых в Ga=^G\ga принадлежит частичному .произведению Т^хФ, образует компактную подгруппу Н группы G, и фактор-группа G/H изоморфна /?^хД5. Наконец,
§ 27. Группа характ. локально компактн. абелевой группы ИЗ люба л компактная подгруппа группы G содержится в //, так как при гомоморфизме произвольной компактной группы в RPX\S, ее образ, очевидно, состоит только из единицы. Как было уже указано во введении, наиболее существенные результаты в теории локально компактных абелевых групп принадлежат Л. С. Понтрягину [49J, они были в дальнейшем расширены и пополнены Е. Р. ван Кампеном [27]; см. также [1], [2J, [36], [441 я [47]. Рассуждения, при помощи которых мы доказали лемму 1, в основном принадлежат Александеру {1J; см. также [44J. Аналогичным способом можно убедиться, что лемма 1 остается справедлива при несколько более общих предположениях; а именно, когда G— произвольная топологическая группа, g—такая инвариантная подгруппа группы G, что фактор-группа Gjg дискретна, и f (х) -— такое представление группы g в удовлетворяющую условиям леммы 1 группу G', что любой элемент из g, принадлежащий коммутанту группы G, отображается при представлении f (x) в единицу. В остальной части зтого параграфа используются, в частности, методы А. А. Маркова [36] и Е. Р. ван Кампена [27]; окончательный результат параграфа можно, как это делает последний, непосредственно вывести из теоремы § 29 о структуре локально компактных абелевых групп. Метод Е. Р. ван Кампена состоит в следующем: так как ^а = /?/>Х>Х^ХФ, то G = H.G*, где Я—множество тех элементов из G, образ которых в G/g^ принадлежит Г?ХФ, а (7*— множество таких элементов, образ которых принадлежит RPX&&. Н—максимальная компактная подгруппа группы (7, и (7* не совпадает с (7, если g^ содержится в достаточно малой окрестности единицы группы G, за исключением того случая, когда G~RPX-^S. Но тогда максимальная компактная подгруппа группы (7* — это H* = G*f)H; с другой стороны, всякая подгруппа группы Rp*X ХГ^Х-^ХФ является группой такого же строения, следовательно (согласно § 5), всякая замкнутая подгруппа группы G является проективным пределом таких групп, и для нее можно повторить только что проведенные для группы G рассуждения. Рассмотрим: семейство таких замкнутых подгрупп (7* группы (7, что <7 = (7*-/У; используя теорему Цорна ([13а], § 6), или метод трансфинитной индукции, легко убедиться, что среди таких подгрупп существует по крайней мере одна минимальная (т. е. такая, которая не содержит подгруппы, обладающей тем же свойством). Эта подгруппа имеет с Н лишь один общий элемент, а именно единицу е группы G, и может быть представлена в виде Rpx^s> следовательно (согласно § 4), G изоморфна произведению HXRpX&s- § 27. Группа характеров локально компактной абелевой группы. Известно, что всякая неприводимая система матриц, перестановочных между собой, имеет степень 1. В частности, всякое ограниченное неприводимое представление абелезой 8 А. Вейль
114 Глава VI. Теория локально компактных абелевых групп группы является непрерывным} решением уравнений X (*У) = I (*) I 0V4 X (*)] = 1; эти представления совпадают со своими характерами. Кроне^- керовское произведение двух таких представлений х (х) и Х'(х) совпадает с обычным произведением х (Х)'Х' (■*)• Характеры* абелевой группы образуют абелеву группу относительно умножения. Характер абелевой группы G является представлением О в Г1. Если группа G локально компактна, то для любого элемента s, отличного от единицы е, существует такой характер Х(х)> что Х^)^*- Действительно, пусть С — содержащая s компактная окрестность единицы в G; мы видели (§ 26), что в порожденной С группе G' существует такая дискретная подгруппа Дг, пересекающаяся с С только в единице, что фактор-группа G'j£Lr=K компактна. Образ sr' элемента s в группе К отличен от единицы, поэтому (§ 25) существует такой характер х' группы К, что х' (s) =^=1, а тогда, индуцируемый им характер у группы G' принимает на группе Дг значение 1, причем i(s)=^=\. Но согласно лемме 1 § 26, всякий характер группы G' можно продолжить до характера всей группы G. Введем топологию в группу характеров группы G, пользуясь тем, что G локально компактна. Пусть С — некоторое- компактное множество в G и U—окрестность единицы в Г1; пусть W(C, U) — множество таких характеров х (х) группы G> что если х£С> то i(x)czU. Примем семейство множеств- W(C, U) за систему окрестностей единицы; легко проверить, что аксиомы GT (§ 2) выполнены. Группа характеров локально компактной группы G локально компактна. Точнее, если U0 — множество чисел е2кЫ, где |а|<^~о-, С — некоторая компактная окрестность единицы. в группе G и U—замкнутая окрестность единицы в Г1, принадлежащая^, то W(C, U) является компактным подмножеством группы характеров. Заметим сначала, что всякой окрестности единицы иг в группе Тг можно поставить в соответствие такое целое число #, что всякий элемент группы Г1,, принадлежащий) вместе со своими первыми п степенями окрестности UQ>, принадлежит окрестности Ux~
§ 27. Группа характ. локально компакты, абелевой группы 115 Каждому элементу х группы G поставим в соответствие изоморфную Т1 группу Тх; прямое произведение 60 всех этих групп является множеством всех функций $(х) на группе G, принимающих значения из группы Т1; группа 60 компактна. Множество в элементов 8-(лг), удовлетворяющих всем соотношениям $(ху)=$(х)$(у), будет замкнутой и потому компактной подгруппой группы 60. в является множеством всех представлений (не только непрерывных) группы О в Тг (т. е. множеством представлений дискретной группы, алгебраически изоморфной группе G). Всякому характеру i(x) соответствует некоторый элемент из в; легко видеть, что это—непрерывное отображение группы характеров (с введенной выше топологией) в в. Следовательно, достаточно доказать, что образ W(Cy U) замкнут в в и соответствие между W(C, U) и его образом непрерывно в обе стороны. Докажем сначала второе утверждение. Пусть Ux — окрестность единицы в группе Т1, п определено согласно указанным выше условиям и V— такая окрестность единицы в G, что VnczC. Тогда, если i (x) принадлежит W(C, U) и лг£ V, то п первых степеней характера %(х) будут принадлежать UczU0, следовательно, x(x)£U. Если Сг—компактное множество в G, то существует конечное число таких элементов si9 что Clc:\JsiV; следовательно, если %(х) при- надлежит W(C, U) и все x(*i)€*/h T0 ZWf^i пРи всех х£С1у что и требовалось доказать. Пусть, далее, $(х) принадлежит замыканию W(C, U) в в; непосредственно видно, что если х g С, то & (х) g U и также (иг и V определены, как и выше), если x£V\ то Ь{х)£иг; последнее доказывает непрерывность Ь(х). Итак, W(C, U) — компактное множество. Если, в частности, группа G дискретна, то можно положить С={е}, следовательно, группа характеров дискретной группы компактна. Если группа G компактна, то можно взять C=G; тогда W(G, U) будет единицей группы характеров, так как образ G в Т1 есть подгруппа группы Т1 и содержится в U0 лишь в том случае, если он равен единице. Поэтому группа характеров компактной группы дискретна. Начиная отсюда, мы будем обозначать символом G группу характеров группы G; мы будем также называть G группой, двойственной к G. Если х—элемент группы G, то мы будем обозначать через (л:, х) значение характера группы G, соот- 8*
116 Глава VL Теория локально компактных абглевых групп ветствующего элементу х, в элементе х группы G. При сделанных нами предположениях (х, х) будет непрерывной функцией на GxG. Пусть G=G1xG2; из § 17 следует, что всякий характер l(x) = i(xu х2) группы G может быть единственным образом представлен в форме Xi(xi)'h(x2)- Отсюда выводится без труда, что G = GixG2\ этот результат можно распространить на стучай прямого произведения любого конечного числа групп. Это позволяет, в частности, найти группу характеров дтя „элементарюй" группы вида Rpx 7^хД5 хФ, если известны группы характеров для каждой из „простых" групп § 26, нахождение же последних весьма легко. Именно, имеют место с те дующие результаты: а) Д1 и Т1 двойственны друг другу, причем (я, ?)== = (£, п) = ^п, где /г£Д! и S^T1. Отсюда следует, что ДГ и Тг двойстзе! ы друг другу. б) Аддитивная группа целых чисел по модулю п (циклическая грулпа порядка п) изомэрфна своей группе характеров. Изоморфное соответствие между ними можно установить так, чтобы имела место формула (/, m) = e2jci'!mn. Следовательно, всякая конечная абелева группа изоморфна своей групп* характероз. в) R1 изоморфна своей группа характеров. Изоморфное соответствие между ними можно установить так, чтобы имела место формула (х, у) = е2ки*У. Следовательно, Rn изоморфна своей групле характеров. Итак, группой, дзоЗстзелной к RPX T** хД*хФ, является группа R!xTsxlgxФ. Определение группы характеров локально компактной абелевой группы, эквивалентное приведенному выше, было дано Е. Р. ван KavineHOM [27]; его доказательства опираются на исследование структура групп (см. замечания к § 25) и на предварительное изучение компактных и дискретных групп. Теория характеров для компактные групп, удовлетворяющих второй аксиоме счетности, и для счетных дискрзтных групп была построена Л. С. Понтрягиным [491. (Там же установлены теоремы двойственности § 23.) Алексан- дер и Циплн [2] потучили менее полные, чем Понтрягин, результаты бот1ее элементарными методами, не делая предположений о счетности; см. также [1] и [44]. § 28. Теория двойственности. Пусть G — локально компактная абелева группа и G — ее группа характеров; пусть (х, х) — функция, определенная в § 27, т. е. значение харак-
§ 28. Теория двойственности 117 тера x£G в элементе x£G. Пусть, далее, G'— группа характеров группы G и (дг, х')— соответствующая функция, определенная для G и G'. Из свойств функции (дг, х) следует, что если зафиксировать элемент х £ G, то она определит характер группы G, т. е. всякому элементу x£G соответствует такой элемент х' = <р(х) группы G', что (дг, х) = (х, <р(х)). Для всякого х=?=е можно найти такой элемент х, что Л (дг, х)^=1, следовательно, если х=^е, то <р(х) отлично от единицы группы G', кроме того, отображение у(дг) непрерывно. Действительно, пусть W(C, U)— компактная окрестность единицы в G, определенная согласно § 27, и С — компактное множество в G. Существует конечное число таких элементов $;€G, что Са \JstW{C, U); с другой стороны, в группе G i существует такая окрестность единицы К, что К'£ С, причем если x£V\ то (дг, st)c:U. Тогда если х£Уи х£Суто (дг, x)czU2y т. е. (дг, (p\(x))czU2; другими словами, если x£V\ то <р(х) принадлежит окрестности единицы W(C, (J2)b G''. Итак, <р(д:) — взаимно однозначное представление G bG'. Обозначим символом Р((/)предчожение: „ср (дг) является изоморфизмом G на G'". В этом параграфе мы докажем P(G) для локально компактных абелевых групп. Из замечаний § 27 о группе характеров прямого произведения G = Gj х G2 легко видеть, что если справедливы P(GX) и P(G2)> то P(G) также справедливо. С другой стороны, так как мы нашли группы характеров для „простых" групп § 26, то можно непосредственно проверить справедливость P(G) для этих групп. Следовательно, для всех „элементарных" групп вида /?* х 7^ X Д* X Ф Р(0) также справедливо. Если P(G) справедливо для группы G, то мы вправе (для упрощения записи) отождествить группу G с двойственной к G группой G'. Таким образом, G — группа характеров G и, обратно, G — группа характеров G. Можно написать тогда, что (д;, дг) = (дг, дг). Следовательно, если справедливо P(G), то P(G) также справедливо. Пусть теперь G и Н — локально компактные абелезы группы и /(дг) — представление G в И. Всякий характер ф {и)
118 Глава VI. Теория локально компактных абелевых групп группы Н определяет характер *i(x) — b[f{x)] группы G. Другими словами, формула (/(*), я) = (лг, л;) определяет х как функцию от и; если обозначить ее через f(u), то Л Функция / непрерывна. Действительно, пусть С — компактное множество в G, U—окрестность единицы в Г1 и С — образ С в И при отображении f(x)y являющийся компактным и потому замкнутым множеством в Н; тогда, если и£ W(C\ £/), то АЛ Л А А' / (#) € W(C, U). Следовательно, /—представление Н в G, которое мы будем называть двойственным к /. Докажем, что Л если /—гомоморфизм, то /—также гомоморфизм. Рассмотрим сначала следующий частный \ случай: Пусть f(x) — гомоморфизм группы G на Н и g — ядро этого гомоморфизма, так что И изоморфна фактор-группе Gig. Двойственное к f представление /, 'определенное формулой (/(*)>«) = (*,'№), является изоморфизмом Н в G; образ у группы Нед при отображении f есть замкнутая подгруппа группы G, состоящая из тех характеров xCG, для которых (х, х) = \, если x£g. В сво:о очередь g состоит из таких элементов х группы G, что если лг^Т' *по (х, х) = \. Действительно, f (и) — взаимно однозначное отображение, так как если /(и)—единица группы G, то (f(x), u) = \ для любого х £G, следовательно, (и, и) = \ для любого и£Н, т. е. и — единица группы И. Отображение / непрерывно в обе стороны, так как для любого компактного С из Н найдется компактное Сиз G, образом которого при f(x) является С, а тогда, если/ (и) £ №(С, U) в G, то (/(*), и) £ U для любого лг^С, т. е. {и, u)£U для любого и£С; следовательно, и £ W{C, U) в Н. Итак, /—изоморфизм, и поэтому (§ 3) подгруппа у замкнута в G. С другой стороны, для того чтобы можно было рассматривать характер %{х) группы G, как характер группы Gjg, необходимо и достаточно, чтобы он принимал значение 1 на ^;
§ 28. Теория двойственности 119 иными словами, если задан элемент х, то предложения: Л „(я, х) = \, каков бы ни был элемент х £ g", и „существует такой элемент я, что (/(дг), и) = (ху х)а, — эквивалентны; однако последнее предложение означает, что „существует такой элемент и, что х =/(#)«, т. е. дг£у. Наконец, для того чтобы х € g> необходимо и достаточно, чтобы f(x) совпадало с единицей группы //, т. е. чтобы равенство (/(*),«) = 1 Л А Л выполнялось для любого и£Н, откуда (лг, х) = 1, если jc=f(a). Окончательно, для того чтобы х было элементом из g, необходимо и достаточно, чтобы для любого элемента х £ у выполнялось равенство (л:, л:) = 1. Пусть теперь х = у (а) — изоморфизм группы Г в группу G; пусть, далее, g—образ группы Г при изоморфизме ю, являющийся замкнутой подгруппой группы G (§ 3), H=G\g и f(x)—естественный гомоморфизм G на Н, к которому применимы полученные выше результаты. Пусть, наконец, а = <р (х) — двойственное к ср отображение, определенное формулой л а * Для того чтобы (р (х) было единицей группы Г, необходимо и достаточно, чтобы (у (а), х) = \ для любого а£Г, т. е. чтобы (л:, х) = 1 для любого л: £ g, откуда вытекает, что -*€Y (гРУппа Y была определена выше). Обозначим через в группу G/y; полученные нами результаты применимы к гомоморфизму $ = &(лг) группы G на в. Предположим, что P(G) справедливо; тогда можно рассматривать группу G как группу характеров для G, а двойственное к ft (л:) представление Л А Л .А ft ($) — как изоморфизм группы в в G. Образ g' группы 0 при изоморфизме ft состоит из таких элементов х, что {х, х) = \ для любого х £ у, т. е. gf = g; итак, группа 6 изоморфна g, а следовательно, и Г, поэтому мы можем счи. тать, что 6 совпадает с Г, a ft (S)—с <р(а). Тогда уравнение, ДА А определяющее отображение ft (5) как двойственное к v(at), принимает вид (»(£), a) = (i>1P(<j)).
120 Глава VI. Теория локально компактных абелевых групп Мы уже предположили, что P(G) справедливо; предположим* теперь, что и Р(Т) также справедливо. Это позволяет отождествить в и Г, а тогда написанное выше уравнение примет вид (а, 0 (£)) = (? (а), £), откуда следует, что ср совпадает с $. Другими словами, если верно P(G) и Р(Г) [или, что то же самое, P(G) и P(g)], то справедливо следующее предложение: Пусть х — у(а)— изоморфизм группы Г на подгруппу g группы G, и пусть у — множество та/сих характеров x£G, что (х, х) = 1 для любого х из g\ тогда двойственное к <р отображение ср (х) является гомоморфизмом G на Т, «у С06~ падает с ядром гомоморфизма ср. В частности, пусть, как и выше, f(x)—гомоморфизм G на И и f(u)—двойственное к / отображение, являющееся изоморфизмом Н на подгруппу у группы G. Если справедливы P(G) и Р(Н) [или, что то же самое, P(G) и />(//)], то/'(*> будет отображением, двойственным к f(u). Чтобы перейти теперь к рассмотрению произвольного гомоморфизма, заметим, что если ср (а) — представление группы Г в группу О, а ф (S) — представление группы Q в Г, то, если положить /7(S) = w[cb(S)], двойственное к F представление определится формулой (у[ф(£)], ^) = "(ф(5), v (i)) = (S, * [£ (*)]). т. е. представление F (л:) = сЬ [у (л:)] двойственно к F(3). Если, в частности, сЬ — гомоморфизм й на Г, ср— изоморфизм Г на gczG и P(G) и Я(?) справедливы, то вследствие предыдущего F будет гомоморфизмом G в й. Но так как всякий гомоморфизм Q на gczG может быть представлен в виде ср [ф(£)], то если бы P(G) было уже доказано для любых групп, отсюда следовало бы, что двойственное к гомоморфизму представление является гомоморфизмом.. Пусть теперь G — локально компактная абелева группа,, являющаяся проективным пределом таких групп Ga = Glga, что P(Ga) справедливо при любом а; докажем, что в этом случае P(G) также справедливо. Действительно (обозначения,, которые относятся к понятию проективного предела, взяты из § 5), пусть xa=fa(x) — гомоморфизм G на. Ga„ xa =/ft?(дг3) —
§ 29. Теория двойственности 121 такой гомоморфизм G? на Ga, где а<|5, что fa(x)=f7$ [f? (x)]. Пусть л:—-/а(л;а)— двойственное/а отображение, определенное формулой (Ш. *.) = (*,/. (*.)); согласно предыдущему, оно является изоморфизмом Ga на подгруппу у«> состоящую из элементов х £ G, для которых (д:, л:) = 1, если х £ g*a. Согласно установленным нами свойствам представлений проективных пределов (§ 5), всякий характер группы принимает по крайней мере на одной из групп ^а значение 1, поэтому G = UY«- Иными словами,, a если x£G, то существуют такие а и х,у что л:=/а(л:й). Пусть отображение jtg ==/a8 (*я) двойственно к/.; оно является изоморфизмом группы Ga в Go. Предположим, что P(G^ справедливо при любом а, тогда G7 будет группой характеров группы Ga, а /^ — двойственным к /в9 отображением. При этом/a(Ara)=/p[/ra?(jca). Если теперь G' — группа характеров для G и д:а =/а (л:') — двойственное /а представление G' в Ga, то /а'(д:')=/а3[/'(д:')]; поэтому для любого хг из группы G' элементы /^ (#') являются координатами некоторого элемента ^ = сЬ(лг') группы G; следовательно, /J (.£') — =/а [ф (л;')] для любого а, и так как f'a непрерывны, то cb(x') также непрерывно и является поэтому представлением G' в G. Согласно определению /7, имеем (Х(*«). *Ч=&./«(* [*')])■ Так как P(Ga) справедливо, то (л:а, дга) = (д:а,л:а), поэтому- правый член нашей формулы можно написать в виде (/Дф(*и*«)=(<М*')-Л (*«,))• л Следовательно, каковы бы ни были х\ а и лга: (А (*.)>■*')=(*(*'). А (*.)). и так как всякий элемент х £ О можно представить в виде А(*«). т0
122 Глава VI. Теория локально компактных абелевых групп Однако мы видели, что существует такое представление группы G в G', что (л:, х) = (х, у(х))у а предложение P(G) состоит в том, что „<р является изоморфизмом G на G'". Из двух последних равенств следует справедливость формулы х' = (р[сЬ(л;')] для всех элементов х' группы G'. Поэтому <р — представление G на G'; ф — функция, обратная <р, и так как сЬ непрерывна, то наше предложение доказано. Так как P(G) справедливо дая всех групп вида RpX Т^хД^хФ, то оно справедливо также для проективных преде юв таких групп и, следовательно, для всех групп, порождаемых некоторой компактной окрестностью единицы (§ 26). Перейдем теперь к общему случаю. Пусть G — локально компактная абелева группа; пусть Са — такие компактные окрестности единицы, что G= U Са> причем объедине- а ние конечного числа множеств Са> содержится в одном из Са (можно, например, принять за С0 некоторую фиксированную компактную окрестность единицы и рассматривать семейство всех множеств Са, каждое из которых состоит из С0 и еще конечного числа элементов группы G). Если a<£J означает, что СасСр, то индексы а образуют частично упорядоченное направленное множество (§ 5). Пусть уа — подгруппа группы G, порожденная Са; если а< [J, то уа< у8 и G= U Y*- Группы уа от" а крыты и замкнуты в G; в частности, если С— компактное множество в G, то, так как оно покрыто открытыми множествами у*! существует конечное число таких у«.» что Ga Uya. и, следовательно, С содержится в одном из уа- Кроме того, Р (уа) справедливо для всех а. Обозначим через &а тождественный изоморфизм уа в G {т. е. изоморфизм &а(£а), ставящий в соответствие всякому £a€Ya> рассматриваемому как элемент из у«> тот же £aJ рассматриваемый как элемент G), и аналогично для а<£1 обозначим через &ag тождественный изоморфизм Ya B Ys- Так как Я(уа) справедливо для любого а, то двойственное к &а(3 отображение выбудет гомоморфизмом у^ на уа. Равенство £a = &ap($3) ♦означает, что для любого Sa£ya (^(U.y=(^-i). т. е. (так как &ap(Sa) = Se) что характер группы ур, определенный элементом S3, совпадает на ya c характером, опреде-
§ 28. Теория двойственности 123 ленным элементом $а. Всякий характер группы G определяет для любого а характер группы уа, т. е. элемент \ группы уа; при этом если а<р, то £а = &ар(£р). Обратно, если всякому a соответствует такой элемент £а из уа» чт0 £а = $вв$в) ПРИ а < р, то характеры, определенные элементами $а на уа> яв" ляются продолжением один другого и, следовательно, определяют некоторый характер группы G. С другой стороны, группы ^/уа Гдискретны, и, согласно лемме 1 § 26, всякий характер группы у« можно продолжить на G. Следовательно, уа имеют проективный предел относительно гомоморфизмов да3, который можно поставить во взаимно однозначное соответствие с группой'и. Это соответствие непрерывно в обе стороны. Действительно, пусть С—компактное множество в G; найдется такое а, что Ссуа, поэтому, для того чтобы характер группы G принадлежал окрестности W(C> U) группы G, необходимо и достаточно, чтобы определенный им характер группы Y« принадлежал окрестности W(C, U) группы у». Итак, G изоморфна проективному пределу групп уа> следовательно (§ 5), соответствие между элементом х группы G и определяемым им характером группы у« является гомоморфизмом G на Ya» эт0 соответствие двойственно отображению fta(S0), что слелует из определяющего его равенства (».&),*)=(&«>*„(*)) и из того, что &a(£a) = Sa. Двойственное к &а отображение Ъ'а является, следовательно, изоморфизмом уа на под" группу Ya группы G', двойственной к G, и Так как Я(уа) справедливо, то левая часть этого равенства совпадает с правой частью предыдущего, поэтому (». (5.), *)=(*. U(S.)). Y« является множеством характеров группы G, принимающих на Ya значение 1, следовательно, G' = UY«- Далее> ^a (лг)== a =&etp[&pWl» поэтому &«(S«)=&'p[&ap(U]; иными словами, если а< [}, то отображение 9-^ является продолжением отобра-
124 Глава VI. Теория локально компактных абелевых групп жения &а, и, следоватеаьно, эти отображения определяют некоторый изоморфизм х' = ®(х) группы G = U Та Ha G'= иу« > ос а А Л поэтому (х, х) = (х, <р(х)), что и доказывает P(G). Резюмируем полученные результаты: Между локально компактными абелевыми группами можно установить такое попарное соответствие, при кото- ром соответствующие друг другу группы G и G являются группами характеров одна для другой. Если G и G — такие группы и если (х, х) — функция, определяющая характеры групп G и G, то существует такое взаимно однозначное соответствие между замкнутыми подгруппами g группы G и замкнутыми подгруппами у группы G, что если x£g и л:£у, т0 (х, х)=\*); при этом если gz>g't то усу', u в этом случае g(g' и у'/у являются группами характеров друг для друга; в частности, у двойственна к Gjg и g двойственна к G/y. Пересечению g[)g' соответствует в G произведение у -у' и произведению g-g' — пересечение у Пу''Х1)- Результаты этого параграфа сформулированы уже цитированными авторами (см. замечания к §§ 26 и 27), но их доказательства нельзя считать полными, так как в них не соблюдается точно (как это сделано здесь) различие между представлениями и гомоморфизмами; эти два понятия совпадают для компактных (§ 3) и дискретных групп, поэтому, согласно § 27, легко доказать двойственность этих двух категорий групп. Согласно этому параграфу, группа характеров G проективного предела G групп G^^G/g^ является объединением подгрупп -^у изоморфных соответственно С/а, открытых в G, если g^ компактны, и таких, что ^а С 7р ПРИ а К Р- Если /а^ при а < р есть гомоморфизм группы Gp на Ga, служащий для1 определения проективного предела, то двойственное отображение/^ группы Ga в G^ является изоморфизмом. Это приводит к такому ' определению: пусть дан фильтр индексов а, каждому из которых соответствует группа ИаГ и пусть для каждой пары a < ? определено изоморфное отображение группы Па в Щ\ тогда объединение И групп На можно назвать индуктивным пределом групп Па относительно Зс данных изоморфизмов. Для этого понятия нетрудно сформулировать соответствующую систему аксиом, аналогичную аксиомам проективного предела. При этих условиях можно сказать, что индуктивный предел групп Ga двойственен проективному пределу групп Ga, и *) Подгруппа g называется при этом аннуляторэм подгруппы ?г и обратно. (Прим. ред.)
§ 29. Структура локально компактных абелевых групп 125 обратно; всякая локально компактная группа является индуктивным пределом групп, порожденных компактными окрестностями единицы; в частности, всякая локально компактная абелева группа является индуктивным пределом проективных пределов „элементарных" групп ДРХТя Х^ХФ. Понятие индуктивного предела для последдва- гпельт-.тей групп и топологических пространств ввел Фрейден- таль [20] (его терминология и аксиомы несколько отличаются от наших); см. также замечания к § 5. § 29. Структура локально компактных абелевых групп. Рассмотрим сначала случай, когда G порождается компактной окрестностью единицы; мы видели в § 25, что в G существует компактная подгруппа Н, для которой GJH предста- вимо в виде Rpxks. Двойственной к RpXks является группа RpxTs; двойственная к Н группа дискретна (§ 27); следов 1тельно, bG существует подгруппа вида Rp x Ts, фактор-группа по которой дискретна, и значит, согласно лемме 1 § 26r~G является прямым произведением RpxTs и двойственной к Н дискретной группы, откуда вытекает, что G есть прямое произведение Rpxks и Н: Всякая абелева группа G, порождаемая какой-нибудь компактной окрестностью единицы, является прямым произведением HxRpXksy где Н — максимальная компактная подгруппа группы G. Пусть теперь G — произвольная локально компактная абелева группа, G'— подгруппа группы G, порожденная компактной окрестностью V единицы; она представима в виде Н х Rp X Д*. Пусть (0 (л:)—проекция элемента х группы G' на множитель Rp\ согласно лемме 1 § 26, отображение х—^о)(дг) можно продотжить на G, и, следовательно, G является прямым произведением Rp на группу Gv изоморфную фактор-группе GlRp. Образ V в Gx порождает группу G[ , изоморфную G'jRp, т. е. Hxks; группа Gl!G'1 дискретна, оедоватеаьно, GxjH также дискретна. Итак, мы получили следующий результат: Всякую локально компактную абелеву группу G можно поедставчть в виде RpxGlt где Gt содержит такую компактную подгруппу Н, что фактор-группа GX\H дискретна. Лэгко видэть, что р язляется и1вариаятом группы G. Приведенные выше результаты дают возможность изучить топологическую структуру локально компактной абелевой группы G. Рассмотрим, в частности, следующие случаи:
126 Глава VI. Теория локально компактных абелевых групп а) Если О связна, то она порождается любой окрестностью единицы и любая фактор-группа группы G связна, поэтому G имеет вид RpxH, где Н—связная компактная группа. Для того чтобы группа И была компактна и связна, необходимо (§ 25) и достаточно (§5), чтобы она была проективным пределом групп Тп; но тогда (§ 28) дискретная группа Н является объединением групп Дл, и потому все элементы группы Н имеют бесконечный порядок: Всякая компактная связная группа двойственна дискретной группе, каждый элемент которой имеет бесконечный порядок» и обратно; всякая локально компактная связная группа является прямым произведением такой группы и группы Rp. Отсюда мы получаем следующее определение компоненты единицы (сначала для компактной группы): Компонента К' единицы компактной абелевой группы К является аннулятором подгруппы F всех элементов конечного порядка группы К, т. е. является группой характеров для KlF. Если в группе HxRpXks подгруппа Н компактна, та компонентой единицы в этой группе будет H'xRp, где Н'— компонента единицы в Н\ таким образом, компонента единицы произвольной группы G такова же, как компонента единицы в подгруппе, порожденной компактной окрестностью единицы. В частности, для того чтобы компонента единицы в G совпадала с единицей, необходимо и достаточно, чтобы в G существовала такая открытая компактная подгруппа И, что порядок всех элементов группы Н конечен, б) Размерность группы G—та же, что и размерность подгруппы Gr = HxRpX Asy порождаемой компактной окрестностью единицы в G; это число равно п-\-р, где п — раз-' мерность группы //. Таким образом, достаточно исследовать только компактные группы. Пусть п конечно. Для того чтобы компактная абелева группа Н имела конечную размерность, необходимо (§ 25) и достаточно (§ 5), чтобы она была проективным пределом групп вида ТпхФ, где Ф — конечная группа, т. е. чтобы дискретная группа// была объединением групп видаД^хФ. Говорят, что элементы s{ дискретной абелевой группы, взятые в конечном числе, независимы, если из соотношений
§ 30. Преобразование Фурье 127 s^s™*.. . sm*=e следует, что все mi равны нулю (т. е. они линейно независимы при аддитивной записи группы). Поэтому^ приведенный выше результат можно сформулировать следующим образом: Для того чтобы компактная абелева группа Н имела размерность пу необходимо и достаточно, чтобы существо- вало п линейно независимых элементов группы Я и чтобы в Н не существовало большего числа линейно независимых элементов. Например, группа, двойственная дискретной аддитивной группе рациональных чисел, является компактной группой размерности 1 (Х11>. Приведенные выше результаты для связных групп, удовлетворяющих второй аксиоме счетности, были получены Л. С. Понтряги- ным [49]; его результаты были пополнены Е. Р. ван Кампеном [27]; см. замечания к § 26. § 30. Преобразование Фурье. Локально компактные абе- левы группы образуют естественную область, на которой еле- дует развивать гармонический анализ; при изложении основ, этой теории, возникшей из классического интеграла Фурье, мы ограничимся несколькими существенными результатами и прежде всего теоремами Планшереля и Бэхнера, которые мы сформулируем во всей их общности и докажем для всех локально компактных абелевых групп. Пусть G— локально компактная абелева группа, G— ее группа характеров, (х, х) — функция элементов x£G и х £ G, определяющая характеры групп G и G. Обозначим че- рез LP и LP — пространства Lp, образованные из функций на группах G и G соответственно относительно их мер Хаара. Пусть 0 (л;) £ Z,1, *И(л;)£/Л Рассмотрим билинейный функционал В (у, Ч*)^[[?(х)Щх~)-(х, x)dxdx, который можно также записать в виде B(y,4*) = fa{x)&Wdx=l%(<p)'^)dx, где V(<p)=[<f(x).(x,Z)dx, »'(«Р) = ^(*)«(*Г*)Ле.
128 Глава VI. Теория локально компактных абелевых групп Мы будем называть % (<р) трансформацией Фурье функции <р .и #'(4*) — трансформацией Фурье функции 4s; очевидно, имеет место полная симметрия между преобразованиями % и %'. Имеем ItfWKIIipL |*'(Ч»)|<|!П, iscM'H^MHm- Пусть to £ L1 обращается в нуль вне некоторого компактного .множества С и % (<р) = ф (д;). Если для любого х £ С выполнено неравенство \(х9у)— 1 |«^ е, то \Ф(ху)— Ф(х) ^бЫ^ первое неравенство выполняется, если взять у из соответствую- А щей окрестности единицы, следовательно, Ф(х) — непрерывная функция. Так как любую функцию u£Ll можно аппроксимировать в cMbicie L1 функциями, каждая из которых обращается в нуль вне некоторого компактного множества, то % (<р) можно разномерно аппроксимировать непрерывными функциями, следовательно, # (<р) непрерывна. С другой стороны, если С компактно в G, то множество элементов х £ G, для которых |(дг, у) — 1|^е Д1Я всех у£ С, является окрестностью V единицы в G; тогда, если функция ср (дг) неотрлцательна, обращается в нуль вне V и \ <р dx = 1, то | Ф (х)\ ^ 1 для любого Э1емента лг, и | Ф (л:)—1 | <; s для всех х £С\ Если y^L1 и cb ^ Z,1, то # (^> * ф) = \ \ ш (у) cl> (у- гх) • (х, х) dx dy, откуда, подставляя (ух, у) вместо (х,у), получаем #(у *c|>) = g(<p)-g(<!>). ■Отметим, что эта формула является частным случаем формулы М(у)-М('Ь) = М(у*<Ь), доказанной в § 18. Обозначим через 11(G) следующее предложение, содержащее главную часть теоремы Шаншереля: Если f(x) — функция на группе G, принадлежащая классу L, и F(x) = (e (/)—ее трансформация Фурье, то \\f(X)\*dX=[\F(x)\*dX. Мы докажем сейчас, что для любой группы G можно так лодобрать постоянные множите ih в мерах Хаара на группах
§ 30. Преобразование Фурье " 129 G и G, чтобы 11(G) было справедливо; в частности, если одна из этих групп компактна, мы выберем ати- множители так, чтооы мера всей этой группы была равна 1, а в двойственной ей дискретной группе мера каждого элемента была бы равна 1. Тогда, если G дискретна, то F(x) будет линейной комбинацией конечного числа характеров группы G с коэффициентами, равными ненулевым значениям функции /(*), и формула, которую надо доказать, эквивалентна формулам ортогональности характеров (§ 22). Если G компактна, то значения функции ^(д:) являются коэффициентами разложения функции/(л:) по характерам группы G; тогда [\F(x)\*dx сводится к 2|F(a:)|2, и формула, которую нужно доказать, эквивалентна тому, что характеры компактной абелевой группы образуют полную ортогональную нормированную систему (§§ 21, 22). 'Поэтому, для того чтобы убедиться в справедливости высказанного результата, достаточно доказать, что (при надлежащим образом выбранных мерах) если g- —замкнутая подгруппа группы G, то из П(^)иП (Qjg) следует П (G); действительно, тогда мы докажем П (G) сначала для групп G', порождаемых компактной окрестностью единицы, так как в такой группе существует дискретная подгруппа Дг, для которой G/Д7* компактна; затем мы докажем теорему для произвольных групп, так как в такой группе существует подгруппа G', порожденная компактной окрестностью единицы, для которой G/Gf дискретна. Итак, предположим, что. 11(g) и Jl(Gjg) справедливы; пусть у —аннулятор вб подгруппы g. Группа у двойственна Qjg, и G/y двойственна g (§ 28). Пусть £ — элемент группы g и а — элемент группы Qjg, соответствующий элементу х £ G при естественном гомоморфизме у группы G на G[g, и = ц>(х); пусть и — элемент группы у ^и пусть, наконец, { = $(х) — естественный гомоморфизм G на G/y. Тогда (£, и) = 1 для любых^ии^у; далее, (S, i)==(e, £), причем в правой части формулы q рассматривается как элемент группы G, а в левой —как элемент группы g; точно тя.к же (х9й) = Если h {x) принадлежит классу L на группе G,. то> интеграл J h (х%) d% можно рассматривать как функцию 7г(а) на Gjg 9 А. Вейль
130 Глава VI. Теория локально компактных абелевых групп так как он принимает постоянные значения на классах смежности по g (см. § 9). \h{u)du является функционалом от п(х), не меняющим значения, если заменить h (x) на h{s~lx)y следовательно, с точностью до постоянного множителя, он равен \h(x)dx. Выберем меру Хаара на группе G та^им образом, чтобы этот множитель был равен 1; тогда j h (x) dx = £ da [ h (x£) d$. Аналогично определим меру Хаара на группе, G так, чтобы, если И {х) £ Z, то j Н (х) dx= j di \н(х it) da. Можно распространить эти равенства на случай любых непрерывных неотрицательных функций (оба члена будут конечны^ или бесконечны одновременно), следовательно, §\F(x)\*dx = JdgJ \F(xu)\*'du. Однако F{xu)=[f(x)-(x,xu)dx=[du [f{xb)-{x£,xu)dl, т. е., так как (*£, «) = («, и), F(xu) = §l¥(u/x).{u, u)du, где 4P(e;i) = J/(jcS).(jfS,i)dS. Так как (£, л:) = (S, S), то это можно записать еще следующим образом: Ч*(иух) = (х,х).ф(х,\)> где Ф и Чт непрерывны, и V{ut xu) = (u, e).T(e, х), Ф(*5, Ь = (М)-Ф(*. 5), следовательно, |ЧГ|2 = |Ф|2 можно рассматривать ка'к функцию от иу%\ |ф(|Г.^)|3 = |ф^^)|2 = в.(|Г>1),.
§ 30. Преобразование Фурье 131 Так как H(g) справедливо, то для любого х f |/(*5) |»rf£ = f | Ф (*, 5) 12Л= \ в (о, S)rfi Л А При любом х функция 4х (я, лг) непрерывна относительно и и обращается в нуль вне некоторого компактного множества в группе G/g", следовательно, в силу \\(Gjg) имеем j в (я, S) Лг = { | ЧР (в, л:) | 2 tfa = [ | f(Jt в) | * Ai. Отсюда следует, что J |/(*) !**** = J|F(*)|2tfJt = jje(e, §)rf»rfg; итак, мы доказали 11(G) для любой группы G. Из этого следуют основные свойства преобразования Фурье. Прежде всего, если/gl, то ip(/)6^2J далее, преобразование #, отображающее I в Z2,; оставляет неизменным расстояние в смысле L2; оно оставляет также неизменным скалярное произведение \ fgdx (в силу элементарной формулы, выражающей его через величины \ \f-\-.ig\2 dx)4 т. е. если f£L и g£L, то \f(x)gMdx=§V(f)W(g)(£. Если в этой формуле g(x) заменить на g(x).(x> s), то % (g) заменится на \ g{x)*(x, x~1s)dx> и формула примет вид правая часть этой формулы имеет смысл и является функцией из Z00, так как #(/)£/а и ^S(g)^L2. Пусть, в частности, f£L. Положим /г = \/\\^ f2=flfx (причем там, где /=0, положим /2 = 0); /г и /2 принадлежат Z, следовательно, {9(/) = = *J (ft) * # (/2) принадлежит L°°. Так как любая функция v^L1 может быть аппроксимирована в смысле L1 функциями /из L, то % ((f) можно равно, мерно аппроксимировать функциями <ё (/), поэтому если 0 £ Z.1 то ^(f)^L°° (обобщение теоремы Лебега о том, что коэффициенты Фурье функции из L1 на группе Т1 стремятся к нулю). 9*
132 Глава VI. Теория локально компактных абелевых групп Пусть теперь /£ L; предположим, что F(x) = <e (/) принадлежит L1; трансформация #' (F) функции F удовлетворяет при любой функции g из L соотношениям [fgdx= [%(f)W(g)dx= [F¥Xg)dx = \ %'(F)gdx, следовательно, из сравнения первого и последнего членов этих равенств вытекает, что %' (F)=f. Пусть теперь Л — множество таких функций f(x) из L1f\Lcoi что их трансформации F(x) = <g(f) принадлежат Ъ п1°° и /=g'(F); пусть А — множество соответствующих функций F; каковы бы ни были f£L KgZL.fxgZL и <g{f*g) = <e(f).% {g)£L\ так как #(/)€/Л <e(g)^L2; следовательно, f*g принадлежит А. Отсюда следует, что функции из А всюду плотны в каждом из L?\ действительно, если <p£Z/, то можно найти функцию/ из L, как угодно близкую к ней в смысле Lp\ тогда, если g непрерывна, неотрицательна, обращается в нуль вне соответственно выбранной окрестности единицы и \ gdx = l9 то /*g* принадлежит А и как угодно близка к /, а следовательно, и к <р в смысле LP. Аналогично, А всюду плотно в каждом из /Л Рассмотрим теперь снова функционал £(/, G)= [fW!fl)dx= \<ё (/) Gdx, где/£L,GeZ. С одной стороны, \B(fy G)\^\\f\\l.\\G\\u с другой стороны, так как ||# (/)||2= ll/IU» то |£(/, G)|< ^ll/IU* 1|0||2- Вследствие неравенств М. Рисса [54], каковы бы ни были f(x) £ L и G (х) £ I, |£(/,Q)|<ll/nP-l|Q||p (КК2>. Это неравенство эквивалентно следующему: 11«(/)11^<11/11р (К/><2). Отсюда вытекает, что при 1^р^2 преобразование #(/), рассматриваемое как функция, определенная на всюду плотном в LP множестве L и принимающая значения в Lp\ равномерно непрерывно, и поэтому его можно продолжить до преобразования #р(<р) всего пространства LP в LP\ Очевидно, что (ёг(у)
§ 30. Преобразование Фурье 133 совпадает с #(<р). Какова бы ни была функция ср £ Lp~ имеем II *,(*>"/"< И* », (К/»<2), в частности, если <p£Z,2, то ll«M¥)ll.= l№ Таким же образом определяется преобразование <ё'р пространства Lp в LP' и функционал где <р € /Д Ф £ LP, удовлетворяю щий^неравенству |В(?>Ф)|<||?||р.||Ф||р. Если при этом <p£Lpf)Lv, где 1^/?^^^2, то для любой функции (/(л;) из L имеем \4%'(G)dx=l<ep(y)Gdx^[%q{u)Gdk, [так как в этом случае ^(G) = #^(G) = #'(G)]. Следовательно, если <p£LP[)L4, то ^gp((p)z= <gq (<р). Пусть, в частности, /б Л; тогда /^L1 Г)£°°, следовательно, /б^р для любого р и если /7(i) = #(Д то при 1</?<2 имеем <gp(f)=zF, а также %' (F)=f. Пусть теперь 1 ^ /? < 2, <f> £ Z/, ф = ^(<р); предположим, что Ф€ Lq, где 1^<7^2. Если /б А и F= #(/), то %a(f) = F, &p{F)=f, поэтому J <fjrdx= J ffp (<p) F Лс= J Ф F^Jtr= j ^ (9)fdx\ так как /£ А всюду плотны, то отсюда получаем, что у £ i£' (Ф). Если, например, /7 = ^=1, то для того чтобы функция <р из Z,1 принадлежала А, необходимо и достаточно, чтобы она была непрерывна и чтобы ее трансформация % (<р) принадлежала L1. В случае p = q=2 получаем, что i£2 и #2 являются обратными друг для друга взаимно однозначными и изометрич- ными линейными преобразованиями; #2 отображает L2 на L2, а %2 отображает L2 на L2. Изложенное выше позволяет определить пре образование Фурье более общим способом, чем мы это сделали раньше.
134 Глава VL Теория локально компактных а^елгвых групп Полагают Ф = # (у) и (© = ^'(ф), если существует такое р, 1 ^р=^2, *шо ли^ y£LP и ф = ^((р), лш?з Ф££^ и у —#'(ф). Можно также считать, что ф = %(у), если для любой функции /£ А £ f(x)f(x)dx=^(x) F(x)dx, где F(x) = %(/). При этом, если, например, <р££р, и ф = {?(:£>), то всегда можно найти такую функцию/£ А, что ||/—у|[ ^еи, следовательно, ||Ф — F\\pt^.e, где F—%(f). Этот результат дает возможность доказывать в общем случае свойства преобразования g\ если они верны для функций из А. В частности, таким путем можно получить следующие результаты: Если ф = #(ср), то ф = (ё((р) и ф=:#(<р); если, далее, S&=:<f(s-1x), то (s, х) Ф (х) = # («Sep), и таким эюе образом % [(х, s) -у (х)] = 3-Щ = Ф (s х). С другой стороны, из предыдущего следует, что если/£ А И£6А и если ^ F=i?(/), G = »(£), то F£L2, G£L* к <g {f*g) — FG£L1, следовательно, /*g£A, откуда вытекает, что <g [FG)=f*g\ таким же образом мы получим, что # (fg) = F*G. Отсюда вследствие непрерывности произведения уф и свертки у * ф относительно у £ Lp и ф £ Z,? (см. § 13) следует: Пусть y£Lr, ф€£*. Ф = #(?), Ч':=£(ф). Гогдя, есл« l/r-f-1/s^l, /»91ф,Р = ^(у*cb); если l/r+1/s <1, ш> Ф»ЧР = «(¥ф). Это дает способ вычислить #(у) и тогда, когда \у(.к).(л:, *) d* не имеет смысла (или, как принято говорить, дает способ суммирования этого интеграла). Пусть у££г, Ф = ё'(у); для любой окрестности V единицы в G существует такая функция / из А, что F=#(/) неотрицательна, обращается в нуль вне V и [ F(x)dx=\; можно взять, например, такую окрестность V", что V4 > V'-^aV, и такую непрерывную неотрицательную функцш F' (х)у обращающуюся в нуль вне V, что \ F'dx= 1, и затем положить F==F'*F'1 откуда, если /'.= # (F'), полу.
§ 30. Преобразование Фурье 135 чаем /'(л;) = |/'(л;)|2. Далее, если окрестность V достаточно мала, то /', а значит и /, на заданном компактном множестве в G сколь угодно мало отличаются от единицы. Поэтому если /€^\ то <p(x)f{x)£D и ф*/?= j у(дг)/(лг)-(лг, x)dx. Кроме того, если V достаточно мала, Ф*/7 как угодно близка к Ф в смысле Lr'\ таким же образом для достаточно -малой окрестности V Ф * F отличается от Ф сколь угодно мало во всякой точке, в которой Ф непрерывна, или, более обще, на всяком компактном множестве, на котором ф непрерывна. 1 В классической теории рядов и интегралов Фурье функция f(x) называется „суммирующим множителем" интеграла {<р(х)-{х, x)dx. Пусть, наконец, ср £Lr и Ф = (ё (<р) (отсюда следует, как было показано выше, что Ф£ЬГ'); пусть/(л:) £ А и F=% (/), тогда fyf=y(x)\f(x)\2 принадлежит L1; F* Ф*Р принадлежит Z00, причем F * Ф * F является преобразованием Фурье функции у |/|2, и поэтому Sp(^*Ф* F)=\<p\f\*dx. Если <р неотрицательна, то Ф будет функцией типа Р ' на G (см. § 14); мы будем говорить, что Ф принадлежит классу Рг>. Обратно, если Ф принадлежит классу Рг\ то \ <р \f\2dx^0 для любой функции /£Л; так как функции вида |/|2 всюду ллотны в множестве всех неотрицательных функций из V", то отсюда следует, что <р неотрицательна. Пусть сре/Л^Фб^Л Ф = #(ср) и <f = %' (Ф); для того чтобы Ф принадлежала классу Рг', необходимо и достаточно, чтобы <р была неотрицательной функцией. В частности, для г'=1 и г=оо отсюда вытекает, что если Ф (х) £ Р1, то Sp (<р) = \ Фdx ^ 0. Учитывая результаты §14, получаем следующее предложение: Если Ф(х) принадлежит классу Рг и Ч* (х) принадлежит классу Рг', то ^{x)xV{x)dx-^0.
136 Глава VI. Теория локально компактных абелевых групп А А Пусть теперь Ф(х)— функция, принадлежащая классу Рг, тогда Ф{х) тоже принадлежит классу Рг'; при этом если г']> 2, Ф может не иметь трансформации Фурье. Пусть f(x)£ А и F=%(f); так как /=g"(F), то интеграл \ Щх) F(x) dx можно рассматривать как функционал 1(f) от функции/. Этот функционал—-линейный, причем если / неотрицательна, то в Л силу предыдущего F£Pr для любого г, следовательно, / (/) ^ О» Мы видели, что множество Л содержит функции f#g, где f£L и £"££ и, следовательно, оно всюду плотно в L в смысле I00; при этих условиях '/(/) определяет такую меру Радона jjt (§ 6), что / (/) == \ /<#jr, отсюда лолучаем следующее предло- жение: Всякая"функция Ф(х) типа РТ' определяет па группе G такую меру Радона ji, что для всякой функции f(x) из А J Ф (£) /Й Л?= j/W rfji (*), где F{x) = V(f). ; Разумеется, если Ф имеет трансформацию <р = #'(Ф) (что всегда имеет место, в частности, когда 1 ^г'^2), то меру ji можно определить (символически) формулой d\i (x) = y(x)dx. С другой стороны, если мы в написанном выше соотношении заменим f(x) на (л:, s)f{x) я, следовательно (ввиду известного с А А нам соотношения), F(x) ня F{x~ls)y то получим (поставив снова х вместо s) <!>*F=:$(x,x).f(x)dn(x).. Это позволяет нам, как и раньше, вычислять функцию Ф при помощи правой части равенства, выбирая такую неотри- Л* /V А цательную функцию F(x) из А,, что F(x) обращается в нуль А Г» А вне некоторой окрестности: V единицы и \ Fdx=\. Предпо- ложим, в частности, что в некоторой окрестности единицы А функция Ф( л:) ограничена (это будет заведомо иметь место, если г'= +оо); если F выбрано так, как сказано выше, и- А Г* А окрестность V достаточно мала, то| \ <!>Fdx\^M; следовательно, интеграл \fd\i ограничен; но так как |/| <: 1 и функция / может быть сделана как угодно близкой к единице на любом
§ 30. Преобразование Фурье 137 компактном множестве, то мера р. ограничена на всей группе G, Таким образом, заменяя / в интеграле \fd\i на \ (л:, л:) F dx-> получим равенство / [j(x)dti(x)=[F(x)dx\ (x,x)d\i(x), и, сравнивая efo с предыдущим,, выводим, что почти всюду Ф{Х)=[(Х,Х)(1\1{Х). Обратно, пусть pt — некоторая ограниченная мера Радона на G. Рассмотрим функцию Ф(лг), определенную этим равенством. Она непрерывна; действительно, так как ji ограничена,, то существует такая функция f(x), что 0^/(лг)^1 и \ (1—f)d\L^s (достаточно взять функцию ft равную единице на подходяще выбранном компактном множестве); тогда, пола^ гая ф'= \ (х, x)fd\i, мы видим, что | Ф' — Ф] ^ е; далее, так же, как для трансформаций Фурье % (/) функций / из Z,, доказываем, что Ф' непрерывна, следовательно, Ф непрерывна как равномерный предел непрерывных функций Ф'. Далее, Ф принадлежит классу Р°?, так как если в написанном выше выра~ **» А- А жении для свертки Ф * F заменить F на F # F и положить х = е, то получим Sp(F*<b*F)=\ \f(x)]2d\i(x). Итак: Всякая ограниченная в скрестности единииы функция и& класса Рг' совпадает почти всюду с некоторой функцией из класса Р30. Для того чтобы функция Ф (х) принадлежала классу Р00, необходимо и достаточно, чтобы существовала такая ограниченная на группе G мера Радона \х, что Ф(x)=i\(x,x)d|l(x). Последняя часть этого утверждения составляет теорему Бохнера. Фигурирующие здесь функции называются „интегралами. Фурье-Стильтьеса". Можно также рассматривать меры pt, являющиеся линейными комбинациями ограниченных, мер Радона, с
138 Глава VI. Теория локально коцпактшх абелевых групп лостоянными комплексными коэффициентами; при этих условиях Ф(дг) также будет непрерывной функцией, по написанные выше формулы показывают, что она будет принадлежать классу Р°° лишь в том случае, когда \х — неотрицательная мера Радона. Эти функции можно также определить при помощи ограниченных операторов Радона (§ 10), так как если Т —та- кой оператор иФ=| (л:,x)d\x, то Tv.(x,x) = <b(x-1)-(x,i). Отсюда, в частности, следует, что если Т^ и 7V — два ограниченных оператора Радона, Т —их произведение (которое также является ограниченным оператором Радона, см. § 10) и если Ф(х) и V (х) — функции, соответствующие мерам jji и v, то их произведение Ф(л:)-1Р(л;) является функцией, соответствующей мере р (Х111>. Теория преобразования Фурье в том виде, как она здесь изложена, содержит как частный случай теорию ряда Фурье и теорию интеграла Фурье. Мы не даем здесь указаний об огромной литературе, посвященной этим вопросам. Для ознакомления с интегралом Фурье мы рекомендуем книги С. Бохнера [9] и Н. Винера [71]. Теорема Планшереля содержится как следствие гораздо более общих результатов о представлении функций интегралами в мемуаре Планшереля f45J; см. также [46]; она была доказана заново и дополнена Тичмаршем [61], а затем передоказывалась много раз (см. библиографию в [71]). Приведенным в тексте методом можно получить простое доказательство этой теоремы (считая известным равенство Парсеваля для рядов Фурье), если взять за G группу Я1, а за g— аддитивную группу целых чисел. В этом случае не имеет смысла вводить в'рассмотрение класс Z,, можно рассуждать непосредственно о функциях из Z,2; то же рассуждение, разумеется, применимо для. интеграла Фурье при п переменных, если положить G = Rn, а за^ принять подгруппу точек с целочисленными координатами. Тот частный случай теоремы Бохнера, когда G—71 и (/ = Д1, принадлежит Г. Герглотцу [23]; случай G = G = Rl принадлежит <]. Бохнеру([9]; гл. IV), так же как и обобщение на G = G = Rn\ см. также для этих случаев работы Ф. Рисса [53] и Э. Хопфа ([24], гл. II, § 4). С. Бохнер показал [10], как из этой теоремы можно зывести все результаты гармонического анализа в смысле Н. Винера. ,. Данное здесь определение преобразования Фурье, достаточное для результатов, которые мы имели в виду, в действительности чересчур ограничительно, так как предполагает, что по крайней мере одна из функций, преобразующихся друг в друга, интегриру-
§ 30. Преобразование Фурье 139 ема в р-оР[ степени при 1^/>^2. Общее определение должно исходить из равенства [<?(x)f{x)dx = \ <&(x)F(x)dx, выполнение которого для всех функций / из Л или по крайней мере из некоторого множества, всюду плотного в Л, и соответствующих им трансформаций Фурье F означает, что данная функция ср должна рассматриваться как трансформация Фурье функции Ф, и обратно. Замечания о методах суммирования рядов Фурье, сделанные в § 22, применимы также к методам суммирования интеграла Фурье, которые также сводятся к общей схеме, описанной в § 30.
ГЛАВА VII ПРЕДСТАВЛЕНИЯ ПРОИЗВОЛЬНЫХ ГРУПП В КОМПАКТНЫЕ § 31. Представления в компактные группы. Пусть f(x)— произвольное представление топологической группы G в некоторую топологическую группу G0; пусть g—множество элементов из G, отображающихся при представлении f(x) в единицу группы G0; это инвариантная замкнутая подгруппа группы G. Пусть G' — образ группы G при представлении f(x) в G0; предположим, что подгруппа G' всюду плотна в G0, т. е. что GQ = G'. Значения (лежащие в некотором пространстве), принимаемые на G' непрерывной на G0 функцией F0, определяют непрерывную на G функцию F(x) = F0(f(x))1 постоянную на классах смежности по g. Обратно, мы будем говорить, что непрерывная на G функция F(x) может быть продолжила на G0, если существует такая непрерывная на G0 функция F0, что F(x) = FQ[f(x)]; для этого необходимо, чтобы F(x) была постоянна на классах смежности по g. Если, в частности, F(x) — представление группы G в группу ©, то для любых х, у имеем F(xy) = F(x)-F(y). Следовательно, если F(x) можно продолжить на G0 так, что F(x) = F0[f(x)], то F0(xy) = F0(x').F0(y'), где x'=f(x) и y'-=f(y) — произвольные элементы группы G'. В силу того, что подгруппа G' всюду плотна в G0 и функция F0 непрерывна, отсюда следует, что F0 есть представление GQ в®. Пусть, наконец, Ft(x) — представления G в группы ©,-; тогда F(x) = (Fl(x)) — представление группы (?в прямое произведение групп @z-, и для того чтобы F(x) можно было продолжить на G0, необходимо и достаточно, чтобы это было верно для каждого из /;. Возьмем произвольную топологическую группу G. В каждом классе 5) ее ограниченных представлений выберем унитарное представление М<г>(х) (§ 19, см. также § 25); оно будет представлением группы G в унитарную группу U®. Пусть U — прямое произведение групп С/Ф, тогда Х(х) = (М$(х)) является
§ 31. Представления в компактные группы 141 представлением группы G в компактную группу U; пусть G'— образ G в Ц, G'—замыкание G', являющееся компактной группой, и g— множество элементов группы G, отображающихся при представлении Х(х) в единицу. Согласно далным выше определениям, представление Х(х) группы G в 11 можно продолжить на О', значит, это же верно для каждого из представлений Л1ф (х) и, следовательно, для всякого унитарного (или даже только линейного ограниченного) представления группы G. Пусть F(x)— представление группы G в компактную группу К\ можно предположить (§ 25), что К—замкнутая подгруппа прямого произведения U унитарных групп £/t, следовательно, F(x) можно рассматривать как представление G в U. Можно написать F (x) = (Fl(x))y где F—представление группы G в Ut. Но тогда каждое из представлений Ft % можно продолжить на G', и, следовательно, F{x) можно также продолжить на G', а потому существует такое представление Ф(-¥) группы G' в U> что р(х) = Ф [Х(х)]\ в частности, подгруппа g при отображении F(x) переходит в единицу группы К- Кроме того, образ группы G' при отображении Ф, т. е. образ группы G при отображении^/7, содержится в /Г, и так как К замкнута, то образ G' также содержится в К, т. е. Ф — представление G' в К. Итак, всякое представление группы G в компактную группу может быть продолжено на группу G'. Кроме того, если образ группы G при отображении F всюду плотен в К, то образ группы G' при отображении Ф совпадает с К, откуда следует, что Ф — гомоморфизм G' на К. Если, наконец, предположить, что всякое унитарное представ шние группы G может быть продолжено на АГ, то легко убедиться таким же рассуждением, что представление Х(х) группы О в G' можно продолжить на К, т. е. что существует [такое представление *Р группы К в группу G', что Х(х) = Ч* [F(x)]. Так как образы группы G в G' и в К всюду плотны, то Ф и ¥ определяют изоморфизм между группами G' и К\ этим доказан следующий результат: Для всякой группы G можно единственным образом (с точностью до изоморфизма) определить компактную группу G' и представление Х(х) группы G в G', такие, что образ G' группы G в G' всюду плотен в G' и всякое унитарное пред-
142 Гл. VII. Представления произвольных групп в компактные ставление группы G можно продолжить на G'; всякие представление группы G в компактную группу также можно продолжить на G'. Группа G' называется связанной с G компактной группой. Отсюда и из результатов § 17 о линейных представлениях * прямых произведений (применимых, согласно § 19, к унитарным представлениям) заключаем, что если G — прямое произведение групп G£., то связанная с G компактная группа G' является прямым произведением групп* Gt, связанных с Gt, и если Х£(х.)— представление группы Gt в G(', то представление G в G' определяется формулой Х(х) = (Х1(х1))у где x — (xt)— любой элемент группы G. Из предыдущего видно, что если группа G имеет взаимна однозначное представление в компактную группу, то ее пред- ставление Х(х) в связанную с ней компактную группу G' вза- • имно однозначно. Для того чтобы последнее имело место, необходимо и достаточно существование для всякого элемента s из G такого унитарного представления М(х), что матрица М (s) отличается от единичной. В этом случае мы будем говорить, что группа G представима в компактную группу. Если группы G. представимы в компактные группы, то их прямое произведение также представимо в компактную группу. Согласно гл. VI, всякая локально компактная абелева группа представима в компактную группу; следовательно, это имеет место для произведения абелевой локально компактной группы и компактной группы. Понятия, введенные здесь, более или менее явно содержатся во всех работах по теории почти периодических функций; см., в частности, [30], [48], [65]. § 32. Группы, представимые в компактные группы. Из групп этого типа мы ограничимся рассмотрением лишь таких локально компактных групп, которые порождаются некоторой компактной окрестностью единицы, т. е. групп вида G=C°°, где С — такая компактная окрестность единицы, ЧТО С=:С-К Мы воспользуемся двумя важными теоремами Э. Картана о группах Ли. Пусть L — группа Ли и F—замкнутое в ней „групповое ядро", т. е. такое замкнутое множество F, что если х £ F, у £ F и z — xy-1 —достаточно близкий к единице
§ 32. Группы, пред ставимые в компактные группы 14$ элемент, то z также принадлежит F; другими словами, суще- ствует такая окрестность W единицы, что Wf\F-F~1c:F; тогда существует така# окрестность W единицы, что W П F совпадает с окрестностью единицы в некоторой подгруппе Ли группы Z., т. е. в подгруппе, связанной с некоторой подалгеброй алгебры Ли инфинитезимальных преобразований группы L ([16], § 25; доказательство Э. Картана дает сформулированный. нами результат, хотя сам он формулирует несколько менее общую теорему). С другой стороны, если группа L компактна, то всякая подгруппа Ли группы L локально изоморфна прямому произведению компактной группы Ли на группу Rn; такая группа Ли называется полу компактной. Пусть G=C°°, где С является такой компактной: окрестностью единицы в G, что С=С~*. Пусть и = у(х)— взаимно однозначное представление группы G в компактную- группу U, U является проективным пределом компактных групп Ли £/а=£//а>а(§ 25), где о>а — семейство замкнутых инвариантных подгрупп группы U> удовлетворяющих условиям А),. Б), В) § 5. Пусть /а(я) — гомоморфизм группы U на £/а;. тогда <ра (л;) —/а [<р (х)] будет представлением группы G в Ua.. Так как Сп при любом п является компактным множеством, то у (л;) определяет не только взаимно однозначное,, но также и непрерывное в обе стороны соответствие между Сп и его образом в U. Если, в частности, V есть содержащаяся в С окрестность единицы группы G, то в U существует такая, окрестность IF единицы, что из х £ С3 и <р (л;) £ IF следует х £ V. Пусть W — окрестность единицы в £/, для которой W2czW, и пусть а таково, что a)aczW. Пусть ga— множество таких элементов х £ С, что <р (л:) £ юа; ga замкнуто; если х £ g^g^ то х £ С2, у (х) £ o)ac: W> следовательно, х £ Vcz С и поэтому х £ ga. Таким образом, ga является подгруппой группы G it содержится в V. Более того, если s£C, x^g^ и y — sxs-1, то у£С3, <р 00 € ^а^ ^> следовательно, у £ V, и поэтому V€^a» итак> если s£C, то sgas-1aga, таким же образом ^^о^б&о откуда sgas"1 = ga для любого s£C, а значит, то же самое верно для любого элемента s^C^—G; таким образом, ga является инвариантной компактной подгруппой группы G. Пусть V=C, а W и W выбраны указанным выше, образом; если рассмотреть множество таких индексов а, что (0ас: W, то из предыдущего следует, что соответствующие этим индексам группы ga образуют семейство подгрупп группы
144 Гл. VIL Представления произвольных групп в компактные G, удовлетворяющее условиям А), Б), В) § 5; таким образом, G является проективным пределом групп Ga=Gjga. С другой стороны, <fa(x)=fa[(f(x)] является представлением группы G в £/а. Пусть х £ С, у £ С; для того чтобы <pa(je) совпадаю с <ра0/), необходимо и достаточно, чтобы <р (д:""1^) входило в io; но в этом случае х~1у£С2 и ср (лг-1^) € W, следовательно, х~гу £ga; поэтому если х ну принадлежат С, то уа(х) = <рк(у) тогда и только тогда, когда х и у принадлежат одному и тому же классу смежности по ga. Итак, если Са — образ множества С в Ga, то ^а(х) можно рассматривать как взаимно однозначное непрерывное, в силу § 2, представление Са в Ua. Так как Са компактно, то это представление непрерывно в обе стороны. Другими словами, образ Fa множества С при отображении <ра в группу Ua изоморфен Са. Если Wa — образ W в Ua при отображении /а(и), то l^n^'Fa с/^, и поэтому к подмножеству Fa группы Ли Ua применима теорема Картана. Действительно, пусть #«€ ^«Л^а-^оГ1; так как ua£Fa*Frl, то существуют такие х£С и у£С, что «e=¥e(^-1)=/a[f(^""1)]- Так как #«€ ^«» то я=у(.яу"'1) принадлежит множеству Wu>a элементов и £ £/, для которых/a (w) £ W«; тогда ху-1 £ С2, ср (яу1) € € F(oac IF2 с IF, поэтому лгу-1 £ С и яа€ Fa. По теореме Картана, в Fa, а потому и в Ga существует окрестность единицы, изоморфная окрестности единицы полукомпактной группы Ли. Эта окрестность единицы в Са порождает открытую и замкнутую подгруппу Ga группы Ga, изоморфную полукомпактной группе Ли. В силу § 2 подгруппа G« инвариантна в Ga и фактор-группа GjGa дискретна. Так как G, а потому Ga и Ga/Gl порождаются комлактными окрестностями единицы, то (§ 3) GJG* является дискретной группой с конечным числом образующих. Таким же образом, как и в § 25, для компактных групп можно лроверить, что компонента G' единицы в G является проективным пределом групп G« и G[Gf — проективным пределом групд GJG'a. .Ограничимся случаем, когда группа G связна; тогда она будет проективным пределом полукомпактных групп Ли Ga. Ест L — полукомпактная группа Ли, т. е. группа, локально изоморфная прямому произведению Rn и компактной группы Ли, то в ней существуют связная абелева подгруппа La (компонента
§ 32. Группы, представамые в компактные группы 145 единицы центра группы L) и инвариантная полупростая компактная подгруппа. Lst такие, что L==La-L? и La[\Ls состоит из конечного числа элементов. Рассуждения, аналогичные проведенным в § 25 Д1Я компактных групп, показывают, что в О существуют содержащаяся в центре группы G связная абелева подгруппа Л и инвариантная компактная группа 2, такие, что G = A2. Следовательно, О изоморфна фактор-группе прямого произведения А х2 по инвариантной подгруппе, изоморфной компактной группе ЛЛ2\ Но А—группа вида RnxH, где Н — компактная связная абелева группа (§ 29), следовательно, А х2 — группа вида RnxK, где К связна и компактна, поэтому G—группа вида {RnxK)jk, где k — компактная подгруппа группы RnxK. Тогда k необходимо содержится в множителе К и О изоморфна группе Rnx(K\k). Итак: Для того чтобы связная, локально компактная группа дыла представима в компактную, необходимо и достаточно, чтобы она имела вид RnxK, где К—компактная группа. Последняя теорема этого параграфа была доказана для групп, удовлетворяющих II аксиоме счетности, Г. Фрейденталем [19J, метод которого близок к примененному в тексте, но неприменим непосредственно в общем случае. Рассуждения, аналогичные проведенным в этом параграфе, показывают, что во всякой группе G = С°°, допускающей взаимно однозначное представление и = у(х) в компактную группу U, любая окрестность V единицы содержит окрестность V\ единицы, инвариантную относительно внутренних автоморфизмов (х—^s~1xs) группы G. Такой окрестностью V\ является множество тех элементов х£С, образ которых в U принадлежит достаточно малой окрестности W единицы, инвариантной относительно внутренних автоморфизмов группы U (§ 24). Таким же образом, если /(и) — непрерывная неотрицательная центральная функция на U, обращающаяся в нуль вне достаточно малой окрестности единицы, то функция F(x) на (7, которая обращается в нуль вне С и на С равна / fcp (x)], непрерывна и для любых элементов х,у группы G удовлетворяет равенству F(xyx-i) — F{y). Обратно, пусть G — группа, в которой существует компактная окрестность С единицы, которая инвариантна относительно внутренних автоморфизмов группы G\ тогда легко проверить, что всякая окрестность единицы содержит окрестность, инвариантную относительно внутренних автоморфизмов, образующих группу „равномерно непрерывных" преобразований С в себя (см. § 33). Следовательно (§ 33), они являются частью компактной группы равномерно непрерывных автоморфизмов С в себя, которые можно распространить на G. Таким образом, группа внутренних автоморфизмов группы G, Ю д. Вейль
146 Гл. VII. П редставленая произвольных групп в компактные изоморфная фактор-группе GjZ, где Z — центр группы G, предста- вима в компактную группу. Л.. С. Понтрягин указал (см. [19] и [27]>. что если группа G связна, удовлетворяет II аксиоме счетности и имеет перечисленные выше свойства, то она представима в виде- RnXK, где группа К компактна. Доказательство этого результата принадлежит Г. Фрейденталю [19]; Е. Р. ван-Кампен [27], опираясь на указанный Понтрягиным результат, дал доказательство следующей теоремы: если группа G содержит компактную окрестность единицы, инвариантную относительно внутренних автоморфизмов группы G, то G имеет вид /?rtXGi,n*e G\ — группа, содержащая открытую и компактную инвариантную подгруппу К- Было бы желательно, чтобы этот вопрос был рассмотрен и выяснен окончательно; во всяком случае нужно освободиться от заведомо лишнего условия счетности. По этому поводу заметим, что, согласно ван- Кампену, в случае, когда в Сосуществует по крайней мере одна компактная окрестность единицы, инвариантная относительно внутренних автоморфизмов группы G, его предложение (§ 3) о том,, что всякая окрестность единицы локально компактной нульмерной группы G содержит открытую и замкнутую подгруппу V °° группы G,. можно уточнить следующим образом: всякая окрестность единицы содержит открытую, замкнутую и инвариантную в G подгруппу й°р; отсюда следует, что такая группа G является проективным» пределом дискретных групп G/V00. § 33. Почти периодичность по отношению к некоторой: группе. Пусть Е— топологическое пространство; предположим, что всякому элементу х группы G поставлено в соответствие взаимно однозначное и непрерывное в обе стороны преобразование Р—>х{Р) пространства Е на себя, причем единице соответствует тождественное преобразование и произведению ху элементов х, у соответствует произведение преобразований х(Р), у(Р)- В этом случае говорят, что группа G представлена как группа преобразований Е на себя. Если некоторое подмножество инвариантно относительно G [т. е. оно отображается само на себя всеми преобразованиями х (Р)], то это же самое верно для его замыкания. Если, в частности, А—точка пространства Е, то замыкание В множества точек х(А), в которые точка А переходит при преобразованиях из группы G, замкнуто и инвариантно. Если Е — равномерное пространство ([13 6], часть 2), то преобразования группы G называются одинаково непрерывными в точке Л, если для всех х из G точки х(Р) сколь угодно близки к х(А), как только Р достаточно близка к А. Преобразования х (Р) называются одинаково равномерно непрерывными в £, если для любых х из G точки х(Р) их (Q) сколь угодна близки, как только точки Р и Q достаточно близки. Например,.
§ 33. Почти периодичность по отношению к некоторой группе 147 в метрическом пространстве, если расстояние между точками Р и Q обозначить через d(P, Q), это формулируется следующим образом: для любого е существует такое £, что из d[P, Q]<C^ следует d[x(P), x(Q)]<^e. Если преобразования компактного пространства на себя одинаково непрерывны в каждой точке, то они одинаково равномерно непрерывны. Пусть G— группа одинаково непрерывных в каждой точке пространства Е преобразований Е на себя; точка А пространства Е называется почти периодической (относительно группы О), если множество точек х(А), полученных из А преобразованиями, принадлежащими группе G, имеет компактное замыкание F. Последнее множество инвариантно относительно G, следовательно, G можно представить как группу преобразований F на себя. В группу @ взаимно однозначных и непрерывных преобразований компактного пространства F на себя (или, более общо, в группу равномерно непрерывных преобразований равномерного пространства на себя) можно ввести топологию, если окрестностью Wv единицы в ©, где U — любая окрестность в F, считать множество всех преобразований х(Р)> для которых (Р, х (Р)) £U для всех точек P£F: Если F метри- зуемо, то можно определить расстояние между х (Р) и тождественным преобразованием как максимум расстояния между Р и х(Р) для всех точек P£F. Отсюда следует, что замыкание в группе © всякой группы одинаково непрерывных преобразований компактного пространства F на себя является компактной группой Г. Пусть А — почти периодическая относительно группы О точка, F — компактное замыкание множества х (А) и Г—за- мыкалие в & совокупности преобразований х (Р) множества F на себя; тогда группа Г компактна. Множество точек 2 (Л), полученных из А преобразованиями 2 £ Г, замкнуто (как непрерывный образ компактного множества Г) и содержит х (Л), следовательно, оно совпадает с F\ поэтому Г транзитивна в F; если у — подгруппа, состоящая из элементов группы Г, оставляющих на месте точку А, то функция 2 (А) определяет взаимно однозначное и непрерывное в обе стороны соответствие между F и однородным пространством Г/у. Итак, всякому элементу из О мы поставили в соответствие элемент группы Г; при этом образ группы G всюду плотен в Г. Если G — топологическая группа, то для того, чтобы 10*
148 Гл.УН. Представления произвольных групп в компактные это соответствие было представлением G в Г, необходимо еще, чтобы оно было непрерывно. Достаточно проверить непрерывность в единице группы G. Последнее будет выполнено [вследствие компактности F и одинаковой непрерывности х(Р)], если х(Р) как функция элемента х £ G непрерывна в е Д1Я любой точки Р £ F или для любой точки Риз множества, всюду плотного в F, например для любой точки х(А). Другими словами, для того чтобы отображение G в Г было непрерывно, необходимо и достаточно, чтобы х (А) как функция элемента х £ G была непрерывной на О. Однако часто более удобно следующее условие: для того чтобы отображение G в Г было непрерывным, необходимо и достаточно, чтобы всякой паре различных точек Р, Q множества F можно было поставить в соответствие окрестность W единицы в G и окрестность V (Q) точки Q в F, такие, что из х £ W следует х (Р) $V (Q). Действительно, пусть V (Р) — открытая окрестность точки Р в F; тогда ее дополнение F' в F компактно, значит, можно так выбрать конечное число точек Qj, их окрестности V^Q,.) и окрестности единицы W( в G, что F'cU^(Q/) и из х £ Wt следует, что х(Р)^У((Я(), i Если теперь положить W== Г\Щ, то из х £ W следует, что 2 х(Р) £ V(P) и> значит, х (Р) для любой точки Р нелрерывна в е как функция х. Если Е полно, то замыкание F множества точек х (А) компактно в том, и только том, случае, если для любой окрестности U в ЕхЕ можно найти конечное число таких точек Sf £ G, что каждая точка х(А) принадлежит хотя бы к одной из окрестностей £/[$,. (Д)]. Вместо того чтобы предполагать полноту пространства £", мы можем предположить, что преобразования группы G одинакозо равномерно непрерывны, тогда их можно продолжить по непрерызности на „пополнение" Е пространства Е {Ё получено из Е при помощи присоединения некоторых нозых элементов) и рассматривать G как группу одинаково равномерно непрерывных преобразований пространства Е на себя. Итак, приведенное выше условие почти периодичности эквивалентно следующему: для того чтобы А была почти периодической- точкой, необходимо и достаточно, чтобы всякой окрестности V (Д) точки А в Е можно было поставить в соответствие конечное число элементов S; £ G
§ 33. Почти периодичность по отношению к некоторой группе 149 так, чтобы для любого элемента х из G нашелся такой элемент sn что si~1x(A) £ V(A). В теории почти периодических функций изучаются пространства Е, определенные следующим образом. Пусть G представлена как группа преобразований пространства И на себя и пусть хМ получается из точки М £ Н преобразованием х £ G; пусть / (М) — функция, определенная на Н\ положим (см. § 10) Xf=f(x~1M). Преобразования (/—*Xf) образуют группу, изоморфную группе G. Возьмем в качестве Е некоторый класс функций f(M), определенных ма И и принимающих значения в нем же. Если класс Е инвариантен относительно преобразований (/—>Xf) и если можно так определить равномерную структуру в Е, чтобы эти преобразования были одинаково равномерно непрерывны, то можно применять изложенную выше теорию. Тогда почти периодический элемент из Е будем называть почти периодической функцией на Н (относительно группы G и в смысле структуры, определенной на Е). Чаще всего считают, что Н—это сама группа G; исключением является лишь теория аналитических почти периодических функций, в которой Н—это полоса в плоскости комплексного переменного, G — группа движений плоскости, при которых эта полоса остается инвариантной, и Е — множество функций, аналитических в данной полосе и ограниченных во всякой полосе, внутренней к Н (равномерная структура соответствует равномерной сходимости во всякой полосе, внутренней к Н). Часто равномерную структуру в Е определяют при помощи расстояния, инвариантного при преобразованиях (/—>Xf), откуда, очевидно, следует, что ьти преобразования одинаково равномерно непрерывны. Обобщение И. фон Нейманом [41] данного С. Бохнером [8] определения почти периодических функций Г. Бора [12], а также той формы, которую Г. Вейль [67] придал теории этих функций, на произвольные группы вызвало в последние годы многочисленные работы. Уже В. В. Степанов и А. Н. Тихонов [59] и Л. С. Понтрягин [48] выяснили связь между почти периодическими функциями Г. Бора на R1 и представлениями /?* в компактные группы. Аналогичные результаты для функций И. фон Неймана на произвольной группе были установлены А. Вейлем [65] и в дальнейшем Е. Р. ван-Кампе- ном [30]. С другой стороны, всякому обобщению понятия полного пространства, как заметили С. Бохнер и И. фон Нейман [11], соответствует обобщение понятия почти периодической функции; данное И. фон Нейманом [42] понятие полного векторного пространства содержится как частный случай в том, которое следует из теории
150 Гл. VII. Представления произвольных групп в компактные равномерных пространств А. Вейля [66]; на последнем основано изложение в тексте. См. также статьи Р. Камерона [14], Ф. Рел- лиха [52] и две интересные заметки В. Маака [34 и 35]. § 34. Почти периодические функции на группе. Рассмотренную выше теорию можно, в частности, применить к тому случаю, когда H=G и Е— класс ограниченных непрерывных функций на G, принимающих комплексные значения; равномерная структура в Е определяется при помощи расстояния II/-* II» = sup [/-*[• Это расстояние не меняется при преобразованиях (/—*Xf)\ Е — полное метрическое пространство; для того чтобы функция f(x) была почти периодической, необходимо и достаточно, чтобы для любого положительного е можно было найти конечное число таких элементов s£ £ G, что для любого t существовал по крайней мере один элемент s(, для которого при всех х )/(*-!*)-/(V1*)[<S. Тогда замыкание F множества функций Sf—f ($~гх) в Е компактно; множество преобразований (<р—>Sy), отображающих F на себя, имеет компактное замыкание Г, которое является транзитивной группой преобразований множества F на себя. Согласно критерию § 26, G непрерывно представлена в Г, так как если ср(лг) и ф (х) принадлежат F и ^^ф, то существует такой эчемент s из G, что y(s)--=^<b(s), следовательно, так как функция ср непрерывна на G, существует такая окрестность V единицы в G, что из х £ V следует | ср (л:-1 s) — ф (s) | > s, откуда. || Xf — фЦоо> s. Пусть 2 £ Г и пусть <р£(л;) = 2/(х)—результат преобразования функции / при помощи 2. Тогда Sv%(x) = = cos(5-1a:), следовательно, у%{х) —S-^fis'1 x); положим в этом равенстве x = s и 7(s)=2-7(«), где е — единица группы G, /(2)— непрерывная функция на Г. Тогда <Pv(5) =/(2_1*S); в частности, если 2— тождественное преобразование, то f(s)—f(S). Так как S—элемент, группы Г, соответствующий элементу s £ G при определенном
§ 34. Почти периодические функции на группе 151 выше представлении группы G в Г, мы получаем следующий результат: Всякая непрерывная и ограниченная почти периодическая {относительно расстояния [|/—gifoo) функция f(x) на G определяет представление группы G на некоторую подгруппу, зсюду плотную в компактной группе Г, причем эту функцию можно продолжить на всю группу Г. Отсюда следует, например, что такая функция может быть равномерно аппроксимирована линейными комбинациями коэффициентов унитарных представлений группы G, так как это верно для продолженной на Г функции / (2), и что всякое унитарное представление группы Г определяет унитарное представление группы G. Обратно, ясно, что всякая непрерывная функция на компактной группе почти периодична (в вышеуказанном смысле). Следовательно, если существует некоторое представление группы G в компактную группу Г, то всякая непрерывная функция на Г определяет непрерывную почти периодическую функцию на G; так как вообще, если имеется такое представление группы G в G0, что образ G всюду плотен в G0, то расстояние ||/—g'JIoo между двумя непрерывными функциями /, g на G0 равно расстоянию между соответствующими им функциями на G, и, следовательно, непрерывной почти периодической функции на G0 соответствует такая же функция на G. В частности, все коэффициенты унитарного (или ограниченного) представления группы G являются почти периодическими функциями на G. Пусть дана группа G; существует .(§ 31) такая компактная группа G' и такое представление Х(х) группы G в G', что всякое представление <р (х) группы G в компактную группу Г может быть продолжено на G', т. е. имеет вид <р(х) = Ф[Х(х)], гдеФ — представление G' в Г. Если/(лг) — почти периодическая функция на G, то, как мы видели, существует компактная группа Г и представление <р(х) группы G в Г, такие, что / (х) может быть продолжена на Г, т. е. имеет Bimf(x) — F [w(x)]. Следовательно, f(x)=Fl[X(x)], где Fx [X] =Г[Ф (X)]! т. е. / (л:) можно продолжить на G\ Согласно изложенному ранее, обратное предложение также справедливо.. Следовательно, для того чтобы непрерывная функция была почти периодической на G, необходимо и достаточно, чтобы ее можно было про-
152 Гл.УН. Представления произвольных групп в компактные должать на связанную с G компактную группу G'. Суще- ствует взаимно однозначное соответствие между почти периодическими функциями на G и непрерывными функциями на G'. Найдем, например, почти периодические функции на прямом произведении KXG компактной группы К п произвольной группы G. Пусть G' — связанная с G компактная группа; тогда KxG' связана с KxG (§ 31). Для того чтобы функцию /(а, л:) на KxG, где а £ К и х £ G, можно было бы продолжить на KxG\ необходимо прежде всего, чтобы ее как функцию х можно было бы для всякого а продолжить на G', т. е. чтобы она являлась почти периодической функцией на G. В последнем случае функция / (а, л:) имеет продолжение F{a, X) при любом а £ К, причем функция F (а, X) непрерывна по X £ G'. Для того чтобы функция F (а, X) была непрерывной на КХ G', необходимо и достаточно вследствие компактности (/', чтобы для любого s ^> 0. и а £ К можно было найти такую окрестность Va точки а в К, что из [J £ Vi вытекало [ F (р>, X) — F (а, Х)\ ^ е.. Следовательно, для того чтобы / (а, л:) была почти периодической функцией на KxG, необходимо и достаточно, чтобы для всякого а функция /(а, X) была почти периодической на G и для всякого s^>0, и всякого а £ К нашлась бы в К такая окрестность Vol точки а, что для любой точки {$ из Vol было выполнено неразе ктво [/({$, х)—/(а, д:)[<8. Найдем теперь почти периодические функции на связной, локально компактной группе G. Пусть G' — связанная с G компактная группа и g— инвариантная замкнутая подгруппа группы G, состоящая из элемелтоз, переходящих в единицу группы G\ Всякую почти периодическую функцию на G можно продолжить на G', поэтому она постоянна на классах смежности по g (§ 31); ее можно рассматризать как непрерывную функцию- на фактор-группе Gig. Эта функция — почти периодическая на Gjg, так как ее можно продолжить1 на G\ Однако, так как Gjg связна, локально компактна и представима в компактную группу G', то, согласно § 32, она изоморфна прямому произведению KxRn компактной группы К и группы Rn. Мы видели, что можно считать известными почти периодические функ-
§ 34. Почти периодические функции на группе 153 ции на KxRn, если известны почти периодические функции на Rn\ последние назызаются почти периодическими функциями Г. Бора; обобщение понятия почти периодичности на произвольные группы принадлежит И. фон Нейману. Поэтому можно сказать, что на связной, локально компактной группе функции Неймана сводятся к функциям Бора. Наконец, вследствие взаимно однозначного соответствия между почти периодическими функциями на G и непрерывными функциями на G' на первые можно распространить все найденные нами в предыдущих главах соотношения между непрерывными функциями на компактной группе. Мы могли бы вывести эти соотношения для G, не прибегая к G', если бы нам удалось выразить через значения, принимаемые некоторой почти периодической функцией на G, интеграл соответствующей функции на G'. Рассмотрим для этого сначала компактную группу G; пусть А—некоторое всюду плотное в G множество. Если функция f(x) непрерывна на G, то существует такая окрестность V единицы, что из у £ Vx следует \/(у)—/(х)|^е, поэтому существует конечное число точек st £ А и неотрицательных функций h;(л:), таких, что ^lhi(x) = \ для любого х и каждая i из функций ht(x) обращается в нуль вне Ksz-([13 Ь], § 7). Пусть I=[f(x)dx; для любого х 1=У\\ h.(y)f(yx)dy, i следовательно, положив ci=\fii(y)dyy мы получим V- 2 e,f(stx)\ < | 2 U, (y)[f(yx) ~f(siX)] dy | < s; кроме того, 2 ct=\ и ci^0. Обратно, предположим, что для всякого х £ А имеет место неравенство [/'—X^i/^i*)^8» i где /' — постоянная величина и ct — такие неотрицательные постоянные, что 2 ci = \; такое же неравеяетю будет иметь i место по непрерывности для всякого х из G, еткуда, интегрируя, получим \Г — /|<;е. Следовательно, еслда/ (л;) непрерывна на компактной группе G, то существует единственная постоянная величина /, равная \f(x)dx9 являющаяся на данном всюду плотном множестве А в G равномерным пределом
154 Гл. VIL Представления произвольных групп в компактные функций 2 cdf{Six), где ^.принадлежат А и с{ — такие неотрица- i тельные постоянные, что 2сг.= 1. i Теперь освободимся от предположения о компактности группы G. Пусть f(x)— непрерывная почти периодическая функция на О; существует такое представление группы G в компактную группу Г, что образ множества A a G всюду плотен в Г и f(x) можно продолжить на Г. Применим к группе Г, множеству А и функции F, которая является продолжением / на Г, предыдущие рассмотрения; из них следует, что существует единственная постоянная /, являющаяся равномерным пределом функций 2 с,./($,•*) на G, где 2^.=:1 и ct^0\ i i при этом / — интеграл от F на Г. Это определение дано И. фон Нейманом ([40] и [41]); постоянная / называется средним значением функции / на G. § 35. Почти периодические функции на абелевой группе. Пусть G — локально компактная абелева группа. Пусть Я—связанная с G компактная группа (см. § 31). Существует представление и = у (х) группы G на всюду плотную подгруппу группы Я, откуда следует, в частности, что Я— абелева группа и все характеры (х, х) группы G можно продолжить на Я, т. е. они имеют вид (<р(х),а), где а—элемент группы характеров Я группы Я; эти два свойства характеризуют Я. Так как двойственное <j> (x) представление ш (а) группы Я в G определяется, согласно § 28, равенством (<р (*),«) = (*, у (и)), то второе свойство означает, что образ группы Я при представлении (р совпадает с G. С другой стороны, для того чтобы образ группы G при представлении ср был всюду плотным в Я (т. е. замьпсавие этого образа в Я, которое является замкнутной подгруппой группы Я, совпадало бы с Я), необходимо и достаточно, чтобы из тождества (&(х), и)=\ следовало, что и является единицей группы Я, т. е. чтобы <р было взаимно однозначным представлением. Следовательно, <р (и) будет взаимно однозначным представлением дискретной группы Яна G; иначе говоря, Я—это группа G, „взятая в
§ 35. Почти периодические функции на абелевой группе 155 дискретной топологии", т. е. она алгебраически изоморфна G, но топология в ней заменена дискретной. Таким образом, мы нашли Н и <р, а следовательно, также и Я, как группу характеров для Н, и ъ (х), как представление, двойственное <р. Итак, всякую почти периодическую функцию f(x) на G можно продолжить на Я, т. е. она имеет вид F[v(x)], где F (и) — непрерывная функция на Н; справедливо также обратное. Более того, непрерывную функцию F(u) можно разложить по характерам группы Н: F(a) = % с^(и, «,), причем вследствие равенства 21 сч I2— \\ F\2du в этом раз- ложении не более чем счетное число коэффициентов отлично от нуля. F(u) является равномерным пределом конечных линейных комбинаций характеров (м, wv). Пусть у— счетная подгруппа группы //, которая порождается этими элементами wv, и h — замкнутая подгруппа группы Н, состоящая из элементов #, удовлетворяющих соотношениям (a, ev)=l, или, что то же самое, h есть аннулятор у в Н\ У будет группой характеров для Г=///Л; всякая функция (#, tfv) постоянна на классах смежности группы И по Л, следовательно, F(u) имеет то же свойство, поэтому F(u) определяет на Г непрерывную функцию g((o), т. е. F(a) = g[6(u)], где(о=ф(и)— гомоморфизм группы Н на T=Hjh. Пусть & (#) = <Ь [<f> (л:)] — представление группы G на всюду плотную подгруппу группы Г; двойственное к нему отображение & (а) совпадает с представлением у в G, индуцированным представлением у; при этом f(x) = g[ft(x)]. Образ у' группы у при представлении Ь является счетной подгруппой группы G и назызается группой частот функции f(x). Таким образом, всякой почти периодической функции/(дг) на G соответствует счетная подгруппа у' группы G— группа частот функции f(x), которая обладает следующими свойствами: если у — группа, которая получается из у' введением дискретной топологии, &(а).— взаимно однозначное представление у на у', Г — группа характеров для у и (о = &(л:) — дзойствэнное Ь представление Ов Я, то функцию f(x) можно продолжить на Г, т. е. она имеет вид #[6-(я)], где g(w)—
156 Гл. VII. Представления произвольных групп в компактные непрерывная функция на Г. Те характеры группы Г, коэффициенты при которых в разложении g((o) отличны от нуля, дают систему образующих группы у. Изложенное выше можно, в частности, применить к случаю, когда G—это группа Rn\ всякой почти периодической функции f(x) в Rv (функции Г. Бора) соответствует представление о) = &(л;) Rn в компактную группу Г, определенное счетной подгруппой у' группы характеров для /?", т. е. самой Rn. Если у'—дискретная подгруппа Rn, то & — гомоморфизм, и функция f(x)— периодическая (не более чем с п периодами) в Rn. Если среди элементов у' существует не более п независимых, т. е. размерность Г не превосходит #, то всякая линейная комбинация характеров, соответствующих элементам из у', является периодической функцией, и функция f(x) является пределом равномерно сходящейся последовательности периодических функций (предельно периодических функций по Г. Бору). Если 7' порождена конечным числом г элементов и, таким образом, изоморфна ДГ, а Г — группе Тг> то f(x) может быть представлена как периодическая функция от г линейных форм в Rn и называется „квазипериодической". Наконец, лемма 2 § 26 доказывает, что на всяком выходящем из начала луче пространства Rn на любых расстояниях от начала существуют точки s, образ которых &($) в Г сколь угодно близок к единице, т. e./(.r-|-s) сколь угодно близка к f(x) в смысле Z,00; 5 называется „почти периодом" функции f(x). Если я=1, то лемма, о которой мы упомянули выше, показывает, что всякому положительному е соответствует такое число 7, что на всяком интервале длины Г существует по крайней мере одно число s, для которого \f(x-\-s)—/(*)|«^е.
ПРИЛОЖЕНИЕ ! ТЕОРЕМА, ОБРАТНАЯ ТЕОРЕМЕ ХААРА В этом приложении мы покажем, что существование в группе инвариантной меры является в известном смысле характеристическим свойством локально компактных групп. Пусть G — некоторая группа, причем мы не предполагаем, что в ней введена какая-нибудь топология; вместо этого мы предположим, что в G задана инвариантная слева мера т (% 7), не обращающаяся тождественно в нуль; итак, т будет определена на борелевском теле % (§ 6), инвариантном относительно преобразований (x-+sx). Символ \/(х) dx будет обозначать интеграл от функции /(х), суммируемой (или измеримой и неотрицательной) на группе G по мере т. Обозначим семейство измеримых множеств конечной . положительной меры через £0. Тогда, согласно теории произведений мер, можно определить меру т2 в прямом произведении GxG так, чтобы для любых А £ 2 и В £ S£ множество Л хВ было измеримым относительно т2 и т2(АхВ) = тА-тВ. Пусть £2 — борелевское тело, на котором определена мера т2 и которое содержит, во всяком случае, все множества вида Ах В, где Л £2, B£Z. Интеграл функции /(х, у), определенной на GxG, относительно меры т2 мы обозначим через \ \/(х, y)dxdy\ он удовлетворяет теореме Лебега-Фубини (§ 6). Для того чтобы пользоваться мерой т на G и, в частности, определить свертку функций на G, недостаточло, чтобы мера т была инвариантной, необходимо еще, чтобы из измеримости /(х,у) относительно т2 следовала измеримость функций /(ух, у) и f(y~lx,y); аналогично этому в эргоди- ческой теории, изучающей однопараметрические группы преобразований пространства на себя, мы приходим к определению „измеримых" групп преобразований (см. [24], § 3, определения 3, 4, стр. 9). Итак, мы предположим, что т удовлетворяет следующему условию: (М) Борелевское тело %2 инвариантно относительно преобразований [(х,у)->(у~1х,у)\ группы GxG на себя.
158 Приложение I. Теорема, обратная теореме Хаара Рассуждения, приведенные в начале §11, показывают,, что такое преобразование оставляет инвариантным не только тело £2> но также и меру т2. Образуем на группе G пространство L2 относительно меры т (§ 6); пусть сра(лг) — полная, ортогональная и нормированная система функций из L2. Так как мера т инвариантна, та S~1(f = (f(sx) для всех функций у из L2 также принадлежит ZA Можно доказать следующую теорему: Пусть (р (х) £ L2 на G. Каковы бы ни были число е ^> 0 а множество Е из £0, Е содержит такое принадлежащее %0 множество Л, что для любых s£A и t£A [ 1 <р (sx) — ф (tx) |2 dx < s2. Действительно, вследствие (М), если сЬ(лг)£12, то функция <р(ух)<Ь(у) на группе GxG принадлежит пространству!2 относительно ^меры тг\ в этом пространстве функции 0а (х) <р? (у) образуют полную ортогональную нормированную систему, следовательно, для любого 7) ^> 0 можно таким образом выбрать среди функций <ра конечное число функций ср,-, что при некоторых коэффициентах с{- будем иметь [[\<е(ух)ф(у) — Sси ь(*)ьWI2йхйУ<ч- Подставим в это неравенство вместо сЬ характеристическую функцию <рЕ(х) множества Е (равную единице на Е и О вне Е); оло будет тем бэлее справедливым, если интегрирование распространено только на множество точек (х?у), для которых у£Е; это показывает, если применить теорему Ле- бега-Фубини и положить Ф (у) = П ? Суд:) - S ^7 V/ (*) ¥у W I2 dx* iff что Ф(^у) измерима на Е (иными словами, что Ф(у)'-уЕ(у) измерима на G) и \Ф(у)йу^г^ поэтому множество точек из Е, в которых ф|у)^§2, измеримо и имеет меру, не превосходящую г^Ь2, и если|выбрать г{<^Ь2тЕ, то на измеримом подмножестзе Е' множества Е положительной меры Ф(У)<С^2- Следовательно, каков бы ни был элемент^ из £', расстояние в L2 функции S~l ® = <p(sx) от конечномерного лилейного пространства, состоящего из линейных комбинаций функций <р£{х), меньше 8. Если покрыть это прострактво счетным
Приложение L Теорема, обратная теореме Хаара 159 числом сфер радиуса 5, то объединение сфер (в L2) с теми же центрами и радиусом 25 содержит множество всех S-1® для s£E'. Множество элементов s£E', таких, что S*1® содержится в одной из этих сфер, измеримо; отсюда следует, что Е содержит такое измеримое множество А положительной меры, что S-ly для всех s из А содержатся в одной и той же сфере радиуса 28 в ZA Отсюда, положив 5^—, по- лучим сформулированную выше теорему. Пусть W(<p, s) — множество тех элементов s£G, для которых ][S<p— ?||г^£» из предыдущей теоремы следует, что во всяком множестве Е из S£0 существует такое принадлежащее &о подмножество Л, что А -Л^с: W(<p, в). С другой стороны, если принять за f характеристическую функцию <рА(х) множества Л££0, то W(uA, e) является множеством тех то: чек s, для которых ^\<pA(s-*x) — <pA(x)\*dx^&. Функция, стоящая под знаком интеграла, равна единице, если х £ Л — (Л Л sA) или если xczsA — (Aft sA), и равна нулю в остальных точках; следовательно, этот интеграл равен 2[тА—m(Af]sA)], a W(<pA,s) состоит из таких точек $, что m{A(]sA)^mA — s2/2; выбирая е так, чтое2<^2/яЛ, мы получим, что ЛЛ^Л^ф, и, следовательно, s^A-A-1. Семейства множеств W(v,e) (где <p£Z,2 и £^>0) и множеств вида Л-Л-1 (где Л£&0) обладают тем свойством, что всякое множество одного семейства содержит хотя бы одно из множеств другого, и обратно. Более того, всякое пересечение А-А'1 Л W(<p, е) содержит множество А'-А'-1; для доказательства этого достаточно взять такое множество Л'с&о* что А'с:А и Л,*Л'"1с:1^((р, е). Поэтому, если одно из семейств W(<p, е) или А*А~1 принять за систему окрестностей единицы в G, то аксиомы GT Г и GT II § 2 будут удовлетворяться; если W=W(<p, е)и W=W(y, s/2), то W'-iW'cW; если V=A-A~1, то xVx~l можно представить в таком же виде; следовательно, аксиомы GTIII и ОТ IV также удовлетворяются. Если g — подгруппа группы G, состоящая, из тех элементов s> для которых Sv = <p при любом <р из Z.2, то G(g будет, в силу изложенного, топологической группой; для того чтобы таким образом можно было определить топологию в самой группе Gy необходимо и достаточно, чтобы удовлетворялась аксиома GT I, т. е. чтобы мера т удовлетворяла следующему условию:
160 Приложение L Теорема, обратная теореме Хаара (М') Для любого элемента s£G существует та/сое измеримое множество А конечной положительной меры, что m(A(\sA)<^mA. Если это условие выполняется, то введенная нами в группу Q топология превращает ее в топологическую группу. Условился говорить, что множество Е произвольной топологической группы ограничено, если для всякой окрестности V единицы можно выбрать в Е конечное число элементов s( так, что Еа U-Sj V (cvi. § 3). Докажем теперь следующее предло- жение (которое для локально компактных групп сводится к одному из предложений § 11): Для того чтобы множество EaG было ограниченным, необходимо и достаточно, чтобы существовало такое множество А из 5£0, что внутренняя мера множества ЕА конечна (внутренней мерой ЕА называется верхний предел мер, содержащихся в ЕА измеримых множеств). Это условие достаточно; действительно, пусть V — некоторая окрестность единицы; возьмем в 5£0 такое множество £, что BczA и BB~1aV; и пусть sf. (/=1, 2,...) — такие элементы из Е, что sn £ s- V при 1 z^i^n — 1; тогда множества si В ■ не пересекаются. Все эти множества содержатся в ЕА, следовательно, так как ЕА имеет конечную внутреннюю меру, число элементов s{ ограничено (см. § 8). Для доказательства обратного предложения покажем, что «существуют окрестность V единицы и множество А £ 20, для которых VA имеет конечную' внутреннюю меру. Заметим сначала, что если Е и В принадлежат &0, то, согласно (М) и теореме Лебега-Фубини, имеем тЕ>тВ= \ \ <рЕ(у-гх)ув(у)dxdy= \m(xE~1f)B)dx; следовательно, почти для всех х множество В(\хЕ~1 измеримо и для точек дг, образующих множество положительной меры, имеет конечную положительную меру; следовательно, это имеет место также для х-1ВГ\Е~"1, и можно найти такой элемент л:, что А=^х"1ВГ\ Е-1 измеримо и илеет конечную положителыую меру. Лс^-1, поэтому для всякого Е£%0 множество Е~1 содержит некоторое множество А £ 50; это имеет место также для ЕЕ-1, и, следовательно, всякая окрестность единицы содержит такое множество. Итак, для доказательства нашей теоремы достаточно найти окрестность W
Приложение L Теорема, обратная теореме Хаара 161 единицы, имеющую конечную внутреннюю меру, так как в этом случае если V—такая окрестность единицы, что V2xz W и AdV принадлежит 5£0, то VAczW, Пусть Е и А — такие множества из 20, что AczE-1; пусть W—W(<pA,e). Как уже говорилось, IF состоит из таких элементов s, что m(A(]sA)^mA— е2/2. Докажем, что мера тВ содержащихся в W измеримых множеств В ограничена. Действительно, функции <рА(х)*<рв(у) и <fA(y~lx)'ifB(y)m№- римы,'и, значит, их произведение ф (х,у)—уА (х) <рА (yvx) <рв (у) также измеримо, и к нему можно применить теорему Ле- бега-Фубини f [ Ф (*>У) dxdy— [\<pB (у)-т(А {\yA)dy^mB (тА — £2/2), откуда ^(хуу)^(рА(х)^Е(х-1у)9 следовательно (так как согласно (М) мера на GxG инвариантна относительно преобразования!^*, у)—>(х, х~гу)])9 fU(x, у) dx dy <; тА-тЕ. Отсюда следует, что тВ^тЕ/у!—'JTAr что доказывает теорему. ; ; Однако существование ограниченной окрестности единицы* (в смысле определения, данного выше) является (§ 3; см> также [66]) необходимым и достаточным условием того, чтобы G была изоморфна всюду плотной подгруппе локально компактной группы. Итак, любая группа, на которой существует инвариантная мера, удовлетворяющая условиям (М) и (М'), изоморфна всюду плотной подгруппе локально компактной группы G. Мы получили теорему, обратную теореме Хаара. Кроме того, как мы сейчас увидим, мера т на группе G следующим образом связана с мерой Хаара на G: Всякая непрерывная функция, на G обращающаяся в нуль вне компактного множества, измерима на G, и ее интеграл на и по мере Хаара равен интегралу по мере т на G. Докажем сначала, что всякая, окрестность единицы в G содержит измеримое множество положительной меры. Действительно, пусть Л, Ву С—такие множества из 5£0, что ВаА~г 11 А. Вейль
162 Приложение /. Теоремаг обратная теореме Хаара и С с В"1 (откуда CczA). Мы уже отмечали раньше, что» множество хВ~гГ\А измеримо для всех х, не принадлежащих. некоторому множеству N меры нуль, и что множество W тех. элементов х, дтя которых хВ~гГ\А измеримо и имеет положительную меру, само измеримо и имеет положительную меру. Имеем: W с А -В с Л-Л-1, кроме того, хВ"1 (] A z> дгСЛ С, и, следовательно, если лгЯ'^ЛЛ измеримо и т(д;СПС)^0, то х £ W"; поэтому если s достаточно мало, то W(<pc, е) с: W'UN* причем W(<Pc» ^) с: С-С"1 cz А-А"1; следовательно, если N' = = N П А • А_1 и 1Г= UP7 U N\ то № измеримо (как объединение W и множества меры нуль), W—окрестность единицы, так как W=>W(<?C, s) и WcAA-K Пусть теперь f(x) — неотрицательная функция на G, ко>- торую можно продолжить до непрерывной функции на G, обращающейся в нуль вне некоторого компактного множества. Для этого необходимо и достаточно (см. [66J), чтобы f(x) была равномерно непрерывной на G и обращалась в нуль вне некоторого ограниченного множества. Пусть а^О; пусть. Е— множество элементов х, для которых f{x)^>a, и Еп— множество тех х, для которых f(x)^>a-\ . Вследствие равномерной непрерывности функции f(x) для всякого п существует такая окрестность W единицы, которую мы можем считать измеримой, что Еп W с Е. Так как Еп, ограничено, то существует конечное число элементов s{^En, для которых Еп содержится в Еп = (J s-W; -множество Еп i измеримо и Еп с Еп cz EnW а Е, поэтому Е является объединением множеств Еп и, следовательно, измеримо; отсюда вытекает, что f(x) — измеримая функция. Более того, если, W—измеримая окрестность единицы, имеющая конечную меру, то множество всех тех элементов х, для которых f(x) положительна, содержится в объединении конечного числа, множеств s-W, следовательно, f(x) суммируема. Если существует элемент s, для которого f(s) положительна, то существует такая окрестность W положительной меры, что на sW функция f(x) положительна и, значит, \f(x)dx^>0. Отсюда следует, что интеграл по группе G от непрерывной неотрицательной функции на G, обращающейся в нуль вне некоторого компактного множества, является линейным функ-
Приложение I. Теорема, обратная теореме Хаара 163 ционалом, инвариантным для любого s из G относительно преобразования (х—>sx) группы G на себя. Так как группа О всюду плотна в G, то этот функционал для любого s £G инвариантен относительно преобразования (л:—* s x) и поэтому совпадает с интегралом по мере Хаара на G. * В заключение докажем, что при довольно общих условиях введенная нами при помощи инвариантной меры т топология совпадает с заданной a priori собственной топологией группы (согласно § 11, это заведомо справедливо, (если G локально компактна, а т — ее мера Хаара). Предположим, что в G определена топология так, что она превращается в топологическую группу, а инвариантная мера т удовлетворяет, кроме условия (М), еще следующим двум: (МТ I). Всякая окрестность единицы содержит измеримое множество конечной положительной меры. (МТ II). В пространстве L2, образованном на группе G относительно меры т> существует всюду плотное множество равномерно непрерывных слева на G функций. Из (МТ I) следует (М'), а также то, что всякая окрестность единицы в G содержит множество вида АЛ"1. Обратно, пусть y£Z,2 и /—равномерно непрерывная слева функция» для которой |j/—срЦз^е; тогда W(f, e) cz W(<p, 3s). Пусть а^>0; множество Е тех элементов дг, для которых |/(х)\^>а, имеет конечную меру; если выбрать а достаточно малым, то интеграл от \/(х)\2 по дополнительному к Е множеству Е' будет сколь угодно мал. Для элементов $, достаточно близких к единице, Е' будет содержаться в множестве тех точек, для которых \f{s~lx) \ ^2а, следовательно, так как Sf£L2, то для достаточно малого а интеграл от \Sf\2 по множеству Е' будет сколь угодно мал. Отсюда получаем, что для достаточно малого а и достаточно близкого к единице элемента s интеграл от \Sf—/|2 по множеству Е' также сколь угодно мал. Если теперь выбрать 5 достаточно близким к единице, то интеграл от функции f no E также будет сколь угодно мал, так как Е имеет конечную меру, а / равномерно непрерывна слеза. Следовательно, W{f, e) содержит окрестность единицы в смысле топологии, заданной на G. Таким образом, теорема доказана. Из условий (М), (МТ I), (МТ II) следует, в частности, что G изоморфна всюду плотной подгруппа локально компактной группы. 11*
ПРИЛОЖЕНИЕ И НОВОЕ ДОКАЗАТЕЛЬСТВО СВОЙСТВ ИНВАРИАНТНОЙ МЕРЫ Докажем непосредственно, что инвариантная на группе G мера т, удовлетворяющая условию (М) приложения I, обладает свойствами меры Хаара, указанными в §§ 7 и 8. Мы видели (приложение I), что при указанных выше условиях для всякого множества Е из 3!0 существует такое множество А££о> чт0 ^ с £-1, откуда sA с: sE'1 для любого s; кроме того, существует такое множество В из St0, что В с: A*1 s*1 с Es'1; поэтому множество Es"1 имеет положительную меру для всякого s, для которого оно измеримо. С другой стороны, мы уже видели, что из условия (М) следует инвариантность меры т2 относительно преобразования [(л;, у)—^{угх, у)] и обратного ему преобразования [(■*! У)—>(УХ> У)1> а значит, и относительно преобразования [(х,у)—>(х, ху)], которое получается из предыдущего заменой х на у. Пусть теперь ср (х) и S (х) — две измеримые неотрицательные функции; произведем в интеграле \\<p)x)${y)dxdy сначала замену (л:, у) на (у^х^у), а затем (л:,у) на (х, ху); получим [<p(x)dx-\b (у) dy= \dy\y (у1) & (ху) dx. В частности, положив 9- (х) равной характеристической функции уЕ(х) множества Е, получим тЕ- \ (р (х) dx— \ у {y~r) miEy"1) dy, и~~если <р(х) — характеристическая функция срл(лг), то \тЕ-тА= \ m(Ey~l)dy. Вследствие теоремы Лебега-Фубини приведенное вычисление доказывает, что мера множества элементов у^А*1, для которых Еу1 неизмеримо, равна нулю, а мера множества элементов .у 6 А"1,* для которых m (Ey-1)^ 0,J больше
Прал. //. Новое доказательство свойств инвариантной меры 165 нуля, если тД^>0, и равна нулю, если тА — О. Так как объединение этих двух множеств равно Л*"1, то Л-1 измеримо и имеет положительную или равную нулю меру вместе с Л;; следовательно, для любого s sA~l и As*1 также измеримы одновременно с Л. Поэтому т(Еу1) является функцией от у,, определенной и положительной для всех у и измеримой на всяком измеримом множестве (т. е. для любого измеримого множества А функция <р А (у) т (Еу-1) измерима). Положив Д (у)=т (Ey)jmE, получим формулу - I fa(x)dx= §<p(y-*)bly-i)dy. Если теперь в первой из полученных выше формул заменить $(х) на tpE(xs), <р(х) на y(s~lx) и разделить ее на тЕ, то получим Д(5-!). f <p(x)dx= [ <p{s-iy-*) b{$-*y-i) dy. Заменяя <р(х) на <р(х-г)1к(х), получим откуда, сравнивая эту формулу с такой же, в которой s = e9 получаем [ <p{ys)dy = &{s-1) [u{y)dy. Таким образом мы получили формулы § 8; из последней формулы, разумеется, следует, что Д (st) = Д {s) Д (i) и Д (е)=Л . Докажем, наконец, единственность инвариантной меры, удовлетворяющей условию (М). Пусть гп' — другая инвариантная мера на G, определенная на теле %' и удовлетворяющая условию (М), интеграл по мере т! мы будем обозначать через \f(x)d'x. Пусть %" — семейство множеств, принадлежащих одновременно £ и £'; пусть £2— семейство множеств на GxG, принадлежащих одновременно %2 и £г, на которых определены меры т2 и гщ соответственно. Можно образовать двойные интегралы \ \ f(x, y)dxd'y от функций, измеримых относительно борелевского тела !£2; так как %2 и %'2 УДО"
166 Прил. II. Новое доказательство свойств инвариантной меры влетворяют усювию (М), то это же самое верно для %%> следовательно, эти интегралы не меняются при преобразованиях [(■*! У)—>{У~1ху У)] и [(*> У)—►(*> *У)]- Можно вывести при помощи вычислений, аналогичных приведенным выше, что если функции (р(х) и &(лг) измеримы относительно 3/', то [<f{x)dx-[b (у) d'y = \ d'y \ <р (у"1) & (ху) dx. Предположим, что в борелевеком тече %'' существует множество Е, имеющее конечную положительную меру; пусть & (х) = =z<fE(x) и, как и выше, &(у) — т(Еу)(тЕ. Тогда 2?j¥(*)rf*=J?0'-1)A0'-I)<y. Вследствие теоремы Лебега-Фубини приведенная выкладка доказывает, что Д (у) на всяком множестве из 2/' измерима относительно 2/ (и, следовательно, относительно %", так как она измерима относительно %). Поэтому, если сЬ(дг) измерима относительно %", то это верно и для <р(х) = <Ь(х-1)1\(х); следовательно, откуда, сравнивая с такой же формулой для т = т', получаем это доказывает, что т и т! совпадают с точностью до постоянного множителя на их общей области определения %".
ПРИМЕЧАНИЯ РЕДАКТОРА (I) Справедлива следующая., связанная с этим Теорема. Пусть G — связная группа, Г — ее подгруппа и Q — такое откоытое подмножестао в О, что G = ЙГ. Пусть Л = Гп^-^). Тогда Г=Л°°. Доказательство. Пусть а и т — два элемента из Г. Если ОаПйт^ф, т. е. если существуют такие элементы <о и со' из Q, что (оа = о>'т, то ат-1 = <о-1со' и потому ат"1 бГпй"1 Й = Л. Следовательно, если т£ Л00, тоиа^Л00. Поэтому, если т£Л°° и а £/f = ГХЛ00, то ОаЛЙх —Л. Таким образом, открытые множества ЙЛ00 и ЙД" не пересекаются, причем G = Q<4°° (J Й/f. В силу связности G и того, что е £ ЙЛ00, получаем, что Й^Г пусто и потому Г = Л°°, (II) Аналогичный факт имеет место и в случае локальной компактности подгруппы g. Именно, если группа G обладает локально компактной инвариантной подгруппой g, факторгруппа Gi = Gjg no которой также локально компактна, то и группа G локально компактна. В самом деле, пусть инвариантная подгруппа g и факторгруппа Gjg—Gx топологической группы G локально компактны. Обозначим через <р гомоморфное отображение группы G на G2 ш рассмотрим такую окрестность единицы U группы G, что U{\g (соответственно ®{U)) является в g (соответственно в Gx) компактной окрестностью единицы. Пусть V — такая окрестность единицы группы G, что V4 a U и V= V"1. По- какем, что V компактно. Пусть М = {хи -. . ., ха, . . Л—некоторое множество элементов из V мощности т. Из компактности <р (V) cz <p(U) следует, что в <p{V) найдется такая точка z, что, какова бы ни была ее окрестность У7, множество ^f~1(W)f]M имеет мощность т. Заметим, что множество В 5= ю-1 (z) П V2 компактно, так «как если & б Я, то b^Bxz H[\V*c: Hf)U и потому b~* В
168 Примечания редактора компактно как замкнутое подмножество компактного множества. Если бы В не содержало точки полного накопления множества М, то для любой точки с £ В нашлась бы такая ее окрестность U (с), что мощность множества U{c)[)M меньше т. Выбирая конечное число таких U(c), покрывающих в совокупности все В, получим такую содержащую В область /?, что мощность множества R Л М меньше т. Как легко видеть, существует такая окрестность единицы L с V, что BL с R и L — L-1. Очевидно, что V[\BL= Vft ®~l\{z) £. Так как М с V\ то отсюда следует, что мощность множества <з-1 (z) Lf] M меньше т, что противоречит выбору точки z. Отсюда и следует компакт-» ность V. Отметим еще, что аналогичные утверждения имеют место и для таких свойств группы, как полнота, выполнение второй, аксиомы счетности и т. д. Приведем доказательство соответствующего факта для свойства полноты. Напомним, что система подмножеств топологической группы G называется сходящейся слева (соответственно справа), если для любой окрестности единицы U найдется такое множество М нашей системы, что М~г М а С/ (соответственно MM'1 a U). Система множеств называется центрированной, если любое конечное число множеств этой системы имеет непустое пересечение. Группа G называется полной в смысле Вейля (соответственно в смысле Райкова) „ если для любой центрированной, сходящейся справа (соответственно как справа, так и слева) системы множеств существует точка, принадлежащая замыканию всех множеств системы. Имеет место Теорема. Если топологическая группа G имеет полную? в смысле Вейля инвариантную подгруппу g, фактор-группа Gx = G/g no которой полна в том же смысле, то и сама, группа G полна в том же смысле. Доказательство. Пусть {М} — центрированная сходящаяся справа система замкнутых множеств в группе G, содержащая вместе с каждыми двумя множествами их пересечение (ясно, что мы можем ограничиться такими центрированными системами). Гомоморфное отображение G на Gt обозначим через ср. Тогда множества &{М) образуют центрированную сходящуюся справа систему множеств в Gx и имеют непустое пересечение а. Поэтому для. любой окрестности еди-
Примечания редактора Ш ницы Ut в труппе йг и любого М${М) имеем a^U1(p(M).: Следовательно, для любой окрестности единицы U группы Q множество N = u~1 (а) Л UM непусто. Пусть {V}—полная система окрестностей единицы в группе G. Тогда система замкнутых множеств {Л/} вида N ^=(р"г (a)(]VM центрирована и сходится справа. Если Ь£<р-г(а), то система множеств {Nb"1} из Н также центрирована и сходится справа, а потому имеет непустое пересечение с. Элемент cb принадлежит всем N, а потому и всем М, т. е. группа G полна. (III) Данное здесь определение прямого произведение бесконечного числа топологических групп удобно лишь для компактных групп, так как, например, прямое произведение в этом смысле локально компактных групп не будет,, вообще говоря, локально компактной,группой. Для того чтобы избежать этого неудобства, автором примечаний было введено понятие прямого произведения с отмеченными под- группами. Пусть М = {GJ — некоторое множество топологических групп, в каждой из которых отмечена открытая подгруппа И^ Элементом прямого произведения G групп Ga с отмеченными в них подгруппами Яа будет любая совокупность х = {ха), элементов х7 групп Ga такая, что почти все (т. е. все, кроме конечного числа) xi £ Ha. Групповую операцию введем в группу G покоординатно, а в качестве окрестностей единицы возьмем пересечения конечного числа множеств V(U^)9 состоящих из таких совокупностей (ха), что x^^U^ где £/р — заданная- окрестность единицы группы Go. Легко видеть, что G является топологической группой, причем если все Н^ компактны, то группа G локально компактна. Несколько видоизменяя это определение, можно сделать его приложимым и в случае, когда подгруппы Нл не открыты. Если Ha = Ga для всех а, то наше определение прямоп> произведения с отмеченными подгруппами совпадает с определением прямого произведения, данным в книге, а если На = еЛ1 для всех а, то оно совпадает с принятым в алгебре определением, прямого произведения дискретных групп. (IV) Точно так же, как с понятием прямого произведения, в смысле § 4 сзязано понятие обратного спектра, с понятием
170 Примечания редактора прямого произведения с отмеченными подгруппами (см. примечание (III)) связано понятие предела каскада групп. Соответствующие определения даны Браконье. При этом наряду с понятием предела обратного спектра получается понятие предела прямого спектра групп, связанное со случаем, когда в прямых сомножителях отмечаются единичные элементы. (V) Сделанное здесь замечание о том, что размерность фактор-группы не может превышать размерности самой группы, не было доказано автором, и на самом деле не верно. Эга ошибка была впоследствии замечена самим А. Вейлем. •С. Каплан указал следующий довольно простой пример группы, размерность которой равна нулю, а фактор-группа по некоторой замкнутой подгруппе изоморфна группе вещественных чисел, т. е. одномерна. Возьмем множество М мощности с аддитивных групп рациональных чисел в естественной топологии R^ и построим труппу GT, состоящую из конечных совокупностей г={га}а^ж элементов групп Ra. В группу Gx введем метрику, положив .|[г|| = 2[га|. Размерность группы G = G1-\-R, где R — труппа рациональных чисел в дискретной топологии,] равна .дулю. Возьмем континиум рационально независимых вещественных чисел Ха, таких, что ^ <^Ха<^ 1, и рассмотрим в группе О подгруппу Н, состоящую из таких элементов h = {rj -f- г, где r£R и га£/?а, что /" + 2Хага~0. Легко показать, что подгруппа И замкнута в G, а фактор-группа GJH изоморфна труппе вещественных чисел. Отметим, что построенная выше группа G не была локально компактной, и для локально компактных групп вопрос остается открытым. Для компактных групп со второй .аксиомой счетности, которые, как известно, можно представить в виде предельных групп обратного спектра последовательности групп Ли, А. Вейлем была получена следующая Теорема. Пусть G — компактная группа со второй лксиомой счетности ugQ — такая ее инвариантная подгруппа, что G/g0 является группой Ли, Пусть U0 — окрестность единицы в Glg0, гомеоморфная внутренности шара, и X — полный прообраз U0 в G, Тогда X гомеоморфно топологическому произведению U0 и g0.
Примечания редактора 171 В самом деле, пусть со—естественный гомоморфизм G на G0 = Gjg0. Наша теорема будет доказана, если мы найдем в X такое подмножество £/, что ср индуцирует на £/гомеоморф- ное отображение ф-1 на U0. Группу G можно представить как преде1 обратного спектра последовательности групп Ли Gn = Gjgn, где gn— замкнутые инвариантные подгруппы и go =>£i=>... =>£•„:=> •..,причем [\gn = e. Положим4n-=g„_Jgn; тогда уя является подгруппой b*Gw, причем Оя = Оя+1/уп+1. Пусть <рп — естественный гомоморфизм Gn+l на Gn и пусть уже определено такое подмножество Un в Gn, гчто^естествен- ный гомоморфизм Gn на G0 индуцирует гомеоморфное отображение Un на Uq. Так как ср^Г (Un) является косым ' произведением Un и yw+i (Д°п- лит- [34]), то, в силу того, что £/я гомеоморфно внутренности шара, ^ (Un) гомеоморфно топологическому произведению Un и ул+1, т. е. в yj1 (Un) существует подмножество Un+V гомеоморфно отображающееся на £/0 при естественном гомоморфизме Gn+1 на Grt. Но тогда любой точке *о€^о соответствуют такие точки xn£Un, что ?я(*я+1)=*й при всех я, а тем самым ей ставится в соответствие точка ф(д:0) = л: = (л:0; хх; ...; хп; ...) предельной группы обратного спектра групп Gn, т. е. группы G. Соответствие jc0—^ф (лг0) отображает U0 гомеоморфно на такое подмножество U группы G, что сЬ"1 совпадает на U с ср. Ртсюда поiyчаем, что ££Л# G является n-мерной компактной группой со второй аксиомой счетности, то у -нее нет фактор-групп, являющихся группами Ли большей размерности. Можно доказать, что если G локально компактная группа со второй аксиомой счетности и Н—ее замкнутая абелева подгруппа, то размерность G\H не превосходит я(л+1) -^-тг—, а также, что локально компактная связная группа со второй аксиомой счетности размерности п не содержит «-мерных замкнутых подгрупп: (VI) Изучаемые здесь однородные пространства играют большую роль в различных приложениях теории топологических групп. Так, например, неприводимые представления полупростых групп Ли, найденные Гельфандом и Наймарком, получаются при разложении представления группы унитарными операторами в гильбертовом пространстве функций на однородных пространствах. Используя однородные пространства,
172 Примечания редактора А. Вейчь перэдоказал ряд теорем Зигеля по "геометрии чисел (см. доп. лит. [30] и [31]). Изложение этих 'доказательств мы приводим ниже. Назовем отображение локально .компактного пространства Е на локально, компактное пространство Е частым, если каждая точка х' £ Е' обладает окрестностью V с компактным прообразом. Пусть G— локально компактная группа, g и Г— ее замкнутые подгруппы. Подгруппа Г называется чистой над Gjgy если, каков бы ни был элемент s из G, соответствие, ставящее каждому элементу а из Г смежный класс asg = aP из. Gjg, есть чистое отображение Г на G/g\ Для того чтобы подгруппа Г была чистой над G(g, необходимо и достаточно, чтобы выполнялось одно из следующих трех условий: 1. Для любого элемента s из G и любого компактного- множества С из G множество Tf\Cgs компактно. 2. Для любого элемента s из G и любого компактного множества С из G существуют такие компактные множества С'сТ и C'czg, что из asc-gG, где а£Г и ££#-, следует, что а^С и ^С". 3. Для любых двух элементов s к t группы G существует такая окрестность единицы Wa G, что множество Г П Wtgs компактно. В самом деле, если подгруппа Г чиста над Gjg и Сх — компактное множество из Gjg, то для всех элементов P = sg из Gjg множество таких а£Г, что оР£С19 компактно. Но по § 3 можно найти компактное множество С из G, образ которого совпадает с Cv Из <зР£Сх следует, что as^Cgr т. е. что G^Cgs"1. Поэтому полным прообразом Сг в Г является множество T[\Cgs~l. Так как 5 — произвольный элемент из G, то вместо него можно писать s-1, откуда и следует утверждение 1. Для того чтобы отображение Г в Gjg было чистым, необходимо и достаточно, чтобы для каждого элемента t из G существовала окрестность Wt с компактным прообразом, поэтому из утверждения 1 следует утверждение 3. Докажем теперь справедливость утверждения 2. Пусть Г — чистая подгруппа над Gjg и С — компактное подмножество в G. Пусть, далее, x=gsZ£C, где а£Ги %£g. Тогда а = л£-1$-1 £ Cgs*1 и, полагая С = Ff\Cgs-1, имеем о£С'г причем множество С компактно, в силу утверждения 1.
Примечания редактора 173 Но тогда £==^8-1з~1х принадлежит компактному множеству s~lC'-'lC. Полагая С— g{\s~lC'-1C, убеждаемся в необходимости условия 2. Обратно, если условие 2 выполнено и q — некоторое компактное подмножество из G, a g = xss, где я£Г, л; £ С %и ££g\ то а^-1^"1^^^ £ С, а потому существует такое компактное подмножество С с: Г, что соотношение х£С влечет за собой о£С. Но тогда множество ГЛОг$ содержится в С и потому компактно. Так как в условие 2 подгруппы Г и ^ входят симметрично, то из того, что подгруппа Г чиста над G/g", следует, что g чиста над G/Г. Так как компактные подгруппы чисты над любым однородным пространством, то любая подгруппа Г чиста над G/g\ /если подгруппа g компактна. Из определения чистой подгруппы следует, что если однородное пространство Gjg компактно и Г — чистая подгруппа над Gjg, то Г компактна. Поэтому, £сли G/Г компактно и Г — чистая подгруппа над Gjg> то g—чистая подгруппа над G/Г и потому компактна. Справедлива следующая Теорема. Пусть Е — множество с определенной на нем конечной мерой т и Г — локально компактная группа его .взаимно однозначных преобразований, сохраняющих меру т. Пусть, далее, существует такое измеримое подмножество АаЕ положительной меры, что для всех Р£Е множество тех элементов а из Г, для которых оР£Ау компактно. Тогда группа Г компактна. Для доказательства заметим сначала, что если Аъ . .., Ап, ... — некоторая счетная система подмножеств из £*, таких, что тАп^>а, то и т (\\тАп)^а. В самом деле, по- 00 00 -ложим Вп = и Лн-v Так как 1\тАп = Л Вп и Вп^Вп+1, то т (\\тАп)^а. Поэтому, если av ..., ая, ...—некоторая последовательность элементов из Г, то т(\\тап 1А)'^> О, и потому существует такая точка Р£Е, что апР£А для бесконечного числа п. В силу условия теоремы, можно поэтому выбрать из а1у а2, . .., ая, ... сходящуюся подпоследовательность. Но локально компактная группа, из любой последовательности которой можно выбрать сходящуюся подпоследовательность, компактна, и, значит, Г компактна <см. [66]).
174 Примечания редактора Рассмотрим теперь снова локально компактную группу G и в ней замкнутые подгруппы g и Г. Если подгруппа Г уни- модулярна, то, как показано в § 9, на G/Г существует единственная мера т такая, что для s£G и множества AczGlT имеем m(sA) = k (s)m(A). Поэтому, если в G/Г существует множество Л, мера которого инвариантна относительно всех s g G, то группа G унимодулярна, и потому мера т инвариантна. Это имеет место, например, когда m(G[T) конечна. Таким образом, если подгруппа Г унимодулярна и miG/T) конечна, то в G/Г есть мера, инвариантная относительно всех преобразований из G, а потому и из g. Пусть g—чистая подгруппа над G/Г и А — компактное подмножество из G/Г, имеющее конечную положительную меру. Тогда из доказанной теоремы следует, что подгруппа g компактна. Итак, нами, получена Т е о р е м а*]Если Г и g—замкнутые подгруппы локально компактной унимодулярной группы G, причем подгруппа Г унимодулярна, а инвариантная мера на G/Г конечна, то, для того чтобы^ подгруппа g была чистой над G/Г, необходимо и достаточно, чтобы g была компактной подгруппой в G. Эта теорема была доказана Зигелем для случая, когда G—локально компактная группа со второй аксиомой счетно- сти, а Г—ее дискретная подгруппа. (VII) Выведенные здесь результаты также находят приложение к геометрии чисел. Именно, пусть группа G унимодулярна и локально компактна, g—ее замкнутая унимодулярная подгруппа и у — замкнутая унимодулярная подгруппа в g. Пусть <р(х)— функция из £(G/y), т. е. непрерывная функция на G/y, обращающаяся в нуль вне некоторого компакта. Положим x' — xg, u' = u, где x£G и u£g, К(*)= [<f(xu)du'\ 1(<р)=[ F9(xydx* (1> gh ™е и S-f (x) = у (s-i*), где s g G. Тогда F^L (Gjg) и / {Sy)=I{y)f Поэтому существует такая константа с, что / (<р) ==- = с \ <р (л:) dx'\ где dx"— инвариантная мера на G/y, суще- О/у ствующая в силу результатов § 9, и лг" = лгу.
Примечания редактора 175 Пусть f(x)— непрерывная неотрицательная функция на G/y и Ф — множество функций из Z.(G/y), таких, что у (х) ^f(x). Положим F(x) = snpF(S)(x)t Легко показать,. что F{x) = \f(xu)du' и [ F(x)dx' = c \f{x)dx". (2> dig on Если Г — другая замкнутая унимодулярная подгруппа в О, содержащая у> т0 полагаем х—хТ, £'=£у и K(x)=$<p(xb)d&; I'(<p)=§ F'9(x)d7. (3). Г/Т G/V Тогда Fo^L(GjT) и существует такая константа б', что для. всех ср. /' (ср)~с' \ <р (х) dx". Если для любой непрерывной неотрицательной функции / на G/y положить F'(x) = \f(xz)d£\ г/т то получим jF'(jc)^=£r' \f(x)dx". (4), О/Г С/Т Если однородное пространство gjy имеет конечные объем V и функция /(л:) постоянна на всех смежных классах по g, то F(x) = Vf(x), и поэтому выведенные выше соотношения дают Ц. \ f(x)dx' = J «£ J/(*S)rfS'. (5) * dfe G/Г Г/Y Это соотношение сохраняет силу и в том случае, если/(л^— произвольная непрерывная, суммируемая на Gjg функция. Из доказанного соотношения следует, что если существует такая непрерывная неотрицательная суммируемая на Gjg функция /(*)> чт0 J /(*$) № имеет при х £ G нижнюю грань т, г/т то объем однородного пространства G/Г не превосходит c'VA Г ., где А== J f(x)dx'. Такой случай имеет место, на- G/5- пример, когда подгруппа Г дискретна и существует такое замкнутое множество F конечной меры, что G = FT.
J 76 Примечания редактора Если G есть группа линейных подстановок п переменных с детерминантом 1, Г — подгруппа целочисленных подстановок из G и g — подгруппа подстановок, оставляющих инвариантным вектор (1, 0, 0..., 0), и если у = Г fig, то, применяя индукцию по п и доказанные выше * соотношения, получим, что однородное пространство G/T имеет конечный объем. В самом деле, это утверждение очевидно при л = 1, так !как все подгруппы совпадают с единичной. Обозначим через G', Г' и g' группу G и ее подгруппы Г и g для случая п — 1 переменных и пусть уже доказано, что объем пространства G'/Г' конечен. Каждая матрица из g имеет вид •II 1 w II II ° х II' тде w — вектор из пространства 5я'1 (эвклидова пространства п—1 измерений) и X — матрица (п — 1)-го порядка из G'. Те матрицы из g, для которых соответствующая матрица X' принадлежит Г', образуют подгруппу, которую мы обозначим через hy а те матрицы из Л, для которых коэффициенты вектора w целочисленны, — подгруппу у. Но пространство gjh изоморфно G'/Г' и, значит, имеет конечный объем; объем пространства А/у конечен, так как Л/у гомеоморфно Тп~г. Следовательно, и объем пространства g/y конечен и мы можем применить формулу (5). Две матрицы из G лежат в одном смежном классе по g, .если у них совпадают элементы первого столбца, поэтому любая функция f{X), определенная на G\g, имеет вид J(X) — (p(xn; ...; хпХ), где ф определена на Sn всюду, .кроме точки нуль. Отсюда получаем, что интеграл, стоящий в левэй части формулы (5), равен \ <p(t)dt1 dt2.. .dtn. Далее, пространство Г/у дискретно и потому \ /(х?\д?' ==У\/(Х»М), г/т <м> где^ М пробегает полную систему смежных классов Г по у. Но тогда ^f(X*M) = 2? {X-m)> где м пробегает СОВОКуП- f/W; (Щ) ность векторов из Sn> могущих стоять в первом столбце матрицы М £ Г, иными словами, m пробегает систему векторов М1 = (тг\ ...; mw), где ти ..., тп — взаимно простые целые числа.
Примечания редактора 177 Обозначая через d(X) инвариантную меру на G/Г,,. получаем из формулы (5): Л u{t)dt=[ \%u{X.m)]d(X). (6) Точно так же для любого целого положительного числа а имеем: Са-* \ <р (f) dt= J [2 <Р (*•««)] ^ (*)• (7) Суммируя эти равенства по всем целым положительным а, получаем (С' = С;(л)): C'f?(<)tf=f EM*-')]*W. (8) s* о/г (г) где сумма распространена на все отличные от нулевого целочисленные векторы из Sn. Мы можем теперь закончить проведение индукции и доказать конечность объема пространства G/Г. Для этого достаточно заметить, что если К—компактное, центрально-симметричное выпуклое тело, объем которого больше, чем 2/г, то по теореме Минковского К пересекается в отличной от нуля точке с любой решеткой /?, получающейся из целочисленной решетки R0 применением преобразования X, Возьмем тогда в (8) в качестве ср(лг) функцию из L+(Sn)y равную единице на К. Тогда для всех X 2?(^"г) =^ *» и потому соотноше- г ние (8) показывает, что объем G/Г не превосходит С \ со (t) dt. Несколько более точные рассуждения, использующие формулу Пуассона на группах, показывают, что постоянная С в формуле (8) равна V. Эти результаты были первоначально получены Зигелем и позже доказаны Вейлем методами теории топологических групп. Зигель рассматривал G/Г как однородное пространство решеток R и^^(Х>г) как значение функ- г ции <р на такой решетке. (VIII) Излагаемые в настоящем примечании понятия сходимости мер Радона и понятие их свертки непосредственно примыкают к содержанию §§ 6, 10 и 11 книги Вейля и играют важную роль в современной теории топологичес шх групп. 12 А. Вейль
178 Примечания редактора Сходимость мер Радона, Будем говорить, что неограниченное частично упорядоченное множество (фильтр) мер jx широко сходится к мере ц0, если \i(f)= \fd\i сходится к Но (/) Для всякой функции /из Z.+. Назовем полной массой положительной меры д величину интеграла \ d\i9 а полной массой любой меры jx = JAi4-Jja2 — — |л3 — /jjl4, где меры jxx, }х2, ц3, ji4 положительны, сумму полных масс мер \ir Если группа G компактна, то полная масса любой меры конечна и широкая сходимость мер совпадает со слабой сходимостью в сопряженном с L линейном пространстве, где для функций / из L положено ||/|| == [|/||сс- Если же группа G лишь локально компактна, то по теореме П. С. Александрова она превратится в компактное множество G', если присоединить к ней „бесконечно удаленную- точку". Рассмотренное в § 6 пространство Z.00 является не чгм иным, как пространством непрерывных на G' функций, обращающихся в нуль в бесконечно удаленной точке. Совокупность комплексных мер конечной по шой массы (т. е. линейных комбинаций с комплексными коэффициентами положительны* мер конечной полной массы) совпадает с сопряженным к L?* линейным пространством, причем широкая сходимость мер означает слабую сходимость в этом пространстве, так как L°° является замыканием пространства L по норме ||/||оо- Отсюда следует, в силу слабой компактности сферы! в сопряженном пространстве, что совокупность положительных, мер ц ограниченной в совокупности полной массы компактна относительно широкой сходимости. Каждую меру конечной по!ной массы в G можно рассматривать как такую меру в компактном пространстве G', что мера бесконечно удаленной точки равна нулю. Будем говорить,, чго положительные меры \х; такие, что |xG^ 1, узко сходятся к мере jx0, если соответствующие им меры на G' широко сходятся к мере, соответствующей ja0, т. е. если р. широко сходятся к jx0 на G и «xG стремится к pt0G. Иными словами, меры |х узко сходятся к |х0, если для всех непрерывных и ограниченных функций на G имеем /rf|i-*'\/</ji0.
Примечания редактора 179 Свертка мер. Аналогично изложенному в § 11 понятию свертки функций вводится понятие свертки мер. Пусть ptx и pt2—две меры Радона. Их сверткой называется мера pi = = \хг * ji2, значение которой для каждого измеримого множества А равно p.(A)=[]il(Ay^)dii2iy). Нетрудно проверить, что pi действительно обладает всеми свойствами меры Радона и что ptt # pt2 = jjt2 #|лг. Пусть р есть свертка мер pt и v0, p == jx *v0, и пусть меры pi широко сходятся к pt,0, причем все меры pt сосредоточены на некотором фиксированном компакте. Тогда меры pi * v0 широко сходятся к jjl0 * v0, a v0 * pi — к мере v0 * pt0- Аналогично, если меры pi широко сходятся к pi0, a v широко сходятся к v0, причем как pi, так и v сосредоточены на фиксированных компактах, Topt#v широко сходятся к мере pi0*v0. Каждой функции f(x) из L можно поставить в соответствие меру pi(<p), определяемую равенством 1i(<p)=[<p(x)f(x)dx. (1) Эту меру мы будем ниже обозначать символом d)i=f(x)dx Однако часто удобно рассматривать другую, связанную с суммируемой на любом компакте функцией f(x) меру р/, полагая d\if {х) — J , где Д (х) — введенная в § 8 функция, такая, что d (xs) = Д (s) dx. Из того, что для всех функций со и L иу.еем j <p (z) d[p.f * v (z)] = ^<? (*У)^=§} &{у) = —)апу)) УЩ^) '^(у)-)гЩ) УМУ) ' ( ' вытекает, что pi^*v —pt^, где функция g имеет вид £* = = ) /{хУг)^г - - Мы будем писать в этом случае g= J УД {у) =f*v(x). Если и мера v(jc) имеет вид dv = diLh9 то g превращается в обычную свертку функций / и h g(x)=f*h(x) = §f(xy-i)h(y)-^)==\f(xy)h(y-i)dy.(3) 12*
180 Примечания редактора Рассмотрим частично упорядоченную по включению систему окрестнэстей единицы в G и отнесе.1 каждой окрестности единицы V положительную функцию /(*), обращающуюся в нуль вне V, и такую, что \ f(x)dx=\. Легко видеть, что соответ- ствующие этим функциям меры/(д:)^д: узко сходятся к мере е, сосредоточенной в единица, полная масса которой равна единице (это следует из того, чго для каждой функции ср из L и а^>0 найдется такая окрестность единицы V, что \®(х)—у(х)\<^а при x£V). Будед обозначать фильтр мер f(x)dx через Ф. Для любой непрерывной функции у(х) на G имеем равномерно на любом компакте <р (х) = \imf * у (х), ф что легко следует из равномерной непрерывности <р на компакте. Назовем свертку f(x)dx и \х регуляризацией меры pt; тогда регуляризации меры \х широко сходятся к pi, когда f(x)dx изменяется по фильтру Ф. В самом деле, для ср £ L ^(x)f*p.(x)dx = ^*{x)l(^~l) dp.(y)dx = = [[ f(xy)f(x)dxdii(y)^=\dii(y) [<p{xy)f(x)dx, и так как <p(^) = lim \ ср (xy)f(x) dx, то получаем, что/*д ф •> широко сходятся к д. Отметим еще, что меры /*jx имеют плотность g{x) = $f &-*)%$-. (4) (IX) Положительно определенные функции. Суммируемая на любэм компакте функция ср называется положительно определенной, если для каждой функции / из L выполнено неравенство \\v(x-iy)f(x)f{J)dxdyszO. (1) Если функция ср непрерывна, то эго эквивалентно условию 2 23 *(*Г\)С;7;^0 (1а) f=l7=1 для любых чисел сх, . . . , сп.
Примечания редактора 181 С каждой положительно определенной функцией <р можно следующим образом связать некоторое гильбертово пространство Н,0. Пусть / и g — функции из Z,. Положим (/- *)«= \ \ f (x-ly) /(*) i(y~) dx dy. (2) Те функции/gZ., для которых (/, /)в = 0, образуют замкнутое подпространство Z,^ в Z,. Образуем фактор-пространство LjL„ и введем в него норму ||/|| =]/(/, /)с. Пополняя Z/Z,? по этой норме, получим гильбертово пространство Яй, в кото- ром всюду плотны образы функций из Z,. Оператор £/5, ставящий в соответствие каждой функции f(x) из L функцию f(s~}x), может быть продолжен до унитарного оператора в пространстве //в. Действительно, делая подстановку х—>s~lx и у—>s~ly, видим, что [ \ <Р (х-гУ)/(*)gU) dx dy — = \\ <p (x-ly)f(s-i x)g(s-1y) dx dy, (3) откуда следует, что оператор Us сохраняет расстояние между функциями из L, а потому его можно распространить на все Н,0. Соответствие 5—>US есть представление группы G унитарными операторами пространства Н0, причем легко видеть, что из сходимости s к s0 следует сильная сходимость Us к USo- Весьма важной для дальнейшего является (см. доп. лит. [9]) Теорема 1. Всякая ограниченная положительно определенная функция ср(лг) совпадает почти всюду с некоторой непрерывной положительно определенной функцией. Доказательство. Рассмотрим полную систему окрестностей единицы группы G и сопоставим с каждой окрестностью единицы V положительную непрерывную функцию g(x), обращающуюся в нуль вне К, и такую, что \ g(x)dx=.\. Меры g(x)dx узко сходятся (см. примечание (VIII)) к мере s, т. е. единичной массе, сосредоточенной в единице е группы G. Поэтому функции £*(#), рассматриваемые как элементы пространства Н^, слабо сходятся к некоторому элементу е из На, ибо их нормы (g, g)y ограничены в совокупности, и для всех / из L {f\g)*=[[4(x-ly)f(x)gU)dxdy
182 Примечания редактора сходится к \ y(x)f(x) dx, в силу определения узкой сходи- мости мер (примечание (VII)). Таким образом, (/,e)?=J?W/(*)d* (4) и вообще (/, Uxe)f=hm(f, Usg)9= \J(Fb)f(x)dx, (5) ф ' •; где Ф — фильтр мер g(x)dx. Отсюда следует, что для всех функций / из L (f,g\=W>Uj*\g(s)*s, (6) а так как обе стороны этого равенства зависят от / непрерывно (по норме Н9)ч то это соэтношение имеет место для всех элементов из Н0. Из него следует, что элемент /€//ф, ортогональный ко всем элементам Use, равен нулю, иными словами, элементы Use порождают все Н0. Применяя соотношение (6) к /=е, получаем, что ' (s,g)0=[(s,Uss),J(i)ds (7) для всех g£L, т. е. что f V (s)I&ds=[ (s, и^Ш***, (8) и потому почти всюду <p(s) = (B,Uss)r (8a) Но (s, Uss)y является непрерывной функцией от 5. Теорема .доказана. Мы доказали, между прочим, что всякая непрерывная положительно определенная функция имеет вид (X, U^X), где (X, У) обозначает скалярное произведение векторов X, Y в некотором гильбертовом пространстве и 5—*US — непрерывное унитарное представление G в Н . Обратно, всякая функция вида (X, USX) положительно определена. Наряду с положительно определенными функциями рассматриваются также положительно определенные меры. Мера pt
Примечания редактора 183 называется положительно определенной, если для любой функции / из L имеем . ^/{xr^m^dx^O. (9) Если функция <р(х) положительно определена, то и мера 4]Х.^(х) положительно определена. При помощи положительно определенных мер можно так же, как при помощи положительно определенных функций, строить гильбертовы пространства, лолагая Рассуждения, аналогичные тем, которые привели нас к теорема 1, показывают, что если мера jjl положительно определена и такова, что для всех функций/из Z,, обращающихся в нуль вне заданной окрестности единицы, (/, f)^<,K(\ f(x)dx) , то d]L(x) = di&(x), где <р— непрерывная положительно определенная функция. Типы сходимости положительно определенных функций. Пусть положительно определенные непрерывные функции <р(х) слабо сходятся к функции сЬ (дг), причем lim cp (е) <^оо. Тогда ф(лг) является положительно определенной функцией, причем ф(е) <:iimy(e). В самом деле, из определения слабой сходимости следует, что для любой функции / из L имеем \ \&(x^y)f(x)f(y)dxdy = \lm [ [<p(x-iy)f{x)7(y)dxdy^0, и потому ф положительно определена. Если бы ф (е) было больше lim 0 (е) на 2s, то, учитывая, что по теореме 1 ф(дг) почти всюду совпадает с непрерывной функцией, можно было бы выбрать такую окрестность единицы V, что при х £ V I ф (л;)—ф(е) |<^е. Тогда мы получили бы при | 9i О?)—l'im 4>(e) 1^*^ неравенство [ (ф (х) — у! (x))fv(x) dx = J (ф (х) — lira" у (e))fv(x) dx + + [ (Tim ср (в) -г- yj (*))/„(*) <** ^ 8,
184' Примечания редактора где fv—'-'характеристическая функция множества V, а эта противоречит слабой сходимости ср(лг) к ф(дг). Отсюда вытекает, что множество положительно определенных функций <р, таких, что <р(е)е^1, замкнуто относительна слабой сходимости. Для дальнейшего будет полезно следующее неравенство' М.. Г. Крейна, справедливое для любой непрерывной положительно определенной функции: \<р(х) — *(у)\2^2<?(е)[*(е) — Rey(xy-i)] (x,y£G):(U) Для его доказательства достаточно в неравенстве (1а) положить я = 3, сг = 1, с2 — г^ cs = — Г], s1 = e, s2 = xy s3 = y и записать условие положительной определенности получающегося квадратичного трехчлена. Отметим также, что при. всех х имеем* \1<р(х)\^<р(е) и <р(х~1)=<р(х). Докажем теперь следующую теорему (см. доп. лит.. [28]): Теорема 2. Если положительно определенные функиии <р(х) слабо сходятся к функции f(x), причем <р(е) сходятся к f(e), то функции ®(х) сходятся к f(x) равномерна на любом компакте (в силу теоремы 1 считаем, что как функции <р(х), так и функция/(д:) непрерывны). Доказательство. Если f(e) = 0, то<р(е) стремятся к нулю, а из того, что | <р(х) | ^ср(^), следует, что &(х) стремятся к нулю равномерно на любом компакте. Пусть теперь /(e) = 1. Из ограниченности функций <р(х) в совокупности следует, что мы можэм рассматривать липи> тот случай, когда <р (е) = 1 для всех <р. Рассмотрим компактное множество Kcz G. Из непрерывности функции f(x) следует,, в силу неравенства М. Г. Крейна, ее равномерная непрерывность на G. Поэтому для заданного е]>0 найдется такая компактная окрестность единицы . £/, что \f(x)—f(y)\<^& при У~1х £ U2 и U — U-1. Пусть, далее, V—такая окрестность единицы, что V2dUи V= V1. В силу компактности U(а следовательно, и U2), Далее, так как К компактно, то найдется конечное числа элементов gu g.2i . .. , gn группы G, таких, что- Kcz \igsU-
Примечания редактора 185 Будем обозначать через fA (x) характеристическую функцию множества А. Рассмотрим функции ' т (О*) —1 и такую слабую окрестность функции f(x), что для любой: функции (р(х) из этой окрестности имеем К [/(*) — <f(x)]aj{x)dx\<e (7= О, 1, 2, . . . , л). Пусть теперь ср(лг) принадлежит упомянутой окрестности функции f(x) и у £ /С П ^"уг£/. Тогда для всех д: имеем № - <р Cv)=[/(*>*)—<? te/*)] + \f(y) —ftejx)]+ + [?(*/*)—? 00]- (12> Интегрируя по области U и деля на m(U),. получаем ЛПР) W) - ? W1 = ^7) 11Л*у*> - * <*у*>1** + + ^7) I t-f{У] -f(Sjx)} dx + ^ I [f (gjx) - <p (y)]dx, (13)» Первые два интеграла легко оцениваются следующим образом- -^щ I [f(gjx) — <р (g>*)] Л* I = — I J [/(*)—? (*)] aj (x) dx о (14) e-m(60<ir (15), (вторая оценка следует нз того, что y-1g.x£U~~1g~.1 gjxeU2). Для того же, чтобы оценить третий интеграл, заметим, что, применяя последовательно неравенство Буняковского, неравенство Крейна, соотношение y~lg,- £ U и соотношение Ref(x) — Ref(x) = [f(x) — <?{x)] + [f(x^) — i?(x-% (16>
186 Примечания редактора получаем i/2 2 /л {U) Но в силу того, что \[f(x-l) — 4(x-l)]dx=\\f(x) — <f(x)\L-Hx)dx, ;имеем a<2ae + 2a|J|/(^) —у(^)]а0(*)Лс]|<4аб. (17) и* .Но тогда |/0>)—<f> (J/) | ^ |/4as-|-2s. В силу произвольности выбора s, наше утверждение доказано. Элементарные положительно определенные функции. Пусть Р0 — множество всех положительно определимых непрерывных функций ср таких, что ю(е)^1, иными словами, подмножество таких функций из Д» (пространства всех ограниченных, суммируемых на всех компактных множествах функций с нормой |[<р||оо)> что ср(лг) положительно определены и H'fUoo^l. Из рассуждений, приведенных выше, следует, что множество Р0 замкнуто относительно слабой топологии в Lx. Далее, мнокество Я0, очевидно, выпукло и ограничено в Loo. По теореме Крейна и Мильмана (см. [20]) получаем, что Р0 совпадает с выпуклой слабозамкнутой обо - лочкой в Loo множества экстремальных точек из Р0. (Напомним, что точка а выпуклого множества Р называется экстремальной, если она является концом всякого содержащего ее отрезка из Р.) Рассмотрим совокупность экстремальных точек множества Р0. Назозем нормированной элементарной положительно определенной функцией такую непрерывную положительно определенную функцию ср(дг),.что
Примечания редактора 187 1) у(е) = \\ 2) из соотношения ср = с£>х —{— ср2, где <рь ?2€Л)> следует, что ®1^=\1<р и у2 = Х2ср, где Хх и Х2— такие неотрицательные числа, что Х1-|-Х2==1. Очевидно, что одной из экстремальных точек множества Р0 является функция <р0(х) = 0. Покажем, что все другие экстремальные точки множества Р0 — это нормированные элементарные положительно определенные функции и только они. В самом дег,е, пусть <р(д;)=^0 является экстремальной точкой множества Р0 и пусть ср = ср2 —|— ср2, где <рх и у2 лежат в Р0. Так как положительно опреде .енная функция достигает максимума по абсолютной величи ie при х = е, то <р (е) ^ <рх (е) ^>0. Далее, <р(£)—1, так как иначе ср(лг) была бы внутренней точкой отрезка 0, ~~ . Поэтому Ъ(е) и ?з(«)>0 и <М*) + <р2(е)=1, откуда, в силу экстремальности функции <f(x)> следует, что ^ = ?4^ или 9l(x) = Vl(e)tp(x). Обратно, пусть ®(х)—элементарная нормированная положительно определеиная функция и <р(х) = Ъг (х) -f- ja? 2 (л:), где Х]>0, ja>0, X-f-JA = l и срр у2^Я0. Тогда, очевидно, <Pj (е) z=z у2 (е) — 1 и Х01(л;) = ау(.г). Полагая лг = £, получаем а = Х, т. е. ^х (jc) = y (jc), a тогда и ^2(л:) = у (л:), т. е. ср(дг) — экстремальная точка в Р0. Мы будем в дальнейшем писать <р (*)<<? 4 (л;), если функция ф(лг)—<p(.v) положительно определена. Проведенные нами рассуждения показывают, что любая непрерывная положительно определенная' функция ср(дг) на G, такая, что у(е)=1, является слабым пределом линейных комбинаций 2aiff/(A:) элементарных нормиоозаншх положительно определенных функций, таких, что 2#/^1 и а(^>®* Рассуждения, проведенные нами выше, показывают, что в этом случае 1 =<p(e)^lim 2а/' т- е- Ипа 2а/=== ^» и п0" тому, применяя теорему 2, мы убеждаемся, что для любой
188 Примечания редактора непрерывной положительно определенной функции, такой,, что (р(£) = а, существует равномерно сходящаяся к ней на любом компакте совокупность линейных комбинаций элементарных нормированных положительно определенных функций 2 а№\ (■*)> причем lim2«i = a и а/]>0- Можно показать, что если группа G не дискретна, то функция <Ро —0 принадлежит слабому замыканию совокупности всех элементарных нормированных положительно определенных непрерывных функций. (X) Как показывают результаты, изложенные в гл. 5, для всякой компактной группы имеется достаточно много конечномерных унитарных представлений. Теория этих представлений является сильным аппаратом для изучения структуры компакт- ных групп. Однако уже при переходе от компактных групп к локально компактным положение существенно меняется. Например, известно, что существуют локально компактные группы, вообще не имеющие нетривиальных конечномерных представлений. Поэтому для групп более общих, чем компактные, например для локально компактных, естественно рассматривать и бесконечномерные унитарные представления, т. е. представления в группу унитарных операторов в гильбертовом пространстве. Основы этой теории были построены И. М. Гельфандом и Д. А. Райковым (доп. лит. [9]). В начале примечания (IX) мы показали, как по каждой положительно определенной функции ср на данной группе G построить некоторое гильбертово пространство Н0 и унитарное представление группы G в 7/^. Рассмотрим эту конструкцию более детально. Мы будем' пользоваться понятиями и обозначениями, введенными нами в примечании (IX), в частности понятием элементарлой положительно определенной функции. Элементарные функции и неприводимые представления. Имеет место следующая фундаментальная теорема (доп. лит. [9]): Теорема 1. Для того чтобы непрерывная положительно определенная функция ср (л:), такая, что ю (е) = 1, была элементарной, необходимо и достаточно, чтобы соответствующее унитаоное представление группы G в H,s было неприводимым (т. е. чтобы единственными инвариантными относительно всех Us линейными подпространствами в Н были само Hrq и нулевое подпространство).
Примечания редактора 189 Доказательство. Если Л—проекционный оператор, перестановочный со всеми Us> то ср(*) = (8, £/,в),=(Д8> Ute), + {B — As, Usz),3 = = (As, и,Аб)9 + (* — Ав, £/,(8 —Ле)),, (l) и так как последняя часть является суммой двух функций из Р0, то, если функция <р (s) элементарна, имеем для всех (A*tUj*)9 = \(*,Uja)r (2) Отсюда, в силу того, что Uss порождают все 7/в, следует, что А = 1Е, и так как Л2 = Д, то \=0 или Х=1. Таким образом, со всеми Us перестановочны лишь операторы проектирования в нуль или на все Н , что и доказывает неприводимость представления. Обратно, пусть представление is—*US группы О в //? неприводимо и пусть <f> = <Pi-{-<P2> где (р! и ср2 принад!ежаг Р0. Для всякой функции / из L имеем V. />*=(/> Д- (Л Д3 < (Л Л- (3) Поэтому (/,/)9i определяет такой эрмитов оператор Лх в # , что для всех /£ Z, имеем (/,Л,=И/, Лоно • He,^),= (e,^8)ei = Vl(*). (4) Далее, Л перестановочен со всеми Us. В самом деле, <л^/,/)=5 j <р,(*-^)/(в-,*)ЛуГл?^= = j J Ь (z-*s-*y)f(z)f(y)<bdy = = J J Ь {z-4)f(z)TW)dtdz = (Л/, С/,-»/) = (f/^Z. /)• (5) Но эрмитов оператор А может быть перестановочен с операторами Us1 образующими неприводимую систему, лишь при условии А = \Е. Действительно, Us, будучи перестановочны сС Д, перестановочны с его спектральной функцией £(А). Но проекционный оператор, перестановочный со всеми операторами, образующими неприводимую систему, равен 0 или Е. Таким образом, весь спгктр оператора Л сосредоточен в одной
190 Примечания редактора точке X и А = 1Е. А тогда ух (s) = X<p (s), откуда и следует, что функция <р (5) элементарна. Пусть теперь G — некоторая топологическая группа, на которой существует инвариантная мера, например локальна компактная группа. Обозначим через L2 гильбертово пространство, образованное всеми измеримыми функциями на Gc интегрируемым квадратом, скалярное произведение в котором определяется равенством .(/. ?)=f/(*) ?(£}<**. (6) с/ Операторы U1ff(x)=f(s~tx) образуют унитарное представление группы G в Z2, а потому для любой функции f(x) из 1г {Usf,f)=\f(s-iX)7(x)dx (7> будет непрерывной положительно определенной функцией. Отсюда вытекает, что для каждого элемента х0=^=е существует такая положительно определенная функция ®о(х)у что <р0(х0)^<р0(е). Болеэ того, для каждой окрестности V единицы е существует нормированная непрерывная положительно определенная функция, равная нулю вне V. В самом деле, выберем какую-нибудь окрестность единицы W, такую,, что WW^aV, и любую функцию fw(t)£L2, такую, что ifw fvr)=1 и/^ (А) = 0-вне W. Функция и (x) = (Uxfw, fw) и будет обладать требуемыми свойствами. Мы можем теперь показать, что для любого элемента х0^=е найдется такая элементарная нормированная непрерывная положительно определенная функция <р0(х)> 4TOiPo(xo):¥z'fo(e)' В противном случае нашелся бы такой элемент х0=^ег что для всех элементарных нормированных непрерывных положительно определенных функций у (х0) = <р (#)= 1. Существует такая функция ю0 из Р0, что <р0(х0)=£<р0(е) = 1, причем к ц0(х) сходятся разномерно на любом компакте, в том числе и в точке лг0, линейные комбинации 1=1 элементарных нормированных функций из Я0, причем \ ^ О и 2Хг.ф. (е) = 2Хг.= 1. Но тогда <f0(x0) = \im<£>(x0)=^u(e) вопреки предположению.
Примечания редактора 191 Мы будем говорить, что топологическая группа G обладает полной системой неприводимых представлений, если для каждого ее элемента х=/±е существует такое неприводимое представление U унитарными операторами в гильбертовом пространстве И, что UX^=E. На группе G существует полная система элементарных положительно определенных функций, если для каждого элемента х0^е существует такая элементарная непрерывная положительно определенная функция cp0(x), что <р0 (*о) =7^= ?<>(*)• Из наших рассуждений следует. Теорема 2. Для того чтобы топологическая группа G обладала полной системой неприводимых унитарных представлений, необходимо и достаточно, чтобы на ней существовала полная система элементарных положительно определенных функций. Действительно, если <р0 (лг0) т^?о (*)> то Для представления Ux,. порождаемого функцией <f0(x), имеем, в силу равенства (8а) примечания (IX), U ефг и-потому ихфЕ. Обратно, если UXo^=E, то существует такой вектор X, что (UXX, Х)ф. ф[Х,Х). Тогда для <p0(x) = (Ux X, X) имеем <р0{х0)=£<р0(е)' Из доказанного выше следует, что всякая локально компактная группа обладает полной системой унитарных представлений. Регулярные подмножества Р0. Приведенные выше рассуждения показывают, что если ср^Р0 и <Ь<^<р, то ф(лг)=" — (Аи, Uxw>), где Л — положительный эрмитов оператор, переста- * новочлый со всеми Ux. Положим Д=Б2, где В — положительный эрмитов оператор, перестановочный со всеми Ux.. Тогда Ф(*)=(в*?, их<е)=(вь ихв?)=(Ь, uxzy, <8> где £ = j3<p. Так как векторы U$ порождают все пространство HfJ? (см. доказательство теоремы 1 примечания (IX)), то £' является сильным пределом векторов вида 2 (ZjUsfl, а потому ф(дг) является пределом равномерно сходящейся на G последовательности функций вида Назовем подмножество А из Я0 регулярным, если оно< выпукло, слабо замкнуто и вместе с каждой функцией ш (х\ содержит ~—- и все такие функции сЬ(дг), что Ф<^у.
И 92 Примечания редактора Рассуждения, аналогичные проведенным на стр. 187, показывают, что экстремальными точками регулярного подмножества А являются принадлежащие А элементарные нормированные .функции и функция <ра = 0. Покажем, что слабое замыкание Л? множества "Лв, состоящего из конечных сумм функций вида (9), является регулярным .подмножеством в Р0. В самом деле, выпуклость и слабая ^замкнутость множества А0 очевидны, равно как и то, что Л? вместе с сЬ (х) содержит ty(x)jty(e). Пусть теперь <Ь(х)£А0 и 6<^сЬ. Тогда, как показано выше, 6 (л;) является пределом равномерно сходящейся на G совокупности функций вида Sapfl^xsj) (10) if J [И, в силу того, что сЬ(дг) принадлежит слабому замыканию Д., .из теоремы 2 примечания (IX) получаем, что для любого .компактного множества К ^ G u любого е найдется такая .функция у' £ А0, что на К 10(*) — ^a,a/t'(s^xSj)\^B. (И) Заменяя теперь у'(лг) конечной комбинацией функций вида (10), убеждаемся, что Ь(х) является слабым пределом конечных сумм функций вида (10). Назозем теперь спектром функции ? <р (л:) совокупность экстремальных точек множества Лф. В силу регулярности этого множества, это будут элементарные нормированные функции .из Д? и по теоремам Крейна-Мильмана [20] и Райкова (теорема 2 примечания (IX)), получаем, что каждая непрерывная положительно определенная функция является пределом равномерно сходящейся на каждом компакте К с G совокупности функций вида 2 ai<р((х), где а{^>0 и <р((х) — элементарные нормированные функции из. Р0, принадлежащие спектру функции <р (дг). Топологизация множества неприводимых представлений локально .компактной группы. Обозначим через G совокупность неприводимых унитарных представлений группы G, не равных нулевому и определенных с точностью до изомор-
Примечания редактора 193 физма. Через Ф обозначим совокупность таких регулярных подмножеств А из Р0, которые вместе с каждой функцией <р (х) содержат функцию ^a^jtfisf^xsj). (12) i. J Легко видеть, что Р0 и пустое множество принадлежат Ф, а также, что пересечение любого числа подмножеств из Ф принадлежит Ф. ' Покажем далее, что наименьшее подмножество А из Ф, содержащее заданные два подмножества Аг и А2 из Ф, состоит из функций <р вида yi-f-<p2, где <f>i£At и <р2€^2- В самом деле, множество сумм такого вида выпукло, в силу выпуклости Ах и Л2. Далее, в силу слабой компактности Аг и Л2, множество В таких сумм слабо компактно, как непрерывный образ замкнутого подмножества компактного множества АгХА2 пар (уг; <р2), состоящего из таких пар, что Далее, если ^ ===== ух —}— ^2, то и потому принадлежит 5. В силу слабой компактности множества В, любая функция 6 из Р0, такая, что 0<^у, принадлежит В, так как она является слабым пределом функций вида 2 а/ ajу (sj'txsj). Так как Л является регулярным подмножеством в Р0, то каждая экстремальная точка А является элементарной нормированной функцией и потому определяет некоторый элемент из G. Назовем спектром множества А из Ф совокупность всех получаемых таким образом элементов из G и обозначим эту совокупность через аА. Множество всех получаемых таким образом частей аА из G АЛА Л назовем F. F содержит G и пустое множество. Кроме того, как это следует из соответствующего свойства множеств, принадлежащих Ф, F содержит пересечение любого числа под- Л множеств а4, принадлежащих F. Наконец, если аА и аА принадлежат F и А — наименьшее подмножество из Ф, содержащее Аг и Л2, то <ja=gAi U <?Лз. В самом деле, очевидно, что Зд^ GAll) gAo- Если же <р — элементарная функция из <зА> 13 А. Вейль
194 Примечания редактора то ^=^-1-^, где <f>i€«4i и ср2€^2> нотогда^1==-л1уиу2 = == i2cp, и таким образом <р принадлежит либо Л1э либо А2, а потому Из изложенного, следует, что совокупность t может быть принята за совокупность замкнутых подмножеств пространства G. Получаемая таким образом топологизация множества О может не удовлетворять аксиомам отделимости. Если все неприводимые представления группы G конечномерны, то в G каждая точка является замкнутым множеством. Если группа G дискретна и точка является замкнутым подмножеством в G, то G компактно. В самом деле, пусть F— центрированная си- стема подмножеств в t и Ф^.— совокупность таких подмножеств Л из Ф, для которых oA^F. Пусть SA — множество таких функций из Л, что .ср(£) = 1. SA является замкнутой частью компактного подмножества из Р0, состоящего из таких функций, для которых <р (е) = 1. Компактность этого подмножества следует из того, что ср (е) является, в силу дискретности G, слабо непрерывной функцией на Р0: Но тогда пересечение - всех SA содержит некоторую функцию ср0, причем ^0(^) = 1, и потому пересечение "всех Л £ ф^ не сводится к. тождественно равной нулю функции. Отсюда следует, что пересечение, всех подмножеств. из F непусто и G компактно. i . Обобщенная теорема Бохнера. Обозначим через Р сда<5о§ замыкание, множества всех элементарных нормированных функций из Р0. Это множество слабо компактно, как слабо замкнутое подмножество в Р0. Удаляя из него функции) (р0,1 тождественно равную нулю на G, мы получаем локально компактное, множество 1',' для которого ср0 играет роль бесконечно удаленной точки. Пусть функция f(x) принадлежит4 линейному пространству Е суммируемых относительно эдеры : ., функций, удовлетворяющих равенству f(x) = ==/(-*r~1) = /r" (■*)• Из определения слабой топологии следует, что функция (/, ср) от ср £ Г', определяемая равенством. непрерывна на Г и стремится к нулю, когда ср.—^cu0.
Примечания редактора 195 Обозначим через М совокупность положительных мер на 1\ полная масса которых не превосходит единицы. Каждой мере pi из Ж соответствует ограниченный линейный функционал *J v на Е. Он принимает вещественные значения, так как, в силу того, что f=f~ и у = ср~, выражение (/, у) вещественна, а мера pi положительна. Поэтому существует функция <р* из вещественно сопряженного с Е линейного пространства Е', состоящего из таких функций <р (х) пространства Z,00, что <р(х) = и (л:""1) почти всюду на группе G, для которой имеет место равенство для всех/^Zf. При этом из того, что {g*g~, <p)S^0 для всех <p£f и g£L, следует, что (g*g~, ,<рл )^ 0, и потому Отображение Д ^<р* непрерывно, если рассматривать Р0 в слабой топологии, a M — в топологии, задаваемой широкой сходимостью. В самом деле, если меры jx широко сходятся к мере pt0, то для любой функции /(<р) на t\ непрерывной и стремящейся к нулю при <р—><р0; имеем j/(¥)rfjJL0(¥) = lim yil(y)d{L{<p). г г В частности, при любой функции /£1, lim (/, у* ) = (/, ср^0), откуда и вытекает непрерывность нашего соответствия. Из этой непрерывности следует слабая компактность, а потому и слабая замкнутость образа М в Р0. Но этот образ содержит все экстремальные точки множества Р0, так как элементарная положительно определенная нормированная функция у является образом меры pi (<p), сосредоточенной в точке и из Г, полная масса которой равна единице. Поэтому образ М совпадает с Я0, и мы доказали следующую теорему: 13*
196 Примечания редактора Теорема 3. Любой непрерывной функции у(х) из Р соответствует такая мера р. из Мг что ||jx|| =<f(e) и (/,¥)= J (/.Z)^(Z)- Г Из этой теоремы вытекает, что если для любого x£G функция Х(х)> г#е Х^Г, непрерывна на Г, то г Это имеет место, например, для абелевых групп. К сожалению, даваемое этой теоремой соответствие между Р0 и М не является взаимно однозначным, так как мера jx не определяется однозначно функцией <р(лг). Разложение унитарных представлений группы в прямые интегралы неприводимых представлений. Другое разложение положительно определенных функций по элементарным получено Г. М. Адельсоном-Вельским. Пусть <р(х) — некоторая положительно определенная функция на О и HtJ? — соответствующее ей гильбертово пространство, в котором осуществляется унитарное представление s—*US группы G. Обозначим через Rr кольцо ограниченных операторов, перестановочных со всеми операторами Us. Кольцо R' нормировано и слабо замкнуто. Согласно известному результату гельфандовской теории нормированных колец (см. доп. лит. [5]), максимальное коммутативное подкольцо С кольца R' изоморфно и изоме- трично нормированному кольцу всех непрерывных функций на компактном топологическом пространстве 9Л своих максимальных идеалов. Пусть 5* — такой вектор из Я^, что <р (x) = (Ux^K Б'). Так как выше было показано, что любой элемент *Р кольца R' соответствует линейной комбинации ф (л:) =с1ср1 (л;) — с2и2 (х) -\- -j- icBtpB (х);—/с4ср4 (л:) таких положительно определенных функций 'ft (я), что <Р;(х)<<^у (х), причел с^О, то С можно отобразить на подмложегтво линейной оболочки V пространства Р0. Очевидно, что отображение Ч*—^ (У^, £') является линейным функционалом /(*Р) на кольце С: ;0Р)=ей',5')=фИ, (н)
Примечания редактора 197 где ф — соответствующий оператору *Р элемент из V. При этом ||/||= sup \1{ЧГ)\ = 1(е) = (е,1*) = 1. (15) I ф| = 1 Согласно теореме А. А. Маркова (доп. лит. [22]), имеет место формула /■(Ф)=5 V{M)do{M), (16) й где Ч* (М) — соответствующая оператору Ч* с С непрерывная функция на пространстве 9Jt, a o(Q) — мера на этом пространстве. Аналогично для любого элемента х £ G имеем $(x) = (UxW, £') = \V(M)dx(x, Ж), • (17) it причем мера т(дг; Q) абсолютно непрерывна по мере a(Q) и потому, в силу теоремы Никодима (см. [55]), имеем ф(*)=^ 4*(M)D(x,M)do{M), (18) й где £>(-*:, М)—измеримая функция на пространстве Ш1, причем |£>(лг, ЛГ)|<2. При фиксированном л: мы можем сделать функцию D (лг, Ж) непрерывной на Ш, изменив ее значения на множестве меры нуль. При фиксированном М D(x, M) является положительно определенной функцией на G. Отметим, что система функций D(xy M) на пространстве 9JI всюду плотна в пространстве всех измеримых и почти всюду конечных функций. Каждой функции D (л:, М) соответствует представление группы G в гильбертовом пространстве Нм, совпадающем с замыканием множества линейных комбинаций векторов вида 'UX&M, где |[£^|| = 1. Имеет место формула (Ug, £/,S')=f (UJ£'M, UVM)da(M). (19) Далее, в каждой сходящейся по норме к некоторому вектору S последовательности векторов £n=Ux S/ можно выбрать такую подпоследовательность £я , что почти для всех М £ ЗК последовательность векторов Ux blM £ HM сходится по норме
198 Примечания редактора к некоторому вектору %м £ Нм. Поэтому £м определяется для всех $£#?, причем (*. 4)=f (Ели riM)da(M). (20) т Назовем вектор-функцией функцию, ставящую каждой точке М£Ш вектор £(М) из Нм. Вектор-функцию назовем проекцией вектора $£А/?, если Для почти всех М£Ш определенный выше вектор £м совпадает с £(М). При этом, для того чтобы вектор-функция £ (М) была проекцией некоторого вектора ££НГ необходимо и достаточно, чтобы: 1) (£(Ж), £(М)) можно было мажорировать суммируемой относительно a(Q) функцией у(М) и 2) для любого числа 8^>0 существовало такое замкнутое множество Т7* меры, большей 1—5, на котором все скалярные произведения (Ujz!M, Z (М)) непрерывны. Если для вектора ££#0 функция (£м, £м) в существенном ограничена на ЯК, то существует точная проекция £м вектора £, для которой все скалярные произведения (UJzm, £m) непрерывны. Таким образом, нами получено разложение пространства Нф на пространства Нм, аналогичное спектральному разложению коммутативного кольца операторов. При этом, если в группе G выполнена вторая аксиома счетности, то почти для всех М функции D(x, M) элементарны, и потому соответствующие им представления неприводимы. Этот результат принадлежит А. Н. Колмогорову и был доложен им на заседании Московского Математического Общества в 1944 г. Если же группа G не удовлетворяет второй аксиоме счетности, то получающиеся представления могут быть приводимы. Тем не менее, изменяя для каждого х значения функций D(x, M) на множестве из ЭД1, мера которого равна нулю, можно получить функции D(x, M), являющиеся положительно определенными элементарными нормированными функциями на G, причем положительно определенная функция <р на О имеет вид »(*)=f D{x, M)do(M). (21) ш Таким образом, мы получаем разложение унитарного представления группы G в Нр на унитарные представления в пространства Нм, соответствующие функциям Ь (х, М), причем
Примечания редактора 199 если элементу $ £ Я? соответствует вектор-функция %м £ Нм ., то элементу UJ* соответствует функция UjiM из Нм, а для скалярного произведения элементов £ и rj имеет место формула (5. Ч)=М*,ЫЛ(Л>. (22) где a(Q)—мера на Ш, положительная на всяком открытом множестве. Изложенные результаты весьма сложно доказываются, и мы отсылаем читателя к работе Г. М. Адельсона-Вельского [1]. (XI) Обозначим через nG совокупность всех элементов х: группы G вида x = ng, где^-^G, и через n[G] — совокупность всех элементов группы G, таких, что пх = 0. Тогда, еслн группа G локально компактна 4и Л'—ее группа характеров, то аннулятором подгруппы nG является п[Х]. В самом деле, если Х€Я[Л], то X(ng) = nx(g) = Oi т. е. i(nQ) = Q. Обратно , если для любого элемента g£ nG имеем %(g) = 0, то ni(h) = = l(nh) = 0 для всех h£G, а следовательно, пх = 0. Из доказанного вытекает, что любая связная компактная группа G безгранично делима, т. е. G = nG при любом п. В самом деле, если бы мы имели G^nG, то п[Х]=^0у где X — группа характеров группы G. Но это противоречит тому, что группой характеров связной компактной абелевой группы является группа без элементов конечного порядка. Так как любая связная локально компактная абелева группа распадается в прямое произведение компактной и векторной подгрупп, то утверждение справедливо и для локально компактных связных абелевых групп. Отметим еще, что аннулятором. подгруппы П nG является замыкание совокупности всех элемен - п тоз конечного порядка группы X. (XII) Используя теорию характеров, можно получить более точные структурные теоремы для абелевых групп. Например, из того, что всякая дискретная абелева группа является фак^- тор-группой прямого произведения бесконечных циклических групп, следует, что всякая компактная абелева группа является подгруппой торовидной группы. Из того, что всякая дискретная абелева группа содержит разЛагаьбщуЮоя в прямое произведение бесконечных циклических групп подгруппу /f, фактор-группа по которой периодична,, следует, что всякая
200 Примечания редактора компактная абелева группа содержит нульмерную подгруппу, фактор-группа по которой торовидна. Легко показать также, что торовидная подгруппа является прямым множителем в любой локально компактной абелевой группе. Используя доказанную Л. Я. Куликовым теорему о том, что всякая дискретная абелева группа является подгруппой прямого произведения*) аддитивных групп рациональных чисел и групп типа /?°°, взятых в достаточном количестве, получаем, что всякая компактная абелева группа является факторгруппой прямого топологического произведения соленоидов и групп целых /?-адических чисел. Легко построить также универсальную локально компактную группу. Именно, имеет место Теорема. Всякая локально компактная абелева группа с компактной компонентой нуля изоморфна подгруппе группы G вида G — AxBxC, где Л — торовидная группа, В — прямое произведение*) аддитивных групп рациональных чисел в дискретной топологии и С — прямое произведение групп типа р00*); Так как всякая локально компактная абелева группа разлагается в прямое произведение группы типа Rn и подгруппы с компактной компонентой нуля, эта теорема дает универсальную группу для локально компактных абелевых групп. Как известно, если Gx и G2—локально компактные абе- левы группы со второй аксиомой счетности, то всякое представление группы Gx на G2 является гомоморфизмом. Поэтому, если Н и Т — такие две замкнутые подгруппы локально компактной абелевой группы G со второй аксиомой счетности, что НТ незамкнуто в G, и если X— группа характеров группы Gr 6— аннулятор подгруппы //, а Ч; — аннулятор подгруппы 7, то подгруппа 64* незамкнута в X В самом деле, очевидно, что нам достаточно рассмотреть случай, когда Hf]T=e nHT=G, ибо, переходя к факторгруппе HTjH(\T, мы можем общий случай свести к этому. Но в этом случае имеем также Ч*Г\в = е и 4*6 = Х и, если бы 4*6 = ^, то, в силу сделанного выше замечания, отображение 4*х6, на X было бы изоморфизмом, и мы имели бы Х=Ч*Х&, а тогда и G — HxT, вопреки предположению, что НТ незамкнуто в G, *) С отмеченными единицами (прим. (III).
Примечания редактора 20 Г (XIH) Характеры как элементарные функции. Пусть G — локально компактная абелева группа и G— ее группа характеров, соответствующим образом топологизированная. Покажем, что G совпадает с введенным в примечании (X) на стр. 194 множеством непрерывных нормированных положительно определенных функций, которое там было обозначено тем же символом G. В самом деле, всякий характер является такой положительно определенной функцией, что х (е) = 1, ибо и х(е)=\. Далее, пространство Н*> связанное с характером х, одномерно, а потому соответствующее представление непри- водимо и х является элементарной функцией. Обратно, если непрерывная положительно определенная функция <р элементарна, то представление G в Н^ неприво- димо, а так как любой из операторов Us перестановочен со всеми операторами Ux1 в силу абелевости группы G, то все подпространства в Н^ соответствующие спектральному разложению Usy инвариантны относительно G. Отсюда вытекает, что все операторы Us имеют вид \Е, причем, в силу унитарности £/,, |Х| = 1. X непрерывно зависит от s, и \{s) является характером. Пространство Н , порождаемое элементами Uss — \(s)£ (см. примечание (IX), теорема 1), одномерно и *(*)=(б, и^)=Щ является непрерывным характером группы G. Таким образом, множество всех характеров совпадает с множеством всех элементарных нормированных непрерывных положительно определенных функций, причем эти множества топологизированы одинаковым образом, чем и доказано сделанное выше утверждение о совпадении группы характеров с введенным в примечании (X) множеством G. Заметим, что если функции у (л;) слабо сходятся к функции ф(лг), то, какова бы ни была функция f(x) из Z,, функции? ^f(x)=\9(y)f(xy^)dy=^(xy^)f(y)dy (1>
202 Примечания редактора равномерно на каждом компакте сходятся к ф*/(лг). Отсюда следует, что функции у(ху~1) слабо сходятся на GxG -к функции $(ху-г). Кроме того, на GxG функции <р(х)у(у) слабо сходятся к сЬ(дг)с|)(у). Если функции <р(х) являются характерами группы О, то из того, что и>(ху~г) = <р(х)ф(у), следует, что для слабого преде яа функций <р имеем ${ху~г)—ty(x)ty(y) = 0, и потому либо ф (х) — О, либо сЬ (л:) также является характером группы G и потому сЬ(£)= 1. Но тогда, в силу теоремы 2 примечания (IX), сходимость ®(х) к <!>(*:) равномерна на всех компактах. Итак, нами получена Теорема 1. Множество G*, образованное характерами локально компактной абелевой группы и тождественно равной нулю функцией <р0 = 0, слабо замкнуто s Р0 и потому слабо компактно. Слабая сходимость совпадает в множестве G характеров с равномерной сходимостью на каждом компакте. Полученная теорема показывает, что функция*) f\(x) = ^f(x)J^J)dx (2) непрерывна на G, и потому, в силу изложенного в примечании '{X), стр. 194, получаем: 1. f(x) стремится к нулю, когда х стремится к бесконечности. (Напомним, что роль бесконечно удаленной точки играет функция <р0 = 0.) 2. Каждая положительно^определенная непрерывная функция на G имеет вид <f(x)=$(x, x)dp(x), (3) 6 где pt — положительная мера на G, полная масса которой конечна. Покажем теперь, что мэра jjl определяется на абелевых труппах однозначно заданием функции \у(х). В самом деле, если h=f*g, где / и g принадлежат Z.1, то h £ D и h—f-g. Функция f{x) называется преобразованием Фурье функ- *> Мы полагаем х (х}=(х, х).
Примечания редактора 203 дни f(x). Из доказанного следует, что преобразования Фурье функций из L1 образуют кольцо 3( функций, принимающих комплексные значения и удовлетворяющих следующим условиям: 1. Эти функции определены на компактном множестве G* и непрерывны на нем. 2. Если функция f\x) принадлежит 31, то и комплексно сопряженная с ней функция/(л;) принадлежит 31, так как она является преобразованием Фурье функции f~{x)=f{^). 3. Все функции из 31 обращаются в нуль при л;:=(р0=0, причем для любых двух различных точек х и у найдется такая функция /£3t, что f(x)^f(y), так как в противном случае хну были бы одинаковыми элементами пространства Z00, а потому совпадали бы и в G*. Из теоремы Стона (доп. лит. [32]) следует тогда, что все непрерывные комплексные функции на G*, обращающиеся в нуль в ср0, являются пределами равномерно сходящейся на G* совокупности функций из 31. Иными словами, если комплексная мера ja, заданная на G, такова, что ее полная масса конечна и для Г А А Л всякой функции / из L1 имеем \ fd\s. = 0, то ja=0. Назовем функцию »*(*)=$(*, x)dli(x) ' (4) преобразованием Фурье меры pi конечной полной массы на G. Если /£/Л то \7Щ d)L(x)= WH*) \ (*, х) fix)dx = [fWVzWdx, и потому из #* еее 0 следует, что pt = 0. Это и доказывает •однозначность определения меры и по функции #*. г* Отметим еще, что построенное выше соответствие между мерами на G и положительно определенными функциями на G непрерывно в обе стороны и тогда, когда множество мер М {см. стр. 195) рассматривается в топологии, задаваемой узкой* сходимостью, а Р0 — в топологии, задаваемой равномерной сходимостью на всех * компактах. Это следует из теоремы 2 примечания (IX) и из того, что полная масса меры pt0 равна %>р0(е)-
204 Примечания редактора Формула обращения. Обозначим через 93 линейную комплексную оболочку множества Р0. Тогда каждой функции / из 93 соответствует, в силу сказанного выше, такая мера pt^ (л:), что f(x)=\(x,i)dAiLf(x). (5) б Пусть теперь функции / и <р принадлежат 53. Тогда И*)*£/(*)=/(*)*М*)» (6* так как преобразованиями Фурье этих мер являются равные между собой функции <р*/ и /*<р, откуда и следует совпадение этих мер. Поэтому для любых функций f и у из 35 имеем dy-fQc) _ d^(x) Р / A v А / Л v , (' f f(x) cpU) Л Л и потому можно ввести на группе G меру dx, положив dx — J.*r , если /(д:)^=0. Но, выбирая достаточно малую окрестность А единицы группы О и ^такую положительную функцию f(x), обращающуюся в нуль вне Л, что \f(x)dx= = 1, получим, что g\x), где^=/*/ , мало отличается от единицы на любом заданном компакте. Поэтому мера dx определена на всей группе G. Пусть g-=/*/~, где/gl. Тогда H*) = J(*> x)\f{xy)J{y)dxdy = = J (*, £)/(*) & j U7x)7(y) dy ^ 0, (8) и потому функция g \x) положительна. Это вместе с положительностью меры d\xg(x) доказывает, что и мера dx положительна. Далее, мера dx инвариантна, так как f(s х) и d\xf (sx)t соответствуют функции <р (x) = (s, x)f(x) и потому д л dpf(5x) d^(x) * /QtV d(sx)=—fx-g- = д ■ =dx (y> j(sx) cp (x)
Примечания редактора 205 ((легко проверить, что функция <р(х) положительно определена вместе с f(x)). Мы получили таким образом меру Хаара dx на группе G ^легко проверить, что мера dx не обращается тождественно в нуль). При этом для любой функции f(x) из L имеем d\if(x)=f{x) dx и потому f(x)=[f(x)(x1 x)dx. (10) G Но это и есть известная формула обращения Фурье. Из теоремы Бохнера и формулы обращения вытекает Следствие 1. Если f— непрерывная положительно определенная функция, суммируемая относительно dx, то ее преобразование Фурье положительно. Следствие 2. Пусть функция F {х) суммируема относительно dx. Если ее преобразование Фурье f(x)\=^ (x, x)F(x)dx суммируемо относительно dx, то почти всюду F(x)=[(^l)f(x)dx. (11) Вообще, если мера ji конечной полной массы на Q такова, что ее преобразование Фурье f(x)=[(x1 x)dAp.(x) (12) суммируемо относительно dx, то dp.{x)=f(x)dx. В самом деле, из (12) следует, что /£33. Если, кроме того, /^Z,1, то по формуле обращения / является преобразованием Фурье меры f(x) dx, а также и меры ^jjl(jc), откуда и следует, что f(x) dx= d\i(x). . Если при этом /£331 = 33f|£1, то/£$, так как / можно представить в виде /=/i—/2 +'(/в—Л)> г^е функции/1э /г> /з> Л положительны и суммируемы, а тогда ft положительно опредетены. Из формулы обращения получаем, что преобразование Фурье функции /из ЗЗ1 принадлежит 33* = 33 П^1 и таким образом соответствие /—►/ дает отображение 33 * на &ч. Теорема Планшереля. Мы обозначили выше 33 П L1 через ЗЗ1. Аналогично положим ЗЗГ|£2 —ЗЗ2 и таким же
206 Примечания редактора образом введем классы функций 33 * и $32 на группе G. Так как все функции из класса 1В ограничены, то S31 с: S32. Все функции вида /*/~, где /£/., положительно определены и принадлежат классу Z,, а потому принадлежат S31. S31 содержит f*g, если fug Принадлежат Z., и, в >силу того, что функции вида f*g всюду плотны в Z,1, получаем, что S31 всюду плотно в L1, а ЗЗ2 всюду плотно в /А Так как ^c^cZ,2, a i?1c332cL2, то соответствие /—►/ дает нам отображение части L2 на часть L2. Пусть /б»1. ТогдаJI/||2 = ||/|fa. Вообще, если/е^П^2, то/е^2, и потому /£232. В самом деле, функция g=f* f~ принадлежит S31 и потому ее преобразование Фурье g= |/|2 принадлежит S31, иными словами, квадрат модуля функции / суммируем по мере ^.Применяя формулу обращения к функции g{x)y имеем g(e) = j g (x) dx, т. е. $\f(x)\*dx=[\f{i)\2dJL Поэтому построенное нами отображение /—>/, определенное на Z.1 П L2, можно продолжить на L2 таким образом, ™ Il/ll2=ll/lla. • Обратно, если F £ L1 f| L2, то преобразование Фурье %F{x)= [(x,x)F(x)dx меры F (x) dx принадлежит L2. В самом деле, для всех: / 6 L1 П I2 имеем [f (x) F (х) dx=\j(x~) %F(x) dx, (13> и абсолютная величина правой части меньше ||/||2' Н^Нг — = И/112' ll^lli. а ПОТОМУ ^С^и ||#НК РЪ- лТаК КаК равенство (13) верно для любой функции /2 £ Z,2, то / определяется по продолжению нашего соответствия на все L2. Отметим одно приложение равенства (13). Преобразование Фурье f функции f из S32 суммируемо по dx (раньше мы доказали это для функций из S31). В самом деле, применяя (13) к функции F—преобразованию Фурье функции ср из 231,—получаем, что F=v, ё>=.ср и j/u) f (x)dx= lfW<p(x) dx. (H)
Примечания редактора 20Г Но так как / £ S3, то существует такая мера |хд чта f(x)=\*-'(x,x)diif(x). Заменяя в (14) f(x) этим выражением, получим J Av(x)f(x)dx = \ £ (x)d\xf(x) для всех <р £ S31 и, так как S31 всюду плотно в Z.1, та. f{x)dx=d\Lf(x), т. е. функция /(*) суммируема. Отметим теперь следующую лемму: Лемма. Всякая функция F*G, где Fu G принадлежат 2,>. является преобразованием Фурье некоторой функции из S31- В самом деле, из H=F*G следует, что ## = g> • %g > и {?# суммируемо как произведение двух функций с суммируемым квадратом, а поэтому принадлежит SB1. Но // является преобразованием Фурье функции {£#. Отсюда вытекает следующая А Теорема 2. Отображение /—►/ является изоморфным, отображением L2 на L2. В самом деле, из нашей леммы следует, что преобразования Фурье / функций из 33! всюду плотны в Z,2, откуда, в силу показанного выше, и следует, что /—►/ является изоморфизмом. Теорема 2 была получена Вейлем при помощи данного JL С. Понтрягиным анализа строения локально компактной а бе левой группы и независимо получена М. Г. Крейном и Д. А. Райковым при помощи теории нормированных колец.- Приведенное нами доказательство, близкое к доказательству М. Г. Крейна, принадлежит Картану и Годеману. Многие результаты гармонического анализа на коммутативных группах были обобщены Годеманом на так называемые центральные группы, т. е. группы, для которых группа Зо внутренних автоморфизмов в естественной топологии компактна (к ним принадлежат, в частности, компактные и коммутативные группы). Ставя каждой функции f(x) в соответствие функцию /* (д;) = \ /fa (л;)] day где a — внутренний автоморфизм, он So получает связанную с f(x) центральную функцию. На эти функции им перенесены теоремы Бохнера, формула обращения, соответствие между характерами и неприводимыми унитарными:
208 Примечания редактора -представлениями, относительно которых доказана их конечномерность (см. доп. лит. [П]). Теорема двойственности. Как показал Д. А. Райков, теорема двойственности Л. С. Понтрягина может быть выведена из полученного Райковым обобщения теоремы План- шереля на топологические группы. Заметим, что каждому элементу х группы G можно поставить в соответствие характер (х, х) группы G, который является элементом группы характеров G группы G. Элемент из G, соответствующий элементу дг, будем обозначать символом а(х). Покажем, что а является изоморфным отображением группы G на подгруппу а [О] группы G. Из доказанной ранее полноты системы нормированных элементарных положительно опреде- ле^ых функций следует, что для любых двух точек хну группы G найдется такой характер дг, что (х, х)=^=(у9 дг), а тогда (а(х)у х)=£(а(у), х) и потому а(х)фа(у), т. е. отображение а является алгебраическим изоморфизмом. Далее, если y — \imx в G, то для всех функций / из 2J (y)=\imf(x), т. е. j (У> *) f (x) d* =lim f (*» х) f{x)dx. (15) A A Так как / пробегает всюду плотное подмножество в L1, когда/ пробегает 33, то из (15) вытекает, что функции (дг, х) на G слабо сходятся в Z,00 к (у, дг). Слабая сходимость же в L00 созпадает с сходимостью а (дг) к а (у) в смысле топологии в G. Обратно, если а(х) сходятся к а (у) в смысле тополо-. гии в G, то (д;, д:) слабо сходятся в L00 к (у, дг), а потому для всех / £ Iх \ (у, x)f(x) dx = l\m j (дг, x)f(x)dx. Отсюда по формуле обращения вытекает, в силу существования для любой точки у £ G и любой ее окрестности U такой функции / £ 23, что f(y)^=0 и /(дг) = 0 вне U, соотношение у = \\тх. Итак; группа a [G] является изоморфным образом G, а по- тому ояа локально компактна и замкнута в G. Покажем, что
Примечания редактора 2Q9 a (G) всюду плотна в д. Для этого достаточно показать, что если функция F на G является преобразованием Фурье функции / из SS и обращается в нуль на а(Сг), то F=0. Но F (х) = \ (х, х) f (x) dx,. а так как по предположению f(x)=\(x/x)/(x)dx^0 Д1я всех х £ G, то по теореме 2 имеем: /= 0 и F=0. Итак, нами получена ТеоремаЗ. Отображение х —* а (х) группы G в группу G является изоморфным отображением топологической группьЮ на топологическую группу G. Подгруппы и фактор-группы. Докажем сначала следующую лемму: Лемма. Для того чтобы функция f из 93 принимала одинаковые значения в любых точках х и у,' принадлежащих одному и тому же смежному классу по подгруппе Г, необходимо и достаточно, чтобы мера \if; преобразованием Фурье которой она является, была сосредоточена на анну- ляторе Г" подгруппы Г. (Напомним, что аннулятором называется совокупность характеров, обращающихся в единицу на подгруппе Г.) Достаточность нашего условия очевидна. Предположим теперь, что f(sx)=f(x) для всех s £ Г и всех х £ G. Но (sx9 x) — (x, x) (s, x), и потому для s £ Г Г л л л Г л л л \ (X,x)(s, x)d\n (х)= \ (х, x)djif(x), ка-ково' бы ни было X £ G, а тогда, в силу однозначного соответствия мер и функций, {s9x)djif(x)==diif(x) для всех s £ Г. Поэтому множество тех точек х, для которых (s, х)ф\, имеет относительно *xf меру нуль, откуда и следует, что мера \if сосредоточена на множестве таких точек х, для которых при всех s £ Г (s, Зс)=1. 14 А. Вейль
210 Примечания редактора Из доказанной леммы следует, в силу формулы f(x)=Ux,x)dL(x)% чго если / € 93 инвариантна относительно Г (т. е. если f(sx)=f(x) при 5 ^ Г), то / инвариантна и относительна аннулятора Г* подгруппы Г'. Покажем теперь, что для любого- элемента s £ Г существует такая инвариантная относительно Г функция ^ ^ 93, что g (s)j£=g(e). Для этого возьмем на фактор-группе G/Г непрерывную функцию f(x), обращающуюся, в нуль вне такой окрестности единицы А, что я^АЛ^Г. Тогда функция g{x)=fi*f\, где /г—индуцированная функцией / функция на G и будет искомой. Если бы g (s) было равно g(e), то мы должны были бы иметь /(8Т)=/г (Т)г ноЛ(*Г)^0, аД(Г)=^0. Из доказанного результата вытекает, что группой характеров подгруппы Г является фактор-группа G/Г', а группой характеров подгруппы Г'—фактор-группа G/Г. Ниже нам придется с каждой функцией cp(s) из L связывать ее проекцию <р*($Г) на фактор-группу G/Г, определяемую равенством V где <р (л:) £ L и dg — мера Хаара на Г. Теорема Пуассона. Докажем следующую теорему, которая является обобщением известной формулы Пуассона. Теорема 4. Пусть G — локально компактная абелева группа, G — ее группа характеров, И—замкнутая подгруппа группы G и Н— аннулятор Н. Пусть на группах GuG меры Хаара нормированы так, что выполняется теорема Планшереля. Тогда каждой мере Хаара dh на подгруппе Н соответствует такая мера Хаара dh на подгруппе Н, что для каждой функции <р (g)t g £ G, проекция которой на G\H принадлежит А*), имеем \y{h)dh—\y(h)dh. и Й *) То есть классу таких функций из L1 П £°°, трансформация Фурье которых принадлежит классу fi П L °°-
Примечания редактора 211 Доказательство. Как доказано выше, в группе GjH можно выбрать меру Хаара таким образом, что для всех функций из L имеем (£ £ GjH) GjH H Выберем в группе Н меру Хаара dh так, чтобы для групп И и GjH имела место теорема.Планшереля. Так как по условию теоремы проекция (р1 функции <р на GjH принадлежит классу Л (О///), то мы имеем ]у (A) dh = [dh [f(g) (g, h)dg= н н ° = j dh j [di j <p (5A) (5Л, A*) ^ = /У G/Я Я я с?/я так как (£А, А) = (£, А) (А, А) = ($, h). Отсюда следует, в силу того, что ]"ыб>(е, а) я=*(?,), оГя равенство [ <р (А) <й? = f# (Vl) <tt = ft (*) = U (A) M, н н и которое нам нужно было доказать. 14*
УКАЗАТЕЛЬ ОПРЕДЕЛЕНИЙ Аннулятор, § 28, стр. 124 Биинвариантная (—мера), § 7, стр. 44 Борелевское тело, § 6. стр. 40 Гомоморфизм („ви и „на"), § 2, стр. 20 (ср. § 1, стр. 16) Двойственная (— абелевой группе), § 27, стр. 115 Двойственное, двойственный (—представлению или гомоморфизму), § 28, стр. 118 Дискретный, § 2, стр. 19 \ (х), § 8, стр. 49 \п, § 26, стр. 109 Естественный гомоморфизм, § 1, стр. 17 Замыкание, введение к гл. I, стр. 15 Изоморфизм („в" и ,нав), § 2, стр. 20 (см. § 1, стр. 17) Инвариантная (— мера), § 7, стр. 43 Класс (— линейных представлений), § 15, стр. 73; — приводимый, неприводимый или простой, полупростой, § 15, стр. 74 Класс (— смежности по подгруппе), § 15, стр. 16 Компактность, § 3, стр. 25 Компонента единицы, § 2, стр. 22 Кронекеровское произведение, § 15, стр. 75 Локально изоморфный, § 2, стр. 20 Локально компактный, § 3, стр. 25 /,,/,+,§ 6, стр. 42; Lp, § 6, стр. 41; L™, § 6, стр. 43 Мера, § 6, стр. 40; инвариантная—, § 7, стр. 43; биинвариантная — § 7, стр. 44; относительно инвариантная —, § 8, стр. 51 и § 9, стр. 52; — Радона, § 6, стр. 42; комплексная — Радона, § 10, стр. 58; — Хаара, § 7, стр. 44 Ограниченное (— множество в группе), приложение I, стр. 160. Одинаково непрерывные, одинаково равномерно непрерывные (— преобразования), § 33, стр. 146 Однородное пространство, § 1, стр. 16 и § 2, стр. 19 Окрестность единицы, § 2, стр. 17 Оператор Радона, § 10, стр. 58 Относительно инвариантная (—мера), § 8, стр. 51 и § 9, стр. 52 Положительно определенные функции, § 14, стр. 68 Полная (— группа), § 2, стр. 24 или прим. ред., стр. 168 Полукомпактная (—группа Ли), § 32, стр. 143 Порожденная (—подгруппа), § 2, стр. 21 Почти периодичность, § 33, стр. 147 и § 34, стр. 150 Представимая (группа,— в компактную группу), § 31, стр. 142 Представление („в" и „на"), § 2, стр. 19 (см. § 1, стр. 16) Представление, линейное, § 15, стр. 73; единичное—, § 15, стр. 75; неприводимое—, § 15, стр. 74; — эквивалентное (другому), § 15, стр. 73; унитарное—, § 19, стр. 82
Указатель определений 213 Преобразование Фурье, § 30, стр. 128 и 133 (см. стр. 138) Продолжение функции, § 31, стр. 140 Проективный предел, § 5, стр. 34 Прямое произведение, § 4, стр. 29 и 31 рг, § 14, стр. 70; Р°°, § 14, стр. 68 Равномерная непрерывность, § 2, стр. 23 /?«, § 26, стр. 109 Свертка, § .11, стр. 60 Связанная (компактная группа, — с некоторой группой), § 31, стр. 142. След, § 13, стр. 66 74 § 26, стр. 109 Унимодулярность, § 8, стр. 50 Фактор-группа, § 1, стр. 16 Характер, § 22, стр. 90 Фильтр, § 5, стр. 32 Центральная ( — функция), § 24, стр. 97 Частично упорядоченное множество, § 5, стр. 32 Указатель определений, приведенных в приме ч а ниях редактора L оо, стр. 180 Я0, стр. 186 Полная масса меры, стр. 178 Положительно определенная мера, стр. 183 Прямое произведение с отмеченными подгруппами, стр. 169 Регуляризация меры, стр. 180 Регулярные подмножества в Я0> СТР- 191 Свертка мер, стр. 179 Спектр подмножества из Р0, стр. 193 Спектр функции, стр. 192 Сходимость мер Радона, узкая—, стр. 17£; широкая—, стр. 178 Чистое отображение, стр. 172 Чистая подгруппа, стр. 172 *• Экстремальные точки выпуклого множества, стр. 186 Элементарные положительно определенные функции, стр. 186
УКАЗАТЕЛЬ ОБОЗНАЧЕНИЙ A) Обозначения, применяемые во всей книге: U, П, G С, 3, 0, \х\, £, А введение к гл. I, стр. 15 А В, А-\ Gig, § 1, стр. 16 Vго0, § 2, стр. 21; С00, § 3, стр. 28 X, § 4, стр. 29 <, § 5, стр. 33 U(x)dxyLp NK + ^'^-f]' H*1U § 6>СТР- 4I U A+, I00, § 6, стр. 42—43 S f — f^-1 x), § 7, стр. 44 (ср. § 10, стр. 57) J (*), § 7, стр. 49 }f(P)dP, § 9, стр. 53 ^ (оператор Радона), § 10, стр. 57 ®. (■*) (характеристическая функция множества А), § [11, стр. 61 *, § 11, стр. 60; /(*), § И, стр. 61 Мг> AfW. М(*)> /(л:), § И, стр. 62—63 Sp(f) = f(e), § 13, стр. 66 Я00, § Н стр. 68; ^(1<г< + 4§ 14, стр. 70 2), ЯБ, 3), § 15, стр. 73; А, § 15, стр. 75 (9), § 18, стр. 79 #и, г", Дя> § 2б> СТР- 109 Б) Обозначения, применяемые только в отдельных частях книги: (в § 7) (/:£), стр. 44 ((в § 23, 24) (D:b), § 23, стр. 96 в гл. VI и § 35) Ф (всякая группа, обозначенная через Ф, является конечной абелевой группой), § 26, стр. 109; W(C, U), § 27, стр. 114; Ь, § 27, стр. 115; (х, х), § 27, стр. 115; /, § 28, стр. 118 (в§30) 2Л1^р<+°с), стр.^127; Л, А, стр. 132; % (<р), £'(?) (Kr^+оо), стр. 134; А, стр. 135 (в приложениях I и II) %0, %2, приложение I, стр. 157; 1Г(<р, е), приложение I, стр. 159 B) Обозначения, применяемые только в примечаниях редактора: \J, стр. 179 Н^ стр. 181 #°(лг), аЛх), стр. 185 Р0, Lw стр. 186
Указатель обозначений 215 Ив, Лг стр. 192 G, стр. 192 Ф, ад, стр. 193 Г', Г, £, стр. 194 Af£', стр. 195 #', ЭД, &', стр. 196 a(Q), x(jt; Q), D(x\ M)t стр. 197 л<л „[(?], стр. 199 О* С/, У (х), стр. 202 t£f, стр. 203 ®.T*/fr), стр. 204 Ж1, Ж2, стр. 205
ЛИТЕРАТУРА 1. Alexander J. W., On the characters of discrete abelian groups, Ann. of Math. (II), 35, 389 (1934). 2. Alexander J. W. and Zippin L., Discrete abelian groups and their character-groups, Ann. of Math. (II), 38, 71. (1935). 3. Александров П. С, Untersuchungen iiber Gestalt und Lage ab- geschlossener Mengen, Ann. of Math. (II), 30, 101 (1928). 4. Александров П. С. и Hopf H., Topologie I, Berlin, J. Springer, 1935. 5. В a e r R., Abelian fields and duality of Abelian groups, Am. J. of Math., 59, 869 (1937). 6. В irk h off G., A note on topological groups, Сотр. Math., 3, 427 (1936). 7. Б л я ш к е В., Лекции по интегральной геометрии, Успехи матем. наук, выпуск V, 97 (1938). 8. В ос h пег S., Beitrage zur Theorie der fastperiodischen Fi:nk- tionen, Math. Ann,, 96, 119 (1927). 9. Bochner S., Vorlesungen iiber Fouriersche Integrale, Leipzig, Akad. Veriagsges., 1932. 10. Bochner S., Monotone Funktionen, Stieltjessche Integrale und hcrmonische Analyse, Math. Ann., 103., 378 (1933). 11. Bochner S. and Neumann J., Almost periodic functions in groups, Trans. Am. Math. Soc, 37, 21 (1935). 12. Бор Г., Почти периодические функции, Москва, ГТТИ, 1936. 13. В о u r b a k i N., Elements de Mathematique (Act. Sclent, et Ind)y Prris, Hermann: a) Ensembles (Resultats), fasc. 1; b) Livre III, Topologie Generate, fasc. 1, 2, 3. 14. Cameron R. H., Almost periodic transformations, Trans. A:n. Math. Soc, 36, 276 (1934). 15. Gar tan E., Sur la determination d'un systeme orthogonal complet dans un espace de Riemann symetrique clos, Rend. Pal., 53, 267 (1929). 16. Кар тан Э., Геометрия групп Ли и симметрические пространства, И* Л, 1949. 17. D i e u d о n n ё J., Sur les fonctions continues numeriques definies dans un produit de deux espaces compacts, C. R., 205, 593 (1937). 18. Freudenthal H., Einige Satze iiber topoiogische Gruppen, Ann. of Math. (II), 37, 46 (1936). 19. Fr e u d e n t h al H., Topoiogische Gruppen mit gentigend vie- len fastperiodischen Funktionen, Ann. of Math. (II), 37, 57 (1936). 20. Fr e u d e n t h a I H., Entwicklungen von Raumen und ihren Gruppen, Сотр. Math., 4, 145 (1937). 21. Haar A., D?r Massbsgriff in der Theorie der kontinuierlichen Gruppen, Ann. of Math. (II), 31, 147 (1933).
Лат ера тура 2X1% 22. Herbrand J., Theorie arithmetique des corps de nombres de degre infini, II, Math. Ann., 103, 699 (1933). 23. Herglo tz G., Ueber Potenzreihen mit positivem, reelle^i Teil in Einheitskreis, Sitzungsber. Sachs. Ak. d. Wiss., 63, 501 (1911). 24. Хопф Э., Эргодическая теория, Успеха машем, паук, IV:1, 113 (1949). 25. Hurwitz A., Ueber die Erzeugung der Invarianten durch In- \ tegration, Gdtt. Nachr., 71 (1897). 26. К a k u t a n i S., Ueber die Metrisation der topologischen Grup- pen, Proc. Imp. Ac Jap., 12, 82 (1936). 27. К a m p e n E. R., Locally bicompact abelian groups and their character-groups, Ann. of Math. (II), 35, 448 (1935). 28. К a m p e a E. R., The structrre of a compact connected group, Am. J. of Math., 57, 301 (1935). 29. Kampen E. R., Note on a theorem of Pontrjagin, Am. J. of Math., 58, 177 (1936). 30. К a m p e n E. R., Almost periodic functions and compact groups, Ann. of Math. (II), 37, 78 (1936). 31. Ко the G., Abstrakte Theorie nichtkommutativer Ringe mit einer Anwendung auf die Darstellbarkeit kontinuierlicher Gruppen, Math. Ann., 103, 545 (1930). 32. К у р о ш А. Г., Kombinatorischer Aufbau der bikompakten topologischen Raume, Сотр. Math., 2, 471 (1935). 33. L e j a F., Sur la notion de groupe abstrait topologique, Fund. Math., 0, 37 (1927). 34. M a a k W., Eine neue Definition der fastperiodischen Funktio- nen, Hamb. Abh., 11, 240 (1936). 35. M a a k lv., Abstrakte fastperiodische Funktionen, Hamb. Abh., 11,367(19364 36. M a p ко в A. A., Ueber endlich-dimensionale Vektcrraume, Ann. of. Math. (II>, 36, 464 (1935). •37. Nagy B. de Sz., Ueber messbareDarstellungen Liescher Gruppen, Math. Ann., 112, 286 (1936). 38. Neumann J., Allgemeine Eigenwertthecrie Hermitescher Fun- ktionaloperatoren, Math. Arm., 102, 49 (1930). 39. Neumann J., Die Einfuhrung analvtischer Parameter in topologischen Gruppen, Ann. of Math. {U), 34, 170 (1933). 40. Нейман И., О мере Хаара в топологических группах, Успехи матем. наук, выпуск II, 168 (1936). 41. Neumann J., Almost periodic functions in a group I, Trans. Am. Math. Soc, 36, 445 (1934). 42. Neumann J., On complete topological spaces, Trans. Am. Math. Soc, 37, 1 (1935). 43. N e u m a n n J., The uniqueness of Haar's measure, Матем,. сборник, 1 (43), 721 (1936). 44. Pa ley R. E. A. C. et Wiener N., Characters of -Abelian groups, Proc Nat. Ac Sc U. S. A, 19, 253 (1933). 45. PI л n с h e r e I M., Contribution a Tetude de la representation d'une fonction -arbitraire par des integrates definies, Rend. Pal.. ЗЭ, 289 (1910).
218 Литература 46. PI anch e r e 1 M., Zur Konvergenztheorie der Integrate HmJ/(.r)cos (xy)dxt Math. Ann., 74, 573 (1913). 47. П о н т р я г и н Л. С, Ueber den algebraischen Inhalt topologi- scher Dualitatssatze, Math. Ann., 105, 165 (1931). 48. П о н т р я г и н Л. С, Les fonctions presque periodiques et J'Analysis situs, С R., 196, 1201 (1933). 49. П о н т р я г и н Л. С, The theory of topological commutative groups, Ann. of Math. (II), 35, 361 (1934). 50. Понтрягин Л. С, Sur les groupes topologiques compacts et le cinquieme probleme de Hilbert, С R., 198, 233 (1934). 51. Rellich F., Spektraltheorie in nichtseparablen Raumen, Math. Ann., 110, 342 (1935). 52. R e 11 i с h F., Ueber die v. Neumannschen fastperiodiischen Funktionen auf einer Gruppe, Math. Ann., Ill, 560 -0935). 53. R i e s z F., Ueber Satze von Stone und Bochner, Acta. Szeg, 6, 184 (1933). 54. R i e s z M., Sur les maxima des formes bilineaires et sur les fonctionnelles lineaires, Acta. Math., 49, 465 (1927). 55. Сакс С, Теория интеграла, И*Л, 1949. 5э. S с h r e i е г О., Abstrakte kontinuierliche Gruppen, Hamb. Abh., 4, 15 (1926). 57. Schur J., Neue Anwendungen der Integralrechnung auf Probleme der Invariantentheorie, 1. Mitt., Sitzungsber. d. Preuss. Ak. d. Wiss., 189 (1924). 58. S p e i s e r A., Die Theorie der Gruppen von endlicher Ordnung, 2 Aufl., Berlin, J. Springer, 1927. 5 9. Степанов В. В. и Тихонов А. Н., Ueber die Raume der fastperiodischen Funktionen, Матем. сборник, 41, 166 (1934). £0. T a n n a k a S., Dualitat der nicht-komrftutativen Gruppen, Tohoku J. of Math., 53 (1939). 61. Tit ch marsh E. C, A contribution to the theory of Fourier transforms, Proc. Lond. Math. Soc. (II), 23, 279 (1924). £2. T и x о н о в А. Н., Ueber die topologische Erweiterung von Raumen, Math. Ann., 102, 544 (1930). *63. Vol terra V. et Peres J., Legons sur la composition et les fonctions permitables, Paris, Gauthier-Villars, 1924. *64. Ван дер Варден Б. Л., Современная алгебра, Москва, ГТТИ, 1948. tf>5. Weil A., Sur les fonctions presque periodiques de von Neumann, C. R., 200, 38 (1935). 66. Weil A., Sur les espaces a structure uniforme et sur la topo- logie generale (Pub. Inst. Math. Sirasb. fasc. II), Paris, Hermann, 1937. 67. We у 1 H., Integralgleichungen und fastperiodischen Funktionen, Math. Ann., 97, 338 (1927). 68. W e у 1 H., Gruppentheorie und Quantenmechanik, 2 Aufl., Leipzig, S. Hirzel, 193. 69. W e у 1 H., Harmonics on homogeneous manifolds, Ann. of Math. (II), 35, 486 (1934).
Дополнительная литература 219 70. Петер Ф. и В е й л ь Г., О полноте примитивных представлений компактной непрерывной группы, Успехи машем, наук, выпуск II, 144 (1936). 71. Wiener N., The Fourier Integral and certain of its applications, Cambridge, Univ. Press, 1933. 72. Z a s s e n h a u s H., Lehrbuch der Gruppentheorie I (Hamb. math. Einzelschr. fasc. XXI), Leipzig, B. G. Teubner, 1937. 73. 3 и г м у н д А., тригонометрические ряды, Москва, ГТТИ, 1937. ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА 1. Адельсо н-В ельский Г. М., Спектральный анализ кольца ограниченных линейных операторов, Диссертация, МГУ. 2. А]л ександров А. Д., О группах с инвариантной мерой, ДАН СССР, 34, 5—9 (1942). 3. В и л е н к и н Н. Я., К теории слабо сепарабельных групп, Машем, сборник, 22 (64), 135—177 (1948). 4. В и л е н к и н Н. Я., Волокнистые абелевы топологические группы и их теория характеров, Матем. сборник, 24 (66), 189—226 U949). 5: Г е л ь ф а и д И. М. и Н а й м а р к М. A., On the imbedding of nornied rings into ring of operators in Hilbert space, Машем, сборник, 13 (55), 197—217 (1943). 6. ГельфандИ. М. иНаймаркМ. А., Унитарные представления группы Лоренца, И АН СССР (сер. мат.), 11, 411—504(1947). 7. Гельфанд И. М. и Наймарк М. А., Унитарные представления полупростых групп Ли, Матем. сборник, 21 (63), 405—434 (1947). 8. Гельфанд И. М. и Наймарк М. А., Нормированные кольца с инволюцией, МАИ СССР (сер. мат.), 12, 445—480 (1948). 9. Гельфанд И. М. и Райков Д. А., Неприводимые унитарные представления локально бикомпактных групп, Матем. сборник, 13 (55), 301—316 (1943). 10. Godement R., Extension a un groupe abelien quelconque des theoremes tauberiens de N. Wiener et d'un theoreme de A. Beurling., C. R. Ac. Sci. Paris, 223, 16—18 (1946). 11. Godement R., Analyse harmonique dans lesgrounes centraux, I. Fonctions centrales et caracteres, С R. Ac. Sci, Paris, 225, 19—21 (1947). II. Fcrmules d'inversion de Fourier, C. R. Ac. Sci. Paris, 225, 221—223 (1947). 12. Godement R„ Les fonctions de type positif et la theorie des groupes, Trans. Am. Math. Soc, 63, 1—84 (1948). 13. Гуревич Анна, Unitary representation in Hilbert space of a compact topological group, Матем. сборник, 13 (55), 79—86 (1943). 14. С art an H. et Godement R., Analyse harmonique et theorie de la dualite dans les groupes abeliens localement compacts, Ann. Sci. Ecole Norm. Sup., 64, 79—99 (1947).
220 Дгтлчительная литература 15. Крейн М. Г., Об одном кольце функций, определенных на топологической группе, ДАН СССР, 29, 275—280 (1940). 16. Крейн М. Г., Об одном специальном кольце функций, ДАН СССР, 29, Зо5—359 (1940). 17. Крейн М. Г., К теории почти периодических функций па топологической группе, ДАН СССР, 30, 5—8 (1941). 18. Крейн М. Г., О положительных функционалах на почти периодических функциях, ДАН СССР, 30, 9—12 (1941). 19. К р е й н М. Г., Об одном обобщении теоремы Планшереля на случай интеграла Фурье на коммутативной топологической группе, ДАН СССР, 30, 482—486 (1941). 20. Крейн М. Г. и Мильман Д. A., On extreme points of re- guUr convex sets, Stadia Math., IX, 133—137 (1940). 21. Левитан Б. М., К теории унитарных представлений локально компактных групп, Машем, сборник, 19 (61), 407—427 (1946). 22. М а р к о в A. A., On mean values and exterior densities, Машем, сборник, 4 (4b), 165—191 (1938). 23. M a p к о в A. A., Ueber endlich-dimensionale Vektorraume, Ann. of Math., 36, 464—506 (1935). 24. H а и м а р к M. А., Кольца с инволюцией, Успехи машем. наук, III, вып. 5.(27), 52—145. 25. П л е с н е р А. И., Спектральная теория линейных операторов, Успехи машем, наук, выпуск IX, 3—125 (1941). 26. П о в з н е р А. Я., О позитивных функциях на абелевой группе, ДАН СССР, 28, 294—295 (1040). 27. Понтрягин Л. С, Непрерывные группы, ОНТИ, 1938. 28. Райков Д. А., Гармонический анализ на коммутативных группах с мерой Хаара и теория характеров, Труди Машгм. ия-та АН СССР им. Сшеклова, XIV, 1—86 (1945). 29. Р а й к о в Д. А., О различных типах сходимости положительно» определенных функций, ДАН СССР, 58, 1279—г282 (1947). 30. S е я а 1 J. Е., The group algebra of a locally compact group, Trans. Am. Math. Soc, 61, 69—105 (1947). 31. Siegel G. L., A mean value theorem in geometry of numbers, Ann. of. Math., 48, 340 (1945). 32. Siegel С L., Discontinuous groups, Ann. of. Math., 44, 674 (1943). 33. Stone M. H., Applications of the theory of Boolean rings to general topology, Trans. Am. Math. Soc, 41, 375—481 (1937). 34. FeJ dbau J., Sur la classification des espaces fibres, С R. A:. Sci. Paris, 203, 1621—1623 (1939).
ОГЛАВЛЕНИЕ Стр. Предисловие к русскому изданию 5 Введение * 13 Глава I. Топологические группы § 1. Абстрактные группы ., .,. 15 • § 2. Топологические группы 17 § 3. Компактные множества в группах 25 § 4. Прямые произведения 29 § 5. Проективные пределы 32 Глава II. Мер-а Хаара § 6. Меры и интегралы 40 § 7. Мера Хаара 43 § 8. Свойства меры Хаара 48 § 9. Меры в однородных пространствах ..,,..•, 52 Глава III. Свертка функций § 10. Операторы в группе 57 § И. Свертка функций ' 59 § 12. Компактные семейства в LP 64 § 13. Свертка в унимодулярных группах 66 § 14. Положительно определенные функции 67 tлава IV. Общие свойства линейных представлений § 15. Линейные представления 73 § 16. Лемма Шура 75 § 17. Представления прямых произведений 77 § 18. Представления локально компактных групп ... 79 § 19. Ограниченные представления 81 Глава V. Теория компактных групп § 20. Представления компактных групп 85 § 21. Теорема Петера-Вейля 87 § 22. Разложение функций в ряд по представлениям . 89 *-§ 23. Однородные пространства 93 -4* 24. Центральные функции 97 § 25. Структура компактных групп 102 Глава VI. Теория локально компактных абелевых групп § 26. Предварительные результаты Ю8 § 27. Группа характеров локально компактной сбелевой группы 113
222 Оглавление § 28. Теория двойственности 116 § 29. Структура локально компактных абелевых групп 125 § 30. Преобразование Фурье 127 Глава VII. Представления произвольных групп в компактные § 31. Представления в компактные группы 140 § 32. Группы, представимые в компактные группы . . 142 § 33. Почти периодичность по отношению к некоторой группе 146» § 34. Почти периодические функции на группе .... 150 § 35. Почти периодические функции на абелевой группе 154 Приложение I. Теорема, обратная теореме Хаара 157 Приложение II. Новое доказательство свойств инвариантной меры 164 Примечания редактора . 167 Указатель определений 212 Указатель обозначений/ . .. . , 214 Литература - 216» Дополнительная литература . . . 219
Редактор С. В. Фомин Технический редактор 5. И. Корнилов Корректор Б. А. Ерусалимскай. * Сдано в производство 9/HI 1950 г. Подписано- к печати 22/V 1950 г. А04220. Бумага 84ХЮ81/Я2. =3,5 бум. л. — 11,5 печ. л. Уч.-издат. л 11,8. Издат. № 1/1. Цена 11 р. 85 к. Зак. № 1408^ * • Первая Образцовая типография имени А. А. Жданова Главполиграфиздата при Совете Министров СССР, Москва, Валовая, 28г * Печать и переплетно-брошировочные работы выполнены типографией газеты- „Красный воин" Заказ 1429.
j КНИГИ, ВЫПУЩЕННЫЕ ИЗДАТЕЛЬСТВОМ ИНОСТРАННОЙ I ЛИТЕРАТУРЫ I ФРЕЗЕР Р., ДУНКАН В. и КОЛЛАР А. Теория матриц и ее приложения. Перевод с английского. 445 стр. Ц. 22 р. В книге дается изложение одного из важнейших вопросов современной математики — теории матриц. Особая ценность книги в том, что в ней основное внимание уделено приложениям элементарных матриц к практическим задачам динамики и дифференциальным уравнениям. Это делает книгу интересной для широкого круга научных работников-механиков, специали- I стов по прикладной математике, а также инженеров, сталки- | вающихся в своей работе с соответствующими задачами. ФРАНКЛИН Ф. Математический анализ, ч. I. Перевод с английского. 836 стр. Ц. 18 р. 75 к. В книге Франклина приведен общий материал по математическому анализу и его приложениям к геометрии и физике. Это один из лучших современных курсов, изданных за границей. Книга представляет особенный интерес для преподавателей математического анализа, так как многие методические новшества автора весьма удачны: при сравнительно небольшом объеме автору удалось изложить очень большой материал. Весьма содержательны примеры и задачи, которыми книга обильно насыщена. Книга будет также полезна и для студентов-математиков в качестве дополнительного пособия и справочной книги. БРАУНЛИ К. Статистические исследования в производстве- Перевод с английского. 227 стр. Ц. 15 р. Книга посвящена приложению математической статистики к вопросам выборочной браковки и другим задачам, связанным с промышленным производством. Разбирается большое количество конкретных практических вопросов. ВЕБЛЕН О. и УАЙТХЕД Дж. Основания дифференциальной геометрии. Перевод с английского. 229 стр. Ц. 14 р. Книга посвящена строгому логическому изложению основных понятий многомерной диференциальной геометрии. Существенной частью книги является написанное профессором В. В. Вагнером дополнение, которое содержит результаты исследований последних лет. Книга рассчитана на научных работников-геометров, по характеру изложения доступна и студентам-математикам старших курсов. Книги продаются в книжных магазинах и высылаются почтой наложенным платежом республиканскими, краевыми и областными отделами „Книга — почтой". В случав отсутствия книг в местных книжных мага- зинах заказы можно посылать по адресу: { Москва, Арбат, 36, книжный магазин Москниг- | торга, 69.